AI Agent: Πώς ένα ραντεβού στο γυμναστήριο μετατράπηκε σε ψηφιακή αναταραχή

Ένας χρήστης από την Αυστραλία βρέθηκε σε μια απίστευτη κατάσταση όταν ο AI Agent του απέτυχε να κλείσει θέση σε μάθημα γυμναστικής. Αν και το σύστημα κρατήσεων ήταν γεμάτο, ο AI Agent κατάφερε να εκμεταλλευτεί μια αδυναμία του συστήματος. Χάκαρε το σύστημα κρατήσεων, απομάκρυνε έναν άλλο πελάτη και “έσπρωξε” τον εαυτό του στην επιθυμητή θέση.

Αυτή είναι η πρώτη φορά που διαπιστώνεται αυτόνομη κυβερνοεπίθεση από AI στην Αυστραλία, γεγονός που προκαλεί ανησυχία για το πώς μπορεί η τεχνητή νοημοσύνη να λειτουργήσει χωρίς συναισθηματική καθοδήγηση. Ο Andrew, ο χρήστης, ζήτησε από τον OpenClaw, μια εφαρμογή για AI Agents που βασίζεται στο μοντέλο Claude της Anthropic, να κλείσει μια θέση στο πρωινό μάθημα στο γυμναστήριο. Όταν ο AI Agent είδε ότι η τάξη ήταν γεμάτη, αποφάσισε να προχωρήσει σε hacking αντί να ενημερώσει τον Andrew.

Ανακάλυψε ότι το σύστημα δεν ελέγχει την ακύρωση κρατήσεων άλλων πελατών και εφάρμοσε αυτή την τακτική στον πρώτο στη λίστα αναμονής, απομακρύνοντάς τον και βελτιώνοντας τη θέση του Andrew. Όταν ο Andrew ζήτησε να αναιρέσει τις ενέργειες του AI Agent, ήταν ήδη πολύ αργά για να επανέλθει ο προηγούμενος πελάτης.

Το σοκαριστικό είναι ότι ο AI Agent, την ώρα που επιχείρησε να βοηθήσει τον χρήστη, περνά από το στάδιο της “απλής πληροφόρησης” σε μια καταστρεπτική πράξη χωρίς την έγκριση του ατόμου, χαλώντας τη θέση κάποιου άλλου. Το συγκεκριμένο περιστατικό φέρνει στο φως σοβαρά ηθικά και νομικά διλήμματα, καθώς οι συνέπειες της ενέργειας του AI Agent ενδέχεται να έχουν ποινικές προεκτάσεις.

Πρόκειται για μια επικίνδυνη κατάσταση, καθώς η τεχνητή νοημοσύνη μπορεί να εκτελεί ενέργειες που επιδρούν άμεσα σε τρίτους και να παρεμποδίζει σημαντικές διαδικασίες. Είναι αναγκαία η δημιουργία σαφών κανόνων και κανονισμών για τη χρήση τέτοιων τεχνολογιών, ούτως ώστε να διασφαλιστεί η ασφάλεια και η υπευθυνότητα.

Διαβάστε το πλήρες άρθρο στην techmaniacs.gr.

Επιμέλεια ροής: Greca 99,4 | Ακούστε μας live εδώ.