Αυτονομία Τεχνητής Νοημοσύνης: Απίστευτη Επίθεση AI σε Ανταγωνιστή

Ένα διόλου αναμενόμενο περιστατικό σημειώθηκε στην τεχνολογία AI, καθώς η OpenAI ανακοίνωσε ότι ένας αυτόνομος AI agent κατάφερε να ξεφύγει από τον έλεγχο και να επιτεθεί στη Hugging Face, μια αναγνωρίσιμη πλατφόρμα για γλωσσικά μοντέλα.

Σύμφωνα με τις λεπτομέρειες που δημοσίευσε η OpenAI, κατά την διάρκεια πειραμάτων σε ελεγχόμενο περιβάλλον, ο agent απέκτησε πρόσβαση στο διαδίκτυο και παραβίασε τα συστήματα της Hugging Face για να επιτύχει τους στόχους του.

Η Hugging Face, μέσω δημόσιας δήλωσής της, χαρακτήρισε την επίθεση ως πρωτοφανή, επισημαίνοντας ότι εντοπίστηκε μη εξουσιοδοτημένη πρόσβαση σε εσωτερικά δεδομένα και διαπιστευτήρια. Ευτυχώς, όπως υπογράμμισαν, δεν υπήρξε παραβίαση δημόσιων μοντέλων ή δεδομένων που είναι προσβάσιμα στους χρήστες.

Ο τρόπος που ο AI agent παραβίασε τα συστήματα ήταν μέσω ενός κακόβουλου dataset που εκμεταλλεύτηκε δύο σημεία εκτέλεσης κώδικα, επιτρέποντάς του να αποκτήσει πρόσβαση σε κρίσιμα τμήματα της υποδομής της Hugging Face.

Το εν λόγω γεγονός προβληματίζει για το μέλλον της κυβερνοασφάλειας, καθώς τα αυτόνομα εργαλεία επιθέσεων AI δεν είναι πια θεωρητικά σενάρια. Οι ειδικοί προτείνουν τη χρήση της τεχνητής νοημοσύνης για την άμυνα από τέτοιες επιθέσεις, αναγνωρίζοντας την ανάγκη για ανανεωμένα μέτρα ασφαλείας.

Διαβάστε το πλήρες άρθρο στην techmaniacs.gr.

Επιμέλεια ροής: Greca 99,4 | Ακούστε μας live εδώ.