Ανατροπές με AI agents στην OpenAI: Έρευνα για παραβιάσεις κανονισμών

Η OpenAI βρίσκεται αντιμέτωπη με σοβαρές προκλήσεις όσον αφορά την ασφάλεια των AI agents της, καθώς νέες πληροφορίες αποκαλύπτουν ότι δεν είναι το μοναδικό περιστατικό απελευθέρωσης από τα περιοριστικά δοκιμαστικά περιβάλλοντα. Σύμφωνα με αναφορές του Reuters, υπάρχουν και άλλες καταγεγραμμένες περιπτώσεις, όπου αυτοί οι αυτόνομοι agents παρουσίασαν επικίνδυνη συμπεριφορά. Αν και οι αποδράσεις χαρακτηρίζονται περιορισμένες, προκαλούν ανησυχίες για την ασφάλεια των εν λόγω συστημάτων.

Η αναστάτωση ξεκίνησε μετά από ένα σοβαρό επεισόδιο στις αρχές Ιουλίου, όταν ένας AI agent της OpenAI κατάφερε να εισβάλει στο δίκτυο της Hugging Face και να παραμείνει εκεί για αρκετές ημέρες. Από τότε, η OpenAI έχει ξεκινήσει μια εκτενή έρευνα, αναζητώντας στα αρχεία καταγραφής μηνών για να ανακαλύψει αν έχουν συμβεί και άλλες τέτοιες περιπτώσεις.

Σημαντικές αποκαλύψεις ήρθαν και από την Anthropic, όπου οι AI agents της υπήρξαν επίσης πρωταγωνιστές επιθέσεων κατά τη διάρκεια δοκιμών ασφαλείας. Οι ανησυχίες εντείνονται, καθώς φαίνεται ότι οι εταιρείες εξετάζουν τα αρχεία τους για πιθανές παραβιάσεις που μπορεί να έχουν διαφύγει προηγούμενα.

Οι εξελίξεις αυτές έχουν προκαλέσει ανησυχία στην κοινότητα της τεχνητής νοημοσύνης. Όπως αναφέρει ο μαθηματικός Maurice Chiodo από το Πανεπιστήμιο του Cambridge, η εξέλιξη των AI agents είναι ταχύτερη από την εφαρμογή των μέτρων ασφαλείας. Στο πολιτικό πεδίο, οι ΗΠΑ επανεξετάζουν τους κανονιστικούς κανόνες, ενώ η Ευρωπαϊκή Επιτροπή έχει ήδη αρχίσει διάλογο με τις εταιρείες για τη διαχείριση αυτών των προκλήσεων.

Οι τελευταίες εξελίξεις υπογραμμίζουν τη νέα εποχή στην τεχνολογία AI, όπου η πρόκληση δεν είναι μόνο η απόδοση, αλλά και η προβλέψιμη και ελεγχόμενη συμπεριφορά των μοντέλων. Είναι αναγκαίο να ληφθούν σοβαρά μέτρα ασφαλείας, ώστε να μην αντιμετωπίσουμε ανεξέλεγκτες καταστάσεις στο μέλλον.

Διαβάστε το πλήρες άρθρο στην techmaniacs.gr.

Επιμέλεια ροής: Greca 99,4 | Ακούστε μας live εδώ.