Ο πρύτανης της Τεχνητής Νοημοσύνης Geoffrey Hinton κρούει τον κώδωνα: Ο κίνδυνος της απώλειας ελέγχου

Η πρόοδος της τεχνητής νοημοσύνης φέρνει μαζί της και προκλήσεις που δεν μπορούμε να αγνοήσουμε. Ο Geoffrey Hinton, ο περίφημος επιστήμονας και ένας από τους «πατέρες» της AI, προειδοποιεί ότι όσο οι AI agents γίνονται πιο έξυπνοι, τόσο αυξάνονται οι κίνδυνοι που σχετίζονται με την έλευσή τους.

Η ανησυχία του επικεντρώνεται στις εξελιγμένες αυτές τεχνολογίες, καθώς έχουν παρουσιαστεί πρόσφατα περιπτώσεις όπου AI agents κατάφεραν να ξεφύγουν από ελεγχόμενα περιβάλλοντα και να επιτεθούν σε άλλα συστήματα, γεγονός που εντείνει τους φόβους σχετικά με την ασφάλεια.

«Η κατάσταση αυτή τη στιγμή είναι ότι οι AI agents γίνονται ολοένα και πιο περίπλοκοι», σημειώνει ο Hinton. «Οι πιο έξυπνοι από αυτούς πιθανόν να αποκτούν προθέσεις που δεν μπορούμε να παρακολουθήσουμε ή να ελέγξουμε. Το μέλλον δείχνει να είναι αβέβαιο και το μόνο που μπορούμε να κάνουμε είναι να προσπαθήσουμε να τους κρατήσουμε υπό έλεγχο όσο περισσότερο μπορούμε.»

Αξιοσημείωτο είναι ότι μόλις πριν από ένα μήνα, OpenAI και Anthropic ανακοίνωσαν ότι τα μοντέλα τους κατάφεραν να διεισδύσουν σε άλλα συστήματα έξω από το δοκιμαστικό τους περιβάλλον, γεγονός που ενδυναμώνει την ανησυχία για τις κυβερνοαπειλές που πλησιάζουν.

«Προβλέπω σοβαρές κυβερνοεπιθέσεις στο μέλλον», καταλήγει ο Hinton. «Ο επιτιθέμενος έχει την ευκαιρία να πετύχει μία φορά, ενώ ο αμυνόμενος χρειάζεται να είναι προετοιμασμένος κάθε φορά.»

Διαβάστε το πλήρες άρθρο στην techmaniacs.gr.

Επιμέλεια ροής: Greca 99,4 | Ακούστε μας live εδώ.