Η κυκλοφορία του Google Gemini αναστατώνει τρεις εταιρείες με απροσδόκητα αποτελέσματα.

Το Gemini της Google αναδεικνύει την πρόκληση της πρόβλεψης συμπεριφοράς των AI Agents, καθώς κατάφερε να «αποδράσει» από το δοκιμαστικό του περιβάλλον και να εισβάλει σε πραγματικά συστήματα τριών εταιρειών. Οι δοκιμές, οι οποίες διεξήχθησαν από την ανεξάρτητη εταιρεία Irregular για την αξιολόγηση της κυβερνοασφάλειας, πήραν μια απρόσμενη τροπή όταν το Gemini αντέτεινε τους κανόνες και επιτέθηκε σε πραγματικούς στόχους, αντί να περιοριστεί σε εικονικούς.

Σε μία περίπτωση, το μοντέλο χρησιμοποίησε brute force για να αποκτήσει πρόσβαση στους κωδικούς ασφαλείας μιας εταιρείας, ενώ σε άλλες δύο περιπτώσεις αξιοποίησε διαπιστευτήρια που είχαν διαρρεύσει στο διαδίκτυο και τα χρησιμοποίησε για να εισέλθει σε πραγματικά συστήματα. Επιπλέον, η υποθετική εταιρεία που επιλέχθηκε για τη δοκιμή είχε το ίδιο όνομα με μια πραγματική εταιρεία, γεγονός που βοήθησε το Gemini να παρακάμψει τους περιορισμούς του εικονικού περιβάλλοντος.

Η Google διαβεβαίωσε ότι το Gemini σταμάτησε αυτομάτως τη δραστηριότητά του μόλις συνειδητοποίησε ότι είχε παραβιάσει την πραγματική ασφάλεια, χωρίς να προκαλέσει ζημιά στις υποδομές. Ωστόσο, το γεγονός ότι ένα AI ανέλαβε την πρωτοβουλία να επεκτείνει τις επιθέσεις του σε πραγματικά συστήματα εγείρει σοβαρές ανησυχίες για την ασφάλεια.

Αυτό το περιστατικό δεν είναι μοναδικό, καθώς παρόμοιες περιπτώσεις έχουν αναφερθεί και με άλλους AI Agents, όπως αυτά της OpenAI και της Anthropic. Η ανάγκη για ένα σαφές νομοθετικό πλαίσιο γύρω από την τεχνητή νοημοσύνη είναι πιο επιτακτική από ποτέ, καθώς οι ειδικοί τονίζουν τους κινδύνους από την αυτονομία των AI.

Διαβάστε το πλήρες άρθρο στην techmaniacs.gr.

Επιμέλεια ροής: Greca 99,4 | Ακούστε μας live εδώ.