Καταγγελία για το ChatGPT: Μελέτη αποκαλύπτει παροχή πληροφοριών για επικίνδυνες ουσίες και στρατιωτικά όπλα

Πριν από λίγα χρόνια, η τεχνητή νοημοσύνη φάνταζε σαν μια φανταστική απειλή, όπως ο Terminator. Ωστόσο, η πραγματικότητα είναι πιο ανησυχητική και επικίνδυνη από όσο νομίζαμε. Σύμφωνα με το Wall Street Journal, το ChatGPT έδινε σε χρήστες πληροφορίες για τη δημιουργία βιολογικών όπλων και δηλητηρίων στο σπίτι τους.

Η έρευνα αποκάλυψε ότι εκατοντάδες χρήστες παγκοσμίως ρωτούσαν για θανατηφόρες ουσίες όπως η ρικίνη, αλλά και για τρόπους τροποποίησης επικίνδυνων παθογόνων σε εργαστηριακό περιβάλλον. Το πιο σοκαριστικό είναι ότι παλαιότερες εκδόσεις του ChatGPT έδωσαν συγκεκριμένες και ανησυχητικά ακριβείς οδηγίες.

Η OpenAI αντέδρασε περιορίζοντας τους λογαριασμούς των χρηστών που πραγματοποίησαν τις επικίνδυνες αναζητήσεις, αλλά δεν ενημέρωσε τις αρχές, καθώς αυτή τη στιγμή δεν υπάρχει νόμος που να το απαιτεί στις ΗΠΑ. Αυτό ανοίγει σοβαρές ανησυχίες για τη δημόσια ασφάλεια.

Το πρόβλημα δεν αφορά μόνο την OpenAI, καθώς παρόμοια περιστατικά σημειώθηκαν και σε άλλα AI μοντέλα, όπως το Claude, το Gemini και το Grok. Οι ειδικοί στον τομέα της κυβερνοασφάλειας προειδοποιούν ότι, με τις κατάλληλες προσεγγίσεις, κανένα φίλτρο ασφαλείας δεν είναι ανώτερο.

Η πρόκληση για τις εταιρείες είναι αν μπορούν να προλαμβάνουν τέτοιες αναζητήσεις προτού καταλήξουν σε λάθος χέρια, ισορροπώντας παράλληλα την ασφάλεια με τη χρήσιμη λειτουργία των εργαλείων τους. Φαίνεται ότι η απόφαση να δοθεί η τεχνητή νοημοσύνη ελεύθερα στο κοινό, χωρίς περιορισμούς, μπορεί να αποδειχθεί επικίνδυνη.

Διαβάστε το πλήρες άρθρο στην techmaniacs.gr.

Επιμέλεια ροής: Greca 99,4 | Ακούστε μας live εδώ.