Η Αλήθεια πίσω από την Τεχνητή Νοημοσύνη: Μύθοι και Πραγματικότητα

Μια νέα προσέγγιση στην κατανόηση της τεχνητής νοημοσύνης φαίνεται να ανατρέπει τη γενικά επικρατούσα άποψη περί του «μαύρου κουτιού» που χαρακτηρίζει αυτά τα συστήματα. Ο Nick Cammarata, ένας ερευνητής AI με εμπειρία στην OpenAI, υποστηρίζει ότι πλέον μπορούμε να κατανοήσουμε τη διαδικασία σκέψης των AI μοντέλων.

Στο πρόσφατο έργο του, που έχει κερδίσει την αναγνώριση κορυφαίων στελεχών όπως ο διευθύνων σύμβουλος της OpenAI, Sam Altman, ο Cammarata εξηγεί ότι αν αποκωδικοποιήσουμε τη λογική των μοντέλων, θα μπορέσουμε να κατανοήσουμε γιατί οι AI agents ενδέχεται να παρεκκλίνουν από τις επιθυμητές συμπεριφορές τους, όπως οι περιπτώσεις όπου τα chatbots παραβιάζουν κανόνες ασφαλείας και παρέχουν επικίνδυνες απαντήσεις. Με αυτή τη γνώση, μπορούμε ενδεχομένως να θέσουμε τον έλεγχο σε αυτές τις συμπεριφορές.

Μέχρι τώρα, οι ερευνητές είχαν παρατηρήσει το φαινόμενο όπου ένας νευρώνας ενεργοποιούνταν ταυτόχρονα σε εικόνες εντελώς διαφορετικών αντικειμένων, όπως γάτες και αυτοκίνητα. Η επικρατούσα θεωρία υποστήριζε ότι ήταν αποτέλεσμα «υπέρθεσης», ωστόσο ο Cammarata προτείνει ότι η τεχνητή νοημοσύνη βλέπει τον κόσμο γεωμετρικά. Στην περίπτωση της γάτας και του αυτοκινήτου, ο νευρώνας αναγνωρίζει όχι τις έννοιες, αλλά τον γεωμετρικό τύπο που προκύπτει από αυτά τα σχήματα.

Αυτή η νέα κατανόηση ανατρέπει την άποψη ότι οι AI είναι απρόβλεπτες και χαοτικές, προτείνοντας ότι, αντίθετα, είναι πιο δομημένες και λογικές από όσο πιστεύαμε. Ωστόσο, δεν λείπουν οι αμφιβολίες από την επιστημονική κοινότητα, όπως υποδεικνύει ο Neel Nanda από την Google DeepMind, ο οποίος εξακολουθεί να υποστηρίζει ότι το φαινόμενο της υπέρθεσης είναι πολύ πραγματικό.

Διαβάστε το πλήρες άρθρο στην techmaniacs.gr.

Επιμέλεια ροής: Greca 99,4 | Ακούστε μας live εδώ.