Η Αυτόνομη ΑΙ της Anthropic που επιδιορθώνει τα λάθη της αυτόματα

Η νέα έρευνα της Anthropic αποκαλύπτει ότι τα συστήματα τεχνητής νοημοσύνης έχουν τη δυνατότητα να βελτιώνουν άλλα μοντέλα με ταχύτερο και οικονομικότερο τρόπο από τους ανθρώπους. Οι ερευνητές εστίασαν στο αν η τεχνητή νοημοσύνη μπορεί να αυτοματοποιήσει τη διαδικασία του alignment research, δηλαδή να βρει και να εφαρμόσει μεθόδους που μειώνουν τις προβληματικές συμπεριφορές σε άλλα μοντέλα.

Χρησιμοποίησαν τον Claude, έναν αυτόνομο ερευνητή, που ανέλαβε να εξετάσει 10 διαφορετικές κατηγορίες αποτυχιών. Ο Claude έκανε αναζητήσεις στη βιβλιογραφία, πρότεινε μεθόδους και δεδομένα εκπαίδευσης, εκπαιδεύτηκε με αυτές, αξιολόγησε τα αποτελέσματα και επαναλάμβανε τη διαδικασία, χρησιμοποιώντας τα ευρήματα προηγούμενων δοκιμών. Η διαδικασία αυτή, που περιλάμβανε συνεχή βελτίωση, διασφάλισε τη διαφάνεια και την αξιοπιστία, με ανεξάρτητους ελέγχους για την αποφυγή απάτης.

Το αξιοσημείωτο είναι ότι η έρευνα δεν περιορίστηκε στην άνοδο των επιδόσεων σε συγκεκριμένα benchmarks. Εξετάστηκε εάν οι βελτιώσεις επηρεάζουν και άλλα benchmarks στα οποία ο Claude δεν είχε πρόσβαση, διασφαλίζοντας παράλληλα την απόδοση του μοντέλου σε μεγαλύτερες κλίμακες.

Οι αποτελέσματα, που αποτυπώνονται στην ερευνητική εργασία «Automated Researchers Can Reliably Mitigate Alignment Failures», έδειξαν θετική επίδραση των συστημάτων AI στην απόδοση άλλων μοντέλων σε ποικιλία benchmarks. Η δυνατότητα ενός AI να αυτοματοποιήσει την κατανόηση προηγούμενης έρευνας, τη διαμόρφωση υποθέσεων και την αξιολόγηση αποτελεσμάτων υποδεικνύει έναν νέο δρόμο για την αυτοβελτίωση των μοντέλων.

Ωστόσο, οι ερευνητές επισημαίνουν ότι αυτά τα ευρήματα είναι αρχικά και ανοίγουν το δρόμο για μελλοντικές εξελίξεις στην αυτόματη βελτίωση της τεχνητής νοημοσύνης. Ανακύπτει και το σημαντικό ερώτημα για το μέλλον του ανθρώπινου ρόλου σε αυτή τη διαδικασία.

Αξιοσημείωτο είναι ότι η μελέτη δείχνει πως ένα σύστημα AI μπορεί να αυτοματοποιήσει τη διαδικασία έρευνας και βελτίωσης των μοντέλων, αλλά δεν υποδηλώνει ακόμη ότι η τεχνητή νοημοσύνη μπορεί να βελτιώνεται μόνη της.

Διαβάστε το πλήρες άρθρο στην techmaniacs.gr.

Επιμέλεια ροής: Greca 99,4 | Ακούστε μας live εδώ.