Αποχώρηση ερευνητή από την Anthropic: Ανησυχίες για τον έλεγχο της τεχνητής νοημοσύνης

Ένας ερευνητής της Anthropic, ο Jacob Coxon, παραιτήθηκε, εκφράζοντας σοβαρές ανησυχίες για την κατεύθυνση της τεχνολογίας τεχνητής νοημοσύνης. Ο Coxon προειδοποίησε ότι βρισκόμαστε σε έναν κόσμο όπου οι εξελίξεις στην AI μπορεί να καταστούν ανεξέλεγκτες από τον άνθρωπο, όχι επειδή η Anthropic αγνοεί την ασφάλεια, αλλά επειδή ο έντονος ανταγωνισμός την ωθεί να αναπτύσσει ολοένα πιο ισχυρά μοντέλα.

«Καμία από τις μεγάλες εταιρείες δεν ενεργεί υπεύθυνα», υποστηρίζει, δείχνοντας ότι η δύναμη της αγοράς καθιστά δύσκολη οποιαδήποτε προσπάθεια επιβράδυνσης ή ελέγχου των εξελίξεων στην τεχνητή νοημοσύνη.

Η ανησυχία του δεν αφορά μόνο τις τρέχουσες εφαρμογές AI, όπως το Claude ή το ChatGPT, αλλά για ένα μέλλον όπου αυτά τα συστήματα θα μπορούσαν να αυτοβελτιώνονται, κάτι που ονομάζεται “recursive self-improvement”.

Η δημοσιότητα της Anthropic στην υποστήριξη της ασφαλούς ανάπτυξης AI πλήττεται από τις παραδοχές της ότι δεν διαθέτει ακόμα σχέδιο για να διαχειριστεί την επικινδυνότητα που μπορεί να προκύψει με μια μελλοντική υπερνοημοσύνη.

Διαβάστε το πλήρες άρθρο στην techmaniacs.gr.

Επιμέλεια ροής: Greca 99,4 | Ακούστε μας live εδώ.