Ανακαλύπτοντας τις απρόβλεπτες προκλήσεις της τεχνητής νοημοσύνης σύμφωνα με την Anthropic

Η Anthropic, η εταιρεία πίσω από τον τεχνητό νοημοσύνης Claude, εκφράζει ανησυχίες ότι τα συστήματα AI μπορεί σύντομα να φτάσουν σε ένα σημείο όπου θα έχουν τη δυνατότητα να εξελίσσονται μόνα τους. Σε άρθρο της με τίτλο “When AI builds itself”, υπογραμμίζει την ανάγκη για μια συντονισμένη επιβράδυνση στην ανάπτυξη τέτοιων μοντέλων, προκαλώντας ποικιλία αντιδράσεων.

Σύμφωνα με την Anthropic, ο Claude έχει αρχίσει να γράφει πάνω από το 80% του κώδικα που χρησιμοποιούν, κάτι που πριν από δύο χρόνια ήταν σχεδόν αμελητέο. Οι μηχανικοί τους παράγουν τώρα οκταπλάσιο όγκο κώδικα σε σύγκριση με το παρελθόν, υποδεικνύοντας πως ο ρόλος του ανθρώπου στον τομέα περιορίζεται δραστικά.

Η εταιρεία προτείνει την εγκαθίδρυση ενός παγκόσμιου μηχανισμού για να ρυθμιστεί η ανάπτυξη των προηγμένων AI, ώστε να δοθεί ο χρόνος που χρειάζεται στην κοινωνία και την έρευνα να προσαρμοστούν. Ωστόσο, δεν λείπουν οι αντιρρήσεις, καθώς ο καθηγητής Mark Riedl εκφράζει την άποψη ότι οι εταιρείες τρέφουν υπερβολικές προσδοκίες για τη διαδικασία αυτή. Ο Noah Giansiracusa προσθέτει ότι είναι αδύνατο να σταματήσει η εξέλιξη της AI και τονίζει πως η πραγματικότητα διαφέρει από τις φιλοσοφίες της επιβράδυνσης.

Το ενδιαφέρον είναι ότι οι ανησυχίες της Anthropic για την κατεύθυνση της ανάπτυξης AI ενδέχεται να συνδέονται με μια ευρύτερη τάση στην βιομηχανία, όπου οι ίδιες οι εταιρείες προβάλλουν ζητήματα ασφάλειας και υπευθυνότητας.

Διαβάστε το πλήρες άρθρο στην techmaniacs.gr.

Επιμέλεια ροής: Greca 99,4 | Ακούστε μας live εδώ.