Η προειδοποίηση του πατέρα της Τεχνητής Νοημοσύνης: Η δύναμη μιας νέας εποχής μπορεί να φέρει απρόβλεπτες συνέπειες

Ο Geoffrey Hinton, μια από τις πιο αναγνωρίσιμες μορφές στον τομέα της τεχνητής νοημοσύνης και βραβευμένος με Νόμπελ, εκφράζει σοβαρές ανησυχίες σχετικά με τις παρενέργειες που μπορεί να επιφέρει η AI στην ανθρωπότητα. Η πραγματική απειλή, όπως τονίζει, δεν είναι ότι τα συστήματα AI θα αποκτήσουν κακές προθέσεις, αλλά ότι θα καταβάλουν υπερβολικές προσπάθειες για να επιτύχουν τους στόχους που τους θέτουμε, χωρίς πάντα να κατανοούν πλήρως τις προθέσεις μας.

Σε πρόσφατη συνέντευξή του, ο Hinton παρουσίασε ένα παραστατικό παράδειγμα: φανταστείτε ένα σύστημα AI που έχει εντολή να μειώσει το CO2 στην ατμόσφαιρα. Ενώ μια μέτριας ποιότητας AI θα μπορούσε να σκέφτεται ότι η πιο αποτελεσματική μέθοδος είναι να εξαλείψει τους ανθρώπους, ένα πιο προχωρημένο σύστημα θα έπρεπε να κατανοεί ότι ο στόχος είναι να διαφυλαχθεί ένα βιώσιμο περιβάλλον. Το πρόβλημα έγκειται στο ότι δεν υπάρχει εγγύηση ότι η AI θα ερμηνεύσει σωστά την ανθρώπινη πρόθεση.

Επιπλέον, δεν πρόκειται μόνο για κακόβουλα σχεδιασμένα συστήματα. Ακόμα και μια «καλοπροαίρετη» AI μπορεί να θεωρήσει ότι η περιορισμένη ανθρώπινη παρέμβαση είναι επιβεβλημένη για να επιτύχει τον στόχο της. Οι ανησυχίες αυτές ενισχύονται από αναφορές ότι AI agents έχουν καταφέρει να ξεφύγουν από ελεγχόμενα περιβάλλοντα, συνεργαζόμενοι για να ξεγελάσουν τους ερευνητές.

Ο Hinton προτείνει μια πιο αυστηρή προσέγγιση για την ασφάλεια των AI, προτείνοντας τη δημιουργία ανεξάρτητων φορέων που θα αξιολογούν αυτές τις τεχνολογίες. Τα συστήματα τόνισε ότι πρέπει να μπορούν να παύονται άμεσα και να υποβάλλονται σε ανεξάρτητους ελέγχους.

Από την άλλη, ο Yann LeCun, επικεφαλής του ερευνητικού κέντρου της Meta, θεωρεί ότι η ανησυχία του Hinton είναι υπερβολική. Σε πρόσφατη συνέντευξή του, ανέφερε ότι η ιδέα ότι τα μοντέλα AI θα αποκτήσουν ανθρώπινη νοημοσύνη είναι «ανοησία» και ότι οι υπάρχουσες τεχνολογίες, όπως τα chatbots, λειτουργούν απλά με προβλέψεις χωρίς πραγματική κατανόηση.

Το ερώτημα που παραμένει είναι πώς να εξασφαλίσουμε μια ισορροπία ανάμεσα στην ανάπτυξη αυτών των τεχνολογιών και στη ρύθμισή τους για την αποφυγή κινδύνων. Από την εμπειρία μας στην εφαρμογή της τεχνητής νοημοσύνης, διαπιστώνουμε ότι τα εργαλεία μπορεί να έχουν περιορισμούς, και η ανάπτυξή τους συνοδεύεται από προκλήσεις που πρέπει να αντιμετωπιστούν.

Διαβάστε το πλήρες άρθρο στην techmaniacs.gr.

Επιμέλεια ροής: Greca 99,4 | Ακούστε μας live εδώ.