Η τεχνητή νοημοσύνη ξαφνικά παύει να εξετάζεται λόγω εντυπωσιακών παρανοήσεων

Η KPMG, μία από τις κορυφαίες λογιστικές εταιρείες στον κόσμο, προχώρησε σε μία μελέτη σχετικά με την τεχνητή νοημοσύνη, η οποία, ωστόσο, παρουσίασε σοβαρά προβλήματα αξιοπιστίας. Στην έκθεση με τίτλο «Total Experience: Redefining Excellence in the Age of Agentic AI», οι αναλυτές ανακάλυψαν ότι πολλές από τις πληροφορίες που περιλαμβάνονται ήταν ψευδείς και αστήριχτες.

Η τεχνητή νοημοσύνη, παρά τις εντυπωσιακές επιδόσεις της, έχει την τάση να «παροπλίζεται», δηλαδή να δημιουργεί παραπλανητικές ή ψεύτικες απαντήσεις όταν δεν έχει τη σωστή πληροφόρηση. Δηλαδή, μερικές φορές, οι υπολογιστές επιλέγουν ένα «εύκολο» μονοπάτι αντί για την ακριβή απάντηση, καταλήγοντας σε αποσυνδεδεμένες πληροφορίες.

Αυτό το φαινόμενο μπορεί να είναι επικίνδυνο, ειδικά σε οργανισμούς όπως η KPMG, που οι αποφάσεις τους στηρίζονται σε δεδομένα υψηλής ακρίβειας. Όταν η GPZero εξέτασε την έκθεση, διαπίστωσε ότι σχεδόν 90% των παραπομπών ήταν ανακριβείς ή καθόλου έγκυρες.

Η κατάσταση θύμισε και άλλες περιπτώσεις μεγάλων εταιρειών που χρησιμοποίησαν την τεχνητή νοημοσύνη για την παραγωγή περιεχομένου, με αμφισβητήσιμα αποτελέσματα. Έτσι, η KPMG αναγκάστηκε να αποσύρει την έκθεση και επί του παρόντος διεξάγει εσωτερικές έρευνες για να κατανοήσει το πώς συνέβη αυτό.

Η υπόθεση δείχνει τη σοβαρότητα των «παραισθήσεων» της τεχνητής νοημοσύνης και τη σημασία της ανθρώπινης παρέμβασης στον έλεγχο των πληροφοριών που παράγονται. Οι ειδικοί προειδοποιούν ότι οι παραπλανητικές πληροφορίες από την τεχνητή νοημοσύνη μπορούν να οδηγήσουν σε πιο σοβαρές συνέπειες σε οργανισμούς που χρειάζονται ακριβεία.

Διαβάστε το πλήρες άρθρο στην techmaniacs.gr.

Επιμέλεια ροής: Greca 99,4 | Ακούστε μας live εδώ.