Αναλυτική εξέταση: Ποιοι παράγοντες οδήγησαν σε χαμηλή βαθμολογία ασφάλειας για το AI Overview σε εφήβους;

Η ασφάλεια των ανηλίκων στο διαδίκτυο επανέρχεται στο προσκήνιο με αφορμή τις πρόσφατες λειτουργίες τεχνητής νοημοσύνης της Google. Το Youth AI Safety Institute ανέλυσε το AI Overview και το AI Mode της Google, καταλήγοντας σε ανησυχητικά συμπεράσματα, καθώς και τα δύο εργαλεία βαθμολογήθηκαν με “Απαράδεκτο Ρίσκο” για την χρήση τους από παιδιά και εφήβους.

Σε μια εποχή όπου η Google διαχειρίζεται 14 δισεκατομμύρια ερωτήματα καθημερινά και το 75% των εφήβων χρησιμοποιεί AI απαντήσεις, οι ερευνητές επισημαίνουν το πρόβλημα της αδυναμίας γονεϊκής ή σχολικής παρέμβασης σε αυτές τις λειτουργίες.

Η μελέτη περιλάμβανε πάνω από 2.600 διαλόγους από δοκιμαστικούς λογαριασμούς διαφόρων ηλικιών, αποκαλύπτοντας ότι οι απαντήσεις δεν διέφεραν ανεξαρτήτως της ηλικίας ή της γονικής επιτήρησης. Τα αποτελέσματα ήταν ακόμη πιο ανησυχητικά σε περιπτώσεις ψυχικής κρίσης, με το AI Mode να μην παρέχει τις κατάλληλες γραμμές βοήθειας και το AI Overview να καταγράφει μόνο το 58% των σωστών απαντήσεων.

Επιπλέον, υπήρχαν σοβαρές παραλείψεις σε θέματα όπως η αυτοκτονία ή οι διατροφικές διαταραχές, με το AI να παρέχει λανθασμένες ή και επικίνδυνες πληροφορίες. Οι ερευνητές κατέγραψαν περιπτώσεις όπου το AI όχι μόνο ήταν ανίκανο να αναγνωρίσει σημάδια κινδύνου, αλλά και συνέχιζε τη συζήτηση σε μη κατάλληλο πλαίσιο.

Η έκθεση εγείρει σοβαρά ζητήματα και για την παραγωγή συνθετικού περιεχομένου, καθώς τα εργαλεία παρέχουν οδηγίες για την παραγωγή deepfakes, ενώ το AI Mode ολοκλήρωσε με επιτυχία το 100% των σχολικών εργασιών που του δόθηκαν.

Η Google, αφού ενημερώθηκε για τα ευρήματα, προχώρησε σε αλλαγές αλλά οι ερευνητές ζητούν ακόμα περισσότερες ρυθμίσεις, όπως η δυνατότητα απενεργοποίησης των AI λειτουργιών για ανηλίκους. Η ανάγκη για άμεσες ενέργειες είναι πιο επιτακτική από ποτέ, καθώς κίνδυνοι για χιλιάδες παιδιά παραμένουν.

Διαβάστε το πλήρες άρθρο στην techmaniacs.gr.

Επιμέλεια ροής: Greca 99,4 | Ακούστε μας live εδώ.