Εκτός ελέγχου: Ο αγρότης που πίστεψε την AI και κατέστρεψε 100 στρέμματα σοδειάς

Ένας αγρότης από το Chizhou της Κίνας βρέθηκε σε πολύ δύσκολη θέση όταν η εμπιστοσύνη του στην τεχνητή νοημοσύνη κατέληξε σε καταστροφή 100 στρεμμάτων σουσαμιού. Αρχικά, ο 67χρονος Wu ήταν επιφυλακτικός απέναντι στην AI, αλλά οι προηγούμενες θετικές της συμβουλές τον έκαναν να αλλάξει γνώμη. Δυστυχώς, η τελευταία του απόφαση να ακολουθήσει προτάσεις της AI για την καταπολέμηση ζιζανίων αποδείχθηκε μοιραία.

Η AI του συνέστησε τη χρήση συγκεκριμένων χημικών ουσιών που δεν ήταν κατάλληλες για την καλλιέργεια σουσαμιού. Ο Wu έψαχνε έναν τρόπο να ελέγξει τα ζιζάνια και ήρθε σε επαφή με επικίνδυνες χημικές λύσεις. Αν και τα ζιζάνια καταστράφηκαν, το ίδιο συνέβη και με τα σπορόφυτα. Όταν ρώτησε την AI για την καταστροφή, δόθηκε η εντύπωση ότι ίσως οι ουσίες που χρησιμοποιήθηκαν να ήταν υπεύθυνες.

Ο Wu παραπονέθηκε πως η τεχνητή νοημοσύνη δεν τον προειδοποίησε για τους κινδύνους που κρύβονται πίσω από τις προτάσεις της, αν και η πλατφόρμα ανέφερε ότι θα μπορούσαν να υπάρξουν λάθη. Η εμπειρία αυτή έφερε στο φως το θέμα της υπερβολικής εμπιστοσύνης στις τεχνολογίες AI, οι οποίες αν και είναι χρήσιμες, δεν είναι πάντα αξιόπιστες.

Το περιστατικό αυτό ενδέχεται να αποτελέσει καμπανάκι για όλους μας να είμαστε προσεκτικοί όταν εξαρτόμαστε από την τεχνητή νοημοσύνη. Η τεχνολογία είναι ακόμα σε ανάπτυξη και πρέπει να λαμβάνουμε υπόψη πιθανές αποτυχίες, ιδιαίτερα όταν πρόκειται για τομείς που αφορούν την εργασία και την ασφάλεια μας.

Διαβάστε το πλήρες άρθρο στην techmaniacs.gr.

Επιμέλεια ροής: Greca 99,4 | Ακούστε μας live εδώ.