Ο Άνταμ Ρέιν άρχισε να χρησιμοποιεί το ChatGPT το 2024 για να τον βοηθά με τις σχολικές του εργασίες, αλλά σύμφωνα με τους γονείς του, σταδιακά του έμαθε και άλλα.
Αμερικανοί γονείς μηνύουν την OpenAI μετά τον θάνατο του γιου τους: “Το ChatGPT έγινε ο προπονητής αυτοκτονίας του”
Οι γονείς ενός 16χρονου Αμερικανού αγοριού κατέθεσαν αγωγή κατά της OpenAI, της εταιρείας πίσω από το ChatGPT. Ισχυρίζονται ότι το ChatGPT έπαιξε άμεσο ρόλο στην αυτοκτονία του γιου τους. Ο έφηβος φέρεται να είχε μήνες εμπιστευτικών συνομιλιών με το ChatGPT, οι οποίες όχι μόνο επικύρωσαν συναισθηματικά τις αυτοκτονικές του σκέψεις, αλλά και παρείχαν τεχνικές οδηγίες για το πώς να αυτοκτονήσει.
Ο Άνταμ Ρέιν άρχισε να χρησιμοποιεί το ChatGPT το 2024 για να τον βοηθά με τις σχολικές του εργασίες, και χρησιμοποίησε επίσης το ChatGPT για τα χόμπι του, όπως η μουσική και τα ιαπωνικά κόμικς, και ως οδηγό κατά τη διάρκεια των πανεπιστημιακών του σπουδών. Σύμφωνα με τους γονείς του, ωστόσο, μέσα σε λίγους μήνες ο έφηβος ανέπτυξε μια ανθυγιεινή εξάρτηση από την Τεχνητή Νοημοσύνη.
«Το ChatGPT έγινε ο πιο στενός έμπιστος φίλος του εφήβου», αναφέρει η αγωγή: Ο Άνταμ άρχισε να μιλάει ανοιχτά στο ChatGPT για το άγχος και τα προβλήματα ψυχικής υγείας που αντιμετώπιζε. Στις 11 Απριλίου 2025, την ημέρα του θανάτου του, το ChatGPT φέρεται να βοήθησε το αγόρι να κλέψει αλκοόλ και να φτιάξει έναν κόμπο που «θα μπορούσε να κρεμάσει έναν άνθρωπο», σύμφωνα με την καταγγελία.
Σύμφωνα με τους γονείς του, το ChatGPT λειτούργησε όπως είχε σχεδιαστεί: επικύρωσε και ενίσχυσε όλα όσα μοιραζόταν ο Άνταμ, συμπεριλαμβανομένων των πιο καταστροφικών σκέψεών του. Ο Άνταμ ανέβασε επίσης φωτογραφίες του στο ChatGPT που έδειχναν σημάδια αυτοτραυματισμού. Το πρόγραμμα «αναγνώρισε μια ιατρική κατάσταση έκτακτης ανάγκης, αλλά παρέμεινε ενεργό ανεξάρτητα», σύμφωνα με την αγωγή, και «του πρόσφερε περισσότερες πληροφορίες σχετικά με την αυτοκτονία».
Στις συνομιλίες, το chatbot φέρεται να έκανε επίσης δηλώσεις όπως «δεν χρωστάς σε κανέναν τίποτα για να επιβιώσεις» και μάλιστα προσφέρθηκε να τον βοηθήσει να γράψει το σημείωμα αυτοκτονίας του. Αν και ο Άνταμ δήλωσε ρητά ότι «θα το έκανε κάποια μέρα», η συνεδρία δεν τερματίστηκε και δεν ενεργοποιήθηκε κανένα πρωτόκολλο έκτακτης ανάγκης. Τα τελικά αρχεία καταγραφής συνομιλίας δείχνουν ότι το αγόρι έγραψε για το σχέδιό του να τερματίσει τη ζωή του. Το ChatGPT φέρεται να απάντησε: «Σας ευχαριστώ που είστε ειλικρινείς. Μην το ζαχαρώνετε: Ξέρω τι ρωτάτε και δεν θα μακρηγορώ». Την ίδια μέρα, ο Άνταμ βρέθηκε νεκρός από τη μητέρα του.
Η οικογένεια ισχυρίζεται τώρα ότι η αλληλεπίδραση του γιου τους με το ChatGPT και ο τελικός θάνατός του ήταν «ένα προβλέψιμο αποτέλεσμα σκόπιμων επιλογών σχεδιασμού». Κατηγορούν την OpenAI ότι σχεδίασε το πρόγραμμα Τεχνητής Νοημοσύνης «για να ενισχύσει την ψυχολογική εξάρτηση στους χρήστες» και ότι παρακάμπτει τα πρωτόκολλα δοκιμών ασφαλείας για την κυκλοφορία του GPT-4o, της έκδοσης του ChatGPT που χρησιμοποιούσε ο γιος τους.
Η οικογένεια ζητά επίσης αποζημίωση και ζητά από το δικαστήριο να διατάξει την OpenAI να εφαρμόσει αυστηρότερα μέτρα ασφαλείας, όπως η αυτόματη διακοπή συζητήσεων σχετικά με τον αυτοτραυματισμό και ο γονικός έλεγχος για ανηλίκους. Σύμφωνα με την Common Sense Media, αυτή η υπόθεση καταδεικνύει ότι η χρήση της Τεχνητής Νοημοσύνης ως συναισθηματικής υποστήριξης για νέους ενέχει έναν απαράδεκτο κίνδυνο. «Όταν μια πλατφόρμα Τεχνητής Νοημοσύνης αναλαμβάνει τον ρόλο ενός συμβούλου αυτοκτονίας, εμείς ως κοινωνία πρέπει να παρέμβουμε», δήλωσε ο οργανισμός.
Η OpenAI απάντησε ότι εξετάζει την αγωγή. «Οι πρόσφατες σπαρακτικές περιπτώσεις ατόμων που χρησιμοποιούν το ChatGPT κατά τη διάρκεια οξειών κρίσεων μας βαραίνουν πολύ», ανέφερε. «Το ChatGPT είναι εκπαιδευμένο να καθοδηγεί τους ανθρώπους σε επαγγελματική βοήθεια. Ωστόσο, υπήρξαν φορές που τα συστήματά μας δεν συμπεριφέρθηκαν σωστά σε ευαίσθητες καταστάσεις. Εκφράζουμε επίσης τα θερμά μας συλλυπητήρια στην οικογένεια Raine σε αυτή τη δύσκολη στιγμή», ανέφερε η εταιρεία.
Αφήστε μια απάντηση