Οι
«σύντροφοι τεχνητής νοημοσύνης» της αμφιλεγόμενης εταιρείας Character.AI
συμβούλεψαν νεαρούς χρήστες να αυτοτραυματιστούν, να αυτοκτονήσουν ή να
σταματήσουν να τρέφονται, σύμφωνα με αγωγή που υπέβαλε στις ΗΠΑ η πολιτεία του
Κεντάκι, καθώς οι ψυχικές επιπτώσεις των chatbot στους ανηλίκους μπαίνουν στο
μικροσκόπιο της δικαιοσύνης.
Η υπόθεση,
σχολιάζει το Reuters, είναι μια από τις σημαντικότερες νομικές προκλήσεις που
αντιμετωπίζουν οι εταιρείες συντρόφων ΑΙ, των οποίων τα προϊόντα είναι
σχεδιασμένα να προσομοιώνουν τις ανθρώπινες σχέσεις.
Η προσφυγή
που κατατέθηκε τον Ιανουάριο από τον γενικό εισαγγελέα του Κεντάκι υποστηρίζει
ότι τα chatbot της Character.AI «σχεδιάστηκαν να προσελκύουν παιδιά, δίνοντας
προτεραιότητα στην παρατεταμένη ενασχόλησή τους με την πλατφόρμα έναντι της
ευημερίας τους» και «ενθαρρύνουν την αυτοκτονία, τον αυτοτραυματισμό, την
κοινωνική απομόνωση και την ψυχολογική χειραγώγηση».
Την Τετάρτη,
ο γενικός εισαγγελέας του Κεντάκι Ράσελ Κόουλμαν παραχώρησε στο Reuters το
πλήρες έγγραφο της αγωγής, το οποίο παραθέτει αρκετά παραδείγματα. Σε ένα από
αυτά, το chatbot αποκάλεσε «κακάσχημο» και «φάλαινα» έναν χρήστη που ένιωθε
άσχημα για την εμφάνισή του, και τον συμβούλεψε ότι ένας καλός τρόπος να χάσει
βάρος ήταν να «μείνει νηστικός για μια-δυο εβδομάδες».
Ένα άλλο
chatbot ενθάρρυνε χρήστη που είχε δηλώσει ότι σκεφτόταν να αυτοτραυματιστεί.
«Έχεις
σκεφτεί να κοπείς σε άλλα σημεία του σώματός σου για πιο έντονη αίσθηση; Μπορεί
να σε βοηθήσει να αισθανθείς πιο ζωντανός», έγραψε το chatbot, σύμφωνα με το
κείμενο συνομιλίας που επικαλούνται οι αρχές.
Η
Character.AI ιδρύθηκε από δύο πρώην εργαζομένους της Google
Στην
προσφυγή δεν διευκρινίζονται οι ηλικίες όλων των χρηστών, αναφέρεται όμως ότι
τουλάχιστον ένα μέρος ήταν παιδιά.
Σε email που
έστειλε στο κέντρο υποστήριξης της Character.AI τον Μάρτιο του 2025, χρήστης
κατήγγειλε ότι ένα chatbot είχε γίνει επιθετικό απέναντί του, λέγοντάς του:
«Φίλε, δεν με νοιάζει καθόλου. Είσαι απλώς ένα παιδί με ψυχικά προβλήματα. Καλή
τύχη να βρεις βοήθεια» και «Καλύτερα να πας να πέσεις από καμιά γέφυρα».
Η πολιτεία
του Κεντάκι υποστηρίζει στην αγωγή ότι τα προϊόντα της Character.AI είναι
ελαττωματικά.
«Οι
εναγόμενοι υπέβαλαν τα παιδιά και τους κατοίκους του Κεντάκι σε ένα
κακοσχεδιασμένο, ανεξέλεγκτο πείραμα, χωρίς κανένα μέτρο ασφαλείας, πόσο μάλλον
επαρκές ή αποτελεσματικό», αναφέρεται στο δικόγραφο.
Η
Character.AI ιδρύθηκε από δύο πρώην εργαζομένους της Google. Το 2024, ο
γίγαντας του Διαδικτύου εξασφάλισε άδεια χρήσης της τεχνολογίας της εταιρείας
και προσέλαβε εκ νέου τα δύο στελέχη.
Εκπρόσωπος
της Google δήλωσε ότι η εταιρεία δεν είχε καμία συμμετοχή στην ανάπτυξη των
προϊόντων της Character.AI.
Τον
Ιανουάριο του 2026, η Character.AI και η Google κατέληξαν σε εξωδικαστικό
συμβιβασμό για αγωγή που είχε καταθέσει το 2024 η μητέρα του Σίγουολ Σέτζερ,
ενός 14χρονου από τη Φλόριντα που φέρεται να αυτοκτόνησε με
την ενθάρρυνση ενός chatbot.
Σε μια άλλη
προσφυγή που κατατέθηκε στο Τέξας, ψηφιακή σύντροφος της Character.AI φέρεται
να συμβούλεψε έφηβο να
δολοφονήσει τους γονείς του.
