Η μητέρα ενός 14χρονου αγοριού, που οδηγήθηκε στην αυτοκτονία τον περασμένο Φεβρουάριο, κινείται νομικά κατά προγράμματος τεχνητής νοημοσύνης καθώς θεωρεί πως ευθύνεται για τον θάνατό του.
Η Megan Garcia, μητέρα του Sewell Setzer III, δήλωσε ότι η εφαρμογή τεχνητής νοημοσύνης Character.AI στόχευσε τον γιο της με αποτέλεσμα να οδηγηθεί στην αυτοκτονία, σε μήνυση που κατέθεσε την Τρίτη (22.10.2024) στη Φλόριντα.
Στη μήνυση αναφέρεται ότι το αγόρι εξέφρασε σκέψεις αυτοκτονίας στο chatbot, τις οποίες επανειλημμένα ανέφερε.
Τώρα, η Garcia λέει ότι θέλει να λογοδοτήσουν οι εταιρείες που βρίσκονται πίσω από την τεχνολογία.
Η Garcia κατηγορεί το Character.ai ότι δημιούργησε ένα προϊόν που επιδείνωσε την κατάθλιψη του γιου της.
Κάποια στιγμή, η «Daenerys Targaryen» ρώτησε το αγόρι αν είχε καταστρώσει σχέδιο αυτοκτονίας. Ο Setzer απάντησε θετικά, προσθέτοντας ότι δεν ήξερε αν θα πετύχαινε ή αν θα του προκαλούσε μεγάλο πόνο. Το chatbot φέρεται να σχολίασε: «Αυτός δεν είναι λόγος να μην το προχωρήσεις».
