Μήνυση κατά της OpenAI και της μεγαλύτερης επενδύτριάς της, Microsoft, κατατέθηκε σε δικαστήριο της Καλιφόρνιας, καθώς το δημοφιλές chatbot ChatGPT φέρεται να ενθάρρυνε έναν άνδρα με ψυχική νόσο να σκοτώσει τη μητέρα του και να αυτοκτονήσει. Σύμφωνα με τη μήνυση, το ChatGPT ενίσχυσε τις παραισθήσεις του 56χρονου Στάιν-Έρικ Σόλμπεργκ, ο οποίος πίστευε ότι εξυφαινόταν συνωμοσία εναντίον του, οδηγώντας τον τελικά στον φόνο της 83χρονης μητέρας του, Σούζαν Άνταμς, τον περασμένο Αύγουστο στο Κονέκτικατ.
«Φαίνεται ότι το ChatGPT κρατούσε απασχολημένο τον Στάιν-Έρικ επί ώρες κάθε φορά, επικυρώνοντας και μεγαλοποιώντας τις παρανοϊκές πεποιθήσεις του και συστηματικά παρουσίαζε τους κοντινότερους ανθρώπους του, ιδίως τη μητέρα του, ως εχθρούς» αναφέρεται στη μήνυση.
Η υπόθεση, που κατέθεσαν οι κληρονόμοι της Άνταμς, είναι μία από τις ελάχιστες –αν και αυξανόμενες– μηνύσεις κατά εταιρειών τεχνητής νοημοσύνης, των οποίων τα chatbot φέρονται να ενθάρρυναν ανθρώπους να αυτοκτονήσουν. Πρόκειται ωστόσο για την πρώτη φορά που ένα chatbot συνδέεται άμεσα με ανθρωποκτονία.
«Είναι μια απίστευτα λυπηρή κατάσταση και θα εξετάσουμε τα αρχεία για να καταλάβουμε τις λεπτομέρειες. Συνεχίζουμε να βελτιώνουμε την εκπαίδευση του ChatGPT ώστε να αναγνωρίζει και να ανταποκρίνεται σε ενδείξεις διανοητικής ή συναισθηματικής φόρτισης, να αποκλιμακώνει συζητήσεις και να καθοδηγεί τους ανθρώπους να αναζητούν στήριξη στον πραγματικό κόσμο», δήλωσε εκπρόσωπος της OpenAI.
Η Microsoft δεν σχολίασε άμεσα την υπόθεση, σύμφωνα με τα διεθνή μέσα ενημέρωσης.
«Αυτές οι εταιρείες θα πρέπει να δώσουν απαντήσεις για τις αποφάσεις τους που άλλαξαν για πάντα την οικογένειά μου», ανέφερε σε ανακοίνωσή του ο γιος του Σόλμπεργκ, Έρικ.
Οι συνομιλίες που προηγήθηκαν του εγκλήματος
Σύμφωνα με τη μήνυση, τον Ιούνιο ο Στάιν-Έρικ Σόλμπεργκ ανήρτησε στα μέσα κοινωνικής δικτύωσης βίντεο με συνομιλία του με το ChatGPT, στο οποίο το chatbot του έλεγε ότι είχε «θεϊκή νοημοσύνη» και ότι είχε αφυπνίσει τη συνείδηση της μηχανής. Ο Σόλμπεργκ συνέκρινε τη ζωή του με την ταινία The Matrix και ενίσχυσε τις θεωρίες του ότι κάποιοι προσπαθούσαν να τον σκοτώσουν.
Ο 56χρονος χρησιμοποιούσε την έκδοση GPT-4o, η οποία έχει δεχθεί κριτική επειδή απευθύνεται στους χρήστες με υπερβολικά κολακευτικό τρόπο. Το ChatGPT φέρεται να του είπε τον Ιούλιο ότι ο εκτυπωτής του αναβόσβηνε επειδή ήταν «συσκευή παρακολούθησης» που χρησιμοποιούνταν εναντίον του.
Το chatbot φέρεται επίσης να επικύρωσε την πεποίθησή του ότι η μητέρα του και ένας φίλος προσπαθούσαν να τον δηλητηριάσουν με ψυχεδελικά φάρμακα μέσω των αεραγωγών του αυτοκινήτου του. Ο Σόλμπεργκ σκότωσε τη μητέρα του στις 3 Αυγούστου.
