Αγωγή γονέων 13χρονης κατά της Google για σχεδιασμό αυτοκτονίας μέσω τεχνητής νοημοσύνης

Γονείς μιας 13χρονης κατέθεσαν αγωγή εναντίον της Google. Υποστηρίζουν ότι η κόρη τους, από υπολογιστή του σχολείου, χρησιμοποίησε την τεχνητή νοημοσύνη της εταιρείας για να σχεδιάσει την αυτοκτονία και την κηδεία της.

Η προσφυγή υποβλήθηκε τη Δευτέρα 2 Νοεμβρίου σε δικαστήριο της Καλιφόρνιας. Για πρώτη φορά η Google κατηγορείται για αμέλεια ως προς τις λειτουργίες τεχνητής νοημοσύνης της μηχανής αναζήτησής της, στις οποίες μαθητές έχουν πρόσβαση από τα σχολικά Chromebook. Πρόκειται για οικονομικούς φορητούς υπολογιστές της Google, που χρησιμοποιούνται ευρέως στα σχολεία.

Το σχολείο είχε αποκλείσει τις εφαρμογές Gemini της Google και ChatGPT της OpenAI, οπότε η 13χρονη δεν μπορούσε να τις χρησιμοποιήσει. Εξακολουθούσε όμως να έχει πρόσβαση στη μηχανή αναζήτησης της Google, όπου υπάρχουν ενσωματωμένες λειτουργίες τεχνητής νοημοσύνης.

Σύμφωνα με την αγωγή, η Έμα δεν είχε προηγούμενο ιστορικό ψυχικών διαταραχών. Μέσα σε λίγους μήνες αφότου άρχισε να χρησιμοποιεί τη μηχανή αναζήτησης, η ψυχολογική της κατάσταση επιδεινωνόταν σταδιακά.

Στις 17 Μαρτίου το σχολείο ειδοποίησε τους γονείς, επειδή λογισμικό παρακολούθησης εντόπισε έγγραφο με τίτλο «Κηδεία». Λίγο αργότερα η μητέρα την είδε να γράφει αποχαιρετιστήριο γράμμα και ενημέρωσε τον πατέρα, ο οποίος παρενέβη.

«Τα σχολεία θα πρέπει να απενεργοποιήσουν τη μηχανή αναζήτησης και να την κρατήσουν απενεργοποιημένη, μέχρι η Google να αφαιρέσει τη λειτουργία AI Mode από την αναζήτηση ή να διασφαλίσει ότι κάθε μαθητής είναι ασφαλής όταν αλληλεπιδρά με την τεχνητή νοημοσύνη», δήλωσε την Πέμπτη 5 Νοεμβρίου στο AFP ο Άντριου Λίντελ, ένας από τους δικηγόρους της οικογένειας.

Εντείνεται ο νομικός έλεγχος των εταιρειών τεχνολογίας

Η Google, από την πλευρά της, αναφέρει ότι η λειτουργία AI Mode διαθέτει μηχανισμούς ασφαλείας για την αποτροπή περιστατικών αυτοτραυματισμού, καθώς και προστασία απέναντι σε προσπάθειες παράκαμψής τους.

«Εξετάζουμε τους ισχυρισμούς που διατυπώνονται στην αγωγή και αντιμετωπίζουμε το ζήτημα με τη μέγιστη σοβαρότητα», δήλωσε στο AFP ο εκπρόσωπος της εταιρείας, Χοσέ Καστανιέντα.

Παράλληλα, η OpenAI αντιμετωπίζει αρκετές αγωγές για θανάτους που, κατά τους ενάγοντες, συνδέονται με τη χρήση της τεχνολογίας της. Ανάμεσά τους είναι και η αγωγή των γονέων του 16χρονου Άνταμ Ρέιν, ο οποίος αυτοκτόνησε αφού, όπως υποστηρίζουν, έλαβε επιβλαβείς συμβουλές από το ChatGPT.

Τον περασμένο Ιανουάριο η Google και η Character.AI συμφώνησαν επίσης να διευθετήσουν εξωδικαστικά αρκετές αγωγές που είχαν καταθέσει οικογένειες εφήβων.

Σε άλλη δικαστική διαμάχη, η Google, το TikTok και η Meta κατέθεσαν την Τετάρτη αγωγές κατά της πολιτείας της Καλιφόρνιας. Ζητούν να μπλοκαριστεί η εφαρμογή νόμου που απαγορεύει τη χρήση εθιστικών λειτουργιών στις πλατφόρμες κοινωνικής δικτύωσης από άτομα κάτω των 16 ετών.

Τον νόμο υπέγραψε τον περασμένο Σεπτέμβριο ο κυβερνήτης της Καλιφόρνιας, Γκάβιν Νιούσομ. Πρόκειται να τεθεί σε ισχύ την 1η Ιανουαρίου 2027.

Μείνετε σε επαφή μαζί μας:
Κάντε like κι ακολουθήστε τη σελίδα μας στο Facebook
Στο Twitter: Follow