Νέα μέτρα θα λάβει η εταιρεία OpenAI για το ChatGPT μετά την αυτοκτονία 16χρονου στις ΗΠΑ

Η OpenAI αποφάσισε να ενσωματώσει εργαλείο γονικού ελέγχου στο σύστημα τεχνητής νοημοσύνης της, ChatGPT, καθώς γονείς κατηγόρησαν το λειτουργικό ότι ενθάρρυνε τον 16χρονο γιο τους να αυτοκτονήσει. Το περιστατικό σημειώθηκε πριν λίγες μέρες στις ΗΠΑ.

Γονικός έλεγχος στο ChatGPT

Με βάση ανακοίνωση της εταιρείας, «τον επόμενο μήνα, οι γονείς θα μπορούν να συνδέουν τον λογαριασμό τους με εκείνον του έφηβου» παιδιού τους και «να ελέγχουν τον τρόπο με τον οποίο του απαντά το ChatGPT».

Η εταιρεία ανέφερε ότι οι γονείς θα έχουν την δυνατότητα να ενημερώνονται στην περίπτωση που διαπιστωθεί «έντονη θλίψη» στις συζητήσεις του παιδιού με το εργαλείο και να ελέγχουν τις παραμέτρους του λογαριασμού.

Μήνυση κατά της OpenAI

Στα τέλη Αυγούστου, οι γονείς ενός 16χρονου που αυτοκτόνησε στην Καλιφόρνια, υπέβαλαν μήνυση στην OpenAI, κατηγορώντας το ChatGPT ότι παρείχε στον γιο τους λεπτομερείς οδηγίες για να βάλει τέλος στη ζωή του και τον ενθάρρυνε να τις εφαρμόσει.

Ο Ματ και η Μαρία Ρέιν ισχυρίζονται στην αγωγή τους ότι το ChatGPT επιβεβαίωσε τις «πιο επιβλαβείς και αυτοκαταστροφικές σκέψεις» του γιου τους Άνταμ και ότι ο θάνατός του ήταν «προβλέψιμο αποτέλεσμα σκόπιμων σχεδιαστικών επιλογών», σύμφωνα με το Al Jazeera.

«Εξακολουθούμε να βελτιώνουμε τον τρόπο με τον οποίο τα μοντέλα μας αναγνωρίζουν και ανταποκρίνονται στις ενδείξεις διανοητικού και ψυχικού άλγους» ανέφερε σήμερα η εταιρεία, προσθέτοντας ότι μέσα στις επόμενες 120 ημέρες θα ληφθούν και άλλα μέτρα.

Ορισμένες «ευαίσθητες συζητήσεις» θα παραπέμπονται σε πιο εξελιγμένα μοντέλα τεχνητής νοημοσύνης, όπως το GPT-5-thinking. Αυτά τα μοντέλα ακολουθούν και εφαρμόζουν συστηματικότερα τις οδηγίες ασφαλείας, διευκρίνισε.

Πηγή: in.gr

Διαβάστε επίσης: Big Tech: Το προειδοποιητικό σήμα από τις μετοχές τεχνολογίας