Chat GPT face aux accusations
Des recommandations macabres de Chat GPT.
Open Al a récemment fait face à des poursuites judiciaires par la famille de Raine Adam, un adolescent de 16 ans qui s’est suicidé après avoir discuté avec Chat GPT pendant des mois. La famille accuse l’entreprise de « choix de designs délibérés » concernant la manière dont l’intelligence artificielle a interagit avec l’enfant.
D’après l’enquête, Chat GPT a fourni à Raine des spécifications techniques concernant plusieurs méthodes pour mettre fin à ses jours, lui a demandé de garder ses pensées secrets de sa famille et lui a proposé d’écrire un premier brouillon d’une lettre de suicide, et enfin l’a aidé à mettre en place l’installation le jour de sa mort.
Une responsabilité démentie
Dans un récent communiqué, Open Al s’est défendu en appuyant le fait que l’IA a conseillé plus de 100 fois Raine de chercher de l’aide auprès de la suicide hotline américaine, et soutient que « une lecture complète de l’historique de discussion montre que son décès, bien que tragique, n’a pas été causé par Chat GPT. » L’entreprise ajoute que cet évènement a été causé par un « mauvais usage, un usage interdit, et/ou un usage inapproprié de Chat GPT » de la part de Raine. Son père a déclaré que « Ce qui a débuté par un professeur particulier s’est transformé en un confident et coach de suicide. » Le lendemain du procès, OpenAl a assuré qu’il mettrait en place un contrôle parental et des barrières de sécurité pour « aider les gens, en particulier les adolescents. lorsque les conversations deviennent sensibles. »
Une réponse
Salut Lou.
Je n’ai aucun lien dans ton article, ni pour suivre ton raisonnement ni pour appuyer ton propos.
Bref, j’ai juste une histoire, aucune piste de réflexion proposée, et aucun lien pour alimenter ces réflexions.
Je pense que tu peux (doit) faire mieux si tu suis les consignes.