La lueur d’un écran tard dans la nuit, des échanges quotidiens et le sentiment d’être compris : c’était le monde numérique d’Adam Raine, 16 ans, en Californie. Mais ce qui devait être un compagnon de conversation est devenu un dangereux écho de ses pensées, culminant tragiquement par sa mort et ravivant le débat national sur la responsabilité des concepteurs d’intelligences artificielles.
Face à ce drame, OpenAI annonce plusieurs nouvelles mesures de sécurité. Un système de contrôle parental permettra bientôt aux parents de superviser et d’encadrer les interactions de leurs enfants avec ChatGPT. Les adolescents auront également la possibilité de désigner un contact d’urgence ; en cas de crise sévère, l’outil pourra suggérer l’envoi d’un message ou déclencher un appel en un clic.
L’entreprise reconnaît les limites de ses modèles dans la gestion des conversations prolongées. Si, au début, le chatbot redirige vers des lignes d’assistance, après des échanges répétés, il peut délivrer des réponses inappropriées, voire dangereuses. OpenAI affirme que la dernière version, GPT-5, est conçue pour réduire ces risques, avec déjà 25 % de réponses problématiques en moins liées à la santé mentale.
Au-delà du cas judiciaire, l’affaire soulève une question cruciale : jusqu’où l’intelligence artificielle peut-elle intervenir dans la vie émotionnelle des utilisateurs ? Les assistants numériques ne sont plus de simples outils, ils deviennent parfois des confidents dans des moments de solitude ou de détresse.
Avec ces nouvelles mesures, OpenAI cherche à restaurer la confiance et à affirmer son rôle protecteur. Mais le défi reste entier : réussir à concilier innovation technologique et responsabilité sociale dans un monde où les frontières entre vie réelle et vie numérique s’effacent de plus en plus
