OpenAI a annoncé le lancement d’une nouvelle fonctionnalité de sécurité baptisée « Trusted Contact » (« Contact de confiance »), destinée à renforcer la protection des utilisateurs de ChatGPT confrontés à des situations de détresse psychologique ou à des risques d’automutilation.
Cette option permet à un utilisateur adulte de désigner directement depuis son compte ChatGPT une personne de confiance, qu’il s’agisse d’un proche, d’un ami ou d’un membre de la famille, susceptible d’être contactée en cas de situation préoccupante détectée lors d’une conversation avec l’intelligence artificielle.
Selon OpenAI, lorsqu’un échange laisse apparaître un risque potentiel d’automutilation ou des idées suicidaires, le système invitera d’abord l’utilisateur à contacter cette personne. Si les équipes de sécurité estiment ensuite qu’il existe un danger sérieux, une alerte pourra être envoyée automatiquement au contact désigné par SMS, e-mail ou notification mobile.
L’entreprise précise toutefois que ces notifications resteront limitées afin de préserver la confidentialité des échanges. Aucun contenu détaillé des conversations ne sera transmis à la personne contactée.
Cette initiative intervient dans un contexte sensible pour OpenAI, confrontée depuis plusieurs mois à des poursuites judiciaires engagées par des familles accusant ChatGPT d’avoir influencé certains comportements suicidaires.
Pour gérer ces situations, l’entreprise explique s’appuyer sur un système combinant détection automatisée et intervention humaine. Certains mots-clés ou signaux conversationnels déclenchent des alertes internes ensuite examinées par des équipes spécialisées. OpenAI affirme que ces signalements font systématiquement l’objet d’une vérification humaine rapide.
Le dispositif « Trusted Contact » s’inscrit dans la continuité des outils de sécurité récemment déployés par l’entreprise, notamment les options de contrôle parental pour les comptes d’adolescents et les messages automatisés encourageant les utilisateurs en difficulté à consulter des professionnels de santé.
OpenAI indique enfin que cette fonctionnalité restera entièrement facultative et pourra être activée ou désactivée librement par les utilisateurs.
