La Californie renforce son arsenal face aux risques numériques auxquels sont exposés les mineurs. Le gouverneur Gavin Newsom a signé jeudi un ensemble de textes qui encadrent davantage les réseaux sociaux et les agents conversationnels utilisant l’intelligence artificielle.
Les plateformes sociales ne pourront plus proposer aux utilisateurs de moins de 16 ans certaines fonctions conçues pour prolonger l’utilisation. Le défilement infini, la lecture automatique et les flux algorithmiques construits à partir de l’historique et du profil des utilisateurs figurent parmi les dispositifs concernés.
La Californie renforce également le contrôle des agents conversationnels compagnons. Les entreprises qui les exploitent devront mettre en place des protections spécifiques pour les mineurs, avec notamment des protocoles en cas d’idées suicidaires, des outils de contrôle parental et des évaluations régulières des risques.
Des audits indépendants consacrés à la sécurité des enfants seront également exigés. Ils devront notamment permettre d’évaluer les risques psychologiques, les atteintes à la vie privée et les mécanismes susceptibles d’influencer les jeunes utilisateurs.
Un dispositif spécifique doit aussi permettre à l’État de suivre plus étroitement les pratiques des plateformes. La Californie prévoit la mise en place d’une commission chargée de conseiller les autorités sur la sécurité numérique des mineurs.
La nouvelle réglementation prévoit par ailleurs des mécanismes de responsabilité renforcée lorsque des enfants subissent un préjudice lié au non-respect des obligations imposées aux opérateurs.
Ce tour de vis intervient au lendemain de l’adoption de deux autres textes consacrés à l’intelligence artificielle. La Californie a mis en place un cadre pour les évaluations indépendantes des systèmes d’IA ainsi qu’un registre destiné aux auditeurs spécialisés.
L’État californien poursuit ainsi une politique engagée depuis plusieurs années contre les effets jugés nocifs de certaines plateformes numériques sur les jeunes. Dès 2024, il avait déjà adopté des restrictions sur les flux addictifs et certaines notifications destinées aux mineurs.
