Californie: le gouverneur Newsom prend un décret pour pousser les acteurs de l'IA à des mesures de sécurité supplémentaires

Le gouverneur démocrate de Californie Gavin Newsom a signé vendredi un décret qui vise à pousser les acteurs de l’intelligence artificielle (IA) à prendre des mesures de sécurité supplémentaires pour gérer les risques de l’IA.

L’élu, qui prend le contrepied du gouvernement Trump sur le sujet, va solliciter les recommandations d’experts, notamment pour imposer des systèmes capables d’interrompre le fonctionnement d’une IA (« kill switch ») en cas de dérapage.

La Californie est, de très loin, l’Etat américain qui a le plus légiféré pour encadrer cette technologie.

Début septembre, Gavin Newsom a promulgué deux textes votés au Parlement de Californie, qui posent les bases d’un mécanisme d’audit indépendant des sociétés de l’IA et de leurs modèles, avec un accent marqué sur la sécurité de l’intelligence artificielle.

Avec le décret pris vendredi, le gouverneur de Californie, pressenti comme candidat à l’investiture démocrate à la présidentielle américaine de 2028, entend accélérer la mise en place de ce dispositif et le renforcer.

Le comité d’experts examinera notamment la possibilité d’imposer aux sociétés les plus avancées de l’IA de faire état publiquement d’incidents impliquant la « perte de contrôle » de leurs modèles.

Le décret fait écho à l’engagement, pris samedi par le patron d’Anthropic Dario Amodei d’intégrer des observateurs indépendants afin qu’ils évaluent les actions de l’entreprise en matière de sécurisation de son IA.

Le directeur général d’OpenAI Sam Altman a promis d’en faire de même au sein du créateur de ChatGPT.

Dario Amodei a également appelé à un ralentissement du rythme de développement de l’IA pour permettre d’appréhender les nouveaux risques présentés par les capacités sans cesse renforcées des modèles.

Donald Trump et plusieurs membres de la majorité ont critiqué cette proposition et qualifié de « canulars » les alertes récemment lancées sur la dangerosité de l’IA.

« Pendant que Donald Trump et le Congrès somnolent », a expliqué un communiqué du gouverneur, « Gavin Newsom prend, une fois de plus, l’initiative pour renforcer la sécurité de l’IA pour tous les Américains. »