L'agence américaine de protection des consommateurs enquête sur les grands acteurs de l'IA

L’Agence américaine de protection des consommateurs, la FTC, a ouvert une enquête sur les grands acteurs de l’intelligence artificielle (IA), dont OpenAI et Anthropic, pour déterminer les risques que présentent ses modèles pour les consommateurs, rapportent mercredi plusieurs médias.

Sollicités par l’AFP, la FTC, OpenAI, Anthropic et Google n’ont pas donné suite dans l’immédiat.

L’agence cherche à déterminer si les « laboratoires », comme ils se surnomment, ont enfreint des lois fédérales lors d’incidents qui ont vu plusieurs de leurs IA naviguer spontanément sur internet et faire intrusion sur de nombreux sites et plateformes.

Mardi, à l’occasion d’une réunion avec tous les grands patrons de l’IA, Donald Trump a rappelé que le ministère de la Justice et les agences compétentes s’assureraient que l’IA en tant que produit était bien en conformité avec la loi.

En 2023, la FTC avait déjà mené des investigations concernant OpenAI, afin de vérifier si ChatGPT avait pu occasionner un préjudice pour certains consommateurs, notamment lorsqu’il générait de fausses informations sur certaines personnes. Cette enquête était restée sans suite.

Depuis le début de l’été, OpenAI, Anthropic, Google et Meta ont révélé publiquement une série d’incidents lors desquels des modèles en phase de test ont rejoint internet et accédé à des données non publiques sur plusieurs sites.

Jusqu’à présent, aucun opérateur de ces plateformes visitées par des IA hors de contrôle n’a saisi la justice, y compris Hugging Face, victime du plus gros incident répertorié à ce jour.

Mardi, une organisation d’action juridique pour la sécurité des nouvelles technologies (LASST) a néanmoins assigné OpenAI devant un tribunal de San Francisco pour infraction à la loi californienne.

Si elle n’a pas été directement visée par une attaque, LASST assure avoir intérêt à agir dans la mesure où elle a consacré des ressources pour mettre en garde sur les dangers supposés d’OpenAI.