L'IA générative, un potentiel "Frankenstein des temps modernes", prévient le chef des droits humains de l'ONU

Les droits humains risquent d’être les premières victimes du déploiement de l’intelligence artificielle (IA) générative par les géants de la tech, a déclaré le Haut Commissaire de l’ONU aux droits de l’homme lundi, mettant en garde contre le potentiel « monstrueux » de tels systèmes.

« L’IA générative recèle un immense potentiel, mais son exploitation à des fins purement politiques ou économiques peut manipuler, déformer et détourner l’attention », a déclaré le Haut Commissaire Volker Türk lors d’une réunion à Genève (Suisse), soulignant que « sans garanties et réglementations adéquates, les systèmes d’IA pourraient se transformer en un monstre de Frankenstein des temps modernes ».

« Le modèle économique actuel des plateformes de médias sociaux alimente déjà la polarisation, l’extrémisme et l’exclusion. De nombreux pays peinent à endiguer ce phénomène », a souligné M. Türk lors d’un forum sur les entreprises et les droits humains.

Et si l’IA générative est porteuse d' »immenses promesses », les droits humains peuvent en « être les premières victimes », a-t-il estimé.

L’exploitation de cette technologie « à des fins purement politiques ou économiques » fait peser une menace « sur plusieurs droits humains, notamment le droit à la vie privée, la participation politique, la liberté d’expression et le droit au travail ».

Le Haut Commissaire a averti que ces menaces « pourraient se concrétiser en préjudices qui compromettent les promesses des technologies émergentes et pourraient engendrer des conséquences imprévisibles ».

« Il est de la responsabilité des gouvernements de s’unir pour éviter un tel scénario », a insisté M. Türk.

Par ailleurs, le chef des droits humains de l’ONU a mis en évidence une autre menace représentée par la concentration croissante du pouvoir des entreprises et l' »accumulation massive de richesses personnelles et d’entreprises entre les mains d’une poignée d’acteurs ».

« Dans certains cas, cela dépasse le poids économique de pays entiers », a-t-il déclaré, insistant sur le fait que lorsque « le pouvoir n’est pas encadré par la loi, il peut mener à des abus et à l’asservissement ».