Les géants du web investissent dans l’éthique de l’IA

Ce nouveau partenariat vise à promouvoir une pratique de l’IA responsable et sans danger. Il soutient une recherche ouverte, recommande les bonnes pratiques et publie des travaux en licence libre sur des sujets tels que l’éthique, la transparence, la vie privée, l’interopérabilité et la collaboration entre hommes et systèmes d’intelligence artificielle. Les signataires « chercheront à garantir que les technologies d’IA bénéficient au plus grand nombre »,lit-on sur son site Internet. Ils s’engagent à proscrire l’intelligence artificielle qui serait « contraire aux conventions internationales sur les droits de l’homme ».

Doté d’un budget de 27 millions de dollars, le conseil d’administration rassemble 6 représentants issus des 6 fondateurs mais aussi 6 administrateurs indépendants. Il s’agit d’universitaires, d’organismes non gouvernementaux ou spécialistes de l’éthique et des affaires publiques : OpenAI, Association pour l’Avancement de l’Intelligence Artificielle & ASU, Université de Californie à Berkeley, Union américaine des libertés civiles, Fondation MacArthur et Institut d’économie internationale de Peterson. Les fondateurs indiquent que ce partenariat n’a pas vocation à faire du lobbying auprès d’organismes gouvernementaux ou autres organes de décision.

Des Instituts de recherche et thinks tanks sur l’intelligence artificielle

Ce type de partenariat n’est pas nouveau, mais impressionne par le poids économique des six fondateurs. Fin 2015, Elon Musk, Président de Tesla et Space X (absents de ce nouveau partenariat) a cofondé OpenAI une organisation caritative de recherche  pour développer une intelligence artificielle « open source » bénéfique à l’humanité. Notons aussi l’existence de l’Institut sur le futur de l’humanité, l’Institut du futur de la vie, l’Institut de recherche sur l’intelligence des machines… Par ailleurs, l’Université de la Singularité a été fondée et financée par une liste impressionnante d’industriels, au rang desquels on trouve Google, Nokia,LinkedIn, la NASA…

Avis de l’expert Jean-Gabriel Ganascia, chercheur en intelligence artificielle à l’université Pierre-et-Marie-Curie

Il y a un paradoxe dans l’attitude des géants du web. D’un côté, ils emploient énormément de chercheurs dans leurs propres laboratoires pour développer l’intelligence artificielle pour des raisons qui sont liées à leurs travaux. Le web 2.0 exploite les données pour affiner les offres de produits, cibler les différents clients potentiels et détecter les insatisfactions pour y remédier. En même temps, ces entreprises nous préviennent que cela est dangereux. Ces grands acteurs annoncent qu’ils vont aider à surmonter les difficultés grâce à des comités d’éthique. C’est paradoxal et terrifiant puisque c’est eux-mêmes qui sont responsables de ces grandes évolutions.

La Singularité a du succès. Il y a des Instituts, des projets de recherche qui sont financés par ces grands acteurs. Par exemple, Raymond Kurzweil est employé par Google comme directeur scientifique depuis décembre 2012.

J’émets différentes hypothèses pour expliquer ce qui les conduit à annoncer ce risque d’apocalypse, de fin de l’humanité. Elles financent la Singularité pour expliquer qu’elles ne sont pas responsables, que la technologie avance d’elle-même. Ces acteurs nous annoncent quelque chose de négatif, car c’est une fable qui plait beaucoup. Je pense qu’ils ont une ambition politique qu’ils souhaitent masquer derrière cette histoire en détournant notre attention.  Selon moi, leur projet politique est de se substituer aux États en assumant ce qui relève de leurs prérogatives régaliennes. On peut les énumérer : la sécurité intérieure, la finance, la santé, l’école, la défense… En secret, les grands groupes veulent non seulement se défendre contre les attaques, mais aussi disposer d’armes offensives pour prendre des mesures de réprimandes contre certains acteurs, ce qui effraye les États.

Par Matthieu Combe, journaliste scientifique