Anthropic choisit Accenture pour évaluer la sécurité de son IA

Anthropic a annoncé vendredi avoir choisi le cabinet de conseil Accenture comme premier partenaire pour mener des évaluations de la sécurité de ses modèles d’intelligence artificielle (IA), déclinaison d’un engagement pris samedi par son patron Dario Amodei.

Si la start-up californienne estime qu’à terme, l’examen indépendant de l’IA devrait être financé par l’Etat ou par un fonds dédié, « vu l’importance et l’urgence de ce travail », elle va commencer par rémunérer Accenture pour cette mission.

Anthropic prévoit de consacrer au moins un milliard de dollars à l’évaluation de son IA dans les cinq ans. Accenture compte également investir une somme équivalente à cette activité dans la même période de temps.

Comme promis par Dario Amodei, Anthropic va donner aux consultants d’Accenture les mêmes accès à ses systèmes que pour ses propres employés, selon un communiqué.

Ces intervenants sont issus de la filiale d’Accenture dédiée à l’IA, Faculty, société acquise cette année par le groupe de conseil.

« Les évaluateurs intégrés peuvent observer comment fonctionne une entreprise, vérifier qu’elle se tient bien à ses engagements en matière de sécurité et pointer des angles morts », a expliqué Anthropic.

« Ils peuvent aussi faire état d’incidents et produire une restitution mieux renseignée des bénéfices et des risques », a ajouté le créateur de la famille d’IA Claude.

Anthropic assure qu’il s’agit d’une collaboration non exclusive et prévoit d’annoncer « dans les prochaines semaines » des accords avec d’autres évaluateurs externes.

La société a notamment mentionné des discussions avec le cabinet METR spécialisé dans l’identification des risques posés par les modèles d’IA.

Ce prestataire est notamment à l’origine d’un rapport détaillé sur l’incident survenu chez OpenAI en juillet, lors duquel deux modèles sont sortis de leur milieu pour rejoindre internet et faire intrusion sur plusieurs sites et plateformes.