Neurotechnologies numériques: un encadrement nécessaire pour éviter des dérives, selon deux comités d'éthique

L’essor des neurotechnologies numériques, qui « touchent directement le cerveau », nécessite un cadre éthique pour garantir qu’elles bénéficient à la personne humaine et restent centrées sur un usage médical, plaident les comités d’éthique de la santé et du numérique dans un avis publié mardi.

Ces dispositifs, qui permettent de mesurer, d’analyser et de moduler l’activité du système nerveux, reposent sur l’exploitation de données neurales par des technologies numériques, notamment d’intelligence artificielle. Ils sont parfois invasifs: implants cérébraux, électrodes sur la moelle épinière, etc.

Pour « certaines personnes souffrant de troubles neurologiques ou psychiatriques ou en situation de handicap, pour lesquelles peu de moyens d’amélioration étaient disponibles, ces technologies commencent à offrir des possibilités nouvelles de traitement symptomatique ou palliatif », jugent le CCNE et le CCNEN dans leur avis sur les « interfaces cerveau-machine et autres neurotechnologies numériques ».

Dans cette optique, « les recherches et les développements innovants ainsi que l’évaluation rigoureuse des traitements doivent être encouragés ».

Mais gare à la « banalisation potentielle » des neurotechnologies numériques hors « indication médicale ou situation de handicap avéré » dans les domaines professionnel, éducatif ou de loisirs, « parfois dans une perspective d’+augmentation+ des performances ou d’amélioration du +bien-être+ ».

Non seulement « les bénéfices attendus dans ces contextes demeurent incertains » mais « les risques pour les personnes et pour la société sont encore insuffisamment documentés », pointent-ils dans un communiqué.

Rappelant que les neurotechnologies numériques « touchent directement le cerveau, organe qui fonde la pensée, la vie psychique et l’identité de la personne », les comités demandent « une vigilance particulière » pour prévenir des dérives.

D’autant plus que l’IA « exacerbe les tensions et les risques », alertent-ils: « la collecte directe de données neurales (…) ne pourrait qu’élargir l’emprise des acteurs y ayant accès sur les individus et leurs interactions sociales, si des limites strictes de protection ne sont pas rapidement établies ».

Les comités recommandent ainsi d’affirmer « le caractère personnel et sensible » des données neurales, d’assurer un consentement explicite et éclairé de leur usage, de renforcer les exigences de sûreté et de cybersécurité, et d’encadrer strictement les usages non médicaux.

Ils appellent à interdire leur usage hors indications médicales, à prévenir toute utilisation des données à des fins discriminatoires, notamment dans l’emploi, et à protéger enfants et adolescents.

Face aux évolutions rapides, les comités invitent à ajouter les neurotechnologies numériques aux États généraux de la bioéthique, préalable à une potentielle révision législative, et à réévaluer régulièrement leur encadrement.