IA et santé • Propositions pour une régulation éclairée

Cyrille Dalmont, chercheur associé à l’Institut Thomas More

       

21 novembre 2018 •


S’il n’est pas le plus médiatisé, l’impact de l’Intelligence artificielle et de son développement fulgurant dans le domaine de la santé n’est pas le plus négligeable parmi les nombreux champs couverts par la loi relative à la bioéthique que la France s’apprête à réviser en 2019.

Le monde de la santé, de la recherche, de la médecine du quotidien ou de la médecine prédictive va être totalement transformé et impacté par des technologies qui n’existaient pas quand les soignants d’aujourd’hui ont commencé leurs études. Le Comité consultatif national d’éthique (CCNE) qualifie ce rythme de diffusion du numérique au sein de notre système de santé de « fait majeur irréversible ».

La demande de régulation

Cette révision va donc devoir se faire sur la base de connaissances existantes mais également dans une logique d’anticipation bien délicate de ce que sera l’état de la science et de la technique dans les prochaines années. Cela doit inviter le législateur à la prudence. Une prudence que de plus en plus d’acteurs de l’IA réclament, d’Elon Musk à Tim Cook, de la Déclaration de Montréal à Tim Berners-Lee, ainsi que l’adoption d’un cadre législatif et réglementaire clair.

Il convient en effet de ne pas trop se laisser noyer par des considérations techniques, comme l’a fait selon nous le rapport Villani en mars dernier. Ces déclarations et ces pétitions appellent à la retenue et à la prise en main de la question par la puissance publique. Le domaine de la santé humaine est l’un des plus concernés par ces enjeux. Une régulation éclairée, si elle devait être adoptée, devrait se déployer selon trois axes : la réaffirmation de l’humain au centre de notre système de soins ; le contrôle strict des machines pour qu’elles ne donnent que le meilleur de leur promesse, et non le pire ; la création d’instances éthiques et de régulation à la hauteur des mutations annoncées.

Un label pour gérer les données

Face à l’enjeu de la maîtrise des données des patients à grande échelle, une première mesure, simple à concevoir, serait une labellisation par l’État des entreprises selon leur niveau d’habilitation à traiter certaines données et la création d’un code couleur en fonction du degré de leur confidentialité.

Le droit de recourir à un humain

Deuxièmement, afin d’identifier de manière certaine l’origine des diagnostics médicaux, un pictogramme à imposer sur tous les actes, images ou ordonnances permettrait d’avertir soignants et patients qu’ils ont été réalisés par des IA, mais également de se prévaloir d’une intervention humaine en dernier recours qui devrait s’imposer comme un droit fondamental.

Former toute la vie

Troisième priorité : la formation. Les personnels soignants sont en effet appelés à se former de manière totalement différente face à une révolution industrielle dont les premiers effets sont déjà sur le terrain. Pour cela, il serait nécessaire de créer un « crédit de formation de transition technologique » puis de donner à la formation professionnelle la forme d’un « contrat en alternance à vie » avec des périodes de travail et des périodes de formations successives pour se mettre à niveau.

Designer un médecin référent

En matière de responsabilité juridique, une solution prudente consisterait à rattacher obligatoirement et systématiquement toute IA et tout robot actif dans les services de santé à un médecin référant et à son assurance afin de protéger les patients contre une recherche de responsabilité en cascade. Le développement de la chirurgie robotique devrait être encadré par deux règles, en plus du consentement renforcé du patient : la présence systématique d’un spécialiste référent durant cette opération et, puisque toute machine est piratable, l’existence d’un protocole d’arrêt d’urgence au niveau « hardware » avec un test obligatoire.

Définir la frontière entre prothèse et augmentation

La question des prothèses numériques et mécaniques, enfin, pourrait s’appréhender au travers d’une règle forte : la loi devrait tracer la frontière entre la prothèse, qui permet de pallier la défaillance de fonctionnement normal d’un membre d’un individu, et la recherche de l’augmentation humaine, qui constituerait une ligne rouge.

Des comités d’éthique mutualisés

Six Français sur dix ne seraient aujourd’hui pas prêts à interagir avec un robot dans le domaine de la santé. Parce que ces sujets inquiètent et interrogent, la proposition du CCNE de créer un comité d’éthique spécialisé dans les enjeux du numérique va dans le bon sens. Mais elle devrait être complété par la mise en place d’un recours systématique à des comités d’éthiques mutualisés (par branche ou secteurs) pour tous les acteurs qui participeront demain à notre système de soins, même si leur champ de compétence paraît à première vue éloigné du monde de la santé.

Les développements de l’Intelligence artificielle dans le domaine de la santé sont en effet immenses et les répercussions pour les patients comme pour les soignants considérables. Tout cela exige un débat franc et ouvert afin de fixer un cadre juridique clair, des règles de pratique prudentes et des limites aux risques de dérives