Il y a un peu plus d’un an, j’ai utilisé pendant quelques mois un assistant IA qui écoutais, retranscrivait et résumais mes consultations de médecine générale. J’avais entendu parlé de Nabla au Congrès de Médecine Générale de 2024, et le médecin qui en parlait en dressait un tableau si mélioratif de cet outil construit pour les médecins que j’ai tenté l’aventure pendant quelques mois.

Pourtant, je n’ai pas été charmé. Une fois l’enthousiasme initial passé, j’ai abandonné son usage et révoqué mon abonnement.
Plus récemment, un médecin que je remplace m’a proposé d’essayer celui de Doctolib, et je suis instantanément arrivé aux mêmes conclusions que celles que j’avais tiré alors quand à la pertinence de l’outil. J’ai eu envie de partager mon ressenti.

TL;DR: beurk.

💡 Je ne parle ici que des assistants de consultation, pas des “moteurs de recherches” IA. Ceux-ci méritent un article entier. Mais en résumé, mon idée à leur sujet est qu’ils sont peu fiables car prompt à halluciner, qu’ils sont chers (pour ceux qui comme eBIM s’adressent aux médecins), et que leur impact énergétique les rend rédhibitoires à mes yeux.

Confortable sans être fiable

Il est en effet fort confortable de ne pas avoir à taper sur son clavier pendant la consultation. On se concentre sur le patient, sur ses mimiques et son comportement, on le regarde dans les yeux plus facilement… bref : on communique mieux. L’enregistrement des informations se fait par l’ordinateur, discret et silencieux. Une fois venu le temps de conclure le dossier, un simple clic me donnera un résumé structuré de la consultation, décomposant en chapitres “interrogatoire”, “examen clinique”, “conclusions” ce que nous avons dit et ce que j’ai proposé. Un simple copié-collé dans le dossier patient promet de me faire gagner du temps et de la rigueur.

Hélas, dans mon expérience, ces promesses sont mal tenues.
Par exemple, lors de l’examen clinique, il me faut soit détailler à voix haute toutes mes observations, soit me résigner à les taper à la main moi même. Et bien que je le fasse parfois spontanément pour expliquer au patient ce que j’observe et ce que j’en conclue, je ne me vois pas faire une description exhaustive de chaque organe à chacune de mes consultations. Ce serait vite barbant pour moi, et je crois déshumanisant pour le patient.

Si ce n’était que cela, je m’en accommoderait. Mais même si je décidait de tout énoncer laborieusement à voix haute, le robot fait des erreurs. Trop, beaucoup trop d’erreurs.
Hallucinant des symptômes (combien de fois m’a-t’il inventé des douleurs ou des fièvres jamais évoquées par le patient ?), mélangeant les informations (la plaie est elle au bras droit ou gauche ? Est-ce l’oreille ou le nez qui coule ?), omettant certains éléments cruciaux (Je ne suis pas fou, cette dame m’a bien dit qu’elle prenait une contraception ?), le robot est loin d’être fiable. Il nécessite, exige, impose relecture et correction.

Mais si il me faut le relire, le corriger, retaper des pans entiers de consultation, comment exactement est-il supposé me faire gagner du temps ? Car il faut bel et bien retaper des pans entiers de consultation.

La forme touche le fond

Le style du LLM, supposément entraîné à rédiger des consultations, est pitoyable.

Verbeux, il noie l’information utile dans des flots de phrases à rallonges et de périphrases lourdes. « Le patient se plaint d’un nez qui coule principalement la journée », lira-t’on, alors que “rhinorrhée diurne” aurait été tellement plus claire… « Il rapporte une douleur dans la fesse qui descend dans la jambe » aurait été bien mieux résumé par “lombalgie sciatalgie”, et laissait la place de préciser le côté atteint. Mises bout à bout, ces longueurs s’accumulent en paragraphes abscons. Le résultat est un roman de dix-huit pages que l’on aurait pu résumer en 5 points clefs. La relecture du dossier à la consultation suivante devient un calvaire.

Oh, je sais que l’on peut “configurer” l’assistant en lui donnant des instruction et un contexte. Navré de décevoir les ingénieux qui ont construit ces outils et les enthousiastes du prompt : ça ne marche pas.
Avec une grande allégresse, le robot ignorait mes instructions les mieux rédigées : « sois concis, ne te répète pas, ne retranscris que ce qui a été explicitement mentionné lors de l’entretien… ». Autant peigner un lézard. Une machine qui fonctionne sur le hasard et les prédiction ne peut faire autre chose que d’être aléatoire : c’est sa nature. Même « emploie un vocabulaire médical et professionnel » m’octroyait des “peau qui gratte” en guise de “démangeaisons”, alors abandonnons l’espoir de voir apparaître le mot “prurit” . Frustrant, si frustrant.

Dans le cabinet où je travaillais alors, un de mes collègues employait cet outil également. C’est un très bon médecin : ses connaissances et ses prises en charge sont solides et fiables.
Mais relire ses dossiers médicaux, quelle plaie.

Tous ses éléments déjà m’avaient convaincu que payer 50 € par mois (de mémoire, peut être plus) était du gaspillage. Et puis, le temps passant, j’ai pris conscience d’autres problèmes que je négligeais à l’époque.

Écologique, d’abord. La consommation d’énergie de ces outils est terrifiante, tant à l’entraînement du modèle qu’à l’usage de ce dernier. Je deviens un peu éco-anxieux ces derniers temps, surtout depuis la naissance de mon premier petit, et l’usage à tout-va des IA commence à me dégoûter viscéralement.

Déontologique, ensuite. Malgré les promesses de ces entreprises de respecter les données personnelles, et les moyens techniques qui semblent être mis en œuvre pour cela, je n’ai pas, je n’ai plus confiance. Trop de services réputés sécurisés subissent non plus des fuites mais des déferlantes de données, trop de petites lettres dans les conditions générales d’utilisation, conditions parfois même baffouées par les services.
Que je puisse faire le choix d’engager mes données personnelles, ça me regarde (et pourtant j’évite). Que je livre sur un plateau d’argent les données les plus sensibles, les plus intimes de mes patients, c’est non.

Bien sûr, je pourrais (et même : devrais !) recueillir le consentement explicite de mes patients avant de les enregistrer, IA ou non. Mais entre les fois où l’on oublie, les personnes qui ne saisissent pas ce que cela implique, et ceux qui perdraient confiance en moi à cause de l’éventualité d’être enregistré, je trouve le prix à payer bien trop élevé. Un simple panneau affiché en salle d’attente, comme ça se fait parfois, me semble infiniment trop léger face aux implication qu’incombent à ces outils.

Non, définitivement, le plus simple est de ne pas utiliser ces outils. Trop peu efficaces, trop cher (79€/mois chez doctolib!), trop peu fiables… Je n’en veux pas.