Un rapport de surveillance met en garde contre des erreurs graves dans les outils d'intelligence artificielle pour la prise de notes des médecins de l'Ontario

Toronto —
La vérificatrice générale de l’Ontario a averti que des outils d’intelligence artificielle destinés à aider les médecins à prendre des notes sur les patients ont fourni des informations incorrectes ou incomplètes, et ont montré dans certains cas ce que l’on appelle des « hallucinations » numériques.

Les résultats figuraient dans un rapport plus large sur l’utilisation de l’intelligence artificielle dans le service public de la province, où la vérificatrice Shelley Spence a examiné la manière dont le gouvernement évalue les systèmes médicaux qui transforment les conversations entre médecins et patients en notes écrites.

Lors du processus d’achat gouvernemental, les évaluateurs ont examiné 20 programmes de ce type, et ont constaté que certaines transcriptions et notes qui en résultaient comportaient des erreurs substantielles, omettaient des informations importantes ou ajoutaient des détails non mentionnés dans la conversation originale.

La vérificatrice a déclaré que ces erreurs suscitent des inquiétudes particulières lorsqu’il s’agit des soins de santé, car des dossiers médicaux inexacts peuvent influencer les décisions de diagnostic, de traitement et de suivi.

Le rapport a critiqué l’insuffisance de l’évaluation à laquelle ces outils ont été soumis avant leur adoption ou leur examen, notant que le gouvernement n’a pas mis en place de contrôles suffisamment stricts pour tester la précision, les risques, la confidentialité et la sécurité des patients.

Les systèmes de prise de notes médicales assistés par intelligence artificielle sont utilisés pour alléger la charge administrative des médecins, en résumant les visites médicales et en préparant des notes cliniques plus rapidement, mais le rapport a montré que leur utilisation sans révision minutieuse peut comporter des risques réels.

Les résultats interviennent dans un contexte d’expansion rapide de l’utilisation de l’intelligence artificielle dans le secteur public, y compris dans la santé, l’éducation et les services gouvernementaux, avec des appels croissants à l’établissement de règles plus claires en matière de transparence et de responsabilité.

Le rapport a confirmé que l’intelligence artificielle peut aider à améliorer l’efficacité, mais a insisté sur le fait qu’elle ne doit être utilisée dans les secteurs sensibles que dans le cadre strict de tests humains, de révisions professionnelles et de protection des données.