La vague imminente de désinformation des patients due à l'IA (et comment les médecins peuvent s'y préparer)

Les systèmes d'IA générative peuvent rédiger des essais semblables à ceux rédigés par des humains, répondre à des questions et converser sur presque tous les sujets. Si ces modèles offrent des possibilités passionnantes pour l'éducation des patients, ils présentent également un nouveau risque : des conseils médicaux plausibles mais incorrects. Les médecins doivent anticiper la manière dont les patients pourraient consommer Informations générées par l'IA et se préparer à contrer la désinformation avant qu'elle ne nuise aux résultats.

Comment l'IA génère des informations erronées

Les grands modèles linguistiques apprennent les schémas dans les textes en lisant des millions de documents. Ils ne comprennent pas vraiment le contenu qu'ils produisent ; ils prédisent plutôt les mots qui sont susceptibles de suivre. Lorsqu'on leur pose une question médicale, ils génèrent une réponse qui semble faire autorité, mais qui peut être factuellement erronée ou incomplète. De plus, comme ces modèles ont parfois tendance à halluciner, c'est-à-dire à inventer des détails plausibles lorsqu'ils manquent de données, une réponse peut inclure des traitements, des statistiques ou des mécanismes fictifs.

Les chatbots et les assistants vocaux basés sur ces modèles peuvent fournir des conseils directement aux patients sans supervision médicale. Certaines plateformes résument des contenus provenant de sources disparates (y compris des blogs non vérifiés ou des études obsolètes), ce qui aggrave les erreurs. Les réseaux sociaux amplifient ces informations, permettant ainsi à des conseils inexacts ou dangereux de se propager rapidement.

Conséquences pour les patients

Les fausses informations générées par l'IA peuvent entraîner des retards dans les traitements, une mauvaise utilisation des médicaments ou l'adoption de pratiques nocives. Par exemple, un chatbot qui rassure à tort un patient souffrant de douleurs thoraciques pourrait retarder les soins d'urgence ; une IA résumant les bienfaits d'un complément alimentaire pourrait omettre les contre-indications. Au fil du temps, l'exposition répétée à des informations inexactes érode la confiance dans la médecine factuelle.

Comment les médecins peuvent se préparer

1. Restez informé sur Outils d'IA: Comprenez comment fonctionnent les chatbots et les applications de santé populaires, leurs limites connues et d'où ils tirent leurs données. Testez-les avec des questions courantes posées par les patients pour voir quelles réponses ils donnent.

2. Éduquer les patients : Lors des rendez-vous, demandez aux patients s'ils utilisent des outils d'IA pour obtenir des conseils médicaux. Encouragez-les à vérifier toute recommandation trouvée en ligne ou via un chatbot auprès de vous ou d'autres professionnels.

3. Fournir des ressources faisant autorité : Maintenir un site Web à jour ou profil (par exemple, via Guide.MD) contenant des informations précises sur les affections courantes, les médicaments et les procédures. Recommandez des sites ou des applications fiables, sélectionnés par des professionnels de santé.

4. Plaidoyer en faveur de la réglementation et des normes : Soutenir les efforts visant à établir des normes de sécurité pour les informations de santé fournies par l'IA. Encourager les développeurs d'IA à inclure des mentions, à citer leurs sources et à mettre en place des contrôles de sécurité afin d'identifier les conseils à haut risque.

5. Corrigez rapidement les informations erronées : Si une rumeur nuisible générée par l'IA se propage (par exemple via les réseaux sociaux), réagissez publiquement. Fournissez des explications claires et des preuves pour contrer les fausses allégations.

6. Collaborez avec des développeurs IA : Offrez votre expertise aux entreprises qui développent des IA dans le domaine de la santé. L'apport des médecins peut améliorer la précision et réduire le risque de résultats néfastes.

L'IA va inévitablement transformer la manière dont les patients recherchent des informations. Plutôt que de s'opposer à son utilisation, les médecins doivent guider son intégration responsable dans les soins de santé. En s'informant de manière proactive et en informant leurs patients, les médecins peuvent atténuer les risques de désinformation liés à l'IA et veiller à ce que la technologie améliore, plutôt que compromette, les pratiques fondées sur des preuves.