Les géants de la technologie s'enfoncent dans le domaine des soins de santé en intégrant des chatbots d'intelligence artificielle avec des dossiers médicaux personnels.
Récemment, Microsoft a présenté Copilot Health, un outil permettant aux utilisateurs de connecter des dossiers provenant de nombreux établissements médicaux aux données provenant d'appareils portables tels qu'Apple Watch ou Fitbit, afin de créer une vue d'ensemble de la santé.
Cette tendance ne s'arrête pas à Microsoft. Amazon, OpenAI ou Anthropic testent également des plateformes similaires, comme Health AI ou ChatGPT Health.
Le point commun de ces systèmes est la collecte de données de santé et la fourniture d'analyses directes aux utilisateurs via une interface de chat.
En théorie, les chatbots peuvent aider à résoudre un problème majeur tel que les dossiers médicaux disséminés. Les informations de santé sont souvent dispersées dans de nombreux hôpitaux, ce qui rend la synthèse difficile. L'IA peut connecter ces données en quelques secondes seulement, au lieu de passer des heures à les traiter manuellement.
Dans un contexte de coûts médicaux élevés, les chatbots devraient être un outil pour aider les utilisateurs à mieux comprendre leur état, à mieux se préparer avant de consulter un médecin ou à rechercher des informations similaires à celles de sites comme WebMD.
Risques de sécurité et de confidentialité
Cependant, concentrer tous les dossiers médicaux sur une seule plateforme crée un risque majeur. Les experts mettent en garde contre le fait que les données médicales sont une "mine d'or" pour les pirates informatiques, car elles contiennent des informations sensibles que les utilisateurs souhaitent garder secrètes.
De plus, contrairement aux hôpitaux, qui sont soumis à des contraintes de sécurité strictes, de nombreuses entreprises technologiques ne sont plus soumises à des réglementations similaires.
Cela soulève des inquiétudes quant au fait que les données pourraient être utilisées à d'autres fins, telles que la formation à l'IA ou la publicité.
Certains experts mettent également en garde contre le risque que les données soient demandées par les organismes d'application de la loi, en particulier dans des questions sensibles telles que la santé reproductive.
Les conseils des chatbots sont-ils crédibles?
Bien qu'il soit annoncé comme un outil de soutien, les chatbots d'IA ne sont toujours pas assez fiables pour remplacer les médecins. Des études récentes montrent que les chatbots, notamment ceux d'OpenAI et de Meta, ne sont pas plus précis que les moteurs de recherche dans l'orientation diagnostique.
Plus dangereusement, l'IA peut parfois fournir de fausses informations ou modifier des conclusions simplement à cause de différentes façons de poser des questions.
Certains cas ont enregistré de graves conséquences lorsque les utilisateurs ont suivi des conseils inexacts.
Les experts estiment que malgré l'avertissement "pas de remplacement de médecin", les utilisateurs ont toujours tendance à faire confiance et à suivre les chatbots.
Cela peut entraîner un mauvais diagnostic ou une anxiété excessive, lorsque l'IA présente de graves possibilités pathologiques.
Microsoft a déclaré que Copilot Health ne fournit que des informations de référence et qu'il est mis en œuvre avec prudence par étapes. Cependant, les experts mettent en garde les utilisateurs contre le risque de divulgation de données personnelles, d'informations erronées et de risques d'autodiagnostic inexact.
