Google aurait discretement supprime la fonctionnalite AI Overview pour certaines questions medicales, apres que le Guardian a publie les resultats d'une enquete montrant que les reponses creees par l'IA pourraient provoquer de graves malentendus chez les utilisateurs.
Selon le Guardian, lorsque les utilisateurs recherchent des questions relatives aux tests de fonction hepatique, telles que « quelle est la plage normale des tests sanguins hepatiques? », Google a deja affiche une vue d'ensemble de l'IA (AI Overview) avec des chiffres descriptifs.
Ces informations ne prennent pas en compte des facteurs importants tels que l'age, le sexe, la race ou la nationalite, qui sont des variables qui peuvent avoir un impact important sur les resultats des tests medicaux.
Cela recele le risque que les utilisateurs comprennent mal leur etat de sante, voire pensent subjectivement que le resultat est normal alors qu'en realite ce n'est pas le cas.
Apres la publication de l'article d'enquete, le Guardian a declare que les resultats globaux de l'IA n'apparaissaient plus avec des questions specifiques telles que « quelle est la plage normale des tests hepatiques? » ou « quelle est la plage normale des tests de fonction hepatique? ».
Cependant, le journal a egalement decouvert que certaines autres variantes de la question, telles que "la plage de reference LFT" ou "la plage de reference du test LFT", peuvent toujours activer le resume cree par l'IA.
Lors de l'essai sur le terrain realise quelques heures apres la publication de l'article par le Guardian, les questions susmentionnees n'affichent plus un aperçu de l'IA dans les resultats de recherche habituels.
Malgre cela, Google permet toujours aux utilisateurs de poser ces memes questions en "Mode AI", qui est une fonctionnalite distincte.
En reponse au Guardian, un porte-parole de Google a declare que l'entreprise n'avait pas commente la suppression de chaque resultat specifique dans la recherche.
Cependant, Google affirme qu'il s'efforce de mettre en œuvre des ameliorations globales au systeme. Selon ce porte-parole, un groupe d'experts medicaux internes a examine les questions soulevees par le Guardian et a estime que, dans de nombreux cas, les informations ne sont pas fausses et sont soutenues par des sites Web de haute qualite.
Malgre cela, la mesure de suppression est toujours saluee positivement par de nombreuses organisations medicales. Mme Vanessa Hebditch, directrice de la communication et des politiques du British Liver Trust, a qualifie cela de "bonne nouvelle", mais a exprime une inquietude plus profonde.
Selon elle, le probleme ne reside pas seulement dans quelques questions specifiques, mais dans la maniere dont Google deploie globalement l'IA dans le domaine de la sante en general.
Si Google supprime simplement l'aperçu de l'IA pour certains resultats individuels sans resoudre les risques systemiques, alors les inquietudes concernant les informations medicales creees par l'IA restent intactes", a souligne Mme Hebditch.
Auparavant, Google avait annonce de nouvelles fonctionnalites visant a ameliorer l'experience de recherche liee aux soins de sante, notamment la mise a niveau de modeles d'IA specialises.
