LEBIGDATA.FR I.A, Cloud & Cybersécurité
Suite à une enquête du Guardian, Google a commencé à retirer certains résumés générés par son IA sur des recherches liées à la santé. Au fait, le journal a montré que plusieurs réponses affichaient des données incomplètes.
Inutile de vous informer qu’une telle chose pourrait fausser la lecture de résultats médicaux. Par exemple, si un internaute lui demandait « quelle est la plage normale pour les analyses de sang du foie ».
Les chiffres proposés ignore l’âge, le sexe, l’origine ou la nationalité des patients. Ce qui pouvait leur faire croire que leurs résultats étaient corrects alors qu’ils ne l’étaient pas.
Pourquoi Google supprime ses aperçus IA ?
Le Guardian précise que les résumés ont disparu pour des requêtes très ciblées. Comme celles portant sur la plage normale des analyses sanguines du foie ou des tests de la fonction hépatique.
Du genre, « quelle est la plage normale pour les analyses sanguines du foie » ou encore « quelle est la plage normale pour les tests de la fonction hépatique ». En revanche, le journal a remarqué que des variantes de ces demandes pouvaient encore afficher des synthèses via l’IA.
« plage de référence des tests hépatiques » ou « plage de référence des examens hépatiques » font par exemple partie de ces variantes. Cela dit, plusieurs heures après la diffusion de l’article du Guardian, ces recherches n’ont plus mené à des résultats de synthèse IA.
Et ce, même si Google suggérait toujours d’exécuter la même requête en mode IA. Dans certains cas, le premier lien était en réalité l’article du Guardian traitant de cette suppression.
Interrogé par le journal, Google indique ne pas commenter chaque retrait individuellement. L’entreprise évoque plutôt des ajustements généraux de son service.
Le représentant a aussi indiqué qu’une équipe interne de cliniciens avait étudié les requêtes mises en lumière par le Guardian. Et le meilleur pour la fin, la team a noté que « dans de nombreux cas, les informations étaient correctes et confirmées par des sites web de grande qualité ».
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
