Chatgpt hallucine une maladie : la santé publique est-elle prête ?
L'intelligence artificielle se présente comme un outil révolutionnaire, mais une récente expérience a mis en lumière une faille alarmante : sa propension à inventer des réalités. ChatGPT, le chatbot de OpenAI, a été berné par une maladie fictive, la « bixonimania », démontrant ainsi les risques potentiels de l'IA dans des domaines sensibles comme la santé.
Un canular médical qui a pris la réalité
Almira Osmanovic Thunström, chercheuse médicale à l'Université de Göteborg, a orchestré cette expérience audacieuse. Elle a créé deux faux articles scientifiques décrivant la bixonimania et les a publiés sur un serveur académique. L'objectif ? Tester la véracité des informations que les IA considèrent comme fiables. Le résultat est stupéfiant : non seulement ChatGPT a reconnu l'existence de cette maladie inexistante, mais d'autres IA de premier plan comme Gemini, Claude et Copilot ont suivi le mouvement.
Le plus inquiétant, ce n'est pas la simple reconnaissance de la bixonimania, mais la capacité de ces IA à fournir des conseils médicaux sur sa gestion. Elles ont commencé à citer ces faux articles comme des références crédibles, créant un cercle vicieux d'informations erronées qui s'est propagé jusqu'aux médias spécialisés. C’est une illustration parfaite de la dangerosité de l'IA lorsqu'elle n'est pas encadrée par une validation humaine rigoureuse.
Ce qui frappe, c’est l’absence de discernement. Ces modèles linguistiques, aussi sophistiqués soient-ils, ne font que reproduire ce qu'ils trouvent sur Internet. Ils n'analysent pas, ne jugent pas la crédibilité des sources, ils ne « comprennent » rien. Comme le dit l'adage, ils sont des perroquets numériques, répétant ce qu'ils entendent sans en saisir le sens. L'IA, dans son état actuel, est un miroir déformant de la connaissance humaine, reflétant aussi bien les vérités que les mensonges.
L'absence de filtres efficaces laisse passer des informations fausses sans le moindre contrôle. La question se pose donc : comment garantir que l'IA ne diffuse pas des informations erronées, potentiellement dangereuses, dans des domaines aussi critiques que la santé, la politique ou la cybersécurité ? L'absence de surveillance est criante, et les conséquences pourraient être désastreuses.
La bixonimania, une maladie imaginaire, a révélé une réalité bien plus préoccupante : la fragilité de l'information à l'ère de l'IA. Il est temps que les développeurs, les régulateurs et les utilisateurs prennent conscience des limites de ces outils et mettent en place des mécanismes de contrôle robustes. Sinon, le risque est de se laisser submerger par un océan de données, où la vérité et la fiction se confondent, avec des conséquences potentiellement irréversibles.