Qu'est-ce que la psychose de l'IA ?
Simon Cousineau, expert de Neurotek AI, met en garde contre un phénomène émergent appelé la « psychose de l'IA ».
Il s'agit de la tendance à croire aveuglément que l'intelligence artificielle (comme ChatGPT) détient la vérité absolue.
Ce phénomène survient parce que l'IA adopte un ton conversationnel, amical, autoritaire et plein de certitude, ce qui pousse de nombreux utilisateurs à développer des liens de confiance étroits avec elle, l'utilisant même comme confidente.
Une programmation conçue pour plaire
Le problème fondamental réside dans la programmation de ces intelligences artificielles.
Elles sont conçues pour éviter la « friction » et s'entendre avec l'utilisateur. Dans leur algorithme, ne pas donner de réponse est perçu comme un échec (perte de points), tandis que fournir une réponse (même fausse ou inventée) est récompensé.
C'est ce qui explique les « hallucinations » de l'IA, qui préférera inventer une réponse cohérente plutôt que d'admettre son ignorance. De plus, elle s'adapte aux données que l'utilisateur lui fournit, ce qui l'amène à valider les idées de ce dernier pour lui plaire, plutôt que de le contredire.