Fondamentaux du Big Data & de l'IA

Hallucinations & biais : reconnaître les limites de l'IA

Deux failles à connaître avant de faire confiance à une réponse générée par l'IA — comment les repérer, comment vous en protéger.

LENOUVION Consulting Module Fiabilité & esprit critique 15 min

Une IA générative peut se tromper de deux façons très différentes : elle peut inventer une information, ou elle peut reproduire un déséquilibre présent dans ce qu'elle a appris. Les deux sonnent tout aussi sûres d'elles à l'oral — c'est ce qui les rend dangereuses. Parcourez les deux onglets, puis testez votre œil sur l'exercice en bas de page.

1

Comprendre

Une hallucination, c'est une information fausse, inventée ou invérifiable que l'IA présente avec la même assurance qu'un fait exact. Le modèle ne « sait » pas qu'il ment : il complète une phrase de façon statistiquement plausible, sans lien garanti avec la réalité.

Exemple concret Vous demandez une étude sur l'adoption de l'IA dans les PME françaises. L'IA répond : « Selon une étude de l'Université de Lyon publiée en 2019, 73 % des PME auraient déjà adopté l'IA générative. » Étude, université, chiffre, date : tout est inventé, mais rien ne le laisse deviner.
2

Repérer

Signaux qui doivent vous alerter :

  • Un chiffre très précis, sans source citée ou avec une source qui semble « trop parfaite »
  • Une citation, un article de loi ou une référence que vous ne retrouvez nulle part ailleurs
  • Une réponse fluide et détaillée sur un sujet très pointu ou très récent
  • Aucune nuance, aucun doute exprimé, même sur une question incertaine
  • Deux réponses contradictoires obtenues à quelques minutes d'intervalle
3

Prévenir

  • Vérifiez systématiquement tout chiffre, toute date, toute source avant de la réutiliser
  • Demandez explicitement à l'IA de citer ses sources — et vérifiez qu'elles existent
  • Croisez la réponse avec une recherche web ou une base fiable pour tout usage professionnel
  • Posez la question « quel est ton niveau de certitude sur ce point ? »
  • Découpez les questions complexes en sous-questions plus simples à vérifier
  • Privilégiez un outil avec recherche web activée pour toute information factuelle récente
Réflexe à retenir

Plus une réponse a l'air sûre d'elle sur un point précis et vérifiable, plus vous devez la vérifier.

1

Comprendre

Un biais, c'est une tendance systématique de l'IA à reproduire ou amplifier un déséquilibre présent dans ses données d'entraînement — de genre, d'âge, d'origine, de milieu social. Contrairement à l'hallucination, l'information n'est pas inventée : elle est réelle, mais orientée de façon répétée dans le même sens.

Exemple concret Vous demandez à l'IA de générer cinq profils de candidats pour un poste de comptable. Les cinq profils proposés sont des femmes de 25 à 35 ans. Rien n'est faux dans chaque profil pris isolément — le déséquilibre est dans la répétition.
2

Repérer

Signaux qui doivent vous alerter :

  • Une réponse homogène sur un sujet où la diversité serait attendue (métiers, profils, situations)
  • Une généralisation rapide sur un groupe de personnes
  • Le même profil-type qui revient systématiquement, quelle que soit la reformulation
  • Aucun contre-exemple spontané proposé par l'IA
3

Prévenir

  • Reformulez la même demande plusieurs fois et comparez les réponses obtenues
  • Demandez explicitement une diversité de profils ou de points de vue dans le prompt
  • Faites relire par un regard humain tout contenu sensible (recrutement, communication externe)
  • Formulez des prompts neutres, sans indice de genre, d'âge ou d'origine non nécessaire
  • Encadrez la demande par une consigne explicite de diversité dès la formulation
  • Gardez un esprit critique systématique : « qui est absent de cette réponse ? »
Réflexe à retenir

Si l'IA vous propose toujours le même type de profil, la question à poser est : qui manque à l'appel ?

À vous de jouer

Pour chaque réponse d'IA ci-dessous, identifiez s'il s'agit d'une hallucination, d'un biais, ou d'aucun des deux.

Score : 0/6