EN
  • A1
  • Premiers pas
  • Vérifier
  • 4 min

L’IA peut se tromper

Situation

La situation

Repérer ce qui se vérifie, et demander à l’IA où le vérifier.

Vous êtes chauffagiste à Amiens. Un client veut un devis pour remplacer sa chaudière. Vous demandez à l’IA le prix moyen d’une chaudière neuve : elle répond un montant précis, sans aucune source.

Notion 1 sur 3

Elle prédit, elle ne vérifie pas

Un modèle d’IA est le programme qui écrit la réponse. Il prédit les mots les plus probables, sans vérifier qu’ils sont vrais. Il peut donc inventer un prix avec le même aplomb qu’un fait exact.

Notion 2 sur 3

Ce qui se vérifie toujours

Les prix, les chiffres, les dates, les noms et les règles. Ce sont eux qui engagent votre entreprise devant un client. Une réponse bien écrite n’est pas une réponse vérifiée.

Notion 3 sur 3

Demandez-lui quoi vérifier

Posez une question de suivi : « Quels points de votre réponse dois-je vérifier, et où ? » L’IA prépare la liste. La vérification se fait ensuite dans une vraie source : fournisseur, site officiel, document. Les sources qu’elle cite peuvent aussi être inventées : ouvrez-les.

Exemple

Avant, après

À éviter

Parfait, je reprends ce prix dans mon devis.

Mieux

Quels éléments de votre réponse dois-je vérifier avant de faire mon devis, et auprès de quelles sources ?

Pourquoi ? La deuxième question transforme une réponse incertaine en liste de vérifications. Le prix final vient de vos fournisseurs, pas de l’IA.

Question 1 sur 3

L’IA vous donne un prix précis, sans source. Que vaut ce chiffre ?

L’IA vous donne un prix précis, sans source. Que vaut ce chiffre ?
Voir la réponse

Une piste à vérifier auprès de vos fournisseurs Un chiffre précis n’est pas un chiffre vérifié. Seule une vraie source le confirme.

Question 2 sur 3

Dans une réponse d’IA, que vérifiez-vous en priorité ?

Dans une réponse d’IA, que vérifiez-vous en priorité ?
Voir la réponse

Les montants et les dates Les montants et les dates engagent votre entreprise. Une formule maladroite se voit, un chiffre faux beaucoup moins.

Question 3 sur 3

Vous demandez à l’IA si elle est sûre d’elle. Elle répond oui. Est-ce une vérification ?

Vous demandez à l’IA si elle est sûre d’elle. Elle répond oui. Est-ce une vérification ?
Voir la réponse

Non, elle peut confirmer une erreur avec assurance. Une IA peut défendre une erreur avec aplomb. Une vraie vérification passe par une source extérieure.

Exercice

À vous

Écrivez la question de suivi que vous envoyez à l’IA pour savoir quoi vérifier dans sa réponse, et où le vérifier.

Première demande

Quel est le prix moyen d’une chaudière gaz à condensation neuve, pose comprise ?

Elle a déjà été envoyée à l’IA. Écrivez la suite de la conversation.

Ctrl + Entrée pour vérifier votre demande.

Points à vérifier

  • Demandez ce qu’il faut vérifier, à faire
  • Demandez où, ou auprès de qui, vérifier, à faire

Fin de la leçon

Leçon terminée

À retenir

Une réponse sûre d’elle n’est pas une réponse vérifiée : contrôlez prix et dates à la source.

Leçon suivante : Ce qu’on ne confie pasContinuer dans le chatRevenir au parcours