Article 11 minLeçon 1/5

Ce que l'IA peut mal faire : le guide du technicien averti

Identifier les six grandes familles de risques liés à l'usage de l'IA au travail et savoir quand lever la main.

L'IA n'est pas une boîte magique. Dans une usine, on ne mettrait jamais en service une machine dont on ne connaît pas les modes de défaillance. L'IA mérite le même traitement : avant d'en faire un outil quotidien, il faut savoir quand elle se trompe, ce qu'elle ne doit pas voir et ce qu'elle coûte vraiment.

Les six familles de risques IA en industrie

Fiabilité — l'IA se trompe avec aplomb

Hallucinations, sources inventées, calculs faux présentés avec confiance absolue.

Confidentialité — les données qui ne doivent pas sortir

Plans, contrats, données personnelles ou secrets industriels collés dans un outil grand public.

Biais et éthique — le modèle hérite du passé

Données d'entraînement biaisées → résultats discriminants ou orientés sans que l'on s'en aperçoive.

Cadre légal — RGPD & AI Act

Données personnelles et usages à risque sont encadrés par la loi ; ne pas s'y conformer expose l'entreprise.

Dépendance — la compétence qui s'érode

Déléguer trop à l'IA, perdre le savoir-faire de vérification et devenir incapable de détecter ses erreurs.

Coût — économique et environnemental

Abonnements, infrastructure, consommation électrique : l'IA a un prix que l'on oublie souvent de mettre dans la balance.

Chaque famille demande un réflexe différent. Aucune ne s'annule d'elle-même : il faut un humain qui les surveille.

01 — Hallucinations : quand l'IA invente avec aplomb

Un modèle de langage ne « cherche » pas dans une base de faits : il prédit le mot le plus probable à chaque étape. Résultat : il peut produire une réponse fluide, confiante et parfaitement fausse. En atelier, imaginez qu'il cite une norme de sécurité au numéro précis et d'apparence tout à fait officielle pour justifier une procédure — alors que cette référence n'existe pas. La formulation est impeccable, l'autorité apparente aussi — c'est là le danger.

Cas concret : le rapport d'incident inventé

Un responsable qualité demande à un chatbot de synthétiser les incidents de la semaine. Le chatbot, n'ayant accès qu'à un contexte partiel, invente deux incidents qui ne se sont pas produits — avec des noms de machines plausibles, des dates vraisemblables et un ton technique convaincant. Sans relecture, ces faux incidents auraient figuré dans le reporting mensuel.

Règle absolue : vérifier toute source citée

Si l'IA mentionne une étude, une norme, un chiffre ou un nom de personne, cherchez la source originale avant d'utiliser l'information. Une source introuvable est probablement inventée.

02 — Confidentialité : ce qui ne doit jamais quitter l'entreprise

Lorsque vous copiez-collez un texte dans un outil d'IA grand public (chatbot en ligne, traducteur automatique, assistant de rédaction), ce texte quitte votre réseau. Il peut être stocké sur des serveurs à l'étranger, utilisé pour réentraîner des modèles, ou exposé en cas de fuite. Cela concerne notamment : les plans industriels et schémas de fabrication ; les contrats et tarifs fournisseurs ; les données personnelles des salariés ou clients ; tout secret de fabrication ou savoir-faire propriétaire.

Sans feu vert, on ne colle pas

Avant d'utiliser un outil IA avec des données de l'entreprise, vérifiez qu'il figure sur la liste des outils autorisés par votre DSI ou votre direction. En cas de doute, anonymisez ou abstenez-vous. La règle : si vous n'oseriez pas l'envoyer par mail à un inconnu, vous ne le mettez pas dans un chatbot.

Anonymisation en pratique

Vous voulez faire traduire un contrat fournisseur. Remplacez le nom du fournisseur par « Fournisseur A », le montant exact par « montant X » et la référence produit par « réf. Y ». Le sens est préservé, les informations sensibles ne sortent pas.

03 — Biais : le modèle reproduit les inégalités du passé

Un modèle d'IA apprend à partir de données historiques. Si ces données reflètent des inégalités ou des habitudes passées, le modèle les reproduira — souvent en silence, sans avertissement. En industrie, cela peut concerner la planification (sous-estimer certains postes), la maintenance prédictive (ignorer les pannes rares qui n'apparaissent pas dans l'historique) ou encore l'évaluation des collaborateurs.

Le biais de l'historique de production

Un modèle de prévision de charge est entraîné sur trois ans de données incluant une période de sous-effectif. Il apprend qu'un certain niveau de rendement est « normal » alors qu'il reflétait en réalité une contrainte exceptionnelle. Résultat : le modèle sous-planifie systématiquement les ressources, et personne ne comprend pourquoi.

Le biais est d'autant plus dangereux qu'il est invisible dans le résultat : l'outil donne une réponse chiffrée, précise, qui a l'air neutre et objective. C'est pourquoi un humain qui connaît le contexte doit toujours valider les recommandations de l'IA sur des décisions importantes.

04 — Cadre légal : RGPD et règlement européen sur l'IA

Deux textes encadrent aujourd'hui l'usage de l'IA en Europe. Le RGPD (Règlement Général sur la Protection des Données) impose de ne pas traiter de données personnelles sans base légale, ni les confier à un prestataire sans garanties contractuelles. Le règlement européen sur l'IA (AI Act) classe les systèmes d'IA selon leur niveau de risque et impose des obligations croissantes pour les usages à fort impact sur les personnes (embauche, sécurité, etc.).

À retenir

En pratique, pour un opérateur ou un technicien : ne jamais saisir de données personnelles (nom, numéro de badge, données de santé, adresse) dans un outil IA non validé par l'entreprise. C'est à la fois une obligation légale et une bonne pratique.

05 — Dépendance : ne pas laisser l'IA penser à votre place

À force d'utiliser l'IA pour rédiger, calculer ou décider, on risque de ne plus exercer son propre jugement. Le danger n'est pas théorique : si l'outil produit une erreur et que vous n'êtes plus capable de la détecter, c'est votre signature qui est en bas du document faux. L'IA doit rester un outil d'accélération, pas un substitut au raisonnement.

L'expert qui perd la main

Un technicien de maintenance utilise depuis six mois un assistant IA pour rédiger ses fiches d'intervention. Un jour, l'outil est indisponible. Il se retrouve incapable de structurer son rapport seul — et réalise qu'il n'a plus exercé cette compétence depuis des mois. La solution : continuer à pratiquer régulièrement sans IA pour garder l'autonomie.

06 — Coût : économique et environnemental

L'IA a un coût souvent sous-estimé. Côté économique : abonnements aux outils SaaS, licences entreprise, infrastructure pour les modèles internes. Côté environnemental : entraîner un grand modèle de langage consomme une quantité d'énergie et d'eau significative, et chaque requête a une empreinte carbone, petite mais réelle. À l'échelle d'une équipe qui multiplie les usages, cela peut représenter un poste de coût et d'impact non négligeable.

À retenir

Utiliser l'IA là où elle crée vraiment de la valeur — pas par habitude ou par effet de mode. Avant de déployer un usage IA à grande échelle, évaluer le retour sur investissement et l'impact environnemental.

Précédent Suivant