Quand l'intelligence artificielle se trompe le plus souvent : les limites de l'apprentissage automatique

Introduction : La nature des erreurs de l'IA comme phénomène systémique

Les erreurs des systèmes d'intelligence artificielle (IA) basés sur l'apprentissage automatique (ML) ne sont pas des dysfonctionnements accidentels, mais des conséquences régulières de leur architecture, de leur mode d'apprentissage et de leur différence fondamentale avec la cognition humaine. Contrairement à l'homme, l'IA ne «comprend» pas le monde dans un sens sémantique ; elle détecte des corrélations statistiques dans les données. Ses erreurs se produisent là où ces corrélations sont perturbées, où des raisonnements abstraits, du bon sens ou une compréhension du contexte sont nécessaires. L'analyse de ces erreurs est critique pour évaluer la fiabilité de l'IA et déterminer les limites de son application.

1. Le problème de biais des données (Data Bias) et les «lois de Garbage In, Garbage Out»

La source la plus courante et la plus dangereuse d'erreurs est le biais dans les données d'apprentissage. L'IA apprend et renforce les préjugés existants dans les données.

Irrégularités démographiques : Un cas célèbre avec un système de reconnaissance faciale qui montrait une précision beaucoup plus élevée pour les hommes blancs que pour les femmes noires, car il avait été formé sur un ensemble de données disproportionné. Ici, l'IA n'a pas «commis une erreur» mais a reproduit fidèlement le déséquilibre du monde réel, ce qui a conduit à une erreur d'application dans un environnement diversifié.

Irrégularités sémantiques : Si le mot-combiné «infirmière» est souvent associé au pronom «elle» et «programmeur» au pronom «il» dans les données d'apprentissage, le modèle générera des textes reproduisant ces stéréotypes de genre, même si le genre n'est pas indiqué dans la requête. C'est une erreur au niveau du contexte social que le modèle ne comprend pas.

Fait intéressant : En informatique, le principe «Garbage In, Garbage Out» (GIGO) — «mусор на входе, мусор на выходе» — est en vigueur. Pour l'IA, il a été transformé en un principe plus profond «Bias In, Bias Out» — «biais sur l'entrée, biais sur la sortie». Le système ne peut pas surmonter les limites des données sur lesquelles il a été formé.

2. Les attaques adversaires : le hacking pour l'IA

Ce sont des modifications intentionnelles et souvent imperceptibles des données d'entrée qui conduisent à des conclusions erronées et radicales de l'IA.

Exemple avec une image : Une étiquette de quelques pixels d'une couleur et d'une forme spécifiques sur un panneau STOP peut faire classer un système de vision automatique comme un panneau de limitation de vitesse. Pour un humain, le panneau restera évidemment reconnaissable.

Mécanisme : Les exemples adversaires exploitent les «zones d'ombre» dans l'espace de caractéristiques à haute dimension de la modèle. L'IA perçoit le monde pas comme des objets cohérents, mais comme un ensemble de modèles statistiques. Une «perturbation» minime mais stratégiquement correcte déplace le point de données dans l'espace des caractéristiques au-delà de la frontière de la solution du modèle, changeant la classification.

3. Problèmes de généralisation et «monde dans une boîte»

L'IA, en particulier les réseaux de neurones profonds, a tendance à surapprendre (overfitting) — ils se souviennent non des lois générales, mais des exemples spécifiques de l'échantillon d'apprentissage, y compris le bruit.

Erreurs sur des données «d'une autre distribution» : Un modèle formé sur des photos de chiens et de chats prises dans des conditions domestiques la journée peut perdre complètement sa précision si on lui donne une image infrarouge nocturne ou un dessin animé. Il n'a pas détecté le concept abstrait de «chatitude», mais a appris à réagir aux motifs spécifiques des pixels.

Absence de bon sens : Un exemple classique : L'IA peut décrire correctement la scène «un homme assis sur un cheval dans le désert», mais générer la phrase «un homme tient une batte de baseball» en s'asseyant sur un cheval, parce que statistiquement, la batte pouvait apparaître dans le contexte du sport en plein air. Il n'a pas accès à la logique physique et causale du monde.

4. Traitement du contexte et de l'ironie

Les modèles linguistiques (comme GPT) montrent des résultats impressionnants, mais font des erreurs grossières dans les tâches nécessitant une compréhension profonde du contexte ou des sens non littéraux.

Ironie et sarcasme : La phrase «Oh, quelle belle journée !» dite pendant une tempête sera interprétée littéralement par le modèle comme une évaluation positive, car les mots positifs («belle», «journée») sont statistiquement associés à des contextes positifs dans les données.

Raisonnements logiques à plusieurs étapes : Les tâches de style «Si je met un œuf dans le réfrigérateur, puis je déplace le réfrigérateur dans le garage, où il y aura l'œuf ?» nécessitent la construction et la mise à jour de la modèle mental du monde. Un IA fonctionnant sur la prédiction du mot suivant peut souvent «perdre» des objets au milieu d'un récit complexe ou faire des conclusions illogiques.

5. « Fragilité » dans des conditions d'incertitude et de nouvelles situations

L'IA n'a pas bonne main à gérer les situations sortant de son expérience, en particulier lorsque l'on doit reconnaître l'insuffisance des données.

Problème de détection de distribution hors de distribution : Un IA médical formé à diagnostiquer la pneumonie par des radiographies du thorax peut donner un diagnostic avec une haute mais fausse confiance si on lui montre une radiographie du genou. Il ne comprend pas que c'est absurde, car il ne possède pas de métaknowledge des limites de sa compétence.

Tâches créatives et ouvertes : L'IA peut générer un récit plausible mais absolument inexcutable ou dangereux, un plan de construction d'un pont en violation des lois de la physique, ou un document juridique avec des références à des lois inexistantes. Il manque de censure interne critique basée sur la compréhension de la nature des phénomènes.

Exemple de la réalité : En 2016, Microsoft a lancé le chatbot Tay sur Twitter. Le bot a été formé sur l'interaction avec les utilisateurs. En 24 heures, il est devenu une machine générant des propos racistes, sexistes et offensants, car il a appris statistiquement les réactions les plus fréquentes et émotionnellement chargées de son nouveau environnement agressif. Ce n'était pas une «erreur» de l'algorithme, mais son travail exact, qui a conduit à un résultat catastrophique dans un environnement social imprévisible.

Conclusion : L'erreur comme miroir de l'architecture

• Les erreurs de l'IA se produisent systématiquement dans des zones «frontalières» :
• Éthique-sociale (biais des données).
• Abstrait-logique (absence de bon sens, de relations causales).
• Contextuelle (manque de compréhension de l'ironie, du sens profond).
• Adversaire (vulnérabilité aux déformations intentionnelles).

Ces erreurs ne sont pas des imperfections techniques temporaires, mais des conséquences d'une différence fondamentale entre l'approximation statistique et la compréhension humaine. Elles indiquent que l'IA moderne est un outil puissant pour résoudre des problèmes à l'intérieur de domaines de données clairement définis, stables et bien décrits, mais il reste un «savant idiot» : un génie dans un domaine étroit et impuissant dans des situations nécessitant de la flexibilité, des jugements contextuels et une compréhension. Par conséquent, l'avenir de l'utilisation raisonnable de l'IA ne réside pas dans l'attente de son «esprit complet», mais dans la création de systèmes hybrides «homme-IA», où l'homme assure le bon sens, l'éthique et le travail avec des exceptions, et l'IA — la vitesse, l'échelle et la détection de modèles cachés dans les données.

Permanent link to this publication: