L'erreur qui a l'air juste

La phrase de l'image d'en-tête provient d'une séance de travail chez Skopa. Elle est grammaticalement correcte, elle est juste sur le fond, et elle contient une erreur que personne n'a vue sur le moment : dans le mot « клиentseitig », les trois premières lettres sont cyrilliques. Elle n'est apparue que des heures plus tard, sur l'écran d'un téléphone, parce que les caractères y sont plus grands. Ce type d'erreur explique pourquoi un travail produit par une machine exige un second regard — et pourquoi ce second regard doit être organisé autrement que ne l'imaginent la plupart des entreprises.

Pas des caractères brouillés, un mot entier

Une erreur d'encodage abîme le texte au hasard : les accents sautent, des signes deviennent des points d'interrogation, le résultat a l'air cassé. Ici, autre chose s'est produit. « кли » est le début de « клиент », le mot russe pour client. Au milieu d'une phrase allemande, le modèle a saisi la même notion dans une autre écriture, puis a terminé le mot en allemand. C'est une erreur de fond déguisée en erreur typographique.

Le mécanisme n'est pas une panne, c'est une propriété. Un modèle qui manie vingt langues garde la même notion sous vingt formes, et ces formes se tiennent très près les unes des autres. Un mot qui signifie la même chose dans plusieurs langues et qui sonne pareil — Klient, client, клиент — se tient particulièrement près. Au moment de produire la suite du mot, un léger écart suffit pour que la forme de la mauvaise langue apparaisse. Le modèle n'a pas « mal raisonné » : il a rendu la bonne notion dans la mauvaise écriture.

Il s'est d'ailleurs aussi trompé de terme : en allemand, « Klient » désigne le client d'un avocat, alors que le logiciel s'appelle « Client ». Deux erreurs dans un seul mot, et toutes deux auraient déclenché un correcteur orthographique. Un lecteur humain, lui, n'a rien déclenché.

Pourquoi l'œil échoue ici

Que de tels mots passent inaperçus n'est ni un hasard ni de l'inattention. Plusieurs lettres cyrilliques se distinguent à peine des latines, et dans certaines polices pas du tout. Le consortium Unicode recense ces paires dans une norme dédiée et les appelle « confusables » : des chaînes qui se ressemblent mais proviennent de systèmes d'écriture différents (Unicode Consortium 2026). L'exemple le plus connu y est une adresse qui écrit « paypal » avec deux lettres cyrilliques — identique pour l'œil, différente pour la machine.

Ce qui relève de l'intention dans une tentative de fraude était ici un pur accident. L'effet, lui, est le même. Et il frappe précisément là où une entreprise peut le moins se le permettre :

• Données de base : un nom d'entreprise contenant une lettre étrangère ne ressort plus à la recherche suivante. L'enregistrement existe et reste introuvable.
• Rapprochements : deux graphies identiques pour l'œil comptent comme différentes pour tout rapprochement. Le client apparaît en double, le paiement n'est pas affecté.
• Analyses : une règle de filtre ne prend pas, un regroupement se disloque, et il manque dans un total un montant que personne ne réclame.
• Code et configuration : un identifiant qui a l'air identique sans l'être produit un message d'erreur qui cherche au mauvais endroit.

L'humain qui ne regarde plus

La réponse évidente consiste à dire : quelqu'un relira. La recherche sur la coopération entre l'humain et la machine tient là une observation inconfortable. Dès 1997, Parasuraman et Riley décrivaient que les humains font un mauvais usage des systèmes automatisés de manière prévisible : ils s'y fient trop dès que les choses se passent bien un certain temps (Parasuraman et Riley 1997). Deux ans plus tard, Skitka et ses collègues ont montré en expérience que des personnes assistées par un système fiable laissent passer des erreurs qu'elles auraient trouvées sans cette assistance (Skitka et al. 1999).

Voilà le vrai piège. Une machine qui livre quatre-vingt-dix-neuf textes propres habitue son lecteur à ne plus regarder le centième. Meilleur est l'outil, plus le contrôle devient distrait — et plus coûteux devient le cas qui passe. Une validation qui se résume à un clic n'est plus une validation au bout de deux semaines, mais une habitude.

«Un contrôle qui s'ennuie ne contrôle plus.»

Surveiller n'est pas se méfier, c'est répondre de quelque chose

La réglementation dit désormais quelque chose de concret. Le règlement européen sur l'intelligence artificielle exige que les systèmes à haut risque soient conçus pour être effectivement surveillés par des personnes — le texte précise que la personne chargée de la surveillance doit comprendre les limites du système et pouvoir s'opposer à son résultat (règlement (UE) 2024/1689, art. 14). Le cadre du NIST va dans le même sens et demande de mesurer les risques sur tout le cycle de vie plutôt qu'une fois à l'introduction (NIST 2023). Pour une PME suisse, qui n'exploite ni système à haut risque ni programme de normalisation, il en reste une question simple : qui répond de ce que la machine a produit, et à quoi cette personne reconnaît-elle que quelque chose cloche ?

De la réponse découle un partage du travail qui fait ses preuves : ce qu'une machine peut vérifier de façon fiable, qu'une machine le vérifie. Ce qu'un humain doit juger ne devrait même pas lui parvenir sans avoir été vérifié.

• Faire vérifier par la machine ce qui est vérifiable : l'erreur de l'image se rattrape en une ligne — un test qui refuse tout caractère hors du domaine latin, avec une courte liste d'exceptions. Ces tests appartiennent au processus de construction, pas à une liste de contrôle.
• Ne soumettre à l'humain que ce qui relève du jugement : le ton, les chiffres dans leur contexte, les engagements pris envers un client. Qui doit en plus traquer les coquilles finit par ne plus voir ni les unes ni les autres.
• Lier la validation à un geste : celui qui valide modifie quelque chose — une ligne, une date, une formule d'adresse. Une validation qui n'exige rien devient une formalité.
• Consigner ce que la machine a proposé et ce que l'humain a changé. Seule cette trace montre, après trois mois, où le système est faible.
• Des sondages au calme : un texte par semaine, lu en entier, sur papier ou en grands caractères. C'est exactement ainsi que l'erreur de cet article est apparue.

Ce qu'il en découle pour le travail quotidien

Un outil qui produit des erreurs n'est pas un mauvais outil. Un tableur en produit aussi, une calculatrice également dès que la saisie est fausse. La différence tient à ceci : les erreurs d'un modèle de langue ont bonne allure. Elles sont grammaticalement propres, plausibles sur le fond et justes de ton. C'est pourquoi elles voyagent plus loin qu'une erreur visible, et c'est pourquoi la question de la surveillance n'est pas une question de confiance dans la technique, mais d'organisation du travail.

Chez Skopa, cette surveillance se tient à chaque endroit où quelque chose part vers l'extérieur : la proposition vient de la machine, la validation d'une personne, et ce qui se vérifie mécaniquement est vérifié par une règle du processus de construction — depuis cet article, les systèmes d'écriture aussi. Ce texte a été écrit avec l'aide d'une machine, relu et réécrit par endroits. L'erreur dont il parle vient de la même famille d'outils. Les deux vont ensemble, et les deux méritent d'être dits.