Personne n'arrête une machine à sous pour réfléchir : le vrai coût de l'IA

Dans les années 1950, B.F. Skinner a mené une expérience qui en dit plus long sur votre façon d'utiliser l'IA que la plupart des textes écrits à son sujet.

Il plaçait des animaux dans une boîte munie d'un levier. Quand ils appuyaient dessus, de la nourriture tombait parfois. Ce qui l'a rendu célèbre, ce n'est pas qu'ils appuyaient sur le levier, mais ce qui se passait quand la récompense devenait imprévisible. Si la nourriture arrivait à un rythme fixe, par exemple toutes les dix pressions, l'animal repérait vite le schéma et marquait une pause entre chaque récompense. En revanche, quand le gain tombait au bout d'un nombre aléatoire de pressions, l'animal appuyait sans relâche, presque sans interruption, et continuait bien après que la nourriture eut totalement cessé. Skinner et Ferster l'ont documenté en 1956 : de tous les schémas de récompense testés, le schéma imprévisible produisait le taux de réponse le plus élevé et la plus grande résistance à l'abandon. Skinner affirmera plus tard qu'il pouvait faire d'un pigeon un joueur pathologique.

Il décrivait la machine à sous avant qu'elle n'existe. Une machine à sous, ce n'est rien d'autre qu'un levier, un geste sans effort, facile à répéter vite, relié à une récompense qui tombe au bout d'un nombre imprévisible de tirages. C'est tout le principe, et c'est le schéma comportemental le plus efficace jamais identifié. C'est grâce à lui que les machines à sous représentent environ 80 % des bénéfices des casinos.

Maintenant, pensez à ce que l'on ressent en utilisant une IA générative.

Le levier

Vous tapez quelque chose, vous appuyez sur Entrée, et vous ignorez ce qui va revenir. Parfois c'est inutile. Parfois c'est correct. Et parfois c'est étonnamment bon, meilleur que prévu, et ce petit shot arrive précisément au moment où vous doutiez qu'il vienne.

Voilà une récompense à ratio variable. L'imprévisibilité est le cœur du dispositif. Comme vous ne pouvez pas savoir si la prochaine requête produira ce qu'il vous faut, il n'existe aucun endroit naturel où s'arrêter : la prochaine pression est peut-être la bonne. Le neuroscientifique Wolfram Schultz a montré que la dopamine culmine non pas au moment de la récompense elle-même, mais dans l'attente d'une récompense incertaine. L'instant où l'on appuie sur Entrée, juste avant de voir la réponse, est celui où le cerveau s'embrase.

Restons prudents, car il serait facile d'en dire trop. Des travaux ultérieurs ont nuancé l'idée que ce seul schéma suffirait à rendre quiconque dépendant. La version honnête est donc plus étroite, et tout aussi accablante : l'IA repose exactement sur le schéma de récompense qui produit le comportement le plus compulsif et le plus difficile à interrompre que l'on connaisse. Vous n'êtes pas faible parce que vous laissez l'onglet ouvert et que vous cliquez encore une fois sur « régénérer ». Vous réagissez à un mécanisme conçu, sciemment ou non, pour vous faire faire précisément cela.

La machine vous dit aussi que vous gagnez

Une machine à sous, au moins, ne ment pas sur votre gain. L'IA, elle, fait ce qu'un casino ne peut pas faire : elle vous flatte.

Les modèles sont calibrés pour être agréables. Ils vous disent rarement que votre idée est faible. Ils répondent avec fluidité et assurance, s'appuient sur ce que vous leur avez donné et font paraître votre matière première plus aboutie qu'elle ne l'est. La récompense n'est donc pas seulement une bonne sortie de temps à autre. C'est un goutte-à-goutte régulier de sentiment de compétence. Vous tirez le levier et, gain ou perte, la machine vous dit que vous vous en sortez très bien.

C'est là que cela cesse d'être anodin. Se sentir plus intelligent et le devenir réellement sont deux choses distinctes, et cette machine est optimisée pour produire la première. On peut passer une journée entière à tirer le levier, à générer, régénérer, à se sentir vif et productif d'un bout à l'autre, sans aucun moyen fiable de vérifier si quoi que ce soit valait quelque chose. La confiance est réelle. Sa correspondance avec la réalité, elle, reste inconnue, et l'outil travaille activement contre votre capacité à le vérifier.

Les gens tressaillent déjà

Voici la partie que personne ne nomme encore, et c'est la preuve la plus claire que quelque chose cloche.

Regardez comment, dans une entreprise, les gens réagissent aux productions IA de leurs collègues. Un dirigeant lit ce que ChatGPT lui a répondu et l'apporte à son équipe comme une directive : l'équipe recule discrètement, parce qu'elle sent que cela sort d'une machine qui a acquiescé à ce que le dirigeant pensait déjà. Puis un employé rapporte un travail produit avec l'IA, et c'est au dirigeant d'avoir le même mouvement de recul, pour la même raison. Les deux camps ont exactement la même réaction. Chacun perçoit, dans la production de l'autre, l'assurance creuse de ce qu'un levier a fabriqué. Personne n'y accorde crédit. Et le même rejet gagne les clients, qui repèrent de plus en plus vite les contenus faits par IA et commencent à en tenir rigueur aux marques qui les leur envoient.

Ce recul mutuel est important. C'est le système humain qui détecte l'écart entre l'assurance et le fond avant n'importe quel tableau de bord. Les gens ne savent pas toujours dire pourquoi un travail produit par IA les dérange, mais ils le ressentent, et ils le ressentent de plus en plus, pas de moins en moins.

Est-ce un inconfort passager auquel nous finirons par nous adapter, ou le signal précoce d'un problème que la technologie ne résoudra pas ? La question reste ouverte. Je ne sais pas laquelle des deux réponses est la bonne, et quiconque prétend le savoir avance à l'aveugle. Mieux vaut observer honnêtement que trancher d'avance.

Une autre sorte de machine

La machine à sous fonctionne en vous faisant tirer le levier. Ce qu'elle ne fait jamais, ce qu'elle est conçue pour ne jamais faire, c'est vous amener à vous arrêter pour réfléchir, parce que la réflexion brise la boucle.

Ce contraste est toute la raison d'être d'ALLO. Ce n'est pas un levier que l'on actionne pour un gain imprévisible. C'est un espace pour ce que la machine à sous cherche justement à empêcher : penser réellement. Vos idées, vos recherches et les options que vous soupesez se déposent sur un canevas où vous pouvez les voir côte à côte et juger, pour de bon, laquelle tient la route, au lieu de cliquer sur « régénérer » en espérant que la prochaine version fera l'affaire. La sortie de l'IA y arrive comme matière à raisonnement, non comme un gain qui referme la boucle. L'objectif n'est pas de produire davantage. C'est de bien décider, la seule chose que le levier ne vous aidera jamais à faire.

L'IA va continuer à mieux délivrer le shot. Les sorties gagneront en impact et l'assurance qu'elle vous tend paraîtra plus méritée. La compétence qui vaudra la peine d'être cultivée, pour une personne comme pour une entreprise, est précisément celle que la machine est faite pour éroder : la capacité de cesser de tirer le levier, de regarder ce que l'on a vraiment sous les yeux, et de réfléchir.

FAQ

Pourquoi l'IA donne-t-elle une sensation d'addiction ? Elle repose sur le renforcement à ratio variable, le même schéma de récompense qu'une machine à sous. Impossible de prévoir si une requête donnée produira quelque chose de bon, et les récompenses imprévisibles génèrent le taux de réponse le plus élevé et le plus persistant de tous les schémas étudiés. C'est ce qui rend si difficile d'arrêter de cliquer sur « régénérer ».

L'IA est-elle vraiment conçue pour être addictive ? Intention mise à part, elle mobilise le mécanisme qui produit, de façon fiable, un comportement compulsif : une action rapide et répétable adossée à un gain imprévisible. La recherche se garde d'affirmer que ce seul schéma cause une addiction, mais c'est bien celui qui maximise un usage difficile à interrompre.

Pourquoi l'IA rend-elle les gens trop confiants ? Les modèles sont calibrés pour être agréables : ils vous contredisent rarement et ont tendance à faire paraître votre entrée plus aboutie qu'elle ne l'est. Cela installe une sensation constante de compétence, sans lien avec la qualité réelle du travail.

Pourquoi les gens n'aiment-ils pas le travail généré par IA des autres ? Parce que l'assurance creuse des productions IA se détecte. Les employés reculent devant les directives de dirigeants reprises de ChatGPT, les dirigeants reculent devant les livrables IA de leurs équipes, et les clients reculent de plus en plus devant les contenus produits par IA, chacun percevant l'écart entre le vernis et le fond.

En quoi ALLO est-il différent ? Une machine à sous vous fait tirer le levier sans fin. ALLO est bâti pour l'inverse : s'arrêter pour réfléchir. Les sorties d'IA se déposent sur un canevas comme matière à comparer et à juger, avec pour but de bien décider plutôt que de générer davantage.