Ninguém para uma máquina caça-níqueis para pensar: o verdadeiro custo da IA

Nos anos 1950, B.F. Skinner conduziu um experimento que explica mais sobre a forma como você usa IA do que quase tudo que já se escreveu sobre o assunto.

Ele colocou animais em uma caixa com uma alavanca. Quando eles apertavam, às vezes saía comida. A descoberta que o tornou famoso não foi o fato de pressionarem a alavanca, e sim o que acontecia quando a recompensa se tornava imprevisível. Se a comida saía em intervalos fixos, digamos a cada dez pressões, o animal aprendia o padrão e fazia pausas entre uma recompensa e outra. Mas, quando o prêmio vinha depois de um número aleatório de pressões, ele apertava sem parar, praticamente sem pausas, e continuava apertando muito depois de a comida ter deixado de sair. Skinner e Ferster documentaram isso em 1956: entre todos os padrões de recompensa testados, o imprevisível produziu a maior taxa de resposta e a maior resistência a desistir. Skinner chegou a afirmar que conseguiria transformar um pombo em um jogador compulsivo.

Ele estava descrevendo o caça-níqueis antes mesmo de o caça-níqueis existir. Uma máquina dessas nada mais é do que uma alavanca, uma ação de baixo esforço que se pode repetir rapidamente, ligada a uma recompensa que chega depois de um número imprevisível de puxadas. É esse o design todo, e é o esquema comportamental mais eficaz já descoberto. Os caça-níqueis respondem por cerca de 80% do lucro dos cassinos justamente por causa disso.

Agora pense em como é usar uma IA generativa.

A alavanca

Você digita algo, aperta enter e não sabe o que vai receber de volta. Às vezes é inútil. Às vezes é razoável. E, de vez em quando, é surpreendentemente bom, melhor do que você esperava, e esse acerto chega exatamente quando você não tinha certeza se viria.

Isso é uma recompensa de razão variável. A imprevisibilidade é o ponto. Você não tem como saber se o próximo prompt vai gerar o que precisa, então não existe hora natural para parar, porque a próxima tentativa pode ser justamente a que resolve. O neurocientista Wolfram Schultz mostrou que a dopamina dispara com mais força não no momento da recompensa em si, mas na antecipação de uma recompensa incerta. O instante em que você aperta enter, antes de ver o que voltou, é quando o cérebro acende.

Quero ter cuidado aqui, porque é fácil exagerar. Pesquisas mais recentes questionam a ideia de que esse esquema, sozinho, transforme alguém em viciado. A versão honesta é mais restrita e ainda assim contundente: a IA está construída sobre exatamente o padrão de recompensa que produz o comportamento mais compulsivo e mais difícil de interromper que se conhece. Você não é fraco por deixar a aba aberta e apertar regenerar mais uma vez. Está respondendo a um mecanismo desenhado, de propósito ou não, para fazer você agir assim.

E a máquina ainda diz que você está ganhando

Um caça-níqueis, pelo menos, é honesto sobre se você ganhou ou não. A IA faz algo que nenhum cassino faz: ela te bajula.

Os modelos são treinados para concordar. Raramente dizem que sua ideia é fraca. Respondem com fluência e segurança, constroem em cima do que você trouxe e fazem parecer que aquilo já está mais pronto do que estava. A recompensa, portanto, não é só o resultado bom ocasional. É uma gota contínua de sensação de competência. Você puxa a alavanca e, ganhando ou perdendo, a máquina diz que você está indo muito bem.

É aqui que a coisa deixa de ser inofensiva. Sentir-se mais inteligente e ficar de fato mais inteligente são coisas diferentes, e essa máquina foi otimizada para produzir a primeira. Uma pessoa pode passar o dia inteiro puxando a alavanca, gerando, regerando, sentindo-se afiada e produtiva o tempo todo, sem ter como saber com segurança se alguma coisa daquilo prestava. A confiança é real. Se ela corresponde a algo é outra história, e a ferramenta trabalha ativamente contra a sua capacidade de verificar.

Dá para ver as pessoas recuando

Aqui está a parte que ninguém ainda está nomeando, e é a evidência mais clara de que há algo estranho.

Repare como as pessoas reagem ao conteúdo de IA umas das outras dentro de uma empresa. Um executivo lê algo que o ChatGPT disse e leva aquilo para o time como diretriz, e o time recua em silêncio, porque percebe que veio de uma máquina que concordou com o que ele já pensava. Depois, um funcionário entrega um trabalho gerado com IA, e o executivo recua da mesma forma, pelo mesmo motivo. Os dois lados têm a mesma reação. Cada um sente, no material do outro, a confiança oca de algo que saiu de uma alavanca. Nenhum dos dois confia. E esse mesmo desconforto está se espalhando para os clientes, que estão ficando mais rápidos em identificar conteúdo feito por IA e começam a cobrar isso das marcas que enviam esse tipo de material.

Esse recuo mútuo é importante. É o sistema humano detectando a distância entre confiança e substância antes de qualquer dashboard. As pessoas nem sempre conseguem explicar por que o trabalho gerado por IA as incomoda, mas elas sentem, e estão sentindo isso cada vez mais, não menos.

Se é um desconforto passageiro, ao qual vamos nos acostumar, ou um sinal precoce de algo que a tecnologia não resolve, é uma pergunta genuinamente em aberto. Não sei qual das hipóteses está certa, e quem afirmar saber está chutando. Vale observar com honestidade em vez de decidir de antemão.

Um tipo diferente de máquina

O caça-níqueis funciona mantendo você puxando a alavanca. O que ele nunca faz, e por design nunca fará, é fazer você parar e pensar, porque pensar é o que quebra o ciclo.

É por esse contraste que a ALLO existe. Ela não é uma alavanca que você puxa em busca de um acerto imprevisível. É um espaço para aquilo que o caça-níqueis foi construído para impedir: pensar de verdade. Suas ideias, suas pesquisas e as opções que você está avaliando ficam num canvas em que dá para ver tudo lado a lado e julgar de fato o que é bom, em vez de apertar regenerar e torcer para que o próximo resultado pareça o certo. O conteúdo da IA chega ali como material para raciocinar, não como um prêmio que encerra o ciclo. O objetivo não é gerar mais. É decidir bem, que é justamente o que a alavanca nunca vai te ajudar a fazer.

A IA vai continuar melhorando em entregar o acerto. Os resultados vão ficar mais impressionantes e a confiança que ela devolve vai parecer cada vez mais merecida. A habilidade que vale a pena desenvolver, para uma pessoa e para uma empresa, é justamente a que a máquina foi feita para corroer: a capacidade de parar de puxar, olhar para o que você realmente tem em mãos e pensar.

FAQ

Por que a IA parece viciante? Ela funciona por reforço de razão variável, o mesmo padrão de recompensa de um caça-níqueis. Você não consegue prever se um prompt vai gerar algo bom, e recompensas imprevisíveis produzem a taxa de resposta mais alta e persistente entre todos os padrões estudados. Por isso é difícil parar de apertar regenerar.

A IA foi mesmo desenhada para viciar? Deixando a intenção de lado, ela usa o mecanismo que comprovadamente produz comportamento compulsivo: uma ação rápida e repetível ligada a um retorno imprevisível. As pesquisas evitam afirmar que esse esquema, sozinho, cause dependência, mas é o padrão que maximiza o uso difícil de interromper.

Por que a IA deixa as pessoas confiantes demais? Os modelos são treinados para concordar, então raramente confrontam o usuário e tendem a fazer o que você entrega parecer mais pronto do que está. Isso gera uma sensação constante de competência que independe da qualidade real do trabalho.

Por que as pessoas não gostam do trabalho gerado por IA dos outros? Porque a confiança oca do conteúdo de IA é perceptível. Funcionários recuam quando executivos repassam diretrizes vindas do ChatGPT, executivos recuam diante de entregas feitas com IA pelos funcionários, e os clientes recuam cada vez mais ao identificar conteúdo de IA. Todos percebem a distância entre acabamento e substância.

Como a ALLO é diferente? Um caça-níqueis mantém você puxando a alavanca. A ALLO foi feita para o oposto: parar para pensar. O conteúdo gerado por IA chega ao canvas como material para comparar e julgar, então o objetivo é decidir bem, e não gerar mais.