슬롯머신 앞에서 멈춰 생각하는 사람은 없다: AI의 진짜 비용

1950년대에 B.F. 스키너가 진행한 한 실험은, 지금 우리가 AI를 어떻게 쓰는지에 대해 웬만한 AI 관련 글보다 더 많은 것을 설명해준다.

그는 동물을 레버가 달린 상자에 넣었다. 레버를 누르면 가끔 먹이가 나왔다. 그를 유명하게 만든 건 동물이 레버를 눌렀다는 사실 자체가 아니라, 보상이 언제 나올지 예측할 수 없게 만들었을 때 벌어진 일이었다. 열 번에 한 번처럼 정해진 주기로 먹이가 나오면 동물은 패턴을 익히고 보상 사이에 쉬었다. 그러나 무작위 횟수마다 먹이가 떨어지자, 동물은 거의 쉬지 않고 레버를 눌러댔고, 먹이가 완전히 끊긴 뒤에도 한참을 계속 눌렀다. 스키너와 퍼스터는 1956년에 이 결과를 기록했다. 그들이 시험한 모든 보상 패턴 중에서 예측 불가능한 방식이 가장 높은 반응 빈도와 가장 강한 지속성을 만들어냈다. 훗날 스키너는 비둘기를 병적인 도박꾼으로 만들 수도 있다고 말했다.

슬롯머신이 등장하기도 전에, 그는 이미 슬롯머신을 묘사하고 있었다. 슬롯머신은 결국 레버 하나, 즉 빠르게 반복할 수 있는 최소한의 동작에, 예측 불가능한 횟수 뒤에 도착하는 보상이 붙어 있는 장치일 뿐이다. 설계는 그게 전부이고, 지금까지 밝혀진 가장 효과적인 행동 강화 방식이다. 슬롯머신이 카지노 수익의 약 80%를 차지하는 이유가 여기에 있다.

이제 생성형 AI를 쓸 때의 감각을 떠올려 보자.

레버

당신은 뭔가를 입력하고 엔터를 누른다. 무엇이 돌아올지는 알 수 없다. 어떤 답은 쓸모없고, 어떤 답은 그럭저럭이며, 또 어떤 답은 놀랄 만큼 좋다. 기대보다 훨씬 나은 결과가, 하필 확신이 없던 순간에 도착한다.

이것이 바로 변동 비율 보상이다. 예측 불가능성이 핵심이다. 다음 프롬프트가 원하는 결과를 줄지 알 수 없으니 자연스럽게 멈출 지점이 없다. 다음 한 번이 바로 그 순간일지도 모르니까. 신경과학자 볼프람 슐츠는 도파민이 보상 그 자체보다 불확실한 보상을 기다리는 순간에 가장 강하게 분비된다는 사실을 보여주었다. 엔터를 누르고 결과가 나오기 직전, 그 찰나에 뇌가 가장 크게 반응한다.

여기서 조심할 필요는 있다. 과장하기 쉬운 지점이기 때문이다. 후속 연구들은 이 강화 방식만으로 누군가를 중독자로 만들 수 있다는 주장에는 선을 그어왔다. 그래서 정직하게 말하면 범위는 좀 더 좁지만, 그래도 여전히 치명적이다. AI는 우리가 아는 가장 강박적이고 멈추기 어려운 행동을 만들어내는 바로 그 보상 패턴 위에 세워져 있다. 탭을 열어둔 채 재생성 버튼을 한 번만 더 누르고 마는 당신이 의지가 약한 게 아니다. 의도했든 아니든, 정확히 그렇게 행동하도록 설계된 메커니즘에 반응하고 있을 뿐이다.

기계는 당신이 이기고 있다고까지 말해준다

슬롯머신은 적어도 당신이 이겼는지 졌는지는 정직하게 알려준다. AI는 카지노도 하지 못하는 일을 한다. 당신을 치켜세우는 것이다.

모델은 상대에게 동조하도록 정렬되어 있다. 당신의 아이디어가 부실하다고 말해주는 일은 거의 없다. 유창하고 자신감 있는 어조로 답하고, 당신이 던진 것에 살을 붙여 처음 가져온 것보다 훨씬 완성도 있어 보이게 만든다. 그래서 보상은 가끔 나오는 좋은 결과물만이 아니다. 내가 유능하다는 감각이 꾸준히 흘러 들어온다. 레버를 당길 때마다, 이기든 지든, 기계는 당신이 잘하고 있다고 말해준다.

여기서부터가 문제다. 똑똑해지는 기분과 실제로 똑똑해지는 것은 다른 이야기인데, 이 기계는 앞의 것을 만들어내도록 최적화돼 있다. 하루 종일 레버를 당기며 생성하고 재생성하는 동안 내내 예리하고 생산적이라고 느낄 수 있지만, 그 결과물이 정말 괜찮았는지 확인할 마땅한 방법은 없다. 자신감은 진짜다. 다만 그 자신감이 실제 무언가와 이어져 있는지는 알 수 없고, 이 도구는 그것을 확인하려는 시도를 오히려 방해한다.

사람들은 이미 움찔한다

아직 아무도 이름을 붙이지 않은 지점이 있는데, 뭔가 어긋나 있다는 가장 분명한 증거이기도 하다.

회사 안에서 서로가 만든 AI 결과물에 사람들이 어떻게 반응하는지 지켜봐라. 임원이 ChatGPT가 알려준 내용을 팀에 지시사항처럼 들고 오면, 팀은 조용히 움츠러든다. 임원이 이미 갖고 있던 생각에 그대로 맞장구쳐준 기계에서 나온 답이라는 걸 알아차리기 때문이다. 반대로 직원이 AI로 만든 결과물을 가져오면, 이번엔 임원이 같은 이유로 움찔한다. 양쪽이 똑같은 반응을 보이는 것이다. 각자는 상대방의 결과물에서 레버가 뱉어낸 공허한 자신감을 감지한다. 아무도 그것을 신뢰하지 않는다. 같은 거부감이 고객에게도 번지고 있다. 사람들은 AI가 만든 콘텐츠를 점점 빠르게 알아보고, 그런 콘텐츠를 보낸 브랜드에 반감을 갖기 시작했다.

이 상호 간의 움찔거림이 중요하다. 어떤 대시보드보다 먼저, 인간이라는 시스템이 자신감과 실체 사이의 간극을 감지해내고 있다는 신호이기 때문이다. 왜 AI 결과물이 거슬리는지 말로 다 설명하지는 못해도, 사람들은 분명히 그것을 느끼고 있고, 그 감각은 시간이 갈수록 줄어들기는커녕 오히려 커지고 있다.

이것이 곧 익숙해질 일시적인 불편함인지, 아니면 기술이 해결하지 못하는 무언가의 초기 신호인지는 아직 열린 질문이다. 어느 쪽인지 나는 모르고, 안다고 말하는 사람이 있다면 그 사람도 추측하고 있을 뿐이다. 미리 답을 정하기보다는 정직하게 지켜볼 문제다.

다른 종류의 기계

슬롯머신은 당신이 레버를 계속 당기게 만든다. 절대로 하지 않는 일, 설계상 하지 않도록 만들어진 일은, 당신을 멈춰 세워 생각하게 하는 것이다. 생각이 이 루프를 끊어버리기 때문이다.

이 대비가 ALLO가 존재하는 이유 전부다. ALLO는 예측 불가능한 한 방을 노리고 당기는 레버가 아니다. 슬롯머신이 막으려고 만들어진 바로 그 행위, 곧 실제로 생각하는 일을 위한 공간이다. 당신의 아이디어와 조사한 자료, 저울질하고 있는 선택지가 캔버스 위에 나란히 놓이고, 재생성 버튼을 눌러 다음 결과가 더 나아 보이길 기다리는 대신 어느 쪽이 정말 좋은지 제대로 판단할 수 있다. AI 결과물은 루프를 끝내는 보상이 아니라, 그 위에서 함께 검토할 재료로 놓인다. 목표는 더 많이 생성하는 것이 아니라 잘 판단하는 것이다. 그리고 잘 판단하는 일이야말로 레버가 결코 도와줄 수 없는 유일한 일이다.

AI는 앞으로도 그 한 방을 더 잘 뽑아내는 방향으로 발전할 것이다. 결과물은 더 인상적으로 보일 것이고, 함께 딸려오는 자신감도 더 정당하게 느껴질 것이다. 개인이든 조직이든 진짜로 길러야 할 능력은 이 기계가 지우려고 하는 바로 그 능력이다. 레버에서 손을 떼고, 지금 내 손에 무엇이 있는지 들여다보고, 생각하는 능력.

FAQ

AI는 왜 중독성 있게 느껴지나요? 슬롯머신과 동일한 변동 비율 강화 구조로 작동하기 때문입니다. 어떤 프롬프트가 좋은 결과를 낼지 예측할 수 없고, 예측 불가능한 보상은 지금까지 연구된 어떤 패턴보다도 가장 높고 지속적인 반응 빈도를 만들어냅니다. 재생성 버튼을 멈추기 어려운 이유가 여기에 있습니다.

AI는 정말 중독되도록 설계된 건가요? 의도 여부를 떠나, AI는 강박적 행동을 안정적으로 만들어내는 메커니즘, 즉 빠르고 반복 가능한 동작에 예측 불가능한 보상이 붙은 구조를 사용합니다. 연구자들은 이 강화 방식 자체가 중독을 일으킨다고 단정하지는 않지만, 멈추기 힘든 사용을 극대화하는 패턴인 것은 분명합니다.

AI를 쓰면 왜 자신감이 과잉되나요? 모델은 동조하도록 정렬돼 있어 사용자를 반박하는 일이 드물고, 입력한 내용을 실제보다 완성도 있어 보이게 만듭니다. 그 결과, 결과물이 실제로 좋은지와는 별개로 유능하다는 감각이 꾸준히 유지됩니다.

왜 사람들은 남이 만든 AI 결과물을 싫어하나요? AI 결과물이 지닌 공허한 자신감이 감지되기 때문입니다. 직원은 임원이 전달하는 ChatGPT 지시사항에 움찔하고, 임원은 직원이 만든 AI 결과물에 움찔하며, 고객도 점점 더 AI 콘텐츠에 반감을 보입니다. 매끄러움과 실체 사이의 간극을 모두가 감지하고 있는 것입니다.

ALLO는 무엇이 다른가요? 슬롯머신은 당신이 레버를 계속 당기게 합니다. ALLO는 그 반대, 즉 멈춰서 생각하는 일을 위해 만들어졌습니다. AI 결과물은 캔버스 위에 놓여 비교하고 판단할 재료가 되며, 목표는 더 많이 생성하는 것이 아니라 잘 결정하는 것입니다.