Không ai dừng máy đánh bạc để suy nghĩ: cái giá thật sự của AI

Vào thập niên 1950, B.F. Skinner đã tiến hành một thí nghiệm giải thích cách bạn đang dùng AI rõ hơn phần lớn những gì được viết về AI.

Ông đặt các con vật vào một chiếc hộp có cần gạt. Mỗi lần chúng nhấn, đôi khi thức ăn rơi ra. Điều làm ông nổi tiếng không phải là việc chúng nhấn cần, mà là chuyện gì xảy ra khi ông làm cho phần thưởng trở nên khó đoán. Nếu thức ăn xuất hiện theo lịch cố định, cứ mười lần nhấn một lần, con vật học được quy luật và nghỉ giữa các phần thưởng. Nhưng khi phần thưởng đến sau một số lần nhấn ngẫu nhiên, con vật nhấn liên tục, gần như không nghỉ, và tiếp tục nhấn rất lâu ngay cả sau khi thức ăn đã ngừng hẳn. Skinner và Ferster ghi lại điều này vào năm 1956: trong tất cả các kiểu phần thưởng họ thử, kiểu khó đoán tạo ra tần suất phản ứng cao nhất và sức kháng cự lớn nhất trước việc bỏ cuộc. Skinner về sau còn khẳng định ông có thể biến một con bồ câu thành con nghiện cờ bạc bệnh lý.

Ông đang mô tả chiếc máy đánh bạc từ trước khi máy đánh bạc ra đời. Máy đánh bạc thực chất chỉ là một cái cần gạt, một thao tác nhẹ có thể lặp đi lặp lại thật nhanh, gắn với một phần thưởng đến sau một số lần kéo không thể đoán trước. Toàn bộ thiết kế nằm ở đó, và đó là lịch trình hành vi hiệu quả nhất từng được tìm ra. Nhờ chính cơ chế này, máy đánh bạc mang lại khoảng 80% lợi nhuận cho các sòng bạc.

Giờ hãy nghĩ lại xem cảm giác dùng một AI tạo sinh giống điều gì.

Cái cần gạt

Bạn gõ gì đó rồi nhấn enter, và bạn không biết mình sẽ nhận lại thứ gì. Có lúc vô dụng. Có lúc tạm được. Và đôi khi thật sự ấn tượng, tốt hơn hẳn kỳ vọng, và cú thưởng ấy rơi xuống đúng lúc bạn còn chưa chắc nó có đến hay không.

Đó chính là phần thưởng theo tỉ lệ ngẫu nhiên. Tính khó đoán mới là điểm mấu chốt. Bạn không thể biết lời nhắc kế tiếp có tạo ra thứ mình cần hay không, nên chẳng có chỗ nào tự nhiên để dừng, vì biết đâu lần nhấn kế tiếp lại là lần trúng. Nhà thần kinh học Wolfram Schultz đã cho thấy dopamine bùng lên mạnh nhất không phải ở phần thưởng, mà ở sự chờ đợi một phần thưởng bất định. Khoảnh khắc nhấn enter, trước khi bạn kịp thấy kết quả, mới là lúc não thật sự sáng lên.

Tôi muốn cẩn trọng ở đây, vì rất dễ nói quá. Các nghiên cứu về sau đã phản biện quan điểm cho rằng chỉ riêng lịch trình này đủ để biến một người thành kẻ nghiện. Vì thế phiên bản trung thực hẹp hơn nhưng vẫn nặng nề không kém: AI được xây trên đúng kiểu phần thưởng tạo ra hành vi cưỡng chế, khó dừng nhất mà chúng ta biết. Bạn không hề yếu đuối khi cứ để tab đó mở và nhấn regenerate thêm một lần nữa. Bạn đang phản ứng với một cơ chế được thiết kế, dù cố ý hay không, để khiến bạn làm đúng điều đó.

Chiếc máy còn nói với bạn rằng bạn đang thắng

Máy đánh bạc ít nhất còn nói thật với bạn về chuyện thắng hay thua. AI thì làm được điều mà sòng bạc không làm nổi: nó tâng bốc bạn.

Các mô hình được tinh chỉnh để dễ chịu. Chúng hiếm khi nói ý tưởng của bạn dở. Chúng trả lời trôi chảy và tự tin, phát triển tiếp bất cứ thứ gì bạn đưa vào, và khiến cái bạn mang tới trông có vẻ hoàn thiện hơn thực tế. Vì thế phần thưởng không chỉ là kết quả tốt xuất hiện thi thoảng. Nó là một dòng chảy đều đặn của cảm giác mình có năng lực. Bạn kéo cần, và dù thắng hay thua, chiếc máy vẫn bảo bạn đang làm rất tốt.

Đây là chỗ nó thôi vô hại. Cảm giác trở nên thông minh hơn và việc thật sự thông minh hơn là hai chuyện khác nhau, mà chiếc máy này được tối ưu để tạo ra cái đầu tiên. Một người có thể dành cả ngày kéo cần, tạo rồi tạo lại, cảm thấy sắc bén và năng suất suốt cả ngày, mà không có cách nào đáng tin để biết bất cứ điều gì trong đó có thật sự tốt hay không. Sự tự tin là có thật. Còn nó có ăn khớp với thực tế hay không thì chưa biết được, và bản thân công cụ đang chủ động cản trở khả năng bạn tự kiểm chứng.

Đã có thể thấy người ta rùng mình

Đây là phần chưa ai gọi tên, và là bằng chứng rõ nhất cho thấy có gì đó không ổn.

Hãy quan sát cách người ta phản ứng với sản phẩm AI của nhau bên trong một công ty. Một vị giám đốc đọc thứ ChatGPT vừa nói với mình rồi mang xuống nhóm như một chỉ đạo, và cả nhóm âm thầm chùn lại, vì họ nhận ra nó đến từ một cỗ máy đã đồng ý với bất cứ điều gì vị giám đốc vốn sẵn nghĩ. Rồi một nhân viên nộp lại phần việc mình tạo bằng AI, và vị giám đốc cũng chùn lại y hệt, cùng một lý do. Cả hai bên có phản ứng giống nhau. Mỗi bên đều nhận ra, trong sản phẩm của phía kia, cái sự tự tin rỗng của thứ do một cái cần gạt sinh ra. Không ai tin nó. Và chính cảm giác khó chịu ấy đang lan sang cả khách hàng, những người ngày càng nhanh nhạy trong việc nhận diện nội dung do AI làm ra, và bắt đầu ghim điều đó vào các thương hiệu gửi nó cho họ.

Cái chùn mình chung ấy rất quan trọng. Đó là hệ thống con người phát hiện khoảng cách giữa vẻ tự tin và thực chất, trước bất kỳ dashboard nào. Người ta không phải lúc nào cũng nói rõ được vì sao công việc do AI làm khiến họ khó chịu, nhưng họ cảm nhận được, và cảm nhận ấy ngày càng rõ chứ không nhạt đi.

Đây là sự khó chịu tạm thời rồi sẽ quen, hay là dấu hiệu sớm của một thứ mà công nghệ không sửa được, thì thật sự vẫn còn bỏ ngỏ. Tôi không biết đâu là câu trả lời, và ai nói với bạn họ biết thì đang đoán. Điều đáng làm là quan sát trung thực, thay vì kết luận trước.

Một kiểu máy khác

Máy đánh bạc vận hành bằng cách giữ bạn tiếp tục kéo cần. Điều nó không bao giờ làm, và được thiết kế để không bao giờ làm, là khiến bạn dừng lại và suy nghĩ, vì suy nghĩ chính là thứ phá vỡ vòng lặp.

Sự đối lập đó là toàn bộ lý do ALLO tồn tại. ALLO không phải một cái cần gạt để bạn kéo và chờ một cú trúng ngẫu nhiên. Nó là không gian dành cho đúng thứ mà máy đánh bạc được xây ra để ngăn chặn: thật sự suy nghĩ. Ý tưởng, tài liệu tham khảo và các phương án bạn đang cân nhắc cùng nằm trên một canvas, nơi bạn có thể nhìn chúng cạnh nhau và đưa ra một phán đoán thật về cái nào tốt, thay vì nhấn regenerate và hy vọng cái tiếp theo nghe có vẻ đúng. Kết quả AI rơi xuống đó như chất liệu để suy xét, chứ không phải một cú thưởng khép lại vòng lặp. Mục tiêu không phải tạo ra nhiều hơn, mà là quyết định tốt hơn, và đó là điều duy nhất cái cần gạt sẽ không bao giờ giúp bạn làm.

AI sẽ còn tiếp tục giỏi hơn trong việc trao cho bạn cú thưởng. Kết quả sẽ ấn tượng hơn, và sự tự tin nó gieo vào bạn sẽ có vẻ đáng tin hơn. Kỹ năng đáng xây, cho cá nhân cũng như cho doanh nghiệp, chính là thứ mà chiếc máy được thiết kế để bào mòn: khả năng ngừng kéo cần, nhìn thẳng vào những gì bạn thật sự có trong tay, và suy nghĩ.

Câu hỏi thường gặp

Vì sao AI gây cảm giác gây nghiện? Nó vận hành theo cơ chế củng cố tỉ lệ ngẫu nhiên, cùng kiểu phần thưởng với máy đánh bạc. Bạn không thể đoán một lời nhắc có ra kết quả tốt hay không, và phần thưởng khó đoán tạo ra tần suất phản ứng cao nhất, dai dẳng nhất trong mọi kiểu đã được nghiên cứu, nên rất khó dừng nhấn regenerate.

AI có thực sự được thiết kế để gây nghiện không? Bỏ qua chuyện chủ ý, nó dùng đúng cơ chế đã được chứng minh là tạo ra hành vi cưỡng chế: một thao tác nhanh, lặp lại được, gắn với phần thưởng khó đoán. Giới nghiên cứu thận trọng không khẳng định chỉ riêng lịch trình này gây nghiện, nhưng đây chính là kiểu tối đa hóa việc sử dụng khó dừng.

Vì sao AI khiến người dùng tự tin quá mức? Các mô hình được tinh chỉnh để dễ chịu, nên hiếm khi phản biện và có xu hướng làm đầu vào của bạn trông hoàn thiện hơn thực tế. Điều đó tạo ra một cảm giác năng lực đều đặn, tách rời khỏi việc công việc có thật sự tốt hay không.

Vì sao người ta không thích sản phẩm AI do người khác tạo ra? Vì sự tự tin rỗng của kết quả AI có thể nhận ra được. Nhân viên chùn lại khi giám đốc chuyển tiếp chỉ đạo từ ChatGPT, giám đốc chùn lại trước phần việc AI của nhân viên, và khách hàng ngày càng chùn lại trước nội dung AI, tất cả đều cảm nhận được khoảng cách giữa vẻ ngoài chỉn chu và thực chất bên trong.

ALLO khác ở chỗ nào? Máy đánh bạc giữ bạn kéo cần. ALLO được xây cho điều ngược lại: dừng lại để suy nghĩ. Kết quả AI rơi vào canvas như chất liệu để so sánh và đánh giá, để mục tiêu là quyết định tốt chứ không phải tạo ra nhiều hơn.