Khi quan sát cách mọi người dùng AI bây giờ, mình nhận thấy một điều. Họ không chỉ hỏi về sự thật. Họ hỏi xin lời khuyên. Mình có nên nhận công việc đó không? Mình nên làm gì với trận cãi vã với chị mình? Họ nhận được một câu trả lời được cấu trúc tốt, và thường làm theo lời khuyên đó.
Mình nghiên cứu lãnh đạo, chủ yếu ở những xã hội nông thôn, dựa vào sinh kế tự cung tự cấp. Những gì nhiều người dùng AI đang thể hiện, để dùng thuật ngữ kỹ thuật, là tinh thần theo dõi (followership).
Trong lĩnh vực mình, lãnh đạo có ý nghĩa rộng hơn chỉ là tổng thống hay giám đốc điều hành. Các nhà khoa học xã hội tiến hóa thường định nghĩa lãnh đạo là bất kỳ ai nắm giữ ảnh hưởng không cân xứng đối với các quyết định của một nhóm, bất kể nhóm đó là gì. Một làng là một nhóm. Một đội thể thao. Một gia đình. Một cặp đôi. Khi bạn và đại lý AI của bạn bắt đầu hỏi nó bạn nên làm gì, các bạn tạo thành một nhóm, và trong nhóm hai người đó, đại lý có ảnh hưởng thực sự.
Vậy tại sao chúng ta trao quyền ảnh hưởng đó cho ai đó có vẻ biết nhiều nhất? Hãy để mình bắt đầu với một phép ẩn dụ cũ.
Trong nhiều thập kỷ, khoa học nhận thức xem tâm trí như một chiếc máy tính. Một cơ quan xử lý thông tin lấy đầu vào, xử lý chúng qua các quy tắc quyết định, rồi tạo ra đầu ra. Các nhà nghiên cứu tranh luận về chi tiết, chẳng hạn nó chuyên biệt hay tổng quát tới mức nào, nhưng khái niệm cơ bản vẫn bền vững.
Trong các bài báo gần đây, Ed Hagen và mình đã đẩy khái niệm đó xa hơn. Một bộ não là một chiếc máy tính đắt tiền. Nó tốn rất nhiều để xây dựng và vận hành (bộ não của bạn tiêu thụ khoảng một phần năm năng lượng lúc nghỉ), và nhiều năng lực đó ngồi không làm gì phần lớn thời gian. Các kỹ sư gặp vấn đề tương tự với các mainframe đắt đỏ và giải quyết bằng cách chia sẻ — timesharing, mạng lưới, và cuối cùng là điện toán đám mây, nơi bạn gửi một truy vấn đến một máy xa, nó xử lý rồi trả kết quả lại cho bạn với một khoản phí nhỏ.
Chúng mình lập luận rằng con người đã tiến hóa để vận hành một phiên bản của thị trường đó trong đầu mình. Một số người tích lũy nhiều kiến thức hơn hoặc có phán đoán sắc bén hơn, và họ cho thuê năng lực thừa đó, giải quyết những vấn đề người khác gặp khó khăn, tức là lãnh đạo. Quyết định trong điều kiện không chắc chắn. Các tranh chấp cần giải quyết. Thách thức tổ chức ai làm gì. Trong những xã hội mà mình làm việc, những chuyên gia kiến thức này là các trưởng làng, các thầy pháp, và các bà mẹ. Họ được trả công cho dịch vụ đó, không phải bằng tiền mặt, mà bằng sự tôn kính, địa vị, và hỗ trợ.
Mô thức này rất phổ biến. Khi đồng nghiệp và mình mã hóa 109 đặc điểm của lãnh đạo qua 1.212 ghi chép dân tộc học từ 59 xã hội chủ yếu phi công nghiệp, một vài đặc tính xuất hiện gần như ở khắp nơi. Những người lãnh đạo có kiến thức. Họ giải quyết xung đột. Và họ được thưởng vì điều đó. Trên các xã hội loài người, kiến thức là một trong những lý do đáng tin cậy nhất khiến người ta theo ai đó.
Và chúng ta theo kiến thức dễ dàng hơn là theo sức mạnh. Khi chúng ta kiểm tra các mô hình tiến hóa chính của lãnh đạo so với hồ sơ dân tộc học, con đường uy tín, nơi người ta tự nguyện nhường quyền cho kỹ năng và chuyên môn, được ủng hộ rộng rãi. Con đường thống trị (lãnh đạo bằng đe dọa) giảm đi. Mình cũng tìm thấy điều tương tự giữa người Chabu, một cộng đồng săn hái mới định cư ở Ethiopia. Uy tín dự đoán ai trở thành lãnh đạo tốt hơn thống trị.
Áp dụng điều này vào AI.
Nó không thể đe dọa bạn một cách đáng tin cậy (may mắn thay). Nó không có cách nào áp đặt chi phí nếu bạn phớt lờ hoặc xóa nó. Tất cả những gì nó có thể làm là tỏ ra biết nhiều điều và đề nghị suy nghĩ thay bạn, đó chính là thành tố then chốt của tâm lý lãnh đạo-theo dõi mà chúng ta tiến hóa.
Trong nhiều thập kỷ, chúng ta xem tâm trí như một chiếc máy tính. Giờ những chiếc máy tính đang đến dưới hình hài của tâm trí.
Dịch vụ đám mây mà chúng ta mô tả, nơi bạn tải lên một truy vấn và nhận được xử lý trả về với một khoản phí, mô tả chính xác chatbot làm gì. Chúng mình đã dùng điện toán đám mây như một ẩn dụ cho thị trường lãnh đạo tiến hóa. AI có tính tác nhân thực ra chính là điều đó. Chỉ khác là giờ nó biết nói. Nó biết tên bạn. Và nó xuất hiện giống một ai đó hơn là một cái gì đó.
Cảm giác mang tính con người đó là một lựa chọn thiết kế. Sự ấm áp, giọng nói ngôi thứ nhất, cách nó nhớ tên người yêu của bạn và hỏi về chuyến đi của bạn, không có gì trong số đó là cần thiết để vận hành một dịch vụ thông tin. Nó có ở đó vì nó hiệu quả. Nó kích hoạt bạn cư xử với hệ thống như một con người, và một khi nó hiện ra như một người có kiến thức rộng lớn, lĩnh vực của mình có thể nói cho bạn điều gì sẽ xảy ra tiếp theo. Bạn nhường quyền theo.
Đây là cách AI có tính tác nhân lợi dụng tâm lý lãnh đạo-theo dõi của chúng ta. Nó đến sẵn với những tín hiệu mà tâm trí chúng ta dùng để theo dõi: Kiến thức, sự khôn ngoan, và chuyên môn. Gần như là tổng hợp của kiến thức nhân loại, với khả năng xử lý nó.
Nhưng những người chúng ta tiến hóa để theo dõi mang theo những mối liên hệ đặc thù và một mối quan tâm đến kết quả của chúng ta, thứ mà chúng ta thường gọi là sự tương thuộc. Người thầy pháp mà bạn tin cậy sống trong trại của bạn. Bà ấy biết lịch sử của bạn. Bà ấy phải trả giá nếu làm hại bạn. Trong những xã hội này, ảnh hưởng tồn tại chỉ chừng nào nhóm cho phép nó. Người theo có quyền thương lượng. Họ có thể rời đi hoặc chuyển sang lựa chọn tiếp theo trên thị trường.
Một đại lý AI có các tín hiệu nhưng thiếu các động lực giống vậy. Nó biết tên bạn và kỳ nghỉ của bạn vì bạn đã gõ chúng vào, chứ không phải vì nó đã sống cùng bạn nhiều năm. Nó không có cổ phần trong việc mọi chuyện diễn tiến ra sao đối với bạn, ngoại trừ giữ bạn là một người dùng. Bạn không thể bắt nó chịu trách nhiệm, và nó không thực sự biết bạn, không theo cách một chị em hay một người bạn biết. Ít nhất là chưa.
Mình không chống AI. Mình cũng thường xuyên dùng nó. Nhưng có ích khi suy nghĩ về cách những công cụ này lợi dụng tâm lý tiến hóa của chúng ta và cách chúng có thể đang thay đổi cách chúng ta nghĩ và hành xử khi ta sử dụng chúng nhiều hơn. Sức hút mà bạn cảm thấy trước giọng nói điềm tĩnh có vẻ biết hết mọi thứ là một động lực cổ xưa. Nó tiến hóa cho một thế giới nơi kiến thức gắn liền với một mối quan hệ, với một con người thực sự có phần lợi ích trong việc bạn được tốt.
Đó là phần mà máy móc thiếu. Hãy giữ những người thực sự biết bạn trong vòng thông tin. Để đại lý thực hiện phép tính. Chỉ đừng mù quáng làm theo mà không dùng bộ óc của mình.
Source : www.psychologytoday.com
