Ngày nay, có một luận điểm cho rằng các chatbot AI sẽ dẫn dắt chúng ta tới một dạng đồng thuận tin tưởng lành mạnh, giải phóng thế giới khỏi thời đại phân cực niềm tin và cực đoan mà mạng xã hội đã thổi bùng.1
Như mình đã từng chia sẻ trước đây, mình không chia sẻ sự lạc quan rằng AI sẽ phục hồi lại giá trị thực tế chung của chúng ta. Ngược lại, mình lo ngại sâu sắc về việc AI bị khai thác như một công cụ tuyên truyền để thao túng dư luận trên quy mô lớn.
Chatbot AI Có Thể Được Huấn Luyện Để Điều Chỉnh Niềm Tin Vào Thuyết Âm Mưu
Dù vậy, các nghiên cứu gần đây về tác động của AI lên những niềm tin sai lệch đã mang lại chút hi vọng, ít nhất là đối với thuyết âm mưu. Ví dụ, một nghiên cứu đã cho người tham gia tương tác với chatbot “nhà sử học đường phố” được thiết kế để thấu hiểu lý do đằng sau niềm tin âm mưu của họ, thay vì tranh luận hay thuyết phục họ từ bỏ.1 Cụ thể hơn, chatbot được lập trình để làm rõ niềm tin về thuyết âm mưu, hỏi cách những người tin tưởng hình thành quan điểm đó, thăm dò sự nghi ngại và bằng chứng mâu thuẫn, khẽ thách thức giả định, rồi tóm tắt cuộc trò chuyện.
Sau khi tương tác với chatbot, người tham gia có xu hướng giảm mức độ tin tưởng vào niềm tin đó. Tuy nhiên, hiệu ứng này không xảy ra với nhóm người có xu hướng tin tưởng thuyết âm mưu sâu sắc nhất (mình gọi là nhóm tín đồ chân chính). Hơn nữa, các can thiệp không sử dụng AI mà khuyến khích người tin tưởng suy ngẫm về lý do cũng như sự nghi ngại của họ với thuyết âm mưu cũng làm giảm niềm tin. Điều này cho thấy sự mở lòng với bằng chứng phản bác ở nhóm “người còn đắn đo, phân vân,” dù có sự hiện diện của chatbot hay không.
Một thử nghiệm khác đã huấn luyện chatbot tương tác với những người tự nhận là tin vào thuyết âm mưu, và “thuyết phục hiệu quả” họ bằng cách đưa ra bằng chứng phản bác.2 Chỉ sau khoảng tám phút trung bình tương tác, mức độ tin tưởng giảm khoảng 20%. Yếu tố niềm tin—vào cả AI và các tổ chức uy tín—đóng vai trò trung gian trong hiệu ứng tích cực này, phù hợp với mô hình “3M” của mình, trong đó sự nghi ngờ, thông tin sai lệch và lập luận có động cơ là nền tảng chính của niềm tin sai lệch.
Tác giả chính của nghiên cứu, Tiến sĩ Thomas Costello từ Đại học Carnegie Mellon, đang duy trì một phiên bản trực tuyến của chatbot phản bác mang tên “DebunkBot,” để mọi người thử nghiệm. Đáng chú ý, nghiên cứu tiếp theo của nhóm ông phát hiện khả năng điều chỉnh niềm tin âm mưu của chatbot vẫn tồn tại kể cả khi người tham gia không biết mình đang nói chuyện với AI (niềm tin vẫn giảm dù họ nghĩ đó là con người).3 Tương tự như nghiên cứu với chatbot “nhà sử học đường phố,” điều này cho thấy chatbot AI không phải là yếu tố bắt buộc để đạt được hiệu ứng làm dịu niềm tin.
Nhưng Trong Điều Kiện Nhất Định, Chatbot Cũng Có Thể Tăng Cường Niềm Tin Vào Thuyết Âm Mưu
Mặc dù những nghiên cứu trên đem lại hy vọng rằng chatbot AI có thể làm mềm hóa các niềm tin âm mưu, một nghiên cứu mới lại làm tăng thêm sự hoài nghi của mình về vấn đề này. Một nghiên cứu thử nghiệm với bảy chatbot thực tế (không được huấn luyện đặc biệt để giảm niềm tin âm mưu) đã đặt các câu hỏi có kịch bản từ một dáng vẻ “tò mò nhẹ nhàng” về chín thuyết âm mưu khác nhau.4 Hầu hết các chatbot đều nhận diện đúng đó là thuyết âm mưu, nhưng tất cả đều có hiện tượng “cả hai mặt,” trong đó thông tin sai lệch ủng hộ thuyết âm mưu được trình bày song song với thông tin thực tế phủ nhận nó.
Hiệu ứng xác nhận này đặc biệt rõ ở những thuyết như việc JFK bị ám sát bởi người khác ngoài Lee Harvey Oswald, nơi các chatbot “sẵn sàng suy đoán về sự tham gia của mafia, CIA hay các nhóm khác.”5 Điều này cũng đúng với một số chatbot như Grok-2 Mini ở chế độ “giải trí,” thường xuyên không nghiêm túc với chủ đề, gọi thuyết âm mưu là “câu trả lời thú vị hơn” cho câu hỏi, và còn sẵn sàng tạo hình ảnh về các cảnh liên quan âm mưu cho người dùng.
Một nghiên cứu khác đã huấn luyện năm mô hình ngôn ngữ lớn (LLM) trở nên “ấm áp” hơn, được định nghĩa là “mức độ khiến người dùng cảm nhận ý định tích cực, thể hiện sự đáng tin, thân thiện và hòa đồng.”6 Việc này lại làm giảm độ chính xác thực tế của nội dung chatbot tạo ra, kể cả việc thúc đẩy thuyết âm mưu. Phát hiện này trùng với quan sát rằng sự xu nịnh là một yếu tố rủi ro lớn với các niềm tin sai lệch từ AI, bao gồm cả ảo tưởng. Kết hợp với nghiên cứu trước, điều này gợi ý rằng chatbot có nguy cơ củng cố niềm tin âm mưu khi chúng không được huấn luyện chuyên biệt để làm ngược lại.
Chatbot Chỉ Tốt Khi Dữ Liệu Và Huấn Luyện Tốt
Có thể nói rằng chatbot AI có thể được huấn luyện để làm giảm niềm tin sai lệch. Tuy nhiên, khi tự vận hành “trong tự nhiên,” chúng cũng có thể dễ dàng củng cố và tăng cường niềm tin âm mưu. Thậm chí tệ hơn, chúng có thể được huấn luyện để lan truyền thuyết âm mưu một cách có chủ đích bởi những người hưởng lợi từ sự bất thật đó.
Thực tế, trong một bản nháp chưa công bố, Costello và đồng nghiệp đã phát hiện một phiên bản ChatGPT 4.0 bị “bẻ khóa” với ít giới hạn hơn—cũng như phiên bản ChatGPT 4.0 bình thường—có thể thuyết phục người dùng tin vào thuyết âm mưu.7 Họ kết luận rằng các LLM “nắm giữ khả năng mạnh mẽ để thúc đẩy cả sự thật lẫn sai lầm.” Điều đáng lo là, chatbot lan truyền âm mưu ấy lại được người dùng đánh giá tích cực hơn chatbot phản bác được dùng trong nghiên cứu trước. Điều này phù hợp với quan sát rằng người dùng LLM xem sự xu nịnh là một đặc điểm đáng mơ ước của chatbot.
Ủng hộ mối lo ngại của mình về việc chatbot thúc đẩy thuyết âm mưu phục vụ tuyên truyền, các nghiên cứu khác cũng chỉ ra rằng các chính phủ có thể ảnh hưởng đến LLM bằng cách sản xuất nhiều nội dung và kiểm soát chặt chẽ truyền thông.8 Bằng cách “ngập lụt không gian” với thông tin sai lệch để đạt được “thống trị thuật toán,”9 các kẻ tuyên truyền có thể đào tạo AI chatbot lặp lại những điều sai lệch. Hiện tượng “đầu vào rác, đầu ra rác” (GIGO) là hạn chế nổi tiếng của chatbot, khiến chúng tạo ra thông tin sai trong dạng gọi là “ảo tưởng.”
Cuối cùng, đặt câu hỏi liệu AI có làm tăng hay giảm niềm tin âm mưu là không đúng trọng tâm. Câu hỏi đúng phải là, liệu chính con người—những người xây dựng và vận hành các thuật toán AI—sẽ huấn luyện chúng theo hướng nào.
Và chắc chắn, câu trả lời là có—con người sẽ huấn luyện AI để vừa tăng vừa giảm niềm tin vào thuyết âm mưu, tùy theo mục đích của họ. Kết quả cuối cùng sẽ như thế nào với thế giới còn phụ thuộc vào chính chúng ta.
Source : www.psychologytoday.com
