Nhiều chính phủ khuyến nghị rằng trí tuệ nhân tạo (AI) sẽ thay đổi ngành y tế bằng cách nâng cao chất lượng chẩn đoán, lập kế hoạch điều trị và cải thiện hiệu quả hành chính1. Tuy nhiên, những tuyên bố này thường vượt xa thực tế, và không chỉ vì các vấn đề thực tiễn và đạo đức đã được bàn luận nhiều2. Quan trọng không kém bên cạnh những lo ngại về thực tiễn/đạo đức, cũng như sự thiếu hụt dữ liệu chất lượng để củng cố những khẳng định có phần phóng đại, là việc tích hợp AI vào chăm sóc sức khỏe có thể vô tình củng cố những bất bình đẳng y tế đối với các nhóm người bị thiểu số hóa — đặc biệt là phụ nữ. Hiểu được vấn đề này là điều cần thiết để đảm bảo việc sử dụng AI hiệu quả — nếu thực sự chúng ta phải đi theo con đường đó.
Hệ thống AI học hỏi từ những bộ dữ liệu lớn được cung cấp — đó là nền tảng để chúng “học”. Ngay lập tức chúng ta đã thấy một vấn đề — các vấn đề về sức khỏe của phụ nữ thường bị nghiên cứu ít hơn và thiếu đại diện trong các tài liệu đã xuất bản, và phụ nữ thuộc các nhóm bị thiểu số càng ít được đại diện hơn trong các bộ dữ liệu này3. Điều này dẫn đến những khoảng trống trong độ chính xác và độ tin cậy của dữ liệu mà AI sử dụng để tạo ra kết quả. Ảnh hưởng trực tiếp là những quyết định lâm sàng bị lệch do kết quả AI thiên lệch gây ảnh hưởng đến việc chẩn đoán và gợi ý điều trị. Hệ quả của việc thiếu đại diện này là hiệu suất không công bằng — một hệ thống y tế do AI hỗ trợ hoạt động tốt hơn cho một số nhóm so với những nhóm khác3.
Huyền thoại về sự trung lập của AI
Ngoài vấn đề hiệu suất này, AI thường được coi là công cụ “trung lập”, phân loại và tổng hợp dữ liệu một cách công bằng, mang lại chẩn đoán nhanh hơn, dự đoán kết quả tốt hơn và dịch vụ hiệu quả hơn. Nếu AI hoạt động không đều, người ta thường đổ lỗi cho dữ liệu đầu vào chứ không phải hệ thống. Tuy nhiên, nghiên cứu ngày càng chỉ ra AI không hề trung lập mà phản ánh chính những thành kiến tâm lý, định kiến và sự kỳ thị mà con người đã tạo ra cho công cụ này3-5. Chúng ta đừng quên rằng AI không có sự sáng tạo thực sự — nó làm theo lệnh, được diễn giải qua lăng kính của lập trình viên. Khi ứng dụng trong y tế, những định kiến hiện hữu ảnh hưởng đến cách AI hoạt động, tác động sâu sắc, đặc biệt đối với phụ nữ.
Để hiểu tại sao điều này xảy ra, chúng ta hãy bắt đầu bằng những hiểu biết tâm lý về định kiến. Con người dựa vào những lối tắt tinh thần, gọi là heuristics, để hiểu một thế giới phức tạp6. Những lối tắt này giúp xử lý thông tin nhanh và hành động kịp thời, nhưng cũng gây ra các thành kiến và định kiến hệ thống. Trong số những thành kiến mạnh mẽ nhất là các định kiến giới7. Những định kiến này không chỉ là những điều phiền toái hoặc cố ý gây hại — chúng ăn sâu trong văn hóa, ngôn ngữ, và cấu trúc xã hội3,6.
Khi một số bệnh được liên kết lặp đi lặp lại với phụ nữ, trong khi những bệnh khác lại bị bỏ qua ở nhóm này, nó không chỉ hình thành cách hiểu của công chúng và kỳ vọng lâm sàng mà còn ảnh hưởng đến cách các triệu chứng được giải thích và các chẩn đoán được xem là khả dĩ nhất3. Định kiến giới gán cho phụ nữ tính cảm xúc có thể dẫn đến tình huống triệu chứng của phụ nữ bị xem nhẹ hoặc hiểu sai3. Điều này phản ánh một lịch sử lâu dài trong y học, khi những cơn đau hay bệnh tật của phụ nữ thường bị bỏ qua hoặc được hiểu là biểu hiện tâm lý (dù có thể do chấn thương tâm lý – xã hội nhưng nỗi đau và bệnh tật ấy là thể chất và có thật). Hệ thống AI phản chiếu các định kiến như vậy vô tình duy trì mẫu hình này, làm cho nó ăn sâu hơn vào thực hành y khoa.
Tại sao hệ thống AI phản ánh và khuếch đại định kiến con người
Một hệ thống AI dựa trên ngôn ngữ và hành vi con người sẽ hấp thụ bất kỳ mô hình định kiến và thành kiến có thể tồn tại. Thực tế, các mô hình học máy phản ánh chính các liên kết tâm lý học mà con người có trong nhận thức của mình3,8. Tất nhiên, vì chúng được xây dựng từ dữ liệu do con người tạo ra và diễn giải. Vậy nên AI có thể không học “sự thật,” mà học cách các sự kiện được diễn giải bởi con người đã ghi nhận chúng. Trong y tế, nơi những quyết định thường thiếu chắc chắn nhưng lại quan trọng, điều này khiến AI có khả năng đơn thuần phản ánh những gì đa số người đã tin và củng cố những hành vi đã tạo ra bất bình đẳng tồn tại3,5 — nhưng vì chúng quen thuộc trong bối cảnh không chắc chắn, nên người ta bám lấy.
Thiết kế công nghệ AI duy trì vai trò giới
Một tổng quan4 về nghiên cứu các định kiến giới trong AI cho thấy những mô hình định kiến này lan rộng đến mức nào. Trong các công nghệ như chatbot, robot và trợ lý ảo, AI thường được thiết kế theo cách phù hợp với vai trò giới truyền thống. Ví dụ, các trợ lý số thường mang tên và giọng nữ, được định vị như những người hỗ trợ, tận tụy và khiêm nhường. Trong khi đó, các vai trò liên quan đến quyền uy hoặc chuyên môn lại thường mang hình ảnh nam tính nhiều hơn. Những lựa chọn thiết kế này ảnh hưởng đến cách người dùng nhìn nhận và tương tác với hệ thống. Mọi người có xu hướng kỳ vọng AI được mã hoá nữ tính thì sẽ ấm áp và có trí tuệ cảm xúc, còn AI mã hóa nam tính thì được xem là có năng lực và quyền uy hơn4. Ngay cả khi các nhà thiết kế AI cố gắng tạo ra hệ thống trung tính về giới, người dùng vẫn thường suy diễn giới tính qua những dấu hiệu tinh tế như giọng nói hay loại nhiệm vụ AI đảm nhận4. Điều này phản ánh sức mạnh của các khuôn mẫu giới trong nhận thức con người: Dù thích hay không, chúng ta vẫn thường phân loại và hiểu thế giới theo cách có định kiến giới9, và AI chỉ đơn giản là tham gia vào quá trình đó.
Tác động của hình ảnh và khuôn mẫu AI tạo ra trong y tế
Những mô hình này không hề nhỏ nhặt, bởi hình ảnh có sức ảnh hưởng mạnh mẽ trong việc hình thành cách hiểu — chúng tạo kỳ vọng, định hướng sự chú ý và ảnh hưởng đến trí nhớ, thường vượt ra ngoài chữ viết10. Khi các hình ảnh do AI tạo ra liên tục trình bày những quan điểm hạn hẹp và thiên lệch về vai trò y tế, chúng củng cố các định kiến, từ đó tác động đến cách chăm sóc được thực hiện, ai được coi trọng và thế nào là “tiêu chuẩn” trong y học6. Các hệ thống AI tái tạo định kiến khiến bệnh nhân cảm thấy bị hiểu lầm hoặc bị gạt ra ngoài lề5. Điều này có thể làm suy giảm niềm tin của bệnh nhân, và khi mọi người cảm nhận sự thành kiến trong chăm sóc y tế, họ ít có xu hướng tìm kiếm sự trợ giúp, tuân thủ lời khuyên hay tương tác với chuyên gia hơn5.
Một hiệu ứng tâm lý liên quan khi cân nhắc tác động của AI trong y tế là nguy cơ định kiến đe doạ (stereotype threat)11. Khi ai đó nhận thức mình thuộc nhóm bị định kiến tiêu cực, họ có thể trải qua lo âu và giảm tự tin, làm suy giảm giao tiếp và quyết định. Điều này dẫn đến trải nghiệm y tế kém hơn, trì hoãn việc chăm sóc và kết quả tồi tệ hơn12. Các hệ thống AI mà kích hoạt hoặc củng cố định kiến càng làm trầm trọng thêm các tác động này5.
Tổng hòa lại, những phát hiện này gợi mở một kết luận rộng lớn: AI không phải là một người quan sát khách quan thực tại, mà là một tấm gương phản chiếu nhận thức con người. Nó phản ánh cách con người phân loại, đơn giản hóa và định kiến, và bởi hoạt động trên quy mô lớn, AI có thể khuếch đại các mô hình này vượt xa các tương tác cá nhân. Để cải thiện AI trong y tế, chúng ta cần nhiều hơn là những sửa đổi kỹ thuật và đạo đức. Chúng ta cần thấu hiểu những quá trình tâm lý phức tạp hình thành nên tư duy con người cũng như những phản chiếu máy móc của nó.
Source : www.psychologytoday.com
