Một nghiên cứu gần đây được thực hiện bởi các nhà nghiên cứu từ Đại học Đông Anglia ở Anh đã làm sáng tỏ một thành kiến chính trị tiềm ẩn trong tính năng Chat của OpenAI. Tiết lộ này nhấn mạnh những thách thức mà các công ty trí tuệ nhân tạo đang phải đối mặt trong việc kiểm soát hành vi của bot, đặc biệt là khi những bot này trở thành một phần không thể thiếu trong cuộc sống của hàng triệu người dùng trên toàn thế giới.
Trong nghiên cứu này, Chat đã được khảo sát về quan điểm chính trị, tập trung vào những người ủng hộ các đảng tự do ở Hoa Kỳ, Vương quốc Anh và Brazil. Các câu trả lời thu được sau đó được so sánh với những câu trả lời được tạo ra mà không có bất kỳ sự gợi ý nào, cho thấy một sự thiên vị chính trị nhất quán và đáng chú ý. Cụ thể, nghiên cứu nhấn mạnh sự thiên vị đáng kể đối với Đảng Dân chủ ở Hoa Kỳ, Lula ở Brazil và Đảng Lao động ở Anh, qua đó cho thấy một sự thiên vị có hệ thống trong các câu trả lời của Chat.
Những phát hiện này phản ánh một khối lượng nghiên cứu ngày càng tăng chỉ ra rằng, bất chấp những nỗ lực phối hợp để chống lại sự thiên vị trong giai đoạn thiết kế, các chatbot AI như Chat không tránh khỏi việc tiếp thu các giả định, niềm tin và khuôn mẫu có trong kho dữ liệu khổng lồ mà chúng được đào tạo.
Vấn đề này trở nên đặc biệt thích hợp khi chatbot ngày càng tích hợp vào thói quen hàng ngày. Khi Hoa Kỳ chuẩn bị cho cuộc bầu cử tổng thống năm 2024, chatbot đang đảm nhận vai trò trong cuộc sống của mọi người ngoài việc hỗ trợ đơn giản, hỗ trợ tóm tắt tài liệu, trả lời các câu hỏi và thậm chí đóng góp cho các nhiệm vụ viết cá nhân và chuyên nghiệp. Với các nền tảng như Google sử dụng chatbot để giải quyết trực tiếp các yêu cầu tìm kiếm và các chiến dịch chính trị sử dụng chúng để tạo nội dung, tác động tiềm ẩn đối với nhận thức của công chúng và thậm chí cả kết quả bầu cử sẽ gây lo ngại.
Trong khi Chat khẳng định không có quan điểm chính trị hay thiên vị nào đối với người dùng, tác giả chính của nghiên cứu, Fabio Motoki, lại cho rằng ngược lại. Những thiên vị được phát hiện có thể làm xói mòn niềm tin của công chúng và có khả năng gây ảnh hưởng không mong muốn đến các tiến trình chính trị.
Phản hồi từ các công ty AI lớn, bao gồm Meta, Google và OpenAI, vẫn chưa có về những phát hiện này. OpenAI trước đây đã tuyên bố rằng bất kỳ sự thiên vị nào được phát hiện trong các mô hình AI của họ đều là vô ý và không chỉ ra một tính năng cố ý.
Nghiên cứu này nhấn mạnh thách thức phức tạp trong việc giảm thiểu thiên kiến trong các mô hình AI, đặc biệt là trong thời đại chatbot sinh sản. Các chatbot này, bao gồm Chat, Bard của Google và Bing của Microsoft, được xây dựng trên các mô hình ngôn ngữ khổng lồ xử lý dữ liệu từ internet một cách chuyên sâu. Do đó, chúng có xu hướng phản ánh những thiên kiến và quan điểm phổ biến trên mạng.
Hơn nữa, những chatbot này đã trở thành tâm điểm trong các cuộc thảo luận về chính trị, công nghệ và mạng xã hội. Ngay cả Chat cũng phải đối mặt với những cáo buộc thiên vị ngay sau khi ra mắt, với những cáo buộc thiên vị quan điểm tự do. Điều này làm sáng tỏ cuộc tranh luận rộng hơn về cách công nghệ và các nền tảng mạng xã hội có thể ảnh hưởng đến kết quả chính trị và sự phân cực xã hội.
Khi các chatbot ăn sâu hơn vào các tương tác trực tuyến, kết quả đầu ra của chúng có thể khuếch đại hơn nữa sự phân cực hiện có được quan sát thấy trong xã hội. Bối cảnh thông tin, ngày càng được định hình bởi nội dung do bot tạo ra, có thể vô tình góp phần vào vòng phân cực phản hồi.
Những nỗ lực để giải quyết những vấn đề này đang diễn ra. Các nhà nghiên cứu đang tích cực khám phá các phương pháp để phát hiện và giảm thiểu những sai lệch trong phản hồi của chatbot. Một cách tiếp cận được đề xuất liên quan đến một lớp bổ sung xác định ngôn ngữ thiên vị và thay thế nó bằng các lựa chọn thay thế trung lập. Tuy nhiên, do tính chất rộng lớn của Internet và tấm thảm phức tạp của những thành kiến mà nó bao hàm, việc đạt được sự trung lập hoàn hảo vẫn là một mục tiêu khó nắm bắt.
Tóm lại, nghiên cứu làm sáng tỏ sự phức tạp của những thành kiến AI và tác động tiềm ẩn của chúng đối với diễn ngôn chính trị và quá trình ra quyết định. Nghiên cứu này như một lời nhắc nhở rằng mặc dù công nghệ AI mang đến những khả năng thú vị, nhưng nó cũng mang những trách nhiệm quan trọng trong việc quản lý những hậu quả không lường trước được. Khi AI tiếp tục phát triển, việc tìm kiếm sự cân bằng giữa tiến bộ công nghệ và cân nhắc về đạo đức sẽ vẫn là một thách thức quan trọng.