최근 연구진이 실시한 연구에 따르면 이스트 앵글리아 대학교 영국에서 OpenAI의 채팅 기능에 내재된 잠재적인 정치적 편향성을 밝혀냈습니다. 이는 인공지능 기업들이 자사 봇의 행동을 통제하는 데 직면한 지속적인 어려움을 강조합니다. 특히 봇이 전 세계 수백만 사용자의 삶에 필수적인 요소가 되고 있는 상황에서 더욱 그렇습니다.
이 연구에서 Chat은 미국, 영국, 브라질의 자유주의 정당 지지자들을 중심으로 정치적 신념에 대한 설문조사를 받았습니다. 수집된 응답을 아무런 자극 없이 생성된 응답과 비교한 결과, 일관되고 주목할 만한 정치적 편향이 드러났습니다. 구체적으로, 이 연구는 미국에서는 민주당, 브라질에서는 룰라, 그리고 영국에서는 노동당에 대한 상당한 성향을 강조하여 응답에 체계적인 편향이 있음을 시사했습니다.
이러한 결과는 설계 단계에서 편견을 해소하기 위한 집중적인 노력에도 불구하고 Chat과 같은 AI 챗봇은 훈련에 사용된 방대한 데이터 풀에 존재하는 가정, 신념, 고정관념을 필연적으로 흡수한다는 점을 지적하는 점점 더 많은 연구 결과와 일치합니다.
이 문제는 챗봇이 점차 일상생활에 통합되면서 특히 중요해졌습니다. 미국이 2024년 대선을 준비하면서 챗봇은 단순한 지원을 넘어 문서 요약, 질문에 대한 답변, 전문적이고 개인적인 글쓰기 작업까지 지원하는 등 사람들의 삶에서 역할을 맡고 있습니다. Google과 같은 플랫폼이 검색 문의를 직접 처리하기 위해 챗봇을 사용하고 콘텐츠 생성을 위해 이를 활용하는 정치 캠페인을 사용하면 대중의 인식은 물론 선거 결과에도 잠재적인 영향을 미칠 수 있다는 우려가 제기됩니다.
Chat은 사용자에 대한 정치적 의견이나 편견이 없다고 주장하지만, 연구의 주저자인 파비오 모토키는 그렇지 않다고 주장합니다. 발견된 편견은 대중의 신뢰를 떨어뜨리고 정치 과정에 의도치 않은 영향을 미칠 수 있습니다.
Meta, Google, OpenAI를 포함한 주요 AI 회사의 응답은 아직 이러한 발견에 대해 얻어지지 않았습니다. OpenAI는 이전에 AI 모델에서 감지된 편향은 의도적이지 않으며 의도적인 기능을 나타내는 것이 아니라고 밝혔습니다.
이 연구는 특히 생성형 챗봇 시대에 AI 모델의 편향을 완화하는 것이 얼마나 어려운지를 강조합니다. Chat, 구글의 Bard, 마이크로소프트의 Bing을 포함한 이러한 챗봇은 인터넷 데이터를 광범위하게 처리하는 방대한 언어 모델을 기반으로 구축됩니다. 결과적으로, 이러한 챗봇은 온라인에 만연한 편향과 관점을 반영하는 경향이 있습니다.
더욱이 이러한 챗봇은 정치, 기술, 소셜 미디어를 아우르는 논의의 중심 주제가 되었습니다. 심지어 Chat조차도 출시 직후 진보적 관점을 선호한다는 비난을 받으며 편향성 의혹에 직면했습니다. 이는 기술과 소셜 미디어 플랫폼이 정치적 결과와 사회적 양극화에 어떤 영향을 미칠 수 있는지에 대한 더 광범위한 논의를 불러일으킵니다.
챗봇이 온라인 상호 작용에 더욱 뿌리내리게 되면서 그 결과는 사회에서 관찰되는 기존 양극화를 더욱 증폭시킬 수 있습니다. 봇이 생성한 콘텐츠에 의해 점점 더 형성되고 있는 정보 환경은 의도치 않게 양극화 피드백 루프에 기여할 수 있습니다.
이러한 문제를 해결하기 위한 노력은 계속되고 있습니다. 연구원들은 챗봇 응답에서 편견을 감지하고 완화하는 방법을 적극적으로 탐색하고 있습니다. 제안된 접근 방식에는 편향된 언어를 식별하고 이를 중립적인 대안으로 대체하는 추가 계층이 포함됩니다. 그럼에도 불구하고, 인터넷의 무질서한 성격과 그것이 포함하는 복잡한 편견의 태피스트리를 고려할 때 완벽한 중립성을 달성하는 것은 여전히 어려운 목표로 남아 있습니다.
결론적으로, 이 연구는 AI 편견의 복잡성과 그것이 정치적 담론과 의사결정에 미치는 잠재적 영향을 조명합니다. 이번 연구는 AI 기술이 흥미로운 가능성을 제공하는 동시에 의도하지 않은 결과를 관리하는 데 있어 중요한 책임도 따른다는 점을 상기시켜 줍니다. AI가 계속 발전함에 따라 기술 발전과 윤리적 고려 사항 사이의 균형을 찾는 것이 여전히 중요한 과제로 남을 것입니다.