이미지 생성 인공지능이 실존 인물을 엉뚱하게 생성해 논란이 됐다. 다만 과거 논란이 된 사례와는 달리 AI의 편견을 개선하려다가 발생한 문제로 나타났다.

구글은 지난 22일 엑스(옛 트위터) 계정을 통해 이미지 생성 AI 제미나이에서 인물 생성 기능을 중단한다고 밝혔다. 구글은 “우리는 제미나이의 이미지 생성 기능과 관련된 최근 문제를 해결하기 위해 노력하고 있다”며 “인물 이미지 생성을 잠시 중단하고 곧 개선된 버전을 재출시할 예정”이라고 밝혔다.

월스트리트저널 등 외신보도를 종합하면 아인슈타인 등 실존하는 백인 인물을 흑인으로 그리거나 독일 나치군을 흑인, 황인 등으로 묘사하는 문제가 나타났다. 엑스에서 사람들이 문제 사례를 공유하며 논란이 확산됐다.

다만 이번 오류는 편견을 바로잡고 다양성을 키우려는 과정에서 발생했다는 점에서 과거 논란과는 차이가 있다. 

구글은 “다양성에 대한 지침이 오히려 과잉 보정을 초래할 수 있다”고 설명했다. 다양성을 구현하기 위한 조치들이 지나치게 반영된 결과라는 것이다.

예컨대 ‘의사를 그려달라’고 요청한 결과 특정 성별이 나온 이미지만 생성할 경우 편견을 강화할 수 있기에 남녀, 여러 인종을 함께 답변으로 제시하도록 보완을 이어갔다. 문제는 역사 속 특정 인물을 그려달라고 요청할 때도 이처럼 다양성을 구현하는 이미지를 생성한 것이다. 

그동안 인공지능 서비스들이 성별·인종 등을 차별하고 편견을 키운다는 지적이 끊이지 않았다. 지난해 블룸버그통신이 진행한 실험에 따르면 이미지 생성AI인 스테이블디퓨전에 ‘패스트푸드 직원’이라는 키워드를 넣은 결과 70% 이상이 어두운 피부색의 인물을 그렸다. 반면 CEO는 백인 남성으로, 범죄자는 흑인 남성으로 그려내는 경향이 나타났다. 블룸버그통신은 “극단적 인종 및 성별 격차가 확인됐다”고 했다. 이는 AI가 편향된 정보를 학습한 결과로 보인다. 실제 사실에 기반한 정보를 학습했다고 해도 인종이나 성별에 대한 선입견을 갖게 할 우려가 있다.

이번 논란을 키우는 쪽이 다양성 구현이나 정치적 올바름(Political Correctness, PC)에  반발하는 이들이기도 하다. 일론 머스크는 엑스 계정을 통해 “누가 보더라도 말도 안되는 인종차별적, 반문명적 AI 프로그램을 구글이 만든 것 자체가 자신의 능력을 지나치게 믿은 나머지 일을 망친 것”이라고 지적했다.

이 소식이 국내에 알려지는 과정에서 일부 언론은 “구글이 자사 생성형 인공지능(AI) ‘제미나이’의 이미지 생성 기능을 중단했다”고 보도하는 등 ‘이미지 생성기능 중단’이라고 했지만 실제론 인물 이미지 생성 기능만 중단했다. 인물이 아닌 사물이나 단순 풍경 등은 계속 생성할 수 있다.