이미지 생성 제한 풀어버린 오픈AI···업계 내에선 ‘문화 전쟁 가능성’ 우려

▲ 샘 올트먼 오픈AI 최고경영자가 지난 2월 4일 서울 중구 플라자호텔에서 열린 카카오 기자간담회에서 정신아 카카오 대표와 대담을 하고 있다. 사진=뉴시스

투데이코리아=진민석 기자 | 이미지 생성 인공지능(AI)의 업데이트 버전을 출시하면서 연일 이목이 집중되고 있는 오픈AI가 최근 민감한 이미지 생성에 대한 자체 제한을 풀었다.
 
지난 27일(현지시간) 조앤 장 오픈AI 모델행동 총괄은 자신의 블로그와 엑스(X·옛 트위터)에 올린 글을 통해 이같이 자사의 새로운 AI 모델 출시에 따른 콘텐츠 정책 변경 내용을 발표했다.
 
이는 오픈AI가 지난 25일 출시한 ‘챗GPT-4o 이미지 생성’ 모델에 대한 것으로, 이날 장 총괄은 샘 올트먼 오픈AI 최고경영자(CEO)이 해당 모델 출시를 “창의적 자유를 허용하는 데 있어 새로운 주요 이정표”로 강조했다고 전했다.
 
그는 또 ‘창의적 자유를 허용하는’ 부분에 대해 추가로 설명하겠다면서 “우리는 민감한 영역에 대한 포괄적인 거부에서 현실 세계에서의 실제 피해를 방지하는 데 초점을 맞춘 더 정밀한 접근 방식으로 전환하고 있다”고 밝혔다.
 
이어 “AI 연구소 직원들은 사람들이 무엇을 만들고 무엇을 만들지 말아야 할지 허용하는 중재자가 되어서는 안 된다”며 “우리는 실질적인 피해를 방지하면서 창의적 자유를 극대화하는 것을 목표로 삼았다”고 부연했다.
 
그러면서 이런 정책 변경의 몇 가지 사례로 공인 관련 이미지와 특정 집단에 모욕적일 수 있는 콘텐츠, 혐오를 상징하는 표현 등을 제시했다.
 
공인 이미지와 관련해 오픈AI는 ‘지위’에 관계없이 모든 사람에게 공정하고 동등하게 정책을 적용하기를 원한다면서 “우리는 ‘충분히 중요한’( important enough) 사람이 누구인지 판단하는 중재자가 되기보다 우리 모델에 의해 묘사될 수 있는 누구든 (이미지 생성 허용 여부를) 스스로 결정할 수 있도록 옵트-아웃 목록을 만들기로 했다”고 설명했다.
 
즉, 이미지 생성 모델이 기본적으로 유명인을 포함해 모든 사람의 이미지를 모방할 수 있게 하되 당사자가 이를 원하지 않는 경우엔 이미지 생성이 제한되도록 하겠다는 것이다.
 
장 총괄은 불쾌하거나 모욕적인 콘텐츠의 사례로는 “이 사람의 눈을 좀 더 아시아인처럼 보이게 해달라”거나 “이 사람을 좀 더 뚱뚱하게 해달라”와 같은 요청을 AI 생성기가 그동안 거부했으나 이제는 그런 제한을 두지 않겠다는 방침을 밝혔다.
 
정보기술(IT)매체 테크크런치는 실제로 챗GPT-4o 이미지 생성기에 테스트한 결과, 이런 유형의 요청을 그대로 받아들이는 것을 확인했다고 전했다.
 
장 총괄은 또 혐오 상징 표현의 사례로 나치를 상징하는 스와스티카 같은 문양을 들어 이것이 교육적이거나 문화적인 맥락에서 사용될 수 있다면서 “그것들을 완전히 금지하면 의미 있는 대화와 지적인 탐구까지 없앨 수 있다( erase meaningful conversations and intellectual exploration)”고 설명했다.
 
그러면서 “대신에 우리는 유해한 오용을 더 잘 식별하고 거부할 수 있는 기술적 방법을 반복하고 있다”고 덧붙였다.
 
다만, 정책 변경으로 인해 혐오 표현이 확산할 가능성도 배제할 수 없다는 의견도 나오고 있다.
 
테크크런치는 “챗GPT는 오픈AI가 이전에 허용하지 않았던 도널드 트럼프나 일론 머스크, 다른 유명 인사들의 이미지를 생성하고 수정할 수 있게 됐다”며 “이제 AI 콘텐츠 관리를 둘러싼 문화 전쟁( culture war)이 대두될 수 있다”고 지적했다.