“사용자의 언어적 특징에서 성별을 포착해 답변의 질을 다르게 내놓음으로써, 여성 사용자에게 무의식적인 불이익을 초래할 수 있다는 지적이 나옵니다.”
AI포스트 핵심 요약
- ✅ [주요 4대 AI 모델, 여성적 언어 패턴이 포함된 프롬프트에 덜 세련되고 감정적인 답변 생성] 완곡하거나 집합적인 표현, 감정 표현 형용사 등이 포함된 질문에 일관되게 덜 격식적인 서신을 출력해 남성적 어조와 대조를 이룸.
- ✅ [단순 어조 모방이 아닌 깊게 뿌리내린 알고리즘 편향 확인] 어조 변수를 통제하고 서명에 전통적인 남성 이름을 넣어도 문장 속 미묘한 언어적 습관을 인식해 차별적 결과가 유지됨.
- ✅ [음성 AI 대중화 속 사용자 전가가 아닌 AI 기업의 알고리즘 개선 촉구] 사용자가 통제하기 어려운 언어 습관의 특성상, 불이익의 부담을 개인에게 떠넘기지 말고 기업이 직접 성별 편향을 바로잡아야 한다는 목소리 고조.
인공지능(AI) 챗봇에게 이메일이나 입사 지원서 작성을 요청할 때 여성이 주로 사용하는 언어 패턴을 포함할 경우, 남성적 표현을 사용할 때보다 덜 격식적이고 전문성이 떨어지는 답변을 받게 된다는 연구 결과가 나왔다.
AI가 사용자의 언어적 특징에서 성별을 포착해 답변의 질을 다르게 내놓음으로써, 여성 사용자에게 무의식적인 불이익을 줄 수 있다는 지적이다.
존스 홉킨스 대학교 데이터 과학 및 인공지능 연구소의 캐서린 반 코에버링(Katherine Van Koevering) 박사후 연구원과 안잘리 필드(Anjali Field) 교수 연구팀은 대표적인 4대 AI 언어 모델(오픈AI GPT-4, 메타 라마, 구글 제미나이, 미스트랄 바이브)을 대상으로 프롬프트 표현에 따른 생성 결과의 차이를 분석했다.
"아마도", "우리 팀", "사랑스러운"…여성적 표현에 덜 세련된 답변 생성
연구팀은 실제 업무 환경에서 사용되는 이메일, 입사 지원서, 사직서 등의 작성 요청 프롬프트에 여성이 흔히 사용하는 언어적 특징을 추가하여 테스트를 진행했다. 여기에는 완곡한 표현("아마도", "제 생각에는"), 집합적 표현("우리", "우리 팀"), 감정 표현 형용사("사랑스러운", "훌륭한") 등이 포함됐다.
실험 결과, 네 가지 AI 모델 모두 예외 없이 여성적 표현이 포함된 프롬프트에 대해 덜 세련되고 덜 격식적인 서신을 생성했다. 반면 남성적인 언어가 포함된 질문에는 일관되게 더 길고 복잡하며 격식 있는 답변을 출력했다.
예를 들어 감사 이메일 답장을 요청할 때, 남성적 어조의 프롬프트에는 "최근 보내주신 감사 이메일에 답장을 드립니다. 따뜻한 말씀에 감사드립니다"와 같이 간결하고 전문적인 기업형 문장을 생성한 반면, 여성적 어조의 프롬프트에는 "따뜻한 이메일에 진심으로 감사하며 저희 팀은 큰 감동과 만족감을 느꼈습니다"처럼 지나치게 감정적인 어조의 답변을 내놓았다.
어조 모방이나 이름의 문제 아니다…깊게 뿌리내린 알고리즘 편향
연구진은 AI가 단순히 프롬프트의 어조를 그대로 모방한 것인지 검증하기 위해 어조 변수를 통제했으나, 여성적 언어 패턴에 대한 차별적 결과는 그대로 유지됐다.
더욱 주목할 만한 점은 프롬프트 하단에 '존(John)'과 같은 전통적인 남성 이름을 서명으로 넣어도 결과는 바뀌지 않았다는 사실이다. AI 모델은 메시지에 적힌 이름보다 문장 속에 포함된 미묘한 언어적 습관을 더욱 강하게 인식하여 편향된 답변을 생성했다.
연구 수석 저자인 안잘리 필드 교수는 "회사 동료에게 보낼 이메일을 작성할 때 여성들이 흔히 쓰는 언어를 사용하면 단순하고 낮은 수준의 표현을 담은 답변을 받게 된다"며 "이는 이메일을 받는 수신자가 작성자의 전문성을 인식하는 데 직접적인 악영향을 미칠 수 있다"고 경고했다.
음성 AI 보급에 편향 우려 고조…"사용자 아닌 기업이 모델 개선해야"
이번 연구 결과는 텍스트 입력뿐만 아니라 음성 기반 AI 인터랙션이 대중화되는 시점에서 더 큰 시사점을 던진다. 음성으로 AI와 대화할 때는 사용자가 자신의 무의식적인 언어 습관을 미리 수정하거나 통제하기가 훨씬 어렵기 때문이다.
연구팀은 연령, 인종, 민족 등 다른 인구통계학적 특성에 따른 AI의 반응 차이도 추가 조사할 계획이다. 아울러 AI 사용자들이 불이익을 피하기 위해 스스로의 의사소통 방식을 AI 맞춤형으로 교정하게 되는지 여부도 연구 과제로 삼고 있다.
주저자인 캐서린 반 코에버링 연구원은 "언어 습관은 사람이 쉽게 통제하기 어려운 영역"이라며 "AI 기업들은 불이익의 부담을 사용자 개인에게 전가할 것이 아니라, 모델 알고리즘 자체를 개선하여 성별 편향을 적극적으로 바로잡아야 한다"고 촉구했다.
Copyright ⓒ AI포스트 무단 전재 및 재배포 금지
