[한스경제=전시현 기자] 인적자원(HR) 테크기업 원티드랩의 주형민 AX사업부문장은 27일 개막한 ‘2025 ASC(AI Safety Compass) 컨퍼런스’에서 "AI 모델의 신뢰성과 안전성이 기업 경쟁력을 좌우하는 결정적 요소"라고 강조했다.
주 부문장은 AI 기술이 기업의 핵심 동력으로 자리 잡고 AI의 윤리적이고 안전한 활용이 강조되는 시기에 “신뢰할 수 없는 AI는 기업에 오히려 독이 될 수 있다”며 AI 시스템의 신뢰도를 높이고 예측 불가능한 오류를 최소화하기 위한 구체적인 방법론을 제안했다.
그는 AI가 채용·금융·의료 등 민감한 분야에 적용될수록 그 영향력이 커진다고 지적하며 이러한 고위험 AI 시스템의 경우 개발부터 배포, 운영까지 전 과정에 걸쳐 엄격한 품질 관리와 리스크 감소 노력이 필수적이라고 했다.
이를 위해 그는 AI 모델의 정확성과 안정성을 평가하고 신뢰를 확보하기 위한 5가지 핵심 전략을 소개했다. 먼저 데이터 품질의 중요성을 언급하며 AI 모델 학습에 사용되는 데이터의 정확성, 일관성, 대표성 확보가 가장 기본적인 전제라고 설명했다. 편향되거나 불완전한 데이터는 모델의 성능 저하를 넘어 불공정하거나 차별적인 결과를 초래할 수 있기 때문이다.
또한 철저한 모델 검증 및 테스트의 필요성을 강조했다. 개발된 AI 모델은 다양한 실제 환경 데이터와 시나리오를 바탕으로 면밀히 검증되어야 하며 비정상적이거나 극단적인 상황에서의 반응을 사전에 점검해 예측 불가능한 오류를 발견하고 수정하는 것이 중요하다고 밝혔다. 이는 서비스 현장에서 발생할 수 있는 돌발 상황에 대비하는 핵심 절차다.
또한 AI 모델은 배포 이후에도 지속적인 모니터링과 재학습 시스템을 갖춰야 한다고 말했다. 시간이 지남에 따라 발생하는 ‘드리프트’ 현상을 예방하고 변화하는 환경에 맞춰 최신 데이터를 반영함으로써 최적의 성능을 유지하도록 관리해야 한다는 점을 강조했다. 그는 AI 모델 역시 살아있는 유기체처럼 끊임없이 진화해야 한다고 비유했다.
설명 가능성에 대해서도 강조하며 AI가 특정 결정을 내린 근거를 설명할 수 있는 ‘설명 가능한 AI(XAI)’ 기술의 도입이 필요하다고 말했다. 이는 규제 준수뿐 아니라 사용자 신뢰 확보 측면에서도 결정적 역할을 하며 민감한 의사결정 분야에서는 그 근거를 명확히 제시하는 것이 중요하다고 덧붙였다.
마지막으로 인간 개입과 감독의 중요성을 언급했다. AI 모델의 자율성이 높더라도 중요한 의사결정 과정에서는 반드시 인간의 개입과 감독이 이루어져야 하며 고위험 AI 시스템의 경우 최종 결정권을 인간 전문가에게 부여하는 ‘휴먼 인 더 루프(Human-in-the-Loop)’ 시스템 구축이 필요하다고 강조했다. 이를 통해 AI의 효율성과 인간의 윤리적 판단·책임감을 결합하는 최적의 방안이 될 수 있다고 설명했다.
주 부문장은 이처럼 AI 모델의 정확성과 안정성 확보가 단순히 규제 준수 차원을 넘어 기업이 시장에서 새로운 경쟁 우위를 확보하는 핵심 요소가 될 것이라고 덧붙였다. 신뢰할 수 있는 AI 서비스를 제공하는 기업은 고객의 신뢰를 얻을 수 있고 이는 곧 브랜드 가치의 상승과 시장 점유율의 확대로 이어진다는 점을 강조했다.
원티드랩은 채용 플랫폼에서 AI를 활용해 구인·구직 매칭의 정확도를 높이고 있으며, 주 부문장의 강연은 자사 경험을 바탕으로 AI 시스템의 품질 관리와 리스크 감소가 기업의 지속 가능한 성장을 위한 필수 투자임을 보여주었다는 평가다. AI 안전과 윤리가 기업 경쟁력의 핵심으로 대두되는 시대에 그의 강연은 산업 현장에 실질적 지침을 제공했다는 점에서 의미가 크다.
한편 국제인공지능윤리협회(IAAE)는 서울 대치동 구글 스타트업 캠퍼스 메인 이벤트홀에서 ‘2025 AI Safety Compass(ASC) 컨퍼런스’를 개최했다. 이번 행사는 ‘변화하는 AI 환경에서의 기업 경쟁력 확보’를 주제로 국내외 AI 기술 발전과 윤리적 활용 방안을 심도 깊게 논의하는 자리로 마련됐다.
Copyright ⓒ 한스경제 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
