‘AI 안전 확보’ 민‧관 성과 이행 속도 올린다

[사진=이뉴스투데이DB]

[이뉴스투데이 고선호 기자] 기술 혁신·진보에 따라 심각한 사회문제로 대두되고 있는 AI 안전 확보를 위한 민·관의 성과 공유의 자리가 마련됐다.

과학기술정보통신부는 26일 피스앤파크컨벤션에서 국내를 대표하는 AI분야 대기업‧스타트업, 연구자 등 200여 명이 참여한 가운데 ‘AI신뢰‧안전성 콘퍼런스’를 개최했다고 밝혔다.

이번 컨퍼런스에서는 최근 글로벌 차원에서 강조되고 있는 AI신뢰‧안전성 관련 기술‧정책 동향을 공유하고, 올해 정부지원 연구결과물의 주요성과와 민간의 이행현황에 대한 점검이 이뤄졌다.

이날 AI분야 세계적 석학인 몬트리올대 요슈아벤지오 교수는 기조강연에서 AI안전 확보를 위한 정책과 과학의 중요성을 강조하며, “최첨단AI모델의 위험에 대한 효과적인 관리를 위해 국내법-국제협약간의 상호조화가 필요하다”고 설명했다.

이어 “과학측면에서는 AI모델의 정렬과 통제가 중요이슈로, 정량적으로 측정가능한 AI모델의 위험평가, 위험관리기술 확보를 위한 정부지원 확대와 AI안전연구소의 역할이 필요하다”고 강조했다.

두 번째 기조강연에서 오혜연 KAIST AI연구원장은 국제사회의 AI패권 경쟁 동향을 공유하고, 전략자산으로서 AI의 중요성을 강조했다. 또한 AI기술의 언어‧문화적 포용성, 격차 문제 등 글로벌 사회에 미치는 영향을 소개하고, AI안전분야 신시장 창출과 기업 경쟁력 확보관점에서 AI안전 정책의 추진전략을 소개했다.

국내업계에서는 박규병 튜닙 대표가 ‘AI안전장치 솔루션을 활용한 다양한 형태의 위험탐지 및 대응방안’을 소개했고, 김동환 포티투마루 대표는 ‘AI신뢰성 인증(TTA) 획득 등을 통한 자사 LLM 신뢰‧안전성 확보사례’를 주제로 발표에 나섰다.

한편 이날 콘퍼런스와 함께 AI신뢰성의 중요성과 인식을 업계 전반에 확산하고 우수 AI제품·서비스에 대한 홍보를 지원하기 위해 ‘제2회 AI신뢰성 대상’ 시상식이 마련됐다.

대상은 다비오가 개발한‘다비오 어스아이2.0’가 수상했으며, ‘신뢰할 수 있는 AI개발안내서’에 기반해 자체적인 데이터 품질관리 프로세스를 수립‧적용하여 높은 평가를 받았다.

송상훈 과기정통부 정보통신정책실장은 “정부가 지속적으로 추진해 온 AI신뢰‧안전성 정책의 노력에 호응하여, 최근 산업계‧학계에서도 AI신뢰‧안전성 전담조직 설치와 투자 확대 등 자발적인 노력이 확대되고 있다”며 “민간자율에 기반한 책임있는 AI개발‧활용 문화가 확산될 수 있도록 정책 지원을 강화하는 한편, 첨단AI로 인한 잠재적 위험에 대비해 AI안전연구소를 출범하고 국가차원에서 체계적으로 대응해 나가겠다”고 말했다.