과학기술정보통신부(장관 배경훈)가 주최하고 소프트웨어정책연구소(SPRi, 소장 김형철)가 주관하는 '2026 SW산업전망 컨퍼런스(Software Prospect Conference)'가 '인공지능, 소프트웨어 그리고 대전환'을 주제로 성황리에 개최됐다.
인공지능 전문언론 AI포스트(AIPOST)는 국내외 AI·SW 산업의 최신 동향을 공유하고, 분야별 전문가들이 제시하는 시장 전망과 전략적 대응 방향을 심도 있게 전달하기 위해 이번 컨퍼런스의 주요 내용을 특집 시리즈로 소개하고자 시리즈를 기획했다. <편집자주>
“보안(Security)은 외부의 적을 막는 것이지만, 안전(Safety)은 시스템 내부의 오작동과 결함을 스스로 통제하는 힘이다. AI가 인간의 생명과 직결되는 영역으로 들어오는 지금, 기업은 기술의 화려함보다 시스템의 ‘무결성’을 먼저 증명해야 한다.”
소프트웨어정책연구소(SPRi) 이중엽 책임연구원은 신기술 확산의 전제 조건으로 ‘소프트웨어 안전’의 엄격한 관리를 주문했다. 그는 특히 최근 테슬라의 자율주행 판결 사례를 통해, 2026년 기업들이 짊어져야 할 법적·윤리적 책임의 범위가 어디까지 확대되고 있는지 경고했다.
테슬라 판결의 교훈…“사용자의 오용 유발도 제조사 책임”
이중엽 책임연구원은 지난 8월 선고된 테슬라 자율주행 사고 판결을 핵심 사례로 들었다. 기존 사고들이 운전자의 전방 주시 태만에 초점을 맞췄던 것과 달리, 이번 판결은 제조사에게 70%의 과실을 물었다.결정적 사유는 명칭에 있었다.
2단계 주행 보조 시스템임에도 ‘풀 셀프 드라이빙(FSD)’이라는 명칭을 사용해 사용자가 전방 주시를 안 해도 될 것처럼 오해하게 만든 점이 지적됐다. 이 연구원은 “합리적으로 예상 가능한 사용자의 오용(Misuse)을 방지하지 못한 것도 설계 결함에 해당한다”라며 “기능 안전 국제표준(ISO 21448) 등 오용 방지 설계가 기업 생존의 필수 요건이 됐다”고 설명했다.
항공·자동차·의료…“도메인별 특화된 안전망 구축 시급”
강연에서는 항공, 자동차, 의료 등 이른바 ‘안전필수분야’의 국내외 대응 현황도 공유됐다. 가장 보수적이고 엄격한 항공 분야부터, 최근 ‘디지털 의료제품법’ 시행으로 빠르게 체계를 잡아가고 있는 의료 분야까지 각 도메인의 특성에 맞는 안전 확보 방안이 제시됐다.
이 연구원은 “항공은 이미 전 주기적 예방 체계를 갖추고 있으며, 의료 분야 또한 국제 수준의 기능 안전 체크리스트를 빠르게 도입 중”이라며, “이러한 개별 산업의 안전 기준들이 모여 국가 전체의 디지털 안전 시스템을 형성하게 된다”고 분석했다.
“최소 규범과 자율 안전의 조화”
이 연구원은 향후 정책 방향으로 과기정통부의 ‘소프트웨어 안전 확보 지침’을 근간으로 하되, 각 산업별 특성을 존중하는 자율 규제를 제안했다. 모든 분야에 동일한 잣대를 들이대기보다는, 공통의 최소 기준 위에서 산업별 전문 지식을 반영한 안전 체계를 구축해야 한다는 취지다.
그는 “정부는 안전 컨설팅과 예산 지원을 통해 민간이 스스로 안전 역량을 키울 수 있도록 돕고, 기업은 이를 신뢰의 지표로 삼아야 한다”고 강조했다. 이 연구원은 미래의 안전이 단순한 기능 점검을 넘어, SW 업데이트와 보안이 맞물린 통합 관리 체계로 진화할 것이라고 내다봤다.
“새로운 기술에 대한 대중의 공포를 확신으로 바꾸는 유일한 방법은 시스템의 무결성을 보장하는 것이다. 2026년 이후, SW 안전은 기술을 완성시키는 마지막 퍼즐이자 기업이 고객에게 제공할 수 있는 최고의 가치가 될 것”이라며 강연을 마무리했다.
Copyright ⓒ AI포스트 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
