개인정보보호위원회(개인정보위)가 생성형 인공지능(AI) 개발·운영 과정에서 이용자가 작성한 프롬프트를 어떤 조건 하에 학습 및 활용할 수 있는지 기준을 제시했다. 기존 서비스의 품질을 개선할 때는 프롬프트 데이터를 AI 학습에 활용할 수 있지만, 별도의 신규 AI 서비스 개발시에는 가명 처리 특례나 규제 샌드박스를 활용해야 한다.
개인정보위는 17일 서울 양재 엘타워에서 공공기관·기업·협회·단체 실무자를 대상으로 설명회를 열고, 지난 8월 발간한 '생성형 인공지능 개발·활용을 위한 개인정보 처리 안내서'의 핵심 내용을 소개했다. 설명회에는 공공기관, 기업, 협회 개인정보 담당자가 참석했고 안내서 적용과 관련한 질문이 집중됐다.
생성형 AI 학습과 활용 과정에서 가장 관심이 모인 대목은 이용자 프롬프트 데이터 활용 여부다. 전이루 개인정보위 AI프라이버시팀 사무관은 “기존 서비스의 품질 개선과 고도화 목적에 한해, 이용자가 입력한 프롬프트 데이터를 모델 개선에 활용할 수 있는 여지가 있다”고 말했다. 다만 “이 경우에도 이용자의 예측 가능성 확보, 옵트아웃 제공, 주민등록번호·신용정보 등 민감정보 필터링 등의 안전조치가 전제돼야 한다”고 강조했다.
반면, 이렇게 수집된 데이터를 전혀 다른 신규 AI 서비스 개발에 사용하는 경우에는 상황이 달라진다. 전 사무관은 “당초 수집 목적과 무관한 신규 서비스 개발로 넘어가면 법적 근거가 약해지므로, 가명처리 특례나 규제 샌드박스를 통한 별도 절차가 필요하다”고 설명했다. 동일 데이터라도 목적 변화에 따라 적법성 판단이 달라지는 구조다.
현장에서는 온디바이스 AI처럼 서버로 전송되지 않는 개인정보 처리도 동의 대상인지에 대한 질문도 나왔다. 이에 대해 개인정보위는 동의 여부가 서버 전송 유무로 결정되지 않으며, 개별 서비스 구조와 처리 목적에 따라 판단이 달라질 수 있다고 설명했다. 온디바이스 구조라고 해서 자동으로 동의 면제란 논리는 성립하지 않는다는 의미다.
설명회에서는 외부 대형언어모델(LLM)을 활용하는 기업이 주의해야 할 사항도 다뤄졌다. 개인정보위는 개인용 라이선스와 기업용 애플리케이션 프로그래밍 인터페이스(API) 라이선스 간 데이터 재학습 여부가 다르다는 점을 지적하며, 계약 단계에서 데이터 소유권, 재학습 제한, 파기 조건 등을 명확히 규정해야 한다고 강조했다.
이번 안내서는 생성형 AI 개발 전 과정을 라이프사이클로 구분해 단계별 개인정보 위험과 대응 기준을 제시하고 있다. 개인정보위는 AI 기술 발전 속도를 고려해 안내서를 지속적으로 보완한다는 방침이다.
전 사무관은 “생성형 AI 활용이 확대되면서 기업·기관마다 매우 다양한 구조의 서비스가 등장하고 있다”며 “각 서비스 구조에 대한 개별 판단이 필요한 만큼, 안내서가 실무 현장의 불확실성을 줄이는 역할을 할 것으로 기대한다”고 말했다.
Copyright ⓒ 아주경제 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
다음 내용이 궁금하다면?
광고 보고 계속 읽기
원치 않을 경우 뒤로가기를 눌러주세요
