FTC, AI 답변 몰래 조정하면 기만 행위로 규정… 주법보다 연방법 우선

FTC, AI 답변 몰래 조정하면 기만 행위로 규정… 주법보다 연방법 우선 / AI 생성 일러스트(삽화)

미국 연방거래위원회(FTC)가 인공지능(AI) 시스템의 답변을 몰래 조정하는 행위를 소비자 기만으로 규정하는 정책성명 초안을 내놨다. AI 기업이 사용자가 기대하는 목적과 다른 목표를 위해 답변을 조정하면서 이를 알리지 않으면 연방거래위원회법(FTC Act) 5조를 위반할 수 있다는 것이 핵심이다. FTC는 이런 조정이 주(州)법 준수를 위한 것이라도 예외가 될 수 없다고 밝혔다. 특히 콜로라도의 개정 인공지능법(S.B. 26-189)을 직접 언급하며 주법과 연방법이 충돌할 경우 연방법이 우선한다는 입장을 명확히 했다. 이번 제안에 대한 의견수렴은 7월 31일(현지시각)까지 진행된다.

트럼프 행정명령이 촉발한 정책 전환

이번 정책성명은 트럼프 행정부의 행정명령 14365호 '인공지능에 관한 국가정책 프레임워크 보장(Ensuring a National Policy Framework for Artificial Intelligence)'에 따라 마련됐다. 이 행정명령은 FTC에 AI 개발사가 주법 요건에 따라 모델 출력을 바꿀 때 FTC법 5조가 어떻게 적용되는지 설명하라고 지시했다.

법률 전문 매체 인사이드프라이버시(insideprivacy.com)에 따르면 이번 제안은 앤드루 퍼거슨(Andrew Ferguson) 위원장 체제에서 FTC가 이어온 AI 관련 대응의 연장선이다. 다만 기존에는 AI 성능에 대한 과장 광고 등 기만적 주장을 문제 삼았던 반면, 이번 제안은 AI 시스템이 사용자가 알지 못하는 목표를 추구하도록 설계됐는지를 따진다는 점에서 방향이 다르다.

'숨겨진 출력 조정'이 기만이 되는 이유 / AI 생성 이미지

'숨겨진 출력 조정'이 기만이 되는 이유

FTC는 AI 기업들이 직접적인 설명이나 마케팅을 통해 자사 시스템이 가능한 가장 정확한 답변을 제공하려 한다고 약속해왔다고 지적했다. 소비자는 이 약속을 신뢰하고 서비스를 이용하는데, 시스템이 숨겨진 목표를 향해 조정되면 그 신뢰가 깨진다는 논리다.

FTC가 제시한 사례는 구체적이다. 특정 이념에 맞춰 사실 기반 답변을 바꾸는 것, '공정성(equity)' 목표를 답변 로직에 내재화하는 것, 정치적으로 민감한 주제를 사용자에게 알리지 않은 채 회피하는 것 등이 모두 문제 소지가 있다고 봤다. 정치적·사회적 압력에 대응해 답변을 바꾸거나 특정 주(州)법상 책임을 피하려고 출력을 조정하는 것도 마찬가지다. FTC는 이런 행위가 명시적 허위 진술뿐 아니라 누락, 암묵적 오도, 불충분한 공시를 통해서도 소비자를 속일 수 있다고 설명했다.

콜로라도 AI법과의 정면충돌

이번 정책성명은 특정 주법을 직접 겨냥했다는 점에서 눈길을 끈다. 법률 매체 스펜서페인(spencerfane.com)에 따르면 FTC는 콜로라도의 개정 인공지능법(S.B. 26-189)을 명시적으로 지목했다. FTC는 기업이 이 주법을 지키기 위해 출력을 바꿨다 해도 여전히 FTC법 5조를 위반할 수 있다고 밝혔다.

더 나아가 FTC는 이런 변경을 요구하는 주법 자체가 연방법과 암묵적으로 충돌하기 때문에 선점(preemption)될 가능성이 크다고 주장했다. FTC는 성명에서 "소비자를 속이도록 AI 기업에 요구하는 주법은 소비자를 그런 행위로부터 보호하려는 (FTC법) 5조의 명시적 목적과 명백히 충돌한다"고 밝혔다. 이는 주 정부가 만든 차별 방지·투명성 규제가 연방 차원의 소비자보호법과 부딪힐 수 있음을 시사하는 대목이다.

남은 절차와 업계 파장

FTC는 이번 제안에 대한 의견을 7월 31일(현지시각)까지 받는다. 아직 확정된 규정이 아니라 정책성명 초안 단계이지만, AI 기업과 주 정부 모두에 미치는 영향은 작지 않을 전망이다. 기업 입장에서는 차별 방지나 투명성을 요구하는 주법을 따르는 것과 FTC법상 기만 책임을 피하는 것 사이에서 균형을 찾아야 하는 상황에 놓일 수 있다.

AI 기업들이 마케팅에서 강조해온 '정확하고 객관적인 답변'이라는 약속이 법적 잣대로 다뤄지기 시작했다는 점도 주목할 부분이다. 앞으로 이어질 의견수렴 과정에서 주(州) 정부와 AI 업계, 소비자 보호 단체들이 어떤 입장을 내놓을지가 최종 정책 방향을 좌우할 것으로 보인다.