[본 기사는 코딩과 관련한 인공지능 분야의 좋은 질문을 수집하고, 챗GPT를 활용해 세상에 도움을 주는 지식 콘텐츠입니다]
오픈AI(Open AI)의 언어 모델인 GPT 시리즈부터 최근 전 세계적으로 화제가 된 인공지능(AI) 기반 챗봇 챗GPT(ChatGPT)까지 AI가 인간과 견줄 만한 텍스트 생성 능력을 과시했다. 그러나 일각에서는 AI의 텍스트 작성 능력이 인간의 글과 한눈에 구분하기 어려울 정도로 발전한 점을 악용해 정치, 사회, 공중보건 문제 등 여러 부문과 관련된 가짜 뉴스를 생성하고 유포한다.
그렇다면, 챗GPT는 AI의 가짜 뉴스 유포 문제와 관련된 질문에 어떤 답변을 내놓았을까?
■ AI를 악용한 사실 조작 및 가짜 뉴스 유포
보통 ‘가짜 뉴스’라고 칭하는 가짜 정보는 오늘날 사회의 주된 문제이다. 특히, SNS와 인터넷에서 심각한 사안이다. AI를 악용하면서 대규모로 진실을 조작하고, 거짓 정보를 유포하는 일이 수월해졌다. 여론에 악영향을 미치면서 의사 결정 담당자나 담당 기관이 사실을 오해하는 문제점은 물론이고, 심지어 정부의 불안정을 야기하는 등 AI를 악용한 가짜 뉴스의 등장과 확산은 심각한 여파를 낳는다.
따라서 특정 정보 공유 전 개인이 사실을 검증하는 것이 중요하다. 또, 테크 기업은 정보의 진실성을 확인하고, 가짜 뉴스 확산 문제를 퇴치할 조처를 해야 한다.
■ 딥페이크와 생성형 AI가 사실 왜곡 및 거짓 정보 확산 문제를 악화할 수 있을까?
그렇다. 딥페이크와 생성형 AI는 사실 왜곡 및 거짓 정보 문제를 악화할 수 있다. 딥페이크는 AI를 사용해 이미지와 오디오, 영상을 조작해 실제와 같지만, 가짜인 콘텐츠를 제작하는 합성 미디어이다. 딥페이크의 기능을 고려하면, 거짓 정보 유포와 대중의 여론 조작이 훨씬 더 수월해질 수도 있다.
이와 마찬가지로 생성형 AI는 가짜 뉴스를 담은 기사 생성과 실제 인물 사칭, 대중적 논의 조작 등과 같은 의도로 악용될 수도 있다. 설득력이 높지만, 거짓인 정보를 대거 생성할 수 있는 생성형 AI의 역량은 미디어와 기관 신뢰성 감소, 민주주의 과정 악화 등 심각한 문제로 이어질 수 있다.
개인과 기관이 딥페이크와 생성형 AI의 거짓 정보 유포 위험성을 인지하고, 거짓 정보를 감지하면서 문제를 완화할 노력을 펼치는 것이 중요하다. 딥페이크 콘텐츠를 감지할 새로운 기술적 솔루션 개발과 미디어 문해력 및 비판적 사고 능력 키우기 등을 노력의 예시로 언급할 수 있다.
■ AI로 거짓 정보 발견 및 사실 검증 작업을 할 수 있을까?
가능하다. AI를 가짜 뉴스 감지 및 거짓 정보 확산 방지 수단으로 활용할 수 있다. 거짓 정보의 패턴과 특성을 식별하도록 AI 알고리즘을 훈련하고, AI가 거짓으로 분류한 정보를 인간이 추가로 검토하면 된다. AI로 다량의 데이터를 분석해 거짓 정보를 대거 잡아낼 수도 있을 것이다. 게다가 AI 툴로 여러 출처의 정보를 교차 검증하여 정보의 정확성을 파악할 수도 있다.
다만, AI가 가짜 뉴스 문제를 해결할 완벽한 해결책이 아니라는 점을 인지해야 한다. 그러므로 AI 자체가 거짓 정보 확산이나 기존 편견을 악화하는 데 악용되지 않도록 신중한 검토 작업을 해야 한다. 또한, 여러 단계에 걸친 처벌 접근 방식과 AI의 능력과 인간의 작업 결합, 비판적 사고 능력, 미디어 문해력을 갖추어 가짜 뉴스를 효과적으로 퇴치하는 것이 중요하다.
Copyright ⓒ 코딩월드뉴스 무단 전재 및 재배포 금지
