어쩌면 AI 세상의 가장 큰 위험요소, '가짜뉴스'와 싸우는 TrueMedia : AI의 현장 인터뷰

현지 시각으로 7월 13일, 미국 대통령 선거 유세 현장에서 공화당 후보 트럼프가 피격되는 사건이 발생했는데요. 이 충격적인 사건 직후 몇 시간동안 페이스북, 인스타그램, X, 틱톡 등 주요 소셜미디어에 트럼프 후보와 관련된 글과 영상이 평소대비 17배 치솟았고, 엄청나게 많은 근거없는 주장과 거짓 정보가 돌아다녔다고 합니다. 누군가 AI 시대의 가장 큰 위험은 3D (Disinformation, Deepfake, Discrimination)라고 했다는데, 가짜뉴스와 딥페이크가 정말 골치아픈 사회문제가 될 모양입니다.

오늘 인터뷰한 Oren Etzioni는 워싱턴 대학교의 컴퓨터 사이언스 교수이자 앨런 AI 연구소 (AI2)의 창립 CEO로서 9년간 AI2를 이끈 인물입니다. Oren은 2024년 1월 AI2를 떠나 TruMedia.org라는 비영리 기구를 설립했는데요. 비영리 플랫폼인 TruMedia는 AI 기반의 탐지 도구를 사용해서 딥페이크와 미디어 조작 여부를 찾아내는 것을 주 목적으로 하고 있는 것으로 알려져 있습니다. Oren이 이 플랫폼을 시작하게 된 계기, 동기, 그리고 가짜 정보와 싸우기 위해 사용하는 도구는 어떤 것들일까요? 그리고 Oren은 오픈소스 AI와 그 리스크의 밸런스를 어떻게 맞춰가고 있을까요? 아래 Oren과의 인터뷰에서 한 번 확인해 보시죠.

안녕하세요 Oren, 인터뷰에 응해주셔서 감사합니다. AI2의 창립 CEO로 아주 오랜 기간 근무하셨고, Madrona VC에서 벤처 파트너, 그리고 다수의 성공적인 엑시트 경험을 가진 연쇄 창업자로도 잘 알려져 있으신데요. 갑자기 AI2의 CEO 자리를 박차고 TrueMedia를 설립하게 된 동기, 이유가 무엇인가요?

네, 일단 저는 AI2의 성공을 아주 기쁘고 자랑스럽게 생각합니다. 아무 것도 없는 상태에서 출발해서 9년 동안 250명의 팀, 1억불 이상 예산 규모의 조직으로 성장을 시켰는데, 이때쯤 정말 ‘휴식’과 ‘새로운 도전’이 필요하다는 생각이 들었어요. 실제로 2023년에 안식년을 가지기도 했구요, 제가 선택한 ‘새로운 도전’이 바로 ‘정치적인 목적으로 배포되는 딥페이크, 가짜뉴스’와 싸우는 것이었어요. 현재 TrueMedia.org는 사람들이 소셜 미디어에 공유되는 이미지, 오디오, 동영상 등이 조작되었는지 여부를 살펴볼 수 있는 서비스를 무료로 제공하고 있는데, 지금까지의 성과에 아주 만족하고 있습니다.

쓰나미처럼 쏟아지는 가짜 뉴스와 잘못된 정보의 홍수 속에서, 당신이 생각하기에 가장 흥미로운 사례는 어떤 것인가요? 그런 상황을 보면서 어떤 생각을 하세요?

2024년은 유난히 많은 나라에서 큰 선거가 있는 해죠. 인도네시아, 인도, 멕시코, 대만 등 올해 치러진 모든 선거에서 잘못된 정보, 허위 정보들을 많이 볼 수 있었어요. 올해 11월 미국 대선에서도 어떤 일이 벌어질지 정말 걱정돼요. 지난 1월 뉴햄프셔의 프라이머리 (예비경선)에서 나타났던 조 바이든 대통령의 ‘가짜 전화’ - 예비경선을 하루 앞두고 민주당 당원들에게 투표를 거부하라고 독려하는 조 바이든 대통령의 가짜 목소리를 담은 전화 - 가 정확히 이 가짜 뉴스의 위험을 알려주는 전조 증상이죠. 앞으로 훨씬 더 많은, 정치적 목적으로 만들어지고 배포되는 가짜뉴스들이 등장할 겁니다.

AI가 만들어내는 잘못된 정보나 허위 정보에 대응하기 위해서 TruMedia.org에서 개발한 도구는 구체적으로 어떤 것이 있는지, 그리고 지금까지 이 도구들이 실제적으로 얼마나 효과적이었는지 알려주실 수 있나요?