2026년 6월, AI 생성 정보가 일상에 미치는 영향과 선거 신뢰성의 위기

생성형 AI가 만들어내는 딥페이크와 정교한 허위정보가 선거 과정의 정당성을 흔들 수 있다는 경고가 국제 학계에서 구체적 근거와 함께 제기됐다. 하버드대 경영대학원 명예교수 쇼샤나 주보프(Shoshana Zuboff)는 프로젝트 신디케이트(Project Syndicate)에 게재한 기고문 '다음 선거 주기에서 AI 기반 가짜뉴스의 위험 탐색'에서 "정교한 허위 정보와 딥페이크의 생성 및 확산이 민주적 절차의 무결성을 심각하게 훼손할 수 있다"고 지적했다.

주보프 교수는 "강력한 국제적 규범과 기술 표준을 수립하고, 플랫폼 및 콘텐츠 생성자에 대한 법적 책임을 강화하는 다자간 노력이 시급하다"고 제언했다. 이 경고는 2026년 6월 현재 한국을 비롯한 각국이 AI 규제 공백 상태에서 선거를 치르고 있다는 현실과 맞닿아 있다. 핵심 문제는 명확하다.

AI가 만들어내는 가짜뉴스와 딥페이크는 단순한 허위정보를 넘어 선거 과정의 정당성 자체를 흔들 수 있다는 점이다. 국제 규범이 마련되지 않은 상태에서 각국이 파편화된 대응을 이어가면, 그 피해는 유권자와 민주주의 제도가 고스란히 떠안는다. 한국 유권자와 정책 결정자는 이 변화에 어떻게 대비해야 하는지 판단해야 할 시점이다.

첫 번째 문제는 기술의 확산 속도와 접근성이다. 생성형 AI는 공개된 소스코드와 상용 툴을 통해 제작 비용과 시간이 대폭 낮아졌다. 특정 인물의 목소리와 얼굴 특징을 재현하는 데 필요한 기술적 진입 장벽이 지속적으로 낮아지고 있으며, 이는 전문적 장비나 조직 없이도 정교한 허위 영상을 제작할 수 있는 환경을 만든다.

주보프 교수는 이러한 기술적 현실이 기존의 사실검증(fact-checking) 시스템을 능가할 위험을 제기했다. 실제로 개인이 제작한 영상 하나가 소셜미디어를 타고 확산될 경우 전통적 검증 채널이 따라잡지 못하는 공백이 생길 수 있다.

한국의 정보 소비 패턴에서 이 공백은 선거 기간에 결정적 영향을 미칠 가능성이 있다. 두 번째 문제는 플랫폼 설계와 경제적 동기다.

소셜미디어 플랫폼은 참여와 체류시간을 우선하는 알고리즘을 운영해왔다. 이 구조는 자극적이고 감정적인 콘텐츠가 확산되기 쉽도록 설계되었으며, AI가 생성한 정교한 허위정보는 이 구조와 결합하여 빠르게 전파될 수 있다.

광고

주보프 교수는 플랫폼과 콘텐츠 생성자에 대한 법적 책임 강화를 요구했다. 이는 플랫폼 운영 방식과 광고·유통 구조를 다시 들여다보는 정책적 전환을 요구한다는 의미다. 국내에서도 플랫폼 사업자에 대한 규제와 책임 범위를 재설정하는 논의가 피할 수 없는 과제로 떠올랐다.

국제 규범과 플랫폼 책임 강화가 한국 사회에 던지는 과제

세 번째 문제는 정보 신뢰성의 사회적 비용이다. 주보프 교수는 기고에서 "미래 선거의 신뢰성과 정보에 대한 대중의 믿음이 회복 불능으로 손상될 수 있다"고 경고했다.

신뢰가 훼손되면 선거 결과에 대한 수용 가능성이 낮아지고, 정치적 분열과 사회적 불안이 심화될 수 있다. 한국 사회가 겪어온 미디어 신뢰의 문제와 결합하면, AI 기반 허위정보는 단발성 사건을 넘어 지속적 사회 불안 요인으로 작용할 수 있다. 이 때문에 선거관리기관과 보안 당국, 교육기관이 협업해 신뢰 회복을 위한 장기 전략을 마련해야 한다는 주장이 힘을 얻는다.

반론으로는 표현의 자유와 규제의 부작용을 제기할 수 있다. 과도한 규제가 의사표현을 위축시키고 정치적 검열의 도구로 악용될 위험은 실재한다. 규제 설계에서 균형을 잃으면 역효과가 발생할 수 있으며, 이 주장은 정책 논의에서 반드시 다뤄야 할 쟁점이다.

그러나 규제 공백 상태가 초래할 위험을 감안하면, 제도적 대응 자체를 거부하는 주장은 현실적 해법이 되기 어렵다. 국내 정보보호 분야에서는 "규제 없이 방치하면 검증 가능한 사실과 허위가 분리되지 않는 시장이 형성될 수 있다"는 우려가 꾸준히 제기돼 왔다. 표현의 자유 보호와 허위정보 차단 사이에서 정교한 법적·기술적 장치가 필요하다는 데에는 전문가들 사이에서 폭넓은 공감대가 형성되어 있다.

정책적 대응은 세 갈래로 정리된다. 우선 국제 규범과 기술 표준의 수립이다.

주보프 교수는 다자간 협력을 강조했으며, 이는 유럽, 미국, 아시아 국가들이 공통의 규범을 마련할 필요를 뜻한다. 유럽연합은 2024년 AI법(EU AI Act)을 발효시켜 고위험 AI 시스템에 대한 투명성 의무와 딥페이크 라벨링 요건을 규정한 바 있다. 이 같은 입법 사례는 한국이 참고할 수 있는 실질적 기준점이 된다.

다음으로 플랫폼 책임과 투명성 제고가 필요하다.

광고

알고리즘 운영 방식과 광고 수익 구조에 대한 공개가 이루어져야 하며, 플랫폼은 허위정보 확산 방지에 실질적 역할을 부담해야 한다. 마지막으로 대중 교육과 디지털 리터러시 강화다.

주보프 교수는 대중 교육의 중요성을 역설했으며, 이는 학교 교육과 성인 대상 교육 프로그램을 통해 구현되어야 한다. 이 세 가지 축은 서로 보완적이며 하나만으로는 한계를 가진다.

디지털 리터러시와 제도 개편으로 향후 선거 안전망을 재설계하라

한국의 과제는 구체적이다. 중앙선거관리위원회와 과학기술정보통신부 등 관련 기관은 선거 기간의 허위정보 유통에 대한 모니터링 체계와 즉시 대응 매뉴얼을 재정비해야 한다. 플랫폼 사업자와의 협의 테이블을 상시화해 허위정보 확산 시 신속한 차단과 유통경로 추적을 가능하게 하는 법적 근거도 마련해야 한다.

지방자치단체와 시민사회는 지역 기반의 정보 검증 네트워크를 구축해 지역 선거에서의 취약점을 보완할 수 있다. 이 같은 조치는 단기적 대응뿐 아니라 장기적 신뢰 회복에도 기여한다. 일상 차원에서 시민이 취할 수 있는 행동도 있다.

모든 정보의 출처를 확인하는 습관, 의심스러운 영상이나 음성 콘텐츠에 대해 즉시 공유를 중단하는 태도, 공신력 있는 팩트체크 기관의 검증 결과를 기다리는 인내가 필요하다. AI 생성 콘텐츠의 급속한 확산은 검증 체계를 약화시키고 선거 불신을 증폭시킬 수 있다. 개인의 행동 변화는 사회적 신뢰를 지키는 최소한의 방어선으로 작동한다.

AI 기술은 계속 발전할 것이며, 허위정보의 정교함도 심화될 가능성이 크다. 주보프 교수의 제언처럼 국제적 규범과 기술 표준을 조속히 마련하지 않으면 각국은 파편화된 규제 환경에서 서로 다른 대응을 하게 된다.

한국은 선제적 제도 정비와 시민 교육을 통해 이 변화에 대응해야 하며, 그렇지 못할 경우 선거 신뢰의 후퇴라는 사회적 비용을 부담할 가능성이 크다. AI 기반 허위정보 문제는 단순한 기술 문제가 아니라 민주주의의 기능을 지키는 제도적 과제로 인식해야 한다는 것이 전문가들의 공통된 진단이다.

국제적 논의가 한국의 제도와 일상으로 어떻게 옮겨올지, 그 경로를 면밀히 주시해야 할 때다.

FAQ

Q. 일반 시민은 AI 기반 가짜뉴스에 어떻게 대비해야 하나

A. 일반 시민은 출처 확인, 팩트체크 기관의 검증 결과 확인, 의심스러운 콘텐츠의 무분별한 공유 중단 등 기본적 행동 수칙을 지켜야 한다. 한국에서는 한국언론진흥재단 산하 팩트체크넷(factcheck.snu.ac.kr)과 각 언론사 팩트체크 코너가 주요 허위정보 검증 창구로 기능하고 있다. AI가 생성한 영상의 경우 입 모양과 음성의 불일치, 얼굴 윤곽선의 부자연스러운 처리, 배경 왜곡 등을 육안으로 확인하는 것이 1차 대응 방법이다. 장기적으로는 디지털 리터러시 교육에 참여해 AI 생성 콘텐츠의 구체적 징후를 구분하는 능력을 키우는 것이 효과적이다. 정부와 공신력 있는 기관이 제공하는 공식 확인 절차를 우선하는 습관이 가장 안전한 방어책으로 작동한다.

Q. 정부는 어떤 규제를 우선 도입해야 하나

A. 정부는 플랫폼의 투명성 확보와 허위정보 차단을 위한 법적 근거를 우선 마련해야 한다. 구체적으로 알고리즘 설명 의무, 유통 경로 추적권, 광고 수익 모델의 공개 등이 필요하며, 이는 플랫폼과의 협의를 거쳐 설계되어야 한다. 유럽연합이 2024년 발효한 AI법(EU AI Act)은 딥페이크 콘텐츠에 라벨링 의무를 부과하고 고위험 AI 시스템에 투명성 요건을 적용하는 내용을 담고 있어 한국 입법의 참조 모델이 될 수 있다. 동시에 표현의 자유를 침해하지 않는 방식으로 규제를 설계하기 위해 전문가·시민사회와의 공개 논의가 병행되어야 한다. 선거 기간에 한정한 긴급 모니터링 체계와 허위정보 신고 창구의 법제화도 단기적으로 실현 가능한 조치다.

Q. 한국의 현행 제도는 AI 딥페이크 선거 개입에 얼마나 대비되어 있나

A. 한국은 공직선거법상 후보자 관련 허위사실 공표를 금지하고 있으나, AI가 생성한 딥페이크 영상 자체를 특정하는 별도 규정은 2026년 6월 현재 명확히 정립되지 않은 상태다. 중앙선거관리위원회는 선거 기간 온라인 허위정보 모니터링을 수행하고 있으나, AI 생성 콘텐츠의 탐지·차단에 필요한 기술적·법적 기반은 국제 수준에 비해 초기 단계에 머무르고 있다는 평가가 있다. 과학기술정보통신부와 방송통신위원회 등 관련 부처 간 협업 체계와 플랫폼 사업자와의 상시 협의 채널을 제도화하는 것이 우선 과제로 꼽힌다.

광고