한국 정부가 2026년 초부터 인공지능(AI)으로 생성된 광고에 의무적으로 표시(라벨)를 부착하도록 할 계획입니다. 이는 소비자들을 기만하고 디지털 시장의 신뢰를 저해하는 허위 온라인 홍보물의 급격한 증가를 억제하기 위한 조치입니다.
이 정책은 김민석 국무총리 주재로 열린 정부 회의에서 발표되었습니다. 김 총리는 AI로 제작된 딥페이크 광고가 점점 정교해지면서 일반 사용자들, 특히 고령층이 실제 콘텐츠와 조작된 결과물을 구별하기 어려워지고 있다고 경고했습니다.
당국은 유튜브, 페이스북 및 국내 사회관계망서비스(SNS) 등 주요 플랫폼을 통해 AI 생성 광고가 확산하고 있다고 밝혔습니다. 이러한 광고들은 가짜 전문가나 의사, 혹은 공인들의 정교한 AI 복제본을 활용해 검증되지 않은 건강 요법부터 게이밍 사이트에 이르기까지 온갖 상품을 홍보하고 있습니다.
이동훈 정책실장은 기만적인 광고의 물결이 이제 “시장 질서를 교란”하고 있으며 긴급한 개입이 필요한 상황이라고 말했습니다. 새로운 규칙에 따라 AI 생성 시각물을 제작, 편집 또는 업로드하는 모든 사람은 이를 명확하게 표시할 법적 의무를 지게 됩니다. 이러한 표시를 제거, 은폐 또는 조작하는 행위는 금지되며, 광고를 게시하는 플랫폼 또한 준수 여부를 보장할 공동 책임을 지게 됩니다.
정부는 전기통신사업법 및 여러 관련 법안을 개정하여 2026년 초부터 이 규칙을 시행할 계획입니다. 당국은 업데이트된 법적 프레임워크를 통해 규제 기관이 위반자에게 벌금을 부과하고, 디지털 플랫폼이 조작된 콘텐츠에 신속히 대응하도록 강제할 수 있는 더 넓은 권한을 갖게 될 것이라고 밝혔습니다.
9만 건 이상의 광고
홍보 활동이 크게 증가하면서 AI 오용에 대한 우려가 심화되었습니다. 식품의약품안전처는 2024년에 96,700건 이상의 광고를 적발했는데, 당국은 이러한 급증세가 생성형 AI 도구 덕분에 가능해진 저렴하고 빠른 제작 속도와 직접적으로 연관된 것으로 보고 있습니다. 한국소비자원은 AI가 광고의 양과 복잡성을 모두 가속화하고 있어, 기존 모니터링 팀이 감당할 수 있는 수준보다 정보가 더 빠르게 확산하고 있다고 경고했습니다.
이 문제는 한국의 유명 공인들에게도 영향을 미치고 있습니다. 현지 언론 보도에 따르면 가수 겸 배우 아이유, 배우 이하늬, 원더걸스 출신 안소희, 축구선수 손흥민 등이 모두 게이밍 광고에서 디지털로 조작된 모습으로 등장했습니다. 이 딥페이크 영상들은 연예인들이 온라인 베팅 플랫폼을 홍보하는 것처럼 거짓으로 연출하여 초상권에 대한 더 엄격한 보호를 요구하는 목소리를 높였습니다.
동시에 당국은 딥페이크와 관련된 더 심각한 범죄 사건들과도 싸우고 있습니다. 최근 법원은 200명 이상의 피해자를 표적으로 삼아 AI 생성 성적 콘텐츠를 이용해 공갈 협박을 일삼은 남성에게 무기징역을 선고했습니다. 당국은 이러한 사례들이 규제 개혁의 시급함을 보여준다고 강조했습니다.
24시간 이내 콘텐츠 삭제
이러한 위험성에도 불구하고 한국 지도부는 AI 부문을 발전시키겠다는 의지를 확고히 유지하고 있습니다. 이재명 대통령과 김민석 국무총리는 이번 조치의 목표가 혁신을 저해하지 않으면서 피해를 최소화하는 것이라고 강조했습니다. 정부는 차세대 반도체 연구에 대한 투자를 늘리고 첨단 AI 칩에 대한 지원을 강화하고 있습니다.
새로운 조치에는 허위 AI 생성 홍보물을 고의로 퍼뜨려 발생한 경제적 피해액의 최대 5배에 달하는 징벌적 손해배상이 포함될 예정입니다. 유해 콘텐츠는 24시간 이내에 삭제될 수 있으며, 긴급 차단 명령을 통해 선제적으로 차단될 수도 있습니다. 또한 관련 기관들은 AI 기반 탐지 도구를 도입해 모니터링 역량을 확대할 계획입니다.
당국은 이제 급격한 기술 발전이 소비자 보호를 앞지르지 않도록 보장하고, 공공의 안전을 타협하지 않으면서 한국이 AI 시대를 선도하는 것이 과제라고 밝혔습니다.
출처: SIGMA