정부가 10일 ‘AI 가짜 의사 광고’ 등 생성형 AI를 악용한 허위·과장 광고 확산에 대응하기 위해 유통 전 사전 방지부터 신속 차단, 제재 강화까지 포함한 대책을 발표하며 신기술 시대의 시장 질서 확립에 나섰다.

김민석 국무총리가 10일 세종대로 정부서울청사에서 열린 국가정책조정회의를 주재, 모두발언을 하고 있다.

김민석 국무총리는 이날 제7회 국가정책조정회의를 주재하고 AI 기반 허위·과장 광고의 급증에 따른 시장교란 문제를 해결하기 위한 정부 대책을 공개했다. 최근 생성형 AI로 만든 가짜 전문가, 유명인 딥페이크 등을 활용한 허위 광고가 식·의약품 분야를 중심으로 확산하며 노년층 소비자 피해가 커지고 있다는 점이 정부 논의의 출발점이 됐다.

정부는 우선 유통 전 단계에서의 사전 차단을 강화하기로 했다. 방미통위는 플랫폼에 AI 생성물 표시제를 도입해 게시자가 사진·영상 등이 AI로 만들어졌다는 사실을 반드시 표시하도록 하고, 이용자의 표시 제거 행위도 금지한다. 플랫폼 사업자에게는 표시 의무 준수 여부를 관리·고지하도록 의무를 부여한다. 과기정통부도 AI 기본법 시행(2026년 1월 예정)에 맞춰 AI 사업자의 표시 의무 준수 가이드라인을 마련한다.

유통 이후 단계에서는 신속한 차단 체계를 갖추는 데 방점을 두었다. 방미통위와 방미심위는 식·의약품, 화장품, 의료기기 등에서 AI 기반 허위 광고가 빈발하고 있다며 이들 분야를 서면심의 대상으로 추가해 심의 요청 후 24시간 내 심의가 이뤄지는 체계를 추진한다. 식약처 전용 패스트트랙 심의 시스템도 기존 마약류에서 관련 품목까지 확대된다.

특히 긴급 조치가 필요한 경우 방미통위의 플랫폼사 대상 ‘임시 시정요청’ 절차를 신설해 방미심위 심의가 끝나기 전이라도 차단 조치가 가능하도록 한다. 정부는 플랫폼 사업자 자체의 자율규제 강화도 병행 유도할 방침이다.

정부는 제재도 강화한다는 방침을 분명히 했다. 공정위와 식약처는 AI로 만든 가짜 전문가가 제품을 추천하는 광고의 위법성 기준을 명확히 해 신속한 규제를 가능하게 한다는 계획이다. 예컨대 AI가 제품을 추천하면서 가상인물임을 표시하지 않으면 ‘부당한 표시광고’에 해당하고, 의사 등 전문가가 등장하는 식·의약품 광고는 “소비자를 기만하는 광고”로 본다.

또한 방미통위와 공정위는 악의적 허위·조작정보 유통에 대해 손해액의 최대 5배까지 징벌적 손해배상을 도입하고, 표시·광고법상 과징금 수준도 크게 상향한다. 식약처와 소비자원은 감시·적발 기능 강화를 위해 관계부처와 협력한다.

김민석 총리는 “이번 대책을 통해 신기술의 부작용을 최소화하고 AI 시대에 걸맞은 시장 질서를 확립하겠다”고 강조하며, 법령·제도 개선을 조속히 추진하고 플랫폼 업계와 소비자 단체 등 이해관계자와의 긴밀한 소통을 예고했다.