“표시 의무화해 AI 가짜 의사 광고 막는다”

[한의신문] 최근 AI로 만든 의사 등을 통한 허위·과장 광고가 국민에게 혼란을 주고 있는 가운데 AI로 제작된 영상에 표시를 의무화하는 방안이 마련된다.

정부는 10일 제7회 국가정책조정회의를 열고 ‘AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안’을 마련해 AI 허위·과장광고의 생성과 확산을 신속히 차단하고, 위법 행위자를 엄단함으로써 시장 질서를 정상화할 수 있도록 했다고 밝혔다.

먼저 방송미디어통신위원회(이하 방미통위)는 소비자가 AI 영상임을 정확히 알 수 있도록 플랫폼 등에 대한 ‘AI 생성물 표시제’를 도입해 오해의 소지를 사전 차단한다.

향후 AI 생성물을 제작·편집해 게시하는 자(직접 정보제공자)는 해당 사진·영상 등을 AI로 만들었다는 사실을 표시해야 하며, 플랫폼 이용자가 AI 생성물 표시를 제거하거나 훼손하는 행위는 금지한다. 플랫폼사는 ‘직접 정보제공자’가 표시 의무를 준수하는지 관리토록 한다.

또 과학기술정보통신부는 AI 사업자의 AI 생성물 표시 의무 이행과 AI 생성물의 투명한 사용을 돕기 위한 가이드라인을 마련한다.

만일 AI 허위·과장 광고가 유통될 경우 신속히 차단할 수 있는 방안도 마련했다.

방미통위·방송미디어통신심의위원회는 식·의약품, 화장품, 의약외품, 의료기기 등 AI 허위·과장광고가 빈발하는 분야를 서면심의 대상에 추가토록 추진한다. 이에 따라 정부는 해당 영역의 허위·과장광고에 대해서는 심의 요청 후 24시간 이내 신속한 심의가 이뤄질 수 있을 것으로 기대하고 있다.

또한 현재 마약류만 적용돼 있는 식약처 전용 방미심위 심의신청 시스템(패스트트랙)도 이들 품목까지 확대 적용해 안건 상정 시간도 단축할 계획이다.

시급한 조치가 필요한 경우, 방미통위의 플랫폼사에 대한 긴급 시정요청 절차를 도입해 방미심위 심의 완료 전에 차단조치가 이뤄질 수 있도록 한다.

아울러 정부 차원 뿐 아니라 플랫폼 사업자 차원에서도 허위·과장광고 관련 자율규제가 확대·강화될 수 있도록 유도할 예정이다.

위법행위자에 대한 제재도 강화한다.

공정거래위원회와 식약처는 AI로 만든 전문가가 제품을 추천하는 광고에 대한 위법성 판단 기준을 명확화함으로써 예측가능성을 명확히 하고 허위·과장 광고에 대한 신속한 제재조치가 이뤄질 수 있도록 한다.

구체적으로 AI가 제품을 추천하는 광고의 경우, 추천자가 ‘가상인간’임을 표시하지 않으면 부당한 표시광고에 해당하고, AI가 생성한 의사 등 전문가가 식·의약품을 추천하는 광고행위는 소비자를 기만하는 광고에 해당한다.

더불어 방미통위와 공정위는 위법행위자에 대한 금전 제재를 강화하고 적발 시에는 엄중히 제재한다.

이를 위해 △정보통신망 등에서의 악의적인 허위·조작정보 유통 행위에 대한 징벌적 손해배상(손해액의 최대 5배)을 도입하고 △표시·광고법상 허위·과장 광고에 대한 과징금 수준도 대폭 상향한다.

한편, 식약처와 소비자원은 AI 허위·과장 광고에 대한 신속한 차단을 위해 관계 부처 협의 등을 통해 감시·적발 기능 강화를 추진한다.

김민석 국무총리는 “이번 대책을 통해 신기술의 부작용을 최소화하는 동시에, AI 시대에 걸맞는 시장 질서를 확립해나갈 것”이라고 밝혔다.