【 청년일보 】 오는 22일 'AI 기본법' 시행을 앞두고 있으나, 정작 이용자들이 AI 생성물을 접하는 유통 단계에 대한 규제 공백 우려가 제기되고 있다. 이에 국회에서 플랫폼과 게시자에게 AI 생성물 표시를 의무화하는 법안이 발의됐다.

국회 과학기술정보방송통신위원회 소속 더불어민주당 조인철 의원(광주 서구갑)은 AI 생성물 표시제 도입과 허위·과장 AI 광고에 대한 신속 대응 체계를 담은 '정보통신망법' 및 '방송통신위원회의 설치 및 운영에 관한 법률(방통위 설치법)' 개정안을 전날 대표 발의했다고 21일 밝혔다.

이번 법안은 최근 딥페이크 등 AI 기술을 악용한 콘텐츠가 정보통신망을 통해 급속도로 퍼지면서 발생하는 사회적 혼란을 막기 위해 마련됐다.

실제로 최근 SNS상에서는 AI로 합성한 '가짜 경찰 출동' 영상이 유포돼 다수의 이용자가 실제 상황으로 오인하는 소동이 빚어지기도 했다.

문제는 이러한 허위 정보가 디지털 정보 판별 능력이 취약한 고령층이나 아동에게 치명적인 피해를 줄 수 있다는 점이다. 과학기술정보통신부 조사에 따르면 고령층의 디지털 정보화 수준은 70.7%로 정보취약계층 중 가장 낮아, 가짜 전문가 영상이나 딥페이크 사기에 무방비로 노출될 위험이 크다.

현행법과 곧 시행될 AI 기본법은 주로 AI 기술을 개발하거나 이를 활용해 제품을 만드는 '사업자'에게만 생성물 표시 의무를 부과하고 있다. 이로 인해 포털이나 SNS 등 실제 콘텐츠가 유통되는 플랫폼 단계에서는 표시 의무나 관리 책임이 명확하지 않아 '입법 사각지대'라는 지적을 받아왔다.

조 의원이 발의한 개정안은 이러한 빈틈을 메우는 데 초점을 맞췄다. 법안은 ▲플랫폼 사업자에게 AI 생성물 표시 유지 및 관리 의무 부과 ▲콘텐츠를 직접 제작·편집해 올리는 게시자에게 표시 의무 부과 ▲이용자의 AI 표시 임의 제거 및 훼손 금지 등을 주요 내용으로 한다. 이용자가 콘텐츠를 소비할 때 이것이 AI로 만들어진 것인지 직관적으로 알 수 있게 하려는 조치다.

아울러 AI를 악용한 허위 정보나 광고로 인한 피해를 신속히 차단하기 위한 장치도 마련했다.

개정안은 국민의 생명이나 재산에 심각한 피해가 우려될 경우, 식약처나 공정위 등 중앙행정기관의 요청이 있으면 방송통신심의위원회의 정식 심의 전이라도 플랫폼에 '임시 시정조치'를 요청할 수 있도록 했다.

또한 의약품, 화장품 등 국민 건강과 직결된 분야의 AI 허위 광고에 대해서는 서면 심의를 통해 심의 기간을 단축하는 방안도 포함했다.

조인철 의원은 “AI 기술이 고도화되면서 국민이 접하는 정보가 ‘진짜인지, AI가 만든 것인지’조차 구분하기 어려운 상황이 됐지만, 이용자 보호를 위한 제도적 장치는 여전히 미흡하다”며 “AI 기본법이 AI 개발자 책임을 다뤘다면, 이번 법안은 플랫폼 등 유통 단계에서 국민 보호의 책임을 명확히 하는 보완입법으로 법안의 상당 부분은 정부 대응 방향과도 궤를 같이하고 있다”고 설명했다.

이어 조 의원은 “AI 기술 발전을 위축시키려는 것이 아닌, 혁신이 신뢰 속에서 지속될 수 있도록 이용자 보호의 기본 기준부터 마련하자는 것”이라며 “디지털 취약계층은 물론 국민 모두가 딥페이크 위협에 무방비로 노출되지 않도록, 국회와 정부가 속도감 있게 제도 공백을 메워야 한다”라고 강조했다.

【 청년일보=김재두 기자 】