【 청년일보 】 서울시의회가 딥페이크와 허위정보 등 생성형 인공지능의 부작용으로부터 학생들을 보호하기 위해 전국 최초로 실질적인 윤리 교육 의무를 담은 조례를 제정했다.

서울특별시의회 김인제 부의장(구로2, 더불어민주당)은 서울특별시교육청 생성형인공지능 윤리적활용에 관한 조례안이 지난 13일 시의회 본회의를 통과했다고 17일 밝혔다

이번 조례는 교육 현장 내 생성형 인공지능 활용이 보편화됨에 따라 발생하는 딥페이크 등 디지털 성범죄와 저작권 침해 등 역기능에 대응하기 위해 마련됐다.

최근 생성형 인공지능 기술의 급격한 확산으로 학생들의 이용 빈도가 높아졌으나, 이를 악용한 허위정보 생성과 디지털 성범죄가 심각한 사회적 문제로 대두됐다.

특히 청소년들이 이러한 기술적 오용의 위험성을 제대로 인지하지 못하고 범죄에 가담하는 사례가 늘고 있어 실질적인 윤리 교육의 필요성이 지속적으로 제기되어 왔다.

김 부의장이 공개한 2025년 서울시 디지털성범죄 통합대응 정책 추진계획에 따르면, 2024년 기준 디지털 성범죄 피의자 387명 중 10대가 324명으로 전체의 83.7%를 차지했다.

피해 측면에서도 합성·편집 피해의 92.6%가 10대와 20대에 집중된 것으로 나타나 보호 대책 마련이 시급한 실정이다.

김 부의장은 청소년들의 인식 개선을 강조하며 “가해 청소년 상당수가 디지털 범죄를 범죄로 인식하기보다 단순한 놀이문화로 혼동하는 경우가 많다”고 설명했다.

이어 “생성형 인공지능 기술은 학습 도구로 빠르게 확산되고 있지만, 동시에 허위정보 생성이나 딥페이크와 같은 심각한 사회적 문제를 동반하고 있다”며 “특히 딥페이크는 한 번 유포되면 완전한 삭제나 회복이 매우 어려운 특성이 있다”고 덧붙였다.

조례안의 핵심은 서울시교육감에게 생성형 인공지능의 윤리적 활용을 위한 행정적·재정적 지원 책무를 부여한 점이다.

구체적인 교육 내용에는 기술의 기본 원리와 한계 이해, 콘텐츠 편향성 인식, 딥페이크 등 조작 콘텐츠 제작 및 유포의 위험성과 법적 책임, 개인정보 및 저작권 보호 등이 포함된다.

정책의 실효성을 높이기 위한 장치도 마련됐다. 교육청은 매년 학생들의 AI 사용 현황, 합성 콘텐츠에 대한 인식 수준, 타인의 권리 침해 이해도 등을 조사하는 실태조사를 실시해야 하며, 그 결과를 이듬해 시행계획에 의무적으로 반영해야 한다.

이번 조례는 생성형 인공지능의 역기능 대응을 위한 교육 의무를 전국 최초로 구체적인 법적 문구로 명문화했다는 점에서 의미가 크다. 단순한 기술 활용 교육을 넘어 윤리적 책임에 기반한 질적 성숙으로 교육 패러다임을 전환하는 계기가 될 것으로 전망된다.

김 부의장은 “청소년 시기부터 생성형 인공지능에 대한 윤리교육을 강화하는 것이 무엇보다 중요하다”고 언급하며 “이번 조례를 통해 학생들이 인공지능 기술을 올바르게 이해하고 윤리적으로 활용할 수 있는 교육 환경을 조성하여 책임 있는 성숙한 디지털 시민으로 성장할 수 있도록 적극 지원하겠다”고 밝혔다.

【 청년일보=김재두 기자 】