【 청년일보 】 스타트업얼라이언스가 지난 6일 더불어민주당 황정아 의원과 함께 국회의원회관 제6간담회의실에서 'AI 기본법 투명성·책임성 라운드테이블'을 개최하고 AI 기본법 관련 현장의 목소리를 들었다.

 

7일 스타트업계에 따르면, 이번 토론회는 코리아스타트업포럼, 코딧 글로벌정책실증연구원과 함께 스타트업얼라이언스가 공동 주관한 행사로, 최근 AI 기업 101곳을 대상으로 한 설문조사에서 98%가 "AI 기본법에 대해 준비되지 않았다"고 응답한 현실을 반영해 마련됐다.

 

이달 22일 시행을 앞둔 AI 기본법에 대해 산업계가 현장에서 실제로 어떤 의무를 부담하게 되는지 명확히 알기 어렵다는 점에서, 예측 가능하고 실효성 있게 작동하는 제도 설계 방향을 논의하는 것이 이번 토론회의 핵심 목적이다.

 

이번 행사를 주최한 황정아 더불어민주당 의원은 "정부에서도 최소한의 규제만을 담기 위한 노력을 지속하고 있지만, 현장에서는 우려가 나오고 있는 것도 사실"이라며 "투명성과 책임성을 주제로 한 오늘 논의가 매우 중요한 출발점이 되어야 한다"고 말했다.

 

특히 "현장의 경험과 의견이 제도 설계에 반영되어야 한다"고 강조하며 "세계 최초로 시행되는 법인만큼, 시행 이후에도 현장의 목소리를 지속적으로 반영해 보완해 나가겠다"고 말했다.

 

황 의원은 마지막으로 "스타트업들이 규제의 모래주머니 없이 제대로 도전할 수 있도록 정책적 뒷받침에 최선을 다하겠다"고 덧붙였다.

 

토론회를 주관한 임정욱 스타트업얼라이언스 대표는 "AI 산업은 글로벌 경쟁이 치열하고, 기술 변화의 속도 또한 빠른 만큼 새로운 규제 체계를 설계할 때는 신속성뿐 아니라 실효성과 예측 가능성, 국제적 정합성을 함께 고려해야 한다"며 "오늘 논의된 현장의 의견들 이 시행령과 가이드라인 정비 과정에 반영되어, AI 기본법이 기업에 또 다른 부담이 아닌, 신뢰와 혁신의 기반으로 자리 잡을 수 있기를 바란다"고 밝혔다.

 

최지영 코리아스타트업포럼 상임이사는 "스타트업은 변화의 최전선에서 새로운 기술을 실험하고 시장에 확산시키는 주체이지만 규제 변화에 대응할 인력과 자원이 충분하지 않은 경우가 많다"며 "AI 기본법의 원취지에는 충분히 동의하지만 현장에서 제대로 작동하려면 합리적 제도, 명확한 기준과 해석, 준수 비용을 낮추는 지원 인프라가 함께 설계되어야 한다"고 강조했다.

 

송해영 코딧 글로벌정책실증연구원 원장은 "AI와 디지털 정책 변화가 산업 현장에서 갖는 의미를 분석하고 국회에서 라운드테이블을 갖게 된 점을 매우 뜻깊게 생각하며, AI의 투명성과 책임성 논의는 신뢰 가능한 AI 과정을 모색해 나가는 과정"이라며 "이러한 기준은 현장 기술 개발과 사업을 충분히 이해하는 바탕 위에서 설계될 필요가 있고, AI 기본법 시행 과정에서도 현장 목소리가 정책에 반영될 수 있도록 가교 역할을 끝까지 수행하며 산업과 정책을 연결하는 실질적인 계기가 되기를 바란다"고 제언했다.

 

기조 발제를 맡은 최성진 스타트업성장연구소 대표는 "AI 기본법의 시행 목적이 투명성과 책임성을 확보하자는 데에는 이견이 없지만, 현재 시행령안은 이러한 원칙을 어떻게 산업 현장에서 실효성 있게 구현할지에 대한 구체성과 예측 가능성이 부족하다"고 지적했다.

 

특히, 그는 "고영향 AI 지정, 생성형 AI 표시 의무, 위험관리 체계 구축 등 개별 조항들이 현실적으로 적용될 수 있는 기준과 절차가 아직까지 불명확하다"며 "이로 인해, 제도의 취지와 별개로 산업계 전반에 선의의 규제 리스크만 확산되는 결과가 우려된다"고 설명했다.

 

'고영향 AI' 지정과 관련해서는 "그 판단이 단순히 기술 유형이 아닌 사용 맥락과 영향 범위에 따라 달라질 수 있는 만큼, 법적 의무 부과 전에 사업자가 스스로 예측 가능한 기준이 마련되어야 한다"고 강조했다.

 

또한 "해당 여부를 모호하게 남긴 채, 사후 조사나 조치 중심으로 제도가 운영된다면 스타트업 입장에서는 리스크 회피 차원에서 이에 관련 서비스를 포기하게 되는 상황이 생길 수 있다"고 덧붙였다.

 

'생성형 AI 결과물 표시 의무'에 대해서도 그는 "결과물이 생성형인지 아닌지를 사용자에게 언제, 어떻게 표시해야 하는지에 대한 구체적 기준이 부재하고 특히, 음성·이미지·영상과 같은 비정형 콘텐츠의 경우 기술적으로 실현 가능성이 낮거나 오히려 사용자 경험을 해칠 수 있다"며 "일괄적이고 경직된 표시 의무가 아니라, 위험성과 사용 목적에 따라 유연하게 설계되어야 한다"고 제안했다.

 

이어 "AI 기본법은 대한민국이 규범적 선도국가로 가는데 필요한 토대이지만, '제도를 먼저 정하고 기업은 나중에 맞춰라'는 방식이 아니라, 산업계와 충분한 대화를 바탕으로 시행령의 내용과 속도를 조율해 나가는 접근이 필요하다"며 "법 시행 이후에도 지속적으로 수정·보완 가능한 유연한 제도 설계가 중요하다"고 강조했다.

 

이어진 종합토론에서는 이상용 건국대학교 법학전문대학원 교수가 좌장을 맡아, AI 기본법 시행을 앞두고 산업 현장에서 제기되는 주요 쟁점을 공유했다. 특히, '투명성'과 '책임성' 규정의 적용 방식과 개선 방향에 대해 산업계, 학계, 정부 관계자들의 심도 있는 논의를 이어갔다.

 

이호영 툰스퀘어 대표는 "AI 저작도구를 운영하는 기업으로서, 현행 법제가 교육 현장이나 콘텐츠 제작 과정에 유연하게 적용되지 못해 혼란과 부담이 크다"며 "특히 이용자, 이용사업자, 개발사업자의 경계가 명확하지 않은 현장 상황을 고려해 AI 기본법의 유연한 적용이 필요하다"고 강조했다.

 

이어 "표준과 기준이 불명확한 상황에서는 오히려 기업들이 스스로 위축되거나 해외로 이전하는 일이 반복된다"며 "투명성과 책임성 원칙에는 전적으로 공감하지만, 다양한 사례와 현장 경험이 충분히 반영돼야 실효성 있는 법 제도 설계가 가능하다"고 덧붙였다.

 

정지은 코리아스타트업포럼 대외정책분과위원장(코딧 대표이사)은 "이제는 법을 현장에 알리는 데 주력해야 할 시점이다"라며 "AI 생성물 표시의무와 관련해, 제작 과정의 AI 기여도를 정의하는 기준이 불분명하고 일부만 편집한 것인지 전체를 생성한 것인지 가려내는 것이 매우 어렵다"고 지적했다.

 

또한 "가시적 워터마크는 사용자 경험에 부정적인 영향을 줄 수 있어 C2PA 등 글로벌 스탠다드의 비가시적 메타 서명 방식 등을 참고할 필요가 있다. 또한, 이용자의 워터마크 수정 및 삭제행위까지 인공지능 사업자에게 책임을 지도록 하는 것은 과도한 규제라고 볼 수 있다"고 강조했다.

 

정주연 스타트업얼라이언스 선임전문위원은 "AI 시스템의 누적 연산량을 기준으로 안전성을 판단하는 현행 시행령안은 실제 서비스 구조나 기술 현실을 반영하지 못하고 있다"며 "특히 외부 API나 오픈소스 모델을 활용해 서비스를 개발하는 스타트업의 경우, 해당 연산량을 측정하거나 통제할 수 없는 상황에서 책임을 져야 하는 구조는 불합리할 수 있다"고 지적했다.

 

이어 "AI 시스템은 다양한 모델과 모듈로 구성된 구조이기 때문에 연산량 산정 자체가 현실적으로 불가능한 경우가 많아, 안전성 기준은 AI 시스템이 아닌, 모델 수준에서 설정하는 것이 기술 현실에 더 부합한다"고 강조했다.

 

그러면서 "고영향 AI 지정 확인 시, 학습 데이터에 포함된 개인정보나 영업비밀 등 민감한 정보를 제출하도록 요구하는 것은 기업에 과도한 부담을 줄 수 있다"며 "최소한 초기 확인 단계에서는 서비스 개요서 중심으로 판단하고, 학습 데이터 관련 정보는 필요 시 단계적으로 요구하는 방식이 바람직하다"고 제안했다.

 

최우석 과기정통부 인공지능안전신뢰지원과 과장은 "AI 기본법은 국민의 불안을 완화하고, 책임 있는 AI 활용을 유도하기 위해 마련된 제도"라며 "국제적인 논의 수준과 정합성을 유지하면서도 기업들이 과도한 규제 부담을 느끼지 않도록 균형 있게 운영해 나가겠다"고 밝혔다.

 

이어 "AI는 본질적으로 불확실성이 큰 산업인 만큼, 초기 기업들이 과도한 부담을 최소화할 수 있도록 유예·계도 중심으로 제도를 운영하고, 충분한 소통과 지원을 병행해 나가겠다"며 "법령 개정이 어려운 사안은 시행령과 가이드라인을 통해 보다 구체적이고 실효성 있는 해석 기준을 제시할 수 있도록 노력하겠다"고 덧붙였다.

 

끝으로 좌장을 맡은 이상용 교수는 토론회를 마무리하며 "AI 기본법 시행령 제22조 제2호 단서 조항은 '기계가 판독할 수 있는 방법' 뒤에 '문구·음성 등으로 안내할 것'을 명시하고 있는데, 이는 사람이 인식하는 방식에 해당하기 때문에 조문 자체의 체계가 맞지 않으며, 입법 취지가 무엇인지 명확하지 않다"고 지적했다.

 

또한 고성능 AI와 관련해 "일부 AI는 특정 맥락에 국한되지 않고 그 자체로 높은 자율성과 잠재적 위험성을 내포하고 있어, 기존의 '고영향 AI'와는 별도로 '능력 기반의 규제 목적'이 설정되어야 한다"며 "현행 법안이 이를 충분히 반영하지 못하고 있다는 점에서 보완이 필요하다"고 덧붙였다.

 

한편, 이번 토론회의 내용은 스타트업얼라이언스의 공식 유튜브 채널에서 다시 볼 수 있으며, 토론회 자료집은 홈페이지에서 다운로드할 수 있다.
 

【 청년일보=조성현 기자 】