【 청년일보 】 "신뢰받는 인공지능(AI)은 투명하고 설명 가능하며 언제든지 확인 및 검증이 가능한 개방성을 갖춰야 합니다. 공정하고 편견이 없으며 비즈니스와 윤리를 잘 이해하는 시스템이어야 신뢰받을 수 있습니다."

한국IBM은 23일 온라인 기자간담회를 열고 '신뢰할 수 있는 AI'가 무엇인지 정보를 나누는 자리를 마련했다. 현장에는 IBM 본사에서 AI와 클라우드 전환 비즈니스를 총괄하는 최고데이터책임자(CDO) 세뜨 도브린 박사가 참석했다.

'신뢰할 수 있는 AI'란 기치를 내건 IBM은 AI와 여기에 사용되는 데이터의 신뢰성과 투명성, 공정성을 향상하기 위해 부단한 노력을 기울였다고 도브린 박사는 강조했다.

IBM이 AI와 관련해 해결하려는 주요 이슈는 ▲AI가 가진 편향성을 개선하는 '공정성' ▲AI가 내린 결정 사항을 설명 가능하게 하는 '설명 가능성' ▲AI가 발견한 정보와 여기에 사용된 데이터를 보호하는 '보안' ▲AI가 내린 결정과 여기에 사용된 데이터 및 모델을 추적 가능하게 하는 '책임' 등이다.

도브린 박사는 "AI란 인간을 대체하기 위한 것이 아니라 인간의 지능을 보완하는 것이 IBM의 원칙"이라며 "데이터와 인사이트의 권한은 창작자에 있으며, AI 기술은 반드시 투명하고 설명 가능해야 한다"고 말했다.

최근 국내에서 발생한 AI 챗봇 '이루다'는 이용자의 동의 없이 자료를 활용해 물의를 빚었다. 도브린 박사는 이러한 사례가 실제로 자주 발생한다며 예방을 위해서는 단순히 AI 모델 하나에 국한하는 것이 아니라 전체 시스템을 총체적으로 봐야 한다고 조언했다.

그는 "이용하는 데이터에 대해서는 반드시 이용자의 동의를 받아야 한다. 적법한 방법을 통해 모니터링을 진행, AI가 실제로 기업에 유용한 솔루션을 문제없이 해결하는지 항상 지켜봐야 한다"며 "IBM은 기업의 역량에 맞춰 AI 플랫폼 기술 '왓슨 어시스턴트'를 제공, 기업이 관련 규제를 준수하도록 지원한다"고 말했다.

네이버 검색 AI 논란 등으로 불거진 AI의 '편견'에 대해서도 도브린 박사는 언급했다. 그는 "편견은 여러 가지 형태가 존재할 수 있다. 하지만, 이를 직접 감시할 수 있어야 목적, 맥락에 맞춰 AI 모델을 설계하고 편견을 없앨 수 있다"고 강조했다. 

또 "편견 제거는 개발에서 끝나는 것이 아니라 운영하는 과정에서도 실시간으로 확인하고 제거하는 역량이 필요하다. 또한, 전사적으로 문서화해 공유가 가능해야 한다. 이러한 노력이 있어야 신뢰할 만한 AI 구축이 가능하다"고 역설했다.

【 청년일보=박준영 기자 】