AI 전문가 한 자리에… “AI 신뢰성 새 국면”

이 시간 주요기사

뉴스 > 연구·개발

신뢰할 수 있는 AI 주제로 3개 세션별 주제 발표·정보 교류

양준규 기자 기자페이지 + 입력 2024-02-22 16:31:55

▲ AI 신뢰성에 대해 관련 기업·협회· 단체 및 법조계와 학계 관계자가 의견을 나누는 자리가 열렸다. TRAIN 글로벌 제공

인공지능(AI)의 발달과 함께 주요 이슈로 부상하는 AI 신뢰성에 대해 관련 기업·협회· 단체 및 법조계와 학계 관계자가 의견을 나누는 자리가 열렸다.

신뢰할 수 있는 인공지능 글로벌 연대(TRAIN 글로벌)는 22일 그래비티 서울 판교 오토그래프 컬렉션에서 국제 심포지엄을 개최했다. 이번 행사에서는 각국의 민간 전문가가 급변하는 AI 기술 환경 속에서 AI의 올바른 수용을 위한 신뢰성 확보·강화 방향성과 국제 연대 가능성을 모색했다.

정호원 고려대 경영학과 명예교수는 AI Act와 미국 AI 행정명령을 주제로 기조연설했다. 정 명예교수는 “3년 전 EU의 AI Act 발표 이후 AI 신뢰성에 대한 규제가 새로운 국면에 접어들었고 이어진 미국 행정명령으로 글로벌 AI 산업계가 크게 동요하게 됐다”며 “글로벌 규제 뒤에 숨어 있는 의미를 파악하고 변화하는 규제 환경 속에서 우리의 위치를 확고히 해야 할 시점”이라고 강조했다.

기조연설에 이어 △기술 △교육 △법·제도 등 3개 세션별 주제 발표가 이어졌다. 기술 세션에서는 오스만 아티프 씽크포비엘 연구원과 천선일 씽크포비엘 책임연구원이 AI 신뢰성을 위한 기술적 진단 모델과 실제 적용 사례 등을 소개했다.

안선호 한국산업기술시험원(KTL) AI 팀장은 AI 국제표준화기구가 개발 중인 국제표준에 대해 조명하고 AI 산업의 성장과 혁신을 위해 설립된 산업AI국제인증포럼에서 제공하는 적합성 평가에 관해 설명했다.

또한 박주식 포티투마루 이사는 대규모 언어 모델(LLM) 도입 시 고려해야 할 환각·보안·비용 문제에 대해 지적하고 신뢰할 수 있는 앤서링 AI를 구현한 실제 사례를 공개했다.

박현희 국민대 행정학과 교수가 좌장을 맡은 교육 세션에서는 김명락 초록소프트 대표가 AI 개발 인력에 필요한 지식 영역을 분류해 제시했으며 전창배 국제인공지능윤리협회(IAAE) 이사장은 TRAIN이 주도하는 AI 신뢰성 교육과 자격증이 나아갈 방향을 제시했다.

법·제도·정책 세션에서는 이유정 법무법인 원 변호사(AI 대응팀장)가 첫 번째 강연자로 연단에 올랐다. 이 변호사는 “AI 기술은 인간에게 더는 선택이 아닌 삶의 일부가 됐고 AI 기술로 기존 법률과 윤리로 해결할 수 없는 문제가 늘었다”며 “죽음 이후 인격권의 침해 문제와 딥페이크 등 새로운 법적 문제가 등장하는 상황에서 새로운 법과 윤리의 문제를 면밀하게 살피고 AI와 인간이 공존할 방안을 모색해야 한다”고 말했다.

이어진 발표에서 김윤명 경희대학교 법학과 교수는 “데이터를 다루는 학문인 데이터사이언스 분야에서도 데이터 자체 신뢰성을 위해 처리 과정 및 결과의 투명성을 확보해야 한다”며 “이를 교육 정책적으로 어떻게 뒷받침하는 게 바람직할지 모두가 고민할 시기”라고 강조했다.

김영찬 전주정보문화산업진흥원 ICT 융합산업팀 선임과 전영준 부산 IT 융합 부품 연구소 실장은 주로 AI 시대 지역 격차가 벌어진 수도권과 지방 간에 균형 발전 방안을 언급했다.

김영찬 선임은 AI 시대 지역 격차를 해소하기 위한 진흥원의 역할 재정립에 주목했다. 김 선임은 이중 인력 문제에 따른 지역 격차를 심화를 우려하며 AI 신뢰성과 같이 이제까지 존재하지 않았던 영역에서 새로운 역량을 갖춘 인력을 지역 사회가 육성해야 한다고 말했다.

전영준 실장은 AI 신뢰성 분야와 관련한 지역 특화 산업 육성을 주장했다. 전 실장은 새로운 기술이 도입되면 수도권과 지역의 출발선이 같아지는 효과가 생긴다고 강조하며 AI 신뢰성을 지역거점 특화 산업으로 육성할 수 있다고 주장했다.

TRAIN 추진단장을 맡은 박지환 씽크포비엘 대표는 이번 심포지엄에 대해 “이번 행사는 격변하는 AI 시대를 맞아 AI 윤리와 신뢰성을 어떻게 확보할 수 있을지 기업과 공공이 소속 국가 상관없이 열린 자세로 방향성을 모색한 뜻깊은 자리다”며 “공개 장소에서 다루기에 다소 어렵고 민감한 주제였음에도 열린 마음으로 기술의 진보와 공공성을 진지하게 고민할 수 있었던 점에 큰 의미를 부여한다”고 말했다.

양준규 기자 jgyang@skyedaily.com 기자페이지 +