한자리에 모인 AI 관계자들 “안전한 AI 기술과 문화 전파해야”

이 시간 주요기사

뉴스 > IT·인터넷

할루시네이션·딥페이크 등 오류·악용 사례 막기 위해 민·관 한목소리
“안전한 운전 위한 도로교통법처럼 안전한 AI 위한 제도 필요”

양준규 기자 기자페이지 + 입력 2024-05-16 14:44:45

▲ 엄열 과기부 정보통신정책관이 2024년 AI 정책 방향을 설명하고 있다. IAAE 제공

안전한 인공지능(AI) 기술과 문화 확산을 위해 민·관이 함께 모이는 자리가 마련됐다.

국제인공지능윤리협회(IAAE)는 16일 서울 강남구 역삼동에서 기업을 위한 AI 윤리와 AI 안전 방향성을 주제로 제1회 2024 ASC 콘퍼런스를 개최했다.

이번 콘퍼런스 주제는 기업을 위한 AI 윤리와 AI 안전 방향성이다. 생성형 AI의 기술 발전과 함께 할루시네이션(환각) 현상을 비롯해 딥페이크·가짜뉴스·저작권침해 등 오류나 악용 사례가 발생하는 상황에서 지속 가능하고 안전한 AI 기술 발전과 사용 문화 확산을 위해 마련됐다.

콘퍼런스는 과학기술정보통신부(과기부)와 한국지능정보사회진흥원(NIA) 등 공공 영역을 비롯해 네이버·업스테이지·베슬에이아이·에임인텔리전스·제네시스랩 등 AI 빅테크 기업과 스타트업이 연사로 참여했다. 이밖에도 법무법인·금융권·교육기관·스타트업 등 AI 도입을 계획하는 다양한 분야의 기업 및 기관 관계자 100여 명이 청중으로 참여했다.

첫번째 연사로 나선 엄열 과기부 정보통신정책관은 2024년 인공지능 정책 방향을 설명하며 △AI 일상화 확산 △혁신 AI 인프라 고도화 △글로벌 파트너십 확장 △지역·중소기업·정부 AI 활용 촉진 등의 계획을 설명했다. 윤창희 NIA AI정책연구팀장은 국내외 초거대 AI 기술과 안정성 동향 분석에 기반한 정부의 초거대 AI 구축 전략을 공개했다.

기업 세션에서는 이화란 네이버 퓨처AI센터 리드가 최근 대규모 언어 모델(LLM)에서 안전성과 신뢰성에 대한 문제들을 소개하고 네이버 하이퍼클로바 X의 안전성을 위해 진행하고 있는 현업에서의 노력 등을 설명했다. 또한 박찬준 업스테이지 수석 연구원이 연사로 나서 자사 LLM ‘솔라’ 개발 과정에서 이루어진 신뢰할 수 있는 AI를 위한 다각도의 노력을 데이터와 평가 관점에서 소개했다.

안재만 베슬에이아이 대표는 100개 이상 기업 사례에서 알아보는 안전한 AI 인프라 구축 및 LLM 안정성 확보 사례를 전했다. 유상윤 에임인텔리전스 대표는 LLM의 잠재적 위험성과 취약점을 찾아내는 ‘생성형 AI 레드팀 챌린지’ 수상 후기를 시작으로 AI 리스크 관리 표준화 필요성을 발표했다. 이영복 제네시스랩 이영복 대표는 공정하고 신뢰할 수 있는 AI 채용 기술력과 신뢰성 인증과 윤리 점검표 도입 사례를 소개했다.

전창배 IAAE 이사장은 “위험할 수 있는 자동차를 안전하게 탈 수 있는 것은 브레이크와 같은 기술적 안전장치와 더불어 도로교통법과 같은 법과 제도 덕분이다”며 “인공지능 역시 AI 윤리라는 안전장치가 필요하며 안전한 인공지능 생태계 구현을 위한 법과 제도 마련이 그 어느 때보다 중요하다”고 말했다.

콘퍼런스의 운영과 후원을 맡은 류태준 팀쿠키 대표는 “정말 다양한 산업군에서 안전하고 지속 가능한 AI 발전을 위해 개최된 2024 ASC에 많은 관심 가져주셔서 감사하다”며 “IAAE와 함께 안전한 AI 이정표 제시를 위한 다양한 프로그램을 추진하겠다”고 말했다.

양준규 기자 jgyang@skyedaily.com 기자페이지 +