옴디아 “생성형 AI, 혁신 맞지만 혼란도 증가할 것”

이 시간 주요기사

뉴스 > #E fact > IT·인터넷

“편견·개인 정보 보호·책임·일관성·설명 가능성 등 근본적 문제 해결 못 한다”
유해 언어·편향된 출력 결과·원천자료 추적 어려움 등 문제점 지적

양준규 기자 기자페이지 + 입력 2023-03-14 10:48:40

▲ 옴디아는 ‘2023 생성형 AI 시장 전망 보고서’를 14일 발표했다. (옴디아 제공)

챗GPT로 대표되는 생성형 AI가 관심을 모으면서 AI의 가능성에 대한 기대감이 올라가고 있지만 동시에 AI가 가진 문제점들을 해결하지 못했기 때문에 혼란이 우려된다는 주장이 나왔다.

인포마테크의 기술 연구 및 자문 그룹인 옴디아는 ‘2023 생성형 AI 시장 전망 보고서’를 14일 발표했다.

마크 베큐 옴디아 수석 애널리스트는 “이번 보고서를 통해 독자들이 생성형 AI 시장 동향을 이해할 수 있도록 빠르게 변화하고 있는 생성형 AI 시장 및 사용 사례, 핵심 사용자와 선정 이유 등 2023년 생성형 AI 생태계 전반을 분석했다”고 말했다.

옴디아는 올해가 생성형 AI의 ‘극초기 시장 단계’가 될 것이라 정의하며 다가올 한 해 동안 생성형 AI가 무엇이고 무엇을 하는지에 대한 큰 혼란이 발생할 뿐만 아니라 생성형 AI가 사용될 수 있는 방법에 대한 창의적인 혁신이 폭발적으로 늘어날 것이라고 언급했다.

다만 옴디아는 최근 챗GPT를 둘러싼 전 세계적인 흥분과 잠재적인 기회와 안정적 확산을 통한 생성형 AI의 돌풍은 현실이 됐지만 생성형 AI는 그 어떤 유형의 AI가 직면한 시장 문제도 해결하지 못한다 지적했다.

마크 베큐 옴디아 수석 애널리스트는 “생성형 AI 이니셔티브는 현재 AI가 직면한 편견·개인정보보호·책임·일관성·설명 가능성 등 근본적인 과제를 해결하지 못하며 되려 발생한 문제들을 굉장히 복잡하게 할 수 있다”고 강조했다.

보고서에 따르면 현존하는 생성형 AI 출력 결과의 원천인 초거대 언어 모델(LLM)은 인종·성별·성적 지향성·능력·언어·문화 등에 대한 유해 언어 또는 편향된 콘텐츠를 포함할 수 있는 공공 데이터를 통해 훈련된 것이기 때문에 출력 결과 자체가 편향되거나 부적절할 수 있다.

실제로 챗GPT를 사용하면서 현재 대통령이 이재명 더불어민주당 대표라고 답하거나, 삼국을 통일한 왕이 고구려의 광개토대왕이라고 응답하는 등 다양한 오류 사례가 보도된 바 있다.

나아가 대부분의 딥러닝 AI와 마찬가지로 결과를 도출한 원천 자료를 쉽게 추적할 수 없기 때문에 생성형 AI 출력 결과를 명확히 설명하기 쉽지 않은 것이 문제점으로 지적됐다.

생성형 AI는 짧은 시간 안에 논문이나 그림 등의 결과물을 만들어내지만 그에 대한 저작권 논란이 꾸준히 제기되고 있다. 또 생성형 AI가 인용한 자료가 실제로는 없는 자료로 드러나기도 했다. 생성형 AI에 대한 관심이 증가한 만큼 이러한 사례는 계속 늘어날 것으로 예상된다.

보고서는 “가능성은 ‘AI 전반에 걸친 도전 과제’지만 정의에 의해 새로운 것으로 ‘창조’된 것으로 생각되는 생성형 AI 출력 결과에 훨씬 더 많은 문제가 있다”고 밝혔다.

양준규 기자 jgyang@skyedaily.com 기자페이지 +