서울 25.5º
미세먼지 좋음
여수 29.8º
미세먼지 보통
울산 27.4º
미세먼지 보통
제주 31.7º
미세먼지 좋음
 성능이 고도화되면서 생성형 AI 이미지가 무차...'))
최근 인공지능(AI) 성능이 고도화되면서 ‘생성형AI 이미지’가 무차별적으로 사용되는 것으로 나타났다. 29일(현지시간) 미국 NBC방송이2023년 이후 AI가 생성한 가짜 이미지의 급증을 보도했다. AI로 인한 편리한 세상이 기대를 모으는 한편 우려의 경보음도 높아지고 있다.
구글과 듀크대 연구팀이 팩트체크 매체 스노프스가 진위를 확인했던 1995년 이후 2023년 11월까지 13만6000건의 팩트체크 사례를 분석한 결과를 보면, 지난해 3월 프란치스코 교황이 허리춤을 강조한 흰색 롱패딩을 입은 가짜 사진이 소셜미디어(SNS)에 퍼진 시기가 하나의 변곡점이 돼 있다.
해당 사진은 당시 소셜미디어(SNS)에 공개돼 수백만 조회수를 기록했다. “교향의 새로운 패션 센스” “교황이 스타일리스트를 새로 고용했느냐”며 화제를 모았고 이미지 생성AI ‘미드저니’가 만든 것으로 판명나기까지 아무도 의심하지 않았을 만큼 자연스러웠다. 이후 생생형AI를 이용한 가짜이미지는 빠르게 늘었다.
2022년 11월 출시된 오픈AI의 챗GPT 이후 AI 열풍이 불면서 AI로 인한 가짜이미지의 대중화는 사실상 예고된 것이나 다름없다. AI 주요 기업들이 시장을 선점하기 위해 너나 할 것 없이 생성형AI 이미지 도구를 내놓았기 때문이다. 이들 AI이미지 생성 앱들의 활용 양상은 이미 ‘포토샵’ 수준인 것으로 조사됐다. 사진 손질을 통칭한 신조어 ‘포샵’이 자리잡을 만큼 보편화된 도구가 포토샵이었다.
AI 생성형 이미지 사용이 늘면서 소셜미디어도 몸살을 앓는 중이다. 사람들의 관심을 끄는 유명인의 가짜 이미지들이 범람하며 심각한 명예훼손, 특히 음란물 생성과 확산 또한 뜨거운 감자로 부각되고 있다.
AI에 기반해 영상과 이미지·음성을 합성하는 고도의 조작 기술인 딥페이크가 악용될 경우 피해는 상상을 초월한다. 가짜임을 육안으로 판별하기란 대부분 불가능하다. 특히 선정적 음란물 제작·유포자들이 늘면서 AI 관련 법적 규제를 강화해야 한다는 목소리도 커지고 있다.
올 초 미국의 세계적인 여성 가수 테일러 스위프트의 얼굴 사진을 합성한 악의적인 딥페이크 음란물이 온라인에 유포됐으며 3월엔 도널드 트럼프 전 대통령이 수감을 찬 채 경찰관들에게 둘러싸여 끌려가는 사진이 퍼지기도 했다.
AI에 의해 조작된 이미지가 진짜처럼 받아들여져 여론 조작에 악용될 가능성은 무한해 보인다. 렉시오스 만찰리스 국제팩트체킹네트워크 전 국장 말대로 “생성형 AI 도구로 누구나 온라인에서 허위 정보를 쉽게 퍼뜨릴 수 있는 세상”이다.
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
연재기획 ‘CIA와 대한민국’ 
연재소설 ‘최초의 당신’
기사제보 
