“진짜와 가짜 구별이 가능하지 않다” 무섭게 발전하는 AI 가상 세계
2023-06-14 17:20
add remove print link
AI가 구현해 낸 가상인물과 실제 간 구별 힘들어
“가짜뉴스 등 범죄 악용 가능성 높아” 우려 목소리
인공지능(AI)이 만들어내는 가상 세계가 갈수록 정교해지면서 실제와 가상에 대한 구별이 사실상 불가능해진 것 아니냐는 우려가 쏟아지고 있다.
지난 13일 온라인 커뮤니티에는 '무섭게 발전하는 AI 보정 기술'이란 제목으로 동영상 하나가 올라와 눈길을 끌고 있다.
동영상에는 하단 자막에 '당신과 화상 채팅한 친구가 이렇게 생겼다고 생각하나요?'라는 질문이 달린 채 한 여성이 앞으로 걸어오면서 순간순간 얼굴이 바뀌는 모습을 보여주고 있다.
AI가 구현해 낸 얼굴 보정(변경) 기술을 직감적으로 보여주는 영상으로, 실제 얼굴처럼 너무나 자연스러운 모습을 담고 있어 보는 이들에게 놀라움을 자아내게 한다.
사실 이런 AI의 가상 인물 구현은 어제오늘의 일은 아니다.
문제는 진화 속도가 너무 빠르고, 이젠 더 이상 실제와 가짜를 구별하기 힘들게 됐다는 점이다.
국내 이 분야에서 기술력으로 손꼽히는 곳은 '딥브레인AI'라는 회사다.
이 업체가 시현한 여러 가상 인물들은 실제 인물과 비교해 얼굴의 미세 표정, 머릿결 움직임, 몸 움직임, 발성과 어조 등 어느 한 곳 다른 구석을 찾을 수가 없다.
구현 방법은 어렵지 않다.
실제 인물의 모습과 목소리 등 기본 데이터만 확보하면, 그를 그대로 본뜬 가상 인물이 만들어져, 의도된 연출(연기)를 다양하게 확장시킬 수 있다.
실제로 '딥브레인AI'는 문재인 전 대통령, 연예인 이장우 등이 등장하는 가상인물의 연출 동영상을 선보이고 있다.
영상을 보면 실제인지 가짜인지 구별하기가 거의 불가능한 수준이다.
이 기술을 활용할 수 있는 분야는 미디어 산업 등 앞으로 무궁무진할 것으로 보인다.
특히 한국의 기술력은 세계와 견주어 꽤 앞선 수준으로 평가되고 있다.
하지만 우려의 목소리는 크다.
일례로 가짜 뉴스에 악용될 가능성 등 범죄에 이용될 경우, 파급력은 상상하기 어렵다는 지적이 적지 않다.
온라인 커뮤니티에 올라온 해당 동영상을 접한 네티즌들도 이 같은 염려가 한목소리로 나왔다.
이들 댓글에는 "이미 특이점을 지남" "너무 발전되지 말았으면 좋겠어. 무서워" "이미 중국에선 AI 적용한 영상 통화 보이스 피싱 사례가 나오고 있음" "SNS에 얼굴 사진 올리지 말 것" "공각기동대에 이거 이용한 범죄도 나옴" "자기 얼굴 목소리 함부로 노출하면 안 된다" "매트릭스 세상" 등의 반응이 쏟아졌다.