텔레그램-딥페이크 사태에 대하여

크게 시끄러웠던 일에 대해 어설프게나마 논해보고자 한다.

딥페이크

무엇인가요?

내가 알기로는 동영상에서의 얼굴을 바꿔치기 하는 특정한 기술의 이름으로 처음 등장했는데, 이게 공개되었을 때의 파급력이 워낙 컸기 때문에 보통 명사나 다름없게 되어버려 지금은 AI로 이미지건 영상이건 얼굴을 바꾸는 기술이면 대충 딥페이크라고 부르는 것 같다. 포토샵 등 고전적 이미지 편집기를 사용한 것이라면 대체로 이 명칭을 사용하지는 않는 것으로 보여, 소위 딥페이크 악용에 관한 논의는 AI 위험성에 대한 것과 맞닿아 있는 것으로 생각된다.

왜 이런 기술이?

최초 등장 시부터 포르노, 가짜 뉴스 등 다양한 “악용” 사례가 우려되어 왔다. 그럼에도 불구하고 기술 자체는 지속적으로 연구되고 발전하고 있는 상태이다. 그야 당연히 상업적으로 가치가 있는 기술이기 때문이다. 유고한 배우의 얼굴을 재사용한다든가, 가상의 아이덴티티를 내세워 인플루언서를 창조한다든가, 대형 자본이 얼마든 입맛을 다실 만하며 양지에서도 충분히 야무지게 써먹을 수 있는 기술인 것이다. 금단의 기술 취급이 전혀 아니다. 대한민국 공공기관에서 운영하는 AI 허브에도 정확하게 같은 용도로 활용하기 위한 데이터셋이 올라와 있다. 오픈 소스 소프트웨어의 최대 중심지인 깃헙의 Trending 페이지에도 한 번씩 관련 코드가 올라오며, 구글이나 기타 검색 엔진에 face swap만 검색해도 이미 널리고 널린 비불법적 온라인 서비스에 손쉽게 접근할 수 있음을 알 수 있다.

어떻게 막나요?

내가 친구들이랑 편하게 뱉는 자리면 불가능하다고 말하겠지만 좀 더 말에 책임을 담아야 하는 자리라면 까다롭다고 하겠다. 이러한 목적의 이미지 생성을 기술적으로 막는다는 건 꼭 특정 수학 공식의 풀이에서 7의 배수가 나오지 않도록 하는 법과 같이 난해한 아이디어가 아닌가 싶다. 특히 Stable Diffusion과 Flux 등 공개 가중치(open weights) 모델이 상당한 지위를 차지하고 있는 현 상황이라면 더 그렇다. 모델 만드는 회사들도 당연히 법적, 윤리적 책임 지기 싫으니까 나름대로 손을 쓰려고는 하는데, (비단 특정 인물을 모사하는 이미지가 아니라도) NSFW 이미지 생성을 막기 위해서 데이터셋에 뭐라도 하나 손 대고 뭐라도 장치를 하나 더 추가하면 모델 품질이 눈에 띄게 떨어지는 문제가 나타나는 등, 결코 쉬운 문제는 아니다. 특정 인물과 위험할 정도로 흡사한 이미지를 어떻게 못 만들게 할까요? 음란하고 망측한 이미지를 어떻게 해야 못 만들게 할까요? 현 생성형 AI 기술을 가지고 말하는 거라면 둘 다 문자 그대로 아무런 의미가 없다. 우주비행사가 말을 타고 있어요! 인류 역사 상 실존했던 적 없는 이 그림이 나올 수 있다면, 인터넷 도처에 널리고 널린 헐벗은 여자 사진을 못 만들 이유가 하등 없는 것이다. 특정한 얼굴 생김새를 갖도록 하는 조건을 주더라도 마찬가지이다. 결국에는 생성 대신 유포나 소지에 대한 문제가 될 것인데, 이렇게 되면 기술의 손을 떠나 법과 정치의 사안이 된다.

텔레그램

무엇인가요?

나는 텔레그램이 보안이 뛰어나다고 주장하는 사람은 전문가는 당연히 아니거니와 그냥 기술적 문맹이라고 생각하고, 보안이나 프라이버시에 조금이라도 진지하게 관심이 있는 사람들은 이에 동의할 것이다. 그러나 한국에서는 특히 보안 메신저라고 흔히 알려져 있다. 종단 간 암호화도 아무튼 지원은 하고, 수사 기관에 절대 협조하지 않는다는 근거도 없고 사실과 다른 이미지가 만들어진 탓에 국내에서는 국회의원이나 대통령까지도 애용하고 있는 것으로 알려져 있다. 아주 음지로 가서 국내에서는 마약 거래 등에도 사용되는 것으로 알려져 있고, 초대형 사건을 비롯해 몇 가지 논란이 터진 이래로는 성범죄자를 비롯해 뒤가 구린 사람들이 주로 사용한다는 인식이 강한 것으로 보인다.

어떻게 막나요?

뭐… 한국 정부가 늘상 해온 대로 “불온” 서비스 검열하듯이 차단하면 될 것이다. 물론 나는 이 방법에 전혀 동의하지 않으며, 오히려 이렇게 접근할 경우 기존 사용자들은 보안이 정말로 뛰어나고 추적이 어려운, 더 깊은 음지로 숨어들 가능성이 농후하다고 생각한다. 또한 문제의 생성물들이 텔레그램이라는 창구를 통해서만 유통되어야 한다는 법칙도 어디 정해져 있지는 않은 것이다.

결론

결국 텔레그램은 부수적인 문제이며 이번 건의 주요 쟁점은 AI 윤리에 관한 것이다. 이에 대해서 어떻게 접근해야 할지는 AI 기술의 최전선인 미국을 포함해 지구 상 어디에서도 결론이 나지 않았다. 그러나, 그러나, 그러나, 여론이나 정치권은 그러나 텔레그램 때리기에 집중할 가능성이 커보인다는 것이 문제이다. 여기에 걸려들면 안 된다. 너무나 쉽고 달콤해 보이는 접근이지만 그렇게 해서 얻을 과실은 단 하나도 없다. 텔레그램 서버를 대한민국 특수부대가 점거해서 지금까지 오고 간 모든 통신의 내용을 전수 해독하여, 사악한 딥페이크 소란에 관련된 악당 무리를 빠짐없이 색출하고 엄중히 처벌한다고 해도, 사건의 본질은 조금도 달라지지 않는다.

어째야 할까? 쉬운 일이면 여기까지 안 왔다고밖에 말할 수가 없다. 온라인에서 알아서 자기 사진들을 전부 내리고 앞으로도 다시 올리지 않는 것이 해법이라고 봐야 할지도 난 도무지 모르겠다. 그게 마음 먹는대로 이루어지는 일도 아닐뿐더러 인터넷에 한 번 올라온 것은 영원히 사라지지 않는다고 취급하는 쪽이 진실에 가깝기 때문이다. 더더군다나 그러지 않아도 이미 공허한 이 해결책에는, 유명인의 경우를 어떻게 취급해야 할지에 답할 수 있는 바가 텅 빈다는 문제가 있다. 이미지 생성 기술은 대중에 알려지기 전부터 계속해 가속하면서 발전해오고 있으며, 문자 그대로 자고 일어나면 이게 된다고 소리가 나오는 새 기술이 나오는 수준이다. 일자리를 뺏기네 마네, 딥페이크를 어쩌네 마네, 저작권이 어떻고 저쩧고, 우리가 범접해 본 적 없는 이런 크기와 난이도의 문제들이 앞으로도 계속해서 쏟아질 것이다. 어째야 할까. 이것이 우리 스스로에 대한 도덕과 윤리의 심판대라면 도대체가 어떤 평결을 내려야 인류를 사면할 수 있을까. 그에 대해서는 나로서 아직 답할 재간이 없다. 내가 알고 있는 사실은 단 하나이다. 쉬운 일이면 여기까지 안 왔다고밖에 말할 수가 없다.