재현 가능하다는 것 + AI 연금술

LK-99 소동에서 내가 제일 신기했던 것은 뭔가 아무튼 대단히 대단하다는 상온 초전도체가 발명될지도 모른다는 것도 아니었고 그것이 자랑스러운, 태극기 크게 한 바퀴 펄럭, 민주공화국 나의 자랑 나의 고향 대한민국에서 일어나고 있다는 것도 아니었다. 문돌이 학사 입장에서 언뜻 생각하기에 과학 실험이란 것은 엄밀하고 깐깐해서 기재된 방법을 따르면 재현 가능해야 하는 것이 이치이며 그렇지 않다면 인정받기 힘든 것이 학계일 것만 같았다. 각 잡고 생각해 결론을 내린 것은 아니지만 속세에 숱하게 벌어지는 일들과 비교하면 그런 성격이 있어야 할 것만 같은 느낌. 그런데 LK-99를 둘러싼 대사건의 전개는 그것과는 거리가 멀었다.

논문을 직접 본 것도 아니고 물리나 화학 지식은 당연히 깊지 않은데, 언뜻 전해 듣기로는 뭐를 얼마나 구워야 할지에 대한 내용이 아주 두루뭉술해서, 온도 범위도 무지 넓고, 재료 집어넣는 비중 같은 것도 막 정확하지 않다 그랬던 것 같고? 심지어는 해당 실험실에서 쓰는 장비에 묻은 불순물 이런 거 영향을 받아서 아예 재현이 안 되는 경우도 있다? 아니 도대체 지킬 박사냐? 원래 재현이 잘 안 되는 게 상식이란 게 이거 참, 내가 벌어먹고 사는 업계도 개판이기로는 어디 뒤쳐지지 않지만, 한참 어리고 미숙하며 정확성보다 실용성이 중점인 분야란 변명이 있다. 그런데 아니 세상의 근간을 이루고 통일장이 어떻고 초끈이 어쩌고 세 살에 로켓 조종한 사람들이 득시글대는 그 물리학이 이렇다고? 상온 초전도체란 게 실존한다면야 재현이 좀 어려운 것이 대수겠냐만? 그때 나름 세계 석학들도 달라붙고 유명하다는 대학이나 연구진도 엮였던 것 같은데 원래 그 바닥이 그렇게 굴러간다는? 이야기는? 문외한에게는 놀라웠다.

반면에 소프트웨어 분야에서는 재현성이란 것이 굉장히 중요한 화두이다. 다운로드라도 한다 치면 체크섬을 확인하는 것은 특별한 일도 아니다. 그때 알고리즘도 아무거나 쓰는 게 아니고 MD5라도 입에 올리면 바로 뺨 맞고 입 돌아간다. 무작위적인 동작을 구현한다면 십중팔구는 의사 난수일 테니 시드 값을 지정함으로써 그 무작위 결과를 고정시킬 수 있고, 경우에 따라서는 그러는 쪽이 지극히 옳다. 특히 보안이나 오픈 소스와 같이 신뢰가 핵심인 경우는 더욱 그러하여, 재현불가하다는 말은 신뢰할 수 없다는 것과 동치로 여겨지게 마련이다. Docker 등 컨테이너 기술이 크게 유행하게 된 것도 원하는 환경을 손쉽게 재구축할 수 있다는 것이 어마어마하게 강력한 요소이기 때문임을, 입 아프게 굳이 구구절절 말할 필요가 없는 것이다. 물론 가상 세계에서의 격리와 변인 제어는 현실의 것에 비해 몹시 다르고 당연히 훨씬 용이하겠지만, 인류의 구원이냐 희대의 스캠이냐를 가르지도 못할 정도로 물리학 실험이란 게 엉망잔칭이라는 사실은 꽤나 신기한 일이었다.

밑에다 이어 쓰려고 몇 자 끄적여놨는데 지금 다시 보니까 관련성이 떨어지는 느낌이다. 시시비비를 따진다면 별도 게시물로 떼는 것이 맞겠다. 그치만! 지금 안 적으면 또 한참 묵힐까봐서 그냥 지금 이어서 해치우고 얼른 치워버릴란다. 정확하게 반면에 AI 하이프를 둘러싼 이야기들(줄바꿈 두 번)사람들은 신비를 바라는 것 같다라고 써두었다.

LK-99에서 읽어낼 수 있었던 의외의 엉성함에 더불어, Gen AI 하이프를 둘러싼 오늘의 소동을 지켜보고 있으면 사람들은 불가해와 신비를 적극적으로 바라는 것 같다. 과학, 엄밀성, 신뢰, 예측 가능성 같은 것은 사실 원하지 않는다. 세상을 뒤집어 버리도록 똑똑하진 않아도 빡통은 분명 아닌 사람들이 AI 하이프에 올라타 본인 신세를 뒤집어 버리는 모양새를 보고 있으면, 선인이라서가 아니라 사람이란 게 공감성 수치란 말도 있고 하니까, 약간 괴롭다. 한 명 두 명도 아니고 하루 이틀 일도 아니라 시도 때도 없이 강제로 목격하게 되는 점이 제법 괴롭다. 특히 인스타 피드에 렙틸리언 형님이 스레드 글 좀 그만 끼워 팔았으면 좋겠는게, 스레드에 보면은 특히 짜쳐도 너무 짜치는 사짜들이 발에 채이게 많다.

AGI라는 희대의 버즈워드가 밉다. 깃헙 트렌딩 페이지를 역병처럼 온통 뒤덮어 버려서 밉다. 난 그래도 AI를 업으로 삼는 게 아닌 인간, 아니 AI가 업이 아닌 개발자 중에서 치면은 아주 잘 아는 편인 거 같거든? 잘난 척 하는 느낌 주기 싫은데, 가만히 눈치 보니까 그렇게 판단할 수밖에 없다. 취미로 LLM이랑 이것저것을 정말 즐겁게 갖고 놀고 있고, 제법 좋아하고, 나름대로 더 깊게 파거나 다양하게 찾아보기도 하고, 싫어하는 사람은 아니다. 기술은 좋은데 그 기술을 둘러싼 소동이 슬슬 염증이 난다. 본인은 영 모르는 모양새이지만 다분히 종교적인 계시를 떠벌리고 다니는 선지자들이 참 두렵다. 이때다 싶어서 하이에나처럼 달려들어 눈먼 돈 찢어먹는 무리와 일생을 닦아온 개살구 말솜씨로 몸값 올릴 궁리만 하는 무리가 있다는 게 참 염려가 된다. 그것이 맞아서가 아니라 그래야만 하기 때문에 자신까지 속이는 (그리고 마찬가지로 절대 멍청한 게 아닌) 사람들이 많아진다고 착각 내지는 생각하며, 바들바들 떨고 있는 이 나의 불안한 마음이 얄밉다.

난 논문을 읽는 법도 모르고 배경 지식이 있는 것도 아니라서 웬만하면 커뮤니티 글부터 찾아보는 편이다. 그런데 국문 게시물은 말할 것도 없거니와 영미권 자료를 보더라도 하, 보다 보면은 진짜 견디지 못하겠다. 아무리 hobbyist 수준이래도 당최 처음 듣는 내 입장에서도 헛소리 같은 사실무근 낭설을 어떻게 이렇게 당당하게 확대 재생산하는 거지 싶은 게 일상다반사이다. 그래서 요즘은 진짜 그냥 논문 더듬더듬 어설프게라도 읽는 편이 차라리 낫더라. 보통의 사람들은 최첨단 IT 기술, 그 중에도 인류의 명운을 그야말로 송두리째 뒤집을 수 있는 전대미문의 인공지능이 과학이고 기술이기를 바라지 않는다. 그냥 허공에 손 휘적대고, 펄펄 끓는 가마솥에 뒷산에서 캐온 약초 좀 집어넣고, 달의 모양이나 바람의 방향에 따라 몇 가지 주문을 읊으면 묘약이 완성되는, 그 정도로 신비롭고 불가사의한 일이기를 바란다. 요즘 인스타그램 피드에 하루에도 몇 번씩 보이는, “AI 에이전트끼리 자기들만 아는 언어로 대화하는 영상” 이런 것도 진상을 알면 아무것도 아닌데, 사람들은 명확한 진실보다 신비로운 막연함을 적극적으로 갈구한다. 특이한 일이 아니라 새로운 기술을 받아들이는 대중의 흔한 모습이며 최전선의 연구자들은 굳세고 이성적인 자세로 임하고 있다고 누군가 달랠지언정, 그 bleeding edge의 기술이 에어컨, 자동차, 스마트폰처럼 일상에 침투했을 때가 된다면은 우리의 사회가 어떤 지성을 원하게 될지 고민해볼 필요가 있다는 생각이다.