Ernie.SG 
내 말은 이거다. “杀猪焉用牛刀”, 그러니까 “돼지 잡는 데 왜 소 잡는 칼을 쓰나”라는 말. 호두 하나 깨자고 쇠망치를 들 필요는 없다. 대형 언어 모델의 참을 수 없는 가벼움은 특정 문제에 맞춰 최적화되어 있지 않다는 데 있다. GPT-4 같은 멀티모달 모델과 내가 프로토타입으로 만든 검색 엔진에 쓴 방식은 분명 흥미롭지만, 엔지니어와 과학자와 연구자들이 인간의 뇌에 비견될 만한 것을 어디까지 코드로 밀어붙일지 숨죽여 지켜보는 중이다.
4개월 전, 팀원 두 명과 함께 지도 학습과 비지도 학습 방법을 써서 미술 작품에 자동으로 주석을 다는 작업을 했다. 그 작업이 끝날 무렵에는 Proof-of-Concept에서 프로덕션으로 넘어가기 위한 MLOps 파이프라인을 만드는 일에 관심이 생겼다. 당시 “MLOps for museums”를 검색하면 인터넷 전체를 통틀어 결과가 0개였다.
이제 Google은 당신을 여기로 데려올 것이다. 그리고 나는 이 키워드의 밀도와 검색 연관성을 더 높이려고 이 글을 쓰고 있다, 헤헤.
지도 학습과 비지도 학습 방법을 버리고 OpenAI의 Contrastive Language-Image Pre-Training과 Jina의 신경망 검색 기능 위에 얹어 만들었더니, 한 달치 파트타임 팀 작업이 반나절도 안 되는 노동으로 쓸모없어졌다. 내게 흥미로운 지점은 그 자체보다도, 사람들이 검색과 자동 주석을 받아들이는 태도가 다르다는 점이다. 이상하게도 전자에는 훨씬 관대하다. 결과가 나오면 그런가 보다 하고 받아들인다. 반면 후자에서는 기계가 만든 표상이라는 생각만으로 사람들이 불편해하는 듯한데, 그게 나를 헷갈리게 한다. 아마 우리는 인간이 만든 지식에 더 큰 책임과 신뢰를 부여하는지도 모른다. 인간의 기억이 아무리 틀리기 쉽고, 관점이 아무리 제한적이라 해도, 그 뒤에는 우리와 같은 존재가 있고, 특정 문화와 맥락 안에 박혀 있으며, 책임을 물을 수 있으니까. 그러면서도 그런 인간들 역시 애초부터 정도의 차이만 있을 뿐 기술을 사용하고 있다는 사실은 편리하게 제쳐 둔다. 그렇다면 진짜 수수께끼는 이것이다. 특정 모델이 바라본 세계, 구체적인 인간이 특정한 방식으로 구성한 세계의 표상을 우리가 받아들이지 못하게 막는 것은 대체 무엇인가? 어쩌면 우리는 이 거울이 우리 앞에 들이밀며 되비춰 주는 것, 우리의 가장 깊은 편견과 선입견을 보고 싶지 않은 것뿐인지도 모른다. 우리는 차라리 고개를 돌린다. 우리는 차라리 모래 위에 성을 계속 쌓는다. 새 땅을 찾아 나서는 대신.
흥미롭게도, 우리 대부분은 반복을 거쳐 확률적으로 최적화된 결과보다 결정적으로 정해진 답이 바로 돌아오는 방식을 더 좋아하는 것 같다. 이 얼핏 동떨어져 보이는 관찰이 인간 심리의 어떤 부분과 깔끔하게 맞물리는지 궁금하다. 아니면 내가 과적합하고 있는지도 모르겠다.
아무튼 검색은 흥미롭다. 이미 탄탄하게 자리 잡은 거대한 시장 기회이기도 하고, 내가 뭔가를 검색하다가 마침 Google 검색의 한계에 부딪히고 있기도 했기 때문이다. 게다가 중국어권 인터넷과 중국어 검색은, 어디서부터 말을 꺼내야 하나…? 인터넷 인구의 일부가 21세기 문화대혁명 속에 사는 동안, 현재 형태의 검색과 GPT-x가 가진 진짜 한계는 검열에 취약하다는 점, 그리고 쓰레기 정보의 홍수에 휩쓸린다는 점이다. 출처 표시와 더 나은 사실 검증 장치가 생긴다고 해서 더 많은 사람이 자동으로 진실에 관심을 갖거나, 서로 다른 현실들 사이의 공통분모를 찾게 되지는 않는다. 그래도 나는 이런 장치들을 거짓과 환각의 밀물에 맞서는 간척지처럼 제공하는 일이 중요하다고 생각한다. 창작의 비용이 거의 0에 가까워진 이 세계에서, 아니면 ChatGPT 토큰 1000개당 $0.002이고 API로 접근하면 10배 더 싸지는 이 세계에서, 그러니 아직도 코딩을 배우지 않을 이유가 뭐가 남았다는 말인가!? :p 나는 이런 기술적 힘들이 창의성을 어떻게 재편하고, 지금까지는 불가능했던 새로운 패러다임과 비즈니스 모델, 표현과 조직의 새로운 양식을 어떻게 열어젖힐지 기대된다. 이런 세계에서 케인스가 말한 “우리 손주 세대의 경제적 가능성”은 다시 의미를 얻을까? 아니면 이 Infinity Gauntlet이 일, 그리고 아무리 불안정하게 묶여 있다 해도 일에 딸려 있던 의미들이 허공으로 증발하는 가운데, 세계의 절반을 좋게 봐야 허무주의로, 나쁘게는 반란으로 몰아넣을까?
삶의 대부분이 그렇듯, 우리가 지금 보고 있는 모델들의 일반화 가능성과 특수성 사이에도 아마 상충 관계가 있을 것이다. 먼지가 다 가라앉고 나서야 적절한 균형을 찾기까지 꽤 많은 실험이 필요할 테고.
출처: Carlota Perez의 “Technological Revolutions and Financial Capital”에 나오는 기술 혁명의 생애주기.
그러니 당분간은 계속 만들 생각이다. 😊
PubPub의 erniesg.pubpub.org/pub/ettc9fqh에 처음 게시한 글.