我的意思是:“杀猪焉用牛刀”,或者说,不用拿大锤去砸开一颗坚果。大型语言模型的“不能承受之轻”,正在于它们并不是为某一个具体问题优化出来的。像 GPT-4 这样的多模态模型,以及我原型搜索引擎里用到的东西,当然都很让人兴奋;但我也在屏息看着工程师、科学家和研究人员会怎样把一个类似人脑的东西一路写到极致。
四个月前,我和两位队友用监督学习和无监督学习方法做了一套艺术品自动标注。做完之后,我开始对搭建 MLOps 流水线产生兴趣,想把东西从概念验证推到生产环境;而那时你要是在全网搜索 “MLOps for museums”,结果是零。

现在,Google 会把你指到这里;而我写这篇文章,也只是为了给这个关键词密度和关联性再添一把柴,嘿嘿。

对我来说真正有意思的是:我放弃监督学习和无监督学习,转而架在 OpenAI 的 Contrastive Language-Image Pre-Training(对比语言-图像预训练)和 Jina 的神经搜索能力之上后,不到半天就把一个兼职团队一个月的工作量变得过时了;但人们对搜索和自动标注的接受程度却很不一样。不知为何,面对前者,我们宽容得多,结果来了就先收着。到了后者,大家似乎就会被“机器替世界做表征”这件事吓到;这一点我一直想不通。也许我们更愿意把责任和信任交给人类生产的知识——哪怕人的记忆多么靠不住,视角多么有限——因为那里至少有另一个像我们一样的存在,嵌在特定文化和语境里,可以被追责;同时我们又很方便地忽略了,这些人类本来也多少在使用技术。所以真正的问题是:到底是什么阻止我们接受这种由某个特定模型塑形、由某个具体人类主体以某种方式建构出来的世界表征?也许我们只是不喜欢这面镜子照出来的自己:它把我们最深处的偏见和成见反射回来。我们宁可把头转开。我们宁可继续在沙地上修城堡,也不愿冒险去寻找新大陆。
有意思的是,我们大多数人似乎还是偏爱确定性结果,而不是在一轮轮迭代中做随机优化。我在想,这个看似孤立的观察,会不会刚好接上人类心理的某些部分;当然,也可能只是我过拟合了。
总之,搜索很有意思,因为它本来就是一个成熟而巨大的市场机会,而我做一些搜索时,刚好撞上了 Google 效能的边界。至于中文互联网和中文搜索,我该从哪里说起……?当一部分互联网人口活在 21 世纪的文化大革命里,当前形态的搜索和 GPT-x 真正的限制,则在于它们容易被审查左右,也容易被垃圾信息淹没。来源标注和更好的事实核查机制,并不会自动让更多人对真相更感兴趣,也不会自动让彼此平行的小宇宙之间找到共识;但我仍然认为,把这些机制做出来很重要,像围海造田那样替我们挡一挡虚假信息和幻觉不断涨起的潮水。在这个创造成本几乎归零的世界里(或者说每 1000 个 ChatGPT token 才 $0.002;如果你通过 API 调用,还能便宜 10 倍,所以你还有什么理由不学编程!?:p),我很期待看到这些技术力量如何重塑创造力,并催生过去不可能存在的新范式、新商业模式,以及新的表达和组织形式。凯恩斯写给我们孙辈的那些可能性,会不会在这样的世界里重新变得相关?还是说,这只 Infinity Gauntlet(无限手套)会让工作的意义——哪怕这层关联本来就站不太住——随风蒸发,最后半个世界轻则虚无主义,重则揭竿而起?
和人生里的大多数事情一样,我们现在看到的模型,大概也在通用性和特异性之间存在某种取舍。等尘埃真正落定,要靠大量实验才能摸清那个平衡点在哪里。

来源:Carlota Perez《Technological Revolutions and Financial Capital》中关于技术革命生命周期的图示。
所以眼下,我还是继续动手造东西。😊
最初发表于 PubPub:erniesg.pubpub.org/pub/ettc9fqh。