Ernie.SG 
凌晨 02:42，我躺在床上想：这总不可能再更离峰了吧，睡前查一下能有什么坏处，对吧。于是我用手机打开 GCP，试着弄一台 A100 VM，结果……
这比拨号上网之前的年代还惨。那时候家里还没装网，我至少还能在图书馆用零花钱买到够用的上网时间。结果发现，初始模型训练其实轻轻松松，真正难的是把手艺磨到位，走完最后那一英里。我现在已经在同一堵墙上撞够多次了，收益和痛苦完全不成比例，所以我打算先转去准备路演和展示，之后再回到这里，从第一性原理重新来过——比如，真的去读论文，钻到模型架构那个层级。无论如何，我是真的很喜欢 GPT-4 让写代码变成了什么：周四，我用 Chainlit 和 Ngrok 把 “The Sound of Stories” 发到了所有设备上；周五晚上用户测试时，我们遇到多用户问题，我又发现 Chainlit UI 对普通人来说真的很笨重，于是把它接到 WhatsApp 上，由 Flask 后端提供服务；到了周六早上，继续查资料后我意识到 FastAPI 和 Uvicorn 性能强得多，还能处理异步方法和校验。这些对我来说是关键差异，因为：
-
为什么要等
-
你可以来跟我聊聊，数据工程是不是 90% 都在修类型校验，或者更准确地说，是在修那些来自除我以外的数据源里根本不存在的类型校验……:)
你下面看到的演示，全都是我用手机实时录下来的。现在这里那里还会有明显卡顿，但这些在生产环境里都可以解决。总体来说，我对我们这段时间的进展，以及我目前学到的东西，还是挺满意的。我通常把项目和委托看成一种 forcing function，逼我把时间用得更有生产力。说白了，如果我的业余时间不花在这上面，也就是拿去打游戏或者看 Netflix，所以……都挺好。下面我会整理一些我用 A.I. 和 LLMs 构建东西时的学习和想法。
The Sound of Stories 进行中（移动端）
这次真的不一样
这次是真的，而且重要到值得单独写一篇。先给一个高层总结：这是人类历史上第一次把智能商品化。作为会使用工具的动物，如果我们作为一个社会能够有效利用 A.I.，我真的觉得它可能就是治愈癌症、或实现无限清洁能源的钥匙。它也可以成为一个伟大的拉平器，让每个人都拥有自己的 Jarvis 或 Gundam，在生活里扮演许多不同角色。ChatGPT 对我来说已经有点像哲学回音板，有时又是意外有疗效的逻辑师、万事家教、热心但话太多的助手、完全状况外的实习生；更多时候，它是我自己心智的延伸，像是人工给我多接了几只手、多给了一些知识，以及比原本更多的信息入口。而我已经等不及想看 Gemini 1.5、Groq 和 Sora 接下来会为我们释放什么新能力。
创新需要开放。没有但是。
这件事我有几个个人小插曲。第一，我在 2022 年 7 月拿到 GPT-3 的早期开发者访问权限，拿它写了一首关于习近平的 rap，然后基本就没再继续用下去。直到 ChatGPT 公开发布，来自世界各地、各种各样的人突然开始大规模探索，我才得以从他们的实验里受益，并学会如何有效使用 ChatGPT。这个小插曲，再加上另一些事情一起看，比如原定用户测试前几天，我的代码坏了，因为我手痒删掉了虚拟环境——当时大概是想为 Docker 部署把一切设置得规规矩矩——然后就陷入 LangChain <> OpenAI <> Chainlit 之间各种依赖冲突，真的只能靠手工一项项排。那种挫败感很离谱：竟然没有一个简单办法能自动找出可用的版本号组合；更让我震惊的是，一款融资 2000 万美元的软件，居然还没更新到支持 2023 年 11 月 7 日就发布的 OpenAI 1.0.0。不过算了，最后我是让它跑起来了，但那种痛苦我这辈子都不想再经历一次。
GPT-4 挂掉的日子，就是我感觉自己生产力下降的日子。所以我在自己的 M2 Max 上跑了一个本地 LLM，也一直试着订 Gemini Advanced（未果，zzz）。竞争、替代方案和开源都对创新有利。它们让公司持续承受创新压力，而不是转头去做监管俘获或寻租。
再技术一点说，我现在对 CI/CD、Docker 和微服务架构确实掌握得更扎实了，这件事还挺好玩。接下来我也很期待继续在 WhatsApp 和微信小程序上构建，直接触达消费者。下一次更新里，我打算录一个教程，讲你如何在 Google CoLab 上免费训练自己的 RAVE 模型，并进一步展开这些技术学习。
最初发布于 PubPub：erniesg.pubpub.org/pub/7b4nk0ao。