Ernie.SG 
午前2時42分、ベッドの中で「これ以上オフピークな時間なんてないだろうし、寝る前にちょっと確認するくらい別にいいよね」と思いながら、スマホでGCPを開いて A100 VM を取ろうとした。すると……
これはダイヤルアップ以前のインターネット時代よりひどい。あの頃でさえ、家にインターネットが来る前は、図書館で小遣いの許すかぎり好きなだけネットを使えた。どうやら最初のモデル学習そのものは楽勝らしい。でも技を磨いて、最後の一歩を詰める段階になると、同じ壁に十分すぎるほど頭を打ちつけていて、苦痛に対するリターンの比率があまりに釣り合わない。だからいったんピッチとショーケースのモードに切り替えて、その後でここに戻り、原理原則から、つまり論文を読んでモデルアーキテクチャのレベルまで降りて向き合うことにする。とはいえ、GPT-4 とコードを書くことで、「The Sound of Stories」を木曜日に Chainlit と Ngrok で全デバイス向けに出せたことには、かなり興奮している。その後、マルチユーザー問題にぶつかり、金曜夜のユーザーテストで Chainlit UI が利用者にはかなり扱いづらいと気づいたので、Flask バックエンドで WhatsApp 上に載せた。さらに土曜の朝に調べていくうちに、FastAPI と Uvicorn のほうがはるかに高性能で、非同期メソッドとバリデーションを扱えるとわかった。そこは僕にとって重要な差別化要因だった。なぜなら、
-
待つ理由がない
-
データエンジニアリングの90%が型バリデーションの修正、というか僕以外のところから来る型バリデーション不在の後始末だという話なら、ぜひ聞かせてください…… :)
下のデモは、すべて僕のスマホ上でリアルタイムに録画したものだ。ところどころ目に見える遅延はまだある。とはいえ、それは本番環境に持っていけば直せる類のものだ。全体としては、ここまでの進捗にも、これまで学んできたことにも、けっこう満足している。僕はプロジェクトやコミッションを、自分の時間を生産的に使わせるための強制関数として見がちだ。たとえば空き時間をこれに使っていなければ、ゲームをしているか Netflix を見ているだけなので……まあ、それでいい。以下では、A.I. と LLM を使って作る中で得た学びや考えを少し言語化してみる。
The Sound of Stories 作業中（モバイル）
今回は本当に違う
本当に違う。これだけで単独の記事にする価値があるくらいには違う。今の時点で高いレベルからまとめるなら、人類史上初めて、僕たちは知能をコモディティ化しようとしている。道具を使う動物である僕たちが、社会として A.I. を有効に使えるようになれば、それは癌の治療や無限に近いクリーンエネルギーへの鍵になると本気で思っている。これは大きな平準化装置にもなりうる。すべての人が、自分の人生でいくつもの役割を担ってくれる自分専用の Jarvis や Gundam を持てるようになるからだ。ChatGPT は、あるときは哲学的な壁打ち相手であり、ときに驚くほど治療的な論理屋であり、何でも教えてくれる家庭教師であり、親切でやる気はあるが冗長すぎるアシスタントであり、何もわかっていないインターンでもある。そして多くの場合、僕自身の思考の拡張だ。すでに持っているものよりも多くの腕と知識と情報アクセスを、人工的に増やしてくれる。そして Gemini 1.5、Groq、Sora がどんな新しい能力を解き放ってくれるのか、待ちきれない。
イノベーションには開放性が必要だ。それだけ。
これについては個人的な小話がいくつかある。ひとつ目。僕は 2022年7月に GPT-3 の開発者向け早期アクセスを持っていたのに、それで Xi Jinping についてのラップを書いて、基本的にはそれ以上ほとんど使わなかった。ChatGPT が一般公開され、世界中のいろいろな人たちが一気に試行錯誤を始めて初めて、僕は彼らの実験から恩恵を受け、ChatGPT を有効に使う方法を学べた。この小さな出来事は、別の一件ともつながっている。予定していたユーザーテストの数日前、Docker デプロイに向けて環境をちゃんと整えようとして、僕が余計な手を出して仮想環境を削除したせいでコードが壊れた。そこで LangChain <> OpenAI <> Chainlit の依存関係コンフリクトを、本当に手作業でひとつずつほどいていた。動くバージョン番号の組み合わせを自動で見つける簡単な方法がないのがものすごく腹立たしかったし、さらに資金調達額2000万ドルのソフトウェアが、2023年11月7日に出ていた OpenAI 1.0.0 にまだ対応していないことにも正直ぞっとした。まあそれはそれとして、最終的には動かせた。でもあの痛みは二度と味わいたくない。
GPT-4 が落ちている日は、生産性が落ちたと感じる日でもある。だから M2 Max 上でローカル LLM を動かしたし、Gemini Advanced にも加入しようとしている（できていない、zzz）。競争、代替手段、オープンソースはイノベーションにとってよいものだ。企業が規制の取り込みやレントシーキングに走るのではなく、革新し続けるよう圧力をかけるのは、それらだからだ。
もう少し技術寄りの話をすると、CI/CD、Docker、マイクロサービスアーキテクチャへの理解は確実に深まってきていて、これは楽しい。今後は WhatsApp と WeChat ミニプログラム上でさらに作り込み、消費者に直接届く形にしていくのも楽しみにしている。次の更新では、Google CoLab 上で自分の RAVE モデルを無料で学習させる方法のチュートリアルを録画し、技術面で学んだことももう少し詳しく書くつもりだ。
初出は PubPub の erniesg.pubpub.org/pub/7b4nk0ao。