データであるものはすべて空気に溶けていく

『三体』の冒頭では、宇宙へ向けて発信されたひとつのメッセージが、人類を連鎖する出来事の道へ押し出す。科学者の失踪、社会的な亀裂、政治的な陰謀。そして異星の種との遭遇のなかで、人間の命と尊厳は天秤にかけられる。A.I. も同じことを起こしうるのか。この問いは、私たちにとってまったく新しいものではない。たぶん、弱い者や傷つきやすい者を私たちがどう扱ってきたかを、もう十分見てしまっているからだ。あれは美しい光景ではない。私は、意識とそれに伴う自己感覚を、創造性や知性とは別のものとして扱いたいと思っている。そう考えておけば、生命が非生命からどう立ち上がったのかをもう少し理解するまでの時間くらいは稼げる、はずだ。

Stable Diffusion WebUI で生成。

最近、Vision Transformer と Stable Diffusion で遊びながら、曲や画像をやたら幅広いスタイルで生成している。自分の生涯では到底到達できない速度と精度で、いまや「描く」ことができるようになったのは素直にうれしい。一方で、この一連の営みがここまで試行錯誤と実験の積み重ねになっていることには、不穏さと不安も覚える。しばらく引っかかっているのはこういう考えだ。私たち人間が誇りにしているもの、つまり創造性や知性のかなりの部分は、結局のところ計算可能なデータと統計現象にすぎないのではないか。そしてその土俵では、機械に勝ち目がない。ある意味ではこれは完全に正しく、解放的でもある。けれど別の軸で見ると、重大な細部がいくつも抜け落ちる。人間の営みの多くをそんなふうに考えるのは、ぞっとするほど怖いし、不安にもなる。

Stable Diffusion WebUI で生成。

Stable Diffusion を使えば、絵にはまったく興味がなく、しかも完全に下手な私でも、3070 GPU 上で30秒もかからずにスタイルを自由に切り替え、4つのバリエーションを生成できる。いくつかはここに載せたとおりだ。明らかに、A.I. は奇妙だ。私たちの現実のうち、かなり特定の一面だけを切り取っている。放っておくとモデルがばかげた体型の女性像を出し続けるので、私はネガティブプロンプトに “large breasts” などの関連語を毎回のように入れている。この件全体が、このポッドキャストで語られているとおりかなり奇妙なのだが、その中で出てきた強い問いが、まさに私がずっと頭の中で噛み続けていることでもある。

EZRA KLEIN：少しだけマクルーハン的に考えて、彼の有名な言葉「メディアはメッセージである」を借りるとします。もしメディアそのものがメッセージなのだとしたら、つまりメディアがある生き方や考え方を内側に組み込み、それを使う人々を変えてしまうのだとしたら、A.I. チャットボットというメディアのメッセージは何だと思いますか。付け加えておくと、これはある技術の上に作られているメディアです。チャットボットとして使うことは、数多くある応用のひとつにすぎません。そして、まさにその応用が広がっているという事実自体が、その技術を本来とは違う形に作り変えていくはずです。とはいえ、そうですね、そのメディアのメッセージは何なのでしょうか。

Stable Diffusion WebUI で生成。

人間の創造性と知性をモデル化し、予測機械として組み立てることがここまでうまくいくとわかったとき、それは私たち個人にとって何を意味し、私たちはどう応答すべきなのだろうか。この考えを受け入れつつある現時点での暫定的な答えは、神秘の喪失と驚異の感覚は同じコインの両面のように感じられる、というものだ。こうして私たちの知性や創造性を小さなものとして扱うことで、よい方向に転べば、人間であるとはどういうことか、そして一人ひとりの知性や創造性の水準に関係なく、私たちは互いに何を負っているのかを、本気で評価し直すきっかけになるかもしれない。けれどもっと不吉な話として、A.I. に慎重に向き合わなければ、貿易とソーシャルメディアの影響を合わせたものよりさらに深い亀裂を、世界各地の社会に生むのではないかとも心配している。

データセットの偏りと、効果的なプロンプトの書き方

私が本番運用に持ち込みたい一般的なユースケースは、自動コンテンツ生成だ。複数のプラットフォームに自動で公開できるよう、望むテーマについて、さまざまな形式と言語で A.I. に動画台本と画像を作らせる。この投稿は残念ながらまだ手作業である。その過程で、A.I. の偏りが全部こちらに投げ返されてくるのを見るのは興味深い。胸を大きくしないよう明示するまで、生成される女性像はデフォルトでことごとく豊満な体型になった。訓練に使われたデータセットのことを考えさせられるし、メディアで私たちが目にしているもののどれだけが現実のエアブラシ版なのかも考えさせられる。となると、実際のところ、誰を責めればいいのだろう。

ネットからそのままダウンロードできる複数のモデルを試したあと、私はグラフィックノベルっぽいスタイルで行くことにした。驚くことでもないが、成人向けコンテンツ制作に特化したモデルは大量にある。そこに、textual inversionで自分の Stable Diffusion モデルを簡単にカスタマイズし、訓練できるという状況が重なる……。つまり、平均的なゲーミング PC を持っている人なら誰でも、ディープフェイクの成人向けコンテンツを生成できる。

政府も学校も親たちも、A.I. にちゃんと追いついていてほしい。その希望くらい持っていてもいいですか。

なぜ A.I. は別物なのか

少しだけ悲観を脇に置くと、私は A.I. に強く惹かれている。1956年のダートマス会議という、いわば A.I. が肉体を得て生まれ落ちたような瞬間から、最初期の単層ニューラルネットワーク、つまりパーセプトロンを経て、現代のディープラーニングに至るまで、A.I. は短い時間でずいぶん遠くまで来た。そして、A.I. がすでに何をできるのかは、現在の私たちの周囲を見れば十分わかる。そこから、既存の証拠に足場を置いた未来予測を立てることもできる。他の多くの技術は、ありうる未来像が現在に足場を探しているものだ、とでも呼べる（そして見事に失敗している）ことが多い。だがその点で、A.I. は別物だ。だから私はこれを蒸気機関に匹敵するものとして見るようになったし、火や電気と比べる人がいるのも、おそらく同じ理由なのだろう。

「私はずっと、A.I. は人類が取り組んでいるものの中で最も深遠な技術だと考えてきました。火や電気、あるいは過去に私たちが成し遂げてきたどんなものよりも深遠です」 - Sundar Pichai（Google CEO）

スミソニアン博物館に展示されている Mark I Perceptron。（出典）

1958年には、単層パーセプトロンといっても実物の配線と巨大な機械が必要だった。私が2022年にマルチラベル分類のために畳み込みニューラルネットワークのモデルをいくつか触ったときには、ResNet-512 のような512層のモデルが、リビングに置いたごく普通のゲーミング PC の上でせっせと動いていた。

A.I. は、機械に思考する力を与えたいという人間の関心を、いくつもの冬でさえ冷ましきれなかった物語だ。A.I. 冬の長い夜、統計への転回、古いモデルにデータと GPU が合流して可能になったカンブリア爆発、そしてニューラルネットワークの究極の復活。こうした話は、次に掘り下げてみたいと思っている。

もともとは PubPub の erniesg.pubpub.org/pub/33ietk6v で公開したもの。