AIも初期の狂騒が続く中、すこしづつ冷静に分析する記事や書籍が今年になって出はじめてきました。今回紹介するカレン・ハオの書籍"Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI"もそんな流れの一つととらえることができます。カレン・ハオはMIT Technology Reviewの元AI担当記者で、現在はThe Wall Street JournalやThe Atlanticなどでも寄稿しているAIに造詣の深い記者です。OpenAIも初期から取材をしていて、広くネットワークを持っています。
そんなカレン・ハオが本書で取り上げるのがOpenAIとその中心人物であるサム・アルトマンのダークサイドです。イーロン・マスクとサム・アルトマンによるOpenAIの立ち上げとからはじまり、取締役会によるサム・アルトマンの追放劇と、その失敗がクライマックスとなります。
本書で全体的に描かれるのが二重人格者としてのサム・アルトマンです。全員にいい顔をして、自分からは決してノーと言わない。しかし、影では別のことを言っている。物腰も柔らかく、最初はとても親切で優しい。でも、それは長く続かず、簡単にはしごを外す。表でやっていることと、裏で画策していることが全く違う。面白いのが、表面的な部分はイーロン・マスクと全く逆なところ。反面教師としてとらえてるんですかね。
しかしながら、サム・アルトマンが問題のある性格なのかは正直重要じゃないと思うんですよ。クソ野郎な創業者／経営者なんてごまんといるわけで。むしろ、クソ野郎じゃない創業者／経営者なんているのか？と思う。あのスティーブ・ジョブスですら性格的にはかなり問題があったみたいですし。
本書を読んで二つのキーポイントが読み取れました。
ひとつがAI企業全体の偽善性です。本書で主に取り上げられているのはOpenAIですが、AnthropicやGoogleだって同じ穴の狢です。LLMを教育して運営するにはとてつもないお金とリソースがかかる。中南米にデータセンターを建設して、水などのリソースを大量に消費します。一方で住民は干ばつで水が飲めなかったりする。学習のためには問題のある画像を学習して覚えさせる必要がある。そのためにアフリカの貧しい国の労働者が使われていて、あまりにひどい画像にさらされ続けて精神的にやられてしまうこともある。まあ、倫理的にかなり問題のあることをたくさんやってるわけです。
それも、より大きな目的のためには仕方がない犠牲なのだ。これがAI企業の言い分です。以前に効果的利他主義（EA）を含めたテック億万長者の偽善を暴くアダム・ベッカーの"More Everything Forever"を紹介しましたが、本書でも同じコンテキストでEAについて触れられています。サム・アルトマンも当然ながらEAの信奉者なのですが、多くのテック億万長者も同じなんです。この偽善に満ちた搾取性が「帝国主義的」だというのが本書のメッセージの一つなのだと思います。
もうひとつがブーマー（発展推進派）とドゥーマー（AIによる終末論を信じる慎重派）の対立です。ブーマーの代表がグレッグ・ブロックマンで、ドゥーマーの代表がイリヤ・サツケバーであり、そのまえがダリオ・アモデイだった。サム・アルトマンは両方にいい顔をしつつ、じつはブーマーで慎重派は徐々にサム・アルトマンが信じられなくなっていくというのがパターン。
でも、資金調達をしてしまったらその投資を株主に還元しなければいけない。それが巨額の投資だったらなおのこと。サム・アルトマンの立場は分からなくもない。それをはっきり言わないのが混乱を招くってだけで。AI研究にはお金がかかるので、このジレンマから逃れることはできない。OpenAIと袂を分けてAnthropicを起業したダリオ・アモデイだって同じのはず。ただ、ボクが面白いと思うのはブーマーとドゥーマーの対立に倫理的な問題は全く無視されていること。ブーマーであれ、ドゥーマーであれ偽善的なことには変わりない。
本書は副題にもあるようにサム・アルトマンという個人の資質（を通じてみたOpenAIの搾取性）を取り上げた書籍です。ただ、自分が思うのはサム・アルトマンはEAという偽善を体現している一人にすぎないということ。経営者の資質はそれとは別の話だと思う。サム・アルトマンに経営者の資質がなければOpenAIは失速していくだろうし、資質があるのだったらこれからも繁栄を続けるでしょう。彼がクソ野郎であろうとなかろうと。
