本書の著者ケイト・クロフォードはマイクロソフト・リサーチに所属し、AIを研究するAI Now Instituteの共同設立者でもあるAI研究の第一人者の一人です。それ以前は音楽家としても活躍していて、B(if)tekというグループのメンバーとしてアルバムもリリースしているなかなか多才な人です。本作はこれまでのAIに関する書籍と違って、地政学、地域格差や倫理を含む視座の高い観測点からAIについて俯瞰しています。だから、タイトルがアトラス（地図帳）なんですね。マップ（map）は一枚の地図ですが、アトラス（atlas）は一冊の地図帳でより大きく俯瞰できるようになっています。yomoyomoさんもだいぶ前に紹介していましたね。rmaruyさんも書評を上げてるので、あわせてどうぞ。2021年の本ですが今旬のトピックなので取り上げました。
AIは技術だけでなくもっと広い政治や社会構造の上に成り立っているとケイト・クロフォードは説き、地政学や地域格差の観点からAIを俯瞰します。AIを動かすには当然ながらコンピューターが必要で、数も相当数必要となります。半導体不足であらゆる電子機器の供給が需要に追い付かなくなってきていますが、AIを実現するパソコンも例外ではありません。最近だとネバダのリチウム鉱山が環境破壊をめぐる法廷闘争を経て着工されました。以前にも責任ある鉱物調達を実現したスマートフォン「フェアフォン」について紹介しましたが、コバルトなどパソコンやスマートフォンを作るためにはコバルトなどのレアメタルが必要になります。そして、レアメタルの発掘は搾取的な労働環境だったりします。レアメタルといえば中国ですが、採掘による環境汚染も大きな問題となっています。
ケイト・クロフォードは地域格差や経済格差にも目を向けます。まず、AIは誰のために使われるのか？それは資本家ですよね。効率化のために使われます。効率化の歴史を紐解けばアダム・スミスからフレデリック・テイラーの科学的管理法にウィリアム・エドワーズ・デミングのTQCと進化してきました。そして、その根幹にあるのが監視です。AIの祖先に当たる「プログラムできるコンピューター」を発明したチャールズ・バベッジもその名を効率化の歴史に並べます。アダム・スミスは価値はそれを作る労働力と関連づけましたが、チャールズ・バベッジは労働力ではなく製造工程のイノベーションに結びつけました。労働力は製造デザインを動かす部品でしかない。生成AIだとアーティストや作家、開発者などAIの効率化とは無縁だと思われていた創造的な仕事もAIが作り出すための材料でしか無くなってしまいます。そして労働の効率性はしっかり監視される。WeWorkを運営しているWe Companyが買収したEuclid Analyticsとかオフィスの生産性を測る技術ってなんか気味が悪いですよね。日本企業の多くが導入しているSky Client Viewとかもそうですけど。考え方としてはパノプティコンと変わらない。
そして、もっとAIにとって直接的に関係するのが地域格差による労働搾取です。OpenAIは悪いことを言わないために様々な学習をさせています。そして、その学習のために必要な労働力はクラウドソーシングで調達され、ケニヤで時給2ドル未満しか支払っていないといわれています。本書で紹介されている事例だとAmazon Mechanical Turkを使ったImageNetでの画像のラベリングです。基本的にAIの学習には人の労働力が必要で、多くの場合はクラウドソーシングで現地の最低賃金以下の時給しか支払われていないことも多いようです。
本書の後半はAI倫理が主なトピックとなっています。研究目的ではデューク大学やコロラド大学で問題になったようにユーザーの同意なく多くのデータが集められています。臨床など人に影響がある研究に関しては倫理委員会が設置されるのに、同様に人に影響を与えるコンピューター・サイエンスは倫理委員会が設置されていないこと問題提起されています。学術研究だけではなく、企業活動でもユーザーデータはいまだにかなり自由に集められていますし、ユーザー行動もAIの学習に無償で利用されています。
教育機関や企業だけでなく、政府のAI活用に関しても倫理上多くの問題があるとケイト・クロフォードは警笛を鳴らします。まあ、スノーデンの例もありますし、政府による情報収集は問題があることがいまだに多いようです。セキュリティーカメラ「リング」から得たデータをAmazonが警察にユーザーの同意なしに無断で提供していた事例や、パランティアが国外追放の判断のためのデータ提供をしていた事例などなど。
本書が出版されたのが2021年4月でChatGPTなど生成AIが話題になる前だったので、今はどう思っているのかも調べてみました。ケイト・クロフォードはAIの分野では著名人ですので、たくさんインタビュー記事が出てきました。基本的には生成AIの登場で必要とする自然資源や人的資源はより多くなったので、これまでのポジションをさらに強めたようです。ポッドキャストのリンクをいかに貼っておきます。
