カタパルトスープレックス

イノベーションに効く世界の情報を日本語で

エストニア政府の人工知能(AI)についての考え方

f:id:kazuya_nakamura:20171015165938j:plain

原文:"A conversation with Marten Kaevats on e-governance and Artificial Intelligence"

 エストニアでは人工知能(AI)に関するパブリックな公開議論がはじまっています。

 その背景として昨年11月に召集されたクルマの自動運転のプロジェクトチームがあります。プロジェクトチームの主な目的の1つは自動運転のクルマが路上で走行した時の法的枠組みを定義することでした。

 召集されたチームの専門家たちは道路交通法だけを取り扱うのは不適切であると認識しています。なぜなら自動運転で使われる人工知能(AI)の問題ははるかに広く、取り扱うはべき範囲は道路交通法だけにとどまらないからです。クルマの自動運転はAIの問題を社会に問いかけるのにちょうどいいテーマです

 AIはとても複雑で幅広い問題提起をしています。例えば、証券取引所で取引をする金融ボット、食料品を自動的に買うスマートな冷蔵庫、クルマの自動運転やバケーションの飛行機チケットをiPhoneのSiriに買ってもらうなどです。

 この規制の主な目的はAIに関わる責任の所在をユーザーにやさしい形で定義することです。そうすれば一般的な市民は、例えば事故が起きた場合でも、正確に責任の所在を理解することができるようになります。

 「責任の所在」は単に「この事故は誰が悪いのか」ということより複雑な問題です。多くの場合、AIは人にとってその意思決定プロセスが直感的に理解できる方法で構築されています。そのアルゴリズムの開発者でさえ開発したアルゴリズムが特定のポイントでその特定の決定をした理由がわからないので「この事故は誰が悪いのか」と法的な観点から言いにくいのです。だから、このタイプのブラックボックスアルゴリズムは法的観点からはかなり複雑ですし、このように広くオープンに責任の定義について議論をすることはとても大事なことです。なぜなら、このようなアルゴリズムは日々の生活にいろんな角度から入り込んでくるからです。どの種類のコンテンツを表示するかを選択するFacebookアルゴリズムから、より使いやすい方法でサービスを使用できるようにするさまざまなスマートフォンデバイスまでです。しかし、アルゴリズムには一定の偏り(バイアス)があり、彼らはあなたから収集されたデータに基づき様々な決定をします。偏りが存在するAIを人々が理解できる方法で法律を書くことが重要です。

エストニアの公共部門におけるAIソリューションの実装に関する現在の議論の状態について教えてください

 エストニアにおいて私たちはマシンラーニングとディープラーニングについて詳しく研究しています。私たちはAI技術によっていくつかのシステムをより効率的にすると認識しています。例えば小さなケースですと警察の事務業務などです。他にも多くの法的業務も自動化することができるでしょう。裁判所で最も簡単な判決は自動的に行うことができるようになるかもしれません。しかしまだまだゆっくりとアイデアを孵化させている状態で、私たちはまだ実際にそのようなシステムを構築していませんが、とても大きな可能性があると考えています。エストニアでの電子政府の経験が示しているように、効率的なシステムを安価に構築する大きな可能性があります。

 AIはeガバナンスの次のステップであり、私たちはそれを利用できる可能性を調査していますが、限界はありません。エストニアはすでに積極的なサービスに取り組んでいます。つまり、市民が政府とやりとりなくサービスを受けることができます。これらのアルゴリズムが役立つ分野はたくさんあり、eガバナンスに新しい道を示しています。

AIが実際に市民の生活を向上させることができる3つの可能な例を教えてください

 市民の日々の生活のために私たちが検討している枠組みは法律にたずさわる人たちがロボットに対応できるようにすることです。例えばあなたはiPhoneのSiriにあなたのためにサービスを売買するよう委任することができます。また、スマート冷蔵庫に食料品を買うことを委任することができます。クルマの自動運転では、あなたが働いている間に空いているクルマを買い物に送ったり、Uberのようなサービスに活用したりできます。このように多くの可能性があるのですが、エストニアは法的観点からパブリックな公開討論を開始した最初の国であることを理解することも重要です。私たちは実験を通じてこのフレームワークが実際にどのように機能するかを検証し、AIの合法化に関する重要なコンテンツを提供することでグローバルな議論に貢献をしようとしています。

 問題は差し迫っていると思います。多くの人は気がついていないかもしれませんが、日常生活の中にこのようなテクノロジーはすでに存在しています。単に厳しい規制を課すしてAIとの境界を作るだけではなく、AIを規制するためのケーススタディシナリオを持つこと。それによって市民や企業が恩恵を受けることができる多くの新しい可能性が開かれていると思います。

 たとえばこのAIとe-Residency(外国人が簡単にオンラインでエストニアの仮想住民になる仕組み)のアイデアを組み合わせると可能性は無限に広がります。エストニアの法的枠組みで動く金融ボットであれば、グローバルに金融取引を行いつつ、投資家がこのエストニアの法の元で法律的に信用することができます。

エストニアはAIを規定するような「ロボット法」を検討していますか?

 私たちは三つのシナリオを提示できます:

  • 最も急進的なシナリオはAIに対して法的人格を与えることです。現在、法的人格は個人と法人という2つです。私たちは三つめの法的人格をAIに与える提案していますが、これは楽観的すぎるかもしれません。
  • もう一つの提案はロボットに対して別の条例で範囲やルールを規定することです。
  • 私たちの三つめの提案は「意志」の法的意味合いを根本的に変えて、同時にロボットに関して別の条項を作ることです。エストニアの法律において「意思」は何かを答えるのは非常に単純です。「私は水を飲みたい」とか。AIの場合、この単刀直入な疑問は幅広いです。例えば、私が冷蔵庫に何か食べ物を買うことを委任したとしましょう。私はミルク、おむつ、ドッグフード、チーズなど具体的な定義をしていません。私が欲しいと思っている製品はアルゴリズムによって決められます。このような場合「意思とは何か」と「私は何を望んでいるか」の差はとても広く、「意思」は非常に抽象的です。

 私たちは何が正しいのかまだわかっていませんが、私たちは公開議論をはじめて社会全体が参加していくことになるでしょう。全ての人が認識する必要があります。なぜならこの法的フレームワークの変化は非常に急進的で大きなものとなり、全ての市民の日々の生活に影響を与えるからです。

 技術的観点からの責任問題は簡単です。製造者の責任であろうと人間の間違いであろうと、誰の責任か決めることは可能だし、保険制度を確立したり、国家責任をシステム内に確立することも可能です。このような「決めの問題」はいま行われている公開議論で形作られていくでしょう。しかし責任問題の最も難しい部分は感情面です。クルマの自動運転を例としましょう。もし私の子供が自動運転のクルマにひかれて死んだとしましょう。私は誰に責任があるのか、誰が刑務所に行くのかを知りたい。社会が議論しなければならない最も困難なことは、このような場合には、ときには誰も責任がないということです。これを認めなければなりません。最近ホットな話題であれば列車の事故です。誰かが線路上を歩いている場合、列車は速度と慣性を持っているので止めることができません。自動運転のクルマの場合、やはりスピードと慣性があり、森林から速いスピードで走っているトナカイと衝突事故となる可能性があります。私たちは感情的にこの議論をやり通し、誰もがこのような場合に起こることを理解する必要があります。

私たちは将来、すでにデータの中に存在する偏り(バイアス)にどのように対処することができますか?

 この法的提案の範囲を理解することは重要です。私たちは人を越えるようなスーパー知能の考え方に取り組んでいません。私たちはより範囲を絞った一般的なAIに取り組んでいます。これらのAI問題を取り巻く現在の問題は、アルゴリズムにはいくつかの偏り(バイアス)が組み込まれていることです。 ドナルド・トランプ大統領が選出されたアメリカ大統領選やイギリスEU離脱のBrexitのキャンペーンでは、Facebookアルゴリズムはさまざまなイデオロギーのバブルを作り出しました。これは問題です。これは現在のAIの最大の問題です。どのようにバイアスを減らすのかは非常に難しい課題です。私はこれが完全に可能ではないと思います。AIを作る人たちの法的枠組みや文化の背景には偏り(バイアス)があるのです。しかし、私たちのゴールはこの偏り(バイアス)を可能な限り最小化し、包括的な成長と繁栄を最大化することです。


e-Talks | A conversation with Marten Kaevats on e-governance and Artificial Intelligence

解説

この記事はエストニア政府のAdvisor of Digital AffairのMarten Kaevats氏のAIに関してのインタビュー記事"A conversation with Marten Kaevats on e-governance and Artificial Intelligence"の翻訳です。

エストニアはeガバメントの先進的な取り組みで知られています。1997年のeガバナンスを皮切りにe-Taxi-Votinge-Regidencyなど矢継ぎ早にデジタルサービスを展開していきました。このe-Regidencyがすごいのは外国人がオンラインで簡単にオンライン上の仮想エストニア国民になれることです。オンラインだけで会社を作って銀行口座を開設することができます。2025年までにこの仮想住民を2,000万人にするのがエストニア政府の目標だそうです。

このインタビューでも出てくるようにe-Regidencyによる仮想エストニア住民とAIの組み合わせはとてもパワフルで大きな可能性がある気がします。「国民」とは何だろう、さらに「意思」って何だろうという非常に深みのある示唆に満ちていますね。

この記事の元になったであろうYouTubeのインタビューは若干異なる部分があります。この翻訳では記事にはないけどYouTubeのインタビューに含まれていることを追加しています。その方がわかりやすい部分があったので。

カタパルトスープレックスなかむらかずや

関連記事