松尾豊教授が語った、これから生まれるリスク 認証の必要性はどこに……
登壇者
Tools for Humanity 日本代表 牧野友衛氏
東京大学 松尾・岩澤研究室 松尾豊教授
──今回の提携のきっかけは。
松尾：最初にTools for Humanity のCEO Alex Blania氏と話をした際、非常に先進的な取り組みだと感じました。SFのようですが、人間かAIかが区別できない世界が来たときに人間であると証明する手段を作ろうと。AMPCという世界を変える技術の日本拠点を担わせてもらえるのは名誉なことだと思っています。
──「Worldプロジェクト」の根幹でもある人間証明の必要性はどこにあるのか。
松尾：昨今の生成AIの進展を受けて感じている人もいると思いますが、画面の向こうにいるのが人間かAIか、もはやわからなくなってきています。さらに、AIエージェント技術も進化しています。メールを書いているのが人間ではなくAIかもしれません。通話の向こうで喋っているのもAIかもしれない。そうなったとき、どうすればいいのか。
たとえば、給付金を配るときに受け取っているのがAIである可能性も考えられます。そのようなAIを多く使って、ベーシックインカムを多く受け取ろうとする人がどこかに現れたら……。画面の向こうにいるのが人間かどうかを確認する技術は非常に重要となります。
ただし、証明の仕方は容易ではありません。過去には、人間とAIを見分ける試験「チューリングテスト」も実施されていましたが、受け答えだけで人間かどうか判断する時代はもう終わったのです。今後、総合的に人間かAIかを判断する技術が、さまざまな情報システムの基盤になっていくでしょう。
──AIのリスクとポテンシャルのバランスをどう見ているか。
牧野： AIの進化のスピードは速いです。今はなくても、もしかすると明日リスクが生まれるかもしれない。少し先のように思えても早めの対策が必要だと考えています。
我々はAIを制限したいわけではありません。AIが普及して多くの人々がそのメリットを享受できるために、対処方法をどう作るかにフォーカスしています。その対処方法が、人間一人に一つのIDを付与するという考え方です。
松尾：ハルシネーションの問題は以前からありますが、たとえばAIが引用した文献自体を捏造してしまうかもしれない。AIエージェントが別のAIエージェントを介して情報を得る場合もありますが、AIエージェント自体が間違ったことを伝えていく可能性もあります。このように連鎖していき見分けがつかなくなるということが、これから多く起こるはずです。そもそもAIに指示を出しているのが人間なのかどうかは重要になるでしょう。確認する技術がなければ、詐欺などが横行してしまいます。
国内で考えると、マイナンバーカードなどでIDを一人の人に紐づけることは可能です。ところが、インターネットは世界中につながっているため、どこの国からAIが人間と偽ってくるかはわからない。つまり、一つの国だけの仕組みに依存するのは危険です。世界共通の認証の仕組みが必要だと思います。
──今後の取り組みに何を期待しているか。
松尾：World IDのような基盤が日常生活に溶け込み、こういう技術があるからこそ安心して使えると思ってもらえる。その最初期に東京大学が一緒に取り組んでいたといってもらえるといいですね。
