昨今の重大AIインシデントは必ずしも悪ではない　「DeepMind」出身者が鳴らす未来への警鐘

“今”の失敗が、一番小さい

　2015年から2018年まで、世界トップのAI人材が集まるとされる「DeepMind（現Google DeepMind）」で最先端プロジェクトに携わったラマル氏。2018年に来日し、日本のAIスタートアップへ転じた。そこで出会った山田勝俊氏（現Recursive 共同創業者 兼 代表取締役会長）とRecursiveを日本で共同創業。自らの役割を「世界最先端のAI技術と日本をつなぐ橋渡し役」としている。RecursiveはOpenAIとGoogle Cloudの認定パートナーとして、またNVIDIAなどのモデル導入支援も行いながら、日本に特化したAIソリューションの開発と実装にフォーカスしてきた。

　そんなラマル氏は、昨今注目を集めている「AI暴走」について「リスクには2種類あり、それを混同してはならない」と指摘する。

「AIによる重大なインシデントが毎日のように報じられていますが、これらは非常に高度かつ高価なシステム上で発生しているものです。『研究用』であり、将来起こり得る潜在的なリスクへの警告だといえます。一方、企業にとっては、ハルシネーションやハッキング、情報漏洩など既に起こっているトラブルへの対策のほうが急務。この違いは明確に理解しておくべきです」

　その上で、ラマル氏は「人間の主導権」が鍵を握るとする。いわゆる「ヒューマン・イン・ザ・ループ」だ。しかし、どこにどう人間を介在させるかは、各社が模索している段階だろう。加えて、同氏は新たな懸念も指摘する。

「タスクをAIが実行できるようになると、判断することが人間の仕事になります。AI導入が進むほど、人間が判断を下す場面が数百、数千と増えるわけです。すると、私たちが体験したことのない『意思決定疲労』に陥ります。それを防ぐために、人間の意思決定を支援する機能を備えたAIシステムが求められるのです」

　こうしたシステムの構築は、投資余力のある大企業が有利にも思える。しかしラマル氏によれば、AIをもってすれば中小企業でも限られたリソースで複雑なシステムを構築でき、企業規模のギャップは狭まっているという。とはいえ、セキュリティ対応まで含めると、規模を問わず手が回らないのが実情だろう。「誰にとっても安全なシステムにする方法を探っている」とラマル氏。「まだ誰もその答えを持っていないからこそ、とにかく実験すべき」と強調する。

「これからさらにAIが進化することは、目に見えています。すなわち、今のAIで起こった失敗が“一番小さい”。今後登場するより強力なモデルで間違いを起こすほうが、圧倒的に痛手を負います。被害が小さい今のうちに失敗を重ねて、ガードレールのノウハウ、人間の介在先を実践で学ぶことが唯一の近道です。現時点では研究用と表現したAIインシデントについても、研究者たちが今多くの失敗をしているのは良いことだとポジティブな見方ができます」