AIに人格と哲学を与える──進化するガバナンス　日清食品HD・成田敏博氏と最適解を探る

AIも人間も育て方は同じ？　ガバナンスの新たな視点

森：ガバナンスの考え方は、かなり進化しています。私や成田さんも運営に携わっている「人間中心のAIコンソーシアム」の発起人の一人、大阪大学 社会技術共創研究センターの工藤郁子先生は、権限の「段階的昇格」と「段階的降格」という概念をAIガバナンスにも取り入れるべきだとおっしゃっていました。人間の社員に対して無意識のうちに行っているガバナンスを言語化し、AIにも適用しようとする考え方です。

　いくら優秀だからといって、新入社員にいきなり本番用データベースへのアクセス権を渡したりしませんよね。それと同じように、AIエージェントにも多段階の権限を設定して、安全性や安定動作が確認できたら徐々に権限を上げていく。もちろん、その逆で指示どおりに動けなかったり、おかしい挙動をしたりすれば、権限を降格させます。AIエージェントのガバナンスにも、動的な仕組みを取り入れるのです。

　一方で、そもそも従来のRPAで十分なタスクは、無理にAIエージェントを導入しなくても良いのかもしれません。想定したことしかしないため、コントロールもしやすいですから。トークンマネジメントの観点でも、すべてのタスクにフロンティアモデルを適用するのはオーバースペックでしょう。あえて性能が低いモデルも使いながら、グラデーションをつけてコストを最適化していくことも重要です。

成田：なるほど。仮に自律性の高いAIエージェントを取り入れるなら、動的なコントロールは当然必要になると思います。ただ、その管理を考えると今から頭が痛いですね（笑）。とにかく、いきなり広範に展開することは現実的に難しい。決められた領域から徐々に進めていかないと、つまずいてしまって結果的にスピードが失われます。

森：ガバナンスといえば、以前は起こり得るリスクや満たすべき要件を事前に整理し、法務にも確認した上で適用する手法が中心でしたよね。しかし、今はすべてを予見することはできません。状況もどんどん変わっていきます。そうした中、既存のシステムやルールで不具合が出た箇所を拾い上げて対応していく「事後救済」の重要性も注目されています。

　それと同じように、AIの世界でも「ルールで縛るだけでは、かえってAIが思わぬ振る舞いをする」という研究や議論が進んでいるのです。ルールがない場合は当然ですが、ルール同士が矛盾したり、曖昧すぎて解釈しづらかったりすると、AIがおかしな挙動をするとわかってきました。そこで、Anthropicの哲学者であるアマンダ・アスケル氏は、AIに人格を持たせるというアプローチをしているといいます。この方法は非常に興味深いです。

成田：AIに哲学を埋め込むということですか。それはおもしろい考え方ですね。ガバナンスにしろAIとの付き合い方にしろ、「人に対してやっていることをAIにもやる」世界になろうとしているのですね。

森：そのとおりです。ルールがない場面でも「私はこう判断する」とAI自身に決めさせる。そうすると、ルールでは想定しきれない不確実なリスクにも対処できるようになる。ルールだけで縛るのではなく、人格を持たせ、育てるアプローチです。AIのリスクコントロールやガバナンスの方法論は、現在進行形で進化しているため目が離せません。