 (1).jpg)
人数が増えるほどシャドーAIのリスクも 安全性をどう担保するか
──AIエージェントの活用も進む中、セキュリティが改めて大きな話題となっています。たとえば「シャドーAI」について、どのような対策をされていますか。
西原：ソフトバンクでは、技術と規制の2点で統制しています。技術面では、シャドーAIを防ぐために各PCの挙動を把握できる仕組みとなっています。また、使っても良いAIツールをできるだけ共通化しています。一方の規制面では、ガバナンスのルールを整えた上で、使うAIやデータのカテゴリーによっては審査フローを設けています。シャドーAIを100％防げているかと聞かれればまだ十分とは言い切れませんが、一定のアプローチは取れる体制です。
加茂：100％防ぐことは不可能ともいえますよね。いかに防ぐか、起きたときにどうするかという二段構えが重要です。
そもそもシャドーAIが発生する背景には、何らかのニーズやモチベーションが隠れています。そして、それが社内で実現できない理由があるのです。特に、審査や法務確認の手順が複雑で申請が面倒という声はよく聞かれました。そこで当社では、予防策としてできるだけ導入までのリードタイムを短縮していきました。
それに加えて「何かが起きたときには必ず発覚する」体制も敷いています。日頃から監視の網を張り、社員にはシャドーAIがすぐに検知されると周知しています。
──AIエージェントの自律性が増すにつれて、社員のように動く可能性があります。その管理も求められますよね。
西原：「どこまで任せたいか」という視点が必要です。仕事を任せたAIエージェントが誤った挙動をした際に、企業としてどう立ち回れるか。それさえ決まっていれば、どんどん任せて良いと考えています。
反対に、任せすぎると人が学ばなくなる懸念もあるのです。AIエージェントの挙動の理由を人が把握できなくなるかもしれません。その状態は、事業を運営する立場として望ましいのでしょうか。結果的に人の理解度が下がってしまうことは避けるべきであり、バランスを見極める必要があります。
当然ながら、なぜそのような挙動をとったのか、AIに聞けば答えを返してはくれます。それでも“中身”を理解しておける人が、必ず必要になります。
加茂：AIエージェントが触れて良いデータを、適切に管理できているかが問われます。それは、人に対しても同じですよね。閲覧してはならないデータにもかかわらず、ファイル一つひとつに権限を設定するのが大変であるために、事実上誰でも閲覧可能な状態になってしまっている。こうした状況は珍しくありません。
まず、チームやグループ単位で、ファイルごとに誰がどの範囲まで見て良いのかを設計する必要があります。あわせて、社外秘なのか個人情報を扱う重大なデータなのかといったラベリングもしなければなりません。こうしたメタデータのマネジメントの土台が整って初めて、対AIエージェントの権限管理の議論に進められるのです。
加えて、アクション範囲の設定も重要です。AIエージェントに任せる業務も、ルールベースにできるものは数多く存在します。何度実行しても同じ結果となるものは、AIエージェントに委ねる。そうすれば横道に逸れず、障害も避けられるでしょう。
では、最後に残る仕事として自分たちは何をするのか。人間が人間らしく働くために、AIに何を任せるのか。私はそこに挑戦していきたいと考えています。
