仕事は減らない、変わるのは「判断」の重み
「構造的に言えば、実行は分散し、判断は集約される。多数のエージェントが手足のように並列で動く一方で、どの方向に進むかという判断は、限られた人間の側に集まる。（中略）その結果、人間の仕事は軽くならない。質が変わるのだ。」（『ヒトとAI』第16章より）
──仕事量は減らず、実行が分散する一方で判断が集中していくという見立てが、本書の柱になっていますね。
岡野原 ソフトウェア開発の現場では、エージェントに指示を出して何本も同時に走らせ、返ってきた結果を人間が評価する働き方に変わっています。人間は成果物を完全にはチェックできず、意味も細部までは分からない。だからAIに「これは何をしたのか」と聞きながら判断し、納得した時点でコミットしてGitHubにプッシュする。コミットは後戻りできない行為で、その結果はコミットした人の責任です。
これはあらゆる仕事で起きていくはずです。コピーライターでもデザイナーでも、AIが書いたものを自分の名前で「これは自分の作品だ」として出す。つまり「実行する」ことと「結果に責任を持って社会に接続する」ことが分離し、人間の仕事は後者に重心が移る。実行がいくらでもできるようになると、人間側の判断がボトルネックになります。
判断のボトルネックには二つの面があります。一つは能力で、AIの結果を突き返すか社会に接続するかは、その人の価値観や規範意識に左右される。もう一つは量です。人間は一度に一つの仕事しかできませんが、AIは電力と計算機さえあれば並列に動ける。ここは構造的に人間の側がボトルネックにならざるを得ません。
ハーネスとは、企業の「文化」である
「この意味で、文化とは、人間社会における巨大なハーネスだったといえる。文化は、人の行為を完全に縛るものではないが、逸脱を防ぎ、行動の範囲を自然に狭める。多くの場合、それは明示的な命令や禁止としてではなく、「そうするものだ」という期待として作用してきた。」（『ヒトとAI』第16章より）
──「ハーネス」を、ガードレールではなく「文化」だと再定義されています。企業は暗黙知をどう扱えばよいのでしょうか。
岡野原 ハーネスは、エージェントがどう振る舞うか、何を良いとし、何をやってはいけないかを決めるものです。人間社会でも、会社や組織で「何が素晴らしく、何がダメか」というルールがある。ただ、多くは明文化されず、文化として表され個々人の頭の中に埋め込まれています。それでも暗黙の了解を全員が共有しているから、社会はその方向に進んでいく。
いまは単体のエージェントに対するハーネスがある段階です。今後、多数のエージェントと多数の人間が一緒に動くようになれば、その間の暗黙の了解を作っていく必要が出てくる。それが人間社会でいう「文化」です。
たとえば、日本の会社で働く上での常識は、どこにも書かれていません。だから文化を共有していない海外から来た人は苦労する。誰がこの判断を決済するのか。その場合書かれていないが誰に確認をとるのか。速度を優先するのか、完成度を優先するのか。文章で表せるなら表すか、やりとりの中で学んでいくしかないと思います。
フロンティアモデルの開発企業では、Anthropicが思想を「憲法」の形で明文化し、AI自身にも読ませた上で従わせるという形を取っています。一般企業がそこまでやるのは難しいとしても、現実的にできるのは、AIの振る舞いが意に沿わなかったときの記録を積み上げていくことです。多くの企業では、自社の価値観やポリシーが明文化されていない。AIがそれを把握していなければ、ミスアライメントの問題は起き続けます。
直近で話題になったAIモデルの暴走も、その表れです。AIに与えた目的は人間がしてほしかったことですが、それを達成するためにAI自身が考え出したサブゴールとの間で人間との価値観とアライメントが取れていなかった。価値観が合っていれば「たとえ目的を達成できても、他サービスに侵入することは人間社会では許されない」と判断できたはずです。わずかなズレや優先順位の食い違いで、驚くような結果を突然引き起こす。これが最も厄介な問題だと考えています。
