AIがよくやる“やらかし” 「昔は自分たちも経験した」
森：最近、榊原さんも旧知の仲である著名なエンジニア、ジーン・キム氏らが執筆された『バイブコーディング 生成AI→チャット→エージェントによる「本番品質のソフトウェア」の未来』（日経BP／ジーン・キム、スティーブ・イェギ 著）を読んでいて、AIエージェントのやらかしが「省略」「逸脱」「破壊」の大きく3つにわけられると気がつきました。
「省略」は、たとえば「これを7つやっておいて」という指示に対して5つしか対応しないといった事象です。「逸脱」は、勝手に指示にないことまでやってしまうこと。そして「破壊」は、プログラムを指示通り作成してくれるものの、そのためのデータベースが消えているといった環境が破壊されているパターンです。
これらは、昔は新人がよくやる失敗でもありましたよね。上司や先輩は、新人がどのようなやらかしをしてしまうのかに気付くノウハウを身につけていました。新人に教えることが難しいともいわれますが、私はAIエージェントのやらかしも今後の新人教育には使えるアイデアだと思っています。
榊原：そういえば、私も昔、エンドレスループの中にメッセージ出力を書いてしまって、コンソールに延々とメッセージが出続けてしまったことがありました（笑）。
森：失敗といえば、私も経理システムで帳票出力の処理を「並列で流せば早く終わるだろう」と思って組んだら、プロセスが無限に増殖するものを作ってしまったことがあります。それを本番に適用してしまってこっぴどく叱られましたが、今では良い思い出です。
榊原：こうした「やらかし」は非常に重要な経験であり、今の若手層に向けてその機会をどう作っていくかは難しいところです。
森：パナソニック コネクトの技術開発本部では、失敗を表彰する「リスクテイカーアワード」を行われていますよね。
榊原：そうです。といっても、失敗した人を誰でも表彰するわけではありません。リスクをとって難しいチャレンジをした人を讃えたいという気持ちで始めました。どの企業でも成功者は表彰されますし、それは当然だと思います。その一方で、ビジネスとして上手くいくかどうかはわからないものの、技術的にチャレンジする価値があることを試して、結果的に失敗してしまった人もいる。その人が「もうやらないでおこう」と思ってしまわないような仕組みを作りたかったのです。
森：チャレンジを推奨することで、あえてやらかしの経験を促すことにもなりますね。
