「AIがAIを開発する」ループはいつ閉じるのか
両氏の間で最も注目されたのは、AGI到来時期に関する見解の違いである。アモデイ氏は「ノーベル賞受賞者レベルの知的能力を、複数の分野で発揮できるモデルが2026〜27年には登場する」との予測を維持した。
「Anthropic社内には、もうコードを自分で書かないというエンジニアがいます。モデルにコードを書かせ、自分は編集や周辺作業に集中するのです。6〜12ヵ月後には、モデルがソフトウェアエンジニアの仕事のほとんど、あるいはすべてをエンドツーエンドで担うようになるかもしれません」（アモデイ氏）
アモデイ氏が描くシナリオの核心は、「AIがAIを開発する」という自己改善ループの形成である。コーディングとAI研究に長けたモデルが次世代モデルの開発を加速させ、その次世代モデルがさらに高速に開発を進める──この指数関数的な進化が、予想を上回る速度で実現する可能性があるという。
一方、ハサビス氏はより慎重な見通しを示した。同氏は「人間が持つあらゆる認知能力を発揮できるシステムが2020年代末までに登場する確率は50％」との予測を堅持している。
「コーディングや数学など一部の領域では、自動化が比較的容易に進むでしょう。出力が正しいかどうかを検証しやすいからです。しかし自然科学の多くの領域では、化合物の合成や物理学の予測が正しいかどうかを実験で確かめる必要があり、時間がかかります」（ハサビス氏）
ハサビス氏はさらに、現在のAIには「問いを立てる力」が不足していると指摘した。既存の問題を解くことと、解くべき問題や検証すべき仮説を自ら発見することは本質的に異なる。最高レベルの科学的創造性には、まだ1つか2つの要素が欠けている可能性があるという認識である。
労働市場への影響──「適応能力を上回る変化」への懸念
AGI到来のタイミングに対する見解の違いはあるものの、両氏は労働市場への影響について共通の危機感を示した。アモデイ氏は以前、「エントリーレベルのホワイトカラー職の半分が1〜5年以内に消失する可能性がある」と発言しており、この見解を維持していることを明らかにした。
「Anthropic社内でも、ジュニアレベルから中堅レベルにかけて、将来的に必要な人員が減少する時期が見えてきています。この状況にどう対処するか、社内で検討を進めているところです」（アモデイ氏）
ハサビス氏も、今年中にジュニアレベルやインターン職への影響が顕在化し始めるとの見通しを示した。ただし同氏は、これを新たな機会として捉える視点も提示した。
「もし今、学部生に話す機会があれば、こうしたAIツールに徹底的に習熟することを強く勧めます。私たち開発者でさえ、日々の開発業務に追われて、現在のモデルや製品が持つ潜在能力を十分に探求する時間がありません。AIツールの活用スキルは、従来のインターンシップ以上に価値あるものになる可能性があります」（ハサビス氏）
両氏が共有する懸念は、変化の速度である。アモデイ氏は、人類の歴史において農業から工場労働へ、そして知識労働へと、労働市場は常に適応してきたと認めつつも、AIの指数関数的な進化が人間の適応能力を上回る恐れがあると警告した。
「技術的思春期」を乗り越えられるか
対談の後半、アモデイ氏は近く公開予定の新しいエッセイについて言及した。昨年発表した楽観的なエッセイ「Machines of Loving Grace」に続き、今度はAIのリスクに焦点を当てた内容だという。
「映画『コンタクト』に印象的なシーンがあります。異星人との対話者を選ぶ面接で、『異星人に1つだけ質問できるとしたら何を聞くか』と問われ、ある候補者がこう答えるのです。『どうやってこの技術的思春期を乗り越えたのですか。自らを滅ぼさずに、どうやって生き延びたのですか』と。20年前にこの映画を観て以来、このフレーズがずっと頭に残っています」（アモデイ氏）
アモデイ氏が挙げるリスクは多岐にわたる。人間より賢く高度に自律的なシステムをいかに制御するか、バイオテロなど個人による悪用をいかに防ぐか、権威主義的な国家による軍事転用をいかに阻止するか、そして経済的影響にどう対処するか──さらに「まだ想像もできていないリスク」の存在も指摘した。
ハサビス氏も、DeepMind創設以来15年にわたりこうしたリスクを検討してきたと述べた。同氏は「人間の創意工夫」に信頼を置きつつも、その前提条件を強調した。
「十分な時間と集中力、そして最高の頭脳が協力すれば、技術的な安全性の問題は必ず解決できると確信しています。しかし、もしそうした条件が整わなければ──断片的な開発競争が続けば──安全性を確保することは格段に難しくなります」（ハサビス氏）
