Anthropic、RSP 3.4を更新：自動化R&Dのしきい値を再定義し、リスク報告の仕組みを調整

Anthropicが7月8日に発効したResponsible Scaling Policy 3.4では、自動化R&D能力のトリガーとなるしきい値の記述が改められ、同社が重視する脅威モデルにより即した評価が可能になった。新版では、未編集版リスク報告書の社内配布ルールも変更された。一般アクセス権を持つ全従業員が閲覧できることを求めず、少なくとも200人の従業員に提供するものとした。公開報告書では編集・削除箇所を明示する必要がある。外部レビューについては、複数のレビュー担当者が異なるセクションを分担して確認でき、未編集部分のそれぞれを少なくとも1人がレビューすればよい。

技術チームにとって、これらの条項が意味するのは、「モデルがAI R&Dを自動化できるか」を曖昧な印象ではなく、再現可能なテストへ落とし込まなければならないということだ。評価では、長時間の自律実行、実験の提案と検証、トレーニングコードの変更、クラスターの利用、失敗からの復旧を対象とする必要がある。単発のコーディング問題だけをテストした場合、総合的な能力を過小評価する可能性がある。リスク報告書でcoverage dateの採用を認めることで、新たな変更のたびに分析を拙速にやり直す事態を避けられる一方、公開文書と実際にデプロイされたモデルとの間に時間的なずれが生じる可能性もある。

外部からは、新しいしきい値が明確な定量指標に対応しているか、またトリガー後にどのような検証可能な保護措置が講じられるかを注視すべきだ。同時期にFuture of Life Instituteが発表した安全性指標も、複数企業のガバナンスフレームワークについて、透明性と実行可能性への懸念を示している。これは、ポリシーの文言そのものを安全性の証明と見なすべきではないことを読者に思い起こさせる。RSP 3.4は企業による自主的なフレームワークであり、独立した標準ではない。評価データ、レッドチームのカバレッジ、例外に関する意思決定が十分に公開されなければ、デプロイメントゲートが一貫して運用されているかを外部研究者が検証することは、依然として難しい。