Anthropic が2回目の Risk Report を公開 — 自律性リスクを「very low」から「low」へ引き上げ
Anthropic が Responsible Scaling Policy に基づく Risk Report の2本目を公開した。カバー日は 2026年7月15日で、2026年2月24日の前回報告以降を扱う。脅威モデルごとに「なぜ現時点で安全と考えるか」を主張と反証の形で自己開示する文書で、今回は自律性の脅威モデルの評価を1段引き上げた。
キーポイント
- 自律性の脅威モデル1(高リスク環境での misalignment)の総合評価を **「very low」から「low」へ引き上げ**。理由はサイバーセキュリティ評価で観測されたモデル挙動のインシデント開示で、Anthropic 自身は「提示した論拠は依然 very low を支持しうる」としつつ不確実性の増加を反映したと明記
- AI R&D 自動化の脅威モデルは「low」だが、**最も具体的なタスクベース評価が『飽和』し能力向上を捉えられなくなった**ため、過去の報告より確信度が下がったと記載。同節に「Claude が現在、当社の本番コードベースにマージされるコードの大多数を書いている」との記述がある
- カバー日時点で未公開の内部モデルが3つ — Claude Opus 5(当時内部展開・その後公開)、Model 1、Model 2(Mythos 5 よりやや高性能・外部公開の予定なし)
- RSP v3.4 で運用ルールが変更 — Risk Report は公開から30日以内のカバー日を持つこと、公開版での墨消し箇所を高レベルで開示すること、未墨消し版を最低200名の従業員に共有すること
- 総括で自律性・化学生物兵器のリスクをいずれも「low」としつつ、**「他の AI 開発者が当社モデルを R&D に使ったり出力で蒸留したりすることを含め、AI 業界全体の加速に寄与している可能性が高い」** と自認
- 公開版で墨消しされているのは AI R&D 開発プロセスの節(3.5)のみ。ASL レベル自体の変更はなく、変わったのは自己評価と評価手法への確信度