AnthropicとOpenAIはAI競争の加速を背景に安全規則の表現を調整

Anthropicは責任ある拡張方針から中核的な安全約束を削除し、リスク緩和策が完全に整わない場合のトレーニング停止を約束しなくなった。Anthropicの最高科学責任者Jared Kaplan氏はTIME誌に対し、AIの急速な発展を背景に、競合他社が継続的に進める中で、一方的にトレーニング停止を約束しても実質的な意味がないと述べた。OpenAIも同様にミッションステートメントを修正し、2024年のIRS書類から「safely」という語を削除した。従来は「safely benefits humanity（人類に安全に利益をもたらす）」汎用AIの構築を掲げていたが、現在は「汎用AIが人類全体に利益をもたらすことを確保する」に変更されている。RAND Corporationの上級政策研究員エドワード・ガイスト氏は、初期のAI安全提唱者が想定した高度なAIと現在の大規模言語モデルには本質的な差異があり、用語の変更は企業が投資家や政策立案者に対し、安全上の懸念から経済競争を回避しないという信号を送りたい意向を反映していると指摘した。Anthropicは最近300億ドルの資金調達を完了し、企業価値は約3800億ドルに達した。OpenAIはAmazon、Microsoft、Nvidiaが支援する最大1000億ドルの資金調達を進めている。一方、Anthropicは国防総省（ペンタゴン）へのClaudeの全面アクセス提供を拒否したことで、ピート・ヘグセット国防長官と公然と対立し、国防関連契約の行方が不透明となっている。（Decrypt）