人工知能部門の最高レベルから計算されたコールが誕生しました。 Anthropic、OpenAI、Google DeepMind、Microsoft、およびxAIの業界幹部は、前方モデルの開発をパッシングするための非前例のない公共サポートを表明し、自律的なAIエージェントと過敏性機能が広範な展開の前に独立した外部検証を必要とすることを警告しています。

AnthropicのCEOであるDario Amodeiが「フロンティアを平和しなければならない」と題したエッセイの後に結晶化した動き Amodeiは、検証可能なガードレールなしで、自動計画とコード実行の迅速な進歩は、広範な社会やインフラの破壊を引き起こすことができるソフトウェアの群れを有効にすることができます。 Amodeiは、Anthropicは、従業員レベルのアクセスで認定された独立した評価者に、モデルのアライメントと安全性を検証することを自発的に受け入れることを発表しました。

ユニファイド業界の承認とプロポーズされたプロトコル

ハイテク企業を争う際のアライメントの珍しいショーでは、OpenAIチーフエグゼクティブ・サム・アルトマンは、一般に提案と合意し、OpenAIがAnthropicの約束に一致して、外部の監査官がテスト環境にアクセスできるようにしました。 Google DeepMindとXAIのEron MuskのDemis Hassabisは、強制可能な標準ボディの必要性を強調し、安全評価が指数関数的な計算でペースを維持しなければならないことを強調しました。

フロンティアAI安全提案と政策の立場
エンティティ / リーダー 状態の位置 提案されたメカニズム ガバナンス・フォーカス
Anthropic (Dario Amodei) (アモディ) 「フロンティアを貫く」フレームワークを提案 システムレベルのアクセスを備えた独立した評価者 自律的なサイバーおよびインフラの買収を防ぐ
OpenAI(サム・アルトマン) 独立した安全監査 並列評価者コミットメント 多国間規格の直線
Google DeepMind(デミズ・ハサビ) 背部は標準を調整しました フロンティアAI規格ボディ システムの安全性とアライメント検証
米国エグゼクティブ・マネジメント Opposesの人工的な開発の帽子 一方的な速度とインフラ構築 外国の広告主の戦略的エッジを維持

政治的なプッシュバックと国家の競争力

研究者や技術のリーダーの幅広いサポートにもかかわらず、提案はワシントン州の堅い反対に遭遇しました。 政治指導者と国家安全保障顧問は、国内のペアリングの制限が国際競争相手との戦略的レースでアメリカの技術優位性を損なう可能性があることに注意を払っています。その技術的優位性は経済と軍事的セキュリティに不可欠であると主張しています。

金融市場は、継続的な議論に迅速に反応しました。 主要な半導体およびクラウドコンピューティングの株式は、企業AIの自動化ツールの収益可能性に対する必須評価期間の見込み客を投資家として短期的な変動を見ました。

Happensが次へ

国際的なコミュニティは、これらの提案を正式に進めるようになりました。 議論は、独立した安全監査が自主的であるか、または特定の計算しきい値を超えるモデルの国際認定基準に移行するかどうかを調べるために、ジュネーブとロンドンの多国間フォーラムでスケジュールされます。

Sources

人工知能 技術方針 オープンAI アスレチック グローバル・ガバナンス