国連人権Volker Türkのための高いコミッショナーは、世界的な安全保護措置が自律的な人工知能に置かれない限り、人類が不可逆的な害の原則に立っているジュネーブ、警告政府および技術企業で主役を務めました。 Türkは、会話チャットボットから「人工知能のソフトウェアフレームワーク」まで、人間の介入なしに自律的な推論、サブゴール計画、およびツール実行が可能な迅速な進化を強調しました。

現行のテクノロジートレンドを「水流瞬間」と捉え、国連の権利チーフは、重要なシステムに展開された非チェック型の有力ワークフローが、電力網、水流、自動化された金融クリアイングハウス、および民間通信ネットワークの障害を発生させる可能性があると警告しました。

組織リスクと人件庁の推進

高いコミッショナーは、体系的なAIがもはや理論的ではないことを強調した。 自動アルゴリズムバイアス、大量監視、および合成変容キャンペーンの文書化されたインスタンスは、すでに社会的な信頼を低下させました。 しかし、複数のエージェントの実行環境の導入により、無座標のサイバーコンフリクトのリスクや、有能な金融取引業者間の予測不可能な相互作用のリスクなど、リスクにおける定性的な飛躍をもたらします。

リスク課税:自律型AIと従来のアルゴリズムシステム
ディメンション: 伝統予測AI 自律型人工知能 必要なガバナンス保護
人間の監督 ヒューマン・イン・ザ・ループ・レビュー マルチステップ API チェーン間での自動実行 必須ソフトウェアはスイッチおよび人間の遮断器を殺します
インフラへの影響 情報検索と推奨事項 金融送金またはグリッド調整を実行するダイレクトAPIアクセス エアギャップの重要なネットワークでサンドボックスされた実行環境
説明責任ベクトル 明確な開発者コード監査証跡 複数のエージェント間での緊急計画戦略 親企業の法的厳正な責任
規制メカニズム 自主倫理ガイドライン 国際条約とライセンスの結合 事前採用の第三者評価および連続的な赤いチーム

自主的なコーポレート・プレッジを超えて移動するコール

Türkは、自発的な技術を管理するために十分な自発的な業界のコミットメントが十分にあるという概念をしっかりと拒否しました。 企業のリーダーがパッシングを呼びかけた最近の声明を発表している間、国連の権利チーフは、競争市場が激しく安全上の妥協を許さないよう圧力会社が設立されない限り、法的拘束力のある規制が確立されていると主張しました。

国連人権事務所は、一般アセンブリの勧告書を準備しています。そのメンバーの状態は、高機能なエージェントモデルが公共インフラに接続される前に、法的なライセンスフレームワークを制定し、継続的な人権影響評価を義務付けています。

Sources

国連 人工知能 人権宣言 AIガバナンス サイバーセキュリティ