United Nations High Commissioner for Human Rights Volker Türk는 제네바의 스타크 주소를 전달했으며, 인류는 세계적 수준의 보호가 자율적으로 인공 지능에 배치되지 않는 한 불행한 해의 선구자에 속합니다. Türk는 대화 형 chatbots에서 'agentic AI'-software Framework를 통해 자율적인 사고, 하위 목표 계획 및 인간의 개입없이 도구 실행을 강조했습니다.

'물류 순간'으로 현재 기술 동향을 특성화, 유엔 권리 최고는 중요한 시스템에서 배치되지 않은 에이전트 워크플로가 전력 그리드, 물 유틸리티, 자동화 된 금융 clearinghouses 및 민간 통신 네트워크를 통해 정전을 트리거 할 수 있음을 경고했다.

체계적인 위험과 인간 기관의 부식

High Commissioner는 체계적인 AI 해가 더 이상 이론적이지 않다는 것을 강조했습니다. 자동화된 알고리즘 bias, 대량 감시 및 합성 disinformation 캠페인의 문서화된 인스턴스는 이미 소셜 신뢰를 평가합니다. 그러나 다중 시약 실행 환경의 도입은 자율 금융 거래 에이전트를 준수하는 사이에 사이버 분쟁과 예측할 수없는 상호 작용의 위험을 포함하여 위험에 대한 질감 넘치는 도약을 소개합니다.

위험 불균형 : 자율적 인 AI vs Traditional Algorithmic Systems
크기 (mm) 전통 예측 AI 자율주행 AI 필수정부 Safeguard
인간 감독 Human-in-the-loop 리뷰 Multi-step API chain의 자율 실행 Mandatory 소프트웨어는 스위치와 인간적인 차단기를 죽이
인프라 영향 정보 검색 및 권장 사항 금융 전송 또는 그리드 조정을 실행하는 직접 API 액세스 Air-gapped 핵심 네트워크를 통한 Sandboxed 실행 환경
책임 Vector Clear 개발자 코드 감사 트레일 여러 에이전트의 Emergent 계획 전략 부모 법인에 대한 법적 엄격한 책임
규제 메커니즘 Voluntary 윤리 가이드 국제 조약 및 라이센스 Pre-deployment 제3자 평가 및 지속적인 Red-teaming

Voluntary Corporate Pledges를 넘어가는 전화

Türk는 자발적인 산업 약속이 존재하는 기술을 관리하기에 충분하다는 지적을 완전히 거부했습니다. 기업 리더가들이 최근 문헌을 파싱하는 동안, UN 권리는 경쟁 시장의 역동적 인 불균형 압력 회사가 안전에 타협하지 않는 한 획일한, 법적으로 바인딩 규정이 설치되지 않는 한.

유엔 인권 사무소는 일반 회의에 대한 초안 권고를 준비하고 있으며, 회원국이 공공 인프라에 연결되기 전에 지속되는 인권 영향 평가를 실시하고 있습니다.

Sources

미국 국가 에이전트 AI 인간 권리 AI 거버넌스 사이버 보안