caution의 좌표 통화는 인공 지능 분야의 최고 수준에서 등장했습니다. Anthropic, OpenAI, Google DeepMind, Microsoft 및 xAI의 업계 임원은 Frontier 모델 개발, 자율 AI 에이전트 및 superintelligent 능력이 광범위한 배포 전에 독립적 인 외부 검증을 필요로한다는 경고를 지적하는 데 대한 공개 지원을 명시했습니다.

Anthropic CEO Dario Amodei가 essay를 따르는 운동은 "우리는 Frontier를 Pace해야합니다." Amodei는 Verifiable guardrails, 자율 계획 및 코드 실행의 급속한 발전 없이 소프트웨어 swarm을 광범위한 사회 및 인프라 붕괴를 일으킬 수 있는 가능하게 할 수 있었습니다. 응답에서, Amodei는 Anthropic이 모델 정렬 및 안전을 확인하기 위해 시스템에 직원 수준의 액세스와 독립적 인 evaluators를 인증 할 것이라고 발표했습니다.

통합 산업 보증 및 제안 된 프로토콜

기술 기업에 걸쳐 정렬의 희귀 한 쇼에서, OpenAI 최고 경영자 Sam Altman 공개적으로 제안과 합의, OpenAI가 테스트 환경에 신뢰할 수있는 외부 감사자 액세스를 부여하는 Anthropic의 약속과 일치 할 것입니다. XAI의 Google DeepMind 및 Elon Musk의 Demis Hassabis는 집행 가능한 표준 신체에 대한 필요성을 정교하고 안전 평가가 exponential compute 사기로 진행해야합니다.

Frontier AI 안전 제안 대 정책 위치
기업 / 리더 주된 위치 Proposed 메커니즘 Governance 초점
Anthropic (다리오 아모디) Proposes 'Pace the Frontier' 프레임 워크 체계 수준 접근을 가진 독립적인 증발기 사이버 및 인프라 활용
OpenAI (삼 Altman) Endorses 독립적인 안전 감사 평행한 증발기 투입 Multilateral 표준 정렬
Google DeepMind (데미스 하사비) Backs 좌표 기준 Frontier AI 표준 몸 시스템 안전 및 정렬 검증
미국 행정부 인공 개발 캡 반대 Unilateral 속도 및 인프라 구축 해외진출에 대한 전략적인 가장자리 유지

정치 Pushback 및 국가 경쟁력

연구원과 기술 지도자의 넓은 지원에도 불구하고, 제안은 워싱턴에서 뻣뻣한 야당을 직면했다. 정치 지도자 및 국가 보안 고문은 국내 패싱 제한이 국제 경쟁사와 전략적인 경주에서 미국 기술 지배를 떨어뜨릴 수 있다고 주장했다, 기술 감독은 경제 및 군사 보안에 생명이다.

금융 시장은 지속적인 토론에 신속하게 반응했습니다. 주요 반도체 및 클라우드 컴퓨팅 주식은 기업의 AI 자동화 도구의 수익 잠재력에 대한 필수 평가 기간을 계량 투자자로서 단기 변동을 보았습니다.

다음 것

국제 커뮤니티는 이제이 제안을 공식화하기 위해 이동. 의논문은 제네바와 런던의 다자간 포럼에 예정되어 독립적 인 안전 감사가 자발적 또는 특정 보상 임계를 초과하는 모델에 대한 법적으로 의무 국제 인증을 표준으로 전환해야한다는 것을 검사합니다.

Sources

인공지능 기술 정책 오시는 길 인기 카테고리 글로벌 Governance