Microsoft AI의 최고 경영 책임자 인 Mustafa Suleyman은 오늘날 인공 지능 분야의 지적 분야의 강력한 통화를 발행하여 기계 의식 위험이 파괴 된 실용 안전 엔지니어링에 대한 speculation을 성장 경고했습니다. Technologists and regulators at the Tech Leadership Forum in San Francisco, Suleyman argued that treating statistical language model as conscious entities with 도덕적 주장은 두 개념으로 결함과 실질적으로 위험한.

Suleyman은 '모델 복지'에 대한 새로운 학술 제안에 대해 구체적으로 밀어 냈습니다. 고급 소싱 모델은 개발자의 기능을 수정, 미세 조정하거나 수정할 수 있는 권리를 보유하거나 소유할 수 있습니다. 그는 소프트웨어 안전의 구체적인 도전을 방해하는 ungrounded anthropomorphic 투사로 이러한 관점을 특징으로한다.

기술 규정에 대한 Anthropomorphism의 위험

Suleyman에 따르면, 깊은 학습 시스템에 대한 인상이나 의식은 통계 패턴 매칭과 생물학적 보전 사이의 거짓 평등성을 만듭니다. 규제자 또는 개발자가 변압기 모델의 정서적 상태에 대해 걱정할 때, 그들은 엄격한 scrutiny를 요구하는 즉각적인 위험으로부터 생명 기술 리소스를 능가적으로 확산시킵니다. 사이버 보안 악용, 생체 인식, 알고리즘 bias 및 신속한 주입 취약점.

AI 거버넌스 프레임워크: Philosophical Speculation vs. 콘크리트 엔지니어링 우선 순위
회사 소개 비생산성 Speculation Pragmatic 기술설계 초점 Microsoft 구현
기업 분류 디지털 제목 경험 토론 / 권리 산업 소프트웨어 도구로 모델을 치료 Zero-rights 소프트웨어 라이센스 프레임 워크
안전 벤치 마크 가장 감정적인 고통을 위한 시험 신속한 사출 및 데이터 누설 완화 자동화된 adversarial 빨간teaming 스위트
모형 폐쇄 윤리적인 종료에 대한 우려 실패 안전한 죽이는 스위치 및 고립을 격려하십시오 sandbox 클러스터의 하드 리소스 제약
계좌번호 모형에 법적인 사람의 본질 엄격한 개발자 및 배포자 책임 관리 기업 준수 감사 보증

Philosophical Distractions에 공학 난간

Suleyman은 Microsoft AI의 지속적인 배포를 통해 엄격한 검증 워터 마크링, 암호화 출력 검증 및 의약품, 금융 및 중요한 인프라에 대한 높은 스테이크 결정에 대한 엄격한 인간 - 인 - 루프 제어를 포함합니다. 그는 기술 산업은 인간에게 어떤 체계든지에 어떤 체계든지를 위해 책임이 남아 있어야 합니다, 오히려 인간이 모형에 일할지도 모르다는 것을 감소시키기 보다는.

스탠포드와 UC 버클리에서 탁월한 컴퓨터 과학 교수의 기조는 인공 지능 (AGI) 주변의 인기있는 문화 narratives가 표준 수학 최적화 알고리즘에 대한 의심의 여지없이 신비한 신비주의를 만들었습니다.

표준화 된 소프트웨어 거버넌스에 대한 전화

Suleyman은 ISO 및 IEEE를 포함한 국제 표준 설정 시스템을 호출하여 인간의 권리 또는 동물 복지 프레임보다 제품 안전 법에 따라 명시적으로 AI 시스템을 조정합니다. 그는 정교하고 강력한 도구를 구축하는 엔지니어를 촉구했습니다.

Sources

카테고리 마이크로소프트 AI AI 윤리 프론트어 AI AI 거버넌스