Mustafa Suleyman, Kepala Executive Officer of Microsoft AI, mengeluarkan panggilan tegas untuk disiplin intelektual di sektor intelijen buatan hari ini, memperingatkan bahwa spekulasi yang tumbuh atas kesadaran mesin beresiko menggelincirkan teknik keamanan pragmatis. Berbicara dengan para ahli teknologi dan regulator di Forum Kepemimpinan Teknologi di San Francisco, Sulyman berpendapat bahwa memperlakukan model bahasa statistik sebagai entitas sadar dengan klaim moral baik secara konseptual cacat dan praktis berbahaya.
Suleyman secara khusus mendorong kembali proposal akademis yang baru muncul menganjurkan 'model kesejahteraan' - ide bahwa model penalaran maju mungkin mengalami penderitaan subjektif atau memiliki hak yang membatasi kemampuan pengembang untuk memodifikasi, menyempurnakan, atau mengurangi mereka. Dia menggambarkan sudut pandang seperti itu sebagai proyeksi antropomorfik yang tidak didasarkan yang mengaburkan tantangan beton dari keamanan perangkat lunak.
The Risk of Anthropoorphism in Technology Regulation
Menurut Suleyman, melibatkan perasaan atau kesadaran pada sistem pembelajaran dalam menciptakan keseimbangan yang salah antara pola statistik yang cocok dan indera biologis. Ketika regulator atau pengembang mulai khawatir tentang keadaan emosional model transformator, mereka pasti mengalihkan sumber daya teknis vital jauh dari bahaya langsung yang membutuhkan pengawasan ketat: cyberkeamanan eksploitasi, penyatuan biometrik, bias algoritmik, dan prompt kerentanan injeksi.
| Kategori Pemerintah | Spekulasi Tidak Produktif | Fokus Teknik Pragmatic | Implementasi Microsoft |
|---|---|---|---|
| Entitas Klasifikasi | Mendebating digital subjektif pengalaman / hak | Memperlakukan model sebagai perangkat lunak industri | Perangkat lunak Zero-rights lisensi frameworks |
| Tanda-tanda Keselamatan | Pengujian untuk simulasi tekanan emosional | Evaluasi injeksi & kebocoran data | Asperarial otomatis merah-bekerja sama suite |
| Model Shutdowns | Masalah mengenai pemecatan etis | Memastikan kegagalan - aman matikan tombol dan isolasi | Batas sumber daya keras dalam cluster kotak pasir |
| Akuntabilitas | Atritasi kepribadian hukum ke model | Memaksa pengembang ketat dan beban eksployer | Audit Enterprise menjamin |
Kelangsungan Teknik atas Pengawasan Filsafat
Suleyman menguraikan penyebaran Microsoft AI tentang perwalian deterministik, termasuk penopang air yang ketat, verifikasi keluaran kriptografi, dan ketat human- in - loop kontrol untuk keputusan taruhan tinggi dalam pengobatan, keuangan, dan infrastruktur kritis. Dia berpendapat bahwa industri teknologi harus tetap bertanggung jawab atas apa yang sistem lakukan kepada manusia, bukan hipotesis apa yang mungkin dilakukan manusia pada model.
Catatan kunci menarik dukungan langsung dari fakultas ilmu komputer terkemuka di Stanford dan UC Berkeley, yang menggema kekhawatiran bahwa budaya populer narasi sekitarnya kecerdasan buatan umum (AGI) telah menciptakan mistisisme tidak membantu sekitar algoritma optimasi standar matematika.
Panggilan untuk Standardisasi Pemerintah Perangkat Lunak
Suleyman menyimpulkan dengan memanggil badan standar internasional, termasuk ISO dan IEEE, untuk mengkodifikasi sistem AI secara eksplisit di bawah hukum keselamatan produk daripada hak asasi manusia atau frameworks kesejahteraan hewan. Dia mendorong insinyur untuk mengambil bangga dalam membangun canggih, alat yang kuat tanpa salah lagi kemampuan untuk kesadaran.
Comments (0)
Log in to join the discussion.