Sebuah panggilan yang terkoordinasi untuk hati-hati telah muncul dari tingkat tertinggi dari sektor intelijen buatan. Industri eksekutif dari Anthropic, OpenAI, Google DeepMind, Microsoft, dan xAI telah menyatakan dukungan publik yang belum pernah terjadi sebelumnya untuk mondar-mandir pengembangan model perbatasan, memperingatkan bahwa agen AI otonom dan kemampuan super cerdas memerlukan verifikasi eksternal sebelum penyebaran.
Gerakan mengkristal berikut esai oleh CEO Anthropic Dario Amodei berjudul 'We Must Pace the Frontier.' Amodei memperingatkan bahwa tanpa guardrails yang dapat diverifikasi, kemajuan cepat dalam perencanaan otonom dan eksekusi kode dapat memungkinkan serbuan perangkat lunak yang mampu menyebabkan gangguan masyarakat dan infrastruktur luas. Sebagai respon, Amodei mengumumkan bahwa Anthropic akan secara sukarela memasukkan evaluator independen terakreditasi dengan akses tingkat karyawan ke sistemnya untuk memverifikasi model keselarasan dan keselamatan.
Unified Industry Endorsements and Proposed Protocol
Dalam pertunjukan keselarasan yang langka di perusahan teknologi yang bersaing, OpenAI Chief Executive Sam Altman secara terbuka setuju dengan proposal tersebut, menyatakan bahwa OpenAI akan cocok dengan komitmen Anthropic untuk memberikan kepercayaan kepada audit luar akses ke lingkungan pengujian. Demis Hassabis dari Google DeepMind dan Elon Musk dari xAI bergema kebutuhan untuk tubuh standar yang dapat dilaksanakan, menekankan bahwa evaluasi keselamatan harus menjaga kecepatan dengan skala perhitungan eksponensial.
| Entitas / Pemimpin | Posisi Stated | Proposed Mekanisme | Fokus Pemerintah |
|---|---|---|---|
| Anthropic (Dario Amodei) | Propose 'Pace the Frontier' framework | Evaluasi independen dengan akses level sistem- | Mencegah pengambilalihan cyber otonom dan infrastruktur |
| OpenAI (Sam Altman) | Mengelola audit keselamatan independen | Komite evaluasi paralel | Perataan standar multilateral |
| Google DeepMind (Demis Hassabis) | Backs standar terkoordinasi | Tubuh standar AI Frontier | Keamanan Systemic dan verifikasi alignmen |
| Administrasi Eksekutif AS | Berlawanan topi pengembangan buatan | Kecepatan seragam dan infrastruktur buildout | Mempertahankan batas strategis atas musuh asing |
Politik Pushback dan Kompetitivitas Nasional
Meskipun dukungan yang luas dari peneliti dan pemimpin teknologi, proposal telah menghadapi oposisi kaku di Washington. Pemimpin politik dan penasihat keamanan nasional telah memperingatkan bahwa memaksakan batas pertahanan dalam negeri dapat melemahkan dominasi teknologi Amerika dalam persaingan strategis dengan pesaing internasional, menyatakan bahwa supremasi teknologi sangat penting bagi keamanan ekonomi dan militer.
Pasar keuangan bereaksi cepat terhadap perdebatan yang sedang berlangsung. Mayor semikonduktor dan keseimbangan komputasi awan melihat fluktuasi jangka pendek ketika investor menimbang masa perhitungan evaluasi wajib terhadap potensi pendapatan alat-alat automatisasi perusahaan AI.
Apa yang terjadi selanjutnya
Komunitas internasional sekarang bergerak untuk formalisasi proposal ini. Diskusi dijadwalkan di forum multilateral di Jenewa dan London untuk memeriksa apakah audit keselamatan independen harus tetap sukarela atau transisi menjadi standar akreditasi internasional yang sah untuk model melampaui batas perhitungan tertentu.
Comments (0)
Log in to join the discussion.