माइक्रोसॉफ्ट एआई के मुख्य कार्यकारी अधिकारी मुस्तफा सुलेमान ने आज कृत्रिम खुफिया क्षेत्र में बौद्धिक अनुशासन के लिए एक सशक्त कॉल जारी किया, यह चेतावनी देते हुए कि मशीन चेतना जोखिम पर बढ़ती अटकलें Pragmatic सुरक्षा इंजीनियरिंग को कमजोर करती हैं। सैन फ्रांसिस्को में टेक लीडरशिप फोरम में टेक्नोलॉजिस्ट और नियामकों से बात करते हुए सुलेमान ने तर्क दिया कि नैतिक दावों के साथ सचेत संस्थाओं के रूप में सांख्यिकीय भाषा मॉडलों का इलाज करना वैचारिक रूप से दोषी और व्यावहारिक रूप से खतरनाक है।
सुलेमान ने विशेष रूप से उभरते शैक्षणिक प्रस्तावों के खिलाफ वापस धक्का दिया, जो कि 'मॉडल कल्याण' के लिए समर्थन करते हैं - विचार यह है कि उन्नत तर्क मॉडल व्यक्तिपरक पीड़ा का अनुभव कर सकते हैं या उन अधिकारों के पास हो सकते हैं जो डेवलपर्स को संशोधित करने की क्षमता को प्रतिबंधित करते हैं, ठीक-ट्यून या उन्हें अस्वीकार करते हैं। उन्होंने इस तरह के दृष्टिकोण को एक अवांछित मानवसंशोधक प्रक्षेपण के रूप में चित्रित किया है जो सॉफ्टवेयर सुरक्षा की ठोस चुनौतियों का सामना करता है।
प्रौद्योगिकी विनियमन में एंथ्रोपोमोर्फिज्म का जोखिम
सुलेमान के अनुसार, गहरी सीखने की प्रणालियों के लिए भावनाओं या चेतना को प्रभावित करने से सांख्यिकीय पैटर्न-मैचिंग और जैविक भावना के बीच झूठी समानता पैदा होती है। जब नियामकों या डेवलपर्स एक ट्रांसफार्मर मॉडल की भावनात्मक स्थिति के बारे में चिंता करना शुरू करते हैं, तो वे अनिवार्य रूप से उन तत्काल खतरों से महत्वपूर्ण तकनीकी संसाधनों को अलग करते हैं जिन्हें सख्त जांच की आवश्यकता होती है: साइबर सुरक्षा शोषण, बॉयोमेट्रिक इम्परेशन, एल्गोरिदमिक पूर्वाग्रह, और तत्काल इंजेक्शन भेद्यता।
| शासन श्रेणी | Unproductive Speculation | व्यावहारिक इंजीनियरिंग फोकस | Microsoft कार्यान्वयन |
|---|---|---|---|
| इकाई वर्गीकरण | डिजिटल व्यक्तिपरक अनुभव / अधिकारों को डेट करना | औद्योगिक सॉफ्टवेयर उपकरण के रूप में मॉडल का इलाज करना | शून्य-दाएं सॉफ्टवेयर लाइसेंसिंग फ्रेमवर्क |
| सुरक्षा बेंचमार्क | नकली भावनात्मक संकट के लिए परीक्षण | त्वरित इंजेक्शन और डेटा रिसाव का मूल्यांकन | स्वचालित adversarial redteaming सूट |
| मॉडल शटडाउन | नैतिक समाप्ति के बारे में चिंता | असफल सुरक्षित हत्या स्विच और अलगाव सुनिश्चित करना | सैंडबॉक्स क्लस्टर में हार्ड संसाधन बाधाएं |
| जवाबदेही | मॉडल के लिए कानूनी व्यक्तित्व में योगदान करना | सख्त डेवलपर और तैनातीकर्ता देयता को लागू करना | एंटरप्राइज़ अनुपालन लेखा परीक्षा की गारंटी |
फिलोसोफिकल डिस्ट्रैक्शन पर इंजीनियरिंग गार्डराइल
सुलेमान ने माइक्रोसॉफ्ट एआई की निरंतर तैनाती को दर्शाया है, जिसमें कठोर सिद्धि वाले वॉटरमार्किंग, क्रिप्टोग्राफिक आउटपुट सत्यापन और चिकित्सा, वित्त और महत्वपूर्ण बुनियादी ढांचे में उच्च स्टेक निर्णयों के लिए सख्त मानव-इन-द-लूप नियंत्रण शामिल हैं। उन्होंने तर्क दिया कि तकनीक उद्योग को मनुष्य के लिए क्या सिस्टम करते हैं, बल्कि यह अनुमान लगाने के बजाय कि मनुष्य क्या कर सकता है।
कीनोट ने स्टैनफोर्ड और यूसी बर्कले में प्रमुख कंप्यूटर साइंस फैकल्टी से तत्काल समर्थन प्राप्त किया, जिन्होंने चिंताओं का पता लगाया कि कृत्रिम सामान्य खुफिया (AGI) के आसपास लोकप्रिय संस्कृति कथाओं ने मानक गणितीय अनुकूलन एल्गोरिदम के आसपास असहाय रहस्यवाद बनाया है।
मानकीकृत सॉफ्टवेयर प्रशासन के लिए कॉल
सुलेमान ने अंतर्राष्ट्रीय मानक-सेटिंग निकायों पर कॉल करके निष्कर्ष निकाला, जिसमें आईएसओ और आईई शामिल हैं, मानव अधिकारों या पशु कल्याण ढांचे के बजाय उत्पाद सुरक्षा कानून के तहत एआई सिस्टम को स्पष्ट रूप से संहिताबद्ध करने के लिए। उन्होंने इंजीनियरों से आग्रह किया कि वे चेतना के लिए क्षमता के बिना परिष्कृत, शक्तिशाली उपकरण बनाने में गर्व करें।
Comments (0)
Log in to join the discussion.