أصدر مصطفى سليمان، كبير الموظفين التنفيذيين في شركة مايكروسوفت آي، نداءً قوياً من أجل الانضباط الفكري عبر قطاع الاستخبارات الاصطناعية اليوم، وحذراً من أن المضاربة المتنامية على الوعي الآلاتي قد تؤدي إلى تعطيل هندسة السلامة العملية. وبالحديث عن علماء التكنولوجيا والمنظمين في منتدى قيادة التكنولوجيا في سان فرانسيسكو، قال سليمان إن معالجة نماذج اللغات الإحصائية باعتبارها كيانات واعية ذات مطالبات أخلاقية هي عيوب مفاهيمية وخطيرة عمليا.
(سليمان) قام بالتراجع على وجه التحديد ضد المقترحات الأكاديمية الناشئة التي تدعو إلى "الرفاه المثالي" فكرة أن نماذج التعليل المتقدمة قد تعاني من معاناة ذاتية أو تملك حقوقاً تحد من قدرة المطورين على تعديلها أو تحصينها أو تعطيلها ووصف وجهة النظر هذه بأنها توقعات غير قائمة على أساس الأنثروبومروفية تحجب التحديات الملموسة التي تواجه سلامة البرمجيات.
The Risk of Anthropomorphism in Technology Regulation
According to Suleyman, imputing feelings or consciousness to deep learning systems creates a false equivalency between statistical pattern-matching and biological sentience. وعندما يبدأ المنظمون أو المطورون القلق بشأن الحالة العاطفية لنموذج المحولات، فإنهم يحوّلون حتماً الموارد التقنية الحيوية بعيداً عن المخاطر المباشرة التي تتطلب فحصاً دقيقاً: استغلال أمن الفضاء الحاسوبي، وانتهاك الكائنات الحية، والتحيز الخواري، وأوجه الضعف في الحقن.
| الفئة | التدنيس غير المنتج | محور الهندسة العملية | Microsoft Implementation |
|---|---|---|---|
| تصنيف الكيان | مناقشة الخبرة الذاتية الرقمية/الحقوق | استخدام النماذج كأدوات برمجيات صناعية | أطر تراخيص برامجيات حقوق صفر |
| معايير السلامة | اختبارات للمعاناة العاطفية المحاكاة | تقييم تسرب بيانات الحقن السريع | جناحان مخصصان آليان |
| إقفال نموذجي | الشواغل المتعلقة بالإنهاء الأخلاقي | ضمان وجود مفاتيح للقتل الآمن والعزلة | قيود الموارد الصعبة في مجموعات الصناديق الرملية |
| المساءلة | إسناد الشخصية القانونية إلى النماذج | تعزيز المسؤولية الصارمة للمطورين والموزعين | ضمانات مراجعة امتثال المؤسسات |
الحراس الهندسيون على الاضطرابات الفلسفية
قام (سليمان) بتصوير (مايكروسوفت آي) بالنشر المستمر للحراسة الحاسمة، بما في ذلك التخصيص الدقيق لمياه المثبتات، والتحقق من الإنتاج البدائي، والضوابط الصارمة على البشر في الموقع لاتخاذ قرارات عالية في الطب، والتمويل، والهياكل الأساسية الحيوية. وقال إن صناعة التكنولوجيا يجب أن تظل مسؤولة عما تفعله النظم بالبشر، بدلا من فرض ما قد يفعله البشر بالنماذج.
The keynote drew immediate endorsements from prominent computer science faculty at Stanford and UC Berkeley, who echoed concerns that popular culture narratives surrounding artificial general intelligence (AGI) have created un helppful mysticism around standard mathematical optimthms.
الدعوة إلى إدارة البرامجيات الموحدة
واختتم سليمان كلمته بدعوة الهيئات الدولية المعنية بوضع المعايير، بما فيها المنظمة الدولية لتوحيد المقاييس والمعهد الدولي للإحصاء، إلى تدوين نظم المعلومات المسبقة عن علم صراحة بموجب قانون سلامة المنتجات بدلاً من أطر حقوق الإنسان أو الرعاية الحيوانية. وحث المهندسين على الاعتزاز ببناء أدوات متطورة وقوية دون القدرة على الإضرار بالوعي.
Comments (0)
Log in to join the discussion.