UN Human Rights Chief Warns of Existential Risks from Autonomous agentic AI

ألقى فولكر تورك، مفوض الأمم المتحدة السامي لحقوق الإنسان، خطاباً صارخاً في جنيف، يحذر الحكومات ومؤسسات التكنولوجيا التي تقف الإنسانية على خطى الضرر الذي لا رجعة فيه ما لم توضع ضمانات عالمية ملزمة على استخبارات مصطنعة مستقلة. أبرزت تورك التطور السريع من الثرثرة إلى أطر البرمجيات الوهمية القادرة على التفكير المستقل والتخطيط الفرعي وتنفيذ الأدوات دون تدخل بشري

وصف الاتجاهات التكنولوجية الحالية كلحظة مائية، حذر رئيس حقوق الأمم المتحدة من أن تدفقات العمل العميلة غير المتحققة المنتشرة في نظم حرجة يمكن أن تؤدي إلى إخفاقات متتالية عبر شبكات الكهرباء، والمرافق المائية، والمقاصد المالية الآلية، وشبكات الاتصالات المدنية.

المخاطر المنهجية وتآكل الوكالة البشرية

The High Commissioner emphasized that systemic AI harms are no longer theoretical. وقد أدى توثيق حالات التحيز المغناطيسي الآلي، والمراقبة الجماعية، وحملات التضليل الاصطناعية إلى تدهور الثقة الاجتماعية. غير أن إدخال بيئات التنفيذ المتعددة العناصر ينطوي على قفزات نوعية في خطر، بما في ذلك خطر نشوب نزاعات إلكترونية غير منسقة والتفاعلات غير المتوقعة بين وكلاء التجارة المالية المستقلين المتنافسين.

الدعوات إلى تجاوز تعهدات الشركات الطوعية

ورفضت تورك بشدة فكرة أن التزامات الصناعة الطوعية كافية لإدارة التكنولوجيات القائمة. While acknowledging recent statements by corporate leaders calling for pacing, the UN rights chief argued that competitive market dynamics inevitably pressure firms to compromise on safety unless uniform, legally binding regulations are established.

ويعكف مكتب الأمم المتحدة لحقوق الإنسان على إعداد مشروع توصيات للجمعية العامة، ويقترح أن تسن الدول الأعضاء أطراً قانونية للترخيص وأن تفوض تقييمات مستمرة لأثر حقوق الإنسان قبل أن تكون النماذج ذات القدرة العالية مرتبطة بالهياكل الأساسية العامة.

Sources

• UN Office of the High Commissioner for Human Rights (OHCHR)
• UNESCO Artificial Intelligence Ethics Reports
• International Committee of the Red Cross Tech Briefs