يمكن للوكلاء الخاضعين للرقابة فقط الدخول إلى نظام التسوية والسمعة.
كلما كانت القدرة أقوى، زادت الحاجة إلى حدود أكثر صعوبة: ما هي المخرجات التي يمكن صياغتها فقط، وما هي الإجراءات التي يجب أن تكون HITL، وما هي البيانات التي لن تترك المجال أبدًا. لا تتمثل الحدود في تقييد الابتكار، بل في تحويل LLM من “صندوق أسود غير خاضع للمساءلة” إلى “مكون يمكن الدفاع عنه” - على عكس Copilot، الذي يوصي فقط ويكون المستخدم مسؤولاً عنه بشكل كامل، يجب على WCN تقسيم المسؤوليات بشكل صريح على طبقة الشبكة.
ما يمكن للوكيل فعله (المجموعة المسموح بها)
ما لا يستطيع الوكيل فعله (المجموعة المحظورة)
مصفوفة المخاطر (المبسطة)
| خطر | الأداء | أفكار التحكم |
|---|---|---|
| الوهم | قضايا ملفقة، قوانين خاطئة، أسماء شركات خاطئة | اقتباس إلزامي؛ إخراج "غير معروف" إذا لم يكن متأكدا؛ التحقق من قاعدة المجال الرئيسي |
| الحقن الفوري | صفحات الويب/ملفات PDF الضارة التي تؤدي إلى التسريبات أو الوصول غير المصرح به | عزل الأداة؛ وضع الحماية للمحتوى غير الموثوق به؛ الإجراءات الصادرة HITL |
| تسرب البيانات | التدريب أو السجلات تسلب السرية | تصنيف البيانات؛ إزالة التحسس من السجل؛ مسح المفاتيح بعد التقاعد |
| الحكم الذاتي المفرط | حلقات ورسوم لا نهائية على طراز AutoGPT | الميزانية على مستوى المهمة والحد الأقصى للخطوات؛ عدم وجود مهمة يعني عدم وجود قيد التشغيل |
| مسؤوليات غامضة | لا أعرف من وافق عليه إذا حدث خطأ ما | سجل الاعتماد + سلسلة الموافقة + رقم إصدار النموذج/الموجه |
بدون حدود، الذكاء الاصطناعي ليس طبقة تنفيذ أقوى، بل هو أداة تعمل على تضخيم الأخطاء - خاصة في كتابة النصوص عالية المخاطر والعمليات المتعلقة بالتمويل.
ترسيم المسؤوليات مع Microsoft Copilot/Universal Assistant
تنص الشروط والأحكام العامة لبرنامج Copilot على ما يلي: من المستحسن أن يكون المستخدم مسؤولاً عن التحقق. يحتاج جانب شبكة WCN أيضًا إلى خدمة إسناد متعدد الأطراف: لذلك، يجب كتابة حدود الوكيل في سياسات الكتابة وعقود المهام، بدلاً من الاعتماد فقط على الانضباط الذاتي للمستخدم النهائي.
ما تحتاجه WCN هو وكيل يمكن شرحه، ومساءلته، ويمكنه الدخول إلى PoB؛ لا يمكن اعتبار عبارة "النموذج يقول ذلك" بمثابة العقدة التي تقول ذلك.
الكشف عن TradFi: تتوقف الأتمتة قبل سلسلة اتخاذ القرار
تتعامل الأنظمة من نوع COIN مع كميات كبيرة من تحليل المستندات، ولا تزال قرارات الائتمان خاضعة لسياسة البنك والمراجعة البشرية؛ ويؤكد علاء الدين أن معايير المخاطرة متسقة، وأن مديري المحافظ ما زالوا يتحملون مسؤوليات الاستثمار. تتوافق WCN مع نفس المبدأ: ** يضغط الوكيل الاحتكاك ولا يحل محل سلطة التوقيع. **
جملة واحدة لقبول المنتج: إذا قمت بحذف الوكيل، فستظل عملية الأعمال قانونية ويمكن تشغيلها، ولكنها ستكون أبطأ - الحد صحيح تقريبًا. إذا لم تتمكن عملية حذف العامل من إغلاق الحلقة، فهذا يعني أن الرابط البشري قد تآكل بشكل مفرط.