صلاحيات وكلاء الذكاء الاصطناعي: أثبت التحكم قبل منح الوصول

حدد حدود سلطة الوكيل

• استخدم بيانات اعتماد منفصلة لبيئة الاختبار.

• اسمح بالعمليات اللازمة فقط.

• اجعل مكون التنفيذ يرفض الأدوات غير المعروفة والموافقات الناقصة.

اختر مستوى التفويض

• للقراءة فقط: استرجاع المعلومات المصرح بها دون تعديل.

• للاقتراح: إعداد توصية دون تنفيذها.

• تنفيذ مشروط: التحقق المستقل من موافقة تطابق الهوية والأداة والهدف والمعلمات والصلاحية.

• استقلالية محدودة: عملية ضيقة معتمدة مسبقاً بحدود ومراقبة وآلية إيقاف وتعافٍ.

اختبر الرفض والإلغاء

• حاول الوصول إلى سجل خارج الدور أو المؤسسة.

• غيّر الهدف بعد الموافقة وحاول إعادة استخدامها.

• ألغ الوصول أثناء التشغيل وتحقق من توقف الإجراءات التالية.

• أدخل تعليمات غير موثوقة في مستند اختباري وتأكد أنها لا تمنح صلاحيات.

اتخذ قرار التوسيع

منهجية الاستخدام