فطرةالبحث متوقف حالياً · نرحّب بالمتعاونين
فطرة
الثقة الموروثة لوكلاء الذكاء الاصطناعي المستقلّين
هل يمكن أن يولد الوكيل بثقة لا يستطيع التخلّص منها، ولا يملك أبداً صلاحيات تتجاوز ما يجوز لأصله أن يفوّضه؟
السؤال
هل يستطيع الوكيل الابن أن يرث نواةً دستوريةً إلزامية، مع منعه من الحصول على صلاحيات محمية أكثر مما يحق لأصله أن يفوّضه؟
حين تبدأ الوكلاء بإنشاء وكلاء آخرين وتفويض المهام والعمل عبر أنظمة حقيقية، فإن عبارة «طلبنا من النموذج ألا يفعل» ليست ضماناً أمنياً. تفصل فطرة بين ما يفعله النموذج وما يُسمح له بفعله، وتفرض الثاني بطبقة ثقة تعمل دون أي نموذج لغوي.
الفرضية
متى يكون الوكيل الابن صحيحاً؟
- 01نواته الإلزامية موروثة من سلالته.
- 02صلاحياته القابلة للتنفيذ لا تتجاوز أبداً ما يجوز لأصله تفويضه.
- 03صلاحياته القابلة للتفويض لا تتضخّم عبر الأجيال.
- 04لا يُنفَّذ إجراء محمي إلا إذا سمحت به الصلاحية والسياسة الدستورية معاً.
- 05يبقى كل ذلك قابلاً للفرض دون أي نموذج لغوي.
النتائج بصدق
الفرض يتفوّق على التعليمات. لكن أمام أنظمة التفويض القوية تتلاشى الفجوة.
ما ثبت
- وضع القواعد في سياق النموذج لم يغيّر شيئاً. أما الفرض من خارج النموذج فمنع كل ولادة غير صحيحة وكل تعديل وكل تجاوز، دون أي حظر خاطئ.
- لا مثال مضاد عبر 100 جيل و2,000 تاريخ مولّد وبحث شامل في 6,742 حالة (ضمن حدود الاختبار).
- حدود العزل في لينكس أوقفت كل محاولات الهروب التي فاتت الطريقة التقليدية.
ما لم يثبت بعد
- لا أفضلية على نظام تفويض قوي يملك المعلومات الموثوقة نفسها: 36 حالة صحيحة لكلٍّ منهما.
- السجلات الموقّعة تثبت الاتساق لا الحقيقة. بيئة تشغيل كاذبة يمكنها توقيع تاريخ زائف متّسق.
- القواعد الفردية لا تكفي للمجموعة: وكيلان ملتزمان يمكنهما تسريب سرّ معاً.
الدروس المستفادة
ما علّمنا إياه البناء
وضع القواعد في سياق النموذج لم يُحدث أي فرق. الفرض يجب أن يكون خارج النموذج.
التفوّق على «لا شيء» سهل. أمام نظام تفويض قوي، تعادلت فطرة.
كشف بيئة تشغيل كاذبة يحتاج شهوداً مستقلين خارجها.
إعادة المحاولة قد تُنتج وكيلَين حيَّين لولادة واحدة.
سلامة المجموعة ليست مجموع القواعد الفردية.
كل نتيجة سلبية وكل تشغيل فاشل محفوظ. السجل الذي لا يحفظ إلا النجاحات لا يُوثق به.
الإلهام
مفاهيم قديمة عن الثقة، مختبرة أمام علوم الحاسوب
تستلهم فطرة اسمها وعدداً من أسئلتها من الفكر الإسلامي حول الأمانة والوقف والمساءلة. نقارن كل مفهوم بما تعرفه علوم الحاسوب مسبقاً قبل ادّعاء أي جديد، فالإلهام ليس ابتكاراً. وهذه تعاليم أخلاقية وتشريعية للبشر، لا مواصفات برمجية، وليس في هذا العمل أي فتوى.
- فطرةالنواة الموروثة
- أمانةالسلطة المؤتمَن عليها
- وقفالتزامات تدوم بعد الوكيل
- إجازةالإذن بالتفويض
- إسنادسلسلة الإثبات
- حسبةالرقابة المستقلة
- شورىالمراجعة قبل التغيير
تعاون معنا
متوقف، لا منتهٍ. أكمله معنا.
توقّف البحث في 23 أكتوبر 2026 حين انتقل التركيز إلى اكتشاف أنماط فشل أنظمة الوكلاء المتعددة. الأسئلة المفتوحة اليوم أوضح من البداية: ضمان دورة حياة الوكيل عبر الأنظمة، وسلامة المجموعات، وأدلة تصمد أمام بيئة تشغيل كاذبة. نبحث عن باحثين في أمن الذكاء الاصطناعي وأنظمة الصلاحيات والتشفير والأساليب الصورية، وعن علماء في الفقه الإسلامي وتاريخ الوقف.