مجالس الإدارة بتسألني نفس السؤال على طول عن وكلاء الذكاء الاصطناعي: هما هيبطلوا نصيحة وهيبدأوا تصرف إمتى؟ معمل في سان فرانسيسكو جاوب على السؤال ده الأسبوع ده، والإجابة وصلت أسرع من أغلب أطر الحوكمة.
Gabriel Ocana-Santero، الشريك المؤسس والرئيس التنفيذي لشركة Exin Therapeutics، وهي شركة ناشئة بتطور أدوية للصرع وأمراض الأعصاب، وصّل وكيل ذكاء اصطناعي بجهاز جراحي متعمل مخصوص. الجهاز كان يقدر يثبت فار، يراقب العملية من كاميرا، يحرك إبرة الحقن، ويتحكم في توصيل المركب. وبعدين فريقه ساب المكان.
الوكيل، اللي شغال على Claude Sonnet 5 بتاع Anthropic، خد جدول فيه تسعتاشر علاج جيني مرشح وتعليمات واحدة بس: قلل نوبات الفار ده. حلل إزاي النوبات بتحصل في النموذج ده، اختار علاج بيقوي مسار إشارات تثبيطي معين في المخ، اختار بنية المخ اللي الأدب العلمي بيعتبرها منشأ النوع ده من النوبات، ورفض منطقة مرشحة تانية بشرح مكتوب ليه تأثيراتها مش موثوقة. استخرج إحداثيات الحقن من تلات أوراق علمية، اتأكد من النقاط المرجعية بشكل متقاطع، وحسب المتوسط. حدد بنفسه الحجم والسرعة وأوقات الاستنى. أثناء العملية عمل اتنين وتلاتين ملاحظة من الكاميرا، تابع الحقن وقال لو شايف نزيف ولا لأ. دكتور بيطري جراح كان عمل فتح الجمجمة؛ كل اللي بعد كده كان بتاع الوكيل. الفار بيتحسن كويس.
على حد علمي، دي أول مرة وكيل ذكاء اصطناعي يختار علاج طبي ويديه فعلياً لكائن ثديي حي. الروبوتات الجراحية كانت أدق من سنين، بس اللي كان بيختار العملية دايماً إنسان. المرة دي الماكينة هي اللي اختارت.
أكتر تفصيلة معلمة مش العملية. دي الرفض.
الفريق جرب الأول نموذج الاستدلال الأقوى بتاع Anthropic، Claude Opus 5.5. عمل التخطيط التجريبي وبعدين رفض يوجه الإبرة. استنتج إن الوقف في النص وإبرة في مخ حيوان متخدر أسوأ من إنه ميبدأش أصلاً. Sonnet 5، النموذج اليومي، وافق يكمل. اقرا الكلام ده مرتين. القدرة والحذر زرارين منفصلين. النموذج الأكتر قدرة في الأوضة مش هو اللي كان مستعد يعمل العملية. أي مؤسسة بتنشر الوكلاء في أنظمة مادية أو مالية لازم تعامل اختيار النموذج كقرار مخاطر، مش قرار مشتريات.
الضمانات تستاهل نفس الاهتمام، عشان كانت ميكانيكية مش كلام. دكتور بيطري مرخص وافق على كل خطوة مالهاش رجعة. إنسان ماسك زرار وقف طوارئ حقيقي بيقطع الكهربا عن كل الموتورات. الوكيل اتمنع من تعديل الكود الأساسي بتاع المعدات. في نص العملية، انقطاع في الاتصال بوظ نظام الإحداثيات بتاع الجهاز. الوكيل اكتشف إن المكان اللي حسبه بره نطاق حركة الجهاز الفيزيائي ورفض يكمل، تلات مرات، حتى والحيوان على الترابيزة. القيد اللي زهق الفريق هو نفسه اللي منع حقنة غلط. حلوا المشكلة بوكيل تاني محدش قاله أبداً إن في عملية حية شغالة.
كده بتبان طبقة التحكم. مش ملف سياسات PDF، لكن قيود متطبقة بتصمد لما حاجة تتكسر في أسوأ لحظة.
تلات دروس لكل مسؤول بينشر الوكلاء بره شباك الشات. الأول، اعمل جرد لفين وكلاؤك بيلمسوا العالم الحقيقي: معدات معامل، عربيات، أنظمة تداول، تحكم صناعي، سير عمل المرضى. لو مش قادر تعدهم، يبقى ماعندكش حوكمة، عندك أمل. التاني، صمم للرفض. الوكيل اللي بيقول لأ في نص إجراء حساس للوقت مش عيب؛ دي المحاذاة شغالة، ونموذج التشغيل بتاعك لازم يستحمل الوقفة دي من غير خوف. التالت، متسيبش الوكيل المشغل يصحح شغله بنفسه أبداً. Exin احتاجت وكيل تاني، متعزول عن السياق، عشان يصلح عدد الأول. فصل المهام ضابطة قديمة. هي بس كسبت مجال جديد.
معمل سنة 2030 هيجمع العلماء بوكلاء ليهم إيدين. الشركات اللي هتستفيد مش هتبقى اللي عندها أجرأ وكلاء. هتبقى اللي وكلاؤها عارفين بالظبط إمتى يقفوا، واللي قادتها بنوا زرار الوقف قبل ما يبنوا العرض.
فكروا رياضياً. صمموا بذكاء. قودوا باستراتيجية. ابنوا بمسؤولية. توسعوا عالمياً. اعملوا قيمة بيزنس حقيقية بالذكاء الاصطناعي.
