بورڈ مجھ سے AI ایجنٹوں کے بارے میں بار بار ایک ہی سوال پوچھتے رہتے ہیں: وہ مشورہ دینا کب چھوڑ کر عمل کرنا شروع کریں گے؟ سان فرانسسکو کی ایک لیبارٹری نے اس ہفتے اس سوال کا جواب دیا، اور جواب زیادہ تر گورننس فریم ورکس سے کہیں تیز رفتاری سے آیا۔
Exin Therapeutics کے شریک بانی اور CEO Gabriel Ocana-Santero، جو میرگی اور اعصابی امراض کی ادویات بنانے والا ایک اسٹارٹ اپ ہے، نے ایک AI ایجنٹ کو خصوصی طور پر بنائے گئے سرجیکل رگ سے جوڑا۔ یہ رگ چوہے کو ساکت رکھ سکتی تھی، کیمرے سے کارروائی دیکھ سکتی تھی، انجیکشن کی سوئی چلا سکتی تھی اور مرکب کی ترسیل کنٹرول کر سکتی تھی۔ پھر ان کی ٹیم پیچھے ہٹ گئی۔
Anthropic کے Claude Sonnet 5 پر چلنے والے اس ایجنٹ کو انیس ممکنہ جین تھیراپیز کی ایک اسپریڈ شیٹ اور صرف ایک ہدایت دی گئی: اس چوہے کے دورے کم کرو۔ اس نے تجزیہ کیا کہ اس ماڈل میں دورے کیسے پڑتے ہیں، ایک ایسی تھیراپی منتخب کی جو دماغ کے ایک مخصوص روکنے والے سگنلنگ راستے کو بڑھاتی ہے، وہ دماغی بناوٹ چنی جسے سائنسی ادب اس قسم کے دورے کا نقطہ آغاز مانتا ہے، اور دوسرے ممکنہ علاقے کو تحریری وضاحت کے ساتھ مسترد کر دیا کہ اس کے اثرات زیادہ غیر قابلِ اعتماد ہیں۔ اس نے تین سائنسی مقالوں سے انجیکشن کے نقاط نکالے، حوالہ جاتی نکات کی باہمی جانچ کی اور اوسط نکالا۔ اس نے خود ہی مقدار، رفتار اور انتظار کے اوقات مقرر کیے۔ کارروائی کے دوران اس نے کیمرے سے بتیس مشاہدات کیے، انجیکشن کو ٹریک کیا اور بتایا کہ خون بہتا دکھائی دے رہا ہے یا نہیں۔ پشو سرجن نے کرینیوٹومی کی تھی؛ اس کے بعد کا سب کچھ ایجنٹ کا تھا۔ چوہا اچھی طرح صحت یاب ہو رہا ہے۔
میری معلومات کے مطابق، یہ پہلی بار ہے کہ کسی AI ایجنٹ نے نہ صرف طبی علاج منتخب کیا بلکہ اسے جسمانی طور پر ایک زندہ ممالیہ کو دیا بھی۔ سرجیکل روبوٹ برسوں سے زیادہ درست رہے ہیں، لیکن سرجری ہمیشہ انسان منتخب کرتا تھا۔ اس بار مشین نے انتخاب کیا۔
سب سے زیادہ سبق آموز بات سرجری نہیں ہے۔ وہ ہے انکار۔
ٹیم نے پہلے Anthropic کے زیادہ طاقتور استدلالی ماڈل Claude Opus 5.5 کو آزمایا۔ اس نے تجربے کی منصوبہ بندی کی، پھر سوئی چلانے سے انکار کر دیا۔ اس کا استدلال تھا کہ بے ہوش جانور کے دماغ میں سوئی گڑائے بیچ میں رک جانا، شروع ہی نہ کرنے سے بدتر ہوگا۔ روزمرہ کا ماڈل Sonnet 5 آگے بڑھنے پر راضی ہو گیا۔ اسے دو بار پڑھیے۔ صلاحیت اور احتیاط دو الگ الگ کنٹرول ہیں۔ کمرے کا سب سے قابل ماڈل وہ نہیں تھا جو آپریٹ کرنے کو تیار تھا۔ ہر وہ ادارہ جو ایجنٹوں کو طبی یا مالی نظاموں میں تعینات کر رہا ہے، ماڈل کے انتخاب کو خطرے کا فیصلہ سمجھے، خریداری کا فیصلہ نہیں۔
حفاظتی اقدامات بھی اتنی ہی توجہ کے حقدار ہیں، کیونکہ وہ لفظی نہیں بلکہ میکانکی تھے۔ لائسنس یافتہ پشو ڈاکٹر نے ہر ناقابلِ واپسی قدم کی منظوری دی۔ ایک انسان کے ہاتھ میں جسمانی ایمرجنسی اسٹاپ بٹن تھا جو ہر موٹر کی بجلی کاٹ دیتا۔ ایجنٹ کو سامان کے بنیادی کوڈ میں تبدیلی سے منع کیا گیا تھا۔ کارروائی کے دوران، کنیکشن ٹوٹنے سے رگ کا کوآرڈینیٹ سسٹم خراب ہو گیا۔ ایجنٹ نے پہچان لیا کہ اس کی حسابی پوزیشن آلہ کی جسمانی حد سے باہر ہے اور اس نے جاری رکھنے سے انکار کر دیا، تین بار، اگرچہ جانور ٹیبل پر تھا۔ جس پابندی نے ٹیم کو مایوس کیا، وہی پابندی غلط انجیکشن کو روکنے والی تھی۔ انہوں نے مسئلہ ایک الگ ایجنٹ سے حل کیا جسے کبھی نہیں بتایا گیا کہ لائیو سرجری جاری ہے۔
کنٹرول پلین ایسا ہی دکھائی دیتا ہے۔ کوئی پالیسی PDF نہیں، بلکہ تہہ دار رکاوٹیں جو سب سے برے لمحے میں کچھ ٹوٹنے پر بھی قائم رہتی ہیں۔
چیٹ ونڈو سے آگے ایجنٹ تعینات کرنے والے ہر ایگزیکٹو کے لیے تین نتائج۔ پہلا، فہرست بنائیے کہ آپ کے ایجنٹ حقیقی دنیا کو کہاں کہاں چھوتے ہیں: لیب سامان، گاڑیاں، ٹریڈنگ سسٹمز، صنعتی کنٹرول، مریضوں کے ورک فلو۔ اگر آپ انہیں گن نہیں سکتے تو آپ کے پاس گورننس نہیں، امید ہے۔ دوسرا، انکار کے لیے ڈیزائن کیجیے۔ وقت کے حساس کارروائی کے درمیان نہ کہنے والا ایجنٹ کوئی خامی نہیں؛ یہ الائنمنٹ کام کر رہی ہے، اور آپ کے آپریٹنگ ماڈل کو اس وقفے کو بغیر گھبراہٹ کے برداشت کرنا چاہیے۔ تیسرا، آپریٹر ایجنٹ کو کبھی اپنے کام کی جانچ خود نہ کرنے دیں۔ Exin کو پہلے والے کے ٹولز درست کرنے کے لیے سیاق سے الگ دوسرے ایجنٹ کی ضرورت پڑی۔ فرائض کی علیحدگی ایک پرانا کنٹرول ہے۔ اسے ابھی ایک نیا دائرہ مل گیا ہے۔
2030 کی لیبارٹری میں سائنسدانوں کے ساتھ ہاتھ رکھنے والے ایجنٹ ہوں گے۔ فائدہ اٹھانے والی کمپنیاں وہ نہیں ہوں گی جن کے ایجنٹ سب سے زیادہ دلیری والے ہوں گی۔ وہ وہ ہوں گی جن کے ایجنٹ بالکل جانتے ہوں کہ کب رکنا ہے، اور جن کے قائدین نے ڈیمو بنانے سے پہلے اسٹاپ بٹن بنایا ہوگا۔
ریاضیانہ سوچیں۔ ذہانت سے انجینئرنگ کریں۔ حکمت عملی سے قیادت کریں۔ ذمہ داری سے بنائیں۔ عالمی سطح پر پھیلیں۔ مصنوعی ذہانت کے ذریعے حقیقی کاروباری قدر پیدا کریں۔
