بورڈ مینوں AI ایجنٹاں بارے اکوئی سوال پچھدے رہندے نیں: اوہ مشورہ دینا کدوں چھڈ کے کم کرنا شروع کرن گے؟ سان فرانسسکو دی اک لیبارٹری نے اس ہفتے ایس سوال دا جواب دتا، تے جواب زیادہ تر گورننس فریم ورکاں توں پہلوں آ گیا۔
Exin Therapeutics دے شریک بانی اتے CEO Gabriel Ocana-Santero، جو میرگی اتے دماغی بیماریاں دیاں دوائیاں بنان والا اک سٹارٹ اپ اے، نے اک AI ایجنٹ نوں خاص بنائی سرجیکل رگ نال جوڑیا۔ ایہ رگ چوہے نوں ٹھہرا سکدی سی، کیمرے راہیں کم ویکھ سکدی سی، انجیکشن دی سوئی چلا سکدی سی اتے مرکب دینا کنٹرول کر سکدی سی۔ فیر اوہناں دی ٹیم پاسے ہٹ گئی۔
Anthropic دے Claude Sonnet 5 تے چلن والے ایس ایجنٹ نوں انیہاں ممکنہ جین تھیراپیاں دی اک سپریڈشیٹ اتے اکو اک ہدایت دتی گئی: اس چوہے دے دورے گھٹا۔ اسنے تجزیہ کیتا کہ اس ماڈل وچ دورے کداں پیندے نیں، دماغ دے اک خاص روکنے والے سگنل راہ نوں ودھان والی تھیراپی چنی، سائنسی ادب ولوں اس قسم دے دورے دا مڈھ منیا گیا دماغ دا اوہ حصہ چنیا، اتے دوسرے ممکنہ علاقے نوں لکھی وضاحت نال رد کر دتا کہ اس دے اثرات بہت غیر قابلِ اعتماد نیں۔ اسنے تن سائنسی مقالیاں توں انجیکشن دے پوائنٹ کڈھے، حوالہ پوائنٹاں دی آپسی جانچ کیتی اتے اوسط کڈھیا۔ اسنے آپ ہی مقدار، رفتار اتے انتظار دے ویلے طے کیتے۔ کم دوران اسنے کیمرے راہیں بتی وار نگرانی کیتی، انجیکشن نوں ٹریک کیتا اتے دسیا کہ خون وگدا نظر آندا اے کہ نہیں۔ پشو سرجن نے کھوپڑی کھولی سی؛ اس مگروں دا سارا کم ایجنٹ دا سی۔ چوہا چنگا تندرست ہو رہا اے۔
میری جانکاری مطابق، ایہ پہلی وار اے کہ کسے AI ایجنٹ نے طبی علاج وی چنیا اتے اوہنوں زندہ ممالیہ نوں دتا وی۔ سرجیکل روبوٹ کئی سالاں توں ودھ درست نیں، پر سرجری ہمیشہ انسان چندا سی۔ اس واری مشین نے چنیا۔
سب توں وڈی سکھ سرجری نہیں۔ اوہ اے انکار۔
ٹیم نے پہلاں Anthropic دا ودھ طاقتور reasoning ماڈل Claude Opus 5.5 آزمایا۔ اسنے تجربے دی یوجنا بنائی، فیر سوئی چلان توں انکار کر دتا۔ اسدا منطق سی کہ بے ہوش جانور دے دماغ وچ سوئی لگی ہوے ادھ وچ رک جانا، شروع ہی نہ کرن توں مندا اے۔ روزانہ دا ماڈل Sonnet 5 اگے ودھن لئی راضی ہو گیا۔ ایہنوں دو وار پڑھو۔ صلاحیت اتے احتیاط دو وکھ وکھ کنٹرول نیں۔ کمرے دا سب توں قابل ماڈل اوہ نہیں سی جو آپریٹ کرن لئی تیار سی۔ اوہ ہر ادارہ جو ایجنٹاں نوں جسمانی یا مالی نظاماں وچ لا رہیا اے، ماڈل چون نوں خطرے دا فیصلہ سمجھے، خرید دا فیصلہ نہیں۔
حفاظتی اقدامات وی اونے ہی دھیان دے حقدار نیں، کیونکہ اوہ بولی دے نہیں، مشینی سن۔ لائسنس یافتہ پشو ڈاکٹر نے ہر اوہ قدم منظور کیتا جو مڑیا نہ جا سکدا۔ اک انسان دے ہتھ وچ جسمانی ایمرجنسی سٹاپ بٹن سی جو ہر موٹر دی بجلی کاٹ دندا۔ ایجنٹ نوں سامان دے اصلی کوڈ نوں بدلن توں منع کیتا گیا سی۔ کم دے وچکار، کنیکشن ٹٹن نال رگ دا کوآرڈینیٹ سسٹم خراب ہو گیا۔ ایجنٹ نے پچھان لیا کہ اس دا حسابی ٹکانہ آلہ دی جسمانی حد توں باہر اے اتے اسنے اگے ودھن توں انکار کر دتا، تن وار، بھاویں جانور ٹیبل تے سی۔ جس پابندی نے ٹیم نوں نراش کیتا، اوہی پابندی غلط انجیکشن نوں روکنے والی سی۔ اوہناں نے ایہ اک وکھرے ایجنٹ نال حل کیتا جسنوں کدے دسیا ہی نہیں کہ لائیو سرجری چل رہی اے۔
کنٹرول پلین اجہا ہی ہندا اے۔ پالیسی PDF نہیں، سگوں پرتاں والیاں رکاوٹاں جو سب توں مڑے ویلے کجھ بگڑن تے وی قائم رہندیاں نیں۔
چیٹ ونڈو توں باہر ایجنٹ لان والے ہر ایگزیکٹو لئی تن سبق۔ پہلا، گنو کہ تواڈے ایجنٹ اصلی دنیا نوں کتھے کتھے چھوہندے نیں: لیب سامان، گڈیاں، ٹریڈنگ سسٹم، صنعتی کنٹرول، مریضاں دے ورک فلو۔ جے تسیں انہاں نوں گن نہیں سکدے، تاں تواڈے کول گورننس نہیں، امید اے۔ دوجا، انکار لئی ڈیزائن کرو۔ ویلے دے حساس کم وچ ناںہ کہن والا ایجنٹ کوئی خامی نہیں؛ ایہ الائنمنٹ کم کر رہی اے، اتے تواڈے آپریٹنگ ماڈل نوں اس ٹھہر نوں بغیر گھبراہٹ سہنا چاہیدا اے۔ تیجا، آپریٹر ایجنٹ نوں کدے آپنے کم دی خود جانچ نہ کرن دیو۔ Exin نوں پہلے دے ٹولز درست کرن لئی سیاق توں الگ دوسرے ایجنٹ دی لوڑ پئی۔ فرائض دی علیحدگی پرانا کنٹرول اے۔ اوہنوں ہنیری اک نواں دائرہ ملیا اے۔
2030 دی لیبارٹری وچ سائنسداناں دے نال ہتھاں والے ایجنٹ ہون گے۔ فائدہ چکنے والیاں کمپنیاں اوہ نہیں ہون گیاں جنہاں دے ایجنٹ سب توں دلیری والے ہون گے۔ اوہ اوہ ہون گیاں جنہاں دے ایجنٹ ٹھیک ٹھیک جاندے ہون کہ کدوں رکنا اے، اتے جنہاں دے آگواں نے ڈیمو بنان توں پہلاں سٹاپ بٹن بنایا ہووے۔
ریاضی دے نال سوچو۔ عقل نال انجینئرنگ کرو۔ حکمت عملی نال اگوائی کرو۔ ذمے داری نال بناؤ۔ دنیا بھر وچ ودھاؤ۔ مصنوعی ذہانت نال اصل کاروباری قدر پیدا کرو۔
