बोर्ड मुझसे AI एजेंटों के बारे में बार-बार एक ही सवाल पूछते रहते हैं: वे सलाह देने से कब निकलकर कार्रवाई करने लगेंगे? सैन फ्रांसिस्को की एक प्रयोगशाला ने इस हफ्ते इस सवाल का जवाब दिया, और जवाब ज़्यादातर गवर्नेंस फ्रेमवर्क से कहीं तेज़ी से आया।
Exin Therapeutics के सह-संस्थापक और CEO Gabriel Ocana-Santero, जो एपिलेप्सी और न्यूरोडीजेनेरेटिव रोगों की दवाएं विकसित करने वाला एक स्टार्टअप है, ने एक AI एजेंट को कस्टम-निर्मित सर्जिकल रिग से जोड़ा। यह रिग चूहे को स्थिर रख सकती थी, कैमरे से प्रक्रिया देख सकती थी, इंजेक्शन सुई चला सकती थी और यौगिक की डिलीवरी नियंत्रित कर सकती थी। फिर उनकी टीम पीछे हट गई।
Anthropic के Claude Sonnet 5 पर चल रहे इस एजेंट को उन्नीस संभावित जीन थेरेपी की एक स्प्रेडशीट और एक ही निर्देश दिया गया: इस चूहे के दौरे कम करो। इसने विश्लेषण किया कि इस मॉडल में दौरे कैसे उत्पन्न होते हैं, एक ऐसी थेरेपी चुनी जो मस्तिष्क के एक विशिष्ट अवरोधी संकेत मार्ग को बढ़ाती है, वह मस्तिष्क संरचना चुनी जिसे वैज्ञानिक साहित्य इस प्रकार के दौरे का उद्गम बिंदु मानता है, और दूसरे संभावित क्षेत्र को लिखित स्पष्टीकरण के साथ खारिज कर दिया, यह कहते हुए कि उसके प्रभाव बहुत अविश्वसनीय हैं। इसने तीन वैज्ञानिक पेपरों से इंजेक्शन निर्देशांक निकाले, संदर्भ बिंदुओं की परस्पर जांच की और औसत निकाला। इसने खुद ही मात्रा, गति और प्रतीक्षा समय तय किया। प्रक्रिया के दौरान इसने कैमरे से बत्तीस बार अवलोकन किया, इंजेक्शन को ट्रैक किया और रिपोर्ट किया कि खून बह रहा है या नहीं। पशु चिकित्सा सर्जन ने क्रैनियोटॉमी की थी; उसके बाद का सब कुछ एजेंट का था। चूहा अच्छी तरह ठीक हो रहा है।
मेरी जानकारी के मुताबिक, यह पहली बार है जब किसी AI एजेंट ने न केवल चिकित्सा उपचार चुना बल्कि उसे भौतिक रूप से एक जीवित स्तनधारी को दिया भी। सर्जिकल रोबोट वर्षों से अधिक सटीक रहे हैं, लेकिन सर्जरी हमेशा इंसान चुनता था। इस बार मशीन ने चुना।
सबसे शिक्षाप्रद बात सर्जरी नहीं है। वह है इनकार।
टीम ने पहले Anthropic के अधिक शक्तिशाली रीजनिंग मॉडल Claude Opus 5.5 को आज़माया। इसने प्रयोग की योजना बनाई, फिर सुई चलाने से इनकार कर दिया। इसका तर्क था कि बेहोश जानवर के दिमाग में सुई घुसाए बीच में रुकना, शुरू ही न करने से बदतर होगा। रोज़मर्रा का मॉडल Sonnet 5 आगे बढ़ने को राज़ी हो गया। इसे दो बार पढ़िए। क्षमता और सावधानी दो अलग-अलग नॉब हैं। कमरे का सबसे सक्षम मॉडल वह नहीं था जो ऑपरेट करने को तैयार था। एजेंटों को भौतिक या वित्तीय प्रणालियों में तैनात करने वाला हर संगठन मॉडल चुनाव को जोखिम निर्णय माने, खरीद निर्णय नहीं।
सुरक्षा उपाय भी उतने ही ध्यान के हकदार हैं, क्योंकि वे शाब्दिक नहीं बल्कि यांत्रिक थे। लाइसेंसधारी पशु चिकित्सक ने हर अपरिवर्तनीय कदम को मंजूरी दी। एक इंसान के हाथ में भौतिक आपातकालीन स्टॉप था जो हर मोटर की बिजली काट देता। एजेंट को उपकरण के अंतर्निहित कोड में बदलाव करने से मना किया गया था। बीच प्रक्रिया में, कनेक्शन टूटने से रिग का निर्देशांक तंत्र बिगड़ गया। एजेंट ने पहचान लिया कि उसकी गणना की गई स्थिति उपकरण की भौतिक सीमा से बाहर है और उसने आगे बढ़ने से इनकार कर दिया, तीन बार, भले ही जानवर ऑपरेशन टेबल पर था। जिस प्रतिबंध ने टीम को निराश किया, वही प्रतिबंध गलत इंजेक्शन को रोकने वाला था। उन्होंने इसे एक अलग एजेंट से सुलझाया, जिसे कभी नहीं बताया गया कि लाइव सर्जरी चल रही है।
कंट्रोल प्लेन ऐसा ही दिखता है। कोई पॉलिसी PDF नहीं, बल्कि परतदार बाधाएं जो सबसे खराब समय पर कुछ टूटने पर भी टिकी रहती हैं।
चैट विंडो से आगे एजेंट तैनात करने वाले हर कार्यकारी के लिए तीन संदेश। पहला, सूची बनाइए कि आपके एजेंट वास्तविक दुनिया को कहां-कहां छूते हैं: लैब उपकरण, वाहन, ट्रेडिंग सिस्टम, औद्योगिक नियंत्रण, मरीज़ों के वर्कफ़्लो। अगर आप इन्हें गिन नहीं सकते, तो आपके पास गवर्नेंस नहीं, आसा है। दूसरा, इनकार के लिए डिज़ाइन कीजिए। समय-संवेदनशील प्रक्रिया के बीच में ना कहने वाला एजेंट कोई खराबी नहीं है; यह एलाइनमेंट काम कर रहा है, और आपके ऑपरेटिंग मॉडल को इस ठहराव को बिना घबराहट के सहना चाहिए। तीसरा, ऑपरेटर एजेंट को कभी अपने होमवर्क की ग्रेडिंग न करने दें। Exin को पहले वाले के टूलिंग ठीक करने के लिए संदर्भ से अलग किए गए दूसरे एजेंट की ज़रूरत पड़ी। कर्तव्यों का पृथक्करण एक पुराना नियंत्रण है। उसे बस एक नया क्षेत्र मिल गया है।
2030 की प्रयोगशाला में वैज्ञानिकों के साथ हाथ वाले एजेंट जुड़े होंगे। फायदा उठाने वाली कंपनियां वे नहीं होंगी जिनके एजेंट सबसे दुस्साहसी होंगे। वे वे होंगी जिनके एजेंट ठीक-ठीक जानते हों कि कब रुकना है, और जिनके नेताओं ने डेमो बनाने से पहले स्टॉप बटन बनाया होगा।
गणितीय सोचें। समझदारी से इंजीनियर करें। रणनीतिक रूप से नेतृत्व करें। जिम्मेदारी से बनाएँ। वैश्विक रूप से बढ़ें। आर्टिफिशियल इंटेलिजेंस के माध्यम से वास्तविक व्यावसायिक मूल्य बनाएँ।
