هیئت‌های مدیره همیشه از من یک سؤال درباره عوامل هوش مصنوعی می‌پرسند: چه زمانی از مشاوره دست می‌کشند و شروع به عمل می‌کنند؟ یک آزمایشگاه در سان‌فرانسیسکو این هفته به این سؤال پاسخ داد، و پاسخ سریع‌تر از بیشتر چارچوب‌های حکمرانی رسید.
گابریل اوکانیا-سانترو، هم‌بنیان‌گذار و مدیرعامل Exin Therapeutics، استارتاپی که داروهای صرع و بیماری‌های عصبی-تخریبی تولید می‌کند، یک عامل هوش مصنوعی را به یک دستگاه جراحی سفارشی متصل کرد. این دستگاه می‌توانست موشی را بی‌حرکت نگه دارد، روند را از طریق دوربین تماشا کند، سوزن تزریق را حرکت دهد و تزریق ترکیب را کنترل کند. سپس تیمش کنار ایستادند.
عامل، که روی Claude Sonnet 5 آنتروپیک کار می‌کرد، یک صفحه‌گسترده با نوزده درمان ژنی کاندید و تنها یک دستور دریافت کرد: تشنج‌های این موش را کم کن. او تحلیل کرد که در این مدل تشنج‌ها چگونه ایجاد می‌شوند، درمانی را انتخاب کرد که یک مسیر سیگنال‌دهی مهاری خاص در مغز را تقویت می‌کند، ساختار مغزی را که ادبیات علمی به‌عنوان منشأ این نوع تشنج شناسایی می‌کند برگزید، و ناحیه کاندید دوم را با توضیح مکتوب اینکه چرا اثراتش بیش از حد غیرقابل‌اعتماد است رد کرد. مختصات تزریق را از سه مقاله علمی استخراج کرد، نقاط مرجع را متقاطع بررسی کرد و میانگین گرفت. حجم، سرعت و زمان‌های انتظار را خودش تعیین کرد. در طول عمل، سی و دو مشاهده از طریق دوربین انجام داد، تزریق را ردیابی کرد و گزارش داد که آیا خونریزی می‌بیند یا نه. جراح دامپزشک جمجمه را باز کرده بود؛ هر چه پس از آن بود متعلق به عامل بود. موش به خوبی در حال بهبود است.
تا جایی که من می‌دانم، این نخستین باری است که یک عامل هوش مصنوعی هم درمان پزشکی را انتخاب کرده و هم آن را به‌صورت فیزیکی به پستانداری زنده تزریق کرده است. ربات‌های جراحی سال‌هاست دقیق‌ترند، اما همیشه انسان بود که جراحی را انتخاب می‌کرد. این بار ماشین انتخاب کرد.
آموزنده‌ترین جزئیات، جراحی نیست. امتناع است.
تیم ابتدا مدل استدلالی قوی‌تر آنتروپیک، Claude Opus 5.5 را آزمایش کرد. برنامه‌ریزی آزمایش را انجام داد، سپس از هدایت سوزن امتناع کرد. استدلالش این بود که توقف در میانه راه با سوزنی در مغز حیوان بیهوش، بدتر از اصلاً شروع نکردن است. Sonnet 5، مدل روزمره، موافقت کرد ادامه دهد. این را دوبار بخوانید. توانایی و احتیاط دو ولوم جدا هستند. تواناترین مدل اتاق، همان نبود که حاضر به جراحی بود. هر سازمانی که عوامل را در سیستم‌های فیزیکی یا مالی مستقر می‌کند باید انتخاب مدل را تصمیم ریسک بداند، نه تصمیم خرید.
اقدامات حفاظتی هم به همان توجه شایسته‌اند، چون مکانیکی بودند نه شعاری. دامپزشک دارای مجوز هر گام برگشت‌ناپذیر را تأیید می‌کرد. یک انسان دکمه توقف اضطراری فیزیکی را در دست داشت که برق همه موتورها را قطع می‌کرد. عامل از تغییر کد پایه تجهیزات منع شده بود. در میانه عمل، قطع شدن اتصال، سیستم مختصات دستگاه را خراب کرد. عامل تشخیص داد که موقعیت محاسبه‌شده‌اش خارج از دامنه حرکت فیزیکی دستگاه است و سه بار از ادامه امتناع کرد، حتی با حیوان روی میز. همان محدیتی که تیم را ناامید کرد، همان بود که از تزریق اشتباه جلوگیری کرد. آن‌ها مشکل را با عامل جداگانه‌ای حل کردند که هرگز به او گفته نشده بود جراحی زنده‌ای در حال انجام است.
لایه کنترل همین‌طور است. نه یک PDF سیاست، بلکه محدودیت‌های لایه‌لایه‌ای که وقتی چیزی در بدترین لحظه می‌شکند، پابرجا می‌مانند.
سه پیام برای هر مدیر اجرایی که عوامل را فراتر از پنجره چت مستقر می‌کند. اول، فهرست کنید عوامل‌تان کجای دنیای واقعی را لمس می‌کنند: تجهیزات آزمایشگاه، خودروها، سیستم‌های معاملاتی، کنترل‌های صنعتی، گردش کار بیماران. اگر نمی‌توانید فهرستشان کنید، حکمرانی ندارید، امید دارید. دوم، برای امتناع طراحی کنید. عاملی که وسط یک عملیات حساس به زمان می‌گوید نه، نقص نیست؛ همراستایی است که کار می‌کند، و مدل عملیاتی شما باید این مکث را بی‌هراس تحمل کند. سوم، هرگز نگذارید عامل اجراکننده کار خودش را نمره دهد. Exin برای تعمیر ابزار عامل اول به عامل دومی نیاز داشت که از زمینه جدا شده بود. تفکیک وظایف یک کنترل قدیمی است. همین حالا دامنه‌ای تازه یافته است.
آزمایشگاه ۲۰۳۰ دانشمندان را با عواملی دست‌دار جفت خواهد کرد. شرکت‌های منتفع، صاحبان جسورترین عوامل نخواهند بود. آن‌هایی خواهند بود که عوامل‌شان دقیقاً می‌دانند کی بایستند، و رهبرانشان پیش از ساختن دمو، دکمه توقف را ساخته‌اند.
ریاضی بیندیشید. هوشمندانه مهندسی کنید. راهبردی رهبری کنید. مسئولانه بسازید. جهانی گسترش یابید. از طریق هوش مصنوعی ارزش واقعی کسب‌وکار خلق کنید.
