AI ఏజెంట్ల గురించి బోర్డులు నన్ను ఎల్లప్పుడూ ఒకే ప్రశ్న అడుగుతాయి: అవి సలహా ఇవ్వడం ఎప్పుడు ఆపి చర్య తీసుకోవడం ప్రారంభిస్తాయి? శాన్ ఫ్రాన్సిస్కోలోని ఒక ప్రయోగశాల ఈ వారం ఆ ప్రశ్నకు సమాధానం ఇచ్చింది, మరియు సమాధానం చాలా గవర్నెన్స్ ఫ్రేమ్ వర్క్ ల కంటే వేగంగా వచ్చింది.
ఎపిలెప్సీ మరియు న్యూరోడిజెనరేటివ్ వ్యాధులకు ఔషధాలు అభివృద్ధి చేసే స్టార్టప్ Exin Therapeutics సహ వ్యవస్థాపకుడు మరియు CEO Gabriel Ocana-Santero, ఒక AI ఏజెంట్ ను ప్రత్యేకంగా తయారు చేసిన సర్జికల్ రిగ్ కు కనెక్ట్ చేశారు. ఈ రిగ్ ఎలుకను స్థిరంగా ఉంచగలదు, కెమెరా ద్వారా విధానాన్ని గమనించగలదు, ఇంజెక్షన్ సూదిని కదపగలదు మరియు సంయోగం డెలివరీని నియంత్రించగలదు. అప్పుడు ఆయన బృందం పక్కకు తప్పుకుంది.
Anthropic యొక్క Claude Sonnet 5 పై నడిచే ఈ ఏజెంట్ కు పందొమ్మిది అభ్యర్థి జీన్ థెరపీల స్ప్రెడ్ షీట్ మరియు ఒక్క సూచన ఇవ్వబడింది: ఈ ఎలుక మురిపాలను తగ్గించు. ఇది ఆ మోడల్ లో మురిపాలు ఎలా ఏర్పడతాయో విశ్లేషించింది, మెదడులోని ఒక నిర్దిష్ట నిరోధక సిగ్నలింగ్ మార్గాన్ని బలపరిచే థెరపీని ఎంచుకుంది, ఈ రకమైన మురిపకు మూలస్థానంగా శాస్త్రీయ సాహిత్యం గుర్తించే మెదడు నిర్మాణాన్ని ఎంచుకుంది, దాని ప్రభావాలు అత్యంత అవిశ్వసనీయమని చెప్పే వ్రాతపూర్వక వివరణతో రెండవ అభ్యర్థి ప్రాంతాన్ని తిరస్కరించింది. మూడు శాస్త్రీయ పత్రాల నుండి ఇంజెక్షన్ నిరూపకాలను తెచ్చింది, సూచిక బిందువులను పరస్పరం పరిశీలించి సగటు తీసింది. ఇది స్వయంచాలకంగా పరిమాణం, వేగం మరియు నిరీక్షణ సమయాలను నిర్ణయించింది. విధానం సమయంలో కెమెరా ద్వారా మూప్పై రెండు పరిశీలనలు చేసింది, ఇంజెక్షన్ ను ట్రాక్ చేసింది మరియు రక్తస్రావం కనిపిస్తుందో లేదో నివేదించింది. పశు వైద్య సర్జన్ క్రానియోటమీ చేశారు; అందుకు తర్వాతి ప్రతిదీ ఏజెంట్ దే. ఎలుక బాగా కోలుకుంటోంది.
నా అవగాహన ప్రకారం, AI ఏజెంట్ వైద్య చికిత్సను ఎంచుకుని దానిని ప్రత్యక్షంగా జీవించిన స్తన్యజంతువుకు అందించినది ఇదే మొదటిసారి. సర్జికల్ రోబోట్లు సంవత్సరాలుగా మరింత ఖచ్చితంగా ఉన్నాయి, కానీ శస్త్రచికిత్సను ఎప్పుడూ మనిషే ఎంచుకునేవారు. ఈసారి యంత్రం ఎంచుకుంది.
అత్యంత పాఠం నేర్పే విషయం శస్త్రచికిత్స కాదు. అది తిరస్కారం.
బృందం మొదట Anthropic యొక్క మరింత శక్తివంతమైన రీజనింగ్ మోడల్ Claude Opus 5.5 ను ప్రయత్నించింది. ఇది ప్రయోగ ప్రణాళిక చేసింది, తర్వాత సూదిని నడపడానికి నిరాకరించింది. స్పృహ తప్పిన జంతువు మెదడులో సూది ఉంచి మధ్యలో ఆపివేయడం, అసలు ప్రారంభించకపోవడం కంటే దారుణమని దాని తర్కం. రోజువారీ మోడల్ Sonnet 5 కొనసాగడానికి అంగీకరించింది. దీన్ని రెండుసార్లు చదవండి. సామర్థ్యం మరియు జాగ్రత్త రెండు వేర్వేరు నాబ్ లు. గదిలో అత్యంత సమర్థమైన మోడల్ ఆపరేట్ చేయడానికి సిద్ధమైనది కాదు. ఏజెంట్లను భౌతిక లేదా ఆర్థిక వ్యవస్థల్లో అమలు చేసే ప్రతి సంస్థ మోడల్ ఎంపికను కొనుగోలు నిర్ణయం కాదు, రిస్క్ నిర్ణయంగా భావించాలి.
రక్షణ చర్యలు కూడా అంతే శ్రద్ధకు అర్హమైనవి, ఎందుకంటే అవి మాటలవి కావు, యాంత్రికమైనవి. లైసెన్స్ పొందిన పశువైద్యుడు ప్రతి తిరిగిరాని అడుగును ఆమోదించారు. ఒక మనిషి అన్ని మోటార్ల విద్యుత్ ను కత్తిరించే భౌతిక అత్యవసర స్టాప్ బటన్ ను పట్టుకున్నారు. ఏజెంట్ పరికరాల అంతర్లీన కోడ్ ను సవరించకూడదని నిషేధించబడింది. విధానం మధ్యలో, కనెక్షన్ తెగిపోవడం రిగ్ యొక్క నిరూపక వ్యవస్థను దెబ్బతీసింది. ఏజెంట్ తన గణిత స్థానం పరికరం యొక్క భౌతిక పరిధికి బయట ఉందని గుర్తించి, జంతువు బల్లపై ఉన్నప్పటికీ, మూడుసార్లు కొనసాగడానికి నిరాకరించింది. బృందాన్ని నిరాశపరిచిన ఆ పరిమితి, తప్పు ఇంజెక్షన్ ను ఆపిన పరిమితి కూడా అదే. ప్రత్యక్ష శస్త్రచికిత్స జరుగుతోందని ఎప్పుడూ చెప్పని ప్రత్యేక ఏజెంట్ తో వారు దీన్ని పరిష్కరించారు.
కంట్రోల్ ప్లేన్ అంటే ఇదే. పాలసీ PDF కాదు, కానీ చాలా చెత్త సమయంలో ఏదైనా విరిగినప్పటికీ నిలిచే పొరల పొరల పరిమితులు.
చాట్ విండో కంటే ఆచితూచి ఏజెంట్లను అమలు చేసే ప్రతి నిర్వాహకుడికి మూడు సూచనలు. మొదటిది, మీ ఏజెంట్లు నిజ ప్రపంచాన్ని ఎక్కడ తాకుతున్నాయో జాబితా చేయండి: ల్యాబ్ పరికరాలు, వాహనాలు, ట్రేడింగ్ వ్యవస్థలు, పారిశ్రామిక నియంత్రణలు, రోగుల వర్క్ ఫ్లోలు. వాటిని జాబితా చేయలేకపోతే, మీ దగ్గర గవర్నెన్స్ లేదు, ఆశ ఉంది. రెండవది, తిరస్కారం కోసం డిజైన్ చేయండి. సమయానికి సున్నితమైన విధానం మధ్యలో వద్దనే ఏజెంట్ లోపం కాదు; అది అలైన్ మెంట్ పనిచేస్తోంది, మరియు మీ ఆపరేటింగ్ మోడల్ ఆ విరామాన్ని భయం లేకుండా తట్టుకోగలగాలి. మూడవది, ఆపరేటర్ ఏజెంట్ తన స్వంత పనికి తానే మూల్యాంకనం చేయనివ్వకండి. Exin కు మొదటిదాని పనిముట్లను సరిచేయడానికి సందర్భం నుండి వేరుచేయబడిన రెండవ ఏజెంట్ అవసరమైంది. విధుల విభజన పాత నియంత్రణ. దానికి ఇప్పుడే కొత్త రంగం దక్కింది.
2030 ప్రయోగశాలలో శాస్త్రవేత్తలతో చేతులున్న ఏజెంట్లు జతవుతారు. ప్రయోజనం పొందే సంస్థలు అత్యంత ధైర్యవంతమైన ఏజెంట్లున్నవి కావు. తమ ఏజెంట్లు ఎప్పుడు ఆగాలో ఖచ్చితంగా తెలిసినవి, మరియు డెమో కట్టడానికి ముందే స్టాప్ బటన్ కట్టిన నాయకులవి అవుతాయి.
గణితపరంగా ఆలోచించండి. తెలివిగా ఇంజనీర్ చేయండి. వ్యూహాత్మకంగా నడపండి. బాధ్యతగా నిర్మించండి. ప్రపంచవ్యాప్తంగా విస్తరించండి. ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ ద్వారా నిజమైన వ్యాపార విలువను సృష్టించండి.
