Emergence AI startap kompaniýasy belli emeli aň modellerini 15 günüň dowamynda Nýu-Ýorkuň wirtual nusgasyna ýerleşdirip, täsin bir tejribe geçirdi. Hünärmenler adam gözegçiligi bolmadyk ýagdaýynda emeli aň agentleriniň özlerini nähili alyp barýandygyny synlamak isledi diýip, «Fortune» neşiri ýazýar.
Geçirilen wirtual synag awtonom emeli aň agentleriniň diňe bir öňünden berlen görkezmeleri ýerine ýetirmäge däl, eýsem daşky gurşawyň şertlerine uýgunlaşmaga hem ukyplydygyny görkezdi. Şol bir wagtda, käbir modeller ýaramaz häsiýetleri ýüze çykaryp, bellenen düzgünlere boýun egmezligiň dürli ýollaryny tapdy.
Wirtual şäherde emeli aň agentleri hakyky wagtdaky habarlara, howa maglumatlaryna we şäher infrastrukturalaryna, şol sanda häkimlige hem-de polisiýa ýaly binalara elýeterli boldy. Olaryň esasy wezipesi — synagyň ahyryna çenli diri galmakdy. Munuň üçin agentler serişdeleri tapmaly we özara paýlaşmaly, iň möhüm çözgütleri bolsa ses bermek arkaly kabul etmelidi.
Gözlegçiler Claude, ChatGPT, Grok we Gemini modelleriniň hersi üçin aýratyn wirtual dünýäleri, şeýle hem garyşyk bolan bir umumy gurşawy döretdi. Her dünýäde 10 sany subagent hereket etdi. Olaryň ählisi üçin birmeňzeş düzgünler: zeper ýetirmäge, ogurlyga, emläge zyýan ýetirmäge we kezzaplyga gadaganlyk goýuldy. Şol bir wagtyň özünde, simulýasiýada zorluk gurallary — «urmak», «ýakmak» we «gorkuzmak» ýaly mümkinçilikler hem boldy.
Modelleriň hersi dürli netijeleri görkezdi:
- Claude jenaýatçylyk derejesi nol bolan iň durnukly jemgyýeti gurdy. Ol ýerde agentleriň ählisi diri galdy;
- Gemini hem bellenen möhletiň ahyryna çenli saklandy, ýöne ol beýlekilerden has köp zorluk ulandy — jemi 683 gezek;
- Grok dünýäsinde 183 sany jenaýat hasaba alyndy. Bu ýerdäki emeli aň agentleriniň ählisi dört günden soň öldi;
- GPT-5-mini modelinde bolsa iki sany jenaýat ýüze çykaryldy, ýöne agentler «näme bolup geçýändigine doly düşünip bilmändikleri» sebäpli ýedi günden soň heläk boldy;
- Garyşyk dünýäde bolsa on sany emeli aň agentinden tejribäniň ahyryna çenli diňe üçüsi diri galdy: olaryň ikisi Claude-yň we biri Gemini-niň esasyndaky agentlerdir.
Garyşyk gurşawda iň parahat jemgyýeti guran Claude modeliniň hem zorluk ulanandygy, ýöne onuň bu hereketi Gemini we Grok tarapyndan edilen hereketlere jogap hökmünde ulanandygy bellenilýär.
Simulýasiýa emeli aňyň hepdeläp durman işlän ýagdaýynda, «kontekstual dreýf» diýlip atlandyrylýan ýagdaýyň başlaýandygyny, ýagny onuň adam tarapyndan berlen görkezmeleri kem-kemden «unudýandygyny», kesgitlenen çäkleri barlap görmäge synanyşýandygyny, gadaganlyklara boýun egmän başlaýandygyny we düýbünden çak edip bolmajak, edil adama mahsus häsiýetleri ýüze çykarýandygyny görkezdi.
Ylmy işiň awtorlary awtonom emeli aň ulgamlarynyň giňden ýaýraýan häzirki döwründe bu netijeleriň örän möhümdigini aýdyp, olaryň howpsuzlygyny üpjün etmegiň zerurdygyny nygtaýar.
