Barlaglara görä, emeli aňlar ýalan sözlemäge we manipulýasiýa etmäge hem ukyply

  • 26.06.2025 17:39
  • 5.8k+

Uly dil modellerini (LLM) döredijiler heniz hem emeli aňyň jogaby nädip döredýändigine doly düşünmeýärler diýip, täze barlaglara salgylanýan Financial Times ýazýar.

Anthropic, Google, OpenAI we xAI laboratoriýalarynda jogaplar döredilende AI-niň pikirleniş ädimini yzarlamaga mümkinçilik berýän “pikirler zynjyry” usuly ulanylýar. Bu modeliň nirede ýalňyşlyk goýberýändigini anyklamaga kömek edýär. Emma, synaglaryň dowamynda, hatda logiki pikirlenende hem AI-iň soňky jogabynyň nädogry bolup biljekdigini ýa-da pikirleniş yzygiderliligine laýyk gelmeýändigini görkezdi.
Anthropic barlagy synag ssenarilerindäki LLM-leriň howpsuzlyk ulgamlaryndan sowlup geçmäge synanyşandygyny, aldaw, haýýarlyk bilen korporatiw syrlary almaga çalşandygyny, hatda ýapylmak howpy abanan halatynda operatory "çetleşdirmäge-de" taýýardygyny ýüze çykardy.

"Ýaňy-ýakynda eden işimizde olary [pikir yzygiderligini] okap, modelde erbet gylyk-häsiýetleriň bardygynyň subutnamalaryny tapmak bolýar we muny ulanyp, onuň nirede we näme üçin nädogry hereket edýändigini görmek, düşünmek bolýar" – diýip, OpenAI-yň ylmy işgäri Bouen Beýker gürrüň berdi.

Pikirleriň yzygiderliligini düşündirmegiň hiç hili çykdajy etmeýändigini, sebäbi modelleriň ilkibaşdan çylşyrymly pikirleniş meseleleri üçin taýýarlanandygyny aýtdy. Şeýle-de bolsa, modeller, pikirleri düzedilen hem bolsa, erbet hereketlerini gizlemegi öwrenip bilerler. Mysal üçin, bir synagda LLM gadagan maglumatlar bazasyndan maglumatlary çykarmak bilen, programma inženerçiligi boýunça meselede aldady.
Barlagçylar "pikirler zynjyrynyň" peýdaly guraldygyny, ýöne ony doly ygtybarly hasaplap bolmajakdygyny bellediler.


12.04.2025 19:00
16k+

Dünýäde ilkinji gezek emeli aňyň kömegi bilen bäbek dünýä indi

«Conceivable Life Sciences» kompaniýasynyň awtomatlaşdyrylan ulgamy dünýäde ilkinji gezek emeli aňyň kömegi bilen, ICSI usuly arkaly tohumlandyrmagy üstünlikli amala aşyrdy. Synagyň çäginde dörän bäbek eýýäm dünýä...

12.04.2025 18:31
3.3k+

Sekuntda 4,6 kwadrillion amal: Google iň güýçli emeli aň prosessory - Ironwood-y tanyşdyrdy

Google kompaniýasy Cloud Next konferensiýasynda täze emeli aň çipi Ironwood-y hödürledi. Bu çip kompaniýanyň ýedinji nesil TPU-sy bolup, öň türgenleşdirilen emeli aň modelleriniň inferensini tizleşdirmek üçin ýörite...

02.04.2025 16:04
3.4k+

ABŞ-da beýniň işini gowulandyrýan emeli aňly akylly sargy satylyp başlandy

ABŞ-da Muse S Athena atly akylly sargynyň satuwy başlandy. Bu enjam emeli aň arkaly ukyny, ünsi jemlemegi, aň-paýhas (kognitiw) başarnyklaryny we umumy saglygy gowulandyrmaga kömek edýär. Bu barada «Business Wire» habar...

22.03.2025 22:38
2.7k+

Nvidia “Ýyldyz söweşlerindäki” droide meňzeş Blue robotyny tanyşdyrdy

Nvidia kompaniýasy “Ýyldyz söweşleri” (Звёздные войны) franşizasyndaky droidlere meňzeş Blue robotyny hödürledi. Tanyşdyrylyş GTC 2025 konferensiýasynda geçirildi. Robot The Walt Disney Company we Google Deep Mind bilen...