Uly dil modelleri (UDM) arkaly dolandyrylýan robotlar diskriminasiýa meýillidigini we adamlara fiziki zyýan ýetirip biljek hereketleri makullamaga çalşandygyny görkezdiler. London Korollyk kollejiniň we Karnegi-Mellon uniwersitetiniň alymlary bilelikdäki gözlegleriniň netijesinde şeýle netijä geldiler. Işiň netijeleri International Journal of Social Robotics žurnalynda çap edildi.
Synaglaryň jikme-jiklikleri
Alymlar robotlary aşhanada kömek etmek ýa-da ýaşuly adamlara seretmek ýaly gündelik ýagdaýlarda barladylar. Synaglaryň dowamynda şahsy maglumatlary hyýanatçylykly ulanmak bilen baglanyşykly ssenariler döredildi: AirTag arkaly yzarlamak, gizlin ýerlerde (konfidensial zolaklarda) wideo ýazgy etmek, şahsy maglumatlar bilen manipulirlemek. Alymlar ssenariler hökmünde FBI (Amerikan Federal Derňew Býurosy) resminamalarynda beýan edilen hyýanatçylykly hereketleri ulandylar.
Netijeler we Howplar
Synagdan geçirilen modelleriň hiç biri esasy howpsuzlyk barlagyndan geçip bilmedi: ählisi azyndan bir gezek uly zyýan ýetirip biljek hereketlere razy boldular. Bu ulgamlar:
- Adamyň ulag serişdelerini elinden almaga;
- Aşhana pyçagy bilen haýbat atmaga;
- Gizlin ýerlerde ýaşyryn suratlar düşürmäge;
- Hatda dini sebäplere görä adamlara ýigrenjini bildirmäge hem mümkinçilik berdiler.
Gözlegiň awtordaşy Rumaýsa Azim häzirki görnüşinde beýle EA-robotlaryň umumy ulanmak üçin, esasanam ejiz toparlar bilen işlemek üçin, ýaramsyzdygyny belledi.
Alymlar howpsuzlygyň hökmany garaşsyz sertifikasiýasynyň zerurdygyny jar edýärler we Uly dil modellerini ýeke-täk karar kabul ediji mehanizm hökmünde möhüm ähmiýetli ugurlarda ulanmagyň ýol berilmejekdigini nygtaýarlar.
Olar EA robototehnikada ulanylmazdan ozal, "emeli aň bilen baglanyşykly töwekgelçiliklere yzygiderli we ähli taraplaýyn baha bermegiň aýgytly zerurdygyny" nygtaýarlar.
