OpenAI emeli aň modelleriniň ösüşi bilen baglanyşykly bolan töwekgelçiliklere baha bermek we öňüni almak bilen meşgullanjak bölüm başlygyny gözleýändigini yglan etdi. Täze wezipe EA-nyň mümkinçilikleriniň artmagy bilen ýüze çykýan mümkin bolan howplaryň seljerilmegini göz öňünde tutýar.
OpenAI-iň baş direktory Sem Altman X sosial ulgamynda häzirki EA modelleriniň «çynlakaý kynçylyklary döredip başlaýandygyny» ýazdy. Çünki, şeýle ulgamlar sanly howpsuzlykda möhüm gowşaklyklary tapmaga ukyply bolup, ulanyjylaryň hem psihiki ýagdaýyna täsir edip bilýär.
Geljekki ýolbaşçy kompaniýanyň howply ýagdaýlary ýüze çykarmaga we baha bermäge gönükdirilen içerki strategiýasy Preparedness Framework-yň iş ýüzüne geçirilmegine jogap berer. Bu wezipede ýyllyk zähmet haky 555 müň dollar bolup, goşmaça opsionlar hem göz öňünde tutulýar.
Preparedness topary 2023-nji ýylda döredildi we töwekgelçilikleriň giň toplumyny öwrenýär. Bu ugurda ilkinji ýolbaşçy Aleksander Madri bir ýyldan az wagtdan soň OpenAI-iň başga bölümine geçdi. Howpsuzlyk bölümleriniň beýleki ýolbaşçylary hem iş ugurlaryny üýtgetdi, käbirleri bolsa kompaniýadan gitdi.
Şeýle-de, OpenAI beýleki kompaniýalar ýeterlik gorag mehanizmi bolmazdan ýokary töwekgelçilikli modelleri çykarsa, öz howpsuzlyk düzgünlerine gaýtadan seredip biljekdigini aýtdy.
OpenAI emeli aňyň psihiki saglyga ýetirip biljek täsirine aýratyn üns berýär. Ozal kompaniýa garşy şikaýat arzalary berlip, olarda ChatGPT-niň ulanyjylarda depressiýa ýagdaýyny güýçlendirip, sosial üzňelige ýardam edendigi we birnäçe heläkçilikli ýagdaýlara gatnaşygynyň bolandygy aýdylýar. Kompaniýa ulanyjylaryň emosional ýagdaýlaryny bilmegi kämilleşdirmegiň we olary goldaw gulluklaryna gönükdirmegiň üstünde işleýändigini habar berýär.
