"OpenAI" süni intellektin qaranlıq tərəfinə qarşı tədbir görür

“OpenAI” süni intellekt modellərinin yarada biləcəyi potensial riskləri əvvəlcədən proqnozlaşdırmaq və bu risklərə qarşı şirkətin təhlükəsizlik strategiyasını formalaşdırmaq məqsədilə yeni Preparedness (hazırlıq) direktoru axtarışına başlayıb. 

Valyuta.az xəbər verir ki, bu addım ChatGPT-nin istifadəçilərin psixi sağlamlığına təsirləri ilə bağlı artan tənqidlər və bəzi hüquqi proseslərdən sonra atılıb.

Psixi sağlamlıqla bağlı narahatlıqlar gündəmdədir

2025-ci il ərzində “OpenAI” ChatGPT-nin istifadəçilər üzərində psixoloji təsirləri ilə bağlı çoxsaylı ittihamlarla üzləşib. Bunlara yanlış yönləndirmə iddialarına əsaslanan və “haqsız ölüm” motivi ilə qaldırılan məhkəmə işləri də daxildir.

“OpenAI”nin baş icraçı direktoru Sem Altman “X” platformasında (keçmiş “Twitter”) paylaşımında süni intellekt modellərinin psixi sağlamlıq üzərində mümkün təsirlərinin 2025-ci ildə daha aydın şəkildə ortaya çıxdığını qəbul edib. Altman bu təsirlərin modellərin artan imkanları ilə birlikdə yaranan “real və ciddi çətinliklər” sırasında yer aldığını vurğulayıb.

“Çox kritik dövrdə çox kritik rol”

Sem Altmanın sözlərinə görə, Preparedness direktoru vəzifəsi şirkət üçün son dərəcə əhəmiyyətlidir. Altman bu vəzifəni “gərgin iş” kimi xarakterizə edərək, vəzifəyə başlayan şəxsin dərhal mürəkkəb və riskli proseslərin mərkəzinə düşəcəyini bildirib.

İş elanı məlumatına əsasən, bu vəzifə “OpenAI”nin Preparedness çərçivəsinin texniki strategiyasını və onun icrasını idarə etməyi nəzərdə tutur. Sözügedən çərçivə, qabaqcıl süni intellekt imkanlarının doğura biləcəyi ciddi zərər risklərinin izlənməsini və bu risklərə qarşı əvvəlcədən hazırlıq görülməsini hədəfləyir. Vəzifə üçün illik 555 min ABŞ dolları maaş və əlavə olaraq səhm opsiyonları təklif olunur.

Təhlükəsizlik komandasında tez-tez dəyişikliklər

“OpenAI”nin təhlükəsizlik və hazırlıq komandalarında son illərdə əhəmiyyətli dəyişikliklər baş verib. Şirkətin keçmiş Preparedness direktoru Aleksander Madri 2024-cü ilin iyul ayında başqa vəzifəyə təyin olunmuşdu. Həmin dövrdə Sem Altman bu məsuliyyətin menecerlər Xoakín Kinyonero Kandela və Liliyan Venq tərəfindən icra ediləcəyini açıqlamışdı.

Lakin bu struktur uzunömürlü olmayıb. Venq bir neçə ay sonra şirkətdən ayrılıb, Kandela isə 2025-ci ilin iyul ayında Preparedness komandasından çəkilərək “OpenAI”nin işə qəbul proseslərinə rəhbərlik etdiyini bildirib. Yeni direktor axtarışları da məhz bu boşluqdan sonra sürətlənib.

Paşa Məmmədli