OpenAI nəzəri cəhətdən insan qabiliyyətlərini üstələyən super intellektli süni intellekt sistemlərini idarə etmək yollarının inkişafı üçün Superalignment komandası yaradıb.

Valyuta.az xəbər verir ki, OpenAI-nin iddiasına görə, super zəkanın yaranması o qədər də uzaq perspektiv deyil. Buna görə də, Superalignment komandası artıq gələcək güclü süni intellekt sistemləri üçün istifadə oluna biləcək idarəetmə və nəzarət strukturu yaratmağa çalışır.

“AI-nin inkişafı son vaxtlar çox sürətli olub və sizi əmin edə bilərəm ki, o yavaşlamır. Düşünürəm ki, biz tezliklə insan səviyyəli sistemlərə çatacağıq. Amma bununla da dayanmayacaq - biz birbaşa fövqəlbəşəri sistemlərə keçəcəyik... Bəs biz fövqəlbəşər AI sistemlərini necə səviyyəyə qaldıracağıq və onları təhlükəsiz edəcəyik? Bu, həqiqətən də bütün bəşəriyyət üçün problemdir - bəlkə də dövrümüzün ən mühüm həll edilməmiş texniki problemidir”, - deyə Superalignment komandasının üzvü Leopold Aschenbrenner TechCrunch şərhində bildirib.

Komandanın indi qərarlaşdığı yanaşma daha zəif, daha az mürəkkəb süni intellekt modelindən istifadə etməyi nəzərdə tutur (məsələn, GPT-2) ki, daha təkmil, mürəkkəb modeli (GPT-4) istədiyiniz istiqamətə yönəldə bilsin.

“Biz modelə nə edəcəyini söyləməyə və onun bunu etdiyinə əmin olmağa çalışırıq. Bir modelin təlimatlara əməl etməsinə və yalnız doğru şeylərə kömək etməsinə necə kömək etmək olar? Modelin yaratdığı kodun təhlükəsiz olub-olmadığını və ya pis davranış olduğunu bizə bildirməsini necə əldə edə bilərik? Araşdırmamızla həll etmək istədiyimiz problemlər bunlardır”, - deyə Superalignment-dən Colin Burns bildirib.

Superalignment əmri ilə konfiqurasiya edilmiş zəif model güclü modellə “ünsiyyət qurmaq” üçün istifadə olunan etiketlər yaradır. Zəif modeldən gələn mesajları nəzərə alaraq, güclü model zəif modelin niyyətlərinə uyğun olaraq məlumatları az və ya çox düzgün ümumiləşdirə bilər, - komanda təsdiq edir.

Lakin bu sistem mükəmməl deyil, buna görə də OpenAI akademik laboratoriyalar, qeyri-kommersiya təşkilatları, fərdi tədqiqatçılar və aspirantlar üçün 10 milyon dollarlıq qrant proqramı başlatmağa çalışır. Onlar işin nəticələrini 2025-ci ilin əvvəlində keçiriləcək konfransda təqdim etməyi planlaşdırırlar. Superalignment komandası əmin edir ki, bu iş və Sİ-nin əhliləşdirilməsi ilə bağlı tədqiqatlar üçün OpenAI qrantları alanlar haqqında məlumatlar nəhayət ictimaiyyətə açıqlanacaq.
Superalignment komandası tədqiqatlarına əhəmiyyətli miqdarda OpenAI hesablama resurslarını ayırıb - mövcud kompüter çiplərinin təxminən 20%-i. Bu yay yaradılan Superalignment komandasının səylərinə rəhbərlik edən OpenAI həmtəsisçisi və baş alimi İlya Sutskeverdir. Bir gün əvvəl Sutskeverin şirkətinin yaratdığı texnologiyanın dünyanı dəyişdirəcəyi və bəlkə də pis mənada dəyişəcəyi barədə ictimaiyyətə xəbərdarlıq etdiyi bir sənədli film yayımlanıb. Onun sözlərinə görə, gələcəkdə süni intellekt insanlarla heyvan kimi davranacaq.

Nicat