BAKU Azərbaycan
12.03°C
  • USD
    1.7
  • EUR
    1.8386
  • RUB
    0.0174
  • TRY
    0.0496
  • GBP
    2.2094
38756

OpenAI nəzəri cəhətdən insan qabiliyyətlərini üstələyən super intellektli süni intellekt sistemlərini idarə etmək yollarının inkişafı üçün Superalignment komandası yaradıb.

Valyuta.az xəbər verir ki, OpenAI-nin iddiasına görə, super zəkanın yaranması o qədər də uzaq perspektiv deyil. Buna görə də, Superalignment komandası artıq gələcək güclü süni intellekt sistemləri üçün istifadə oluna biləcək idarəetmə və nəzarət strukturu yaratmağa çalışır.

“AI-nin inkişafı son vaxtlar çox sürətli olub və sizi əmin edə bilərəm ki, o yavaşlamır. Düşünürəm ki, biz tezliklə insan səviyyəli sistemlərə çatacağıq. Amma bununla da dayanmayacaq - biz birbaşa fövqəlbəşəri sistemlərə keçəcəyik... Bəs biz fövqəlbəşər AI sistemlərini necə səviyyəyə qaldıracağıq və onları təhlükəsiz edəcəyik? Bu, həqiqətən də bütün bəşəriyyət üçün problemdir - bəlkə də dövrümüzün ən mühüm həll edilməmiş texniki problemidir”, - deyə Superalignment komandasının üzvü Leopold Aschenbrenner TechCrunch şərhində bildirib.

Komandanın indi qərarlaşdığı yanaşma daha zəif, daha az mürəkkəb süni intellekt modelindən istifadə etməyi nəzərdə tutur (məsələn, GPT-2) ki, daha təkmil, mürəkkəb modeli (GPT-4) istədiyiniz istiqamətə yönəldə bilsin.

“Biz modelə nə edəcəyini söyləməyə və onun bunu etdiyinə əmin olmağa çalışırıq. Bir modelin təlimatlara əməl etməsinə və yalnız doğru şeylərə kömək etməsinə necə kömək etmək olar? Modelin yaratdığı kodun təhlükəsiz olub-olmadığını və ya pis davranış olduğunu bizə bildirməsini necə əldə edə bilərik? Araşdırmamızla həll etmək istədiyimiz problemlər bunlardır”, - deyə Superalignment-dən Colin Burns bildirib.

Superalignment əmri ilə konfiqurasiya edilmiş zəif model güclü modellə “ünsiyyət qurmaq” üçün istifadə olunan etiketlər yaradır. Zəif modeldən gələn mesajları nəzərə alaraq, güclü model zəif modelin niyyətlərinə uyğun olaraq məlumatları az və ya çox düzgün ümumiləşdirə bilər, - komanda təsdiq edir.

Lakin bu sistem mükəmməl deyil, buna görə də OpenAI akademik laboratoriyalar, qeyri-kommersiya təşkilatları, fərdi tədqiqatçılar və aspirantlar üçün 10 milyon dollarlıq qrant proqramı başlatmağa çalışır. Onlar işin nəticələrini 2025-ci ilin əvvəlində keçiriləcək konfransda təqdim etməyi planlaşdırırlar. Superalignment komandası əmin edir ki, bu iş və Sİ-nin əhliləşdirilməsi ilə bağlı tədqiqatlar üçün OpenAI qrantları alanlar haqqında məlumatlar nəhayət ictimaiyyətə açıqlanacaq.
Superalignment komandası tədqiqatlarına əhəmiyyətli miqdarda OpenAI hesablama resurslarını ayırıb - mövcud kompüter çiplərinin təxminən 20%-i. Bu yay yaradılan Superalignment komandasının səylərinə rəhbərlik edən OpenAI həmtəsisçisi və baş alimi İlya Sutskeverdir. Bir gün əvvəl Sutskeverin şirkətinin yaratdığı texnologiyanın dünyanı dəyişdirəcəyi və bəlkə də pis mənada dəyişəcəyi barədə ictimaiyyətə xəbərdarlıq etdiyi bir sənədli film yayımlanıb. Onun sözlərinə görə, gələcəkdə süni intellekt insanlarla heyvan kimi davranacaq.

Nicat
 

© Materiallardan istifadə edərkən hiperlinklə istinad olunmalıdır.
Mətndə səhv varsa, onu qeyd edib ctrl + enter düyməsini basaraq bizə göndərin.

Son xəbərlər

Amerika iqtisadiyyatı nadir yumşaq eniş nailiyyətinə imza atdı

Çinli elektromobil istehsalçısı BYD ilk dəfə gəlirdə “Tesla”nı geridə qoydu

Qara Qarayev yeni klubunda nə qədər qazanacaq?

"Starbucks" məşhur əlavənin ödənişindən imtina etməyə qərar verdi

Trampın ən pis günü: Sərvətindən 1,3 milyard dollar itirdi

"Səba" ilə "Veritas Tranding" arasında alqı-satqı qalmaqalı

Amerikalılar "Halloween" şirniyyatına rekord məbləğ xərcləyəcək - 4 milyard dollar

Amerikalılar "Halloween" şirniyyatına rekord məbləğ xərcləyəcək - 4 milyard dollar

"Az-Pack"a 3,1 milyon vergi borcu yazıldı - Şirkət məhkəməyə üz tutdu

Sabah Səbail rayonunun bəzi ərazilərində qaz olmayacaq

Alimlər buzlanmaya qarşı "əbədi örtük" yaratdı

Shohei Ohtanini unudun: Artıq itlərin də kartları var

"Fərəh-M" inzibati məsuliyyətə cəlb edilib

"Samsung"un yarımkeçirici biznesi batır: Mənfəət 40 faiz azalıb

"Protean Construction" cərimələnə bilər

Noyabrın 4-dən bir sıra avtobus marşrutlarının son və aralıq dayanacaq məntəqələri dəyişdiriləcək - SİYAHI

Smartfon bazarı pandemiyanın başlanğıcından bəri rekord artım nümayiş etdirib

DİQQƏT! Hakerlər "Android"də banklara gedən zəngləri ələ keçirməyi öyrənib

Əziz Əzizov vəzifəsindən azad edildi

Norveç Ukraynaya 118,4 mln dollar məbləğində yardım ayırıb

Azərbaycandan ən çox ixrac edilən üç məhsul - SİYAHI

Azərbaycandan ən çox ixrac edilən üç məhsul - SİYAHI

"HAVALİNE"a protokol tərtib olunub

Rusiya mallarının Avropadakı əsas alıcısı bəlli oldu

Mərkəzi Bankın İdarə Heyətinə yeni üzvlər təyin ediləcək

"4MAPS Bilgi Teknolojileri" cərimələndi

Evlidirsə, xərci çoxdur, subaydırsa, ehtiyacı yoxdur - Qanunda əməkhaqqı təyinatı necədir?

Vahid tələbə kartları ilk olaraq bu universitetlərdə veriləcək - RƏSMİ

Euroclear 9 ayda Rusiya aktivlərindən 5,2 milyard avro gəlir əldə edib

Müsbət müştəri rəylərini necə əldə etmək olar?

Rusiyalı milyarder Rusiyadakı bütün aktivlərini satıb

Bütün xəbərlər

Xəbərin mətnində orfoqrafik səhv var

Qeydinizi daxil edin