“Süni intellekt modellərinin necə işlədiyini başa düşməkdə acizik” - Tanınmış tədqiqatçı

“Anthropic” şirkətinin baş direktoru Dario Amodei süni intellektin işləmə prinsiplərinin hələ də geniş şəkildə anlaşılmadığını vurğulayıb və 2027-ci ilə qədər bu sahədə əsas problemləri aşkarlamağı hədəflədiklərini bildirib.

"Valyuta.az" xəbər verir ki, “Anthropic” şirkətinin icraçı direktoru Dario Amodei cümə axşamı yayımladığı yazıda bildirib ki, süni intellekt sahəsində əldə edilən nailiyyətlərə baxmayaraq, bu texnologiyaların daxili mexanizmləri barədə alimlərin bilgisi çox məhduddur.

Amodei vurğulayıb ki, bu texnologiyalar iqtisadiyyat, texnologiya və milli təhlükəsizlik üçün kritik əhəmiyyət daşıyır və çox yüksək muxtariyyətə malik ola bilər. Buna görə də onların necə işlədiyini başa düşmədən istifadə olunması qəbuledilməzdir.

Amodei qeyd edir ki, “OpenAI” tərəfindən yeni təqdim olunan o3 və o4-mini modelləri müəyyən tapşırıqlarda daha yaxşı nəticə göstərsələr də, yanlış cavab verməyə daha çox meyllidirlər. Lakin bu davranışın səbəbləri hələ də məlum deyil.

“Bir süni intellekt sisteminin maliyyə sənədini ümumiləşdirərkən hansı sözləri nə üçün seçdiyini və ya niyə bəzən səhv etdiyini hələ də dəqiq şəkildə izah edə bilmirik,” – deyə Amodei yazır.

“Anthropic” bu istiqamətdə bir neçə texniki irəliləyiş əldə edib. Məsələn, şirkət süni intellektin düşüncə yollarını izah edən və “dairələr” (circuits) adlandırılan struktur elementləri müəyyənləşdirib. Onlardan biri ABŞ şəhərlərinin hansı ştatda yerləşdiyini başa düşməyə kömək edən mexanizm olub. Lakin bu cür strukturların milyonlarla olduğu təxmin edilir və çox az hissəsi tapılıb.

Amodei bildirir ki, gələcəkdə bu texnologiyalara “beyin MRT-ləri”nə bənzər yoxlamalar tətbiq etməklə onların yalan danışmaq, güc əldə etməyə çalışmaq və digər zəifliklərini aşkarlamaq mümkün ola bilər. Bu məqsədlə 5–10 illik uzunmüddətli araşdırmalara ehtiyac var.

Yazıda Amodei həm “OpenAI”, həm də “Google DeepMind” şirkətlərini yorumlanma sahəsində daha çox araşdırma aparmağa çağırır. Həmçinin, hökumətlərə “yumşaq tənzimləmə” tətbiq etməyi – yəni süni intellekt təhlükəsizliyi və qorunma təcrübələrinin açıqlanmasını tələb edən tələblər qoymağı tövsiyə edir.

Amodei eyni zamanda ABŞ hökumətini süni intellekt çiplərinin Çinə ixracına nəzarət qoymağa çağırır ki, qlobal miqyasda nəzarətsiz süni intellekt yarışının qarşısı alınsın.
Amodeinin əsas çağırışı ondan ibarətdir ki, sənaye yalnız süni intellektin gücünü artırmağa deyil, eyni zamanda onun necə işlədiyini anlamağa da kollektiv şəkildə fokuslanmalıdır.

Qeyd edək ki, “Anthropic” süni intellekt modellərinin qərarvermə proseslərini anlamağa yönəlmiş struktur səviyyəsində izahetmə sahəsində aparıcı şirkətlərdən biri hesab olunur. Dario Amodei isə tanınmış süni intellekt tədqiqatçısı və “Anthropic” şirkətinin təsisçilərindən və baş direktorudur. O, daha əvvəl “OpenAI” təşkilatında baş elmi işçi kimi çalışıb və süni intellekt təhlükəsizliyi sahəsində dərin araşdırmalar aparıb.

Sərvanə Rəmixanova