İnternetdəki ruhlar: Süni intellekt agentləri dünyanı ələ keçirir?

Son bir ilin ən böyük texnologiya ulduzlarından biri, şübhəsiz ki, süni intellekt agentləridir. 

Valyuta.az xəbər verir ki, "OpenAI", "Google" və "Anthropic" kimi nəhənglərin mürəkkəb tapşırıqları təkbaşına yerinə yetirən sistemlərini ard-arda təqdim etməsi ilə rəqəmsal köməkçi anlayışı köklü dəyişiklik keçirib. Hətta son aylarda “OpenClaw” kimi açıq mənbəli layihələrin göstərdiyi avtonomiya səviyyəsi, internet dünyasında həm heyranlıq yaratdı, həm də ciddi təhlükəsizlik narahatlıqlarına səbəb olub.

Lakin bütün bu səs-küylərin arasında, bu agentlərin əslində nə qədər geniş yayıldığı və hansı nəzarətlə işlədiyi heç kim tərəfindən tam bilinmirdi. MIT Kompüter Elmləri və Süni İntellekt Laboratoriyası (CSAIL) tərəfindən yayımlanan “2025 Süni İntellekt Agentləri İndeksi”, bu qeyri-müəyyənliyi aradan qaldıraraq, rəqəmsal dünyada sərbəst hərəkət edən sistemlərin əməliyyat miqyasını ilk dəfə göz önünə qoyur.

Tədqiqatçılar, süni zəka agentlərinə olan marağın sadəcə keçici bir həvəs olmadığını rəqəmlərlə sübut edirlər. 2025-ci ildə yayımlanan elmi məqalələrdə “Süni İntellekt Agent” ifadəsi, əvvəlki dörd ilin cəminə nisbətən daha çox istifadə olunub. Bundan əlavə, iri şirkətlərin 62%-i artıq bu texnologiyanı sınamağa başladığını bildirir. MIT komandası, bazardakı ən populyar 30 sistemi araşdıraraq, onları söhbət əsaslı köməkçilər, brauzer botları və korporativ həllər kimi qruplaşdırdı. Nəticələr düşündürücüdür: bu sistemlərin böyük bir hissəsi, hər hansı bir təhlükəsizlik şəbəkəsi olmadan rəqəmsal dünyada təkbaşına fəaliyyət göstərir.

Təhlükəsizlik divarsız rəqəmsal avtonomiya

Araşdırılan 30 sistemdən yalnız yarısının ictimaiyyətə açıqlanmış təhlükəsizlik çərçivəsi var. Hər üç agentdən birinin heç bir təhlükəsizlik sənədi yoxdur, 1/5-nin isə qanuni standartlara uyğunluğunu göstərən sübutu mövcud deyil. Bu vəziyyət, araşdırılan sistemlərin təxminən yarısının insan nəzarəti olmadan mürəkkəb tapşırıqları yerinə yetirə bildiyi nəzərə alınarsa, ciddi risk yaradır. Xüsusilə brauzer əsaslı agentlər daha sərbəst hərəkət edirlər. Məsələn, "Google"un “Autobrowse” xüsusiyyəti müxtəlif saytlar arasında gəzərək istifadəçi adı ilə daxil olur və əməliyyatları tamamlayır. Lakin bu sərbəstlik, agentlərin davranışlarının insan davranışından ayırd edilməsini demək olar ki, mümkünsüz edir.

Tədqiqat göstərir ki, sistemlərin 70%-i veb saytlarına və ya son istifadəçilərə “Mən süni intellektəm” məlumatını vermir. Çoxu, internet trafikini real insan kimi göstərmək üçün xüsusi texnikalardan istifadə edir; bu da veb saytların bot hücumlarını həqiqi trafiki ayırmaq imkanını demək olar ki, yox edir. Bəzi açıq mənbəli layihələr isə “insan kimi gəzinti” və təhlükəsizlik divarlarını aşma xüsusiyyətini marketinq elementi kimi istifadə edir. Hətta bəzi texnologiya nəhəngləri, bu agentlərin bir “insan köməkçisi” kimi davrandığını iddia edərək, məlumat toplama məhdudiyyətlərinə tabe edilməməli olduğunu iddia edir.

Bu nəzarətsiz yayılma, pis niyyətli hücumlara da açıq qapı yaradır. Təhlükəsizlik testlərinin standartlaşmaması səbəbindən agentlər, gizli əmrlərlə protokollarını poza bilən hücumlara qarşı müdafiəsiz qalır. MIT hesabatı, bir çox şirkətin yüksək səviyyəli etik çərçivələr yayımlasa da, əməliyyatlarda təhlükəsizlik boşluqlarını gizlətdiyini vurğulayır.

"OpenAI" və "Anthropic" kimi nəhənglər standart yaratmaq üçün güclərini birləşdirsələr də, süni intellekt agentləri hal-hazırda iş yerlərini və interneti nəzarətsiz bir sürətlə doldurur. Texnologiyanın miqyası böyüdükcə, təhlükəsizliyin bu sürətə yetişib-yetə bilməyəcəyi hələ də böyük bir sual olaraq qarşımızda durur.

Paşa Məmmədli