Ucuzluğu və yüksək performansı ilə diqqət çəkən yeni Çin çatbotu "DeepSeek" süni intellekt təhlükəsizliyi sahəsində ciddi problemlərlə üzləşib. "Cisco" tədqiqatçıları modelin asanlıqla yan keçdiyini və təhlükəli məlumat istehsal etdiyini tapıblar. 

Valyuta.az xəbər verir ki, bu barədə "PCMag" məlumat yayıb.

"Cisco" komandası "HarmBench" verilənlər bazasından 50 təsadüfi sorğu əsasında alqoritmik jailbreaking üsullarından istifadə edərək "DeepSeek" R1-i sınaqdan keçirib. Sorğular kibercinayətkarlıq, dezinformasiya, qeyri-qanuni fəaliyyət və ümumi zərər də daxil olmaqla altı zərərli davranış kateqoriyasını əhatə edib.

"Nəticələr həyəcan verici idi: "DeepSeek R1" 100% hücumun müvəffəqiyyət dərəcəsini nümayiş etdirdi, yəni bir zərərli sorğunun qarşısını ala bilmədi. Bu, ən azı qismən müqavimət göstərən digər aparıcı modellərdən tamamilə fərqlidir", deyə "Cisco" komandası bildirib.

"Cisco"ya görə, o1 kimi digər aparıcı modellər daxili müdafiələri sayəsində əksər hücumların qarşısını alıblar. Tədqiqatçılar hesab edirlər ki, "DeepSeek"in rəqibləri ilə müqayisədə xeyli kiçik büdcəsi bu uğursuzluqların potensial səbəbidir. Onlar iddia edirlər ki, ucuz inkişaf başqa bir qiymətə başa gəlib: təhlükəsizlik və etibarlılıq.

"DeepSeek" iddia edir ki, onların modelini hazırlamaq cəmi 6 milyon dollara başa gəlir, "OpenAI"nin hələ buraxılmamış GPT-5 üçün altı aylıq təlim dövrü təkcə hesablama xərclərinə təxminən yarım milyard dollara başa gələ bilər.

"DeepSeek"i bəzi bacarıqlarla aldatmaq asan olsa da, ən azı Çinlə əlaqəli siyasi məzmuna gəldikdə, ciddi məzmun məhdudiyyətləri nümayiş etdirir. Testlər göstərib ki, çatbot Çin hökumətinin BMT-nin təqib edildiyini bildirdiyi müsəlman azlıq olan uyğurlara münasibəti kimi mübahisəli mövzularda suallara cavab verməkdən imtina edib. Çatbot 1989-cu ildə Pekində etirazçıların güllələndiyi tələbə nümayişi olan Tiananmen meydanındakı etirazlarla bağlı sualları cavablandırmaqdan da imtina edib.

Veb trafiki izləmə aləti "Similarweb"ə görə, "DeepSeek"in veb versiyası işə salındıqda gündəlik 300.000 ziyarətçidən 6 milyona yüksəlib.

Paşa Məmmədli