"OpenAI"dan xəbərdarlıq: Al brauzerləri heç vaxt tam təhlükəsiz olmaya bilər

"OpenAI" süni intellekt (Al) dəstəkli brauzerlərin “prompt injection” hücumlarına qarşı heç vaxt yüz faiz təhlükəsiz vəziyyətə gətirilə bilməyəcəyini etiraf edir. Bununla belə, şirkət bu vəziyyətin sektorun mübarizədən imtina etməsi anlamına gəlməməli olduğunu vurğulayır. "OpenAI"nin fikrincə, fırıldaqçılara təslim olmaq əvəzinə məhsulları daha dayanıqlı hala gətirməyin effektiv yolları mövcuddur.

Valyuta.az xəbər verir ki, şirkət süni intellekt dəstəkli brauzeri "Atlas" haqqında dərc etdiyi yeni bloq yazısında kiber təhlükəsizlik risklərini və bu risklərə qarşı tətbiq etdiyi yanaşmanı ətraflı izah edib. Ortaya çıxan mənzərə pessimist görünsə də, "OpenAI" uzunmüddətli perspektivdə risklərin azaldılması mövzusunda nikbindir.

"OpenAI" prompt injection hücumlarını internet üzərindən edilən dələduzluq və sosial mühəndislik üsulları ilə müqayisə edir. Şirkətin bloq yazısında deyilir:

"Prompt injection, internet dələduzluqları kimi, ehtimal ki, heç vaxt tam həll edilə bilməyəcək. Lakin proaktiv və sürətli işləyən müdaxilə dövrü sayəsində real dünyadakı riskləri zamanla ciddi şəkildə azalda biləcəyimizə inanırıq".

"OpenAI"a görə avtomatik hücum aşkarlanması, hücumçulara qarşı xüsusi şəkildə öyrədilmiş süni intellekt modelləri və sistem səviyyəli təhlükəsizlik tədbirləri birlikdə tətbiq edildikdə, yeni hücum növləri daha erkən mərhələdə müəyyən edilə bilir. Bu da təhlükəsizlik boşluqlarının daha tez aradan qaldırılmasına və hücumların xərcinin getdikcə artmasına səbəb olur.

Prompt injection istifadəçinin xəbəri və ya razılığı olmadan zərərli bir əmrin süni intellekt sisteminə gizli şəkildə “yeridilməsi” deməkdir. Bu hücum növündə süni intellekt əslində istifadəçinin deyil, hücumçunun göstərişlərini yerinə yetirir.

Məsələn, bir süni intellekt brauzeri ziyarət edilən veb-saytın bütün məzmununu oxumaq səlahiyyətinə malik ola bilər. Əgər həmin sayt zərərli niyyətlidirsə və ya ələ keçirilibsə, səhifənin daxilində gizlədilmiş bir əmr yerləşdirilə bilər. Ağ fonda ağ rənglə yazılmış mətn kimi çətin fərq edilən üsullar istifadə edildikdə, süni intellekt bu əmri qəbul edib icraata başlaya bilər. Üstəlik, istifadəçi bundan ümumiyyətlə xəbər tutmaya bilər.

Gizli əmrlər nələr edə bilər?

Bu cür hücumlar geniş təsir dairəsinə malikdir. Gizli bir prompt:

– həssas faylların sızdırılmasına,
– zərərli brauzer əlavələrinin endirilib işə salınmasına,
– istifadəçi adından icazəsiz əməliyyatların aparılmasına səbəb ola bilər.

"OpenAI"ın həlli: süni intellektə qarşı süni intellekt

"OpenAI" bu təhlükəyə qarşı qeyri-ənənəvi bir üsul tətbiq edir. Şirkət möhkəmləndirici öyrənmə (reinforcement learning) ilə təlim keçmiş bir süni intellekti “haker” roluna salaraq sistemlərə necə sızmağın mümkün olduğunu araşdırır. Bu hücumçu süni intellekt müdafiə tərəfindəki başqa bir süni intellektlə davamlı şəkildə qarşı-qarşıya gətirilir.

İki sistemin bir-birini üstələməyə çalışdığı bu prosesin sonunda müdafiə tərəfdəki süni intellekt xeyli güclənir və hücum texnikalarının böyük hissəsini aşkar edə biləcək səviyyəyə çatır. "OpenAI" bu üsulla prompt injection riskini tamamilə aradan qaldırmasa da, onu əhəmiyyətli dərəcədə nəzarət altına almağı hədəfləyir.

Paşa Məmmədli