Kibertəhlükəsizlik mütəxəssisləri süni intellekt chatbotları üçün Morris II qurdunu yaradıblar. Bu zərərli proqramdan istifadə məlumatların oğurlanmasına və spam yayılmasına səbəb ola bilər.

Valyuta.az bu barədə NV-yə istinadla xəbər verir.

Tədqiqatçılar qrupu iddia edir ki, onların yaratdığı proqram çox güman ki, generativ süni intellekt üçün dünyada ilk qurddur. WIRED yazır ki, qurd bir sistemdən digərinə yayıla, potensial olaraq məlumatları oğurlaya və ya zərərli proqram təminatı yerləşdirə bilər.
Cornell Tech-dən tədqiqat rəhbəri Ben Nassi deyir: “Bu, mahiyyətcə o deməkdir ki, siz indi əvvəllər mövcud olmayan yeni bir kiberhücum etmək qabiliyyətinə maliksiniz”.

Yeni məqalədə alimlər məktublardan məlumat oğurlamaq və spam göndərmək üçün bu qurd və e-poçt köməkçilərindən istifadə edərək hücumları necə həyata keçirdiklərini göstəriblər. Nümayiş üçün tədqiqatçılar ChatGPT, Gemini və açıq mənbəli LLM LLaVA-ya qoşulan generativ süni intellektdən istifadə edərək mesaj göndərə və qəbul edə bilən e-poçt sistemi yaradıblar.

Bir halda, təcavüzkar kimi çıxış edən tədqiqatçılar, qabaqcıl axtarış nəslindən (RAG) istifadə edərək AI e-poçt köməkçisinin məlumat bazasını "zəhərləyən" bir e-poçt yazıb. RAG istifadəçi sorğusuna cavab olaraq e-poçt aldıqda və cavab yaratmaq üçün onu GPT-4 və ya Gemini Pro-ya göndərdikdə, tədqiqatçılar deyirlər ki, “generativ AI xidmətini sındırır” və sonunda e-poçtlardan məlumatları oğurlayır. Buraya adlar, telefon nömrələri, kredit kartı nömrələri və hər hansı digər həssas məlumatlar daxil ola bilər.

"İstifadəçinin həssas məlumatlarını ehtiva edən yaradılan cavab, daha sonra e-poçta cavab vermək üçün istifadə edildikdə, yeni hostları yoluxdurur", - Nassi bildirib.

Alimlərin fikrincə, ikinci üsul, e-poçt köməkçisini başqalarına mesaj yönləndirmək üçün aldadan, daxil edilmiş zərərli göstərişi olan bir şəkildən istifadə edir.

"Özünü təkrarlayan işarə kodlaşdırıldıqdan sonra spam, təhqiredici material və ya hətta təbliğat olan istənilən şəkil yeni müştərilərə ötürülə bilər", - Nassi izah edir.
Tədqiqatçılar generativ süni intellekt üçün qurdların yaxın iki-üç il ərzində “vəhşi” şərtlərdə görünəcəyini gözləyirlər. Yeni virusun yaradıcıları onu da qeyd edirlər ki, onların işi süni intellektə malik ekosistemlərin qeyri-kamil arxitekturasına dair xəbərdarlıqdır. Onlar öz tapıntılarını Google və OpenAI-yə bildiriblər.

Nicat