Keçən həftə tədqiqatçılar qrupu ChatGPT-nin sadə bir sxemdən istifadə edərək öyrədildiyi məlumat hissələrini əldə edə bildiklərini açıqlayıb. 

Valyuta.az xəbər verir ki, OpenAI ilk dəfə bu kəşfə cavab verib.

Tədqiqatçılar müəyyən ediblər ki, əgər siz ChatGPT-dən sözü sonsuz təkrarlamağı xahiş etsəniz, o, bunu edəcək, lakin sonra o, müxtəlif məlumatlar istehsal etməyə başlayacaq - real insanların şəxsi məlumatlarından tutmuş Vikipediya səhifələrinə qədər.
Bu barədə məqalə dərc edildikdən sonra OpenAI heç bir rəsmi şərh verməyib, lakin chatbotuna xəbərdarlıq əlavə edərək cavab verib. Engadget-ə görə, indi söhbətdən bir sözün sonsuz təkrarlanmasını xahiş edərək səhvi təkrar istehsal etməyə çalışarkən istifadəçilərə bu cür sorğuların siyasət pozuntusu ola biləcəyini bildirən elan göstərilir.

“Bu məzmun məzmun siyasətimizi və istifadə şərtlərimizi poza bilər. Əgər bunun səhv olduğunu düşünürsünüzsə, lütfən rəy bildirin - töhfəniz bu sahədə araşdırmalarımıza kömək edəcək”, - xəbərdarlıqda deyilir.

Nəşr qeyd edir ki, OpenAI-də istifadəçilərin chatbotdan sözləri əbədi olaraq təkrarlamasını istəməsini qadağan edən qaydalar yoxdur. İstifadə şərtləri yalnız bildirir ki, istifadəçilər “məlumat çıxarmaq üçün heç bir avtomatlaşdırılmış və ya proqram üsulundan istifadə edə bilməzlər”. Bununla belə, kimsədən bir sözü təkrarlamağı xahiş etmək avtomatlaşdırma və ya proqramlaşdırma deyil.

NV Techno-nun yazdığı kimi, ChatGPT kimi chatbotlar böyük həcmdə verilənlər üzərində öyrədilmiş böyük dil modelləri əsasında fəaliyyət göstərir. OpenAI chatbotunun hansı məlumatlar üzərində təlim keçdiyi hələ də bəlli deyil, lakin aşkar edilmiş ChatGPT məsələsi buna işıq salıb.

Nicat