Süni zəka ilə dəstəklənən axtarış motorları, elmi əsası olmayan və irqçi məlumatları doğru kimi təqdim etdiyi üçün ciddi tənqidlərə məruz qalır.

Valyuta.Az-ın məlumatına görə mütəxəssislər bildirirlər ki, süni zəkanın internetdəki qərəzli məzmunları heç bir süzgəcdən keçirmədən öyrənməsi bu problemin əsas səbəbidir.  

ABŞ mərkəzli “Wired” jurnalı, süni zəka ilə dəstəklənən axtarış motorlarının irqçi məzmunları yaydığını ortaya qoyan bir məqalə yayımlayıb. Araşdırmaya görə, “Google”, “Microsoft” və “Perplexity” kimi şirkətlərin süni zəka sistemləri, ağdərililərin genetik üstünlüyünü müdafiə edən, elmi əsasları olmayan məlumatlara əsaslanan cavablar təqdim edir.  

Bu iddialar Böyük Britaniya mərkəzli "Hope Not Hate" təşkilatının tədqiqatçısı Patrik Hermanssonun (Patrik Hermansson) araşdırmalarına əsaslanır. Hermansson, “Pakistan IQ” və ya “Sierra Leone IQ” kimi sadə axtarışlarda, “Google”un “AI Overviews” funksiyasının ağ üstünlüyünü dəstəkləyən köhnə bir məlumat dəstinə əsaslanan nəticələr verdiyini aşkar edib. Məsələn, Pakistanın IQ səviyyəsi 80, Sierra Leone-ninki isə 45,7 olaraq göstərilmişdi. Halbuki bu məlumatlar nasistlərə simpatiya bəsləyən, elmi əsası olmayan mənbələrdən alınmışdı.  

Eyni vəziyyətin “Microsoft Copilot” və “Perplexity” kimi sistemlərdə də müşahidə edildiyi bildirilib. Bu, süni zəkanın qərəzsiz olmadığını, əksinə, internetdəki yanlış və qərəzli məlumatları da öyrənib yaydığını bir daha göstərir.  

“Doğru-yanlış süzgəcindən keçirmədən məlumat öyrənir”

Rəqəmsal texnologiyalar üzrə mütəxəssis Tolqa Mürtəzaoğlu bu mövzu ilə bağlı belə deyir:
“Doğru-yanlış süzgəcindən keçirmədən qarşısına çıxan hər məlumatı öyrənir. İnternetdəki irqçi məlumatlar da buna daxildir. Buna görə süni zəka sistemləri qərəzsiz deyil, çox vaxt öyrəndiyi qərəzi əks etdirir.”

Mürtəzaoğlu, MIT tədqiqatçısı Coy Buolamvininin (Joy Buolamwini) 2018-ci ildə apardığı bir araşdırmaya istinad edir. Buolamvini üz tanıma alqoritmlərini test edərkən qaradərili qadınların düzgün tanınmadığını müəyyən etmişdi. Hətta sistemdə öz üzünü tanıtmaq üçün ağ maska taxmaq məcburiyyətində qalmışdı. Bu vəziyyət alqoritmik qərəzlərə qarşı mübarizəni gücləndirdi və “Algorithmic Justice League” (AJL) kimi təşəbbüslərin yaranmasına səbəb oldu.

“Qaradərili xəstələrin simptomları ciddiyə alınmaya bilər”

Bu problem yalnız üz tanımada deyil, digər sahələrdə də müşahidə olunur. Mürtəzaoğlu, “Twitter”in bir dövr fotoları işləyərkən ağdərili insanları ön plana çıxardığını və qaradərili qadınları evdar qadın, qaradərili kişiləri isə bina xidmətçisi və ya potensial cinayətkar kimi təsnif etdiyini xatırladır. Hətta səhiyyə sektorunda belə bəzi diaqnoz alqoritmləri qaradərili xəstələrin simptomlarını ciddi qəbul etmir.

Bundan əlavə, süni zəkanın bəzən “halüsinasiyalar” görməsi, yəni yanlış məlumatları doğru kimi qəbul etməsi ciddi təhlükə yaradır. Mürtəzaoğlu bu vəziyyəti belə izah edir:

“Sağlam qidalanma məsləhəti istəyən birinə süni zəka mineral tərkibinə görə hər gün bir parça daş yeməyi tövsiyə edə bilər. Çünki duyğu, əxlaq və ya etik qaydalara malik deyil. Məlumatlar arasında əlaqə qurarkən tamamilə məntiqsiz nəticələrə gələ bilir.”

“Afrika ölkələrinin zəkasını aşağı göstərən cavablar verir”

Süni zəka internetdə geniş yayılan məlumatları istifadə edir. Əgər bir mövzu haqqında səhv və ya irqçi məlumatlar hətta akademik məqalələrdə çoxluq təşkil edirsə, süni zəka bunu doğru kimi qəbul edir. Mürtəzaoğlu bildirir ki, bəzi süni zəka modelləri Afrika ölkələrinin zəkasını aşağı səviyyədə göstərən cavablar təqdim edir. Ancaq burada məsuliyyətin süni zəkanın özündə deyil, ona səhv məlumatları öyrədən sistemlərdə olduğunu vurğulayır.

Qərəzlilik süni zəkanı etibarsız hala gətirə bilər

Bu cür problemlərə qarşı “Algorithmic Justice League” kimi təşəbbüslər böyük əhəmiyyət daşıyır. Mürtəzaoğlu bu təşəbbüslərin alqoritmlərin daha ədalətli və qərəzsiz işləməsi üçün bir müdafiə mexanizmi olduğunu qeyd edir. Ancaq texnologiyanın daha böyük problemi qərəzlilikdir.

Mürtəzaoğluna görə, süni zəka ilə bağlı ən böyük təhlükə bu texnologiyanın hələ tam inkişaf etməmiş vəziyyətdə həyatımıza daxil olmasıdır: “Rəqabət səbəbindən vaxtından qabaq təqdim edildi. Əgər etika, ədalət və şəffaflıq ön planda tutulmazsa, süni zəka gələcəkdə daha böyük problemlərə yol aça bilər.”

Nəticə etibarilə, mütəxəssisin xəbərdarlıqları süni zəkanın təhlükəsiz və qərəzsiz işləməsi üçün diqqətli nəzarət və inkişaf prosesinə ehtiyacımız olduğunu bir daha xatırladır. Əgər bu problem həll edilməzsə, texnologiya ilə insanlıq arasındakı güvənin ciddi şəkildə zədələnəcəyi aydındır.

Rəhim