ABŞ-nin məşhur ünsiyyət platforması 8 mindən çox hesabı səhvən bloklayıb

ABŞ-nin məşhur ünsiyyət platforması "Discord" süni intellekt əsaslı avtomatik moderasiya sistemində baş verən texniki xəta səbəbindən son iki ay ərzində 8 mindən çox istifadəçi hesabının səhvən bloklandığını təsdiqləyib.

Valyuta.az xəbər verir ki, elektron cədvəllər, şahmat lövhələri, oyun teksturaları, eləcə də ağ və boz şəffaf fonlardan ibarət şəkillər səhvən riskli məzmun kimi işarələnib.

Problem may ayından etibarən bəzi istifadəçilərə təsir göstərib. Həftəsonu daha 200 hesabın bloklanmasından sonra şirkət xətanı müəyyən edərək aradan qaldırıb.

"Discord" bildirib ki, təsirlənən bütün hesablar artıq bərpa olunub və ya bərpa prosesi davam edir. Şirkətin sözlərinə görə, avtomatik təhlükəsizlik sistemi istifadəçilərin paylaşdığı məzmunu məlum zərərli materiallar bazası ilə müqayisə edərək işləyir.

Sistem qanunsuz və ya zərərli məzmunun aşkarlanması üçün nəzərdə tutulsa da, bəzi hallarda "false positive" (yanlış müsbət nəticə) verə bilir. Normal şəraitdə belə halların insan moderatorları tərəfindən yoxlanılması nəzərdə tutulsa da, texniki nasazlıq bəzi hesabların birbaşa bloklanmasına səbəb olub.

Hadisədən sonra "X" və "Reddit" platformalarında çoxsaylı istifadəçilər damalı və torşəkilli naxışlardan ibarət adi şəkillər paylaşdıqları üçün hesablarının daimi dayandırıldığını bildiriblər. İstifadəçilərin fikrincə, avtomatik moderasiya sistemi bu tip vizuallara qarşı həddindən artıq həssas davranıb.

Mütəxəssislər hesab edirlər ki, bunun səbəbi keçmişdə bəzi zərərli məzmunların aşkarlama sistemlərindən yayınmaq məqsədilə torşəkilli naxışlardan istifadə etməsi ola bilər. Lakin nəticədə sistem zərərsiz şəkilləri də riskli məzmun kimi qiymətləndirib.

İstifadəçilər bildirirlər ki, daimi hesab bloklarının yalnız avtomatik sistemlərin qərarına əsasən tətbiq edilməsi ciddi problemlər yarada bilər. Xüsusilə "Discord"dan iş, oyun icmaları və gündəlik ünsiyyət üçün istifadə edən şəxslər üçün hesabın bloklanması mühüm çətinliklərə səbəb olur.

"Discord" oxşar halların təkrarlanmaması üçün avtomatik moderasiya sisteminin təkmilləşdirilməsi və əlavə təhlükəsizlik tədbirlərinin görülməsi istiqamətində işlərin davam etdiyini açıqlayıb.

Qeyd edək ki, son illərdə avtomatik moderasiya sistemlərində yanlış qərarlar digər platformalarda da müşahidə olunub. Ötən il "Instagram", "Facebook Groups" və "Tumblr" istifadəçiləri də səbəbi izah edilməyən kütləvi hesab dayandırmaları ilə bağlı şikayətlər səsləndirib.

Rəfiqə Abdin