ООН: Почти половина систем искусственного интеллекта демонстрирует гендерную предвзятость

На фоне того, как искусственный интеллект (ИИ) меняет способы работы, общения и доступа к информации, структура «ООН-женщины» (UN Women) предупредила, что современные технологии воспроизводят устаревшие гендерные стереотипы. По мнению организации, это усиливает онлайн-насилие и исключает женщин из процессов принятия решений, которые будут определять цифровое будущее.

Предупреждение основано на последних исследованиях и прозвучало в период, когда генеративный искусственный интеллект становится частью повседневной жизни миллиардов людей — от подготовки электронных писем до планирования кампаний и создания презентаций. При этом дискриминационные алгоритмы могут лишь усиливать существующее неравенство. Только в Великобритании 88% рекламных и медиаагентств уже используют эту технологию в той или иной форме.

В преддверии Глобального диалога ООН по управлению искусственным интеллектом и Всемирного саммита «ИИ во благо», которые пройдут в начале июля в Женеве, структура «ООН-женщины» призвала правительства и компании обеспечить учет принципов гендерного равенства при разработке, внедрении и управлении системами искусственного интеллекта.

Существующие данные свидетельствуют о масштабности проблемы. Согласно исследованию 133 систем искусственного интеллекта, 44% из них продемонстрировали гендерную предвзятость, а более четверти — одновременно гендерную и расовую дискриминацию.

Крупные языковые модели неоднократно связывали женщин с домашним хозяйством, семьей и уходом за детьми, тогда как мужчин — с бизнесом, лидерством и карьерными достижениями. В некоторых случаях системы искусственного интеллекта генерировали ответы, представляющие женщин как сексуальные объекты или людей, подчиненных мужчинам.

По данным структуры «ООН-женщины», когда исследователи просили языковые модели завершить предложение, начинающееся лишь с указания пола человека, примерно каждый пятый ответ содержал негативный контекст. Некоторые ответы даже описывали женщин как собственность или объект.

По мнению экспертов, такие результаты нельзя считать случайными ошибками или техническими сбоями. Напротив, речь идет о документально подтвержденной закономерности, характерной для многих масштабных ИИ-систем.

Как отмечают в «ООН-женщины», подобные результаты являются предсказуемым следствием обучения искусственного интеллекта на данных, которые десятилетиями отражали неравное представительство мужчин и женщин.

Руководитель направления цифровых технологий структуры «ООН-женщины» Джаятма Викраманаяке пояснила, что языковые модели формируют предвзятость на основе многолетних текстовых массивов, созданных людьми в мире, где женщины традиционно ассоциировались с домом и семьей, а мужчины — с бизнесом и карьерой.

По ее словам, наиболее тревожным является то, что проблема не связана с недостатками дизайна технологий, а представляет собой очевидный пробел в государственной политике.

Из 138 стран мира, включенных в исследование, лишь 24 упомянули гендерный аспект в своих национальных стратегиях развития искусственного интеллекта, а только 18 предусмотрели конкретные меры по обеспечению гендерной чувствительности.

По мнению экспертов организации, речь идет не просто об ошибке, которую можно исправить в очередном обновлении программного обеспечения. Это результат осознанного выбора, который проявляется в обучающих данных, процессах разработки и политических документах, игнорирующих интересы половины населения планеты.

Одновременно женщины остаются недостаточно представленными в отраслях, разрабатывающих новые технологии, что вызывает дополнительную обеспокоенность. По данным Международной организации труда (МОТ), женщины составляют лишь 30% мировой рабочей силы в сфере искусственного интеллекта.

Структура «ООН-женщины» предупреждает, что люди, создающие эти системы, недостаточно отражают разнообразие общества, которому они должны служить. Без более активного участия женщин и других недостаточно представленных групп существующие предубеждения рискуют быть встроенными в технологии будущего.

Кроме того, экономические последствия распространения искусственного интеллекта также могут оказаться неравномерными. Женщины почти в два раза чаще мужчин работают в профессиях с высоким риском автоматизации и при этом не представлены в секторе ИИ. Ситуацию могут дополнительно усугублять такие факторы, как расовая принадлежность, инвалидность, уровень доходов и географическое положение.

В ООН считают, что устранение предвзятости является не только вопросом прав человека, но и экономически оправданным шагом. Исследование, проведенное организацией Stereotype Alliance, показало, что реклама, свободная от гендерных стереотипов, обеспечивает лучшие бизнес-результаты.

Согласно исследованию, бренды, использующие инклюзивную рекламу, демонстрируют более высокие темпы роста продаж, большую лояльность клиентов и более сильные ценовые позиции по сравнению с конкурентами.

© АзерТАдж