Искусственный интеллект и киберфеминизм

Введение

В сфере искусственного интеллекта (далее – ИИ) гендерный дисбаланс является критической проблемой. Из-за того, как разрабатываются системы ИИ, гендерная предвзятость в ИИ может быть проблематичной. Согласно дефиниции, предложенной ОБСЕ:

Искусственный интеллект (ИИ) – это машинная система, которая может для заданного набора определенных человеком целей делать прогнозы, рекомендации или решения, влияющие на реальную или виртуальную среду. Системы искусственного интеллекта предназначены для работы с разными уровнями автономности.

Разработчики алгоритмов могут не осознавать своих предубеждений и скрытых предубеждений и неосознанно передавать роботам свои социально укоренившиеся гендерные предрассудки. Это очевидно, поскольку современные тенденции в машинном обучении укрепляют исторические стереотипы о женщинах, такие как смирение, мягкость и потребность в защите.

Например, роботы-охранники в основном мужчины, а сервисные и секс-роботы — преимущественно женщины. Доктор Сьюзан Ливи из Университетского колледжа Дублина утверждает, что чрезмерное представительство мужчин в разработке технологий ИИ может незаметно свести на нет десятилетия прогресса в области гендерного равенства. Она развивает аргумент, утверждающий, что машинный интеллект учится в первую очередь на основе наблюдения за данными, которые ему предоставляются. Эти данные наполнены [1] стереотипными представлениями о гендере, поэтому она приходит к выводу, что применение технологии увековечит эту предвзятость.

Женщины заинтересованы в построении цифровой экономики, чтобы гарантировать, что то, что Всемирный экономический форум называет четвертой промышленной революцией, не увековечивает гендерные предубеждения. Потребители считают, что женский ИИ более гуманен и надежен и, следовательно, более готов удовлетворить особые требования пользователей. Поскольку феминизация роботов повышает их конкурентоспособность, ИИ пытается очеловечить их, придавая им феминистские характеристики и стремясь к приемлемости в роботизированном обществе, где доминируют мужчины.

Существует риск того, что в технологиях машинного обучения будут закодированы предубеждения, если женщины не внесут значительный вклад. Разнообразные команды, состоящие как из мужчин, так и из женщин, не только лучше распознают искаженные данные, но и с большей вероятностью выявляют проблемы, которые могут иметь тяжелые социальные последствия.

Риски ИИ для женщин

Хотя ИИ часто называют созданием улучшенного и более эффективного будущего, важно также задаться вопросом, кого он продвигает вперед, а кто остается позади в технологической революции.

В 2018 году Amazon отказалась [2] от своего инструмента подбора персонала с использованием ИИ, обнаружив, что он автоматически понижает рейтинг резюме, принадлежащих женщинам. По сути, система Amazon научилась тому, что кандидаты-мужчины предпочтительнее. Система исключала резюме, в которых содержались слова «женское», например, «капитан женского шахматного клуба». Amazon отредактировал программы, чтобы сделать их нейтральными по отношению к этим конкретным условиям. Но это не было гарантией того, что машины не придумают другие способы сортировки кандидатов, которые могут оказаться дискриминационными, говорят люди.

Эксперимент компании, о котором Reuters первым сообщил, предлагает тематическое исследование ограничений машинного обучения. Это также служит уроком для растущего списка крупных компаний, включая Hilton Worldwide Holdings Inc HLT.N и Goldman Sachs Group Inc GS.N, которые автоматизировали часть работы HR.

Поскольку использование и развитие ИИ продолжает развиваться, пришло время задаться вопросом: как будет выглядеть завтрашний рынок труда для женщин? Эффективно ли мы используем возможности ИИ для сокращения разрыва в гендерном равенстве, или позволяем этим разрывам увековечиваться или, что еще хуже, расширяться? Рассматривая, какие рабочие места заменит ИИ, данные показывают [3], что ИИ с большей вероятностью заменит женские рабочие места, чем мужские.

В отчете Международной организации труда говорится, что ИИ может заменить около 4% рабочих мест, занимаемых женщинами во всем мире. Напротив, только 1% работающих мужчин подвергается аналогичному риску. В странах с высоким уровнем дохода разрыв еще более значителен: 8% женских рабочих мест сталкиваются с угрозой автоматизации, тогда как только 3% мужских рабочих мест подвергаются [4] риску.

Не только женщины уязвимы перед ошибочной природой ИИ. Ранее были угрозы, которую машинное обучение представляет для транс-сообщества, и чтобы увидеть примеры расизма и трансфобии в действии, достаточно заглянуть в поисковую систему Google.

В 2016 году в одной из статьей [5] сообщалось, что женщина, которая после поиска в Google «непрофессиональных причесок для работы» увидела изображения натуральных афропричесок, тогда как поиск «профессиональных причесок для работы» привел к фотографиям белых женщин с опрятными прическами с хвостиками.

Платформа «Феминист» https://www.feministinternet.com, основанная Шарлоттой Уэбб в 2018 году, работает над предотвращением проникновения предубеждений в системы ИИ. Некоммерческая организация надеется сделать интернет более безопасным и демократичным пространством, борясь со случаями онлайн-злоупотреблений и троллинга. Уэбб и его разнообразная команда недавно выпустили свой первый продукт: феминистский чат-бот, предназначенный для обучения пользователей вопросам, связанным с искусственным интеллектом, известный как F'xa — прямая игра на помощнике Alexa от Amazon https://f-xa.co.

Феминистский искусственный интеллект

Британская ученая Элисон Адам начала критиковать ИИ с феминистской точки зрения, показывая, что он имеет глубоко консервативную основу. Ее цель состояла в том, чтобы объединить гендер, расу и класс в частности, а также власть в более общем плане в критику ИИ, задав вопросы:

• Как ИИ используется и для каких целей?
• Как ИИ представляет знания?
• А какие знания используются в системах ИИ?

Эти феминистские вопросы стали для нее отправной точкой для формулирования понятия феминистского искусственного интеллекта (ФИИ), и как ИИ может быть основан на феминистской теории и использован в феминистских исследованиях.

В выступлении [6] Джози Янг (2019) «Почему нам нужно создавать феминистский искусственный интеллект» приводились доводы в пользу необходимости ФИИ для противодействия сексистским и вредным последствиям голосовых помощников на базе искусственного интеллекта, таких как Siri и Alexa.

На вопрос «Почему у большинства голосовых помощников женские имена по умолчанию и почему у них покорный характер?» ответ можно найти в докладе ЮНЕСКО [7]. Идея заключается в том, что в технических группах, разрабатывающих эти услуги и другие передовые цифровые инструменты, почти нет женщин.

В исследовании дается несколько рекомендаций, в том числе совет прекратить делать цифровых помощников женщинами по умолчанию; программировать их так, чтобы препятствовать гендерным оскорблениям и ненормативной лексике; и развитие передовых технических навыков женщин и девочек, чтобы они могли руководить созданием новых технологий вместе с мужчинами.