Содержание
Искусственный интеллект — возможность или угроза?
Технологии машинного обучения, такие как искусственный интеллект (ИИ), становятся основными инструментами для формирования и оценки информации в интернете. Модерация и курирование контента часто являются автоматизированной процедурой, в которой алгоритмы и ИИ решают, какой контент удалить или кому его распространить. При ответственном внедрении ИИ может принести пользу обществу множеством различных способов. Однако существует также реальный риск того, что такие технологии пагубно скажутся на основных свободах. Использование ИИ, движимое коммерческими, политическими или государственными интересами, может поставить под серьёзную угрозу права человека, в частности свободу выражения мнения и плюрализм медиа.
Офис представителя Организации по безопасности и сотрудничеству в Европе по вопросам свободы СМИ (ОБСЕ) запустил новый проект, посвященный глубокому влиянию ИИ на свободу выражения мнения (Spotlight on AI and Freedom of Expression (SAIFE).
Цель проекта — способствовать более чёткому пониманию политики и практик правительства, регулирующих органов и интернет-посредников в использовании технологий машинного обучения и их влияния на то, как граждане получают доступ к информации и обмениваются ею.
Бюро Представителя ОБСЕ по вопросам свободы СМИ разработает стратегические рекомендации по наиболее эффективным способам защиты свободы выражения мнения и плюрализма медиа при интегрировании передовых технологий машинного обучения, таких как ИИ.
Особое внимание уделяется четырем проблемным областям: угрозам безопасности, разжиганию ненависти, плюрализму медиа и «надзорному капитализму», в том числе когда:
- ИИ используется для модерации контента для обнаружения и оценки (а) незаконного онлайн-контента, включая угрозы безопасности, такие как экстремистский и террористический контент, и (б) потенциально опасного, но законного, контента с особым акцентом на язык вражды в Интернете и алгоритмическую дискриминационную предвзятость.
- ИИ используется для курирования и персонализации онлайн-контента, с упором на системы рекомендаций по контенту и их влияние на плюрализм СМИ, а также используется в рекламе на основе наблюдения за пользователями и курирования контента посредством профилирования людей и прогнозирования их поведения в будущем.
Рекомендации для стран ОБСЕ
В рамках проекта были разработаны следующие руководящие рекомендации для государств членов ОБСЕ:
- Защищать и продвигать свободу выражения мнений и другие права человека как основной фокус стратегий и политики, связанных с ИИ.
- Сохранять и развивать Интернет как пространство для демократического участия и представительства, а также для плюрализма СМИ.
- Разрабатывать доказательную политику, основанную на инклюзивных процессах, для реагирования на вызовы свободе мнений, свободе информации и свободе выражения мнений.
- Содействовать соблюдению Руководящих принципов предпринимательской деятельности в аспекте прав человека ООН, чтобы предотвратить приоритизацию максимизации прибыли в ущерб правам человека и демократическим ценностям.
- Обязать онлайн-платформы проводить комплексную проверку прав человека, в том числе посредством оценки воздействия на права человека (HRIA) в отношении их политики управления контентом и автоматизированного принятия решений, а также в отношении их деловой практики, например, сбора данных, таргетированной рекламы и дизайна интерфейса.
- Обеспечить ясность, объяснимость и доступность использования ИИ для модерации контента, курирования контента и целевой рекламы.
- Удостоверяться, что защита прав человека не полностью передана на аутсорсинг или автоматизирована, и обеспечить прозрачность любых государственно-частных партнерств.
- Внедрить строгие рамки прозрачности, в том числе предусмотреть всеобъемлющие отчеты о прозрачности, содержащие подробную информацию об использовании ИИ.
- Обеспечить наличие надёжных механизмов защиты от цензуры и слежки, в том числе с помощью механизмов проверки людьми и независимых механизмов обжалования.
- Гарантировать строгую подотчётность, в том числе посредством независимого надзора и независимого аудита, в частности аудита соблюдения прав человека и недискриминации.
- Уважать право на неприкосновенность частной жизни и защиту данных, в том числе путём установления ограничений на рекламу, основанную на слежке, и обеспечения надёжной прозрачности и участия пользователей в деловой практике, основанной на отслеживании и профилировании.
- Продвигать медийную и цифровую грамотность и укреплять полномочия пользователей, свободу действий и контроль над управлением контентом и использованием их данных, в том числе путём предоставления возможности отказаться от любого автоматизированного принятия решений.
- Борьба с несбалансированными и монополизированными рыночными силами и продвижение плюрализма, технологических и медийных инноваций.
- Взаимодействие на многостороннем уровне для обеспечения соблюдения прав человека при разработке и внедрении ИИ для курирования и модерации онлайн-контента.
Казахстан стал участником СБСЕ (Совещание по безопасности и сотрудничеству в Европе) 30 января 1992 года. Это автоматически означало признание Казахстана всеми 48 членами этой международной организации. В 1994 году на Будапештском саммите СБСЕ было переименовано в ОБСЕ. Таким образом, все вышеуказанные рекомендации должны быть приняты во внимание при формировании государственной политики в области развития ИИ в Казахстане.
Выступая на онлайн-конференции «Artificial Intelligence Journey», посвящённой вопросам искусственного интеллекта и анализу данных, Президент Республики Казахстан Касым-Жомарт Токаев отметил: «Это новый мир, в который нас неумолимо и быстро ведут новые технологии. Каким он будет, прекрасным или пугающим, какое будущее мы оставим будущим поколениям, зависит от наших общих усилий — усилий инженеров, IT-специалистов, экономистов и, что очень важно, политиков».
