Жасанды интеллект және киберфеминизм

Жасанды интеллекттің гендерлік аспектілерін қарастыру, оның еңбек нарығына әсері және технологиялық әлемдегі әйелдер туралы түсініктер.
Жасанды интеллект және киберфеминизм

Мазмұны

Кіріспе


Жасанды интеллект (бұдан әрі – АИ) саласында гендерлік теңгерімсіздік маңызды мәселе болып табылады. Жасанды интеллект жүйелері қалай жасалатындығына байланысты, жасанды интеллекттегі гендерлік бейімділік проблемалы болуы мүмкін. ЕҚЫҰ ұсынған анықтамаға сәйкес:

Жасанды интеллект (ЖИ) – бұл нақты немесе виртуалды ортаға әсер ететін болжамдар, ұсыныстар немесе шешімдер жасай алатын белгілі бір мақсаттар жиынтығы үшін машиналық жүйе. Жасанды интеллект жүйелері автономияның әртүрлі деңгейлерімен жұмыс істеуге арналған.

Алгоритм жасаушылар өздерінің ескертулері мен жасырын көзқарастарын білмеуі мүмкін және өздерінің әлеуметтік қалыптасқан гендерлік алалаушылықтарын роботтарға бейсаналық түрде беруі мүмкін. Бұл анық, өйткені машиналық оқытудың заманауи тенденциялары кішіпейілділік, жұмсақтық және қорғау қажеттілігі сияқты әйелдер туралы тарихи стереотиптерді күшейтеді.

Мысалы, күзет роботтары негізінен ер адамдар, ал қызмет көрсету және секс-роботтар негізінен әйелдер. Дублин университетінің колледжінің докторы Сьюзан Ливи ерлер жасанды интеллект технологиясын дамытудағы шамадан тыс өкілдігі гендерлік теңдік саласындағы онжылдық прогресті үнсіз жоққа шығаруы мүмкін дейді. Ол машиналық интеллект, ең алдымен, оған берілген деректерді бақылау арқылы үйренеді деген дәлелді дамытады. Бұл деректер гендерлік стереотиптік түсініктерге толы [1], сондықтан ол технологияны қолдану осы көзқарасты жалғастырады деген қорытындыға келеді.

Әйелдер Дүниежүзілік экономикалық форум төртінші өнеркәсіптік революция деп атайтын нәрсе гендерлік бейімділікті жалғастырмауын қамтамасыз ету үшін цифрлық экономиканы құруға мүдделі. Тұтынушылар әйелдердің жасанды интеллектісі адамгершілікті және сенімді, сондықтан пайдаланушылардың ерекше талаптарын қанағаттандыруға дайын деп санайды. Роботтарды феминизациялау олардың бәсекеге қабілеттілігін арттыратындықтан, жасанды интеллект оларды феминистік сипаттамалар беру арқылы ізгілендіруге тырысады және ерлер үстемдік ететін роботтық қоғамда қолайлылыққа ұмтылады.

Егер әйелдер айтарлықтай үлес қоспаса,машиналық оқыту технологияларында ескертушілік кодталу мүмкін. Ерлер мен әйелдердің әртүрлі командалары бұрмаланған деректерді жақсы танып қана қоймайды, сонымен қатар ауыр әлеуметтік салдары болуы мүмкін мәселелерді де анықтайды.

Әйелдер үшін жасанды интеллектің қаупі

Жасанды интеллект көбінесе жақсартылған және тиімдірек болашақты құру деп аталса да, оның кімді алға жылжытып жатқанын және технологиялық революцияда кім артта қалатынын білу маңызды.

2018 жылы Amazon ЖИ-ті қолдана отырып, жалдау құралынан бас тартты [2], ол әйелдерге тиесілі түйіндемелерді автоматты түрде төмендететінін анықтады. Негізінде, Amazon жүйесі ер үміткерлерге артықшылық берілетінін білді. Жүйе «әйелдер шахмат клубының капитаны» сияқты «әйелдер»сөздерін қамтитын түйіндемені алып тастады. Amazon бағдарламаларды осы нақты шарттарға бейтарап ету үшін өңдеді. Бірақ бұл машиналар кемсітушілік болуы мүмкін үміткерлерді сұрыптаудың басқа жолдарын ойламайтынына кепілдік болған жоқ, дейді адамдар.

Reuters бірінші болып хабарлаған компания эксперименті машиналық оқытудың шектеулері туралы тематикалық зерттеулер ұсынады. Бұл сонымен қатар Hilton Worldwide Holdings Inc HL.N және Goldman Sachs Group Inc GS.N HR жұмысының бір бөлігін автоматтандырған,сияқты ірі компаниялардың өсіп келе жатқан тізіміне сабақ ретінде қызмет етеді.

Алдағы бірнеше жыл ішінде жасанды интеллект жұмыспен қамтуда, өнерде және күнделікті өмірде қалай жүретінімізде маңызды рөл атқарады — технологиялық ұйымдар бұл мәселелерді шешу үшін тез әрекет етуі керек.

Жасанды интеллектті пайдалану және дамыту дамып келе жатқандықтан, сұрақ қоюдың уақыты келді: ертеңгі еңбек нарығы әйелдер үшін қандай болады? Біз гендерлік теңдік алшақтығын азайту үшін жасанды интеллект мүмкіндіктерін тиімді пайдаланамыз ба, әлде бұл олқылықтардың мәңгі қалуына немесе одан да жаманы кеңеюіне жол береміз бе? ЖИ қандай жұмыс орындарын алмастыратынын қарастыра отырып, деректер [3] ЖИ ерлерге қарағанда әйелдердің жұмыс орындарын ауыстыратынын көрсетеді [3].

Халықаралық еңбек ұйымының есебінде ЖИ бүкіл әлемдегі әйелдер жұмыс орындарының шамамен 4% – алмастыра алады делінген. Керісінше, жұмыс істейтін ерлердің тек 1%-ы осындай тәуекелге ұшырайды. Табысы жоғары елдерде алшақтық одан да маңызды, әйелдердің жұмыс орындарының 8%-ы автоматтандыру қаупіне ұшырайды, ал ерлер жұмыс орындарының тек 3%-ы тәуекелге ұшырайды [4].

Жасанды интеллекттің қате сипатына тек әйелдер ғана осал емес. Бұрын машиналық оқыту транс-қауымдастыққа қауіп төндіретін және нәсілшілдік пен трансфобияның мысалдарын көру үшін Google іздеу жүйесін қарау жеткілікті.

2016 жылы бір мақалада [5] Google-да «жұмысқа арналған кәсіби емес шаш үлгілерін» іздегеннен кейін табиғи афрошаш үлгілірінің суреттерін көрген әйел туралы хабарланды, ал «жұмысқа арналған кәсіби шаш үлгілерін» іздеу ақ әйелдердің ұқыпты, жиылған шаштары бар фотосуреттеріне әкелді.

«Феминист» платформасы (https://www.feministinternet.com) Шарлотта Уэбб 2018 жылы негізін қалаған, жасанды интеллект жүйелеріне ескертудің енуіне жол бермеу үшін жұмыс істейді. Коммерциялық емес ұйым интернеттегі қиянат пен троллинг оқиғаларымен күресу арқылы интернетті қауіпсіз және демократиялық кеңістікке айналдыруға үміттенеді. Уэбб және оның әр түрлі командасы жақында өздерінің алғашқы өнімін шығарды: пайдаланушыларға жасанды интеллектке қатысты мәселелерді үйретуге арналған феминистік чатбот F'xa- https://f-xa.co. Amazon-нан Alexa көмекшісіндегі тікелей ойын.

Шарлотта Уэбб, феминистік платформаның негізін қалаушы

Феминистік жасанды интеллект

Британдық ғалым Элисон Адам феминистік тұрғыдан да сынай бастады, оның терең консервативті негізі бар екенін көрсетті. Оның мақсаты гендерді, нәсілді және сынына, сондай-ақ билікті жалпы түрде біріктіру болды, келесі сұрақтарды қоя тұра:

  • Қандай және не үшін қолданылады?
  • ЖИ білімді қалай білдіреді?
  • ЖИ жүйелерінде қандай білім қолданылады?

Бұл феминистік сұрақтар оның феминистік жасанды интеллект (ФЖИ) ұғымын тұжырымдауының бастапқы нүктесі болды және ЖИ феминистік теорияға қалай негізделуі және феминистік зерттеулерде қолданылуы мүмкін.

Джози Янг (2019) «Неліктен біз феминистік жасанды интеллект жасауымыз керек» сөзінде [6] Siri және Alexa сияқты жасанды интеллектке негізделген дауыстық көмекшілердің сексистік және зиянды әсерлеріне қарсы тұру үшін ФЖИ қажеттілігі туралы дәлелдер келтірілді.

«Неліктен дауыстық көмекшілердің көпшілігінде әдепкі әйел есімдері бар және олар неге бағынышты?» жауабын ЮНЕСКО [7] баяндамасынан табуға болады. Идея мынада: осы қызметтерді және басқа да озық цифрлық құралдарды әзірлейтін техникалық топтарда әйелдер дерлік жоқ.

Зерттеу бірнеше ұсыныстар береді, соның ішінде цифрлық көмекшілерді әдепкі әйелдер етуді тоқтату туралы кеңес; оларды гендерлік қорлау мен балағат сөздерге жол бермеу үшін бағдарламалау; және әйелдер мен қыздардың бірге жаңа технологияларды құруға жетекшілік ете алатындай озық техникалық дағдыларын дамыту.

🔗 Web Archive сілтемелері:

[1] To be smart, the digital revolution will need to be inclusive: excerpt from the UNESCO science report, 2021, https://web.archive.org/web/20231124115914/https://unesdoc.unesco.org/ark:/48223/pf0000375429

[2] “Amazon’s sexist AI recruiting tool: how did it go so wrong?”, medium.com, Julien Lauret, 2019, https://web.archive.org/web/20231124120131/https://becominghuman.ai/amazons-sexist-ai-recruiting-tool-how-did-it-go-so-wrong-e3d14816d98e?gi=ced083f960a7

[3] The Future of Work in the Age of AI: Job Disruption, Reskilling, and Economic Implications, Techopedia, Alessandro Mascellino, 2023, https://web.archive.org/web/20231124122314/https://www.techopedia.com/the-future-of-work-in-the-age-of-ai

[4] Generative AI and jobs: A global analysis of potential effects on job quantity and quality, Paweł Gmyrek, Janine Berg, David Bescond, 2023, https://web.archive.org/web/20231124122654/https://www.ilo.org/wcmsp5/groups/public/---dgreports/---inst/documents/publication/wcms_890761.pdf

[5] I’m a trans woman – here’s why algorithms scare me, Dazeddigital, Janus Rose, 2019, https://web.archive.org/web/20231124122925/https://www.dazeddigital.com/science-tech/article/43211/1/trans-algorithm-machine-learning-bias-discrimination-chelsea-manning-edit

[6] Why we need to design feminist AI | Josie Young | TEDxLondonWomen, 2019, https://web.archive.org/web/20231124124006/https://www.youtube.com/watch?v=E-O3LaSEcVw

[7] I'd blush if I could: closing gender divides in digital skills through education, UNESCO, 2019, https://web.archive.org/web/20231124124359/https://unesdoc.unesco.org/ark:/48223/pf0000367416.page=1

Сізге сонымен қатар ұнауы мүмкін

Киберфеминизм және феминизмнің отарлық дискурсы
Онлайн кеңістіктегі экоактивизм
Мизогиндік пікірлер және әйелдерге қарсы араздық тілі
Желідегі хейтәңгіме: тану, қарсы тұру және алдын алу