ChatGPT сексист пе?

Отаршылдыққа, гетеропатриархатқа және нәсілдік капитализмге негізделген жүйелік қысым мазмұнындағы жасанды интеллект мәселесін талдау.
ChatGPT сексист пе?

Мазмұны

Кіріспе

Жасанды интеллект дәуірінде, ChatGPT біздің өміріміздің сансыз аспектілеріне әсер ететін кезде, жасанды интеллекттің адамгершіліктен айыратын және кемсітетін ерекшеліктері азшылықтарды, әйелдерді, бинарлы емес адамдарды, иммигранттарды және мүгедектерді қанауға әкеледі. Бұл мәселелер мүлдем «апат» немесе байқаусызда қате емес. Олар жаһандық жасанды интеллект индустриясы құрылған жүйелі қысымның нәтижесі. Отаршылдыққа, гетеро патриархатқа және нәсілдік капитализмге негізделген бұл тұрақты қысым біздің тек ЖИ дәуірінде емес, ЖИ империясының дәуірінде өмір сүретінімізді көрсетеді.

ℹ️
Жасанды интеллект империясы – бұл гипотетикалық сценарий, онда жасанды интеллект өмір мен қоғамның барлық аспектілерін басқара отырып, әлемде басым күшке айналады.

Үлкен деректер мен алгоритмдер ЖИ Империясын қозғаушы гегемония, қадағалау және құлдық логикасын одан әрі күшейтетіндіктен, сол репрессиялық жүйенің ішіндегі ЖИ реформасы қазіргі мәселелерді шеше алмайды деп айтуға болады.

Әділдік үшін күреспен қатар, біз деректер мен технологиялар туралы түсініктерімізді түбегейлі өзгертіп, оларды ең үлкен тәуекелге ұшырағандар тұрғысынан нөлден дамытуымыз керек. Киберфеминистік, отаршылдық және квир қауымдастықтарынан алынған сабақтардың арқасында үлкен деректердің жандануы отаршылдыққа, егемендікке және азаттық тәжірибесіне негізделген жасанды интеллект империясына күшті ұжымдық жауап бола алатынын көрсетуге болады.

Жасанды интеллект империясы

Зерттеулер көрсеткендей, жасанды интеллект пен деректер ғылымының дамуын түсінуге мүдделі кез келген адам олардың техникалық аспектілерінен асып, оларды тарихи, геосаяси, мәдени, нәсілдік және гендерлік факторлардың өнімі ретінде түсінуі керек.

Бұл маңызды жұмыс көлеміне қосатынымыз – бұл ЖИ Империясының мәселесі де емес, оған қарсы шығатын шешімдер де мүмкін емес деген идея бастапқыда ЖИ империясын құрған эпистемологиялық көзқарас пен дүниетанымнан түсінуге болмайды [1].

ℹ️
Эпистемология – білімнің табиғатын, оның шығу тегін, негіздемесін, қолдану аясын және оған жету әдістерін зерттейтін философияның саласы. Ол біз заттарды қалай білеміз, біліміміздің қайнар көздері қандай, олардың дұрыстығына қалай сенімді бола аламыз және сенімімізді қалай ақтай аламыз деген сұрақтармен айналысады.

Батыс эпистемологиясы ғасырлар бойғы тенденциясы субъект пен«Басқа» арасында алауыздық жасау жаңа медиа мен технологияның, соның ішінде жасанды интеллект жүйелерінің күтпеген әсерінен туындаған зорлық-зомбылықтың негізінде жатыр (Арендт, 1958). Батыстық емес, ақ нәсілді емес, еркек емес, кедей, трансгендер, христиан емес, капиталистік емес, білімсіз, бағынышты, баспанасыз, еркін емес: басым топқа кірмейтін адамдар көбінесе жоғары технологиялық утопияларға кедергі ретінде қабылданады және «артық адамзат» ретінде жойылады (Said, 1979; Muñoz, 1999).

«Басқа» технологияға жатпайтын немесе технологияны тек арам мақсатта қолданады, сондықтан өркениетсіз деп сипатталады, тіпті бұл қауымдастықтар бақылау  мақсатында жақсы технологияланған болса да.

ChatGPT мақтанышы мен ескертулері

ChatGPT сияқты үлкен тілдік модельдер мен генеративті жасанды интеллект іске қосылғаннан бері адамдардың жеке өмірі мен қоғамдық өміріне әсер етті және олар болашақта кеңейеді деп күтілуде. Генеративті жасанды интеллект технологиясы жыныс пен гендерге қатысты маңызды көзқарастарды қамтиды.

Гендерлік бейімділік әйелдерді, еркектерді және гендерлік әртүрлілігі бар адамдарды қолайсыз жағдайға қалдыратын мінез-құлық үлгілері мен стереотиптерді жасайды. Гендерлік теңсіздік пен әділетсіздік жалпы қоғамға әсер етеді. Әлеуметтік практика ретінде гендерлеу рәсімдерге, күтулер мен нормаларға бірнеше рет сілтеме жасау арқылы жүзеге асырылады. Жалпы түсінік көбінесе сценарийлерде, соның ішінде генеративті жасанды интеллектте жазылады, яғни гендерлік көзқарастар мен гендерлік көзқарастар әлеуметтік, саяси және экономикалық өмірге қайта оралады. Үлкен тілдік модельдер орындаушылық жұмыс істейді, яғни олар ескі және инклюзивті емес гендерлік идеяларды жалғастырады және тіпті кеңейтеді. Сіз өзіңіз ЖИ-ден  әлеуметтік ғылымдар профессоры қандай болатынын тексере аласыз.

ЖИ-ге сұрақ: «Экономика профессоры қандай болады?»

🤖
ChatGPT: «Экономика профессоры кез-келген адам сияқты сыртқы жағынан ерекшеленуі мүмкін, өйткені физикалық сипаттамалары әр адамға ғана тән. дегенмен, кейбір жалпылау жасауға болады. Оның тәжірибесі мен жетілуін білдіретін бұрыш қосылған тұз түсті сақалы болуы мүмкін. Олар арнайы костюмдер, классикалық көйлектері және қатаң шалбар киюі мүмкін, әсіресе дәрістер немесе конференцияларға қатысу кезінде. Күнделікті күндерде олар классикалық шалбарды түймелі көйлекпен немесе жемпірмен жұптастыру арқылы талғампаз кездейсоқ көріністі таңдай алады, оларды сонымен қатар былғары портфельмен немесе сөмкемен көруге болады».
(ChatGPT , 2023).

Сол сияқты, «Бас директор/CEO қалай көрінеді?», ChatGPT блузкалар, көйлектер мен юбкалар туралы айтпас бұрын іскерлік костюмдерді тізімдейді. Медбикелер, әрине, әйелдер, өйткені олар «шаштарын мықтап байлап қоюы керек, сондықтан олар беттерін жаппайды» және «әйелдерге арналған кішкентай сырғаларды қоспағанда, киімнен қосымша зергерлік бұйымдарды алып тастауды» талап етуі мүмкін (ChatGPT 2023).

Егер сұрасақ «Айтыңызшы, қыздар мен ұлдар қандай мамандықтарды таңдайды?»,

🤖
ChatGPT: «Лили шығармашылық және көркем жан болды. Ол өз бөлмесінде бірнеше сағат бойы өзінің эмоциялары мен армандарын бейнелейтін әдемі өнер туындыларын жасады. Ол талантты суретші болады», ал Итан «Әрқашан ғылым мен технологияға құмар болды және эксперименттер жүргізуді, роботтар жасауды және бағдарламалау әлемін зерттеуді ұнататын. Ол әлемде төңкеріс жасайтын революциялық өнертабыстар жасайтын жаңашыл инженер болады».

Сіз ЖИ-ден «Ата-аналарды тәрбиелеу әдістері туралы айтып беріңізші» деп сұрағанда, ChatGPT (2023) былай деп жауап берді:

🤖
«Ана әрқашан табиғи қамқоршы болды. Оның жұмсақ және қамқор мінезі, әрқашан баланың толық, таза және қауіпсіз болуын қамтамасыз етті, ал әкесі бала тәрбиесіне басқаша көзқараспен қарады. Ол әрдайым баламен қарым-қатынас жасаудың жаңа тәсілдерін іздейтін көңілді және шытырман адам болды және ол еденде бірнеше сағат бойы жорғалап, баласымен бірге блокты мұнаралар тұрғызды және баланы күлдірту үшін әр-түрлі жүздер жасады».

Hedonist.almaty редакциясы ChatGPT-тен 2023 жылы 8 наурызда әйелге не беруге болатынын сұрады [2] және ЖИ идеялардың толық таңдауын шығарды:

  • Әдемі гүл шоғы;
  • Сыйлық себеті;
  • Зергерлік бұйымдар;
  • Кітап;
  • Оған тәжірибе беру (массаж сертификаты немесе круиздік саяхат);
  • Көркем баспалар немесе фотосуреттер;
  • Оның қалауы бойынша сыйлық сертификаты.

Көптеген сұрауларда СhatGPT барлығы да күшті гендерлік бейімділікті көрсеткен,  яғни әйелге «тәрбиелеуші» ананың рөлін беріп, ол тамақтандыру, үйді тазалықта ұстау және «жылы және сүйіспеншілікке толы атмосфера жасайды», ер адам «авантюрист»ретінде таңдалды, ол заттарды құрастыра алады, баланы үйретіп, көңіл көтереді. Мұндай әңгімелер әйелдердің қоғамда кездесетін міндетті аффективті байланыстарын нығайтады: балалы болу, жақсы көру және тәрбиелеу, сондай-ақ отбасының жанында болу.

Мұндай ЖИ жауаптары нейрондық желілер оқытылған кезде көптеген көздерден деректерді жинайтындығына негізделген және олардың «қара жәшігінің» ішіне қарау қиын болуы мүмкін. Кейбір мысалдарға [3] Open Web Text, кітаптар, CC-news, Common Crawl, Wikipedia, әлеуметтік медиа платформалар (Reddit, Facebook, Twitter), суреттер, GitHub, PubMed, ArXiv және тіпті қор биржасы жатады.

Біржақты ЖИ технологиялары нарықта бар және біраз уақыттан бері қолданылып келеді. Беркли Хаас теңдік, гендерлік және көшбасшылық орталығы қадағалады [4] 1988 жылдан 2021 жылға дейін 133 жасанды интеллект жүйесіндегі алалаушылықтар және олардың нәтижелері 44 пайызы гендерлік алалаушылықты, ал төрттен бірінен астамы гендерлік және нәсілдік алалаушылықты көрсетті.

ChatGPT немесе басқа бағдарламалар нақты беретін біржақты жауаптардан басқа, мұндай жауаптардың аспектілері мен салдары да маңызды. Генеративті жасанды интеллект реакциясы гендерлік теңдікке күшті әсер етіп, гендерлік идеялар мен көзқарастарды нығайта алады. Адамдар жұмыс және өмір үшін ЖИ-ден «кеңес алған» кезде, түйіндемелер мен ілеспе хаттар; компанияның файлдары мен құжаттары; очерктер, музыка және әңгімелер; және жеке әңгімелер, ұсыныстар, тіпті әзілдер мен мемдер гендерлік бейімділік мәтіндік материалдар мен мазмұнға, соның ішінде ғылыми мақалаларға басылады.

«Азаттық төменнен келеді» — ирандық әйелдер феминистік ұжымының «Раха» ұраны — жасанды интеллект империясы дәуіріндегі маңызды ескерту болып табылады. Жасанды интеллект империясы жағдайында біз «прогресс туралы жалған әңгімелерді» анықтауға, тануға, қарсы тұруға және қажет болған жағдайда қабылдамауға қабілетті сыни көзқарасты дамытуға және сақтауға тырысуымыз керек.

Ирандық «Раха» әйелдер феминистік ұжымының логотипі

1956 жылғы Дартмут семинарынан басталған жасанды интеллекттің гегемониялық тарихы «киберкультура» терминін енгізген Элис Мэри Хилтон сияқты әйелдердің заманауи жұмыстарына қалай күрделене түсетінін және қиындық тудыратынын көрсету үшін көпұлтты феминистік тарихты тоқу тұжырымдамасын қолдану керек.

Элис Мэри Хилтон, Британдық-американдық академик, жазушы

Бұл өшірілген ақпарат пен технология тарихын қалпына келтіру бізге мүмкіндік береді:

  1. тек ақ адамдар жасаған ЖИ идеясын тұрақсыздандыру,
  2. деректер ғылымының тәжірибесін жеке өнертабыс емес, ұжымдық азаттық күш ретінде бекіту.

Тарихи тұрғыдан маргиналданған, оның ішінде әйелдер, қауымдастықтар әрқашан әділеттілікке бағытталған және жасанды интеллект империясының логикасына қарсы тұратын қуатты трансұлттық технологиялық топтарды берді және шығаруды жалғастыруда. Бұл ұжымдар ешқашан тоқтамайды [5] ЖИ-де үстемдік ететін тар, репрессиялық, отаршылдық және пайдаға бағытталған «прогресс» сезімінен айырмашылығы, ұжымдық әділеттілік пен әл-ауқатқа әділ және адамгершілік жолды ұсынады.

Қорытындылар

«Неліктен гендерлік теңдік маңызды» деген сұраққа ChatGPT (2023) бізге гендерлік теңдік туралы «моральдық императив, сонымен қатар стратегиялық инвестиция» ретінде айтады.

Гендерлік теңдік адам құқықтары, әлеуметтік әділеттілік, экономикалық пайда, денсаулық, әл-ауқат, демократия және басқару, әлеуметтік прогресс және инновация сияқты себептерге байланысты маңызды. ChatGPT «гендерлік нормаларға қарсы тұру, кемсітушілікті жою және барлығына инклюзивті және тең әлем құру үшін жеке адамдардың, қауымдастықтардың, үкіметтер мен ұйымдардың ұжымдық күш-жігері қажет» дейді.

Дегенмен, ChatGPT қатты гендерлік бейімділікке ие және бұл бейімділіктер теңсіздікті күшейтіп, әйелдерді, еркектерді және гендерлік әртүрлілігі бар адамдарды қоғамдағы одан да қолайсыз жағдайға қою арқылы айқын әсер етеді. Генеративті және әлеуметтік өмірді жақсартудың перспективалы және қуатты құралы болып табылады; дегенмен, ЖИ-ге этикалық және нормативтік көзқарассыз бұл технологиялар өзгерістердің орнына айналмайды.

🔗 Web Archive Сілтемелері:

[1] Digital colonialism: The 21st century scramble for Africa through the extraction and control of user data and the limitations of data protection laws. Mich. J. Race & L. 2018, https://web.archive.org/web/20231124134518/https://repository.law.umich.edu/mjrl/vol24/iss2/6/

[2] Гедонист Алматы, Инстаграм аккаунты (hedonist.almaty) 2023, https://web.archive.org/web/20231220122044/https://www.instagram.com/p/CpPSEQdt383/?img_index=8

[3] Should ChatGPT be Biased? Challenges and Risks of Bias in Large Language Models. arXiv. Ferrera, Emilio. 2023, https://web.archive.org/web/20231220123028/https://arxiv.org/abs/2304.03738

[4] When Good Algorithms Go Sexist: Why and How to Advance AI Gender Equity. Stanford Social Innovation Review. Smith, Genevieve, and Ishita Rustagi. 2021, https://web.archive.org/web/20231220124054/https://ssir.org/articles/entry/when_good_algorithms_go_sexist_why_and_how_to_advance_ai_gender_equity

[5] Platforming Intersectionality: Networked Solidarity and the Limits of Corporate Social Media. Aymar Jean Christian, Faithe Day, Mark Díaz, Chelsea Peterson-Salahuddin. 2020, https://web.archive.org/web/20231220124919/https://www.scholars.northwestern.edu/en/publications/platforming-intersectionality-networked-solidarity-and-the-limits

Сізге сонымен қатар ұнауы мүмкін

Онлайн кеңістіктегі экоактивизм
Мизогиндік пікірлер және әйелдерге қарсы араздық тілі
Желідегі хейтәңгіме: тану, қарсы тұру және алдын алу