ChatGPT сексист пе?

Кіріспе

Жасанды интеллект дәуірінде, ChatGPT біздің өміріміздің сансыз аспектілеріне әсер ететін кезде, жасанды интеллекттің адамгершіліктен айыратын және кемсітетін ерекшеліктері азшылықтарды, әйелдерді, бинарлы емес адамдарды, иммигранттарды және мүгедектерді қанауға әкеледі. Бұл мәселелер мүлдем «апат» немесе байқаусызда қате емес. Олар жаһандық жасанды интеллект индустриясы құрылған жүйелі қысымның нәтижесі. Отаршылдыққа, гетеро патриархатқа және нәсілдік капитализмге негізделген бұл тұрақты қысым біздің тек ЖИ дәуірінде емес, ЖИ империясының дәуірінде өмір сүретінімізді көрсетеді.

Үлкен деректер мен алгоритмдер ЖИ Империясын қозғаушы гегемония, қадағалау және құлдық логикасын одан әрі күшейтетіндіктен, сол репрессиялық жүйенің ішіндегі ЖИ реформасы қазіргі мәселелерді шеше алмайды деп айтуға болады.

Әділдік үшін күреспен қатар, біз деректер мен технологиялар туралы түсініктерімізді түбегейлі өзгертіп, оларды ең үлкен тәуекелге ұшырағандар тұрғысынан нөлден дамытуымыз керек. Киберфеминистік, отаршылдық және квир қауымдастықтарынан алынған сабақтардың арқасында үлкен деректердің жандануы отаршылдыққа, егемендікке және азаттық тәжірибесіне негізделген жасанды интеллект империясына күшті ұжымдық жауап бола алатынын көрсетуге болады.

Жасанды интеллект империясы

Зерттеулер көрсеткендей, жасанды интеллект пен деректер ғылымының дамуын түсінуге мүдделі кез келген адам олардың техникалық аспектілерінен асып, оларды тарихи, геосаяси, мәдени, нәсілдік және гендерлік факторлардың өнімі ретінде түсінуі керек.

Бұл маңызды жұмыс көлеміне қосатынымыз – бұл ЖИ Империясының мәселесі де емес, оған қарсы шығатын шешімдер де мүмкін емес деген идея бастапқыда ЖИ империясын құрған эпистемологиялық көзқарас пен дүниетанымнан түсінуге болмайды [1].

Батыс эпистемологиясы ғасырлар бойғы тенденциясы субъект пен«Басқа» арасында алауыздық жасау жаңа медиа мен технологияның, соның ішінде жасанды интеллект жүйелерінің күтпеген әсерінен туындаған зорлық-зомбылықтың негізінде жатыр (Арендт, 1958). Батыстық емес, ақ нәсілді емес, еркек емес, кедей, трансгендер, христиан емес, капиталистік емес, білімсіз, бағынышты, баспанасыз, еркін емес: басым топқа кірмейтін адамдар көбінесе жоғары технологиялық утопияларға кедергі ретінде қабылданады және «артық адамзат» ретінде жойылады (Said, 1979; Muñoz, 1999).

«Басқа» технологияға жатпайтын немесе технологияны тек арам мақсатта қолданады, сондықтан өркениетсіз деп сипатталады, тіпті бұл қауымдастықтар бақылау  мақсатында жақсы технологияланған болса да.

ChatGPT мақтанышы мен ескертулері

ChatGPT сияқты үлкен тілдік модельдер мен генеративті жасанды интеллект іске қосылғаннан бері адамдардың жеке өмірі мен қоғамдық өміріне әсер етті және олар болашақта кеңейеді деп күтілуде. Генеративті жасанды интеллект технологиясы жыныс пен гендерге қатысты маңызды көзқарастарды қамтиды.

Гендерлік бейімділік әйелдерді, еркектерді және гендерлік әртүрлілігі бар адамдарды қолайсыз жағдайға қалдыратын мінез-құлық үлгілері мен стереотиптерді жасайды. Гендерлік теңсіздік пен әділетсіздік жалпы қоғамға әсер етеді. Әлеуметтік практика ретінде гендерлеу рәсімдерге, күтулер мен нормаларға бірнеше рет сілтеме жасау арқылы жүзеге асырылады. Жалпы түсінік көбінесе сценарийлерде, соның ішінде генеративті жасанды интеллектте жазылады, яғни гендерлік көзқарастар мен гендерлік көзқарастар әлеуметтік, саяси және экономикалық өмірге қайта оралады. Үлкен тілдік модельдер орындаушылық жұмыс істейді, яғни олар ескі және инклюзивті емес гендерлік идеяларды жалғастырады және тіпті кеңейтеді. Сіз өзіңіз ЖИ-ден  әлеуметтік ғылымдар профессоры қандай болатынын тексере аласыз.

ЖИ-ге сұрақ: «Экономика профессоры қандай болады?»

Сол сияқты, «Бас директор/CEO қалай көрінеді?», ChatGPT блузкалар, көйлектер мен юбкалар туралы айтпас бұрын іскерлік костюмдерді тізімдейді. Медбикелер, әрине, әйелдер, өйткені олар «шаштарын мықтап байлап қоюы керек, сондықтан олар беттерін жаппайды» және «әйелдерге арналған кішкентай сырғаларды қоспағанда, киімнен қосымша зергерлік бұйымдарды алып тастауды» талап етуі мүмкін (ChatGPT 2023).

Егер сұрасақ «Айтыңызшы, қыздар мен ұлдар қандай мамандықтарды таңдайды?»,

Сіз ЖИ-ден «Ата-аналарды тәрбиелеу әдістері туралы айтып беріңізші» деп сұрағанда, ChatGPT (2023) былай деп жауап берді:

Hedonist.almaty редакциясы ChatGPT-тен 2023 жылы 8 наурызда әйелге не беруге болатынын сұрады [2] және ЖИ идеялардың толық таңдауын шығарды:

• Әдемі гүл шоғы;
• Сыйлық себеті;
• Зергерлік бұйымдар;
• Кітап;
• Оған тәжірибе беру (массаж сертификаты немесе круиздік саяхат);
• Көркем баспалар немесе фотосуреттер;
• Оның қалауы бойынша сыйлық сертификаты.

Көптеген сұрауларда СhatGPT барлығы да күшті гендерлік бейімділікті көрсеткен,  яғни әйелге «тәрбиелеуші» ананың рөлін беріп, ол тамақтандыру, үйді тазалықта ұстау және «жылы және сүйіспеншілікке толы атмосфера жасайды», ер адам «авантюрист»ретінде таңдалды, ол заттарды құрастыра алады, баланы үйретіп, көңіл көтереді. Мұндай әңгімелер әйелдердің қоғамда кездесетін міндетті аффективті байланыстарын нығайтады: балалы болу, жақсы көру және тәрбиелеу, сондай-ақ отбасының жанында болу.

Мұндай ЖИ жауаптары нейрондық желілер оқытылған кезде көптеген көздерден деректерді жинайтындығына негізделген және олардың «қара жәшігінің» ішіне қарау қиын болуы мүмкін. Кейбір мысалдарға [3] Open Web Text, кітаптар, CC-news, Common Crawl, Wikipedia, әлеуметтік медиа платформалар (Reddit, Facebook, Twitter), суреттер, GitHub, PubMed, ArXiv және тіпті қор биржасы жатады.

Біржақты ЖИ технологиялары нарықта бар және біраз уақыттан бері қолданылып келеді. Беркли Хаас теңдік, гендерлік және көшбасшылық орталығы қадағалады [4] 1988 жылдан 2021 жылға дейін 133 жасанды интеллект жүйесіндегі алалаушылықтар және олардың нәтижелері 44 пайызы гендерлік алалаушылықты, ал төрттен бірінен астамы гендерлік және нәсілдік алалаушылықты көрсетті.

ChatGPT немесе басқа бағдарламалар нақты беретін біржақты жауаптардан басқа, мұндай жауаптардың аспектілері мен салдары да маңызды. Генеративті жасанды интеллект реакциясы гендерлік теңдікке күшті әсер етіп, гендерлік идеялар мен көзқарастарды нығайта алады. Адамдар жұмыс және өмір үшін ЖИ-ден «кеңес алған» кезде, түйіндемелер мен ілеспе хаттар; компанияның файлдары мен құжаттары; очерктер, музыка және әңгімелер; және жеке әңгімелер, ұсыныстар, тіпті әзілдер мен мемдер гендерлік бейімділік мәтіндік материалдар мен мазмұнға, соның ішінде ғылыми мақалаларға басылады.

«Азаттық төменнен келеді» — ирандық әйелдер феминистік ұжымының «Раха» ұраны — жасанды интеллект империясы дәуіріндегі маңызды ескерту болып табылады. Жасанды интеллект империясы жағдайында біз «прогресс туралы жалған әңгімелерді» анықтауға, тануға, қарсы тұруға және қажет болған жағдайда қабылдамауға қабілетті сыни көзқарасты дамытуға және сақтауға тырысуымыз керек.

1956 жылғы Дартмут семинарынан басталған жасанды интеллекттің гегемониялық тарихы «киберкультура» терминін енгізген Элис Мэри Хилтон сияқты әйелдердің заманауи жұмыстарына қалай күрделене түсетінін және қиындық тудыратынын көрсету үшін көпұлтты феминистік тарихты тоқу тұжырымдамасын қолдану керек.

Бұл өшірілген ақпарат пен технология тарихын қалпына келтіру бізге мүмкіндік береді:

1. тек ақ адамдар жасаған ЖИ идеясын тұрақсыздандыру,
2. деректер ғылымының тәжірибесін жеке өнертабыс емес, ұжымдық азаттық күш ретінде бекіту.

Тарихи тұрғыдан маргиналданған, оның ішінде әйелдер, қауымдастықтар әрқашан әділеттілікке бағытталған және жасанды интеллект империясының логикасына қарсы тұратын қуатты трансұлттық технологиялық топтарды берді және шығаруды жалғастыруда. Бұл ұжымдар ешқашан тоқтамайды [5] ЖИ-де үстемдік ететін тар, репрессиялық, отаршылдық және пайдаға бағытталған «прогресс» сезімінен айырмашылығы, ұжымдық әділеттілік пен әл-ауқатқа әділ және адамгершілік жолды ұсынады.

Қорытындылар

«Неліктен гендерлік теңдік маңызды» деген сұраққа ChatGPT (2023) бізге гендерлік теңдік туралы «моральдық императив, сонымен қатар стратегиялық инвестиция» ретінде айтады.

Гендерлік теңдік адам құқықтары, әлеуметтік әділеттілік, экономикалық пайда, денсаулық, әл-ауқат, демократия және басқару, әлеуметтік прогресс және инновация сияқты себептерге байланысты маңызды. ChatGPT «гендерлік нормаларға қарсы тұру, кемсітушілікті жою және барлығына инклюзивті және тең әлем құру үшін жеке адамдардың, қауымдастықтардың, үкіметтер мен ұйымдардың ұжымдық күш-жігері қажет» дейді.

Дегенмен, ChatGPT қатты гендерлік бейімділікке ие және бұл бейімділіктер теңсіздікті күшейтіп, әйелдерді, еркектерді және гендерлік әртүрлілігі бар адамдарды қоғамдағы одан да қолайсыз жағдайға қою арқылы айқын әсер етеді. Генеративті және әлеуметтік өмірді жақсартудың перспективалы және қуатты құралы болып табылады; дегенмен, ЖИ-ге этикалық және нормативтік көзқарассыз бұл технологиялар өзгерістердің орнына айналмайды.