Miért gondolja a mesterséges intelligencia, hogy a nőnek a konyhában a helye?

Tech

Miért gondolja a mesterséges intelligencia, hogy a nőnek a konyhában a helye?

És kinek fájhat az, ha ledagadtozzuk a virtuális asszisztensünket?

A tömeggyártást elhozó ipari forradalom nagy hatással volt arra, hogy a nők a férfiakkal végül egyenlő jogokat kaptak: a nők is dolgozni kezdtek, a család egyik eltartójává váltak, és kötelességeik mellett jogaik is gyarapodtak. A tudósok szerint jelenleg a negyedik ipari forradalom korában élünk, aminek része a mesterséges intelligencia széleskörű elterjedése. Az viszont nem biztos, hogy ez a forradalom ugyanúgy „egyenlőségpárti” lesz majd – a mesterséges intelligencia ugyanis időnként nem is kicsit szexista.

A mesterséges intelligencia már régóta nem a tudományos-fantasztikus filmek és titkos katonai kísérletek világában létezik, hanem a mindennapjaink része és egyben a világról alkotott képünk formálója is. Elég csak rákeresni például a Google-ben egy ház vagy egy macska képére, és a keresőmotor olyan találatokat mutat nekünk, amik szerinte a legjobban megfelelnek az elképzeléseinknek. Ahhoz viszont, hogy erre képes legyen, tanulnia kell, és természetesen nem mástól tanul, mint tőlünk, akik használjuk. Ha pedig nekünk például egy laboratóriumban dolgozó nőről az jut eszünkbe, hogy „csinos” (és nem az, hogy „okos”, ami például egy ugyanott tevékenykedő férfiről), akkor a mesterséges intelligencia is meg fogja tanulni, hogy mely jelzők illenek a nőkre, és melyek a férfiakra.

A társadalomtól persze nem várható el, hogy magától odafigyeljen rá, mire tanítja a mesterséges intelligenciát, az viszont tény, hogy a fentiekhez hasonló előítéleteket a mesterséges intelligencia tovább erősítheti. Erre hozott egy jó példát Mark Yatskar is, aki a gépi intelligenciát kutató Allen Institute munkatársa. Yatskar szerint a jövőben, ha például egy háztartási robot nem tudja majd, éppen kinek mit segítsen a konyhában, akkor simán előfordulhat, hogy

egy nőnek azt ajánlja majd fel, hogy segít neki együtt elmosogatni, míg egy férfinak felbont egy sört.

Persze kérdezhetnénk, miért számít ez; hol vannak még azok az idők, amikor a háztartási robotok a mindennapjaink részei lesznek?

Egyrészt talán nem is olyan messze, mint gondolnánk, másrészt a probléma már ma is itt van: az MI előítéletes. Hiába tanítjuk például a gyerekeinknek, hogy a nőnek nem feltétlenül a konyhában van a helye, ha például egy iskolai feladathoz képeket keresve a „főzés” szóra többnyire olyan találatokat ad elé egy keresőmotor, ahol nők tüsténkednek egy tűzhely mellett. De nézhetjük akár azt az esetet is, amikor az Amazon vállalatóriás mesterséges intelligenciát használt ahhoz, hogy a céghez beérkező rengeteg önéletrajz közül kiválassza azokat, akiknek a beküldői a legalkalmasabbnak lennének egy bizonyos posztra. Ebben az esetben a gép például azt a felfedezést tette, hogy a cég többnyire férfiakat alkalmazott a múltban szoftverfejlesztőnek – ebből pedig levonta azt a következtetést, hogy ők nyilván alkalmasabbak is erre a feladatra. Az Amazon azóta nyugdíjba küldte a nőket hátrányosan megkülönböztető programot, de valószínűleg előfordul még a jövőben, hogy gépek kezébe adják a döntést hasonló kérdésekben, és ezzel ez a probléma is újra napirendre kerülhet.

A fentiek természetesen olyan problémák, amiket nehezen lehet kiküszöbölni. Az önmagától tanuló mesterséges intelligenciának ugyanis pont az a lényege, hogy hatalmas mennyiségű munkát végez el azért, hogy azt ne emberek százainak, ezreinek, sőt, tízezreinek kelljen megcsinálni. Ezért lehetetlen feladat is lenne például minden netes képkeresésnél ellenőrizni azt, hogy azzal a keresőmotor nem a nemi sztereotípiákat erősíti-e tovább.

Újrafogalmazott női igények – mi az a femtech? 
A világ népességének több mint ötven százaléka nő, ennek ellenére az orvostudomány hosszú történetének nagy részében a férfitestet tekintették kiindulópontnak. A menstruációval, termékenységgel, terhességgel vagy szoptatással kapcsolatos nehézségeket – ha nem is lettek teljesen figyelmen kívül hagyva – némiképp tabuként kezelték. Aztán jött a femtech, amivel új iparág épült a nők digitalizált egészségére. Női igények szerint, többnyire nőktől. 

Vannak azonban olyan területek, ahol viszonylag egyszerű közbelépni egy olyan helyzetben, ahol az MI használata a szexizmust erősítheti. Ez a közelmúltban meg is történt például az „olyan virtuális asszisztensek” esetében, amilyen például az Apple Sirije vagy a Microsoft Cortanája – ők azok, akiket élőszóban lehet megkérni arra, hogy segítsenek megoldani bizonyos problémáinkat, például keressenek ki különböző adatokat vagy mutassák meg, hol van a legközelebbi benzinkút. Egy UNESCO-tanulmány ugyanis arra az eredményre jutott, hogy a jellegzetesen női személyiséggel (és női hanggal) ellátott mesterséges intelligenciákat a felhasználók előszeretettel alázzák olyan szövegekkel, mint például: „Siri, dagadt vagy”. Ők pedig (természetesen, hiszen a vásárló, azaz a felhasználó a király) ezekre a sértésekre olyasmikkel válaszolnak, hogy „sajnálom, biztos a túl sok csoki lehet az oka”. Természetesen ezzel nem az a gond, hogy a felhasználók egy nem érző gép lelkébe taposnak bele, hanem az, hogy a tudomány szerint hatással van a gondolkodásunkra, ha például (akár csak virtuális) asszisztensi szerepben túlnyomórészt nőket látunk, akiket akár kedvünkre meg is alázhatunk, ha nem teljesítik az elvárásainkat. Gondoljunk csak bele: ha valaki tízévesen megkapja az első telefonját, amiben található egy ilyen „szabadon alázható” virtuális női asszisztens, akkor tíz-húsz évvel később milyen viselkedést tarthat majd elfogadhatónak akkor, ha egy hús-vér beosztottal kell kommunikálnia?

Ezt felismerve például az Apple változtatott Siri protokollján, aki arra a sértésre, hogy „egy hülye p*csa vagy, Siri” már nem úgy válaszol, hogy „most elpirulnék, ha tudnék”, hanem helyette egyszerűen annyit mond: „nem tudom, erre mit kellene mondanom.”

Ajánljuk még:

KICSIT PERVERZ, NAGYON FURA ÉS MILLIÓK IMÁDJÁK: SUTTOGÓK ÉS SZÖRCSÖGŐK, AVAGY AZ ASMR VILÁGA

ÍGY NE TÖRD ÖSSZE SENKI AUTÓJÁT A TÉLEN!

ÍGY VEZETNEK MEG, HA ONLINE VÁSÁROLSZ RUHÁT!