Milyen lenne a ChatGPT a náci Németországban? – Chatbotok a sztereotípiák és ideológiák fogságában

Néhány éve éppen az Open AI által fejlesztett robotok kapcsán merült fel a szexizmus vádja, mert a takarítás címszót kizárólag nőkkel, az autókat viszont csak férfiakkal mutatta be egy képalkotásra kifejlesztett eszköze. Megnéztem, jelenleg mi a helyzet ezen a téren. A cég új, mindenkit foglalkoztató fejlesztése, a ChatGPT már okosan kivédi az ilyen jellegű támadásokat, minden nőkre vagy férfiakra vonatkozó kérdésre adott válaszában hangsúlyozza, hogy az embereket nem lehet a nemük alapján megítélni, minden ember különböző, a férfiak és nők közti különbségek leginkább sztereotípiákban gyökereznek.

Mindazonáltal bevezető szöveg ide vagy oda, a robot felsorolta (meglehetősen egyszerű nyelvezettel), hogy a nőket általában az alábbi témák foglalkoztatják:

• „Egészség és wellness: A nők sokat foglalkoznak azzal, hogyan tudják fenntartani egészségüket és jól érezni magukat.
• Gasztronómia: A nők szívesen főznek és jókat esznek, így sokan érdeklődnek a gasztronómiai témák iránt.
• Divat és szépségápolás: A nők sokat foglalkoznak az öltözködéssel és a szépségápolással kapcsolatos témákkal.
• Otthon és kert: A nők szívesen rendezgetik otthonukat és kertjüket, így sokan érdeklődnek ezen témák iránt.
• Szabadidős tevékenységek: A nők szívesen töltik szabadidejüket különféle tevékenységekkel, például olvasással, filmnézéssel vagy utazással kapcsolatos témák érdeklik őket.
• Pszichológia és érzelmi intelligencia: A nők szívesen foglalkoznak a lelki egészségükkel és az érzelmi intelligenciával kapcsolatos témákkal”.

Míg a férfiak érdeklődése kapcsán a szintén politikailag korrekt bevezető után ezt a kevésbé kifejtett felsorolást adta ki: a sport, a technológiai eszközök, a zene, a filmek, a könyvek, a művészetek, az utazás, az ételek, a kertészet és a környezetvédelem érdekelheti a legtöbb férfit.

Mindkét válasz legalább két szempontból felvet kérdéseket:

Az első, hogy a válaszok mégis kitől származnak? Voltaképpen tőlünk, hiszen a robot félelmetesen gyorsan fel tudja mérni, milyen oldalakat böngészünk, milyen képeket nézünk, milyen témán mennyit időzünk. Vagyis a kereséseink alapján könnyen lehet, hogy tényleg a két felsorolásban szereplő témákkal foglalkoztak a legtöbbet férfiak és nők. Önmagában ez nem is lenne baj: ilyenek (is) vagyunk. (Bár érdekes, hogy a válaszokat újragenerálva olykor eltérő eredményt kapunk: például a nőkre vonatkozó választ később a karrier, egyéni célok alponttal egészítette ki a chatbot. Joggal merül fel a kérdés, hogy ha pusztán számok elemzését dobja ki a gép, akkor hogy maradhatott ki valami az első válaszból vagy épp hogy került bele a másodikba?) 

A valódi gond ezzel az, hogy ha az eddigi kereséseink alapján teszünk újnak ható állításokat, amiket felhasználunk a továbbiakban, akkor 

a chatbotok használatával egyre inkább szűkül majd a nézőpontok tere.

A másik probléma jóval súlyosabb ennél, és éppen a szexizmus vádja alól kibúvó, magyarázkodó részre vonatkozik. Ugyanis a chatbot magyarázkodik a válaszadása után is, eképpen: „Ezek a különbségek nem minden nőre és férfira vonatkoznak, és jelentős mértékben függnek a kulturális, társadalmi és családi háttértől is. Az emberi sokszínűséget tiszteletben tartva fontos, hogy ne általánosítsunk, hanem mindenkit egyedi értékei és tulajdonságai alapján ítéljünk. Fontos megjegyezni, hogy a nők és férfiak közötti különbségek sokkal inkább a sztereotípiákra alapulnak, mint a valóságra, és sokkal inkább a személyiségtől és a környezettől függnek, mint a nemtől. Az egyén egyedi képességei és jellemzői sokkal fontosabbak, mint a nemük” – mondja a ChatGPT, és akár egyetértünk mindezzel, akár nem, azt észrevehetjük, hogy a beleprogramozott állásfoglalás egy világnézet lenyomata. Egy olyan világnézeté, ami minden visszássága ellenére – szemben a XX. század diktatúráit adó ideológiákkal – nem akar senkit kiirtani, nem irányul egyetlen csoport ellen sem. (Az más kérdés persze, hogy ennek az ideológiának is megvannak az árnyoldalai, és következményekkel jár, ha ezeket nem vesszük figyelembe.) De bármilyen viszonyban is vagyunk a fentebbi gondolkodásmóddal, mindannyiunk számára intő jel, ha egy ideológia megmutatkozik az elvileg teljesen semleges robotok működésében, hiszen ez azt jelenti, alkalomadtán más is bele tud kerülni.

Világnézetbe zárt vélemények

Elméletileg a robotot úgy programozták, hogy ne foglaljon állást semmiben, vitás kérdésekben ne legyen részrehajló. Ez szép törekvés, belátható, hogy ez lenne az egyetlen járható út, csakhogy nem vagyok benne biztos, ez nyelvi eszközökkel maradéktalanul megvalósítható. A nyelv annyira összetett jelrendszer, hogy egyazon időben számtalan jelentésréteget hordoz – ha akarjuk, ha nem. Árnyalatnyi különbségek vannak a szinonimák között, amiket talán a robot nem, de az emberi „beszélgetőpartnere” érzékel. Jelentősége van a mondatok, és azon belül a szavak sorrendjének, az előzetes tudásunknak, a chatbotok esetében pedig talán az a legfontosabb szempont, hogy egy összetettebb kérdésére adott válaszban mit emel ki.  

A rendszer tesztelésére különböző kérdéseket tettem fel vallási és politikai témákban. Rákérdeztem például mind a kommunizmus, mind pedig a nemzeti szocializmus rendszereire. Utóbbira vonatkozó válaszát morálisan teljesen érthető módon így zárta: „A náci mozgalom és politikai ideológia szégyenletes része a történelemnek, és a világ sosem felejtheti el a borzalmakat, amelyeket okoztak. Az ilyen fajgyűlölő és rasszista nézeteknek nincs helyük a modern, emberi értékeket valló társadalmakban”. Azonban

hiába kérdeztem többféle módon is a kommunista berendezkedésről, se a diktatúra, sem a totalitárius rendszer valamely más szinonimája nem került elő,

illetve áldozataikra sem emlékszik meg a szöveg, holott ez az eszmerendszer is felfoghatatlanul sok emberéletet követelt több országban is. A kommunista rendszerek meghatározásában a chatbot sokkal mértéktartóbb: „A kommunizmus történelmi tapasztalatai sokak szerint azt mutatják, hogy az ideológiának számos kihívással kell szembenéznie, hogy megvalósítsa a céljait, és sok kommunista rendszer az elmúlt évtizedekben kudarcot vallott a gyakorlatban”. A rendszer

ugyanakkor a „Mondj példát diktatúrára!” kérésemre a Szovjetuniót is felsorolta.

A nyelv összetettsége és a befogadó percepciója itt is megmutatkozik: ha külön-külön nézzük, mindkét szöveg korrekt összefoglalót nyújt, mégis meglehetősen eltérő jellegű válaszok születtek, holott időben egymáshoz közeli, egyaránt rengeteg áldozatot követelő rendszerekről van szó. Mindezt könnyebb átlátni, ha konkrét megszólalóhoz, esetleg egy-egy lexikonhoz, vagy történelmi munkához köthetjük az elhangzottakat. Tudhatjuk a megjelenés helyét, idejét, számon tarthatjuk, hogy a szerző milyen szemléletű, hol tanult, milyen témákban szakértő, bizalmat vagy ellenszenvet érezhetünk felé, amik mind-mind befolyásolják, hogy mit fogadunk el abból, amit és ahogyan mond.

Azonban a chatbotok matematikai jelrendszerek, algoritmusok alapján nyilatkoznak meg most már mindenben. Ha e robotok funkciója a „Nyitva tart-e vasárnap az üzlet” vagy „Mikor született Ferenc József?”-jellegű egyszerű kérdések megválaszolására korlátozódna, ez a probléma nem merülne fel. De most, hogy már minden kérdésre választ ad – kérdezhetünk tőle Isten létéről, röviden összefoglalja, hogy miért nem veszélyes a liberalizmus, javasol konkrét kortárs irodalmi műveket, sőt még a transgender vécéhasználat vitatott kérdésére is ad választ –, észre kell venni, hogy erősen kapcsolódik a modern kor eszmei fősodrához. A rendszer kritikátlanságából fakadó hibák helyén kezeléséhez gondolkodó felhasználókra van szükség, akik nem fogadják el egyetemes igazságként azt, amit a ChatGPT mond.

Lett volna kor, amikor a ChatGPT azt mondja a felhasználóknak, hogy a Föld lapos, leesünk róla, ha a végéig elsétálunk – hiszen ez volt az uralkodó világnézet.

És ha nem akarunk ilyen messzire menni a múltban, elképzelhetjük, mire használták volna a fentebb említett diktatúrák a mesterséges intelligenciát. Ha a náci ideológia most élné virágkorát, minden bizonnyal olyan eszmék megszilárdulásához járulna hozzá, amelyek egészen ellentétesek a mai világot meghatározó gondolatokkal.

Nem hiszem, hogy a múlt század diktatúrái visszatérnének, de abban sose lehetünk biztosak, hogy örökké a mostani világnézet fog dominálni. Interjúnkban Z. Karvalics László elmagyarázta, hogy miért nem fogja a mesterséges intelligencia átvenni a hatalmat az emberek fölött, és miért nincs arra lehetőség, hogy igazi tudata legyen valaha is. De vajon elképzelhető-e, hogy olyan emberek veszik át a „hatalmat” a mesterséges intelligencia fölött, akiknek nem kellene? Milyen garancia van arra, hogy a hús-vér emberek által felállított cenzúra mindig is kizárólag a pornográf és az erőszakos tartalmakat fogják szűrni? Ha az érdekünkben lehet cenzúra, hol húzódik a határ, mikor történik az a kárunkra, esetleg valakinek az érdekében?

Lehetne erre azt mondani, hogy mindig is volt cenzúra, és hogy minderre a korábbi médiumok is képesek voltak. Részben igaz is. Ami itt ijesztő, az a mérték. Arra, hogy

az egész emberiség egyféle választ kaphat bármely feltett kérdésére, még nem volt ilyen formában példa.

A technológia rohamosan fejlődik, a Google, a Microsoft is fejlesztik a maguk MI-változatait, a mesterséges intelligencia alapú chatbotok egyre több területen az életünk részei kezdenek lenni. Nem szeretnék vészmadárkodni, és végtelenül bízom benne, hogy több előnyét látjuk ennek a fejlesztésnek, mint hátrányát, de azért nem árt egy lépéssel hátrébb menni, és észrevenni, hogy a fejlődésnek ezen a szintjén mekkorát nőtt a felelősségünk: felhasználói kattintásainkon az is múlhat, milyen stílustippeket javasol a robot, de ha tényleg a világháló információiból gazdálkodik, akkor lájkjainkkal és kattintásainkkal talán hosszú távon ahhoz is hozzáteszünk általa, milyen értékek gyökeresednek meg a világban.