„A feminizmus egy szekta, csináljunk inkább lányokról meztelen fotókat!” - Na ezért fontos a nők szava a technológiában!
A technológia rengeteg mindenben segíti, hogy a világ problémáit hatékonyan és gyorsan megoldjuk, és hogy a szórakozást, oktatást vagy akár az egészségügyet újradefiniáljuk. Viszont közben jóval több mint technológiai kérdés, morális, etikai és emberi jogi kérdéseket is felvet a használata. Erről már csak amiatt is fontos beszélni, hiszen azzal, hogy a nőkkel szemben elfogult, az emberiség közel felével szemben téves következtetéseket von le.
Ezeket láttad már?
A felnőttet vagy a csecsemőt ölnéd meg? Mit szólnál, ha a betegségedre azért nem jönnének rá, mert más a bőrszíned? Ha azért nem vennének fel egy munkahelyre, mert nő vagy? Ha csak azért fejlesztenének iszonyatos mennyiségű pénzből rendszereket, hogy azok megalázó helyzetben, az alapvető emberi jogaidat figyelmen kívül hagyva éljenek vissza a képeiddel, megalázó helyzetben jelenítsenek meg, vagy mentális betegségeket okozzanak? Felháborító kérdések, de a mesterséges intelligencia kapcsán ezeket is át kell gondolni.
Alkalmatlan, mert nő
A negyedik ipari forradalmat éljük, amelyben a blockchain, a mesterséges intelligencia, a robotika, a dolgok internete, és még rengeteg minden szerepel. A mesterséges intelligencia képes arra, hogy hatalmas mennyiségű adatot elemezzen az algoritmus segítségével, majd predikciót alkot. Az egyik legnagyobb kérdés ezzel kapcsolatban, hogy az adatrendszer, amivel dolgozik, mennyire elfogult.
Ha az, akkor a mesterséges intelligencia is elfogult lesz, embercsoportok, egyének, rasszok láthatják ennek a kárát. Az egyik legszemléletesebb példa, hogy ennek milyen következményei lehetnek, az Amazon önéletrajz-elemző mesterséges intelligenciája. Ez a nők jelentkezéseit folyamatosan lejebb sorolta, hiszen az adatbázisban az előző tíz év adatai szerepeltek, női vezetők nélkül, így úgy gondolta, hogy a férfiak a jó vezetők.
Vagyis az adathalmaz elfogult volt, így az eredmények is azok lettek. Hogy mennyire nem ritka az, hogy egy algoritmus elfogult a nők kárára, azt az ENSZ közleménye is bizonyítja. A Berkley Haas Központ kutatását idézik, amely 133 különböző iparági felhasználású mesterséges intelligenciát elemzett, eredményeik szerint ezek 44 százaléka elfogult a nemeket illetően, 25 százalékuk pedig a nemek és a rasszok tekintetében is.
De ott van az a probléma is, hogy mi van akkor, ha az egész adathalmaz elfogult, amiből az algoritmus tanul. Így járt a Microsoft chatbotja, amit nagyon gyorsan le is állítottak, miután Twitter-bejegyzésekre és különböző Wikipédia-forrásokra alapozva azt állította, hogy a feminizmus egy szekta és rákos megbetegedés.
Mi van, ha egy bíró elfogult?
Cecilia Danesi professzor a Salamanca Egyetem Európai Tanulmányok és Emberi Jogok Intézetének kutatója, akivel a Huawei Európai Vezetői Akadémián beszélgettünk az előadása után, Varsóban. Itt a több ezer jelentkezőből kiválasztott, különböző háttérrel rendelkező 29 fiatal nő, a Női vezetők a digitális korban elnevezésű intenzív képzésen egy héten keresztül sajátíthatott el olyan készségeket és szemléletmódokat, amelyek későbbi karrierük során a sikerük alappillére lesz.
De megismerkedhettek azokkal a kérdésekkel is, mint például a mesterséges intelligencia etikája, ami későbbi vezetői döntéseik során fontos tényező lehet abban, hogy az emberiség számára egy előnyösebb felhasználástr biztosítson.
„A mesterséges intelligencia rövid idő alatt nagyon sok adatot képes feldolgozni. Emiatt a hatása is nagyobb lehet az embereknél. Vegyünk például egy bírót, aki elfogult ítéleteket hoz, egy héten néhány ilyenre van módja. Ugyanezt egy mesterséges intelligencia percenként meg tudja tenni, vagyis az elfogult algoritmus sokkal nagyobb kárt tud okozni, mint egy elfogult ember.
Másodsorban el kell azon gondolkoznunk, hogy kik fejlesztik ezeket az algoritmusokat, és hogy az ezeknél a cégeknél dolgozó és döntést hozó emberek mennyire reprezentálják a társadalmat. A kutatások alapján mindössze a társadalom tíz százalákát képviselik ezek a cégek, vagyis az algoritmus számára a világ 90 százaléka láthatatlan maradhat.
Elengedhetetlen, hogy többet foglalkozzunk az etikus felhasználással, ami ott kezdődik, hogy egyáltalán tudnunk kell, hogy a mesterséges intelligencia már most befolyásolja a döntéseinket, miközben azt is tudnunk kell, hogy elfogult, hogy hallucinál, és dolgozni kell azon, hogy ez változzon.” - foglalja össze.
Az etikus algoritmus kérdése nőjogi és emberjogi kérdés
Már csak amiatt is fontos, hogy ne legyintsünk, ha algoritmusokról és mesterséges intelligenciáról hallunk, mert bizonyos felhasználások, az algoritmusok tanításához nem riadnak vissza attól sem, hogy egy csoportot alázzanak meg. Például azok az oldalak, amelyek büszkén hirdetik magukat azzal, hogy bármelyik nő fotójának a meztelen változatát elkészítik.
Ez pedig hatalmas veszély a nők számára, a zsarolás, megszégyenítés mellett már konkrét tervek vannak a fiatalok körében arra vonatkozóan, mit lehet tenni, ha elkezd keringeni valakiről egy olyan fotó vagy videó, amin látszólag ő szerepel kiszolgáltatott vagy éppen pornográf helyzetben, de mesterséges intelligencia generálta az egészet.
Szóbeszédek és pletykák után ma már inkább a túlzott információ áramlása okoz problémát
A megoldás egyébként egyelőre az, hogy az illető generáltat magáról még jó sok eltúlzott és nevetséges képet és videót, és elejét veszi így a zsarolásnak, de egyértelmű, hogy ez messze nem az ideális állapot.
„Szeretnénk, hogy a gyermekeink mentális egészsége rendben legyen. Egy jól működő algoritmus nem csak szűrni képes azt, hogy a gyerekek mentális egészsége rendben van-e, de akítvan javítani is tud rajta. Ha a mesterséges intelligenciát etikusan használjuk, az rengeteget segíthet a társadalom jólétén, olyan problémákat oldhat meg, amelyek az egész emberiséget érintik” - meséli Danesi professzor.
A szakember előadásán arra is kitért, hogy ehelyett a közösségi oldalakon a filterek és képalkotó szoftverek ehelyett éppen tönkreteszik a fiatalok értékrendjét arról, hogy a szépség nem egyfajta karaktert jelent, hanem pont a különbözőségben rejlik. Szintén kutatások bizonyítják, hogy a közösségi média olyan arcokat standardizált, ami egy rasszra jellemző, teljesen kihagyva a kisebbségeket, más bőrszínt.
A mesterséges intelligencia és az algoritmusok elfogultsága nem szimplán a nőket érintő kérdés, hanem emberjogi kérdés, hiszen minden típusú elfogultság érinti a vallási, etnikai kisebbségeket, a fogyatékkal élőket egyaránt.
Mit tudok én tenni?
Sokan azt gondolják, hogy ez egy olyan kérdés, amire a fejlesztőknek, programozóknak, törvényhozóknak van bármi ráhatása, a többiek pedig csak reménykednek, hogy a végeredmény legalább számukra előnyös lesz.
„Valóban a fejlesztők, programozók, törvényhozók azok, akik konkrét lépéseket tudnak tenni, de sosem szabad elfelejteni, hogy mi mindannyian folyamatosan tanítjuk az algoritmusokat. Beszélgetünk a Chat GPT-vel, nyomot hagyunk a közösségi oldalakon többek között arról is, hogy mit szeretnénk látni, hallani, vásárolni.
Tényleg közel állunk hozzá, hogy a mesterséges intelligencia elvegye a véleményvezérek megélhetését?
Vagyis nekünk is van abban felelősségünk, hogy az algoritmusok elfogultak. De nem minden egy emberen vagy egy csoporton múlik, ugyanakkor hiszem azt, hogy a nőknek sokkal proaktívabbnak kell lenni, és igenis helyünk van a döntéshozó asztaloknál olyan területekről is, amiről most még talán azt gondolják, hogy nem érinti a mesterséges intelligencia.
Jogászként végeztem, tíz évvel ezelőtt azt mondta mindenki, hogy egy jogásznak semmi köze a mesterséges intelligencia világához. Azóta látjuk, hogy igenis van, igenis része kell, hogy legyünk a vitáknak, ahogyan minden más szektor képviselőjének is. Az a technológia, amitől félünk, alkalmas arra, hogy küzdjünk a rossz szereplők ellen.
Ugyanúgy a mesterséges intelligencia lesz képes kiszűrni az álhíreket vagy a mesterségesen generált fotókat. Minél több ember harcol azért, hogy a mesterséges intelligenciát etikusan és hasznosan használjuk, annál több pozitív hatása lesz a technológiának az egész társadalomra nézve” - foglalja össze Cecilia Danesi professzor, miért is fontos, hogy a mesterséges intelligencia kérdésköre és vitája nyílt vita legyen, és ne néhány távoli technológiai nagyvállalat irodájában dőljenek el a kérdések.
A mesterséges intelligencia etikájáról nagyon nehéz olyan egyetértést találni, ami globális szinten is megfelelő lehet, de az Európai Unió szabályozása tette lehetővé például azt, hogy a magyar felhasználóknak nem kell attól tartania, hogy az engedélyük nélkül a Facebook és az Instagram a privát képeik segítségével tanítsa az algoritmusait.
