Znanost in tehnologija

Ali umetna inteligenca ogroža enakost spolov?

Sacramento, 18. 09. 2022 19.00 |

PREDVIDEN ČAS BRANJA: 3 min

Digitalna preobrazba napreduje s svetlobno hitrostjo, tehnološki izumi pa posamezniku večkrat pomagajo olajšati vsakdan. A strokovnjaki opozarjajo na problematiko nepravičnih praks umetne inteligence, saj so te večkrat stereotipne in seksistične narave. "Umetna inteligenca je produkt človeka, zato se inženirska pristranskost razširi tudi na njegov izdelek," so opozorili v Evropskem inštitutu za enakost spolov.

Problematika diskriminatorne umetne inteligence je v javnosti znova požela zanimanje po tem, ko je podjetje Meta predstavilo novega klepetalnega robota. BlenderBot 3, ki temelji na umetni inteligenci, lahko samostojno išče po spletu in se z ljudmi pogovarja o nešteto temah, v svojem delovanju pa naj bi kazal tudi znake empatije. V podjetju so zato trdili, da bo robot njihov najsposobnejši tovrsten izum do sedaj. A le mesec po tem, ko je BlenderBot3 vstopil na trg, so v njegovem delovanju opazili pomanjkljivosti. Na spletu je razširjal antisemitske teorije in širil lažne novice, poroča Govinsider. 

Za ogled potrebujemo tvojo privolitev za vstavljanje vsebin družbenih omrežij in tretjih ponudnikov.

Med drugim je bot prek svojega računa na Twitterju trdil, da je je nekdanji ameriški predsednik Donald Trump zmagal na zadnjih ameriških predsedniških volitvah, ustanovitelja in generalnega direktorja podjetja Meta Marka Zuckerberga pa je označil za grozljivega.  To sicer ni prvič, da je umetna inteligenca šla v nasprotno pot, kot je bilo predvideno. Leta 2016 je Microsoftov robot Tay prek družbenih omrežij začel objavljati rasistične in mizoginistične komentarje. 

Meta blender bot
Meta blender bot FOTO: Shutterstock

Zaradi očitno pereče problematike so se oglasili tudi v Evropskem inštitutu za enakost spolov (EIGE). V Evropi ženske predstavljajo več kot polovico populacije, a le 16 odstotkov žensk dela z umetno inteligenco. "Takšna omejena zastopanost v sektorju lahko vodi do ustvarjanja naborov podatkov z vgrajenimi pristranskostmi. Ti pa potem naprej ohranjajo spolne stereotipe," je dejala direktorica Inštituta Carlien Scheele. Do tega problema moramo po Scheelovi pristopiti na dva načina: Najprej je to odpravljanje napak v že obstoječih pristranskih algoritmih, nato pa še prizadevanje za boljše spolno razmerje v sektorju umetne inteligence. "Le z raznolikostjo se lahko izognemo širjenju seksističnih in stereotipnih predstav," meni Scheelejeva. 

Za zmanjšanje pristranskosti v sektorju umetne inteligence je potrebna bolj enakovredna zastopanosti moških in ženskih zaposlenih.
Za zmanjšanje pristranskosti v sektorju umetne inteligence je potrebna bolj enakovredna zastopanosti moških in ženskih zaposlenih. FOTO: Shutterstock

V Evropski uniji so z namenom naslavljanja problema, že predlagali novo zakonodajo za umetno inteligenco. Ena od odločb predlaga, da se sisteme umetne inteligence, ki se uporabljajo za pomoč pri zaposlovanju, iskanju in ocenjevanju kadrov označi za visoko tvegane. Po njihovem mnenju bi ocene delavcev morali delati ljudje. "Umetna inteligenca v svoje odločitve vključuje zgodovinske vzorce diskriminacije, saj je na teh vzorcih zgrajena," menijo v EIGE. Direktorica Inštituta pa poudarja, da bi bilo treba ženske spodbujati k zasledovanju poklicev v znanosti, tehnologiji, inženirstvu in matematiki. "Brez namernih prizadevanj za vključevanje obeh spolov v sektor, bo to področje ostalo moško," pravi. 

"Povečanje raznolikosti v sektorju visoke tehnologije je ključno. Pri razvoju umetne inteligence je človek tisti, ki odloči, kako se bo algoritem umetne inteligence obnašal. Človek je ta, ki določi, kaj je prav in kaj narobe," se strinjajo tudi strokovnjaki iz tehnološkega podjetja Citibeats. 

V podjetju sicer menijo, da bi problem pomagala odpravljati tudi regulacija večjih tehnoloških podjetij. "Algoritmi, ki jih ustvarjajo velika podjetja, kot je DeepMind, vplivajo na milijone ljudi. Zato je nujno preverjati, kakšni ti algoritmi so. Z veliko močjo pride tudi velika odgovornost," meni tehnološka strokovnjakinja Abby Seneor. 

  • 8
  • 7
  • 6
  • 5
  • 4
  • 3
  • 2
  • 1

KOMENTARJI (21)

Opozorilo: 297. členu Kazenskega zakonika je posameznik kazensko odgovoren za javno spodbujanje sovraštva, nasilja ali nestrpnosti.

GRoman
19. 09. 2022 10.33
+1
.. To sicer ni prvič, da je umetna inteligenca šla v nasprotno pot, kot je bilo predvideno.. kaj pa je predvideno?
Millady
19. 09. 2022 14.25
+1
Kuli997
19. 09. 2022 09.39
+1
S kakšnimi stvarmi se ljudje ubadajo... Namesto da bi bili veseli kaj se v tehnologiji dogaja... Seksističen robot.. pa to ni res
Omas1313
19. 09. 2022 08.11
User2369190
19. 09. 2022 08.11
Torej samo še AI boti naj bi volili levičarje. To je njihova volilns baza.
Septična jama vseh jam
18. 09. 2022 21.58
+2
nisem zasledila, da bi bila tanja zaskrbljena...
ZaposlenVRuskiTrollFarmi
18. 09. 2022 21.53
+0
Celo AI židov ne mara. Dobr je, poj vemo da se bo skynet samo na izrael spravil hahaha!
ZaposlenVRuskiTrollFarmi
18. 09. 2022 21.52
-1
Še BOT ve, da je levi pol smrt za zahod...
JohannDoe
18. 09. 2022 21.51
+1
Moški in ženske smo enaki ljudje. Problem pri tem je samo to, da nismo. In, če gremo še dlje, niti moški v primerjavi z drugimi moškimi in ženske z ženskami, nismo enaki. Včasih smo se strinjali, da pač biološko nismo enaki in smo govorili o enakopravnosti ali enakosti pred zakonom. Danes so razlike očitno problematične in gremo po principu: če se pretvarjaš, da razlik ni, potem se lahko pretvarjaš tudi, da živiš tako kot da razlik ni.
PičiPoki
18. 09. 2022 21.49
Včasih so bile ženske roboti. Zdej pa so... 😆
BitterTruth
18. 09. 2022 21.48
Glede na odsotnost dejanske inteligence, ni cudno, da nekateri mislijo, da je razvoj umetne dobra stvar
Millady
19. 09. 2022 14.29
HiddenThief2
18. 09. 2022 21.30
lol ni umetna inteligenca to, da govori, kar hoce ustvarjalec, temu se rece papagaj.
gr rg
18. 09. 2022 21.27
Veliko preveč človeštvo zaupa algoritmom in jim daje proste roke. Tudi tisti, ki mislijo, da upravljajo, bodo zamenjani.
slim386
18. 09. 2022 21.15
+1
Bolj je vprašanje zakaj je le 16% raziskovalk ženskega spola... vrjetno ne zaradi tega ker bi jim kdo govoril da nesmejo raziskovati tega področja...
Neutrino
18. 09. 2022 21.16
+1
Pa itak je predsednik ženska, ne vem kaj jim spet ni prav. Kam gre ta svet...
Butalec8
18. 09. 2022 21.02
+3
Zadnjič sm bral za ameriko glede tega free choice pa te bedarije odkar ni vec potrebna operacija za spremembo spola v dokumentih se ameriški otroci cezdalje vec odlacajo da bodo živali in pridejo z maskami živali v šolo in jih profesorce sploh ne morejo vprasat ker nazaj zamijaukajo recimo in jih ne ocenijo , ker majo pac demokraticno free choice bit žival ce to zelijo.
slim386
18. 09. 2022 21.15
-2
Naj uganem... to nebulozo si prebral na fb?
Butalec8
18. 09. 2022 21.28
+3
Ne , ni me tam. Matere mi res bolano ful mas tega po internetu poguglaj , šole že prosijo za pomoč , predvsem pri srednješolcih je to postalo razširjeno.
Reycis
18. 09. 2022 20.49
+6
Haha, Ai je seksističen, ker so ga ustvarili seksistični ljudje. Vsak, ki objektivno opazuje realnost opazi, da moški in ženske nismo čisto enaki. In edini način, da bo AI sledil tej trapasti agendi je ta, da ga z anti-sesksistično in anti-rasističnimi dodatki naredijo neuporabnega.
Bratomil
18. 09. 2022 20.41
+4
Super, še več negativne selekcije, le kaj gre lahko narobe...