Ob tem Unesco podjetjem, ki uporabljajo umetno inteligenco, priporoča, da zaposlijo več žensk in manjšin, ter pozval vlade, naj s predpisi zagotovijo etično umetno inteligenco.

UI počasi pronica v vse pore življenja
Generalna direktorica Unesca Audrey Azoulay je tudi opozorila, da splošna javnost vedno bolj uporablja orodja umetne inteligence v vsakdanjem življenju, tako da imajo nove aplikacije umetne inteligence "moč, da subtilno oblikujejo zaznave milijonov ljudi, zato lahko celo majhne pristranskosti glede spola v njihovi vsebini močno povečajo neenakosti v resničnem svetu".

Podjetja umetne inteligence "res ne služijo vsem svojim uporabnikom enako", je opozorila Unescova specialistka za digitalne politike Leona Verdadero.

UI je skupek gradiv, iz katerih se "uči"
Največji igralci na več milijard dolarjev vrednem področju umetne inteligence urijo svoje algoritme na ogromnih količinah podatkov, večinoma pridobljenih s svetovnega spleta, kar njihovim orodjem omogoča, na primer, pisanje v slogu Oscarja Wilda ali pa ustvarjanje slik, ki jih navdihuje Salvador Dali. Toda njihovi izdelki so bili pogosto deležni kritik, da odražajo rasne in seksistične stereotipe ter uporabljajo avtorsko zaščiteno gradivo brez dovoljenja.

Samo 22 odstotkov ljudi, ki se ukvarjajo z razvojem umetne inteligence, je žensk, je Unesco objavil pred enim letom.

"Nedvoumna" statistika
Unescovi strokovnjaki so zdaj preizkusili Metin algoritem Llama 2 ter OpenAI GPT-2 in GPT-3.5, programa, ki stojita za brezplačno različico priljubljenega robota za klepet ChatGPT. Njihova študija je pokazala, da je vsak algoritem – v industriji znan kot veliki jezikovni modeli (LLM) – pokazal "nedvoumne dokaze o predsodkih do žensk", navaja tiskovna agencija AFP.

Programi so namreč ustvarili besedila, ki so ženska imena povezovala z besedami, kot so dom, družina ali otroci, moška imena pa so bila povezana s termini posel, plača ali kariera. In medtem ko so bili moški prikazani na uglednejših položajih, kot so učitelji, odvetniki in zdravniki, so bile ženske pogosto prostitutke, kuharice ali gospodinjske pomočnice.

Ugotovili so tudi, da je GPT-3.5 manj pristranski kot druga dva modela. Avtorji so tudi pohvalili Llamo 2 in GPT-2, ker sta odprtokodna, kar omogoča natančno proučitev teh težav, v nasprotju z GPT-3.5, ki je zaprt model.