Pazite na jaz: Pristranost UI zbog razlika u podacima o spolu i rodu

GEDIS - Gender Diversity in Information Science: Challenges in Higher Education. https://ub.edu/gedis Veza s GEDIS projektom Su-financirano od strane Europske unije. Iznesena mišljenja i stavovi isključivo su odgovornost autora i ne odražavaju nužno stajališta Europske unije niti Španjolske službe za internacionalizaciju obrazovanja (SEPIE). Europska unija niti tijelo koje dodjeljuje sredstva ne mogu se smatrati odgovornima za njih. Ovaj je sadržaj dio europskog projekta GEDIS (Gender Diversity in Information Science), koji promiče otvorene obrazovne alate za rješavanje rodnih nejednakosti u visokom obrazovanju, s naglaskom na područja vezana uz informacijske znanosti. Ovaj obrazovni materijal razvijen je u okviru Ljetne škole Barcelona, kao dio projekta GEDIS. LITERATURA Ovaj OER sadrži poster i sažetak dokaza o jazu u podacima o spolu u području umjetne inteligencije - definiciju, uzroke, dokumentirane slučajeve i preporučene intervencije. SLUČAJEVI PREMA VRSTI PRISTRANOSTIZAŠTO SE DOGAĐA SMANJENJE JAZA: ŠTO PODUZETI Reprezentacijska Prepoznavanje lica – 35% grešaka kod tamnoputih žena (0,8% kod svjetloputih muškaraca). DALL·E 2 slike poslova: žene 38% (muškarci 62%); žene se smiješe 2,2× češće. STEM vizuali – 75–100% muškarci. Algoritamska UI u zapošljavanju: treniranje s naglaskom na muškarce → ženski životopisi niže rangirani. U kreditnom bodovanju žene dobivaju manje ili rjeđe zajmove unatoč boljoj stopi otplate. UI u zdravstvu: propušta simptome kod žena → zakašnjela dijagnoza. Preporuke glazbe: do +6. 3 pp točnije za muškarce. Kulturalna Zadane ženske asistentice → stereotip „žene kao pomagači“. Priče Llama-2: žene u ulozi domaćice ~4× češće; muškarci dobivaju poslove višeg statusa. Intersekcionalna YouTube titlovi: više pogrešaka za žene. Oglasi za STEM poslove: muškarci ~+20 % pregleda. Preporuke knjiga: manja vidljivost ženskih autora. Citiranje: Bosshammeer, Svetlana and Daniela Varbanova. 2025. Mind the Gap: Gender Data and AI Bias. DOI: 10.5281/zenodo.17164440. Pazite na jaz: Pristranost UI zbog razlika u podacima o spolu i rodu. Prevele: Kristina Gagulić. DOI: 10.5281/zenodo.17285658. Pazite na jaz: Pristranost UI zbog razlika u podacima o spolu i rodu Jobin, Anna, Marcello Ienca, and Effy Vayena. “The Global Landscape of AI Ethics Guidelines.” Nature Machine Intelligence 1, no. 2 (September 2019). https://doi.org/10.1038/s42256-019-0088-2 UNESCO and IRCAI. "Challenging Systematic Prejudices: An Investigation into Gender Bias in Large Language Models", 2024. https://unesdoc.unesco.org/ark:/48223/pf0000388971 Rodni jaz u podacima = nedostatni ili neravnomjerni podaci o ženama. Kao posljedica toga, odluke UI su pristrane u korist muškaraca zbog reprezentativne, algoritamske, kulturne i intersekcionalne pristranosti. Većinu AI timova čine muškarci; dizajnerske odluke često odražavaju njihove slijepe točke. Žene nisu dovoljno zastupljene u podacima za treniranje. Optimizacija isključivo za ukupnu točnost ili profit može zanemariti manjinske skupine. Žene imaju slabiji pristup telefonu i internetu, pa ostavljaju manje digitalnih tragova. Binarne oznake i prosjeci sakrivaju podskupine. Reprezentativna pristranost Inkluzivni skupovi podataka; dokumentiranje i objavljivanje pokrivenosti; intersekcijski referentni standardi. Algoritamska pristranost Ukloniti rodne oznake iz ulaznih podataka; prilagođavanje pragova odlučivanja kako bi se uravnotežile pogreške; devijacije u obuci i naknadnoj obradi; kontinuirano praćenje. Kulturna pristranost Neutralni ili nebinarni zadani glasovi; provjere dizajna radi uklanjanja stereotipa; raznoliki timovi u dizajnu i testiranju. Intersekcionalna pristranost Objaviti metrike za podskupine (spol, ton kože, dob, dijalekt); revizije prije/nakon raspoređivanja; klasificiranje ljudskih resursa/financija kao visokorizičnih; izjave o utjecaju na spol; standardi transparentnosti. Ciljane skupine: 📚 Knjižničari,  Profesori,  Studenti