Pazite na jaz: Rodni podaci i UI pristranost

SLUČAJEVI PO TIPU PRISTRASNOSTIZAŠTO SE DOGAĐA SMANJENJE JAZA: KAKO DJELOVATI Reprezentativna Prepoznavanje lica: 35% grešaka kod tamnoputih žena (0.8% kod svjetloputih muškaraca). DALL·E 2 slike poslova: žene 38% (muškarci 62%); žene nasmijane 2.2× više. STEM vizuali: 75–100% muškarci. Algoritamska UI zapošljavanje: muški podaci → ženski CVovi niže rangirani Kreditno bodovanje: žene rijeđe i manje pozajmice dobivaju uprkos boljoj stopi isplate. UI zdravstvo: propušta ženske simptome → kasna dijagnoza. Muzičke preporuke: do +6. 3 pp precizniji za muškarce. Kulturalna Po pravilu ženski asistenti → “žene-pomagačice” stereotip. Llama-2 priče: žene u kućnim ulogama ~4× više; muškarci u visoko rangiranim poslovima. Intersekcionalna YouTube titlovi: više grešaka za žene. STEM poslovni oglasi: mušarci ~+20% pregleda. Književne preporuke: manja zastupljenost ženskih autora. GEDIS - Gender Diversity in Information Science: Challenges in Higher Education. https://ub.edu/gedis Citiranje: Bosshammeer, Svetlana and Daniela Varbanova. 2025. Mind the Gap: Gender Data and AI Bias. DOI: 10.5281/zenodo.17164440. Pazite na jaz: Rodni podaci i UI pristranost. Prevele: Luka Bošković. DOI: 10.5281/zenodo.17292929. Pazite na jaz: Rodni podaci i UI pristranost Jobin, Anna, Marcello Ienca, and Effy Vayena. “The Global Landscape of AI Ethics Guidelines.” Nature Machine Intelligence 1, no. 2 (September 2019). https://doi.org/10.1038/s42256-019-0088-2 UNESCO and IRCAI. "Challenging Systematic Prejudices: An Investigation into Gender Bias in Large Language Models", 2024. https://unesdoc.unesco.org/ark:/48223/pf0000388971 LITERATURA Jaz rodnih podataka = nedostajući/nejednaki podaci o ženama. Za rezultat, UI odluke su naklonjene muškarcima preko reprezentativnih, algoritamskih, kulturalnih i intersekcionalnih pristrasnosti. Većina UI timova su muškarci; odluke u dizajnu odražavaju njihove slijepe tačke. U podacima za obuku su žene nedovoljno zastupljene Optmizacija samo za opštu tačnost ili zaradu može isključiti manjine. Pristup mobitelima i internetu žena je manji → manje digitalnih tragova. Binarne oznake i prosjeci sakrivaju podgrupe. Ovaj OER sadrži poster i sažetak dokaza o UI jazu rodnih podataka - definicija, dokumentovani slučajevi, i preporučene intervencije. Reprezentativna pristrasnost Incluzivni skupotvi podataka; dokumentirati & objaviti pokrivenosti; intersekcionalni pokazatelji. Algoritamska pristrasnost Ukloniti oznake spola iz ulaznih podataka; prilagoditi pragove odluka radi uravnoteženja grešaka; ukloniti pristrasnost tokom treniranja i u postprocesiranju; kontinuirano pratiti. Kulturalna pristrasnost Neutralni/nebinarni glasovi; provjere dizajan za stereotipe; raznoliki timovi u dizajniranju i testiranju. Intersekcionalna pristrasnost Objaviti metrike podgrupa (rod, boja kože, godine, dijalekt); revizije prije i nakon implementacije; klasifikovati ljudske resurse i finansije kao visokorizične; izjave o uticaju na spol; standardi transparentnosti. Ciljne grupe: 📚 Bibliotekari/ke,  Nastavnici/e,  Studenti/ce Povezanost sa projektom GEDIS Ovaj resurs je dio evropskog projekta GEDIS (Gender Diversity in Information Science), koji promoviše otvorene obrazovne alate za rješavanje rodnih nejednakosti u visokom obrazovanju, s fokusom na oblasti povezane s informacijama i dokumentacijom. Ovaj obrazovni materijal razvijen je u okviru Ljetne škole Barcelona, kao dijela projekta GEDIS. Sufinansirano od strane Evropske unije. Iznesena mišljenja i stavovi isključivo su odgovornost autora i ne odražavaju nužno stavove Evropske unije niti Španske službe za internacionalizaciju obrazovanja (SEPIE). Evropska unija, niti tijelo koje dodjeljuje sredstva, ne mogu se smatrati odgovornim za njih.