Algoritamska pristrasnost u UI: Ključni pojmovi, implikacije, i rješenja
Abstract
Ovaj otvoreni obrazovni resurs (OER) istražuje algoritamske pristrasnosti u umjetnoj inteligenciji (UI), s posebnim fokusom na ključne pojmove, implikacije i moguća rješenja. Materijal objašnjava kako sistemske greške u podacima za učenje i u programiranju mogu dovesti do diskriminatornih obrazaca i nejednakih rezultata. Kroz primjere iz zdravstva, zapošljavanja i pravosudnog sistema prikazuju se posljedice pristrasnosti i naglašava potreba za kritičkim razumijevanjem tehnologije. Kao dio projekta GEDIS – Gender Diversity in Information Science, ovaj OER doprinosi razvoju kritičkog i pedagoškog pristupa razumijevanju rodnih i društvenih dimenzija umjetne inteligencije.
Full text
GEDIS GEDIS - Gender Diversity in Information Science: Challenges in Higher Education. https://ub.edu/gedis Povezanost sa projektom GEDIS Sufinansirano od strane Evropske unije. Iznesena mišljenja i stavovi isključivo su odgovornost autora i ne odražavaju nužno stavove Evropske unije niti Španske službe za internacionalizaciju obrazovanja (SEPIE). Evropska unija, niti tijelo koje dodjeljuje sredstva, ne mogu se smatrati odgovornim za njih. Ovaj resurs je dio evropskog projekta GEDIS (Gender Diversity in Information Science), koji promoviše otvorene obrazovne alate za rješavanje rodnih nejednakosti u visokom obrazovanju, s fokusom na oblasti povezane s informacijama i dokumentacijom. Ovaj obrazovni materijal razvijen je u okviru Ljetne škole Barcelona, kao dijela projekta GEDIS. Ciljne grupe: 📚 Bibliotekari/ke, Nastavnici/e, Studenti/ce GEDIS Algoritamska pristrasnost u UI: Ključni pojmovi, implikacije, i rješenja Pristrasnost na djelu: Primjeri & posljedice Putevi ublažavanja Zdravstvo: CNN klasifikatori kožnih lezija, uglavnom trenirani na bijeloputim pacijentima, pokazuju ~50% manju preciznost na tamnoputim pacijentima. Pravosuđe: Alati za određivanje rizika poput COMPASa često obilježavaju određene etničke grupe kao visokorizične. Ljudski resursi: Pristrasni skupovi podataka uvećavaju razliku u plati ili isključuju kandidate. Npr: Amazonov algoritam iz 2018. je degradirao biografije u kojima je pisalo “women’s.” Raznoliki i reprezentativni podaci Redovne provjere preciznosti i pravednosti Regulatorne & etičke smjernice Transparentnost & mogućnost objašnjena odluka UI Upotreba UI za prepoznavanja mogući pristranosti & nepodudaranja UI ne doživljava jezik gramatički, nego predviđa statistički UI ne prati ljudsku logiku, stoga njeni rezultati zahtijevaju ljudsku provjeru Mislite o njoj kao o veoma stručnom predviđanju teksta sa iluzijom stvaranja znanja i davanju značenja Može pobrkati slične teme ponavljajući obrasce ili miješajući povezane pojmove VI stvarate znanje i dajete značenje kad čitate kritički Uzroci: Manjkavi podaci za učenje Pristrasnost programera UI ne zna, ona prikuplja i prognozira UI je program koji slijedi naredbe (svoj kod, pa promptove) Programeri su ljudi sa ljudskim pristrasnostima UI predviđa na osnovu prikupljenih podataka; ako nema podataka, može halucinirati Šta imati na umu Ovaj OER prikazuje UI i algoritamsku pristrasnost, njene uzroke, i stvarne posljedice. Naglšava važnost ljudskog nadzora i strategije ublažavanja pristrasnosti za pravednije sisteme umjetne inteligencije. Umjetna inteligencija (UI) se odnosi na sisteme koji ispoljavaju inteligentno ponašanje analizirajući svoje okruženje i poduzimajući radnje - s određenim stepenom autonomije - radi postizanja određenih ciljeva. Algoritamska pristrasnost je sistemska greška ili nepravedan ishod nastao algoritmima mašinskog učenja. Obično se odražavaju ili pojačavaju prisutne društvene, rasne, ili rodne pristrasnosti, nastale pristrasnim pretpostavkama u svom dizajnu ili učenju na nepotpunim ili iskvarenim podacima. Literatura: Bandara, R. J., K. Biswas, S. Akter, S. Shafique, and M. Rahman. “Addressing Algorithmic Bias in AI-Driven HRM Systems: Implications for Strategic HRM Effectiveness.” Human Resource Management Journal, May 2025. https://doi.org/10.1111/1748-8583.12609. Jonker, Alexandra, and Julie Rogers. “What Is Algorithmic Bias?” IBM Think, September 20, 2024. https://www.ibm.com/think/topics/algorithmic-bias. Kalantzis, Mary, and Bill Cope. “Literacy in the Time of Artificial Intelligence.” Reading Research Quarterly 60, no. 1 (November 23, 2024). https://doi.org/10.1002/rrq.591. Norori, Natalia, Qiyang Hu, Florence Marcelle Aellen, Francesca Dalia Faraci, and Athina Tzovara. “Addressing Bias in Big Data and AI for Health Care: A Call for Open Science.” Patterns 2, no. 10 (2021): 100347. https://doi.org/10.1016/j.patter.2021.100347. Sheikh, Haroon, Corien Prins, and Erik Schrijvers. “Artificial Intelligence: Definition and Background.” Research for Policy, January 2023, 15–41. https://doi.org/10.1007/978-3-031-21448-6_2. Citiranje: Karmil, Kenza, Luka Boskovic and Denisa Kartašová. 2025. Algorithmic Bias in AI: Key Concepts, Implications, and Solutions. DOI: 10.5281/zenodo.17067091. Algoritamska pristrasnost u UI: Ključni pojmovi, implikacije, i rješenja. Prevele: Luka Bošković. DOI: 10.5281/zenodo.17293326.