Algoritmická zaujatost v umělé inteligenci: Klíčové pojmy, dopady a řešení
Abstract
Tento otevřený vzdělávací zdroj (OER) zkoumá algoritmické předsudky v umělé inteligenci (UI), se zvláštním zaměřením na klíčové pojmy, důsledky a možná řešení. Materiál vysvětluje, jak systémové chyby v tréninkových datech a v programování mohou vést k diskriminačním vzorcům a nerovným výsledkům. Na příkladech ze zdravotnictví, zaměstnanosti a soudního systému jsou ukázány následky předsudků a zdůrazněna potřeba kritického porozumění technologiím. Jako součást projektu GEDIS – Gender Diversity in Information Science tento OER přispívá k rozvoji kritického a pedagogického přístupu k porozumění genderovým a společenským dimenzím umělé inteligence.
Full text
GEDIS Odkaz Algoritmická zaujatost v umělé inteligenci: Klíčové pojmy, dopady a řešení GEDIS - Gender Diversity in Information Science: Challenges in Higher Education. https://ub.edu/gedis Citace: Karmil, Kenza, Luka Boskovic and Denisa Kartašová. 2025. Algorithmic Bias in AI: Key Concepts, Implications, and Solutions. DOI: 10.5281/zenodo.17067091. Algoritmická zaujatost v umělé inteligenci: Klíčové pojmy, dopady a řešení. Překlad: Denisa Kartašová. DOI: 10.5281/zenodo.17302342. Kontext projektu GEDIS Tento zdroj je součástí evropského projektu GEDIS (Gender Diversity in Information Science), který podporuje otevřené vzdělávací nástroje k řešení genderových nerovností ve vysokoškolském vzdělávání, se zvláštním důrazem na obory spojené s informačními a knihovními vědami. Tento vzdělávací materiál byl vyvinut v rámci Letní školy v Barceloně jako součást projektu GEDIS. Spolufinancováno Evropskou unií. Názory a stanoviska vyjádřené v tomto dokumentu jsou výhradní odpovědností autora/autorů a nemusí nutně odrážet názory Evropské unie ani Španělské služby pro internacionalizaci vzdělávání (SEPIE). Evropská unie ani poskytovatel grantu nenesou za ně odpovědnost. Cílové skupiny: 📚 knihovníci, vyučující, studující Zaujatost v praxi: Příklady a dopady Možnosti zmírnění zaujatosti Zdravotnictví: Klasifikátory kožních lézí CNN trénované převážně na bílých pacientech vykazují u černošských pacientů přibližně o 50 % nižší přesnost. Právo: Nástroje pro hodnocení rizik, jako je COMPAS, často označují některé etnické skupiny jako vysoce rizikové. Lidské zdroje: Zaujatá data mohou zvyšovat platové rozdíly nebo vylučovat některé uchazeče. Příklad: Algoritmus Amazonu z roku 2018 snižoval hodnocení životopisů obsahujících slovo „women’s“ (ženský). Různorodá a reprezentativní data Pravidelná přezkoumání přesnosti a spravedlnosti Regulační a etické směrnice Transparentnost a srozumitelnost rozhodnutí UI Využití UI k identifikaci potenciálních zaujatostí a nerovností Umělá inteligence nevnímá jazyk gramaticky, ale předpovídá jej statisticky. Bandara, R. J., K. Biswas, S. Akter, S. Shafique, and M. Rahman. “Addressing Algorithmic Bias in AI-Driven HRM Systems: Implications for Strategic HRM Effectiveness.” Human Resource Management Journal, May 2025. https://doi.org/10.1111/1748-8583.12609 Jonker, Alexandra, and Julie Rogers. “What Is Algorithmic Bias?” IBM Think, September 20, 2024. https://www.ibm.com/think/topics/algorithmic-bias Kalantzis, Mary, and Bill Cope. “Literacy in the Time of Artificial Intelligence.” Reading Research Quarterly 60, no. 1 (November 23, 2024). https://doi.org/10.1002/rrq.591 Norori, Natalia, Qiyang Hu, Florence Marcelle Aellen, Francesca Dalia Faraci, and Athina Tzovara. “Addressing Bias in Big Data and AI for Health Care: A Call for Open Science.” Patterns 2, no. 10 (2021): 100347. https://doi.org/10.1016/j.patter.2021.100347 Sheikh, Haroon, Corien Prins, and Erik Schrijvers. “Artificial Intelligence: Definition and Background.” Research for Policy, January 2023, 15–41. https://doi.org/10.1007/978-3-031-21448-6_2. Umělá inteligence se neřídí lidskou logikou, proto její výstupy vyžadují lidskou kontrolu. Představte si to jako vysoce sofistikovanou predikci textu, která vytváří iluzi tvorby znalostí a významu. Může si plést podobná témata tím, že opakuje vzorce nebo zaměňuje související koncepty. VY vytváříte znalosti a dáváte jim smysl, když čtete kriticky. Příčiny: Vadná tréninková data Zaujatost vývojářů UI sama nic neví, pouze shromažďuje informace a vytváří prognózy. UI je program, který se řídí příkazy (nejprve kódem a poté zadanými instrukcemi) Vývojáři jsou lidé s lidskými předsudky Umělá inteligence předpovídá na základě shromážděných dat; pokud data chybí, může si je vymýšlet Co je třeba mít na paměti: Tento otevřený vzdělávací zdroj zkoumá umělou inteligenci a algoritmickou zaujatost, její příčiny a dopady v reálném světě. Zdůrazňuje význam lidského dohledu a strategií pro zmírňování zaujatosti s cílem vytvořit spravedlivější systémy umělé inteligence. Umělá inteligence (UI) označuje systémy, které vykazují inteligentní chování tím, že analyzují své prostředí a podnikají kroky – s jistou mírou autonomie – za účelem dosažení konkrétních cílů. Algoritmická zaujatost je systematická chyba nebo nespravedlivý výsledek vznikající při použití algoritmů strojového učení, který často odráží nebo posiluje existující sociální, rasové či genderové předsudky. Je způsobena zaujatými předpoklady v návrhu algoritmů nebo trénováním na neúplných či zkreslených datech.