Leitfaden für die Dokumentation von ethischen, rechtlichen und sozialen Aspekten (ELSA) in Kulturdaten – Guidelines for the Documentation of Ethical, Legal and Social Issues (ELSI) in Cultural Data

Projekt “Mensch.Maschine.Kultur“ · 25. Juli 2025 · Seite 1/23 Leitfaden für die Dokumentation von ethischen, rechtlichen und sozialen Aspekten (ELSA) in Kulturdaten Version 1.0 (Juli 2025) Autor:innen: Dr. Jörg Lehmann, unter Mitwirkung von Sophie Schneider und Clemens Neudecker (Staatsbibliothek zu Berlin – Preußischer Kulturbesitz) Lizenz: CC-BY-SA 4.0 DOI: https://doi.org/10.5281/zenodo.16418346 Zitiervorschlag: Lehmann, Jörg, Sophie Schneider, und Clemens Neudecker. 2025. Leitfaden für die Dokumentation von ethischen, rechtlichen und sozialen Aspekten (ELSA) in Kulturdaten (Version 1). Staatsbibliothek zu Berlin – Berlin State Library. https://doi.org/10.5281/zenodo.16418346 Projekt “Mensch.Maschine.Kultur“ · 25. Juli 2025 · Seite 2/23 Inhalt Leitfaden für die Dokumentation von ethischen, rechtlichen und sozialen Aspekten (ELSA) in Kulturdaten ....................................................................................................................................................................................... 1 Zusammenfassung ................................................................................................................................................. 3 Einleitung.................................................................................................................................................................. 3 Datenauswahl bzw. -sammlung ............................................................................................................................ 6 Datenkuratierung .................................................................................................................................................. 11 Datenannotation ................................................................................................................................................... 12 Informationen über Annotator:innen ................................................................................................................ 13 Datendokumentation ........................................................................................................................................... 15 Design des Modells ............................................................................................................................................... 17 Modellerstellung ................................................................................................................................................... 19 Anwendung des Modells ...................................................................................................................................... 21 Schlussbetrachtung .............................................................................................................................................. 22 Projekt “Mensch.Maschine.Kultur“ · 25. Juli 2025 · Seite 3/23 Zusammenfassung Die aktuell unter dem Schlagwort „künstliche Intelligenz“ (KI) betriebenen Modelle wurden quasi ausschließlich auf Daten des 21. Jahrhunderts trainiert. Daher sind sie in hohem Maße ungeeignet für den Einsatz in historischen oder von der westlichen Welt kulturell differenten Kontexten. Die Bereitstellung von Daten aus dem Kulturerbe-Bereich schafft hier nicht einfach Abhilfe. Zwar sind solche Datensätze meist von hoher Qualität und zeichnen sich durch ihre historische Tiefe, ihren kulturellen Reichtum und ihre Diversität aus. Sie enthalten aber oft problematische Inhalte, die der Weltsicht vergangener Zeiten entstammt, und bedürfen daher einer umfassenden Dokumentation, um machine learning-Modelle präziser, leistungsfähiger und geeignet für den Einsatz in verschiedenen kulturellen Kontexten sowie dem Gemeinwohl dienlich zu machen. Dieser Leitfaden fokussiert auf ethische, soziale und rechtliche Aspekte bei der Dokumentation von Kulturerbe-Daten, die für das Training von machine learning-Modellen benutzt werden. Er konzentriert sich insbesondere darauf, wie diese Modelle möglicherweise historische oder statistische Verzerrungen („biases“) perpetuieren. Die Analyse wandert entlang der verschiedenen Phasen des gesamten machine learning workflows und arbeitet eine Reihe von neuralgischen Punkten heraus, an denen Biases entstehen können. Darüber hinaus wird auf die Rolle von Kulturerbe-Einrichtungen abgehoben. Diese Einrichtungen verfügen sowohl über umfangreiches Erfahrungswissen bei der Etablierung von Dokumentationsverfahren als auch über wertvolle Datensätze. Sie sind daher in besonderem Maße dazu qualifiziert, durch mustergültige Dokumentationen begleitete Datensätze zu publizieren. Die Bereitstellung von Kulturerbe-Daten unter Einbeziehung ethischer Erwägungen kann dazu beitragen, für die Gesellschaft kritische Inhalte in einer Art und Weise aufzubereiten, dass die Entwicklung von KIAnwendungen stimuliert und gesellschaftlich nachteilige Effekte vermieden werden. Der Leitfaden schließt mit einem Plädoyer für einen interdisziplinären Ansatz, um die aufgezeigten Probleme anzugehen, und er betont die Notwendigkeit proaktiver Maßnahmen von Kulturerbe-Einrichtungen, um in den Daten vorhandene Stereotype und Vorurteile zu dokumentieren und so einen positiven Beitrag zur KI-Ethik leisten zu können. Damit eröffnet dieser Leitfaden nicht nur die Möglichkeit, zur Entwicklung kleiner, in hohem Maße für spezifische Aufgaben im Kulturerbe-Bereich geeigneter Modelle mit einem hohen Kosten-Nutzen-Verhältnis beizutragen, sondern auch die vorhandenen großen Mehrzweckmodelle robuster, effizienter, kontextsensitiver, genauer und nachhaltiger zu machen. Die Publikation von hochqualitativen Kulturerbe-Datensätzen inklusive Dokumentation schärft das Profil der Kulturerbe-Einrichtung, macht sie als Partner:innen der Forschung attraktiv und eröffnet die Möglichkeit an der Einwerbung von Forschungsmitteln teilzuhaben. Einleitung Kulturerbe-Datensätze haben ihre eigene Geschichte und bringen daher ganz eigene Herausforderungen im Hinblick auf die Dokumentation von ethischen, rechtlichen und sozialen Aspekten mit sich. Grundsätzlich ist zunächst einmal die Sicht auf die Welt, wie sie in Kulturerbe-Objekten manifestiert oder präsentiert wird, nicht mehr kongruent mit heutigen Sichtweisen. Darüber hinaus stellt jede Kulturerbe-Sammlung eine Auswahl aus dem Möglichkeitsraum zu bewahrender kultureller Objekte dar und kann daher durch eine wenig repräsentative Sichtweise charakterisiert sein. Beispielsweise waren die Urheber:innen archivalischen Schriftguts zum weit überwiegenden Teil Männer, zählen sie doch zu denjenigen, die in der Geschichte alphabetisiert und sozial privilegiert waren. Mit einem solchen Gemeinplatz ist jede:r Mitarbeiter:in einer Kulturerbe-Einrichtung und jede:r Historiker:in vertraut, die Mitglieder der machine learning-Gemeinschaft hingegen nicht, zumindest nicht selbstverständlich. Sie aber zählen zu den möglichen Nutzer:innen eben jener Datensätze und sind dankbar dafür, über solche Projekt “Mensch.Maschine.Kultur“ · 25. Juli 2025 · Seite 4/23 statistischen Verzerrungen in den Daten (die im Englischen so genannten “biases”) durch eine qualitativ hochwertige Dokumentation informiert zu werden. Sie interessieren sich nicht nur für Fragen der Überrepräsentation, sondern auch für solche der Unterrepräsentation, beispielsweise: Welche sozialen Gruppen werden in den Datensätzen systematisch vernachlässigt, welche Menschen werden nicht mit Namen angesprochen, welche Minderheiten werden beschwiegen oder nur indirekt genannt, da sie aus der Sicht der damalig Herrschenden nicht erwähnenswert waren? Welchen Menschengruppen könnte Schaden daraus erwachsen, wenn ein bestimmter Datensatz – z.B. aus kolonialen Kontexten – dafür benutzt wird, ein machine learning-Modell zu trainieren? Ethische Probleme im Bereich künstlicher Intelligenz (KI) werden nicht selten durch einen Katalog abstrakter und präskriptiver Normen adressiert, die mit Begriffen wie statistische Verzerrungen, Transparenz, Erklärbarkeit, Privatsphäre, Datenschutz und Urheberrecht angesprochen werden. 1 Ganz entsprechend fokussieren Prinzipienkataloge und Richtlinien für Forschungsbibliotheken auf ”accessibility, inclusion, neutrality, transparency, safety, humans in the loop and robustness”, 2 Transparenz und Erklärbarkeit, 3 erklärbare künstliche Intelligenz, 4 die Rolle der Ethik in innovativen Prozessen, 5 die Rolle von Forschungsbibliotheken bei der Formulierung und Umsetzung institutioneller Grundsatzprogramme 6 oder bei der Regulierung von KI generell. 7 Ältere Ethikkodizes hingegen lassen die Eigenheiten digitaler Objekte unberücksichtigt, indem sie beispielsweise den Schwerpunkt auf physisches Eigentum legen und Kopien im Sinne von Faksimiles konzipieren. 8 Oft benutzen sie eine normative Sprache und präskriptive Formulierungen von Prinzipien, deren Legitimität sich aus der Anerkennung speist, die internationalen Ausschüssen und Verbänden gewährt wird. 9 Dieser Leitfaden möchte einen anderen Weg gehen, indem er einen Überblick über mehrere Phasen der Erstellung eines machine learning-Modells gibt und an jedem einzelnen Schritt exemplarisch durch Fragen, Erläuterungen und Beispiele aufzeigt, welche ethischen, rechtlichen oder sozialen Aspekte jeweils relevant und zu reflektieren sind. Diese Schritte sind im Einzelnen: Datenauswahl bzw. - sammlung, Datenkuratierung, Datenannotation, Informationen über Annotatoren, Datendokumentation, Design des Modells, Modellerstellung, Anwendung des Modells. 1 Kazim, E., & Koshiyama, A. S. (2021). A high-level overview of AI ethics. Patterns, 2(9), 100314. https://doi.org/10.1016/j.patter.2021.100314. 2 van Wessel, J. W. (2020). AI in Libraries: Seven Principles. Zenodo. https://doi.org/10.5281/ZENODO.3865344. 3 Ridley, M. (2022). Explainable Artificial Intelligence (XAI). Information Technology and Libraries, 41(2). https://doi.org/10.6017/ital.v41i2.14683. 4 Kennedy, M. L. (2019). What Do Artificial Intelligence (AI) and Ethics of AI Mean in the Context of Research Libraries? Research Library Issues, 299, 3–13. https://doi.org/10.29242/rli.299.1. 5 Johnson, S. A. (2019). Technology Innovation and AI Ethics. Research Library Issues, 299, 14–27. https://doi.org/10.29242/rli.299.2. 6 Henry, G. (2019). Research Librarians as Guides and Navigators for AI Policies at Universities. Research Library Issues, 299, 47–65. https://doi.org/10.29242/rli.299.4. 7 Bradley, F. (2022). Representation of Libraries in Artificial Intelligence Regulations and Implications for Ethics and Practice. Journal of the Australian Library and Information Association, 71(3), 189–200. https://doi.org/10.1080/24750158.2022.2101911. 8 ICOM (2017). Code of Ethics. https://icom.museum/en/resources/standards-guidelines/code-of-ethics/. 9 IFLA (2012). IFLA Code of Ethics for Librarians and Other Information Workers (Long Version). https://repository.ifla.org/handle/123456789/1850. Projekt “Mensch.Maschine.Kultur“ · 25. Juli 2025 · Seite 5/23 Die entscheidende Motivation dafür, einzelne für die Modellerstellung relevante Phasen durchzugehen, liegt darin, dass an jedem Schritt Menschen beteiligt sind, deren Positionalität bestimmt werden kann; so können Aussagen über ihre Einflussnahme getroffen werden. Das Konzept der Positionalität wurde bereits in den 1980er Jahren von der Wissenschaftshistorikerin und Feministin Donna Haraway entwickelt. In ihrem Aufsatz “Situated Knowledges” versuchte sie 1988, die Spannung zwischen Subjektivität und Objektivität in der wissenschaftlichen Gemeinschaft zu beleuchten. Sie kritisierte, dass Wissenschaft nichts anderes als eine rhetorische Praxis sei, die darauf abziele, andere zu überzeugen und objektive Macht zu erlangen. Dabei beschreibt sie die Strategie, Wissen als objektiv und unparteiisch darzustellen, um die Illusion von Allwissenheit zu erzeugen und dabei die eigene Position zu verbergen, als “God’s trick”. 10 Diesem rhetorischen Kniff stellt sie das Sehen als eine hilfreiche Metapher für die Wissensproduktion gegenüber. Der “God’s trick” verschleiert den Akt des Sehens und damit den Betrachter selbst, indem er ein umfassendes, von oben verordnetes Wissen oder eine Ethik präsentiert. Dadurch, dass Haraway das Sehen als aktiven Prozess in der Wissensproduktion in den Mittelpunkt rückt, legt sie offen, dass es einen Betrachter gibt, dass dieser Betrachter die Welt aus einer bestimmten Position heraus sieht und dass sein Erlangen dieser Position auf eine Geschichte zurückgeht, die bestimmend dafür ist, wie und was er sieht. Situiertes Wissen wird damit als die Idee präsentiert, dass Subjekte, die ihre eigene Präsenz im Prozess der Wissensund Normproduktion anerkennen und reflektieren, Wissen und Werte mit größerer Objektivität produzieren können, als wenn sie behaupten, neutral zu sein. Dies liegt daran, dass wir Menschen für unsere Beobachtungen nur dann objektive Gültigkeit beanspruchen können, wenn wir die Bedingungen, unter denen wir unsere Beobachtungen gemacht und verstanden haben, verstehen und darüber Rechenschaft ablegen. Wissen und Werte sind unter diesen situierten Bedingungen gültig, sie gestehen ihre begrenzte Reichweite ein, und sie fordern zu einem kritischen Dialog auf, der notwendig ist, um die Gültigkeit eines solchen Wissens über die Grenzen der eigenen Gemeinschaft hinaus zu erweitern. Eine bewusste und transparente Positionierung gegenüber dem Forschungsgegenstand verbessert die Validität wissenschaftlicher Aussagen, indem der soziale, kulturelle und politische Kontext des produzierten Wissens anerkannt wird. In den Jahren nach der Publikation von Haraways Aufsatz wurde ihre Kritik vielfach aufgenommen und in selbstreflexive Methoden übertragen. 11 Das Konzept der Positionalität ist hervorragend geeignet, um die verschiedenen Phasen der Erstellung eines machine learning-Modells zu hinterfragen. Nicht selten nämlich werden machine learningAlgorithmen als neutrale, mechanische, statistisch fundierte, autoritative Instanzen präsentiert, ohne dass die Werte, die für diese Wissenschaftspraxis leitend sind, offengelegt werden. 12 Darüber hinaus suggerieren viele machine learning-Studien, dass es einen absoluten Wahrheitswert gibt, im Verhältnis zu 10 Haraway, D. (1988). Situated Knowledges: The Science Question in Feminism and the Privilege of Partial Perspective. Feminist Studies, 14(3), 575–599. https://doi.org/10.2307/3178066. 11 Mey, G., & Mruck, K. (2011). Grounded Theory Reader (2., aktualisierte und erw. Aufl). VS Verlag für Sozialwissenschaften, S. 427–448; Nelson, L. K. (2020). Computational Grounded Theory: A Methodological Framework. Sociological Methods & Research, 49(1), 3–42. https://doi.org/10.1177/0049124117729703. 12 Birhane, A., Kalluri, P., Card, D., Agnew, W., Dotan, R., & Bao, M. (2022). The Values Encoded in Machine Learning Research. 2022 ACM Conference on Fairness, Accountability, and Transparency, 173–184. https://doi.org/10.1145/3531146.3533083. Projekt “Mensch.Maschine.Kultur“ · 25. Juli 2025 · Seite 6/23 dem die in den Datensätzen identifizierbaren biases lediglich eine Abweichung seien. 13 Die esoterische und exklusive Sprache und das unzugängliche Fachvokabular, das die machine learning-Gemeinschaft pflegt, 14 trägt hier bedauernswerterweise dazu bei, den Objektivitätsanspruch auf statistischer Grundlage weiter zu behaupten und seine Unparteilichkeit zu zementieren, gegen kritische Nachfragen abzusichern und das generelle Vorgehen sowie die einzelnen Arbeitsschritte intransparent zu machen. Während im Bereich der Statistik biases als statistische Verzerrungen verstanden werden, gibt es weitere Bedeutungen des Begriffs. So gibt es historische biases in Datensätzen, d.h. letztere enthalten nachteilige Darstellungen spezifischer Menschengruppen bzw. verstärken historische Stereotype. Darüber hinaus können machine learning-Modelle durch biases charakterisiert sein: Aus den Annotationen können Vorhersagebiases resultieren, es kann zu Aggregationsverzerrungen kommen, oder ein Algorithmus kann bestimmte Lösungen bevorzugen und so zu einem induktiven bias des Modells führen. Eine Reihe von Studien hat aufgezeigt, dass biases in datengetriebenen Systemen zu diskriminierenden Praktiken und Exklusionsvorgängen führen können, dass also Menschengruppen konkreter Schaden zugefügt wird. Dies führt in eine verwirrende Situation: Auf der einen Seite wird behauptet, dass diese biases bekämpft und abgemildert, die Daten bereinigt und die Systeme debiased werden können. Auf der anderen Seite ist offensichtlich, dass biases nicht nur ein technisches, sondern ein gesellschaftliches Phänomen sind, eben weil sie überall zu finden sind. Wenn aber die Gesellschaft als Ganze durch biases charakterisiert ist, dann wird es keine Anwendungen künstlicher Intelligenz ohne bias geben. 15 Dieser Widersprüchlichkeit wird man nur Herr, wenn man sich im konkreten Fall anschaut, welche biases wo vorhanden sind, welche Positionalität Menschen, Datensätze und Modelle in den jeweiligen Phasen der Modellerstellung und -anwendung einnehmen und welche Auswirkungen das hat. Stellen Sie sich vor, dass Sie aktuell einen Datensatz erstellen oder bereits zusammengestellt haben, den Sie nun auf ethische, rechtliche und soziale Aspekte hin abklopfen möchten. Die folgenden Fragen und Beispiele helfen Ihnen dabei, den Datensatz kritisch zu untersuchen und ethische, rechtliche und soziale Aspekte innerhalb der verschiedenen Phasen der Modellerstellung in den Blick zu nehmen. Datenauswahl bzw. -sammlung Wie wurden die Daten ausgewählt? Welche Systematiken oder Klassifikationssysteme sind mit dieser Auswahl verbunden? Welche Vorannahmen oder klassifikatorischen Entscheidungen impliziert ein solches System? Daten sind als menschliches Artefakt nicht einfach “gegeben” (von lateinisch: datum), sondern resultieren aus einer interessegeleiteten Weltsicht bzw. einer Interpretation der Welt. Diese Interpretation wechselt je nach der Positionalität derjenigen, die die Daten erheben. Daten sind daher nicht einfach vorgängig und vom Menschen unabhängig vorhanden, sondern ein Produkt seiner Auseinandersetzung mit der ihn umgebenden Welt, aus der er die für ihn relevanten Informationen extrahiert. Als Resultat menschlicher Aktivität stellen Daten eine dekontextualisierte Reduktion der Welt 13 Miceli, M., Posada, J., & Yang, T. (2022). Studying Up Machine Learning Data: Why Talk About Bias When We Mean Power? Proceedings of the ACM on Human-Computer Interaction, 6(GROUP), 1–14. https://doi.org/10.1145/3492853. 14 Zuboff, S. (2019). The Age of Surveillance Capitalism. The Fight for a Human Future at the New Frontier of Power (First edition). Public Affairs, S. 98–127. 15 Miceli et al., 2022, a.a.O., S. 3. Projekt “Mensch.Maschine.Kultur“ · 25. Juli 2025 · Seite 7/23 dar; sie können, wie es die Kulturkritikerin Johanna Drucker formuliert hat, daher auch als “genommen” (von lateinisch: capta) beschrieben werden, 16 denn sie werden ja von Menschen durch Auswahl, Beobachtung, Interpretation und Strukturierung aktiv geformt. Obwohl Daten häufig als neutral und objektiv beschrieben werden und sie vom Nimbus intersubjektiver Übertragbarkeit, Generalisierbarkeit und Konvertierbarkeit umgeben sind, hängt ihr Gebrauch doch stark vom sozialen Kontext ab, in den sie eingebettet sind. Die Wissenschaftsphilosophin Sabina Leonelli hat Daten daher als relationale Kategorie beschrieben, die auf Forschungsergebnisse angewandt wird, als Beweis für Wissensansprüche dienen und für die beteiligten Forscher:innen von Interesse sind. 17 Strukturierte Daten stellen zum einen selbst Klassifikationssysteme dar; zum anderen werden sie darüber hinaus häufig mit weiteren Klassifikationssystemen verbunden, die als Metadaten den Datensätzen hinzugefügt werden und daher auch auf das Training von machine learning-Modellen Auswirkungen haben. Die Katalogisierung von Büchern in einer Bibliothek stellt beispielsweise eine typische Klassifikationsaufgabe dar, in der die Werke mit Labels bzw. Schlagworten versehen werden; ein anderes Beispiel stellt die Verschlagwortung von Bildern mit dem Klassifizierungskonzept ICONCLASS dar. Umfangreiche Klassifikationssysteme wie Schlagwortkataloge werden auf nationaler wie internationaler Ebene in Informationsinfrastrukturen sowie die Arbeitsroutinen von Bibliothekar:innen integriert, auf diese Weise naturalisiert und unsichtbar gemacht. 18 Klassifikationssysteme sind meist als ‚Setzkästen‘ angelegt, deren Kästchen durch disjunkte Klassen bzw. Kategorien gebildet werden. Da die Kategorien, die das Klassifikationssystem bilden, so angelegt werden, dass sie sich wechselseitig ausschließen und damit versucht wird, die gesamte Welt in Schubladen sortierbar zu machen, fällt es weder den Schöpfer:innen noch den Benutzer:innen auf, wenn reale Phänomene gar nicht adäquat erfasst werden können. Ein gutes Beispiel dafür ist die International Classification of Diseases ICD, die von der WHO in Genf gepflegt wird; sie stellt den umfassenden westlichen Blick auf die Klassifikation von Krankheiten dar, bildet die Schnittstelle zwischen Therapeuten und Versicherungsunternehmen und ist daher extrem wirkmächtig; zugleich aber schließt es die Klassifikationssysteme anderer Kulturen wie beispielsweise die traditionelle chinesische Medizin aus. 19 Wie alle Informationssysteme auch sind Klassifikationssysteme mit ethischen und politischen Werten durchsetzt. Ethisch fragwürdig wird das, wenn etwa die Sichtbarkeit einer Menschengruppe innerhalb des Klassifikationssystems auf Kosten einer anderen geht. Beispielsweise werden Menschen systematisch benachteiligt, die durch das Klassifikationssystem nicht abgebildet werden, die Zuordnung zu einer bestimmten Klasse diskriminierend ist oder sie der Residualkategorie des “Anderen, Weiteren” zugeschlagen wurden, d.h. dem, von dem man nicht genau weiß, wie man es einordnen soll. 20 Ein berühmtes Beispiel für entstellende Repräsentationen in einem Klassifikationssystem stellen die Library of Congress Subject Headings (LCSH) dar, die bereits 1971 von Sanford Berman kritisiert wurden. Er zeigte auf, dass im System der Subject Headings “Tramps” und “Unemployed” eine Unterkategorie 16 Drucker, J. (2015). Graphical Approaches to the Digital Humanities. In S. Schreibman, R. Siemens, & J. Unsworth (Hrsg.), A New Companion to Digital Humanities (S. 238–250). John Wiley & Sons, Ltd. https://doi.org/10.1002/9781118680605.ch17. 17 Leonelli, S. (2014). What difference does quantity make? On the epistemology of Big Data in biology. Big Data & Society, 1(1), 1–11, hier S. 7. https://doi.org/10.1177/2053951714534395. 18 Bowker, G. C., & Star, S. L. (1999). Sorting Things Out. Classification and its Consequences. MIT Press, S. 47. 19 Bowker & Star, 1999, a.a.O., S. 48/49. 20 Bowker & Star, 1999, a.a.O., S. 325. Projekt “Mensch.Maschine.Kultur“ · 25. Juli 2025 · Seite 8/23 von “Poor” bilden, “Jewish Criminals” und “Negro Criminals” eine eigene Kategorie darstellen (hingegen etwa “Italian-American Criminals” fehlen), dass “Sexual perversion” mit “Homosexuality” und “Lesbianism” verknüpft ist und dass der Begriff Zigeuner mit dem Querverweis “Rogues and Vagabonds” versehen ist. 21 Insgesamt kritisierte Berman den Rassismus, Sexismus, die christlich zentrierte Weltsicht und weitere biases in den LCSH. Seither wurden zahlreiche der von ihm monierten Schlagwörter ausgetauscht. In ähnlicher Weise sind auch weitere in Bibliotheken benutzte Schlagwortsysteme in einem permanenten Wandel begriffen. Eine Reflektion auf die in den Klassifikationssystemen implizit enthaltenen Vorannahmen unterstützt daher nicht nur die Offenlegung von falschen oder verzerrenden Darstellungen, sondern erläutert auch die Art und Weise, wie kulturelles Erbe interpretiert und für die Digitalisierung ausgewählt wird. Ethisch problematische Verhältnisse entstehen darüber hinaus, wenn westliche Metadaten-Schemata verwendet werden, um Sammlungen aus kolonialen oder indigenen Kontexten zu beschreiben und zu ordnen, oder wenn Digitalisate erstellt und online zugänglich gemacht werden, die für spezifische Gemeinschaften heilig, geheim oder von besonderer Bedeutung sind. 22 Welche Datensubjekte umfasst dieser Datensatz? Welche Perspektiven beinhaltet der Datensatz, und welche fehlen? Wurden diese Menschen am Design des Datensatzes und an der Datensammlung beteiligt? Wurde der fertiggestellte Datensatz durch die Datensubjekte validiert? Mit dem Begriff “Datensubjekte” werden die Menschen bezeichnet, die in einem Datensatz enthalten sind. Das können die Urheber der Beiträge, Bücher oder Fotos sein oder die in dem Datensatz abgebildeten oder beschriebenen Menschen. Für die Dokumentation ist es nicht nur von Bedeutung, dass die explizit benannten Personen beschrieben werden, sondern auch die nicht namentlich erwähnten, aber doch enthaltenen Personen, denn das Verschweigen oder ein indirektes oder durch ein Kollektivwort Ansprechen gehört zur klassischen Rhetorik der Diskriminierung. Das zeigt sich auch beispielsweise daran, dass es in Archiven übliche Praxis ist, im Rahmen einer Sammlungsbeschreibung Indizes mit Personennamen anzulegen. Diese Indizes sind, wie die Sammlungsbeschreibungen auch, ein Kind ihrer Zeit; was man zum Zeitpunkt der Anfertigung für wichtig hielt, wurde indiziert, unwichtiges hingegen nicht – ein typisches Beispiel von Positionalität. Im Ergebnis kommt es vor, dass Findhilfen von archivalischen Sammlungen aus kolonialen Kontexten die Namen der Kolonisatoren verzeichnen, nicht jedoch die der Kolonisierten, oder von diesen nur diejenigen der männlichen Vollbürger, nicht aber die der Frauen und Sklaven. 23 Gerade wenn ein Datensatz Stereotype reproduziert und eine historische oder zeitgenössische Diskriminierung von Frauen und/oder Minderheiten reflektiert, ist dies für die Nutzenden dieses Datensatzes relevant. Auch eine Repräsentation der Welt, wie sie ist oder wie sie einmal war, kann daher aus ethischer Sicht problematisch sein. Beispielsweise kann auch ein großer Datensatz digitalisierter Zeitungen die Geschichte einer Minderheit vollständig aussparen, da diese Menschen die Sprache der Zeitung nicht benutzten; auf diese Art und Weise wird ein “blinder Fleck” erzeugt, und Vorurteile dieser Menschengruppe gegenüber können verstärkt werden. Dieses Phänomen 21 Berman, S. (1971). Prejudices and antipathies. A tract on the LC subject heads concerning people. Scarecrow Press, S. 183, 35/36, 182, 72. 22 Mindel, D. (2021). Ethics and digital collections: A selective overview of evolving complexities. Journal of Documentation, 78(3), 546–563, hier S. 552. https://doi.org/10.1108/JD-11-2020-0193. 23 Luthra, M., Todorov, K., Jeurgens, C., & Colavizza, G. (2024). Unsilencing Colonial Archives via Automated Entity Recognition. Journal of Documentation, 80(5), 1080–1105. https://doi.org/10.1108/JD-022022-0038. Projekt “Mensch.Maschine.Kultur“ · 25. Juli 2025 · Seite 9/23 wird auch historischer bias genannt. 24 Nicht selten enthalten Datensätze sensible Informationen, die Auskunft über die ethnische Herkunft, die sexuelle Orientierung, religiöse Überzeugungen, politische Meinung oder Gewerkschaftsmitgliedschaft geben können. Bildarchive können beispielsweise Fotos von Kirchen und Begräbnissen enthalten oder Dokumentationen von Protestdemonstrationen. 25 Selbst wenn solche Darstellungen historischer Natur sind, empfiehlt es sich, in der Dokumentation zu berichten, dass solche sensiblen Informationen im Datensatz enthalten sind. Kulturerbe-Einrichtungen bewahren materielles Kulturgut auf, damit sich die Zeitgenoss:innen darüber informieren können, woher sie kommen und in welcher Tradition sie stehen. Kulturerbe wird dazu benutzt, eine Reihe von Identitäten zu konstruieren und soziale und kulturelle Werte und Bedeutungen zu verhandeln. Der tradierte Sammelauftrag von Kulturerbe-Einrichtungen hat in der Vergangenheit dazu geführt, dass bedeutsame, einflussreiche und prestigeträchtige Objekte und Artefakte aufbewahrt wurden, die als entscheidend für die Formung der modernen Nationalstaaten angesehen wurden. Für die Datennachnutzenden ist es daher äußerst informativ, wenn derartige Auswahlkriterien reflektiert werden. Darüber hinaus entsprach es vor allem im 19. und frühen 20. Jahrhundert dem typischen Vorgehen imperialistischen und kolonialistischen Handelns, von überall auf der Welt Gegenstände anderer Völker zu sammeln und ins deutsche Reich zu verbringen, eine Vorgehensweise, die erst in jüngerer Vergangenheit hinterfragt wurde. Es ist daher mittlerweile gängige Praxis, dass Archivalien, Manuskripte, Kataster oder Kultgegenstände im Austausch mit den indigenen Gruppen, deren Tradition sie angehören, digitalisiert werden. Anders als vor einigen Jahrzehnten, als Kulturerbe-Einrichtungen noch selbst autoritativ entschieden, was gesammelt wurde, verläuft dieser Prozess nun nicht mehr von oben herab, sondern in einem Austausch auf Augenhöhe. Diese Personengruppen werden an der Erstellung des Datensatzes beteiligt und können mitentscheiden, welche Objekte digitalisiert und publiziert werden, oder ob ein bestimmter Ausschnitt des Datensatzes nicht oder nur mit bestimmten Einschränkungen veröffentlicht werden sollte. 26 Darüber hinaus ist die Dokumentation des Vorgangs der Auswahl von zu digitalisierenden Objekten von besonderem Interesse. Häufig sind Kulturerbe-Datensätze das Ergebnis mehrerer gestaffelter Auswahlprozesse. Die verschiedenen Auswahlstufen lassen sich metaphorisch als „Ziggurat“-Struktur beschreiben, d.h. analog zu Terrassenbauten im alten Mesopotamien. 27 Aus einer Grundgesamtheit erfolgt die Auswahl der physischen Objekte, aus denen wiederum eine Reihe für die Digitalisierung ausgewählt wurden usf. In den meisten Fällen ist aber nichts über die ‚Gesamtheit‘ der historischen Aufzeichnungen bekannt, die einst existierte und aus denen die Sammlungsobjekte entnommen wurden, die nun in Kulturerbe-Einrichtungen aufbewahrt werden. Darüber hinaus stellt das, was digitalisiert wurde, in den meisten Fällen nur einen Bruchteil einer Sammlung als Ganzer dar. Diese Beobachtung gilt insbesondere für digitalisierte Archivalien. Die Motivationen zur Digitalisierung sind 24 Suresh, H., & Guttag, J. (2021). A Framework for Understanding Sources of Harm throughout the Machine Learning Life Cycle. Equity and Access in Algorithms, Mechanisms, and Optimization, 1–9. https://doi.org/10.1145/3465416.3483305. 25 Wevers, M. (2022). Fotopersbureau De Boer Training Set on Scene Detection (Version 0.2) [Dataset]. Zenodo. https://doi.org/10.5281/zenodo.7118409. 26 Guiliano, J., & Heitman, C. (2019). Difficult Heritage and the Complexities of Indigenous Data. Journal of Cultural Analytics. https://doi.org/10.22148/16.044. 27 Alkemade, H., Claeyssens, S., Colavizza, G., Freire, N., Lehmann, J., Neudecker, C., Osti, G., & Van Strien, D. (2023). Datasheets for Digital Cultural Heritage Datasets. Journal of Open Humanities Data, 9, 17, S. 3/4. https://doi.org/10.5334/johd.124. Projekt “Mensch.Maschine.Kultur“ · 25. Juli 2025 · Seite 16/23 Rechtsfällen oder der Auswahl von Bewerber:innen blieben eher die Ausnahme. In einem sich rasant entwickelnden Feld, in dem die Frequenz der Publikation von Datensätzen und Modellen stetig zunimmt, ist es daher nicht erstaunlich, dass Standards, Formate und gute Praxisbeispiele erst entwickelt werden müssen. Grundsätzlich muss man sich aber auch einige fundamentale Differenzen vor Augen führen, die zwischen Datensätzen bestehen, die durch Kulturerbe-Institutionen erstellt wurden, und solchen, die aus dem machine learning-Feld kommen. Die Werte, die im Bereich des machine learning leitend sind, wie etwa Performanz, Generalisierbarkeit, Effizienz, Weiterentwicklung bestehender Ansätze und Neuheit des Ansatzes, 46 haben wenig mit den Werten zu tun, wie sie implizit oder explizit in den Leitbildern von Kulturerbe-Einrichtungen enthalten sind. Kritiker bemängeln daher etwa, dass im machine learning-Feld Effizienz auf Kosten von Sorgfalt, universelle Anwendbarkeit auf Kosten von Kontext, vorgebliche Objektivität auf Kosten von Positionalität und Arbeit an den Modellen auf Kosten der Beschäftigung mit den Datensätzen geht. 47 Häufig ist die Prämisse bei der Erstellung von Datensätzen im Bereich machine learning die Größe des Datensatzes (“je größer desto besser”), wohingegen es ja gerade die Aufgabe von Kulturerbe-Einrichtungen ist, aus der Masse des verfügbaren Materials das auszuwählen, was wichtig, wertvoll und bewahrenswert ist, also zu reduzieren. Darüber hinaus haben die Bereiche unterschiedliche Aufgaben und Ziele. Während im machine learning-Feld die Entwicklung praktischer Nutzanwendungen oder das Erreichen bestimmter Genauigkeitswerte im Vordergrund steht, dient der Kulturerbe-Bereich dem Erinnern und Bewahren, orientiert sich am gängigen Rechtsrahmen und den Datenschutzbestimmungen und legt großen Wert auf Zugänglichkeit und Erschließbarkeit der Bestände. Standardisierte Formen der Dokumentation sind im Feld maschinellen Lernens tatsächlich erst in den letzten Jahren vorgeschlagen worden, und zwar im Hinblick auf Datensätze 48 als auch für die Modelle selbst, 49 vor allem im Hinblick darauf, die unweigerlich in Datensätzen vorhandenen biases transparent zu machen und möglichen Schaden für diejenigen Bevölkerungsgruppen, die von der Anwendung von machine learning-Modellen betroffen sind, abzuwenden. Diese Mustervorlagen für die Dokumentation von Datensätzen und Modellen enthalten in der Regel Fragenkataloge und sind entlang von Bereichen wie Datensammlung, Annotation, Kontextualisierung und Einsatzbereiche strukturiert. 50 Auch für den 46 Birhane et al., 2022, a.a.O., S. 174. 47 Scheuerman, M. K., Hanna, A., & Denton, E. (2021). Do Datasets Have Politics? Disciplinary Values in Computer Vision Dataset Development. Proceedings of the ACM on Human-Computer Interaction, 5(CSCW2), 1–37. https://doi.org/10.1145/3476058. 48 Gebru, T., Morgenstern, J., Vecchione, B., Vaughan, J. W., Wallach, H., Daumé III, H., & Crawford, K. (2021). Datasheets for Datasets. Communications of the ACM, 64(12), 86–92. https://doi.org/10.1145/3458723. 49 Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., Hutchinson, B., Spitzer, E., Raji, I. D., & Gebru, T. (2019). Model Cards for Model Reporting. Proceedings of the Conference on Fairness, Accountability, and Transparency, 220–229. https://doi.org/10.1145/3287560.3287596. 50 Vgl. hier neben Gebru et al., 2021, a.a.O. und Mitchell et al., 2019, a.a.O. auch Pushkarna, M., Zaldivar, A., & Kjartansson, O. (2022). Data Cards: Purposeful and Transparent Dataset Documentation for Responsible AI. 2022 ACM Conference on Fairness, Accountability, and Transparency, 1776–1826. https://doi.org/10.1145/3531146.3533231; Richards, J. T., Piorkowski, D., Hind, M., Houde, S., Mojsilovic, A., & Varshney, K. R. (2021). A Human-Centered Methodology for Creating AI FactSheets. IEEE Data Eng. Bull., 44(4), 47–58. http://sites.computer.org/debull/A21dec/p47.pdf. Projekt “Mensch.Maschine.Kultur“ · 25. Juli 2025 · Seite 17/23 Kulturerbebereich wurden bereits spezifische Vorlagen entwickelt. 51 Diese Beispiele zielen darauf ab, das Bewusstsein für eine bessere Dokumentation zu schärfen, Transparenz vor allem im Hinblick auf die Provenienz der Daten, den Kontext ihrer Herkunft, ihre mögliche Verwendung (und ggf. schädlichen Einsatz, soweit abschätzbar) sowie die biases herzustellen. Design des Modells Welche Entscheidungen der Forscher:innen, Entwickler:innen bzw. der/des data scientists wurden während des Designs getroffen? Welche davon sind dokumentiert? Welche biases können daraus resultieren? Um ein machine learning-Modell zu erstellen, treffen Forscher:innen, Entwickler:innen bzw. data scientists eine ganze Reihe von Entscheidungen, die in ihrem Ermessensspielraum liegen und die entlang des gesamten machine learning workflows vorgenommen werden. Durch diese Entscheidungen wird die Positionalität der Entwickler:innen in den Prozess der Modellerstellung eingeschrieben. Wenn nicht ein bereits annotierter Datensatz vorliegt, können diese Entscheidungen schon bei der Erstellung und Kuratierung der Datensätze beginnen, d.h. bei der Auswahl der Quellen, der Entscheidung, welche Sprache(n) benutzt werden, welche Bevölkerungsgruppen der Datensatz umfasst und welche nicht, und wie die Annotationen vorgenommen werden. 52 Die Forscher:innen entwerfen dabei in der Regel die Annotationsaufgabe im Hinblick auf die Vorhersageaufgabe, die das Modell zu erfüllen hat. Dementsprechend werden die Annotationsrichtlinien formuliert. Anschließend werden die Annotator:innen ausgewählt, d.h. oft wird die Entscheidung zwischen einer Expert:innengruppe (die Forscher:innen selbst, Student:innen, WEIRD people) und einem Anbieter einer crowdsourcing-Plattform getroffen. Im letzteren Fall wird die Aufgabe über ein Netzwerk verteilt und die crowd worker erstellen die Labels des Trainingsdatensatzes, auf dem das Modell trainiert wird. Wie oben beschrieben, kann dabei die persönliche Haltung der Annotator:innen in den vergebenen Labels ihren Ausdruck finden. In der nächsten Phase spielt die durch die Forscher:innen vorgenommene Auswahl unter verschiedenen Optionen eine noch entscheidendere Rolle. Zunächst wird der annotierte Datensatz vorprozessiert. Typischerweise werden die von den Annotatoren vergebenen Labels validiert, indem die Urteilerübereinstimmung (inter-rater reliability oder inter-annotator agreement) berechnet wird, beispielsweise Krippendorffs Alpha oder Cohen’s Kappa. Hier gibt es keine Maßzahl, die im Bereich maschinellen Lernens generell und konsistent angewandt wird, und es gibt unter den Expert:innen auch keinen Konsens über einen Schwellenwert, oberhalb dessen die Annotationen verworfen werden. 53 Vielmehr liegt die Wahl des Maßes für die Urteilerübereinstimmung oder den Schwellenwert im Ermessen der Forscher:innen. Anschließend werden die Labels meist aggregiert, um eine einzelne Perspektive herzustellen, von der der Algorithmus maschinellen Lernens das Ziel ableitet und das Modell erstellt. Wie oben erläutert, wird bei der Aggregation häufig dasjenige Label benutzt, das in der 51 Alkemade et al., 2023, a.a.O.; Eskevich, M., & Luthra, M. (2024). Data-Envelopes for Cultural Heritage: Going beyond Datasheets. In I. Siegert & K. Choukri (Hrsg.), Proceedings of the Workshop on Legal and Ethical Issues in Human Language Technologies @ LREC-COLING 2024 (S. 52–65). ELRA and ICCL. https://aclanthology.org/2024.legal-1.9; Lee, B. C. G. (2023). The „Collections as ML Data“ Checklist for Machine Learning & Cultural Heritage. Journal of the Association for Information Science and Technology, 1– 22. https://doi.org/10.1002/asi.24765. 52 Santy et al., 2023, a.a.O., S. 9083. 53 Cambo, S. A., & Gergle, D. (2022). Model Positionality and Computational Reflexivity: Promoting Reflexivity in Data Science. CHI Conference on Human Factors in Computing Systems, 1–19, hier S. 15. https://doi.org/10.1145/3491102.3501998. Projekt “Mensch.Maschine.Kultur“ · 25. Juli 2025 · Seite 18/23 absoluten oder relativen Mehrheit verwendet wurde. Der Begriff “ground truth” muss daher im Kontext und als relativ verstanden werden, eine absolute Wahrheit gibt es bei dieser Herangehensweise nicht. Im darauffolgenden Schritt beschäftigen sich die Forscher:innen u.a. mit der Auswahl geeigneter MLArchitekturen, -Frameworks und -Algorithmen und testen verschiedene Einstellungen von Parametern, die das Lernverhalten beeinflussen sollen. Gelernt werden soll eine Funktion (ein Modell), welche die Trainingsdaten inklusive festgelegter Labels möglichst genau beschreibt und dabei gleichzeitig auch auf neuen, noch ungesehenen Daten gute Ergebnisse erzeugen kann. Zur Orientierung können Verlustfunktionen und Evaluationsmetriken herangezogen werden. In dieser Phase beschäftigen sich die Datenwissenschaftler:innen mit den Annahmen, die sie über den Anwendungsbereich des Modells getroffen haben. Diese Annahmen beeinflussen die explorativen Datenanalysen und die Auswahl der Modelle stark und sind daher für die getroffenen Entscheidungen grundlegend. Darüber hinaus besteht die Möglichkeit, eine ganze Reihe von Modellen zu erproben und die Ergebnisse vergleichend zu evaluieren. Die dahinter liegende Idee besteht darin, aus dem Vergleich eine Entscheidung für eines der Modelle zu treffen und zu bestimmen, wie jedes von ihnen durch unterschiedliche algorithmische und statistische Methoden zustande gekommen ist, welche jeweiligen Fehler dabei auftreten oder welches der Modelle die beste Performanz auf dem Testset zeigt. 54 Im besten Fall werden die Annahmen über den Anwendungsbereich in der den Datensatz oder das Modell begleitenden Dokumentation reflektiert und auf diese Weise offengelegt, auf welcher Grundlage die Forscher:innen zu den Entscheidungen gekommen sind, die in ihrem Ermessen liegen. Der eben beschriebene Prozess verdeutlicht die vielen Möglichkeiten, unter denen die Datenwissenschaftler:innen auswählen müssen, und in denen ihre Positionalität deutlich wird. Gleichwohl kann dieser Prozess als für den Bereich der Forschung idealtypisch angesehen werden und entspricht damit in etwa dem Vorgehen, das im Fall einer Nutzung von Kulturerbedaten angewandt wird. Im Bereich der freien Wirtschaft hingegen kann dieser Prozess noch deutlich komplizierter sein, spielen hier doch noch eine Reihe weiterer Interessen und Akteure mit hinein, so dass der gesamte Vorgang des Modelldesigns als komplexer Aushandlungsprozess verstanden werden muss. Dies kann bereits die Phase der Formulierung der Aufgabenstellung betreffen, aber auch die Wahl der Methoden, Instrumente und Daten. Ökonomische Überlegungen im Hinblick auf Konkurrenzprodukte, die in der Regel teure manuelle Datenannotation, die praktische Umsetzung des machine learning workflows oder auf zu erreichende Unternehmensziele spielen hier mit hinein. 55 In der Phase des Modell-Designs können biases auftreten bzw. das Modell beeinflussen. Ein typisches Beispiel hier ist etwa die Wahl der Sprache. Datenwissenschaftler:innen können eine bestimmte Sprache deshalb präferieren, weil sie ihnen vertraut ist und sie daher die Labels, die von den Annotator:innen vergeben werden, besser beurteilen können. Oder die Wahl fällt auf beispielsweise die englische Sprache, weil für sie die meisten Daten vorliegen. Ein weiterer typischer bias entsteht, wenn ein erstelltes Modell eine unterschiedliche Performanz für verschiedene Bevölkerungen zeigt. Wurde es beispielsweise auf die Erkennung bestimmter Merkmale einer natürlichen Sprache für eine bestimmte Bevölkerungsgruppe in einem bestimmten Land trainiert, so kann es in einem ähnlichen Anwendungskontext gut funktionieren; in einer anderen Bevölkerungsgruppe und einem kulturell und 54 Cambo & Gergle, 2022, a.a.O., S. 3. 55 Passi, S., & Sengers, P. (2020). Making data science systems work. Big Data & Society, 7(2), 1–13. https://doi.org/10.1177/2053951720939605. Projekt “Mensch.Maschine.Kultur“ · 25. Juli 2025 · Seite 19/23 geographisch anderen Kontext jedoch, in dem dieselbe Sprache gesprochen wird, muss dies nicht der Fall sein; hier kann die Performanz stark abfallen. Ein weiteres Beispiel besteht in der Vorhersage der sozialen Akzeptanz, die stark von soziodemographischen Variablen, kontextuellen Faktoren und den sich im Laufe der Zeit stark wandelnden Normen und Werten einer Gesellschaft abhängig ist. 56 Mitarbeiter:innen in Kulturerbe-Einrichtungen sind sich solcher Besonderheiten im Datenmaterial sehr bewusst; bei Datenwissenschaftler:innen kann dies hingegen nicht selbstverständlich vorausgesetzt werden. Daher spricht viel für eine interdisziplinäre und intersektorale Zusammenarbeit in der Phase des Modell-Designs, denn die Qualität eines Modells hängt stark von der Aufgabenstellung ab, für die es trainiert wurde, und damit von den Annahmen über den Anwendungsbereich des Modells. Dies verdeutlicht auch, warum es nicht einfach möglich ist und zu Problemen führen kann, wenn ein machine learning-Modell auf Kulturerbe-Daten trainiert wurde und dann in einem völlig anderen Kontext eingesetzt wird. Modellerstellung Auf wessen Positionalität und Sichtweise stützt sich das Modell bei seiner Vorhersage? Welche Positionalitäten und Sichtweisen werden durch das Modell in ungesehene Daten hineinprojiziert? Durch welche biases zeichnet sich das Modell aus? Die Diskussion um biases im maschinellen Lernen kreist fast ausschließlich um statistische Verzerrungen in den Datensätzen. Vergleichsweise wenig Aufmerksamkeit erfährt hingegen die Tatsache, dass auch bei der Modellerstellung biases entstehen können. Offensichtlich ist der Mythos, dass einmal erstellte Modelle objektiv, vorurteilsfrei und unparteiisch seien, Teil der gut gepflegten ‘Aura der Objektivität’, die der Ansatz der Positionalität bzw. situierten Wissens hinterfragt. Nicht zuletzt, um diesem Mythos entgegenzutreten und die biases, die ein Modell charakterisieren, zu dokumentieren, wurde die Erstellung von “Model Cards for Model Reporting” initiiert. 57 Dass auch Modelle eine eigene Positionalität haben, wird deutlich, wenn man sie im größeren Zusammenhang eines soziotechnischen Systems verortet. Dazu gehören im weiteren Sinn der soziale, kulturelle und politische Kontext, und im engeren Sinn der ökonomische und organisatorische Kontext, in den der machine learning workflow eingebettet ist. Insbesondere ist hier die Herkunft eines Modells aus den Daten relevant, auf denen es trainiert wurde, aber auch die Anwendung des Modells auf Daten, zu denen es Vorhersagen liefert. Um die Positionalität eines Modells zu erfassen, genügt es aber nicht, es als produktives Element in einer langen Kette von Einzelschritten zu verstehen. Es ist vielmehr hilfreich, sich vor Augen zu führen, dass das Verhalten eines trainierten machine learning-Modells durch eine Gegenüberstellung mit dem Verhalten von Menschen charakterisiert werden kann, die dieselbe oder eine vergleichbare Aufgabe wie das Modell ausführen. Durch einen Abgleich mit menschlichem Verhalten (z.B. bei der Einschätzung toxischer Kommentare oder von sozialer Akzeptanz) wird dann deutlich, welche Perspektiven das Modell privilegiert wiedergibt und automatisiert, welche Perspektiven es eher vernachlässigt und nicht berücksichtigt, und mit welchen Perspektiven es überhaupt nicht übereinstimmt. Häufig automatisieren Modelle nämlich eine einzige Perspektive auf das Zielobjekt, selbst wenn sich in den Labels des Trainingsdatensatzes eine Vielzahl von unterschiedlichen Perspektiven findet. Die Gegenüberstellung mit menschlichem Verhalten ermöglicht es, die Position zu 56 Santy et al., 2023, a.a.O., S. 9085ff. 57 Mitchell et al., 2019, a.a.O. Projekt “Mensch.Maschine.Kultur“ · 25. Juli 2025 · Seite 20/23 konturieren und zu bestimmen, aus der heraus das Modell die Welt “sieht”. 58 Hieraus wird dann sehr deutlich, dass ein Modell keineswegs allwissende und umfassende Objektivität repräsentiert und damit den “God’s trick” imitiert, sondern dass die Positionalität eines Modells nur eine partielle Weltsicht darstellt. Anschaulich wird die Bestimmung der Positionalität eines Modells zunächst einmal dann, wenn man sich die Annotationen vor Augen führt, die dem Datensatz durch menschliche Annotator:innen hinzugefügt wurden und die aus den Annotationsrichtlinien resultieren, die von den Forscher:innen bzw. Datenwissenschaftler:innen erstellt wurden. Für den Abgleich der Modellpositionalität mit den vorhandenen Annotationen und die Bestimmung der Divergenzen können statistische Techniken wie unüberwachtes Clustering verwendet werden; so können Gruppen von Annotator:innen identifiziert werden, die ähnliche Annotationen zu ähnlichen Objekten in einem Datensatz hinzufügen, und ihre Position kann der des Modells gegenübergestellt werden. Diese Technik nennt sich “position mining”. 59 Zweifellos ist es sehr aufwändig, eine solche Analysetechnik anzuwenden, um die Modellpositionalität besser zu verstehen; sie führt aber beispielhaft vor Augen, was darunter zu verstehen ist. Indes fällt dieses Beispiel wieder auf die dem Modell zugrundeliegenden Datensätze und die dort enthaltenen biases zurück. Demgegenüber muss betont werden, dass das Verhalten eines Modells und die Vorhersagebiases, die es kennzeichnen, nicht nur aus den Trainingsdaten resultieren. In der Konsequenz würden dann nämlich demografisch schlecht ausbalancierte Datensätze zu schlecht balancierten Modellvorhersagen führen, und demografisch gut balancierte Datensätze zu ausgewogenen Modellen; dann wären lediglich die zugrunde liegenden Daten zu verändern, um den bias eines Modells einzudämmen. Im Gegensatz dazu gibt es bei lernenden Algorithmen aber auch einen induktiven bias, der dazu führen kann, dass eine Gruppe von Annotator:innen bzw. ihre Annotationen gegenüber anderen bevorzugt wird, und dies unabhängig davon, wie diese Gruppen im Datensatz repräsentiert sind. Ganz allgemein wird die Bevorzugung von Lösungen durch einen Algorithmus für maschinelles Lernen, bevor er neue Daten sieht, als induktiver bias beschrieben, wobei jeder dieser Algorithmen unterschiedliche induktive biases zeigt, abhängig von den Annahmen darüber, wie sich die Daten zur realen Welt verhalten. Auch dieser bias kann durch position mining aufgezeigt und beschrieben und so die Positionalität des Modells bestimmt werden. 60 Auf diese Weise lässt sich besser verstehen, wer von dem Verhalten des Modells profitiert und wer dadurch benachteiligt wird; möglichem Schaden vorzubeugen ist dann wieder die Aufgabe des Modelldesigns. Die Einsicht, dass auch ein Modell eine eigene Positionalität hat und nicht nur durch die zugrundeliegenden Trainingsdaten, sondern auch durch einen induktiven bias charakterisiert wird, unterstreicht einmal mehr die Möglichkeit, dass die Vorhersagen eines Modells auch zu gravierenden Nachteilen für einzelne Menschengruppen führen können, sei es nun aufgrund der Tatsache, dass die durch die vom Modell getroffenen Vorhersagen zu bestimmten Gruppen diskriminierend sein und als toxisch bezeichnet werden können, oder weil bestimmte Menschengruppen bei der Kreditvergabe systematisch benachteiligt werden. In jedem Fall sprechen solche ethisch bedenklichen Resultate für eine Reflektion der Positionalität eines Modells, insbesondere durch einen interdisziplinären Dialog 58 Cambo & Gergle, 2022, a.a.O., S. 4. 59 Cambo & Gergle, 2022, a.a.O., S. 7f. 60 Cambo & Gergle, 2022, a.a.O., S. 8. Projekt “Mensch.Maschine.Kultur“ · 25. Juli 2025 · Seite 21/23 zwischen Gesellschaftsund Informationswissenschaftler:innen, und für eine Dokumentation der Positionalität und der modellinhärenten biases in der dazugehörigen model card. Anwendung des Modells Inwiefern kann Menschen durch die Anwendung eines Modells Schaden (“harm”) entstehen? Welche verschiedenen Arten von Schäden sind durch die Anwendung eines Modells vorstellbar? Wer legt fest, was als schädlicher “bias” anzusehen ist? Statistisch schiefe Datensätze verursachen per se noch keine Schäden. Es ist erst die Anwendung trainierter Modelle, die zu unerwünschten und ethisch bedenklichen gesellschaftlichen Effekten führen kann, unter anderem deshalb, weil sie die biases der zugrundeliegenden Datensätze noch verstärken. Grob gesagt können die möglichen Schäden, die bei der Anwendung eines Modells auftreten, in zwei Gruppen unterteilt werden: allokative und repräsentative Schäden. Sogenannte Allokationsschäden entstehen, wenn ein automatisiertes System Ressourcen (z.B. Kredite) oder Zukunftschancen (z.B. Arbeitsplätze) in unfairer Weise auf verschiedene Bevölkerungsgruppen verteilt. Repräsentationsschäden entstehen, wenn ein automatisiertes System eine Bevölkerungsgruppe benachteiligend, stereotypisch, in diskriminierender oder herabwürdigender Weise darstellt oder sie zum Verschwinden bringt. 61 Naheliegender Weise entstehen gesellschaftliche Schäden besonders leicht dann, wenn ein Modell für einen Zweck benutzt wird, für das es nicht gemacht wurde. Beispielsweise wird ein Modell auf einem Datensatz trainiert, der eine bestimmte Bevölkerungsgruppe repräsentiert; die Anwendung findet jedoch auf einem Datensatz statt, der eine andere Bevölkerungsgruppe abbildet. Im Hinblick auf Kulturerbe-Datensätze ist das leicht nachvollziehbar: Wenn eine bestimmte Bevölkerungsgruppe in einem auf der Grundlage historischen Materials erstellten Datensatz in nachteiliger Weise dargestellt wird, so wird sich dieser bias auf zeitgenössischem Datenmaterial selbst dann noch auswirken, wenn sich die gesellschaftlichen Verhältnisse grundlegend gewandelt haben. Historische Stereotype können so in die Gegenwart hinein verlängert oder sogar noch verstärkt werden. Darüber hinaus können die Modelle an vorhandene Daten angepasst werden, um bessere Ergebnisse zu erzielen oder der Anforderung an Erklärbarkeit besser zu genügen. Diese Anpassungsvorgänge können erneut biases im Modell erzeugen. Bei lernenden Algorithmen können Aggregationsverzerrungen auftreten, wenn ein universelles Modell für Daten verwendet wird, denen Gruppen oder Beispieltypen zugrunde liegen, die als unterschiedlich berücksichtigt werden sollten. Diesem bias liegt die Annahme zugrunde, dass die Zuordnung zwischen Labels und den einzelnen Instanzen über den gesamten Datensatz hinweg konsistent ist. Das ist aber oft nicht der Fall. Wenn in einem umfassenden Datensatz Menschen unterschiedlicher Kultur, regionaler Herkunft und Wertvorstellungen zusammengeführt werden, kann ein und dieselbe Variable, die mit jeder dieser Gruppen verbunden wird, jeweils etwas Unterschiedliches bedeuten. Im Ergebnis führt dann die Aggregationsverzerrung dazu, dass das Modell für keine dieser Gruppen optimal funktioniert, oder es passt lediglich für die größte Gruppe gut. 62 61 Blodgett, S. L., Barocas, S., Daumé III, H., & Wallach, H. (2020). Language (Technology) is Power: A Critical Survey of “Bias” in NLP. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, 5454–5476, hier S. 5455. https://doi.org/10.18653/v1/2020.acl-main.485. 62 Suresh & Guttag, 2021, a.a.O., S. 5. Projekt “Mensch.Maschine.Kultur“ · 25. Juli 2025 · Seite 22/23 Ein Modell wird in der Regel auf der Grundlage seiner Trainingsdaten optimiert; die Qualität eines Modells wird jedoch häufig mit benchmark-Datensätzen bewertet, und verschiedene Modelle können so miteinander verglichen werden. Ein evaluation bias kann hier auftreten, wenn diese benchmark-Daten nicht die Bevölkerung repräsentieren, auf die das Modell angewandt wird. Dann wird der Einsatz von Modellen gefördert, die nur auf der durch die benchmark-Daten repräsentierten Teilmenge der Daten gut funktionieren. Entscheidend ist daher die Kenntnis des Kontexts und des Verwendungszwecks eines Modells. Gerade kontextuelle Kenntnisse sind aber bei der machine learning-Gemeinschaft nicht selbstverständlich vorauszusetzen. Das Verständnis für einen bias in historischem Material verlangt beispielsweise Wissen darüber, wie in früherer Zeit strukturelle Unterdrückung und Diskriminierung ausgeübt wurden, wie sprachliche Darstellung und soziale Stratifikation miteinander zusammenhängen, und wie sich dies im Lauf der Zeit verändert hat. Kulturerbe-Datensätze verlangen ein tiefes Verständnis für einen allmählichen Normenwandel und für die eigene Positionalität. Die Tatsache, dass es auf der einen Seite einfach erscheint, bei Gesellschaften, die eines oder mehrere Jahrhunderte entfernt sind, ethische Defizite im Umgang miteinander zu identifizieren, bedeutet noch nicht, dass es auf der anderen Seite ebenso einfach ist, genau bestimmen zu können, wie sich ein komplexes soziotechnologisches System auf bestimmte Bevölkerungsgruppe auswirkt. Mit anderen Worten: Abschätzen zu können, dass sich ein systeminhärenter bias auf eine Bevölkerungsgruppe schädlich auswirkt, inwiefern dies geschieht und wer genau davon betroffen ist, stellt eine Herausforderung dar. Diese Herausforderung zu meistern bedeutet auch, die asymmetrischen Machtverhältnisse zwischen denjenigen, die sich innerhalb des soziotechnologischen Systems befinden, und denjenigen, die von seinen Auswirkungen betroffen sind, zu reflektieren. Schlussbetrachtung In den letzten Jahrzehnten wurden in ganz Europa erhebliche Investitionen in die Digitalisierung des kulturellen Erbes getätigt. Diese Ausgaben sind zum größten Teil von der öffentlichen Hand finanziert worden; daher sollen die erstellten Datensätze zum einen die private Nutzung ermöglichen, zum anderen der Innovation und Forschung dienen. Datensätze aus Kulturerbe-Einrichtungen sind für Forschung und Entwicklung von großem Interesse, weil sie – anders als Daten, die im Internet eingesammelt wurden – in besonderem Maße qualitäthaltig sind: Oftmals haben sie mehrere Auswahlstufen durchlaufen und die Kuratierung ebenso wie die Erstellung der Metadaten in Katalogen und Indizes wurde von gut ausgebildeten Fachpersonal vorgenommen. Bibliographische Nachweise aus Bibliotheken sind ebenso attraktiv wie qualitativ hochwertige Textdaten, die aus der Digitalisierung von Bibliotheksbeständen entstehen. Anders als die Inhalte vieler Internetseiten sind diese Bestände von hoher sprachlicher und orthographischer Qualität, wurden sie doch in den Verlagen von Lektor:innen zunächst ausgewählt und anschließend sprachlich geprüft. Einer Studie zufolge werden hochqualitative englischsprachige Textdaten noch vor dem Jahr 2026 erschöpft sein; 63 vor diesem Hintergrund sind weitere Digitalisierungsbemühungen willkommen. Über Massendigitalisierungsvorhaben von Büchern hinaus stellen Kulturerbe-Einrichtungen bereits jetzt schon und mehr noch in der Zukunft hochqualitative Digitalisierungen beispielsweise von dreidimensionalen Objekten zur Verfügung, und die Verwendung von state-of-the-art Techniken wie die Bewegungs-Erfassung (motion capture), 63 Villalobos, P., Ho, A., Sevilla, J., Besiroglu, T., Heim, L., & Hobbhahn, M. (2024). Position: Will we run out of data? Limits of LLM scaling based on human-generated data. Proceedings of the 41st International Conference on Machine Learning, 49523–49544. https://dl.acm.org/doi/10.5555/3692070.3694094. Projekt “Mensch.Maschine.Kultur“ · 25. Juli 2025 · Seite 23/23 Photogrammetrie, lineares und Laser-Scannen, panoramische Videos oder stereographische Panoramen wird zunehmen. Im Bereich der Dokumentanalyse wird sich der Forschungsschwerpunkt von der Layoutanalyse und Texterkennung hin zur Informationsextraktion verschieben, was noch mehr qualitäthaltige und vernetzte Daten zur Folge hat. Nicht nur die Zurverfügungstellung der Daten selbst, sondern auch die Bereitstellung fundierter begleitender Dokumentationen stellt für die Forschung und Entwicklung einen Zugewinn dar. Kulturerbe-Einrichtungen können dabei an seit langem etablierte und eingeübte Dokumentationspraktiken anknüpfen. Die Reflexivität und die Verortung der eigenen Positionalität, die dieser Leitfaden erläutert, dient dabei nicht nur der Dokumentation von aus ethischer, rechtlicher oder sozialer Sicht problematischen Inhalten, sondern auch der Stärkung der aktiven Rolle von KulturerbePraktiker:innen im Prozess der Zurverfügungstellung und Zirkulation digitaler Inhalte. Durch die Publikation von hochqualitativen Kulturerbe-Datensätzen nebst Begleitdokumentation zeigen Kulturerbe-Einrichtungen nicht nur, dass sie in der Lage sind, komputationell verwertbare Inhalte zur Verfügung zu stellen; sie schärfen vielmehr das Profil der Einrichtung, werden als Partner:innen der Forschung attraktiv und können auf diese Weise an der Einwerbung von Forschungsmitteln teilhaben. Als Institutionen mit einem großen Erfahrungsschatz in der Beschreibung von Sammlungen sind sie schließlich bestens geeignet, um in einem hochdynamischen Feld bewährte Verfahren und durch Erfahrung erworbenes Wissen sowie Standards zu entwickeln und zu dokumentieren.