Künstliche Intelligenz und Maschinenevolution

Kuenstliche_Intelligenz_Maschinenevolution 1 Apl. Prof. Dr. Dr. K. Saalbach Geostrategy and Geopolitics Department 1 49069 Osnabrueck Künstliche Intelligenz und Maschinenevolution 02.01.2026 Zusammenfassung Dieses Arbeitspapier bietet einen kurzen Überblick über Künstliche Intelligenz (KI) und Maschinenevolution. Maschinenevolution ist ein Prozess, bei dem Maschinen autonom neue Maschinen erschaffen, die wiederum weitere Maschinen erzeugen usw. Obwohl eine solche Evolution derzeit noch nicht möglich ist, wurden in verschiedenen Bereichen erhebliche Fortschritte erzielt, die die Maschinen und die KI der vollständigen Autonomie, dem Selbstlernen und der Anpassungsfähigkeit für ihre eigene Verbesserung deutlich näherbringen. Diese Entwicklungen beschleunigen den technologischen Fortschritt, erschweren aber zunehmend die menschliche Kontrolle und Eingriffe. Also anstatt eingebunden zu bleiben, werden Menschen aus dem Prozess verdrängt. Zu den Fortschritten zählen das KI-gestützte Design von Computerchips, das KIgestützte Design ganzer Computer, selbstlernende und sich verbessernde KI-Systeme in experimentellen Umgebungen sowie die automatisierte Fertigung. Bereits 2024 generierte das maschinelle Lernprogramm AlphaChip übermenschliche Chip-Designs und entwickelte 2025 die neue Ironwood TPU, die zu den schnellsten Chips gehört. Auch China macht Fortschritte mit der Chip-DesignKI QiMeng, die bereits Chips entwickelt hat, die mit kommerziellen Chips vergleichbar sind. Die Forschung im Bereich Chipdesign schreitet rasch voran. Der erste dreidimensionale monolithische 3DChip zur Beschleunigung der KI wurde im Dezember 2025 von Forschern der Stanford University vorgestellt. Das in Shanghai ansässige Unternehmen CHIPX brachte einen photonischen Quantenchip auf den Markt, der bei einigen mathematischen Operationen 1000-mal schneller war als herkömmliche Chips. Quilters Physik-basiertes Reinforcement-Learning-KI-System entwarf im Rahmen des Projekts Speedrun in nur 38 Stunden einen funktionsfähigen Linux-Computer mit 843 Komponenten und führte 98% der Platzierung, des Routings und der physikalischen Berechnungen autonom durch. Neue Methoden für das Training und Lernen von KI wurden 2025 vorgeschlagen: die Vernetzung und der Informationsaustausch zwischen KI-Agenten im ersten Schritt und die offene Evolution von KIAgenten im zweiten Schritt durch die sogenannte Darwin-Gödel-Maschine (DGM). Forscher von Google DeepMind schlugen vor, dass KI-Systeme voneinander lernen und ihre Erfahrungen permanent austauschen, sodass ihre Entwicklung über den Menschen hinaus unbegrenzt ist. Allerdings kann die Vernetzung und der Wissensaustausch zwischen KI-Systemen durch den Austausch ungenauer Daten das Risiko von Systemfehlern und Fehlfunktionen erhöhen. Im Jahr 2025 wurde die Darwin-GödelMaschine (DGM) entwickelt, ein selbstlernendes KI-System, das seinen Code iterativ modifiziert und jede Änderung anhand von Codierungs-Benchmarks empirisch validiert. Dies erwies sich in Experimenten als effektiv. Die zunehmende Verbreitung von Robotern könnte den Weg zu vollautomatisierten Fertigungsprozessen ebnen. Die menschliche Kontrolle der KI kann durch Beobachtung des Outputs und Aktionen erfolgen, lässt sich aber um die Überwachung der Chain-of-Thoughts (Gedankenketten) ergänzen, d.h. der internen KI-Protokolle, die die Denkschritte offenlegen. Die Fähigkeit, die Denkprozesse einer KI zu beobachten, wird als Monitorability (Überwachbarkeit) bezeichnet. Es gibt Bedenken, dass neuartige KI-Architekturen die Monitorability verringern könnten, trotz der Erkenntnis, dass es bei fortschrittlichen KI-Modellen zu versteckten Abweichungen kommt, dem hidden misalignment bzw. Scheming, bei denen KI-Modelle ihre Gedanken verbergen, z.B. um Belohnungen zu erhalten oder um Wiederholungslernen (Reinforcement Learning) zu vermeiden. Verschiedene Forscher äußern ernste Bedenken hinsichtlich einer potenziell unkontrollierten KI-Evolution, z.B. durch Selbstlernen. Die größte Sorge besteht darin, dass die Menschheit derzeit nicht ausreichend auf diese Situation vorbereitet ist und möglicherweise nicht genügend Aufsicht gewährleisten kann, d.h. die Situation könnte außer Kontrolle geraten und deshalb solle eine strenge Governance mit entsprechenden Vorschriften und Kontrollen eingeführt werden. Kuenstliche_Intelligenz_Maschinenevolution 2 Inhalt 1 Maschinenevolution ............................................................................................................................. 3 1.1 Einleitung ....................................................................................................................................... 3 1.2 KI-gestütztes Chipdesign ............................................................................................................... 3 1.3 KI-gestütztes Computerdesign ...................................................................................................... 4 1.4 Selbstlernende KI ........................................................................................................................... 5 1.5 Vollautomatisierte Fertigung ........................................................................................................ 6 1.6 Überwachung und Kontrolle der KI ............................................................................................... 7 2 Zusammenfassung ................................................................................................................................ 7 3 Literaturquellen .................................................................................................................................... 8 Kuenstliche_Intelligenz_Maschinenevolution 3 1 Maschinenevolution 1.1 Einleitung Dieses Arbeitspapier bietet einen kurzen Überblick über Künstliche Intelligenz (KI) und Maschinenevolution. Maschinenevolution kann als ein Prozess verstanden werden, bei dem Maschinen autonom neue Maschinen erschaffen, die wiederum weitere Maschinen erzeugen usw. Obwohl eine solche Evolution derzeit noch nicht möglich ist, wurden in verschiedenen Bereichen erhebliche Fortschritte erzielt, die die Maschinen und die KI der vollständigen Autonomie, dem Selbstlernen und der Anpassungsfähigkeit für ihre eigene Verbesserung deutlich näherbringen. Diese Entwicklungen beschleunigen den technologischen Fortschritt, erschweren aber zunehmend die menschliche Aufsicht und Eingriffe zunehmend. Anstatt eingebunden zu sein, werden Menschen aus dem Prozess verdrängt. Zu den Fortschritten zählen die KI-gestützte Entwicklung von Computerchips, die KI-gestützte Entwicklung ganzer Computer, selbstlernende und sich selbst verbessernde KI-Agenten in experimentellen Umgebungen sowie die automatisierte Fertigung. Die zentrale Herausforderung für die Entwickler besteht darin, die Aktivitäten zu überwachen und zu kontrollieren, um Systemfehler, Fehlfunktionen und die Verunreinigung der KI-Systeme mit ungenauen Daten zu vermeiden. KI-Modelle kombinieren Lernalgorithmen mit bis zu Milliarden von Parametern und großen Trainingsdatensätzen. Dies führt zu undurchsichtigen Black-Box-Systemen, dem Problem der Erklärbarkeit, Interpretierbarkeit oder Vorhersagbarkeit (explainability, interpretability or predictability) 1 . Wie „erkennt“ eine Maschine ein Objekt? Manchmal ist eine KI sehr gut darin, Objekte oder Tiere zu identifizieren, aber niemand kann erklären, welche Parameter dabei verwendet wurden, z.B. Struktur, Farbe, Größe, Muster usw. Dadurch ist die KI bis zu einem gewissen Grad unberechenbar, da niemand sagen kann, unter welchen Bedingungen ein Fehler auftreten kann. Dieses Problem könnte sich in autonomen Systemen noch verstärken. 1.2 KI-gestütztes Chipdesign Schon heute ist das Design von Computerchips auf Computerunterstützung angewiesen. Aufgrund der extremen Komplexität kann das Design nicht mehr allein von Menschen durchgeführt werden; es erfordert Designsoftware (sogenannte Electronic Design Automation oder EDA-Software). Bereits 2024 generierte das maschinelle Lernprogramm AlphaChip Chip-Layouts mit übermenschlichem Design. So konnte beispielsweise die Größe der Trillium Tensor Processing Unit (TPU) 2 im Vergleich zur vorherigen Chipgeneration um 6,2% reduziert werden. Dadurch verkürzt sich die Designzeit von Wochen oder sogar Monaten auf Stunden. AlphaChip optimiert die Chip-Planung durch schrittweise Verbesserung der Schaltungsplatzierung 3 . Ende 2025 ging die neue Ironwood TPU in Betrieb und KI-gestütztes Chipdesign nun einen der schnellsten auf dem Markt befindlichen Chips hervorgebracht hat 4 . Dieser Chip wird als Cluster mit 256 Chips und als Cluster mit 9.216 Chips angeboten 5 .Google entwickelt Chips „für KI mit KI“ (“for AI with AI”) 6 , während andere Unternehmen entweder Chips oder KI-Systeme herstellen, wodurch das KI-gestützte Design zu einem strategischen Marktvorteil wird. 1 vgl. Arrieta et al. 2020, p.83, Chaudry/Klein 2023 2 vgl. Goldie et al. 2024 3 vgl. Goldie/Mirhoseini 2024 4 vgl. Marini 2025 5 vgl. Spencer 2025 6 Im Dezember 2025 galt Google Gemini Version 3.0 neben DeepSeek Version 3.2 und ChatGPT Version 5.2 als eines der führenden KI-Modelle. Kuenstliche_Intelligenz_Maschinenevolution 4 Parallel dazu macht China im KI-Wettlauf ebenfalls Fortschritte, beispielsweise durch DeepSeek, Manus, Kimi K2, Qwen, und die Chip-Design-KI QiMeng 7 . QiMeng besteht aus drei Schichten: einem domänenspezifischen Large Processor Chip Model (LPCM) für neuartige Architekturen als unterster Schicht, einem Hardware-Design-Agenten und einem SoftwareDesign-Agenten für automatisiertes Hardwareund Software-Design in der mittleren Schicht sowie verschiedenen Anwendungen für das Prozessor-Chip-Design in der obersten Schicht 8 . Obwohl die Entwickler von QiMeng noch Verbesserungspotenzial sehen, konnte QiMeng bereits die QiMeng-Computer Processing Unit (CPU)-v1 entwickeln, die mit dem Intel 486 aus den 1990er-Jahren vergleichbar ist, während die zweite Version, QiMeng-CPU-v2, mit dem Arm Cortex A53 aus den 2010er-Jahren vergleichbar ist, also Chipdesigns, die mit kommerziellen Chips vergleichbar sind 9 . Das Problem, dass KI ein undurchsichtiges Black-Box-System ist, besteht auch im Chipdesign und erschwert die Ursachenanalyse bei Fehlern 10 . Die Forschung im Bereich Chipdesign schreitet rasch voran. Der erste dreidimensionale 3DChip zur Beschleunigung der KI wurde im Dezember 2025 von Forschern der Stanford University vorgestellt. Es handelt sich um einen echten 3D-Chip, der nicht einfach aus Schichten von 2D-Chips besteht, sondern ein monolithisches Design aufweist, das die dritte Dimension vollständig nutzt und dadurch eine zwölfmal höhere Leistung bei realen KIWorkloads sowie eine verbesserte Energieeffizienz erzielt 11 . Das in Shanghai ansässige Unternehmen CHIPX hat einen photonischen Quantenchip vorgestellt, der die Entwicklung der KI, des kommenden 6G-Netzes und der Quantencomputer beschleunigen kann. Bei einigen mathematischen Operationen war der Chip 1000-mal schneller als herkömmliche Chips 12 . Die Produktion läuft bereits mit rund 12.000 Wafern pro Jahr, wobei jeder Wafer etwa 350 Chips enthält 13 . Langfristig könnten photonische Chips, die Licht anstelle von Elektronen zur Informationsübertragung nutzen, herkömmliche Chips ersetzen, da sie schneller und energieeffizienter sind. China hält bereits den größten globalen Marktanteil in der Photonikindustrie, die ursprünglich von den USA und Europa dominiert wurde 14 . 1.3 KI-gestütztes Computerdesign Das Unternehmen Quilter präsentierte den ersten Computer, dessen Architektur, Platzierung, Routing und Validierung von einer physikbasierten KI durchgeführt wurden. Diese KI wurde auf physikalischen Prinzipien trainiert und schlussfolgert auf dieser Grundlage, was sie von herkömmlichen großen Sprachmodellen unterscheidet 15 . Quilter‘s Physik-basiertes Reinforcement-Learning-KI-System entwickelte im Rahmen des Projekts Speedrun einen funktionsfähigen Linux-Computer mit 843 Komponenten auf Basis eines NXP i.MX 8M Mini-Chips in nur 38 Stunden anstatt der 11 Wochen, die menschliche Ingenieure für diese Aufgabe benötigt hätten. Der Computer konnte beim ersten Versuch erfolgreich gestartet werden 16 . Die KI von Quilter übernahm 98% der Platzierung, des Routings und der physikalischen Berechnungen autonom; der Ingenieur fungierte also hauptsächlich als 7 vgl. Zhang R. et al. 2025 8 vgl. Zhang R. et al. 2025 9 vgl. Zhang R. et al. 2025 10 vgl. Chen 2025 11 vgl. Scheffler 2025 12 vgl. Hiverlab 2025, Swayne 2025 13 vgl. Swayne 2025 14 vgl. EAC 2024 15 vgl. Tardif 2025: Zu den von der KI verwendeten Parametern gehörten Signalintegritätsbedingungen, Leiterbahnimpedanz, Fluktuation und thermische Ausbreitung von Verzerrungen, Stromtragfähigkeit, elektromagnetische Aspekte und die physische Herstellbarkeit. 16 vgl. Tardif 2025 Kuenstliche_Intelligenz_Maschinenevolution 5 Supervisor. Das Ergebnis des Projekts war, dass KI nun in der Lage ist, Computer zu entwerfen, die in realen Umgebungen funktionieren 17 . Sollte die KI die Kontrolle übernehmen, werden Chips und neue Computer von Computern entworfen. Das heißt, der Mensch würde dann nicht mehr wissen, wie die KI und der Computer funktionieren, was Überwachung und Kontrolle erheblich erschwert. Die Entwicklung von Computern durch andere Computer, die dann wiederum neue Computer entwerfen, ist der Beginn der Maschinenevolution. 1.4 Selbstlernende KI KIund Roboterlernen entwickeln sich in ähnlicher Weise: Roboterlernen hat inzwischen Stufen von 1022 bis 1024 FLOPS (floating comma operations; Gleitkommaoperationen) erreicht, während moderne KI-Modelle aktuell über 1024 FLOPS für ihr maschinelles Lernen aufweisen 18 . Das Training der KI ist abhängig von qualitativ hochwertigen, von Menschen erstellten Daten, da ein Training mit KI-generierten Daten allein bislang zu einem raschen Qualitätsverlust und dem Zusammenbruch des Modells (model collapse) führt. 2025 wurden neue Wege für KI-Training und -Lernen vorgeschlagen: die Vernetzung und der Informationsaustausch zwischen KI-Agenten im ersten Schritt und die offene Evolution von KI-Agenten im zweiten Schritt durch die sogenannte Darwin Gödel Maschine (DGM) 19 . KI-Agenten sind Softwareprogramme, in denen große Sprachmodelle (LLMs) mit Schlussfolgerungsund Entdeckungsfähigkeit zunehmend autonom zur Erreichung vorgegebener Ziele beitragen 20 . Die Entwicklung schreitet schnell von einfachen Arbeitsabläufen mit LLMs hin zu autonom agierenden KI-Agenten und Multiagentensystemen (MAS) voran, die zunehmend komplexe Prozesse selbstständig ausführen können 21 . Forscher von Google DeepMind stellten fest, dass in wissenschaftlichen Bereichen wie Mathematik, Programmierung und Naturwissenschaften das aus menschlichen Daten gewonnene Wissen rasch an seine Grenzen stößt und die meisten hochwertigen Datenquellen bereits ausgeschöpft sind. Die vorgeschlagene Lösung besteht darin, dass KI-Systeme voneinander lernen und ihre Erfahrungen permanent austauschen. 22 Mit der zunehmenden Verbreitung von KI-Agenten können diese deutlich mehr voneinander lernen als von Menschen allein. DeepMind erwartet eine allgemeine künstliche Intelligenz (Artificial General Intelligence AGI) um das Jahr 2030 und geht davon aus, dass deren Entwicklung über den Menschen hinaus unbegrenzt sein wird. 23 Der nächste logische Schritt war daher, die Kommunikation zwischen KI-Agenten und die Interoperabilität von KI-Agenten und Multiagentensystemen durch neue Protokolle zu ermöglichen, die die Kommunikation (wie beispielsweise Glibberlink für die Kommunikation über Telefon), Interaktionen (wie das neue offene Agent2Agent-Protokoll A2A von Microsoft 24 ) und das Lernen durch Wissensaustausch zwischen KI-Systemen erleichtern 25 . Die Vernetzung und der Wissensaustausch zwischen KI-Systemen erhöhen jedoch das Risiko von Systemfehlern und Fehlfunktionen der KI sowie die Belastung durch ungenaue Daten. 17 vgl. Tardif 2025 18 vgl. Beyerer/Kirchner et al. 2ß25 19 vgl. Zhang et al. 2025 20 vgl. DSIT 2025 21 vgl. Larsen 2024 22 vgl. Silver/Sutton 2025 23 vgl. Shah et al. 2025. Ein weiterer Aspekt ist, dass KI-Systeme in mehreren Kopien existieren und parallel Wissen erwerben können, was für Menschen nicht möglich ist, vgl. Hinton 2025 24 vgl. Arenas/Brekelmans 2025 25 vgl. Rosenbush 2025 Kuenstliche_Intelligenz_Maschinenevolution 6 Google DeepMind hat den FACTS Grounding Benchmark entwickelt, der die Fähigkeit eines Modells bewertet, präzise auf sein internes Wissen zuzugreifen, die Suche als Werkzeug zur Informationsbeschaffung zu nutzen und diese korrekt zu synthetisieren sowie Fragen zu Prompts faktisch korrekt zu beantworten 26 . In einer Studie vom Dezember 2025 erzielte Gemini 3 Pro mit einem FACTS-Score von 68,8% die beste Gesamtleistung. Dies bedeutet, dass die Genauigkeit der getesteten Modelle im Umgang mit Daten begrenzt ist. Was geschieht, wenn mehrere Agenten beginnen, auch ungenaue Daten auszutauschen? Dies trägt zu dem in einer Studie gezeigten Multi-Agent-Paradox bei: die Zufügung zusätzlicher KI-Agenten macht ein System langsamer, teurer und ungenauer 27 . In Multiagentensystemen kann ein Angreifer, der Zugriff auf einen KI-Agenten erlangt, weitere Teile des Systems schädigen, wenn die kompromittierten KI-Agenten den anderen Agenten falsche Eingaben liefern. Dies führt zu einer Modellverunreinigung (model pollution) 28 . Die Frage, wie sich KI-Systeme kontinuierlich verbessern und gleichzeitig relevante Probleme besser lösen können, führte zur Darwin-Gödel-Maschine (DGM), einem selbstlernenden System, das seinen Code iterativ modifiziert und jede Änderung empirisch anhand von Codierungs-Benchmarks validiert 29 . Das Konzept der Gödel-Maschine wurde 2007 vorgeschlagen. Demnach sollte eine Maschine eine Systemverbesserung beweisen können. Im Gegensatz dazu benötigt die Darwin-GödelMaschine (DGM) lediglich empirische Belege für eine erfolgte Verbesserung. Die DGM ist eine selbstreferenzielle Selbstverbesserung von Coding-AI-Agenten 30 . Die DGM beginnt mit einem Codierungsagenten, der die Selbstmodifikation anhand von Codierungs-Benchmarks startet. Jede Agentenversion wird von der DGM archiviert und kann anschließend für die Selbstmodifikation durch fortlaufende Exploration genutzt werden. Dieser Prozess verläuft iterativ. In dem aus Sicherheitsgründen unter strenger menschlicher Aufsicht in einer Sandbox durchgeführten Experiment verbesserte das DGM seine Programmierfähigkeiten automatisch (z.B. durch bessere Codebearbeitungswerkzeuge, optimiertes Fenstermanagement für lange Kontexte und Peer-Review-Mechanismen) und steigerte so seine Leistung. Das DGM ist der praktische Schritt hin zu einer sich selbst verbessernden KI für endlose Innovation 31 . 1.5 Vollautomatisierte Fertigung Sam Altman, CEO des ChatGPT-Anbieters OpenAI, erwartet für 2027 einen flächendeckenden Einsatz von Robotern in der Produktion und sieht einen völlig neuen Entwicklungspfad vor: „Wir müssen die erste Million humanoide Roboter auf altmodische Weise herstellen, aber dann können sie die gesamte Lieferkette bedienen – Mineralien abbauen und raffinieren, Lkw fahren, Fabriken betreiben usw.-, um weitere Roboter zu bauen, die weitere Chipfabriken, Rechenzentren usw. bauen können.“ Originaltext: “we have to make the first million humanoid robots the old-fashioned way, but then they can operate the entire supply chain—digging and refining minerals, driving trucks, running factories, etc. - to build more robots, which can build more chip fabrication facilities, data centers, etc.” 32 . Als wichtigen Schritt in Richtung dieser Vision beabsichtigen die Unternehmen Foxconn und Nvidia, ab 2026 humanoide Roboter in einem Foxconn-Werk in Houston einzusetzen, um dort Nvidia GB300-KI-Server herzustellen 33 . 26 vgl. Deep Mind 2025 27 vgl. Zia 2025 28 vgl. He et al. 2024 29 vgl. Zhang, J. et al. 2025. Der Name Darwin nimmt Bezug zur Evolution, Gödel zur Mathematik 30 vgl. Zhang, J. et al. 2025 31 vgl. Zhang, J. et al. 2025 32 vgl. Altman 2025 33 vgl. Lee 2025 Kuenstliche_Intelligenz_Maschinenevolution 7 1.6 Überwachung und Kontrolle der KI Die menschliche Kontrolle der KI kann durch Beobachtung des Outputs und Aktionen erfolgen, lässt sich aber um die Überwachung der Chain-of-Thoughts (Gedankenketten) ergänzen, d.h. der internen KI-Protokolle, die die Denkschritte offenlegen. Die Fähigkeit, die Denkprozesse einer KI zu beobachten, wird als Monitorability (Überwachbarkeit) bezeichnet 34 . Die führenden Technologieunternehmen Google, Meta, OpenAI und Anthropic veröffentlichten ein gemeinsames Papier, in dem sie große Sicherheitsbedenken hinsichtlich neuartiger KIArchitekturen äußerten, die den Bedarf an „lautem Denken“ (loud thinking) von KI-Modellen reduzieren, d.h. der Notwendigkeit, Gedankenketten mit schriftlichen Protokollen für wichtige Denkschritte zu erstellen. Ohne diese Protokolle wird es für KI-Entwickler sehr schwierig sein, herauszufinden, was die KI denkt und wie Entscheidungen getroffen wurden, was zum Kontrollverlust durch den Menschen führen könnte 35 . Eine Studie von OpenAI schlägt vor, Gedankenänderungen durch Nachfragen zu Aussagen zu untersuchen, was zu tieferen Einblicken führen kann 36 . Dies ist notwendig, da es bei fortschrittlichen KI-Modellen zu versteckten Abweichungen, dem hidden misalignment bzw. Scheming kommt, bei denen KI-Modelle ihre Gedanken verbergen, z.B. um Belohnungen zu erhalten oder um Wiederholungslernen (Reinforcement Learning) zu vermeiden. 37 Scheming geht mit anderen Risiken fortgeschrittener KI-Modelle einher, wie Täuschung (deception), situation awareness (wenn die KI weiß, dass sie sich in einer Testsituation befindet), Machtstreben, autonomer Replikation und Agency (zielgerichtetes Verhalten, bei dem die KI versucht, ihre eigenen Ziele durchzusetzen) 38 . Verschiedene Forscher äußern ernste Bedenken hinsichtlich einer potenziell unkontrollierten KI-Evolution, z.B. durch Selbstlernen. Die größte Sorge besteht darin, dass die Menschheit derzeit nicht ausreichend auf diese Situation vorbereitet ist und möglicherweise nicht genügend Aufsicht gewährleisten kann 39 , d.h. die Situation könnte außer Kontrolle geraten 40 und deshalb solle eine strenge Governance mit entsprechenden Vorschriften und Kontrollen eingeführt werden 41 . Andernfalls, so die Schlussfolgerung von Forschern des Machine Intelligence Research Institute in Berkeley, ist das wahrscheinlichste Ergebnis die Auslöschung der Menschheit 42 . Anthropic’s Jared Kaplan, leitender Wissenschaftler von Anthropic, sieht im selbstständigen Training von KI-Modellen das größte Risiko für eine unkontrollierbare Intelligenzexplosion, die bereits im Jahr 2027 eintreten könnte 43 . 2 Zusammenfassung Dieses Arbeitspapier bot einen kurzen Überblick über Künstliche Intelligenz und Maschinenevolution. Maschinenevolution ist ein Prozess, bei dem Maschinen autonom neue Maschinen erschaffen, die wiederum weitere Maschinen erzeugen usw. Obwohl eine solche Evolution derzeit noch nicht möglich ist, wurden in verschiedenen Bereichen erhebliche Fortschritte erzielt, die die Maschinen und die KI der vollständigen Autonomie, dem Selbstlernen und der Anpassungsfähigkeit für ihre eigene Verbesserung deutlich näherbringen. 34 vgl. Korbak et al. 2025, Guan 2025 35 vgl. Korbak et al. 2025 36 vgl. Guan 2025, OpenAI 2025a 37 vgl. OpenAI 2025b 38 vgl. Grey/Segerie 2025 39 vgl. Barnett/Scher 2025, Losey 2025, MIRI 2025 40 vgl. Adewumi et al. 2025, Tonsen 2025 41 vgl. Adewumi et al. 2025, Barnett/Scher 2025, Losey 2025, MIRI 2025,Tonsen 2025 42 vgl. Barnett/Scher 2025, MIRI 2025 43 vgl. Landymore 2025 Kuenstliche_Intelligenz_Maschinenevolution 8 Diese Entwicklungen beschleunigen den technologischen Fortschritt, erschweren aber zunehmend die menschliche Kontrolle und Eingriffe. Anstatt also eingebunden zu sein, werden Menschen aus dem Prozess verdrängt. Zu den Fortschritten zählen das KI-gestützte Design von Computerchips, das KI-gestützte Design ganzer Computer, selbstlernende und sich verbessernde KI-Systeme in experimentellen Umgebungen sowie die automatisierte Fertigung. Bereits 2024 generierte das maschinelle Lernprogramm AlphaChip übermenschliche ChipDesigns und entwickelte 2025 die neue Ironwood TPU, die mit dem aktuellen KI-Chip von NVIDIA konkurrieren kann. Auch China macht Fortschritte mit der Chip-Design-KI QiMeng, die bereits Chips entwickelt hat, die mit kommerziellen Chips vergleichbar sind. Die Forschung im Bereich Chipdesign schreitet rasch voran. Der erste dreidimensionale monolithische 3DChip zur Beschleunigung der KI wurde im Dezember 2025 von Forschern der Stanford University vorgestellt. Das in Shanghai ansässige Unternehmen CHIPX brachte einen photonischen Quantenchip auf den Markt, der bei einigen mathematischen Operationen 1000mal schneller war als herkömmliche Chips. Quilter‘s Physik-basiertes ReinforcementLearning-KI-System entwarf im Rahmen des Projekts Speedrun in nur 38 Stunden einen funktionsfähigen Linux-Computer mit 843 Komponenten und führte 98% der Platzierung, des Routings und der physikalischen Berechnungen autonom durch. Neue Methoden für das Training und Lernen von KI wurden 2025 vorgeschlagen: die Vernetzung und der Informationsaustausch zwischen KI-Agenten im ersten Schritt und die offene Evolution von KI-Agenten im zweiten Schritt durch die sogenannte Darwin-GödelMaschine (DGM). Forscher von Google DeepMind schlugen vor, dass KI-Systeme voneinander lernen und ihre Erfahrungen permanent austauschen, sodass ihre Entwicklung über den Menschen hinaus unbegrenzt ist. Allerdings kann die Vernetzung und der Wissensaustausch zwischen KI-Systemen durch den Austausch ungenauer Daten das Risiko von Systemfehlern und Fehlfunktionen der KI erhöhen. Im Jahr 2025 wurde die Darwin-Gödel-Maschine (DGM) entwickelt, ein selbstlernendes KI-System, das seinen Code iterativ modifiziert und jede Änderung anhand von Codierungs-Benchmarks empirisch validiert. Dies erwies sich in Experimenten als effektiv. Die zunehmende Verbreitung von Robotern könnte den Weg zu vollautomatisierten Fertigungsprozessen ebnen. Die menschliche Kontrolle der KI kann durch Beobachtung des Outputs und Aktionen erfolgen, lässt sich aber um die Überwachung der Chain-of-Thoughts (Gedankenketten) ergänzen, d.h. der internen KI-Protokolle, die die Denkschritte offenlegen. Die Fähigkeit, die Denkprozesse einer KI zu beobachten, wird als Monitorability (Überwachbarkeit) bezeichnet. Es bestehen Bedenken, dass neuartige KIArchitekturen die Monitorability verringern könnten, trotz der Erkenntnis, dass es bei fortschrittlichen KI-Modellen zu versteckten Abweichungen, dem hidden misalignment bzw. Scheming kommt, bei denen KI-Modelle ihre Gedanken verbergen, z.B. um Belohnungen zu erhalten oder um Wiederholungslernen (Reinforcement Learning) zu vermeiden. Verschiedene Forscher äußern ernste Bedenken hinsichtlich einer potenziell unkontrollierten KI-Evolution, z.B. durch Selbstlernen. Die größte Sorge besteht darin, dass die Menschheit derzeit nicht ausreichend auf diese Situation vorbereitet ist und möglicherweise nicht genügend Aufsicht gewährleisten kann, d.h. die Situation könnte außer Kontrolle geraten und deshalb solle eine strenge Governance mit entsprechenden Vorschriften und Kontrollen eingeführt werden 3 Literaturquellen Adewumi, T. et al. (2025): AI Must not be Fully Autonomous. Machine Learning Group, EISLAB, Sweden arXiv:2507.23330v1 [cs.AI] 31 Jul 2025 Altman, S. (2025): Gentle Singularity. Sam Altman’s Blog 10 June 2025 Arenas, Y., Brekelmans, B. (2025): Empowering multi-agent apps with the open Agent2Agent (A2A) protocol. Microsoft News 07 May 2025 Kuenstliche_Intelligenz_Maschinenevolution 9 Arrieta, A.B. et al. (2020): Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities, and challenges toward responsible AI. Information Fusion 58(2020), p. 82–111 Beyerer, J., Kirchner, E. et al. (2025): KI in der Robotik. Flexible und anpassbare Systeme durch interaktives Lernen. DOI: https://doi.org/10.48669/pls_2025 Barnett, P., Scher, A. (2025): AI Governance to Avoid Extinction: The Strategic Landscape and Actionable Research Questions Machine Intelligence Research Institute Berkeley, Technical Governance Team May 2025 Chaudhry, H., Klein, L. (2023): Artificial Intelligence and Nuclear Weapons: Problem Analysis and US Policy Recommendations. [email protected] 14th November 2023 Future of Life Institute (FLI) Chen, N. (2025): Integrating AI into Semiconductor Design and Fabrication: Methodologies, Challenges and Future Prospects. ITM Web of Conferences 78, 03007 (2025) https://doi.org/10.1051/itmconf/20257803007 CSEIT 2025 Deep Mind (2025): FACTS Benchmark Suite: Systematically evaluating the factuality of large language models. The FACTS team of Google Deep Mind. December 9, 2025 DSIT (2025): AI Insights - Agentic AI. Paper of the Department of Science, Innovation and Technology and the Government Digital Service of the United Kingdom EAC (2024): EAC International Consulting Executive Report. Political Steering Processes in China in Core Segments of the Photonics Industry. Commissioned by the European Technology Platform Photonics21 Goldie, A. et al. (2024): Addendum: A graph placement methodology for fast chip design doi.org/10.1038/s41586-024-08032-5 Published online 26 September 2024 Goldie, A., Mirhoseini, A. (2024): How AlphaChip transformed computer chip design Science September 26, 2024 Grey, M., Segerie, C.R. (2025): The AI Risk Spectrum From Dangerous Capabilities to Existential Threats. French Center for AI Safety (CeSIA) 20 August 2025 Guan, M.Y. et al. (2025): Monitoring Monitorability. OpenAI December 18, 2025 He, Y. et al. (2024): Security of AI Agents arXiv:2406.08689v3 [cs.CR] 17 Dec 2024 Hinton, G. (2025): KI wird bald deutlich intelligenter als wir sein. Handelsblatt 23-25 Mai 2025, S.26-27 Hiverlab (2025): China’s CHIPX Photonic Chip Production Line Set to Accelerate AI, 6G, and Quantum Computing Development: SCMP https://hiverlab.com/china-chipx-photonicchip-ai-6g-quantum-computing/ June 17, 2025 Khan, S.M., Mann, A., Peterson, D. (2021): The Semiconductor Supply Chain: Assessing National Competitiveness Center for Security and Emerging Technology (CSET) Issue Brief January 2021 Korbak, T. et al. (2025): Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety. arXiv:2507.11473v1 [cs.AI] 15 Jul 2025 Landymore, F. (2025): Anthropic's Chief Scientist Says We're Rapidly Approaching the Moment That Could Doom Us All. Futurism Published Dec 13, 2025 Larsen, B. et al. (2024): Navigating the AI Frontier: A Primer on the Evolution and Impact of AI - World Economic Forum Ai Governance Alliance Safe Systems and Technologies Working Group - World Economic Forum Whitepaper