scieee AI-readable full text Open interactive document viewer

MCIOP - Mehrkriterielle CI-basierte Optimierungsverfahren für den industriellen Einsatz

Bartz-Beielstein, Thomas,Flasch, Oliver

Abstract

Ziel des Forschungsprojektes "Mehrkriterielle CI-basierte Optimierungsverfahren für den industriellen Einsatz" (MCIOP) war die Verringerung von Schadstoffemissionen in Kohlekraftwerken. Der wissenschaftliche Fokus lag auf der Entwicklung von Methoden, die in der Lage sind, interpretierbare Modelle für die Schadstoffemissionen automatisch zu generieren. Hierzu wurden mehrkriterielle Optimierungsverfahren entwickelt und eingesetzt. Zur Zeit- und Kostenreduktion wurde die Optimierung durch Surrogat-Modelle erfolgen, die abgestuft mit aufwändigeren Simulationen zum Einsatz kamen („optimization via simulation“). Bei der Untersuchung von Staubabscheidern konnten durch eine mehrkriterielle Optimierung unterschiedliche Zielgrößen, wie z.B. Abscheidegrad und Druckverlust, gleichzeitig berücksichtigt werden. Dieser Bericht beschreibt die im Projekt MCIOP im Zeitraum von August 2011 bis einschließlich Juni 2015 erzielten Ergebnisse.

Full text

! ! ! ! CIplus Band 6/2015 MCIOP - Mehrkriterielle CI-basierte Optimierungsverfahren für den industriellen Einsatz Thomas Bartz-Beielstein ! ! ! ! ! ! ! ! ! MCIOP Mehrkriterielle CI-basierte Optimierungsverfahren für den industriellen Einsatz (Förderkennzeichen 17N0311) Schlussbericht Förderlinie „IngenieurNachwuchs 2011“ Im Rahmen des Programms „Forschung an Fachhochschulen“ Prof. Dr. Thomas Bartz-Beielstein Institut für Informatik Fakultät für Informatik und Ingenieurwissenschaften Fachhochschule Köln Inhaltsverzeichnis 1 Allgemeines 2 2 Vorhaben 3 2.1 Aufgabenstellung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 2.2 Voraussetzungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 2.3 Planung und Ablauf . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 2.4 Wissenschaftlich-technischer Stand . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 2.5 Zusammenarbeit mit anderen Stellen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 3 Wissenschaftlich-technische Ergebnisse 15 3.1 Modul DASY „Datenerfassung und Systematisierung“ . . . . . . . . . . . . . . . . . . . . 16 3.1.1 DASY-1 Datenerfassung und Anpassung für Daten aus der Energiewirtschaft . 16 3.1.2 DASY-2 Validierung von Parametereinstellungen mit Hilfe von CFD-Modellen 17 3.1.3 DASY-3 Planung weiterer Experimente . . . . . . . . . . . . . . . . . . . . . . . . 17 3.2 Modul MB „Modellbildung“ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 3.2.1 MB-1 Entwicklung und Anbindung von Surrogat-Modellen . . . . . . . . . . . . 18 3.2.2 MB-2 Validierung von Surrogat-Modellen . . . . . . . . . . . . . . . . . . . . . . . 18 3.3 Modul EMB „Erweiterte Modellbildung“ . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 3.3.1 EMB-1 Informationsaustausch zur multikriteriellen Prozessoptimierung für die Industrie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19 3.3.2 EMB-2 Entwicklung mehrkriterieller Selektionsoperatoren . . . . . . . . . . . . 19 3.3.3 EMB-3 Erweiterung für allgemeine Klassifikationsund Regressionsprobleme 20 3.3.4 EMB-4 Erweiterung für multivariate symbolische Regression . . . . . . . . . . . 20 3.3.5 EMB-5 Interaktive Visualisierungsund Auswahlmethoden für Ergebnisse von MGP-Läufen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20 3.4 Modul AO „Anlagenoptimierung“ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20 1 Allgemeines 3.4.1 AO-1 Hierarchische Simulation und mehrkriterielle Optimierung . . . . . . . . 20 3.4.2 AO-2 Anbindung der mehrkriteriellen Optimierung an SPO . . . . . . . . . . . 22 3.4.3 AO-3 Experimente und Studien mit den neu entwickelten Verfahren . . . . . . 23 3.4.4 AO-4 Auswertung und Validierung beim Anwender . . . . . . . . . . . . . . . . . 23 3.5 Modul GEN „Generalisierbarkeit“ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24 3.5.1 GEN-1 Weitere Anwendungen und Partner . . . . . . . . . . . . . . . . . . . . . . 24 3.5.2 GEN-2 Integration in Tools von Evolved Analytics . . . . . . . . . . . . . . . . . . 25 3.5.3 GEN-3 Validierungsaspekte . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28 3.6 Spezielle Arbeitspakete . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28 3.7 Wissenschaftliche Publikationen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31 4 Voraussichtlicher Nutzen 31 5 Ergebnisse Dritter 32 6 Veröffentlichungen der Projektteilnehmer 33 7 Veröffentlichungen Dritter 36 Abkürzungsverzeichnis 43 1 | Allgemeines Dieser Schlussbericht beschreibt die im Projekt „Mehrkriterielle CI-basierte Optimierungsverfahren für den industriellen Einsatz“ (MCIOP) im Zeitraum von August 2011 bis einschließlich Juni 2015 erzielten Ergebnisse. Zuwendungsempfänger Institut für Informatik, Fakultät Informatik und Ingenieurwissenschaften, Fachhochschule Köln Projektleiter Prof. Dr. Thomas Bartz-Beielstein Förderkennzeichen 17N0311 Vorhabensbezeichnung Mehrkriterielle CI-basierte Optimierungsverfahren für den industriellen Einsatz (MCIOP) Laufzeit des Vorhabens 01.08.2011 – 30.06.2015 Berichtszeitraum 01.08.2011 – 30.06.2015 Projektpartner Steinmüller Engineering GmbH,Evolved Analytics LLC,TU Dortmund,Universiteit Leiden,Universiteit Gent,Universiteit van Tilburg Der Bericht ist wie folgt gegliedert: Abschnitt 2 gibt einen Überblick über Aufgabenstellung, Voraussetzungen, Planung und Verlauf, wissenschaftlich-technischen Stand und über die Zusammenarbeit mit Dritten im Projekt MCIOP. Abschnitt 3 beschreibt die erzielten wissenschaftlich-technischen Ergebnisse. Abschnitt 4 vergleicht die erreichten Projektziele mit der ursprünglichen Arbeits-, Zeitund Ausgabenplanung. Abschnitt 5 beschreibt Informationsrecherchen nach projektrelevanten Ergebnissen Dritter. Abschnitt 6 führt alle im Projekt erfolgten Veröffentlichungen auf. 2 2 | Vorhaben 2.1 Aufgabenstellung Ziel des Projekts MCIOP war die Entwicklung von Verfahren zur Reduktion von Schadstoffemissionen bei Betrieb und Planung von großtechnischen Anlagen der Energietechnik, wie z.B. Kohlekraftwerken. Dazu wurden Verfahren aus der Computational Intelligence (CI) für hierarchische mehrkriterielle Optimierung genutzt. Diese Verfahren ermöglichen die Berücksichtigung verschiedener konfliktärer Zielkriterien wie z.B. die Minimierung von Betriebskosten bei gleichzeitiger Minimierung von Schadstoffemissionen. Für die Optimierung sind genaue und dennoch effizient ausführbare Surrogatmodelle nötig, die in MCIOP entwickelt wurden. Der wissenschaftliche Fokus lag also auf der Entwicklung von Methoden, die in der Lage sind, interpretierbare Modelle für Schadstoffemissionen automatisch zu generieren. Die Optimierung von Prozessen und Systemen in Kohlekraftwerken ist ein gutes Beispiel für die Komplexität industrieller Optimierungsprobleme. Es stehen häufig viele Parameter in Zusammenhang mit mehreren Zielgrößen. Solche Ziele können zum Beispiel die Reduzierung von Umweltschadstoffen, die Verbesserung der Energieeffizienz oder die Verringerung von Betriebsund Wartungskosten sein. Parametereinstellungen sind häufig sehr zeitund kostenaufwändig, weil hierfür entweder teure Experimente oder aufwändige Simulationen notwendig sind. Diese Komplexität erfordert nicht nur moderne Optimierungsmethoden aus dem Bereich der CI (Evolutionäre Algorithmen). Vielmehr sind auch geeignete Modellierungsmethoden von großer Bedeutung. Diese können als Ersatz für die tatsächlichen Zielgrößen genutzt werden, so dass der Aufwand der Optimierung verringert wird. Hierbei kommen sog. Surrogat-Modelle zum Einsatz. Im Projekt MCIOP wurden die folgenden Methoden einngesetzt: • Comptuational Fluid Dynamics (CFD) ermöglichen sehr genaue und umfassende Simulationen und Modellierungen – sind allerdings sehr aufwändig in ihrer Entwicklung, bzw. erfordern immensen Rechenaufwand. • Analytische Modelle von Prozessen und Systemen sind auch häufig verfügbar. Deren deutlich geringerer Aufwand wird allerdings mit bedeutend geringerer Leistung und Gültigkeit erkauft. • Ein klassischer Ansatz sind deshalb datengetriebene Modelle, die aus bereits erfolgten Simulationen und Experimenten die Zusammenhänge zwischen Parametern und Zielgrößen ableiten. Als starke Alternative zu statistischen Modellen (z.B. Kriging oder Support Vector Machines) fokussiert sich das Projekt MCIOP auf Genetisches Programmieren (GP) , einem modernen Modellierungsansatz aus dem Bereich Computational Intelligence. Dieses ermöglicht es im Rahmen der sog. Symbolischen Regression Formeln beliebiger Komplexität zu erlernen, um Zusammenhänge nicht (wie bei statistischen Modellen) als Black-Box, sondern vielmehr in lesbarer und verständlicher Form darzustellen. Damit profitiert nicht nur der Optimierungsprozess, sondern auch der Anwender durch besseren Einblick in die modellierte Problematik. Das Projekt MCIOP beschäftigte sich im Kern mit einer Anwendung aus der Kraftwerkstechnik und der Entwicklung geeigneter Modellierungsmethoden für die Optimierung eines Staubabscheiders. 3 2 Vorhaben Fokus der Methodenentwicklung war hierbei vor allem das oben genannte GP Verfahren, das die vorhandenen Daten aus Experimenten, CFD Simulationen und analytischen Modellen verwenden sollte, um die Optimierung eines Staubabscheiders zu ermöglichen. Die Bedeutung der entwickelten Methoden geht dabei weit über die Kernanwendung des Projekts hinaus. Derartige Methoden sind in vielen Bereichen der industriellen Anwendung von großer Bedeutung, können aber auch in verschiedenen anderen Anwendungsbereichen (z.B. wissenschaftliche Problemstellungen) von Bedeutung sein. Für die Optimierung und Simulation des Fliehkraftabscheiders war die Zusammenarbeit mit dem Projektpartner Steinmüller Engineering GmbH von großer Bedeutung, da dieser ein großes Interesse an der Entwicklung effizienter Staubabscheider besitzt. Über die Thematik der mehrkriteriellen Optimierung ergab sich zudem ein sehr reger Austausch mit den universitären Projektpartnern (TU Dortmund, Universiteit Leiden). Auch mit dem Partner Evolved Analytics LLC, der über hervorragende Kenntnisse im Bereich der Symbolischen Regression verfügt, wurden intensive Gespräche zur Entwicklung und Anwendungsfähigkeit der Verfahren geführt. 2.2 Voraussetzungen Das Projekt MCIOP hatte eine Gesamtlaufzeit von drei Jahren und elf Monaten (01.08.2011 bis zum 30.06.2015) und wurde mit einer bewilligten Gesamtsumme von 259.704,00 € (exklusive 10% Projektpauschale) gefördert. Davon entfielen 242.758,89€auf Personalausgaben, 12.087,48€auf sächliche Verwaltungsausgaben und 1.433,11€auf Gegenstände über 410 Euro (Investitionen). Inklusive der Projektpauschale von 10% betrug die bewilligte Fördersumme also 285.674,40 €. Die nachgewiesenen Kosten umfassten 256.279,48€. Das Projekt wurde am Institut für Informatik an der Fakultät für Informatik und Ingenieurwissenschaften am Campus Gummersbach der Fachhochschule Köln durchgeführt. An dieser Fakultät hat der Projektleiter Prof. Dr. Bartz-Beielstein seit Oktober 2006 eine Professur für Angewandte Mathematik inne. Zu Projektbeginn hatte er mehr als 100 Publikationen im Bereich CI veröffentlicht. Er arbeitete von 2000 bis 2006 im Sonderforschungsbereich „Design und Management komplexer technischer Prozesse und Systeme mit Methoden der Computational Intelligence“ an der TU Dortmund in einem Projekt zur Umsetzung der Grundlagenresultate in praxisorientierte Algorithmen und Werkzeuge. Prof. Dr. Bartz-Beielstein leitet die Arbeitsgruppe SPOTSeven ( www.spotseven.de ), die aus einem sehr interdisziplinär geprägten Team von Forschern besteht. Die vom Projektleiter entwickelte Sequentielle Parameteroptimierung (SPO) wurde als wichtiges Werkzeug zur Entwicklung von Optimierungsalgorithmen erfolgreich eingesetzt. SPO ist in Form des Open Source Pakets Sequential Parameter Optimization Toolbox (SPOT) frei verfügbar, siehe auch www.cran.r-project.org/package=SPOT . Eine Zusammenstellung zugehöriger Veröffentlichungen findet sich im Schriftenverzeichnis des Projektleiters und in [ 45 ]. SPO stützt sich auf Methoden der Versuchsplanung, Statistik, Datenanalyse und Optimierung. Weitere Forschungsthemen, die in der Arbeitsgruppe SPOTSeven behandelt werden, stammen aus den Bereichen statistische Versuchsplanung, Simulation und Optimierung. 4 2.2 Voraussetzungen Prof. Bartz-Beielstein leitete zudem das Projekt FIWA „Methoden der Computational Intelligence für Vorhersagemodelle in der Finanzund Wasserwirtschaft“, dass Ende erfolgreich 2012 abgeschlossen wurde. FIWA befasste sich unter anderem mit GP und SPO, allerdings im Zusammenhang der Verbesserung von Vorhersagemodellen in den Finanzund Wasserwirtschaft und weniger mit der Modellierung und mehrkriteriellen Optimierung in technischen Aufgabenstellungen. Er initiierte den extern evaluierten Forschungsschwerpunkt CIplus der FH-Köln ( www.ciplus-research.de ). Als Sprecher dieses Forschungsschwerpunktes arbeitet er gemeinsam mit den Professoren Dr. Boris Naujoks, Dr. Wolfgang Konen und Dr. Horst Stenzel an Aufgaben aus dem Bereich CI. Ziel dieser Zusammenarbeit ist die Vernetzung und bessere Sichtbarkeit der Fachdisziplinen Modellierung, Simulation, Optimierung, Data Mining, Statistik und Mathematik unter besonderer Berücksichtigung naturanaloger Verfahren, wie z.B. evolutionärer Algorithmen. Der Projektleiter ist Mitglied in den Programmkomitees der führenden Konferenzen und Zeitschriften auf dem Gebiet der CI. Bereits zu Projektbeginn existierte eine intensive Zusammenarbeit des Projektleiters mit Forschern auf internationaler Ebene, unter anderem mit den Universitäten Antwerpen, Tilburg, Eindhoven und Leiden. Herr Dipl.-Inform. Oliver Flasch stand dem Projekt über die gesamte Laufzeit als hauptverantwortlicher Sachbearbeiter und Promovend zur Verfügung. Herr Flasch konnte seine Promotion am 6. Mai 2015 erfolgreich abschließen. Des Weiteren standen Dr. Katya Vladislavleva, Dr. Olaf Mersmann und die Promovierenden Beate Breiderhoff und Christian Jung dem Projekt zeitweise in Teilzeit zur Verfügung. Die durchgeführten Promotionen wurden kooperativ durch den Projektleiter und Prof. Günter Rudolph (Lehrstuhl für Algorithm Engineering, Fakultät für Informatik, TU Dortmund) betreut. Bereits zu Beginn des Projektes bestand eine aktive Zusammenarbeit mit Prof. Günter Rudolph. Er stand dem Projekt beratend und als Betreuer der Promotionen zur Verfügung und forscht an CI-Verfahren zur Mehrzieloptimierung und industriellen Optimierung. Um den fachlichen Austausch im Bereich CI zu unterstützen, findet innerhalb der Arbeitsgruppe SPOTSeven wöchentlich ein Doktorandenseminar statt. An dem Seminar nehmen momentan (2015) acht Doktorandinnen und Doktoranden, Post-Docs, sowie weitere Bachelorund Masterstudenteninnen und -studenten aus der Arbeitsgruppe von Prof. Bartz-Beielstein teil. Prof. Bartz-Beielstein ist zudem assoziiertes Mitglied der Kompetenzplattform Sustainable Technologies and Computational Services for Environmental and Production Processes (STEPS) , die ein Kolleg für alle Promovierenden der Hochschule organisiert. Die am Projekt beteiligte Steinmüller Engineering GmbH verfügt über ein breit gefächertes ProzessKnow-how im Bereich des Maschinenund Anlagenbaus in der Energieund Umwelttechnik. Die Mitarbeiter der Steinmüller Engineering GmbH waren an Entwicklung, Bau und Betrieb einer Vielzahl von Anlagen der Energieund Umwelttechnik bei der vormaligen L&C Steinmüller GmbH in Gummersbach beteiligt. Dieser Erfahrungsschatz bildet das Kernstück des Unternehmens und steht den Kunden von Steinmüller Engineering sowohl in Form von Ingenieur-Beratungsleistungen als auch im Rahmen von Lieferungen von Teilund Gesamtanlagen zur Verfügung. Im Bereich der Verringerung von Schadstoffemissionen bei Kohlekraftwerken besteht seit September 2009 ein regelmäßiger fachlicher Austausch der Steinmüller Engineering GmbH mit der Arbeitsgruppe SPOTSeven des Projektleiters. Die Steinmüller Engineering GmbH stellte dem Projekt umfassende fachliche Kenntnisse 5 2 Vorhaben und Beratung zur Verfügung. Ausserdem lieferte sie Daten und Prozesswissen für die bearbeiteten Problemstellungen. Auch stand sie für die Betreuung von Abschlussarbeiten zur Verfügung. Es fanden regelmäßige Arbeitstreffen statt, in denen der aktuelle Stand der Zusammenarbeit besprochen wurde und Abschlussarbeiten und gemeinsame Seminare abgestimmt wurden. Mit der Arbeitsgruppe von Herrn Professor Günter Rudolph der TU Dortmund bestand ebenfalls eine enge Zusammenarbeit. Dieser bereits langjährig und erfolgreich bestehende Austausch spiegelt sich auch in der Betreuung der im Projekt durchgeführten Promotionsvorhaben und der erfolgreichen Promotion von Herrn Flasch wider. Als weitere Partner standen dem Projekt die Evolved Analytics LLC,Universiteit Gent,Universiteit Leiden und Universiteit van Tilburg zur Seite. Hier fand ein reger Austausch zu wissenschaftlichtechnischen Themen statt. Tabelle 1 stellt eine Übersicht der Beiträge der einzelnen Projektpartner im Projekt MCIOP dar. 2.3 Planung und Ablauf Das Projekt MCIOP wurde in Module mit insgesamt 17 Kern-Arbeitspaketen aufgeteilt, die im GanttChart in Abbildung 1 dargestellt sind. Am Ende jedes Semesters wurde intern kontrolliert, ob die definierten Ziele erreicht wurden. Neben diesen projektbegleitenden Kontrollen wurden sechs Meilensteine (MS-1 bis MS-6) definiert. Für die Arbeitspakete wurden die folgenden Bezeichnungen verwendet: DASY : Datenerfassung und Systematisierung, MB : Modellbildung, EMB : Erweiterte Modellbildung, AO : Anlagenoptimierung, GEN : Generalisierbarkeit, MT : Master-Theses und CS : Case-Studies. MS-1: Datenerhebung Mit diesem Meilenstein wurde die Vollständigkeit der bislang erfolgten Datenerhebung überprüft. Zu diesem Zeitpunkt gab es noch deutliche Verzögerungen in den zugeordneten Arbeitspaketen, vor allem DASY-1. Dieses Paket schloss dementsprechend erst später ab. Grund für die Verzögerungen waren vor allem die Schwierigkeiten bei der ursprünglich vorgesehenen Simulation eines Feuerraumes auf einem gemeinsam von Steinmüller Engineering GmbH und FH Köln geplanten Rechencluster. Um trotzdem den zeitigen Fortgang des Projektes zu gewährleisten, wurde auf die verfügbaren Daten eines Zyklon (Fliehkraftabscheider) zurückgegriffen und dessen Optimierung und Modellierung mit Computational Fluid Dynamics und Genetic Programming im weiteren Verlauf in den Mittelpunkt gerückt. MS-2: Daten systematisiert Mit dem planmäßigen Erreichen dieses Meilensteins wurde sichergestellt, dass die notwendigen Schnittstellen (zwischen Optimierung/Modellierung und dem Anwendungsbereich aus der Energiewirtschaft) hinreichend gut spezifiziert sind. Dies war für die erfolgreiche Zusammenarbeit mit dem Projektpartner Steinmüller Engineering GmbH, sowie für die weitere Verwendbarkeit entwickelter Methoden von großer Bedeutung. MS-3: Abnahme Surrogatmodelle Als Ergänzung zu den erweiterten Modellen sollten auch statistische Surrogatmodelle getestet und validiert werden. Die entsprechenden Arbeiten konnten wie 6 2.3 Planung und Ablauf Tabelle 1: Übersicht der Partnerbeiträge für das Projekt MCIOP. Projektpartner Beiträge FH Köln • Entwicklung eines innovativen Verfahrens zur automatischen Erzeugung interpretierbarer Modelle für industrielle Prozesse und deren mehrkriterielle Optimierung • Koordination des Projektes MCIOP • Betreuung studentischer Case-Studies, Bachelorund Masterarbeiten • Durchführung von Promotionsvorhaben Steinmüller Engineering GmbH • Bereitstellung von Prozessdaten aus der Kraftwerkstechnik • Beratende Mitarbeit bei der Erschließung von Expertenwissen aus dem Bereich der Kraftwerkoptimierung • Durchführung weiterer CFD-Simulationen zur Validierung der im Projekt erzeugten Surrogatmodelle • Analyse und Beurteilung der Qualität der erzeugten Surrogatmodelle • Prototypischer Einsatz der im Projekt erstellten Softwaresysteme • Betreuung von Case-Studies sowie anteilige Betreuung von Bachelorund Masterarbeiten TU Dortmund • Mitarbeit an gemeinsamen Publikationen in den Bereichen GP, Experimentplanung und mehrkriterielle Optimierung • Betreuung und Durchführung der geplanten Promotionen von Projektmitarbeitern • Betreuung studentischer Bachelorund Masterarbeiten • Zusammenarbeit in Forschung (z.B. gemeinsame Publikationen) und Lehre Evolved Analytics LLC • Lieferung von Know-How für den Einsatz von GP in großindustriellen Anwendungen • Bereitstellung der Software DATAMODELER für Vergleiche • Beratung bei der Datenanalyse und dem Einsatz der Software DATAMODELER Universiteit Leiden • Zusammenarbeit in Forschung (z.B. gemeinsame Publikationen) und Lehre • Analyse der im Projekt entwickelten Verfahren im Rahmen gemeinsamer Publikationen • Betreuung und Durchführung weiterer projektrelevanter Promotionen Universiteit Gent • Zusammenarbeit bei der Entwicklung von Komponenten für interpretierbare Modelle • Austausch im Rahmen von Workshops Universiteit van Tilburg • Lieferung von Know-How für das Design und die Analyse experimenteller Simulationen 7 2 Vorhaben geplant durchgeführt werden, die notwendigen Entwicklungsschritte konnten auch durch die Fortschritte im Partnerprojekt CIMO unterstützt werden. Die Validierung wurde mit Hilfe analytischer Modelle eines Staubabscheiders durchgeführt. MS-4: Abnahme Simulator und GP-System Dieser Meilenstein diente zur Abnahme des in den Arbeitspaketen EMB-1 bis EMB-6 entwickelten mehrkriteriellen GP-Systems RGP. Die Entwicklung neuer mehrkriterieller Selektionsoperatoren für RGP, die Erweiterung des RGP Systems für multivariate Problemstellungen, die Verbesserung von Visualisierungsund Auswahlmethoden sowie die Anbindung von RGP an die Sequentielle Parameter Optimierung (SPO) konnte erfolgreich durchgeführt werden. Die Ergebnisse legten interessante weitere Forschungsrichtungen offen, die dazu führten, dass die entsprechenden Themen der Arbeitspakete auch über ihren ursprünglichen Rahmen hinaus weiter bearbeitet wurden. MS-5: Abnahme hierarch. mehrkr. Optimierung Dieser Meilenstein diente der Bewertung, ob die in den Arbeitspaketen AO-1 und AO-2 entwickelten Verfahren korrekt implementiert wurden. Hier ergab sich (auch durch Verzögerung früherer Arbeitspakete) die Notwendigkeit für eine spätere Bearbeitung, was auch durch die kostenneutrale Verlängerung des Projektes MCIOP ermöglicht wurde. Mit entsprechender Verspätung konnte dieser Meilenstein erreicht werden. MS-6: Abnahme Steinmüller Durch die Verzögerung des Projektes (Ausscheiden eines Mitarbeiters beim Projektpartner Steinmüller Engineering GmbH) wurde dieser Meilenstein erst verspätet erreicht. In mehreren Treffen mit Steinmüller Engineering GmbH wurden Stand und Ergebnisse des Projektes diskutiert. Daraus ergaben sich erste Ansätze für Folgeprojekte und studentische Projektarbeiten, die Themen aus dem Projekt MCIOP aufgreifen und fortführen werden. 2.4 Wissenschaftlich-technischer Stand Im Projekt MCIOP sind Methoden aus den Bereichen Data Mining (Regression) sowie Optimierung (Evolutionäre Algorithmen, mehrkriteriell) erforderlich. Der Schwerpunkt des Projektes MCIOP lag im Schnittpunkt dieser Methoden, also der mehrkriteriellen Optimierung mit datengetriebenen Surrogatmodellen auch unter Berücksichtigung von Problemhierarchieebenen für den Einsatz in der Industrie. Datenerfassung und Systematisierung Für die im Projekt MCIOP geplante Vorgehensweise können Empfehlungen aus dem Bereichen der statistischen Versuchsplanung herangezogen werden. Montgomery [ 110 ]stellt hierfür eine gute Referenz dar. Des Weiteren sind hier auch die Arbeiten von Jack P.C. Kleijnen zu nennen, wie z.B. [87]. Kordon [ 96 ]greift wichtige Aspekte der Datenerfassung aus praktischer Sicht auf („The Nasty World of Real-World Applications“) und beschreibt exemplarisch die Vorgehensweise bei der Datenerfassung, Datenvorverarbeitung, Sensitivitätsanalyse, Variablenselektion bis hin zur Modellierung und anschließender Optimierung. Als Beispiel dient u.a. die Schadstoffreduktion in Kraftwerken. Bei der von ihm beschriebenen Datenerfassung lagen anfangs 50 unterschiedliche Eingabegrößen vor. Es 8 2.5 Zusammenarbeit mit anderen Stellen 2.5 Zusammenarbeit mit anderen Stellen Für MCIOP relevante Partner und Kooperationen sind in Tabelle 1 angegeben. • Mit Steinmüller Engineering GmbH besteht ein reger Austausch für die weitere Verwendung und Entwicklung der in MCIOP entwickelten Methoden. Eine Zusammenarbeit in Folgeprojekten befindet sich derzeit in Planung. Es laufen zudem auch studentische Projekte und Abschlussarbeiten, die sich unter anderem mit der Erstellung von Staubabscheider Modellen mit 3D-Druckern befassen. • In Zusammenarbeit mit der TU Dortmund (Prof. Gabriele Kern-Isberner und Prof. Günter Rudolph) wurde zudem ein Projekt geplant, das einen wichtigen Themenbereich des Projektes MCIOP aufgreift. Dieses untersucht die automatisierte Datenanalyse mit sequentieller Parameter Optimierung und Genetic Programming. • Es bestand ein beidseitiger Austausch zwischen den Projektbeteiligten aus MCIOP und CIMO der FH Köln. Während sich das Projekt CIMO vor allem mit einund mehrkriteriellen Optimierungsmethoden sowie datengetriebenen Surrogatmodellen beschäftigt, untersucht das Projekt MCIOP vor allem physikalisch motivierte (d.h. Computational Fluid Dynamics CFD) sowie für Anwender verständliche, lernbare (d.h. Genetic Programming) Modelle. Die Ergebnisse und Erfahrungen beider Projekte werden von den Beteiligten erforscht und ausgetauscht. • Der Projektleiter hat zudem gute Kontakte zu Unternehmen aus der Wasserindustrie. Hier befindet sich derzeit ein weiteres Projekt in Vorbereitung. Das Projekt behandelt die Gewinnung und Nutzung mehrdimensionaler Prozessdaten zur Erzeugung kundenund betriebsgerechter Informationen für die Prozesssteuerung und –optimierung bei der Trinkwasseraufbereitung. • Als Folge der Arbeiten im Projekt MCIOP ergab sich auch eine neue Kooperation mit Dr. Ofer M. Shir (MIGAL – Galilee Research Institute). Es wurde ein kooperativer Projektantrag gestellt. Das beantragte Projekt soll sich mit experimentieller kombinatorischer Optimierung befassen, bzw. die anwendungsorientierte Analyse und Entwicklung von Methoden für solche Probleme. Geplante reale Anwendungsbeispiele stammen dabei aus der Biotechnologie und der Energietechnik. Die in MCIOP entwickelten Methoden bilden eine wichtige Grundlagen für Modellierung und Optimierung in diesem Zusammenhang. Die Projektpartner des Projektes MCIOP befinden sich auch weiterhin in engem Kontakt. 3 | Wissenschaftlich-technische Ergebnisse Wichtigstes Ziel des Projekts MCIOP war die Entwicklung von Verfahren für die hierarchische Modellierung und Optimierung in industriellen Anwendungen, unter anderem zur Schadstoffreduktion in Kohlekraftwerken. Die Darstellung der wissenschaftlichen-technischen Ergebnisse gliedert sich nach der Modulund Arbeitspaketplanung entsprechend der Vorhabensbeschreibung bzw. deren Anpassung in den Zwischenberichten. 15 3 Wissenschaftlich-technische Ergebnisse Für die zentralen Arbeitspakete des Projektes MCIOP wurden folgende Kürzel verwendet: DASY : Datenerfassung und Systematisierung, MB : Modellbildung, EMB : Erweiterte Modellbildung, AO : Anlagenoptimierung, und GEN: Generalisierbarkeit. 3.1 Modul DASY „Datenerfassung und Systematisierung“ Arbeitspakete, die sich mit der systematischen Aufnahme und Verarbeitung der relevanten Daten befassten, werden im Modul DASY bearbeitet. Das Modul DASY ist Voraussetzung für alle weiteren Projektschritte. 3.1.1 DASY-1 Datenerfassung und Anpassung für Daten aus der Energiewirtschaft Ab dem Projektstart im August 2011 fanden regelmäßige Projekttreffen mit dem Projektpartner Steinmüller Engineering GmbH statt. Es wurden verschiedene Methoden zur Datenerfassung diskutiert. Steinmüller Engineering GmbH stellte vorhandene Datenerfassungverfahren im Detail vor. Darüber hinaus wurden der FH erste Datensätze für eine Analyse zur Verfügung gestellt. Für diese erste Analyse der Daten konnten zwei Mitarbeiter im Bereich Datenerfassung, Datenanalyse und Data Mining sowie ein Mitarbeiter für die Modellierung in der industriellen Anwendung, jeweils in Teilzeit, für das Projekt gewonnen werden. Erste Analysen zeigten, dass die seitens Steinmüller Engineering GmbH gesammelten Daten nicht direkt zur Modellierung genutzt werden konnten. Eine komplexere Art der Datenvorverarbeitung erwies sich als notwendig. Wie bereits in der Vorhabensbeschreibung antizipiert, wurde ein Student vor Ort bei Steinmüller Engineering GmbH eingesetzt. Dieser Student untersuchte den Prozess der Datenaufnahme und beriet Steinmüller Engineering bei der Datenvorverarbeitung. Diese Untersuchungen ergaben, dass für die geplante Modellierung des Verbrennungsprozesses weitere Daten aufgenommen werden müssen. Diese Daten werden auch durch umfangreiche Simulationsrechnungen geliefert, die durch die Steinmüller Engineering GmbH durchgeführt werden. Dazu beschaffte die Steinmüller Engineering GmbH in 2012 nach einer umfangreichen Planungsphase einen Rechencluster und nahm diesen erfolgreich in Betrieb. Dieser Cluster kann für die Simulation/Modellierung und Optimierung von großtechnischen Anlagen der Kraftwerkstechnik eingesetzt werden. Durch das Ausscheiden des Experten für Simulationsrechnungen bei der Steinmüller Engineering GmbH kam es bei der Modellierung von Verbrennungsprozessen in Kohlekraftwerken zu einer Verzögerung. Um die Bearbeitung der nachfolgenden Arbeitspakete dennoch weitgehend termingerecht durchführen zu können, wurde neben der Modellierung der Verbrennungsprozesse mit der Modellierung eines Fliehkraftabscheiders, auch Zyklon genannt, begonnen. Dabei handelt es sich um einen Filter zur Abscheidung von Staub aus dem Abgas eines Kohlekraftwerks. Abbildung 2 zeigt eine Zeichnung eines Zyklon-Staubabscheiders mit den zu optimierenden Geometrieparametern. Für diese Modellierungsaufgabe wurden Daten aufgenommen, um die durch die FH Köln entwickelten Simulationsmodelle zu validieren und um geeignete Surrogat-Modelle anzupassen. Im Rahmen der neu in das Projekt aufgenommenen Case Studies CS-5 und CS-6 wurden durch Studierende der FH Köln Bausteine für die Modellierung von Zyklonen entwickelt und dokumentiert. Das Arbeitspaket 16 3.1 Modul DASY „Datenerfassung und Systematisierung“ wurde nach erfolgter Zielanpassung erfolgreich abgeschlossen. 3.1.2 DASY-2 Validierung von Parametereinstellungen mit Hilfe von CFD-Modellen In diesem Arbeitspaket wurden CFD-Modelle zur Validierung der im Projekt entwickelten hierarchischen Modelle erprobt. Durch die Anwerbung eines Experten für Simulationsrechnungen und durch Installation eines Rechenclusters konnte die Steinmüller Engineering GmbH erste Simulationen von Verbrennungsprozessen erfolgreich selbst durchführen, statt auf einen externen Dienstleister zurückgreifen zu müssen. Durch Ausscheiden dieses Experten fiel diese Möglichkeit zunächst weg, wodurch es zu Verzögerungen bei der Projektdurchführung kam. Im späteren Verlauf konnte ein Ersatz gefunden werden. Gleichzeitig wurde in Zusammenarbeit mit den Projektpartnern und Studierenden ein CFD-Modell eines Zyklon-Staubabscheiders entwickelt, welches zur Validierung von Parametereinstellungen genutzt werden kann. Abbildung 3 zeigt beispielhaft eine Visualisierung der Druckverteilung in einem Zyklon-Staubabscheider, wie sie durch das im Projekt entwickelten CFD-Modell berechnet wurde. Das Arbeitspaket wurde erfolgreich abgeschlossen. 3.1.3 DASY-3 Planung weiterer Experimente Die Planung weiterer Experimente im Bereich der Optimierung von Zyklon-Staubabscheidern wurde abgeschlossen. Methoden der statistischen Versuchsplanung wurden für eine erste Optimierung der Geometrieparameter eines Zyklons eingesetzt. Dabei wurden erste Erkenntnisse über den Einfluss einzelner Parameter auf den Abscheidegrad des Zyklons, d.h. auf dessen Leistungsfähigkeit, gewonnen. Da Dt Be He Ht H Be Da Dt Front View Top View Dt Abbildung 2: Zeichnung eines Zyklon-Staubabscheiders mit zu optimierenden Geometrieparametern. 17 3 Wissenschaftlich-technische Ergebnisse Abbildung 3: Beispielhafte Visualisierung der Druckverteilung in einem Zyklon-Staubabscheider auf Basis des im Projekts erstellten CFD-Modells. 3.2 Modul MB „Modellbildung“ Das Modul MB umfasst zwei Arbeitspakete, die sich mit Surrogat-Modellierung vom Prozessen in großtechnischen Anlagen der Kraftwerkstechnik beschäftigen. 3.2.1 MB-1 Entwicklung und Anbindung von Surrogat-Modellen Auf Basis der im Arbeitspaket DASY-1 gewonnenen Daten wurde ein Surrogat-Modell für die Simulation von Zyklon-Staubabscheidern erstellt. Dabei kamen klassische statistische Methoden und sequentielle Parameteroptimierung (SPO) zum Einsatz. Die entsprechenden in der SPO Toolbox (SPOT) implementierten Ansätze sind frei verfügbar (siehe: http://cran.r-project.org/package=SPOT ). Eine einfache Einführung sowie eine Demonstration zur Verwendung der mehrkriteriellen Optimierung sind inzwischen auch als Veröffentlichungen verfügbar [ 35 , 32 ]. Das Arbeitspaket wurde erfolgreich abgeschlossen. 3.2.2 MB-2 Validierung von Surrogat-Modellen Die im Arbeitspaket MB-1 entwickelten Surrogat-Modelle wurden hinsichtlich ihrer Gültigkeit für die praktische Anwendung validiert. Diese Validierung erfolgte auf Basis existierender Modelle für Zyklon-Staubabscheider [105]. Das Arbeitspaket wurde erfolgreich abgeschlossen. 3.3 Modul EMB „Erweiterte Modellbildung“ Das unter dem Kürzel EMB geplante Modul umfasst die Arbeitspakete die sich schwerpunktmäßig mit dem datengetrieben Modellierungsansatz Genetische Programmierung (GP) befassen. 18 3.3 Modul EMB „Erweiterte Modellbildung“ Im Rahmen des Projekts wurde RGP, ein modernes GP-Framework, stark weiterentwickelt. Das System wurde um mehrkriterielle Selektionsoperatoren erweitert und für die Lösung von Klassifikationsund Regressionsproblemen verallgemeinert. Außerdem wurde das System mit einer benutzerfreundlichen graphischen Oberfläche ausgestattet und ist damit auch für nicht-Experten bedienbar. RGP wurde in der Dissertation des Projektmitarbeiters Oliver Flasch ausführlich dokumentiert. Das System ist in Leistung und Funktionsumfang wettbewerbsfähig zu kommerziellen Lösungen und steht als Open Source Software zur Verfügung (siehe http://cran.r-project.org/package=rgp). RGP wurde zur automatischen Entwicklung genauer und dennoch menschenlesbarer Modelle für Prozesse in der Energiewirtschaft verwendet. Im Rahmen des Moduls „Generalisierbarkeit“ wurde das System erfolgreich für ein Modellierungsproblem in der Stahlindustrie eingesetzt. Im Partnerprojekt CIMO wurde RGP als Policy-Generator im Rahmen eines Ensemble-Ansatzes verwendet. Ausserdem wurde RGP selbst genutzt, um ein Regressionsmodell (Symbolische Regression) zu bilden. Beide Fälle können Informationen für die Modellierung und Simulation liefern. Entsprechend wurde eine Anbindung an RGP auch in das an der FH Köln entwickelte Open Source Paket SPOT (Sequential Parameter Optimization Toolbox) integriert (siehe http://cran.r-project. org/package=SPOT). Es zeigte sich, dass GP als Surrogatmodell für automatisierte Optimierung noch nicht ideal geeignet ist, da der Rechenaufwand für die Modellbildung für diese Anwendung noch zu hoch ist. Der nötige Zeitaufwand kann sich in der selben Größenordnung wie der Zeitaufwand einer CFD-Simulation bewegen, daher bietet die Verwendung als Surrogatmodell in der Optimierung wenige Vorteile, vor allem da die Verständlichkeit der erzeugten Modelle eine untergeordnete Rolle spielte. Daher wurden primär Kriging-Modelle verwendet. Die Vorteile der automatischen Entwicklung verständlicher Modellformeln wurden in MCIOP weiter untersucht. Außerdem wurden Konzepte der Modellierung mit GP und CFD erarbeitet. 3.3.1 EMB-1 Informationsaustausch zur multikriteriellen Prozessoptimierung für die Industrie Das Arbeitspaket EMB-1 umfasste den aktiven Austausch mit Projektpartnern und anderen Forschungsgruppen. Dabei wurden Ideen und Vorschläge ausgetauscht und auf ihre Anwendbarkeit geprüft. Die in diesem offenen Austausch entstandenen Anregungen und Ideen waren für den Erfolg der weiteren Arbeitspakete von großer Bedeutung. 3.3.2 EMB-2 Entwicklung mehrkriterieller Selektionsoperatoren Das in der Arbeitsgruppe des Projektleiters entwickelte GP-System RGP wurde erfolgreich um die Möglichkeit zur allgemeinen mehrkriteriellen Selektion erweitert. Die Selektionsoperatoren wurden für beliebige weitere Kriterien verallgemeinert, um die Lösung allgemeiner mehrkriterieller Klassifikationsund Regressionsprobleme zu ermöglichen. Dazu kommt mit SMS-EMOA ein moderner mehrkriterieller evolutionärer Optimierungsalgorithmus zum Einsatz. Dieses Arbeitspaket konnte vorzeitig erfolgreich abgeschlossen werden. Detaillierte Ergebnisse wurden in Kapitel 2.6.4 der Dissertation des Projektmitarbeiters Oliver Flasch veröffentlicht [15]. 19 3 Wissenschaftlich-technische Ergebnisse 3.3.3 EMB-3 Erweiterung für allgemeine Klassifikationsund Regressionsprobleme In dem Arbeitspaket EMB-3 wurde RGP für die Lösung allgemeiner mehrkriterieller Klassifikationsund Regressionsprobleme erweitert. Auf Basis des bestehenden modularen Systemkerns wurden hierzu jeweils neue Softwareschnittstellen und Benutzeroberflächen erstellt, welche die effiziente Spezifikation und Bearbeitung von allgemeinen Klassifikationssowie von allgemeinen Regressionsproblemen unterstützen. Wie in der Vorhabenbeschreibung antizipiert waren diese Erweiterungen mit moderatem Aufwand umsetzbar und bieten die Basis für die Erweiterung von GP für multivariate symbolische Regression im Arbeitspaket EMB-4. Zudem wurde ein Vorgehensmodell für die Anwendung von RGP in allgemeinen mehrkriteriellen Klassifikationsund Regressionsproblemen entwickelt (siehe Abbildung 4). Dieses Arbeitspaket konnte vorzeitig erfolgreich abgeschlossen werden. Detaillierte Ergebnisse wurden in Kapitel 3.3 der Dissertation des Projektmitarbeiters Oliver Flasch veröffentlicht [15]. 3.3.4 EMB-4 Erweiterung für multivariate symbolische Regression Basierend auf den Ergebnissen der Arbeitspakete EMB-2 und EMB-3 sollte in diesem Arbeitspaket GP für die Lösung multivariater Regressionsprobleme erweitert werden. Mittels multivariater symbolischer Regression können Modellformeln, die mehrere Zielgrößen gleichzeitig modellieren, automatisch erzeugt werden. Basisfunktionalität für multivariate symbolische Regression steht nun zur Verfügung. 3.3.5 EMB-5 Interaktive Visualisierungsund Auswahlmethoden für Ergebnisse von MGP-Läufen Ziel dieses Arbeitspakets war die Entwicklung von interaktiven Methoden und Werkzeugen zur Auswahl einer Lösung aus einer Menge von Pareto-optimalen Ergebnissen eines mehrkriteriellen GP (MGP) Experimentlaufs. Die Verwendung von Pareto-basierten Ansätzen zur mehrkriteriellen Optimierung in MGP ermöglicht die Bereitstellung mehrerer Pareto-optimaler Lösungen, die verschiedene Kompromisse eventuell widersprüchlicher Optimierungskriterien repräsentieren. Neue Visualisierungen für Pareto-optimale Lösungsmengen wurden entwickelt und in RGP integriert (siehe Abbildungen 5 - 7). Eine detaillierte Beschreibung dieser Methoden wurde in Kapitel 3.6 der Dissertation des Projektmitarbeiters Oliver Flasch veröffentlicht [15]. 3.4 Modul AO „Anlagenoptimierung“ Die Arbeitspakete des Moduls AO befassen sich mit der Anwendung der in den Vorgängermodulen MB und EMB entwickelten Verfahren auf die Modellierung und Optimierung großtechnischer Anlagen der Kraftwerkstechnik. 3.4.1 AO-1 Hierarchische Simulation und mehrkriterielle Optimierung Ziel dieses Arbeitspakets war die Entwicklung von Vorgehensweisen für die hierarchische Optimierung. Die Umsetzung von entwickelten Vorgehensweisen war generisch zu vollziehen. Dies wurde durch die Einbeziehung des praktischen Anwendungsfalls „Zyklon-Staubabscheider“ sichergestellt. Existierende mehrkriterielle Optimierungsverfahren wurden für den hierarchischen Ansatz generisch übertragen. 20 3.4 Modul AO „Anlagenoptimierung“ Modeling Project Setup • Formalize Project Goals • Classify Problem • Who: Domain Experts, Business Experts, Data Scientists Problem Class? Classification Problem Definition • Def. Classes • Select / Construct Features • Def. Quality Measure • Who: Domain Experts, Data Scientists Regression Problem Definition • Def. Dependent / Independent Variables • Def. Quality Measure • Who: Domain Experts, Data Scientists Custom Problem Definition • Def. Custom Fitness Function • Def. Quality Measure • Who: Domain Experts, Data Scientists Classification Other Regression Data Acquisition • Extract, Transform and Load (ETL) Existing Data or • Design (DoE) and Conduct Experiments • Who: Domain Experts, Data Scientists Data Preprocessing • Exploratory Data Analysis (EDA) • "Big" Data? (Stratified) Sampling • Outlier and Missing Data Handling • Data Partitioning • Who: Domain Experts, Data Scientists Problem Class? Linear Modeling • Fit Linear Model • Analyze Results • Who: Data Scientists Decision Tree Modeling • Fit Decision Tree Model • Analyze Results • Who: Data Scientists Genetic Programming • Def. Building Block Set • Perform GP Runs • Analyze Results • Who: Data Scientists Regression Classification Other Satisfactory Results? Satisfactory Results? Satisfactory Results? Symbolic Regression • Def. Building Block Set • Perform GP Runs • Analyze Results • Who: Data Scientists Symbolic Classification • Def. Building Block Set • Perform GP Runs • Analyze Results • Who: Data Scientists Satisfactory Results? Satisfactory Results? no no yes Model Validation • Test Model Interpolation Quality • Test Model Extrapolation Quality • Who: Domain Experts, Data Scientists Model Deployment • Integrate Model • Setup Model Maintenance • Who: Domain Experts, Data Scientists yes yes yes yes no no no Iterate / Pivot • Optimize Parameters (SPO) • Adapt Building Block Set • Adapt Quality Measure • Reconsider Model Choice • Who: Domain Experts, Data Scientists Abbildung 4: Vorgehensmodell für die Anwendung von RGP in Klassifikationsund Regressionsproblemen. 21 3 Wissenschaftlich-technische Ergebnisse Abbildung 5: Datenerfassung und Aufbereitung im mehrkriteriellen GP System RGP. Die durch das Ausscheiden des Experten für Verbrennungssimulationen beim Projektpartner Steinmüller Engineering GmbH bedingten Verzögerungen machten, wie im Zwischenbericht 2013 erwähnt, eine Verlängerung der Bearbeitungszeit für dieses Arbeitspaket nötig. Ein Framework für die hierarchische mehrkriterielle Optimierung auf Basis moderner statistischer Modellierungsverfahren wurde konzipiert, implementiert und auf synthetischen Testdaten erprobt. Analytische Modelle für Zyklon-Staubabscheider stehen zur Verfügung [ 14 , 27 ](CS-2) und Multiphasen-CFD Modelle sind entwickelt worden (CS-1). Das hierarchische Optimierungs-Framework wurde mit den entwickelten Simulationsmodellen für den Zyklon-Staubabscheider integriert. Das Arbeitspaket konnte nach Verlängerung erfolgreich abgeschlossen werden. 3.4.2 AO-2 Anbindung der mehrkriteriellen Optimierung an SPO Mehrkriterielle Optimierungsmethoden stehen in SPO zur Verfügung. Eine entsprechend erweiterte Version der SPO-Implementierung SPOT (siehe http://cran.r-project.org/package=SPOT ) ist veröffentlicht (M-SPOT). Das Arbeitspaket ist damit abgeschlossen[29, 26]. 22 3.4 Modul AO „Anlagenoptimierung“ Abbildung 6: Automatisierte erweiterte Modellbildung im mehrkriteriellen GP System RGP. 3.4.3 AO-3 Experimente und Studien mit den neu entwickelten Verfahren Ziel dieses Arbeitspakets war die Anaylse und Optimierung der neu entwickelten Verfahren im Hinblick auf Robustheit und Ergebnisqualität. Dazu wurden die Methodik der SPO weiterentwickelt und auf MGP angewendet[ 16 ]. Weiterhin wurde ein Verfahren entwickelt, dass die Robustheit von MGP nicht nur für einzelne Anwendungsbeispiele, sondern für vollständige Anwendungsklassen garantiert. Das Arbeitspaket wurde erfolgreich abgeschlossen. Die erzeugten Modelle lieferten dabei reproduzierbar genauere Vorhersagen als alternative Verfahren. Nur Kriging Modelle konnten genauere Vorhersagen liefern (siehe Abbildungen 9 und 10). Im Gegensatz zu Kriging sind MGP Modelle jedoch menschenlesund -interpretierbar. Weitere Ergebnisse wurden in der Dissertation des Projektmitarbeiters Oliver Flasch veröffentlicht. 3.4.4 AO-4 Auswertung und Validierung beim Anwender Im Rahmen dieses Arbeitspaketes wurden die entwickelten Verfahren der hierarchischen mehrkriteriellen Optimierung für das Modell im Projekt getestet. Dazu wurden die Lösungen unter Gesichtspunkten der mehrkriteriellen Optimierung betrachtet. Die erzielten Ergebnisse wurden für eine Validierung 23 3 Wissenschaftlich-technische Ergebnisse Abbildung 7: Visualisierung der Pareto-optimalen Lösungsmenge im mehrkriteriellen GP System RGP. des im Projekt implementierten Systems herangezogen. Auf Basis dieser Ergebnisse konnten Vorgehensweise für die Implementierung der Verfahren in anderen Industriezweigen vorgeschlagen und Empfehlungen ausgesprochen werden, siehe dazu auch die Ergebnisse des Moduls GEN. 3.5 Modul GEN „Generalisierbarkeit“ Die Arbeitspakete des Moduls GEN befassten sich mit der Untersuchung der Generalisierbarkeit der im Projekt MCIOP entwickelten Verfahren. 3.5.1 GEN-1 Weitere Anwendungen und Partner In diesem Arbeitspaket wurden Anwendungsfelder für die im Projekt MCIOP entwickelten Verfahren gesucht und erprobt. Zusätzlich fand gemeinsam mit Professoren aus dem Institut für Allgemeinen Maschinenbau (IAM) der FH Köln (Dr. Simone Lake, Dr.-Ing. Jürgen Schmitz, Dr. Hans Rühmann) eine Zusammenarbeit im Bereich der Optimierung von Prozessvariablen beim Spritzgießen statt. Diese Arbeiten wurde im Rahmen von studentischen Praxisprojekten und Abschlussarbeiten durchgeführt. 24 3.7 Wissenschaftliche Publikationen 3.7 Wissenschaftliche Publikationen Durch die Mitarbeiter des Projektes MCIOP wurden zahlreiche Publikationen veröffentlicht. Dabei zählt Prof. Dr. Bartz-Beielstein zu den Forschern der FH Köln mit den meisten begutachteten Publikationen. Im Projektzeitraum wurden Buchbeiträge [ 6 , 17 ](im Druck: [ 11 ]), Zeitschriftenaufsätze [ 23 , 1 ], Konferenzbeiträge [ 34 , 33 , 26 , 30 , 29 , 10 , 14 , 28 , 24 , 25 , 22 ], Technische Berichte [ 8 , 2 , 3 , 32 , 35 , 31 , 21 , 20 , 19 , 18 ]und eine Dissertation [ 15 ]veröffentlicht. Mehrere eingeladene Vorträge und Tutorien [12, 4, 13, 9]und sonstige Vorträge [5]wurden im Projekt MCIOP gehalten. Des Weiteren war der Projektleiter als Program Chair bei der Organisation der 13. Konferenz zu Parallel Problem Solving from Nature (PPSN 2014) tätig [7]. Schließlich wurden auch regelmäßige Seminare und Kolloquien durchgeführt, bei denen Doktoranden ihre Themen und Arbeitsfortschritte vorstellen konnten. 2 Dies unterstreicht den hohen Stellenwert der Nachwuchsförderung im Projekt und war durch den fruchtbaren gegenseitigen Austausch für die Entwicklung des Projektes von großer Bedeutung. 4 | Voraussichtlicher Nutzen Im Projekt MCIOP konnten wichtige Meilensteine plangemäß erreicht werden und interessante wissenschaftliche Ergebnisse sowohl für die akademische Verwertung als auch für Anwendungen in der Industrie erzeugt werden. Ein detaillierter Vergleich des Projektstandes mit der ursprünglich veranschlagten Zeitplanung wurde bereits in Abschnitt 3 durchgeführt. Fokus der Entwicklung im Projekt waren Optimierungsund vor allem Modellierungsmethoden. Diese fanden Eingang in zwei von Projektbeteiligten entwickelten Softwaremodulen für die freie Statistik-Programmiersprache R: dem R Software Paket SPOT (Sequential Parameter Optimization Toolbox)3und dem R Software Paket rgp (R Genetic Programming framework)4. Beide Pakete sind in aktuellen Versionen frei über die Distributionsplattform CRAN verfügbar, und stehen damit direkt für andere Forscher oder Studierende zur Verfügung und können auch für andere Problemstellungen flexibel eingesetzt werden. RGP ist ein Hauptthema der im Projekt erfolgreich abgeschlossenen Promotion „A Modular Genetic Programming System“ von Oliver Flasch[ 15 ]. Die Dissertation ist frei zum Download verfügbar und wird in der ersten Jahreshälfte 2016 zusätzlich in Buchform bei Springer erscheinen. Dadurch werden wichtige Ergebnisse des Projekts MCIOP einem breiten Publikum bekannt gemacht. Weiterer Nutzen lässt sich bereits in verschiedenen Bereichen beobachten. Hier sind zuerst der wissenschaftliche und der wirtschaftliche Bereich zu nennen. Die im Projekt MCIOP entwickelten Methoden werden aktiv durch die Projektpartner eingesetzt. Das in der Vorhabensbeschreibung beschriebene MCIOP-Nachwuchsteam ist in der Projektlaufzeit deutlich gewachsen. Die Arbeitsgruppe des Projektleiters (SPOTSeven) umfasst unter anderem inzwischen acht Promovierende, deren Arbeiten in einem wöchentlich durchgeführten Seminar besprochen und ausgetauscht werden. Einen aktuellen Überblick über Themen und Aktivitäten 2Siehe http://www.spotseven.de/spot-symposia/ für eine Liste der aktuellen Vorträge. 3Siehe: cran.r-project.org/package=SPOT 4Siehe: cran.r-project.org/package=rgp 31 5 Ergebnisse Dritter liefert deren Web-Seite www.spotseven.de . Themen aus dem Projekt MCIOP finden bereits bei drei Promotionsprojekten eine Anwendung. Die Inhalte und Ergebnisse des Projektes wurden in mehreren Vorlesungen des Projektleiters eingesetzt. So werden Kriging und Co-Kriging Grundlagen mittlerweile in den Vorlesungen Data Driven Modeling and Optimization und Advanced Process Control and Optimization im Master-Studiengang Automation & IT eingeführt und durch Beispiele aus dem Projekt ergänzt. Schließlich ergaben die Ergebnisse des Projektes auch neue Forschungsund Entwicklungsansätze. Wie im Abschnitt 2.5 beschrieben befinden sich verschiedene Anträge in Vorbereitung, bei denen Modellierung und modellgetriebene Optimierung eine wichtige Rolle spielen. Dabei soll einerseits aus wissenschaftlicher Perspektive die Methodik weiterentwickelt werden (automatisierten Datenanalyse mit sequentieller Parameter Optimierung und Genetic Programming). Andererseits sollen (z.B. mit Anwendungsbeispielen aus der Wasserwirtschaft, Biotechnologie und Energietechnik) die Ergebnisse auf weitere praktische Anwendungsfelder ausgedehnt werden. 5 | Ergebnisse Dritter Auch durch andere Forschergruppen wurden die Entwicklung und Anwendung von modellgestützter, mehrkriterieller Methoden vorangetrieben. Mit diesen Gruppen bestand besteht ein enger Austausch im Rahmen von Kooperationen. Surrogatmodelle in der mehrkriteriellen Optimierung Zum Kriterium des Expected Improvement in Hypervolume wurden verschiedene wichtige Ergebnisse erzielt, wie zum Beispiel theoretische Ergebnisse zu Eigenschaften oder zur exakten und effizienten Berechnung [69, 81, 80]. Modellierung und Simulation mit mehreren Hierarchieebenen Im Bereich Modellierung und Simulation mit mehreren Hierarchieebenen wurden verschiedene Arbeiten zu Co-Kriging veröffentlicht. Gratiet [ 78 ]schlägt eine rekursive Variante des Co-Kriging Ansatzes vor, die bei gleicher prädiktiver Qualität weniger komplex ist. Co-Kriging fand auch in verschiedenen Gebieten aus Forschung und Entwicklung Anwendung, wie zum Beispiel der Optimierung von Antennen [ 101 ], Mikrowellenfilter [ 102 ] und in der Aerodynamik [79]. Genetic Programming und Symbolische Regression Der Bereich Symbolische Regression und Genetic Programming wurde im Projektzeitraum durch wichtige Forschungsergebnisse weiterentwickelt. Korns [ 99 , 100 , 98 ]entwickelte neue Ansätze für die Erzeugung extrem genauer Modelle durch Symbolische Regression. Winkler [ 118 ]beschreibt einen innovativen Ansatz zur Erkennung von Änderungen in dynamischen Systemen durch Symbolische Regression. Kordon [ 97 ]stellt ein hybrides Verfahren zur Zeitreihenprognose vor, welches ARIMAX und Symbolische Regression kombiniert, um kompakte und verständliche Modelle zu erzeugen, die nichtlineare Zusammenhänge erfassen können. Affenzeller [ 36 ]gibt einen Überblick zu Methoden der Wissensgewinnung aus durch Symbolische Regression erstelle Modelle. Diese Verfahren illustrieren die Vorteile des in MCIOP verfolgten Ansatzes 32 der White-Box-Modellierung und zeigen weitere Nutzungsmöglichkeit der im Projekt erzeugten Ergebnisse auf. Optimierung von Staubabscheidern Ein wichtiger Anwendungsfall im Projekt MCIOP war die Geometrie-Optimierung eines Zyklon /Fliehkraftabscheiders. In diesem Bereich befassten sich vor allem Elsayed et al. mit der einkriteriellen Optimierung unter Verwendung Neuronaler Netzwerke und Genetischer Algorithmen [ 68 ], Co-Kriging [ 67 ], sowie des sog. Adjoint Verfahrens [ 66 ]. Ein weiterer Ansatz, der auch für die Behandlung von Nebenbedingungen interessant ist, wird von Sgrott und anderen untersucht. Dabei wird eine Variante des Simplex Algorithmus, COMPLEX (COnstrained SIMPLEX) verwendet [83]. 6 | Veröffentlichungen der Projektteilnehmer [1] BARTZ-BEIELSTEIN, T. ; BRANKE, J. ; MEHNEN, J. ; MERSMANN, O.: Evolutionary Algorithms. In: Wiley Interdisciplinary Reviews: Data Mining and Knowledge Discovery 4 (2014), Nr. 3, S. 178–195 [2] BARTZ-BEIELSTEIN, Thomas: Beyond Particular Problem Instances: How to Create Meaningful and Generalizable Results /Bibliothek der Fachhochschule Köln Bibliothek. Version:2012. http://opus. bsz-bw.de/fhk/volltexte/2012/27 . Betzdorfer Str. 2, 50679 Köln, 2012. – Forschungsbericht. – ISBN 2194–2870 [3] BARTZ-BEIELSTEIN, Thomas: Beyond Particular Problem Instances: How to Create Meaningful and Generalizable Results /Cologne University of Applied Sciences. 2012 (TR 03/2012). – Technical Report [4] BARTZ-BEIELSTEIN, Thomas: BRAGFOST’12 Presentation: Design of Experiments and Sequential Parameter Optimization. November 2012 [5] BARTZ-BEIELSTEIN, Thomas: Presentation Slides: Beyond Particular Problem Instances—How to Create Meaningful and Generalizable Results. Talk: First Workshop on Applied Meta-Modeling, November 2012 [6] BARTZ-BEIELSTEIN, Thomas: How to Create Generalizable Results. In: KACPRZYK, Janusz (Hrsg.) ; PEDRYCZ, Witold (Hrsg.): Springer Handbook of Computational Intelligence. Springer, 2015 (in print), Kapitel 56 [7] BARTZ-BEIELSTEIN, Thomas (Hrsg.) ; BRANKE, Jürgen (Hrsg.) ; FILIPIC, Bogdan (Hrsg.) ; SMITH, Jim (Hrsg.): Lecture Notes in Computer Science. Bd. 8672: Parallel Problem Solving from Nature - PPSN XIII - 13th International Conference, Ljubljana, Slovenia, September 13-17, 2014. Proceedings. Springer, 2014. http://dx.doi.org/10.1007/978-3-319-10762-2 . http://dx.doi.org/10.1007/ 978-3-319-10762-2 [8] BARTZ-BEIELSTEIN, Thomas ; BRANKE, Jürgen ; MEHNEN, Jörn ; MERSMANN, Olaf: Overview: Evolutionary Algorithms /Cologne University of Applied Sciences. Cologne University of Applied Science, Faculty of Computer Science and Engineering Science, 2015 (2). – Cologne Open Science, Schriftenreihe CI-plus. – ISSN 2194–2870 [9] BARTZ-BEIELSTEIN, Thomas ; FLASCH, Oliver ; ZAEFFERER, Martin: Sequential Parameter Optimization for Symbolic Regression. In: GUSTAFSON, Steven (Hrsg.) ; VLADISLAVLEVA, Ekaterina (Hrsg.): GECCO 2012 Symbolic regression and modeling workshop. Philadelphia, Pennsylvania, USA : ACM, July 2012. – ISBN 978–1–4503–1178–6, S. 495–496 33 6 Veröffentlichungen der Projektteilnehmer [10] BARTZ-BEIELSTEIN, Thomas ; FRIESE, Martina ; NAUJOKS, Boris ; ZAEFFERER, Martin: SPOT Applied to Non-Stochastic Optimization Problems—An Experimental Study. In: RODRIGUEZ, Katya (Hrsg.) ; BLUM, Christian (Hrsg.): GECCO 2012 Late breaking abstracts workshop. Philadelphia, Pennsylvania, USA : ACM, July 2012. – ISBN 978–1–4503–1178–6, S. 645–646 [11] BARTZ-BEIELSTEIN, Thomas ; JUNG, Christian ; ZAEFFERER, Martin: Uncertainty Management Using Sequential Parameter Optimization. In: MELONI, Carlo (Hrsg.) ; DELLINO, Gabriella (Hrsg.): Uncertainty Management in Simulation-Optimization of Complex Systems: Algorithms and Applications. Springer, 2015 (in print) (Springer Series on Operations Research/Computer Science Interfaces) [12] BARTZ-BEIELSTEIN, Thomas ; PREUSS, Mike ; ZAEFFERER, Martin: Statistical Analysis of Optimization Algorithms with R. In: OCHOA, Gabriela (Hrsg.): GECCO 2012 Specialized techniques and applications tutorials. Philadelphia, Pennsylvania, USA : ACM, July 2012. – ISBN 978–1–4503–1178–6, S. 1259–1286 [13] BARTZ-BEIELSTEIN, Thomas ; ZAEFFERER, Martin ; NAUJOKS, Boris: How to create meaningful and generalizable results. In: Proceeding of the fifteenth annual conference companion on Genetic and evolutionary computation conference companion. New York, NY, USA : ACM, 2013 (GECCO ’13 Companion). – ISBN 978–1–4503–1964–5, 979–1004 [14] BREIDERHOFF, Beate ; BARTZ-BEIELSTEIN, Thomas ; NAUJOKS, Boris ; ZAEFFERER, Martin ; FISCHBACH, Andreas ; FLASCH, Oliver ; FRIESE, Martina ; MERSMANN, Olaf ; STORK, Jörg: Simulation and Optimization of Cyclone Dust Separators. In: HOFFMANN, Frank (Hrsg.) ; HÜLLERMEIER, Eyke (Hrsg.) ; Institut für Angewandte Informatik/Automatisierungstechnik am Karlsruher Institut für Technologie (Veranst.): Proceedings 23. Workshop Computational Intelligence Institut für Angewandte Informatik/Automatisierungstechnik am Karlsruher Institut für Technologie, KIT Scientific Publishing, 2013, S. 177–195 [15] FLASCH, O.: A Modular Genetic Programming System, TU Dortmund, Diss., 2015. http://hdl.handle. net/2003/34162 [16] FLASCH, O. ; BARTZ-BEIELSTEIN, T.: A Framework for the Empirical Analysis of Genetic Programming System Performance. In: RIOLO, R. (Hrsg.) u. a.: Genetic Programming Theory and Practice X. New York : Springer, 2012 (Genetic and Evolutionary Computation Series), Kapitel 11, S. 155–169 [17] FLASCH, O. ; BARTZ-BEIELSTEIN, T.: A Framework for the Empirical Analysis of Genetic Programming System Performance. In: RIOLO, R. (Hrsg.) u. a.: Genetic Programming Theory and Practice X. New York : Springer, 5 2012 (Genetic and Evolutionary Computation Series) [18] FLASCH, Oliver ; BARTZ-BEIELSTEIN, Thomas: Towards a Framework for the Empirical Analysis of Genetic Programming System Performance /Research Center CIOP (Computational Intelligence, Optimization and Data Mining). Version:May 2012. http://maanvs03.gm.fh-koeln.de/webpub/CIOPReports. d/Flas12a.d/ciop0512.pdf . Faculty of Computer Science and Engineering Science, Cologne University of Applied Sciences, Germany, May 2012 (05/12). – CIOP Technical Report. – ISSN 2191–365X [19] FLASCH, Oliver ; FRIESE, Martina ; VLADISLAVLEVA, Katya ; BARTZ-BEIELSTEIN, Thomas ; MERSMANN, Olaf ; NAUJOKS, Boris ; STORK, Jörg ; ZAEFFERER, Martin: Comparing Ensemble-Based Forecasting Methods for Smart-Metering Data. Version:2013. http://dx.doi.org/10.1007/978-3-642-37192-9_18 . In: ESPARCIA-ALCÁZAR, AnnaI. (Hrsg.): Applications of Evolutionary Computation Bd. 7835. Springer Berlin Heidelberg, 2013. – DOI 10.1007/978–3–642–37192–9_18. – ISBN 978–3–642–37191–2, 172-181 [20] FLASCH, Oliver ; FRIESE, Martina ; ZAEFFERER, Martin ; BARTZ-BEIELSTEIN, Thomas ; BRANKE, Jürgen: Learning Model-Ensemble Policies with Genetic Programming /Bibliothek der Fachhochschule Köln 34 6 Veröffentlichungen der Projektteilnehmer Bibliothek. Version: 2015. http://opus.bsz-bw.de/fhk/volltexte/2015/78 . Betzdorfer Str. 2, 50679 Köln, 2015. – Forschungsbericht [21] FRIESE, M. ; STORK, J. ; GUERRA, R. R. ; BARTZ-BEIELSTEIN, T. ; THAKER, S. ; FLASCH, O. ; ZAEFFERER, M.: UniFIeD: Univariate Frequency-based Imputation for Time Series Data /Bibliothek der Fachhochschule Köln. Betzdorfer Str. 2, 50679 Köln, Germany, 2013 (TR 05/2013). – Cologne Open Science, Schriftenreihe CI-plus [22] JUDT, L. ; MERSMANN, O. ; NAUJOKS, B.: Do Hypervolume Regressions hinder EMOA Performance? Surprise and Relief. In: Evolutionary Multi-Criterion Optimization 7th International Conference, EMO, Springer, 2013 (Lecture Notes in Computer Science 7811), S. 96–110 [23] KOCH, P. ; BISCHL, B. ; FLASCH, O. ; BARTZ-BEIELSTEIN, T. ; WEIHS, C. ; KONEN, W.: Tuning and evolution of support vector kernels. In: Evolutionary Intelligence 5 (2012), Nr. 3, S. 153–170. http://dx.doi. org/10.1007/s12065-012-0073-8. – DOI 10.1007/s12065–012–0073–8 [24] MORITZ, Steffen ; BARTZ-BEIELSTEIN, Thomas ; MERSMANN, Olaf ; ZAEFFERER, Martin ; STORK, Jörg: Does imputation work for improvement of domestic hot water usage prediction? In: Proceedings. 24. Workshop Computational Intelligence, Dortmund, 27.-28. November 2014 Bd. 50, KIT Scientific Publishing, 2014, S. 205–222 [25] STORK, Jörg ; FISCHBACH, Andreas ; BARTZ-BEIELSTEIN, Thomas ; ZAEFFERER, Martin: Boosting ParameterTuning Efficiency with Adaptive Experimental Designs. In: HOFFMANN, Frank (Hrsg.) ; HÜLLERMEIER, Eyke (Hrsg.): Proceedings 24. Workshop Computational Intelligence, KIT Scientific Publishing, 2014, S. 223–235 [26] ZAEFFERER, M. ; BARTZ-BEIELSTEIN, T. ; NAUJOKS, B. ; WAGNER, T. ; EMMERICH, M.: A Case Study on Multi-Criteria Optimization of an Event Detection Software under Limited Budgets. In: PURSHOUSE, R. C. (Hrsg.) u.a.: Evolutionary Multi-Criterion Optimization 7th International Conference, EMO. Heidelberg : Springer, 2013 (Lecture Notes in Computer Science 7811), S. 756–770 [27] ZAEFFERER, M. ; BREIDERHOFF, B. ; NAUJOKS, B. ; FRIESE, M. ; STORK, J. ; FISCHBACH, A. ; FLASCH, O. ; BARTZ-BEIELSTEIN, T.: Tuning multi-objective optimization algorithms for cyclone dust separators. In: ARNOLD, D. V. (Hrsg.): Proceedings of the 2014 conference on Genetic and evolutionary computation (GECCO 2014). New York : ACM Press, 2014. – ISBN 978–1–4503–2662–9, S. 1223–1230 [28] ZAEFFERER, M. ; BREIDERHOFF, B. ; NAUJOKS, B. ; FRIESE, M. ; STORK, J. ; FISCHBACH, A. ; FLASCH, O. ; BARTZ-BEIELSTEIN, T.: Tuning Multi-Objective Optimization Algorithms for Cyclone Dust Separators. In: Proceedings of the 2014 conference on Genetic and evolutionary computation (GECCO 2014). New York : ACM Press, 2014 [29] ZAEFFERER, M. ; NAUJOKS, B. ; BARTZ-BEIELSTEIN, T. ; FRIESE, M. ; MERSMANN, O. ; FLASCH, Oliver: Mehrkriterielle sequentielle Parameteroptimierung für Anwendungsprobleme mit stark limitiertem Budget. In: HOFFMANN, Frank (Hrsg.) ; HÜLLERMEIER, Eyke (Hrsg.) ; Institut für Angewandte Informatik/Automatisierungstechnik am Karlsruher Institut für Technologie (Veranst.): Proceedings 22. Workshop Computational Intelligence Institut für Angewandte Informatik/Automatisierungstechnik am Karlsruher Institut für Technologie, KIT Scientific Publishing, 2012, S. 385–400 [30] ZAEFFERER, Martin ; BARTZ-BEIELSTEIN, Thomas ; FRIESE, Martina ; NAUJOKS, Boris ; FLASCH, Oliver: Multi-Criteria Optimization for Hard Problems under Limited Budgets. In: SOULE, Terry (Hrsg.) u.a.: 35 7 Veröffentlichungen Dritter GECCO Companion ’12: Proceedings of the fourteenth international conference on Genetic and evolutionary computation conference companion. Philadelphia, Pennsylvania, USA : ACM, July 2012. – ISBN 978–1– 4503–1178–6, S. 1451–1452 [31] ZAEFFERER, Martin ; BARTZ-BEIELSTEIN, Thomas ; NAUJOKS, Boris ; WAGNER, Tobias ; EMMERIC, Michael: Model-assisted Multi-criteria Tuning of an Event Detection Software under Limited Budgets /Cologne University of Applied Sciences. 2012 (2/2012). – Schriftenreihe CIplus [32] ZAEFFERER, Martin ; NAUJOKS, Boris ; BARTZ-BEIELSTEIN, Thomas: A Gentle Introduction to Multi-Criteria Optimization with SPOT /Cologne University of Applied Sciences. 2013 (1/2013). – Cologne Open Science, Schriftenreihe CI-plus [33] ZAEFFERER, Martin ; STORK, Jörg ; BARTZ-BEIELSTEIN, Thomas: Distance Measures for Permutations in Combinatorial Efficient Global Optimization. In: BARTZ-BEIELSTEIN, Thomas (Hrsg.) ; BRANKE, Jürgen (Hrsg.) ; FILIPIˇ C, Bogdan (Hrsg.) ; SMITH, Jim (Hrsg.): Parallel Problem Solving from Nature–PPSN XIII Bd. 8672, Springer, 2014, S. 373–383 [34] ZAEFFERER, Martin ; STORK, Jörg ; FRIESE, Martina ; FISCHBACH, Andreas ; NAUJOKS, Boris ; BARTZBEIELSTEIN, Thomas: Efficient Global Optimization for Combinatorial Problems. In: ARNOLD, Dirk V. (Hrsg.): Genetic and Evolutionary Computation Conference (GECCO’14), Proceedings, ACM, 2014, S. 871– 878 [35] ZAEFFERER, T. M.and Bartz-Beielstein ; FRIESE, M. ; NAUJOKS, B. ; FLASCH, O.: MSPOT: Multi-Criteria Sequential Parameter Optimization /CIplus. 2012 (TR 2/2012). – Forschungsbericht 7 | Veröffentlichungen Dritter [36] AFFENZELLER, Michael ; WINKLER, Stephan M. ; KRONBERGER, Gabriel ; KOMMENDA, Michael ; BURLACU, Bogdan ; WAGNER, Stefan: Gaining Deeper Insights in Symbolic Regression. In: RIOLO, Rick (Hrsg.) ; MOORE, Jason H. (Hrsg.) ; KOTANCHEK, Mark (Hrsg.): Genetic Programming Theory and Practice XI. Ann Arbor, USA : Springer, 9-11 Mai 2013 (Genetic and Evolutionary Computation), Kapitel 10, S. 175–190 [37] BANZHAF, Wolfgang ; FRANCONE, Frank D. ; KELLER, Robert E. ; NORDIN, Peter: Genetic programming: an introduction: on the automatic evolution of computer programs and its applications. San Francisco, CA, USA : Morgan Kaufmann Publishers Inc., 1998. – ISBN 1–55860–510–X [38] BARTZ-BEIELSTEIN, T.: Experimental Research in Evolutionary Computation—The New Experimentalism. Berlin : Springer, 2006 (Natural Computing Series) [39] BARTZ-BEIELSTEIN, T: Optimierung von Prozessvariablen beim Spritzgießen /Cologne University of Applied Sciences. 2010. – Forschungsbericht [40] BARTZ-BEIELSTEIN, Thomas ; CHALMERS, Alan (Hrsg.) ; COX, David. R. (Hrsg.) ; GLYMOUR, Clark (Hrsg.) ; MAYO, Deborah (Hrsg.) ; SPANOS, Aris (Hrsg.): Neyman-Pearson Theory of Testing and Mayo’s Extensions in Evolutionary Computing. http://www.error06.econ.vt.edu/bartzerror2006. pdf. Version: 2006 [41] BARTZ-BEIELSTEIN, Thomas: Experimental Analysis of Optimization Algorithms – Problems andPerspectives (Seminar). Tilburg University NL, September 2007 36 7 Veröffentlichungen Dritter [42] BARTZ-BEIELSTEIN, Thomas: How Experimental Algorithmics Can Benefit from Mayo’s Extensions to Neyman-Pearson Theory of Testing. In: Synthese 163 (2008), Nr. 3, S. 385–396. http://dx.doi. org/10.1007/s11229-007-9297-z. – DOI 10.1007/s11229–007–9297–z [43] BARTZ-BEIELSTEIN, Thomas: Review: Design and Analysis of Simulation Experiments by Jack P.C. Kleijnen. In: INFORMS Computing Society News 2 (2008), Fall 2008, S. 11–14 [44] BARTZ-BEIELSTEIN, Thomas: Theory of Evolutionary Algorithms (eingeladene Teilnahme). Dagstuhl Seminar 08051, Januar 2008 [45] BARTZ-BEIELSTEIN, Thomas: Sequential Parameter Optimization—An Annotated Bibliography /Research Center CIOP (Computational Intelligence, Optimization and Data Mining). Cologne University of Applied Science, Faculty of Computer Science and Engineering Science, April 2010 (04/10). – CIOP Technical Report. – ISSN 2191–365X [46] BARTZ-BEIELSTEIN, Thomas: SPOT: An R Package For Automatic and Interactive Tuning of Optimization Algorithms by Sequential Parameter Optimization /Research Center CIOP (Computational Intelligence, Optimization andData Mining). Version:June 2010. http://arxiv.org/abs/1006.4645 . Cologne University of Applied Science, Faculty of Computer Scienceand Engineering Science, June 2010 (05/10). – CIOP Technical Report. – ISSN 2191–365X. – Comments: Related software can be downloaded from http://cran.r-project.org/web/packages/SPOT/index.html [47] BARTZ-BEIELSTEIN, Thomas ; BONGARDS, Michael ; CLAES, Christoph ; KONEN, Wolfgang ; WESTENBERGER, Hartmut: Datenanalyse und Prozessoptimierung für Kanalnetze und Kläranlagen mit CI-Methoden. In: MIKUT, R. (Hrsg.) ; REISCHL, M. (Hrsg.): Proc. 17th Workshop Computational Intelligence, Universitätsverlag, Karlsruhe, 2007, S. 132–138 [48] BARTZ-BEIELSTEIN, Thomas ; KONEN, Wolfgang: Datenanalyse und Prozessoptimierung am Beispiel Kläranlagen /Cologne University of Applied Sciences. 2008. – Forschungsbericht [49] BARTZ-BEIELSTEIN, Thomas ; MARKON, Sandor: Tuning Search Algorithms for Real-World Applications: A Regression Tree Based Approach. In: GREENWOOD, G. W. (Hrsg.): Proceedings 2004 Congress on Evolutionary Computation (CEC’04), Portland OR Bd. 1. Piscataway NJ : IEEE, 2004, S. 1111–1118 [50] BARTZ-BEIELSTEIN, Thomas ; MARKON, Sandor ; PREUSS, Mike: Algorithm Based Validation of a Simplified Elevator Group Controller Model. In: IBARAKI, T. (Hrsg.): Proceedings 5th Metaheuristics International Conference (MIC’03). Kyoto, Japan, 2003, S. 06/1–06/13 (CD–ROM) [51] BARTZ-BEIELSTEIN, Thomas ; PREUSS, Mike: Considerations of Budget Allocation for Sequential Parameter Optimization (SPO). In: PAQUETE, L. (Hrsg.) u. a.: Workshop on Empirical Methods for the Analysis of Algorithms, Proceedings. Reykjavik, Iceland, 2006, 35–40 [52] BARTZ-BEIELSTEIN, Thomas ; PREUSS, Mike: Moderne Methoden zur experimentellen Analyse evolutionärer Verfahren. In: MIKUT, R. (Hrsg.) ; REISCHL, M. (Hrsg.): Proc. 16th Workshop Computational Intelligence, Universitätsverlag, Karlsruhe, 2006, S. 25–32 [53] BARTZ-BEIELSTEIN, Thomas ; PREUSS, Mike: Experimental research in evolutionary computation. In: Proceedings of the 2007 GECCO conference companion on Genetic and evolutionary computation. New York, NY, USA : ACM, 2007 (GECCO ’07). – ISBN 978–1–59593–698–1, 3001–3020 37 7 Veröffentlichungen Dritter [54] BARTZ-BEIELSTEIN, Thomas ; PREUSS, Mike: Experimental research in evolutionary computation – The Future of Experimental Research (Tutorium). Genetic and Evolutionary Computation Conf. (GECCO 2008), Atlanta, Georgia, USA, Juli 2008 [55] BARTZ-BEIELSTEIN, Thomas ; PREUSS, Mike ; MARKON, Sandor: Validation and optimization of an elevator simulation model with modern search heuristics. Version:2005. http://dx.doi.org/10. 1007/0-387-25383-1_5 . In: IBARAKI, T. (Hrsg.) ; NONOBE, K. (Hrsg.) ; YAGIURA, M. (Hrsg.): Metaheuristics: Progress as Real Problem Solvers. Berlin, Heidelberg, New York : Springer, 2005 (Operations Research/Computer Science Interfaces). – DOI 10.1007/0–387–25383–1_5, S. 109–128 [56] BARTZ-BEIELSTEIN, Thomas ; PREUSS, Mike ; SCHWEFEL, Hans-Paul: Model Optimization with Evolutionary Algorithms. In: LUCAS, K. (Hrsg.) ; ROOSEN, P. (Hrsg.): Emergence, Analysis, and Evolution of Structures—Concepts and Strategies Across Disciplines. Berlin, Heidelberg, New York : Springer, 2010, S. 47–62 [57] BARTZ-BEIELSTEIN, Thomas ; ZIMMER, Tobias ; KONEN, Wolfgang: Parameterselektion für komplexe Modellierungsaufgaben der Wasserwirtschaft – Moderne CI-Verfahren zur Zeitreihenanalyse. In: MIKUT, R. (Hrsg.) ; REISCHL, M. (Hrsg.): Proc. 18th Workshop Computational Intelligence, Universitätsverlag, Karlsruhe, 2008, S. 136–150 [58] BEIELSTEIN, Thomas ; EWALD, Claus-Peter ; MARKON, Sandor: Optimal Elevator Group Control by Evolution Strategies. In: CANTÚ-PAZ, E. (Hrsg.) u. a.: Proceedings Genetic and Evolutionary Computation Conf. (GECCO 2003), Chicago IL, Part II Bd. 2724. Berlin, Heidelberg, New York : Springer, 2003 (Lecture Notes in Computer Science), 1963–1974 [59] BEIELSTEIN, Thomas ; MARKON, Sandor: Threshold Selection, Hypothesis Tests, and DOE Methods. In: FOGEL, D. B. (Hrsg.) u. a.: Proceedings 2002 Congress on Evolutionary Computation (CEC’02) Within Third IEEE World Congress on Computational Intelligence (WCCI’02), Honolulu HI. Piscataway NJ : IEEE, 2002, S. 777–782 [60]BEIELSTEIN, Thomas ; MARKON, Sandor ; PREUSS, Mike: A Parallel Approach to Elevator Optimization Based on Soft Computing. In: IBARAKI, T. (Hrsg.): Proceedings 5th Metaheuristics International Conference (MIC’03). Kyoto, Japan, 2003, S. 07/1–07/11 (CD–ROM) [61] BEIELSTEIN, Thomas ; MEHNEN, Jörn ; SCHÖNEMANN, Lutz ; SCHWEFEL, Hans-Paul ; SURMANN, Tobias ; WEINERT, Klaus ; WIESMANN, Dirk: Design of evolutionary algorithms and applications in surface reconstruction. Version: 2003. http://dx.doi.org/10.1007/978-3-662-05609-7_6 . In: SCHWEFEL, H.-P. (Hrsg.) ; WEGENER, I. (Hrsg.) ; WEINERT, K. (Hrsg.): Advances in Computational Intelligence—Theory and Practice. Berlin, Heidelberg, New York : Springer, 2003. – DOI 10.1007/978–3–662–05609–7_6, S. 145–193 [62] CASTRO, Joseph P. ; GRAY, Genetha A. ; GIUNTA, Anthony A. ; HOUGH, Patricia D.: Developing a Computationally Efficient Dynamic Multilevel Hybrid Optimization Scheme using Multifidelity Model Interactions /Sandia National Laboratories. Version: 2005. http://www.osti.gov/bridge/servlets/purl/ 877137-G4FP0Q/877137.pdf . Albuquerque, New Mexico 87185 and Livermore, California 94550, 2005 (SAND2005-7498). – Forschungsbericht [63] COELLO COELLO, C. A. ; VAN VELDHUIZEN, D. A. ; LAMONT, G. B.: Evolutionary Algorithms for Solving Multi-Objective Problems. 2nd. Springer, New York, 2007 38 7 Veröffentlichungen Dritter [64] DEB, K.: Multi-Objective Optimization using Evolutionary Algorithms. 1. New York NY : Wiley, 2001 (Wiley-Interscience Series in Systems and Optimization) [65]EHRGOTT, M.: Multicriteria Optimization. Springer, Berlin, 2005 [66] ELSAYED, Khairy: Design of a novel gas cyclone vortex finder using the adjoint method. In: Separation and Purification Technology 142 (2015), Nr. 0, 274 - 286. http://dx.doi.org/http://dx.doi. org/10.1016/j.seppur.2015.01.010 . – DOI http://dx.doi.org/10.1016/j.seppur.2015.01.010. – ISSN 1383–5866 [67] ELSAYED, Khairy: Optimization of the cyclone separator geometry for minimum pressure drop using CoKriging. In: Powder Technology 269 (2015), Nr. 0, 409 - 424. http://dx.doi.org/http://dx.doi. org/10.1016/j.powtec.2014.09.038 . – DOI http://dx.doi.org/10.1016/j.powtec.2014.09.038. – ISSN 0032–5910 [68] ELSAYED, Khairy ; LACOR, Chris: Modeling and Pareto optimization of gas cyclone separator performance using {RBF}type artificial neural networks and genetic algorithms. In: Powder Technology 217 (2012), Nr. 0, 84 - 99. http://dx.doi.org/http://dx.doi.org/10.1016/j.powtec.2011.10.015 . – DOI http://dx.doi.org/10.1016/j.powtec.2011.10.015. – ISSN 0032–5910 [69] EMMERICH, Michael T. M. ; DEUTZ, Andre H. ; KLINKENBERG, Jan W.: Hypervolume-based expected improvement: Monotonicity properties and exact computation. In: Congress on Evolutionary Computation (CEC’11), Proceedings. New York, NY, USA : IEEE, 2011. – ISBN 978–1–4244–7834–7, 2147–2154 [70] EPPLE, B. (Hrsg.) ; LEITHNER, R. (Hrsg.) ; LINZER, W. (Hrsg.) ; WALTER, H. (Hrsg.): Simulation von Kraftwerken und wärmetechnischen Anlagen. Springer, Wien, 2007 [71] FLASCH, O. ; BARTZ-BEIELSTEIN, Th. ; DAVTYAN, A. ; KOCH, P. ; KONEN, W. ; OYETOYAN, T.D. ; TAMUTAN, M.: Comparing SPO-tuned GP and NARX prediction models for stormwater tank fill level prediction. In: FOGEL, Gary et a. (Hrsg.): Proc. IEEE Congress Evolutionary Computation (CEC), 2010, S. 1579–1586 [72] FLASCH, Oliver ; BARTZ-BEIELSTEIN, Thomas ; DAVTYAN, Artur ; KOCH, Patrick ; KONEN, Wolfgang ; OYETOYAN, Tosin D. ; TAMUTAN, Michael: Comparing CI Methods for Prediction Models in Environmental Engineering. In: FOGEL, G et a. (Hrsg.): Proc. 2010 Congress on Evolutionary Computation ({CEC}’10) within {IEEE}World Congress on Computational Intelligence ({WCCI}’10), Barcelona, Spain. Piscataway NJ : IEEE Press, 2010 [73] FLASCH, Oliver ; BARTZ-BEIELSTEIN, Thomas ; KOCH, Patrick ; KONEN, Wolfgang: Genetic Programming Applied to Predictive Control in Environmental Engineering. In: HOFFMANN, Frank (Hrsg.) ; HÜLLERMEIER, Eyke (Hrsg.): Proceedings 19. Workshop Computational Intelligence. Karlsruhe : KIT Scientific Publishing, 2009, S. 101–113 [74] FORRESTER, A. ; SOBESTER, A. ; KEANE, A.: Engineering Design via Surrogate Modelling. 1st. Chichester, U.K. : Wiley, 2008 [75] FORRESTER, Alexander ; SÓBESTER, András ; KEANE, Andy: Multi-fidelity optimization via surrogate modelling. In: Proceedings of the Royal Society A: Mathematical, Physical and Engineering Science 463 (2007), Nr. 2088, S. 3251–3269. http://dx.doi.org/10.1098/rspa.2007.1900 . – DOI 10.1098/rspa.2007.1900 39 7 Veröffentlichungen Dritter [76] GORISSEN, D. ; CROMBECQ, K. ; COUCKUYT, I. ; DHAENE, T. ; DEMEESTER, P.: A Surrogate Modeling and Adaptive Sampling Toolbox for Computer Based Design. In: Journal of Machine Learning Research 11 (2011), 2051-2055. http://www.jmlr.org/papers/volume11/gorissen10a/gorissen10a. pdf [77] GORISSEN, Dirk: Grid-Enabled Adaptive Surrogate Modeling for Computer Aided Engineering, Engineering Sciences, speciality Computer Science, Ghent University, Belgium, Diss., 2010 [78] GRATIET, Loic L.: Recursive co-kriging model for Design of Computer experiments with multiple levels of fidelity with an application to hydrodynamic. In: arXiv preprint arXiv:1210.0686 (2012) [79] HUANG, Likeng ; GAO, Zhenghong ; ZHANG, Dehu: Research on multi-fidelity aerodynamic optimization methods. In: Chinese Journal of Aeronautics 26 (2013), Nr. 2, 279 - 286. http://dx.doi.org/http://dx.doi.org/10.1016/j.cja.2013.02.004 . – DOI http://dx.doi.org/10.1016/j.cja.2013.02.004. – ISSN 1000–9361 [80] HUPKENS, Iris ; DEUTZ, Andre ; YANG, Kaifeng ; EMMERICH, Michael: Faster Exact Algorithms for Computing Expected Hypervolume Improvement. In: GASPAR-CUNHA, Antonio (Hrsg.) ; HENGGELER ANTUNES, Carlos (Hrsg.) ; COELLO, Carlos C. (Hrsg.): Evolutionary Multi-Criterion Optimization Bd. 9019. Springer International Publishing, 2015. – ISBN 978–3–319–15891–4, S. 65–79 [81] HUPKENS, Iris ; EMMERICH, Michael T. M. ; DEUTZ, André H.: Faster Computation of Expected Hypervolume Improvement. In: CoRR abs/1408.7114 (2014). http://arxiv.org/abs/1408.7114 [82] JONES, D.R. ; SCHONLAU, M. ; WELCH, W.J.: Efficient Global Optimization of Expensive Black-Box Functions. In: Journal of Global Optimization 13 (1998), S. 455–492 [83] JR., Oscar L. S. ; NORILER, Dirceu ; WIGGERS, Vinicyus R. ; MEIER, Henry F.: Cyclone optimization by {COMPLEX}method and {CFD}simulation. In: Powder Technology 277 (2015), Nr. 0, 11 - 21. http://dx.doi.org/http://dx.doi.org/10.1016/j.powtec.2015.02.039 . – DOI http://dx.doi.org/10.1016/j.powtec.2015.02.039. – ISSN 0032–5910 [84] KAMPOLIS, I. C. ; ZYMARIS, A. S. ; ASOUTI, V. G. ; GIANNAKOGLOU, K. C.: Multilevel Optimization Strategies Based on Metamodel–Assisted Evolutionary Algorithms, for Computationally Expensive Problems. In: Congress on Evolutionary Computation (CEC 2007), IEEE Press, Piscataway, NJ, 2007, S. 4116 – 4123 [85] KARAKASIS, M. K. ; GIANNAKOGLOU, K. C. ; KOUBOGIANNIS, D. G.: Aerodynamic Design of Compressor Airfoils using Hierarchical, Distributed, Metamodel-Assisted Evolutionary Algorithms. In: Numerical Methods in Fluids 53 (2007), Nr. 3, S. 455–469 [86]KLEIJNEN, J. P. C.: Statistical Tools for Simulation Practitioners. New York NY : Marcel Dekker, 1987 [87]KLEIJNEN, J. P. C.: Design and analysis of simulation experiments. New York NY : Springer, 2008 [88] KNOWLES, Joshua D. ; NAKAYAMA, Hirotaka: Meta-Modeling in Multiobjective Optimization. In: Multiobjective Optimization, Springer, 2008, 245-284 [89] KOCH, P. ; KONEN, W. ; HEIN, K.: Gesture Recognition on Few Training Data using Slow Feature Analysis and Parametric Bootstrap. In: 2010 International Joint Conference on Neural Networks, 2010 40