Mit dem Aufstieg generativer KI-Systeme wie ChatGPT, Claude, Stable Diffusion oder  DALL-E sind neue ethische Herausforderungen entstanden, die bei voran-gehenden KI-Technologien noch keine Rolle spielten; neuartige Sicherheitsproble-me, Interaktionsrisiken, Halluzinationen, Jailbreaks und vieles mehr. Der Vortrag bietet eine systematische Erörterung dieser Themen, um einen umfassenden Überblick und eine kritische Analyse des aktuellen Diskurses zur KI-Ethik zu ermöglichen.

Dr. Thilo Hagendorff ist Experte für KI-Ethik, Maschinenverhalten in Sprachmodel-len sowie für die Schnittstelle zwischen Psychologie und maschinellem Lernen. Er arbeitet als unabhängiger Forschungsgruppenleiter an der Universität Stuttgart. Zuvor arbeitete er für den Exzellenzcluster "Maschinelles Lernen" an der Universität Tübingen. Er war Gastwissenschaftler an der Stanford University sowie an der UC San Diego. Als Dozent lehrt er u.a. am Hasso-Plattner-Institut in Potsdam.

Die Nutzung von Künstlicher Intelligenz (KI) in der Qualitätssicherung wirft zentrale ethische und technische Fragen auf: Wer soll die finale Entscheidungsgewalt für ein sicherheitskritisches System übernehmen? Während KI-Systeme durch ihre Fähigkeit zur präzisen Fehlererkennung und Effizienzsteigerung immer stärker überzeugen, bleibt die Verantwortung ein zentrales Thema. Was passiert wenn das technische System bessere Entscheidung trifft als technische Expertinnen und Experten? Und ist dies überhaupt schon der Fall? Eine interdisziplinäre Herangehensweise könnte sicherstellen, dass die Nutzung von KI in der Qualitätssicherung verantwortungsvoll und nach ethischen Maßstäben erfolgt.

Prof. Dr. Markus Sause ist Direktor des KI-Produktionsnetzwerks an der Universität Augsburg, an der er auch als Professor für Mechanical Engineering am Institut für Materials Resource Management forscht und lehrt. Sein Spezialgebiet ist die Erforschung von Zustandsüberwachungssystemen für industrielle Fertigungsprozesse, Maschinen und Anlagen.

Um ChatGPT und andere Sprachmodelle ist ein Streit entbrannt: Sind es nur plappernde Papageien ("Stochastic Parrots") oder sind hier erste Anflüge von emergentem, intelligentem Verhalten zu sehen? Können Sprachmodelle logische Schlüsse ziehen? Haben sie ein Weltmodell, also ein eigenständiges Teilverständnis von der Welt da draußen, mit dem sie die Welt begreifen? In ihrem unterhaltsamen und leicht verständlichen Vortrag diskutiert Professorin Zweig diese Fragen, da ihr Verständnis wichtig ist, um zu wissen, wofür Sprachmodelle genutzt werden können und wofür nicht.

Katharina Zweig ist Informatikprofessorin an der RPTU in Kaiserslautern, wo sie das Algorithm Accountability Lab und den Studiengang Sozioinformatik leitet. Sie forscht zu der Frage, wie Algorithmen und Software im Allgemeinen vertrauenswürdig entwickelt und eingesetzt werden können. Daneben ist sie in der Politikberatung und Wissenschaftskommunikation aktiv. Die mehrfach ausgezeichnete Wissenschaftlerin (u.a. DFG Communicatorpreis) ist zweifache Bestsellerautorin mit "Ein Algorithmus hat kein Taktgefühl" und "Die KI war's".

Künstliche Intelligenz erobert den Arbeitsmarkt in vielen Bereichen. Nicht alle Beschäftigen eines Unternehmens blicken positiv auf diese Entwicklungen. Für manche Menschen ist KI eine „Blackbox“, die mit Berührungsängsten verbunden sein kann. Im Vortrag werden Ansätze gezeigt, wie man KI haptisch (be)greifbar machen kann. Diskutieren Sie mit, wie die Implementierung von KI-Anwendungen im Unternehmen für alle gelingen kann!

10/2017 bis heute:  Geschäftsführerin MINT_Bildung AMU Universität Augsburg und Leitung KI-Bildungsprogramm KI-Produktionsnetzwerk Universität Augsburg

10/2013 – 09/2017: Projektkoordinatorin/wissenschaftliche Mitarbeiterin

01/2017 – 05/2020: Dissertation Universität Augsburg: "Virtuelle Realität und Serious Games im Schullalltag. Konzeption, Erprobung und Analyse der virtuellen Lernwelt Faszination Faserverbundwerkstoffe & des Serious Games Composites Cup on Tortuga“

KI-Produkte und Systeme ziehen in unsere Gesellschaft ein und verändern sie dabei. Kann es geschehen, dass dabei allmählich und kaum bemerkbar Verschiebungen stattfinden, die zu Disruptionen, also zum Zerbrechen vertrauter Konfigurationen führen? Könnte z.B. unsere Freiheit allmählich verschwinden, oder die Demokratie sanft und unbemerkt obsolet wird? Könnte die Kontrolle allmählich von Menschen auf KI-Systeme übergehen? Die Kombination faszinierender technischer Eigenschaften der KI mit menschlichen Gewohnheiten und auch bekannten menschlichen Schwächen macht derartige Entwicklungen möglich. Im Vortrag werde ich diese Möglichkeiten skizzieren und nach geeigneten Wegen der Vorbeugung fragen.

Armin Grunwald, Prof. Dr., Studium von Physik, Mathematik und Philosophie.

Seit 1999 Leiter des Instituts für Technikfolgenabschätzung und Systemanalyse (ITAS) am Karlsruher Institut für Technologie (KIT).

Seit 2002 auch Leiter des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB).

Seit 2007 auch Professor für Technikethik und Technikphilosophie am KIT.

Jede Brücke, jedes Flugzeug und jeder Herzschrittmacher wird von Menschen konstruiert. Produktdesigner nutzen dafür CAD-Systeme und moderne Berechnungswerkzeuge, doch durch neue Werkstoffe und Fertigungstechnologien wird ihr Lösungsraum so groß, dass er nicht mehr effektiv mit Erfahrungswerten und Konstruktionsrichtlinien erschlossen werden kann. Der Vortrag fokussiert sich deshalb darauf, warum das Konstruieren mit Verbundwerkstoffen so schwierig ist und wie Methoden des maschinellen Lernens die Suche nach dem besten Design beschleunigen können. Zum Schluss diskutieren wir, ob künftig Algorithmen das Produktdesign anstatt Konstrukteuren bestimmen werden.

Wie verändert der Einsatz von Künstlicher Intelligenz unsere Demokratie? In welchen Bereichen kann diese Technologie demokratische Prozesse fördern, und wo besteht die Gefahr, dass sie zur Erosion demokratischer Strukturen missbraucht wird? In diesem Vortrag wird der demokratiefördernde Einsatz von Künstlicher Intelligenz (KI) anhand von Beispielen für spezifische Anwendungsgebiete illustriert und mögliche Risiken erläutert. Zudem wird auf die Grenzen der Gestaltungsmöglichkeiten demokratischer Prozesse mittels KI eingegangen und die Frage nach den nicht-technologischen Voraussetzungen für den demokratiefördernden Technologieeinsatz gestellt.

Dr. Nikolai Horn ist Senior Policy Advisor beim Think Tank iRights.Lab. Nach seinem Studium der Philosophie arbeitete er am Institut für Öffentliches Recht der Universität Bonn und promovierte mit einer interdisziplinären Arbeit zum Grundrecht der Gewissensfreiheit. Anschließend war er unter anderem als Grundsatzreferent bei der Stiftung Datenschutz und als Project Manager beim IT-Beratungshaus „Capgemini“ mit Digitalisierungsansätzen im Öffentlichen Sektor sowie mit der Beratung von Bundes- und Landesbehörden beschäftigt. Nikolai Horn befasst sich außerdem seit über 10 Jahren haupt- und nebenberuflich mit dem Themenbereich „Digitale Ethik“ und war 2020-2022 Co-Leiter der AG-Ethik beim digitalpolitischen Netzwerk „Initiative D21“

Im öffentlichen Diskurs über Künstliche Intelligenz gehen die Vorstellungen über die Technologie selbst, deren Potenziale und Grenzen sehr weit auseinander. Die Wahrnehmungen reichen von ‚Magie‘ über ‚Schlüssel- und Zukunftstechnologie‘ bis zur ‚gesellschaftlichen Bedrohung‘. Warum ist das so? Es ist zu befürchten, dass dies weder für das Forschungsgebiet noch für die Gesellschaft gut ist. Vielleicht hilft Klarheit und Präzision. Hierzu soll der Vortrag beitragen.

Prof. Dr. Wolfgang Reif ist Direktor des Instituts für Software & Systems Engineering (ISSE) an der Universität Augsburg und forscht mit seinem Team u.a. in den Bereichen Robotik und Künstliche Intelligenz. Im Vordergrund der Arbeiten stehen Maschinelles Schließen, Maschinelles Lernen und Schwarmintelligenz. Anwendungsbereiche sind: Software Verifikation, KI in der Produktion, Mensch-Roboter-Kooperation sowie Selbstorganisierende Systeme.

Der Vortrag geht von aktuellen Beispielen der Anwendung von KI in der Medizin aus. Anschließend werden die für diesen Anwendungsbereich wichtigen Grundzüge der Regulierung von KI in der EU dargestellt. Hierbei wird sowohl  der Ex ante- als auch der Ex post-Rechtsrahmen in den Blick genommen und anhand von Beispielen illustriert. Auch die Anwenderperspektive wird angesprochen. Abschließend werden Vor- und Nachteile der KI-Regulierung diskutiert.

Der Vortragende hat sechs rechtswissenschaftliche Beiträge zum Thema "KI-Regulierung in der Medizin" veröffentlicht. Eine zusammen mit einem Co-Autor zu diesem Thema verfasste Monographie ist im Erscheinen.

Promotion und Habilitation an der Universität Tübingen, Absolvent der Deutschen Universität für Verwaltungswissenschaften Speyer und der University of Oxford, bis April 2023 Professor für Öffentliches Recht an der Universität Augsburg, danach Rechtanwalt in München