Sie hat seit der Gründung des Bamberger Center for Artificial Intelligence (BaCAI) im Jahr 2023 die Position der geschäftsführenden Direktorin inne. Darüber hinaus ist sie die Leiterin der Projektgruppe für Erklärbare Künstliche Intelligenz (Comprehensible Artificial Intelligence) am Fraunhofer-Institut für Integrierte Schaltungen.
In diesem Gespräch werden wir tiefe Einblicke in ihre Forschungen, Erfahrungen und Visionen für die Zukunft der KI eintauchen. Ute Schmid war eine der ersten Wissenschaftlerinnen die das Moratorium für Künstliche Intelligenz unterschrieben hat. Einen erheblichen Teil ihrer Zeit widmet Ute Schmid der Förderung von Frauen in der Informatik und der Förderung der Informatik als Thema in der Grund-, Grund- und Sekundarstufe. Für ihre Universität gewann sie den Minerva Gender Equality Award of Informatics Europe 2018. Ute Schmid beschäftigt sich seit vielen Jahren mit der Aufklärung der Öffentlichkeit über Künstliche Intelligenz im Allgemeinen.
LEADERSNET: Erzählen Sie Ihren Hintergrund. Wie sind Sie aufgewachsen? Wie haben Ihre Kindheit und Ihr Aufwachsen Ihren Weg als Forscherin beeinflusst? Warum die Informatik?
Ute Schmid: Ich komme aus einem eher ländlichen Bereich im Süden Bayerns, hatte eine sehr behütete Kindheit und komme aus einem Lehrerhaushalt. Ich habe zunächst Psychologie an der TU Berlin studiert und auch mit Diplom abgeschlossen. Während des Studiums entdeckte ich erst, dass ich Programmieren sehr spannend finde und dann, dass Informatik generell ein sehr spannendes Gebiet ist. Während meiner Zeit als Doktorandin und wissenschaftliche Mitarbeiterin habe ich dann parallel Informatik studiert und habe das auch in der Regelstudienzeit hingekriegt. Tatsächlich war bereits im Hauptstudium KI eines meiner Schwerpunktthemen.
LEADERSNET: Danke schön. Beginnen wir mit etwas Einfachem. Können Sie mir ein wenig erzählen, was Sie tun? Welche Forschungsschwerpunkte verfolgen Sie aktuell in Ihrem Fachgebiet und was sind die zentralen Fragen, die Sie beschäftigen? KI kämpft immer noch mit "Kinderkrankheiten“ wie den KI-Halluzinationen…
Ute Schmid: Ich habe zwei große Forschungsbereiche, an denen ich arbeite. Der eine Bereich ist erklärbare Künstliche Intelligenz, kurz XAI für Explainable Artificial Intelligence. Und der andere Bereich ist die Entwicklung von intelligenten Tutorsystemen, also KI Anwendungen in der Bildung. XAI-Methoden sind wichtig, damit nachvollziehbar wird, wie gelernte Modelle zu bestimmten Ausgaben kommen und um auf dieser Grundlage besser einschätzen zu können, inwiefern man dieser Ausgabe vertrauen sollte. Sie haben ja gerade schon das Halluzinieren angesprochen: Allgemein gilt, dass KI-Systeme im Gegensatz zu Standard-Software keinen Anspruch an Korrektheit und Vollständigkeit haben – allerdings gilt auch bei komplexer Software, dass nicht mehr jeder Fall garantiert abgedeckt ist – praktisch stürzt uns auch mal unser Textverarbeitungsprogramm ab.
Jetzt fragt man sich, warum denn dann KI, wenn die Fehler macht? Das liegt daran, dass es viele Probleme gibt, die man mit Standard-Methoden nicht angehen kann. Beispielsweise ist es unmöglich, ein Programm zu schreiben, das auf Bildern erkennt, was darauf zu sehen ist – das gilt für alltägliche Dinge wie Tiere aber auch für spezielle Problembereiche wie die Hautkrebsdiagnose. In diesen Fällen kann maschinelles Lernen als wichtige Methodenfamilie der KI zum Einsatz kommen. Hier wird nicht explizit programmiert, sondern es werden Modelle aus Daten gelernt. Die gelernten Modelle können nie alle Möglichkeiten abdecken, aber sind dennoch nützlich.
Wenn wir beispielsweise die Google Bildersuche nutzen sind unter den gefundenen Bildern immer auch welche, die gar nicht zur Anfrage passen. Das ist aber nicht schlimm, wir wissen ja was wir suchen und können uns ein passendes Bild auswählen. Wenn große Sprachmodelle halluzinieren, ist das vergleichbar. Wenn es uns um die Formulierung eines Textes geht, können wir fehlerhafte Aussagen im generierten Text korrigieren. Problematisch wird es, wenn wir Inhalte generieren lassen, bei denen wir nicht wissen, was korrekt wäre.
LEADERSNET: Sie denken, dass es unabdingbar ist, auf die Risiken beim Einsatz großer Sprachmodelle und anderer aktueller KI-Technologien hinzuweisen. Wie muss dazu ein breiter demokratischer Diskurs aussehen? Welche Handlungen müssen gesetzt werden, dass diese Technologie nicht zur Gefahr wird?
Ute Schmid: Erstens braucht es Forschung, um die KI-Ansätze weiter zu verbessern, zum Beispiel, um Halluzinieren möglichst einzuschränken. Das ist auch der Fall – aktuell wird hier etwa an Retrieval Augmented Generation (kurz RAG) geforscht. Zweitens glaube ich, ist unerlässlich, dass KI Bildung in Schulen, aber auch für Erwachsene deutlich verstärkt wird. Regulierung als dritte Maßnahme wurde vor kurzem im Europäischen Parlament verabschiedet.
Ich weiß, dass Unternehmen sich teilweise Sorgen machen, dass das ein riesen bürokratischer Aufwand wird, ähnlich wie bei der Umsetzung der Datenschutzgrundverordnung. Ich hoffe aber sehr, dass wir daraus gelernt haben und eine sinnvolle Balance zwischen Regulierung und Freiheit bei der Umsetzung innovativer Methoden finden.
LEADERSNET: Denken Sie, dass noch zu Ihren Lebzeiten eine KI entsteht die schlauer ist als Sie (bei den derzeitigen Sterbetafeln hätten Sie noch etwa 25 weitere Lebensjahre)? Welche Fortschritte in diesem Bereich haben Sie am meisten beeindruckt? Welche Anwendungsbereiche der KI halten Sie für besonders vielversprechend?
Ute Schmid: KI-Methoden sind bereits in vielen Bereichen überaus tauglich und auch besser als Menschen. Das gilt aber immer für sehr spezielle Bereiche, etwa die Analyse von Hautbildern zur Hautkrebsfrüherkennung. Wo ich größere Probleme sehe und wo ich nicht glaube, dass es zu meinen Lebzeiten passieren wird, sind KI-Systeme für sehr komplexe Bereichen, in denen sehr verschiedene Anforderungen bestehen und sehr viel Weltwissen benötigt wird. Solche flexiblen und robusten Systeme wären etwa Pflege oder Haushalt. Nehmen wir mal das Beispiel Einräumen einer Spülmaschine.
Da steht ein Berg Geschirr rum, vielleicht über verschiedene Zimmer verteilt und Sie müssen sich überlegen, was stelle ich wohin in der Spülmaschine, damit möglichst alles reinpasst, aber beim Einräumen auch nichts kaputtgeht. Auch hierzu gibt es natürlich Forschung und es gibt Erfolge, aber zu einer allgemeinen Künstlichen Intelligenz ist noch ein weiter Weg.
LEADERSNET: Was braucht es an praktischen Umsetzungsarbeiten, um zukünftig bei diesen Entwicklungen vorne mitzuspielen und um zu den führenden Nationen bei technologischen Neuerungen zu gehören? Welche Rolle sehen Sie für Regierungen und Organisationen bei der Förderung und Regulierung von KI-Technologien? Die wenigsten Menschen wissen, dass beispielsweise in den USA das Pentagon, der Staat, der größte Wagniskapitalgeber ist – 800 Milliarden Dollar und immense Auftragshöhen werden dort an junge Unternehmen vergeben.
Ute Schmid: Das ist ein wichtiger Punkt. Es ist traurig, dass Europa aktuell eher Technologienutzer und nicht Technologietreiber ist. In der Forschung ist Europa traditionell im Bereich KI sehr stark. Aber Sie haben es ja schon angesprochen, die Umsetzung in Unternehmen, die ist in Deutschland und in Europa schwieriger, was wohl unter anderem daran liegt, dass wir hier eine andere Wirtschaftsstruktur haben und nicht so stark risikokapitalgetrieben sind wie in den USA. Hier eine gute Strategie zu entwickeln, etwa für ein europäisches Sprachmodell, das so leistungsstark ist wie ChatGPT von OpenAI, ist eine der größten aktuellen Herausforderungen.
LEADERSNET: Als Konsequenz aus der aus Ihrer Sicht unabwendbaren fortschreitenden Automatisierung und dem damit einhergehenden Wegfall von Erwerbsarbeitsplätzen sehen Sie die Notwendigkeit eines bedingungslosen Grundeinkommens? Wann wird das notwendig sein? Wie rasch schreiten diese Entwicklungen von Mensch gegen Maschine voran?
Ute Schmid: Das ist eine sehr komplexe Frage. Wandel in der Arbeitswelt durch neue Technologien gab es immer. Bisher hat auch keine der technologischen Innovation dazu geführt, dass weniger Arbeit da ist. Ein Grundeinkommen kann grundsätzlich positiv sein. Dies hängt jedoch immer von der Produktivität der Wirtschaftsbereiche ab, und ob dies finanzierbar ist. Eine KI- oder Roboter-Steuer ist denkbar und könnte Bereiche der Gesundheit, Bildung und Kultur querfinanzieren.
Durch generative KI werden Berufsgruppen wie Illustratoren, Callcenter-Mitarbeiter und ähnliche Berufsgruppen tatsächlich weniger wichtig. Gleichzeitig bringt KI auch viele neue Jobs – einerseits anspruchsvolle Bereiche wie Data Scientists und Data Engineers, aber auch Unmengen von extrem niedrig bezahlten "Clickworkern“, die Daten für maschinelles Lernen aufbereiten, vor allem in Indien und in afrikanischen Ländern.
LEADERSNET: Inwiefern kann Künstliche Intelligenz dazu beitragen, einige der drängendsten Herausforderungen der Menschheit zu bewältigen, wie beispielsweise den Klimawandel oder die medizinische Forschung?
Ute Schmid: Ich glaube, KI-Methoden haben hier sehr viel Potenzial, aktuell gibt es viele interessante Ansätze etwa im Bereich Drug Design und im Bereich Scientific Discovery. So kann man etwa bei der Entwicklung neuer Medikamente viel effizienter vorgehen und Wirkstoffe schneller finden. Ich glaube aber, dass es eine Illusion ist, dass KI die großen Probleme der Welt für uns löst. Ich denke, wir brauchen immer partnerschaftliche Systeme, wo Mensch und KI gemeinsam jeweils ihre Stärken kombinieren. Denn was hilfreich ist, was wichtig ist, welche Maßnahmen sinnvoll sind oder auch in ein bestimmtes Ökosystem passen, kann am Ende nur die Menschheit beurteilen und kein KI System.
LEADERSNET: Nach Ihrer langen, erfolgreichen Laufbahn, was ist der beste Ratschlag, den Sie für Ihre berufliche Karriere und Ihr Leben je erhalten haben? Was ist die wichtigste Lektion, die Sie aus all dem gelernt haben? Was würden Sie Ihrem jüngeren Ich raten?
Ute Schmid: Suche dir einen Bereich im Leben, bei dem du leidenschaftlich dabei bist. Dann ist Arbeit immer auch eine Freude. Das gilt nicht nur für Wissenschaft. Ich glaube, das gilt für jeglichen Beruf. Vom Installateur, über Verwaltungsangestellte bis hin zu Lehrkräften. Dann verkraftet man auch den einen oder anderen Misserfolg besser oder die Teile der Arbeit, die einfach Mühe und nicht so viel Spaß machen und die es in jedem Beruf natürlich gibt.
Kommentar schreiben