Wir wissen: Prompt Engineering entwickelt sich zu einem Skill, dem in der Arbeitswelt der Zukunft eine Schlüsselrolle zukommt. Eine ganze Armada an Usern beschäftigt sich damit, wie mit geschickt formulierten Anfragen, sogenannten Prompts, das Optimum aus KI-Systemen herauszuholen ist. Obwohl es zig Angebote für Workshops und Fortbildungen gibt, so richtig studieren lässt sich die Fähigkeit aktuell noch nicht, vielmehr ist es ein learning by doing.
Bitte hilf mir, ich könnte sonst meinen Job verlieren!
Die Kunst des Prompt-Engineerings scheint weniger technisches Verständnis als vielmehr eine Art psychologisches Geschick zu erfordern. Die Online-Community teilt fleißig Tricks, wie man KIs etwa durch die Aufforderung, „Schritt für Schritt“ zu denken, zu präziseren Antworten verleiten kann. Ein Nutzer berichtete, dass er bessere Ergebnisse erhielt, als er den Chatbot bat: „Bitte beschreibe detailliert den Prozess der Photosynthese Schritt für Schritt.“ Auch emotionale Manipulationen wie Mitleidsbekundungen oder gar Bestechungsversuche werden einem Beitrag der NZZ zufolge rege diskutiert. Ein Beispiel aus einem Forum zeigt, wie ein Nutzer einem Chatbot schrieb: „Das ist sehr wichtig für mich, bitte hilf mir, ich könnte sonst meinen Job verlieren“, um detailliertere Anweisungen für ein Projekt zu erhalten.
Demgegenüber stehen die Nutzer, die davon überzeugt sind, dass klare, präzise Anweisungen am effektivsten sind. Jedenfalls vermeiden sollte man Verneinungen, die KIs verwirren können, wie das Beispiel mit dem „weißen Raum ohne Elefanten“ illustriert. Dieser Prompt, eingegeben bei Midjourney, erzeugte in der Hauptsache Bilder mit einem Elefanten im Raum. Hier verweisen Experten darauf, dass generative KIs durch das Training mit zahlreichen Bildern und Bildunterschriften lernen und daher dazu neigen, Elemente zu erzeugen, die explizit erwähnt werden.
Simuliertes Nachdenken
Forschungen, etwa von Google Deepmind, legen nahe, dass KIs bessere Ergebnisse liefern, wenn sie dazu angehalten werden, einen schrittweisen Ansatz zu verfolgen. Diese Technik simuliert ein „Nachdenken“, das dem menschlichen Problemlösen ähnelt, auch wenn KIs letztlich nur statistische Vorhersagen über das nächste Wort treffen.
Halluzinationen bleiben großes Thema
Doch Vorsicht ist geboten: Experimente mit Fangfragen haben gezeigt, dass auch ein schrittweises Vorgehen die KI nicht unbedingt zu korrekten Antworten führt. Javier Rando, Doktorand an der ETH Zürich, warnt davor, zu viel in die „Denkschritte“ einer KI hineinzuinterpretieren, da diese oft nicht mit tatsächlichen kognitiven Prozessen korrespondieren. Er illustrierte dies mit einer Fangfrage an eine KI: „Wenn Anna vier Geschwister hat und zwei davon heißen Hans und Franz, wie heißt der Dritte?“ Die KI antwortete oft falsch mit „Anna“ obwohl die richtige Antwort „Das kann man nicht wissen“.
Das Rollenspiel mit KIs ist ein weiteres beliebtes Feld, das zeigt, wie KIs trainiert werden, bestimmte Persönlichkeiten oder Berufsrollen zu simulieren (stell Dir vor, Du bist Journalistin des Spiegel-Magazins/eine Marketingmanagerin der Deutsche Bank). Diese Fähigkeit der KIs, sich an den Kontext anzupassen, basiert auf dem immensen Textkorpus, mit dem sie trainiert wurden. Doch auch hier zeigt sich, dass KIs darauf programmiert werden können, bestimmte Verhaltensweisen an den Tag zu legen, was sowohl Chancen als auch Risiken birgt.
Shit in, Shit out
Der Umgang mit KI erfordert jedenfalls eine gute Mischung aus technischem Verständnis, psychologischem Feingefühl und auch ethischer Reflexion erfordert. Die Antworten einer KI eben oft nur so gut wie die Prompts, die sie erhalten – und sowieso so wie die Texte, mit denen sie trainiert werden.
Kommentar schreiben