Banken gehörten zu den ersten Unternehmen, die KI in großem Umfang einsetzten. In den ersten Tagen bestand ihre Hauptaufgabe darin, Muster in historischen Daten zu erkennen und sinnvolle Erkenntnisse für die Entscheidungsfindung zu gewinnen. Mit dem Zugang zu riesigen Datenmengen war es für Banken nur natürlich, sich an Algorithmen zu wenden, um aus all dem einen Sinn zu machen.
Heute erleben wir eine neue Welle: Generative KI. Und wieder einmal sind die Banken – als datengesteuerte Organisationen – in das Rennen eingestiegen.
Doch dieses Mal sind die Dinge anders.
Die traditionelle Softwareentwicklung basiert auf einer deterministischen Logik: Wir definieren, was wir erreichen wollen, schreiben Regeln und erwarten vorhersehbare Ergebnisse. Generative KI – insbesondere Large Language Models (LLMs) – ist von Natur aus nicht-deterministisch. Dieselbe Eingabe (Eingabeaufforderung) kann jedes Mal zu unterschiedlichen Ergebnissen führen. Und das ist akzeptabel. Tatsächlich erwarten wir von diesen Modellen sogar Kreativität.
Die Banken müssen jedoch deterministisch arbeiten. Ihre Entscheidungen müssen erklärbar, überprüfbar und konsistent sein. Deshalb brauchen wir Leitplanken.
Stellen Sie sich die Leitplanken wie die Sicherheitsbarrieren auf einer Straße vor. Sie werden nicht jeden Unfall verhindern, aber sie verringern die Wahrscheinlichkeit, dass ein Auto von der Straße abkommt – was schwerwiegende Folgen haben kann.
So sollten wir auch die Leitplanken in den LLMs betrachten:
Sie sind vordefinierte und durchgesetzte Regeln, die deterministisch entworfen wurden, um unsere kreativen LLMs unter Kontrolle zu halten.
Dazu können gehören:
- Eingabe und Ausgabefilterung: Um zu verhindern, dass schädliche, voreingenommene oder vertrauliche Informationen in das Modell gelangen oder es verlassen.
- Schutz gegen prompte Injektion: Schutz vor böswilligen Versuchen, das Verhalten des Modells zu manipulieren.
- Schutz der Privatsphäre: Sicherstellen, dass sensible Kundendaten niemals offengelegt oder missbraucht werden.
- Themen oder Gebietsbeschränkungen: Beschränkung der Antworten des Modells auf relevante und genehmigte Finanzthemen.
Im Großen und Ganzen können Leitplanken in zwei Haupttypen eingeteilt werden:
- Pre-Prompt-Filterung – Überprüfung der Eingabeaufforderung, bevor sie an das Modell gesendet wird.
- Post-Response-Filterung – Überprüfung der Antwort des Modells, bevor sie dem Benutzer angezeigt oder in Geschäftsprozessen verwendet wird.
Das beigefügte Diagramm ist nur ein Beispiel dafür, wie dies umgesetzt werden kann. Jedes Geschäftsumfeld ist anders, daher sollten die Leitplanken auf den spezifischen Kontext und das Risikoprofil des jeweiligen Unternehmens zugeschnitten sein.
Wir bei eSourcing entwickeln seit Jahren Software für Banken – einen der am stärksten regulierten Sektoren auf dem Markt. Deshalb wollten wir unsere deterministische Perspektive auf nicht-deterministische generative KI-Systeme mit Ihnen teilen.