Maßgeschneiderte Chatbots für die Bereiche: Die neue GenAI-Plattform macht’s möglich
Die Nutzung von Generativer KI in der Bank schreitet voran. Nun können sich dabei alle Kolleginnen und Kollegen einbringen. Denn ab sofort gibt es die Möglichkeit, themenspezifische Chatbots im Arbeitsalltag zu nutzen und zu entwickeln. Diese sind als Fachbereichs-Chatbots für einzelne Bereiche vorgesehen, können aber auch bankweit bereitgestellt werden. Möglich macht das unsere neue GenAI-Plattform, die nach der Unterzeichnung der Betriebsvereinbarung nun produktiv ist. Senior Data Scientist Yannick Adolf erklärt im Interview, wie die individuell konfigurierbaren Chatbots funktionieren.
Yannick, wir möchten, dass möglichst alle Kolleginnen und Kollegen GenAI im Joballtag nutzen – welche Rolle spielt dabei unsere neue Plattform?
Dass wir ein starkes Interesse an dem Thema in der Bank haben, zeigen die über 200 eingereichten KI-Ideen. Während einige davon bereits mit DZ Chat umgesetzt werden können, benötigen die meisten Use Cases aber zusätzliche KI-Fähigkeiten und Zugriff auf fachspezifische Informationen. Genau hier kommt unsere neue GenAI-Plattform ins Spiel: Sie bildet die technische Grundlage und stellt skalierende KI-Fähigkeiten auf Basis von bankspezifischen Informationen bereit. Ein gutes Beispiel ist die Recherche auf Basis von zentral hinterlegten PDF-Fachdokumenten. Das kann in sämtlichen Bereichen genutzt werden. Insgesamt erfolgt die Umsetzung der einzelnen Ideen im Self-Service Ansatz – also durch die Kolleginnen und Kollegen. Durch die Plattform ist außerdem garantiert, dass alle Ideen in einem einheitlichen Compliance- und Regulatorik Rahmen umgesetzt werden.
„Die Umsetzung der einzelnen Ideen erfolgt im Self-Service Ansatz – also durch die Kolleginnen und Kollegen.“
Wie unterscheidet sich die GenAI-Plattform von DZ Chat?
DZ Chat ist unser allgemeiner KI-Assistent. Die GenAI-Plattform kümmert sich dagegen um häufig auftretende Anforderungen der gesammelten Anwendungsfälle in den Fachbereichen. Die neu definierten Fachbereichs-Chatbots greifen auf spezifisches Fachwissen zu, das zuvor hinterlegt wurde. Durch das sogenannte Grounding der Chatbots ausschließlich in unserem Wissensbestand minimieren wir das Risiko von Halluzinationen, also der Generierung von falschen Informationen. Ein Fachbereichs-Chatbot kann Wissen aus bis zu 100 Dokumenten für seine Antworten verwenden und ist in der Lage, Tabellen und Bilder in Dokumenten zu analysieren. Neben den Chatbots gibt es in der Bank auch zahlreiche GenAI-Ideen zur Automatisierung von Prozessschritten. Diese Ideen werden in Zukunft über weitere KI-Produkte wie technische API-Schnittstellen auf Basis der Plattform bereitgestellt. Auch der DZ Chat wird zukünftig unsere Plattform nutzen und kontinuierlich weiterentwickelt. Etwa indem wir die Suche beim Dokumentenupload verbessern sowie die Anbindung zentraler Wissensquellen wie dem ORG Portal oder Intranet prüfen.
Wo und wie baue ich einen Chatbot – und wo finde ich ihn später?
Der erste Schritt ist die Einreichung eines Use Cases über unsere neue AI Backlog App. Die App dient als Schnittstelle zum GenAI-Plattform-Team sowie dem Projekt AI Readiness. Nach der Prüfung durch das GenAI-Platform-Team erhält jeder eine Rückmeldung, sobald der Use Case mit den bestehenden Plattform-Fähigkeiten technisch umsetzbar ist. Im Idealfall kann der Chatbot dann – so einfach wie ein Headset – über SRC bestellt werden und steht innerhalb von nur wenigen Tagen zur Verfügung. Über IAM werden dann die für den Chatbot vorgesehenen Kollegen freigeschaltet und informiert. Zudem gibt es in der neuen Backlog App eine Übersicht mit allen bisher eingereichten KI-Ideen inklusive Beschreibungen und Ansprechpartnern. Diese Übersicht schafft zusätzliche Transparenz über unsere KI-Ideen und soll zugleich als Inspiration für weitere Use Cases dienen.
