Konzeption und Entwicklung eines LLM basierten KI-Assistenten für den Bankarbeitsplatz
Produktivnahme und Integration in bestehende Systemlandschaft
Bankweiter, interner Rollout für ca. 10.000 Nutzende
(Rechts-)sichere Verarbeitung vertraulicher Daten, Speicherung ausschließlich auf internen Systemen
Implementierung eines Retrieval Augmented Generation (RAG) Mechanismus zur Verarbeitung interner Dokumente
Sicherstellung der Ausbaufähigkeit zur KI-Plattform und Bereitschaft, intern betriebene Modelle einbinden zu können
Aufgaben
Methodische Begleitung nach Lean-Prinzipien
Begleitung von Auslagerungsprozessen zum Modellbetrieb (LLM)
Einrichtung technischer Prozesse unter Berücksichtigung bankinterner Standards
Konzeption und vollständige Implementierung des bankinternen KI-Assistenten
Erstellung eines KI-Testkonzepts
Sammeln von Nutzerfeedback und Begleitung einer Pilotphase
Planung und Vorbereitung des stufenweisen Rollouts und Skalierung
Ergebnisse
Termingerechte Produktivnahme der Anwendung mit erweitertem Funktionsumfang
Erfolgreiche, rechtssichere Auslagerung des LLM-Modellbetriebs in Azure
Vertragliches Rahmenwerk zur Nutzung
Konzept zur Vertestung der KI-Komponenten und Gesamtanwendung
Unser Beitrag
Koordination des agilen organisatorischen Rahmens
Unterstützung bei der Anforderungsdefinition
Erstellen eines skalierbaren Architekturkonzepts, das eine schnelle Reaktion auf Änderungen der sich rapide weiterentwickelnden Technologie ermöglicht Technologieauswahl unter Berücksichtigung bankinterner Standards
Durchführen des Projekaufsatzes mit DevOps, CI/CD & Cloud-Native Infrastruktur auf drei Umgebungen
Konzeption und vollständige Implementierung der Anwendung mitsamt RAG-Mechanismus
Weitere Referenzen zu Technologieberatung
Plattform eines Fondsvertriebs
Modernisierung einer Reporting-Architektur für das regulatorische Meldewesen