KI-Assistent:

Konzeption bis Rollout

Ziele

  • Konzeption und Entwicklung eines LLM basierten KI-Assistenten für den Bankarbeitsplatz
  • Produktivnahme und Integration in bestehende Systemlandschaft
  • Bankweiter, interner Rollout für ca. 10.000 Nutzende
  • (Rechts-)sichere Verarbeitung vertraulicher Daten, Speicherung ausschließlich auf internen Systemen
  • Implementierung eines Retrieval Augmented Generation (RAG) Mechanismus zur Verarbeitung interner Dokumente
  • Sicherstellung der Ausbaufähigkeit zur KI-Plattform und Bereitschaft, intern betriebene Modelle einbinden zu können

Aufgaben

  • Methodische Begleitung nach Lean-Prinzipien
  • Begleitung von Auslagerungsprozessen zum Modellbetrieb (LLM)
  • Einrichtung technischer Prozesse unter Berücksichtigung bankinterner Standards
  • Konzeption und vollständige Implementierung des bankinternen KI-Assistenten
  • Erstellung eines KI-Testkonzepts
  • Sammeln von Nutzerfeedback und Begleitung einer Pilotphase
  • Planung und Vorbereitung des stufenweisen Rollouts und Skalierung

Ergebnisse

  • Termingerechte Produktivnahme der Anwendung mit erweitertem Funktionsumfang
  • Erfolgreiche, rechtssichere Auslagerung des LLM-Modellbetriebs in Azure
  • Vertragliches Rahmenwerk zur Nutzung
  • Konzept zur Vertestung der KI-Komponenten und Gesamtanwendung

Unser Beitrag

  • Koordination des agilen organisatorischen Rahmens
  • Unterstützung bei der Anforderungsdefinition
  • Erstellen eines skalierbaren Architekturkonzepts, das eine schnelle Reaktion auf Änderungen der sich rapide weiterentwickelnden Technologie ermöglicht
    Technologieauswahl unter Berücksichtigung bankinterner Standards
  • Durchführen des Projekaufsatzes mit DevOps, CI/CD & Cloud-Native Infrastruktur auf drei Umgebungen
  • Konzeption und vollständige Implementierung der Anwendung mitsamt RAG-Mechanismus

Weitere Referenzen zu Technologieberatung

Plattform eines Fondsvertriebs
Modernisierung einer Reporting-Architektur für das regulatorische Meldewesen
KI-Assistent: Konzeption bis Rollout
KI-Voicebot für den Kundenservice
Cofinpro AG
Hanauer Landstraße 211
60314 Frankfurt am Main

Interesse geweckt?

*

* Pflichtfeld

image Deutschlands Beste Arbeitgeber 2025 RGB
image award 3
image HB FairCompany 2025 Cofinpro AG
image BAHE 2025 RGB
image BACO 2025
image award 3
image HB FairCompany 2025 Cofinpro AG
image BAHE 2025 RGB
image medal