Expertise
Referenzen
Mediathek
Über uns
Karriere

Konzeption, Umsetzung und

Skalierung eines internen KI-Assistenten

    Referenzen / Konzeption, Umsetzung und Skalierung eines internen KI-Assistenten

Ziele

  • Konzeption und Entwicklung eines LLM basierten KI-Assistenten für den Bankarbeitsplatz
  • Produktivnahme und Integration in bestehende Systemlandschaft
  • Bankweiter, interner Rollout für ca. 10.000 Nutzende
  • (Rechts-)sichere Verarbeitung vertraulicher Daten, Speicherung ausschließlich auf internen Systemen
  • Implementierung eines Retrieval Augmented Generation (RAG) Mechanismus zur Verarbeitung interner Dokumente
  • Sicherstellung der Ausbaufähigkeit zur KI-Plattform und Bereitschaft, intern betriebene Modelle einbinden zu können

Aufgaben

  • Methodische Begleitung nach Lean-Prinzipien
  • Begleitung von Auslagerungsprozessen zum Modellbetrieb (LLM)
  • Einrichtung technischer Prozesse unter Berücksichtigung bankinterner Standards
  • Konzeption und vollständige Implementierung des bankinternen KI-Assistenten
  • Erstellung eines KI-Testkonzepts
  • Sammeln von Nutzerfeedback und Begleitung einer Pilotphase
  • Planung und Vorbereitung des stufenweisen Rollouts und Skalierung

Ergebnisse

  • Termingerechte Produktivnahme der Anwendung mit erweitertem Funktionsumfang
  • Erfolgreiche, rechtssichere Auslagerung des LLM-Modellbetriebs in Azure
  • Vertragliches Rahmenwerk zur Nutzung
  • Konzept zur Vertestung der KI-Komponenten und Gesamtanwendung

Unser Beitrag

  • Koordination des agilen organisatorischen Rahmens
  • Unterstützung bei der Anforderungsdefinition
  • Erstellen eines skalierbaren Architekturkonzepts, das eine schnelle Reaktion auf Änderungen der sich rapide weiterentwickelnden Technologie ermöglicht
    Technologieauswahl unter Berücksichtigung bankinterner Standards
  • Durchführen des Projekaufsatzes mit DevOps, CI/CD & Cloud-Native Infrastruktur auf drei Umgebungen
  • Konzeption und vollständige Implementierung der Anwendung mitsamt RAG-Mechanismus

Weitere Referenzen zur KI-Transformation

KI-Governance Frameworks
KI Einsatz im Liquiditätsmanagement
KI-Assistierte Softwareentwicklung
KI Use Cases: Aufbau eines Endkunden-Profiling-Systems
Cofinpro AG
Hanauer Landstraße 211
60314 Frankfurt am Main

Interesse geweckt?

*

* Pflichtfeld

image Deutschlands Beste Arbeitgeber 2026 RGB
image award 3
image HB FairCompany 2025 Cofinpro AG
image Beste Arbeitgeber Hessen 2026 RGB
image BACO 2026 RGB
image award 3
image HB FairCompany 2025 Cofinpro AG
image BACO 2026 RGB
image award 4