Einführung und Betreuung von ersten Anwendungen mit generativer KI-Komponente in einem Unternehmen innerhalb der stark regulierten Finanzbranche
Meine Tätigkeiten umfassten- die Konzeptionierung und Umsetzung der Cloud-Infrastruktur zur Bereitstellung von KI-Services (unter anderem LLMs, Azure AI Services, Retrieval-Augmented-Generation [RAG]) sowie der Anwendungen, die auf diese zugreifen.
- das Enablement des Entwicklungsteams, die bereitgestellte Infrastruktur in der Entwicklung zu nutzen und anzupassen, um z. B. neue Modelle einfach einzupflegen.
- den Austausch zwischen den verschiedenen Stakeholdern am Projekt betreut, vor allem bei technischen Fragen und bei Themen des Datenschutzes/der Datenverarbeitung innerhalb der bereitgestellten Services.
- die Konzeption des Identity-Access-Managements sowie des Netzwerk-Segregation-Konzepts für Anwendungen mit generativer KI-Komponente.
- das Durchführen von Workshops mit Developern und Managern, um unsere Ansätze transparent an alle Stakeholder weiterzugeben.
- die Einhaltung der strikten Compliance-Vorgaben. Anpassung der etablierten Prozesse, wenn diese nicht auf Cloud-native Entwicklung gepasst haben.