Entwicklung einer AI-Plattform auf Basis von Microsoft Azure
Eine sichere und skalierbare KI-Nutzung im Unternehmen entsteht durch eine zentrale Enterprise Search, die Informationen aus Systemen wie SharePoint, ServiceNow und SAP bündelt.
1x Cloud Engineer 2x AI Engineers 1x Developer 1x Project Manager
seit Dezember 2024 fortlaufend
Unser Impact
Governance by Design
Compliant von Tag eins
Self-Service für Business
Schneller Zugang ohne Sicherheitsrisiko
Enterprise-ready AI
Unternehmenssuche über verschiedene Geschäftsbereiche sofort verfügbar
Die Challenge
Ohne eine zentrale Plattform entstehen durch isolierte KI-Experimente einzelner Teams erhebliche Schatten-IT-Risiken sowie ein Mangel an Standards für Datenschutz, Compliance und Kostenkontrolle. Gleichzeitig ist das Unternehmenswissen über verschiedene Systeme wie SharePoint, ServiceNow und SAP fragmentiert, was zu ineffizienten Suchprozessen und Zeitverlust führt. Zudem erschwert die Unklarheit über die optimale Auswahl und die Kosten spezifischer LLM-Modelle eine zielgerichtete Umsetzung von KI-Anwendungsfällen.
Die Lösung
Wir konzipierten und implementierten eine unternehmensweite AI Plattform auf Basis von Azure AI Foundry und AI Factory. Die Architektur ermöglicht es allen Geschäftsbereichen, KI-Services sicher zu nutzen – mit zentraler Governance, einheitlichen Guardrails und voller Kostentransparenz. Die Plattform wurde nach dem Prinzip „Secure by Default" aufgebaut: Private Endpoints, Entra ID Integration, rollenbasierte Zugriffssteuerung und Azure Policies stellen sicher, dass Compliance-Anforderungen automatisch eingehalten werden.
Vor der Implementierung führten wir umfangreiche Benchmarks durch: Verschiedene LLM-Modelle – darunter Azure OpenAI GPT-Varianten und Microsoft Copilot – wurden auf Antwortqualität, Latenz, Kosten und Eignung für die spezifischen Use Cases getestet. Das Ergebnis floss direkt in die Architekturentscheidungen ein. Als erste produktive Lösung entwickelten wir eine Enterprise Search auf Basis von LangChain. SharePoint, ServiceNow und SAP wurden als Quellsysteme angebunden und in Azure AI Search indexiert. Über eine Chat-basierte Web App können Mitarbeiter in natürlicher Sprache Fragen stellen und erhalten Antworten aus allen angebundenen Systemen – mit Quellenangabe und unter Berücksichtigung der bestehenden Berechtigungen. Das Ergebnis: Eine skalierbare AI Plattform mit fundierter Modellauswahl und einem sofort spürbaren Mehrwert – Unternehmenswissen zugänglich in Sekunden, basierend auf dem optimalen LLM für den jeweiligen Anwendungsfall.
Bereit für Ihre Success Story?
Lassen Sie uns gemeinsam Ihr nächstes Projekt zum Erfolg führen. Kontaktieren Sie uns für ein unverbindliches Erstgespräch.