Hintergrund
Festo, ein führender Anbieter von Fabrik- und Prozessautomatisierungslösungen, betreut mehr als 300.000 Kunden in 35 Branchen und bietet über 30.000 Produkte und Systeme an.
Um die Produktivität und das Kundenerlebnis zu verbessern, führte Festo KI-gestützte Chat-Anwendungen für einen intuitiven Datenzugriff ein. Im Rahmen dieser Initiative entwickelte das Team die ChatGPT-Anwendung FestoGPT, die es Beratern und anderen Mitarbeitern im Kundenkontakt ermöglicht, Fragen an ein umfangreiches Sprachmodell zu stellen. Zusätzlich wurde die Anwendung Skillground eingeführt, die Kollegen verschiedene KI-Tools wie Text-to-Speech und Bildgenerierung bietet, um Aufgaben zu vereinfachen und zu optimieren.
Die Integration der internen Daten von Festo erwies sich jedoch zu Beginn des Prozesses aufgrund von Bedenken hinsichtlich der Datenverwaltung und -sicherheit sowie Budgetbeschränkungen als schwierig. Dennoch erwarteten die Mitarbeiter, dass die Einbindung der internen Daten von Festo entscheidend sein würde, um diese Anwendungen für ihre tägliche Arbeit wirklich wertvoll zu machen. Um diesem Bedarf gerecht zu werden, integrierte das Team interne Daten – Produkthandbücher, Preise und technische Informationen – mithilfe von Einbettungen und einer Vektordatenbank für unstrukturierte Daten neben strukturierten relationalen Daten wie Verkaufszahlen und Produktmanagementdaten.
Herausforderungen
Festo stieß bei der Einführung von GenAI auf mehrere Hürden:
- Die Konvertierung strukturierter Daten in Text zur Einbettung in LLM erwies sich zunächst als ineffektiv. Besonders anspruchsvoll war die Integration strukturierter, relationaler Daten – wie Verkaufszahlen, Preise und Managementdaten.
- KI-generierte Antworten erwecken oft den Eindruck von Richtigkeit, selbst wenn sie ungenau sind. Festo wollte die Nutzererwartungen erfüllen und gleichzeitig Fehlinformationen und Trugbilder minimieren.
- Die Qualität der Metadaten war entscheidend für ein besseres semantisches Verständnis und die Etablierung einer einheitlichen Semantik in den Daten.
- Strenge Zugriffskontrollen waren notwendig, um sicherzustellen, dass nur autorisierte Nutzer auf sensible Informationen zugreifen konnten.
Lösung
Festo nutzt den Metadaten-basierten Ansatz und das AI SDK von Denodo, um:
- das Replizieren und Einbetten ganzer Datensätze zu vermeiden und stattdessen das LLM nur mit Metadaten zu verbinden, um Abfragen für relevante Daten aus den ursprünglichen Quellsystemen über eine einzige API zu generieren.
- Metadaten (Übersetzungen, Beschreibungen, Verknüpfungen) für präzise und kontextbezogene Antworten zu nutzen.
- Den Datenzugriff seiner KI-Anwendungen über eine einzige KI-Schnittstelle zu vereinfachen, anstatt mehrere Konnektoren für verschiedene Quellsysteme zu entwickeln und zu integrieren.
Ergebnisse
- Beschleunigte Entwicklung von GenAI-Anwendungsfällen:
- FestoGPT- und Skillground-Anwendungen wurden durch den internen Datenzugriff von Festo erweitert, sodass Nutzer nahtlos mit strukturierten und unstrukturierten Daten interagieren können.
- Die API-Fähigkeit von Denodo ermöglichte eine einfache Anbindung an Unternehmensanwendungen.
- Vereinfachter und kontrollierter Datenzugriff:
- Business-User ohne technischen Hintergrund konnten Daten in natürlicher Sprache abfragen, sodass keine SQL- oder Programmierkenntnisse erforderlich waren.
- Das integrierte Zugriffsmanagement stellte sicher, dass sensible Daten nur autorisierten Nutzern zugänglich waren.
- Verbesserte semantische Genauigkeit für zuverlässige, KI-gestützte Erkenntnisse.
- Datenduplizierung und -verschiebung wurden eliminiert, was den Datenschutz verbesserte und die Speicherkosten senkte.
Durch die Nutzung von Denodo für den gesamten Datenzugriff durch FestoGPT und Skillground konnte Festo folgende Verbesserungen erzielen:
- Verbesserte Vertriebsleistung und KPI-Berichte nach Kunden und Projekten.
- Effiziente Suche und Freigabe von Projektmanagementdaten.
- Eine zentrale Schnittstelle für Mitarbeiter mit Kundenkontakt ermöglicht den Zugriff auf Produkt-, Preis- und andere fertigungsrelevante Daten, die für die Projekte ihrer Kunden relevant sind.
