Brain4Data verbessert Kundenservice mit Oracle Database 23ai und generativer KI

Sie haben eine Frage? Fred wird Ihnen die passende Antwort liefern. Außerdem wird Fred Ihren Kunden bei ihren Problemen helfen.

Fred ist der GenAI-basierte Agent, der von Brain4Data entwickelt wurde, einem deutschen Start-up, das sich darauf konzentriert, künstliche Intelligenz (KI) mit robotergesteuerter Prozessautomatisierung für kleine und mittelständische Unternehmen zu kombinieren, um Empfehlungen für deren Mitarbeiter oder Kunden zu geben. Sie suchen einen Fahrer für eine Liefertour? Fred durchsucht die Zeitpläne und Standorte der Mitarbeiter und findet in Sekundenschnelle den besten Kandidaten. Sie möchten die Bedingungen eines Geschäftsvertrags verbessern? Fred liefert Informationen, die Ihnen helfen, den Verkauf zu optimieren.

Um spezifische Informationen und Kontextwissen bereitzustellen, über die ein menschlicher Mitarbeiter normalerweise verfügt, musste Brain4Data einen GenAI-Agenten entwickeln, der LLM-Funktionen wie Textgenerierung nutzt und auf dem spezifischen Wissen basiert, das in den Dokumenten, Datenbanken und ERP-Systemen eines Kunden verstreut ist, um die Antworten des Agenten zu optimieren. Brain4Data musste Retrieval Augmented Generation (RAG) einsetzen, um auf die Unmengen an internen Kundendaten in beliebigen Formaten zuzugreifen und daraus vertrauenswürdige Antworten und Maßnahmen zu generieren, ohne dass Fred dabei an Geschwindigkeit, Erschwinglichkeit, Skalierbarkeit und Zuverlässigkeit einbüßt.

Der Ansatz von Brain4Data bestand darin, die Einschränkungen strukturierter Daten wo immer möglich aufzuheben und so weit wie möglich auf PDF-Dateien umzusteigen. Die PDFs werden zum Rohmaterial für das RAG-System, das diese verarbeitet und nach Antworten auf Kunden- oder Mitarbeiterfragen sucht. Anfangs speicherte das Unternehmen die Kundendaten in einer separaten Vektordatenbank auf einem externen Server, was jedoch zu einer erhöhten Komplexität und einer Verlangsamung der Leistung führte. Brain4Data benötigte also einen besseren Ansatz.

Jan-Peter Meyer, der als CTO zu Brain4Data gestoßen ist, hat sich für die Entwicklung der Brain4Data-Technologie auf Oracle Database entschieden, weil es seinem Team eine einfache Datenverwaltung ermöglicht. Das Unternehmen nutzte Oracle Database bereits als Dokumentenspeicher und erkannte, wie die nativen AI Vector Search-Funktionen von Oracle Database 23ai die semantische Suche im Rahmen der RAG vereinfachten.

Durch die gemeinsame Speicherung mehrerer Datentypen und Vektordarstellungen in derselben Oracle Database konnte Brain4Data sowohl den Betrieb als auch die Entwicklung vereinfachen, da nun weniger Datenbanken verwaltet, weniger Datenkopien erstellt und weniger Daten verschoben werden müssen. Beispielsweise könnten die Originaldokumente eines Fred-Kunden, die in Oracle Database 23ai gespeichert sind, in Vektoren umgewandelt werden, die in derselben Datenbank gespeichert und durchsucht werden können. So lassen sich die relevanten Abschnitte leichter identifizieren, die bei der Erstellung einer Antwort mit der generativen KI für RAG von OCI verwendet werden sollen.

Darüber hinaus entschied sich Brain4Data für die Entwicklung auf Oracle Database mit APEX und SQL Developer Data Modeler, da diese den Entwicklern, Data Scientists, Datenarchitekten und Analysten des Unternehmens eine einfache Datenverarbeitung ermöglichten.

Innerhalb weniger Monate nach der Einführung der Vektorfunktionen von Oracle Database 23ai mit OCI Generative AI Service konnte Fred 80 % der Endnutzeranfragen bearbeiten, was genau dem Ziel von Brain4Data entsprach. In vielen Situationen hat die KI selbstständig Maßnahmen ergriffen, die dem jeweiligen Kontext angemessen waren. Anfang 2024 wurde Brain4Data mit dem European Seal of Excellence ausgezeichnet, einer renommierten Auszeichnung, die vom European Innovation Council (EIC) der Europäischen Union verliehen wird.

Brain4Data nutzt Oracle APEX, die Low-Code-Programmierumgebung von Oracle, um eine reichhaltige grafische Benutzererfahrung zu schaffen, die auf jeden Kunden zugeschnitten ist. Ob es darum geht, eine mobile App für Endkunden zu entwickeln, mit der diese Fragen an Fred stellen können, oder eine Web-App, mit der die Mitarbeiter eines Kunden die Aktionen und Vorgänge von Fred überwachen können – Oracle APEX ist das bevorzugte Tool von Brain4Data für das Design und die Entwicklung von Benutzeroberflächen.