Industrietaugliche KI-Anwendungen mit der KI Workbench von PROSTEP

Information Retrieval und KI-Orchestrierung

Die KI Workbench besteht im Wesentlichen aus drei Komponenten. Erstens, einem einfachen Web-Frontend, das mit wenig Aufwand um weitere Oberflächen-Funktionen erweitert werden kann; zweitens, den Information Retrieval-Funktionen für das Einlesen von beliebigen Daten in eine Chunk Database und ihre effektive Aufbereitung, so dass die KI sie gut verarbeiten kann; und drittens der KI-Orchestrierung, die für Abfragen keine Single Prompts nutzt, sondern komplexe algorithmische Abläufe, die KI-Funktionalität und deterministischen Programmcode mischen. Die Anwendung nutzt KI-Workflows aber nicht nur für die Orchestrierung, sondern schon für das Information Retrieval.

Für anspruchsvolle Aufgaben wie komplexe Supportanfragen, Expertenberatung oder automatisierte Analysen muss die KI in der Lage sein, schnell auf die relevanten Informationen zuzugreifen. Das erfordert eine leistungsfähige, semantische Suche. Grundlage dafür ist das Information Retrieval, das aus drei Schritten besteht: Zunächst werden die Daten und Dokumente eingelesen, sei es im PDF-, JSON- oder einem anderen Format oder als Textdatei. Der Import kann aber auch aus anderen Datenhaltungssystemen, z.B. über unsere Integrationstechnologie OpenPDM erfolgen.

Die Rohdaten werden dann klassifiziert, zusammengefasst, verschlagwortet, indiziert, miteinander verknüpft etc., um präziser und einfacher Informationsmengen zu bestimmen, die für die Beantwortung einer Fragestellung durch ein LLM verwendet werden sollen. Auch dafür kann KI zum Einsatz kommen, z.B. um vorläufige Ergebnismengen semantisch zu bewerten. Aber der Kern der Suchfunktionalität nutzt deterministischen Code, um in den aufbereiteten Daten lexikalisch (z.B. mit ElasticSearch) oder semantisch (z.B. mit einem Vektorindex) zu suchen.

Um reproduzierbare Ergebnisse zu erhalten, kombiniert die Anwendung bei der KI-Orchestrierung drei Techniken: Die Prompts werden systematisch aufgebaut und in bestimmte Abschnitte gegliedert, die z.B. den Kontext, die eigentliche Anfrage oder zusätzliche Eingabedaten aus früheren Prozessen und die Ergebnisse beschreiben. Dann werden die einzelnen Prompts zu einem algorithmischen Ablauf verknüpft. Dazu gibt es Konstrukte wie Sequenz, Schleife (while/until) oder bedingte Ausführung (if/then/else, switch/case), was es ermöglicht, die KI-Interaktionen in eine strukturierte Reihenfolge zu bringen und Ergebnisse einer Interaktion als Eingabe für die nächste zu verwenden. Die Abfolge der Handlungsmuster (action pattern) muss nicht programmiert, sondern kann deklarativ erzeugt werden und erlaubt auch die Ausführung von deterministischem Code an beliebiger Stelle im Ablauf.

Die dritte grundlegende technische Fähigkeit ist das sogenannte Toolcalling unter Nutzung des MCP-Protokolls. Es bedeutet im Prinzip, dass man einem LLM Remote-Services bekannt macht. Das LLM kann die Funktionen dieser Services zur Bearbeitung der aktuellen Anfrage aufrufen und die Ergebnisse als zusätzlichen Input im Prompt verwenden. 

KI-basierter Agent für Fehleranalysen

Durch die Kombination von Web-Oberfläche, KI-Orchestrierung und Information Retrieval bietet die KI Workbench eine leistungsfähige Grundlage, um nahezu beliebige KI-Anwendungsfälle abzubilden. PROSTEP entwickelt mit Hilfe des Baukastens derzeit einen Ontologie-basierten KI-Agenten zur intelligenten Auswertung komplexer PLM-Datenbestände, der z.B. beantwortet, welche Bauteile eines technischen Systems an einem Fehlerereignis beteiligt sind. Als Basis dienen Anforderungen, Komponenten, Testfälle und Testergebnisse aus dem Mars Rover-Projekt, die im Zuge des Information Retrieval in die interne Datenbank der Workbench eingelesen, aufbereitet und miteinander verknüpft werden. Die Daten könnten aber ebenso gut aus gängigen Requirements Management-, PLM- und Testmanagement-Systemen stammen.

Ausgangspunkt des Anwendungsfalls ist ein Ausfall des Mars Rovers nach mehreren Stunden Dauerbetrieb unter einer bestimmten Umgebungstemperatur. Der KI-Agent soll nun die Frage beantworten, ob er laut Anforderungen unter diesen Rahmenbedingungen hätte funktionieren müssen und welche Komponenten am Ausfall beteiligt sind bzw. ihn hätten verhindern sollen. Dazu müssen Daten aus unterschiedlichen Quellen der PLM-Welt mit Hilfe einer einheitlichen Ontologie so in Beziehung zueinander gesetzt werden, dass der KI-Agent selbständig erkennt, welche Daten er für die Beantwortung der Benutzeranfrage benötigt, diese aus dem Datenbestand ermittelt und die Ergebnisse in einer kohärenten Antwort zusammenführt.

Im Umfeld des Anforderungs- und Testmanagements sind verschiedene Anwendungsfälle vorstellbar, bei denen ein solcher KI-Agent wertvolle Hilfe leisten kann. Er könnte z.B. die Ableitung von Testfällen aus den Anforderungen automatisieren oder die Beschreibung einer Testsequenz automatisch in ausführbare Tests überführen. 

Mit der KI Workbench bietet PROSTEP ein leistungsfähiges Framework, mit dem sich komplexe KI-Anwendungen sehr einfach realisieren lassen, ohne sie von Grund auf programmieren zu müssen. Leistungsfähige Komponenten für Information Retrieval und KI-Orchestrierung sowie die Gestaltung der Benutzeroberflächen nehmen einen Großteil der Arbeit ab und sorgen für zuverlässige und reproduzierbare Ergebnisse. Das ist eine wesentliche Voraussetzung für industrietaugliche KI-Anwendungen.