|
Getting your Trinity Audio player ready...
|
Große Sprachmodelle (Large Language Models, LLMs) haben in der Industrie aufgrund ihrer beeindruckenden Fähigkeiten für eine Vielzahl von Aufgaben an Bedeutung gewonnen. Die weit verbreitete Einführung von LLMs bringt jedoch einige Herausforderungen mit sich, wie z. B. die Integration in bestehende Anwendungen und Infrastrukturen, die Nutzung unternehmenseigener Daten, Modelle und APIs sowie die Erfüllung von Kosten, Qualität, Reaktionsfähigkeit und anderen Anforderungen. Um diese Herausforderungen zu bewältigen, ist eine deutliche Verlagerung von monolithischen Modellen zu zusammengesetzten KI-Systemen zu beobachten, die leistungsfähigere, vielseitigere und zuverlässigere Anwendungen ermöglichen sollen.
Die bisherigen Fortschritte waren jedoch Stückwerk, mit Vorschlägen für agentenbasierte Arbeitsabläufe, Programmiermodelle und erweiterte LLM-Fähigkeiten, ohne eine klare Vision für eine Gesamtarchitektur.
In diesem Papier schlagen wir eine „Blueprint-Architektur“ für zusammengesetzte KI-Systeme zur Orchestrierung von Agenten und Daten für Unternehmensanwendungen vor. In unserer vorgeschlagenen Architektur ist das Schlüsselkonzept der Orchestrierung „Streams“, um den Fluss von Daten und Anweisungen zwischen Agenten zu koordinieren. Bestehende proprietäre Modelle und APIs im Unternehmen werden auf „Agenten“ abgebildet, die in einem „Agentenregister“ definiert sind, das Agenten-Metadaten und gelernte Repräsentationen für die Suche und Planung bereitstellt. Agenten können proprietäre Daten über eine „Datenregistrierung“ nutzen, die in ähnlicher Weise Unternehmensdaten verschiedener Modalitäten registriert.
Daten- und Aufgabenplaner schlüsseln Daten und Abfragen auf, ordnen sie zu un…