LLMs zentralisieren: Agents, Secrets und MCPs mit Paperclip

Servus zusammen,

in diesem Blogpost möchten wir mit euch unser momentanes Problem teilen. Wenn ihr bereits mit LLMs und KI unterwegs seid – sowas wie Claude und ähnliche Tools –, stellt sich die Frage: Wie könnt ihr verschiedene Use-Cases, viele verschiedene Unternehmen oder Themen und Projekte zentralisieren? Auch im Hinblick auf Zugangsdaten und Interfaces wie MCPs.

Was ist unser momentanes Problem?

Und zwar haben wir inzwischen einige Projekte aufgebaut und mittlerweile sind wir natürlich auch mit unserem Team ein paar Köpfe mehr geworden, die an verschiedenen Themen arbeiten und Informationen aus verschiedenen Projekten oder sogar aus verschiedenen Unternehmen verarbeiten müssen.

Jetzt könnt ihr euch sicherlich vorstellen: Wenn ein neues Projekt erzeugt wird oder ein neues Unternehmen entsteht oder Ähnliches, dann müssen natürlich die Agents und Systeme mit neuen Skills betankt werden, die zu diesem Kontext passen. Es müssen neue Interfaces verknüpft werden, die Secrets müssen verwaltet werden und vieles mehr.

Warum wird der Initialaufwand so hoch?

Das macht teilweise den Integrationsaufwand oder den Initialaufwand sehr, sehr hoch, weil man sich immer wieder Gedanken drüber machen muss: Mensch, diesen Skill hatte man ja in der Vergangenheit schon, den kann man jetzt wieder verwenden – man muss ihn suchen, man muss ihn rüberkopieren, und so weiter.

Und genau dafür haben wir nach einer Lösung gesucht.

Was ist Paperclip – und was testen wir?

Die momentane Lösung, die wir im Ausbau haben beziehungsweise die wir im Test haben, nennt sich Paperclip. Und zwar ist das eine Plattform, die es ermöglicht, zentralisiert entsprechende Secrets beispielsweise zu speichern für verschiedene MCP-Server oder andere Interfaces – und diese den einzelnen Agenten zuzuweisen.

Agents, Skills und Kommunikation im Team

Darunter, wie bereits angesprochen, hat man die Möglichkeit, verschiedene Agenten zu erzeugen. Ein Agent ist in dem Kontext eine KI, die eine klare Rolle und einen klaren Auftrag hat – mit Skills und Hintergrundinfos, die zu dem Auftrag passen.

Außerdem kann man den Agenten natürlich auch gewisse Hintergrundinformationen oder Skills beibringen: Beispielsweise kann ein Agent in Richtung Produktentwicklung den Kontext bekommen oder in Richtung Marketing – oder ganz spezifisch zum Validieren von Information und Ähnlichem.

Das heißt, am Ende vom Tag könnt ihr eigentlich ein Team aufbauen, das die Möglichkeit hat, miteinander zu kommunizieren. Das bedeutet: Die Agenten tauschen unter sich gewisse Informationen aus, wo es Sinn macht und wo natürlich Diskussionsaufwand beziehungsweise der Kontext zwischen den Agenten auch besteht.

1. Secrets & Interfaces zentral Zugangsdaten und MCP-Server einmal pflegen – den Agents zuweisen.
2. Agents mit Rolle & Skills Produktentwicklung, Marketing, Validierung – je nach Kontext.
3. Austausch im Agent-Team Wo es Sinn macht, Informationen teilen statt alles in einem Prompt zu stapeln.

Was kommt als Nächstes?

Diese Lösung werden wir in nächster Zeit testen und euch natürlich gerne auf dem Laufenden halten – zu Usage, Kosten, Integrierbarkeit, wie einfach man das Ganze aufsetzen kann und ob es einfach nur ein Hype-Hirsch ist oder ob das wirklich ein zukunftsträchtiges Thema ist.

Bleibt auf jeden Fall gespannt über die nächsten Blogbeiträge – unter anderem zu hunderten Agents, verschiedenen Secrets und vielen Umgebungen, und wie man LLMs zentralisiert.

Fazit

Wenn ihr weiteres dazu wissen wollt, dann schreibt euch gerne in unseren Newsletter ein – da informieren wir regelmäßig über neue Themen und Trends. Oder schreibt uns über die Kontaktseite.

In diesem Sinn!
Cheers,
euer Matze