Zum Inhalt springenNeuChat und Code sind in der PreviewAuf die Warteliste

Chatbots und Assistenten

Chatbots, die sich erinnern und im Rahmen bleiben.

Bauen Sie einen Assistenten in Ihrer Marke auf EU-residenten Modellen mit einer OpenAI-kompatiblen base_url. Recall erinnert sich an jeden Nutzer, sodass Sie keinen Kontext mehr mitschicken, und antwortet aus Ihren eigenen Dokumenten, während die Firewall und der Audit Trail jede Antwort sicher und nachvollziehbar halten.

drop-in · belegt · erfasst

Eine Antwort, und die drei Dinge, die dafür stimmen mussten.

Ein echter Assistent ist sechs Integrationen im Trenchcoat.

Eine Demo ist eine Model Call. Ein Produkt braucht Memory pro Nutzer, Retrieval über Ihre Inhalte, Schutz vor Prompt Injection, rechtmäßig behandelte personenbezogene Daten, und das alles in der EU. Nähen Sie das über mehrere Anbieter selbst zusammen, gehört Ihnen der Klebstoff, die Ausfälle und die Compliance-Lücke.

Was Sie bekommen

Alles, was ein Assistent braucht, hinter einem Endpoint.

Drei Probleme, für die es sonst drei Anbieter braucht. Hier sind es drei Services hinter der base_url, auf die Sie ohnehin zeigen.

  • Setzen Sie Ihren Client darauf

    Richten Sie Ihren bestehenden OpenAI-Client auf eine base_url und streamen Sie Antworten von EU-residenten Modellen. Chat, Tools und Structured Output verhalten sich genau wie heute.

  • Erinnert sich und belegt

    Recall holt die dauerhaften Fakten jedes Nutzers zurück und antwortet aus Ihren Dokumenten, damit Antworten persönlich und richtig sind, ohne dass Sie jede Runde Kontext mitschicken.

  • Sicher und nachvollziehbar

    Die Firewall pseudonymisiert personenbezogene Daten, bevor etwas hinausgeht, und der Audit Trail hält eine Zeile pro Antwort fest. Standardmäßig an, und durchgehend erfasst.

Wie das aussieht

Das zweite Gespräch, drei Wochen später.

Dieselbe Kundin kommt zurück. Sie schicken nichts mit. Der Assistent weiß schon, wer sie ist, und sagt, welchen Fakt er benutzt hat.

  1. 01AbgrenzungMemory ist pro EndnutzerDas user-Feld ist die Grenze. Die Fakten einer Kundin sind aus dem Gespräch einer anderen nie lesbar, und aus einer anderen Workspace auch nicht.
  2. 02ZustandThreads halten die RundenSchicken Sie eine Thread-ID mit, und die letzten Runden bleiben serverseitig liegen, damit Sie nicht dafür zahlen, denselben Kontext bei jeder Nachricht neu zu schicken.
  3. 03LöschungAuf Verlangen löschbarBittet diese Kundin darum, vergessen zu werden, löscht ein Call alles, was Recall zu ihr gespeichert hat, direkt an Ihren eigenen Löschprozess angebunden.

Eine Runde. Keine Historie mitgeschickt, kein Profil geladen, keine Zusammenfassung.

FAQ

Fragen beim Bauen eines Assistenten.

Müssen wir das Gespräch jede Runde neu mitschicken?
Nein. Schicken Sie eine Thread-ID mit, dann bleiben die letzten Runden serverseitig liegen, und Recall holt die dauerhaften Fakten des Nutzers von selbst.
Kann die Memory einer Kundin im Gespräch einer anderen auftauchen?
Nein. Das user-Feld ist die Grenze, und eine Workspace ist die Grenze darüber. Die Isolation steckt in der Konstruktion, nicht in der Konfiguration.
Was passiert, wenn eine Kundin vergessen werden will?
Ein Call löscht alles, was Recall zu dieser Endnutzerin gespeichert hat, und das lässt sich direkt an Ihren eigenen Löschprozess anbinden.
Wie halten wir den Bot bei unserem eigenen Material?
Recall antwortet aus den Dokumenten, die Sie ihm gegeben haben, statt aus dem Allgemeinwissen des Modells, und der Audit Trail hält eine Zeile pro Antwort fest, eine Antwort, mit der Sie nicht einverstanden sind, lässt sich also finden und zurückverfolgen.
Verlassen die personenbezogenen Daten unserer Kunden die EU?
Nicht, solange Sie es nicht erlauben. Die Voreinstellung ist ein EU-residentes Modell, und eine externe Call wird von der Firewall pseudonymisiert, bevor sie hinausgeht.

Hier anfangen

Liefern Sie einen Assistenten, dem Sie trauen können.

Legen Sie einen Key an, richten Sie Ihren Client auf Akumi, und bauen Sie einen Chatbot, der sich erinnert, belegt und im Rahmen bleibt.