Chatbots und Assistenten
Chatbots, die sich erinnern und im Rahmen bleiben.
Bauen Sie einen Assistenten in Ihrer Marke auf EU-residenten Modellen mit einer OpenAI-kompatiblen base_url. Recall erinnert sich an jeden Nutzer, sodass Sie keinen Kontext mehr mitschicken, und antwortet aus Ihren eigenen Dokumenten, während die Firewall und der Audit Trail jede Antwort sicher und nachvollziehbar halten.
drop-in · belegt · erfasst
Eine Antwort, und die drei Dinge, die dafür stimmen mussten.
Ein echter Assistent ist sechs Integrationen im Trenchcoat.
Eine Demo ist eine Model Call. Ein Produkt braucht Memory pro Nutzer, Retrieval über Ihre Inhalte, Schutz vor Prompt Injection, rechtmäßig behandelte personenbezogene Daten, und das alles in der EU. Nähen Sie das über mehrere Anbieter selbst zusammen, gehört Ihnen der Klebstoff, die Ausfälle und die Compliance-Lücke.
Was Sie bekommen
Alles, was ein Assistent braucht, hinter einem Endpoint.
Drei Probleme, für die es sonst drei Anbieter braucht. Hier sind es drei Services hinter der base_url, auf die Sie ohnehin zeigen.
Setzen Sie Ihren Client darauf
Richten Sie Ihren bestehenden OpenAI-Client auf eine base_url und streamen Sie Antworten von EU-residenten Modellen. Chat, Tools und Structured Output verhalten sich genau wie heute.
Erinnert sich und belegt
Recall holt die dauerhaften Fakten jedes Nutzers zurück und antwortet aus Ihren Dokumenten, damit Antworten persönlich und richtig sind, ohne dass Sie jede Runde Kontext mitschicken.
Sicher und nachvollziehbar
Die Firewall pseudonymisiert personenbezogene Daten, bevor etwas hinausgeht, und der Audit Trail hält eine Zeile pro Antwort fest. Standardmäßig an, und durchgehend erfasst.
Wie das aussieht
Das zweite Gespräch, drei Wochen später.
Dieselbe Kundin kommt zurück. Sie schicken nichts mit. Der Assistent weiß schon, wer sie ist, und sagt, welchen Fakt er benutzt hat.
- 01AbgrenzungMemory ist pro EndnutzerDas user-Feld ist die Grenze. Die Fakten einer Kundin sind aus dem Gespräch einer anderen nie lesbar, und aus einer anderen Workspace auch nicht.
- 02ZustandThreads halten die RundenSchicken Sie eine Thread-ID mit, und die letzten Runden bleiben serverseitig liegen, damit Sie nicht dafür zahlen, denselben Kontext bei jeder Nachricht neu zu schicken.
- 03LöschungAuf Verlangen löschbarBittet diese Kundin darum, vergessen zu werden, löscht ein Call alles, was Recall zu ihr gespeichert hat, direkt an Ihren eigenen Löschprozess angebunden.
Eine Runde. Keine Historie mitgeschickt, kein Profil geladen, keine Zusammenfassung.
Welcher Service macht was
Zuschalten, wenn Sie wachsen.
Fangen Sie mit der API an und schalten Sie jede Fähigkeit dazu, wenn Sie sie brauchen. Jeder Service wird einzeln abgerechnet, was Sie aus lassen, kostet also nichts.
- Inference APIOpenAI-kompatible Chat, Tools und Streaming.
- RecallErinnert sich an jeden Nutzer und antwortet aus Ihren Dokumenten.
- Model RouterSendet jede Nachricht an ein Modell, das Sie freigegeben haben.
- FirewallPseudonymisiert personenbezogene Daten vor dem Egress.
- CacheBedient wiederholte Fragen in Millisekunden.
- Audit TrailEin Eintrag pro Nachricht, aufbewahrt nach Ihrer Policy.
FAQ
Fragen beim Bauen eines Assistenten.
- Müssen wir das Gespräch jede Runde neu mitschicken?
- Nein. Schicken Sie eine Thread-ID mit, dann bleiben die letzten Runden serverseitig liegen, und Recall holt die dauerhaften Fakten des Nutzers von selbst.
- Kann die Memory einer Kundin im Gespräch einer anderen auftauchen?
- Nein. Das user-Feld ist die Grenze, und eine Workspace ist die Grenze darüber. Die Isolation steckt in der Konstruktion, nicht in der Konfiguration.
- Was passiert, wenn eine Kundin vergessen werden will?
- Ein Call löscht alles, was Recall zu dieser Endnutzerin gespeichert hat, und das lässt sich direkt an Ihren eigenen Löschprozess anbinden.
- Wie halten wir den Bot bei unserem eigenen Material?
- Recall antwortet aus den Dokumenten, die Sie ihm gegeben haben, statt aus dem Allgemeinwissen des Modells, und der Audit Trail hält eine Zeile pro Antwort fest, eine Antwort, mit der Sie nicht einverstanden sind, lässt sich also finden und zurückverfolgen.
- Verlassen die personenbezogenen Daten unserer Kunden die EU?
- Nicht, solange Sie es nicht erlauben. Die Voreinstellung ist ein EU-residentes Modell, und eine externe Call wird von der Firewall pseudonymisiert, bevor sie hinausgeht.
Hier anfangen
Liefern Sie einen Assistenten, dem Sie trauen können.
Legen Sie einen Key an, richten Sie Ihren Client auf Akumi, und bauen Sie einen Chatbot, der sich erinnert, belegt und im Rahmen bleibt.