Ein KI-Support-Agent in Ihrem Shop: Was er beantworten kann und was er niemals anfassen darf

Support-Automatisierung hat ihre Form verändert. Der alte Chatbot glich Stichwörter ab und bot ein Menü an; die aktuelle Generation liest Ihre Bestelldaten, versteht die Frage und kann im Namen des Kunden handeln. Das ist tatsächlich nützlicher und tatsächlich gefährlicher — und das Gefährliche daran sind nicht Halluzinationen, sondern der Handlungsspielraum.

Ein Agent, der eine Bestellung lesen kann, ist hilfreich. Ein Agent, der eine stornieren kann, wird in dem Moment zum Risiko, in dem seine Zuversicht seine Belege übersteigt. Nach diesem Rahmen entscheiden wir, wo diese Grenze verläuft.

Drei Stufen, nicht zwei

Die meisten Teams denken in der Bot erledigt es oder ein Mensch erledigt es. Drei Stufen funktionieren deutlich besser, denn in der mittleren steckt der größte Teil des Nutzens — und das gesamte Risiko.

Stufe 1: Lesen und antworten — bedenkenlos einsetzen

Fragen, die sich aus Daten beantworten lassen, die der Agent nachschlagen kann, und bei denen ein Fehler peinlich ist, aber nicht teuer.

• Bestellstatus und Sendungsverfolgung. In den meisten Shops die größte einzelne Ticket-Kategorie — und fast vollständig vermeidbar.
• Lieferzeitprognosen für ein bestimmtes Produkt und Lieferziel
• Lagerverfügbarkeit und voraussichtliche Nachliefertermine
• Fragen zu Richtlinien — Rückgabefristen, Garantiebedingungen, Versandgrenzen — beantwortet aus Ihren tatsächlich veröffentlichten Richtlinien, nicht aus dem Allgemeinwissen des Modells
• Fragen zu Produktspezifikationen, streng aus Ihren Katalogattributen beantwortet
• Fragen zum Kundenkonto — wo eine Rechnung zu finden ist, wie sich eine Adresse ändern lässt

Beachten Sie die Einschränkung, die zweimal auftaucht: aus Ihren Daten. Ein Agent, der eine Frage zu Retouren aus seinen Trainingsdaten statt aus Ihrer Rückgaberichtlinie beantwortet, klingt plausibel und sicher — und liegt gelegentlich auf eine Weise falsch, die für Sie rechtlich bindend ist. Stützen Sie jede Antwort zu Richtlinien auf Text, der aus Ihren eigenen Inhalten abgerufen wurde.

Stufe 2: Handeln, mit Leitplanken

Aktionen, die etwas verändern — erlaubt nur innerhalb ausdrücklicher, mechanischer Grenzen, die in Ihrem Code durchgesetzt werden, nicht im Prompt.

• Eine Lieferadresse ändern — nur vor dem Versand, nur für den authentifizierten Kontoinhaber
• Eine Retoure anstoßen — nur innerhalb der Rückgabefrist, nur für berechtigte Produkte und nur mit einem Label, das Ihr bestehender Prozess ohnehin erlaubt
• Eine Bestellung stornieren — nur bevor das Fulfillment beginnt, nur unterhalb einer von Ihnen gesetzten Wertgrenze
• Eine Kulanzgutschrift gewähren — nur innerhalb einer harten Obergrenze pro Interaktion und einer rollierenden Obergrenze pro Kunde
• Marketing-Einstellungen ändern — wirklich risikoarm und für Kunden ein häufiges Ärgernis

Stufe 3: Niemals — sofort übergeben

Kategorien, in denen die einzig richtige Aktion des Agenten darin besteht, Kontext zu sammeln und zu eskalieren.

• Alles, was Zahlungsdaten oder Kartendaten betrifft. Keine Ausnahmen, auch keine cleveren.
• Betrug, Chargebacks und Streitfälle — ein Gegenüber mit gegenläufigen Interessen führt kein Support-Gespräch
• Meldungen zu Sicherheit, Verletzungen, Allergien, Nebenwirkungen oder Produktrückrufen. Diese sind reguliert, zeitkritisch und häufig gesetzlich meldepflichtig.
• Medizinische, Dosierungs-, Rechts- oder Finanzberatung, so beiläufig die Frage auch gestellt wird
• Beschwerden über das Unternehmen, besonders alles, was rechtliche Schritte, Aufsichtsbehörden oder die Presse erwähnt
• Not oder Aufregung jeder Art. Ein aufgebrachter Kunde braucht einen Menschen, und jede Minute, die ein automatisiertes System mit ihm verbringt, macht es schlimmer.
• Alles, was das Konto oder die Daten von Minderjährigen betrifft
• Preisverhandlungen zu Großmengen, Großhandel oder B2B — ein kaufmännisches Gespräch, kein Support-Gespräch

Schreiben Sie diese Liste, bevor Sie den Prompt schreiben. Sie ist das Dokument, das Ihre Verantwortlichen für Recht, Compliance und Support gemeinsam unterschreiben sollten — und das in einem Jahr immer noch stimmt, wenn das Modell darunter zweimal ausgetauscht wurde.

Die Eskalation ist das Feature

Die meisten Einführungen scheitern nicht an der Antwort, sondern an der Übergabe. Diese Punkte müssen sitzen:

1. Bei Wiederholung eskalieren. Wenn der Kunde dasselbe zweimal fragt, ist der Agent bereits gescheitert. Übergeben Sie beim zweiten Versuch, nicht beim fünften.
2. Nach Sentiment eskalieren, nicht nur nach Stichwörtern. Frustration ist erkennbar und das früheste verlässliche Signal.
3. Bieten Sie immer einen sichtbaren Ausweg. Ein Kunde, der den Menschen nicht findet, ist ein Kunde, der darüber eine Bewertung schreibt.
4. Nehmen Sie den Kontext mit. Der Agent muss dem Menschen eine Zusammenfassung übergeben, die betreffende Bestellung und das, was bereits versucht wurde. Den Kunden alles wiederholen zu lassen ist schlimmer, als gar nicht zu automatisieren.
5. Bei geringer Konfidenz eskalieren. Ein Agent, der sagt Ich bin nicht sicher, ich hole jemanden dazu, genießt mehr Vertrauen als einer, der meistens gut rät.

Die Kennzahlen, die geschönt werden

Anbieter berichten die Containment Rate — den Anteil der Gespräche, die nie einen Menschen erreicht haben. Sie ist die Kennzahl im Support, die sich am leichtesten schönen lässt, denn ein Gespräch, das der Kunde frustriert abgebrochen hat, zählt als „contained“.

Messen Sie stattdessen diese Größen:

• Lösungsquote — wurde das Problem des Kunden tatsächlich gelöst, geprüft daran, dass innerhalb von 72 Stunden keine erneute Anfrage kam?
• Eskalationsqualität — wie viele der übergebenen Gespräche löste der Mensch mit einer einzigen Antwort? Eine schlechte Kontextübergabe zeigt sich hier zuerst.
• Kosten pro gelöstem Kontakt, verglichen mit Ihrem menschlichen Ausgangswert — die Zahl, die das Projekt rechtfertigt
• Conversion Rate und Wiederkaufsrate nach der Interaktion bei Kunden, die den Agenten genutzt haben, gegenüber denen, die es nicht taten. Fällt das negativ aus, ist Containment bedeutungslos.
• Anteil der Beschwerden, die den Agenten erwähnen. Erfassen Sie ihn ausdrücklich; von allein taucht er nicht auf.

Bevor Sie ihn einschalten

Eine kurze Liste vor dem Start, die das meiste abfängt, was schiefgeht:

1. Bauen Sie ein Eval-Set aus 100 echten historischen Tickets mit festgehaltenem korrektem Ergebnis und prüfen Sie jede Prompt- oder Modelländerung dagegen. Ohne das ändern Sie nach Gefühl.
2. Betreiben Sie Red-Teaming. Versuchen Sie, ihn dazu zu bringen, mehr als die Obergrenze zu erstatten, die Bestellung eines anderen Kunden preiszugeben oder medizinisch zu beraten. Irgendjemand wird es versuchen; besser Sie.
3. Prüfen Sie, was er über Wettbewerber, Preise und Zusagen sagt. Ein Support-Agent, der eine Lieferung am Folgetag zusagt, die Sie gar nicht anbieten, hat eine Verpflichtung geschaffen.
4. Klären Sie die datenschutzrechtliche Lage. Welche Kundendaten verlassen Ihre Systeme, zu welchem Anbieter, mit welchen Aufbewahrungsfristen — und ist das dokumentiert?
5. Kennzeichnen Sie ihn klar als automatisiert. Unabhängig von jeder gesetzlichen Pflicht: Nicht offengelegte Automatisierung kostet Vertrauen, das Sie nicht zahlen müssen.
6. Geben Sie ihm einen Kill Switch, den eine Support-Leitung um 2 Uhr nachts ohne Entwickler bedienen kann.

Was das wert ist

Gut umgesetzt nimmt allein Stufe 1 in der Regel einen erheblichen Teil des Ticketvolumens ab, denn Wo ist meine Bestellung beherrscht den Posteingang der meisten Shops und lässt sich vollständig aus Daten beantworten, die Sie bereits haben. Das ist eine echte Ersparnis, und sie kommt, ohne dass irgendetwas Riskantes angefasst wird.

Stufe 2 bringt mehr — und die Möglichkeit eines schlechten Tages. Auf Stufe 3 sitzt der Reputationsschaden, und der lässt sich kostenlos vermeiden: Sie bauen sie schlicht nicht.

Die Shops, die dieses Projekt bereuen, sind die, die bei Stufe 2 angefangen haben, weil es sich besser vorführen ließ. Die zufriedenen haben Stufe 1 ausgeliefert, ein Quartal lang ehrlich gemessen und auf Basis der Belege erweitert.

Wir bauen so etwas für Shops im Livebetrieb in unserer Praxis für KI und Machine Learning, und die weitergehende Frage, wo Automatisierung in einem Unternehmen hingehört, beantwortet unsere Arbeit an KI-Integrationen. In regulierten Umfeldern — darunter unsere Kunden im Gesundheitswesen — ist Stufe 3 länger und die Disziplin wichtiger, nicht weniger wichtig.

Beginnen Sie mit dem Scope-Dokument

Bevor Sie über Tools entscheiden, schreiben Sie die drei Stufen für Ihr Unternehmen auf und lassen Sie sie von Support, Recht und Vertrieb unterschreiben. Wir entwerfen das mit Ihnen und bauen danach. Sprechen Sie mit unserem Team; wir antworten innerhalb eines Werktags.