Was kostet ein KI-Chatbot? Kostenfaktoren

Wer nach dem Preis eines KI-Chatbots fragt, bekommt in Artikeln oft eine Spanne genannt. Ich nenne hier keine, und der Grund ist einfach: Die Preise der Modellanbieter ändern sich, und die Kosten Ihres Chatbots hängen an Ihrem Gesprächsaufkommen und Ihren Daten. Eine Zahl ohne diese Angaben wäre geraten.

Was ich Ihnen stattdessen gebe: die Faktoren, aus denen sich der Preis zusammensetzt, ein Rechenschema ohne Beträge und eine Liste mit Fragen, die ich vor einem Angebot klären muss. Damit können Sie selbst einschätzen, in welche Richtung Ihr Projekt geht.

Die kurze Antwort

Die Kosten eines KI-Chatbots setzen sich aus einmaligen und laufenden Posten zusammen. Einmalig fallen Aufbereitung Ihrer Daten, Entwicklung und Anbindung an Ihre Website an. Laufend kommen die Nutzung des Sprachmodells, gegebenenfalls eine Datenbank für Ihre Dokumente und die Pflege dazu.

Welcher Posten überwiegt, entscheidet das Projekt. Ein Chatbot, der drei Fragen zu Öffnungszeiten beantwortet, hat andere Schwerpunkte als ein Wissensbot über viele Produktdokumente.

1. Nutzung des Sprachmodells

Die großen Anbieter rechnen ihre Modelle nach Tokens ab, das sind Textbausteine von wenigen Zeichen. Eingabe und Ausgabe werden getrennt berechnet. Das steht auf den Preisseiten von Anthropic, Mistral AI und OpenAI. Dort finden Sie die aktuellen Sätze; ich schreibe sie bewusst nicht ab, weil sie veralten.

Drei Dinge treiben die Nutzungskosten:

• Das Modell. Jeder Anbieter listet mehrere Modelle mit unterschiedlichen Preisen. Die Modelle eines Anbieters kosten je Token unterschiedlich viel. Welches für Ihren Fall reicht, lässt sich nur am Fall prüfen. Die Modellwahl gehört zur technischen Beratung im Projekt.
• Der Gesprächsverlauf. Das Modell behält nichts zwischen zwei Anfragen. Bei jeder neuen Nachricht geht der bisherige Verlauf erneut in die Eingabe und wird als Eingabe berechnet. Das beschreiben die Dokumentationen von OpenAI und Anthropic. Lange Gespräche werden also mit jeder Nachricht teurer.
• Wiederkehrende Eingaben. Eine Systemanweisung, die in jeder Anfrage gleich ist, lässt sich bei beiden genannten Anbietern zwischenspeichern und dann günstiger berechnen. Ob sich das lohnt, hängt von der Länge dieser Anweisung ab.

2. Ihre Dokumente: Embeddings und Datenbank

Soll der Chatbot aus Ihren eigenen Unterlagen antworten, kommt meist RAG zum Einsatz. Das Verfahren sucht zur Frage passende Textstellen aus Ihren Dokumenten und gibt sie dem Sprachmodell mit. Mehr dazu in Chatbot mit eigenen Daten: RAG erklärt.

Dafür entstehen zwei weitere Posten:

• Embeddings. Ihre Texte werden in Zahlenreihen umgewandelt, damit sich Ähnliches finden lässt. Je nach Anbieter wird das nach Eingabemenge berechnet; OpenAI beschreibt es nach Tokens. Auch der RAG-Leitfaden von Microsoft nennt Kosten je Dokument, die je nach Verfahren unterschiedlich ausfallen.
• Vektordatenbank. Dort liegen die umgewandelten Texte. Die Abrechnung folgt je nach Dienst dem Speicher und den Zugriffen, so bei Pinecone, oder den belegten Serverressourcen, so bei Qdrant.

Bei jeder Frage kommen die gefundenen Textstellen zusätzlich in die Eingabe des Sprachmodells. Mehr Textstellen heißt mehr Eingabe-Tokens.

3. Aufbereitung der Daten

Bevor ein Chatbot aus Dokumenten antworten kann, müssen sie in sinnvolle Abschnitte zerlegt werden. Das Zerlegen ist nach dem Leitfaden von Microsoft wichtig für den Erfolg: Zu kleine Abschnitte verlieren den Zusammenhang, und ungeeignete Abschnitte führen zu ungenauen Antworten. Dieselbe Schwierigkeit beschreibt Anthropic für Abschnitte, die ohne Umgebung kaum auffindbar sind.

Hinzu kommt die Datenqualität. Elastic weist darauf hin, dass die Antworten nur so gut sind wie die Quellen. Widersprüchliche oder veraltete Dokumente führen zu widersprüchlichen oder veralteten Antworten. Wer vorher aufräumt, spart später Ärger.

Was diesen Posten beeinflusst:

• Anzahl und Art der Dokumente (reine Textseiten, PDFs, Tabellen, gescannte Unterlagen)
• Wie viele davon laufend neu hinzukommen
• Ob die Dokumente intern widersprüchlich oder veraltet sind

4. Entwicklung und Anbindung

Der Chatbot muss in Ihre Website oder Webanwendung. Dazu gehören Oberfläche, Schnittstelle zum Sprachmodell, Verlaufsverwaltung und die Frage, was passiert, wenn der Chatbot nicht weiterweiß. Ich halte eine Übergabe an eine Person per Kontaktformular oder Ticket für besser als eine geratene Antwort.

Der Aufwand hängt davon ab, wo der Chatbot laufen soll. Ein Chatbot in einem WordPress- oder TYPO3-System hat andere Randbedingungen als einer in einer eigenen Webanwendung. Soll der Chatbot Dokumente prüfen oder auslesen, ist das ein verwandtes Thema, das ich unter Dokumenten-KI beschrieben habe. Die technische Seite eines Einbaus behandelt auch der Artikel KI-Chatbot auf Website einbinden.

5. Betrieb und Wartung

Ein Chatbot ist nach dem Livegang nicht fertig. Drei laufende Aufgaben sollten Sie einplanen:

• Modellwechsel. Anbieter nehmen ältere Modelle vom Netz. OpenAI und Anthropic führen dazu Listen mit Abschaltterminen und empfohlenen Nachfolgern. Wer ein abgekündigtes Modell nutzt, muss rechtzeitig umstellen und die Antworten mit dem neuen Modell erneut prüfen.
• Aktuelle Inhalte. Ändern sich Ihre Dokumente, muss die Datenbank nachziehen. AWS beschreibt dafür regelmäßige oder automatische Aktualisierung als eigenen Schritt.
• Technischer Betrieb. Die Anbindung läuft auf einem Server, der Updates und Überwachung braucht. Hosting, Updates und Weiterentwicklung übernehme ich auf Wunsch; Details dazu unter Hosting und Wartung.

6. Prüfung und Rechtliches

Ein Chatbot, der in der Demo gut antwortet, kann bei echten Kundenfragen danebenliegen. Prüfen Sie die Lösung deshalb mit echten Testfragen, bevor sie live geht. Elastic nennt den Aufwand für Gestaltung und Optimierung als Schwierigkeit. Rechnen Sie dafür Zeit ein, auch Ihre eigene, denn Sie wissen, welche Fragen Ihre Kunden typischerweise stellen.

Ein eigenes Thema ist die Rechtslage. Bei der technischen Umsetzung berücksichtige ich die Anforderungen der DSGVO; ob der Einsatz im Einzelfall rechtmäßig ist, bewertet Ihre Datenschutzberatung. Eine Rechtsberatung ist das nicht. Welche Pflichten bei einem Chatbot auf der Website in Betracht kommen, habe ich in KI-Chatbot: Pflichten und Grenzen zusammengetragen.

Rechenschema ohne Beträge

Für die laufende Nutzung können Sie selbst ein Mengengerüst aufstellen. Die Preise tragen Sie von den Seiten der Anbieter ein:

Nutzung je Monat =
  Gespräche × Antworten je Gespräch ×
  (Eingabe-Tokens × Eingabepreis + Ausgabe-Tokens × Ausgabepreis)

Eingabe-Tokens je Antwort =
  Systemanweisung + bisheriger Verlauf + gefundene Textstellen + neue Frage

Zwei Beispiele zeigen, wie unterschiedlich das ausfällt:

• Ein Online-Shop beantwortet kurze Fragen zu Versand und Rückgabe. Die Gespräche sind kurz, der Verlauf bleibt klein, eine Wissensbasis gibt es nicht oder nur eine kleine. Die Nutzungskosten bleiben überschaubar, die Einrichtung und die Pflege der Antworten sind der größere Teil.
• Ein Hersteller stellt seinen Kundendienst auf einen Wissensbot über viele technische Dokumente um. Die Gespräche sind länger, jede Antwort enthält mehrere Textstellen. Hier steigen die Nutzungskosten deutlich schneller, und die Datenaufbereitung ist ein eigenes Teilprojekt.

Zahlen nenne ich dazu nicht. Sie hingen an Annahmen, die nur Sie kennen.

Wo sich sparen lässt

• Klein anfangen. Ein begrenzter Themenbereich mit gut gepflegten Dokumenten ist nach meiner Einschätzung leichter zu prüfen als ein Bot, der alles beantworten soll.
• Passendes Modell wählen. Nach meiner Einschätzung braucht nicht jede Frage das größte Modell. Das lässt sich im Test klären.
• Verlauf begrenzen. Wenn nur die letzten Nachrichten nötig sind, sinkt die Eingabe je Antwort.
• Gleichbleibende Anweisungen zwischenspeichern, soweit der Anbieter das unterstützt.
• Daten vor dem Start aufräumen. Das senkt den Aufwand beim Aufbereiten und verbessert die Antworten.

Irrtümer verhindert das nicht. Auch ein Chatbot mit guten Dokumenten kann falsch antworten, wenn die gefundene Textstelle nicht zur Frage passt. Die Entscheidung, welche Antworten der Bot allein geben darf, bleibt bei Ihnen.

Was ich für eine Einschätzung brauche

Eine konkrete Einschätzung kann ich nach einem kurzen Gespräch geben. Hilfreich sind diese Angaben:

1. Welche Website oder Webanwendung gibt es, und auf welchem System läuft sie?
2. Wofür soll der Chatbot da sein, und welche Fragen soll er beantworten?
3. Mit wie vielen Gesprächen im Monat rechnen Sie, grob geschätzt?
4. Aus welchen Dokumenten soll er antworten, in welchem Format, und wie oft ändern sie sich?
5. Gibt es Vorgaben zum Standort der Datenverarbeitung?

Am Anfang steht die Frage, ob ein Chatbot für Ihren Fall der richtige Schritt ist. Dann klären wir gemeinsam Modell, Standort und Umfang. Einen Überblick über meine Leistungen für Chatbots finden Sie unter KI-Chatbot entwickeln lassen, alle KI-Themen unter KI-Integration.

Wenn Sie ein konkretes Vorhaben haben, schreiben Sie mir über das Kontaktformular. Schildern Sie kurz Ihre Website und Ihr Ziel, dann melde ich mich mit Rückfragen.