KI in Website und Anwendung

Details: Geschrieben von: Kreevo GmbH; Veröffentlicht: 19. April 2023

19. April 2023aktualisiert am 27. September 20263 Minuten Lesezeit

Sprachmodelle können in einer Website oder einer eigenen Anwendung echte Arbeit abnehmen – und ebenso gut plausibel klingende Falschaussagen (Halluzinationen) erzeugen, die niemandem auffallen. Wo sich der Einsatz aus unserer Sicht lohnt, was er kostet und worauf beim Datenschutz zu achten ist.

Wofür es sich eignet

Sinnvoll wird ein Sprachmodell dort, wo Text verarbeitet statt erfunden wird: zusammenfassen, einordnen, umformulieren, aus einem festen Bestand antworten. Unsicher wird es überall dort, wo das Modell Fakten liefern soll, die es nicht hat.

Eingänge vorsortieren

Anfragen über das Kontaktformular nach Thema einordnen und weiterleiten – die Einschätzung bleibt sichtbar und korrigierbar.

Entwürfe vorbereiten

Beschreibungen, Zusammenfassungen oder Antwortvorschläge entstehen als Entwurf, den ein Mensch freigibt.

Suche im eigenen Bestand

Fragen an die eigene Dokumentation oder den Produktkatalog – beantwortet aus hinterlegten Quellen, mit Verweis auf die Fundstelle.

Daten aufbereiten

Freitext in Struktur bringen: Schlagworte vergeben, Adressen erkennen, Listen vereinheitlichen.

Wo wir abraten

Auskünfte ohne Quelle. Ein Chatfenster, das frei über Ihre Leistungen und Preise spricht, erfindet über kurz oder lang etwas. Antworten müssen aus hinterlegten Inhalten kommen.
Rechtliche und medizinische Aussagen. Was verbindlich ist, gehört nicht in eine automatische Antwort.
Texte ohne Durchsicht. Automatisch veröffentlichte Beiträge erkennen Leser – und Suchmaschinen bewerten sie nicht besser, nur weil es mehr sind.
Personenbezogene Daten ohne Prüfung. Bewerbungen, Krankmeldungen, Kundenakten: Bevor so etwas an einen Dienst geht, muss geklärt sein, wohin die Daten fließen.

Die Datenschutzfrage vorweg

Die meisten Sprachmodelle laufen bei Anbietern im Ausland. Damit stellt sich vor der Technik die Frage, welche Daten überhaupt hinausgehen dürfen: Gibt es einen Vertrag zur Auftragsverarbeitung? Wo werden die Daten verarbeitet? Werden Eingaben zum Training verwendet, und lässt sich das abschalten? Für sensible Fälle gibt es zwei Auswege – die Daten vor dem Versand zu anonymisieren oder ein Modell auf eigener Hardware zu betreiben. Letzteres ist möglich, braucht aber Rechenleistung und Betreuung; ob es sich lohnt, hängt vom Anwendungsfall ab.

Die KI-Verordnung der EU

Dazu kommt die europäische KI-Verordnung. Seit dem 2. August 2026 müssen Chatbots und ähnliche Systeme für Nutzer als KI erkennbar sein (Art. 50) – die Pflicht trifft vor allem die Anbieter der Systeme; wer einen Chatbot auf der eigenen Website einsetzt, sollte ihn trotzdem klar kennzeichnen. Bereits seit dem 2. Februar 2025 müssen Unternehmen, die KI einsetzen, für ausreichende KI-Kompetenz ihrer Beschäftigten sorgen (Art. 4). Welche weiteren Pflichten gelten, hängt davon ab, wofür ein System eingesetzt wird – für Chatbots und Textassistenten auf einer Website sind es in der Regel die Transparenzpflichten.

Wie wir so etwas angehen

Anwendungsfall schärfen Welche Aufgabe genau, wie oft, mit welchen Daten – und woran würde man merken, dass es funktioniert?
Kleine Erprobung Ein überschaubarer Aufbau mit echten Beispielen aus Ihrem Unternehmen, nicht mit Vorführdaten.
Bewerten Trefferquote, Aufwand, laufende Kosten je Vorgang. Wenn das Ergebnis nicht trägt, sagen wir das.
Einbauen Anbindung an die vorhandene Website oder Anwendung, mit Protokoll und einer Möglichkeit, die Funktion abzuschalten.
Beobachten Stichproben im Betrieb – Modelle und Preise ändern sich, das Ergebnis von gestern gilt nicht ewig.

Was das kostet

Abgerechnet wird bei den Anbietern nach verarbeiteter Textmenge, gemessen in Tokens. Für die Kalkulation zählt deshalb nicht der Monatspreis, sondern der Preis je Vorgang – und der lässt sich in einer Erprobung messen. Dazu kommt die Einbindung, die je nach Anbindung an vorhandene Systeme den größeren Teil ausmacht. Unsere Erfahrung: Der Nutzen entsteht selten durch ein großes Vorhaben, sondern durch eine kleine Aufgabe, die jemand bisher täglich von Hand erledigt hat.

Wenn Sie eine solche Aufgabe im Kopf haben, sprechen wir darüber – auch über die Frage, ob es ohne Sprachmodell einfacher geht. Was wir an eigenen Anwendungen entwickeln, steht bei Webentwicklung.

Häufige Fragen

Brauchen wir dafür ein eigenes Modell?

Fast nie. Für die meisten Aufgaben genügt ein vorhandenes Modell, das mit Ihren Inhalten arbeitet. Ein eigenes Training lohnt erst bei sehr speziellen Anforderungen.

Landen unsere Daten beim Anbieter?

Das hängt vom Dienst und vom Vertrag ab. Genau das klären wir vorab – und bei sensiblen Daten gibt es Wege, sie gar nicht erst hinauszugeben.

Kann ein Chatbot unseren Support ersetzen?

Ersetzen nicht. Entlasten schon: bei wiederkehrenden Fragen, deren Antworten dokumentiert sind. Der Weg zu einem Menschen muss dabei immer sichtbar bleiben.

Ist das nicht in einem Jahr überholt?

Die Modelle ja, der Anwendungsfall nicht. Deshalb entwickeln wir so, dass sich das Modell austauschen lässt, ohne die Anwendung neu zu schreiben.

Kurz gesagt

Künstliche Intelligenz hilft vor allem dort, wo vorhandene Texte sortiert, zusammengefasst oder als Entwurf vorbereitet werden und ein Mensch das Ergebnis prüft. Soll sie Fakten liefern, die ihr nicht vorliegen, erfindet sie leicht etwas – und vor dem Einsatz muss geklärt sein, wohin Ihre Daten gehen.