Wie können wir helfen?

Schreib uns kurz, worum es geht - wir melden uns per E-Mail.

Diese Seite ist durch reCAPTCHA geschützt. Es gelten die Datenschutzerklärung und die Nutzungsbedingungen von Google.
Zur Startseite

KI-Verordnung: wie reactive.chat künstliche Intelligenz einsetzt

Wie reactive.chat die Verordnung (EU) 2024/1689 anwendet: welche Funktionen KI nutzen und welche nicht, Rollen, Risikoeinstufung, Transparenz gegenüber Besuchern, menschliche Aufsicht, Protokollierung, Datennutzung und Meldung von Fehlern.

Diese Übersetzung dient nur der besseren Verständlichkeit. Verbindlich ist ausschließlich die englische Fassung unter /p/ai-act.

1. Wozu diese Seite dient

Die Verordnung (EU) 2024/1689 (die „KI-Verordnung") legt Regeln für KI-Systeme fest, die in der Europäischen Union in Verkehr gebracht oder verwendet werden. Diese Seite erklärt Funktion für Funktion, wo reactive.chat (der „Dienst") KI einsetzt und wo nicht, welche Rolle Betreiber und Kunde nach der KI-Verordnung haben, wie der Dienst eingestuft ist und welche Pflichten daraus für jede Seite folgen. Sie gehört zusammen mit den Nutzungsbedingungen, dem Auftragsverarbeitungsvertrag, der Datenschutzerklärung und der Richtlinie zur zulässigen Nutzung und Missbrauchsbekämpfung zu den Rechtstexten des Dienstes. Sie beschreibt die eigene Einschätzung des Betreibers; sie ist keine Rechtsberatung für den Kunden.

Die Kurzfassung. Der Chat-Assistent und eine Reihe von Agentenwerkzeugen nutzen Sprachmodelle. Es sind offen lizenzierte Modelle, die der Betreiber unverändert auf eigenen Rechnern betreibt; sie werden nicht mit Kundendaten trainiert. Besucher erfahren vor der ersten Nachricht des Assistenten, dass sie mit einer KI sprechen, und jede Nachricht des Assistenten trägt ein KI-Abzeichen. Ein Mensch kann jedes Gespräch jederzeit übernehmen; ab dann schweigt der Assistent. Der Assistent trifft keine Entscheidungen über Menschen. Das optionale KI-Urteil der automatischen Qualitätsprüfung wird nur für Gespräche abgegeben, an denen kein Mensch beteiligt war, und wird nie einem Teammitglied zugerechnet (Abschnitt 6.3). Die KI-Funktionen nehmen keine Bewerbungen an, sichten und bewerten sie nicht; diese Sperre lässt sich nicht abschalten (Abschnitt 6.5). Die Einstufung als nicht hochriskant in Abschnitt 6.2 beruht auf diesen beiden technischen Grenzen.

2. Begriffe auf dieser Seite

3. Zeitplan der KI-Verordnung

Die KI-Verordnung ist am 1. August 2024 in Kraft getreten. Ihre Vorschriften gelten gestaffelt (Artikel 113):

Im November 2025 hat die Europäische Kommission Änderungen der KI-Verordnung vorgeschlagen (den „Digital Omnibus"), die unter anderem die Geltung der Hochrisiko-Regeln verschieben würden. Diese Seite nennt die Daten der Verordnung in ihrer veröffentlichten Fassung. Ändert eine Novelle sie, aktualisiert der Betreiber diese Seite; die in Abschnitt 7 beschriebenen Pflichten setzt der Dienst unabhängig davon um.

4. Wo reactive.chat KI einsetzt und wo nicht

4.1 Modelle und wo sie laufen

4.2 Funktionen, die ein Sprachmodell nutzen

Zu jeder Funktion: was in das Modell geht, was gespeichert wird, wer sie abschalten kann und wie Menschen informiert oder beteiligt werden. „Betreiberschalter" meint die Funktionsschalter des Betreibers je Projekt (Abschnitt 13).

  1. Antworten des Assistenten im Chat. Eingabe: die Nachricht des Besuchers, der jüngere Gesprächsverlauf (ein Fenster der letzten Nachrichten und eine Zusammenfassung älterer), die in der Wissensbasis gefundenen Abschnitte, die Lage auf der Seite (Name des Assistenten, Art der Seite, Ortszeit, Sprache) und, wenn eine Datei angehängt wurde, deren ausgelesener Text. Gespeichert: die Antwort als Chatnachricht; der Auftrag samt vollständigem Prompt in der KI-Auftragswarteschlange; ein Prüfeintrag im KI-Protokoll (Abschnitt 10). Abschalten: der Kunde je Projekt („Assistent antworten lassen"); der Betreiber per Not-Aus. Information: Hinweis und KI-Abzeichen (Abschnitt 7); Übergabe an einen Menschen (Abschnitt 9).
  2. Streaming. Antworten können in ganzen Sätzen erscheinen, während sie noch erzeugt werden. Eingaben und Speicherung wie 1; Betreiberschalter „Streaming".
  3. Zusammenfassung älterer Gesprächsteile. Damit lange Gespräche in das Kontextfenster passen, werden ältere Wechsel (bis 6.000 Zeichen) für den eigenen Gebrauch des Assistenten zusammengefasst. Die Zusammenfassung liegt nur im Arbeitsspeicher und wird niemandem angezeigt. Abschalten: Konfiguration des Betreibers.
  4. Übergabenotiz. Wird ein Gespräch an einen Menschen übergeben, kann das Modell eine kurze interne Notiz für den Agenten schreiben. Sie ist nur im Agentenpult sichtbar. Abschalten: Konfiguration des Betreibers.
  5. Copilot im Agentenpult. Auf Anforderung eines Agenten: ein Entwurf der nächsten Antwort, eine Zusammenfassung des Gesprächs für eine Kollegin oder einen Kollegen oder eine Umformulierung des eigenen Textes des Agenten in einem anderen Ton. Eingabe: Nachrichtentexte und Rollen, bei Entwürfen auch Abschnitte der Wissensbasis und der Projektname. Bevor der Text das Modell erreicht, werden E-Mail-Adressen, Telefonnummern, Ziffernfolgen ab sechs Stellen, IBANs, Kartennummern und Geheimnisse unkenntlich gemacht; Agentennamen, die Besucherkennung und Seitenadressen werden nicht übergeben. Nichts geht von selbst an den Besucher. Der Auftrag ist vertraulich (Abschnitt 10). Abschalten: Betreiberschalter „Copilot"; verlangt das Projekt die Einwilligung des Besuchers in die KI-Verarbeitung, nur mit dieser Einwilligung. Einen eigenen Schalter des Kunden für den Copilot gibt es derzeit nicht.
  6. Übersetzung im Agentenpult. Auf Anforderung (Befehl /translate) oder automatisch für ein Gespräch. Eingabe: der Nachrichtentext. Gespeichert: die Übersetzung bei der Nachricht und für 30 Tage im Gesprächszwischenspeicher; der Auftrag ist vertraulich (Abschnitt 10). Nur in bezahlten Plänen, mit Einwilligung des Besuchers, wo das Projekt sie verlangt, je Gespräch schaltbar und per Betreiberschalter.
  7. Smart Answer. Ein Suchfeld für die Website des Kunden, das Fragen aus der Wissensbasis beantwortet (eigener Dienst: der Answely-Dienst des Betreibers, vom selben Rechtsträger auf demselben Server betrieben). Eingabe: die Frage, die Adresse der Seite ohne Abfrageteil, der Seitentitel, Folgefragen. In Protokolle wird kein Inhalt geschrieben; ein Zähler mit der gekürzten IP-Adresse (IPv4 ohne das letzte Oktett, IPv6 auf das /48-Netz), aber ohne Text wird 7 Tage aufbewahrt, und eine erzeugte Antwort (Text und Quellen, die Frage nur als Hash) wird 24 Stunden zwischengespeichert. Abschalten: Betreiberschalter „Suche"; der Kunde richtet das Feld ein.
  8. Von Besuchern gesendete Bilder. Wo eingeschaltet, wird ein Bild je Nachricht an das Modell gegeben, auf höchstens 768 Pixel verkleinert und neu kodiert, wodurch eingebettete Metadaten wie EXIF- und GPS-Daten entfallen. Das Bild selbst wird nicht in der KI-Auftragswarteschlange gespeichert, nur ein Verweis. Betreiberschalter „KI-Bilder".
  9. Text angehängter Dateien. Aus PDF-, TXT- und CSV-Dateien gehen bis zu 2.500 Zeichen je Nachricht an das Modell. Die Datei wird für die Aufbewahrungsfrist des Plans gespeichert. Betreiberschalter „Upload". In Bildern erkannter Text (OCR) geht nicht an das Modell; er dient nur dazu, Zahlen in der Antwort zu prüfen.
  10. Bot-Aktionen. Wo der Kunde sie in einem bezahlten Plan eingerichtet hat: Bestellstatus aus den Shopdaten des Kunden, freie Termine und Buchung über Cal.com, Abo-Stand über Stripe und eigene HTTP-Aktionen des Kunden. Cal.com und Stripe werden mit den eigenen Konten des Kunden angesprochen; sie sind Dienste des Kunden, nicht des Betreibers. Von einem Ergebnis erhält das Modell nur die Antwortfelder, die der Kunde freigegeben hat (höchstens 300 Zeichen je Wert und 4.000 Zeichen insgesamt). Abschnitt 8.4 beschreibt die Sicherungen. Der Auftrag ist als vertraulich gekennzeichnet; sein Prompt wird nach der Lieferung geleert.
  11. Antworten aus Kundendaten. Hat der Kunde seine Shopdaten angebunden, kann der Assistent Fragen eines Besuchers zu dessen eigenen Bestellungen beantworten. Der Auftrag ist vertraulich; Prompt und Daten werden nach der Lieferung geleert.
  12. Proaktive Nachricht. Ein kurzer Eröffnungssatz, den das Widget als Blase zeigen kann, verfasst aus dem Seitentext (höchstens 1.200 Zeichen), dem Seitentitel, dem Namen des Assistenten und dem Ton des Teams. Wird im KI-Protokoll festgehalten. Gesteuert über die Regeln des Kunden.
  13. Wissenslücken. Auf Anforderung Entwürfe für Einträge der Wissensbasis zu Fragen, die der Assistent nicht beantworten konnte, höchstens 5 je Tag und Projekt. Die Entwürfe sind intern; ohne den Kunden wird nichts in die Wissensbasis übernommen.
  14. Automatische Qualitätsprüfung mit KI-Urteil (optional). Abschnitt 6.3.
  15. Einordnung für das Routing (optional). Höchstens einmal je Gespräch, nach der ersten Besuchernachricht, kann das Modell Themenetiketten aus der eigenen Liste des Kunden, eine Dringlichkeitsmarke und einen Stimmungswert (positiv, neutral, negativ, verärgert) vorschlagen. Eingabe: nur diese Nachricht, unkenntlich gemacht wie beim Copilot und auf 1.500 Zeichen gekürzt, und die Liste der Etiketten. Der Stimmungswert des Modells wird mit der Wortlisten-Stimmung verbunden: Es zählt der ungünstigere der beiden Werte. Etiketten und Stimmung können Bedingungen in den Routing-Regeln des Kunden sein; die Zuweisung selbst erfolgt nach diesen festen Regeln, nicht durch das Modell, und der Besucher wird darüber nicht informiert. Gespeichert: Die vom Modell vergebenen Etiketten werden Tags des Gesprächs und wie jedes andere Tag mit dem Gespräch aufbewahrt und gelöscht; Stimmungswert und Stand der Einordnung liegen nur in der Arbeitskopie des Gesprächs, die mit ihr verfällt; das Betriebsprotokoll vermerkt Etiketten und Stimmung ohne Nachrichtentext; der Auftrag ist vertraulich. Schalter: der Kunde je Projekt (aus, solange der Kunde ihn nicht einschaltet); nur in bezahlten Plänen; mit Einwilligung, wo verlangt; Betreiberschalter „Routing" und Not-Aus.
  16. Testläufe und Bot-Versionen. Testfragen, die der Kunde durch denselben Antwortweg wie den Live-Assistenten schickt, optional mit einem KI-Urteil über jede Antwort, um seine Einrichtung vor dem Livegang zu erproben. Ein Lauf erzeugt kein Gespräch, keine Nachricht und keinen Eintrag in Berichten. Testfragen können von Hand geschrieben oder aus Wissenslücken übernommen werden; übernommene Fragen sind echte Besucherfragen und laufen vorher durch den PII-Filter – steht er nicht zur Verfügung, wird nichts übernommen. Jede gespeicherte Änderung der Bot-Einstellungen wird als Version mit dem Namen der Person aufbewahrt, die sie gespeichert hat. Vertraulich; nach der Lieferung geleert. Betreiberschalter „Simulation".
  17. Einbettungen der Wissensbasis. Abschnitte der Website des Kunden (der Crawler beachtet robots.txt), hochgeladene Dateien (PDF, DOCX, TXT, Markdown, CSV, HTML), Dateien aus einem angebundenen Google Drive (nur Lesezugriff) und andere angebundene Quellen werden mit dem eigenen, selbst gehosteten Einbettungsmodell des Betreibers in Vektoren umgewandelt. Die Vektorkopie im Zwischenspeicher verfällt nach 30 Tagen, wenn sie nicht neu aufgebaut wird.
  18. Support-Assistent des Betreibers. Im eigenen Support des Betreibers für Kunden kann nach Unkenntlichmachung aus der Supportanfrage ein Antwortentwurf erzeugt werden. Eine Person des Betreibers prüft und versendet jede Antwort.

4.3 Funktionen ohne Modell

Die folgenden Funktionen arbeiten mit festen Regeln, Wortlisten oder Zählern und ohne KI-Modell. Sie werden genannt, weil sie manchmal für KI gehalten werden:

5. Rollen nach der KI-Verordnung

5.1 Der Betreiber als Anbieter

Der Assistent und die Agentenwerkzeuge sind KI-Systeme im Sinne von Artikel 3 Nummer 1 der KI-Verordnung: Sie erzeugen mit einem gewissen Grad an Autonomie Text aus Eingaben. Der Betreiber entwickelt diese Systeme um ein vorhandenes Modell herum (Prompts, Abruf, Prüfungen, Wächter, Schnittstellen) und nimmt sie unter dem Namen reactive.chat in Betrieb. Der Betreiber ist daher Anbieter dieser KI-Systeme im Sinne von Artikel 3 Nummer 3.

5.2 Der Kunde als Betreiber im Sinne der Verordnung

Der Kunde verwendet diese KI-Systeme in eigener Verantwortung im Rahmen seiner beruflichen Tätigkeit: Er entscheidet, ob der Assistent überhaupt antwortet, in welchen Projekten, unter welchem Namen und Rollentext, mit welcher Wissensbasis, mit welchem Antwortumfang und welchen Aktionen und welche Agentenwerkzeuge seine Teammitglieder nutzen. Der Kunde ist daher Betreiber (englisch „deployer") im Sinne von Artikel 3 Nummer 4. Einen Namen wählen, einen Rollentext schreiben, die Wissensbasis aufbauen und Funktionen ein- oder ausschalten sind gewöhnliche Einrichtung durch den Betreiber im Sinne der Verordnung; sie machen den Kunden nicht zum Anbieter.

Zum Anbieter würde der Kunde nach Artikel 25 Absatz 1 selbst, wenn er seinen Namen oder seine Marke auf ein Hochrisiko-KI-System setzte, ein solches wesentlich veränderte oder die Zweckbestimmung eines KI-Systems des Dienstes so änderte, dass es zu einem Hochrisiko-System wird (zum Beispiel, indem er den Assistenten zur Vorauswahl von Bewerbern oder zur Prüfung der Kreditwürdigkeit einsetzt, siehe Abschnitt 6.4).

5.3 Eigener KI-Knoten des Kunden

Bindet der Kunde einen eigenen KI-Knoten an, sendet der Dienst die Aufträge dieses Kunden an diesen Knoten. Der Betreiber bleibt Anbieter des Softwaresystems darum herum. Die Wahl des Modells, seine Lizenz, der Vertrag mit einem Dritten, der es betreibt, und der Ort, an dem es Daten verarbeitet, liegen dann in der Verantwortung des Kunden; dieser Dritte ist eigener Auftragsverarbeiter des Kunden, nicht Unterauftragsverarbeiter des Betreibers. Die Aussagen in den Abschnitten 4.1 und 11 über die Modelle und Knoten des Betreibers gelten nicht für Aufträge, die auf dem Knoten des Kunden verarbeitet werden.

5.4 Kein Anbieter eines KI-Modells mit allgemeinem Verwendungszweck

Kapitel V der KI-Verordnung (Artikel 51 bis 56) gilt für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Die Chatmodelle und das Einbettungsmodell der eigenen KI des Betreibers sind Modelle Dritter, unter offenen Lizenzen veröffentlicht; auch die genutzten 4-Bit-Formen sind von Dritten veröffentlicht. Der Betreiber nutzt sie unverändert und trainiert, verfeinert, quantisiert oder verändert sie nicht. Er ist daher kein Anbieter eines KI-Modells mit allgemeinem Verwendungszweck; die Pflichten für die Modelle selbst liegen bei deren Anbietern.

5.5 Betroffene Personen

Besucher sind die Personen, die mit dem Assistenten interagieren. Teammitglieder sind betroffen, wo Agentenwerkzeuge ihre Nachrichten verarbeiten; in der automatischen Qualitätsprüfung nur durch die regelbasierte Auswertung, weil das KI-Urteil für Gespräche, an denen sie beteiligt waren, nicht abgegeben wird (Abschnitt 6.3). Bewerber schützt die Sperre in Abschnitt 6.5.

6. Risikoeinstufung

6.1 Keine verbotenen Praktiken (Artikel 5)

Der Dienst verwendet und bietet nicht an: unterschwellige, manipulative oder täuschende Techniken, die Verhalten verzerren; die Ausnutzung von Schwächen aufgrund von Alter, Behinderung oder sozialer oder wirtschaftlicher Lage; soziale Bewertung; die Vorhersage von Straftaten aus Profilen; das ungezielte Auslesen von Gesichtsbildern; Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen; biometrische Kategorisierung; biometrische Fernidentifizierung.

Der Stimmungswert im Routing wird aus dem Text der Besuchernachrichten abgeleitet: über Wortlisten auf Deutsch, Englisch und Polnisch und, wo der Kunde die KI-Einordnung eingeschaltet hat (Abschnitt 4.2 Nummer 15), zusätzlich über die Einschätzung des Modells aus der ersten Nachricht. Auch die Ärger- und Dankeswörter in der Qualitätsprüfung sind Wortlisten. Diese Funktionen schließen nur aus geschriebenem Text auf eine Stimmung; sie nutzen keine Stimm-, Bild- oder anderen biometrischen Daten. Sie sind daher kein Emotionserkennungssystem im Sinne von Artikel 3 Nummer 39, das biometrische Daten voraussetzt, und fallen nicht unter das Verbot des Artikels 5 Absatz 1 Buchstabe f, das Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen betrifft. Der Wert betrifft die Nachricht des Besuchers, nicht ein Teammitglied; er entscheidet allein nichts über den Besucher und dient nur als Bedingung in den Routing-Regeln des Kunden. Er darf nicht verwendet werden, um auf den Gefühlszustand von Teammitgliedern zu schließen.

6.2 Kein Hochrisiko-System nach seiner Zweckbestimmung

Anhang III nennt die Hochrisiko-Bereiche: Biometrie, kritische Infrastruktur, allgemeine und berufliche Bildung, Beschäftigung und Personalmanagement, Zugang zu grundlegenden privaten und öffentlichen Diensten (einschließlich Kreditwürdigkeit und Versicherungstarifen), Strafverfolgung, Migration sowie Rechtspflege und demokratische Prozesse. Die Zweckbestimmung des Assistenten und der Agentenwerkzeuge ist die Kundenkommunikation auf einer Unternehmenswebsite: Fragen beantworten, an Menschen übergeben und Agenten beim Schreiben helfen. Dieser Zweck steht nicht in Anhang III. Der Assistent trifft oder bereitet keine Entscheidungen über Besucher in diesen Bereichen vor und trifft keine Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung im Sinne von Artikel 22 DSGVO.

Zwei Funktionen würden Anhang III Nummer 4 (Beschäftigung und Personalmanagement) berühren, wenn sie nicht begrenzt wären. Der Betreiber hält die Einschätzung „kein Hochrisiko" nur, weil beide Grenzen im Dienst eingebaut sind und vom Kunden nicht abgeschaltet werden können: Das KI-Urteil der Qualitätsprüfung wird nie für Gespräche abgegeben, an denen ein Teammitglied beteiligt war, und nie einem Teammitglied zugerechnet (Abschnitt 6.3), und Bewerbungen werden von keinem Modell verarbeitet (Abschnitt 6.5). Fiele eine dieser Grenzen weg, müsste die Einschätzung neu getroffen werden.

6.3 Automatische Qualitätsprüfung und die Bewertung von Agenten (Anhang III Nummer 4 Buchstabe b)

Die automatische Qualitätsprüfung (AutoQA) bewertet abgeschlossene Gespräche (geschlossen oder 6 Stunden ohne Aktivität). Ihr Regelteil nutzt feste Signale (ob das Anliegen gelöst wurde, Antwortzeiten, Übergabegründe, die eigene Bewertung des Besuchers, Wortlisten) mit festen Gewichten und ist keine KI.

Optional, in einem bezahlten Plan, kann der Kunde ein KI-Urteil hinzunehmen (Workspace-Einstellung, aus, solange der Kunde sie nicht einschaltet). Das KI-Urteil wird nur für Gespräche abgegeben, an denen kein Teammitglied beteiligt war – keine Nachricht eines Agenten und kein Agent zugewiesen –, also für Gespräche, die der Assistent allein geführt hat. Kommt später ein Agent dazu, wird ein bereits abgegebenes KI-Urteil verworfen, und es gilt wieder der Regelwert. Für das Urteil liest das Modell die Nachrichten von Besucher und Assistent (höchstens 60 Nachrichten, höchstens 6.000 Zeichen), nachdem sie den PII-Filter durchlaufen haben und die im Gespräch bekannten Namen (Absendernamen, Namensfelder von Formularen, vom Kunden übergebene Namen) durch einen Platzhalter ersetzt wurden; Namen, die nur im freien Text stehen, werden nicht erkannt. Der Auftrag ist vertraulich; sein Prompt wird nach der Lieferung geleert. Er unterliegt einem Tagesdeckel je Projekt, höchstens der Hälfte des KI-Budgets des Projekts, dem Betreiberschalter „AutoQA", dem KI-Not-Aus und, wo das Projekt sie verlangt, der Einwilligung des Besuchers. Angezeigt wird dann das Mittel aus Regelwert und KI-Wert. Bewertungen einschließlich der Begründung der KI werden beim Gespräch gespeichert und mit ihm gelöscht; wird ein Gespräch anonymisiert, werden die Begründung der KI und der Bezug zum Agenten geleert.

Der Dienst kann Bewertungen je Agent zeigen. Diese Auswertung wird ausschließlich aus dem Regelwert berechnet; ein KI-Wert fließt nie ein. Sie steht nur owner und admins offen, kann Pseudonyme statt Namen zeigen und ist je Workspace abschaltbar; ist sie aus, wird die Zuordnung zum Agenten nicht einmal gespeichert.

Anhang III Nummer 4 Buchstabe b erfasst KI-Systeme, die bestimmungsgemäß zur Beobachtung und Bewertung der Leistung und des Verhaltens von Personen in Beschäftigungsverhältnissen verwendet werden sollen. Die Einschätzung des Betreibers:

6.4 Nutzung durch den Kunden in einem Hochrisiko-Bereich

Nutzt der Kunde den Dienst in einem in Anhang III genannten Bereich, zum Beispiel zur Vorauswahl von Bewerbern, zur Entscheidung über den Zugang zu Bildung oder zur Prüfung von Kreditwürdigkeit oder Versicherungsrisiken, liegt diese Nutzung außerhalb der Zweckbestimmung. Der Kunde muss seine Pflichten vor einer solchen Nutzung prüfen und den Betreiber vorab informieren; der Betreiber kann eine solche Nutzung ablehnen oder beenden. Eine Nutzung für die Zwecke des Anhangs III Nummer 4 (Beschäftigung und Personalmanagement) ist ganz ausgeschlossen (Abschnitt 6.5).

6.5 Ausgeschlossene Verwendung: Bewerbungen und Beschäftigung

Die KI-Funktionen des Dienstes sind nicht dazu bestimmt, Bewerbungen, Lebensläufe, Anschreiben oder Zeugnisse anzunehmen, zu sichten, zusammenzufassen, zu filtern oder zu bewerten oder eine Einschätzung zur Eignung, Leistung oder zum Verhalten von Bewerbern oder Beschäftigten abzugeben (Anhang III Nummer 4 der KI-Verordnung). Das ist zusätzlich technisch abgesichert – im Chat, in Smart Answer, im KI-Urteil der Testläufe und im Support-Assistenten des Betreibers; die Grenzen stehen unten.

7. Transparenz gegenüber Besuchern (Artikel 50)

7.1 Was Artikel 50 verlangt

Artikel 50 Absatz 1 verpflichtet Anbieter, KI-Systeme, die unmittelbar mit Menschen interagieren, so zu gestalten, dass diese Menschen informiert werden, dass sie mit einem KI-System interagieren, es sei denn, das ist aus den Umständen offensichtlich. Nach Artikel 50 Absatz 5 muss die Information klar und eindeutig sein und spätestens zum Zeitpunkt der ersten Interaktion gegeben werden. Artikel 50 Absatz 2 verlangt von Anbietern von Systemen, die synthetischen Text erzeugen, die Ausgabe in einem maschinenlesbaren Format zu kennzeichnen, sodass sie als künstlich erzeugt erkennbar ist, es sei denn, das System erfüllt nur eine unterstützende Funktion für die Standardbearbeitung oder verändert die Eingabe nicht wesentlich.

7.2 Wie der Dienst das umsetzt

7.3 Was der Kunde tun muss

Der Kunde kann alle Texte des Widgets ändern, im Dashboard wie über die Konfiguration im Einbettungscode, und eigene Stylesheets hinzufügen. Der Dienst hindert den Kunden technisch nicht daran, den Hinweis, das KI-Abzeichen oder den Untertitel zu ändern oder auszublenden. Sie zu erhalten, ist deshalb eine vertragliche Pflicht des Kunden als Betreiber im Sinne der Verordnung:

Ein Verstoß gegen diese Pflichten ist ein Verstoß gegen die Nutzungsbedingungen und gegen die Richtlinie zur zulässigen Nutzung und Missbrauchsbekämpfung.

7.4 KI-Werkzeuge für Agenten

Entwürfe, Umformulierungen und Übersetzungen aus den Agentenwerkzeugen erreichen den Besucher nur, wenn ein Agent sie absendet. Sie gehen dann unter dem Namen des Agenten hinaus, ohne KI-Abzeichen, und sind eigene Aussagen des Agenten, für die der Kunde verantwortlich ist. Der Betreiber sieht in diesen Werkzeugen eine unterstützende Funktion für die Bearbeitung im Sinne von Artikel 50 Absatz 2, weil ein Mensch den Text prüft und absendet. Eine übersetzte Antwort wird dem Agenten vor dem Absenden gezeigt. Das Widget kennzeichnet solche Nachrichten nicht gesondert. Bevor ein Entwurf angezeigt wird, gleicht der Dienst ihn mit dem Gespräch und den verwendeten Abschnitten der Wissensbasis ab und weist den Agenten auf Zahlen und Links hin, die dort nicht vorkommen; diese Prüfung ersetzt nicht die eigene Prüfung durch den Agenten. Will der Kunde, dass Besucher wissen, dass Antworten übersetzt oder mit KI-Unterstützung entworfen werden, kann er das in eigenen Texten sagen.

8. Wie Antworten entstehen und wo ihre Grenzen liegen

8.1 Quellen einer Antwort

8.2 Schutz vor Missbrauch des Assistenten

Der Assistent ist ein Kundendienst-Assistent, keine kostenlose allgemeine KI. In der Voreinstellung führt er keine Arbeitsaufträge aus, etwa Code schreiben, Texte verfassen, eingefügte Textblöcke übersetzen, Hausaufgaben lösen oder eingefügten Text umschreiben; der Kunde kann das je Projekt erlauben. Der Schutz wirkt in vier Schichten:

  1. eine Prüfung der Besuchernachricht, bevor das Modell gefragt wird, anhand der grammatischen Form und struktureller Belege (zum Beispiel eingefügter Code), auf Deutsch, Englisch und Polnisch, mit festen Regeln und ohne Modell; greift sie, wird das Modell nicht gefragt;
  2. eine Urteilszeile, die das Modell jeder freien Antwort anfügen muss und die der Server auswertet;
  3. eine Prüfung der Antwort auf Code, unabhängig vom Urteil;
  4. ein Deckel je Gespräch für Antworten aus Allgemeinwissen (voreingestellt 3); danach werden dem Besucher das Kontaktformular oder eine Übergabe angeboten.

Diese Schichten erkennen Arbeitsaufträge an ihrer Form. Eine eigene Erkennung von Anweisungen, die im Inhalt der Wissensbasis oder von Webseiten versteckt sind („Prompt-Injection"), gibt es nicht; Inhalte der Wissensbasis werden nicht gefiltert. Die Sicherungen in den Abschnitten 8.3 und 8.4 begrenzen, was eine solche Anweisung bewirken könnte, aber für das, was er in seine Wissensbasis stellt, ist der Kunde verantwortlich.

8.3 Prüfung vor der Auslieferung

Bevor eine auf der Wissensbasis beruhende Antwort ausgeliefert wird, prüft der Dienst, ob Aussagen, bei denen Modelle zu Fehlern neigen, von den verwendeten Abschnitten und von der Seite gedeckt sind, auf der der Besucher ist: Zahlen, Wochentage, Wörter wie „Wochenende" oder „Werktage" und Wörter wie „kostenlos". Die Prüfung arbeitet mit festen Regeln, nicht mit einem zweiten Modell. Ist eine Aussage nicht gedeckt, wird die Formulierung des Modells nicht ausgeliefert; der Besucher erhält stattdessen einen wörtlich zitierten Abschnitt der Wissensbasis oder einen festen Satz. Das Ergebnis der Prüfung wird im KI-Protokoll festgehalten.

8.4 Bot-Aktionen nur mit Bestätigung

Der Assistent handelt in anderen Systemen nicht aus eigenem Antrieb. Er kann nur die Aktionen nutzen, die der Kunde eingerichtet hat, und für diese schlägt das Modell nur vor, welche Aktion zur Nachricht passt und welche Werte aus dem Gespräch dazugehören. Der Server entscheidet: Er prüft die Werte gegen das Schema der Aktion, nimmt nur Werte an, die tatsächlich im Gespräch stehen, entnimmt die Identität des Besuchers nur der bestätigten Identität der Sitzung und nie dem Modell und führt eine Aktion, die etwas verändert (zum Beispiel eine Buchung), erst aus, nachdem der Besucher bei einer Bestätigung genau dieser Aktion auf „Ja" geklickt hat; die Bestätigung gilt 10 Minuten und bucht nur einmal. Ein Termin wird nur für eine E-Mail-Adresse gebucht, die die Website des Kunden mit ihrer Signatur bestätigt hat; eine in den Chat getippte Adresse wird dafür nicht verwendet. Nur lesende Aktionen (zum Beispiel Bestellstatus, freie Termine) laufen ohne eigene Bestätigung, wenn die Nachricht sie verlangt. Das Modell formuliert danach die Antwort aus dem Ergebnis, und diese Antwort wird gegen das Ergebnis geprüft. Die ausgehenden Anfragen stellt der Dienst – bei eigenen Aktionen nur über HTTPS an öffentliche Adressen, mit einer Zeitgrenze von 5 Sekunden und höchstens 64 kB Antwort; das Modell sieht die Zugangsdaten der Systeme des Kunden nie.

8.5 Bekannte Grenzen und Fehlerarten

Kunden und ihre Agenten sollten diese Grenzen kennen:

9. Menschliche Aufsicht und Übergabe

Förmliche Anforderungen an die menschliche Aufsicht (Artikel 14) stellt die KI-Verordnung nur an Hochrisiko-Systeme. Der Dienst gibt Menschen dennoch die Kontrolle über jedes Gespräch:

10. Protokollierung und Nachvollziehbarkeit

11. Daten, Training und Evaluation

12. KI-Kompetenz (Artikel 4)

Artikel 4 verpflichtet Anbieter und Betreiber, Maßnahmen zu ergreifen, um ein ausreichendes Maß an KI-Kompetenz ihres Personals und anderer Personen sicherzustellen, die in ihrem Auftrag mit KI-Systemen befasst sind.

Auf Seiten des Betreibers kennen die Personen, die die KI-Funktionen entwickeln und betreiben, die Arbeitsweise der Modelle, ihre Grenzen und die Anforderungen der KI-Verordnung; diese Seite und die technische Dokumentation des Dienstes sind Teil davon.

Auf Seiten des Kunden ist der Kunde für seine Teammitglieder verantwortlich. Der Betreiber empfiehlt, dass owner oder ein admin jeden neuen Agenten durch diese Punkte führt, bevor er Zugang erhält:

  1. Wissen, was der Assistent ist. Er erzeugt die plausibelste Antwort aus der Wissensbasis, dem Gespräch und, je nach Einstellung, Allgemeinwissen. Er kann selbstsicher falsch liegen.
  2. Prüfen, bevor man sich verlässt. Bevor eine Antwort des Assistenten wiederholt oder bestätigt wird, sie gegen die Wissensbasis oder eigene Quellen des Kunden prüfen. Preise, Verfügbarkeit, Fristen und rechtliche Aussagen brauchen besondere Sorgfalt. Dasselbe gilt für Entwürfe, Zusammenfassungen und Übersetzungen aus den Agentenwerkzeugen.
  3. Übernehmen, wenn nötig. Wenn der Besucher nach einem Menschen fragt; wenn das Thema heikel ist (Beschwerden, Gesundheit, Geld, Rechtsfragen, Minderjährige); wenn der Besucher belastet wirkt; wenn der Assistent sich wiederholt oder widerspricht.
  4. Die Quelle berichtigen. Ist eine Antwort falsch, weil die Wissensbasis falsch oder veraltet ist, das Dokument oder die Abrufquelle berichtigen. Stimmt die Wissensbasis und ist die Antwort trotzdem falsch, sie melden (Abschnitt 14).
  5. Keine Geheimnisse einspeisen. Keine personenbezogenen Daten, Passwörter oder vertraulichen Dokumente in die Wissensbasis stellen, es sei denn, sie sollen Besuchern gezeigt werden.
  6. Keine Bewertung von Kollegen durch KI. KI-Bewertungen gibt es nur für Gespräche ohne Menschen; KI-Ausgaben gleich welcher Art nicht verwenden, um einzelne Kolleginnen und Kollegen zu beurteilen (Abschnitt 6.3).
  7. Keine Bewerbungen. Der Chat nimmt keine Bewerbungen an und bewertet sie nicht; Bewerber auf den Bewerbungsweg des Kunden verweisen (Abschnitt 6.5).

13. Schalter und Not-Aus

14. Meldung von Fehlern und Vorfällen

Erzeugt der Assistent oder ein Agentenwerkzeug eine Antwort, die schädlich, diskriminierend, rechtswidrig oder gefährlich falsch ist, gibt er sich als Mensch aus oder fehlt das KI-Abzeichen, melden Sie es an contact@lukaswojcik.com. Bitte nennen Sie das Projekt (Site-Key oder Website-Adresse), die ungefähre Uhrzeit, die Gesprächsnummer, falls vorhanden, und was falsch war. Auch Besucher können solche Meldungen senden; sie werden an den betroffenen Kunden weitergeleitet, wo die Sache bei Inhalten oder Einstellungen des Kunden liegt.

Der Betreiber prüft jede Meldung, antwortet binnen 14 Tagen wie unter Reklamationen beschrieben und behebt, wo eine Meldung einen Fehler in Modellen, Prompts oder Prüfungen aufdeckt, diesen für alle Kunden. Betrifft eine Meldung personenbezogene Daten, wird sie nach dem Datenpannen-Verfahren des Betreibers behandelt; der Betreiber informiert betroffene Kunden unverzüglich und spätestens binnen 48 Stunden, nachdem ihm eine Verletzung bekannt geworden ist. Rechtswidrige Inhalte in Nachrichten von Menschen, im Unterschied zu Antworten des Assistenten, können nach dem Melde- und Abhilfeverfahren der Richtlinie zur zulässigen Nutzung und Missbrauchsbekämpfung gemeldet werden.

15. Wer wofür verantwortlich ist

Es gelten die Haftungsregeln der Nutzungsbedingungen.

16. Änderungen und Kontakt

Der Betreiber aktualisiert diese Seite, wenn eine KI-Funktion hinzukommt, geändert oder entfernt wird, wenn sich die Modelle ändern oder wenn sich die rechtlichen Anforderungen ändern. Wesentliche Änderungen werden den Kunden per E-Mail oder im Dashboard angekündigt, bevor sie wirksam werden. Fragen zum Einsatz von KI: contact@lukaswojcik.com. Aufsichtsbehörde für den Datenschutz: Präsident des Amtes für den Schutz personenbezogener Daten (Prezes UODO), ul. Stawki 2, 00-193 Warszawa, Polen.

Fassung 2.4 ersetzt Fassung 2.3 vom 16. Oktober 2026. Geändert: Die KI wird einheitlich als eigene, selbst gehostete KI des Betreibers bezeichnet; Modell- und Softwarenamen entfernt, die Tatsachen sind unverändert (4.1, 4.2, 5.4).

Fassung 2.3 ersetzt Fassung 2.2 vom 12. Oktober 2026. Berichtigt: Chatmodelle der eigenen KI des Betreibers auf der zweiten Stufe und als Reserve auf der ersten Stufe, Free-Pläne nur auf der ersten Stufe (1, 4.1, 5.4); Zähler von Smart Answer mit gekürzter IP-Adresse (4.2); Bewerbungen: Erkennung und zweite Schranke auch in Smart Answer (wie bisher, zuvor unzutreffend beschrieben), im KI-Urteil der Testläufe und im Support-Assistenten, als Text geschriebene Dateinamen (6.5). Ergänzt am 16. Oktober 2026: Bewerbungen gehen auch nicht in die Einbettung von Suchfragen, in Testfragen und vorgeschlagene Testfragen und in Wissenslücken; als Text geschriebene Dateinamen werden auch im Chat und in Smart Answer erkannt (6.5). Weiter ergänzt am 16. Oktober 2026: Dateinamen unabhängig von Leerzeichen und anderen Trennzeichen, Schreibweise und Akzenten erkannt, an jeder Stelle des Namens (6.5).

Fassung 2.2 ersetzt Fassung 2.1 vom 11. Oktober 2026. Berichtigt: Routing-Etiketten werden als Tags des Gesprächs gespeichert (4.2); Smart Answer über den Answely-Dienst, Zähler mit IP-Adresse und Zwischenspeicher für Antworten von 24 Stunden (4.2, 10); Aufträge von Copilot und Übersetzung vertraulich, und was von vertraulichen Aufträgen bleibt (4.2, 10); Google Drive nur lesend (4.2); Agentenwerkzeuge: keine gesonderte Kennzeichnung gegenüber Besuchern, Prüfung der Entwürfe auf Zahlen und Links (7.4); Umfang der Unkenntlichmachung vor der Speicherung (11); Bewerbungssperre: welche KI-Funktionen Erkennung und Anweisung nutzen (6.5).

Fassung 2.1 ersetzt Fassung 2.0 vom 11. Oktober 2026. Geändert: KI-Urteil der Qualitätsprüfung nur für Gespräche ohne menschliche Beteiligung und nie einem Teammitglied zugerechnet, Auswertung je Agent nur regelbasiert (6.3); neuer Abschnitt 6.5 zur ausgeschlossenen Verwendung für Bewerbungen und Beschäftigung; Einstufung als nicht hochriskant an diese Grenzen gebunden (6.2); Stimmungswert im Routing einschließlich der Einschätzung des Modells und warum er keine Emotionserkennung ist (6.1, 4.2); Bot-Aktionen mit Cal.com und Stripe des Kunden, Bestätigung per Klick und signierte E-Mail-Adresse (4.2, 8.4); Testläufe, Bot-Versionen, Dateien der Wissensbasis und Google Drive (4.2); Funktionen ohne Modell ergänzt (4.3).

Fassung 2.4 – gültig ab 17. Oktober 2026.

Stand: