Zum Inhalt springen

Leitfaden

Datenschutz und Grenzen der KI

KI-Funktionen · 5 Min. Lesezeit

Dieser Artikel erklärt, was die KI-Funktionen deiner Community an KI-Anbieter senden, was Mateflow speichert, was Mitglieder in KI-Antworten sehen können und wo KI an ihre Grenzen stößt. Lies ihn, bevor du KI-Funktionen einschaltest.

Wer kann das tun: Inhaber und Administratoren richten die KI-Funktionen ein; angemeldete Mitglieder nutzen sie. · Wo: KI-Funktionen werden im Web in der Admin-Konsole eingerichtet; Mitglieder nutzen den KI-Assistenten im Web und in der Mateflow-App. · Tarif: Die KI-Funktionen hängen von deinem Plattform-Tarif ab.

Was der KI-Assistent an einen KI-Anbieter sendet

Mateflow verwaltet die KI-Modelle für dich und verarbeitet KI-Funktionen über die API von OpenAI:

  • Der KI-Assistent (KI-Copilot), die KI-Schreibwerkzeuge und die Erstellung von Kursgliederungen und Quizfragen nutzen GPT-4o mini von OpenAI. Diese Anfragen laufen auf dem Weg zu OpenAI über Cloudflare AI Gateway.
  • Die KI-Moderation nutzt das Modell omni-moderation-latest von OpenAI.
  • Die Wissensdatenbank nutzt das Modell text-embedding-3-small von OpenAI, um deine Quellen zu indizieren, damit Fragen ihnen zugeordnet werden können.

Weder Mitglieder noch Administratoren können diese Modelle ändern. Gemäß der API-Datenrichtlinie von OpenAI werden Daten, die über die API gesendet werden, standardmäßig nicht zum Trainieren der Modelle von OpenAI verwendet, und OpenAI kann sie bis zu 30 Tage lang aufbewahren, um Missbrauch zu erkennen.

Wenn ein Mitglied dem KI-Assistenten eine Frage stellt, durchsucht Mateflow zuerst deine Wissensdatenbank und, falls eingeschaltet, deine Community-Beiträge. Dann sendet es die Frage zusammen mit den passenden Auszügen an das Modell. Der Assistent durchsucht nicht das Web. Andere KI-Funktionen senden nur das, woran sie arbeiten: den Text, den jemand mit Mit KI verbessern verbessern lässt, die Kursdetails für KI-Kursgliederung oder den Lektionstext bzw. die Untertitel, aus denen ein Quiz erstellt wird. Wenn deine Community bereits einen eigenen Schlüssel eines KI-Anbieters verwendet (BYOK), gehen diese Anfragen an diesen Anbieter.

Was die KI-Moderation an OpenAI sendet

Die KI-Moderation ist eine eigene Funktion, die unter Admin → Einstellungen → Inhaltssicherheit eingerichtet wird. Auf der Seite steht Powered by OpenAI Moderation. Inhalte werden an einen Drittanbieter-Dienst gesendet — überprüfe deine Datenschutzerklärung vor der Aktivierung.

  • Gesendet werden nur Titel und Text dessen, was du unter Scannen auswählst: Beiträge der obersten Ebene, Antworten und Kommentare oder beides. Bilder, Anhänge und Videos werden nicht gesendet.
  • Wenn KI-Moderation aktivieren ausgeschaltet ist, wird nichts gesendet.
  • Die Bewertungen und Kategorien jeder Entscheidung werden ohne den Beitragstext 365 Tage lang aufbewahrt.

Die KI-Moderation kann sich in beide Richtungen irren: Sie kann harmlose Beiträge markieren und schädliche übersehen. Sie trifft keine endgültigen Entscheidungen allein. Im Modus Enforce warten Inhalte, die sie ausblendet oder markiert, darauf, dass ein Moderator sie behält oder entfernt. Siehe Inhalte mit KI moderieren.

Was Mateflow aus KI-Funktionen speichert

Mateflow bewahrt für deine Community diese KI-Daten auf:

  • KI-Chats der Mitglieder. Die Unterhaltungen jedes Mitglieds werden unter Chatverlauf gespeichert, und nur dieses Mitglied sieht sie. Chats laufen nach 180 Tagen ab. Mitglieder können einen Chat schon früher löschen, im Web oder in der App; im Web können sie ihn auch umbenennen oder als Markdown oder JSON exportieren.
  • Trefferprotokolle. Jede Frage, die Antwort und ihre Quellennachweise werden für Inhaber und Administratoren unter Admin → KI-Copilot → Trefferprotokolle erfasst. Die Seite zeigt nicht, welches Mitglied gefragt hat. Das Löschen eines Chats löscht nicht seine Trefferprotokolle. Siehe Antworten des KI-Assistenten prüfen und Lücken schließen.
  • Dateien und Seiten der Wissensdatenbank. Dateien, die du hochlädst, und Seiten, die Mateflow crawlt, werden nur für den KI-Assistenten gespeichert und indiziert. Sie erscheinen nicht in deiner Medienbibliothek. Wenn du eine Quelle löschst, werden ihre indizierten Dokumente entfernt.

Community-Beiträge werden nicht in die Wissensdatenbank kopiert; der Assistent durchsucht sie dort, wo sie liegen. Wenn du ein Mitglied aus deiner Community entfernst, werden seine KI-Chats und Trefferprotokolle gelöscht. Wenn eine Community gelöscht wird, werden alle ihre KI-Daten mit gelöscht.

Welche Inhalte Mitglieder in KI-Antworten sehen können

Der KI-Assistent antwortet jedem Mitglied nur aus Community-Beiträgen, die dieses Mitglied ohnehin öffnen kann. Beiträge in privaten oder geheimen Spaces werden nur für Mitglieder dieser Spaces verwendet. Entwürfe, Beiträge, die auf Genehmigung warten, ausgeblendete oder gelöschte Beiträge sowie Beiträge in archivierten Spaces werden nie verwendet. Gäste können den KI-Assistenten nicht nutzen.

Bei der Wissensdatenbank ist das anders. Wissensquellen haben keine Berechtigungen auf Mitgliederebene, daher kann alles in der Wissensdatenbank in einer Antwort an jedes Mitglied erscheinen, das den KI-Assistenten nutzt. Füge keine Dateien oder Seiten hinzu, die manche Mitglieder nicht lesen sollen.

Wie du festlegst, welche Spaces durchsucht werden, erfährst du unter Festlegen, welche Spaces der KI-Assistent durchsuchen kann.

KI-Antworten können falsch sein

Der KI-Assistent kann eine Frage oder seine Quellen missverstehen. Mitglieder sehen unter dem Chatfeld KI kann Fehler machen. Bitte überprüfe wichtige Informationen. Jede Antwort listet ihre Quellen auf, und wenn man mit dem Mauszeiger über ihren Prozentwert fährt, erscheint KI-Konfidenzwert für diese Antwort. Wenn die Belege zu dünn sind, sehen Mitglieder Unzureichende Belege statt einer Vermutung. Eine Antwort, die vorzeitig abbricht, ist mit Generierung vorzeitig gestoppt — diese Antwort ist unvollständig. gekennzeichnet.

Eine Antwort ist nur so aktuell und korrekt wie deine Wissensdatenbank und deine Beiträge. Prüfe Fragen mit niedriger Konfidenz unter Trefferprotokolle und korrigiere die Quellen dahinter.

Verwandte Artikel

War dieser Leitfaden hilfreich?

Zurück zu den Leitfäden

Sie finden nicht, was Sie brauchen?

Wenn Sie Mitglied einer Community sind, helfen Ihnen deren Admins weiter. Wenn Sie eine Community auf Mateflow aufbauen oder betreiben, hilft Ihnen unser Team.

Kostenlos testen