Bei Microsoft Copilot ist Privates offenbar nicht so privat, wie viele Nutzer annehmen

Wer bei einem KI-Tool ein Foto hochlädt, denkt oft zuerst an die Funktion. Weniger an die Menschen im Hintergrund. Genau da liegt das Problem bei Microsoft Copilot.

Ein neuer Bericht beschreibt, dass menschliche Prüfer bei Copilot nicht nur Texte sehen können, sondern auch hochgeladene Bilder und daraus erzeugte sexualisierte KI-Bearbeitungen. Betroffen sind demnach Inhalte, die Nutzer in das System geben, und Ergebnisse, die das System wieder ausspuckt. Laut Bericht geht es dabei um mindestens Hunderte externe Kräfte.

Das ist mehr als ein unschöner Nebensatz in einer Datenschutzdebatte. Es berührt einen Punkt, den viele KI-Anbieter bis heute zu weich formulieren: Wer generative KI nutzt, übergibt oft sehr persönliche Daten an ein System, das nicht rein maschinell arbeitet. Hinter vielen Produkten sitzen Moderations- und Qualitätsteams. Bei Texten ist das schon heikel. Bei Fotos wird es schnell intim.

Brisant wird der Fall durch den Hinweis auf sexualisierte Bildbearbeitungen. Denn hier reden wir nicht über harmlose Stilfilter oder Freisteller. Sobald ein hochgeladenes Foto in einen sexualisierten Kontext gezogen wird, steigt das Missbrauchsrisiko massiv. Für Betroffene kann schon die Möglichkeit, dass fremde Menschen solche Inhalte sehen, ein harter Eingriff sein.

Technisch ist menschliche Kontrolle bei generativen Systemen kein Ausrutscher. Anbieter setzen sie ein, um Missbrauch zu erkennen, Modelle zu bewerten und problematische Ausgaben zu prüfen. Das ist in vielen Fällen nachvollziehbar. Nur: Der Zweck macht die Sache nicht harmlos. Wenn echte Personen reale Nutzerbilder sichten, muss das für Nutzer glasklar erkennbar sein. Nicht versteckt, nicht im Kleingedruckten, nicht hinter pauschalen Formulierungen.

Für Microsoft ist das heikel, weil Copilot längst tiefer verkauft wird als ein Experiment für Spielereien. Die Marke steht für Produktivität, Alltag und zunehmend auch Vertrauen im Arbeitskontext. Gerade deshalb wiegt jede Unklarheit beim Umgang mit Nutzerinhalten schwer. Wer Copilot als Assistent in Windows, im Web oder in anderen Diensten nutzt, muss wissen, ob private Uploads nur maschinell verarbeitet werden oder ob Menschen hineinschauen können.

Der Fall trifft auch einen größeren Trend. KI-Produkte wirken oft direkt, persönlich und fast privat. Man lädt ein Bild hoch, schreibt eine Anweisung, bekommt Sekunden später ein Ergebnis. Diese Oberfläche vermittelt Nähe. Im Hintergrund laufen aber Sicherheitsprüfungen, Moderationsketten und manuelle Kontrollen. Die Lücke zwischen Nutzergefühl und realem Datenfluss ist noch immer zu groß.

Für Nutzer heißt das vor allem eins: Keine Bilder hochladen, deren Sichtung durch Dritte ein Problem wäre. Das ist keine elegante Lösung, sondern Selbstschutz. Die Verantwortung liegt am Ende bei den Anbietern. Wer mit persönlichen Fotos arbeitet, muss unmissverständlich sagen, wann Menschen Zugriff haben können und zu welchem Zweck.

Microsoft steht damit vor einer einfachen Frage mit unangenehmer Antwort: Reicht die Transparenz rund um Copilot wirklich aus? Wenn Nutzer erst durch Berichte erfahren, dass Menschen ihre Uploads und heikle KI-Bearbeitungen sehen können, dann ist die Antwort ziemlich klar: nein.