Dein KI-Agent kennt deine Passwörter. Wo landen sie?

Direkt ins Modell

Die meisten KI-Agenten nehmen sich, was sie brauchen, und füttern damit das Sprachmodell. So funktionieren sie eben. Das Modell liest die Aufgabe, die Dateien, den Kontext, und ja, oft auch die Zugangsdaten.

Das heißt: Dein Passwort bleibt nicht auf deinem Rechner. Es wandert quer durchs Internet zu einem Modellanbieter, liegt in dessen Systemen und passiert auf dem Weg wer weiß wie viele Server. Dasselbe gilt für den Vertrag, den du hochgeladen hast, die Kundenliste, das vertrauliche Dokument, die Privatadresse in dieser einen E-Mail.

Du hast es einmal eingetippt. Jetzt liegt es irgendwo, wo du keinen Einblick hast, unter Bedingungen, die sich jeden Monat ändern, auf einer Infrastruktur, die du nicht kontrollierst.

„Gelöscht“ heißt nicht gelöscht

Viele gehen davon aus, dass die Daten weg sind, sobald eine Aufgabe erledigt ist. Sind sie nicht. Du siehst sie nur nicht mehr.

Anbieter führen Logs. Konversationen mit der KI werden gespeichert – für Sicherheitsprüfungen, zur Missbrauchserkennung, manchmal fürs Training, und echte Menschen lesen sie sogar mit. „Wir trainieren nicht mit deinen Daten“ kommt oft mit einem Sternchen daher, und selbst wenn es stimmt, sind die Daten trotzdem durchgelaufen und unterwegs gespeichert worden. Du hast keine echte Möglichkeit, zu überprüfen, was wie lange behalten wurde.

Bei einer beiläufigen Frage ist das okay. Bei einem Passwort, einer unterschriebenen Geheimhaltungsvereinbarung, den persönlichen Daten eines Kunden wird es gefährlich. Informationen, deren Schutz dir rechtlich obliegt, gehören nicht in eine Blackbox, die du nicht prüfen kannst.

Die Geheimhaltungsvereinbarung, die du gerade gebrochen hast

Das ist der Punkt, der die Leute erwischt. Wenn du an eine Geheimhaltungsvereinbarung gebunden bist oder Kundendaten gemäß DSGVO verwaltest, kann es schon für sich genommen ein Verstoß sein, das in ein Modell eines Drittanbieters zu füttern – du hast geschützte Informationen an eine Partei weitergegeben, die nie autorisiert war, sie zu erhalten. Und dann wird das System gehackt und alle Informationen sind draußen.

Die meisten, die das tun, haben keine Ahnung, dass sie es tun. Der Agent macht es einfach, und der soziale Druck gibt dir das Gefühl, etwas falsch zu machen, wenn du nicht alles reinkippst.

Es gibt einen sorgsamen Weg, das zu tun

Ein Agent muss nicht so arbeiten. Er kann den Job erledigen, ohne deine Geheimnisse übers ganze Internet zu streuen.

„Agent“ ist nur ein schicker Name für deterministische Software – die Art von Programmen und Apps, die es schon immer gab – und er macht nur das, was ihm aufgetragen wird.

Deine Passwörter und Schlüssel können an einem sicheren Ort bleiben, den der Agent nutzt, ohne dass das Sprachmodell sie je zu sehen bekommt. Der Agent loggt sich ein, handelt in deinem Namen, erledigt die Arbeit, und das Geheimnis selbst wandert nie zum Modell. Deine Daten bleiben verschlüsselt, mit bewusster Entscheidung darüber, was deinen Rechner tatsächlich verlassen muss und was nicht. Und deine Arbeit wird nie zu Trainingsdaten.

Genau deshalb haben wir Grace AI so gebaut, wie wir es getan haben. Der Agent läuft komplett auf unserem eigenen Stack, mit einem Vault, der deine Geheimnisse hält, sodass das Modell durch sie hindurch handeln kann, ohne sie zu lesen. Deine Daten gehören dir. Sie wandern nicht umher.

Du bekommst einen Agenten, der echte Arbeit leistet, ohne leichtsinnig mit den Dingen umzugehen, deren Schutz in deiner Verantwortung liegt.

RSA-Verschlüsselung, harte Grenzen und der Vault sind im KI-Zeitalter wichtiger denn je.