Wie sichert man einen eigenen KI-Server ab?

Das Grundproblem

Modellserver sind für den Betrieb hinter einer Anwendung gedacht, nicht für den direkten Zugriff. Viele bringen deshalb keine Anmeldung mit. Steht ein solcher Server offen im Internet, kann ihn jeder nutzen – auf Ihre Kosten und mit Ihren Daten.

Das ist kein theoretisches Risiko; offen erreichbare Modellserver werden aktiv gesucht.

Die Massnahmen

Netzwerk. Erreichbar nur aus dem internen Netz oder über VPN. Kein direkter Zugang aus dem Internet.

Vorgeschaltete Anmeldung. Ein Dienst davor, der Nutzer authentifiziert und Anfragen weiterreicht. Damit lässt sich auch zuordnen, wer was angefragt hat.

Begrenzung. Höchstzahl an Anfragen je Nutzer und Zeitraum. Schützt vor Fehlern in eigenen Abläufen und vor Missbrauch.

Protokollierung. Wer, wann, welche Anfrage – unter Beachtung des Datenschutzes bei Beschäftigtendaten.

Verschlüsselte Verbindung, auch intern.

Was zusätzlich zu bedenken ist

Eingaben können sensibel sein. Wenn Beschäftigte vertrauliche Inhalte eingeben, sind die Protokolle entsprechend zu schützen.

Kein Modell ohne Prüfung einsetzen. Modelle aus offenen Quellen sollten aus vertrauenswürdigen Verzeichnissen stammen.

Mitbestimmung

Werden Anfragen personenbezogen protokolliert, ist das eine technische Einrichtung, die zur Verhaltenskontrolle geeignet ist – wo ein Betriebsrat besteht, ist die Einführung mitbestimmungspflichtig.