Der hessische Landesdatenschutzbeauftragte Alexander Roßnagel warnt vor Wildwuchs bei der Nutzung von KI-Textrobotern wie etwa ChatGPT. Er empfehle vor allem Behörden und Unternehmen dringend, Richtlinien für den Umgang mit der Künstlichen Intelligenz aufzustellen, sagte der Experte im Gespräch mit der Deutschen Presse-Agentur in Wiesbaden. «Es wäre sinnvoll, zum Beispiel einen dienstlichen Account einzurichten, wenn mit dem System Texte generiert werden.» Damit würden die Beschäftigten geschützt, deren Daten ansonsten von der Software ausgewertet werden könnten.

«Geregelt werden muss in den Unternehmen auch, wofür diese Systeme benutzt werden dürfen», sagte Roßnagel. Nach dem Rat des Datenschützers sollten keine personenbezogenen Daten eingegeben und nur allgemeine Fragen gestellt werden.

Die vom Computer generierten Ergebnisse müssten unbedingt von einem Mitarbeiter überprüft werden, bevor damit weitergearbeitet wird. «Datenschützer sind nicht generell gegen den Einsatz von KI», betonte der Experte. In vielen Fällen könnten Assistenzfunktionen sehr hilfreich sein. Allerdings gäbe es auch Risiken.

KI-Chatbots wie ChatGPT vom Start-up OpenAI können Texte auf dem sprachlichen Niveau eines Menschen formulieren. Das Prinzip dahinter ist, dass sie Wort für Wort abschätzen, wie ein Satz weitergehen sollte. Angelernt werden die Modelle dafür mit gewaltigen Mengen an Informationen.

Roßnagel mahnte zur Vorsicht, mit welchen Daten KI-Chatbots gefüttert werden - etwa, um passgenauere Ergebnisse zu liefern. «Sind da Geschäftsgeheimnisse dabei, sind personenbezogene Daten dabei? Das könnte problematisch werden», warnte er. Im Regelfall würden auch die Chatverläufe, die man mit diesem System hat, ausgewertet. «Es kann sein, dass man dadurch persönliche Daten etwa von Kunden und Klienten eingibt», sagte Roßnagel.