Ab dem 2. August 2026 gelten neue Transparenzpflichten aus dem EU AI Act. Unternehmen müssen künftig in bestimmten Fällen klar darauf hinweisen, wenn Nutzer mit einem KI-System interagieren oder wenn Inhalte durch Künstliche Intelligenz erzeugt beziehungsweise manipuliert wurden. Dies betrifft insbesondere Chatbots, KI-generierte Texte, Bilder, Audio- und Videoinhalte sowie sogenannte Deepfakes.
Ziel der neuen Vorgaben ist es, mehr Vertrauen, Nachvollziehbarkeit und Schutz vor Täuschung zu schaffen. Unternehmen sollten daher ihre eingesetzten KI-Anwendungen zeitnah prüfen und sicherstellen, dass die erforderlichen Hinweise und Kennzeichnungen integriert sind. Verstöße können mit empfindlichen Sanktionen geahndet werden.
Die Hinweispflicht betrifft vor allem Chatbots. Dies sind textbasierte Dialogsysteme, die selbständig und in menschlicher Sprache mit Nutzern interagieren. Chatbots nehmen beispielsweise Anfragen in der Kundenbetreuung entgegen, navigieren Kunden durch Websites, sortieren eingehende Telefonanrufe oder bearbeiten Reklamationen.
Ebenfalls umfasst sind Social Bots. Social Bots sind KI-betriebene Profile in sozialen Medien, die etwa eigenständige Posts absetzen oder auf Kommentare von Kunden und anderen Nutzern reagieren.
Nicht in den Anwendungsbereich von Art. 50 Abs. 1 Satz 1 AI Act fällt die mittelbare Verwendung von KI-Anwendungen, etwa wenn ein Callcenter-Mitarbeiter dem Gesprächsleitfaden einer KI folgt.
Im Gegensatz zu den übrigen Pflichten des AI Acts gelten die Transparenzpflichten des Artikel 50 auch für Anwendungen, die unter einer freien und quelloffenen Lizenz bereitgestellt werden (Artikel 2(12) AI Act).
Weitere Informationen, wie Unternehmen ihre Pflichten nach dem AI Act praxistauglich und rechtssicher umsetzen, finden Sie auf der Homepage der IHK Frankfurt.
Quelle: www.frankfurt-main.ihk.de