NIS2 und AI Act: was gilt, wenn ein KI Assistent mitarbeitet?

Was regelt NIS 2, und was regelt der AI Act?

NIS 2, die Richtlinie (EU) 2022/2555, verlangt von wesentlichen und wichtigen Einrichtungen Maßnahmen zum Schutz ihrer Netze und Informationssysteme (Art. 21). Die Geschäftsführung billigt diese Maßnahmen und überwacht ihre Umsetzung (Art. 20 Abs. 1).

Der AI Act, die Verordnung (EU) 2024/1689, regelt KI Systeme nach ihrem Risiko. Er gilt unter anderem für Anbieter, die KI Systeme in der EU in Verkehr bringen, und für Betreiber, die in der EU sitzen (Art. 2 Abs. 1). Ob Ihr Unternehmen unter NIS 2 fällt, spielt dafür keine Rolle.

Aufeinander verweisen die beiden nicht. Der AI Act nennt NIS 2 nicht, und NIS 2 erwähnt KI nur in den Erwägungsgründen 51 und 89, als Ermutigung, sie für die Cybersicherheit einzusetzen.

Ist Ihr Unternehmen nach dem AI Act Betreiber?

Ja, wenn es einen KI Assistenten bei der Arbeit nutzt. Betreiber ist nach Art. 3 Nr. 4 AI Act, wer ein KI System in eigener Verantwortung verwendet, außer bei einer persönlichen und nicht beruflichen Tätigkeit. Anbieter ist, wer das System entwickelt und unter eigenem Namen in Verkehr bringt (Art. 3 Nr. 3), in der Regel der Hersteller Ihres Assistenten.

Vorsicht beim Wort: Im BSIG ist ein „Betreiber kritischer Anlagen“ ein Unternehmen mit einer kritischen Anlage. Im AI Act ist Betreiber jeder, der ein KI System beruflich nutzt. Die englische Fassung sagt dafür deployer.

Art. 50 regelt Pflichten zur Offenlegung. Die der Betreiber betreffen Emotionserkennung, biometrische Kategorisierung, Deepfakes und Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Interne NIS 2 Unterlagen sind nach unserer Lesart nichts davon.

Art. 3 Nr. 3 und 4 · Art. 50 AI Act

Ist ein KI Assistent, der NIS 2 Unterlagen ausfüllt, ein Hochrisikosystem?

Als hochriskant gelten unter anderem die Verwendungen in Anhang III (Art. 6 Abs. 2). Nummer 2 betrifft kritische Infrastruktur: KI Systeme, die als Sicherheitsbauteile bei der Verwaltung und dem Betrieb kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Versorgung mit Wasser, Gas, Wärme oder Strom verwendet werden sollen.

Seit der Änderung durch die Verordnung (EU) 2026/1744 sagt Art. 6 Abs. 1a ausdrücklich: KI Systeme, die ausschließlich für nicht sicherheitsrelevante Aspekte der Nutzerunterstützung, Leistungsoptimierung, Leistungseffizienz, Automatisierung, Benutzerfreundlichkeit oder Qualitätskontrolle verwendet werden, gelten nicht als Sicherheitsbauteile. Erwägungsgrund 55 hält fest, dass Komponenten allein für Zwecke der Cybersicherheit keine Sicherheitsbauteile sein sollen.

Unsere Lesart, keine Aussage einer Behörde: Ein Assistent, der im Durchgang Listen und Texte ausfüllt, unterstützt Nutzer und nimmt ihnen Schreibarbeit ab. Irrt er sich, steht ein falscher Eintrag in Ihren Unterlagen, den eine Person korrigieren kann. Die Gegenregel in Art. 6 Abs. 1b für Systeme, deren Ausfall oder Fehlfunktion Gesundheit und Sicherheit gefährden würde, greift deshalb nicht, und Anhang III Nr. 2 auch nicht. Ein KI System, das eine Anlage steuert, prüfen Sie gesondert.

Selbst ein System aus Anhang III gilt nach Art. 6 Abs. 3 nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, etwa weil es eine eng gefasste Verfahrensaufgabe oder eine vorbereitende Aufgabe für eine Bewertung erfüllen soll. Ein Anbieter, der sein System so einstuft, dokumentiert seine Bewertung (Art. 6 Abs. 4).

Anhang III Nr. 2 · Art. 6 Abs. 1a, 1b, 3 und 4 AI Act · Erwägungsgrund 55

Was verlangt der AI Act von Ihnen als Betreiber?

Art. 4 AI Act, seit dem 27. Juli 2026 in der Fassung der Verordnung (EU) 2026/1744: Anbieter und Betreiber ergreifen Maßnahmen, die die KI Kompetenz ihres Personals unterstützen und die anderer Personen, die in ihrem Auftrag mit KI Systemen arbeiten. Ein bestimmtes Niveau müssen sie für niemanden garantieren. Kommission und Mitgliedstaaten unterstützen dabei insbesondere kleine und mittlere Unternehmen (Art. 4 Abs. 2).

Unser Vorschlag für den Anfang im Durchgang: Wer einen Assistenten verbindet, weiß, was er dort ausfüllen darf, dass er sich irren kann und woran man seine Einträge erkennt.

Die Pflichten für Hochrisikosysteme gelten ab dem 2. Dezember 2027 für Systeme nach Anhang III und ab dem 2. August 2028 für Systeme nach Anhang I (Art. 113, ebenfalls geändert). Dazu gehören die Pflichten der Betreiber in Art. 26, etwa die menschliche Aufsicht.

Art. 4, Art. 26 und Art. 113 AI Act, geändert durch Verordnung (EU) 2026/1744

Wo treffen sich NIS 2 und AI Act in Ihrem Unternehmen?

Für NIS 2 ist der Assistent ein Programm Ihres Unternehmens (2.2) und sein Anbieter ein Lieferant (5.1). Was das im Einzelnen heißt, zeigt unser Artikel zum KI Anbieter als Lieferant.

Zwei Schulungspflichten liegen nah beieinander. Art. 20 Abs. 2 NIS 2 verlangt, dass die Mitglieder der Geschäftsführung an Schulungen zur Cybersicherheit teilnehmen; in Deutschland steht das in § 38 Abs. 3 BSIG. Art. 4 AI Act betrifft die KI Kompetenz aller, die mit KI Systemen arbeiten. Der Durchgang fragt in 1.1 nach der ersten.

Die Geschäftsführung billigt die Maßnahmen (Art. 20 Abs. 1 NIS 2); in Deutschland muss sie sie nach § 38 Abs. 1 BSIG umsetzen und ihre Umsetzung überwachen. Für die Freigabe hat im Durchgang kein Assistent ein Werkzeug.

Art. 20 NIS 2 · § 38 Abs. 1 und 3 BSIG