Was jetzt verboten ist

AI Act bringt neue KI-Regeln in der EU

Mit dem neuen KI-Gesetz zieht die EU eine klare Grenze für den Einsatz von Künstlicher Intelligenz. Technologien, die Bürger überwachen oder bewerten, stehen besonders im Fokus – doch auch Unternehmen müssen sich auf weitreichende Änderungen einstellen.

Soziale Bewertungssysteme und Gesichtserkennung verboten

Besonders umstritten war das Verbot von KI-Programmen, die Menschen auf Basis ihres Verhaltens bewerten und daraus Konsequenzen ableiten. Diese sogenannten Sozialkredit-Systeme, wie sie etwa in China genutzt werden, sind in der EU nun nicht mehr erlaubt. Die EU will verhindern, dass Künstliche Intelligenz zur sozialen Kontrolle oder Diskriminierung eingesetzt wird.

Auch die automatisierte Gesichtserkennung im öffentlichen Raum ist grundsätzlich untersagt. Kameras, die Personen per KI identifizieren und überwachen, dürfen nicht mehr ohne Weiteres eingesetzt werden. Eine Ausnahme gibt es jedoch für Strafverfolgungsbehörden: Zur Aufklärung schwerer Straftaten wie Terrorismus oder Menschenhandel dürfen Polizei und Sicherheitsdienste weiterhin auf Gesichtserkennung zurückgreifen – allerdings unter strengen Auflagen.

Neue Verpflichtungen für Unternehmen

Für Unternehmen, die KI-Technologien entwickeln oder einsetzen, bringt das Gesetz erhebliche Veränderungen. Jedes KI-System muss nun nach seinem Risikopotenzial eingestuft werden:

• Unzulässige KI (wie Sozialkreditsysteme oder unkontrollierte Gesichtserkennung) ist verboten.
• Hochrisiko-KI, die in sensiblen Bereichen wie Justiz, Medizin oder Finanzwesen eingesetzt wird, unterliegt strengen Auflagen. Unternehmen müssen hier belegen, dass ihre Systeme sicher, diskriminierungsfrei und nachvollziehbar arbeiten.
• Geringeres Risiko besteht bei vielen KI-Anwendungen in der Industrie oder im Kundenservice, die weniger strenge Vorschriften erfüllen müssen.

Besonders für Unternehmen, die KI-Modelle trainieren und vertreiben, bedeutet das neue Gesetz mehr Bürokratie. Sie müssen sicherstellen, dass ihre Systeme den Anforderungen der EU entsprechen, sonst drohen hohe Strafen.

Europa setzt Standards – aber bleibt es wettbewerbsfähig?

Mit dem AI Act positioniert sich die EU als Vorreiter in der Regulierung Künstlicher Intelligenz. Während in den USA und China weitgehend marktorientierte Entwicklungen dominieren, setzt Europa auf klare gesetzliche Vorgaben.

Befürworter sehen darin einen wichtigen Schritt, um Bürgerrechte zu schützen und den Missbrauch von KI zu verhindern. Kritiker hingegen warnen, dass zu strenge Regeln den Innovationsstandort Europa schwächen könnten. Während Tech-Unternehmen in den USA und Asien ohne vergleichbare Hürden forschen und entwickeln können, müssen europäische Firmen nun erhebliche Auflagen erfüllen.

Ob sich die neuen Vorschriften langfristig als Vorteil oder Nachteil erweisen, bleibt abzuwarten. Klar ist jedoch: Die Zeit unregulierter Künstlicher Intelligenz in der EU ist vorbei. Für Unternehmen beginnt eine neue Ära im Umgang mit dieser Schlüsseltechnologie.

• https://commission.europa.eu/