Für den Einsatz von Künstlicher Intelligenz (KI) sollen in der EU künftig strengere Regeln gelten. Unterhändler von Europaparlament und EU-Staaten verständigten sich in Brüssel nach langen Verhandlungen auf den „AI Act“, das erste umfassende KI-Gesetz der Welt. Die EU-Kommission hatte das Gesetz im April 2021 vorgeschlagen, doch durch die umwälzenden Entwicklungen im Bereich der Generativen KI und großer Sprachmodelle wie GPT4 mit Chat GPT mussten die Beteiligten weitere Ergänzungen vornehmen. Laut EU-Kommissionspräsidentin Ursula von der Leyen soll die Verordnung einen einzigartigen Rechtsrahmen für die Entwicklung vertrauenswürdiger Technologien schaffen, der die Sicherheit und die Grundrechte von Menschen und Unternehmen schützt. Der endgültige formale Beschluss erfolgt im kommenden Jahr. Innerhalb der Kommission wird eine KI Behörde eingerichtet, welche die Regulierung der Basismodelle durchsetzen soll. Die KI-Systeme werden von den zuständigen nationalen Behörden überwacht, die im Europäischen Ausschuss für künstliche Intelligenz zusammenkommen, um eine einheitliche Anwendung der Rechtsvorschriften zu gewährleisten. Außerdem soll ein beratenden Forum, „AI advisory board“, Rückmeldungen von Interessengruppen, auch aus der Zivilgesellschaft, einholen, und ein wissenschaftliches Gremium von Expertern bei der Durchsetzung der Regulierung beraten.

Dass dies notwendig ist, wird in der Wirtschaft kaum bestritten. Denn KI ist eine wegweisende Technologie mit zwei Seiten der Medaille: Sie verfügt einerseits über das Potenzial, unseren Alltag, die Wirtschaft und den Arbeitsmarkt grundlegend positiv zu transformieren. Andererseits birgt sie Risiken, etwa Falschinformationen, Manipulation von Medien, Diskriminierung aufgrund von verzerrten Datensätzen und die Möglichkeit des Einsatzes in der Kriegsführung. Brüssel hat nun entschieden, dass Entwickler von so genannten KI-Basismodellen (Foundation Models) nun unter anderem „technische Dokumentationen“ erstellen müssen, die Aufschluss über Trainings- und Testverfahren geben. Dazu sollen sie nachweisen, dass sie urheberrechtliche Bestimmungen einhalten. Zudem sollen KI-generierte Produkte mit digitalen Wasserzeichen versehen werden. Diese Transparenzvorgabe soll es beispielsweise Autoren, Musikern und anderen Kreativen ermöglichen, nachzuvollziehen, ob ihre Werke für das Training der Modelle genutzt wurden.

Zu den Streitpunkten bei den Verhandlungen zählten beispielsweise die verbotenen Anwendungen von KI. Verbote sollen künftig gelten für biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z.B. politische, religiöse, philosophische Überzeugungen, sexuelle Orientierung, Rasse), das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder aus Überwachungsaufnahmen zur Erstellung von entsprechenden Datenbanken oder die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen. Auch das Social Scoring soll nicht erlaubt sein.

„Die schlimmste Vorstellung für Start-ups ist Überregulierung“ (Dr. Annika von Mutius, Empion)

Die geplante Regulierung stößt auf ein geteiltes Echo. „Die Einigung zum AI Act ist ein politischer Schaufenster-Erfolg zu Lasten von Wirtschaft und Gesellschaft. Der gestern Nacht erzielte Kompromiss schießt insbesondere bei der Regulierung generativer KI über das Ziel hinaus und greift tief in die Technologie ein. Die EU bindet damit den Unternehmen einen regulatorischen Klotz ans Bein. Das Risiko ist groß, dass europäische Unternehmen durch nicht praxistaugliche Vorhaben der rasanten technologischen Entwicklung künftig nicht folgen können“, sagt etwa Dr. Bernhard Rohleder, Hauptgeschäftsführer des deutschen Digitalverbands Bitkom.

„Die Herausforderung ist, in der Praxis eine echte Balance zwischen Risikomanagement und Förderung von Innovation herzustellen. Europa hat die Chance, eine Vorreiterrolle bei der ethischen und verantwortungsvollen Entwicklung von KI einzunehmen. Aber dies erfordert auch eine unbürokratische und gut strukturierte Umsetzung des Rechtsakts. Dazu muss schon jetzt ein zielgerichteter Dialog zwischen allen Beteiligten begonnen werden. Unternehmen brauchen zügig Rechtssicherheit und praxisnahe Unterstützung bei der Umsetzung des AI Act.“

Digitalkommissar Thierry Breton sieht die Einigung als „historisch“. Als erster Kontinent setze Europa klare Regeln für die Künstliche Intelligenz. Der AI Act sei mehr als ein Regelwerk. „Er ist die Startrampe für europäische Start-ups und Forschende, um das globale KI-Wettrennen anzuführen.“ Aus den Reihen der Start-ups gibt es bis zur endgültigen Ausgestaltung der Regularien die Befürchtung vor zuviel Bürokratie. „Grundsätzlich begrüßen wir Maßnahmen, die das Entwickeln seriöser, diskriminierungsfreier KI-Systeme fördern. Aus Sicht der Human Resources-Branche hat insbesondere das Verhindern von Manipulation (z.B. menschlichen Handelns) höchste Priorität – das sieht der AI Act richtigerweise vor“, sagt Dr. Annika von Mutius, Co-Founder des Berliner HR-Unternehmens Empion. „Die Transparenzrichtlinien wie das Erstellen technischer Dokumentationen sollten ohnehin Teil jeder starken Engineering-Arbeit sein. Die schlimmste Vorstellung für viele Startups: Überregulierung! Das konnte der AI Act bisher weitestgehend verhindern. Mit einer DSGVO-ähnlichen Bürokratisierung würden wir uns selbst massiv in der Weiterentwicklung und Wettbewerbsfähigkeit Europas hindern. Das darf keinesfalls passieren“, mahn von Mutius.

„Innovation geht trotz Regulierung voran“ (Rosmarie Steininger, Chemistree)

Rosmarie Steininger, Gründerin und CEO von Chemistree, sieht die Regulierung  optimistisch: „Bevor jemand anfängt zu denken, dass diese Regelungen Innovationen bremsen, möchte ich klarstellen: Das stimmt so nicht! Unsere Devise lautet: Innovation geht trotz Regulierung voran. Wir stehen diesen Veränderungen positiv gegenüber. Und wir arbeiten ganz aktiv daran, zum Beispiel in unsrem Forschungsprojekt KI-Cockpit, gefördert vom Bundesministerium für Arbeit und Soziales“, so Steininger. „Gemeinsam mit unseren Forschungspartner*innen schreiten wir voran, um eine vertrauenswürdige und ethisch einwandfreie Nutzung von Künstlicher Intelligenz zu gewährleisten. Das Cockpit wird als Schaltzentrale dienen, um den Nutzenden die Kontrolle über KI-Anwendungen zu ermöglichen – so auch der unseren. Unser Leitfaden dabei ist die nun auf den Weg gebrachte Verordnung, der wir uns auch bei der Weiterentwicklung unserer Matching-Plattform schon heute verpflichtet fühlen.“

Iris Plöger, Mitglied der Hauptgeschäftsführung des Bundesverbands Deutscher Industrie BDI, äußerte sich zum Abschluss der Verhandlungen dagegen kritisch: „Mit dem AI-Act droht Europa, bei einer zentralen Schlüsseltechnologie ins Hintertreffen zu geraten. Mit dem politischen Kompromiss droht Europa, bei der für die digitale Transformation zentralen Schlüsseltechnologie Künstliche Intelligenz ins Hintertreffen zu geraten. Das Ziel, durch den AI Act einen sicheren und vertrauensbildenden Rechtsrahmen auf Basis eines risikobasierten Ansatzes zu wählen, ist teilweise verfehlt worden. Mit der umfassenden Regulierung von KI-Basismodellen und KI-Anwendungen gefährdet der AI Act die Wettbewerbs- und Innovationsfähigkeit sowohl auf Hersteller- als auch auf Anwenderseite. Der Kompromiss bremst unseren Wirtschaftsstandort bei der KI-gestützten Transformation, die gerade für die Bewältigung von Fachkräftemangel und Energiewende dringend gebraucht wird, aus.“ Plögers Fazit: „Europa riskiert auf diesem Weg, den Anschluss an die weltweiten KI-Entwicklungen zu verlieren.“ Dr. Bernhard Rohleder von der Bitkom sagt: „Die große Herausforderung wird sein die Einigung in praxistaugliche Regeln zu überführen, die eine Grundlage für den verantwortungsvollen Umgang mit KI schafft. Die Gefahr, dass wir Anwendung und Entwicklung von KI aus Europa verhindern, statt zu ermöglichen, besteht nach wie vor.“