Beitrag teilen

Link in die Zwischenablage kopieren

Link kopieren
Suchfunktion schließen
Ratgeber für den Alltag > KI-Regulierung in der EU

EU AI Act tritt in Kraft: Neue Regeln für KI-Anwendungen

EU AI Act seit 2. Februar 2025 aktiv: Neue KI-Regeln für Mittelstand, um Risiken zu minimieren und Innovationen zu schützen. Sanktionen bis 35 Mio. Euro.

Der EU AI Act reguliert den Einsatz von künstlicher Intelligenz in verschiedenen Bereichen und stellt Unternehmen vor neue Herausforderungen. (Foto: Shutterstock)

In der Europäischen Union gelten seit dem 2. Februar 2025 neue Regeln für den Umgang mit Künstlicher Intelligenz (KI). Der AI Act, das weltweit erste umfassende Gesetzeswerk zur Regulierung von KI, trat mit ersten Verboten in Kraft.

Unternehmen, die KI-Systeme nutzen oder entwickeln, müssen das Risiko ihrer Systeme bewerten und Maßnahmen ergreifen, um diesem Risiko entgegenzuwirken. Je höher das Risiko, desto strenger die Regulierung, um sowohl Verbraucher zu schützen als auch einen verantwortungsvollen Umgang mit KI zu gewährleisten.

Überblick über die neuen KI-Regelungen

Der AI Act verbietet KI-Systeme, die als inakzeptables Risiko für die Sicherheit, Gesundheit oder Grundrechte der EU-Bürger eingestuft werden. Dazu zählen beispielsweise Anwendungen zur Bewertung sozialen Verhaltens, ähnlich dem Social Scoring in China., Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen sowie Gesichtserkennung im öffentlichen Raum (mit Ausnahmen für Sicherheitsbehörden zur Verfolgung bestimmter Straftaten wie Menschenhandel oder Terrorismus).

Hier sind die sieben wichtigsten Punkte im Detail:

  • 1. Risikobasierter Ansatz: KI-Systeme werden in verschiedene Risikokategorien eingeteilt. Je höher das Risiko, desto strenger die Regulierung. Dies soll sicherstellen, dass nur sichere und vertrauenswürdige KI-Anwendungen auf den Markt kommen.
  • 2. Verbot von Social Scoring: Systeme, die Menschen aufgrund ihres sozialen Verhaltens bewerten und kategorisieren, sind in der EU grundsätzlich verboten. Dies soll die Privatsphäre und Grundrechte der Bürger schützen.
  • 3. Einschränkungen bei biometrischer Erkennung: Die Nutzung von Gesichtserkennung im öffentlichen Raum ist stark eingeschränkt. Ausnahmen gelten nur für Strafverfolgungsbehörden unter strengen Auflagen.
  • 4. Transparenzpflichten: Anbieter von KI-Systemen müssen offenlegen, wenn Menschen mit KI interagieren, z.B. bei Chatbots. Dies soll die Nutzer vor Manipulation schützen.
  • 5. Menschliche Aufsicht: Bei Hochrisiko-KI-Systemen ist eine menschliche Überwachung vorgeschrieben. Entscheidungen dürfen nicht allein der KI überlassen werden.
  • 6. Datenschutz und Cybersicherheit: Strenge Anforderungen an den Schutz persönlicher Daten und die Sicherheit von KI-Systemen sollen das Vertrauen in die Technologie stärken.
  • 7. Sanktionen bei Verstößen: Bei Nichteinhaltung der Regeln drohen empfindliche Strafen von bis zu 35 Millionen Euro oder 7% des globalen Jahresumsatzes.

Kritik und Bedenken aus der Wirtschaft

Der Digitalverband Bitkom warnt vor einer Überregulierung durch den AI Act. Bernhard Rohleder, Hauptgeschäftsführer des Verbands, erklärte gegenüber der FAZ: "Deutschland und Europa müssten das regulatorische Korsett aufschnüren und sich klar zu KI und ihren Chancen bekennen." Eine Regulierung, "die Phantomprobleme regelt und Innovationen im Keim erstickt", sei der falsche Weg.

Auch die FDP-Europaabgeordnete Svenja Hahn, die federführend am AI Act mitgearbeitet hat, äußert Bedenken: "China legt im Systemwettbewerb mit Technologie vor. Wir müssen uns an die eigene Nase fassen, der AI Act hemmt Entwicklung und Anwendung von KI in Europa."

Robo-Calls

Robo-Calls sind automatisierte Telefonanrufe, bei denen eine vorab aufgezeichnete Nachricht an eine große Anzahl von Empfängern gesendet wird. Diese Anrufe werden oft von Computern initiiert und können für verschiedene Zwecke eingesetzt werden, sowohl legal als auch illegal.

 

Betrügerischer Einsatz:

  • Vortäuschung amtlicher Anrufe, bei denen Betrüger vorgeben, von Institutionen wie der Steuerbehörde oder der Polizei zu sein, um Zahlungen zu erpressen.
  • Gewinnspiel-Betrug, bei dem Anrufer behaupten, der Empfänger habe einen Preis gewonnen, der durch Zahlung einer Gebühr beansprucht werden muss.

Betrugsmaschen:

  • Steueramt-Betrug: Anrufe, die behaupten, der Empfänger sei wegen Steuerhinterziehung angeklagt, es sei jedoch eine Zahlung möglich, um rechtliche Schritte zu vermeiden.
  • Tech-Support-Scams: Anrufe, die vorgeben, von großen Technologieunternehmen zu stammen und behaupten, der Computer des Empfängers sei infiziert, wobei Hilfe nur gegen Entgelt angeboten wird.
  • Falsche Vorladungen oder Drohungen durch angebliche Anwälte oder Inkassounternehmen.

Schutzmaßnahmen:

  • Nicht zurückrufen: Keine Interaktion mit unbekannten Nummern, insbesondere nicht zurückrufen.
  • Keine sensiblen Informationen: Niemals persönliche oder finanzielle Informationen am Telefon preisgeben.
  • Nummernsperre: Nutzung von Call-Blocking-Technologien oder speziellen Apps, um bekannte Spam-Nummern zu blockieren.

Chancen und Herausforderungen für den EU-Standort

Die EU-Kommission sieht in dem Gesetz zur Künstlichen Intelligenz eine Chance, global Standards für vertrauenswürdige KI zu setzen. Kommissionspräsidentin Ursula von der Leyen betonte, das Regelwerk verschaffe der EU ein Alleinstellungsmerkmal in der Welt und mache Europa attraktiv für Investitionen.

Kritiker sehen jedoch die Gefahr, dass die strengen Regeln Innovationen hemmen und Start-ups aus Europa in die USA abwandern könnten. Die den Techkonzernen nahestehende Denkfabrik Information Technology and Innovation Foundation argumentiert, das KI-Gesetz sei ein Grund dafür, dass viele Start-ups aus Europa lieber in die Vereinigten Staaten gingen.

Ähnliche Artikel