EU AI Act zur KI-Regulierung in der EU – jetzt handeln

Responsible AI: Beratung zum verantwortungsvollen Einsatz von KI in Unternehmen

Viele Unternehmen nutzen im Tagesgeschäft bereits künstliche Intelligenz oder bringen selbst KI-basierte Produkte auf den Markt. Zum Schutz vor damit verbundenen Risiken hat der Rat der 27 EU-Mitgliedstaaten den EU AI Act zur Regulierung potenziell gefährdender KI in der Europäischen Union verabschiedet. Dies ist für Unternehmen Pflicht und Chance zugleich, KI-Systeme verantwortungsvoll im Sinne einer Responsible AI zu entwickeln und einzusetzen.

Was ist der EU AI Act?

Das KI-Gesetzeswerk der EU ist die weltweit erste umfassende, verbindliche Regulierung von KI. Der EU AI Act fordert von Anbietern, Nutzern und Betreibern von künstlicher Intelligenz die Einhaltung der Grundrechte und verbietet den missbräuchlichen Einsatz. Die Regelung verfolgt einen risikobasierten Ansatz: Je höher das Risiko für die Grundrechte bei der Anwendung von KI eingeschätzt wird, desto strenger sind auch die Vorgaben.

Mit unserer fundierten Responsible-AI-Beratung unterstützen wir Sie dabei, Vertrauen für den Einsatz von KI in Ihrem Unternehmen zu schaffen sowie KI gesetzeskonform zu implementieren und einzusetzen.

Jetzt beraten lassen

 

EU AI Act: die Risikoklassen im Überblick

Der EU AI Act kategorisiert KI-Systeme in verschiedenen Risikoklassen, die unterschiedlichen Anforderungen unterliegen.

Inakzeptables Risiko

Hierunter fallen beispielsweise KI-Systeme, die das Verhalten von Personen gezielt manipulieren sollen, Schwächen bestimmter Personengruppen ausnutzen, Menschen auf Basis ihres sozialen Verhaltens in Gruppen einteilen und bewerten („Social Scoring“) oder das Risiko einer Person, eine Straftat zu begehen, vorhersagen.

Diese KI-Systeme sind in der EU – bis auf wenige Ausnahmen – verboten.

Hohes Risiko 

Hierzu zählen beispielsweise KI-Anwendungen in den Bereichen kritische Infrastruktur, Personal-, Gesundheits- oder Bankenwesen – aber auch etwa im Bereich autonomes Fahren.

Diese KI-Systeme müssen gemäß dem EU AI Act künftig umfangreiche Melde-, Dokumentations-, Überwachungs- und Qualitätsanforderungen erfüllen, um für den EU-Markt zugelassen zu werden.

Geringes oder kein Risiko 

Für KI-Systeme mit geringem Risiko – beispielsweise Chatbots – gelten in Zukunft bestimmte Transparenzpflichten. So müssen beispielsweise per KI erstellte oder bearbeitete Inhalte wie Text, Bilder, Audios oder Videos eindeutig als künstlich erzeugt gekennzeichnet werden.

Für KI-Systeme ohne Risiko – dazu zählen etwa automatische Rechtschreib- oder Grammatikprüfprogramme – gibt es keine gesetzlichen Anforderungen.

KI-Systeme mit allgemeinem Anwendungszweck (General Purpose AI, GPAI) – beispielsweise GPT-4 – unterliegen unabhängig von den Risikoklassen besonderen Dokumentations- und Transparenzanforderungen.

 

Ab wann gilt der EU AI Act für deutsche Unternehmen?

Das EU-AI-Gesetz trat am 1. August 2024 in Kraft und wird nun nach und nach auf nationaler Ebene in die Praxis umgesetzt.

Die Verordnung sieht Übergangsfristen von sechs bis 36 Monaten vor, innerhalb derer die Anforderungen erfüllt werden müssen. Eine Nichteinhaltung kann erhebliche Geldstrafen und Haftungsrisiken zur Folge haben.

  • Vom EU AI Act als verboten eingestufte KI-Systeme müssen bereits sechs Monate nach Inkrafttreten des EU AI Acts – also spätestens zum 2. Februar 2025 – aus dem Verkehr gezogen werden. 
  • Die Anforderungen für KI-Systeme mit allgemeinem Anwendungszweck gelten ab dem 2. August 2025. 
  • Die Anforderungen für kommerzielle KI-Systeme mit hohem Risiko gelten ab dem 2. August 2026.
Welche Unternehmen sind vom EU AI Act konkret betroffen?

Betroffen sind alle Unternehmen, die KI-Systeme oder Produkte in der EU bereitstellen, betreiben oder vertreiben – auch wenn sie in einem Drittland niedergelassen sind.

Wie stark ist Ihr Unternehmen von den Regulierungen betroffen? Kontaktieren Sie uns für ein Assessment.

Jetzt beraten lassen

EU AI Act: Herausforderung und Chance

Für viele Unternehmen stellt der EU AI Act eine große Herausforderung dar, insbesondere aufgrund von knapper Übergangsfristen. Doch die KI-Regulierung bietet gleichzeitig die Chance, durch den verantwortungsvollen Umgang mit künstlicher Intelligenz das Vertrauen der Öffentlichkeit in die neue Technologie zu stärken und so die Akzeptanz für innovative KI-Lösungen zu erhöhen. Unser Team aus KI-Expert:innen unterstützt Sie bei der Entwicklung und Umsetzung Ihrer maßgeschneiderten KI-Strategie.

 

Unsere Responsible-AI-Beratung 

Wir bieten sechs verschiedene Beratungspakete rund um Responsible AI und den EU AI Act:

Möchten Sie mehr über den EU AI Act und über die Einsatzfelder von KI erfahren? In unserem Onboarding-Workshop beleuchten wir die wichtigsten Aspekte des KI-Gesetzeswerks und geben Ihnen einen Überblick über die neuen Regelungen. Darüber hinaus besprechen wir mit Ihnen konkrete Anwendungsfälle und Implementierungen, um Ihnen zu zeigen, wie Sie die neuen Vorschriften optimal in Ihrem Unternehmen umsetzen können.

Leistungsumfang: 

  • Einführung in den EU AI Act 
  • Wichtige Regelungen und Anforderungen
  • Diskussion von Anwendungsfällen und Implementierungen
  • Q&A und Networking

Die anforderungskonforme und sichere Entwicklung von KI-Anwendungen und deren Betrieb sind von entscheidender Bedeutung. Wir unterstützen Sie bei der Implementierung einer robusten KI-Governance-Strategie. Diese muss unter anderem den Anforderungen des EU AI Acts, der ISO 42001 und der ISO 23894 entsprechen und sich mit bestehenden Managementsystemen des Unternehmens – insbesondere IT-Sicherheit und Datenschutz – verzahnen.

Leistungsumfang: 

  • Überblick über aktuelle KI-Sicherheitspraktiken sowie über die relevanten Anforderungen des EU AI Acts 
  • Inventarisierung Ihrer KI-Systeme
  • Prüfung der Risikobewertung und des Risikomanagementprozesses
  • Prüfung aktueller Maßnahmen des Unternehmens gemäß den Normvorgaben
  • Erstellung eines Berichtes inklusive aller Handlungsempfehlungen 
  • Optional: Unterstützung bei der Umsetzung von Verbesserungsmaßnahmen

Die Implementierung einer EU-AI-Act-konformen KI-Strategie ist entscheidend für Unternehmen, die ihre Wettbewerbsfähigkeit steigern und innovative Geschäftsmodelle entwickeln möchten. Wir unterstützen Sie bei der Entwicklung und Umsetzung einer maßgeschneiderten KI-Strategie.

Leistungsumfang:

  • Geschäftsmodelle 
    • Analyse bestehender Geschäftsmodelle und Identifikation von Optimierungspotenzialen durch KI 
    • Entwicklung neuer Geschäftsmodelle, die auf KI-Technologien basieren
    • Erstellung eines AI Business Model Canvas zur strategischen Planung
  • Use Cases 
    • Identifikation und Priorisierung von Anwendungsfällen für KI 
    • Erstellung detaillierter Use Cases zur Bewertung des wirtschaftlichen Nutzens 
    • Bewertung der Use Cases nach EU-AI-Act-Konformität inklusive KI-Risikobewertung, ethischer KI-Beratung, Überprüfung der KI-Regulierung
  • Roadmap 
    • Entwicklung einer Roadmap für die KI-Implementierung 
    • Definition von Meilensteinen und Zeitplänen
    • Kontinuierliche Überwachung und Anpassung der Roadmap basierend auf Fortschritten und neuen Erkenntnissen
    • Optional: Implementierung der Roadmap durch unsere Experten
  • IT- und Organisationsstruktur 
    • Analyse der bestehenden IT- und Organisationsstruktur (As-Is) und Identifikation notwendiger Anpassungen
    • Entwicklung von geeigneten IT- und Organisationsstrukturen zur Unterstützung der KI-Strategie (To-Be)
    • Schulung und Weiterbildung der Mitarbeitenden, um die Akzeptanz und das Verständnis für KI zu fördern

Die Anforderungen des EU AI Acts beziehen sich nicht nur auf Organisationen und ihre Prozesse: Auch jedes einzelne Produkt muss eine Klassifizierung hinsichtlich seines individuellen Risikos für die Gesellschaft und die nutzenden Personen durchlaufen. Aus dieser Risikoklasse resultieren die individuellen Schutzanforderungen des Produkts.

Leistungsumfang: 

  • Überblick über die Risikoklassen der KI-Systeme 
  • Unterstützung bei der Bewertung und Klassifizierung eines Anwendungsfalls 
    • Bereitstellung des Risiko-Fragebogens 
    • Erörterung des Aufbaus und der Vorgehensweise
    • Hilfestellung bei der Auswertung
  • Unternehmensspezifische Handlungsempfehlungen 
    • Handlungsempfehlungen für alle klassifizierten KI-Systeme

Gemeinsam mit Ihnen identifizieren wir operative Lücken in Ihren KI-Projekten und operativen KI-Systemen. Hierfür führen wir eine technische Auditierung Ihrer KI-Systeme durch. Dies geschieht in Hinblick auf bekannte Schwachstellen und Fehlkonfigurationen, wie sie beispielsweise in den OWASP Top 10 für Large Language Models (LLM) und/oder Machine Learning (ML) zu finden sind. Dabei kombinieren wir Vulnerability Scans, um automatisiert potenzielle Sicherheitslücken zu identifizieren, sowie Penetrationstests, um gezielt reale Angriffe zu simulieren und die Sicherheit Ihrer KI-Modelle umfassend überprüfen zu können.

Leistungsumfang:

  • Technische Auditierung von Applikationen unter Berücksichtigung der regulatorischen Anforderungen sowie der aktuellen Schwachstellen
    • Schwachstellenanalysen decken gezielt potenzielle technische Sicherheitslücken auf
    • Ergänzend wird durch Penetration Testing die reale Angreifbarkeit der Applikationen simuliert, um Schwachstellen aus der Perspektive eines Angreifers praktisch zu validieren. 
  • Bereitstellung eines umfassenden Auditberichts o Analyse der identifizierten Schwachstellen, Risiken und Sicherheitslücken
    • konkrete Handlungsempfehlungen zur Behebung der Probleme und zur Verbesserung der Sicherheits- und Compliance-Standards 
    • Es werden sowohl technische als auch strategische Maßnahmen vorgeschlagen, um die Integrität und Sicherheit der geprüften Systeme nachhaltig zu gewährleisten.

Unsere Beratungsdienste für Generative AI sind darauf ausgelegt, die komplexen Anforderungen des EU AI Acts an das Management von generativen KI-Systemen zu erfüllen. Mit unserer Expertise unterstützen wir Ihre Organisation dabei, Generative AI erfolgreich zu integrieren und dabei höchste Standards im Hinblick auf Leistung und Sicherheit zu gewährleisten.

Leistungsumfang: 

  • Entwicklung robuster Workflows 
    Wir entwerfen maßgeschneiderte Workflows, die den spezifischen Anforderungen Ihrer Organisation gerecht werden und eine nahtlose Integration von Generative AI ermöglichen. 
  • Realisierung Ihrer GenAI Use Cases 
    Wir unterstützen Sie bei der Umsetzung und der Integration von GenAI-Anwendungen. 
  • Etablierung von Testprozessen 
    Wir führen umfassende Tests durch, um die Zuverlässigkeit und Effizienz Ihrer Generative AI-Lösungen sicherzustellen. 
  • Optimierung der Leistung 
    Durch unsere bewährten Methoden und Techniken maximieren wir die Performance Ihrer AI-Anwendungen. 
  • Minimierung von Risiken 
    Wir identifizieren potenzielle Risiken, die mit der Implementierung von Generative AI verbunden sind, und beraten bei deren Minimierung, um einen reibungslosen Betrieb zu gewährleisten.

Unsere Expertise in der KI-Implementierung und -Beratung 

Als erfahrener IT-Dienstleister haben wir selbst bereits zahlreiche standardisierte KI-Lösungen entwickelt und implementiert, beispielsweise unsere AI-as-a-Service-Angebote oder unseren Smart Assistant. Dabei berücksichtigen wir gesetzliche Anforderungen wie den EU AI Act und setzen uns schon frühzeitig mit künftigen Anforderungen auseinander. So haben wir mit dem AI Maintenance Assistant bereits einen konkreten Anwendungsfall unseres Smart Assistant von TÜV SÜD und Calvin Risk erfolgreich prüfen und bewerten lassen.

Mit unserer branchenübergreifenden Expertise bieten wir Ihnen maßgeschneiderte Beratungsleistungen, die genau auf die Bedürfnisse Ihres Unternehmens zugeschnitten sind. Unsere Responsible-AI-Beratung umfasst alle Aspekte der verantwortungsvollen KI, von der Risikobewertung bis zur ethischen Implementierung.

 

Responsible AI: Beratungsanfrage 

Möchten Sie mehr über Responsible-AI erfahren oder ein unverbindliches Beratungsgespräch vereinbaren? Kontaktieren Sie uns noch heute und lassen Sie uns gemeinsam die Zukunft Ihrer KI-Anwendungen gestalten.

Ich habe Interesse an folgenden Beratungspakete(n):
captcha