Beratung
Künstliche Intelligenz

Erstellung eines Risikomanagementsystems nach der KI-Verordnung (AI Act)

Was ist KI?

KI ist die Abkürzung für den Begriff der künstlichen Intelligenz (engl. Artificial Intelligence). Dabei handelt es sich um eine Technologie, die anhand einer Eingabe Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann. Dabei unterscheiden sich künstliche Intelligenzen anhand des Grades der Autonomie und der Anpassungsfähigkeit. Diese Technologien nutzen unterschiedliche Formen des maschinellen Lernens, um menschliche Denk- und Entscheidungsprozesse nachzubilden und zu unterstützen. Um eine KI nutzen zu können, muss sie vorher trainiert werden. Dabei werden sogenannte Trainingsdaten verwendet. Die KI erlernt anschließend selbständig einen Algorithmus und orientiert sich dabei an vorgegebenen Kriterien.

Künstliche Intelligenz als produktiver Mitarbeiter

Viele Unternehmen nutzen künstliche Intelligenz um die Effizienz im Arbeitsalltag zu erhöhen. Die Verwendungen sind vielseitig: Terminplaner, Übersetzer, Rechercheassisstent, Grafikgestalter, Lektor. Eine KI kann viele Tätigkeiten übernehmen oder bei der Erledigung dieser unterstützen. Aber darf sie das auch?

Die Nutzung von KI muss immer in einem geregelten Rahmen ablaufen, da es schnell zu Rechtsverletzungen kommen kann. Ob es sich nun um Firmendaten handelt, die versehentlich für eine Übersetzung oder der Name eines Kunden, der für die Erstellung eines Dokuments versehentlich mit eingegeben wurde – die Daten können von der KI weiterverwendet werden.

Insbesondere, da der Bereich der künstlichen Intelligenz sehr schnell wächst, ist es wichtig, vor der Anwendung in der eigenen Organisation geeignete Maßnahmen zu treffen, um die rechtskonforme Nutzung zu gewährleisten. Die jurcons unterstützt sie dabei. Ob bei einzelnen Maßnahmen wie

  • Der Erstellung von Richtlinien
  • Der Erstellung von Informationsdokumenten
  • Durchführung von Schulungen
  • Implementierung von Kontrollmechanismen

oder der Erstellung eines umfassenden KI-Managementsystems.

Haben Sie Fragen? Kontaktieren Sie uns.

Die neue KI-Verordnung

Für viele Unternehmen wird die Erstellung eines KI-Risikomanagementsystems nun zur Pflicht. Die KI-Verordnung der europäischen Union wurde am 21.05.2024 verabschiedet und regelt nun umfassend die Pflichten bei der Entwicklung und dem Einsatz von künstlicher Intelligenz.

Viele unterschiedliche Akteure werden nach diesen Vorschriften verpflichtet. Dabei ist es unerheblich, welche Größe ihr Unternehmen hat. Zwar kommen kleine und mittlere Unternehmen in den Genuss von Erleichterungen– die generelle Pflicht zur Erstellung der vorgegebenen Dokumente und des Konzepts bleibt aber bestehen.

Von der KI-Verordnung betroffen, ist die gesamte Wertschöpfungskette. Von Entwicklern und Anbietern, über Händler bis hin zum Betreiber. Schon die Nutzung von KI in ihrer Organisation kann dazu führen, dass sie Pflichten aus der KI-Verordnung treffen.

Das Team der jurcons hilft ihnen gerne, diese Pflichten zu identifizieren und umzusetzen.

Verbote KI

Diese Kategorie umfasst KI-Systeme, die als besonders gefährlich gelten und daher verboten sind, wie z.B. Systeme, die das Verhalten von Menschen manipulieren können oder die für social scoring verwendet werden können.

Der Einsatz dieser Art von KI sind verboten.

Hochrisko KI

KI-Systeme, die in sensiblen Bereichen eingesetzt werden und ein hohes Risiko für die Rechte und Sicherheit von Menschen darstellen, fallen in diese Kategorie. Darunter sind bspw. solche Systeme zu verstehen, die für die Bewertung von Prüfungen oder Lebensläufen im Rahmen einer Bewerbung genutzt werden könnten.

Für diese Art von KI ist ein Risikomanagementsystem notwendig.

Geringrisiko KI

Diese Kategorie umfasst KI-Systeme, die ein geringeres Risiko für die Sicherheit und die Grundrechte der Menschen darstellen. Typische Beispiele für diese Kategorie sind Chatbots oder Bild- und Gesichtserkennungstechnologien.

Bei solchen KI-Systemen bestehen Transparenz- und Informationspflichten.

Minimalrisiko KI

Diese Kategorie umfasst KI-Systeme, die ein minimales oder vernachlässigbares Risiko darstellen. Diese Systeme unterliegen keinen zusätzlichen regulatorischen Anforderungen. Hierzu gehören KI-gestützte Spiele, Spam-Filter oder Empfehlungsdienste (z.B. beim Online-Shopping).

Benötigen Sie Unterstützung bei der Beurteilung der von Ihnen eingesetzten KI?

Das KI-Risikomanagementsystem
nach der KI-Verordnung

Die ganzheitliche Betrachtung des Problems ist kritisch für den Erfolg eines Rsikomanagementsystems. Das Vorgehen kann in 4 Phasen eingeteilt werden.

Die KI-Verordnung macht viele Vorgaben für die Ausgestaltung des KI-Risikomanagementsystems. Dennoch muss im Einzelfall betrachtet werden, welche Vorgaben für die konkrete KI-Anwendung einschlägig sind. Folgende Verpflichtungen werden unter anderem aufgestellt:

  • Ermittlung der Risiken
  • Risikobewertung
  • Entwicklung geeigneter Maßnahmen zur Bewältigung der Risiken
  • Vorgaben zur Datengovernance und Cybersicherheit
  • Umsetzung der Maßnahmen Test der Risiken und der Maßnahmen
  • Einhaltung von Qualitätskriterien bzlg. der Daten
  • Qualitätsmanagementsystem
  • Informationspflichten
  • Transparenzpflichten
  • Regisrtrierungspflichten
  • Grundrechtefolgsabschätzung
  • Barrierefreiheitsanforderungen
  • Verhaltenskodizies

Die Dokumentation des Vorgehens ist in allen Punkten zentral und auch durch das Gesetz vorgeschrieben. Ein solches Konzept entfaltet in der Praxis nur die gewünschte Wirkung, wenn es auf ihr Unternehmen abgestimmt ist und regelmäßig aktualisiert wird.

Das Team der jurcons hat die nötige langjährige Erfahrungen im Bereich der Unternehmensberatung, um die erfolgreiche Implementierung in Ihrer Organisation sicherzustellen.