Systematische Methodik zur Einhaltung der Anforderungen des EU-KI-Gesetzes für sicherheitskritische KI-Produkte

Core Concepts

Eine systematische Methodik zur Ableitung technischer Anforderungen aus den Vorgaben des EU-KI-Gesetzes für sicherheitskritische KI-Systeme, unter Verwendung erweiterter Qualitätsmodelle und einem vertragsbasierten Ansatz.

Abstract

Dieser Artikel präsentiert eine systematische Methodik zur Interpretation der Anforderungen des EU-KI-Gesetzes für Hochrisiko-KI-Systeme, indem Qualitätsmodelle für KI-Systeme genutzt werden.
Zunächst wird ein erweitertes Qualitätsmodell für KI-Systeme vorgeschlagen, das Attribute berücksichtigt, die für das Gesetz relevant sind, aber von aktuellen Qualitätsmodellen nicht abgedeckt werden. Die Anforderungen des Gesetzes werden dann den relevanten Qualitätsattributen zugeordnet, mit dem Ziel, sie in messbare Eigenschaften zu überführen.
Anschließend wird ein vertragsbasierter Ansatz vorgeschlagen, um technische Anforderungen auf Stakeholder-Ebene abzuleiten. Dies erleichtert die Entwicklung und Bewertung von KI-Systemen, die nicht nur etablierten Qualitätsstandards entsprechen, sondern auch die im Gesetz für Hochrisiko-KI-Systeme (einschließlich sicherheitskritischer) dargelegten regulatorischen Anforderungen erfüllen.
Die Anwendbarkeit dieser Methodik wird anhand eines exemplarischen Anwendungsfalls aus der Automobilzulieferkette demonstriert, bei dem mehrere Stakeholder zusammenwirken, um die Einhaltung des EU-KI-Gesetzes zu erreichen.

Stats

Keine relevanten Kennzahlen oder Zahlen im Artikel enthalten.

Quotes

Keine hervorstechenden Zitate im Artikel enthalten.

Key Insights Distilled From

Navigating the EU AI Act

by J. Kelly,S. ... at arxiv.org 03-26-2024

https://arxiv.org/pdf/2403.16808.pdf

Deeper Inquiries

Wie kann die Umsetzung des Konzepts der "menschlichen Aufsicht" bei vollständig autonomen Fahrzeugen praktisch umgesetzt werden?

Die praktische Umsetzung des Konzepts der "menschlichen Aufsicht" bei vollständig autonomen Fahrzeugen stellt eine Herausforderung dar, da die traditionelle Vorstellung von menschlicher Aufsicht in einem Fahrzeug, in dem keine menschliche Intervention erforderlich ist, nicht anwendbar ist. Eine mögliche Lösung könnte darin bestehen, ein System zu implementieren, das die Fähigkeit hat, in bestimmten Situationen die Kontrolle an einen menschlichen Fahrer zu übergeben. Dies könnte durch eine Kombination aus fortgeschrittenen Sensoren, Echtzeitüberwachung und einem klaren Protokoll für die menschliche Intervention erreicht werden. Darüber hinaus könnten regelmäßige Schulungen für menschliche Fahrer angeboten werden, um sicherzustellen, dass sie in der Lage sind, angemessen zu reagieren, wenn sie die Kontrolle übernehmen müssen.

Wie können die Qualitätsattribute, die für konventionelle Software definiert wurden, so angepasst werden, dass sie den einzigartigen Eigenschaften und Anforderungen von KI-Technologien Rechnung tragen?

Die Anpassung der Qualitätsattribute, die für konventionelle Software definiert wurden, an die einzigartigen Eigenschaften und Anforderungen von KI-Technologien erfordert eine Neubewertung und Neuausrichtung dieser Attribute. Beispielsweise muss das Konzept der "Fehlerfreiheit" in KI-Systemen berücksichtigen, dass KI-Entscheidungen probabilistisch sind und daher nicht absolut fehlerfrei sein können. Es könnte daher sinnvoller sein, den Begriff in "Fehlerresistenz" umzuformulieren, um die Fähigkeit eines KI-Systems zu beschreiben, mit Fehlern umzugehen und robust zu bleiben. Ähnlich müssen andere Attribute wie "Transparenz" und "Nachvollziehbarkeit" in Bezug auf KI-Systeme neu definiert werden, um die spezifischen Merkmale von KI-Entscheidungsprozessen zu berücksichtigen.

Welche zusätzlichen Herausforderungen ergeben sich bei der Einhaltung des EU-KI-Gesetzes, wenn KI-Systeme in komplexen globalen Lieferketten eingesetzt werden?

Die Einhaltung des EU-KI-Gesetzes in komplexen globalen Lieferketten bringt zusätzliche Herausforderungen mit sich, da verschiedene Stakeholder in der Lieferkette unterschiedliche Verantwortlichkeiten haben und die genaue Zuordnung von Verantwortlichkeiten oft unklar ist. Dies kann zu Schwierigkeiten bei der Sicherstellung der Einhaltung der Vorschriften führen, insbesondere wenn indirekte Lieferanten oder externe Dienstleister involviert sind. Darüber hinaus erfordert die Überprüfung der Einhaltung in globalen Lieferketten eine enge Zusammenarbeit und Koordination zwischen den verschiedenen Akteuren, um sicherzustellen, dass alle Anforderungen des Gesetzes erfüllt werden. Die Notwendigkeit, die Einhaltung über die gesamte Lieferkette hinweg zu gewährleisten, erfordert klare Kommunikation, Transparenz und die Entwicklung von klaren Richtlinien und Verträgen, um sicherzustellen, dass alle Beteiligten ihren Verpflichtungen nachkommen.