Deutsches Recht trifft KI-Power:
Doctrine jetzt kostenlos testen.
Verordnung über künstliche Intelligenz
| Kapitel III - Hochrisiko-KI-Systeme (Art. 6 - 49) |
| Abschnitt 2 - Anforderungen an Hochrisiko-KI-Systeme (Art. 8 - 15) |
Zitiervorschläge
__paste_bez__ __paste_norm__ KI-Verordnung (https://dejure.org/gesetze/KI-Verordnung/__paste_norm__.html)
__paste_bez__ __paste_norm__ Verordnung über künstliche Intelligenz (https://dejure.org/gesetze/KI-Verordnung/__paste_norm__.html)
Tipp: Sie können bequem auch Untereinheiten des Gesetzestextes (Absatz, Nummer, Satz etc.) zitieren. Halten Sie dafür die Umschalttaste ⇧ gedrückt und bewegen Sie die Maus über dem Gesetzestext. Der jeweils markierte Abschnitt wird Ihnen am oberen Rand als Zitat angezeigt und Sie können das Zitat von dort kopieren. Ausführliche Beschreibung
(1) Hochrisiko-KI-Systeme werden so konzipiert und entwickelt, dass ihr Betrieb hinreichend transparent ist, damit die Betreiber die Ausgaben eines Systems angemessen interpretieren und verwenden können. Die Transparenz wird auf eine geeignete Art und in einem angemessenen Maß gewährleistet, damit die Anbieter und Betreiber ihre in Abschnitt 3 festgelegten einschlägigen Pflichten erfüllen können.
(2) Hochrisiko-KI-Systeme werden mit Betriebsanleitungen in einem geeigneten digitalen Format bereitgestellt oder auf andere Weise mit Betriebsanleitungen versehen, die präzise, vollständige, korrekte und eindeutige Informationen in einer für die Betreiber relevanten, barrierefrei zugänglichen und verständlichen Form enthalten.
(3) Die Betriebsanleitungen enthalten mindestens folgende Informationen:
| a) | den Namen und die Kontaktangaben des Anbieters sowie gegebenenfalls seines Bevollmächtigten; | ||
| b) | die Merkmale, Fähigkeiten und Leistungsgrenzen des Hochrisiko-KI-Systems, einschließlich | ||
| i) | seiner Zweckbestimmung, | ||
| ii) | des Maßes an Genauigkeit - einschließlich diesbezüglicher Metriken -, Robustheit und Cybersicherheit gemäß Artikel 15, für das das Hochrisiko-KI-System getestet und validiert wurde und das zu erwarten ist, sowie aller bekannten und vorhersehbaren Umstände, die sich auf das erwartete Maß an Genauigkeit, Robustheit und Cybersicherheit auswirken können; | ||
| iii) | aller bekannten oder vorhersehbaren Umstände bezüglich der Verwendung des Hochrisiko-KI-Systems im Einklang mit seiner Zweckbestimmung oder einer vernünftigerweise vorhersehbaren Fehlanwendung, die zu den in Artikel 9 Absatz 2 genannten Risiken für die Gesundheit und Sicherheit oder die Grundrechte führen können, | ||
| iv) | gegebenenfalls der technischen Fähigkeiten und Merkmale des Hochrisiko-KI-Systems, um Informationen bereitzustellen, die zur Erläuterung seiner Ausgaben relevant sind; | ||
| v) | gegebenenfalls seiner Leistung in Bezug auf bestimmte Personen oder Personengruppen, auf die das System bestimmungsgemäß angewandt werden soll; | ||
| vi) | gegebenenfalls der Spezifikationen für die Eingabedaten oder sonstiger relevanter Informationen über die verwendeten Trainings-, Validierungs- und Testdatensätze, unter Berücksichtigung der Zweckbestimmung des Hochrisiko-KI-Systems; | ||
| vii) | gegebenenfalls Informationen, die es den Betreibern ermöglichen, die Ausgabe des Hochrisiko-KI-Systems zu interpretieren und es angemessen zu nutzen; | ||
| c) | etwaige Änderungen des Hochrisiko-KI-Systems und seiner Leistung, die der Anbieter zum Zeitpunkt der ersten Konformitätsbewertung vorab bestimmt hat; | ||
| d) | die in Artikel 14 genannten Maßnahmen zur Gewährleistung der menschlichen Aufsicht, einschließlich der technischen Maßnahmen, die getroffen wurden, um den Betreibern die Interpretation der Ausgaben von Hochrisiko-KI-Systemen zu erleichtern; | ||
| e) | die erforderlichen Rechen- und Hardware-Ressourcen, die erwartete Lebensdauer des Hochrisiko-KI-Systems und alle erforderlichen Wartungs- und Pflegemaßnahmen einschließlich deren Häufigkeit zur Gewährleistung des ordnungsgemäßen Funktionierens dieses KI-Systems, auch in Bezug auf Software-Updates; | ||
| f) | gegebenenfalls eine Beschreibung der in das Hochrisiko-KI-System integrierten Mechanismen, die es den Betreibern ermöglicht, die Protokolle im Einklang mit Artikel 12 ordnungsgemäß zu erfassen, zu speichern und auszuwerten. | ||
Art. 8Einhaltung der Anforderungen
Art. 9Risikomanagementsystem
Art. 10Daten und Daten-Governance
Art. 11Technische Dokumentation
Art. 12Aufzeichnungs-
pflichten Art. 13Transparenz und Bereitstellung von Informationen für die Betreiber Art. 14Menschliche Aufsicht Art. 15Genauigkeit, Robustheit und Cybersicherheit
Neu Gesamtansicht
pflichten Art. 13Transparenz und Bereitstellung von Informationen für die Betreiber Art. 14Menschliche Aufsicht Art. 15Genauigkeit, Robustheit und Cybersicherheit
Rechts-KI
Ihre dejure.org-Rechtsdaten — jetzt mit der Power der Doctrine-KI
Die Kombination aus den umfangreichen Inhalten von dejure.org und der spezialisierten KI von Doctrine hebt juristische Arbeit in Deutschland auf ein neues Level — von der Aktenanalyse bis zum Schriftsatz.
Querverweise
Auf Art. 13 KI-Verordnung verweisen folgende Vorschriften:
- Verordnung über künstliche Intelligenz (KI-Verordnung)
- Allgemeine Bestimmungen
- Art. 2 (Anwendungsbereich)
- Hochrisiko-KI-Systeme
- Anforderungen an Hochrisiko-KI-Systeme
- Art. 9 (Risikomanagementsystem)
- Maßnahmen zur Innovationsförderung
- Art. 60 (Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren)
Art. 60a (Tests von Hochrisiko-KI-Systemen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, unter Realbedingungen außerhalb von KI-Reallaboren)
Art. 63 (Ausnahmen für bestimmte Akteure)
- Verhaltenskodizes und Leitlinien
- Art. 96 (Leitlinien der Kommission zur Durchführung dieser Verordnung)
- Anhang
- Anhang IV (Technische Dokumentation gemäß Artikel 11 Absatz 1)