Verordnung über künstliche Intelligenz
| Kapitel III - Hochrisiko-KI-Systeme (Art. 6 - 49) |
| Abschnitt 2 - Anforderungen an Hochrisiko-KI-Systeme (Art. 8 - 15) |
(1) Hochrisiko-KI-Systeme, in denen Techniken eingesetzt werden, bei denen KI-Modelle mit Daten trainiert werden, müssen mit Trainings-, Validierungs- und Testdatensätzen entwickelt werden, die den in den Absätzen 2, 3 und 4 dieses Artikels und in Artikel 4a Absatz 1 genannten Qualitätskriterien entsprechen, wenn solche Datensätze verwendet werden.
(2) Für Trainings-, Validierungs- und Testdatensätze gelten Daten-Governance- und Datenverwaltungsverfahren, die für die Zweckbestimmung des Hochrisiko-KI-Systems geeignet sind. Diese Verfahren betreffen insbesondere
| a) | die einschlägigen konzeptionellen Entscheidungen, | |
| b) | die Datenerhebungsverfahren und die Herkunft der Daten und im Falle personenbezogener Daten den ursprünglichen Zweck der Datenerhebung, | |
| c) | relevante Datenaufbereitungsvorgänge wie Annotation, Kennzeichnung, Bereinigung, Aktualisierung, Anreicherung und Aggregierung, | |
| d) | die Aufstellung von Annahmen, insbesondere in Bezug auf die Informationen, die mit den Daten erfasst und dargestellt werden sollen, | |
| e) | eine Bewertung der Verfügbarkeit, Menge und Eignung der benötigten Datensätze, | |
| f) | eine Untersuchung im Hinblick auf mögliche Verzerrungen (Bias), die die Gesundheit und Sicherheit von Personen beeinträchtigen, sich negativ auf die Grundrechte auswirken oder zu einer nach den Rechtsvorschriften der Union verbotenen Diskriminierung führen könnten, insbesondere wenn die Datenausgaben die Eingaben für künftige Operationen beeinflussen, | |
| g) | geeignete Maßnahmen zur Erkennung, Verhinderung und Abschwächung möglicher gemäß Buchstabe f ermittelter Verzerrungen, | |
| h) | die Ermittlung relevanter Datenlücken oder Mängel, die der Einhaltung dieser Verordnung entgegenstehen, und wie diese Lücken und Mängel behoben werden können. |
(3) Die Trainings-, Validierungs- und Testdatensätze müssen im Hinblick auf die Zweckbestimmung relevant, hinreichend repräsentativ und so weit wie möglich fehlerfrei und vollständig sein. Sie müssen die geeigneten statistischen Merkmale, gegebenenfalls auch bezüglich der Personen oder Personengruppen, für die das Hochrisiko-KI-System bestimmungsgemäß verwendet werden soll, haben. Diese Merkmale der Datensätze können auf der Ebene einzelner Datensätze oder auf der Ebene einer Kombination davon erfüllt werden.
(4) Die Datensätze müssen, soweit dies für die Zweckbestimmung erforderlich ist, die entsprechenden Merkmale oder Elemente berücksichtigen, die für die besonderen geografischen, kontextuellen, verhaltensbezogenen oder funktionalen Rahmenbedingungen, unter denen das Hochrisiko-KI-System bestimmungsgemäß verwendet werden soll, typisch sind.
(5) (weggefallen)
(6) Bei der Entwicklung von Hochrisiko-KI-Systemen, in denen keine Techniken eingesetzt werden, bei denen KI-Modelle trainiert werden, gelten die Absätze 2, 3 und 4 dieses Artikels und Artikel 4a Absatz 1 nur für Testdatensätze.
Fassung aufgrund der Verordnung (EU) 2026/1744 des Europäischen Parlaments und des Rates vom 8. Juli 2026 zur Änderung der Verordnungen (EU) 2024/1689, (EU) 2018/1139 und (EU) 2023/1230 im Hinblick auf die Vereinfachung der Umsetzung harmonisierter Vorschriften für künstliche Intelligenz (Digital-Omnibus-Verordnung zur KI) vom 08.07.2026
pflichten Art. 13Transparenz und Bereitstellung von Informationen für die Betreiber Art. 14Menschliche Aufsicht Art. 15Genauigkeit, Robustheit und Cybersicherheit
Rechts-KI
Ihre dejure.org-Rechtsdaten — jetzt mit der Power der Doctrine-KI
Die Kombination aus den umfangreichen Inhalten von dejure.org und der spezialisierten KI von Doctrine hebt juristische Arbeit in Deutschland auf ein neues Level — von der Aktenanalyse bis zum Schriftsatz.
Rechtsprechung zu Art. 10 KI-Verordnung
Entscheidung zu Art. 10 KI-Verordnung in unserer Datenbank:
- OLG Köln, 23.05.2025 - 15 UKl 2/25
Meta darf Daten aus öffentlich gestellten Nutzerprofilen für KI-Training ...
Querverweise
Auf Art. 10 KI-Verordnung verweisen folgende Vorschriften:
- Verordnung über künstliche Intelligenz (KI-Verordnung)
- Allgemeine Bestimmungen
- Art. 2 (Anwendungsbereich)
- Verbotene Praktiken im KI-Bereich
- Art. 4a (Verarbeitung besonderer Kategorien personenbezogener Daten zur Erkennung und Korrektur von Verzerrungen)
- Hochrisiko-KI-Systeme
- Normen, Konformitätsbewertung, Bescheinigungen, Registrierung
- Art. 42 (Vermutung der Konformität mit bestimmten Anforderungen)
- Maßnahmen zur Innovationsförderung
- Verhaltenskodizes und Leitlinien
- Art. 96 (Leitlinien der Kommission zur Durchführung dieser Verordnung)