{"id":5294,"date":"2025-06-12T19:00:38","date_gmt":"2025-06-12T17:00:38","guid":{"rendered":"https:\/\/datenschutz-eprivacy.de\/da\/?page_id=5294"},"modified":"2025-06-12T19:01:53","modified_gmt":"2025-06-12T17:01:53","slug":"erwaegungsgruende","status":"publish","type":"page","link":"https:\/\/datenschutz-eprivacy.de\/en\/kontakt\/datenschutzerklaerung\/kivo\/erwaegungsgruende\/","title":{"rendered":"Erw\u00e4gungsgr\u00fcnde der KI-Verordnung (KI-VO bzw. AI Act)"},"content":{"rendered":"

Gem\u00e4\u00df \u00a7 5 (1) UrhG genie\u00dfen Gesetze, Verordnungen, amtliche Erlasse und Bekanntmachungen sowie Entscheidungen und amtlich verfasste Leits\u00e4tze zu Entscheidungen keinen urheberrechtlichen Schutz und d\u00fcrfen demnach frei publiziert werden. Dieser Text stammt urspr\u00fcnglich vom Amt f\u00fcr Ver\u00f6ffentlichungen der Europ\u00e4ischen Union<\/a> (Stand: 13.06.2024).<\/em><\/p>\n

VERORDNUNG (EU) 2024\/1689 DES EUROP\u00c4ISCHEN PARLAMENTS UND DES RATES<\/p>\n

vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften f\u00fcr k\u00fcnstliche Intelligenz und zur \u00c4nderung der Verordnungen (EG) Nr. 300\/2008, (EU) Nr. 167\/2013, (EU) Nr. 168\/2013, (EU) 2018\/858, (EU) 2018\/1139 und (EU) 2019\/2144 sowie der Richtlinien 2014\/90\/EU, (EU) 2016\/797 und (EU) 2020\/1828.<\/p>\n

\n

DAS EUROP\u00c4ISCHE PARLAMENT UND DER RAT DER EUROP\u00c4ISCHEN UNION haben\u00a0in Erw\u00e4gung nachstehender Gr\u00fcnde:<\/p>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(1)<\/p>\n<\/td>\n

\n

Zweck dieser Verordnung ist es, das Funktionieren des Binnenmarkts zu verbessern, indem ein einheitlicher Rechtsrahmen insbesondere f\u00fcr die Entwicklung, das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen k\u00fcnstlicher Intelligenz (KI-Systeme) in der Union im Einklang mit den Werten der Union festgelegt wird, um die Einf\u00fchrung von menschenzentrierter und vertrauensw\u00fcrdiger k\u00fcnstlicher Intelligenz (KI) zu f\u00f6rdern und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und der in der Charta der Grundrechte der Europ\u00e4ischen Union (\u201eCharta\u201c) verankerten Grundrechte, einschlie\u00dflich Demokratie, Rechtsstaatlichkeit und Umweltschutz, sicherzustellen, den Schutz vor sch\u00e4dlichen Auswirkungen von KI-Systemen in der Union zu gew\u00e4hrleisten und gleichzeitig die Innovation zu unterst\u00fctzen. Diese Verordnung gew\u00e4hrleistet den grenz\u00fcberschreitenden freien Verkehr KI-gest\u00fctzter Waren und Dienstleistungen, wodurch verhindert wird, dass die Mitgliedstaaten die Entwicklung, Vermarktung und Verwendung von KI-Systemen beschr\u00e4nken, sofern dies nicht ausdr\u00fccklich durch diese Verordnung erlaubt wird.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(2)<\/p>\n<\/td>\n

\n

Diese Verordnung sollte im Einklang mit den in der Charta verankerten Werten der Union angewandt werden, den Schutz von nat\u00fcrlichen Personen, Unternehmen, Demokratie und Rechtsstaatlichkeit sowie der Umwelt erleichtern und gleichzeitig Innovation und Besch\u00e4ftigung f\u00f6rdern und der Union eine F\u00fchrungsrolle bei der Einf\u00fchrung vertrauensw\u00fcrdiger KI verschaffen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(3)<\/p>\n<\/td>\n

\n

KI-Systeme k\u00f6nnen problemlos in verschiedenen Bereichen der Wirtschaft und Gesellschaft, auch grenz\u00fcberschreitend, eingesetzt werden und in der gesamten Union verkehren. Einige Mitgliedstaaten haben bereits die Verabschiedung nationaler Vorschriften in Erw\u00e4gung gezogen, damit KI vertrauensw\u00fcrdig und sicher ist und im Einklang mit den Grundrechten entwickelt und verwendet wird. Unterschiedliche nationale Vorschriften k\u00f6nnen zu einer Fragmentierung des Binnenmarkts f\u00fchren und k\u00f6nnen die Rechtssicherheit f\u00fcr Akteure, die KI-Systeme entwickeln, einf\u00fchren oder verwenden, beeintr\u00e4chtigen. Daher sollte in der gesamten Union ein einheitlich hohes Schutzniveau sichergestellt werden, um eine vertrauensw\u00fcrdige KI zu erreichen, wobei Unterschiede, die den freien Verkehr, Innovationen, den Einsatz und die Verbreitung von KI-Systemen und damit zusammenh\u00e4ngenden Produkten und Dienstleistungen im Binnenmarkt behindern, vermieden werden sollten, indem den Akteuren einheitliche Pflichten auferlegt werden und der gleiche Schutz der zwingenden Gr\u00fcnde des Allgemeininteresses und der Rechte von Personen im gesamten Binnenmarkt auf der Grundlage des Artikels\u00a0114 des Vertrags \u00fcber die Arbeitsweise der Europ\u00e4ischen Union (AEUV) gew\u00e4hrleistet wird. Soweit diese Verordnung konkrete Vorschriften zum Schutz von Einzelpersonen im Hinblick auf die Verarbeitung personenbezogener Daten enth\u00e4lt, mit denen die Verwendung von KI-Systemen zur biometrischen Fernidentifizierung zu Strafverfolgungszwecken, die Verwendung von KI-Systemen f\u00fcr die Risikobewertung nat\u00fcrlicher Personen zu Strafverfolgungszwecken und die Verwendung von KI-Systemen zur biometrischen Kategorisierung zu Strafverfolgungszwecken eingeschr\u00e4nkt wird, ist es angezeigt, diese Verordnung in Bezug auf diese konkreten Vorschriften auf Artikel\u00a016 AEUV zu st\u00fctzen. Angesichts dieser konkreten Vorschriften und des R\u00fcckgriffs auf Artikel\u00a016 AEUV ist es angezeigt, den Europ\u00e4ischen Datenschutzausschuss zu konsultieren.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(4)<\/p>\n<\/td>\n

\n

KI bezeichnet eine Reihe von Technologien, die sich rasant entwickeln und zu vielf\u00e4ltigem Nutzen f\u00fcr Wirtschaft, Umwelt und Gesellschaft \u00fcber das gesamte Spektrum industrieller und gesellschaftlicher T\u00e4tigkeiten hinweg beitragen. Durch die Verbesserung der Vorhersage, die Optimierung der Abl\u00e4ufe, Ressourcenzuweisung und die Personalisierung digitaler L\u00f6sungen, die Einzelpersonen und Organisationen zur Verf\u00fcgung stehen, kann die Verwendung von KI Unternehmen wesentliche Wettbewerbsvorteile verschaffen und zu guten Ergebnissen f\u00fcr Gesellschaft und Umwelt f\u00fchren, beispielsweise in den Bereichen Gesundheitsversorgung, Landwirtschaft, Lebensmittelsicherheit, allgemeine und berufliche Bildung, Medien, Sport, Kultur, Infrastrukturmanagement, Energie, Verkehr und Logistik, \u00f6ffentliche Dienstleistungen, Sicherheit, Justiz, Ressourcen- und Energieeffizienz, Umwelt\u00fcberwachung, Bewahrung und Wiederherstellung der Biodiversit\u00e4t und der \u00d6kosysteme sowie Klimaschutz und Anpassung an den Klimawandel.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(5)<\/p>\n<\/td>\n

\n

Gleichzeitig kann KI je nach den Umst\u00e4nden ihrer konkreten Anwendung und Nutzung sowie der technologischen Entwicklungsstufe Risiken mit sich bringen und \u00f6ffentliche Interessen und grundlegende Rechte sch\u00e4digen, die durch das Unionsrecht gesch\u00fctzt sind. Ein solcher Schaden kann materieller oder immaterieller Art sein, einschlie\u00dflich physischer, psychischer, gesellschaftlicher oder wirtschaftlicher Sch\u00e4den.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(6)<\/p>\n<\/td>\n

\n

Angesichts der gro\u00dfen Auswirkungen, die KI auf die Gesellschaft haben kann, und der Notwendigkeit, Vertrauen aufzubauen, ist es von entscheidender Bedeutung, dass KI und ihr Regulierungsrahmen im Einklang mit den in Artikel\u00a02 des Vertrags \u00fcber die Europ\u00e4ische Union (EUV) verankerten Werten der Union, den in den Vertr\u00e4gen und, nach Artikel\u00a06 EUV, der Charta verankerten Grundrechten und -freiheiten entwickelt werden. Voraussetzung sollte sein, dass KI eine menschenzentrierte Technologie ist. Sie sollte den Menschen als Instrument dienen und letztendlich das menschliche Wohlergehen verbessern.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(7)<\/p>\n<\/td>\n

\n

Um ein einheitliches und hohes Schutzniveau in Bezug auf \u00f6ffentliche Interessen im Hinblick auf Gesundheit, Sicherheit und Grundrechte zu gew\u00e4hrleisten, sollten f\u00fcr alle Hochrisiko-KI-Systeme gemeinsame Vorschriften festgelegt werden. Diese Vorschriften sollten mit der Charta im Einklang stehen, nichtdiskriminierend sein und mit den internationalen Handelsverpflichtungen der Union vereinbar sein. Sie sollten auch die Europ\u00e4ische Erkl\u00e4rung zu den digitalen Rechten und Grunds\u00e4tzen f\u00fcr die digitale Dekade und die Ethikleitlinien f\u00fcr vertrauensw\u00fcrdige KI der hochrangigen Expertengruppe f\u00fcr k\u00fcnstliche Intelligenz ber\u00fccksichtigen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(8)<\/p>\n<\/td>\n

\n

Daher ist ein Rechtsrahmen der Union mit harmonisierten Vorschriften f\u00fcr KI erforderlich, um die Entwicklung, Verwendung und Verbreitung von KI im Binnenmarkt zu f\u00f6rdern und gleichzeitig ein hohes Schutzniveau in Bezug auf \u00f6ffentliche Interessen wie etwa Gesundheit und Sicherheit und den Schutz der durch das Unionsrecht anerkannten und gesch\u00fctzten Grundrechte, einschlie\u00dflich der Demokratie, der Rechtsstaatlichkeit und des Umweltschutzes, zu gew\u00e4hrleisten. Zur Umsetzung dieses Ziels sollten Vorschriften f\u00fcr das Inverkehrbringen, die Inbetriebnahme und die Verwendung bestimmter KI-Systeme festgelegt werden, um das reibungslose Funktionieren des Binnenmarkts zu gew\u00e4hrleisten, sodass diesen Systemen der Grundsatz des freien Waren- und Dienstleistungsverkehrs zugutekommen kann. Diese Regeln sollten klar und robust sein, um die Grundrechte zu sch\u00fctzen, neue innovative L\u00f6sungen zu unterst\u00fctzen und ein europ\u00e4isches \u00d6kosystem \u00f6ffentlicher und privater Akteure zu erm\u00f6glichen, die KI-Systeme im Einklang mit den Werten der Union entwickeln, und um das Potenzial des digitalen Wandels in allen Regionen der Union zu erschlie\u00dfen. Durch die Festlegung dieser Vorschriften sowie durch Ma\u00dfnahmen zur Unterst\u00fctzung der Innovation mit besonderem Augenmerk auf kleinen und mittleren Unternehmen (KMU), einschlie\u00dflich Start-up-Unternehmen, unterst\u00fctzt diese Verordnung das vom Europ\u00e4ischen Rat formulierte Ziel, das europ\u00e4ische menschenzentrierte KI-Konzept zu f\u00f6rdern und bei der Entwicklung einer sicheren, vertrauensw\u00fcrdigen und ethisch vertretbaren KI weltweit eine F\u00fchrungsrolle einzunehmen\u00a0(5<\/span>)<\/a>, und sorgt f\u00fcr den vom Europ\u00e4ischen Parlament ausdr\u00fccklich geforderten Schutz von Ethikgrunds\u00e4tzen\u00a0(6<\/span>)<\/a>.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(9)<\/p>\n<\/td>\n

\n

Es sollten harmonisierte Vorschriften f\u00fcr das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Hochrisiko-KI-Systemen im Einklang mit der Verordnung (EG) Nr.\u00a0765\/2008 des Europ\u00e4ischen Parlaments und des Rates\u00a0(7<\/span>)<\/a>, dem Beschluss Nr.\u00a0768\/2008\/EG des Europ\u00e4ischen Parlaments und des Rates\u00a0(8<\/span>)<\/a> und der Verordnung (EU) 2019\/1020 des Europ\u00e4ischen Parlaments und des Rates\u00a0(9<\/span>)<\/a> (\u201eneuer Rechtsrahmen\u201c) festgelegt werden. Die in dieser Verordnung festgelegten harmonisierten Vorschriften sollten in allen Sektoren gelten und sollten im Einklang mit dem neuen Rechtsrahmen bestehendes Unionsrecht, das durch diese Verordnung erg\u00e4nzt wird, unber\u00fchrt lassen, insbesondere in den Bereichen Datenschutz, Verbraucherschutz, Grundrechte, Besch\u00e4ftigung, Arbeitnehmerschutz und Produktsicherheit. Daher bleiben alle Rechte und Rechtsbehelfe, die f\u00fcr Verbraucher und andere Personen, auf die sich KI-Systeme negativ auswirken k\u00f6nnen, gem\u00e4\u00df diesem Unionsrecht vorgesehen sind, auch in Bezug auf einen m\u00f6glichen Schadenersatz gem\u00e4\u00df der Richtlinie 85\/374\/EWG des Rates\u00a0(10<\/span>)<\/a> unber\u00fchrt und in vollem Umfang anwendbar. Dar\u00fcber hinaus und unter Einhaltung des Unionsrechts in Bezug auf Besch\u00e4ftigungs- und Arbeitsbedingungen, einschlie\u00dflich des Gesundheitsschutzes und der Sicherheit am Arbeitsplatz sowie der Beziehungen zwischen Arbeitgebern und Arbeitnehmern sollte diese Verordnung daher\u00a0\u2014 was Besch\u00e4ftigung und den Schutz von Arbeitnehmern angeht\u00a0\u2014 das Unionsrecht im Bereich der Sozialpolitik und die nationalen Arbeitsrechtsvorschriften nicht ber\u00fchren. Diese Verordnung sollte auch die Aus\u00fcbung der in den Mitgliedstaaten und auf Unionsebene anerkannten Grundrechte, einschlie\u00dflich des Rechts oder der Freiheit zum Streik oder zur Durchf\u00fchrung anderer Ma\u00dfnahmen, die im Rahmen der spezifischen Systeme der Mitgliedstaaten im Bereich der Arbeitsbeziehungen vorgesehen sind, sowie das Recht, im Einklang mit nationalem Recht Kollektivvereinbarungen auszuhandeln, abzuschlie\u00dfen und durchzusetzen oder kollektive Ma\u00dfnahmen zu ergreifen, nicht beeintr\u00e4chtigen. Diese Verordnung sollte die in einer Richtlinie des Europ\u00e4ischen Parlaments und des Rates zur Verbesserung der Arbeitsbedingungen in der Plattformarbeit enthaltenen Bestimmungen nicht ber\u00fchren. Dar\u00fcber hinaus zielt diese Verordnung darauf ab, die Wirksamkeit dieser bestehenden Rechte und Rechtsbehelfe zu st\u00e4rken, indem bestimmte Anforderungen und Pflichten, auch in Bezug auf die Transparenz, die technische Dokumentation und das F\u00fchren von Aufzeichnungen von KI-Systemen, festgelegt werden. Ferner sollten die in dieser Verordnung festgelegten Pflichten der verschiedenen Akteure, die an der KI-Wertsch\u00f6pfungskette beteiligt sind, unbeschadet der nationalen Rechtsvorschriften unter Einhaltung des Unionsrechts angewandt werden, wodurch die Verwendung bestimmter KI-Systeme begrenzt wird, wenn diese Rechtsvorschriften nicht in den Anwendungsbereich dieser Verordnung fallen oder mit ihnen andere legitime Ziele des \u00f6ffentlichen Interesses verfolgt werden als in dieser Verordnung. So sollten etwa die nationalen arbeitsrechtlichen Vorschriften und die Rechtsvorschriften zum Schutz Minderj\u00e4hriger, n\u00e4mlich Personen unter 18\u00a0Jahren, unter Ber\u00fccksichtigung der Allgemeinen Bemerkung Nr.\u00a025 (2021) des UNCRC \u00fcber die Rechte der Kinder im digitalen Umfeld von dieser Verordnung unber\u00fchrt bleiben, sofern sie nicht spezifisch KI-Systeme betreffen und mit ihnen andere legitime Ziele des \u00f6ffentlichen Interesses verfolgt werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(10)<\/p>\n<\/td>\n

\n

Das Grundrecht auf Schutz personenbezogener Daten wird insbesondere durch die Verordnungen (EU)\u00a02016\/679\u00a0(11<\/span>)<\/a> und (EU)\u00a02018\/1725\u00a0(12<\/span>)<\/a> des Europ\u00e4ischen Parlaments und des Rates und die Richtlinie (EU) 2016\/680 des Europ\u00e4ischen Parlaments und des Rates\u00a0(13<\/span>)<\/a> gewahrt. Die Richtlinie\u00a02002\/58\/EG des Europ\u00e4ischen Parlaments und des Rates\u00a0(14<\/span>)<\/a> sch\u00fctzt dar\u00fcber hinaus die Privatsph\u00e4re und die Vertraulichkeit der Kommunikation, auch durch Bedingungen f\u00fcr die Speicherung personenbezogener und nicht personenbezogener Daten auf Endger\u00e4ten und den Zugang dazu. Diese Rechtsakte der Union bieten die Grundlage f\u00fcr eine nachhaltige und verantwortungsvolle Datenverarbeitung, auch wenn Datens\u00e4tze eine Mischung aus personenbezogenen und nicht-personenbezogenen Daten enthalten. Diese Verordnung soll die Anwendung des bestehenden Unionsrechts zur Verarbeitung personenbezogener Daten, einschlie\u00dflich der Aufgaben und Befugnisse der unabh\u00e4ngigen Aufsichtsbeh\u00f6rden, die f\u00fcr die \u00dcberwachung der Einhaltung dieser Instrumente zust\u00e4ndig sind, nicht ber\u00fchren. Sie l\u00e4sst ferner die Pflichten der Anbieter und Betreiber von KI-Systemen in ihrer Rolle als Verantwortliche oder Auftragsverarbeiter, die sich aus dem Unionsrecht oder dem nationalen Recht \u00fcber den Schutz personenbezogener Daten ergeben, unber\u00fchrt, soweit die Konzeption, die Entwicklung oder die Verwendung von KI-Systemen die Verarbeitung personenbezogener Daten umfasst. Ferner sollte klargestellt werden, dass betroffene Personen weiterhin \u00fcber alle Rechte und Garantien verf\u00fcgen, die ihnen durch dieses Unionsrecht gew\u00e4hrt werden, einschlie\u00dflich der Rechte im Zusammenhang mit der ausschlie\u00dflich automatisierten Entscheidungsfindung im Einzelfall und dem Profiling. Harmonisierte Vorschriften f\u00fcr das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen, die im Rahmen dieser Verordnung festgelegt werden, sollten die wirksame Durchf\u00fchrung erleichtern und die Aus\u00fcbung der Rechte betroffener Personen und anderer Rechtsbehelfe, die im Unionsrecht \u00fcber den Schutz personenbezogener Daten und anderer Grundrechte garantiert sind, erm\u00f6glichen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(11)<\/p>\n<\/td>\n

\n

Diese Verordnung sollte die Bestimmungen \u00fcber die Verantwortlichkeit der Anbieter von Vermittlungsdiensten gem\u00e4\u00df der Verordnung (EU) 2022\/2065 des Europ\u00e4ischen Parlaments und des Rates\u00a0(15<\/span>)<\/a> unber\u00fchrt lassen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(12)<\/p>\n<\/td>\n

\n

Der Begriff \u201eKI-System\u201c in dieser Verordnung sollte klar definiert und eng mit der T\u00e4tigkeit internationaler Organisationen abgestimmt werden, die sich mit KI befassen, um Rechtssicherheit, mehr internationale Konvergenz und hohe Akzeptanz sicherzustellen und gleichzeitig Flexibilit\u00e4t zu bieten, um den raschen technologischen Entwicklungen in diesem Bereich Rechnung zu tragen. Dar\u00fcber hinaus sollte die Begriffsbestimmung auf den wesentlichen Merkmalen der KI beruhen, die sie von einfacheren herk\u00f6mmlichen Softwaresystemen und Programmierungsans\u00e4tzen abgrenzen, und sollte sich nicht auf Systeme beziehen, die auf ausschlie\u00dflich von nat\u00fcrlichen Personen definierten Regeln f\u00fcr das automatische Ausf\u00fchren von Operationen beruhen. Ein wesentliches Merkmal von KI-Systemen ist ihre F\u00e4higkeit, abzuleiten. Diese F\u00e4higkeit bezieht sich auf den Prozess der Erzeugung von Ausgaben, wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen, die physische und digitale Umgebungen beeinflussen k\u00f6nnen, sowie auf die F\u00e4higkeit von KI-Systemen, Modelle oder Algorithmen oder beides aus Eingaben oder Daten abzuleiten. Zu den Techniken, die w\u00e4hrend der Gestaltung eines KI-Systems das Ableiten erm\u00f6glichen, geh\u00f6ren Ans\u00e4tze f\u00fcr maschinelles Lernen, wobei aus Daten gelernt wird, wie bestimmte Ziele erreicht werden k\u00f6nnen, sowie logik- und wissensgest\u00fctzte Konzepte, wobei aus kodierten Informationen oder symbolischen Darstellungen der zu l\u00f6senden Aufgabe abgeleitet wird. Die F\u00e4higkeit eines KI-Systems, abzuleiten, geht \u00fcber die einfache Datenverarbeitung hinaus, indem Lern-, Schlussfolgerungs- und Modellierungsprozesse erm\u00f6glicht werden. Die Bezeichnung \u201emaschinenbasiert\u201c bezieht sich auf die Tatsache, dass KI-Systeme von Maschinen betrieben werden. Durch die Bezugnahme auf explizite oder implizite Ziele wird betont, dass KI-Systeme gem\u00e4\u00df explizit festgelegten Zielen oder gem\u00e4\u00df impliziten Zielen arbeiten k\u00f6nnen. Die Ziele des KI-Systems k\u00f6nnen sich\u00a0\u2014\u00a0unter bestimmten Umst\u00e4nden\u00a0\u2014 von der Zweckbestimmung des KI-Systems unterscheiden. F\u00fcr die Zwecke dieser Verordnung sollten Umgebungen als Kontexte verstanden werden, in denen KI-Systeme betrieben werden, w\u00e4hrend die von einem KI-System erzeugten Ausgaben verschiedene Funktionen von KI-Systemen widerspiegeln, darunter Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen. KI-Systeme sind mit verschiedenen Graden der Autonomie ausgestattet, was bedeutet, dass sie\u00a0bis zu einem gewissen Grad unabh\u00e4ngig von menschlichem Zutun agieren und in der Lage sind, ohne menschliches Eingreifen zu arbeiten. Die Anpassungsf\u00e4higkeit, die ein KI-System nach Inbetriebnahme aufweisen k\u00f6nnte, bezieht sich auf seine Lernf\u00e4higkeit, durch sie es sich w\u00e4hrend seiner Verwendung ver\u00e4ndern kann. KI-Systeme k\u00f6nnen eigenst\u00e4ndig oder als Bestandteil eines Produkts verwendet werden, unabh\u00e4ngig davon, ob das System physisch in das Produkt integriert (eingebettet) ist oder der Funktion des Produkts dient, ohne darin integriert zu sein (nicht eingebettet).<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(13)<\/p>\n<\/td>\n

\n

Der in dieser Verordnung verwendete Begriff \u201eBetreiber\u201c sollte als eine nat\u00fcrliche oder juristische Person, einschlie\u00dflich Beh\u00f6rden, Einrichtungen oder sonstiger Stellen, die ein KI-System unter ihrer Befugnis verwenden, verstanden werden, es sei denn das KI-System wird im Rahmen einer pers\u00f6nlichen und nicht beruflichen T\u00e4tigkeit verwendet. Je nach Art des KI-Systems kann sich dessen Verwendung auf andere Personen als den Betreiber auswirken.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(14)<\/p>\n<\/td>\n

\n

Der in dieser Verordnung verwendete Begriff \u201ebiometrische Daten\u201c sollte im Sinne des Begriffs \u201ebiometrische Daten\u201c nach Artikel\u00a04 Nummer\u00a014 der Verordnung (EU) 2016\/679, Artikel\u00a03 Nummer\u00a018 der Verordnung (EU) 2018\/1725 und Artikel\u00a03 Nummer\u00a013 der Richtlinie (EU) 2016\/680 ausgelegt werden. Biometrische Daten k\u00f6nnen die Authentifizierung, Identifizierung oder Kategorisierung nat\u00fcrlicher Personen und die Erkennung von Emotionen nat\u00fcrlicher Personen erm\u00f6glichen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(15)<\/p>\n<\/td>\n

\n

Der Begriff \u201ebiometrische Identifizierung\u201c sollte gem\u00e4\u00df dieser Verordnung als automatische Erkennung physischer, physiologischer und verhaltensbezogener menschlicher Merkmale wie Gesicht, Augenbewegungen, K\u00f6rperform, Stimme, Prosodie, Gang, Haltung, Herzfrequenz, Blutdruck, Geruch, charakteristischer Tastenanschlag zum Zweck der \u00dcberpr\u00fcfung der Identit\u00e4t einer Person durch Abgleich der biometrischen Daten der entsprechenden Person mit den in einer Datenbank gespeicherten biometrischen Daten definiert werden, unabh\u00e4ngig davon, ob die Einzelperson ihre Zustimmung dazu gegeben hat oder nicht. Dies umfasst keine KI-Systeme, die bestimmungsgem\u00e4\u00df f\u00fcr die biometrische Verifizierung, wozu die Authentifizierung geh\u00f6rt, verwendet werden sollen, deren einziger Zweck darin besteht, zu best\u00e4tigen, dass eine bestimmte nat\u00fcrliche Person die Person ist, f\u00fcr die sie sich ausgibt, sowie zur Best\u00e4tigung der Identit\u00e4t einer nat\u00fcrlichen Person zu dem alleinigen Zweck Zugang zu einem Dienst zu erhalten, ein Ger\u00e4t zu entriegeln oder Sicherheitszugang zu R\u00e4umlichkeiten zu erhalten.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(16)<\/p>\n<\/td>\n

\n

Der Begriff \u201ebiometrischen Kategorisierung\u201c sollte im Sinne dieser Verordnung die Zuordnung nat\u00fcrlicher Personen auf der Grundlage ihrer biometrischen Daten zu bestimmten Kategorien bezeichnen. Diese bestimmten Kategorien k\u00f6nnen Aspekte wie Geschlecht, Alter, Haarfarbe, Augenfarbe, T\u00e4towierungen, Verhaltens- oder Pers\u00f6nlichkeitsmerkmale, Sprache, Religion, Zugeh\u00f6rigkeit zu einer nationalen Minderheit, sexuelle oder politische Ausrichtung betreffen. Dies gilt nicht f\u00fcr Systeme zur biometrischen Kategorisierung, bei denen es sich um eine reine Nebenfunktion handelt, die untrennbar mit einem anderen kommerziellen Dienst verbunden ist, d.\u00a0h. die Funktion kann aus objektiven technischen Gr\u00fcnden nicht ohne den Hauptdienst verwendet werden und die Integration dieses Merkmals oder dieser Funktion dient nicht dazu, die Anwendbarkeit der Vorschriften dieser Verordnung zu umgehen. Beispielsweise k\u00f6nnten Filter zur Kategorisierung von Gesichts- oder K\u00f6rpermerkmalen, die auf Online-Marktpl\u00e4tzen verwendet werden, eine solche Nebenfunktion darstellen, da sie nur im Zusammenhang mit der Hauptdienstleistung verwendet werden k\u00f6nnen, die darin besteht, ein Produkt zu verkaufen, indem es dem Verbraucher erm\u00f6glicht wird, zu sehen, wie das Produkt an seiner Person aussieht, und ihm so zu helfen, eine Kaufentscheidung zu treffen. Filter, die in sozialen Netzwerken eingesetzt werden und Gesichts- oder K\u00f6rpermerkmale kategorisieren, um es den Nutzern zu erm\u00f6glichen, Bilder oder Videos hinzuzuf\u00fcgen oder zu ver\u00e4ndern, k\u00f6nnen ebenfalls als Nebenfunktion betrachtet werden, da ein solcher Filter nicht ohne die Hauptdienstleistung sozialer Netzwerke verwendet werden kann, die in der Weitergabe von Online-Inhalten besteht.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(17)<\/p>\n<\/td>\n

\n

Der in dieser Verordnung verwendete Begriff \u201ebiometrisches Fernidentifizierungssystem\u201c sollte funktional definiert werden als KI-System, das dem Zweck dient, nat\u00fcrliche Personen ohne ihre aktive Einbeziehung in der Regel aus der Ferne durch Abgleich der biometrischen Daten einer Person mit den in einer Referenzdatenbank gespeicherten biometrischen Daten zu identifizieren, unabh\u00e4ngig davon, welche Technologie, Verfahren oder Arten biometrischer Daten dazu verwendet werden. Diese biometrischen Fernidentifizierungssysteme werden in der Regel zur zeitgleichen Erkennung mehrerer Personen oder ihrer Verhaltensweisen verwendet, um die Identifizierung nat\u00fcrlicher Personen ohne ihre aktive Einbeziehung erheblich zu erleichtern. Dies umfasst keine KI-Systeme, die bestimmungsgem\u00e4\u00df f\u00fcr die biometrische Verifizierung, wozu die Authentifizierung geh\u00f6rt, verwendet werden sollen, deren einziger Zweck darin besteht, zu best\u00e4tigen, dass eine bestimmte nat\u00fcrliche Person die Person ist, f\u00fcr die sie sich ausgibt, sowie zur Best\u00e4tigung der Identit\u00e4t einer nat\u00fcrlichen Person zu dem alleinigen Zweck Zugang zu einem Dienst zu erhalten, ein Ger\u00e4t zu entriegeln oder Sicherheitszugang zu R\u00e4umlichkeiten zu erhalten. Diese Ausnahme wird damit begr\u00fcndet, dass diese Systeme im Vergleich zu biometrischen Fernidentifizierungssystemen, die zur Verarbeitung biometrischer Daten einer gro\u00dfen Anzahl von Personen ohne ihre aktive Einbeziehung verwendet werden k\u00f6nnen, geringf\u00fcgige Auswirkungen auf die Grundrechte nat\u00fcrlicher Personen haben d\u00fcrften. Bei \u201eEchtzeit-Systemen\u201c erfolgen die Erfassung der biometrischen Daten, der Abgleich und die Identifizierung zeitgleich, nahezu zeitgleich oder auf jeden Fall ohne erhebliche Verz\u00f6gerung. In diesem Zusammenhang sollte es keinen Spielraum f\u00fcr eine Umgehung der Bestimmungen dieser Verordnung \u00fcber die \u201eEchtzeit-Nutzung\u201c der betreffenden KI-Systeme geben, indem kleinere Verz\u00f6gerungen vorgesehen werden. \u201eEchtzeit-Systeme\u201c umfassen die Verwendung von \u201eLive-Material\u201c oder \u201eNear-live-Material\u201c wie etwa Videoaufnahmen, die von einer Kamera oder einem anderen Ger\u00e4t mit \u00e4hnlicher Funktion erzeugt werden. Bei Systemen zur nachtr\u00e4glichen Identifizierung hingegen wurden die biometrischen Daten schon zuvor erfasst und der Abgleich und die Identifizierung erfolgen erst mit erheblicher Verz\u00f6gerung. Dabei handelt es sich um Material wie etwa Bild- oder Videoaufnahmen, die von Video-\u00dcberwachungssystemen oder privaten Ger\u00e4ten vor der Anwendung des Systems auf die betroffenen nat\u00fcrlichen Personen erzeugt wurden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(18)<\/p>\n<\/td>\n

\n

Der in dieser Verordnung verwendete Begriff \u201eEmotionserkennungssystem\u201c sollte als ein KI-System definiert werden, das dem Zweck dient, Emotionen oder Absichten nat\u00fcrlicher Personen auf der Grundlage ihrer biometrischen Daten festzustellen oder daraus abzuleiten. In diesem Begriff geht es um Emotionen oder Absichten wie Gl\u00fcck, Trauer, Wut, \u00dcberraschung, Ekel, Verlegenheit, Aufregung, Scham, Verachtung, Zufriedenheit und Vergn\u00fcgen. Dies umfasst nicht physische Zust\u00e4nde wie Schmerz oder Erm\u00fcdung, einschlie\u00dflich beispielsweise Systeme, die zur Erkennung des Zustands der Erm\u00fcdung von Berufspiloten oder -fahrern eigesetzt werden, um Unf\u00e4lle zu verhindern. Es geht dabei auch nicht um die blo\u00dfe Erkennung offensichtlicher Ausdrucksformen, Gesten und Bewegungen, es sei denn, sie werden zum Erkennen oder Ableiten von Emotionen verwendet. Bei diesen Ausdrucksformen kann es sich um einfache Gesichtsausdr\u00fccke wie ein Stirnrunzeln oder ein L\u00e4cheln oder um Gesten wie Hand-, Arm- oder Kopfbewegungen oder um die Stimmmerkmale einer Person handeln, wie eine erhobene Stimme oder ein Fl\u00fcstern.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(19)<\/p>\n<\/td>\n

\n

F\u00fcr die Zwecke dieser Verordnung sollte der Begriff \u201e\u00f6ffentlich zug\u00e4nglicher Raum\u201c so verstanden werden, dass er sich auf einen einer unbestimmten Anzahl nat\u00fcrlicher Personen zug\u00e4nglichen physischen Ort bezieht, unabh\u00e4ngig davon, ob er sich in privatem oder \u00f6ffentlichem Eigentum befindet, unabh\u00e4ngig von den T\u00e4tigkeiten, f\u00fcr die der Ort verwendet werden kann; dazu z\u00e4hlen Bereiche wie etwa f\u00fcr Gewerbe, etwa Gesch\u00e4fte, Restaurants, Caf\u00e9s, f\u00fcr Dienstleistungen, etwa Banken, berufliche T\u00e4tigkeiten, Gastgewerbe, f\u00fcr Sport, etwa Schwimmb\u00e4der, Fitnessstudios, Stadien, f\u00fcr Verkehr, etwa Bus- und U-Bahn-Haltestellen, Bahnh\u00f6fe, Flugh\u00e4fen, Transportmittel, f\u00fcr Unterhaltung, etwa Kinos, Theater, Museen, Konzert- und Konferenzs\u00e4le oder f\u00fcr Freizeit oder Sonstiges, etwa \u00f6ffentliche Stra\u00dfen und Pl\u00e4tze, Parks, W\u00e4lder, Spielpl\u00e4tze. Ein Ort sollte auch als \u00f6ffentlich zug\u00e4nglich eingestuft werden, wenn der Zugang, unabh\u00e4ngig von m\u00f6glichen Kapazit\u00e4ts- oder Sicherheitsbeschr\u00e4nkungen, bestimmten im Voraus festgelegten Bedingungen unterliegt, die von einer unbestimmten Anzahl von Personen erf\u00fcllt werden k\u00f6nnen, etwa durch den Kauf eines Fahrscheins, die vorherige Registrierung oder die Erf\u00fcllung eines Mindestalters. Dahingegen sollte ein Ort nicht als \u00f6ffentlich zug\u00e4nglich gelten, wenn der Zugang auf nat\u00fcrliche Personen beschr\u00e4nkt ist, die entweder im Unionsrecht oder im nationalen Recht, das direkt mit der \u00f6ffentlichen Sicherheit zusammenh\u00e4ngt, oder im Rahmen einer eindeutigen Willenserkl\u00e4rung der Person, die die entsprechende Befugnis \u00fcber den Ort aus\u00fcbt, bestimmt und festgelegt werden. Die tats\u00e4chliche Zugangsm\u00f6glichkeit allein, etwa eine unversperrte T\u00fcr oder ein offenes Zauntor, bedeutet nicht, dass der Ort \u00f6ffentlich zug\u00e4nglich ist, wenn aufgrund von Hinweisen oder Umst\u00e4nden das Gegenteil nahegelegt wird (etwa Schilder, die den Zugang verbieten oder einschr\u00e4nken). Unternehmens- und Fabrikgel\u00e4nde sowie B\u00fcros und Arbeitspl\u00e4tze, die nur f\u00fcr die betreffenden Mitarbeiter und Dienstleister zug\u00e4nglich sein sollen, sind Orte, die nicht \u00f6ffentlich zug\u00e4nglich sind. Justizvollzugsanstalten und Grenzkontrollbereiche sollten nicht zu den \u00f6ffentlich zug\u00e4nglichen Orten z\u00e4hlen. Einige andere Gebiete k\u00f6nnen sowohl \u00f6ffentlich zug\u00e4ngliche als auch nicht \u00f6ffentlich zug\u00e4ngliche Orte umfassen, etwa die G\u00e4nge eines privaten Wohngeb\u00e4udes, deren Zugang erforderlich ist, um zu einer Arztpraxis zu gelangen, oder Flugh\u00e4fen. Online-R\u00e4ume werden nicht erfasst, da es sich nicht um physische R\u00e4ume handelt. Ob ein bestimmter Raum \u00f6ffentlich zug\u00e4nglich ist, sollte jedoch von Fall zu Fall unter Ber\u00fccksichtigung der Besonderheiten der jeweiligen individuellen Situation entschieden werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(20)<\/p>\n<\/td>\n

\n

Um den gr\u00f6\u00dftm\u00f6glichen Nutzen aus KI-Systemen zu ziehen und gleichzeitig die Grundrechte, Gesundheit und Sicherheit zu wahren und eine demokratische Kontrolle zu erm\u00f6glichen, sollte die KI-Kompetenz Anbieter, Betreiber und betroffene Personen mit den notwendigen Konzepten ausstatten, um fundierte Entscheidungen \u00fcber KI-Systeme zu treffen. Diese Konzepte k\u00f6nnen in Bezug auf den jeweiligen Kontext unterschiedlich sein und das Verstehen der korrekten Anwendung technischer Elemente in der Entwicklungsphase des KI-Systems, der bei seiner Verwendung anzuwendenden Ma\u00dfnahmen und der geeigneten Auslegung der Ausgaben des KI-Systems umfassen sowie\u00a0\u2014 im Falle betroffener Personen\u00a0\u2014 das n\u00f6tige Wissen, um zu verstehen, wie sich mithilfe von KI getroffene Entscheidungen auf sie auswirken werden. Im Zusammenhang mit der Anwendung dieser Verordnung sollte die KI-Kompetenz allen einschl\u00e4gigen Akteuren der KI-Wertsch\u00f6pfungskette die Kenntnisse vermitteln, die erforderlich sind, um die angemessene Einhaltung und die ordnungsgem\u00e4\u00dfe Durchsetzung der Verordnung sicherzustellen. Dar\u00fcber hinaus k\u00f6nnten die umfassende Umsetzung von KI-Kompetenzma\u00dfnahmen und die Einf\u00fchrung geeigneter Folgema\u00dfnahmen dazu beitragen, die Arbeitsbedingungen zu verbessern und letztlich die Konsolidierung und den Innovationspfad vertrauensw\u00fcrdiger KI in der Union unterst\u00fctzen. Ein Europ\u00e4isches Gremium f\u00fcr K\u00fcnstliche Intelligenz (im Folgenden \u201eKI-Gremium\u201c) sollte die Kommission dabei unterst\u00fctzen, KI-Kompetenzinstrumente sowie die Sensibilisierung und Aufkl\u00e4rung der \u00d6ffentlichkeit in Bezug auf die Vorteile, Risiken, Schutzma\u00dfnahmen, Rechte und Pflichten im Zusammenhang mit der Nutzung von KI-Systeme zu f\u00f6rdern. In Zusammenarbeit mit den einschl\u00e4gigen Interessentr\u00e4gern sollten die Kommission und die Mitgliedstaaten die Ausarbeitung freiwilliger Verhaltenskodizes erleichtern, um die KI-Kompetenz von Personen, die mit der Entwicklung, dem Betrieb und der Verwendung von KI befasst sind, zu f\u00f6rdern.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(21)<\/p>\n<\/td>\n

\n

Um gleiche Wettbewerbsbedingungen und einen wirksamen Schutz der Rechte und Freiheiten von Einzelpersonen in der gesamten Union zu gew\u00e4hrleisten, sollten die in dieser Verordnung festgelegten Vorschriften in nichtdiskriminierender Weise f\u00fcr Anbieter von KI-Systemen\u00a0\u2014 unabh\u00e4ngig davon, ob sie in der Union oder in einem Drittland niedergelassen sind\u00a0\u2014 und f\u00fcr Betreiber von KI-Systemen, die in der Union niedergelassen sind, gelten.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(22)<\/p>\n<\/td>\n

\n

Angesichts ihres digitalen Charakters sollten bestimmte KI-Systeme in den Anwendungsbereich dieser Verordnung fallen, selbst wenn sie in der Union weder in Verkehr gebracht noch in Betrieb genommen oder verwendet werden. Dies ist beispielsweise der Fall, wenn ein in der Union niedergelassener Akteur bestimmte Dienstleistungen an einen in einem Drittland niedergelassenen Akteur im Zusammenhang mit einer T\u00e4tigkeit vergibt, die von einem KI-System ausge\u00fcbt werden soll, das als hochriskant einzustufen w\u00e4re. Unter diesen Umst\u00e4nden k\u00f6nnte das von dem Akteur in einem Drittland betriebene KI-System Daten verarbeiten, die rechtm\u00e4\u00dfig in der Union erhoben und aus der Union \u00fcbertragen wurden, und dem vertraglichen Akteur in der Union die aus dieser Verarbeitung resultierende Ausgabe dieses KI-Systems liefern, ohne dass dieses KI-System dabei in der Union in Verkehr gebracht, in Betrieb genommen oder verwendet w\u00fcrde. Um die Umgehung dieser Verordnung zu verhindern und einen wirksamen Schutz in der Union ans\u00e4ssiger nat\u00fcrlicher Personen zu gew\u00e4hrleisten, sollte diese Verordnung auch f\u00fcr Anbieter und Betreiber von KI-Systemen gelten, die in einem Drittland niedergelassen sind, soweit beabsichtigt wird, die von diesem System erzeugte Ausgabe in der Union zu verwenden. Um jedoch bestehenden Vereinbarungen und besonderen Erfordernissen f\u00fcr die k\u00fcnftige Zusammenarbeit mit ausl\u00e4ndischen Partnern, mit denen Informationen und Beweismittel ausgetauscht werden, Rechnung zu tragen, sollte diese Verordnung nicht f\u00fcr Beh\u00f6rden eines Drittlands und internationale Organisationen gelten, wenn sie im Rahmen der Zusammenarbeit oder internationaler \u00dcbereink\u00fcnfte t\u00e4tig werden, die auf Unionsebene oder nationaler Ebene f\u00fcr die Zusammenarbeit mit der Union oder den Mitgliedstaaten im Bereich der Strafverfolgung und der justiziellen Zusammenarbeit geschlossen wurden, vorausgesetzt dass dieses Drittland oder diese internationale Organisationen angemessene Garantien in Bezug auf den Schutz der Grundrechte und -freiheiten von Einzelpersonen bieten. Dies kann gegebenenfalls T\u00e4tigkeiten von Einrichtungen umfassen, die von Drittl\u00e4ndern mit der Wahrnehmung bestimmter Aufgaben zur Unterst\u00fctzung dieser Zusammenarbeit im Bereich der Strafverfolgung und der justiziellen Zusammenarbeit betraut wurden. Ein solcher Rahmen f\u00fcr die Zusammenarbeit oder f\u00fcr \u00dcbereink\u00fcnfte wurde bilateral zwischen Mitgliedstaaten und Drittl\u00e4ndern oder zwischen der Europ\u00e4ischen Union, Europol und anderen Agenturen der Union und Drittl\u00e4ndern und internationalen Organisationen erarbeitet. Die Beh\u00f6rden, die nach dieser Verordnung f\u00fcr die Aufsicht \u00fcber die Strafverfolgungs- und Justizbeh\u00f6rden zust\u00e4ndig sind, sollten pr\u00fcfen, ob diese Rahmen f\u00fcr die Zusammenarbeit oder internationale \u00dcbereink\u00fcnfte angemessene Garantien in Bezug auf den Schutz der Grundrechte und -freiheiten von Einzelpersonen enthalten. Empfangende nationale Beh\u00f6rden und Organe, Einrichtungen sowie sonstige Stellen der Union, die diese Ausgaben in der Union verwenden, sind weiterhin daf\u00fcr verantwortlich, sicherzustellen, dass ihre Verwendung mit Unionsrecht vereinbar ist. Wenn diese internationalen \u00dcbereink\u00fcnfte \u00fcberarbeitet oder wenn k\u00fcnftig neue \u00dcbereink\u00fcnfte geschlossen werden, sollten die Vertragsparteien gr\u00f6\u00dftm\u00f6gliche Anstrengungen unternehmen, um diese \u00dcbereink\u00fcnfte an die Anforderungen dieser Verordnung anzugleichen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(23)<\/p>\n<\/td>\n

\n

Diese Verordnung sollte auch f\u00fcr Organe, Einrichtungen und sonstige Stellen der Union gelten, wenn sie als Anbieter oder Betreiber eines KI-Systems auftreten.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(24)<\/p>\n<\/td>\n

\n

Wenn und soweit KI-Systeme mit oder ohne \u00c4nderungen f\u00fcr Zwecke in den Bereichen Milit\u00e4r, Verteidigung oder nationale Sicherheit in Verkehr gebracht, in Betrieb genommen oder verwendet werden, sollten sie vom Anwendungsbereich dieser Verordnung ausgenommen werden, unabh\u00e4ngig von der Art der Einrichtung, die diese T\u00e4tigkeiten aus\u00fcbt, etwa ob es sich um eine \u00f6ffentliche oder private Einrichtung handelt. In Bezug auf die Zwecke in den Bereichen Milit\u00e4r und Verteidigung gr\u00fcndet sich die Ausnahme sowohl auf Artikel\u00a04 Absatz\u00a02 EUV als auch auf die Besonderheiten der Verteidigungspolitik der Mitgliedstaaten und der in Titel\u00a0V\u00a0Kapitel\u00a02 EUV abgedeckten gemeinsamen Verteidigungspolitik der Union, die dem V\u00f6lkerrecht unterliegen, was daher den geeigneteren Rechtsrahmen f\u00fcr die Regulierung von KI-Systemen im Zusammenhang mit der Anwendung t\u00f6dlicher Gewalt und sonstigen KI-Systemen im Zusammenhang mit Milit\u00e4r- oder Verteidigungst\u00e4tigkeiten darstellt. In Bezug auf die Zwecke im Bereich nationale Sicherheit gr\u00fcndet sich die Ausnahme sowohl auf die Tatsache, dass die nationale Sicherheit gem\u00e4\u00df Artikel\u00a04 Absatz\u00a02 EUV weiterhin in die alleinige Verantwortung der Mitgliedstaaten f\u00e4llt, als auch auf die besondere Art und die operativen Bed\u00fcrfnisse der T\u00e4tigkeiten im Bereich der nationalen Sicherheit und der spezifischen nationalen Vorschriften f\u00fcr diese T\u00e4tigkeiten. Wird ein KI-System, das f\u00fcr Zwecke in den Bereichen Milit\u00e4r, Verteidigung oder nationale Sicherheit entwickelt, in Verkehr gebracht, in Betrieb genommen oder verwendet wird, jedoch vor\u00fcbergehend oder st\u00e4ndig f\u00fcr andere Zwecke verwendet, etwa f\u00fcr zivile oder humanit\u00e4re Zwecke oder f\u00fcr Zwecke der Strafverfolgung oder \u00f6ffentlichen Sicherheit, so w\u00fcrde dieses System in den Anwendungsbereich dieser Verordnung fallen. In diesem Fall sollte die Einrichtung, die das KI-System f\u00fcr andere Zwecke als Zwecke in den Bereichen Milit\u00e4r, Verteidigung oder nationale Sicherheit verwendet, die Konformit\u00e4t des KI-Systems mit dieser Verordnung sicherstellen, es sei denn, das System entspricht bereits dieser Verordnung. KI-Systeme, die f\u00fcr einen ausgeschlossenen Zweck, n\u00e4mlich Milit\u00e4r, Verteidigung oder nationale Sicherheit, und f\u00fcr einen oder mehrere nicht ausgeschlossene Zwecke, etwa zivile Zwecke oder Strafverfolgungszwecke, in Verkehr gebracht oder in Betrieb genommen werden, fallen in den Anwendungsbereich dieser Verordnung, und Anbieter dieser Systeme sollten die Einhaltung dieser Verordnung sicherstellen. In diesen F\u00e4llen sollte sich die Tatsache, dass ein KI-System in den Anwendungsbereich dieser Verordnung f\u00e4llt, nicht darauf auswirken, dass Einrichtungen, die T\u00e4tigkeiten in den Bereichen nationale Sicherheit, Verteidigung oder Milit\u00e4r aus\u00fcben, KI-Systeme f\u00fcr Zwecke in den Bereichen nationale Sicherheit, Milit\u00e4r und Verteidigung verwenden k\u00f6nnen, unabh\u00e4ngig von der Art der Einrichtung, die diese T\u00e4tigkeiten aus\u00fcbt, wobei die Verwendung vom Anwendungsbereich dieser Verordnung ausgenommen ist. Ein KI-System, das f\u00fcr zivile Zwecke oder Strafverfolgungszwecke in Verkehr gebracht wurde und mit oder ohne \u00c4nderungen f\u00fcr Zwecke in den Bereichen Milit\u00e4r, Verteidigung oder nationale Sicherheit verwendet wird, sollte nicht in den Anwendungsbereich dieser Verordnung fallen, unabh\u00e4ngig von der Art der Einrichtung, die diese T\u00e4tigkeiten aus\u00fcbt.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(25)<\/p>\n<\/td>\n

\n

Diese Verordnung sollte die Innovation f\u00f6rdern, die Freiheit der Wissenschaft achten und Forschungs- und Entwicklungst\u00e4tigkeiten nicht untergraben. Daher m\u00fcssen KI-Systeme und -Modelle, die eigens f\u00fcr den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden, vom Anwendungsbereich der Verordnung ausgenommen werden. Ferner muss sichergestellt werden, dass sich die Verordnung nicht anderweitig auf Forschungs- und Entwicklungst\u00e4tigkeiten zu KI-Systemen und -Modellen auswirkt, bevor diese in Verkehr gebracht oder in Betrieb genommen werden. Hinsichtlich produktorientierter Forschungs-, Test- und Entwicklungst\u00e4tigkeiten in Bezug auf KI-Systeme oder -Modelle sollten die Bestimmungen dieser Verordnung auch nicht vor der Inbetriebnahme oder dem Inverkehrbringen dieser Systeme und Modelle gelten. Diese Ausnahme ber\u00fchrt weder die Pflicht zur Einhaltung dieser Verordnung, wenn ein KI-System, das in den Anwendungsbereich dieser Verordnung f\u00e4llt, infolge solcher Forschungs- und Entwicklungst\u00e4tigkeiten in Verkehr gebracht oder in Betrieb genommen wird, noch die Anwendung der Bestimmungen zu KI-Reallaboren und zu Tests unter Realbedingungen. Dar\u00fcber hinaus sollte unbeschadet der Ausnahme in Bezug auf KI-Systeme, die eigens f\u00fcr den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden, jedes andere KI-System, das f\u00fcr die Durchf\u00fchrung von Forschungs- und Entwicklungst\u00e4tigkeiten verwendet werden k\u00f6nnte, den Bestimmungen dieser Verordnung unterliegen. In jedem Fall sollten jegliche Forschungs- und Entwicklungst\u00e4tigkeiten gem\u00e4\u00df anerkannten ethischen und professionellen Grunds\u00e4tzen f\u00fcr die wissenschaftliche Forschung und unter Wahrung des geltenden Unionsrechts ausgef\u00fchrt werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(26)<\/p>\n<\/td>\n

\n

Um ein verh\u00e4ltnism\u00e4\u00dfiges und wirksames verbindliches Regelwerk f\u00fcr KI-Systeme einzuf\u00fchren, sollte ein klar definierter risikobasierter Ansatz verfolgt werden. Bei diesem Ansatz sollten Art und Inhalt solcher Vorschriften auf die Intensit\u00e4t und den Umfang der Risiken zugeschnitten werden, die von KI-Systemen ausgehen k\u00f6nnen. Es ist daher notwendig, bestimmte inakzeptable Praktiken im Bereich der KI zu verbieten und Anforderungen an Hochrisiko-KI-Systeme und Pflichten f\u00fcr die betreffenden Akteure sowie Transparenzpflichten f\u00fcr bestimmte KI-Systeme festzulegen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(27)<\/p>\n<\/td>\n

\n

W\u00e4hrend der risikobasierte Ansatz die Grundlage f\u00fcr ein verh\u00e4ltnism\u00e4\u00dfiges und wirksames verbindliches Regelwerk bildet, muss auch auf die Ethikleitlinien f\u00fcr vertrauensw\u00fcrdige KI von 2019 der von der Kommission eingesetzten unabh\u00e4ngigen hochrangigen Expertengruppe f\u00fcr k\u00fcnstliche Intelligenz verwiesen werden. In diesen Leitlinien hat die hochrangige Expertengruppe sieben unverbindliche ethische Grunds\u00e4tze f\u00fcr KI entwickelt, die dazu beitragen sollten, dass KI vertrauensw\u00fcrdig und ethisch vertretbar ist. Zu den sieben Grunds\u00e4tzen geh\u00f6ren: menschliches Handeln und menschliche Aufsicht, technische Robustheit und Sicherheit, Privatsph\u00e4re und Daten-Governance, Transparenz, Vielfalt, Nichtdiskriminierung und Fairness, soziales und \u00f6kologisches Wohlergehen sowie Rechenschaftspflicht. Unbeschadet der rechtsverbindlichen Anforderungen dieser Verordnung und anderer geltender Rechtsvorschriften der Union tragen diese Leitlinien zur Gestaltung koh\u00e4renter, vertrauensw\u00fcrdiger und menschenzentrierter KI bei im Einklang mit der Charta und den Werten, auf die sich die Union gr\u00fcndet. Nach den Leitlinien der hochrangigen Expertengruppe bedeutet \u201emenschliches Handeln und menschliche Aufsicht\u201c, dass ein KI-System entwickelt und als Instrument verwendet wird, das den Menschen dient, die Menschenw\u00fcrde und die pers\u00f6nliche Autonomie achtet und so funktioniert, dass es von Menschen angemessen kontrolliert und \u00fcberwacht werden kann. \u201eTechnische Robustheit und Sicherheit\u201c bedeutet, dass KI-Systeme so entwickelt und verwendet werden, dass sie im Fall von Schwierigkeiten robust sind und widerstandsf\u00e4hig gegen Versuche, die Verwendung oder Leistung des KI-Systems so zu ver\u00e4ndern, dass dadurch die unrechtm\u00e4\u00dfige Verwendung durch Dritte erm\u00f6glicht wird, und dass ferner unbeabsichtigte Sch\u00e4den minimiert werden. \u201ePrivatsph\u00e4re und Daten-Governance\u201c bedeutet, dass KI-Systeme im Einklang mit den geltenden Vorschriften zum Schutz der Privatsph\u00e4re und zum Datenschutz entwickelt und verwendet werden und dabei Daten verarbeiten, die hohen Qualit\u00e4ts- und Integrit\u00e4tsstandards gen\u00fcgen. \u201eTransparenz\u201c bedeutet, dass KI-Systeme so entwickelt und verwendet werden, dass sie angemessen nachvollziehbar und erkl\u00e4rbar sind, wobei den Menschen bewusst gemacht werden muss, dass sie mit einem KI-System kommunizieren oder interagieren, und dass die Betreiber ordnungsgem\u00e4\u00df \u00fcber die F\u00e4higkeiten und Grenzen des KI-Systems informieren und die betroffenen Personen \u00fcber ihre Rechte in Kenntnis setzen m\u00fcssen. \u201eVielfalt, Nichtdiskriminierung und Fairness\u201c bedeutet, dass KI-Systeme in einer Weise entwickelt und verwendet werden, die unterschiedliche Akteure einbezieht und den gleichberechtigten Zugang, die Geschlechtergleichstellung und die kulturelle Vielfalt f\u00f6rdert, wobei diskriminierende Auswirkungen und unfaire Verzerrungen, die nach Unionsrecht oder nationalem Recht verboten sind, verhindert werden. \u201eSoziales und \u00f6kologisches Wohlergehen\u201c bedeutet, dass KI-Systeme in nachhaltiger und umweltfreundlicher Weise und zum Nutzen aller Menschen entwickelt und verwendet werden, wobei die langfristigen Auswirkungen auf den Einzelnen, die Gesellschaft und die Demokratie \u00fcberwacht und bewertet werden. Die Anwendung dieser Grunds\u00e4tze sollte, soweit m\u00f6glich, in die Gestaltung und Verwendung von KI-Modellen einflie\u00dfen. Sie sollten in jedem Fall als Grundlage f\u00fcr die Ausarbeitung von Verhaltenskodizes im Rahmen dieser Verordnung dienen. Alle Interessentr\u00e4ger, einschlie\u00dflich der Industrie, der Wissenschaft, der Zivilgesellschaft und der Normungsorganisationen, werden aufgefordert, die ethischen Grunds\u00e4tze bei der Entwicklung freiwilliger bew\u00e4hrter Verfahren und Normen, soweit angebracht, zu ber\u00fccksichtigen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(28)<\/p>\n<\/td>\n

\n

Abgesehen von den zahlreichen nutzbringenden Verwendungsm\u00f6glichkeiten von KI kann diese Technologie auch missbraucht werden und neue und wirkungsvolle Instrumente f\u00fcr manipulative, ausbeuterische und soziale Kontrollpraktiken bieten. Solche Praktiken sind besonders sch\u00e4dlich und missbr\u00e4uchlich und sollten verboten werden, weil sie im Widerspruch zu den Werten der Union stehen, n\u00e4mlich der Achtung der Menschenw\u00fcrde, Freiheit, Gleichheit, Demokratie und Rechtsstaatlichkeit sowie der in der Charta verankerten Grundrechte, einschlie\u00dflich des Rechts auf Nichtdiskriminierung, Datenschutz und Privatsph\u00e4re sowie der Rechte des Kindes.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(29)<\/p>\n<\/td>\n

\n

KI-gest\u00fctzte manipulative Techniken k\u00f6nnen dazu verwendet werden, Personen zu unerw\u00fcnschten Verhaltensweisen zu bewegen oder sie zu t\u00e4uschen, indem sie in einer Weise zu Entscheidungen angeregt werden, die ihre Autonomie, Entscheidungsfindung und freie Auswahl untergr\u00e4bt und beeintr\u00e4chtigt. Das Inverkehrbringen, die Inbetriebnahme oder die Verwendung bestimmter KI-Systeme, die das Ziel oder die Auswirkung haben, menschliches Verhalten ma\u00dfgeblich nachteilig zu beeinflussen, und gro\u00dfe Sch\u00e4den, insbesondere erhebliche nachteilige Auswirkungen auf die physische und psychische Gesundheit oder auf die finanziellen Interessen verursachen d\u00fcrften, ist besonders gef\u00e4hrlich und sollte dementsprechend verboten werden. Solche KI-Systeme setzen auf eine unterschwellige Beeinflussung, beispielweise durch Reize in Form von Ton-, Bild- oder Videoinhalten, die f\u00fcr Menschen nicht erkennbar sind, da diese Reize au\u00dferhalb ihres Wahrnehmungsbereichs liegen, oder auf andere Arten manipulativer oder t\u00e4uschender Beeinflussung, die ihre Autonomie, Entscheidungsfindung oder freie Auswahl in einer Weise untergraben und beeintr\u00e4chtigen, die sich ihrer bewussten Wahrnehmung entzieht oder deren Einfluss\u00a0\u2014 selbst wenn sie sich seiner bewusst sind\u00a0\u2014 sie nicht kontrollieren oder widerstehen k\u00f6nnen. Dies k\u00f6nnte beispielsweise durch Gehirn-Computer-Schnittstellen oder virtuelle Realit\u00e4t erfolgen, da diese ein h\u00f6heres Ma\u00df an Kontrolle dar\u00fcber erm\u00f6glichen, welche Reize den Personen, insofern diese das Verhalten der Personen in erheblichem Ma\u00dfe sch\u00e4dlich beeinflussen k\u00f6nnen, angeboten werden. Ferner k\u00f6nnen KI-Systeme auch anderweitig die Vulnerabilit\u00e4t einer Person oder bestimmter Gruppen von Personen aufgrund ihres Alters oder einer Behinderung im Sinne der Richtlinie (EU) 2019\/882 des Europ\u00e4ischen Parlaments und des Rates\u00a0(16<\/span>)<\/a> oder aufgrund einer bestimmten sozialen oder wirtschaftlichen Situation ausnutzen, durch die diese Personen gegen\u00fcber einer Ausnutzung anf\u00e4lliger werden d\u00fcrften, beispielweise Personen, die in extremer Armut leben, und ethnische oder religi\u00f6se Minderheiten. Solche KI-Systeme k\u00f6nnen mit dem Ziel oder der Wirkung in Verkehr gebracht, in Betrieb genommen oder verwendet werden, das Verhalten einer Person in einer Weise wesentlich zu beeinflussen, die dieser Person oder einer anderen Person oder Gruppen von Personen einen erheblichen Schaden zuf\u00fcgt oder mit hinreichender Wahrscheinlichkeit zuf\u00fcgen wird, einschlie\u00dflich Sch\u00e4den, die sich im Laufe der Zeit anh\u00e4ufen k\u00f6nnen, und sollten daher verboten werden. Diese Absicht, das Verhalten zu beeinflussen, kann nicht vermutet werden, wenn die Beeinflussung auf Faktoren zur\u00fcckzuf\u00fchren ist, die nicht Teil des KI-Systems sind und au\u00dferhalb der Kontrolle des Anbieters oder Betreibers liegen, d.\u00a0h. Faktoren, die vom Anbieter oder Betreiber des KI-Systems vern\u00fcnftigerweise nicht vorhergesehen oder gemindert werden k\u00f6nnen. In jedem Fall ist es nicht erforderlich, dass der Anbieter oder der Betreiber die Absicht haben, erheblichen Schaden zuzuf\u00fcgen, wenn dieser Schaden aufgrund von manipulativen oder ausbeuterischen KI-gest\u00fctzten Praktiken entsteht. Das Verbot solcher KI-Praktiken erg\u00e4nzt die Bestimmungen der Richtlinie 2005\/29\/EG des Europ\u00e4ischen Parlaments und des Rates\u00a0(17<\/span>)<\/a>; insbesondere sind unlautere Gesch\u00e4ftspraktiken, durch die Verbraucher wirtschaftliche oder finanzielle Sch\u00e4den erleiden, unter allen Umst\u00e4nden verboten, unabh\u00e4ngig davon, ob sie durch KI-Systeme oder anderweitig umgesetzt werden. Das Verbot manipulativer und ausbeuterischer Praktiken gem\u00e4\u00df dieser Verordnung sollte sich nicht auf rechtm\u00e4\u00dfige Praktiken im Zusammenhang mit medizinischen Behandlungen, etwa der psychologischen Behandlung einer psychischen Krankheit oder der physischen Rehabilitation, auswirken, wenn diese Praktiken gem\u00e4\u00df den geltenden Rechtsvorschriften und medizinischen Standards erfolgen, z.\u00a0B mit der ausdr\u00fccklichen Zustimmung der Einzelpersonen oder ihrer gesetzlichen Vertreter. Dar\u00fcber hinaus sollten \u00fcbliche und rechtm\u00e4\u00dfige Gesch\u00e4ftspraktiken, beispielsweise im Bereich der Werbung, die im Einklang mit den geltenden Rechtsvorschriften stehen, als solche nicht als sch\u00e4dliche manipulative KI-gest\u00fctzten Praktiken gelten.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(30)<\/p>\n<\/td>\n

\n

Systeme zur biometrischen Kategorisierung, die anhand der biometrischen Daten von nat\u00fcrlichen Personen, wie dem Gesicht oder dem Fingerabdruck einer Person, die politische Meinung, die Mitgliedschaft in einer Gewerkschaft, religi\u00f6se oder weltanschauliche \u00dcberzeugungen, die Rasse, das Sexualleben oder die sexuelle Ausrichtung einer Person erschlie\u00dfen oder ableiten, sollten verboten werden. Dieses Verbot sollte nicht f\u00fcr die rechtm\u00e4\u00dfige Kennzeichnung, Filterung oder Kategorisierung biometrischer Datens\u00e4tze gelten, die im Einklang mit dem Unionsrecht oder dem nationalen Recht anhand biometrischer Daten erworben wurden, wie das Sortieren von Bildern nach Haar- oder Augenfarbe, was beispielsweise im Bereich der Strafverfolgung verwendet werden kann.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(31)<\/p>\n<\/td>\n

\n

KI-Systeme, die eine soziale Bewertung nat\u00fcrlicher Personen durch \u00f6ffentliche oder private Akteure bereitstellen, k\u00f6nnen zu diskriminierenden Ergebnissen und zur Ausgrenzung bestimmter Gruppen f\u00fchren. Sie k\u00f6nnen die Menschenw\u00fcrde und das Recht auf Nichtdiskriminierung sowie die Werte der Gleichheit und Gerechtigkeit verletzen. Solche KI-Systeme bewerten oder klassifizieren nat\u00fcrliche Personen oder Gruppen nat\u00fcrlicher Personen in einem bestimmten Zeitraum auf der Grundlage zahlreicher Datenpunkte in Bezug auf ihr soziales Verhalten in verschiedenen Zusammenh\u00e4ngen oder aufgrund bekannter, vermuteter oder vorhergesagter pers\u00f6nlicher Eigenschaften oder Pers\u00f6nlichkeitsmerkmale. Die aus solchen KI-Systemen erzielte soziale Bewertung kann zu einer Schlechterstellung oder Benachteiligung bestimmter nat\u00fcrlicher Personen oder ganzer Gruppen nat\u00fcrlicher Personen in sozialen Kontexten, die in keinem Zusammenhang mit den Umst\u00e4nden stehen, unter denen die Daten urspr\u00fcnglich erzeugt oder erhoben wurden, oder zu einer Schlechterstellung f\u00fchren, die im Hinblick auf die Tragweite ihres sozialen Verhaltens unverh\u00e4ltnism\u00e4\u00dfig oder ungerechtfertigt ist. KI-Systeme, die solche inakzeptablen Bewertungspraktiken mit sich bringen und zu einer solchen Schlechterstellung oder Benachteiligung f\u00fchren, sollten daher verboten werden. Dieses Verbot sollte nicht die rechtm\u00e4\u00dfigen Praktiken zur Bewertung nat\u00fcrlicher Personen ber\u00fchren, die im Einklang mit dem Unionsrecht und dem nationalen Recht zu einem bestimmten Zweck durchgef\u00fchrt werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(32)<\/p>\n<\/td>\n

\n

Die Verwendung von KI-Systemen zur biometrischen Echtzeit-Fernidentifizierung nat\u00fcrlicher Personen in \u00f6ffentlich zug\u00e4nglichen R\u00e4umen zu Strafverfolgungszwecken greift besonders in die Rechte und Freiheiten der betroffenen Personen ein, da sie die Privatsph\u00e4re eines gro\u00dfen Teils der Bev\u00f6lkerung beeintr\u00e4chtigt, ein Gef\u00fchl der st\u00e4ndigen \u00dcberwachung weckt und indirekt von der Aus\u00fcbung der Versammlungsfreiheit und anderer Grundrechte abhalten kann. Technische Ungenauigkeiten von KI-Systemen, die f\u00fcr die biometrische Fernidentifizierung nat\u00fcrlicher Personen bestimmt sind, k\u00f6nnen zu verzerrten Ergebnissen f\u00fchren und eine diskriminierende Wirkung haben. Solche m\u00f6glichen verzerrten Ergebnisse und eine solche diskriminierende Wirkung sind von besonderer Bedeutung, wenn es um das Alter, die ethnische Herkunft, die Rasse, das Geschlecht oder Behinderungen geht. Dar\u00fcber hinaus bergen die Unmittelbarkeit der Auswirkungen und die begrenzten M\u00f6glichkeiten weiterer Kontrollen oder Korrekturen im Zusammenhang mit der Verwendung solcher in Echtzeit betriebener Systeme erh\u00f6hte Risiken f\u00fcr die Rechte und Freiheiten der betreffenden Personen, die im Zusammenhang mit Strafverfolgungsma\u00dfnahmen stehen oder davon betroffen sind.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(33)<\/p>\n<\/td>\n

\n

Die Verwendung solcher Systeme zu Strafverfolgungszwecken sollte daher untersagt werden, au\u00dfer in ersch\u00f6pfend aufgef\u00fchrten und eng abgegrenzten F\u00e4llen, in denen die Verwendung unbedingt erforderlich ist, um einem erheblichen \u00f6ffentlichen Interesse zu dienen, dessen Bedeutung die Risiken \u00fcberwiegt. Zu diesen F\u00e4llen geh\u00f6rt die Suche nach bestimmten Opfern von Straftaten, einschlie\u00dflich vermisster Personen, bestimmte Gefahren f\u00fcr das Leben oder die k\u00f6rperliche Unversehrtheit nat\u00fcrlicher Personen oder die Gefahr eines Terroranschlags sowie das Aufsp\u00fcren oder Identifizieren von T\u00e4tern oder Verd\u00e4chtigen in Bezug auf die in einem Anhang zu dieser Verordnung genannten Straftaten, sofern diese Straftaten in dem betreffenden Mitgliedstaat im Sinne des Rechts dieses Mitgliedstaats mit einer Freiheitsstrafe oder einer freiheitsentziehenden Ma\u00dfregel der Sicherung im H\u00f6chstma\u00df von mindestens vier Jahren bedroht sind. Eine solche Schwelle f\u00fcr eine Freiheitsstrafe oder eine freiheitsentziehende Ma\u00dfregel der Sicherung nach nationalem Recht tr\u00e4gt dazu bei, sicherzustellen, dass die Straftat schwerwiegend genug ist, um den Einsatz biometrischer Echtzeit-Fernidentifizierungssysteme m\u00f6glicherweise zu rechtfertigen. Dar\u00fcber hinaus beruht die im Anhang dieser Verordnung aufgef\u00fchrte Liste der Straftaten auf den\u00a032 im Rahmenbeschluss 2002\/584\/JI des Rates\u00a0(18<\/span>)<\/a> aufgef\u00fchrten Straftaten, unter Ber\u00fccksichtigung der Tatsache, dass einige der Straftaten in der Praxis eher relevant sein k\u00f6nnen als andere, da der R\u00fcckgriff auf die biometrische Echtzeit-Fernidentifizierung f\u00fcr die konkrete Aufsp\u00fcrung oder Identifizierung eines T\u00e4ters oder Verd\u00e4chtigen in Bezug auf eine der verschiedenen aufgef\u00fchrten Straftaten voraussichtlich in \u00e4u\u00dferst unterschiedlichem Ma\u00dfe erforderlich und verh\u00e4ltnism\u00e4\u00dfig sein k\u00f6nnte und da dabei die wahrscheinlichen Unterschiede in Schwere, Wahrscheinlichkeit und Ausma\u00df des Schadens oder m\u00f6glicher negativer Folgen zu ber\u00fccksichtigen sind. Eine unmittelbare Gefahr f\u00fcr das Leben oder die k\u00f6rperliche Unversehrtheit nat\u00fcrlicher Personen kann auch durch die schwerwiegende St\u00f6rung einer kritischen Infrastruktur im Sinne des Artikels\u00a02 Nummer\u00a04 der Richtlinie (EU) 2022\/2557 des Europ\u00e4ischen Parlaments und des Rates\u00a0(19<\/span>)<\/a> entstehen, wenn die St\u00f6rung oder Zerst\u00f6rung einer solchen kritischen Infrastruktur zu einer unmittelbaren Gefahr f\u00fcr das Leben oder die k\u00f6rperliche Unversehrtheit einer Person f\u00fchren w\u00fcrde, auch durch die schwerwiegende Beeintr\u00e4chtigung der Bereitstellung der Grundversorgung f\u00fcr die Bev\u00f6lkerung oder der Wahrnehmung der Kernfunktion des Staates. Dar\u00fcber hinaus sollte diese Verordnung die F\u00e4higkeit der Strafverfolgungs-, Grenzschutz-, Einwanderungs- oder Asylbeh\u00f6rden erhalten, gem\u00e4\u00df den im Unionsrecht und im nationalen Recht f\u00fcr diesen Zweck festgelegten Bedingungen die Identit\u00e4t der betreffenden Person in ihrer Anwesenheit festzustellen. Insbesondere sollten Strafverfolgungs-, Grenzschutz-, Einwanderungs- oder Asylbeh\u00f6rden gem\u00e4\u00df dem Unionsrecht oder dem nationalen Recht Informationssysteme verwenden k\u00f6nnen, um eine Person zu identifizieren, die w\u00e4hrend einer Identit\u00e4tsfeststellung entweder verweigert, identifiziert zu werden, oder nicht in der Lage ist, ihre Identit\u00e4t anzugeben oder zu belegen, wobei gem\u00e4\u00df dieser Verordnung keine vorherige Genehmigung erlangt werden muss. Dabei k\u00f6nnte es sich beispielsweise um eine Person handeln, die in eine Straftat verwickelt ist und nicht gewillt oder aufgrund eines Unfalls oder des Gesundheitszustands nicht in der Lage ist, den Strafverfolgungsbeh\u00f6rden ihre Identit\u00e4t offenzulegen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(34)<\/p>\n<\/td>\n

\n

Um sicherzustellen, dass diese Systeme verantwortungsvoll und verh\u00e4ltnism\u00e4\u00dfig genutzt werden, ist es auch wichtig, festzulegen, dass in jedem dieser ersch\u00f6pfend aufgef\u00fchrten und eng abgegrenzten F\u00e4lle bestimmte Elemente ber\u00fccksichtigt werden sollten, insbesondere in Bezug auf die Art des dem Antrag zugrunde liegenden Falls und die Auswirkungen der Verwendung auf die Rechte und Freiheiten aller betroffenen Personen sowie auf die f\u00fcr die Verwendung geltenden Schutzvorkehrungen und Bedingungen. Dar\u00fcber hinaus sollte die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in \u00f6ffentlich zug\u00e4nglichen R\u00e4umen f\u00fcr die Zwecke der Strafverfolgung nur eingesetzt werden, um die Identit\u00e4t der speziell betroffenen Person zu best\u00e4tigen und sollte sich hinsichtlich des Zeitraums und des geografischen und personenbezogenen Anwendungsbereichs auf das unbedingt Notwendige beschr\u00e4nken, wobei insbesondere den Beweisen oder Hinweisen in Bezug auf die Bedrohungen, die Opfer oder den T\u00e4ter Rechnung zu tragen ist. Die Verwendung des biometrischen Echtzeit-Fernidentifizierungssystems in \u00f6ffentlich zug\u00e4nglichen R\u00e4umen sollte nur genehmigt werden, wenn die zust\u00e4ndige Strafverfolgungsbeh\u00f6rde eine Grundrechte-Folgenabsch\u00e4tzung durchgef\u00fchrt und, sofern in dieser Verordnung nichts anderes bestimmt ist, das System gem\u00e4\u00df dieser Verordnung in der Datenbank registriert hat. Die Personenreferenzdatenbank sollte f\u00fcr jeden Anwendungsfall in jedem der oben genannten F\u00e4lle geeignet sein.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(35)<\/p>\n<\/td>\n

\n

Jede Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in \u00f6ffentlich zug\u00e4nglichen R\u00e4umen zu Strafverfolgungszwecken sollte einer ausdr\u00fccklichen spezifischen Genehmigung durch eine Justizbeh\u00f6rde oder eine unabh\u00e4ngige Verwaltungsbeh\u00f6rde eines Mitgliedstaats, deren Entscheidung rechtsverbindlich ist, unterliegen. Eine solche Genehmigung sollte grunds\u00e4tzlich vor der Verwendung des KI-Systems zur Identifizierung einer Person oder mehrerer Personen eingeholt werden. Ausnahmen von dieser Regel sollten in hinreichend begr\u00fcndeten dringenden F\u00e4llen erlaubt sein, d.\u00a0h. in Situationen, in denen es wegen der Notwendigkeit der Verwendung der betreffenden Systeme tats\u00e4chlich und objektiv unm\u00f6glich ist, vor dem Beginn der Verwendung des KI-Systems eine Genehmigung einzuholen. In solchen dringenden F\u00e4llen sollte die Verwendung des KI-Systems auf das absolut notwendige Mindestma\u00df beschr\u00e4nkt werden und angemessenen Schutzvorkehrungen und Bedingungen unterliegen, die im nationalen Recht festgelegt sind und im Zusammenhang mit jedem einzelnen dringenden Anwendungsfall von der Strafverfolgungsbeh\u00f6rde selbst pr\u00e4zisiert werden. Dar\u00fcber hinaus sollte die Strafverfolgungsbeh\u00f6rde in solchen F\u00e4llen eine solche Genehmigung beantragen und die Gr\u00fcnde daf\u00fcr angeben, warum sie sie nicht fr\u00fcher, unverz\u00fcglich, sp\u00e4testens jedoch innerhalb von 24\u00a0Stunden beantragen konnte. Wird eine solche Genehmigung abgelehnt, sollte die Verwendung biometrischer Echtzeit-Identifizierungssysteme, die mit dieser Genehmigung verbunden sind, mit sofortiger Wirkung eingestellt werden, und alle Daten im Zusammenhang mit dieser Verwendung sollten verworfen und gel\u00f6scht werden. Diese Daten umfassen Eingabedaten, die von einem KI-System w\u00e4hrend der Nutzung eines solchen Systems direkt erfasst werden, sowie die Ergebnisse und Ausgaben der mit dieser Genehmigung verbundenen Verwendung. Daten, die im Einklang mit anderem Unionsrecht oder nationalem Recht rechtm\u00e4\u00dfig erworben wurden, sollten davon nicht betroffen sein. In jedem Fall darf keine Entscheidung mit nachteiligen Rechtsfolgen f\u00fcr eine Person allein auf der Grundlage der Ausgaben des biometrischen Fernidentifizierungssystems getroffen werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(36)<\/p>\n<\/td>\n

\n

Damit sie ihre Aufgaben im Einklang mit den Anforderungen dieser Verordnung und der nationalen Vorschriften erf\u00fcllen k\u00f6nnen, sollte die zust\u00e4ndige Markt\u00fcberwachungsbeh\u00f6rde und die nationale Datenschutzbeh\u00f6rde \u00fcber jede Verwendung des biometrischen Echtzeit-Identifizierungssystems unterrichtet werden. Die Markt\u00fcberwachungsbeh\u00f6rden und die nationalen Datenschutzbeh\u00f6rden, die unterrichtet wurden, sollten der Kommission j\u00e4hrlich einen Bericht \u00fcber die Verwendung biometrischer Echtzeit-Identifizierungssysteme vorlegen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(37)<\/p>\n<\/td>\n

\n

Dar\u00fcber hinaus ist es angezeigt, innerhalb des durch diese Verordnung vorgegebenen ersch\u00f6pfenden Rahmens festzulegen, dass eine solche Verwendung im Hoheitsgebiet eines Mitgliedstaats gem\u00e4\u00df dieser Verordnung nur m\u00f6glich sein sollte, sofern der betreffende Mitgliedstaat in seinen detaillierten nationalen Rechtsvorschriften ausdr\u00fccklich vorgesehen hat, dass eine solche Verwendung genehmigt werden kann. Folglich steht es den Mitgliedstaaten im Rahmen dieser Verordnung frei, eine solche M\u00f6glichkeit generell oder nur in Bezug auf einige der in dieser Verordnung genannten Ziele, f\u00fcr die eine genehmigte Verwendung gerechtfertigt sein kann, vorzusehen. Solche nationalen Rechtsvorschriften sollten der Kommission sp\u00e4testens 30\u00a0Tage nach ihrer Annahme mitgeteilt werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(38)<\/p>\n<\/td>\n

\n

Die Verwendung von KI-Systemen zur biometrischen Echtzeit-Fernidentifizierung nat\u00fcrlicher Personen in \u00f6ffentlich zug\u00e4nglichen R\u00e4umen zu Strafverfolgungszwecken erfordert zwangsl\u00e4ufig die Verarbeitung biometrischer Daten. Die Vorschriften dieser Verordnung, die vorbehaltlich bestimmter Ausnahmen eine solche Verwendung auf der Grundlage des Artikels\u00a016 AEUV verbieten, sollten als Lex specialis in Bezug auf die in Artikel\u00a010 der Richtlinie (EU) 2016\/680 enthaltenen Vorschriften \u00fcber die Verarbeitung biometrischer Daten gelten und somit die Verwendung und Verarbeitung der betreffenden biometrischen Daten umfassend regeln. Eine solche Verwendung und Verarbeitung sollte daher nur m\u00f6glich sein, soweit sie mit dem in dieser Verordnung festgelegten Rahmen vereinbar ist, ohne dass es den zust\u00e4ndigen Beh\u00f6rden bei ihren T\u00e4tigkeiten zu Strafverfolgungszwecken Raum l\u00e4sst, au\u00dferhalb dieses Rahmens solche Systeme zu verwenden und die damit verbundenen Daten aus den in Artikel\u00a010 der Richtlinie (EU) 2016\/680 aufgef\u00fchrten Gr\u00fcnden zu verarbeiten. In diesem Zusammenhang soll diese Verordnung nicht als Rechtsgrundlage f\u00fcr die Verarbeitung personenbezogener Daten gem\u00e4\u00df Artikel\u00a08 der Richtlinie (EU) 2016\/680 dienen. Die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in \u00f6ffentlich zug\u00e4nglichen R\u00e4umen zu anderen Zwecken als der Strafverfolgung, auch durch zust\u00e4ndige Beh\u00f6rden, sollte jedoch nicht unter den in dieser Verordnung festgelegten spezifischen Rahmen f\u00fcr diese Verwendung zu Strafverfolgungszwecken fallen. Eine solche Verwendung zu anderen Zwecken als der Strafverfolgung sollte daher nicht der Genehmigungspflicht gem\u00e4\u00df dieser Verordnung und den zu dieser Genehmigung anwendbaren detaillierten nationalen Rechtsvorschriften unterliegen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(39)<\/p>\n<\/td>\n

\n

Jede Verarbeitung biometrischer Daten und anderer personenbezogener Daten im Zusammenhang mit der Verwendung von KI-Systemen f\u00fcr die biometrische Identifizierung, ausgenommen im Zusammenhang mit der Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in \u00f6ffentlich zug\u00e4nglichen R\u00e4umen zu Strafverfolgungszwecken im Sinne dieser Verordnung, sollte weiterhin allen Anforderungen gen\u00fcgen, die sich aus Artikel\u00a010 der Richtlinie (EU) 2016\/680 ergeben. F\u00fcr andere Zwecke als die Strafverfolgung ist die Verarbeitung biometrischer Daten gem\u00e4\u00df Artikel\u00a09 Absatz\u00a01 der Verordnung (EU) 2016\/679 und Artikel\u00a010 Absatz\u00a01 der Verordnung (EU) 2018\/1725, vorbehaltlich der in diesen Artikeln vorgesehenen begrenzten Ausnahmef\u00e4llen, verboten. In Anwendung des Artikels\u00a09 Absatz\u00a01 der Verordnung (EU) 2016\/679 war die Verwendung biometrischer Fernidentifizierung zu anderen Zwecken als der Strafverfolgung bereits Gegenstand von Verbotsentscheidungen der nationalen Datenschutzbeh\u00f6rden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(40)<\/p>\n<\/td>\n

\n

Nach Artikel\u00a06a des dem EUV und dem AEUV beigef\u00fcgten Protokolls Nr.\u00a021 \u00fcber die Position des Vereinigten K\u00f6nigreichs und Irlands hinsichtlich des Raums der Freiheit, der Sicherheit und des Rechts sind die auf der Grundlage des Artikels\u00a016 AEUV festgelegten Vorschriften in Artikel\u00a05 Absatz\u00a01 Unterabsatz\u00a01 Buchstabe\u00a0g, soweit er auf die Verwendung von Systemen zur biometrischen Kategorisierung f\u00fcr T\u00e4tigkeiten im Bereich der polizeilichen Zusammenarbeit und der justiziellen Zusammenarbeit in Strafsachen Anwendung findet, Artikel\u00a05 Absatz\u00a01 Buchstabe\u00a0d, soweit sie auf die Verwendung von KI-Systemen nach der darin festgelegten Bestimmung Anwendung finden, sowie Artikel\u00a05 Absatz\u00a01 Unterabsatz\u00a01 Buchstabe\u00a0h, Artikel\u00a05 Abs\u00e4tze\u00a02\u00a0bis 6 und Artikel\u00a026 Absatz\u00a010 dieser Verordnung in Bezug auf die Verarbeitung personenbezogener Daten durch die Mitgliedstaaten im Rahmen der Aus\u00fcbung von T\u00e4tigkeiten, die in den Anwendungsbereich des Dritten Teils Titel\u00a0V\u00a0Kapitel\u00a04 oder\u00a05 AEUV fallen, f\u00fcr Irland nicht bindend, wenn Irland nicht durch die Vorschriften gebunden ist, die die Formen der justiziellen Zusammenarbeit in Strafsachen oder der polizeilichen Zusammenarbeit regeln, in deren Rahmen die auf der Grundlage des Artikels\u00a016 AEUV festgelegten Vorschriften eingehalten werden m\u00fcssen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(41)<\/p>\n<\/td>\n

\n

Nach den Artikeln\u00a02 und\u00a02a des dem EUV und dem AEUV beigef\u00fcgten Protokolls Nr.\u00a022 \u00fcber die Position D\u00e4nemarks ist D\u00e4nemark durch die auf der Grundlage des Artikels\u00a016 AEUV festgelegten Vorschriften in Artikel\u00a05 Absatz\u00a01 Unterabsatz\u00a01 Buchstabe\u00a0g soweit er auf die Verwendung von Systemen zur biometrischen Kategorisierung f\u00fcr T\u00e4tigkeiten im Bereich der polizeilichen Zusammenarbeit und der justiziellen Zusammenarbeit in Strafsachen Anwendung findet, Artikel\u00a05 Absatz\u00a01 Unterabsatz\u00a01 Buchstaben\u00a0d soweit sie auf die Verwendung von KI-Systemen nach der darin festgelegten Bestimmung Anwendung finden, sowie Artikel\u00a05 Absatz\u00a01 Unterabsatz\u00a01 Buchstabe\u00a0h, Artikel\u00a05 Abs\u00e4tze\u00a02\u00a0bis 6 und Artikel\u00a026 Absatz\u00a010 dieser Verordnung in Bezug auf die Verarbeitung personenbezogener Daten durch die Mitgliedstaaten im Rahmen der Aus\u00fcbung von T\u00e4tigkeiten, die in den Anwendungsbereich des Dritten Teils Titel\u00a0V\u00a0Kapitel\u00a04 oder\u00a05 AEUV fallen, weder gebunden noch zu ihrer Anwendung verpflichtet.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(42)<\/p>\n<\/td>\n

\n

Im Einklang mit der Unschuldsvermutung sollten nat\u00fcrliche Personen in der Union stets nach ihrem tats\u00e4chlichen Verhalten beurteilt werden. Nat\u00fcrliche Personen sollten niemals allein nach dem Verhalten beurteilt werden, das von einer KI auf der Grundlage ihres Profiling, ihrer Pers\u00f6nlichkeitsmerkmale oder -eigenschaften wie Staatsangeh\u00f6rigkeit, Geburtsort, Wohnort, Anzahl der Kinder, Schulden oder Art ihres Fahrzeugs vorhergesagt wird, ohne dass ein begr\u00fcndeter Verdacht besteht, dass diese Person an einer kriminellen T\u00e4tigkeit auf der Grundlage objektiver nachpr\u00fcfbarer Tatsachen beteiligt ist, und ohne dass eine menschliche \u00dcberpr\u00fcfung stattfindet. Daher sollten Risikobewertungen, die in Bezug auf nat\u00fcrliche Personen durchgef\u00fchrt werden, um zu bewerten, ob sie straff\u00e4llig werden oder um eine tats\u00e4chliche oder m\u00f6gliche Straftat vorherzusagen, und dies ausschlie\u00dflich auf dem Profiling dieser Personen oder der Bewertung ihrer Pers\u00f6nlichkeitsmerkmale und -eigenschaften beruht, verboten werden. In jedem Fall betrifft oder ber\u00fchrt dieses Verbot nicht Risikoanalysen, die nicht auf dem Profiling von Einzelpersonen oder auf Pers\u00f6nlichkeitsmerkmalen und -eigenschaften von Einzelpersonen beruhen, wie etwa KI-Systeme, die Risikoanalysen zur Bewertung der Wahrscheinlichkeit eines Finanzbetrugs durch Unternehmen auf der Grundlage verd\u00e4chtiger Transaktionen durchf\u00fchren, oder Risikoanalyseinstrumente einsetzen, um die Wahrscheinlichkeit vorherzusagen, dass Bet\u00e4ubungsmittel oder illegale Waren durch Zollbeh\u00f6rden, beispielsweise auf der Grundlage bekannter Schmuggelrouten, aufgesp\u00fcrt werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(43)<\/p>\n<\/td>\n

\n

Das Inverkehrbringen, die Inbetriebnahme f\u00fcr diesen spezifischen Zweck oder die Verwendung von KI-Systemen, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Video\u00fcberwachungsaufnahmen erstellen oder erweitern, sollte verboten werden, da dies das Gef\u00fchl der Massen\u00fcberwachung verst\u00e4rkt und zu schweren Verst\u00f6\u00dfen gegen die Grundrechte, einschlie\u00dflich des Rechts auf Privatsph\u00e4re, f\u00fchren kann.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(44)<\/p>\n<\/td>\n

\n

Im Hinblick auf die wissenschaftliche Grundlage von KI-Systemen, die darauf abzielen, Emotionen zu erkennen oder abzuleiten, bestehen ernsthafte Bedenken, insbesondere da sich Gef\u00fchlsausdr\u00fccke je nach Kultur oder Situation und selbst bei ein und derselben Person erheblich unterscheiden. Zu den gr\u00f6\u00dften Schwachstellen solcher Systeme geh\u00f6rt, dass sie beschr\u00e4nkt zuverl\u00e4ssig, nicht eindeutig und nur begrenzt verallgemeinerbar sind. Daher k\u00f6nnen KI-Systeme, die Emotionen oder Absichten nat\u00fcrlicher Personen auf der Grundlage ihrer biometrischen Daten erkennen oder ableiten, diskriminierende Ergebnisse hervorbringen und in die Rechte und Freiheiten der betroffenen Personen eingreifen. Angesichts des Machtungleichgewichts in den Bereichen Arbeit und Bildung in Verbindung mit dem intrusiven Charakter dieser Systeme k\u00f6nnen diese zu einer Schlechterstellung oder Benachteiligung bestimmter nat\u00fcrlicher Personen oder ganzer Gruppen f\u00fchren. Daher sollte das Inverkehrbringen, die Inbetriebnahme oder die Verwendung von KI-Systemen, die den emotionalen Zustand von Einzelpersonen in Situationen, ableiten sollen, die mit dem Arbeitsplatz oder dem Bildungsbereich in Zusammenhang stehen, verboten werden. Dieses Verbot sollte nicht f\u00fcr KI-Systeme gelten, die ausschlie\u00dflich aus medizinischen oder sicherheitstechnischen Gr\u00fcnden in Verkehr gebracht werden, wie z.\u00a0B. Systeme, die f\u00fcr therapeutische Zwecke bestimmt sind.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(45)<\/p>\n<\/td>\n

\n

Praktiken, die nach Unionsrecht, einschlie\u00dflich Datenschutzrecht, Nichtdiskriminierungsrecht, Verbraucherschutzrecht und Wettbewerbsrecht, verboten sind, sollten von dieser Verordnung nicht betroffen sein.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(46)<\/p>\n<\/td>\n

\n

Hochrisiko-KI-Systeme sollten nur dann auf dem Unionsmarkt in Verkehr gebracht, in Betrieb genommen oder verwendet werden, wenn sie bestimmte verbindliche Anforderungen erf\u00fcllen. Mit diesen Anforderungen sollte sichergestellt werden, dass Hochrisiko-KI-Systeme, die in der Union verf\u00fcgbar sind oder deren Ausgabe anderweitig in der Union verwendet wird, keine unannehmbaren Risiken f\u00fcr wichtige \u00f6ffentliche Interessen der Union bergen, wie sie im Unionsrecht anerkannt und gesch\u00fctzt sind. Auf der Grundlage des neuen Rechtsrahmens, wie in der Bekanntmachung der Kommission \u201eLeitfaden f\u00fcr die Umsetzung der Produktvorschriften der EU 2022 (Blue Guide)\u201c\u00a0(20<\/span>)<\/a> dargelegt, gilt als allgemeine Regel, dass mehr als ein Rechtsakt der Harmonisierungsrechtsvorschriften der Union wie die Verordnungen (EU) 2017\/745\u00a0(21<\/span>)<\/a> und (EU) 2017\/746\u00a0(22<\/span>)<\/a> des Europ\u00e4ischen Parlaments und des Rates oder die Richtlinie 2006\/42\/EG des Europ\u00e4ischen Parlaments und des Rates\u00a0(23<\/span>)<\/a> auf ein Produkt anwendbar sein k\u00f6nnen, da die Bereitstellung oder Inbetriebnahme nur erfolgen kann, wenn das Produkt allen geltenden Harmonisierungsrechtsvorschriften der Union entspricht. Um Koh\u00e4renz zu gew\u00e4hrleisten und unn\u00f6tigen Verwaltungsaufwand oder Kosten zu vermeiden, sollten die Anbieter eines Produkts, das ein oder mehrere Hochrisiko-KI-Systeme enth\u00e4lt, f\u00fcr die die Anforderungen dieser Verordnung und der in einem Anhang dieser Verordnung aufgef\u00fchrten Harmonisierungsrechtsvorschriften der Union gelten, in Bezug auf operative Entscheidungen dar\u00fcber flexibel sein, wie die Konformit\u00e4t eines Produkts, das ein oder mehrere Hochrisiko-KI-Systeme enth\u00e4lt, bestm\u00f6glich mit allen geltenden Anforderungen der Harmonisierungsrechtsvorschriften der Union sichergestellt werden kann. Als hochriskant sollten nur solche KI-Systeme eingestuft werden, die erhebliche sch\u00e4dliche Auswirkungen auf die Gesundheit, die Sicherheit und die Grundrechte von Personen in der Union haben, wodurch eine m\u00f6gliche Beschr\u00e4nkung des internationalen Handels so gering wie m\u00f6glich bleiben sollte.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(47)<\/p>\n<\/td>\n

\n

KI-Systeme k\u00f6nnten nachteilige Auswirkungen auf die Gesundheit und Sicherheit von Personen haben, insbesondere wenn solche Systeme als Sicherheitsbauteile von Produkten zum Einsatz kommen. Im Einklang mit den Zielen der Harmonisierungsrechtsvorschriften der Union, die den freien Verkehr von Produkten im Binnenmarkt erleichtern und gew\u00e4hrleisten sollen, dass nur sichere und anderweitig konforme Produkte auf den Markt gelangen, ist es wichtig, dass die Sicherheitsrisiken, die ein Produkt als Ganzes aufgrund seiner digitalen Komponenten, einschlie\u00dflich KI-Systeme, mit sich bringen kann, angemessen vermieden und gemindert werden. So sollten beispielsweise zunehmend autonome Roboter\u00a0\u2014 sei es in der Fertigung oder in der pers\u00f6nlichen Assistenz und Pflege\u00a0\u2014 in der Lage sein, sicher zu arbeiten und ihre Funktionen in komplexen Umgebungen zu erf\u00fcllen. Desgleichen sollten die immer ausgefeilteren Diagnosesysteme und Systeme zur Unterst\u00fctzung menschlicher Entscheidungen im Gesundheitssektor, in dem die Risiken f\u00fcr Leib und Leben besonders hoch sind, zuverl\u00e4ssig und genau sein.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(48)<\/p>\n<\/td>\n

\n

Das Ausma\u00df der nachteiligen Auswirkungen des KI-Systems auf die durch die Charta gesch\u00fctzten Grundrechte ist bei der Einstufung eines KI-Systems als hochriskant von besonderer Bedeutung. Zu diesen Rechten geh\u00f6ren die W\u00fcrde des Menschen, die Achtung des Privat- und Familienlebens, der Schutz personenbezogener Daten, die Freiheit der Meinungs\u00e4u\u00dferung und die Informationsfreiheit, die Versammlungs- und Vereinigungsfreiheit, das Recht auf Nichtdiskriminierung, das Recht auf Bildung, der Verbraucherschutz, die Arbeitnehmerrechte, die Rechte von Menschen mit Behinderungen, die Gleichstellung der Geschlechter, Rechte des geistigen Eigentums, das Recht auf einen wirksamen Rechtsbehelf und ein faires Gerichtsverfahren, das Verteidigungsrecht, die Unschuldsvermutung sowie das Recht auf eine gute Verwaltung. Es muss betont werden, dass Kinder\u00a0\u2014 zus\u00e4tzlich zu diesen Rechten\u00a0\u2014 \u00fcber spezifische Rechte verf\u00fcgen, wie sie in Artikel\u00a024 der Charta und im \u00dcbereinkommen der Vereinten Nationen \u00fcber die Rechte des Kindes (UNCRC)\u00a0\u2014 im Hinblick auf das digitale Umfeld weiter ausgef\u00fchrt in der Allgemeinen Bemerkung Nr.\u00a025 des UNCRC\u00a0\u2014 verankert sind; in beiden wird die Ber\u00fccksichtigung der Schutzbed\u00fcrftigkeit der Kinder gefordert und ihr Anspruch auf den Schutz und die F\u00fcrsorge festgelegt, die f\u00fcr ihr Wohlergehen notwendig sind. Dar\u00fcber hinaus sollte dem Grundrecht auf ein hohes Umweltschutzniveau, das in der Charta verankert ist und mit der Unionspolitik umgesetzt wird, bei der Bewertung der Schwere des Schadens, den ein KI-System unter anderem in Bezug auf die Gesundheit und Sicherheit von Personen verursachen kann, ebenfalls Rechnung getragen werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(49)<\/p>\n<\/td>\n

\n

In Bezug auf Hochrisiko-KI-Systeme, die Sicherheitsbauteile von Produkten oder Systemen oder selbst Produkte oder Systeme sind, die in den Anwendungsbereich der Verordnung (EG) Nr.\u00a0300\/2008 des Europ\u00e4ischen Parlaments und des Rates\u00a0(24<\/span>)<\/a>, der Verordnung (EU) Nr.\u00a0167\/2013 des Europ\u00e4ischen Parlaments und des Rates\u00a0(25<\/span>)<\/a>, der Verordnung (EU) Nr.\u00a0168\/2013 des Europ\u00e4ischen Parlaments und des Rates\u00a0(26<\/span>)<\/a>, der Richtlinie 2014\/90\/EU des Europ\u00e4ischen Parlaments und des Rates\u00a0(27<\/span>)<\/a>, der Richtlinie (EU) 2016\/797 des Europ\u00e4ischen Parlaments und des Rates\u00a0(28<\/span>)<\/a>, der Verordnung (EU) 2018\/858 des Europ\u00e4ischen Parlaments und des Rates\u00a0(29<\/span>)<\/a>, der Verordnung (EU) 2018\/1139 des Europ\u00e4ischen Parlaments und des Rates\u00a0(30<\/span>)<\/a> und der Verordnung (EU) 2019\/2144 des Europ\u00e4ischen Parlaments und des Rates\u00a0(31<\/span>)<\/a> fallen, ist es angezeigt, diese Rechtsakte zu \u00e4ndern, damit die Kommission\u00a0\u2014 aufbauend auf den technischen und regulatorischen Besonderheiten des jeweiligen Sektors und ohne Beeintr\u00e4chtigung bestehender Governance-, Konformit\u00e4tsbewertungs- und Durchsetzungsmechanismen sowie der darin eingerichteten Beh\u00f6rden\u00a0\u2014 beim Erlass von etwaigen delegierten Rechtsakten oder Durchf\u00fchrungsrechtsakten auf der Grundlage der genannten Rechtsakte die in der vorliegenden Verordnung festgelegten verbindlichen Anforderungen an Hochrisiko-KI-Systeme ber\u00fccksichtigt.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(50)<\/p>\n<\/td>\n

\n

In Bezug auf KI-Systeme, die Sicherheitsbauteile von Produkten oder selbst Produkte sind, die in den Anwendungsbereich bestimmter, im Anhang dieser Verordnung aufgef\u00fchrter Harmonisierungsrechtsvorschriften der Union fallen, ist es angezeigt, sie im Rahmen dieser Verordnung als hochriskant einzustufen, wenn das betreffende Produkt gem\u00e4\u00df den einschl\u00e4gigen Harmonisierungsrechtsvorschriften der Union dem Konformit\u00e4tsbewertungsverfahren durch eine als Dritte auftretende Konformit\u00e4tsbewertungsstelle unterzogen wird. Dabei handelt es sich insbesondere um Produkte wie Maschinen, Spielzeuge, Aufz\u00fcge, Ger\u00e4te und Schutzsysteme zur bestimmungsgem\u00e4\u00dfen Verwendung in explosionsgef\u00e4hrdeten Bereichen, Funkanlagen, Druckger\u00e4te, Sportbootausr\u00fcstung, Seilbahnen, Ger\u00e4te zur Verbrennung gasf\u00f6rmiger Brennstoffe, Medizinprodukte, In-vitro-Diagnostika, Automobile und Flugzeuge.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(51)<\/p>\n<\/td>\n

\n

Die Einstufung eines KI-Systems als hochriskant gem\u00e4\u00df dieser Verordnung sollte nicht zwangsl\u00e4ufig bedeuten, dass von dem Produkt, dessen Sicherheitsbauteil das KI-System ist, oder von dem KI-System als eigenst\u00e4ndigem Produkt nach den Kriterien der einschl\u00e4gigen Harmonisierungsrechtsvorschriften der Union f\u00fcr das betreffende Produkt ein hohes Risiko ausgeht. Dies gilt insbesondere f\u00fcr die Verordnungen (EU) 2017\/745 und (EU) 2017\/746, wo f\u00fcr Produkte mit mittlerem und hohem Risiko eine Konformit\u00e4tsbewertung durch Dritte vorgesehen ist.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(52)<\/p>\n<\/td>\n

\n

Bei eigenst\u00e4ndigen KI-Systemen, d.\u00a0h. Hochrisiko-KI-Systemen, bei denen es sich um andere Systeme als Sicherheitsbauteile von Produkten handelt oder die selbst Produkte sind, ist es angezeigt, sie als hochriskant einzustufen, wenn sie aufgrund ihrer Zweckbestimmung ein hohes Risiko bergen, die Gesundheit und Sicherheit oder die Grundrechte von Personen zu sch\u00e4digen, wobei sowohl die Schwere des m\u00f6glichen Schadens als auch die Wahrscheinlichkeit seines Auftretens zu ber\u00fccksichtigen sind, und sofern sie in einer Reihe von Bereichen verwendet werden, die in dieser Verordnung ausdr\u00fccklich festgelegt sind. Die Bestimmung dieser Systeme erfolgt nach derselben Methodik und denselben Kriterien, die auch f\u00fcr k\u00fcnftige \u00c4nderungen der Liste der Hochrisiko-KI-Systeme vorgesehen sind, zu deren Annahme die Kommission im Wege delegierter Rechtsakte erm\u00e4chtigt werden sollte, um dem rasanten Tempo der technologischen Entwicklung sowie den m\u00f6glichen \u00c4nderungen bei der Verwendung von KI-Systemen Rechnung zu tragen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(53)<\/p>\n<\/td>\n

\n

Ferner muss klargestellt werden, dass es bestimmte F\u00e4lle geben kann, in denen KI-Systeme f\u00fcr vordefinierte in dieser Verordnung festgelegte Bereiche nicht zu einem bedeutenden Risiko der Beeintr\u00e4chtigung der in diesen Bereichen gesch\u00fctzten rechtlichen Interessen f\u00fchren, da sie die Entscheidungsfindung nicht wesentlich beeinflussen oder diesen Interessen nicht erheblich schaden. F\u00fcr die Zwecke dieser Verordnung sollte ein KI-System, das das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst, als ein KI-System verstanden werden, das keine Auswirkungen auf den Inhalt und damit das Ergebnis der Entscheidungsfindung hat, unabh\u00e4ngig davon, ob es sich um menschliche oder automatisierte Entscheidungen handelt. Ein KI-System, das das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst, k\u00f6nnte Situationen einschlie\u00dfen, in denen eine oder mehrere der folgenden Bedingungen erf\u00fcllt sind. Die erste dieser Bedingungen ist, dass das KI-System dazu bestimmt ist, in einem Verfahren eine eng gefasste Aufgabe zu erf\u00fcllen, wie etwa ein KI-System, das unstrukturierte Daten in strukturierte Daten umwandelt, ein KI-System, das eingehende Dokumente in Kategorien einordnet, oder ein KI-System, das zur Erkennung von Duplikaten unter einer gro\u00dfen Zahl von Anwendungen eingesetzt wird. Diese Aufgaben sind so eng gefasst und begrenzt, dass sie nur beschr\u00e4nkte Risiken darstellen, die sich durch die Verwendung eines KI-Systems in einem Kontext, der in einem Anhang dieser Verordnung als Verwendung mit hohem Risiko aufgef\u00fchrt ist, nicht erh\u00f6hen. Die zweite Bedingung sollte darin bestehen, dass die von einem KI-System ausgef\u00fchrte Aufgabe das Ergebnis einer zuvor abgeschlossenen menschlichen T\u00e4tigkeit verbessert, die f\u00fcr die Zwecke der in einem Anhang dieser Verordnung aufgef\u00fchrten Verwendungen mit hohem Risiko relevant sein kann. Unter Ber\u00fccksichtigung dieser Merkmale wird eine menschliche T\u00e4tigkeit durch das KI-System lediglich durch eine zus\u00e4tzliche Ebene erg\u00e4nzt und stellt daher ein geringeres Risiko dar. Diese Bedingung w\u00fcrde beispielsweise f\u00fcr KI-Systeme gelten, deren Ziel es ist, die in zuvor verfassten Dokumenten verwendete Sprache zu verbessern, etwa den professionellen Ton, den wissenschaftlichen Sprachstil oder um den Text an einen bestimmten mit einer Marke verbundenen Stil anzupassen. Dritte Bedingung sollte sein, dass mit dem KI-System Entscheidungsmuster oder Abweichungen von fr\u00fcheren Entscheidungsmustern erkannt werden sollen. Das Risiko w\u00e4re geringer, da die Verwendung des KI-Systems einer zuvor abgeschlossenen menschlichen Bewertung folgt, die das KI-System ohne angemessene menschliche \u00dcberpr\u00fcfung nicht ersetzen oder beeinflussen soll. Zu solchen KI-Systemen geh\u00f6ren beispielsweise solche, die in Bezug auf ein bestimmtes Benotungsmuster eines Lehrers dazu verwendet werden k\u00f6nnen, nachtr\u00e4glich zu pr\u00fcfen, ob der Lehrer m\u00f6glicherweise von dem Benotungsmuster abgewichen ist, um so auf m\u00f6gliche Unstimmigkeiten oder Unregelm\u00e4\u00dfigkeiten aufmerksam zu machen. Die vierte Bedingung sollte darin bestehen, dass das KI-System dazu bestimmt ist, eine Aufgabe auszuf\u00fchren, die eine Bewertung, die f\u00fcr die Zwecke der in einem Anhang dieser Verordnung aufgef\u00fchrten KI-Systeme relevant ist, lediglich vorbereitet, wodurch die m\u00f6gliche Wirkung der Ausgaben des Systems im Hinblick auf das Risiko f\u00fcr die folgende Bewertung sehr gering bleibt. Diese Bedingung umfasst u.\u00a0a. intelligente L\u00f6sungen f\u00fcr die Bearbeitung von Dossiers, wozu verschiedene Funktionen wie Indexierung, Suche, Text- und Sprachverarbeitung oder Verkn\u00fcpfung von Daten mit anderen Datenquellen geh\u00f6ren, oder KI-Systeme, die f\u00fcr die \u00dcbersetzung von Erstdokumenten verwendet werden. In jedem Fall sollten KI-Systeme, die in den in einem Anhang dieser Verordnung aufgef\u00fchrten Anwendungsf\u00e4lle mit hohem Risiko verwendet werden, als erhebliche Risiken f\u00fcr die Gesundheit, Sicherheit oder Grundrechte gelten, wenn das KI-System Profiling im Sinne von Artikel\u00a04 Nummer\u00a04 der Verordnung (EU) 2016\/679 oder Artikel\u00a03 Nummer\u00a04 der Richtlinie (EU) 2016\/680 oder Artikel\u00a03 Nummer\u00a05 der Verordnung (EU) 2018\/1725 beinhaltet. Um die Nachvollziehbarkeit und Transparenz zu gew\u00e4hrleisten, sollte ein Anbieter, der der Auffassung ist, dass ein KI-System auf der Grundlage der oben genannten Bedingungen kein hohes Risiko darstellt, eine Dokumentation der Bewertung erstellen, bevor dieses System in Verkehr gebracht oder in Betrieb genommen wird, und die genannte Dokumentation den zust\u00e4ndigen nationalen Beh\u00f6rden auf Anfrage zur Verf\u00fcgung stellen. Ein solcher Anbieter sollte verpflichtet sein, das KI-System in der gem\u00e4\u00df dieser Verordnung eingerichteten EU-Datenbank zu registrieren. Um eine weitere Anleitung f\u00fcr die praktische Umsetzung der Bedingungen zu geben, unter denen die in einem Anhang dieser Verordnung aufgef\u00fchrten Systeme ausnahmsweise kein hohes Risiko darstellen, sollte die Kommission nach Konsultation des KI-Gremiums Leitlinien bereitstellen, in denen diese praktische Umsetzung detailliert aufgef\u00fchrt ist und durch eine umfassende Liste praktischer Beispiele f\u00fcr Anwendungsf\u00e4lle von KI-Systemen, die ein hohes Risiko und Anwendungsf\u00e4lle, die kein hohes Risiko darstellen, erg\u00e4nzt wird.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(54)<\/p>\n<\/td>\n

\n

Da biometrische Daten eine besondere Kategorie personenbezogener Daten darstellen, sollten einige kritische Anwendungsf\u00e4lle biometrischer Systeme als hochriskant eingestuft werden, sofern ihre Verwendung nach den einschl\u00e4gigen Rechtsvorschriften der Union und den nationalen Rechtsvorschriften zul\u00e4ssig ist. Technische Ungenauigkeiten von KI-Systemen, die f\u00fcr die biometrische Fernidentifizierung nat\u00fcrlicher Personen bestimmt sind, k\u00f6nnen zu verzerrten Ergebnissen f\u00fchren und eine diskriminierende Wirkung haben. Das Risiko solcher verzerrter Ergebnisse und solcher diskriminierender Wirkungen ist von besonderer Bedeutung, wenn es um das Alter, die ethnische Herkunft, die Rasse, das Geschlecht oder Behinderungen geht. Biometrische Fernidentifizierungssysteme sollten daher angesichts der von ihnen ausgehenden Risiken als hochriskant eingestuft werden. Diese Einstufung umfasst keine KI-Systeme, die bestimmungsgem\u00e4\u00df f\u00fcr die biometrische Verifizierung, wozu die Authentifizierung geh\u00f6rt, verwendet werden sollen, deren einziger Zweck darin besteht, zu best\u00e4tigen, dass eine bestimmte nat\u00fcrliche Person die Person ist, f\u00fcr die sie sich ausgibt, sowie zur Best\u00e4tigung der Identit\u00e4t einer nat\u00fcrlichen Person zu dem alleinigen Zweck Zugang zu einem Dienst zu erhalten, ein Ger\u00e4t zu entriegeln oder sicheren Zugang zu R\u00e4umlichkeiten zu erhalten. Dar\u00fcber hinaus sollten KI-Systeme, die bestimmungsgem\u00e4\u00df f\u00fcr die biometrische Kategorisierung nach sensiblen Attributen oder Merkmalen, die gem\u00e4\u00df Artikel\u00a09 Absatz\u00a01 der Verordnung (EU) 2016\/679 auf der Grundlage biometrischer Daten gesch\u00fctzt sind, und sofern sie nicht nach der vorliegenden Verordnung verboten sind, sowie Emotionserkennungssysteme, die nach dieser Verordnung nicht verboten sind, als hochriskant eingestuft werden. Biometrische Systeme, die ausschlie\u00dflich dazu bestimmt sind, um Ma\u00dfnahmen zur Cybersicherheit und zum Schutz personenbezogener Daten durchf\u00fchren zu k\u00f6nnen, sollten nicht als Hochrisiko-KI-Systeme gelten.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(55)<\/p>\n<\/td>\n

\n

Was die Verwaltung und den Betrieb kritischer Infrastruktur anbelangt, so ist es angezeigt, KI-Systeme, die als Sicherheitsbauteile f\u00fcr die Verwaltung und den Betrieb kritischer digitaler Infrastruktur gem\u00e4\u00df Nummer\u00a08 des Anhangs der Richtlinie (EU)\u00a02022\/2557, des Stra\u00dfenverkehrs sowie f\u00fcr die Wasser-, Gas-, W\u00e4rme- und Stromversorgung verwendet werden sollen, als hochriskant einzustufen, da ihr Ausfall oder ihre St\u00f6rung in gro\u00dfem Umfang ein Risiko f\u00fcr das Leben und die Gesundheit von Personen darstellen und zu erheblichen St\u00f6rungen bei der normalen Durchf\u00fchrung sozialer und wirtschaftlicher T\u00e4tigkeiten f\u00fchren kann. Sicherheitsbauteile kritischer Infrastruktur, einschlie\u00dflich kritischer digitaler Infrastruktur, sind Systeme, die verwendet werden, um die physische Integrit\u00e4t kritischer Infrastruktur oder die Gesundheit und Sicherheit von Personen und Eigentum zu sch\u00fctzen, die aber nicht notwendig sind, damit das System funktioniert. Ausf\u00e4lle oder St\u00f6rungen solcher Komponenten k\u00f6nnen direkt zu Risiken f\u00fcr die physische Integrit\u00e4t kritischer Infrastruktur und somit zu Risiken f\u00fcr die Gesundheit und Sicherheit von Personen und Eigentum f\u00fchren. Komponenten, die f\u00fcr die ausschlie\u00dfliche Verwendung zu Zwecken der Cybersicherheit vorgesehen sind, sollten nicht als Sicherheitsbauteile gelten. Zu Beispielen von Sicherheitsbauteilen solcher kritischen Infrastruktur z\u00e4hlen etwa Systeme f\u00fcr die \u00dcberwachung des Wasserdrucks oder Feuermelder-Kontrollsysteme in Cloud-Computing-Zentren.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(56)<\/p>\n<\/td>\n

\n

Der Einsatz von KI-Systemen in der Bildung ist wichtig, um eine hochwertige digitale allgemeine und berufliche Bildung zu f\u00f6rdern und es allen Lernenden und Lehrkr\u00e4ften zu erm\u00f6glichen, die erforderlichen digitalen F\u00e4higkeiten und Kompetenzen, einschlie\u00dflich Medienkompetenz und kritischem Denken, zu erwerben und auszutauschen, damit sie sich aktiv an Wirtschaft, Gesellschaft und demokratischen Prozessen beteiligen k\u00f6nnen. Allerdings sollten KI-Systeme, die in der allgemeinen oder beruflichen Bildung eingesetzt werden, um insbesondere den Zugang oder die Zulassung zum Zweck der Zuordnung von Personen zu Bildungs- und Berufsbildungseinrichtungen oder -programmen auf allen Ebenen zu bestimmen, die Lernergebnisse von Personen zu beurteilen, das angemessene Bildungsniveau einer Person zu bewerten und das Niveau der Bildung und Ausbildung, das die Person erh\u00e4lt oder zu dem sie Zugang erh\u00e4lt, wesentlich zu beeinflussen und verbotenes Verhalten von Sch\u00fclern w\u00e4hrend Pr\u00fcfungen zu \u00fcberwachen und zu erkennen als hochriskante KI-Systeme eingestuft werden, da sie \u00fcber den Verlauf der Bildung und des Berufslebens einer Person entscheiden und daher ihre F\u00e4higkeit beeintr\u00e4chtigen k\u00f6nnen, ihren Lebensunterhalt zu sichern. Bei unsachgem\u00e4\u00dfer Konzeption und Verwendung k\u00f6nnen solche Systeme sehr intrusiv sein und das Recht auf allgemeine und berufliche Bildung sowie das Recht auf Nichtdiskriminierung verletzen und historische Diskriminierungsmuster fortschreiben, beispielsweise gegen\u00fcber Frauen, bestimmten Altersgruppen und Menschen mit Behinderungen oder Personen mit einer bestimmten rassischen oder ethnischen Herkunft oder sexuellen Ausrichtung.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(57)<\/p>\n<\/td>\n

\n

KI-Systeme, die in den Bereichen Besch\u00e4ftigung, Personalmanagement und Zugang zur Selbstst\u00e4ndigkeit eingesetzt werden, insbesondere f\u00fcr die Einstellung und Auswahl von Personen, f\u00fcr Entscheidungen \u00fcber die Bedingungen des Arbeitsverh\u00e4ltnisses sowie die Bef\u00f6rderung und die Beendigung von Arbeitsvertragsverh\u00e4ltnissen, f\u00fcr die Zuweisung von Arbeitsaufgaben auf der Grundlage von individuellem Verhalten, pers\u00f6nlichen Eigenschaften oder Merkmalen sowie f\u00fcr die \u00dcberwachung oder Bewertung von Personen in Arbeitsvertragsverh\u00e4ltnissen sollten ebenfalls als hochriskant eingestuft werden, da diese Systeme die k\u00fcnftigen Karriereaussichten und die Lebensgrundlagen dieser Personen und die Arbeitnehmerrechte sp\u00fcrbar beeinflussen k\u00f6nnen. Einschl\u00e4gige Arbeitsvertragsverh\u00e4ltnisse sollten in sinnvoller Weise Besch\u00e4ftigte und Personen erfassen, die Dienstleistungen \u00fcber Plattformen erbringen, auf die im Arbeitsprogramm der Kommission f\u00fcr\u00a02021 Bezug genommen wird. Solche Systeme k\u00f6nnen w\u00e4hrend des gesamten Einstellungsverfahrens und bei der Bewertung, Bef\u00f6rderung oder Weiterbesch\u00e4ftigung von Personen in Arbeitsvertragsverh\u00e4ltnissen historische Diskriminierungsmuster fortschreiben, beispielsweise gegen\u00fcber Frauen, bestimmten Altersgruppen und Menschen mit Behinderungen oder Personen mit einer bestimmten rassischen oder ethnischen Herkunft oder sexuellen Ausrichtung. KI-Systeme zur \u00dcberwachung der Leistung und des Verhaltens solcher Personen k\u00f6nnen auch deren Grundrechte auf Datenschutz und Privatsph\u00e4re untergraben.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(58)<\/p>\n<\/td>\n

\n

Ein weiterer Bereich, in dem der Einsatz von KI-Systemen besondere Aufmerksamkeit verdient, ist der Zugang zu und die Nutzung von bestimmten grundlegenden privaten und \u00f6ffentlichen Diensten und Leistungen, die erforderlich sind, damit Menschen uneingeschr\u00e4nkt an der Gesellschaft teilhaben oder ihren Lebensstandard verbessern k\u00f6nnen. Insbesondere nat\u00fcrliche Personen, die grundlegende staatliche Unterst\u00fctzungsleistungen und -dienste von Beh\u00f6rden beantragen oder erhalten, wie etwa Gesundheitsdienste, Leistungen der sozialen Sicherheit, soziale Dienste, die Schutz in F\u00e4llen wie Mutterschaft, Krankheit, Arbeitsunfall, Pflegebed\u00fcrftigkeit oder Alter und Arbeitsplatzverlust sowie Sozialhilfe und Wohngeld bieten, sind in der Regel von diesen Leistungen und Diensten abh\u00e4ngig und befinden sich gegen\u00fcber den zust\u00e4ndigen Beh\u00f6rden in einer prek\u00e4ren Lage. Wenn KI-Systeme eingesetzt werden, um zu bestimmen, ob solche Leistungen und Dienste von den Beh\u00f6rden gew\u00e4hrt, verweigert, gek\u00fcrzt, widerrufen oder zur\u00fcckgefordert werden sollten, einschlie\u00dflich der Frage, ob Beg\u00fcnstigte rechtm\u00e4\u00dfig Anspruch auf solche Leistungen oder Dienste haben, k\u00f6nnen diese Systeme erhebliche Auswirkungen auf die Lebensgrundlage von Personen haben und ihre Grundrechte wie etwa das Recht auf sozialen Schutz, Nichtdiskriminierung, Menschenw\u00fcrde oder einen wirksamen Rechtsbehelf verletzen und sollten daher als hochriskant eingestuft werden. Dennoch sollte diese Verordnung die Entwicklung und Verwendung innovativer Ans\u00e4tze in der \u00f6ffentlichen Verwaltung nicht behindern, die von einer breiteren Verwendung konformer und sicherer KI-Systeme profitieren w\u00fcrde, sofern diese Systeme kein hohes Risiko f\u00fcr juristische und nat\u00fcrliche Personen bergen. Dar\u00fcber hinaus sollten KI-Systeme, die zur Bewertung der Bonit\u00e4t oder Kreditw\u00fcrdigkeit nat\u00fcrlicher Personen verwendet werden, als Hochrisiko-KI-Systeme eingestuft werden, da sie den Zugang dieser Personen zu Finanzmitteln oder wesentlichen Dienstleistungen wie etwa Wohnraum, Elektrizit\u00e4t und Telekommunikationsdienstleistungen bestimmen. KI-Systeme, die f\u00fcr diese Zwecke eingesetzt werden, k\u00f6nnen zur Diskriminierung von Personen oder Gruppen f\u00fchren und historische Diskriminierungsmuster, wie etwa aufgrund der rassischen oder ethnischen Herkunft, des Geschlechts, einer Behinderung, des Alters oder der sexuellen Ausrichtung, fortschreiben oder neue Formen von Diskriminierung mit sich bringen. Allerdings sollten KI-Systeme, die nach Unionsrecht zur Aufdeckung von Betrug beim Angebot von Finanzdienstleistungen oder f\u00fcr Aufsichtszwecke zur Berechnung der Eigenkapitalanforderungen von Kreditinstituten und Versicherungsunternehmen vorgesehen sind, nicht als Hochrisiko-Systeme gem\u00e4\u00df dieser Verordnung angesehen werden. Dar\u00fcber hinaus k\u00f6nnen KI-Systeme, die f\u00fcr die Risikobewertung und Preisbildung in Bezug auf nat\u00fcrliche Personen im Fall von Kranken- und Lebensversicherungen eingesetzt werden, auch erhebliche Auswirkungen auf die Existenzgrundlage der Menschen haben und bei nicht ordnungsgem\u00e4\u00dfer Konzeption, Entwicklung und Verwendung schwerwiegende Konsequenzen f\u00fcr das Leben und die Gesundheit von Menschen nach sich ziehen, einschlie\u00dflich finanzieller Ausgrenzung und Diskriminierung. Schlie\u00dflich sollten KI-Systeme, die bei der Bewertung und Einstufung von Notrufen durch nat\u00fcrliche Personen oder der Entsendung oder der Priorisierung der Entsendung von Not- und Rettungsdiensten wie Polizei, Feuerwehr und medizinischer Nothilfe sowie f\u00fcr die Triage von Patienten bei der Notfallversorgung eingesetzt werden, ebenfalls als hochriskant eingestuft werden, da sie in f\u00fcr das Leben und die Gesundheit von Personen und f\u00fcr ihr Eigentum sehr kritischen Situationen Entscheidungen treffen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(59)<\/p>\n<\/td>\n

\n

In Anbetracht der Rolle und Zust\u00e4ndigkeit von Strafverfolgungsbeh\u00f6rden sind deren Ma\u00dfnahmen im Zusammenhang mit bestimmten Verwendungen von KI-Systemen durch ein erhebliches Machtungleichgewicht gekennzeichnet und k\u00f6nnen zur \u00dcberwachung, zur Festnahme oder zum Entzug der Freiheit einer nat\u00fcrlichen Person sowie zu anderen nachteiligen Auswirkungen auf die in der Charta verankerten Grundrechte f\u00fchren. Insbesondere wenn das KI-System nicht mit hochwertigen Daten trainiert wird, die Anforderungen an seine Leistung, Genauigkeit oder Robustheit nicht erf\u00fcllt werden oder das System nicht ordnungsgem\u00e4\u00df konzipiert und getestet wird, bevor es in Verkehr gebracht oder in anderer Weise in Betrieb genommen wird, kann es Personen in diskriminierender oder anderweitig falscher oder ungerechter Weise ausgrenzen. Dar\u00fcber hinaus k\u00f6nnte die Aus\u00fcbung wichtiger verfahrensrechtlicher Grundrechte wie etwa des Rechts auf einen wirksamen Rechtsbehelf und ein unparteiisches Gericht sowie das Verteidigungsrecht und die Unschuldsvermutung behindert werden, insbesondere wenn solche KI-Systeme nicht hinreichend transparent, erkl\u00e4rbar und dokumentiert sind. Daher ist es angezeigt, eine Reihe von KI-Systemen\u00a0\u2014 sofern deren Einsatz nach einschl\u00e4gigem Unions- oder nationalem Recht zugelassen ist\u00a0\u2014, die im Rahmen der Strafverfolgung eingesetzt werden sollen und bei denen Genauigkeit, Zuverl\u00e4ssigkeit und Transparenz besonders wichtig sind, als hochriskant einzustufen, um nachteilige Auswirkungen zu vermeiden, das Vertrauen der \u00d6ffentlichkeit zu erhalten und die Rechenschaftspflicht und einen wirksamen Rechtsschutz zu gew\u00e4hrleisten. Angesichts der Art der T\u00e4tigkeiten und der damit verbundenen Risiken sollten diese Hochrisiko-KI-Systeme insbesondere KI-Systeme umfassen, die von Strafverfolgungsbeh\u00f6rden oder in ihrem Auftrag oder von Organen, Einrichtungen und sonstigen Stellen der Union zur Unterst\u00fctzung von Strafverfolgungsbeh\u00f6rden f\u00fcr folgende Zwecke eingesetzt werden: zur Bewertung des Risikos, dass eine nat\u00fcrliche Person Opfer von Straftaten wird, wie L\u00fcgendetektoren und \u00e4hnliche Instrumente, zur Bewertung der Zuverl\u00e4ssigkeit von Beweismitteln im Rahmen der Ermittlung oder Verfolgung von Straftaten und\u00a0\u2014 soweit nach dieser Verordnung nicht untersagt\u00a0\u2014 zur Bewertung des Risikos, dass eine nat\u00fcrliche Person eine Straftat begeht oder erneut begeht, nicht nur auf der Grundlage der Erstellung von Profilen nat\u00fcrlicher Personen oder zur Bewertung von Pers\u00f6nlichkeitsmerkmalen und Eigenschaften oder vergangenem kriminellen Verhalten von nat\u00fcrlichen Personen oder Gruppen, zur Erstellung von Profilen w\u00e4hrend der Aufdeckung, Untersuchung oder strafrechtlichen Verfolgung einer Straftat. KI-Systeme, die speziell f\u00fcr Verwaltungsverfahren in Steuer- und Zollbeh\u00f6rden sowie in Zentralstellen f\u00fcr Geldw\u00e4sche-Verdachtsanzeigen, die Verwaltungsaufgaben zur Analyse von Informationen gem\u00e4\u00df dem Unionsrecht zur Bek\u00e4mpfung der Geldw\u00e4sche durchf\u00fchren, bestimmt sind, sollten nicht als Hochrisiko-KI-Systeme eingestuft werden, die von Strafverfolgungsbeh\u00f6rden zum Zweck der Verh\u00fctung, Aufdeckung, Untersuchung und strafrechtlichen Verfolgung von Straftaten eingesetzt werden. Der Einsatz von KI-Instrumenten durch Strafverfolgungsbeh\u00f6rden und anderen relevanten Beh\u00f6rden sollte nicht zu einem Faktor der Ungleichheit oder Ausgrenzung werden. Die Auswirkungen des Einsatzes von KI-Instrumenten auf die Verteidigungsrechte von Verd\u00e4chtigen sollten nicht au\u00dfer Acht gelassen werden, insbesondere nicht die Schwierigkeit, aussagekr\u00e4ftige Informationen \u00fcber die Funktionsweise solcher Systeme zu erhalten, und die daraus resultierende Schwierigkeit einer gerichtlichen Anfechtung ihrer Ergebnisse, insbesondere durch nat\u00fcrliche Personen, gegen die ermittelt wird.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(60)<\/p>\n<\/td>\n

\n

KI-Systeme, die in den Bereichen Migration, Asyl und Grenzkontrolle eingesetzt werden, betreffen Personen, die sich h\u00e4ufig in einer besonders prek\u00e4ren Lage befinden und vom Ergebnis der Ma\u00dfnahmen der zust\u00e4ndigen Beh\u00f6rden abh\u00e4ngig sind. Die Genauigkeit, der nichtdiskriminierende Charakter und die Transparenz der KI-Systeme, die in solchen Zusammenh\u00e4ngen eingesetzt werden, sind daher besonders wichtig, um die Achtung der Grundrechte der betroffenen Personen, insbesondere ihrer Rechte auf Freiz\u00fcgigkeit, Nichtdiskriminierung, Schutz des Privatlebens und personenbezogener Daten, internationalen Schutz und gute Verwaltung, zu gew\u00e4hrleisten. Daher ist es angezeigt, KI-Systeme\u00a0\u2014 sofern deren Einsatz nach einschl\u00e4gigem Unions- oder nationalem Recht zugelassen ist\u00a0\u2014 als hochriskant einzustufen, die von den zust\u00e4ndigen mit Aufgaben in den Bereichen Migration, Asyl und Grenzkontrolle betrauten Beh\u00f6rden oder in deren Auftrag oder von Organen, Einrichtungen oder sonstigen Stellen der Union f\u00fcr Folgendes eingesetzt werden: als L\u00fcgendetektoren und \u00e4hnliche Instrumente; zur Bewertung bestimmter Risiken, die von nat\u00fcrlichen Personen ausgehen, die in das Hoheitsgebiet eines Mitgliedstaats einreisen oder ein Visum oder Asyl beantragen; zur Unterst\u00fctzung der zust\u00e4ndigen Beh\u00f6rden bei der Pr\u00fcfung\u00a0\u2014 einschlie\u00dflich der damit zusammenh\u00e4ngenden Bewertung der Zuverl\u00e4ssigkeit von Beweismitteln\u00a0\u2014 von Asyl- und Visumantr\u00e4gen sowie Aufenthaltstiteln und damit verbundenen Beschwerden im Hinblick darauf, die Berechtigung der den Antrag stellenden nat\u00fcrlichen Personen festzustellen; zum Zweck der Aufdeckung, Anerkennung oder Identifizierung nat\u00fcrlicher Personen im Zusammenhang mit Migration, Asyl und Grenzkontrolle, mit Ausnahme der \u00dcberpr\u00fcfung von Reisedokumenten. KI-Systeme im Bereich Migration, Asyl und Grenzkontrolle, die unter diese Verordnung fallen, sollten den einschl\u00e4gigen Verfahrensvorschriften der Verordnung\u00a0(EG) Nr.\u00a0810\/2009 des Europ\u00e4ischen Parlaments und des Rates\u00a0(32<\/span>)<\/a>, der Richtlinie 2013\/32\/EU des Europ\u00e4ischen Parlaments und des Rates\u00a0(33<\/span>)<\/a> und anderem einschl\u00e4gigen Unionsrecht entsprechen. Der Einsatz von KI-Systemen in den Bereichen Migration, Asyl und Grenzkontrolle sollte unter keinen Umst\u00e4nden von den Mitgliedstaaten oder Organen, Einrichtungen oder sonstigen Stellen der Union als Mittel zur Umgehung ihrer internationalen Verpflichtungen aus dem am 28.\u00a0Juli 1951 in Genf unterzeichneten Abkommen der Vereinten Nationen \u00fcber die Rechtsstellung der Fl\u00fcchtlinge in der durch das Protokoll vom 31.\u00a0Januar 1967 ge\u00e4nderten Fassung genutzt werden. Die Systeme sollten auch nicht dazu genutzt werden, in irgendeiner Weise gegen den Grundsatz der Nichtzur\u00fcckweisung zu versto\u00dfen oder sichere und wirksame legale Wege in das Gebiet der Union, einschlie\u00dflich des Rechts auf internationalen Schutz, zu verweigern.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(61)<\/p>\n<\/td>\n

\n

Bestimmte KI-Systeme, die f\u00fcr die Rechtspflege und demokratische Prozesse bestimmt sind, sollten angesichts ihrer m\u00f6glichen erheblichen Auswirkungen auf die Demokratie, die Rechtsstaatlichkeit, die individuellen Freiheiten sowie das Recht auf einen wirksamen Rechtsbehelf und ein unparteiisches Gericht als hochriskant eingestuft werden. Um insbesondere den Risiken m\u00f6glicher Verzerrungen, Fehler und Undurchsichtigkeiten zu begegnen, sollten KI-Systeme, die von einer Justizbeh\u00f6rde oder in ihrem Auftrag dazu genutzt werden sollen, Justizbeh\u00f6rden bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften und bei der Anwendung des Rechts auf konkrete Sachverhalte zu unterst\u00fctzen, als hochriskant eingestuft werden. KI-Systeme, die von Stellen f\u00fcr die alternative Streitbeilegung f\u00fcr diese Zwecke genutzt werden sollen, sollten ebenfalls als hochriskant gelten, wenn die Ergebnisse der alternativen Streitbeilegung Rechtswirkung f\u00fcr die Parteien entfalten. Der Einsatz von KI-Instrumenten kann die Entscheidungsgewalt von Richtern oder die Unabh\u00e4ngigkeit der Justiz unterst\u00fctzen, sollte sie aber nicht ersetzen; die endg\u00fcltige Entscheidungsfindung muss eine von Menschen gesteuerte T\u00e4tigkeit bleiben. Die Einstufung von KI-Systemen als hochriskant sollte sich jedoch nicht auf KI-Systeme erstrecken, die f\u00fcr rein begleitende Verwaltungst\u00e4tigkeiten bestimmt sind, die die tats\u00e4chliche Rechtspflege in Einzelf\u00e4llen nicht beeintr\u00e4chtigen, wie etwa die Anonymisierung oder Pseudonymisierung gerichtlicher Urteile, Dokumente oder Daten, die Kommunikation zwischen dem Personal oder Verwaltungsaufgaben.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(62)<\/p>\n<\/td>\n

\n

Unbeschadet der Vorschriften der Verordnung (EU)\u00a02024\/900 des Europ\u00e4ischen Parlaments und des Rates\u00a0(34<\/span>)<\/a> und um den Risiken eines unzul\u00e4ssigen externen Eingriffs in das in Artikel\u00a039 der Charta verankerte Wahlrecht und nachteiligen Auswirkungen auf die Demokratie und die Rechtsstaatlichkeit zu begegnen, sollten KI-Systeme, die verwendet werden sollen, um das Ergebnis einer Wahl oder eines Referendums oder das Wahlverhalten nat\u00fcrlicher Personen bei der Aus\u00fcbung ihres Wahlrechts in einer Wahl oder in Referenden zu beeinflussen, als Hochrisiko-KI-Systeme eingestuft werden, mit Ausnahme von KI-Systemen, deren Ausgaben nat\u00fcrliche Personen nicht direkt ausgesetzt sind, wie Instrumente zur Organisation, Optimierung und Strukturierung politischer Kampagnen in administrativer und logistischer Hinsicht.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(63)<\/p>\n<\/td>\n

\n

Die Tatsache, dass ein KI-System gem\u00e4\u00df dieser Verordnung als ein Hochrisiko-KI-System eingestuft wird, sollte nicht dahin gehend ausgelegt werden, dass die Verwendung des Systems nach anderen Rechtsakten der Union oder nach nationalen Rechtsvorschriften, die mit dem Unionsrecht vereinbar sind, rechtm\u00e4\u00dfig ist, beispielsweise in Bezug auf den Schutz personenbezogener Daten, die Verwendung von L\u00fcgendetektoren und \u00e4hnlichen Instrumenten oder anderen Systemen zur Ermittlung des emotionalen Zustands nat\u00fcrlicher Personen. Eine solche Verwendung sollte weiterhin ausschlie\u00dflich gem\u00e4\u00df den geltenden Anforderungen erfolgen, die sich aus der Charta, dem anwendbaren Sekund\u00e4rrecht der Union und nationalen Recht ergeben. Diese Verordnung sollte nicht so verstanden werden, dass sie eine Rechtsgrundlage f\u00fcr die Verarbeitung personenbezogener Daten, gegebenenfalls einschlie\u00dflich besonderer Kategorien personenbezogener Daten, bildet, es sei denn, in dieser Verordnung ist ausdr\u00fccklich etwas anderes vorgesehen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(64)<\/p>\n<\/td>\n

\n

Um die von in Verkehr gebrachten oder in Betrieb genommenen Hochrisiko-KI-Systemen ausgehenden Risiken zu mindern und ein hohes Ma\u00df an Vertrauensw\u00fcrdigkeit zu gew\u00e4hrleisten, sollten f\u00fcr Hochrisiko-KI-Systeme bestimmte verbindliche Anforderungen gelten, wobei der Zweckbestimmung und dem Nutzungskontext des KI-Systems sowie dem vom Anbieter einzurichtenden Risikomanagementsystem Rechnung zu tragen ist. Die von den Anbietern zur Erf\u00fcllung der verbindlichen Anforderungen dieser Verordnung ergriffenen Ma\u00dfnahmen sollten dem allgemein anerkannten Stand der KI Rechnung tragen, verh\u00e4ltnism\u00e4\u00dfig und wirksam sein, um die Ziele dieser Verordnung zu erreichen. Auf der Grundlage des neuen Rechtsrahmens, wie in der Bekanntmachung der Kommission \u201eLeitfaden f\u00fcr die Umsetzung der Produktvorschriften der EU\u00a02022 (Blue Guide)\u201c dargelegt, gilt als allgemeine Regel, dass mehr als ein Rechtsakt der Harmonisierungsrechtsvorschriften der Union auf ein Produkt anwendbar sein k\u00f6nnen, da die Bereitstellung oder Inbetriebnahme nur erfolgen kann, wenn das Produkt allen geltenden Harmonisierungsrechtsvorschriften der Union entspricht. Die Gefahren von KI-Systemen, die unter die Anforderungen dieser Verordnung fallen, decken andere Aspekte ab als die bestehenden Harmonisierungsrechtsvorschriften der Union, weshalb die Anforderungen dieser Verordnung das bestehende Regelwerk der Harmonisierungsrechtsvorschriften der Union erg\u00e4nzen w\u00fcrden. So bergen etwa Maschinen oder Medizinprodukte mit einer KI-Komponente m\u00f6glicherweise Risiken, die von den grundlegenden Gesundheits- und Sicherheitsanforderungen der einschl\u00e4gigen harmonisierten Rechtsvorschriften der Union nicht erfasst werden, da diese sektoralen Rechtsvorschriften keine spezifischen KI-Risiken behandeln. Dies erfordert die gleichzeitige und erg\u00e4nzende Anwendung mehrerer Rechtsakte. Um Koh\u00e4renz zu gew\u00e4hrleisten und unn\u00f6tigen Verwaltungsaufwand sowie unn\u00f6tige Kosten zu vermeiden, sollten die Anbieter eines Produkts, das ein oder mehrere Hochrisiko-KI-Systeme enth\u00e4lt, f\u00fcr die die Anforderungen dieser Verordnung und der in einem Anhang dieser Verordnung aufgef\u00fchrten und auf dem neuen Rechtsrahmen beruhenden Harmonisierungsvorschriften der Union gelten, in Bezug auf betriebliche Entscheidungen dar\u00fcber flexibel sein, wie die Konformit\u00e4t eines Produkts, das ein oder mehrere Hochrisiko-KI-Systeme enth\u00e4lt, bestm\u00f6glich mit allen geltenden Anforderungen dieser harmonisierten Rechtsvorschriften der Union sichergestellt werden kann. Diese Flexibilit\u00e4t k\u00f6nnte beispielsweise bedeuten, dass der Anbieter beschlie\u00dft, einen Teil der gem\u00e4\u00df dieser Verordnung erforderlichen Test- und Berichterstattungsverfahren, Informationen und Unterlagen in bereits bestehende Dokumentationen und Verfahren zu integrieren, die nach den auf dem neuen Rechtsrahmen beruhenden und in einem Anhang dieser Verordnung aufgef\u00fchrten geltenden Harmonisierungsrechtsvorschriften der Union erforderlich sind. Dies sollte in keiner Weise die Verpflichtung des Anbieters untergraben, alle geltenden Anforderungen zu erf\u00fcllen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(65)<\/p>\n<\/td>\n

\n

Das Risikomanagementsystem sollte in einem kontinuierlichen iterativen Prozess bestehen, der w\u00e4hrend des gesamten Lebenszyklus eines Hochrisiko-KI-Systems geplant und durchgef\u00fchrt wird. Ziel dieses Prozesses sollte es ein, die einschl\u00e4gigen Risiken von KI-Systemen f\u00fcr Gesundheit, Sicherheit und Grundrechte zu ermitteln und zu mindern. Das Risikomanagementsystem sollte regelm\u00e4\u00dfig \u00fcberpr\u00fcft und aktualisiert werden, um seine dauerhafte Wirksamkeit sowie die Begr\u00fcndetheit und Dokumentierung aller gem\u00e4\u00df dieser Verordnung getroffenen wesentlichen Entscheidungen und Ma\u00dfnahmen zu gew\u00e4hrleisten. Mit diesem Prozess sollte sichergestellt werden, dass der Anbieter Risiken oder negative Auswirkungen ermittelt und Minderungsma\u00dfnahmen ergreift in Bezug auf die bekannten und vern\u00fcnftigerweise vorhersehbaren Risiken von KI-Systemen f\u00fcr die Gesundheit, die Sicherheit und die Grundrechte angesichts ihrer Zweckbestimmung und vern\u00fcnftigerweise vorhersehbaren Fehlanwendung, einschlie\u00dflich der m\u00f6glichen Risiken, die sich aus der Interaktion zwischen dem KI-System und der Umgebung, in der es betrieben wird, ergeben k\u00f6nnten. Im Rahmen des Risikomanagementsystems sollten die vor dem Hintergrund des Stands der KI am besten geeigneten Risikomanagementma\u00dfnahmen ergriffen werden. Bei der Ermittlung der am besten geeigneten Risikomanagementma\u00dfnahmen sollte der Anbieter die getroffenen Entscheidungen dokumentieren und erl\u00e4utern und gegebenenfalls Sachverst\u00e4ndige und externe Interessentr\u00e4ger hinzuziehen. Bei der Ermittlung der vern\u00fcnftigerweise vorhersehbaren Fehlanwendung von Hochrisiko-KI-Systemen sollte der Anbieter die Verwendungen von KI-Systemen erfassen, die zwar nicht unmittelbar der Zweckbestimmung entsprechen und in der Betriebsanleitung vorgesehen sind, jedoch nach vern\u00fcnftigem Ermessen davon auszugehen ist, dass sie sich aus einem leicht absehbaren menschlichen Verhalten im Zusammenhang mit den spezifischen Merkmalen und der Verwendung eines bestimmten KI-Systems ergeben. Alle bekannten oder vorhersehbaren Umst\u00e4nde bez\u00fcglich der Verwendung des Hochrisiko-KI-Systems im Einklang mit seiner Zweckbestimmung oder einer vern\u00fcnftigerweise vorhersehbaren Fehlanwendung, die zu Risiken f\u00fcr die Gesundheit und Sicherheit oder die Grundrechte f\u00fchren k\u00f6nnen, sollten vom Anbieter in der Betriebsanleitung aufgef\u00fchrt werden. Damit soll sichergestellt werden, dass der Betreiber diese Umst\u00e4nde bei der Nutzung des Hochrisiko-KI-Systems kennt und ber\u00fccksichtigt. Die Ermittlung und Umsetzung von Risikominderungsma\u00dfnahmen in Bezug auf vorhersehbare Fehlanwendungen im Rahmen dieser Verordnung sollte keine spezifische zus\u00e4tzliche Schulung f\u00fcr das Hochrisiko-KI-System durch den Anbieter erfordern, um gegen vorhersehbare Fehlanwendungen vorzugehen. Die Anbieter sind jedoch gehalten, solche zus\u00e4tzlichen Schulungsma\u00dfnahmen in Erw\u00e4gung zu ziehen, um einer vern\u00fcnftigerweise vorhersehbare Fehlanwendung entgegenzuwirken, soweit dies erforderlich und angemessen ist.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(66)<\/p>\n<\/td>\n

\n

Die Anforderungen sollten f\u00fcr Hochrisiko-KI-Systeme im Hinblick auf das Risikomanagement, die Qualit\u00e4t und Relevanz der verwendeten Datens\u00e4tze, die technische Dokumentation und die Aufzeichnungspflichten, die Transparenz und die Bereitstellung von Informationen f\u00fcr die Betreiber, die menschliche Aufsicht sowie die Robustheit, Genauigkeit und Sicherheit gelten. Diese Anforderungen sind erforderlich, um die Risiken f\u00fcr Gesundheit, Sicherheit und Grundrechte wirksam zu mindern. Nachdem nach vern\u00fcnftigem Ermessen keine anderen weniger handelsbeschr\u00e4nkenden Ma\u00dfnahmen zur Verf\u00fcgung stehen, stellen sie keine ungerechtfertigten Handelsbeschr\u00e4nkungen dar.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(67)<\/p>\n<\/td>\n

\n

Hochwertige Daten und der Zugang dazu spielen eine zentrale Rolle bei der Bereitstellung von Strukturen und f\u00fcr die Sicherstellung der Leistung vieler KI-Systeme, insbesondere wenn Techniken eingesetzt werden, bei denen Modelle mit Daten trainiert werden, um sicherzustellen, dass das Hochrisiko-KI-System bestimmungsgem\u00e4\u00df und sicher funktioniert und nicht zur Ursache f\u00fcr Diskriminierung wird, die nach dem Unionsrecht verboten ist. Hochwertige Trainings-, Validierungs- und Testdatens\u00e4tze erfordern geeignete Daten-Governance- und Datenverwaltungsverfahren. Die Trainings-, Validierungs- und Testdatens\u00e4tze, einschlie\u00dflich der Kennzeichnungen, sollten im Hinblick auf die Zweckbestimmung des Systems relevant, hinreichend repr\u00e4sentativ und so weit wie m\u00f6glich fehlerfrei und vollst\u00e4ndig sein. Um die Einhaltung des Datenschutzrechts der Union, wie der Verordnung (EU)\u00a02016\/679, zu erleichtern, sollten Daten-Governance- und Datenverwaltungsverfahren bei personenbezogenen Daten Transparenz in Bezug auf den urspr\u00fcnglichen Zweck der Datenerhebung umfassen. Die Datens\u00e4tze sollten auch die geeigneten statistischen Merkmale haben, auch bez\u00fcglich der Personen oder Personengruppen, auf die das Hochrisiko-KI-System bestimmungsgem\u00e4\u00df angewandt werden soll, unter besonderer Ber\u00fccksichtigung der Minderung m\u00f6glicher Verzerrungen in den Datens\u00e4tzen, die die Gesundheit und Sicherheit von Personen beeintr\u00e4chtigen, sich negativ auf die Grundrechte auswirken oder zu einer nach dem Unionsrecht verbotenen Diskriminierung f\u00fchren k\u00f6nnten, insbesondere wenn die Datenausgaben die Eingaben f\u00fcr k\u00fcnftige Operationen beeinflussen (R\u00fcckkopplungsschleifen). Verzerrungen k\u00f6nnen zum Beispiel\u00a0\u2014 insbesondere bei Verwendung historischer Daten\u00a0\u2014 den zugrunde liegenden Datens\u00e4tzen innewohnen oder bei der Implementierung der Systeme in der realen Welt generiert werden. Die von einem KI-System ausgegebenen Ergebnisse k\u00f6nnten durch solche inh\u00e4renten Verzerrungen beeinflusst werden, die tendenziell allm\u00e4hlich zunehmen und dadurch bestehende Diskriminierungen fortschreiben und verst\u00e4rken, insbesondere in Bezug auf Personen, die bestimmten schutzbed\u00fcrftigen Gruppen wie aufgrund von Rassismus benachteiligten oder ethnischen Gruppen angeh\u00f6ren. Die Anforderung, dass die Datens\u00e4tze so weit wie m\u00f6glich vollst\u00e4ndig und fehlerfrei sein m\u00fcssen, sollte sich nicht auf den Einsatz von Techniken zur Wahrung der Privatsph\u00e4re im Zusammenhang mit der Entwicklung und dem Testen von KI-Systemen auswirken. Insbesondere sollten die Datens\u00e4tze, soweit dies f\u00fcr die Zweckbestimmung erforderlich ist, den Eigenschaften, Merkmalen oder Elementen entsprechen, die f\u00fcr die besonderen geografischen, kontextuellen, verhaltensbezogenen oder funktionalen Rahmenbedingungen, unter denen das Hochrisiko-KI-System bestimmungsgem\u00e4\u00df verwendet werden soll, typisch sind. Die Anforderungen an die Daten-Governance k\u00f6nnen durch die Inanspruchnahme Dritter erf\u00fcllt werden, die zertifizierte Compliance-Dienste anbieten, einschlie\u00dflich der \u00dcberpr\u00fcfung der Daten-Governance, der Datensatzintegrit\u00e4t und der Datenschulungs-, Validierungs- und Testverfahren, sofern die Einhaltung der Datenanforderungen dieser Verordnung gew\u00e4hrleistet ist.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(68)<\/p>\n<\/td>\n

\n

F\u00fcr die Entwicklung und Bewertung von Hochrisiko-KI-Systemen sollten bestimmte Akteure wie etwa Anbieter, notifizierte Stellen und andere einschl\u00e4gige Einrichtungen wie etwa Europ\u00e4ische Digitale Innovationszentren, Test- und Versuchseinrichtungen und Forscher in der Lage sein, in den T\u00e4tigkeitsbereichen, in denen diese Akteure t\u00e4tig sind und die mit dieser Verordnung in Zusammenhang stehen, auf hochwertige Datens\u00e4tze zuzugreifen und diese zu nutzen. Die von der Kommission eingerichteten gemeinsamen europ\u00e4ischen Datenr\u00e4ume und die Erleichterung des Datenaustauschs im \u00f6ffentlichen Interesse zwischen Unternehmen und mit Beh\u00f6rden werden entscheidend dazu beitragen, einen vertrauensvollen, rechenschaftspflichtigen und diskriminierungsfreien Zugang zu hochwertigen Daten f\u00fcr das Training, die Validierung und das Testen von KI-Systemen zu gew\u00e4hrleisten. Im Gesundheitsbereich beispielsweise wird der europ\u00e4ische Raum f\u00fcr Gesundheitsdaten den diskriminierungsfreien Zugang zu Gesundheitsdaten und das Training von KI-Algorithmen mithilfe dieser Datens\u00e4tze erleichtern, und zwar unter Wahrung der Privatsph\u00e4re, auf sichere, zeitnahe, transparente und vertrauensw\u00fcrdige Weise und unter angemessener institutioneller Leitung. Die einschl\u00e4gigen zust\u00e4ndigen Beh\u00f6rden, einschlie\u00dflich sektoraler Beh\u00f6rden, die den Zugang zu Daten bereitstellen oder unterst\u00fctzen, k\u00f6nnen auch die Bereitstellung hochwertiger Daten f\u00fcr das Training, die Validierung und das Testen von KI-Systemen unterst\u00fctzen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(69)<\/p>\n<\/td>\n

\n

Das Recht auf Privatsph\u00e4re und den Schutz personenbezogener Daten muss w\u00e4hrend des gesamten Lebenszyklus des KI-Systems sichergestellt sein. In dieser Hinsicht gelten die Grunds\u00e4tze der Datenminimierung und des Datenschutzes durch Technikgestaltung und Voreinstellungen, wie sie im Datenschutzrecht der Union festgelegt sind, wenn personenbezogene Daten verarbeitet werden. Unbeschadet der in dieser Verordnung festgelegten Anforderungen an die Daten-Governance k\u00f6nnen zu den Ma\u00dfnahmen, mit denen die Anbieter die Einhaltung dieser Grunds\u00e4tze sicherstellen, nicht nur Anonymisierung und Verschl\u00fcsselung geh\u00f6ren, sondern auch der Einsatz von Technik, die es erm\u00f6glicht, Algorithmen direkt am Ort der Datenerzeugung einzusetzen und KI-Systeme zu trainieren, ohne dass Daten zwischen Parteien \u00fcbertragen oder die Rohdaten oder strukturierten Daten selbst kopiert werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(70)<\/p>\n<\/td>\n

\n

Um das Recht anderer auf Schutz vor Diskriminierung, die sich aus Verzerrungen in KI-Systemen ergeben k\u00f6nnte, zu wahren, sollten die Anbieter ausnahmsweise und in dem unbedingt erforderlichen Ausma\u00df, um die Erkennung und Korrektur von Verzerrungen im Zusammenhang mit Hochrisiko-KI-Systemen sicherzustellen, vorbehaltlich angemessener Vorkehrungen f\u00fcr den Schutz der Grundrechte und Grundfreiheiten nat\u00fcrlicher Personen und nach Anwendung aller in dieser Verordnung festgelegten geltenden Bedingungen zus\u00e4tzlich zu den in den Verordnungen (EU) 2016\/679 und (EU) 2018\/1725 sowie der Richtlinie (EU) 2016\/680 festgelegten Bedingungen besondere Kategorien personenbezogener Daten als Angelegenheit von erheblichem \u00f6ffentlichen Interesse im Sinne des Artikels\u00a09 Absatz\u00a02 Buchstabe\u00a0g der Verordnung (EU) 2016\/679 und des Artikels\u00a010 Absatz\u00a02 Buchstabe\u00a0g der Verordnung (EU) 2018\/1725 verarbeiten k\u00f6nnen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(71)<\/p>\n<\/td>\n

\n

Umfassende Informationen dar\u00fcber, wie Hochrisiko-KI-Systeme entwickelt wurden und wie sie w\u00e4hrend ihrer gesamten Lebensdauer funktionieren, sind unerl\u00e4sslich, um die Nachvollziehbarkeit dieser Systeme, die \u00dcberpr\u00fcfung der Einhaltung der Anforderungen dieser Verordnung sowie die Beobachtung ihres Betriebs und ihre Beobachtung nach dem Inverkehrbringen zu erm\u00f6glichen. Dies erfordert die F\u00fchrung von Aufzeichnungen und die Verf\u00fcgbarkeit einer technischen Dokumentation, die alle erforderlichen Informationen enth\u00e4lt, um die Einhaltung der einschl\u00e4gigen Anforderungen durch das KI-System zu beurteilen und die Beobachtung nach dem Inverkehrbringen zu erleichtern. Diese Informationen sollten die allgemeinen Merkmale, F\u00e4higkeiten und Grenzen des Systems, die verwendeten Algorithmen, Daten und Trainings-, Test- und Validierungsverfahren sowie die Dokumentation des einschl\u00e4gigen Risikomanagementsystems umfassen und in klarer und umfassender Form abgefasst sein. Die technische Dokumentation sollte w\u00e4hrend der gesamten Lebensdauer des KI-Systems angemessen auf dem neuesten Stand gehalten werden. Dar\u00fcber hinaus sollten die Hochrisiko-KI-Systeme technisch die automatische Aufzeichnung von Ereignissen mittels Protokollierung w\u00e4hrend der Lebensdauer des Systems erm\u00f6glichen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(72)<\/p>\n<\/td>\n

\n

Um Bedenken hinsichtlich der Undurchsichtigkeit und Komplexit\u00e4t bestimmter KI-Systeme auszur\u00e4umen und die Betreiber bei der Erf\u00fcllung ihrer Pflichten gem\u00e4\u00df dieser Verordnung zu unterst\u00fctzen, sollte f\u00fcr Hochrisiko-KI-Systeme Transparenz vorgeschrieben werden, bevor sie in Verkehr gebracht oder in Betrieb genommen werden. Hochrisiko-KI-Systeme sollten so gestaltet sein, dass die Betreiber in der Lage sind, zu verstehen, wie das KI-System funktioniert, seine Funktionalit\u00e4t zu bewerten und seine St\u00e4rken und Grenzen zu erfassen. Hochrisiko-KI-Systemen sollten angemessene Informationen in Form von Betriebsanleitungen beigef\u00fcgt sein. Zu diesen Informationen sollten die Merkmale, F\u00e4higkeiten und Leistungsbeschr\u00e4nkungen des KI-Systems geh\u00f6ren. Diese w\u00fcrden Informationen \u00fcber m\u00f6gliche bekannte und vorhersehbare Umst\u00e4nde im Zusammenhang mit der Nutzung des Hochrisiko-KI-Systems, einschlie\u00dflich Handlungen des Betreibers, die das Verhalten und die Leistung des Systems beeinflussen k\u00f6nnen, unter denen das KI-System zu Risiken in Bezug auf die Gesundheit, die Sicherheit und die Grundrechte f\u00fchren kann, \u00fcber die \u00c4nderungen, die vom Anbieter vorab festgelegt und auf Konformit\u00e4t gepr\u00fcft wurden, und \u00fcber die einschl\u00e4gigen Ma\u00dfnahmen der menschlichen Aufsicht, einschlie\u00dflich der Ma\u00dfnahmen, um den Betreibern die Interpretation der Ausgaben von KI-Systemen zu erleichtern, umfassen. Transparenz, einschlie\u00dflich der begleitenden Betriebsanleitungen, sollte den Betreibern bei der Nutzung des Systems helfen und ihre fundierte Entscheidungsfindung unterst\u00fctzen. Unter anderem sollten Betreiber besser in der Lage sein, das richtige System auszuw\u00e4hlen, das sie angesichts der f\u00fcr sie geltenden Pflichten verwenden wollen, \u00fcber die beabsichtigten und ausgeschlossenen Verwendungszwecke informiert sein und das KI-System korrekt und angemessen verwenden. Um die Lesbarkeit und Zug\u00e4nglichkeit der in der Betriebsanleitung enthaltenen Informationen zu verbessern, sollten diese gegebenenfalls anschauliche Beispiele enthalten, zum Beispiel zu den Beschr\u00e4nkungen sowie zu den beabsichtigten und ausgeschlossenen Verwendungen des KI-Systems. Die Anbieter sollten daf\u00fcr sorgen, dass in der gesamten Dokumentation, einschlie\u00dflich der Betriebsanleitungen, aussagekr\u00e4ftige, umfassende, zug\u00e4ngliche und verst\u00e4ndliche Informationen enthalten sind, wobei die Bed\u00fcrfnisse und vorhersehbaren Kenntnisse der Zielbetreiber zu ber\u00fccksichtigen sind. Die Betriebsanleitungen sollten in einer vom betreffenden Mitgliedstaat festgelegten Sprache zur Verf\u00fcgung gestellt werden, die von den Zielbetreibern leicht verstanden werden kann.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(73)<\/p>\n<\/td>\n

\n

Hochrisiko-KI-Systeme sollten so gestaltet und entwickelt werden, dass nat\u00fcrliche Personen ihre Funktionsweise \u00fcberwachen und sicherstellen k\u00f6nnen, dass sie bestimmungsgem\u00e4\u00df verwendet werden und dass ihre Auswirkungen w\u00e4hrend des Lebenszyklus des Systems ber\u00fccksichtigt werden. Zu diesem Zweck sollte der Anbieter des Systems vor dem Inverkehrbringen oder der Inbetriebnahme geeignete Ma\u00dfnahmen zur Gew\u00e4hrleistung der menschlichen Aufsicht festlegen. Insbesondere sollten solche Ma\u00dfnahmen gegebenenfalls gew\u00e4hrleisten, dass das System integrierten Betriebseinschr\u00e4nkungen unterliegt, \u00fcber die sich das System selbst nicht hinwegsetzen kann, dass es auf den menschlichen Bediener reagiert und dass die nat\u00fcrlichen Personen, denen die menschliche Aufsicht \u00fcbertragen wurde, \u00fcber die erforderliche Kompetenz, Ausbildung und Befugnis verf\u00fcgen, um diese Aufgabe wahrzunehmen. Es ist au\u00dferdem unerl\u00e4sslich, gegebenenfalls daf\u00fcr zu sorgen, dass in Hochrisiko-KI-Systemen Mechanismen enthalten sind, um eine nat\u00fcrliche Person, der die menschliche Aufsicht \u00fcbertragen wurde, zu beraten und zu informieren, damit sie fundierte Entscheidungen dar\u00fcber trifft, ob, wann und wie einzugreifen ist, um negative Folgen oder Risiken zu vermeiden, oder das System anzuhalten, wenn es nicht wie beabsichtigt funktioniert. Angesichts der bedeutenden Konsequenzen f\u00fcr Personen im Falle eines falschen Treffers durch bestimmte biometrische Identifizierungssysteme ist es angezeigt, f\u00fcr diese Systeme eine verst\u00e4rkte Anforderung im Hinblick auf die menschliche Aufsicht vorzusehen, sodass der Betreiber keine Ma\u00dfnahmen oder Entscheidungen aufgrund des vom System hervorgebrachten Identifizierungsergebnisses treffen kann, solange dies nicht von mindestens zwei nat\u00fcrlichen Personen getrennt \u00fcberpr\u00fcft und best\u00e4tigt wurde. Diese Personen k\u00f6nnten von einer oder mehreren Einrichtungen stammen und die Person umfassen, die das System bedient oder verwendet. Diese Anforderung sollte keine unn\u00f6tigen Belastungen oder Verz\u00f6gerungen mit sich bringen, und es k\u00f6nnte ausreichen, dass die getrennten \u00dcberpr\u00fcfungen durch die verschiedenen Personen automatisch in die vom System erzeugten Protokolle aufgenommen werden. Angesichts der Besonderheiten der Bereiche Strafverfolgung, Migration, Grenzkontrolle und Asyl sollte diese Anforderung nicht gelten, wenn die Geltung dieser Anforderung nach Unionsrecht oder nationalem Recht unverh\u00e4ltnism\u00e4\u00dfig ist.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(74)<\/p>\n<\/td>\n

\n

Hochrisiko-KI-Systeme sollten w\u00e4hrend ihres gesamten Lebenszyklus best\u00e4ndig funktionieren und ein angemessenes Ma\u00df an Genauigkeit, Robustheit und Cybersicherheit angesichts ihrer Zweckbestimmung und entsprechend dem allgemein anerkannten Stand der Technik aufweisen. Die Kommission sowie einschl\u00e4gige Interessentr\u00e4ger und Organisationen sind aufgefordert, der Minderung der Risiken und negativen Auswirkungen des KI-Systems geb\u00fchrend Rechnung zu tragen. Das erwartete Leistungskennzahlenniveau sollte in der beigef\u00fcgten Betriebsanleitung angegeben werden. Die Anbieter werden nachdr\u00fccklich aufgefordert, diese Informationen den Betreibern in klarer und leicht verst\u00e4ndlicher Weise ohne Missverst\u00e4ndnisse oder irref\u00fchrende Aussagen zu \u00fcbermitteln. Die Rechtsvorschriften der Union zum gesetzlichen Messwesen, einschlie\u00dflich der Richtlinien 2014\/31\/EU\u00a0(35<\/span>)<\/a> und 2014\/32\/EU des Europ\u00e4ischen Parlaments und des Rates\u00a0(36<\/span>)<\/a>, zielt darauf ab, die Genauigkeit von Messungen sicherzustellen und die Transparenz und Fairness im Gesch\u00e4ftsverkehr zu f\u00f6rdern. In diesem Zusammenhang sollte die Kommission in Zusammenarbeit mit einschl\u00e4gigen Interessentr\u00e4gern und Organisationen, wie Metrologie- und Benchmarking-Beh\u00f6rden, gegebenenfalls die Entwicklung von Benchmarks und Messmethoden f\u00fcr KI-Systeme f\u00f6rdern. Dabei sollte die Kommission internationale Partner, die an Metrologie und einschl\u00e4gigen Messindikatoren f\u00fcr KI arbeiten, beachten und mit ihnen zusammenarbeiten.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(75)<\/p>\n<\/td>\n

\n

Die technische Robustheit ist eine wesentliche Voraussetzung f\u00fcr Hochrisiko-KI-Systeme. Sie sollten widerstandsf\u00e4hig in Bezug auf sch\u00e4dliches oder anderweitig unerw\u00fcnschtes Verhalten sein, das sich aus Einschr\u00e4nkungen innerhalb der Systeme oder der Umgebung, in der die Systeme betrieben werden, ergeben kann (z.\u00a0B. Fehler, St\u00f6rungen, Unstimmigkeiten, unerwartete Situationen). Daher sollten technische und organisatorische Ma\u00dfnahmen ergriffen werden, um die Robustheit von Hochrisiko-KI-Systemen sicherzustellen, indem beispielsweise geeignete technische L\u00f6sungen konzipiert und entwickelt werden, um sch\u00e4dliches oder anderweitig unerw\u00fcnschtes Verhalten zu verhindern oder zu minimieren. Zu diesen technischen L\u00f6sungen k\u00f6nnen beispielsweise Mechanismen geh\u00f6ren, die es dem System erm\u00f6glichen, seinen Betrieb bei bestimmten Anomalien oder beim Betrieb au\u00dferhalb bestimmter vorab festgelegter Grenzen sicher zu unterbrechen (St\u00f6rungssicherheitspl\u00e4ne). Ein fehlender Schutz vor diesen Risiken k\u00f6nnte die Sicherheit beeintr\u00e4chtigen oder sich negativ auf die Grundrechte auswirken, wenn das KI-System beispielsweise falsche Entscheidungen trifft oder falsche oder verzerrte Ausgaben hervorbringt.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(76)<\/p>\n<\/td>\n

\n

Die Cybersicherheit spielt eine entscheidende Rolle, wenn es darum geht, sicherzustellen, dass KI-Systeme widerstandsf\u00e4hig gegen\u00fcber Versuchen b\u00f6swilliger Dritter sind, unter Ausnutzung der Schwachstellen der Systeme deren Verwendung, Verhalten, Leistung zu ver\u00e4ndern oder ihre Sicherheitsmerkmale zu beeintr\u00e4chtigen. Cyberangriffe auf KI-Systeme k\u00f6nnen KI-spezifische Ressourcen wie Trainingsdatens\u00e4tze (z.\u00a0B. Datenvergiftung) oder trainierte Modelle (z.\u00a0B. feindliche Angriffe oder Inferenzangriffe auf Mitgliederdaten) nutzen oder Schwachstellen in den digitalen Ressourcen des KI-Systems oder der zugrunde liegenden IKT-Infrastruktur ausnutzen. Um ein den Risiken angemessenes Cybersicherheitsniveau zu gew\u00e4hrleisten, sollten die Anbieter von Hochrisiko-KI-Systemen daher geeignete Ma\u00dfnahmen, etwa Sicherheitskontrollen, ergreifen, wobei gegebenenfalls auch die zugrunde liegende IKT-Infrastruktur zu ber\u00fccksichtigen ist.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(77)<\/p>\n<\/td>\n

\n

Unbeschadet der in dieser Verordnung festgelegten Anforderungen an Robustheit und Genauigkeit k\u00f6nnen Hochrisiko-AI-Systeme, die in den Geltungsbereich einer Verordnung des Europ\u00e4ischen Parlaments und des Rates \u00fcber horizontale Cybersicherheitsanforderungen f\u00fcr Produkte mit digitalen Elementen gem\u00e4\u00df der genannten Verordnung fallen, die Erf\u00fcllung der Cybersicherheitsanforderungen der vorliegenden Verordnung nachweisen, indem sie die in der genannten Verordnung festgelegten grundlegenden Cybersicherheitsanforderungen erf\u00fcllen. Wenn Hochrisiko-KI-Systeme die grundlegenden Anforderungen einer Verordnung des Europ\u00e4ischen Parlaments und des Rates \u00fcber horizontale Cybersicherheitsanforderungen f\u00fcr Produkte mit digitalen Elementen erf\u00fcllen, sollten sie als die in der vorliegenden Verordnung festgelegten Cybersicherheitsanforderungen erf\u00fcllend gelten, soweit die Erf\u00fcllung der genannten Anforderungen in der gem\u00e4\u00df der genannten Verordnung ausgestellten EU-Konformit\u00e4tserkl\u00e4rung oder in Teilen davon nachgewiesen wird. Zu diesem Zweck sollten bei der im Rahmen einer Verordnung des Europ\u00e4ischen Parlaments und des Rates \u00fcber horizontale Cybersicherheitsanforderungen f\u00fcr Produkte mit digitalen Elementen durchgef\u00fchrten Bewertung der Cybersicherheitsrisiken, die mit einem gem\u00e4\u00df der vorliegenden Verordnung als Hochrisiko-KI-System eingestuften Produkt mit digitalen Elementen verbunden sind, Risiken f\u00fcr die Cyberabwehrf\u00e4higkeit eines KI-Systems in Bezug auf Versuche unbefugter Dritter, seine Verwendung, sein Verhalten oder seine Leistung zu ver\u00e4ndern, einschlie\u00dflich KI-spezifischer Schwachstellen wie Datenvergiftung oder feindlicher Angriffe, sowie gegebenenfalls Risiken f\u00fcr die Grundrechte gem\u00e4\u00df der vorliegenden Verordnung ber\u00fccksichtigt werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(78)<\/p>\n<\/td>\n

\n

Das in dieser Verordnung vorgesehene Konformit\u00e4tsbewertungsverfahren sollte in Bezug auf die grundlegenden Cybersicherheitsanforderungen an ein Produkt mit digitalen Elementen, das unter eine Verordnung des Europ\u00e4ischen Parlaments und des Rates \u00fcber horizontale Cybersicherheitsanforderungen f\u00fcr Produkte mit digitalen Elementen f\u00e4llt und gem\u00e4\u00df der vorliegenden Verordnung als Hochrisiko-KI-System eingestuft ist, gelten. Diese Regel sollte jedoch nicht dazu f\u00fchren, dass die erforderliche Vertrauensw\u00fcrdigkeit f\u00fcr unter eine Verordnung des Europ\u00e4ischen Parlaments und des Rates \u00fcber horizontale Cybersicherheitsanforderungen f\u00fcr Produkte mit digitalen Elementen fallende kritische Produkte mit digitalen Elementen verringert wird. Daher unterliegen abweichend von dieser Regel Hochrisiko-KI-Systeme, die in den Anwendungsbereich der vorliegenden Verordnung fallen und gem\u00e4\u00df einer Verordnung des Europ\u00e4ischen Parlaments und des Rates \u00fcber horizontale Cybersicherheitsanforderungen f\u00fcr Produkte mit digitalen Elementen als wichtige und kritische Produkte mit digitalen Elementen eingestuft werden und f\u00fcr die das Konformit\u00e4tsbewertungsverfahren auf der Grundlage der internen Kontrolle gem\u00e4\u00df einem Anhang der vorliegenden Verordnung gilt, den Konformit\u00e4tsbewertungsbestimmungen einer Verordnung des Europ\u00e4ischen Parlaments und des Rates \u00fcber horizontale Cybersicherheitsanforderungen f\u00fcr Produkte mit digitalen Elementen, soweit die wesentlichen Cybersicherheitsanforderungen der genannten Verordnung betroffen sind. In diesem Fall sollten f\u00fcr alle anderen Aspekte, die unter die vorliegende Verordnung fallen, die entsprechenden Bestimmungen \u00fcber die Konformit\u00e4tsbewertung auf der Grundlage der internen Kontrolle gelten, die in einem Anhang der vorliegenden Verordnung festgelegt sind. Aufbauend auf den Kenntnissen und dem Fachwissen der ENISA in Bezug auf die Cybersicherheitspolitik und die der ENISA gem\u00e4\u00df der Verordnung (EU) 2019\/881 des Europ\u00e4ischen Parlaments und des Rates\u00a0(37<\/span>)<\/a> \u00fcbertragenen Aufgaben sollte die Kommission in Fragen im Zusammenhang mit der Cybersicherheit von KI-Systemen mit der ENISA zusammenarbeiten.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(79)<\/p>\n<\/td>\n

\n

Es ist angezeigt, dass eine bestimmte als Anbieter definierte nat\u00fcrliche oder juristische Person die Verantwortung f\u00fcr das Inverkehrbringen oder die Inbetriebnahme eines Hochrisiko-KI-Systems \u00fcbernimmt, unabh\u00e4ngig davon, ob es sich bei dieser nat\u00fcrlichen oder juristischen Person um die Person handelt, die das System konzipiert oder entwickelt hat.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(80)<\/p>\n<\/td>\n

\n

Als Unterzeichner des \u00dcbereinkommens \u00fcber die Rechte von Menschen mit Behinderungen der Vereinten Nationen sind die Union und alle Mitgliedstaaten rechtlich verpflichtet, Menschen mit Behinderungen vor Diskriminierung zu sch\u00fctzen und ihre Gleichstellung zu f\u00f6rdern, sicherzustellen, dass Menschen mit Behinderungen gleichberechtigt Zugang zu Informations- und Kommunikationstechnologien und -systemen haben, und die Achtung der Privatsph\u00e4re von Menschen mit Behinderungen sicherzustellen. Angesichts der zunehmenden Bedeutung und Nutzung von KI-Systemen sollte die strikte Anwendung der Grunds\u00e4tze des universellen Designs auf alle neuen Technologien und Dienste einen vollst\u00e4ndigen und gleichberechtigten Zugang f\u00fcr alle Menschen sicherstellen, die potenziell von KI-Technologien betroffen sind oder diese nutzen, einschlie\u00dflich Menschen mit Behinderungen, und zwar in einer Weise, die ihrer W\u00fcrde und Vielfalt in vollem Umfang Rechnung tr\u00e4gt. Es ist daher von wesentlicher Bedeutung, dass die Anbieter die uneingeschr\u00e4nkte Einhaltung der Barrierefreiheitsanforderungen sicherstellen, einschlie\u00dflich der in der Richtlinie (EU) 2016\/2102 des Europ\u00e4ischen Parlaments und des Rates\u00a0(38<\/span>)<\/a> und in der Richtlinie (EU) 2019\/882 festgelegten Anforderungen. Die Anbieter sollten die Einhaltung dieser Anforderungen durch Voreinstellungen sicherstellen. Die erforderlichen Ma\u00dfnahmen sollten daher so weit wie m\u00f6glich in die Konzeption von Hochrisiko-KI-Systemen integriert werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(81)<\/p>\n<\/td>\n

\n

Der Anbieter sollte ein solides Qualit\u00e4tsmanagementsystem einrichten, die Durchf\u00fchrung des vorgeschriebenen Konformit\u00e4tsbewertungsverfahrens sicherstellen, die einschl\u00e4gige Dokumentation erstellen und ein robustes System zur Beobachtung nach dem Inverkehrbringen einrichten. Anbieter von Hochrisiko-KI-Systemen, die Pflichten in Bezug auf Qualit\u00e4tsmanagementsysteme gem\u00e4\u00df den einschl\u00e4gigen sektorspezifischen Rechtsvorschriften der Union unterliegen, sollten die M\u00f6glichkeit haben, die Elemente des in dieser Verordnung vorgesehenen Qualit\u00e4tsmanagementsystems als Teil des bestehenden, in diesen anderen sektoralen Rechtsvorschriften der Union vorgesehen Qualit\u00e4tsmanagementsystems aufzunehmen. Auch bei k\u00fcnftigen Normungst\u00e4tigkeiten oder Leitlinien, die von der Kommission angenommen werden, sollte der Komplementarit\u00e4t zwischen dieser Verordnung und den bestehenden sektorspezifischen Rechtsvorschriften der Union Rechnung getragen werden. Beh\u00f6rden, die Hochrisiko-KI-Systeme f\u00fcr den Eigengebrauch in Betrieb nehmen, k\u00f6nnen unter Ber\u00fccksichtigung der Besonderheiten des Bereichs sowie der Zust\u00e4ndigkeiten und der Organisation der besagten Beh\u00f6rde die Vorschriften f\u00fcr das Qualit\u00e4tsmanagementsystem als Teil des auf nationaler oder regionaler Ebene eingesetzten Qualit\u00e4tsmanagementsystems annehmen und umsetzen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(82)<\/p>\n<\/td>\n

\n

Um die Durchsetzung dieser Verordnung zu erm\u00f6glichen und gleiche Wettbewerbsbedingungen f\u00fcr die Akteure zu schaffen, muss unter Ber\u00fccksichtigung der verschiedenen Formen der Bereitstellung digitaler Produkte sichergestellt sein, dass unter allen Umst\u00e4nden eine in der Union niedergelassene Person den Beh\u00f6rden alle erforderlichen Informationen \u00fcber die Konformit\u00e4t eines KI-Systems zur Verf\u00fcgung stellen kann. Daher sollten Anbieter, die in Drittl\u00e4ndern niedergelassen sind, vor der Bereitstellung ihrer KI-Systeme in der Union schriftlich einen in der Union niedergelassenen Bevollm\u00e4chtigten benennen. Dieser Bevollm\u00e4chtigte spielt eine zentrale Rolle bei der Gew\u00e4hrleistung der Konformit\u00e4t der von den betreffenden Anbietern, die nicht in der Union niedergelassen sind, in der Union in Verkehr gebrachten oder in Betrieb genommenen Hochrisiko-KI-Systeme und indem er als ihr in der Union niedergelassener Ansprechpartner dient.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(83)<\/p>\n<\/td>\n

\n

Angesichts des Wesens und der Komplexit\u00e4t der Wertsch\u00f6pfungskette f\u00fcr KI-Systeme und im Einklang mit dem neuen Rechtsrahmen ist es von wesentlicher Bedeutung, Rechtssicherheit zu gew\u00e4hrleisten und die Einhaltung dieser Verordnung zu erleichtern. Daher m\u00fcssen die Rolle und die spezifischen Pflichten der relevanten Akteure entlang dieser Wertsch\u00f6pfungskette, wie Einf\u00fchrer und H\u00e4ndler, die zur Entwicklung von KI-Systemen beitragen k\u00f6nnen, pr\u00e4zisiert werden. In bestimmten Situationen k\u00f6nnten diese Akteure mehr als eine Rolle gleichzeitig wahrnehmen und sollten daher alle einschl\u00e4gigen Pflichten, die mit diesen Rollen verbunden sind, kumulativ erf\u00fcllen. So k\u00f6nnte ein Akteur beispielsweise gleichzeitig als H\u00e4ndler und als Einf\u00fchrer auftreten.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(84)<\/p>\n<\/td>\n

\n

Um Rechtssicherheit zu gew\u00e4hrleisten, muss pr\u00e4zisiert werden, dass unter bestimmten spezifischen Bedingungen jeder H\u00e4ndler, Einf\u00fchrer, Betreiber oder andere Dritte als Anbieter eines Hochrisiko-KI-Systems betrachtet werden und daher alle einschl\u00e4gigen Pflichten erf\u00fcllen sollte. Dies w\u00e4re auch der Fall, wenn diese Partei ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System mit ihrem Namen oder ihrer Handelsmarke versieht, unbeschadet vertraglicher Vereinbarungen, die eine andere Aufteilung der Pflichten vorsehen, oder wenn sie eine wesentliche Ver\u00e4nderung des Hochrisiko-KI-Systems, das bereits in Verkehr gebracht oder bereits in Betrieb genommen wurde, so vornimmt, dass es ein Hochrisiko-KI-System im Sinne dieser Verordnung bleibt, oder wenn sie die Zweckbestimmung eines KI-Systems, einschlie\u00dflich eines KI-Systems mit allgemeinem Verwendungszweck, das nicht als Hochrisiko-KI-System eingestuft wurde und bereits in Verkehr gebracht oder in Betrieb genommen wurde, so ver\u00e4ndert, dass das KI-System zu einem Hochrisiko-KI-System im Sinne dieser Verordnung wird. Diese Bestimmungen sollten unbeschadet spezifischerer Bestimmungen in bestimmten Harmonisierungsrechtsvorschriften der Union auf Grundlage des neuen Rechtsrahmens gelten, mit denen diese Verordnung zusammen gelten sollte. So sollte beispielsweise Artikel\u00a016 Absatz\u00a02 der Verordnung (EU) 2017\/745, wonach bestimmte \u00c4nderungen nicht als eine \u00c4nderung des Produkts, die Auswirkungen auf seine Konformit\u00e4t mit den geltenden Anforderungen haben k\u00f6nnte, gelten sollten, weiterhin auf Hochrisiko-KI-Systeme angewandt werden, bei denen es sich um Medizinprodukte im Sinne der genannten Verordnung handelt.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(85)<\/p>\n<\/td>\n

\n

KI-Systeme mit allgemeinem Verwendungszweck k\u00f6nnen als eigenst\u00e4ndige Hochrisiko-KI-Systeme eingesetzt werden oder Komponenten anderer Hochrisiko-KI-Systemen sein. Daher sollten, aufgrund der besonderen Merkmale dieser KI-Systeme und um f\u00fcr eine gerechte Verteilung der Verantwortlichkeiten entlang der KI-Wertsch\u00f6pfungskette zu sorgen, Anbieter solcher Systeme, unabh\u00e4ngig davon, ob sie von anderen Anbietern als eigenst\u00e4ndige Hochrisiko-KI-Systeme oder als Komponenten von Hochrisiko-KI-Systemen verwendet werden k\u00f6nnen, und sofern in dieser Verordnung nichts anderes bestimmt ist, eng mit den Anbietern der relevanten Hochrisiko-KI-Systeme, um ihnen die Einhaltung der entsprechenden Pflichten aus dieser Verordnung zu erm\u00f6glichen, und mit den gem\u00e4\u00df dieser Verordnung eingerichteten zust\u00e4ndigen Beh\u00f6rden zusammenarbeiten.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(86)<\/p>\n<\/td>\n

\n

Sollte der Anbieter, der das KI-System urspr\u00fcnglich in Verkehr gebracht oder in Betrieb genommen hat, unter den in dieser Verordnung festgelegten Bedingungen nicht mehr als Anbieter im Sinne dieser Verordnung gelten und hat jener Anbieter die \u00c4nderung des KI-Systems in ein Hochrisiko-KI-System nicht ausdr\u00fccklich ausgeschlossen, so sollte der erstgenannte Anbieter dennoch eng zusammenarbeiten, die erforderlichen Informationen zur Verf\u00fcgung stellen und den vern\u00fcnftigerweise erwarteten technischen Zugang und sonstige Unterst\u00fctzung leisten, die f\u00fcr die Erf\u00fcllung der in dieser Verordnung festgelegten Pflichten, insbesondere in Bezug auf die Konformit\u00e4tsbewertung von Hochrisiko-KI-Systemen, erforderlich sind.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(87)<\/p>\n<\/td>\n

\n

Zus\u00e4tzlich sollte, wenn ein Hochrisiko-KI-System, bei dem es sich um ein Sicherheitsbauteil eines Produkts handelt, das in den Geltungsbereich von Harmonisierungsrechtsvorschriften der Union auf Grundlage des neuen Rechtsrahmens f\u00e4llt, nicht unabh\u00e4ngig von dem Produkt in Verkehr gebracht oder in Betrieb genommen wird, der Produkthersteller im Sinne der genannten Rechtsvorschriften die in der vorliegenden Verordnung festgelegten Anbieterpflichten erf\u00fcllen und sollte insbesondere sicherstellen, dass das in das Endprodukt eingebettete KI-System den Anforderungen dieser Verordnung entspricht.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(88)<\/p>\n<\/td>\n

\n

Entlang der KI-Wertsch\u00f6pfungskette liefern h\u00e4ufig mehrere Parteien KI-Systeme, Instrumente und Dienstleistungen, aber auch Komponenten oder Prozesse, die vom Anbieter zu diversen Zwecken in das KI-System integriert werden; dazu geh\u00f6ren das Trainieren, Neutrainieren, Testen und Bewerten von Modellen, die Integration in Software oder andere Aspekte der Modellentwicklung. Diese Parteien haben eine wichtige Rolle in der Wertsch\u00f6pfungskette gegen\u00fcber dem Anbieter des Hochrisiko-KI-Systems, in das ihre KI-Systeme, Instrumente, Dienste, Komponenten oder Verfahren integriert werden, und sollten in einer schriftlichen Vereinbarung die Informationen, die F\u00e4higkeiten, den technischen Zugang und die sonstige Unterst\u00fctzung nach dem allgemein anerkannten Stand der Technik bereitstellen, die erforderlich sind, damit der Anbieter die in dieser Verordnung festgelegten Pflichten vollst\u00e4ndig erf\u00fcllen kann, ohne seine eigenen Rechte des geistigen Eigentums oder Gesch\u00e4ftsgeheimnisse zu gef\u00e4hrden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(89)<\/p>\n<\/td>\n

\n

Dritte, die Instrumente, Dienste, Verfahren oder Komponenten, bei denen es sich nicht um KI-Modelle mit allgemeinem Verwendungszweck handelt, \u00f6ffentlich zug\u00e4nglich machen, sollten nicht dazu verpflichtet werden, Anforderungen zu erf\u00fcllen, die auf die Verantwortlichkeiten entlang der KI-Wertsch\u00f6pfungskette ausgerichtet sind, insbesondere gegen\u00fcber dem Anbieter, der sie genutzt oder integriert hat, wenn diese Instrumente, Dienste, Verfahren oder KI-Komponenten im Rahmen einer freien und quelloffenen Lizenz zug\u00e4nglich gemacht werden. Die Entwickler von freien und quelloffenen Instrumenten, Diensten, Verfahren oder KI-Komponenten, bei denen es sich nicht um KI-Modelle mit allgemeinem Verwendungszweck handelt, sollten dazu ermutigt werden, weit verbreitete Dokumentationsverfahren, wie z.\u00a0B. Modellkarten und Datenbl\u00e4tter, als Mittel dazu einzusetzen, den Informationsaustausch entlang der KI-Wertsch\u00f6pfungskette zu beschleunigen, sodass vertrauensw\u00fcrdige KI-Systeme in der Union gef\u00f6rdert werden k\u00f6nnen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(90)<\/p>\n<\/td>\n

\n

Die Kommission k\u00f6nnte freiwillige Mustervertragsbedingungen f\u00fcr Vertr\u00e4ge zwischen Anbietern von Hochrisiko-KI-Systemen und Dritten ausarbeiten und empfehlen, in deren Rahmen Instrumente, Dienste, Komponenten oder Verfahren bereitgestellt werden, die f\u00fcr Hochrisiko-KI-Systeme verwendet oder in diese integriert werden, um die Zusammenarbeit entlang der Wertsch\u00f6pfungskette zu erleichtern. Bei der Ausarbeitung dieser freiwilligen Mustervertragsbedingungen sollte die Kommission auch m\u00f6gliche vertragliche Anforderungen ber\u00fccksichtigen, die in bestimmten Sektoren oder Gesch\u00e4ftsf\u00e4llen gelten.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(91)<\/p>\n<\/td>\n

\n

Angesichts des Charakters von KI-Systemen und der Risiken f\u00fcr die Sicherheit und die Grundrechte, die mit ihrer Verwendung verbunden sein k\u00f6nnen, ist es angezeigt, besondere Zust\u00e4ndigkeiten f\u00fcr die Betreiber festzulegen, auch im Hinblick darauf, dass eine angemessene Beobachtung der Leistung eines KI-Systems unter Realbedingungen sichergestellt werden muss. Die Betreiber sollten insbesondere geeignete technische und organisatorische Ma\u00dfnahmen treffen, um sicherzustellen, dass sie Hochrisiko-KI-Systeme gem\u00e4\u00df den Betriebsanleitungen verwenden, und es sollten bestimmte andere Pflichten in Bezug auf die \u00dcberwachung der Funktionsweise der KI-Systeme und gegebenenfalls auch Aufzeichnungspflichten festgelegt werden. Dar\u00fcber hinaus sollten die Betreiber sicherstellen, dass die Personen, denen die Umsetzung der Betriebsanleitungen und die menschliche Aufsicht gem\u00e4\u00df dieser Verordnung \u00fcbertragen wurde, \u00fcber die erforderliche Kompetenz verf\u00fcgen, insbesondere \u00fcber ein angemessenes Niveau an KI-Kompetenz, Schulung und Befugnis, um diese Aufgaben ordnungsgem\u00e4\u00df zu erf\u00fcllen. Diese Pflichten sollten sonstige Pflichten des Betreibers in Bezug auf Hochrisiko-KI-Systeme nach Unionsrecht oder nationalem Recht unber\u00fchrt lassen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(92)<\/p>\n<\/td>\n

\n

Diese Verordnung l\u00e4sst Pflichten der Arbeitgeber unber\u00fchrt, Arbeitnehmer oder ihre Vertreter nach dem Unionsrecht oder nationalem Recht und nationaler Praxis, einschlie\u00dflich der Richtlinie 2002\/14\/EG des Europ\u00e4ischen Parlaments und des Rates\u00a0(39<\/span>)<\/a> \u00fcber Entscheidungen zur Inbetriebnahme oder Nutzung von KI-Systemen zu unterrichten oder zu unterrichten und anzuh\u00f6ren. Es muss nach wie vor sichergestellt werden, dass Arbeitnehmer und ihre Vertreter \u00fcber die geplante Einf\u00fchrung von Hochrisiko-KI-Systemen am Arbeitsplatz unterrichtet werden, wenn die Bedingungen f\u00fcr diese Pflichten zur Unterrichtung oder zur Unterrichtung und Anh\u00f6rung gem\u00e4\u00df anderen Rechtsinstrumenten nicht erf\u00fcllt sind. Dar\u00fcber hinaus ist dieses Recht, unterrichtet zu werden, ein Nebenrecht und f\u00fcr das Ziel des Schutzes der Grundrechte, das dieser Verordnung zugrunde liegt, erforderlich. Daher sollte in dieser Verordnung eine entsprechende Unterrichtungsanforderung festgelegt werden, ohne bestehende Arbeitnehmerrechte zu beeintr\u00e4chtigen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(93)<\/p>\n<\/td>\n

\n

W\u00e4hrend Risiken im Zusammenhang mit KI-Systemen einerseits aus der Art und Weise entstehen k\u00f6nnen, in der solche Systeme konzipiert sind, k\u00f6nnen sie sich andererseits auch aus der Art und Weise ergeben, in der diese Systeme verwendet werden. Betreiber von Hochrisiko-KI-Systemen spielen daher eine entscheidende Rolle bei der Gew\u00e4hrleistung des Schutzes der Grundrechte in Erg\u00e4nzung der Pflichten der Anbieter bei der Entwicklung der KI-Systeme. Betreiber k\u00f6nnen am besten verstehen, wie das Hochrisiko-KI-System konkret eingesetzt wird, und k\u00f6nnen somit dank einer genaueren Kenntnis des Verwendungskontextes sowie der wahrscheinlich betroffenen Personen oder Personengruppen, einschlie\u00dflich schutzbed\u00fcrftiger Gruppen, erhebliche potenzielle Risiken erkennen, die in der Entwicklungsphase nicht vorausgesehen wurden. Betreiber der in einem Anhang dieser Verordnung aufgef\u00fchrten Hochrisiko-KI-Systeme spielen ebenfalls eine entscheidende Rolle bei der Unterrichtung nat\u00fcrlicher Personen und sollten, wenn sie nat\u00fcrliche Personen betreffende Entscheidungen treffen oder bei solchen Entscheidungen Unterst\u00fctzung leisten, gegebenenfalls die nat\u00fcrlichen Personen dar\u00fcber unterrichten, dass sie Gegenstand des Einsatzes des Hochrisiko-KI-Systems sind. Diese Unterrichtung sollte die Zweckbestimmung und die Art der getroffenen Entscheidungen umfassen. Der Betreiber sollte die nat\u00fcrlichen Personen auch \u00fcber ihr Recht auf eine Erkl\u00e4rung gem\u00e4\u00df dieser Verordnung unterrichten. Bei Hochrisiko-KI-Systemen, die zu Strafverfolgungszwecken eingesetzt werden, sollte diese Pflicht im Einklang mit Artikel\u00a013 der Richtlinie (EU) 2016\/680 umgesetzt werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(94)<\/p>\n<\/td>\n

\n

Jede Verarbeitung biometrischer Daten im Zusammenhang mit der Verwendung von KI-Systemen f\u00fcr die biometrische Identifizierung zu Strafverfolgungszwecken muss im Einklang mit Artikel\u00a010 der Richtlinie (EU) 2016\/680, demzufolge eine solche Verarbeitung nur dann erlaubt ist, wenn sie unbedingt erforderlich ist, vorbehaltlich angemessener Vorkehrungen f\u00fcr den Schutz der Rechte und Freiheiten der betroffenen Person, und sofern sie nach dem Unionsrecht oder dem Recht der Mitgliedstaaten zul\u00e4ssig ist, erfolgen. Bei einer solchen Nutzung, sofern sie zul\u00e4ssig ist, m\u00fcssen auch die in Artikel\u00a04 Absatz\u00a01 der Richtlinie (EU) 2016\/680 festgelegten Grunds\u00e4tze geachtet werden, einschlie\u00dflich Rechtm\u00e4\u00dfigkeit, Fairness und Transparenz, Zweckbindung, sachliche Richtigkeit und Speicherbegrenzung.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(95)<\/p>\n<\/td>\n

\n

Unbeschadet des geltenden Unionsrechts, insbesondere der Verordnung (EU) 2016\/679 und der Richtlinie (EU) 2016\/680, sollte die Verwendung von Systemen zur nachtr\u00e4glichen biometrischen Fernidentifizierung in Anbetracht des intrusiven Charakters von Systemen zur nachtr\u00e4glichen biometrischen Fernidentifizierung Schutzvorkehrungen unterliegen. Systeme zur nachtr\u00e4glichen biometrischen Fernidentifizierung sollten stets auf verh\u00e4ltnism\u00e4\u00dfige, legitime und unbedingt erforderliche Weise eingesetzt werden und somit zielgerichtet sein, was die zu identifizierenden Personen, den Ort und den zeitlichen Anwendungsbereich betrifft, und auf einem geschlossenen Datensatz rechtm\u00e4\u00dfig erworbener Videoaufnahmen basieren. In jedem Fall sollten Systeme zur nachtr\u00e4glichen biometrischen Fernidentifizierung im Rahmen der Strafverfolgung nicht so verwendet werden, dass sie zu willk\u00fcrlicher \u00dcberwachung f\u00fchren. Die Bedingungen f\u00fcr die nachtr\u00e4gliche biometrische Fernidentifizierung sollten keinesfalls eine Grundlage daf\u00fcr bieten, die Bedingungen des Verbots und der strengen Ausnahmen f\u00fcr biometrische Echtzeit-Fernidentifizierung zu umgehen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(96)<\/p>\n<\/td>\n

\n

Um wirksam sicherzustellen, dass die Grundrechte gesch\u00fctzt werden, sollten Betreiber von Hochrisiko-KI-Systemen, bei denen es sich um Einrichtungen des \u00f6ffentlichen Rechts oder private Einrichtungen, die \u00f6ffentliche Dienste erbringen, handelt, und Betreiber, die bestimmte Hochrisiko-KI-Systemen gem\u00e4\u00df einem Anhang dieser Verordnung betreiben, wie Bank- oder Versicherungsunternehmen, vor der Inbetriebnahme eine Grundrechte-Folgenabsch\u00e4tzung durchf\u00fchren. F\u00fcr Einzelpersonen wichtige Dienstleistungen \u00f6ffentlicher Art k\u00f6nnen auch von privaten Einrichtungen erbracht werden. Private Einrichtungen, die solche \u00f6ffentliche Dienstleistungen erbringen, sind mit Aufgaben im \u00f6ffentlichen Interesse verkn\u00fcpft, etwa in den Bereichen Bildung, Gesundheitsversorgung, Sozialdienste, Wohnungswesen und Justizverwaltung. Ziel der Grundrechte-Folgenabsch\u00e4tzung ist es, dass der Betreiber die spezifischen Risiken f\u00fcr die Rechte von Einzelpersonen oder Gruppen von Einzelpersonen, die wahrscheinlich betroffen sein werden, ermittelt und Ma\u00dfnahmen ermittelt, die im Falle eines Eintretens dieser Risiken zu ergreifen sind. Die Folgenabsch\u00e4tzung sollte vor dem erstmaligen Einsatz des Hochrisiko-KI-Systems durchgef\u00fchrt werden, und sie sollte aktualisiert werden, wenn der Betreiber der Auffassung ist, dass sich einer der relevanten Faktoren ge\u00e4ndert hat. In der Folgenabsch\u00e4tzung sollten die einschl\u00e4gigen Verfahren des Betreibers, bei denen das Hochrisiko-KI-System im Einklang mit seiner Zweckbestimmung verwendet wird, genannt werden, und sie sollte eine Beschreibung des Zeitraums und der H\u00e4ufigkeit, innerhalb dessen bzw. mit der das Hochrisiko-KI-System verwendet werden soll, sowie der Kategorien der nat\u00fcrlichen Personen und Gruppen, die im spezifischen Verwendungskontext betroffen sein k\u00f6nnten, enthalten. Die Absch\u00e4tzung sollte au\u00dferdem die spezifischen Schadensrisiken enthalten, die sich auf die Grundrechte dieser Personen oder Gruppen auswirken k\u00f6nnen. Bei der Durchf\u00fchrung dieser Bewertung sollte der Betreiber Informationen Rechnung tragen, die f\u00fcr eine ordnungsgem\u00e4\u00dfe Absch\u00e4tzung der Folgen relevant sind, unter anderem die vom Anbieter des Hochrisiko-KI-Systems in der Betriebsanleitung angegebenen Informationen. Angesichts der ermittelten Risiken sollten die Betreiber Ma\u00dfnahmen festlegen, die im Falle eines Eintretens dieser Risiken zu ergreifen sind, einschlie\u00dflich beispielsweise Unternehmensf\u00fchrungsregelungen in diesem spezifischen Verwendungskontext, etwa Regelungen f\u00fcr die menschliche Aufsicht gem\u00e4\u00df den Betriebsanleitungen oder Verfahren f\u00fcr die Bearbeitung von Beschwerden und Rechtsbehelfsverfahren, da sie dazu beitragen k\u00f6nnten, Risiken f\u00fcr die Grundrechte in konkreten Anwendungsf\u00e4llen zu mindern. Nach Durchf\u00fchrung dieser Folgenabsch\u00e4tzung sollte der Betreiber die zust\u00e4ndige Markt\u00fcberwachungsbeh\u00f6rde unterrichten. Um einschl\u00e4gige Informationen einzuholen, die f\u00fcr die Durchf\u00fchrung der Folgenabsch\u00e4tzung erforderlich sind, k\u00f6nnten die Betreiber von Hochrisiko-KI-Systemen, insbesondere wenn KI-Systeme im \u00f6ffentlichen Sektor verwendet werden, relevante Interessentr\u00e4ger, unter anderem Vertreter von Personengruppen, die von dem KI-System betroffen sein k\u00f6nnten, unabh\u00e4ngige Sachverst\u00e4ndige und Organisationen der Zivilgesellschaft, in die Durchf\u00fchrung solcher Folgenabsch\u00e4tzungen und die Gestaltung von Ma\u00dfnahmen, die im Falle des Eintretens der Risiken zu ergreifen sind, einbeziehen. Das Europ\u00e4ische B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz (im Folgenden \u201eB\u00fcro f\u00fcr K\u00fcnstliche Intelligenz\u201c) sollte ein Muster f\u00fcr einen Fragebogen ausarbeiten, um den Betreibern die Einhaltung der Vorschriften zu erleichtern und den Verwaltungsaufwand f\u00fcr sie zu verringern.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(97)<\/p>\n<\/td>\n

\n

Der Begriff \u201eKI-Modelle mit allgemeinem Verwendungszweck\u201c sollte klar bestimmt und vom Begriff der KI-Systeme abgegrenzt werden, um Rechtssicherheit zu schaffen. Die Begriffsbestimmung sollte auf den wesentlichen funktionalen Merkmalen eines KI-Modells mit allgemeinem Verwendungszweck beruhen, insbesondere auf der allgemeinen Verwendbarkeit und der F\u00e4higkeit, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erf\u00fcllen. Diese Modelle werden in der Regel mit gro\u00dfen Datenmengen durch verschiedene Methoden, etwa \u00fcberwachtes, un\u00fcberwachtes und best\u00e4rkendes Lernen, trainiert. KI-Modelle mit allgemeinem Verwendungszweck k\u00f6nnen auf verschiedene Weise in Verkehr gebracht werden, unter anderem \u00fcber Bibliotheken, Anwendungsprogrammierschnittstellen (API), durch direktes Herunterladen oder als physische Kopie. Diese Modelle k\u00f6nnen weiter ge\u00e4ndert oder zu neuen Modellen verfeinert werden. Obwohl KI-Modelle wesentliche Komponenten von KI-Systemen sind, stellen sie f\u00fcr sich genommen keine KI-Systeme dar. Damit KI-Modelle zu KI-Systemen werden, ist die Hinzuf\u00fcgung weiterer Komponenten, zum Beispiel einer Nutzerschnittstelle, erforderlich. KI-Modelle sind in der Regel in KI-Systeme integriert und Teil davon. Diese Verordnung enth\u00e4lt spezifische Vorschriften f\u00fcr KI-Modelle mit allgemeinem Verwendungszweck und f\u00fcr KI-Modelle mit allgemeinem Verwendungszweck, die systemische Risiken bergen; diese sollten auch gelten, wenn diese Modelle in ein KI-System integriert oder Teil davon sind. Es sollte klar sein, dass die Pflichten f\u00fcr die Anbieter von KI-Modellen mit allgemeinem Verwendungszweck gelten sollten, sobald die KI-Modelle mit allgemeinem Verwendungszweck in Verkehr gebracht werden. Wenn der Anbieter eines KI-Modells mit allgemeinem Verwendungszweck ein eigenes Modell in sein eigenes KI-System integriert, das auf dem Markt bereitgestellt oder in Betrieb genommen wird, sollte jenes Modell als in Verkehr gebracht gelten und sollten daher die Pflichten aus dieser Verordnung f\u00fcr Modelle weiterhin zus\u00e4tzlich zu den Pflichten f\u00fcr KI-Systeme gelten. Die f\u00fcr Modelle festgelegten Pflichten sollten in jedem Fall nicht gelten, wenn ein eigenes Modell f\u00fcr rein interne Verfahren verwendet wird, die f\u00fcr die Bereitstellung eines Produkts oder einer Dienstleistung an Dritte nicht wesentlich sind, und die Rechte nat\u00fcrlicher Personen nicht beeintr\u00e4chtigt werden. Angesichts ihrer potenziellen in erheblichem Ausma\u00dfe negativen Auswirkungen sollten KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko stets den einschl\u00e4gigen Pflichten gem\u00e4\u00df dieser Verordnung unterliegen. Die Begriffsbestimmung sollte nicht f\u00fcr KI-Modelle gelten, die vor ihrem Inverkehrbringen ausschlie\u00dflich f\u00fcr Forschungs- und Entwicklungst\u00e4tigkeiten oder die Konzipierung von Prototypen verwendet werden. Dies gilt unbeschadet der Pflicht, dieser Verordnung nachzukommen, wenn ein Modell nach solchen T\u00e4tigkeiten in Verkehr gebracht wird.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(98)<\/p>\n<\/td>\n

\n

Die allgemeine Verwendbarkeit eines Modells k\u00f6nnte zwar unter anderem auch durch eine bestimmte Anzahl von Parametern bestimmt werden, doch sollten Modelle mit mindestens einer Milliarde Parametern, die mit einer gro\u00dfen Datenmenge unter umfassender Selbst\u00fcberwachung trainiert werden, als Modelle gelten, die eine erhebliche allgemeine Verwendbarkeit aufweisen und ein breites Spektrum unterschiedlicher Aufgaben kompetent erf\u00fcllen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(99)<\/p>\n<\/td>\n

\n

Gro\u00dfe generative KI-Modelle sind ein typisches Beispiel f\u00fcr ein KI-Modell mit allgemeinem Verwendungszweck, da sie eine flexible Erzeugung von Inhalten erm\u00f6glichen, etwa in Form von Text- Audio-, Bild- oder Videoinhalten, die leicht ein breites Spektrum unterschiedlicher Aufgaben umfassen k\u00f6nnen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(100)<\/p>\n<\/td>\n

\n

Wenn ein KI-Modell mit allgemeinem Verwendungszweck in ein KI-System integriert oder Teil davon ist, sollte dieses System als KI-System mit allgemeinem Verwendungszweck gelten, wenn dieses System aufgrund dieser Integration in der Lage ist, einer Vielzahl von Zwecken zu dienen. Ein KI-System mit allgemeinem Verwendungszweck kann direkt eingesetzt oder in andere KI-Systeme integriert werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(101)<\/p>\n<\/td>\n

\n

Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nehmen entlang der KI-Wertsch\u00f6pfungskette eine besondere Rolle und Verantwortung wahr, da die von ihnen bereitgestellten Modelle die Grundlage f\u00fcr eine Reihe nachgelagerter Systeme bilden k\u00f6nnen, die h\u00e4ufig von nachgelagerten Anbietern bereitgestellt werden und ein gutes Verst\u00e4ndnis der Modelle und ihrer F\u00e4higkeiten erfordern, sowohl um die Integration solcher Modelle in ihre Produkte zu erm\u00f6glichen als auch ihre Pflichten im Rahmen dieser oder anderer Verordnungen zu erf\u00fcllen. Daher sollten verh\u00e4ltnism\u00e4\u00dfige Transparenzma\u00dfnahmen festgelegt werden, einschlie\u00dflich der Erstellung und Aktualisierung von Dokumentation und der Bereitstellung von Informationen \u00fcber das KI-Modell mit allgemeinem Verwendungszweck f\u00fcr dessen Nutzung durch die nachgelagerten Anbieter. Der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sollte technische Dokumentation erarbeiten und aktualisieren, damit sie dem B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz und den zust\u00e4ndigen nationalen Beh\u00f6rden auf Anfrage zur Verf\u00fcgung gestellt werden kann. Welche Elemente mindestens in eine solche Dokumentation aufzunehmen sind, sollte in bestimmten Anh\u00e4ngen dieser Verordnung festgelegt werden. Der Kommission sollte die Befugnis \u00fcbertragen werden, diese Anh\u00e4nge im Wege delegierter Rechtsakte vor dem Hintergrund sich wandelnder technologischer Entwicklungen zu \u00e4ndern.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(102)<\/p>\n<\/td>\n

\n

Software und Daten, einschlie\u00dflich Modellen, die im Rahmen einer freien und quelloffenen Lizenz freigegeben werden, die ihre offene Weitergabe erlaubt und die Nutzer kostenlos abrufen, nutzen, ver\u00e4ndern und weiter verteilen k\u00f6nnen, auch in ver\u00e4nderter Form, k\u00f6nnen zu Forschung und Innovation auf dem Markt beitragen und der Wirtschaft der Union erhebliche Wachstumschancen er\u00f6ffnen. KI-Modelle mit allgemeinem Verwendungszweck, die im Rahmen freier und quelloffener Lizenzen freigegeben werden, sollten als ein hohes Ma\u00df an Transparenz und Offenheit sicherstellend gelten, wenn ihre Parameter, einschlie\u00dflich Gewichte, Informationen \u00fcber die Modellarchitektur und Informationen \u00fcber die Modellnutzung, \u00f6ffentlich zug\u00e4nglich gemacht werden. Die Lizenz sollte auch als freie quelloffene Lizenz gelten, wenn sie es den Nutzern erm\u00f6glicht, Software und Daten zu betreiben, zu kopieren, zu verbreiten, zu untersuchen, zu \u00e4ndern und zu verbessern, einschlie\u00dflich Modelle, sofern der urspr\u00fcngliche Anbieter des Modells genannt und identische oder vergleichbare Vertriebsbedingungen eingehalten werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(103)<\/p>\n<\/td>\n

\n

Zu freien und quelloffenen KI-Komponenten z\u00e4hlen Software und Daten, einschlie\u00dflich Modelle und KI-Modelle mit allgemeinem Verwendungszweck, Instrumente, Dienste oder Verfahren eines KI-Systems. Freie und quelloffene KI-Komponenten k\u00f6nnen \u00fcber verschiedene Kan\u00e4le bereitgestellt werden, einschlie\u00dflich ihrer Entwicklung auf offenen Speichern. F\u00fcr die Zwecke dieser Verordnung sollten KI-Komponenten, die gegen einen Preis bereitgestellt oder anderweitig monetarisiert werden, einschlie\u00dflich durch die Bereitstellung technischer Unterst\u00fctzung oder anderer Dienste\u00a0\u2014 einschlie\u00dflich \u00fcber eine Softwareplattform\u00a0\u2014 im Zusammenhang mit der KI-Komponente oder durch die Verwendung personenbezogener Daten aus anderen Gr\u00fcnden als der alleinigen Verbesserung der Sicherheit, Kompatibilit\u00e4t oder Interoperabilit\u00e4t der Software, mit Ausnahme von Transaktionen zwischen Kleinstunternehmen, nicht unter die Ausnahmen f\u00fcr freie und quelloffene KI-Komponenten fallen. Die Bereitstellung von KI-Komponenten \u00fcber offene Speicher sollte f\u00fcr sich genommen keine Monetarisierung darstellen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(104)<\/p>\n<\/td>\n

\n

F\u00fcr die Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, die im Rahmen einer freien und quelloffenen Lizenz freigegeben werden und deren Parameter, einschlie\u00dflich Gewichte, Informationen \u00fcber die Modellarchitektur und Informationen \u00fcber die Modellnutzung, \u00f6ffentlich zug\u00e4nglich gemacht werden, sollten Ausnahmen in Bezug auf die Transparenzanforderungen f\u00fcr KI-Modelle mit allgemeinem Verwendungszweck gelten, es sei denn, sie k\u00f6nnen als Modelle gelten, die ein systemisches Risiko bergen; in diesem Fall sollte der Umstand, dass das Modell transparent ist und mit einer quelloffenen Lizenz einhergeht, nicht als ausreichender Grund gelten, um sie von der Einhaltung der Pflichten aus dieser Verordnung auszunehmen. Da die Freigabe von KI-Modellen mit allgemeinem Verwendungszweck im Rahmen einer freien und quelloffenen Lizenz nicht unbedingt wesentliche Informationen \u00fcber den f\u00fcr das Trainieren oder die Feinabstimmung des Modells verwendeten Datensatz und die Art und Weise, wie damit die Einhaltung des Urheberrechts sichergestellt wurde, offenbart, sollte die f\u00fcr KI-Modelle mit allgemeinem Verwendungszweck vorgesehene Ausnahme von der Einhaltung der Transparenzanforderungen in jedem Fall nicht die Pflicht zur Erstellung einer Zusammenfassung der f\u00fcr das Training des Modells verwendeten Inhalte und die Pflicht, eine Strategie zur Einhaltung des Urheberrechts der Union, insbesondere zur Ermittlung und Einhaltung der gem\u00e4\u00df Artikel\u00a04 Absatz\u00a03 der Richtlinie (EU) 2019\/790 des Europ\u00e4ischen Parlaments und des Rates\u00a0(40<\/span>)<\/a> geltend gemachten Rechtsvorbehalte, auf den Weg zu bringen, betreffen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(105)<\/p>\n<\/td>\n

\n

KI-Modelle mit allgemeinem Verwendungszweck, insbesondere gro\u00dfe generative KI-Modelle, die Text, Bilder und andere Inhalte erzeugen k\u00f6nnen, bedeuten einzigartige Innovationsm\u00f6glichkeiten, aber auch Herausforderungen f\u00fcr K\u00fcnstler, Autoren und andere Kreative sowie die Art und Weise, wie ihre kreativen Inhalte geschaffen, verbreitet, genutzt und konsumiert werden. F\u00fcr die Entwicklung und das Training solcher Modelle ist der Zugang zu riesigen Mengen an Text, Bildern, Videos und anderen Daten erforderlich. In diesem Zusammenhang k\u00f6nnen Text-und-Data-Mining-Techniken in gro\u00dfem Umfang f\u00fcr das Abrufen und die Analyse solcher Inhalte, die urheberrechtlich und durch verwandte Schutzrechte gesch\u00fctzt sein k\u00f6nnen, eingesetzt werden. F\u00fcr jede Nutzung urheberrechtlich gesch\u00fctzter Inhalte ist die Zustimmung des betreffenden Rechteinhabers erforderlich, es sei denn, es gelten einschl\u00e4gige Ausnahmen und Beschr\u00e4nkungen des Urheberrechts. Mit der Richtlinie (EU) 2019\/790 wurden Ausnahmen und Beschr\u00e4nkungen eingef\u00fchrt, um unter bestimmten Bedingungen Vervielf\u00e4ltigungen und Entnahmen von Werken oder sonstigen Schutzgegenst\u00e4nden f\u00fcr die Zwecke des Text und Data Mining zu erlauben. Nach diesen Vorschriften k\u00f6nnen Rechteinhaber beschlie\u00dfen, ihre Rechte an ihren Werken oder sonstigen Schutzgegenst\u00e4nden vorzubehalten, um Text und Data Mining zu verhindern, es sei denn, es erfolgt zum Zwecke der wissenschaftlichen Forschung. Wenn die Vorbehaltsrechte ausdr\u00fccklich und in geeigneter Weise vorbehalten wurden, m\u00fcssen Anbieter von KI-Modellen mit allgemeinem Verwendungszweck eine Genehmigung von den Rechteinhabern einholen, wenn sie Text und Data Mining bei solchen Werken durchf\u00fchren wollen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(106)<\/p>\n<\/td>\n

\n

Anbieter, die KI-Modelle mit allgemeinem Verwendungszweck in der Union in Verkehr bringen, sollten die Erf\u00fcllung der einschl\u00e4gigen Pflichten aus dieser Verordnung gew\u00e4hrleisten. Zu diesem Zweck sollten Anbieter von KI-Modellen mit allgemeinem Verwendungszweck eine Strategie zur Einhaltung des Urheberrechts der Union und der verwandten Schutzrechte einf\u00fchren, insbesondere zur Ermittlung und Einhaltung des gem\u00e4\u00df Artikel\u00a04 Absatz\u00a03 der Richtlinie (EU) 2019\/790 durch die Rechteinhaber geltend gemachten Rechtsvorbehalts. Jeder Anbieter, der ein KI-Modell mit allgemeinem Verwendungszweck in der Union in Verkehr bringt, sollte diese Pflicht erf\u00fcllen, unabh\u00e4ngig davon, in welchem Hoheitsgebiet die urheberrechtlich relevanten Handlungen, die dem Training dieser KI-Modelle mit allgemeinem Verwendungszweck zugrunde liegen, stattfinden. Dies ist erforderlich, um gleiche Wettbewerbsbedingungen f\u00fcr Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sicherzustellen, unter denen kein Anbieter in der Lage sein sollte, durch die Anwendung niedrigerer Urheberrechtsstandards als in der Union einen Wettbewerbsvorteil auf dem Unionsmarkt zu erlangen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(107)<\/p>\n<\/td>\n

\n

Um die Transparenz in Bezug auf die beim Vortraining und Training von KI-Modellen mit allgemeinem Verwendungszweck verwendeten Daten, einschlie\u00dflich urheberrechtlich gesch\u00fctzter Texte und Daten, zu erh\u00f6hen, ist es angemessen, dass die Anbieter solcher Modelle eine hinreichend detaillierte Zusammenfassung der f\u00fcr das Training des KI-Modells mit allgemeinem Verwendungszweck verwendeten Inhalte erstellen und ver\u00f6ffentlichen. Unter geb\u00fchrender Ber\u00fccksichtigung der Notwendigkeit, Gesch\u00e4ftsgeheimnisse und vertrauliche Gesch\u00e4ftsinformationen zu sch\u00fctzen, sollte der Umfang dieser Zusammenfassung allgemein weitreichend und nicht technisch detailliert sein, um Parteien mit berechtigtem Interesse, einschlie\u00dflich der Inhaber von Urheberrechten, die Aus\u00fcbung und Durchsetzung ihrer Rechte nach dem Unionsrecht zu erleichtern, beispielsweise indem die wichtigsten Datenerhebungen oder Datens\u00e4tze aufgef\u00fchrt werden, die beim Training des Modells verwendet wurden, etwa gro\u00dfe private oder \u00f6ffentliche Datenbanken oder Datenarchive, und indem eine beschreibende Erl\u00e4uterung anderer verwendeter Datenquellen bereitgestellt wird. Es ist angebracht, dass das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz eine Vorlage f\u00fcr die Zusammenfassung bereitstellt, die einfach und wirksam sein sollte und es dem Anbieter erm\u00f6glichen sollte, die erforderliche Zusammenfassung in beschreibender Form bereitzustellen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(108)<\/p>\n<\/td>\n

\n

In Bezug auf die den Anbietern von KI-Modellen mit allgemeinem Verwendungszweck auferlegten Pflichten, eine Strategie zur Einhaltung des Urheberrechts der Union einzuf\u00fchren und eine Zusammenfassung der f\u00fcr das Training verwendeten Inhalte zu ver\u00f6ffentlichen, sollte das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz \u00fcberwachen, ob der Anbieter diese Pflichten erf\u00fcllt hat, ohne dies zu \u00fcberpr\u00fcfen oder die Trainingsdaten im Hinblick auf die Einhaltung des Urheberrechts Werk f\u00fcr Werk zu bewerten. Diese Verordnung ber\u00fchrt nicht die Durchsetzung der Urheberrechtsvorschriften des Unionsrechts.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(109)<\/p>\n<\/td>\n

\n

Die Einhaltung der f\u00fcr die Anbieter von KI-Modellen mit allgemeinem Verwendungszweck geltenden Pflichten sollte der Art des Anbieters von Modellen angemessen und verh\u00e4ltnism\u00e4\u00dfig sein, wobei Personen, die Modelle f\u00fcr nicht berufliche oder wissenschaftliche Forschungszwecke entwickeln oder verwenden, ausgenommen sind, jedoch ermutigt werden sollten, diese Anforderungen freiwillig zu erf\u00fcllen. Unbeschadet des Urheberrechts der Union sollte bei der Einhaltung dieser Pflichten der Gr\u00f6\u00dfe des Anbieters geb\u00fchrend Rechnung getragen und f\u00fcr KMU, einschlie\u00dflich Start-up-Unternehmen, vereinfachte Verfahren zur Einhaltung erm\u00f6glicht werden, die keine \u00fcberm\u00e4\u00dfigen Kosten verursachen und nicht von der Verwendung solcher Modelle abhalten sollten. Im Falle einer \u00c4nderung oder Feinabstimmung eines Modells sollten die Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck auf diese \u00c4nderung oder Feinabstimmung beschr\u00e4nkt sein, indem beispielsweise die bereits vorhandene technische Dokumentation um Informationen \u00fcber die \u00c4nderungen, einschlie\u00dflich neuer Trainingsdatenquellen, erg\u00e4nzt wird, um die in dieser Verordnung festgelegten Pflichten in der Wertsch\u00f6pfungskette zu erf\u00fcllen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(110)<\/p>\n<\/td>\n

\n

KI-Modelle mit allgemeinem Verwendungszweck k\u00f6nnten systemische Risiken bergen, unter anderem tats\u00e4chliche oder vern\u00fcnftigerweise vorhersehbare negative Auswirkungen im Zusammenhang mit schweren Unf\u00e4llen, St\u00f6rungen kritischer Sektoren und schwerwiegende Folgen f\u00fcr die \u00f6ffentliche Gesundheit und Sicherheit; alle tats\u00e4chlichen oder vern\u00fcnftigerweise vorhersehbaren negativen Auswirkungen auf die demokratischen Prozesse und die \u00f6ffentliche und wirtschaftliche Sicherheit; die Verbreitung illegaler, falscher oder diskriminierender Inhalte. Bei systemischen Risiken sollte davon ausgegangen werden, dass sie mit den F\u00e4higkeiten und der Reichweite des Modells zunehmen, w\u00e4hrend des gesamten Lebenszyklus des Modells auftreten k\u00f6nnen und von Bedingungen einer Fehlanwendung, der Zuverl\u00e4ssigkeit des Modells, der Modellgerechtigkeit und der Modellsicherheit, dem Grad der Autonomie des Modells, seinem Zugang zu Instrumenten, neuartigen oder kombinierten Modalit\u00e4ten, Freigabe- und Vertriebsstrategien, dem Potenzial zur Beseitigung von Leitplanken und anderen Faktoren beeinflusst werden. Insbesondere bei internationalen Ans\u00e4tzen wurde bisher festgestellt, dass folgenden Risiken Rechnung getragen werden muss: den Risiken einer m\u00f6glichen vors\u00e4tzlichen Fehlanwendung oder unbeabsichtigter Kontrollprobleme im Zusammenhang mit der Ausrichtung auf menschliche Absicht; chemischen, biologischen, radiologischen und nuklearen Risiken, zum Beispiel M\u00f6glichkeiten zur Verringerung der Zutrittsschranken, einschlie\u00dflich f\u00fcr Entwicklung, Gestaltung, Erwerb oder Nutzung von Waffen; offensiven Cyberf\u00e4higkeiten, zum Beispiel die Art und Weise, wie Entdeckung, Ausbeutung oder operative Nutzung von Schwachstellen erm\u00f6glicht werden k\u00f6nnen; den Auswirkungen der Interaktion und des Einsatzes von Instrumenten, einschlie\u00dflich zum Beispiel der F\u00e4higkeit, physische Systeme zu steuern und in kritische Infrastrukturen einzugreifen; Risiken, dass Modelle sich selbst vervielf\u00e4ltigen, oder der \u201eSelbstreplikation\u201c oder des Trainings anderer Modelle; der Art und Weise, wie Modelle zu sch\u00e4dlichen Verzerrungen und Diskriminierung mit Risiken f\u00fcr Einzelpersonen, Gemeinschaften oder Gesellschaften f\u00fchren k\u00f6nnen; der Erleichterung von Desinformation oder der Verletzung der Privatsph\u00e4re mit Gefahren f\u00fcr demokratische Werte und Menschenrechte; dem Risiko, dass ein bestimmtes Ereignis zu einer Kettenreaktion mit erheblichen negativen Auswirkungen f\u00fchren k\u00f6nnte, die sich auf eine ganze Stadt, eine ganze T\u00e4tigkeit in einem Bereich oder eine ganze Gemeinschaft auswirken k\u00f6nnten.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(111)<\/p>\n<\/td>\n

\n

Es ist angezeigt, eine Methodik f\u00fcr die Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als KI-Modelle mit allgemeinem Verwendungszweck mit systemischen Risiken festzulegen. Da sich systemische Risiken aus besonders hohen F\u00e4higkeiten ergeben, sollte ein KI-Modell mit allgemeinem Verwendungszweck als Modell mit systemischen Risiken gelten, wenn es \u00fcber auf der Grundlage geeigneter technischer Instrumente und Methoden bewertete F\u00e4higkeiten mit hoher Wirkkraft verf\u00fcgt oder aufgrund seiner Reichweite erhebliche Auswirkungen auf den Binnenmarkt hat. \u201eF\u00e4higkeiten mit hoher Wirkkraft\u201c bei KI-Modellen mit allgemeinem Verwendungszweck bezeichnet F\u00e4higkeiten, die den bei den fortschrittlichsten KI-Modellen mit allgemeinem Verwendungszweck festgestellten F\u00e4higkeiten entsprechen oder diese \u00fcbersteigen. Das gesamte Spektrum der F\u00e4higkeiten eines Modells k\u00f6nnte besser verstanden werden, nachdem es in Verkehr gebracht wurde oder wenn die Betreiber mit dem Modell interagieren. Nach dem Stand der Technik zum Zeitpunkt des Inkrafttretens dieser Verordnung ist die kumulierte Menge der f\u00fcr das Training des KI-Modells mit allgemeinem Verwendungszweck verwendeten Berechnungen, gemessen in Gleitkommaoperationen, einer der einschl\u00e4gigen N\u00e4herungswerte f\u00fcr Modellf\u00e4higkeiten. Die kumulierte Menge der f\u00fcr das Training verwendeten Berechnungen umfasst die kumulierte Menge der f\u00fcr die T\u00e4tigkeiten und Methoden, mit denen die F\u00e4higkeiten des Modells vor der Einf\u00fchrung verbessert werden sollen, wie zum Beispiel Vortraining, Generierung synthetischer Daten und Feinabstimmung, verwendeten Berechnungen. Daher sollte ein erster Schwellenwert der Gleitkommaoperationen festgelegt werden, dessen Erreichen durch ein KI-Modell mit allgemeinem Verwendungszweck zu der Annahme f\u00fchrt, dass es sich bei dem Modell um ein KI-Modell mit allgemeinem Verwendungszweck mit systemischen Risiken handelt. Dieser Schwellenwert sollte im Laufe der Zeit angepasst werden, um technologischen und industriellen Ver\u00e4nderungen, wie zum Beispiel algorithmischen Verbesserungen oder erh\u00f6hter Hardwareeffizienz, Rechnung zu tragen, und um Benchmarks und Indikatoren f\u00fcr die Modellf\u00e4higkeit erg\u00e4nzt werden. Um die Grundlage daf\u00fcr zu schaffen, sollte das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz mit der Wissenschaftsgemeinschaft, der Industrie, der Zivilgesellschaft und anderen Sachverst\u00e4ndigen zusammenarbeiten. Schwellenwerte sowie Instrumente und Benchmarks f\u00fcr die Bewertung von F\u00e4higkeiten mit hoher Wirkkraft sollten zuverl\u00e4ssig die allgemeine Verwendbarkeit, die F\u00e4higkeiten und die mit ihnen verbundenen systemischen Risikos von KI-Modellen mit allgemeinem Verwendungszweck vorhersagen k\u00f6nnen und k\u00f6nnten die Art und Weise, wie das Modell in Verkehr gebracht wird, oder die Zahl der Nutzer, auf die es sich auswirken k\u00f6nnte, ber\u00fccksichtigen. Erg\u00e4nzend zu diesem System sollte die Kommission Einzelentscheidungen treffen k\u00f6nnen, mit denen ein KI-Modell mit allgemeinem Verwendungszweck als KI-Modell mit allgemeinem Verwendungszweck mit systemischem Risiko eingestuft wird, wenn festgestellt wurde, dass dieses Modell F\u00e4higkeiten oder Auswirkungen hat, die den von dem festgelegten Schwellenwert erfassten entsprechen. Die genannte Entscheidung sollte auf der Grundlage einer Gesamtbewertung der in einem Anhang dieser Verordnung festgelegten Kriterien f\u00fcr die Benennung von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko getroffen werden, etwa Qualit\u00e4t oder Gr\u00f6\u00dfe des Trainingsdatensatzes, Anzahl der gewerblichen Nutzer und Endnutzer, seine Ein- und Ausgabemodalit\u00e4ten, sein Grad an Autonomie und Skalierbarkeit oder die Instrumente, zu denen es Zugang hat. Stellt der Anbieter, dessen Modell als KI-Modell mit allgemeinem Verwendungszweck mit systemischem Risiko benannt wurde, einen entsprechenden Antrag, sollte die Kommission den Antrag ber\u00fccksichtigen, und sie kann entscheiden, erneut zu pr\u00fcfen, ob beim KI-Modell mit allgemeinem Verwendungszweck immer noch davon ausgegangen werden kann, dass es systemische Risiken aufweist.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(112)<\/p>\n<\/td>\n

\n

Au\u00dferdem muss das Verfahren f\u00fcr die Einstufung eines KI-Modell mit allgemeinem Verwendungszweck mit systemischem Risiko pr\u00e4zisiert werden. Bei einem KI-Modell mit allgemeinem Verwendungszweck, das den geltenden Schwellenwert f\u00fcr F\u00e4higkeiten mit hoher Wirkkraft erreicht, sollte angenommen werden, dass es sich um ein KI-Modell mit allgemeinem Verwendungszweck mit systemischem Risiko handelt. Der Anbieter sollte sp\u00e4testens zwei Wochen, nachdem die Bedingungen erf\u00fcllt sind oder bekannt wird, dass ein KI-Modell mit allgemeinem Verwendungszweck die Bedingungen, die die Annahme bewirken, erf\u00fcllen wird, dies dem B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz mitteilen. Dies ist insbesondere im Zusammenhang mit dem Schwellenwert der Gleitkommaoperationen relevant, da das Training von KI-Modellen mit allgemeinem Verwendungszweck eine erhebliche Planung erfordert, die die vorab durchgef\u00fchrte Zuweisung von Rechenressourcen umfasst, sodass die Anbieter von KI-Modellen mit allgemeinem Verwendungszweck vor Abschluss des Trainings erfahren k\u00f6nnen, ob ihr Modell den Schwellenwert erreichen wird. Im Rahmen dieser Mitteilung sollte der Anbieter nachweisen k\u00f6nnen, dass ein KI-Modell mit allgemeinem Verwendungszweck aufgrund seiner besonderen Merkmale au\u00dferordentlicherweise keine systemischen Risiken birgt und daher nicht als KI-Modell mit allgemeinem Verwendungszweck mit systemischem Risiko eingestuft werden sollte. Diese Informationen sind f\u00fcr das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz wertvoll, um das Inverkehrbringen von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko zu antizipieren, und die Anbieter k\u00f6nnen fr\u00fchzeitig mit der Zusammenarbeit mit dem B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz beginnen. Diese Informationen sind besonders wichtig im Hinblick auf KI-Modell mit allgemeinem Verwendungszweck, die als quelloffene Modelle bereitgestellt werden sollen, da nach der Bereitstellung von quelloffenen Modellen die erforderlichen Ma\u00dfnahmen zur Gew\u00e4hrleistung der Einhaltung der Pflichten gem\u00e4\u00df dieser Verordnung m\u00f6glicherweise schwieriger umzusetzen sind.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(113)<\/p>\n<\/td>\n

\n

Erh\u00e4lt die Kommission Kenntnis davon, dass ein KI-Modell mit allgemeinem Verwendungszweck die Anforderungen f\u00fcr die Einstufung als KI-Modell mit allgemeinem Verwendungszweck mit systemischem Risiko erf\u00fcllt, das zuvor nicht bekannt war oder das der betreffende Anbieter nicht der Kommission gemeldet hat, sollte die Kommission befugt sein, es als solches auszuweisen. Zus\u00e4tzlich zu den \u00dcberwachungst\u00e4tigkeiten des B\u00fcros f\u00fcr K\u00fcnstliche Intelligenz sollte ein System qualifizierter Warnungen sicherstellen, dass das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz von dem wissenschaftlichen Gremium von KI-Modelle mit allgemeinem Verwendungszweck in Kenntnis gesetzt wird, die m\u00f6glicherweise als KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko eingestuft werden sollten, was zu den hinzukommt.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(114)<\/p>\n<\/td>\n

\n

Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, die systemische Risiken bergen, sollten zus\u00e4tzlich zu den Pflichten f\u00fcr Anbieter von KI-Modellen mit allgemeinem Verwendungszweck Pflichten unterliegen, die darauf abzielen, diese Risiken zu ermitteln und zu mindern und ein angemessenes Ma\u00df an Cybersicherheit zu gew\u00e4hrleisten, unabh\u00e4ngig davon, ob es als eigenst\u00e4ndiges Modell bereitgestellt wird oder in ein KI-System oder ein Produkt eingebettet ist. Um diese Ziele zu erreichen, sollten die Anbieter in dieser Verordnung verpflichtet werden, die erforderlichen Bewertungen des Modells\u00a0\u2014\u00a0insbesondere vor seinem ersten Inverkehrbringen\u00a0\u2014 durchzuf\u00fchren, wozu auch die Durchf\u00fchrung und Dokumentation von Angriffstests bei Modellen geh\u00f6ren, gegebenenfalls auch im Rahmen interner oder unabh\u00e4ngiger externer Tests. Dar\u00fcber hinaus sollten KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko fortlaufend systemische Risiken bewerten und mindern, unter anderem durch die Einf\u00fchrung von Risikomanagementstrategien wie Verfahren der Rechenschaftspflicht und Governance-Verfahren, die Umsetzung der Beobachtung nach dem Inverkehrbringen, die Ergreifung geeigneter Ma\u00dfnahmen w\u00e4hrend des gesamten Lebenszyklus des Modells und die Zusammenarbeit mit einschl\u00e4gigen Akteuren entlang der KI-Wertsch\u00f6pfungskette.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(115)<\/p>\n<\/td>\n

\n

Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko sollten m\u00f6gliche systemische Risiken bewerten und mindern. Wenn trotz der Bem\u00fchungen um Ermittlung und Vermeidung von Risiken im Zusammenhang mit einem KI-Modell mit allgemeinem Verwendungszweck, das systemische Risiken bergen k\u00f6nnte, die Entwicklung oder Verwendung des Modells einen schwerwiegenden Vorfall verursacht, so sollte der Anbieter des KI-Modells mit allgemeinem Verwendungszweck unverz\u00fcglich dem Vorfall nachgehen und der Kommission und den zust\u00e4ndigen nationalen Beh\u00f6rden alle einschl\u00e4gigen Informationen und m\u00f6gliche Korrekturma\u00dfnahmen mitteilen. Zudem sollten die Anbieter w\u00e4hrend des gesamten Lebenszyklus des Modells ein angemessenes Ma\u00df an Cybersicherheit f\u00fcr das Modell und seine physische Infrastruktur gew\u00e4hrleisten. Beim Schutz der Cybersicherheit im Zusammenhang mit systemischen Risiken, die mit b\u00f6swilliger Nutzung oder b\u00f6swilligen Angriffen verbunden sind, sollte der unbeabsichtigte Modelldatenverlust, die unerlaubte Bereitstellung, die Umgehung von Sicherheitsma\u00dfnahmen und der Schutz vor Cyberangriffen, unbefugtem Zugriff oder Modelldiebstahl geb\u00fchrend beachtet werden. Dieser Schutz k\u00f6nnte durch die Sicherung von Modellgewichten, Algorithmen, Servern und Datens\u00e4tzen erleichtert werden, z.\u00a0B. durch Betriebssicherheitsma\u00dfnahmen f\u00fcr die Informationssicherheit, spezifische Cybersicherheitsstrategien, geeignete technische und etablierte L\u00f6sungen sowie Kontrollen des physischen Zugangs und des Cyberzugangs, die den jeweiligen Umst\u00e4nden und den damit verbundenen Risiken angemessen sind.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(116)<\/p>\n<\/td>\n

\n

Das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz sollte die Ausarbeitung, \u00dcberpr\u00fcfung und Anpassung von Praxisleitf\u00e4den unter Ber\u00fccksichtigung internationaler Ans\u00e4tze f\u00f6rdern und erleichtern. Alle Anbieter von KI-Modellen mit allgemeinem Verwendungszweck k\u00f6nnten ersucht werden, sich daran zu beteiligen. Um sicherzustellen, dass die Praxisleitf\u00e4den dem Stand der Technik entsprechen und unterschiedlichen Perspektiven geb\u00fchrend Rechnung tragen, sollte das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz bei der Ausarbeitung solcher Leitf\u00e4den mit den einschl\u00e4gigen zust\u00e4ndigen nationalen Beh\u00f6rden zusammenarbeiten und k\u00f6nnte dabei gegebenenfalls Organisationen der Zivilgesellschaft und andere einschl\u00e4gige Interessentr\u00e4ger und Sachverst\u00e4ndige, einschlie\u00dflich des wissenschaftlichen Gremiums, konsultieren. Die Praxisleitf\u00e4den sollten die Pflichten f\u00fcr Anbieter von KI-Modellen mit allgemeinem Verwendungszweck und von KI-Modellen mit allgemeinem Verwendungszweck, die systemische Risiken bergen, abdecken. Ferner sollten Praxisleitf\u00e4den im Zusammenhang mit systemischen Risiken dazu beitragen, dass eine Risikotaxonomie f\u00fcr Art und Wesen der systemischen Risiken auf Unionsebene, einschlie\u00dflich ihrer Ursachen, festgelegt wird. Bei den Praxisleitf\u00e4den sollten auch auf spezifische Ma\u00dfnahmen zur Risikobewertung und -minderung im Mittelpunkt stehen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(117)<\/p>\n<\/td>\n

\n

Die Verhaltenskodizes sollten ein zentrales Instrument f\u00fcr die ordnungsgem\u00e4\u00dfe Einhaltung der in dieser Verordnung f\u00fcr Anbieter von KI-Modellen mit allgemeinem Verwendungszweck vorgesehenen Pflichten darstellen. Die Anbieter sollten sich auf Verhaltenskodizes st\u00fctzen k\u00f6nnen, um die Einhaltung der Pflichten nachzuweisen. Die Kommission kann im Wege von Durchf\u00fchrungsrechtsakten beschlie\u00dfen, einen Praxisleitfaden zu genehmigen und ihm eine allgemeine G\u00fcltigkeit in der Union zu verleihen oder alternativ gemeinsame Vorschriften f\u00fcr die Umsetzung der einschl\u00e4gigen Pflichten festzulegen, wenn ein Verhaltenskodex\u00a0bis zum Zeitpunkt der Anwendbarkeit dieser Verordnung nicht fertiggestellt werden kann oder dies vom B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz f\u00fcr nicht angemessen erachtet wird. Sobald eine harmonisierte Norm ver\u00f6ffentlicht und als geeignet bewertet wurde, um die einschl\u00e4gigen Pflichten des B\u00fcros f\u00fcr K\u00fcnstliche Intelligenz abzudecken, sollte die Einhaltung einer harmonisierten europ\u00e4ischen Norm den Anbietern die Konformit\u00e4tsvermutung begr\u00fcnden. Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sollten dar\u00fcber hinaus in der Lage sein, die Konformit\u00e4t mit angemessenen alternativen Mitteln nachzuweisen, wenn Praxisleitf\u00e4den oder harmonisierte Normen nicht verf\u00fcgbar sind oder sie sich daf\u00fcr entscheiden, sich nicht auf diese zu st\u00fctzen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(118)<\/p>\n<\/td>\n

\n

Mit dieser Verordnung werden KI-Systeme und KI-Modelle reguliert, indem einschl\u00e4gigen Marktteilnehmern, die sie in der Union in Verkehr bringen, in Betrieb nehmen oder verwenden, bestimmte Anforderungen und Pflichten auferlegt werden, wodurch die Pflichten f\u00fcr Anbieter von Vermittlungsdiensten erg\u00e4nzt werden, die solche Systeme oder Modelle in ihre unter die Verordnung (EU) 2022\/2065 fallenden Dienste integrieren. Soweit solche Systeme oder Modelle in als sehr gro\u00df eingestufte Online-Plattformen oder als sehr gro\u00df eingestufte Online-Suchmaschinen eingebettet sind, unterliegen sie dem in der Verordnung (EU) 2022\/2065 vorgesehenen Rahmen f\u00fcr das Risikomanagement. Folglich sollte angenommen werden, dass die entsprechenden Verpflichtungen dieser Verordnung erf\u00fcllt sind, es sei denn, in solchen Modellen treten erhebliche systemische Risiken auf, die nicht unter die Verordnung (EU) 2022\/2065 fallen, und werden dort ermittelt. Im vorliegenden Rahmen sind Anbieter sehr gro\u00dfer Online-Plattformen und sehr gro\u00dfer Online-Suchmaschinen verpflichtet, potenzielle systemische Risiken, die sich aus dem Entwurf, dem Funktionieren und der Nutzung ihrer Dienste ergeben, einschlie\u00dflich der Frage, wie der Entwurf der in dem Dienst verwendeten algorithmischen Systeme zu solchen Risiken beitragen kann, sowie systemische Risiken, die sich aus potenziellen Fehlanwendungen ergeben, zu bewerten. Diese Anbieter sind zudem verpflichtet, unter Wahrung der Grundrechte geeignete Risikominderungsma\u00dfnahmen zu ergreifen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(119)<\/p>\n<\/td>\n

\n

Angesichts des raschen Innovationstempos und der technologischen Entwicklung digitaler Dienste, die in den Anwendungsbereich verschiedener Instrumente des Unionsrechts fallen, k\u00f6nnen insbesondere unter Ber\u00fccksichtigung der Verwendung durch ihre Nutzer und deren Wahrnehmung die dieser Verordnung unterliegenden KI-Systeme als Vermittlungsdienste oder Teile davon im Sinne der Verordnung (EU) 2022\/2065 bereitgestellt werden, was technologieneutral ausgelegt werden sollte. Beispielsweise k\u00f6nnen KI-Systeme als Online-Suchmaschinen verwendet werden, insbesondere wenn ein KI-System wie ein Online-Chatbot grunds\u00e4tzlich alle Websites durchsucht, die Ergebnisse anschlie\u00dfend in sein vorhandenes Wissen integriert und das aktualisierte Wissen nutzt, um eine einzige Ausgabe zu generieren, bei der verschiedene Informationsquellen zusammengef\u00fchrt wurden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(120)<\/p>\n<\/td>\n

\n

Zudem sind die Pflichten, die Anbietern und Betreibern bestimmter KI-Systeme mit dieser Verordnung auferlegt werden, um die Feststellung und Offenlegung zu erm\u00f6glichen, dass die Ausgaben dieser Systeme k\u00fcnstlich erzeugt oder manipuliert werden, von besonderer Bedeutung f\u00fcr die Erleichterung der wirksamen Umsetzung der Verordnung (EU) 2022\/2065. Dies gilt insbesondere f\u00fcr die Pflichten der Anbieter sehr gro\u00dfer Online-Plattformen oder sehr gro\u00dfer Online-Suchmaschinen, systemische Risiken zu ermitteln und zu mindern, die aus der Verbreitung von k\u00fcnstlich erzeugten oder manipulierten Inhalten entstehen k\u00f6nnen, insbesondere das Risiko tats\u00e4chlicher oder vorhersehbarer negativer Auswirkungen auf demokratische Prozesse, den gesellschaftlichen Diskurs und Wahlprozesse, unter anderem durch Desinformation.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(121)<\/p>\n<\/td>\n

\n

Die Normung sollte eine Schl\u00fcsselrolle dabei spielen, den Anbietern technische L\u00f6sungen zur Verf\u00fcgung zu stellen, um im Einklang mit dem Stand der Technik die Einhaltung dieser Verordnung zu gew\u00e4hrleisten und Innovation sowie Wettbewerbsf\u00e4higkeit und Wachstum im Binnenmarkt zu f\u00f6rdern. Die Einhaltung harmonisierter Normen im Sinne von Artikel\u00a02 Nummer\u00a01 Buchstabe\u00a0c der Verordnung (EU) Nr.\u00a01025\/2012 des Europ\u00e4ischen Parlaments und des Rates\u00a0(41<\/span>)<\/a>, die normalerweise den Stand der Technik widerspiegeln sollten, sollte den Anbietern den Nachweis der Konformit\u00e4t mit den Anforderungen der vorliegenden Verordnung erm\u00f6glichen. Daher sollte eine ausgewogene Interessenvertretung unter Einbeziehung aller relevanten Interessentr\u00e4ger, insbesondere KMU, Verbraucherorganisationen sowie \u00f6kologischer und sozialer Interessentr\u00e4ger, bei der Entwicklung von Normen gem\u00e4\u00df den Artikeln\u00a05 und 6 der Verordnung (EU) Nr.\u00a01025\/2012, gef\u00f6rdert werden. Um die Einhaltung der Vorschriften zu erleichtern, sollten die Normungsauftr\u00e4ge von der Kommission unverz\u00fcglich erteilt werden. Bei der Ausarbeitung des Normungsauftrags sollte die Kommission das Beratungsforum und das KI-Gremium konsultieren, um einschl\u00e4giges Fachwissen einzuholen. In Ermangelung einschl\u00e4giger Fundstellen zu harmonisierten Normen sollte die Kommission jedoch im Wege von Durchf\u00fchrungsrechtsakten und nach Konsultation des Beratungsforums gemeinsame Spezifikationen f\u00fcr bestimmte Anforderungen im Rahmen dieser Verordnung festlegen k\u00f6nnen. Die gemeinsame Spezifikation sollte eine au\u00dfergew\u00f6hnliche Ausweichl\u00f6sung sein, um die Pflicht des Anbieters zur Einhaltung der Anforderungen dieser Verordnung zu erleichtern, wenn der Normungsauftrag von keiner der europ\u00e4ischen Normungsorganisationen angenommen wurde oder die einschl\u00e4gigen harmonisierten Normen den Bedenken im Bereich der Grundrechte nicht ausreichend Rechnung tragen oder die harmonisierten Normen dem Auftrag nicht entsprechen oder es Verz\u00f6gerungen bei der Annahme einer geeigneten harmonisierten Norm gibt. Ist eine solche Verz\u00f6gerung bei der Annahme einer harmonisierten Norm auf die technische Komplexit\u00e4t dieser Norm zur\u00fcckzuf\u00fchren, so sollte die Kommission dies pr\u00fcfen, bevor sie die Festlegung gemeinsamer Spezifikationen in Erw\u00e4gung zieht. Die Kommission wird ermutigt, bei der Entwicklung gemeinsamer Spezifikationen mit internationalen Partnern und internationalen Normungsgremien zusammenzuarbeiten.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(122)<\/p>\n<\/td>\n

\n

Unbeschadet der Anwendung harmonisierter Normen und gemeinsamer Spezifikationen ist es angezeigt, dass f\u00fcr Anbieter von Hochrisiko-KI-Systemen, die mit Daten, in denen sich die besonderen geografischen, verhaltensbezogenen, kontextuellen oder funktionalen Rahmenbedingungen niederschlagen, unter denen sie verwendet werden sollen, trainiert und getestet wurden, die Vermutung der Konformit\u00e4t mit der einschl\u00e4gigen Ma\u00dfnahme gilt, die im Rahmen der in dieser Verordnung festgelegten Anforderungen an die Daten-Governance vorgesehen ist. Unbeschadet der in dieser Verordnung festgelegten Anforderungen an Robustheit und Genauigkeit sollte gem\u00e4\u00df Artikel\u00a054\u00a0Absatz\u00a03 der Verordnung (EU) 2019\/881 bei Hochrisiko-KI-Systemen, die im Rahmen eines Schemas f\u00fcr die Cybersicherheit gem\u00e4\u00df der genannten Verordnung zertifiziert wurden oder f\u00fcr die eine Konformit\u00e4tserkl\u00e4rung ausgestellt wurde und deren Fundstellen im Amtsblatt der Europ\u00e4ischen Union<\/span> ver\u00f6ffentlicht wurden, vermutet werden, dass eine \u00dcbereinstimmung mit den Cybersicherheitsanforderungen der vorliegenden Verordnung gegeben ist, sofern das Cybersicherheitszertifikat oder die Konformit\u00e4tserkl\u00e4rung oder Teile davon die Cybersicherheitsanforderungen dieser Verordnung abdecken. Dies gilt unbeschadet des freiwilligen Charakters dieses Schemas f\u00fcr die Cybersicherheit.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(123)<\/p>\n<\/td>\n

\n

Um ein hohes Ma\u00df an Vertrauensw\u00fcrdigkeit von Hochrisiko-KI-Systemen zu gew\u00e4hrleisten, sollten diese Systeme einer Konformit\u00e4tsbewertung unterzogen werden, bevor sie in Verkehr gebracht oder in Betrieb genommen werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(124)<\/p>\n<\/td>\n

\n

Damit f\u00fcr Akteure m\u00f6glichst wenig Aufwand entsteht und etwaige Doppelarbeit vermieden wird, ist es angezeigt, dass bei Hochrisiko-KI-Systemen im Zusammenhang mit Produkten, die auf der Grundlage des neuen Rechtsrahmens unter bestehende Harmonisierungsrechtsvorschriften der Union fallen, im Rahmen der bereits in den genannten Rechtsvorschriften vorgesehenen Konformit\u00e4tsbewertung bewertet wird, ob diese KI-Systeme den Anforderungen dieser Verordnung gen\u00fcgen. Die Anwendbarkeit der Anforderungen dieser Verordnung sollte daher die besondere Logik, Methodik oder allgemeine Struktur der Konformit\u00e4tsbewertung gem\u00e4\u00df den einschl\u00e4gigen Harmonisierungsrechtsvorschriften der Union unber\u00fchrt lassen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(125)<\/p>\n<\/td>\n

\n

Angesichts der Komplexit\u00e4t von Hochrisiko-KI-Systemen und der damit verbundenen Risiken ist es wichtig, ein angemessenes Konformit\u00e4tsbewertungsverfahren f\u00fcr Hochrisiko-KI-Systeme, an denen notifizierte Stellen beteiligt sind,\u00a0\u2014\u00a0die sogenannte Konformit\u00e4tsbewertung durch Dritte\u00a0\u2014 zu entwickeln. In Anbetracht der derzeitigen Erfahrung professioneller dem Inverkehrbringen vorgeschalteter Zertifizierer im Bereich der Produktsicherheit und der unterschiedlichen Art der damit verbundenen Risiken empfiehlt es sich jedoch, zumindest w\u00e4hrend der anf\u00e4nglichen Anwendung dieser Verordnung f\u00fcr Hochrisiko-KI-Systeme, die nicht mit Produkten in Verbindung stehen, den Anwendungsbereich der Konformit\u00e4tsbewertung durch Dritte einzuschr\u00e4nken. Daher sollte die Konformit\u00e4tsbewertung solcher Systeme in der Regel vom Anbieter in eigener Verantwortung durchgef\u00fchrt werden, mit Ausnahme von KI-Systemen, die f\u00fcr die Biometrie verwendet werden sollen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(126)<\/p>\n<\/td>\n

\n

Damit KI-Systeme, falls vorgeschrieben, Konformit\u00e4tsbewertungen durch Dritte unterzogen werden k\u00f6nnen, sollten die notifizierten Stellen gem\u00e4\u00df dieser Verordnung von den zust\u00e4ndigen nationalen Beh\u00f6rden notifiziert werden, sofern sie eine Reihe von Anforderungen erf\u00fcllen, insbesondere in Bezug auf Unabh\u00e4ngigkeit, Kompetenz, Nichtvorliegen von Interessenkonflikten und geeignete Anforderungen an die Cybersicherheit. Die Notifizierung dieser Stellen sollte von den zust\u00e4ndigen nationalen Beh\u00f6rden der Kommission und den anderen Mitgliedstaaten mittels des von der Kommission entwickelten und verwalteten elektronischen Notifizierungsinstruments gem\u00e4\u00df Anhang\u00a0I\u00a0Artikel\u00a0R23 des Beschlusses Nr.\u00a0768\/2008\/EG \u00fcbermittelt werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(127)<\/p>\n<\/td>\n

\n

Im Einklang mit den Verpflichtungen der Union im Rahmen des \u00dcbereinkommens der Welthandelsorganisation \u00fcber technische Handelshemmnisse ist es angemessen, die gegenseitige Anerkennung von Konformit\u00e4tsbewertungsergebnissen zu erleichtern, die von den zust\u00e4ndigen Konformit\u00e4tsbewertungsstellen unabh\u00e4ngig von dem Gebiet, in dem sie niedergelassen sind, generiert wurden, sofern diese nach dem Recht eines Drittlandes errichteten Konformit\u00e4tsbewertungsstellen die geltenden Anforderungen dieser Verordnung erf\u00fcllen und die Union ein entsprechendes Abkommen geschlossen hat. In diesem Zusammenhang sollte die Kommission aktiv m\u00f6gliche internationale Instrumente zu diesem Zweck pr\u00fcfen und insbesondere den Abschluss von Abkommen \u00fcber die gegenseitige Anerkennung mit Drittl\u00e4ndern anstreben.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(128)<\/p>\n<\/td>\n

\n

Im Einklang mit dem allgemein anerkannten Begriff der wesentlichen \u00c4nderung von Produkten, f\u00fcr die Harmonisierungsvorschriften der Union gelten, ist es angezeigt, dass das KI-System bei jeder \u00c4nderung, die die Einhaltung dieser Verordnung durch das Hochrisiko-KI-System beeintr\u00e4chtigen k\u00f6nnte (z.\u00a0B. \u00c4nderung des Betriebssystems oder der Softwarearchitektur), oder wenn sich die Zweckbestimmung des Systems \u00e4ndert, als neues KI-System betrachtet werden sollte, das einer neuen Konformit\u00e4tsbewertung unterzogen werden sollte. \u00c4nderungen, die den Algorithmus und die Leistung von KI-Systemen betreffen, die nach dem Inverkehrbringen oder der Inbetriebnahme weiterhin dazulernen\u00a0\u2014\u00a0d.\u00a0h., sie passen automatisch an, wie die Funktionen ausgef\u00fchrt werden\u00a0\u2014, sollten jedoch keine wesentliche Ver\u00e4nderung darstellen, sofern diese \u00c4nderungen vom Anbieter vorab festgelegt und zum Zeitpunkt der Konformit\u00e4tsbewertung bewertet wurden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(129)<\/p>\n<\/td>\n

\n

Hochrisiko-KI-Systeme sollten grunds\u00e4tzlich mit der CE-Kennzeichnung versehen sein, aus der ihre Konformit\u00e4t mit dieser Verordnung hervorgeht, sodass sie frei im Binnenmarkt verkehren k\u00f6nnen. Bei in ein Produkt integrierten Hochrisiko-KI-Systemen sollte eine physische CE-Kennzeichnung angebracht werden, die durch eine digitale CE-Kennzeichnung erg\u00e4nzt werden kann. Bei Hochrisiko-KI-Systemen, die nur digital bereitgestellt werden, sollte eine digitale CE-Kennzeichnung verwendet werden. Die Mitgliedstaaten sollten keine ungerechtfertigten Hindernisse f\u00fcr das Inverkehrbringen oder die Inbetriebnahme von Hochrisiko-KI-Systemen schaffen, die die in dieser Verordnung festgelegten Anforderungen erf\u00fcllen und mit der CE-Kennzeichnung versehen sind.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(130)<\/p>\n<\/td>\n

\n

Unter bestimmten Bedingungen kann die rasche Verf\u00fcgbarkeit innovativer Technik f\u00fcr die Gesundheit und Sicherheit von Menschen, den Schutz der Umwelt und vor dem Klimawandel und die Gesellschaft insgesamt von entscheidender Bedeutung sein. Es ist daher angezeigt, dass die Aufsichtsbeh\u00f6rden aus au\u00dfergew\u00f6hnlichen Gr\u00fcnden der \u00f6ffentlichen Sicherheit, des Schutzes des Lebens und der Gesundheit nat\u00fcrlicher Personen, des Umweltschutzes und des Schutzes wichtiger Industrie- und Infrastrukturanlagen das Inverkehrbringen oder die Inbetriebnahme von KI-Systemen, die keiner Konformit\u00e4tsbewertung unterzogen wurden, genehmigen k\u00f6nnten. In hinreichend begr\u00fcndeten F\u00e4llen gem\u00e4\u00df dieser Verordnung k\u00f6nnen Strafverfolgungs- oder Katastrophenschutzbeh\u00f6rden ein bestimmtes Hochrisiko-KI-System ohne Genehmigung der Markt\u00fcberwachungsbeh\u00f6rde in Betrieb nehmen, sofern diese Genehmigung w\u00e4hrend der Verwendung oder im Anschluss daran unverz\u00fcglich beantragt wird.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(131)<\/p>\n<\/td>\n

\n

Um die Arbeit der Kommission und der Mitgliedstaaten im KI-Bereich zu erleichtern und die Transparenz gegen\u00fcber der \u00d6ffentlichkeit zu erh\u00f6hen, sollten Anbieter von Hochrisiko-KI-Systemen, die nicht im Zusammenhang mit Produkten stehen, welche in den Anwendungsbereich einschl\u00e4giger Harmonisierungsrechtsvorschriften der Union fallen, und Anbieter, die der Auffassung sind, dass ein KI-System, das in den in einem Anhang dieser Verordnung aufgef\u00fchrten Anwendungsf\u00e4llen mit hohem Risiko aufgef\u00fchrt ist, auf der Grundlage einer Ausnahme nicht hochriskant ist, dazu verpflichtet werden, sich und Informationen \u00fcber ihr KI-System in einer von der Kommission einzurichtenden und zu verwaltenden EU-Datenbank zu registrieren. Vor der Verwendung eines KI-Systems, das in den in einem Anhang dieser Verordnung aufgef\u00fchrten Anwendungsf\u00e4llen mit hohem Risiko aufgef\u00fchrt ist, sollten sich Betreiber von Hochrisiko-KI-Systemen, die Beh\u00f6rden, Einrichtungen oder sonstige Stellen sind, in dieser Datenbank registrieren und das System ausw\u00e4hlen, dessen Verwendung sie planen. Andere Betreiber sollten berechtigt sein, dies freiwillig zu tun. Dieser Teil der EU-Datenbank sollte \u00f6ffentlich und kostenlos zug\u00e4nglich sein, und die Informationen sollten leicht zu navigieren, verst\u00e4ndlich und maschinenlesbar sein. Die EU-Datenbank sollte au\u00dferdem benutzerfreundlich sein und beispielsweise die Suche, auch mit Stichw\u00f6rtern, vorsehen, damit die breite \u00d6ffentlichkeit die einschl\u00e4gigen Informationen finden kann, die bei der Registrierung von Hochrisiko-KI-Systemen einzureichen sind und die sich auf einen in einem Anhang dieser Verordnung aufgef\u00fchrten Anwendungsfall der Hochrisiko-KI-Systeme, denen die betreffenden Hochrisiko-KI-Systeme entsprechen, beziehen. Jede wesentliche Ver\u00e4nderung von Hochrisiko-KI-Systemen sollte ebenfalls in der EU-Datenbank registriert werden. Bei Hochrisiko-KI-Systemen, die in den Bereichen Strafverfolgung, Migration, Asyl und Grenzkontrolle eingesetzt werden, sollten die Registrierungspflichten in einem sicheren nicht \u00f6ffentlichen Teil der EU-Datenbank erf\u00fcllt werden. Der Zugang zu dem gesicherten nicht \u00f6ffentlichen Teil sollte sich strikt auf die Kommission sowie auf die Markt\u00fcberwachungsbeh\u00f6rden und bei diesen auf ihren nationalen Teil dieser Datenbank beschr\u00e4nken. Hochrisiko-KI-Systeme im Bereich kritischer Infrastrukturen sollten nur auf nationaler Ebene registriert werden. Die Kommission sollte gem\u00e4\u00df der Verordnung (EU) 2018\/1725 als f\u00fcr die EU-Datenbank Verantwortlicher gelten. Um die volle Funktionsf\u00e4higkeit der EU-Datenbank zu gew\u00e4hrleisten, sollte das Verfahren f\u00fcr die Einrichtung der Datenbank auch die Entwicklung von funktionalen Spezifikationen durch die Kommission und einen unabh\u00e4ngigen Pr\u00fcfbericht umfassen. Die Kommission sollte bei der Wahrnehmung ihrer Aufgaben als Verantwortliche f\u00fcr die EU-Datenbank die Risiken im Zusammenhang mit Cybersicherheit ber\u00fccksichtigen. Um f\u00fcr ein H\u00f6chstma\u00df an Verf\u00fcgbarkeit und Nutzung der EU-Datenbank durch die \u00d6ffentlichkeit zu sorgen, sollte die EU-Datenbank, einschlie\u00dflich der \u00fcber sie zur Verf\u00fcgung gestellten Informationen, den Anforderungen der Richtlinie (EU)\u00a02019\/882 entsprechen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(132)<\/p>\n<\/td>\n

\n

Bestimmte KI-Systeme, die mit nat\u00fcrlichen Personen interagieren oder Inhalte erzeugen sollen, k\u00f6nnen unabh\u00e4ngig davon, ob sie als hochriskant eingestuft werden, ein besonderes Risiko in Bezug auf Identit\u00e4tsbetrug oder T\u00e4uschung bergen. Unter bestimmten Umst\u00e4nden sollte die Verwendung solcher Systeme daher\u00a0\u2014\u00a0unbeschadet der Anforderungen an und Pflichten f\u00fcr Hochrisiko-KI-Systeme und vorbehaltlich punktueller Ausnahmen, um den besonderen Erfordernissen der Strafverfolgung Rechnung zu tragen\u00a0\u2014 besonderen Transparenzpflichten unterliegen. Insbesondere sollte nat\u00fcrlichen Personen mitgeteilt werden, dass sie es mit einem KI-System zu tun haben, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verst\u00e4ndigen nat\u00fcrlichen Person aufgrund der Umst\u00e4nde und des Kontexts der Nutzung offensichtlich. Bei der Umsetzung dieser Pflicht sollten die Merkmale von nat\u00fcrlichen Personen, die aufgrund ihres Alters oder einer Behinderung schutzbed\u00fcrftigen Gruppen angeh\u00f6ren, ber\u00fccksichtigt werden, soweit das KI-System auch mit diesen Gruppen interagieren soll. Dar\u00fcber hinaus sollte nat\u00fcrlichen Personen mitgeteilt werden, wenn sie KI-Systemen ausgesetzt sind, die durch die Verarbeitung ihrer biometrischen Daten die Gef\u00fchle oder Absichten dieser Personen identifizieren oder ableiten oder sie bestimmten Kategorien zuordnen k\u00f6nnen. Solche spezifischen Kategorien k\u00f6nnen Aspekte wie etwa Geschlecht, Alter, Haarfarbe, Augenfarbe, T\u00e4towierungen, pers\u00f6nliche Merkmale, ethnische Herkunft sowie pers\u00f6nliche Vorlieben und Interessen betreffen. Diese Informationen und Mitteilungen sollten f\u00fcr Menschen mit Behinderungen in entsprechend barrierefrei zug\u00e4nglicher Form bereitgestellt werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(133)<\/p>\n<\/td>\n

\n

Eine Vielzahl von KI-Systemen kann gro\u00dfe Mengen synthetischer Inhalte erzeugen, bei denen es f\u00fcr Menschen immer schwieriger wird, sie vom Menschen erzeugten und authentischen Inhalten zu unterscheiden. Die breite Verf\u00fcgbarkeit und die zunehmenden F\u00e4higkeiten dieser Systeme wirken sich erheblich auf die Integrit\u00e4t des Informations\u00f6kosystems und das ihm entgegengebrachte Vertrauen aus, weil neue Risiken in Bezug auf Fehlinformation und Manipulation in gro\u00dfem Ma\u00dfstab, Betrug, Identit\u00e4tsbetrug und T\u00e4uschung der Verbraucher entstehen. Angesichts dieser Auswirkungen, des raschen Tempos im Technologiebereich und der Notwendigkeit neuer Methoden und Techniken zur R\u00fcckverfolgung der Herkunft von Informationen sollten die Anbieter dieser Systeme verpflichtet werden, technische L\u00f6sungen zu integrieren, die die Kennzeichnung in einem maschinenlesbaren Format und die Feststellung erm\u00f6glichen, dass die Ausgabe von einem KI-System und nicht von einem Menschen erzeugt oder manipuliert wurde. Diese Techniken und Methoden sollten\u00a0\u2014\u00a0soweit technisch m\u00f6glich\u00a0\u2014 hinreichend zuverl\u00e4ssig, interoperabel, wirksam und belastbar sein, wobei verf\u00fcgbare Techniken, wie Wasserzeichen, Metadatenidentifizierungen, kryptografische Methoden zum Nachweis der Herkunft und Authentizit\u00e4t des Inhalts, Protokollierungsmethoden, Fingerabdr\u00fccke oder andere Techniken, oder eine Kombination solcher Techniken je nach Sachlage zu ber\u00fccksichtigen sind. Bei der Umsetzung dieser Pflicht sollten die Anbieter auch die Besonderheiten und Einschr\u00e4nkungen der verschiedenen Arten von Inhalten und die einschl\u00e4gigen technologischen Entwicklungen und Marktentwicklungen in diesem Bereich, die dem allgemein anerkannten Stand der Technik entsprechen, ber\u00fccksichtigen. Solche Techniken und Methoden k\u00f6nnen auf der Ebene des KI-Systems oder der Ebene des KI-Modells, darunter KI-Modelle mit allgemeinem Verwendungszweck zur Erzeugung von Inhalten, angewandt werden, wodurch dem nachgelagerten Anbieter des KI-Systems die Erf\u00fcllung dieser Pflicht erleichtert wird. Um die Verh\u00e4ltnism\u00e4\u00dfigkeit zu wahren, sollte vorgesehen werden, dass diese Kennzeichnungspflicht weder f\u00fcr KI-Systeme, die in erster Linie eine unterst\u00fctzende Funktion f\u00fcr die Standardbearbeitung ausf\u00fchren, noch f\u00fcr KI-Systeme, die die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich ver\u00e4ndern, gilt.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(134)<\/p>\n<\/td>\n

\n

Neben den technischen L\u00f6sungen, die von den Anbietern von KI-Systemen eingesetzt werden, sollten Betreiber, die ein KI-System zum Erzeugen oder Manipulieren von Bild-, Audio- oder Videoinhalte verwenden, die wirklichen Personen, Gegenst\u00e4nden, Orten, Einrichtungen oder Ereignissen merklich \u00e4hneln und einer Person f\u00e4lschlicherweise echt oder wahr erscheinen w\u00fcrden (Deepfakes), auch klar und deutlich offenlegen, dass die Inhalte k\u00fcnstlich erzeugt oder manipuliert wurden, indem sie die Ausgaben von KI entsprechend kennzeichnen und auf ihren k\u00fcnstlichen Ursprung hinweisen. Die Einhaltung dieser Transparenzpflicht sollte nicht so ausgelegt werden, dass sie darauf hindeutet, dass die Verwendung des KI-Systems oder seiner Ausgabe das Recht auf freie Meinungs\u00e4u\u00dferung und das Recht auf Freiheit der Kunst und Wissenschaft, die in der Charta garantiert sind, behindern, insbesondere wenn der Inhalt Teil eines offensichtlich kreativen, satirischen, k\u00fcnstlerischen, fiktionalen oder analogen Werks oder Programms ist und geeignete Schutzvorkehrungen f\u00fcr die Rechte und Freiheiten Dritter bestehen. In diesen F\u00e4llen beschr\u00e4nkt sich die in dieser Verordnung festgelegte Transparenzpflicht f\u00fcr Deepfakes darauf, das Vorhandenseins solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks, einschlie\u00dflich seiner normalen Nutzung und Verwendung, nicht beeintr\u00e4chtigt und gleichzeitig den Nutzen und die Qualit\u00e4t des Werks aufrechterh\u00e4lt. Dar\u00fcber hinaus ist es angezeigt, eine \u00e4hnliche Offenlegungspflicht in Bezug auf durch KI erzeugte oder manipulierte Texte anzustreben, soweit diese ver\u00f6ffentlicht werden, um die \u00d6ffentlichkeit \u00fcber Angelegenheiten von \u00f6ffentlichem Interesse zu informieren, es sei denn, die durch KI erzeugten Inhalte wurden einem Verfahren der menschlichen \u00dcberpr\u00fcfung oder redaktionellen Kontrolle unterzogen und eine nat\u00fcrliche oder juristische Person tr\u00e4gt die redaktionelle Verantwortung f\u00fcr die Ver\u00f6ffentlichung der Inhalte.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(135)<\/p>\n<\/td>\n

\n

Unbeschadet des verbindlichen Charakters und der uneingeschr\u00e4nkten Anwendbarkeit der Transparenzpflichten kann die Kommission zudem die Ausarbeitung von Praxisleitf\u00e4den auf Unionsebene im Hinblick auf die Erm\u00f6glichung der wirksamen Umsetzung der Pflichten in Bezug auf die Feststellung und Kennzeichnung k\u00fcnstlich erzeugter oder manipulierter Inhalte erleichtern und f\u00f6rdern, auch um praktische Vorkehrungen zu unterst\u00fctzen, mit denen gegebenenfalls die Feststellungsmechanismen zug\u00e4nglich gemacht werden, die Zusammenarbeit mit anderen Akteuren entlang der Wertsch\u00f6pfungskette erleichtert wird und Inhalte verbreitet oder ihre Echtheit und Herkunft \u00fcberpr\u00fcft werden, damit die \u00d6ffentlichkeit durch KI erzeugte Inhalte wirksam erkennen kann.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(136)<\/p>\n<\/td>\n

\n

Die Pflichten, die Anbietern und Betreibern bestimmter KI-Systeme mit dieser Verordnung auferlegt werden, die Feststellung und Offenlegung zu erm\u00f6glichen, dass die Ausgaben dieser Systeme k\u00fcnstlich erzeugt oder manipuliert werden, sind von besonderer Bedeutung f\u00fcr die Erleichterung der wirksamen Umsetzung der Verordnung (EU) 2022\/2065. Dies gilt insbesondere f\u00fcr die Pflicht der Anbieter sehr gro\u00dfer Online-Plattformen oder sehr gro\u00dfer Online-Suchmaschinen, systemische Risiken zu ermitteln und zu mindern, die aus der Verbreitung von k\u00fcnstlich erzeugten oder manipulierten Inhalten entstehen k\u00f6nnen, insbesondere das Risiko tats\u00e4chlicher oder vorhersehbarer negativer Auswirkungen auf demokratische Prozesse, den gesellschaftlichen Diskurs und Wahlprozesse, unter anderem durch Desinformation. Die Anforderung gem\u00e4\u00df dieser Verordnung, durch KI-Systeme erzeugte Inhalte zu kennzeichnen, ber\u00fchrt nicht die Pflicht in Artikel\u00a016 Absatz\u00a06 der Verordnung (EU) 2022\/2065 f\u00fcr Anbieter von Hostingdiensten, gem\u00e4\u00df Artikel\u00a016 Absatz\u00a01 der genannten Verordnung eingegangene Meldungen \u00fcber illegale Inhalte zu bearbeiten, und sollte nicht die Beurteilung der Rechtswidrigkeit der betreffenden Inhalte und die Entscheidung dar\u00fcber beeinflussen. Diese Beurteilung sollte ausschlie\u00dflich anhand der Vorschriften f\u00fcr die Rechtm\u00e4\u00dfigkeit der Inhalte vorgenommen werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(137)<\/p>\n<\/td>\n

\n

Die Einhaltung der Transparenzpflichten f\u00fcr die von dieser Verordnung erfassten KI-Systeme sollte nicht als Hinweis darauf ausgelegt werden, dass die Verwendung des KI-Systems oder seiner Ausgabe nach dieser Verordnung oder anderen Rechtsvorschriften der Union und der Mitgliedstaaten rechtm\u00e4\u00dfig ist, und sollte andere Transparenzpflichten f\u00fcr Betreiber von KI-Systemen, die im Unionsrecht oder im nationalen Recht festgelegt sind, unber\u00fchrt lassen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(138)<\/p>\n<\/td>\n

\n

KI bezeichnet eine Reihe sich rasch entwickelnder Technologien, die eine Regulierungsaufsicht und einen sicheren und kontrollierten Raum f\u00fcr die Erprobung erfordern, wobei gleichzeitig eine verantwortungsvolle Innovation und die Integration geeigneter Schutzvorkehrungen und Risikominderungsma\u00dfnahmen gew\u00e4hrleistet werden m\u00fcssen. Um einen innovationsf\u00f6rdernden, zukunftssicheren und gegen\u00fcber St\u00f6rungen widerstandsf\u00e4higen Rechtsrahmen sicherzustellen, sollten die Mitgliedstaaten sicherstellen, dass ihre zust\u00e4ndigen nationalen Beh\u00f6rden mindestens ein KI-Reallabor auf nationaler Ebene einrichten, um die Entwicklung und die Erprobung innovativer KI-Systeme vor deren Inverkehrbringen oder anderweitiger Inbetriebnahme unter strenger Regulierungsaufsicht zu erleichtern. Die Mitgliedstaaten k\u00f6nnten diese Pflicht auch erf\u00fcllen, indem sie sich an bereits bestehenden Reallaboren beteiligen oder ein Reallabor mit den zust\u00e4ndigen Beh\u00f6rden eines oder mehrerer Mitgliedstaaten gemeinsam einrichten, insoweit diese Beteiligung eine gleichwertige nationale Abdeckung f\u00fcr die teilnehmenden Mitgliedstaaten bietet. KI-Reallabore k\u00f6nnten in physischer, digitaler oder Hybrid-Form eingerichtet werden, und sie k\u00f6nnen physische sowie digitale Produkte umfassen. Die einrichtenden Beh\u00f6rden sollten ferner sicherstellen, dass die KI-Reallabore \u00fcber angemessene Ressourcen f\u00fcr ihre Aufgaben, einschlie\u00dflich finanzieller und personeller Ressourcen, verf\u00fcgen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(139)<\/p>\n<\/td>\n

\n

Die Ziele der KI-Reallabore sollten in Folgendem bestehen: Innovationen im Bereich KI zu f\u00f6rdern, indem eine kontrollierte Versuchs- und Testumgebung f\u00fcr die Entwicklungsphase und die dem Inverkehrbringen vorgelagerte Phase geschaffen wird, um sicherzustellen, dass die innovativen KI-Systeme mit dieser Verordnung und anderem einschl\u00e4gigen Unionsrecht und dem nationalen Recht in Einklang stehen. Dar\u00fcber hinaus sollten die KI-Reallabore darauf abzielen, die Rechtssicherheit f\u00fcr Innovatoren sowie die Aufsicht und das Verst\u00e4ndnis der zust\u00e4ndigen Beh\u00f6rden in Bezug auf die M\u00f6glichkeiten, neu auftretenden Risiken und Auswirkungen der KI-Nutzung zu verbessern, das regulatorische Lernen f\u00fcr Beh\u00f6rden und Unternehmen zu erleichtern, unter anderem im Hinblick auf k\u00fcnftige Anpassungen des Rechtsrahmens, die Zusammenarbeit und den Austausch bew\u00e4hrter Praktiken mit den an dem KI-Reallabor beteiligten Beh\u00f6rden zu unterst\u00fctzen und den Marktzugang zu beschleunigen, unter anderem indem Hindernisse f\u00fcr KMU, einschlie\u00dflich Start-up-Unternehmen, abgebaut werden. KI-Reallabore sollten in der gesamten Union weithin verf\u00fcgbar sein, und ein besonderes Augenmerk sollte auf ihre Zug\u00e4nglichkeit f\u00fcr KMU, einschlie\u00dflich Start-up-Unternehmen, gelegt werden. Die Beteiligung am KI-Reallabor sollte sich auf Fragen konzentrieren, die zu Rechtsunsicherheit f\u00fcr Anbieter und zuk\u00fcnftige Anbieter f\u00fchren, damit sie Innovationen vornehmen, mit KI in der Union experimentieren und zu evidenzbasiertem regulatorischen Lernen beitragen. Die Beaufsichtigung der KI-Systeme im KI-Reallabor sollte sich daher auf deren Entwicklung, Training, Testen und Validierung vor dem Inverkehrbringen oder der Inbetriebnahme der Systeme sowie auf das Konzept und das Auftreten wesentlicher \u00c4nderungen erstrecken, die m\u00f6glicherweise ein neues Konformit\u00e4tsbewertungsverfahren erfordern. Alle erheblichen Risiken, die bei der Entwicklung und Erprobung solcher KI-Systeme festgestellt werden, sollten eine angemessene Risikominderung und, in Ermangelung dessen, die Aussetzung des Entwicklungs- und Erprobungsprozesses nach sich ziehen. Gegebenenfalls sollten die zust\u00e4ndigen nationalen Beh\u00f6rden, die KI-Reallabore einrichten, mit anderen einschl\u00e4gigen Beh\u00f6rden zusammenarbeiten, einschlie\u00dflich derjenigen, die den Schutz der Grundrechte \u00fcberwachen, und k\u00f6nnten die Einbeziehung anderer Akteure innerhalb des KI-\u00d6kosystems gestatten, wie etwa nationaler oder europ\u00e4ischer Normungsorganisationen, notifizierter Stellen, Test- und Versuchseinrichtungen, Forschungs- und Versuchslabore, Europ\u00e4ischer Digitaler Innovationszentren und einschl\u00e4giger Interessentr\u00e4ger und Organisationen der Zivilgesellschaft. Im Interesse einer unionsweit einheitlichen Umsetzung und der Erzielung von Gr\u00f6\u00dfenvorteilen ist es angezeigt, dass gemeinsame Vorschriften f\u00fcr die Umsetzung von KI-Reallaboren und ein Rahmen f\u00fcr die Zusammenarbeit zwischen den an der Beaufsichtigung der Reallabore beteiligten Beh\u00f6rden festgelegt werden. KI-Reallabore, die im Rahmen dieser Verordnung eingerichtet werden, sollten anderes Recht, das die Einrichtung anderer Reallabore erm\u00f6glicht, unber\u00fchrt lassen, um die Einhaltung anderen Rechts als dieser Verordnung sicherzustellen. Gegebenenfalls sollten die f\u00fcr diese anderen Reallabore zust\u00e4ndigen Beh\u00f6rden die Vorteile der Nutzung dieser Reallabore auch zum Zweck der Gew\u00e4hrleistung der Konformit\u00e4t der KI-Systeme mit dieser Verordnung ber\u00fccksichtigen. Im Einvernehmen zwischen den zust\u00e4ndigen nationalen Beh\u00f6rden und den am KI-Reallabor Beteiligten k\u00f6nnen Tests unter Realbedingungen auch im Rahmen des KI-Reallabors durchgef\u00fchrt und beaufsichtigt werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(140)<\/p>\n<\/td>\n

\n

Die vorliegende Verordnung sollte im Einklang mit Artikel\u00a06 Absatz\u00a04 und Artikel\u00a09 Absatz\u00a02 Buchstabe\u00a0g der Verordnung (EU) 2016\/679 und den Artikeln\u00a05, 6 und\u00a010 der Verordnung (EU) 2018\/1725 sowie unbeschadet des Artikels\u00a04 Absatz\u00a02 und des Artikels\u00a010 der Richtlinie (EU) 2016\/680 die Rechtsgrundlage f\u00fcr die Verwendung\u00a0\u2014 ausschlie\u00dflich unter bestimmten Bedingungen\u00a0\u2014 personenbezogener Daten, die f\u00fcr andere Zwecke erhoben wurden, zur Entwicklung bestimmter KI-Systeme im \u00f6ffentlichen Interesse innerhalb des KI-Reallabors durch die Anbieter und zuk\u00fcnftigen Anbieter im KI-Reallabor bilden. Alle anderen Pflichten von Verantwortlichen und Rechte betroffener Personen im Rahmen der Verordnungen (EU) 2016\/679 und (EU) 2018\/1725 und der Richtlinie (EU) 2016\/680 gelten weiterhin. Insbesondere sollte diese Verordnung keine Rechtsgrundlage im Sinne des Artikels\u00a022 Absatz\u00a02 Buchstabe\u00a0b der Verordnung (EU) 2016\/679 und des Artikels\u00a024 Absatz\u00a02 Buchstabe\u00a0b der Verordnung (EU) 2018\/1725 bilden. Anbieter und zuk\u00fcnftige Anbieter im KI-Reallabor sollten angemessene Schutzvorkehrungen treffen und mit den zust\u00e4ndigen Beh\u00f6rden zusammenarbeiten, unter anderem indem sie deren Anleitung folgen und z\u00fcgig und nach Treu und Glauben handeln, um etwaige erhebliche Risiken f\u00fcr die Sicherheit, die Gesundheit und die Grundrechte, die bei der Entwicklung, bei der Erprobung und bei Versuchen in diesem Reallabor auftreten k\u00f6nnen, zu mindern.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(141)<\/p>\n<\/td>\n

\n

Um den Prozess der Entwicklung und des Inverkehrbringens der in einem Anhang dieser Verordnung aufgef\u00fchrten Hochrisiko-KI-Systeme zu beschleunigen, ist es wichtig, dass Anbieter oder zuk\u00fcnftige Anbieter solcher Systeme auch von einer spezifischen Regelung f\u00fcr das Testen dieser Systeme unter Realbedingungen profitieren k\u00f6nnen, ohne sich an einem KI-Reallabor zu beteiligen. In solchen F\u00e4llen, unter Ber\u00fccksichtigung der m\u00f6glichen Folgen solcher Tests f\u00fcr Einzelpersonen, sollte jedoch sichergestellt werden, dass mit dieser Verordnung angemessene und ausreichende Garantien und Bedingungen f\u00fcr Anbieter oder zuk\u00fcnftige Anbieter eingef\u00fchrt werden. Diese Garantien sollten unter anderem die Einholung der informierten Einwilligung nat\u00fcrlicher Personen in die Beteiligung an Tests unter Realbedingungen umfassen, mit Ausnahme der Strafverfolgung, wenn die Einholung der informierten Einwilligung verhindern w\u00fcrde, dass das KI-System getestet wird. Die Einwilligung der Testteilnehmer zur Teilnahme an solchen Tests im Rahmen dieser Verordnung unterscheidet sich von der Einwilligung betroffener Personen in die Verarbeitung ihrer personenbezogenen Daten nach den einschl\u00e4gigen Datenschutzvorschriften und greift dieser nicht vor. Ferner ist es wichtig, die Risiken zu minimieren und die Aufsicht durch die zust\u00e4ndigen Beh\u00f6rden zu erm\u00f6glichen und daher von zuk\u00fcnftigen Anbietern zu verlangen, dass sie der zust\u00e4ndigen Markt\u00fcberwachungsbeh\u00f6rde einen Plan f\u00fcr einen Test unter Realbedingungen vorgelegt haben, die Tests\u00a0\u2014 vorbehaltlich einiger begrenzter Ausnahmen\u00a0\u2014 in den daf\u00fcr vorgesehenen Abschnitten der EU-Datenbank zu registrieren, den Zeitraum zu begrenzen, in dem die Tests durchgef\u00fchrt werden k\u00f6nnen, und zus\u00e4tzliche Schutzma\u00dfnahmen f\u00fcr Personen, die schutzbed\u00fcrftigen Gruppen angeh\u00f6ren, sowie eine schriftliche Einwilligung mit der Festlegung der Aufgaben und Zust\u00e4ndigkeiten der zuk\u00fcnftigen Anbieter und der Betreiber und eine wirksame Aufsicht durch zust\u00e4ndiges Personal, das an den Tests unter Realbedingungen beteiligt ist, zu verlangen. Dar\u00fcber hinaus ist es angezeigt, zus\u00e4tzliche Schutzma\u00dfnahmen vorzusehen, um sicherzustellen, dass die Vorhersagen, Empfehlungen oder Entscheidungen des KI-Systems effektiv r\u00fcckg\u00e4ngig gemacht und missachtet werden k\u00f6nnen, und dass personenbezogene Daten gesch\u00fctzt sind und gel\u00f6scht werden, wenn die Testteilnehmer ihre Einwilligung zur Teilnahme an den Tests widerrufen haben, und zwar unbeschadet ihrer Rechte als betroffene Personen nach dem Datenschutzrecht der Union. Was die Daten\u00fcbermittlung betrifft, so ist es angezeigt vorzusehen, dass Daten, die zum Zweck von Tests unter Realbedingungen erhoben und verarbeitet wurden, nur dann an Drittstaaten \u00fcbermittelt werden sollten, wenn angemessene und anwendbare Schutzma\u00dfnahmen nach dem Unionsrecht umgesetzt wurden, insbesondere im Einklang mit den Grundlagen f\u00fcr die \u00dcbermittlung personenbezogener Daten nach dem Datenschutzrecht der Union, w\u00e4hrend f\u00fcr nicht personenbezogene Daten angemessene Schutzma\u00dfnahmen im Einklang mit dem Unionsrecht, z.\u00a0B. den Verordnungen (EU) 2022\/868\u00a0(42<\/span>)<\/a> und (EU) 2023\/2854\u00a0(43<\/span>)<\/a> des Europ\u00e4ischen Parlaments und des Rates eingerichtet wurden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(142)<\/p>\n<\/td>\n

\n

Um sicherzustellen, dass KI zu sozial und \u00f6kologisch vorteilhaften Ergebnissen f\u00fchrt, werden die Mitgliedstaaten ermutigt, Forschung und Entwicklung zu KI-L\u00f6sungen, die zu sozial und \u00f6kologisch vorteilhaften Ergebnissen beitragen, zu unterst\u00fctzen und zu f\u00f6rdern, wie KI-gest\u00fctzte L\u00f6sungen f\u00fcr mehr Barrierefreiheit f\u00fcr Personen mit Behinderungen, zur Bek\u00e4mpfung sozio\u00f6konomischer Ungleichheiten oder zur Erreichung von Umweltzielen, indem ausreichend Ressourcen\u00a0\u2014 einschlie\u00dflich \u00f6ffentlicher Mittel und Unionsmittel\u00a0\u2014 bereitgestellt werden, und\u00a0\u2014 soweit angebracht und sofern die Voraussetzungen und Zulassungskriterien erf\u00fcllt sind\u00a0\u2014 insbesondere unter Ber\u00fccksichtigung von Projekten, mit denen diese Ziele verfolgt werden. Diese Projekte sollten auf dem Grundsatz der interdisziplin\u00e4ren Zusammenarbeit zwischen KI-Entwicklern, Sachverst\u00e4ndigen in den Bereichen Gleichstellung und Nichtdiskriminierung, Barrierefreiheit und Verbraucher-, Umwelt- und digitale Rechte sowie Wissenschaftlern beruhen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(143)<\/p>\n<\/td>\n

\n

Um Innovationen zu f\u00f6rdern und zu sch\u00fctzen, ist es wichtig, die Interessen von KMU, einschlie\u00dflich Start-up-Unternehmen, die Anbieter und Betreiber von KI-Systemen sind, besonders zu ber\u00fccksichtigen. Zu diesem Zweck sollten die Mitgliedstaaten Initiativen ergreifen, die sich an diese Akteure richten, darunter auch Sensibilisierungs- und Informationsma\u00dfnahmen. Die Mitgliedstaaten sollten KMU, einschlie\u00dflich Start-up-Unternehmen, die ihren Sitz oder eine Zweigniederlassung in der Union haben, vorrangigen Zugang zu den KI-Reallaboren gew\u00e4hren, soweit sie die Voraussetzungen und Zulassungskriterien erf\u00fcllen und ohne andere Anbieter und zuk\u00fcnftige Anbieter am Zugang zu den Reallaboren zu hindern, sofern die gleichen Voraussetzungen und Kriterien erf\u00fcllt sind. Die Mitgliedstaaten sollten bestehende Kan\u00e4le nutzen und gegebenenfalls neue Kan\u00e4le f\u00fcr die Kommunikation mit KMU, einschlie\u00dflich Start-up-Unternehmen, Betreibern, anderen Innovatoren und gegebenenfalls Beh\u00f6rden einrichten, um KMU auf ihrem gesamten Entwicklungsweg zu unterst\u00fctzen, indem sie ihnen Orientierungshilfe bieten und Fragen zur Durchf\u00fchrung dieser Verordnung beantworten. Diese Kan\u00e4le sollten gegebenenfalls zusammenarbeiten, um Synergien zu schaffen und eine Homogenit\u00e4t ihrer Leitlinien f\u00fcr KMU, einschlie\u00dflich Start-up-Unternehmen, und Betreiber sicherzustellen. Dar\u00fcber hinaus sollten die Mitgliedstaaten die Beteiligung von KMU und anderen einschl\u00e4gigen Interessentr\u00e4gern an der Entwicklung von Normen f\u00f6rdern. Au\u00dferdem sollten die besonderen Interessen und Bed\u00fcrfnisse von Anbietern, die KMU, einschlie\u00dflich Start-up-Unternehmen, sind, bei der Festlegung der Geb\u00fchren f\u00fcr die Konformit\u00e4tsbewertung durch die notifizierten Stellen ber\u00fccksichtigt werden. Die Kommission sollte regelm\u00e4\u00dfig die Zertifizierungs- und Befolgungskosten f\u00fcr KMU, einschlie\u00dflich Start-up-Unternehmen, durch transparente Konsultationen bewerten, und sie sollte mit den Mitgliedstaaten zusammenarbeiten, um diese Kosten zu senken. So k\u00f6nnen beispielsweise \u00dcbersetzungen im Zusammenhang mit der verpflichtenden Dokumentation und Kommunikation mit Beh\u00f6rden f\u00fcr Anbieter und andere Akteure, insbesondere die kleineren unter ihnen, erhebliche Kosten verursachen. Die Mitgliedstaaten sollten m\u00f6glichst daf\u00fcr sorgen, dass eine der Sprachen, die sie f\u00fcr die einschl\u00e4gige Dokumentation der Anbieter und f\u00fcr die Kommunikation mit den Akteuren bestimmen und akzeptieren, eine Sprache ist, die von der gr\u00f6\u00dftm\u00f6glichen Zahl grenz\u00fcberschreitender Betreiber weitgehend verstanden wird. Um den besonderen Bed\u00fcrfnissen von KMU, einschlie\u00dflich Start-up-Unternehmen, gerecht zu werden, sollte die Kommission auf Ersuchen des KI-Gremiums standardisierte Vorlagen f\u00fcr die unter diese Verordnung fallenden Bereiche bereitstellen. Ferner sollte die Kommission die Bem\u00fchungen der Mitgliedstaaten erg\u00e4nzen, indem sie eine zentrale Informationsplattform mit leicht nutzbaren Informationen \u00fcber diese Verordnung f\u00fcr alle Anbieter und Betreiber bereitstellt, indem sie angemessene Informationskampagnen durchf\u00fchrt, um f\u00fcr die aus dieser Verordnung erwachsenden Pflichten zu sensibilisieren, und indem sie die Konvergenz bew\u00e4hrter Praktiken bei Vergabeverfahren im Zusammenhang mit KI-Systemen bewertet und f\u00f6rdert. Mittlere Unternehmen, die\u00a0bis vor kurzem als kleine Unternehmen im Sinne des Anhangs der Empfehlung 2003\/361\/EG der Kommission\u00a0(44<\/span>)<\/a> galten, sollten Zugang zu diesen Unterst\u00fctzungsma\u00dfnahmen haben, da diese neuen mittleren Unternehmen mitunter nicht \u00fcber die erforderlichen rechtlichen Ressourcen und Ausbildung verf\u00fcgen, um ein ordnungsgem\u00e4\u00dfes Verst\u00e4ndnis und eine entsprechende Einhaltung dieser Verordnung zu gew\u00e4hrleisten.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(144)<\/p>\n<\/td>\n

\n

Um Innovationen zu f\u00f6rdern und zu sch\u00fctzen, sollten die Plattform f\u00fcr KI auf Abruf, alle einschl\u00e4gigen Finanzierungsprogramme und -projekte der Union, wie etwa das Programm \u201eDigitales Europa\u201c und Horizont Europa, die von der Kommission und den Mitgliedstaaten auf Unionsebene bzw. auf nationaler Ebene durchgef\u00fchrt werden, zur Verwirklichung der Ziele dieser Verordnung beitragen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(145)<\/p>\n<\/td>\n

\n

Um die Risiken bei der Umsetzung, die sich aus mangelndem Wissen und fehlenden Fachkenntnissen auf dem Markt ergeben, zu minimieren und den Anbietern, insbesondere KMU, einschlie\u00dflich Start-up-Unternehmen, und notifizierten Stellen die Einhaltung ihrer Pflichten aus dieser Verordnung zu erleichtern, sollten insbesondere die Plattform f\u00fcr KI auf Abruf, die europ\u00e4ischen Zentren f\u00fcr digitale Innovation und die Test- und Versuchseinrichtungen, die von der Kommission und den Mitgliedstaaten auf Unionsebene bzw. auf nationaler Ebene eingerichtet werden, zur Durchf\u00fchrung dieser Verordnung beitragen. Die Plattform f\u00fcr KI auf Abruf, die europ\u00e4ischen Zentren f\u00fcr digitale Innovation und die Test- und Versuchseinrichtungen k\u00f6nnen Anbieter und notifizierte Stellen im Rahmen ihres jeweiligen Auftrags und ihrer jeweiligen Kompetenzbereiche insbesondere technisch und wissenschaftlich unterst\u00fctzen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(146)<\/p>\n<\/td>\n

\n

Angesichts der sehr geringen Gr\u00f6\u00dfe einiger Akteure und um die Verh\u00e4ltnism\u00e4\u00dfigkeit in Bezug auf die Innovationskosten sicherzustellen, ist es dar\u00fcber hinaus angezeigt, Kleinstunternehmen zu erlauben, eine der kostspieligsten Pflichten, n\u00e4mlich die Einf\u00fchrung eines Qualit\u00e4tsmanagementsystems, in vereinfachter Weise zu erf\u00fcllen, was den Verwaltungsaufwand und die Kosten f\u00fcr diese Unternehmen verringern w\u00fcrde, ohne das Schutzniveau und die Notwendigkeit der Einhaltung der Anforderungen f\u00fcr Hochrisiko-KI-Systeme zu beeintr\u00e4chtigen. Die Kommission sollte Leitlinien ausarbeiten, um die Elemente des Qualit\u00e4tsmanagementsystems zu bestimmen, die von Kleinstunternehmen auf diese vereinfachte Weise zu erf\u00fcllen sind.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(147)<\/p>\n<\/td>\n

\n

Es ist angezeigt, dass die Kommission den Stellen, Gruppen oder Laboratorien, die gem\u00e4\u00df den einschl\u00e4gigen Harmonisierungsrechtsvorschriften der Union eingerichtet oder akkreditiert sind und Aufgaben im Zusammenhang mit der Konformit\u00e4tsbewertung von Produkten oder Ger\u00e4ten wahrnehmen, die unter diese Harmonisierungsrechtsvorschriften der Union fallen, so weit wie m\u00f6glich den Zugang zu Test- und Versuchseinrichtungen erleichtert. Dies gilt insbesondere f\u00fcr Expertengremien, Fachlaboratorien und Referenzlaboratorien im Bereich Medizinprodukte gem\u00e4\u00df den Verordnungen (EU) 2017\/745 und (EU) 2017\/746.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(148)<\/p>\n<\/td>\n

\n

Mit dieser Verordnung sollte ein Governance-Rahmen geschaffen werden, der sowohl die Koordinierung und Unterst\u00fctzung der Anwendung dieser Verordnung auf nationaler Ebene als auch den Aufbau von Kapazit\u00e4ten auf Unionsebene und die Integration von Interessentr\u00e4gern im Bereich der KI erm\u00f6glicht. F\u00fcr die wirksame Umsetzung und Durchsetzung dieser Verordnung ist ein Governance-Rahmen erforderlich, der es erm\u00f6glicht, zentrales Fachwissen auf Unionsebene zu koordinieren und aufzubauen. Per Kommissionbeschluss\u00a0(45<\/span>)<\/a> wurde das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz errichtet, dessen Aufgabe es ist, Fachwissen und Kapazit\u00e4ten der Union im Bereich der KI zu entwickeln und zur Umsetzung des Unionsrechts im KI-Bereich beizutragen. Die Mitgliedstaaten sollten die Aufgaben des B\u00fcros f\u00fcr K\u00fcnstliche Intelligenz erleichtern, um die Entwicklung von Fachwissen und Kapazit\u00e4ten auf Unionsebene zu unterst\u00fctzen und die Funktionsweise des digitalen Binnenmarkts zu st\u00e4rken. Dar\u00fcber hinaus sollten ein aus Vertretern der Mitgliedstaaten zusammengesetztes KI-Gremium, ein wissenschaftliches Gremium zur Integration der Wissenschaftsgemeinschaft und ein Beratungsforum f\u00fcr Beitr\u00e4ge von Interessentr\u00e4gern zur Durchf\u00fchrung dieser Verordnung auf Unionsebene und auf nationaler Ebene eingerichtet werden. Die Entwicklung von Fachwissen und Kapazit\u00e4ten der Union sollte auch die Nutzung bestehender Ressourcen und Fachkenntnisse umfassen, insbesondere durch Synergien mit Strukturen, die im Rahmen der Durchsetzung anderen Rechts auf Unionsebene aufgebaut wurden, und Synergien mit einschl\u00e4gigen Initiativen auf Unionsebene, wie dem Gemeinsamen Unternehmen EuroHPC und den KI-Test- und Versuchseinrichtungen im Rahmen des Programms \u201eDigitales Europa\u201c.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(149)<\/p>\n<\/td>\n

\n

Um eine reibungslose, wirksame und harmonisierte Durchf\u00fchrung dieser Verordnung zu erleichtern, sollte ein KI-Gremium eingerichtet werden. Das KI-Gremium sollte die verschiedenen Interessen des KI-\u00d6kosystems widerspiegeln und sich aus Vertretern der Mitgliedstaaten zusammensetzen. Das KI-Gremium sollte f\u00fcr eine Reihe von Beratungsaufgaben zust\u00e4ndig sein, einschlie\u00dflich der Abgabe von Stellungnahmen, Empfehlungen, Ratschl\u00e4gen oder Beitr\u00e4gen zu Leitlinien zu Fragen im Zusammenhang mit der Durchf\u00fchrung dieser Verordnung\u00a0\u2014 darunter zu Durchsetzungsfragen, technischen Spezifikationen oder bestehenden Normen in Bezug auf die in dieser Verordnung festgelegten Anforderungen\u00a0\u2014 sowie der Beratung der Kommission und der Mitgliedstaaten und ihrer zust\u00e4ndigen nationalen Beh\u00f6rden in spezifischen Fragen im Zusammenhang mit KI. Um den Mitgliedstaaten eine gewisse Flexibilit\u00e4t bei der Benennung ihrer Vertreter im KI-Gremium zu geben, k\u00f6nnen diese Vertreter alle Personen sein, die \u00f6ffentlichen Einrichtungen angeh\u00f6ren, die \u00fcber einschl\u00e4gige Zust\u00e4ndigkeiten und Befugnisse verf\u00fcgen sollten, um die Koordinierung auf nationaler Ebene zu erleichtern und zur Erf\u00fcllung der Aufgaben des KI-Gremiums beizutragen. Das KI-Gremium sollte zwei st\u00e4ndige Untergruppen einrichten, um Markt\u00fcberwachungsbeh\u00f6rden und notifizierenden Beh\u00f6rden f\u00fcr die Zusammenarbeit und den Austausch in Fragen, die die Markt\u00fcberwachung bzw. notifizierende Stellen betreffen, eine Plattform zu bieten. Die st\u00e4ndige Untergruppe f\u00fcr Markt\u00fcberwachung sollte f\u00fcr diese Verordnung als Gruppe f\u00fcr die Verwaltungszusammenarbeit (ADCO-Gruppe) im Sinne des Artikels\u00a030 der Verordnung (EU) 2019\/1020 fungieren. Im Einklang mit Artikel\u00a033 der genannten Verordnung sollte die Kommission die T\u00e4tigkeiten der st\u00e4ndigen Untergruppe f\u00fcr Markt\u00fcberwachung durch die Durchf\u00fchrung von Marktbewertungen oder -untersuchungen unterst\u00fctzen, insbesondere im Hinblick auf die Ermittlung von Aspekten dieser Verordnung, die eine spezifische und dringende Koordinierung zwischen den Markt\u00fcberwachungsbeh\u00f6rden erfordern. Das KI-Gremium kann weitere st\u00e4ndige oder nichtst\u00e4ndige Untergruppen einrichten, falls das f\u00fcr die Pr\u00fcfung bestimmter Fragen zweckm\u00e4\u00dfig sein sollte. Das KI-Gremium sollte gegebenenfalls auch mit einschl\u00e4gigen Einrichtungen, Sachverst\u00e4ndigengruppen und Netzwerken der Union zusammenarbeiten, die im Zusammenhang mit dem einschl\u00e4gigen Unionsrecht t\u00e4tig sind, einschlie\u00dflich insbesondere derjenigen, die im Rahmen des einschl\u00e4gigen Unionsrechts \u00fcber Daten, digitale Produkte und Dienstleistungen t\u00e4tig sind.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(150)<\/p>\n<\/td>\n

\n

Im Hinblick auf die Einbeziehung von Interessentr\u00e4gern in die Umsetzung und Anwendung dieser Verordnung sollte ein Beratungsforum eingerichtet werden, um das KI-Gremium und die Kommission zu beraten und ihnen technisches Fachwissen bereitzustellen. Um eine vielf\u00e4ltige und ausgewogene Vertretung der Interessentr\u00e4ger mit gewerblichen und nicht gewerblichen Interessen und\u00a0\u2014 innerhalb der Kategorie mit gewerblichen Interessen\u00a0\u2014 in Bezug auf KMU und andere Unternehmen zu gew\u00e4hrleisten, sollten in dem Beratungsforum unter anderem die Industrie, Start-up-Unternehmen, KMU, die Wissenschaft, die Zivilgesellschaft, einschlie\u00dflich der Sozialpartner, sowie die Agentur f\u00fcr Grundrechte, die ENISA, das Europ\u00e4ische Komitee f\u00fcr Normung (CEN), das Europ\u00e4ische Komitee f\u00fcr elektrotechnische Normung (CENELEC) und das Europ\u00e4ische Institut f\u00fcr Telekommunikationsnormen (ETSI) vertreten sein.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(151)<\/p>\n<\/td>\n

\n

Zur Unterst\u00fctzung der Umsetzung und Durchsetzung dieser Verordnung, insbesondere der Beobachtungst\u00e4tigkeiten des B\u00fcros f\u00fcr K\u00fcnstliche Intelligenz in Bezug auf KI-Modelle mit allgemeinem Verwendungszweck, sollte ein wissenschaftliches Gremium mit unabh\u00e4ngigen Sachverst\u00e4ndigen eingerichtet werden. Die unabh\u00e4ngigen Sachverst\u00e4ndigen, aus denen sich das wissenschaftliche Gremium zusammensetzt, sollten auf der Grundlage des aktuellen wissenschaftlichen oder technischen Fachwissens im KI-Bereich ausgew\u00e4hlt werden und ihre Aufgaben unparteiisch, objektiv und unter Achtung der Vertraulichkeit der bei der Durchf\u00fchrung ihrer Aufgaben und T\u00e4tigkeiten erhaltenen Informationen und Daten aus\u00fcben. Um eine Aufstockung der nationalen Kapazit\u00e4ten, die f\u00fcr die wirksame Durchsetzung dieser Verordnung erforderlich sind, zu erm\u00f6glichen, sollten die Mitgliedstaaten f\u00fcr ihre Durchsetzungst\u00e4tigkeiten Unterst\u00fctzung aus dem Pool von Sachverst\u00e4ndigen anfordern k\u00f6nnen, der das wissenschaftliche Gremium bildet.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(152)<\/p>\n<\/td>\n

\n

Um eine angemessene Durchsetzung in Bezug auf KI-Systeme zu unterst\u00fctzen und die Kapazit\u00e4ten der Mitgliedstaaten zu st\u00e4rken, sollten Unionsstrukturen zur Unterst\u00fctzung der Pr\u00fcfung von KI eingerichtet und den Mitgliedstaaten zur Verf\u00fcgung gestellt werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(153)<\/p>\n<\/td>\n

\n

Den Mitgliedstaaten kommt bei der Anwendung und Durchsetzung dieser Verordnung eine Schl\u00fcsselrolle zu. Dazu sollte jeder Mitgliedstaat mindestens eine notifizierende Beh\u00f6rde und mindestens eine Markt\u00fcberwachungsbeh\u00f6rde als zust\u00e4ndige nationale Beh\u00f6rden benennen, die die Anwendung und Durchf\u00fchrung dieser Verordnung beaufsichtigen. Die Mitgliedstaaten k\u00f6nnen beschlie\u00dfen, \u00f6ffentliche Einrichtungen jeder Art zu benennen, die die Aufgaben der zust\u00e4ndigen nationalen Beh\u00f6rden im Sinne dieser Verordnung gem\u00e4\u00df ihren spezifischen nationalen organisatorischen Merkmalen und Bed\u00fcrfnissen wahrnehmen. Um die Effizienz der Organisation aufseiten der Mitgliedstaaten zu steigern und eine zentrale Anlaufstelle gegen\u00fcber der \u00d6ffentlichkeit und anderen Ansprechpartnern auf Ebene der Mitgliedstaaten und der Union einzurichten, sollte jeder Mitgliedstaat eine Markt\u00fcberwachungsbeh\u00f6rde als zentrale Anlaufstelle benennen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(154)<\/p>\n<\/td>\n

\n

Die zust\u00e4ndigen nationalen Beh\u00f6rden sollten ihre Befugnisse unabh\u00e4ngig, unparteiisch und unvoreingenommen aus\u00fcben, um die Grunds\u00e4tze der Objektivit\u00e4t ihrer T\u00e4tigkeiten und Aufgaben zu wahren und die Anwendung und Durchf\u00fchrung dieser Verordnung sicherzustellen. Die Mitglieder dieser Beh\u00f6rden sollten sich jeder Handlung enthalten, die mit ihren Aufgaben unvereinbar w\u00e4re, und sie sollten den Vertraulichkeitsvorschriften gem\u00e4\u00df dieser Verordnung unterliegen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(155)<\/p>\n<\/td>\n

\n

Damit Anbieter von Hochrisiko-KI-Systemen die Erfahrungen mit der Verwendung von Hochrisiko-KI-Systemen bei der Verbesserung ihrer Systeme und im Konzeptions- und Entwicklungsprozess ber\u00fccksichtigen oder rechtzeitig etwaige Korrekturma\u00dfnahmen ergreifen k\u00f6nnen, sollten alle Anbieter \u00fcber ein System zur Beobachtung nach dem Inverkehrbringen verf\u00fcgen. Gegebenenfalls sollte die Beobachtung nach dem Inverkehrbringen eine Analyse der Interaktion mit anderen KI-Systemen, einschlie\u00dflich anderer Ger\u00e4te und Software, umfassen. Die Beobachtung nach dem Inverkehrbringen sollte nicht f\u00fcr sensible operative Daten von Betreibern, die Strafverfolgungsbeh\u00f6rden sind, gelten. Dieses System ist auch wichtig, damit den m\u00f6glichen Risiken, die von KI-Systemen ausgehen, die nach dem Inverkehrbringen oder der Inbetriebnahme dazulernen, effizienter und zeitnah begegnet werden kann. In diesem Zusammenhang sollten die Anbieter auch verpflichtet sein, ein System einzurichten, um den zust\u00e4ndigen Beh\u00f6rden schwerwiegende Vorf\u00e4lle zu melden, die sich aus der Verwendung ihrer KI-Systeme ergeben; damit sind Vorf\u00e4lle oder Fehlfunktionen gemeint, die zum Tod oder zu schweren Gesundheitssch\u00e4den f\u00fchren, schwerwiegende und irreversible St\u00f6rungen der Verwaltung und des Betriebs kritischer Infrastrukturen, Verst\u00f6\u00dfe gegen Verpflichtungen aus dem Unionsrecht, mit denen die Grundrechte gesch\u00fctzt werden sollen, oder schwere Sach- oder Umweltsch\u00e4den.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(156)<\/p>\n<\/td>\n

\n

Zur Gew\u00e4hrleistung einer angemessenen und wirksamen Durchsetzung der Anforderungen und Pflichten gem\u00e4\u00df dieser Verordnung, bei der es sich um eine Harmonisierungsrechtsvorschrift der Union handelt, sollte das mit der Verordnung (EU) 2019\/1020 eingef\u00fchrte System der Markt\u00fcberwachung und der Konformit\u00e4t von Produkten in vollem Umfang gelten. Die gem\u00e4\u00df dieser Verordnung benannten Markt\u00fcberwachungsbeh\u00f6rden sollten \u00fcber alle in der vorliegenden Verordnung und der Verordnung (EU) 2019\/1020 festgelegten Durchsetzungsbefugnisse verf\u00fcgen und ihre Befugnisse und Aufgaben unabh\u00e4ngig, unparteiisch und unvoreingenommen wahrnehmen. Obwohl die meisten KI-Systeme keinen spezifischen Anforderungen und Pflichten gem\u00e4\u00df der vorliegenden Verordnung unterliegen, k\u00f6nnen die Markt\u00fcberwachungsbeh\u00f6rden Ma\u00dfnahmen in Bezug auf alle KI-Systeme ergreifen, wenn sie ein Risiko gem\u00e4\u00df dieser Verordnung darstellen. Aufgrund des spezifischen Charakters der Organe, Einrichtungen und sonstigen Stellen der Union, die in den Anwendungsbereich dieser Verordnung fallen, ist es angezeigt, dass der Europ\u00e4ische Datenschutzbeauftragte als eine zust\u00e4ndige Markt\u00fcberwachungsbeh\u00f6rde f\u00fcr sie benannt wird. Die Benennung zust\u00e4ndiger nationaler Beh\u00f6rden durch die Mitgliedstaaten sollte davon unber\u00fchrt bleiben. Die Markt\u00fcberwachungst\u00e4tigkeiten sollten die F\u00e4higkeit der beaufsichtigten Einrichtungen, ihre Aufgaben unabh\u00e4ngig wahrzunehmen, nicht beeintr\u00e4chtigen, wenn eine solche Unabh\u00e4ngigkeit nach dem Unionsrecht erforderlich ist.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(157)<\/p>\n<\/td>\n

\n

Diese Verordnung ber\u00fchrt nicht die Zust\u00e4ndigkeiten, Aufgaben, Befugnisse und Unabh\u00e4ngigkeit der einschl\u00e4gigen nationalen Beh\u00f6rden oder Stellen, die die Anwendung des Unionsrechts zum Schutz der Grundrechte \u00fcberwachen, einschlie\u00dflich Gleichbehandlungsstellen und Datenschutzbeh\u00f6rden. Sofern dies f\u00fcr die Erf\u00fcllung ihres Auftrags erforderlich ist, sollten auch diese nationalen Beh\u00f6rden oder Stellen Zugang zu der gesamten im Rahmen dieser Verordnung erstellten Dokumentation haben. Es sollte ein spezifisches Schutzklauselverfahren festgelegt werden, um eine angemessene und zeitnahe Durchsetzung gegen\u00fcber KI-Systemen, die ein Risiko f\u00fcr Gesundheit, Sicherheit und Grundrechte bergen, sicherzustellen. Das Verfahren f\u00fcr solche KI-Systeme, die ein Risiko bergen, sollte auf Hochrisiko-KI-Systeme, von denen ein Risiko ausgeht, auf verbotene Systeme, die unter Versto\u00df gegen die in dieser Verordnung festgelegten verbotenen Praktiken in Verkehr gebracht, in Betrieb genommen oder verwendet wurden, sowie auf KI-Systeme, die unter Versto\u00df der Transparenzanforderungen dieser Verordnung bereitgestellt wurden und ein Risiko bergen, angewandt werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(158)<\/p>\n<\/td>\n

\n

Die Rechtsvorschriften der Union \u00fcber Finanzdienstleistungen enthalten Vorschriften und Anforderungen f\u00fcr die interne Unternehmensf\u00fchrung und das Risikomanagement, die f\u00fcr regulierte Finanzinstitute bei der Erbringung solcher Dienstleistungen gelten, auch wenn sie KI-Systeme verwenden. Um eine koh\u00e4rente Anwendung und Durchsetzung der Pflichten aus dieser Verordnung sowie der einschl\u00e4gigen Vorschriften und Anforderungen der Rechtsvorschriften der Union \u00fcber Finanzdienstleistungen zu gew\u00e4hrleisten, sollten die f\u00fcr die Beaufsichtigung und Durchsetzung jener Rechtsvorschriften zust\u00e4ndigen Beh\u00f6rden, insbesondere die zust\u00e4ndigen Beh\u00f6rden im Sinne der Verordnung (EU) Nr.\u00a0575\/2013 des Europ\u00e4ischen Parlaments und des Rates\u00a0(46<\/span>)<\/a> und der Richtlinien 2008\/48\/EG\u00a0(47<\/span>)<\/a>, 2009\/138\/EG\u00a0(48<\/span>)<\/a>, 2013\/36\/EU\u00a0(49<\/span>)<\/a>, 2014\/17\/EU\u00a0(50<\/span>)<\/a> und (EU) 2016\/97\u00a0(51<\/span>)<\/a> des Europ\u00e4ischen Parlaments und des Rates, im Rahmen ihrer jeweiligen Zust\u00e4ndigkeiten auch als zust\u00e4ndige Beh\u00f6rden f\u00fcr die Beaufsichtigung der Durchf\u00fchrung dieser Verordnung, einschlie\u00dflich der Markt\u00fcberwachungst\u00e4tigkeiten, in Bezug auf von regulierten und beaufsichtigten Finanzinstituten bereitgestellte oder verwendete KI-Systeme benannt werden, es sei denn, die Mitgliedstaaten beschlie\u00dfen, eine andere Beh\u00f6rde zu benennen, um diese Markt\u00fcberwachungsaufgaben wahrzunehmen. Diese zust\u00e4ndigen Beh\u00f6rden sollten alle Befugnisse gem\u00e4\u00df dieser Verordnung und der Verordnung (EU) 2019\/1020 haben, um die Anforderungen und Pflichten der vorliegenden Verordnung durchzusetzen, einschlie\u00dflich Befugnisse zur Durchf\u00fchrung von Ex-post-Markt\u00fcberwachungst\u00e4tigkeiten, die gegebenenfalls in ihre bestehenden Aufsichtsmechanismen und -verfahren im Rahmen des einschl\u00e4gigen Unionsrechts \u00fcber Finanzdienstleistungen integriert werden k\u00f6nnen. Es ist angezeigt, vorzusehen, dass die nationalen Beh\u00f6rden, die f\u00fcr die Aufsicht \u00fcber unter die Richtlinie 2013\/36\/EU fallende Kreditinstitute zust\u00e4ndig sind, welche an dem mit der Verordnung (EU) Nr.\u00a01024\/2013 des Rates\u00a0(52<\/span>)<\/a> eingerichteten einheitlichen Aufsichtsmechanismus teilnehmen, in ihrer Funktion als Markt\u00fcberwachungsbeh\u00f6rden gem\u00e4\u00df der vorliegenden Verordnung der Europ\u00e4ischen Zentralbank unverz\u00fcglich alle im Zuge ihrer Markt\u00fcberwachungst\u00e4tigkeiten ermittelten Informationen \u00fcbermitteln, die f\u00fcr die in der genannten Verordnung festgelegten Aufsichtsaufgaben der Europ\u00e4ischen Zentralbank von Belang sein k\u00f6nnten. Um die Koh\u00e4renz zwischen der vorliegenden Verordnung und den Vorschriften f\u00fcr Kreditinstitute, die unter die Richtlinie 2013\/36\/EU fallen, weiter zu verbessern, ist es ferner angezeigt, einige verfahrenstechnische Anbieterpflichten in Bezug auf das Risikomanagement, die Beobachtung nach dem Inverkehrbringen und die Dokumentation in die bestehenden Pflichten und Verfahren gem\u00e4\u00df der Richtlinie 2013\/36\/EU aufzunehmen. Zur Vermeidung von \u00dcberschneidungen sollten auch begrenzte Ausnahmen in Bezug auf das Qualit\u00e4tsmanagementsystem der Anbieter und die Beobachtungspflicht der Betreiber von Hochrisiko-KI-Systemen in Betracht gezogen werden, soweit diese Kreditinstitute betreffen, die unter die Richtlinie 2013\/36\/EU fallen. Die gleiche Regelung sollte f\u00fcr Versicherungs- und R\u00fcckversicherungsunternehmen und Versicherungsholdinggesellschaften gem\u00e4\u00df der Richtlinie 2009\/138\/EG und Versicherungsvermittler gem\u00e4\u00df der Richtlinie (EU) 2016\/97 sowie f\u00fcr andere Arten von Finanzinstituten gelten, die Anforderungen in Bezug auf ihre Regelungen oder Verfahren der internen Unternehmensf\u00fchrung unterliegen, die gem\u00e4\u00df einschl\u00e4gigem Unionsrecht der Union \u00fcber Finanzdienstleistungen festgelegt wurden, um Koh\u00e4renz und Gleichbehandlung im Finanzsektor sicherzustellen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(159)<\/p>\n<\/td>\n

\n

Jede Markt\u00fcberwachungsbeh\u00f6rde f\u00fcr Hochrisiko-KI-Systeme im Bereich der Biometrie, die in einem Anhang zu dieser Verordnung aufgef\u00fchrt sind, sollte\u00a0\u2014 soweit diese Systeme f\u00fcr die Zwecke der Strafverfolgung, von Migration, Asyl und Grenzkontrolle oder von Rechtspflege und demokratischen Prozessen eingesetzt werden\u00a0\u2014 \u00fcber wirksame Ermittlungs- und Korrekturbefugnisse verf\u00fcgen, einschlie\u00dflich mindestens der Befugnis, Zugang zu allen personenbezogenen Daten, die verarbeitet werden, und zu allen Informationen, die f\u00fcr die Aus\u00fcbung ihrer Aufgaben erforderlich sind, zu erhalten. Die Markt\u00fcberwachungsbeh\u00f6rden sollten in der Lage sein, ihre Befugnisse in v\u00f6lliger Unabh\u00e4ngigkeit auszu\u00fcben. Jede Beschr\u00e4nkung ihres Zugangs zu sensiblen operativen Daten im Rahmen dieser Verordnung sollte die Befugnisse unber\u00fchrt lassen, die ihnen mit der Richtlinie (EU) 2016\/680 \u00fcbertragen wurden. Kein Ausschluss der Offenlegung von Daten gegen\u00fcber nationalen Datenschutzbeh\u00f6rden im Rahmen dieser Verordnung sollte die derzeitigen oder k\u00fcnftigen Befugnisse dieser Beh\u00f6rden \u00fcber den Geltungsbereich dieser Verordnung hinaus beeintr\u00e4chtigen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(160)<\/p>\n<\/td>\n

\n

Die Markt\u00fcberwachungsbeh\u00f6rden und die Kommission sollten gemeinsame T\u00e4tigkeiten, einschlie\u00dflich gemeinsamer Untersuchungen, vorschlagen k\u00f6nnen, die von den Markt\u00fcberwachungsbeh\u00f6rden oder von den Markt\u00fcberwachungsbeh\u00f6rden gemeinsam mit der Kommission durchgef\u00fchrt werden, um Konformit\u00e4t zu f\u00f6rdern, Nichtkonformit\u00e4t festzustellen, zu sensibilisieren und Orientierung zu dieser Verordnung und bestimmten Kategorien von Hochrisiko-KI-Systemen bereitzustellen, bei denen festgestellt wird, dass sie in zwei oder mehr Mitgliedstaaten ein ernstes Risiko darstellen. Gemeinsame T\u00e4tigkeiten zur F\u00f6rderung der Konformit\u00e4t sollten im Einklang mit Artikel\u00a09 der Verordnung (EU)\u00a02019\/1020 durchgef\u00fchrt werden. Das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz sollte die Koordinierung gemeinsamer Untersuchungen unterst\u00fctzen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(161)<\/p>\n<\/td>\n

\n

Die Verantwortlichkeiten und Zust\u00e4ndigkeiten auf Unionsebene und nationaler Ebene in Bezug auf KI-Systeme, die auf KI-Modellen mit allgemeinem Verwendungszweck aufbauen, m\u00fcssen pr\u00e4zisiert werden. Um sich \u00fcberschneidende Zust\u00e4ndigkeiten zu vermeiden, sollte die Aufsicht f\u00fcr KI-Systeme, die auf KI-Modellen mit allgemeinem Verwendungszweck beruhen und bei denen das Modell und das System vom selben Anbieter bereitgestellt werden, auf der Unionsebene durch das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz erfolgen, das f\u00fcr diesen Zweck \u00fcber die Befugnisse einer Markt\u00fcberwachungsbeh\u00f6rde im Sinne der Verordnung (EU) 2019\/1020 verf\u00fcgen sollte. In allen anderen F\u00e4llen sollten die nationalen Markt\u00fcberwachungsbeh\u00f6rden weiterhin f\u00fcr die Aufsicht \u00fcber KI-Systeme zust\u00e4ndig sein. Bei KI-Systemen mit allgemeinem Verwendungszweck, die von Betreibern direkt f\u00fcr mindestens einen Zweck verwendet werden k\u00f6nnen, der als hochriskant eingestuft wird, sollten die Markt\u00fcberwachungsbeh\u00f6rden jedoch mit dem B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz zusammenarbeiten, um Konformit\u00e4tsbewertungen durchzuf\u00fchren, und sie sollten KI-Gremium und andere Markt\u00fcberwachungsbeh\u00f6rden entsprechend informieren. Dar\u00fcber hinaus sollten Markt\u00fcberwachungsbeh\u00f6rden das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz um Unterst\u00fctzung ersuchen k\u00f6nnen, wenn die Markt\u00fcberwachungsbeh\u00f6rde nicht in der Lage ist, eine Untersuchung zu einem Hochrisiko-KI-System abzuschlie\u00dfen, weil sie keinen Zugang zu bestimmten Informationen im Zusammenhang mit dem KI-Modell mit allgemeinem Verwendungszweck, auf dem das Hochrisiko-KI-System beruht, haben. In diesen F\u00e4llen sollte das Verfahren bez\u00fcglich grenz\u00fcbergreifender Amtshilfe nach Kapitel\u00a0VI der Verordnung (EU) 2019\/1020 entsprechend Anwendung finden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(162)<\/p>\n<\/td>\n

\n

Um das zentralisierte Fachwissen der Union und Synergien auf Unionsebene bestm\u00f6glich zu nutzen, sollte die Kommission f\u00fcr die Aufsicht und die Durchsetzung der Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck zust\u00e4ndig sein. Das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz sollte alle erforderlichen Ma\u00dfnahmen durchf\u00fchren k\u00f6nnen, um die wirksame Umsetzung dieser Verordnung im Hinblick auf KI-Modelle mit allgemeinem Verwendungszweck zu \u00fcberwachen. Es sollte m\u00f6gliche Verst\u00f6\u00dfe gegen die Vorschriften f\u00fcr Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sowohl auf eigene Initiative, auf der Grundlage der Ergebnisse seiner \u00dcberwachungst\u00e4tigkeiten, als auch auf Anfrage von Markt\u00fcberwachungsbeh\u00f6rden gem\u00e4\u00df den in dieser Verordnung festgelegten Bedingungen untersuchen k\u00f6nnen. Zur Unterst\u00fctzung einer wirksamen \u00dcberwachung durch das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz sollte die M\u00f6glichkeit vorgesehen werden, dass nachgelagerte Anbieter Beschwerden \u00fcber m\u00f6gliche Verst\u00f6\u00dfe gegen die Vorschriften f\u00fcr Anbieter von KI-Modellen und -Systemen mit allgemeinem Verwendungszweck einreichen k\u00f6nnen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(163)<\/p>\n<\/td>\n

\n

Um die Governance-Systeme f\u00fcr KI-Modelle mit allgemeinem Verwendungszweck zu erg\u00e4nzen, sollte das wissenschaftliche Gremium die \u00dcberwachungst\u00e4tigkeiten des B\u00fcros f\u00fcr K\u00fcnstliche Intelligenz unterst\u00fctzen; dazu kann es in bestimmten F\u00e4llen qualifizierte Warnungen an das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz richten, die Folgema\u00dfnahmen wie etwa Untersuchungen ausl\u00f6sen. Dies sollte der Fall sein, wenn das wissenschaftliche Gremium Grund zu der Annahme hat, dass ein KI-Modell mit allgemeinem Verwendungszweck ein konkretes und identifizierbares Risiko auf Unionsebene darstellt. Au\u00dferdem sollte dies der Fall sein, wenn das wissenschaftliche Gremium Grund zu der Annahme hat, dass ein KI-Modell mit allgemeinem Verwendungszweck die Kriterien erf\u00fcllt, die zu einer Einstufung als KI-Modell mit allgemeinem Verwendungszweck mit systemischem Risiko f\u00fchren w\u00fcrde. Um dem wissenschaftlichen Gremium die Informationen zur Verf\u00fcgung zu stellen, die f\u00fcr die Aus\u00fcbung dieser Aufgaben erforderlich sind, sollte es einen Mechanismus geben, wonach das wissenschaftliche Gremium die Kommission ersuchen kann, Unterlagen oder Informationen von einem Anbieter anzufordern.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(164)<\/p>\n<\/td>\n

\n

Das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz sollte die erforderlichen Ma\u00dfnahmen ergreifen k\u00f6nnen, um die wirksame Umsetzung und die Einhaltung der in dieser Verordnung festgelegten Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck zu \u00fcberwachen. Das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz sollte m\u00f6gliche Verst\u00f6\u00dfe im Einklang mit den in dieser Verordnung vorgesehenen Befugnissen untersuchen k\u00f6nnen, unter anderem indem es Unterlagen und Informationen anfordert, Bewertungen durchf\u00fchrt und Ma\u00dfnahmen von Anbietern von KI-Modellen mit allgemeinem Verwendungszweck verlangt. Was die Durchf\u00fchrung von Bewertungen betrifft, so sollte das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz unabh\u00e4ngige Sachverst\u00e4ndige mit der Durchf\u00fchrung der Bewertungen in seinem Namen beauftragen k\u00f6nnen, damit unabh\u00e4ngiges Fachwissen genutzt werden kann. Die Einhaltung der Pflichten sollte durchsetzbar sein, unter anderem durch die Aufforderung zum Ergreifen angemessener Ma\u00dfnahmen, einschlie\u00dflich Risikominderungsma\u00dfnahmen im Fall von festgestellten systemischen Risiken, sowie durch die Einschr\u00e4nkung der Bereitstellung des Modells auf dem Markt, die R\u00fccknahme des Modells oder den R\u00fcckruf des Modells. Als Schutzma\u00dfnahme, die erforderlichenfalls \u00fcber die in dieser Verordnung vorgesehenen Verfahrensrechte hinausgeht, sollten die Anbieter von KI-Modellen mit allgemeinem Verwendungszweck \u00fcber die in Artikel\u00a018 der Verordnung (EU) 2019\/1020 vorgesehenen Verfahrensrechte verf\u00fcgen, die\u00a0\u2014 unbeschadet in der vorliegenden Verordnung vorgesehener spezifischerer Verfahrensrechte\u00a0\u2014 entsprechend gelten sollten.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(165)<\/p>\n<\/td>\n

\n

Die Entwicklung anderer KI-Systeme als Hochrisiko-KI-Systeme gem\u00e4\u00df den Anforderungen dieser Verordnung kann zu einer st\u00e4rkeren Verbreitung ethischer und vertrauensw\u00fcrdiger KI in der Union f\u00fchren. Anbieter von KI-Systemen, die kein hohes Risiko bergen, sollten angehalten werden, Verhaltenskodizes\u00a0\u2014 einschlie\u00dflich zugeh\u00f6riger Governance-Mechanismen\u00a0\u2014 zu erstellen, um eine freiwillige Anwendung einiger oder aller der f\u00fcr Hochrisiko-KI-Systeme geltenden Anforderungen zu f\u00f6rdern, die angesichts der Zweckbestimmung der Systeme und des niedrigeren Risikos angepasst werden, und unter Ber\u00fccksichtigung der verf\u00fcgbaren technischen L\u00f6sungen und bew\u00e4hrten Verfahren der Branche wie Modell- und Datenkarten. Dar\u00fcber hinaus sollten die Anbieter und gegebenenfalls die Betreiber aller KI-Systeme, ob mit hohem Risiko oder nicht, und aller KI-Modelle auch ermutigt werden, freiwillig zus\u00e4tzliche Anforderungen anzuwenden, z.\u00a0B. in Bezug auf die Elemente der Ethikleitlinien der Union f\u00fcr vertrauensw\u00fcrdige KI, die \u00f6kologische Nachhaltigkeit, Ma\u00dfnahmen f\u00fcr KI-Kompetenz, die inklusive und vielf\u00e4ltige Gestaltung und Entwicklung von KI-Systemen, unter anderem mit Schwerpunkt auf schutzbed\u00fcrftige Personen und die Barrierefreiheit f\u00fcr Menschen mit Behinderungen, die Beteiligung der Interessentr\u00e4ger, gegebenenfalls mit Einbindung einschl\u00e4giger Interessentr\u00e4ger wie Unternehmensverb\u00e4nden und Organisationen der Zivilgesellschaft, Wissenschaft, Forschungsorganisationen, Gewerkschaften und Verbraucherschutzorganisationen an der Konzeption und Entwicklung von KI-Systemen und die Vielfalt der Entwicklungsteams, einschlie\u00dflich einer ausgewogenen Vertretung der Geschlechter. Um sicherzustellen, dass die freiwilligen Verhaltenskodizes wirksam sind, sollten sie auf klaren Zielen und zentralen Leistungsindikatoren zur Messung der Verwirklichung dieser Ziele beruhen. Sie sollten au\u00dferdem in inklusiver Weise entwickelt werden, gegebenenfalls unter Einbeziehung einschl\u00e4giger Interessentr\u00e4ger wie Unternehmensverb\u00e4nde und Organisationen der Zivilgesellschaft, Wissenschaft, Forschungsorganisationen, Gewerkschaften und Verbraucherschutzorganisationen. Die Kommission kann Initiativen, auch sektoraler Art, ergreifen, um den Abbau technischer Hindernisse zu erleichtern, die den grenz\u00fcberschreitenden Datenaustausch im Zusammenhang mit der KI-Entwicklung behindern, unter anderem in Bezug auf die Infrastruktur f\u00fcr den Datenzugang und die semantische und technische Interoperabilit\u00e4t verschiedener Arten von Daten.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(166)<\/p>\n<\/td>\n

\n

Es ist wichtig, dass KI-Systeme im Zusammenhang mit Produkten, die gem\u00e4\u00df dieser Verordnung kein hohes Risiko bergen und daher nicht die in dieser Verordnung festgelegten Anforderungen f\u00fcr Hochrisiko-KI-Systeme erf\u00fcllen m\u00fcssen, dennoch sicher sind, wenn sie in Verkehr gebracht oder in Betrieb genommen werden. Um zu diesem Ziel beizutragen, w\u00fcrde die Verordnung (EU) 2023\/988 des Europ\u00e4ischen Parlaments und des Rates\u00a0(53<\/span>)<\/a> als Sicherheitsnetz dienen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(167)<\/p>\n<\/td>\n

\n

Zur Gew\u00e4hrleistung einer vertrauensvollen und konstruktiven Zusammenarbeit der zust\u00e4ndigen Beh\u00f6rden auf Ebene der Union und der Mitgliedstaaten sollten alle an der Anwendung dieser Verordnung beteiligten Parteien gem\u00e4\u00df dem Unionsrecht und dem nationalen Recht die Vertraulichkeit der im Rahmen der Wahrnehmung ihrer Aufgaben erlangten Informationen und Daten wahren. Sie sollten ihre Aufgaben und T\u00e4tigkeiten so aus\u00fcben, dass insbesondere die Rechte des geistigen Eigentums, vertrauliche Gesch\u00e4ftsinformationen und Gesch\u00e4ftsgeheimnisse, die wirksame Durchf\u00fchrung dieser Verordnung, die \u00f6ffentlichen und nationalen Sicherheitsinteressen, die Integrit\u00e4t von Straf- und Verwaltungsverfahren und die Integrit\u00e4t von Verschlusssachen gesch\u00fctzt werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(168)<\/p>\n<\/td>\n

\n

Die Einhaltung dieser Verordnung sollte durch die Verh\u00e4ngung von Sanktionen und anderen Durchsetzungsma\u00dfnahmen durchsetzbar sein. Die Mitgliedstaaten sollten alle erforderlichen Ma\u00dfnahmen ergreifen, um sicherzustellen, dass die Bestimmungen dieser Verordnung durchgef\u00fchrt werden, und dazu unter anderem wirksame, verh\u00e4ltnism\u00e4\u00dfige und abschreckende Sanktionen f\u00fcr Verst\u00f6\u00dfe\u00a0festlegen und das Verbot der Doppelbestrafung befolgen. Um die verwaltungsrechtlichen Sanktionen f\u00fcr Verst\u00f6\u00dfe gegen diese Verordnung zu versch\u00e4rfen und zu harmonisieren, sollten Obergrenzen f\u00fcr die Festsetzung der Geldbu\u00dfen bei bestimmten Verst\u00f6\u00dfen festgelegt werden. Bei der Bemessung der H\u00f6he der Geldbu\u00dfen sollten die Mitgliedstaaten in jedem Einzelfall alle relevanten Umst\u00e4nde der jeweiligen Situation ber\u00fccksichtigen, insbesondere die Art, die Schwere und die Dauer des Versto\u00dfes und seiner Folgen sowie die Gr\u00f6\u00dfe des Anbieters, vor allem wenn es sich bei diesem um ein KMU\u00a0\u2014 einschlie\u00dflich eines Start-up-Unternehmens\u00a0\u2014 handelt. Der Europ\u00e4ische Datenschutzbeauftragte sollte befugt sein, gegen Organe, Einrichtungen und sonstige Stellen der Union, die in den Anwendungsbereich dieser Verordnung fallen, Geldbu\u00dfen zu verh\u00e4ngen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(169)<\/p>\n<\/td>\n

\n

Die Einhaltung der mit dieser Verordnung auferlegten Pflichten f\u00fcr Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sollte unter anderem durch Geldbu\u00dfen durchgesetzt werden k\u00f6nnen. Zu diesem Zweck sollten Geldbu\u00dfen in angemessener H\u00f6he f\u00fcr Verst\u00f6\u00dfe gegen diese Pflichten, einschlie\u00dflich der Nichteinhaltung der von der Kommission gem\u00e4\u00df dieser Verordnung verlangten Ma\u00dfnahmen, festgesetzt werden, vorbehaltlich angemessener Verj\u00e4hrungsfristen im Einklang mit dem Grundsatz der Verh\u00e4ltnism\u00e4\u00dfigkeit. Alle Beschl\u00fcsse, die die Kommission auf der Grundlage dieser Verordnung fasst, unterliegen der \u00dcberpr\u00fcfung durch den Gerichtshof der Europ\u00e4ischen Union im Einklang mit dem AEUV, einschlie\u00dflich der Befugnis des Gerichtshofs zu unbeschr\u00e4nkter Ermessensnachpr\u00fcfung hinsichtlich Zwangsma\u00dfnahmen im Einklang mit Artikel\u00a0261 AEUV.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(170)<\/p>\n<\/td>\n

\n

Im Unionsrecht und im nationalen Recht sind bereits wirksame Rechtsbehelfe f\u00fcr nat\u00fcrliche und juristische Personen vorgesehen, deren Rechte und Freiheiten durch die Nutzung von KI-Systemen beeintr\u00e4chtigt werden. Unbeschadet dieser Rechtsbehelfe sollte jede nat\u00fcrliche oder juristische Person, die Grund zu der Annahme hat, dass gegen diese Verordnung versto\u00dfen wurde, befugt sein, bei der betreffenden Markt\u00fcberwachungsbeh\u00f6rde eine Beschwerde einzureichen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(171)<\/p>\n<\/td>\n

\n

Betroffene Personen sollten das Recht haben, eine Erkl\u00e4rung zu erhalten, wenn eine Entscheidung eines Betreibers \u00fcberwiegend auf den Ausgaben bestimmter Hochrisiko-KI-systeme beruht, die in den Geltungsbereich dieser Verordnung fallen, und wenn diese Entscheidung Rechtswirkungen entfaltet oder diese Personen in \u00e4hnlicher Weise wesentlich beeintr\u00e4chtigt, und zwar so, dass sie ihrer Ansicht nach negative Auswirkungen auf ihre Gesundheit, ihre Sicherheit oder ihre Grundrechte hat. Diese Erkl\u00e4rung sollte klar und aussagekr\u00e4ftig sein, und sie sollte eine Grundlage bieten, auf der die betroffenen Personen ihre Rechte aus\u00fcben k\u00f6nnen. Das Recht auf eine Erkl\u00e4rung sollte nicht f\u00fcr die Nutzung von KI-Systemen gelten, f\u00fcr die sich aus dem Unionsrecht oder dem nationalen Recht Ausnahmen oder Beschr\u00e4nkungen ergeben, und es sollte nur insoweit gelten, als es nicht bereits in anderem Unionsrecht vorgesehen ist.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(172)<\/p>\n<\/td>\n

\n

Personen, die als Hinweisgeber in Bezug auf die in dieser Verordnung genannten Verst\u00f6\u00dfe auftreten, sollten durch das Unionsrecht gesch\u00fctzt werden. F\u00fcr die Meldung von Verst\u00f6\u00dfen gegen diese Verordnung und den Schutz von Personen, die solche Verst\u00f6\u00dfe melden, sollte daher die Richtlinie (EU) 2019\/1937 des Europ\u00e4ischen Parlaments und des Rates\u00a0(54<\/span>)<\/a> gelten.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(173)<\/p>\n<\/td>\n

\n

Damit der Regelungsrahmen erforderlichenfalls angepasst werden kann, sollte der Kommission die Befugnis \u00fcbertragen werden, gem\u00e4\u00df Artikel\u00a0290 AEUV Rechtsakte zur \u00c4nderung der Bedingungen, unter denen ein KI-System nicht als Hochrisiko-System einzustufen ist, der Liste der Hochrisiko-KI-Systeme, der Bestimmungen \u00fcber die technische Dokumentation, des Inhalts der EU-Konformit\u00e4tserkl\u00e4rung, der Bestimmungen \u00fcber die Konformit\u00e4tsbewertungsverfahren, der Bestimmungen zur Festlegung der Hochrisiko-KI-Systeme, f\u00fcr die das Konformit\u00e4tsbewertungsverfahren auf der Grundlage der Bewertung des Qualit\u00e4tsmanagementsystems und der technischen Dokumentation gelten sollte, der Schwellenwerte, Benchmarks und Indikatoren\u00a0\u2014 auch durch Erg\u00e4nzung dieser Benchmarks und Indikatoren\u00a0\u2014 in den Vorschriften f\u00fcr die Einstufung von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko, der Kriterien f\u00fcr die Benennung von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko, der technischen Dokumentation f\u00fcr Anbieter von KI-Modellen mit allgemeinem Verwendungszweck und der Transparenzinformationen f\u00fcr Anbieter von KI-Modellen mit allgemeinem Verwendungszweck zu erlassen. Es ist von besonderer Bedeutung, dass die Kommission im Zuge ihrer Vorbereitungsarbeit angemessene Konsultationen, auch auf der Ebene von Sachverst\u00e4ndigen, durchf\u00fchrt, die mit den Grunds\u00e4tzen in Einklang stehen, die in der Interinstitutionellen Vereinbarung vom 13.\u00a0April 2016 \u00fcber bessere Rechtsetzung\u00a0(55<\/span>)<\/a> niedergelegt wurden. Um insbesondere f\u00fcr eine gleichberechtigte Beteiligung an der Vorbereitung delegierter Rechtsakte zu sorgen, erhalten das Europ\u00e4ische Parlament und der Rat alle Dokumente zur gleichen Zeit wie die Sachverst\u00e4ndigen der Mitgliedstaaten, und ihre Sachverst\u00e4ndigen haben systematisch Zugang zu den Sitzungen der Sachverst\u00e4ndigengruppen der Kommission, die mit der Vorbereitung der delegierten Rechtsakte befasst sind.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(174)<\/p>\n<\/td>\n

\n

Angesichts der raschen technologischen Entwicklungen und des f\u00fcr die wirksame Anwendung dieser Verordnung erforderlichen technischen Fachwissens sollte die Kommission diese Verordnung\u00a0bis zum 2.\u00a0August 2029 und danach alle vier Jahre bewerten und \u00fcberpr\u00fcfen und dem Europ\u00e4ischen Parlament und dem Rat dar\u00fcber Bericht erstatten. Dar\u00fcber hinaus sollte die Kommission\u00a0\u2014 unter Ber\u00fccksichtigung der Auswirkungen auf den Geltungsbereich dieser Verordnung\u00a0\u2014 einmal j\u00e4hrlich beurteilen, ob es notwendig ist, die Liste der Hochrisiko-KI-Systeme und die Liste der verbotenen Praktiken zu \u00e4ndern. Au\u00dferdem sollte die Kommission\u00a0bis zum 2.\u00a0August 2028 und danach alle vier Jahre die Notwendigkeit einer \u00c4nderung der Liste der Hochrisikobereiche im Anhang dieser Verordnung, die KI-Systeme im Geltungsbereich der Transparenzpflichten, die Wirksamkeit des Aufsichts- und Governance-Systems und die Fortschritte bei der Entwicklung von Normungsdokumenten zur energieeffizienten Entwicklung von KI-Modellen mit allgemeinem Verwendungszweck, einschlie\u00dflich der Notwendigkeit weiterer Ma\u00dfnahmen oder Handlungen, bewerten und dem Europ\u00e4ischen Parlament und dem Rat dar\u00fcber Bericht erstatten. Schlie\u00dflich sollte die Kommission\u00a0bis zum 2.\u00a0August 2028 und danach alle drei Jahre eine Bewertung der Folgen und der Wirksamkeit der freiwilligen Verhaltenskodizes durchf\u00fchren, mit denen die Anwendung der f\u00fcr Hochrisiko-KI-Systeme vorgesehenen Anforderungen bei anderen KI-Systemen als Hochrisiko-KI-Systemen und m\u00f6glicherweise auch zus\u00e4tzlicher Anforderungen an solche KI-Systeme gef\u00f6rdert werden soll.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(175)<\/p>\n<\/td>\n

\n

Zur Gew\u00e4hrleistung einheitlicher Bedingungen f\u00fcr die Durchf\u00fchrung dieser Verordnung sollten der Kommission Durchf\u00fchrungsbefugnisse \u00fcbertragen werden. Diese Befugnisse sollten gem\u00e4\u00df der Verordnung (EU) Nr.\u00a0182\/2011 des Europ\u00e4ischen Parlaments und des Rates\u00a0(56<\/span>)<\/a> ausge\u00fcbt werden.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(176)<\/p>\n<\/td>\n

\n

Da das Ziel dieser Verordnung, n\u00e4mlich die Verbesserung der Funktionsweise des Binnenmarkts und die F\u00f6rderung der Einf\u00fchrung einer auf den Menschen ausgerichteten und vertrauensw\u00fcrdigen KI bei gleichzeitiger Gew\u00e4hrleistung eines hohen Ma\u00dfes an Schutz der Gesundheit, der Sicherheit, der in der Charta verankerten Grundrechte, einschlie\u00dflich Demokratie, Rechtsstaatlichkeit und Schutz der Umwelt vor sch\u00e4dlichen Auswirkungen von KI-Systemen in der Union, und der F\u00f6rderung von Innovation, von den Mitgliedstaaten nicht ausreichend verwirklicht werden kann, sondern vielmehr wegen des Umfangs oder der Wirkungen der Ma\u00dfnahme auf Unionsebene besser zu verwirklichen ist, kann die Union im Einklang mit dem in Artikel\u00a05 EUV verankerten Subsidiarit\u00e4tsprinzip t\u00e4tig werden. Entsprechend dem in demselben Artikel genannten Grundsatz der Verh\u00e4ltnism\u00e4\u00dfigkeit geht diese Verordnung nicht \u00fcber das f\u00fcr die Verwirklichung dieses Ziels erforderliche Ma\u00df hinaus.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(177)<\/p>\n<\/td>\n

\n

Um Rechtssicherheit zu gew\u00e4hrleisten, einen angemessenen Anpassungszeitraum f\u00fcr die Akteure sicherzustellen und Marktst\u00f6rungen zu vermeiden, unter anderem durch Gew\u00e4hrleistung der Kontinuit\u00e4t der Verwendung von KI-Systemen, ist es angezeigt, dass diese Verordnung nur dann f\u00fcr die Hochrisiko-KI-Systeme, die vor dem allgemeinen Anwendungsbeginn dieser Verordnung in Verkehr gebracht oder in Betrieb genommen wurden, gilt, wenn diese Systeme ab diesem Datum erheblichen Ver\u00e4nderungen in Bezug auf ihre Konzeption oder Zweckbestimmung unterliegen. Es ist angezeigt, klarzustellen, dass der Begriff der erheblichen Ver\u00e4nderung in diesem Hinblick als gleichwertig mit dem Begriff der wesentlichen \u00c4nderung verstanden werden sollte, der nur in Bezug auf Hochrisiko-KI-Systeme im Sinne dieser Verordnung verwendet wird. Ausnahmsweise und im Lichte der \u00f6ffentlichen Rechenschaftspflicht sollten Betreiber von KI-Systemen, die Komponenten der in einem Anhang zu dieser Verordnung aufgef\u00fchrten durch Rechtsakte eingerichteten IT-Gro\u00dfsysteme sind, und Betreiber von Hochrisiko-KI-Systemen, die von Beh\u00f6rden genutzt werden sollen, die erforderlichen Schritte unternehmen, um den Anforderungen dieser Verordnung\u00a0bis Ende 2030 bzw.\u00a0bis zum 2.\u00a0August 2030 nachzukommen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(178)<\/p>\n<\/td>\n

\n

Die Anbieter von Hochrisiko-KI-Systemen werden ermutigt, auf freiwilliger Basis bereits w\u00e4hrend der \u00dcbergangsphase mit der Einhaltung der einschl\u00e4gigen Pflichten aus dieser Verordnung zu beginnen.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(179)<\/p>\n<\/td>\n

\n

Diese Verordnung sollte ab dem 2.\u00a0August 2026 gelten. Angesichts des unannehmbaren Risikos, das mit der Nutzung von KI auf bestimmte Weise verbunden ist, sollten die Verbote sowie die allgemeinen Bestimmungen dieser Verordnung jedoch bereits ab dem 2.\u00a0Februar 2025 gelten. W\u00e4hrend die volle Wirkung dieser Verbote erst mit der Festlegung der Leitung und der Durchsetzung dieser Verordnung entsteht, ist die Vorwegnahme der Anwendung der Verbote wichtig, um unannehmbaren Risiken Rechnung zu tragen und Wirkung auf andere Verfahren, etwa im Zivilrecht, zu entfalten. Dar\u00fcber hinaus sollte die Infrastruktur f\u00fcr die Leitung und das Konformit\u00e4tsbewertungssystem vor dem 2.\u00a0August 2026 einsatzbereit sein, weshalb die Bestimmungen \u00fcber notifizierte Stellen und die Leitungsstruktur ab dem 2.\u00a0August 2025 gelten sollten. Angesichts des raschen technologischen Fortschritts und der Einf\u00fchrung von KI-Modellen mit allgemeinem Verwendungszweck sollten die Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck ab dem 2.\u00a0August 2025 gelten. Die Verhaltenskodizes sollten\u00a0bis zum 2.\u00a0Mai 2025 vorliegen, damit die Anbieter die Einhaltung fristgerecht nachweisen k\u00f6nnen. Das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz sollte sicherstellen, dass die Vorschriften und Verfahren f\u00fcr die Einstufung jeweils dem Stand der technologischen Entwicklung entsprechen. Dar\u00fcber hinaus sollten die Mitgliedstaaten die Vorschriften \u00fcber Sanktionen, einschlie\u00dflich Geldbu\u00dfen, festlegen und der Kommission mitteilen sowie daf\u00fcr sorgen, dass diese\u00a0bis zum Geltungsbeginn dieser Verordnung ordnungsgem\u00e4\u00df und wirksam umgesetzt werden. Daher sollten die Bestimmungen \u00fcber Sanktionen ab dem 2.\u00a0August 2025 gelten.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

\n\n\n\n<\/colgroup>\n\n\n
\n

(180)<\/p>\n<\/td>\n

\n

Der Europ\u00e4ische Datenschutzbeauftragte und der Europ\u00e4ische Datenschutzausschuss wurden gem\u00e4\u00df Artikel\u00a042 Abs\u00e4tze\u00a01 und 2 der Verordnung (EU) 2018\/1725 angeh\u00f6rt und haben am 18.\u00a0Juni 2021 ihre gemeinsame Stellungnahme abgegeben\u00a0\u2014<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

HABEN FOLGENDE VERORDNUNG ERLASSEN:<\/p>\n

(Link zum Volltext der KI-Verordnung<\/a>)<\/p>\n<\/div>","protected":false},"excerpt":{"rendered":"

Gem\u00e4\u00df \u00a7 5 (1) UrhG genie\u00dfen Gesetze, Verordnungen, amtliche Erlasse und Bekanntmachungen sowie Entscheidungen und amtlich verfasste Leits\u00e4tze zu Entscheidungen keinen urheberrechtlichen Schutz und d\u00fcrfen demnach frei publiziert werden. Dieser Text stammt urspr\u00fcnglich vom Amt f\u00fcr Ver\u00f6ffentlichungen der Europ\u00e4ischen Union (Stand: 13.06.2024). VERORDNUNG (EU) 2024\/1689 DES EUROP\u00c4ISCHEN PARLAMENTS UND DES RATES vom 13. Juni 2024 …<\/p>","protected":false},"author":2,"featured_media":0,"parent":3578,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"page-templates\/page-with-left-sidebar.php","meta":{"iawp_total_views":8,"footnotes":""},"class_list":["post-5294","page","type-page","status-publish","hentry"],"yoast_head":"\nErw\u00e4gungsgr\u00fcnde der KI-Verordnung (KI-VO bzw. AI Act) - DER Datenschutzbeauftragte f\u00fcr Deutschland<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/datenschutz-eprivacy.de\/en\/kontakt\/datenschutzerklaerung\/kivo\/erwaegungsgruende\/\" \/>\n<meta property=\"og:locale\" content=\"en_GB\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Erw\u00e4gungsgr\u00fcnde der KI-Verordnung (KI-VO bzw. AI Act) - DER Datenschutzbeauftragte f\u00fcr Deutschland\" \/>\n<meta property=\"og:description\" content=\"Gem\u00e4\u00df \u00a7 5 (1) UrhG genie\u00dfen Gesetze, Verordnungen, amtliche Erlasse und Bekanntmachungen sowie Entscheidungen und amtlich verfasste Leits\u00e4tze zu Entscheidungen keinen urheberrechtlichen Schutz und d\u00fcrfen demnach frei publiziert werden. Dieser Text stammt urspr\u00fcnglich vom Amt f\u00fcr Ver\u00f6ffentlichungen der Europ\u00e4ischen Union (Stand: 13.06.2024). VERORDNUNG (EU) 2024\/1689 DES EUROP\u00c4ISCHEN PARLAMENTS UND DES RATES vom 13. Juni 2024 …\" \/>\n<meta property=\"og:url\" content=\"https:\/\/datenschutz-eprivacy.de\/en\/kontakt\/datenschutzerklaerung\/kivo\/erwaegungsgruende\/\" \/>\n<meta property=\"og:site_name\" content=\"DER Datenschutzbeauftragte f\u00fcr Deutschland\" \/>\n<meta property=\"article:modified_time\" content=\"2025-06-12T17:01:53+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/datenschutz-eprivacy.de\/da\/wp-content\/uploads\/dsgvo-bussgeld-deutschland-20000-euro.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"3353\" \/>\n\t<meta property=\"og:image:height\" content=\"2514\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:image\" content=\"https:\/\/datenschutz-eprivacy.de\/da\/wp-content\/uploads\/internet-datenschutz-datenautobahn-datenschutzbeauftragter.jpeg\" \/>\n<meta name=\"twitter:label1\" content=\"Estimated reading time\" \/>\n\t<meta name=\"twitter:data1\" content=\"181 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/datenschutz-eprivacy.de\/kontakt\/datenschutzerklaerung\/kivo\/erwaegungsgruende\/\",\"url\":\"https:\/\/datenschutz-eprivacy.de\/kontakt\/datenschutzerklaerung\/kivo\/erwaegungsgruende\/\",\"name\":\"Erw\u00e4gungsgr\u00fcnde der KI-Verordnung (KI-VO bzw. AI Act) - DER Datenschutzbeauftragte f\u00fcr Deutschland\",\"isPartOf\":{\"@id\":\"https:\/\/datenschutz-eprivacy.de\/#website\"},\"datePublished\":\"2025-06-12T17:00:38+00:00\",\"dateModified\":\"2025-06-12T17:01:53+00:00\",\"breadcrumb\":{\"@id\":\"https:\/\/datenschutz-eprivacy.de\/kontakt\/datenschutzerklaerung\/kivo\/erwaegungsgruende\/#breadcrumb\"},\"inLanguage\":\"en-GB\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/datenschutz-eprivacy.de\/kontakt\/datenschutzerklaerung\/kivo\/erwaegungsgruende\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/datenschutz-eprivacy.de\/kontakt\/datenschutzerklaerung\/kivo\/erwaegungsgruende\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Startseite\",\"item\":\"https:\/\/datenschutz-eprivacy.de\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Kontakt\",\"item\":\"https:\/\/datenschutz-eprivacy.de\/en\/kontakt\/\"},{\"@type\":\"ListItem\",\"position\":3,\"name\":\"Datenschutzerkl\u00e4rung\",\"item\":\"https:\/\/datenschutz-eprivacy.de\/kontakt\/datenschutzerklaerung\/\"},{\"@type\":\"ListItem\",\"position\":4,\"name\":\"KI-Verordnung (KIVO bzw. AI Act)\",\"item\":\"https:\/\/datenschutz-eprivacy.de\/kontakt\/datenschutzerklaerung\/kivo\/\"},{\"@type\":\"ListItem\",\"position\":5,\"name\":\"Erw\u00e4gungsgr\u00fcnde der KI-Verordnung (KI-VO bzw. AI Act)\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/datenschutz-eprivacy.de\/#website\",\"url\":\"https:\/\/datenschutz-eprivacy.de\/\",\"name\":\"DER Datenschutzbeauftragte f\u00fcr Deutschland\",\"description\":\"Datenschutz & ePrivacy in Halle (Saale), Magdeburg, Mitteldeutschland und dar\u00fcber hinaus\",\"publisher\":{\"@id\":\"https:\/\/datenschutz-eprivacy.de\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/datenschutz-eprivacy.de\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"en-GB\"},{\"@type\":\"Organization\",\"@id\":\"https:\/\/datenschutz-eprivacy.de\/#organization\",\"name\":\"DER Datenschutzbeauftragte f\u00fcr Deutschland\",\"url\":\"https:\/\/datenschutz-eprivacy.de\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"en-GB\",\"@id\":\"https:\/\/datenschutz-eprivacy.de\/#\/schema\/logo\/image\/\",\"url\":\"https:\/\/datenschutz-eprivacy.de\/da\/wp-content\/uploads\/DER_DATENTSCHUTZ_Logo_1000_trans.png\",\"contentUrl\":\"https:\/\/datenschutz-eprivacy.de\/da\/wp-content\/uploads\/DER_DATENTSCHUTZ_Logo_1000_trans.png\",\"width\":1000,\"height\":373,\"caption\":\"DER Datenschutzbeauftragte f\u00fcr Deutschland\"},\"image\":{\"@id\":\"https:\/\/datenschutz-eprivacy.de\/#\/schema\/logo\/image\/\"}}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Erw\u00e4gungsgr\u00fcnde der KI-Verordnung (KI-VO bzw. AI Act) - DER Datenschutzbeauftragte f\u00fcr Deutschland","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/datenschutz-eprivacy.de\/en\/kontakt\/datenschutzerklaerung\/kivo\/erwaegungsgruende\/","og_locale":"en_GB","og_type":"article","og_title":"Erw\u00e4gungsgr\u00fcnde der KI-Verordnung (KI-VO bzw. AI Act) - DER Datenschutzbeauftragte f\u00fcr Deutschland","og_description":"Gem\u00e4\u00df \u00a7 5 (1) UrhG genie\u00dfen Gesetze, Verordnungen, amtliche Erlasse und Bekanntmachungen sowie Entscheidungen und amtlich verfasste Leits\u00e4tze zu Entscheidungen keinen urheberrechtlichen Schutz und d\u00fcrfen demnach frei publiziert werden. Dieser Text stammt urspr\u00fcnglich vom Amt f\u00fcr Ver\u00f6ffentlichungen der Europ\u00e4ischen Union (Stand: 13.06.2024). VERORDNUNG (EU) 2024\/1689 DES EUROP\u00c4ISCHEN PARLAMENTS UND DES RATES vom 13. Juni 2024 …","og_url":"https:\/\/datenschutz-eprivacy.de\/en\/kontakt\/datenschutzerklaerung\/kivo\/erwaegungsgruende\/","og_site_name":"DER Datenschutzbeauftragte f\u00fcr Deutschland","article_modified_time":"2025-06-12T17:01:53+00:00","og_image":[{"width":3353,"height":2514,"url":"https:\/\/datenschutz-eprivacy.de\/da\/wp-content\/uploads\/dsgvo-bussgeld-deutschland-20000-euro.jpg","type":"image\/jpeg"}],"twitter_card":"summary_large_image","twitter_image":"https:\/\/datenschutz-eprivacy.de\/da\/wp-content\/uploads\/internet-datenschutz-datenautobahn-datenschutzbeauftragter.jpeg","twitter_misc":{"Estimated reading time":"181 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/datenschutz-eprivacy.de\/kontakt\/datenschutzerklaerung\/kivo\/erwaegungsgruende\/","url":"https:\/\/datenschutz-eprivacy.de\/kontakt\/datenschutzerklaerung\/kivo\/erwaegungsgruende\/","name":"Erw\u00e4gungsgr\u00fcnde der KI-Verordnung (KI-VO bzw. AI Act) - DER Datenschutzbeauftragte f\u00fcr Deutschland","isPartOf":{"@id":"https:\/\/datenschutz-eprivacy.de\/#website"},"datePublished":"2025-06-12T17:00:38+00:00","dateModified":"2025-06-12T17:01:53+00:00","breadcrumb":{"@id":"https:\/\/datenschutz-eprivacy.de\/kontakt\/datenschutzerklaerung\/kivo\/erwaegungsgruende\/#breadcrumb"},"inLanguage":"en-GB","potentialAction":[{"@type":"ReadAction","target":["https:\/\/datenschutz-eprivacy.de\/kontakt\/datenschutzerklaerung\/kivo\/erwaegungsgruende\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/datenschutz-eprivacy.de\/kontakt\/datenschutzerklaerung\/kivo\/erwaegungsgruende\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Startseite","item":"https:\/\/datenschutz-eprivacy.de\/"},{"@type":"ListItem","position":2,"name":"Kontakt","item":"https:\/\/datenschutz-eprivacy.de\/en\/kontakt\/"},{"@type":"ListItem","position":3,"name":"Datenschutzerkl\u00e4rung","item":"https:\/\/datenschutz-eprivacy.de\/kontakt\/datenschutzerklaerung\/"},{"@type":"ListItem","position":4,"name":"KI-Verordnung (KIVO bzw. AI Act)","item":"https:\/\/datenschutz-eprivacy.de\/kontakt\/datenschutzerklaerung\/kivo\/"},{"@type":"ListItem","position":5,"name":"Erw\u00e4gungsgr\u00fcnde der KI-Verordnung (KI-VO bzw. AI Act)"}]},{"@type":"WebSite","@id":"https:\/\/datenschutz-eprivacy.de\/#website","url":"https:\/\/datenschutz-eprivacy.de\/","name":"DER Datenschutzbeauftragte f\u00fcr Deutschland","description":"Datenschutz & ePrivacy in Halle (Saale), Magdeburg, Mitteldeutschland und dar\u00fcber hinaus","publisher":{"@id":"https:\/\/datenschutz-eprivacy.de\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/datenschutz-eprivacy.de\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"en-GB"},{"@type":"Organization","@id":"https:\/\/datenschutz-eprivacy.de\/#organization","name":"DER Datenschutzbeauftragte f\u00fcr Deutschland","url":"https:\/\/datenschutz-eprivacy.de\/","logo":{"@type":"ImageObject","inLanguage":"en-GB","@id":"https:\/\/datenschutz-eprivacy.de\/#\/schema\/logo\/image\/","url":"https:\/\/datenschutz-eprivacy.de\/da\/wp-content\/uploads\/DER_DATENTSCHUTZ_Logo_1000_trans.png","contentUrl":"https:\/\/datenschutz-eprivacy.de\/da\/wp-content\/uploads\/DER_DATENTSCHUTZ_Logo_1000_trans.png","width":1000,"height":373,"caption":"DER Datenschutzbeauftragte f\u00fcr Deutschland"},"image":{"@id":"https:\/\/datenschutz-eprivacy.de\/#\/schema\/logo\/image\/"}}]}},"_links":{"self":[{"href":"https:\/\/datenschutz-eprivacy.de\/en\/wp-json\/wp\/v2\/pages\/5294","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/datenschutz-eprivacy.de\/en\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/datenschutz-eprivacy.de\/en\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/datenschutz-eprivacy.de\/en\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/datenschutz-eprivacy.de\/en\/wp-json\/wp\/v2\/comments?post=5294"}],"version-history":[{"count":0,"href":"https:\/\/datenschutz-eprivacy.de\/en\/wp-json\/wp\/v2\/pages\/5294\/revisions"}],"up":[{"embeddable":true,"href":"https:\/\/datenschutz-eprivacy.de\/en\/wp-json\/wp\/v2\/pages\/3578"}],"wp:attachment":[{"href":"https:\/\/datenschutz-eprivacy.de\/en\/wp-json\/wp\/v2\/media?parent=5294"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}