Πρόταση ΚΑΝΟΝΙΣΜΟΣ ΤΟΥ ΕΥΡΩΠΑΪΚΟΥ ΚΟΙΝΟΒΟΥΛΙΟΥ ΚΑΙ ΤΟΥ ΣΥΜΒΟΥΛΙΟΥ ΓΙΑ ΤΗ ΘΕΣΠΙΣΗ ΕΝΑΡΜΟΝΙΣΜΕΝΩΝ ΚΑΝΟΝΩΝ ΣΧΕΤΙΚΑ ΜΕ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ (ΠΡΑΞΗ ΓΙΑ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ) ΚΑΙ ΓΙΑ ΤΗΝ ΤΡΟΠΟΠΟΙΗΣΗ ΟΡΙΣΜΕΝΩΝ ΝΟΜΟΘΕΤΙΚΩΝ ΠΡΑΞΕΩΝ ΤΗΣ ΕΝΩΣΗΣ

ΕΥΡΩΠΑΪΚΗ ΕΠΙΤΡΟΠΗ

Βρυξέλλες, 21.4.2021

COM(2021) 206 final

2021/0106(COD)

Πρόταση

ΚΑΝΟΝΙΣΜΟΣ ΤΟΥ ΕΥΡΩΠΑΪΚΟΥ ΚΟΙΝΟΒΟΥΛΙΟΥ ΚΑΙ ΤΟΥ ΣΥΜΒΟΥΛΙΟΥ 

ΓΙΑ ΤΗ ΘΕΣΠΙΣΗ ΕΝΑΡΜΟΝΙΣΜΕΝΩΝ ΚΑΝΟΝΩΝ ΣΧΕΤΙΚΑ ΜΕ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ (ΠΡΑΞΗ ΓΙΑ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ) ΚΑΙ ΓΙΑ ΤΗΝ ΤΡΟΠΟΠΟΙΗΣΗ ΟΡΙΣΜΕΝΩΝ ΝΟΜΟΘΕΤΙΚΩΝ ΠΡΑΞΕΩΝ ΤΗΣ ΕΝΩΣΗΣ

{SEC(2021) 167 final} – {SWD(2021) 84 final} – {SWD(2021) 85 final}

ΑΙΤΙΟΛΟΓΙΚΗ ΕΚΘΕΣΗ

1.ΠΛΑΙΣΙΟ ΤΗΣ ΠΡΟΤΑΣΗΣ

1.1.Αιτιολόγηση και στόχοι της πρότασης

Η παρούσα αιτιολογική έκθεση συνοδεύει την πρόταση κανονισμού για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη (πράξη για την τεχνητή νοημοσύνη). Η τεχνητή νοημοσύνη (ΤΝ) είναι ένα ταχέως εξελισσόμενο σύνολο τεχνολογιών που μπορούν να αποφέρουν ευρείας κλίμακας οικονομικά και κοινωνικά οφέλη σε ολόκληρο το φάσμα των κλάδων και των κοινωνικών δραστηριοτήτων. Μέσω της βελτίωσης της πρόβλεψης, της βελτιστοποίησης των δραστηριοτήτων και της κατανομής των πόρων, καθώς και της εξατομίκευσης της παροχής υπηρεσιών, η χρήση της τεχνητής νοημοσύνης μπορεί να στηρίξει κοινωνικά και περιβαλλοντικά επωφελή αποτελέσματα και να παράσχει βασικά ανταγωνιστικά πλεονεκτήματα στις εταιρείες και στην ευρωπαϊκή οικονομία. Η δράση αυτή είναι ιδιαίτερα αναγκαία σε τομείς υψηλού αντικτύπου, μεταξύ των οποίων συγκαταλέγονται η κλιματική αλλαγή, το περιβάλλον και η υγεία, ο δημόσιος τομέας, τα οικονομικά, η κινητικότητα, οι εσωτερικές υποθέσεις και η γεωργία. Ωστόσο, τα ίδια στοιχεία και τεχνικές που διαμορφώνουν τα κοινωνικοοικονομικά οφέλη της ΤΝ μπορούν επίσης να επιφέρουν νέους κινδύνους ή αρνητικές συνέπειες για τα άτομα ή την κοινωνία. Λαμβανομένων υπόψη της ταχύτητας των τεχνολογικών αλλαγών και των πιθανών προκλήσεων, η ΕΕ δεσμεύεται να καταβάλλει προσπάθειες για μια ισορροπημένη προσέγγιση. Είναι προς το συμφέρον της Ένωσης να διατηρηθεί η τεχνολογική πρωτοπορία της ΕΕ και να διασφαλιστεί ότι οι Ευρωπαίοι μπορούν να επωφεληθούν από τις νέες τεχνολογίες που αναπτύσσονται και λειτουργούν σύμφωνα με τις αξίες, τα θεμελιώδη δικαιώματα και τις αρχές της Ένωσης.

Η παρούσα πρόταση υλοποιεί την πολιτική δέσμευση της προέδρου von der Leyen, η οποία ανακοίνωσε στις πολιτικές κατευθύνσεις της για την Επιτροπή 2019-2024 «Μια Ένωση που επιδιώκει περισσότερα» 1 ότι η Επιτροπή θα προτείνει νομοθεσία για μια συντονισμένη ευρωπαϊκή προσέγγιση όσον αφορά τις επιπτώσεις της ΤΝ σε επίπεδο ανθρώπων και ηθικής. Σε συνέχεια της ανακοίνωσης αυτής, η Επιτροπή δημοσίευσε στις 19 Φεβρουαρίου 2020 τη Λευκή Βίβλο για την Τεχνητή Νοημοσύνη — Η ευρωπαϊκή προσέγγιση της αριστείας και της εμπιστοσύνης 2 . Η Λευκή Βίβλος καθορίζει επιλογές πολιτικής σχετικά με τον τρόπο επίτευξης του διττού στόχου που συνίσταται στην προώθηση της αποδοχής της ΤΝ και στην αντιμετώπιση των κινδύνων που συνδέονται με ορισμένες χρήσεις της εν λόγω τεχνολογίας. Η παρούσα πρόταση αποσκοπεί στην υλοποίηση του δεύτερου στόχου για την ανάπτυξη ενός οικοσυστήματος εμπιστοσύνης, προτείνοντας ένα νομικό πλαίσιο για αξιόπιστη ΤΝ. Η πρόταση βασίζεται στις αξίες και στα θεμελιώδη δικαιώματα της ΕΕ και έχει ως στόχο να ενισχύσει την εμπιστοσύνη των πολιτών και άλλων χρηστών ώστε να υιοθετήσουν λύσεις που βασίζονται στην ΤΝ, ενθαρρύνοντας παράλληλα τις επιχειρήσεις να αναπτύξουν τέτοιες λύσεις. Η TN θα πρέπει να αποτελεί εργαλείο για τους ανθρώπους και να λειτουργεί ως δύναμη για το καλό της κοινωνίας, με απώτερο στόχο την αύξηση της ανθρώπινης ευημερίας. Οι κανόνες για την ΤΝ που διατίθεται στην αγορά της Ένωσης ή επηρεάζει με άλλον τρόπο τους πολίτες της Ένωσης θα πρέπει, συνεπώς, να είναι ανθρωποκεντρικοί, ώστε οι πολίτες να μπορούν να έχουν τη βεβαιότητα ότι η τεχνολογία χρησιμοποιείται κατά τρόπο ασφαλή και συμβατό με τη νομοθεσία, συμπεριλαμβανομένου του σεβασμού των θεμελιωδών δικαιωμάτων. Μετά τη δημοσίευση της Λευκής Βίβλου, η Επιτροπή ξεκίνησε ευρεία διαβούλευση με τα ενδιαφερόμενα μέρη, την οποία παρακολούθησαν με μεγάλο ενδιαφέρον πολυάριθμα ενδιαφερόμενα μέρη που υποστήριξαν σε μεγάλο βαθμό τη ρυθμιστική παρέμβαση για την αντιμετώπιση των προκλήσεων και των ανησυχιών που εγείρει η αυξανόμενη χρήση της ΤΝ. 

Η πρόταση ανταποκρίνεται επίσης σε ρητά αιτήματα του Ευρωπαϊκού Κοινοβουλίου (ΕΚ) και του Ευρωπαϊκού Συμβουλίου, τα οποία έχουν επανειλημμένα εκφράσει εκκλήσεις για ανάληψη νομοθετικής δράσης προκειμένου να διασφαλιστεί η εύρυθμη λειτουργία της εσωτερικής αγοράς συστημάτων τεχνητής νοημοσύνης (στο εξής: συστήματα ΤΝ), όπου τόσο τα οφέλη όσο και οι κίνδυνοι της ΤΝ αντιμετωπίζονται επαρκώς σε επίπεδο Ένωσης. Στηρίζει τον στόχο της Ένωσης να αναλάβει ηγετικό ρόλο παγκοσμίως στην ανάπτυξη ασφαλούς, αξιόπιστης και δεοντολογικής τεχνητής νοημοσύνης, όπως δήλωσε το Ευρωπαϊκό Συμβούλιο 3 και διασφαλίζει την προστασία των δεοντολογικών αρχών, όπως είχε ζητηθεί ειδικά από το Ευρωπαϊκό Κοινοβούλιο 4 . 

Το 2017 το Ευρωπαϊκό Συμβούλιο ζήτησε «συναίσθηση του επείγοντος έναντι των αναδυόμενων τάσεων», μεταξύ των οποίων περιλαμβάνονται «ζητήματα όπως η τεχνητή νοημοσύνη […], διασφαλίζοντας συγχρόνως υψηλό επίπεδο προστασίας δεδομένων, ψηφιακών δικαιωμάτων και προτύπων δεοντολογίας» 5 . Στα συμπεράσματά του τού 2019 σχετικά με το συντονισμένο σχέδιο για την ανάπτυξη και τη χρήση της τεχνητής νοημοσύνης στην Ευρώπη 6 , το Συμβούλιο ανέδειξε περαιτέρω τη σημασία της διασφάλισης του πλήρους σεβασμού των δικαιωμάτων των Ευρωπαίων πολιτών και ζήτησε την επανεξέταση της υφιστάμενης σχετικής νομοθεσίας ώστε να καταστεί κατάλληλη για τον επιδιωκόμενο σκοπό όσον αφορά τις νέες ευκαιρίες και προκλήσεις που προκύπτουν από την ΤΝ. Το Ευρωπαϊκό Συμβούλιο ζήτησε επίσης σαφή καθορισμό των εφαρμογών ΤΝ που θα πρέπει να θεωρούνται υψηλού κινδύνου 7 . 

Στα πλέον πρόσφατα συμπεράσματα της 21ης Οκτωβρίου 2020 ζητήθηκε επιπλέον να αντιμετωπιστούν η αδιαφάνεια, η πολυπλοκότητα, η μεροληψία, ένας ορισμένος βαθμός μη προβλεψιμότητας και εν μέρει αυτόνομης συμπεριφοράς ορισμένων συστημάτων ΤΝ, προκειμένου να εξασφαλιστεί η συμβατότητά τους με τα θεμελιώδη δικαιώματα και να διευκολυνθεί η επιβολή των νομικών κανόνων 8 .

Το Ευρωπαϊκό Κοινοβούλιο έχει επίσης αναλάβει σημαντικό έργο στον τομέα της ΤΝ. Τον Οκτώβριο του 2020 ενέκρινε σειρά ψηφισμάτων σχετικά με την ΤΝ, μεταξύ άλλων σχετικά με τη δεοντολογία 9 , την ευθύνη 10 και τα δικαιώματα πνευματικής ιδιοκτησίας 11 . Το 2021 ακολούθησαν ψηφίσματα σχετικά με την τεχνητή νοημοσύνη σε ποινικές υποθέσεις 12 και στην εκπαίδευση, στον πολιτισμό και στον οπτικοακουστικό τομέα 13 . Το ψήφισμα του ΕΚ σχετικά με ένα πλαίσιο για τις δεοντολογικές πτυχές της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών συνιστά συγκεκριμένα στην Επιτροπή να προτείνει νομοθετική δράση για την αξιοποίηση των ευκαιριών και των οφελών της ΤΝ, αλλά και για τη διασφάλιση της προστασίας των δεοντολογικών αρχών. Το ψήφισμα περιλαμβάνει κείμενο της νομοθετικής πρότασης κανονισμού σχετικά με δεοντολογικές αρχές για την ανάπτυξη, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών. Σύμφωνα με την πολιτική δέσμευση που ανέλαβε η πρόεδρος von der Leyen στις πολιτικές κατευθύνσεις της όσον αφορά τα ψηφίσματα που εγκρίθηκαν από το Ευρωπαϊκό Κοινοβούλιο δυνάμει του άρθρου 225 της ΣΛΕΕ, στην παρούσα πρόταση λαμβάνεται υπόψη το προαναφερόμενο ψήφισμα του Ευρωπαϊκού Κοινοβουλίου με πλήρη σεβασμό των αρχών της αναλογικότητας, της επικουρικότητας και της βελτίωσης της νομοθεσίας. 

Σε αυτό το πολιτικό πλαίσιο, η Επιτροπή προωθεί το προτεινόμενο κανονιστικό πλαίσιο για την τεχνητή νοημοσύνη με τους ακόλουθους ειδικούς στόχους:

·να διασφαλιστεί ότι τα συστήματα ΤΝ που διατίθενται στην αγορά και χρησιμοποιούνται είναι ασφαλή και τηρούν την ισχύουσα νομοθεσία για τα θεμελιώδη δικαιώματα και τις αξίες της Ένωσης·

·να διασφαλιστεί ασφάλεια δικαίου για τη διευκόλυνση των επενδύσεων και της καινοτομίας στον τομέα της ΤΝ·

·να ενισχυθεί η διακυβέρνηση και η αποτελεσματική επιβολή της ισχύουσας νομοθεσίας για τα θεμελιώδη δικαιώματα και τις απαιτήσεις ασφάλειας που εφαρμόζονται στα συστήματα ΤΝ·

·να διευκολυνθεί η ανάπτυξη ενιαίας αγοράς για νόμιμα, ασφαλή και αξιόπιστα συστήματα ΤΝ και να προληφθεί ο κατακερματισμός της αγοράς.

Για την επίτευξη των στόχων αυτών, η παρούσα πρόταση παρουσιάζει μια ισορροπημένη και αναλογική οριζόντια κανονιστική προσέγγιση για την ΤΝ, η οποία περιορίζεται στις ελάχιστες αναγκαίες απαιτήσεις για την αντιμετώπιση των κινδύνων και των προβλημάτων που συνδέονται με την ΤΝ, χωρίς να περιορίζεται ή να παρεμποδίζεται αδικαιολόγητα η τεχνολογική ανάπτυξη ή να αυξάνεται δυσανάλογα με άλλον τρόπο το κόστος της διάθεσης λύσεων ΤΝ στην αγορά. Η πρόταση καθορίζει ένα ισχυρό και ευέλικτο νομικό πλαίσιο. Αφενός, είναι ολοκληρωμένο και διαχρονικό όσον αφορά τις θεμελιώδεις ρυθμιστικές επιλογές του, συμπεριλαμβανομένων των απαιτήσεων που βασίζονται σε αρχές με τις οποίες θα πρέπει να συμμορφώνονται τα συστήματα ΤΝ. Από την άλλη πλευρά, θέτει σε εφαρμογή ένα αναλογικό κανονιστικό σύστημα επικεντρωμένο σε μια σαφώς καθορισμένη κανονιστική προσέγγιση βάσει κινδύνου, η οποία δεν δημιουργεί περιττούς περιορισμούς στο εμπόριο, στο πλαίσιο της οποίας η νομική παρέμβαση είναι προσαρμοσμένη στις συγκεκριμένες καταστάσεις στις οποίες υπάρχει βάσιμος λόγος ανησυχίας ή όπου μπορεί εύλογα να αναμένεται τέτοια ανησυχία στο εγγύς μέλλον. Ταυτόχρονα, το νομικό πλαίσιο περιλαμβάνει ευέλικτους μηχανισμούς που επιτρέπουν τη δυναμική προσαρμογή του ανάλογα με την εξέλιξη της τεχνολογίας και την εμφάνιση νέων ανησυχητικών καταστάσεων.

Στην πρόταση καθορίζονται εναρμονισμένοι κανόνες για την ανάπτυξη, τη διάθεση στην αγορά και τη χρήση συστημάτων ΤΝ στην Ένωση, σύμφωνα με μια αναλογική προσέγγιση βάσει κινδύνου. Προτείνεται ένας ενιαίος διαχρονικός ορισμός της ΤΝ. Ορισμένες ιδιαίτερα επιβλαβείς πρακτικές ΤΝ απαγορεύονται διότι αντιβαίνουν στις αξίες της Ένωσης, ενώ προτείνονται ειδικοί περιορισμοί και εγγυήσεις σε σχέση με ορισμένες χρήσεις συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης για σκοπούς επιβολής του νόμου. Η πρόταση θεσπίζει μια αξιόπιστη μεθοδολογία κινδύνου για τον ορισμό των συστημάτων ΤΝ «υψηλού κινδύνου» που ενέχουν σημαντικούς κινδύνους για την υγεία και την ασφάλεια ή για τα θεμελιώδη δικαιώματα των προσώπων. Τα εν λόγω συστήματα ΤΝ θα πρέπει να συμμορφώνονται με ένα σύνολο οριζόντιων υποχρεωτικών απαιτήσεων για αξιόπιστη ΤΝ και να ακολουθούν διαδικασίες αξιολόγησης της συμμόρφωσης προτού επιτραπεί η διάθεση των εν λόγω συστημάτων στην αγορά της Ένωσης. Επιβάλλονται επίσης προβλέψιμες, αναλογικές και σαφείς υποχρεώσεις στους παρόχους και στους χρήστες των εν λόγω συστημάτων, προκειμένου να διασφαλίζονται η ασφάλεια και η τήρηση της ισχύουσας νομοθεσίας για την προστασία των θεμελιωδών δικαιωμάτων καθ’ όλη τη διάρκεια του κύκλου ζωής των συστημάτων ΤΝ. Για ορισμένα ειδικά συστήματα ΤΝ, προτείνονται μόνον ελάχιστες υποχρεώσεις διαφάνειας, ειδικότερα σε περιπτώσεις χρήσης διαλογικών ρομπότ ή «βαθιά ψευδούς υλικού». 

Οι προτεινόμενοι κανόνες θα επιβληθούν μέσω ενός συστήματος διακυβέρνησης σε επίπεδο κρατών μελών, με βάση τις ήδη υφιστάμενες δομές, και ενός μηχανισμού συνεργασίας σε επίπεδο Ένωσης με τη σύσταση Ευρωπαϊκού Συμβουλίου Τεχνητής Νοημοσύνης. Προτείνονται επίσης πρόσθετα μέτρα για τη στήριξη της καινοτομίας, ειδικότερα μέσω ρυθμιστικών δοκιμαστηρίων για την ΤΝ και άλλων μέτρων για τη μείωση της κανονιστικής επιβάρυνσης και για τη στήριξη των μικρομεσαίων επιχειρήσεων (ΜΜΕ) και των νεοφυών επιχειρήσεων.

1.2.Συνέπεια με τις ισχύουσες διατάξεις στον τομέα πολιτικής

Ο οριζόντιος χαρακτήρας της πρότασης απαιτεί απόλυτη συνέπεια με την ισχύουσα νομοθεσία της Ένωσης που εφαρμόζεται σε τομείς στους οποίους τα συστήματα ΤΝ υψηλού κινδύνου χρησιμοποιούνται ήδη ή είναι πιθανό να χρησιμοποιηθούν στο εγγύς μέλλον. 

Εξασφαλίζεται επίσης η συνέπεια με τον Χάρτη των Θεμελιωδών Δικαιωμάτων της ΕΕ και το ισχύον παράγωγο δίκαιο της Ένωσης για την προστασία των δεδομένων, την προστασία των καταναλωτών, την απαγόρευση των διακρίσεων και την ισότητα των φύλων. Η πρόταση αφενός δεν θίγει και αφετέρου συμπληρώνει τον γενικό κανονισμό για την προστασία δεδομένων [κανονισμός (ΕΕ) 2016/679] και την οδηγία για την επιβολή του νόμου [οδηγία (ΕΕ) 2016/680] με ένα σύνολο εναρμονισμένων κανόνων που εφαρμόζονται στον σχεδιασμό, στην ανάπτυξη και στη χρήση ορισμένων συστημάτων ΤΝ υψηλού κινδύνου, καθώς και με περιορισμούς σε ορισμένες χρήσεις των συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης. Επιπλέον, η πρόταση συμπληρώνει την ισχύουσα νομοθεσία της Ένωσης για την απαγόρευση των διακρίσεων με ειδικές απαιτήσεις που αποσκοπούν στην ελαχιστοποίηση του κινδύνου αλγοριθμικών διακρίσεων, ειδικότερα σε σχέση με τον σχεδιασμό και την ποιότητα των συνόλων δεδομένων που χρησιμοποιούνται για την ανάπτυξη συστημάτων ΤΝ, οι οποίες συμπληρώνονται με υποχρεώσεις δοκιμών, διαχείρισης κινδύνου, τεκμηρίωσης και ανθρώπινης εποπτείας καθ’ όλη τη διάρκεια του κύκλου ζωής των συστημάτων ΤΝ. Η πρόταση δεν θίγει την εφαρμογή του ενωσιακού δικαίου περί ανταγωνισμού.

Όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που αποτελούν κατασκευαστικά στοιχεία ασφάλειας προϊόντων, η παρούσα πρόταση θα ενσωματωθεί στην ισχύουσα τομεακή νομοθεσία για την ασφάλεια, ώστε να εξασφαλιστεί συνέπεια, να αποφευχθούν οι αλληλεπικαλύψεις και να ελαχιστοποιηθούν οι πρόσθετες επιβαρύνσεις. Ειδικότερα, όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που σχετίζονται με προϊόντα που καλύπτονται από τη νομοθεσία του νέου νομοθετικού πλαισίου (π.χ. μηχανήματα, ιατροτεχνολογικά προϊόντα, παιχνίδια), οι απαιτήσεις για τα συστήματα ΤΝ που καθορίζονται στην παρούσα πρόταση θα ελεγχθούν στο πλαίσιο των υφιστάμενων διαδικασιών αξιολόγησης της συμμόρφωσης βάσει της σχετικής νομοθεσίας του νέου νομοθετικού πλαισίου. Όσον αφορά την αλληλεπίδραση των απαιτήσεων, παρότι επιδιώκεται οι κίνδυνοι ασφάλειας που αφορούν ειδικά τα συστήματα ΤΝ να καλύπτονται από τις απαιτήσεις της παρούσας πρότασης, η νομοθεσία του νέου νομοθετικού πλαισίου αποσκοπεί στη διασφάλιση της συνολικής ασφάλειας του τελικού προϊόντος και, ως εκ τούτου, μπορεί να περιλαμβάνει ειδικές απαιτήσεις σχετικά με την ασφαλή ενσωμάτωση ενός συστήματος ΤΝ στο τελικό προϊόν. Η πρόταση κανονισμού για τα μηχανήματα, η οποία εκδίδεται την ίδια ημέρα με την παρούσα πρόταση, αντικατοπτρίζει πλήρως την εν λόγω προσέγγιση. Όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που σχετίζονται με προϊόντα που καλύπτονται από τη σχετική νομοθεσία της παλαιάς προσέγγισης (π.χ. αεροπορικές μεταφορές, αυτοκίνητα), η παρούσα πρόταση δεν θα ισχύει άμεσα. Ωστόσο, οι εκ των προτέρων βασικές απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου που καθορίζονται στην παρούσα πρόταση θα πρέπει να λαμβάνονται υπόψη κατά τη θέσπιση σχετικών εκτελεστικών ή κατ’ εξουσιοδότηση πράξεων δυνάμει της εν λόγω νομοθεσίας.

Όσον αφορά τα συστήματα ΤΝ που παρέχονται ή χρησιμοποιούνται από ρυθμιζόμενα πιστωτικά ιδρύματα, οι αρχές που είναι υπεύθυνες για την εποπτεία της νομοθεσίας της Ένωσης για τις χρηματοπιστωτικές υπηρεσίες θα πρέπει να οριστούν ως αρμόδιες αρχές για την εποπτεία των απαιτήσεων που προβλέπονται στην παρούσα πρόταση, ώστε να διασφαλιστεί η συνεκτική επιβολή των υποχρεώσεων που απορρέουν από την παρούσα πρόταση και τη νομοθεσία της Ένωσης για τις χρηματοπιστωτικές υπηρεσίες, όπου τα συστήματα ΤΝ ρυθμίζονται σε κάποιον βαθμό έμμεσα σε σχέση με το σύστημα εσωτερικής διακυβέρνησης των πιστωτικών ιδρυμάτων. Για την περαιτέρω ενίσχυση της συνέπειας, η διαδικασία αξιολόγησης της συμμόρφωσης και ορισμένες από τις διαδικαστικές υποχρεώσεις των παρόχων βάσει της παρούσας πρότασης ενσωματώνονται στις διαδικασίες της οδηγίας 2013/36/ΕΕ σχετικά με την πρόσβαση στη δραστηριότητα πιστωτικών ιδρυμάτων και την προληπτική εποπτεία 14 . 

Η παρούσα πρόταση είναι επίσης συνεπής με την εφαρμοστέα ενωσιακή νομοθεσία για τις υπηρεσίες, συμπεριλαμβανομένων των υπηρεσιών μεσαζόντων που ρυθμίζονται από την οδηγία 2000/31/ΕΚ για το ηλεκτρονικό εμπόριο 15 και την πρόσφατη πρόταση της Επιτροπής σχετικά με την πράξη για τις ψηφιακές υπηρεσίες 16 .

Όσον αφορά τα συστήματα ΤΝ που αποτελούν κατασκευαστικά στοιχεία συστημάτων ΤΠ μεγάλης κλίμακας στον χώρο της ελευθερίας, της ασφάλειας και της δικαιοσύνης, τα οποία διαχειρίζεται ο Οργανισμός της Ευρωπαϊκής Ένωσης για τη λειτουργική διαχείριση συστημάτων ΤΠ μεγάλης κλίμακας (eu-LISA), η πρόταση δεν θα εφαρμόζεται στα συστήματα ΤΝ που έχουν διατεθεί στην αγορά ή έχουν τεθεί σε λειτουργία πριν από την παρέλευση ενός έτους από την ημερομηνία εφαρμογής του παρόντος κανονισμού, εκτός αν η αντικατάσταση ή η τροποποίηση των εν λόγω νομικών πράξεων οδηγεί σε σημαντική μεταβολή του σχεδιασμού ή του επιδιωκόμενου σκοπού του σχετικού συστήματος ή των σχετικών συστημάτων ΤΝ.

1.3.Συνέπεια με άλλες πολιτικές της Ένωσης

Η πρόταση αποτελεί μέρος μιας ευρύτερης ολοκληρωμένης δέσμης μέτρων για την αντιμετώπιση των προβλημάτων που προκαλούνται από την ανάπτυξη και τη χρήση της ΤΝ, όπως εξετάζονται στη Λευκή Βίβλο για την ΤΝ. Ως εκ τούτου, διασφαλίζεται η συνέπεια και η συμπληρωματικότητα με άλλες υπό εξέλιξη ή προγραμματισμένες πρωτοβουλίες της Επιτροπής που αποσκοπούν επίσης στην αντιμετώπιση των εν λόγω προβλημάτων, συμπεριλαμβανομένης της αναθεώρησης της τομεακής νομοθεσίας για τα προϊόντα (π.χ. της οδηγίας για τα μηχανήματα, της οδηγίας για τη γενική ασφάλεια των προϊόντων) και των πρωτοβουλιών που αφορούν ζητήματα ευθύνης που σχετίζονται με τις νέες τεχνολογίες, συμπεριλαμβανομένων των συστημάτων ΤΝ. Οι πρωτοβουλίες αυτές θα βασιστούν και θα συμπληρώσουν την παρούσα πρόταση προκειμένου να επιτευχθεί νομική σαφήνεια και να προωθηθεί η ανάπτυξη ενός οικοσυστήματος εμπιστοσύνης στην ΤΝ στην Ευρώπη. 

Η πρόταση συνάδει επίσης με τη συνολική ψηφιακή στρατηγική της Επιτροπής, καθώς συμβάλλει στην προώθηση της τεχνολογίας στην υπηρεσία των ανθρώπων, η οποία είναι ένας από τους τρεις κύριους πυλώνες του προσανατολισμού και των στόχων πολιτικής που παρουσιάστηκαν στην ανακοίνωση με τίτλο «Διαμόρφωση του ψηφιακού μέλλοντος της Ευρώπης» 17 . Θεσπίζει ένα συνεκτικό, αποτελεσματικό και αναλογικό πλαίσιο για να διασφαλιστεί ότι η ΤΝ αναπτύσσεται με τρόπους που σέβονται τα δικαιώματα των πολιτών και κερδίζουν την εμπιστοσύνη τους, καθιστώντας την Ευρώπη έτοιμη για την ψηφιακή εποχή και μετατρέποντας την επόμενη δεκαετία σε ψηφιακή δεκαετία 18 .

Επιπλέον, η προώθηση της καινοτομίας με βάση την ΤΝ συνδέεται στενά με την πράξη για τη διακυβέρνηση δεδομένων 19 , την οδηγία για τα ανοικτά δεδομένα 20 και άλλες πρωτοβουλίες στο πλαίσιο της ενωσιακής στρατηγικής για τα δεδομένα 21 , που θα καθιερώσει αξιόπιστους μηχανισμούς και υπηρεσίες για την περαιτέρω χρήση, την κοινοχρησία και τη διασύνδεση δεδομένων που είναι απαραίτητα για την ανάπτυξη υψηλής ποιότητας μοντέλων ΤΝ που βασίζονται σε δεδομένα.

Η πρόταση ενισχύει επίσης σημαντικά τον ρόλο της Ένωσης στη διαμόρφωση παγκόσμιων κανόνων και προτύπων και στην προώθηση αξιόπιστης ΤΝ που συνάδει με τις αξίες και τα συμφέροντα της Ένωσης. Παρέχει στην Ένωση ισχυρή βάση για περαιτέρω συνεργασία με τους εξωτερικούς εταίρους της, συμπεριλαμβανομένων τρίτων χωρών, καθώς και σε διεθνή φόρα για θέματα που σχετίζονται με την ΤΝ.

2.ΝΟΜΙΚΗ ΒΑΣΗ, ΕΠΙΚΟΥΡΙΚΟΤΗΤΑ ΚΑΙ ΑΝΑΛΟΓΙΚΟΤΗΤΑ

2.1.Νομική βάση

Η νομική βάση της πρότασης είναι καταρχάς το άρθρο 114 της Συνθήκης για τη λειτουργία της Ευρωπαϊκής Ένωσης (ΣΛΕΕ), το οποίο προβλέπει την έκδοση μέτρων για τη διασφάλιση της εγκαθίδρυσης και της λειτουργίας της εσωτερικής αγοράς. 

Η παρούσα πρόταση αποτελεί βασικό μέρος της στρατηγικής της ΕΕ για την ψηφιακή ενιαία αγορά. Πρωταρχικός στόχος της παρούσας πρότασης είναι να διασφαλιστεί η ορθή λειτουργία της εσωτερικής αγοράς με τη θέσπιση εναρμονισμένων κανόνων, ειδικότερα σε σχέση με την ανάπτυξη, τη διάθεση στην αγορά της Ένωσης και τη χρήση προϊόντων και υπηρεσιών που χρησιμοποιούν τεχνολογίες ΤΝ ή παρέχονται ως αυτόνομα συστήματα ΤΝ. Κάποια κράτη μέλη εξετάζουν ήδη το ενδεχόμενο θέσπισης εθνικών κανόνων για να διασφαλίσουν ότι η ΤΝ είναι ασφαλής και αναπτύσσεται και χρησιμοποιείται σύμφωνα με τις υποχρεώσεις που απορρέουν από τα θεμελιώδη δικαιώματα. Αυτό είναι πιθανό να οδηγήσει σε δύο βασικά προβλήματα: i) στον κατακερματισμό της εσωτερικής αγοράς σε σχέση με ουσιώδη στοιχεία, ειδικότερα όσον αφορά τις απαιτήσεις για τα προϊόντα και τις υπηρεσίες ΤΝ, την εμπορία τους, τη χρήση τους, την ευθύνη και την εποπτεία από τις δημόσιες αρχές, και ii) τη σημαντική μείωση της ασφάλειας δικαίου τόσο για τους παρόχους όσο και για τους χρήστες συστημάτων ΤΝ σχετικά με τον τρόπο εφαρμογής των υφιστάμενων και των νέων κανόνων στα εν λόγω συστήματα στην Ένωση. Δεδομένης της ευρείας διασυνοριακής κυκλοφορίας προϊόντων και υπηρεσιών, τα δύο αυτά προβλήματα μπορούν να επιλυθούν καλύτερα μέσω της εναρμόνισης της νομοθεσίας σε επίπεδο ΕΕ. 

Πράγματι, η πρόταση ορίζει κοινές υποχρεωτικές απαιτήσεις που θα ισχύουν για τον σχεδιασμό και την ανάπτυξη ορισμένων συστημάτων ΤΝ πριν από τη διάθεσή τους στην αγορά, οι οποίες θα εφαρμοστούν περαιτέρω μέσω εναρμονισμένων τεχνικών προτύπων. Η πρόταση αντιμετωπίζει επίσης την κατάσταση μετά τη διάθεση των συστημάτων ΤΝ στην αγορά, εναρμονίζοντας τον τρόπο με τον οποίο διενεργούνται οι εκ των υστέρων έλεγχοι.

Επιπλέον, δεδομένου ότι η παρούσα πρόταση περιέχει ορισμένους ειδικούς κανόνες για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας δεδομένων προσωπικού χαρακτήρα, κυρίως δε περιορισμούς στη χρήση συστημάτων ΤΝ για την εξ αποστάσεως βιομετρική ταυτοποίηση σε πραγματικό χρόνο σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου, είναι σκόπιμο ο παρών κανονισμός να βασιστεί, όσον αφορά αυτούς τους ειδικούς κανόνες, στο άρθρο 16 της ΣΛΕΕ.

2.2.Επικουρικότητα (σε περίπτωση μη αποκλειστικής αρμοδιότητας) 

Η φύση της ΤΝ, η οποία συχνά βασίζεται σε μεγάλα και ποικίλα σύνολα δεδομένων και μπορεί να ενσωματωθεί σε οποιοδήποτε προϊόν ή υπηρεσία που κυκλοφορεί ελεύθερα εντός της εσωτερικής αγοράς, συνεπάγεται ότι οι στόχοι της παρούσας πρότασης δεν μπορούν να επιτευχθούν αποτελεσματικά από τα κράτη μέλη μεμονωμένα. Επιπλέον, ένα αναδυόμενο συνονθύλευμα δυνητικά αποκλινόντων εθνικών κανόνων θα παρεμποδίσει την απρόσκοπτη κυκλοφορία προϊόντων και υπηρεσιών που σχετίζονται με συστήματα ΤΝ σε ολόκληρη την ΕΕ και θα είναι αναποτελεσματικό όσον αφορά τη διασφάλιση της ασφάλειας και της προστασίας των θεμελιωδών δικαιωμάτων και των αξιών της Ένωσης στα διάφορα κράτη μέλη. Οι εθνικές προσεγγίσεις για την αντιμετώπιση των προβλημάτων θα δημιουργήσουν μόνο πρόσθετη ανασφάλεια δικαίου και φραγμούς, ενώ επίσης θα επιβραδύνουν την αποδοχή της ΤΝ από την αγορά. 

Οι στόχοι της παρούσας πρότασης μπορούν να επιτευχθούν καλύτερα σε επίπεδο Ένωσης, ώστε να αποφευχθεί ο περαιτέρω κατακερματισμός της ενιαίας αγοράς σε δυνητικά αντιφατικά εθνικά πλαίσια που εμποδίζουν την ελεύθερη κυκλοφορία των εμπορευμάτων και των υπηρεσιών που ενσωματώνουν ΤΝ. Ένα στέρεο ευρωπαϊκό κανονιστικό πλαίσιο για αξιόπιστη ΤΝ θα διασφαλίζει επίσης ισότιμους όρους ανταγωνισμού και θα προστατεύει όλους τους ανθρώπους, ενισχύοντας παράλληλα την ανταγωνιστικότητα και τη βιομηχανική βάση της Ευρώπης στον τομέα της ΤΝ. Μόνον η κοινή δράση σε επίπεδο Ένωσης μπορεί επίσης να προστατεύει την ψηφιακή κυριαρχία της Ένωσης και να αξιοποιεί τα εργαλεία και τις ρυθμιστικές της εξουσίες για τη διαμόρφωση παγκόσμιων κανόνων και προτύπων. 

2.3.Αναλογικότητα

Η πρόταση βασίζεται στα υφιστάμενα νομικά πλαίσια και είναι αναλογική και αναγκαία για την επίτευξη των στόχων της, δεδομένου ότι ακολουθεί προσέγγιση βάσει κινδύνου και επιβάλλει κανονιστικές επιβαρύνσεις μόνον όταν ένα σύστημα ΤΝ είναι πιθανό να ενέχει υψηλούς κινδύνους για τα θεμελιώδη δικαιώματα και την ασφάλεια. Για άλλα συστήματα ΤΝ μη υψηλού κινδύνου, επιβάλλονται μόνο πολύ περιορισμένες υποχρεώσεις διαφάνειας, για παράδειγμα όσον αφορά την παροχή πληροφοριών για τη σήμανση της χρήσης ενός συστήματος ΤΝ κατά την αλληλεπίδραση με ανθρώπους. Για τα συστήματα ΤΝ υψηλού κινδύνου, οι απαιτήσεις για υψηλής ποιότητας δεδομένα, τεκμηρίωση και ιχνηλασιμότητα, διαφάνεια, ανθρώπινη εποπτεία, ακρίβεια και στιβαρότητα είναι απολύτως αναγκαίες για τον μετριασμό των κινδύνων που ενέχει η ΤΝ για τα θεμελιώδη δικαιώματα και την ασφάλεια και δεν καλύπτονται από άλλα υφιστάμενα νομικά πλαίσια. Τα εναρμονισμένα πρότυπα και τα υποστηρικτικά εργαλεία καθοδήγησης και συμμόρφωσης θα βοηθήσουν τους παρόχους και τους χρήστες να συμμορφωθούν με τις απαιτήσεις που προβλέπονται στην πρόταση και να ελαχιστοποιήσουν το κόστος τους. Το κόστος με το οποίο επιβαρύνονται οι φορείς εκμετάλλευσης είναι ανάλογο προς τους στόχους που αναμένεται να επιτευχθούν και τα οικονομικά οφέλη, καθώς και τα οφέλη σε επίπεδο φήμης τα οποία μπορούν να προσδοκούν οι φορείς εκμετάλλευσης από την παρούσα πρόταση.

2.4.Επιλογή της νομικής πράξης

Η επιλογή ενός κανονισμού ως νομικής πράξης δικαιολογείται από την ανάγκη ομοιόμορφης εφαρμογής των νέων κανόνων, όπως ο ορισμός της ΤΝ, η απαγόρευση ορισμένων επιβλαβών πρακτικών που βασίζονται στην ΤΝ και η ταξινόμηση ορισμένων συστημάτων ΤΝ. Η άμεση εφαρμογή ενός κανονισμού, σύμφωνα με το άρθρο 288 της ΣΛΕΕ, θα μειώσει τον νομικό κατακερματισμό και θα διευκολύνει την ανάπτυξη μιας ενιαίας αγοράς νόμιμων, ασφαλών και αξιόπιστων συστημάτων ΤΝ. Αυτό θα επιτευχθεί, ειδικότερα, με τη θέσπιση εναρμονισμένου συνόλου βασικών απαιτήσεων όσον αφορά τα συστήματα ΤΝ που ταξινομούνται ως υψηλού κινδύνου και με υποχρεώσεις για τους παρόχους και τους χρήστες των εν λόγω συστημάτων, με τη βελτίωση της προστασίας των θεμελιωδών δικαιωμάτων και την παροχή ασφάλειας δικαίου τόσο για τους φορείς εκμετάλλευσης όσο και για τους καταναλωτές.

Ταυτόχρονα, οι διατάξεις του κανονισμού δεν είναι υπερβολικά περιοριστικές και αφήνουν περιθώριο για διαφορετικά επίπεδα δράσης των κρατών μελών όσον αφορά στοιχεία που δεν υπονομεύουν τους στόχους της πρωτοβουλίας, ειδικότερα την εσωτερική οργάνωση του συστήματος εποπτείας της αγοράς και τη λήψη μέτρων για την προώθηση της καινοτομίας.

3.ΑΠΟΤΕΛΕΣΜΑΤΑ ΤΩΝ ΕΚ ΤΩΝ ΥΣΤΕΡΩΝ ΑΞΙΟΛΟΓΗΣΕΩΝ, ΤΩΝ ΔΙΑΒΟΥΛΕΥΣΕΩΝ ΜΕ ΤΑ ΕΝΔΙΑΦΕΡΟΜΕΝΑ ΜΕΡΗ ΚΑΙ ΤΩΝ ΕΚΤΙΜΗΣΕΩΝ ΕΠΙΠΤΩΣΕΩΝ

3.1.Διαβουλεύσεις με τα ενδιαφερόμενα μέρη

Η παρούσα πρόταση είναι το αποτέλεσμα εκτενούς διαβούλευσης με όλα τα βασικά ενδιαφερόμενα μέρη, στο πλαίσιο της οποίας εφαρμόστηκαν οι γενικές αρχές και τα ελάχιστα πρότυπα για τη διαβούλευση των ενδιαφερόμενων μερών με την Επιτροπή. 

Μια διαδικτυακή δημόσια διαβούλευση ξεκίνησε στις 19 Φεβρουαρίου 2020 παράλληλα με τη δημοσίευση της Λευκής Βίβλου για την τεχνητή νοημοσύνη και διήρκεσε έως τις 14 Ιουνίου 2020. Στόχος της διαβούλευσης αυτής ήταν να συγκεντρωθούν απόψεις και γνώμες σχετικά με τη Λευκή Βίβλο. Απευθυνόταν σε όλα τα ενδιαφερόμενα μέρη από τον δημόσιο και τον ιδιωτικό τομέα, συμπεριλαμβανομένων κυβερνήσεων, τοπικών αρχών, εμπορικών και μη εμπορικών οργανώσεων, των κοινωνικών εταίρων, εμπειρογνωμόνων, πανεπιστημιακών και πολιτών. Έπειτα από την ανάλυση όλων των απαντήσεων που έλαβε, η Επιτροπή δημοσίευσε τα περιληπτικά αποτελέσματα και τις επιμέρους απαντήσεις στον δικτυακό της τόπο 22 .

Συνολικά, ελήφθησαν 1 215 απαντήσεις, από τις οποίες οι 352 προέρχονταν από εταιρείες ή επιχειρηματικές οργανώσεις/ενώσεις, οι 406 από ιδιώτες (92 % άτομα από την ΕΕ), οι 152 εξ ονόματος πανεπιστημιακών/ερευνητικών ιδρυμάτων και οι 73 από δημόσιες αρχές. Η φωνή της κοινωνίας των πολιτών εκπροσωπήθηκε από 160 απαντήσαντες (μεταξύ των οποίων 9 οργανώσεις καταναλωτών, 129 μη κυβερνητικές οργανώσεις και 22 συνδικαλιστικές οργανώσεις), ενώ 72 απάντησαν ως «άλλοι». Από τους 352 εκπροσώπους των επιχειρήσεων και της βιομηχανίας, οι 222 ήταν εταιρείες και εκπρόσωποι επιχειρήσεων, εκ των οποίων το 41,5 % ήταν πολύ μικρές, μικρές και μεσαίες επιχειρήσεις. Οι υπόλοιπες ήταν επιχειρηματικές ενώσεις. Συνολικά, το 84 % των απαντήσεων των επιχειρήσεων και της βιομηχανίας προήλθαν από την ΕΕ των 27. Ανάλογα με την ερώτηση, από 81 έως 598 απαντήσαντες χρησιμοποίησαν την επιλογή ελεύθερου κειμένου για την εισαγωγή σχολίων. Περισσότερα από 450 έγγραφα θέσης υποβλήθηκαν μέσω του δικτυακού τόπου της έρευνας της ΕΕ, είτε ως προσθήκη στις απαντήσεις στο ερωτηματολόγιο (περισσότερα από 400) είτε ως αυτοτελείς απαντήσεις (περισσότερα από 50).

Συνολικά, υπάρχει γενική συμφωνία μεταξύ των ενδιαφερόμενων μερών σχετικά με την ανάγκη ανάληψης δράσης. Η μεγάλη πλειονότητα των ενδιαφερόμενων μερών συμφωνεί ότι υπάρχουν νομοθετικά κενά ή ότι απαιτείται νέα νομοθεσία. Ωστόσο, αρκετά ενδιαφερόμενα μέρη προειδοποιούν την Επιτροπή να αποφύγει τις αλληλεπικαλύψεις, τις αντικρουόμενες υποχρεώσεις και την υπερβολική ρύθμιση. Υπήρξαν πολλές παρατηρήσεις στις οποίες υπογραμμίστηκε η σημασία ενός τεχνολογικά ουδέτερου και αναλογικού κανονιστικού πλαισίου.

Τα ενδιαφερόμενα μέρη ζήτησαν κατά κύριο λόγο έναν στενό, σαφή και ακριβή ορισμό της ΤΝ. Τα ενδιαφερόμενα μέρη τόνισαν επίσης ότι, εκτός από την αποσαφήνιση του όρου της ΤΝ, είναι σημαντικό να οριστούν οι έννοιες του «κινδύνου», του «υψηλού κινδύνου», του «χαμηλού κινδύνου», της «εξ αποστάσεως βιομετρικής ταυτοποίησης» και της «βλάβης».

Οι περισσότεροι από τους απαντήσαντες τάσσονται ρητά υπέρ της προσέγγισης βάσει κινδύνου. Η χρήση πλαισίου βάσει κινδύνου θεωρήθηκε καλύτερη επιλογή από την καθολική ρύθμιση όλων των συστημάτων ΤΝ. Οι τύποι κινδύνων και απειλών θα πρέπει να βασίζονται σε μια προσέγγιση ανά τομέα και κατά περίπτωση. Οι κίνδυνοι θα πρέπει επίσης να υπολογίζονται λαμβανομένου υπόψη του αντίκτυπου στα δικαιώματα και στην ασφάλεια.

Τα ρυθμιστικά δοκιμαστήρια θα μπορούσαν να είναι πολύ χρήσιμα για την προώθηση της ΤΝ και είναι ευπρόσδεκτα από ορισμένα ενδιαφερόμενα μέρη, και ειδικά από τις επιχειρηματικές ενώσεις. 

Μεταξύ εκείνων που διατύπωσαν τη γνώμη τους σχετικά με τα μοντέλα επιβολής, ποσοστό άνω του 50 %, κυρίως από τις επιχειρηματικές ενώσεις, τάχθηκαν υπέρ του συνδυασμού εκ των προτέρων αυτοαξιολόγησης κινδύνου και εκ των υστέρων επιβολής για τα συστήματα ΤΝ υψηλού κινδύνου.

3.2.Συλλογή και χρήση εμπειρογνωσίας

Η πρόταση βασίζεται σε ανάλυση δύο ετών και στη στενή συμμετοχή των ενδιαφερόμενων μερών, συμπεριλαμβανομένων πανεπιστημιακών, επιχειρήσεων, κοινωνικών εταίρων, μη κυβερνητικών οργανώσεων, κρατών μελών και πολιτών. Οι προπαρασκευαστικές εργασίες ξεκίνησαν το 2018 με τη σύσταση ομάδας εμπειρογνωμόνων υψηλού επιπέδου (ΟΕΥΕ) για την ΤΝ, η οποία διέθετε ευρεία σύνθεση χωρίς αποκλεισμούς, απαρτιζόμενη από 52 ευρέως γνωστούς εμπειρογνώμονες επιφορτισμένους με την παροχή συμβουλών στην Επιτροπή σχετικά με την εφαρμογή της στρατηγικής της Επιτροπής για την τεχνητή νοημοσύνη. Τον Απρίλιο του 2019 η Επιτροπή υποστήριξε 23 τις βασικές απαιτήσεις που ορίζονται στις κατευθυντήριες γραμμές δεοντολογίας της ΟΕΥΕ για αξιόπιστη ΤΝ 24 , οι οποίες είχαν αναθεωρηθεί ώστε να ληφθούν υπόψη περισσότερες από 500 παρατηρήσεις που υποβλήθηκαν από ενδιαφερόμενα μέρη. Οι βασικές απαιτήσεις αντικατοπτρίζουν μια ευρεία και κοινή προσέγγιση, όπως αποδεικνύεται από πληθώρα κωδίκων δεοντολογίας και αρχών που έχουν αναπτυχθεί από πολλούς ιδιωτικούς και δημόσιους οργανισμούς στην Ευρώπη και πέραν αυτής, ότι η ανάπτυξη και η χρήση ΤΝ θα πρέπει να καθοδηγείται από ορισμένες βασικές αρχές με γνώμονα την αξία. Ο κατάλογος αξιολόγησης για αξιόπιστη τεχνητή νοημοσύνη (ALTAI) 25 έθεσε τις εν λόγω απαιτήσεις σε εφαρμογή στο πλαίσιο πιλοτικής διαδικασίας με περισσότερους από 350 οργανισμούς. 

Επιπλέον, η Συμμαχία για την ΤΝ 26 δημιουργήθηκε ως πλατφόρμα για περίπου 4 000 ενδιαφερόμενα μέρη με σκοπό τον διάλογο σχετικά με τις τεχνολογικές και κοινωνικές επιπτώσεις της ΤΝ, με αποκορύφωμα την ετήσια συνέλευση για την ΤΝ. 

3.3.Εκτίμηση επιπτώσεων

Σύμφωνα με την πολιτική της για τη «βελτίωση της νομοθεσίας», η Επιτροπή διενήργησε εκτίμηση των επιπτώσεων για την παρούσα πρόταση, η οποία εξετάστηκε από την επιτροπή ρυθμιστικού ελέγχου της Επιτροπής. Στις 16 Δεκεμβρίου 2020 πραγματοποιήθηκε συνεδρίαση με την επιτροπή ρυθμιστικού ελέγχου, σε συνέχεια της οποίας εκδόθηκε αρνητική γνώμη. Έπειτα από ουσιαστική αναθεώρηση της εκτίμησης των επιπτώσεων, προκειμένου να ληφθούν υπόψη τα σχόλια, και εκ νέου υποβολή της εκτίμησης των επιπτώσεων, η επιτροπή ρυθμιστικού ελέγχου εξέδωσε θετική γνώμη στις 21 Μαρτίου 2021. Οι γνώμες της επιτροπής ρυθμιστικού ελέγχου, οι συστάσεις και η επεξήγηση του τρόπου με τον οποίο ελήφθησαν υπόψη παρουσιάζονται στο παράρτημα 1 της εκτίμησης των επιπτώσεων. 

Η Επιτροπή εξέτασε διάφορες επιλογές πολιτικής για την επίτευξη του γενικού στόχου της πρότασης, ο οποίος συνίσταται στη διασφάλιση της ορθής λειτουργίας της ενιαίας αγοράς με τη δημιουργία των προϋποθέσεων για την ανάπτυξη και τη χρήση αξιόπιστης ΤΝ στην Ένωση.

Αξιολογήθηκαν τέσσερις επιλογές πολιτικής με διαφορετικό βαθμό ρυθμιστικής παρέμβασης:

·Επιλογή 1: νομοθετική πράξη της ΕΕ για τη θέσπιση εθελοντικού συστήματος επισήμανσης·

·Επιλογή 2: τομεακή, «ad-hoc» προσέγγιση·

·Επιλογή 3: οριζόντια νομοθετική πράξη της ΕΕ σύμφωνα με αναλογική προσέγγιση βάσει κινδύνου·

·Επιλογή 3+: οριζόντια νομοθετική πράξη της ΕΕ σύμφωνα με αναλογική προσέγγιση βάσει κινδύνου + κώδικες δεοντολογίας για τα συστήματα ΤΝ μη υψηλού κινδύνου·

·Επιλογή 4: οριζόντια νομοθετική πράξη της ΕΕ που θεσπίζει υποχρεωτικές απαιτήσεις για όλα τα συστήματα ΤΝ, ανεξάρτητα από τον κίνδυνο που ενέχουν.

Σύμφωνα με την καθιερωμένη μεθοδολογία της Επιτροπής, κάθε επιλογή πολιτικής αξιολογήθηκε με βάση τις οικονομικές και κοινωνικές επιπτώσεις, με ιδιαίτερη έμφαση στις επιπτώσεις στα θεμελιώδη δικαιώματα. Η προτιμώμενη επιλογή είναι η επιλογή 3+, κανονιστικό πλαίσιο μόνο για τα συστήματα ΤΝ υψηλού κινδύνου, με τη δυνατότητα τήρησης κώδικα δεοντολογίας για όλους τους παρόχους συστημάτων ΤΝ μη υψηλού κινδύνου. Οι απαιτήσεις θα αφορούν τα δεδομένα, την τεκμηρίωση και την ιχνηλασιμότητα, την παροχή πληροφοριών και τη διαφάνεια, την ανθρώπινη εποπτεία καθώς και τη στιβαρότητα και την ακρίβεια, και θα είναι υποχρεωτικές για τα συστήματα ΤΝ υψηλού κινδύνου. Οι εταιρείες που θέσπισαν κώδικες δεοντολογίας για άλλα συστήματα ΤΝ το έπραξαν εθελοντικά.

Η προτιμώμενη επιλογή θεωρήθηκε κατάλληλη για να ανταποκριθεί με τον πλέον αποτελεσματικό τρόπο στους στόχους της παρούσας πρότασης. Απαιτώντας ένα περιορισμένο αλλά αποτελεσματικό σύνολο δράσεων από τους φορείς ανάπτυξης και τους χρήστες ΤΝ, η προτιμώμενη επιλογή περιορίζει τους κινδύνους παραβίασης των θεμελιωδών δικαιωμάτων και της ασφάλειας των ανθρώπων και προάγει την αποτελεσματική εποπτεία και επιβολή, εστιάζοντας τις απαιτήσεις μόνο στα συστήματα όπου υπάρχει υψηλός κίνδυνος να σημειωθούν τέτοιες παραβιάσεις. Ως εκ τούτου, η επιλογή αυτή διατηρεί το κόστος συμμόρφωσης στο ελάχιστο, αποφεύγοντας με τον τρόπο αυτόν την περιττή επιβράδυνση της αποδοχής λόγω υψηλότερων τιμών και κόστους συμμόρφωσης. Προκειμένου να αντιμετωπιστούν πιθανά μειονεκτήματα για τις ΜΜΕ, η επιλογή αυτή περιλαμβάνει διάφορες διατάξεις για τη στήριξη της συμμόρφωσής τους και τη μείωση του κόστους τους, συμπεριλαμβανομένης της δημιουργίας ρυθμιστικών δοκιμαστηρίων και της υποχρέωσης να λαμβάνονται υπόψη τα συμφέροντα των ΜΜΕ κατά τον καθορισμό των τελών που σχετίζονται με την αξιολόγηση της συμμόρφωσης. 

Η προτιμώμενη επιλογή θα αυξήσει την εμπιστοσύνη των ανθρώπων στην ΤΝ, οι εταιρείες θα επιτύχουν ασφάλεια δικαίου και τα κράτη μέλη δεν θα έχουν λόγο να αναλάβουν μονομερή δράση που θα μπορούσε να οδηγήσει σε κατακερματισμό της ενιαίας αγοράς. Ως αποτέλεσμα της υψηλότερης ζήτησης λόγω μεγαλύτερης εμπιστοσύνης, των περισσότερων διαθέσιμων προσφορών λόγω της ασφάλειας δικαίου, καθώς και της απουσίας εμποδίων στη διασυνοριακή κυκλοφορία των συστημάτων ΤΝ, η ενιαία αγορά για την ΤΝ πιθανότατα θα ακμάσει. Η Ευρωπαϊκή Ένωση θα συνεχίσει να εξελίσσει ένα ταχέως αναπτυσσόμενο οικοσύστημα ΤΝ καινοτόμων υπηρεσιών και προϊόντων που ενσωματώνουν τεχνολογία ΤΝ ή αυτόνομων συστημάτων ΤΝ, με αποτέλεσμα την αύξηση της ψηφιακής αυτονομίας.

Οι επιχειρήσεις ή οι δημόσιες αρχές που αναπτύσσουν ή χρησιμοποιούν εφαρμογές ΤΝ που συνιστούν υψηλό κίνδυνο για την ασφάλεια ή τα θεμελιώδη δικαιώματα των πολιτών θα πρέπει να συμμορφώνονται με συγκεκριμένες απαιτήσεις και υποχρεώσεις. Η συμμόρφωση με αυτές τις απαιτήσεις θα    συνεπαγόταν κόστος το οποίο θα ανερχόταν κατά προσέγγιση σε 6 000 EUR έως 7 000 EUR για την προμήθεια ενός μέσου συστήματος ΤΝ υψηλού κινδύνου της τάξης των 170 000 EUR έως το 2025. Για τους χρήστες ΤΝ, θα υπάρχει επίσης το ετήσιο κόστος για τον χρόνο που δαπανάται για τη διασφάλιση της ανθρώπινης εποπτείας, όπου αυτό κρίνεται σκόπιμο, ανάλογα με την περίπτωση χρήσης. Το κόστος αυτό εκτιμάται κατά προσέγγιση σε 5 000 EUR έως 8 000 EUR ετησίως. Το κόστος επαλήθευσης θα μπορούσε να ανέλθει σε επιπλέον 3 000 EUR έως 7 500 EUR για τους προμηθευτές ΤΝ υψηλού κινδύνου. Οι επιχειρήσεις ή οι δημόσιες αρχές που αναπτύσσουν ή χρησιμοποιούν οποιεσδήποτε εφαρμογές ΤΝ που δεν ταξινομούνται ως υψηλού κινδύνου θα έχουν μόνον ελάχιστες υποχρεώσεις ενημέρωσης. Ωστόσο, θα μπορούσαν να επιλέξουν να ενώσουν τις δυνάμεις τους με άλλες και να εγκρίνουν από κοινού έναν κώδικα δεοντολογίας για την τήρηση των κατάλληλων απαιτήσεων και τη διασφάλιση της αξιοπιστίας των οικείων συστημάτων ΤΝ. Στην περίπτωση αυτή, το κόστος θα ανερχόταν, το πολύ, στο ίδιο επίπεδο με εκείνο για τα συστήματα ΤΝ υψηλού κινδύνου, αλλά κατά πάσα πιθανότητα θα ήταν χαμηλότερο. 

Οι επιπτώσεις των επιλογών πολιτικής στις διάφορες κατηγορίες ενδιαφερόμενων μερών (οικονομικοί φορείς/επιχειρήσεις· οργανισμοί αξιολόγησης της συμμόρφωσης, οργανισμοί τυποποίησης και άλλοι δημόσιοι οργανισμοί· άτομα/πολίτες· ερευνητές) επεξηγούνται λεπτομερώς στο παράρτημα 3 της εκτίμησης των επιπτώσεων που υποστηρίζει την παρούσα πρόταση.

3.4.Καταλληλότητα και απλούστευση του κανονιστικού πλαισίου

Η παρούσα πρόταση θεσπίζει υποχρέωση που θα ισχύει για τους παρόχους και τους χρήστες συστημάτων ΤΝ υψηλού κινδύνου. Για τους παρόχους που αναπτύσσουν και διαθέτουν τέτοια συστήματα στην αγορά της Ένωσης, θα δημιουργήσει ασφάλεια δικαίου και θα διασφαλίσει ότι δεν θα προκύψει κανένα εμπόδιο στη διασυνοριακή παροχή υπηρεσιών και προϊόντων που σχετίζονται με την ΤΝ. Για τις εταιρείες που χρησιμοποιούν ΤΝ, θα προωθήσει την εμπιστοσύνη μεταξύ των πελατών τους. Για τις εθνικές δημόσιες διοικήσεις, θα προωθήσει την εμπιστοσύνη του κοινού στη χρήση της ΤΝ και θα ενισχύσει τους μηχανισμούς επιβολής (με τη θέσπιση ευρωπαϊκού μηχανισμού συντονισμού, την παροχή κατάλληλων ικανοτήτων και τη διευκόλυνση των ελέγχων των συστημάτων ΤΝ με νέες απαιτήσεις τεκμηρίωσης, ιχνηλασιμότητας και διαφάνειας). Επιπλέον, το πλαίσιο θα προβλέπει ειδικά μέτρα για τη στήριξη της καινοτομίας, συμπεριλαμβανομένων ρυθμιστικών δοκιμαστηρίων και ειδικών μέτρων για τη στήριξη των χρηστών μικρής κλίμακας και των παρόχων συστημάτων ΤΝ υψηλού κινδύνου, ώστε να συμμορφώνονται με τους νέους κανόνες.

Η πρόταση αποσκοπεί επίσης ειδικά στην ενίσχυση της ανταγωνιστικότητας και της βιομηχανικής βάσης της Ευρώπης στον τομέα της ΤΝ. Εξασφαλίζεται απόλυτη συνέπεια με την ισχύουσα τομεακή νομοθεσία της Ένωσης που εφαρμόζεται στα συστήματα ΤΝ (π.χ. σχετικά με τα προϊόντα και τις υπηρεσίες), η οποία θα επιφέρει περαιτέρω σαφήνεια και θα απλουστεύσει την επιβολή των νέων κανόνων.

3.5.Θεμελιώδη δικαιώματα

Η χρήση της ΤΝ με τα ιδιαίτερα χαρακτηριστικά της (π.χ. αδιαφάνεια, πολυπλοκότητα, εξάρτηση από δεδομένα, αυτόνομη συμπεριφορά) μπορεί να επηρεάσει αρνητικά ορισμένα θεμελιώδη δικαιώματα που κατοχυρώνονται στον Χάρτη των Θεμελιωδών Δικαιωμάτων της ΕΕ (στο εξής: Χάρτης). Η παρούσα πρόταση επιδιώκει να εξασφαλίσει υψηλό επίπεδο προστασίας για τα εν λόγω θεμελιώδη δικαιώματα και αποσκοπεί στην αντιμετώπιση διαφόρων πηγών κινδύνων μέσω μιας σαφώς καθορισμένης προσέγγισης βάσει κινδύνου. Με ένα σύνολο απαιτήσεων για αξιόπιστη ΤΝ και αναλογικές υποχρεώσεις για όλους τους συμμετέχοντες στην αξιακή αλυσίδα, η πρόταση θα ενισχύσει και θα προωθήσει την προάσπιση των δικαιωμάτων που προστατεύονται από τον Χάρτη, όπως: το δικαίωμα στην ανθρώπινη αξιοπρέπεια (άρθρο 1), τον σεβασμό της ιδιωτικής ζωής και την προστασία των δεδομένων προσωπικού χαρακτήρα (άρθρα 7 και 8), την απαγόρευση των διακρίσεων (άρθρο 21) και την ισότητα γυναικών και ανδρών (άρθρο 23). Σκοπός της είναι η πρόληψη τυχόν αποτρεπτικού αποτελέσματος σε σχέση με τα δικαιώματα της ελευθερίας της έκφρασης (άρθρο 11) και της ελευθερίας του συνέρχεσθαι (άρθρο 12), η διασφάλιση της προστασίας του δικαιώματος πραγματικής προσφυγής και αμερόληπτου δικαστηρίου, των δικαιωμάτων της υπεράσπισης και του τεκμηρίου αθωότητας (άρθρα 47 και 48), καθώς και της γενικής αρχής της χρηστής διοίκησης. Επιπλέον, όπως θα εφαρμοστεί σε ορισμένους τομείς, η πρόταση θα επηρεάσει θετικά τα δικαιώματα ορισμένων ειδικών ομάδων, όπως τα δικαιώματα των εργαζομένων σε δίκαιες και πρόσφορες συνθήκες εργασίας (άρθρο 31), υψηλό επίπεδο προστασίας των καταναλωτών (άρθρο 28), τα δικαιώματα του παιδιού (άρθρο 24) και την ένταξη των ατόμων με αναπηρίες (άρθρο 26). Το δικαίωμα σε υψηλό επίπεδο προστασίας του περιβάλλοντος και η βελτίωση της ποιότητας του περιβάλλοντος (άρθρο 37) έχουν επίσης σημασία, μεταξύ άλλων και σε σχέση με την υγεία και την ασφάλεια των ανθρώπων. Οι υποχρεώσεις για εκ των προτέρων δοκιμές, διαχείριση κινδύνου και ανθρώπινη εποπτεία θα διευκολύνουν επίσης τον σεβασμό άλλων θεμελιωδών δικαιωμάτων, ελαχιστοποιώντας τον κίνδυνο εσφαλμένων ή μεροληπτικών αποφάσεων με τη βοήθεια ΤΝ σε κρίσιμους τομείς όπως η εκπαίδευση και η κατάρτιση, η απασχόληση, οι σημαντικές υπηρεσίες, η επιβολή του νόμου και η δικαιοσύνη. Σε περίπτωση που εξακολουθούν να υφίστανται παραβιάσεις των θεμελιωδών δικαιωμάτων, θα καταστεί δυνατή η αποτελεσματική προσφυγή για τα θιγόμενα πρόσωπα με τη διασφάλιση της διαφάνειας και της ιχνηλασιμότητας των συστημάτων ΤΝ σε συνδυασμό με αυστηρούς εκ των υστέρων ελέγχους.

Η παρούσα πρόταση επιβάλλει ορισμένους περιορισμούς στην επιχειρηματική ελευθερία (άρθρο 16) και στην ελευθερία της τέχνης και της επιστήμης (άρθρο 13) για τη διασφάλιση της συμμόρφωσης με επιτακτικούς λόγους δημόσιου συμφέροντος, όπως η υγεία, η ασφάλεια, η προστασία των καταναλωτών και η προστασία άλλων θεμελιωδών δικαιωμάτων («υπεύθυνη καινοτομία»), κατά την ανάπτυξη και τη χρήση τεχνολογίας ΤΝ υψηλού κινδύνου. Οι περιορισμοί αυτοί είναι αναλογικοί και περιορίζονται στο ελάχιστο αναγκαίο για την πρόληψη και τον μετριασμό των σοβαρών κινδύνων ασφάλειας και των πιθανών παραβιάσεων των θεμελιωδών δικαιωμάτων.

4.ΔΗΜΟΣΙΟΝΟΜΙΚΕΣ ΕΠΙΠΤΩΣΕΙΣ

Τα κράτη μέλη θα πρέπει να ορίσουν εποπτικές αρχές επιφορτισμένες με την εφαρμογή των νομοθετικών απαιτήσεων. Η εποπτική τους λειτουργία θα μπορούσε να βασιστεί σε υφιστάμενες ρυθμίσεις, για παράδειγμα όσον αφορά τους οργανισμούς αξιολόγησης της συμμόρφωσης ή την εποπτεία της αγοράς, αλλά θα απαιτούσε επαρκή τεχνολογική εμπειρογνωσία, καθώς και ανθρώπινους και οικονομικούς πόρους. Ανάλογα με την προϋπάρχουσα δομή σε κάθε κράτος μέλος, αυτό θα μπορούσε να ανέλθει σε 1 έως 25 ισοδύναμα πλήρους απασχόλησης ανά κράτος μέλος.

5.ΛΟΙΠΑ ΣΤΟΙΧΕΙΑ

5.1.Σχέδια εφαρμογής και ρυθμίσεις παρακολούθησης, αξιολόγησης και υποβολής εκθέσεων

Η πρόβλεψη ισχυρού μηχανισμού παρακολούθησης και αξιολόγησης είναι εξαιρετικά σημαντική προκειμένου να διασφαλιστεί ότι η πρόταση θα επιτύχει με αποτελεσματικό τρόπο τους ειδικούς στόχους της. Η Επιτροπή θα είναι επιφορτισμένη με την παρακολούθηση των αποτελεσμάτων της πρότασης. Θα δημιουργήσει ένα σύστημα για την καταχώριση αυτόνομων εφαρμογών ΤΝ υψηλού κινδύνου σε δημόσια βάση δεδομένων σε επίπεδο ΕΕ. Η καταχώριση αυτή θα παράσχει επίσης στις αρμόδιες αρχές, στους χρήστες και σε άλλους ενδιαφερόμενους τη δυνατότητα να επαληθεύουν αν το σύστημα ΤΝ υψηλού κινδύνου συμμορφώνεται με τις απαιτήσεις που προβλέπονται στην πρόταση και να ασκούν ενισχυμένη εποπτεία στα συστήματα ΤΝ που ενέχουν υψηλούς κινδύνους για τα θεμελιώδη δικαιώματα. Για να τροφοδοτούν αυτή τη βάση δεδομένων, οι πάροχοι ΤΝ θα είναι υποχρεωμένοι να παρέχουν ουσιαστικές πληροφορίες σχετικά με τα συστήματά τους και την αξιολόγηση της συμμόρφωσης που διενεργείται στα εν λόγω συστήματα. 

Επιπλέον, οι πάροχοι ΤΝ θα είναι υποχρεωμένοι να ενημερώνουν τις αρμόδιες εθνικές αρχές για σοβαρά περιστατικά ή δυσλειτουργίες που συνιστούν παράβαση των υποχρεώσεων που απορρέουν από τα θεμελιώδη δικαιώματα μόλις λάβουν γνώση αυτών, καθώς και για τυχόν ανακλήσεις ή αποσύρσεις συστημάτων ΤΝ από την αγορά. Στη συνέχεια, οι εθνικές αρμόδιες αρχές θα διερευνούν τα συμβάντα ή τη δυσλειτουργία, θα συλλέγουν όλες τις απαραίτητες πληροφορίες και θα τις διαβιβάζουν τακτικά στην Επιτροπή με επαρκή μεταδεδομένα. Η Επιτροπή θα συμπληρώνει τις πληροφορίες αυτές σχετικά με τα περιστατικά με μια ολοκληρωμένη ανάλυση της συνολικής αγοράς ΤΝ.

Η Επιτροπή θα δημοσιεύσει έκθεση αξιολόγησης και επανεξέτασης του προτεινόμενου πλαισίου για την ΤΝ πέντε έτη μετά την ημερομηνία έναρξης εφαρμογής του.

5.2.Αναλυτική επεξήγηση των επιμέρους διατάξεων της πρότασης

5.2.1.ΠΕΔΙΟ ΕΦΑΡΜΟΓΗΣ ΚΑΙ ΟΡΙΣΜΟΙ (ΤΙΤΛΟΣ I)

Ο τίτλος Ι καθορίζει το αντικείμενο του κανονισμού και το πεδίο εφαρμογής των νέων κανόνων που καλύπτουν τη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση συστημάτων ΤΝ. Περιλαμβάνει επίσης τους ορισμούς που χρησιμοποιούνται σε όλη την έκταση της πράξης. Ο ορισμός του συστήματος ΤΝ στο νομικό πλαίσιο έχει ως στόχο να είναι όσο το δυνατόν τεχνολογικά ουδέτερος και διαχρονικός, λαμβανομένων υπόψη των ραγδαίων τεχνολογικών εξελίξεων και των εξελίξεων της αγοράς που σχετίζονται με την ΤΝ. Προκειμένου να παρασχεθεί η αναγκαία ασφάλεια δικαίου, ο τίτλος Ι συμπληρώνεται από το παράρτημα Ι, το οποίο περιέχει λεπτομερή κατάλογο προσεγγίσεων και τεχνικών για την ανάπτυξη της ΤΝ, ο οποίος πρέπει να προσαρμοστεί από την Επιτροπή σύμφωνα με τις νέες τεχνολογικές εξελίξεις. Οι βασικοί συμμετέχοντες σε ολόκληρη την αξιακή αλυσίδα της ΤΝ ορίζονται επίσης με σαφήνεια, όπως οι πάροχοι και οι χρήστες συστημάτων ΤΝ που καλύπτουν τόσο τους δημόσιους όσο και τους ιδιωτικούς φορείς εκμετάλλευσης, ώστε να διασφαλίζονται ισότιμοι όροι ανταγωνισμού.

5.2.2.ΑΠΑΓΟΡΕΥΜΕΝΕΣ ΠΡΑΚΤΙΚΕΣ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ (ΤΙΤΛΟΣ II) 

Ο τίτλος II περιλαμβάνει κατάλογο απαγορευμένων πρακτικών ΤΝ. Ο κανονισμός ακολουθεί μια προσέγγιση βάσει κινδύνου, στο πλαίσιο της οποίας γίνεται διάκριση μεταξύ των χρήσεων της ΤΝ που δημιουργούν i) μη αποδεκτό κίνδυνο, ii) υψηλό κίνδυνο και iii) χαμηλό ή ελάχιστο κίνδυνο. Ο κατάλογος απαγορευμένων πρακτικών στον τίτλο ΙΙ περιλαμβάνει όλα τα συστήματα ΤΝ των οποίων η χρήση θεωρείται μη αποδεκτή διότι αντιβαίνει στις αξίες της Ένωσης, για παράδειγμα παραβιάζοντας θεμελιώδη δικαιώματα. Οι απαγορεύσεις καλύπτουν πρακτικές που έχουν σημαντικές δυνατότητες χειραγώγησης προσώπων μέσω τεχνικών που απευθύνονται στο υποσυνείδητο υπερκεράζοντας το συνειδητό τους ή εκμεταλλεύονται τα τρωτά σημεία συγκεκριμένων ευάλωτων ομάδων, όπως τα παιδιά ή τα άτομα με αναπηρίες, προκειμένου να στρεβλώσουν ουσιωδώς τη συμπεριφορά τους κατά τρόπο που ενδέχεται να προκαλέσει στα άτομα αυτά ή σε άλλο πρόσωπο ψυχολογική ή σωματική βλάβη. Άλλες πρακτικές χειραγώγησης ή εκμετάλλευσης που επηρεάζουν ενήλικες και οι οποίες ενδέχεται να διευκολύνονται από συστήματα ΤΝ θα μπορούσαν να καλύπτονται από την ισχύουσα νομοθεσία για την προστασία των δεδομένων, την προστασία των καταναλωτών και τις ψηφιακές υπηρεσίες, η οποία εγγυάται ότι τα φυσικά πρόσωπα ενημερώνονται δεόντως και έχουν ελεύθερη επιλογή να μην υπόκεινται σε κατάρτιση προφίλ ή σε άλλες πρακτικές που ενδέχεται να επηρεάσουν τη συμπεριφορά τους. Η πρόταση απαγορεύει επίσης την κοινωνική βαθμολόγηση με βάση την ΤΝ για γενικούς σκοπούς από τις δημόσιες αρχές. Τέλος, απαγορεύεται επίσης η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε «πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου, εκτός εάν ισχύουν ορισμένες περιορισμένες εξαιρέσεις.

5.2.3.ΣΥΣΤΗΜΑΤΑ ΤΝ ΥΨΗΛΟΥ ΚΙΝΔΥΝΟΥ (ΤΙΤΛΟΣ III) 

Ο τίτλος III περιλαμβάνει ειδικούς κανόνες για τα συστήματα ΤΝ που προκαλούν υψηλό κίνδυνο για την υγεία και την ασφάλεια ή για τα θεμελιώδη δικαιώματα των φυσικών προσώπων. Σύμφωνα με μια προσέγγιση βάσει κινδύνου, τα εν λόγω συστήματα ΤΝ υψηλού κινδύνου επιτρέπονται στην ευρωπαϊκή αγορά με την επιφύλαξη της συμμόρφωσης με ορισμένες υποχρεωτικές απαιτήσεις και της εκ των προτέρων αξιολόγησης της συμμόρφωσης. Η ταξινόμηση ενός συστήματος ΤΝ ως υψηλού κινδύνου βασίζεται στον επιδιωκόμενο σκοπό του συστήματος ΤΝ, σύμφωνα με την ισχύουσα νομοθεσία για την ασφάλεια των προϊόντων. Συνεπώς, η ταξινόμηση ως υψηλού κινδύνου δεν εξαρτάται μόνον από τη λειτουργία που επιτελεί το σύστημα ΤΝ, αλλά και από τον συγκεκριμένο σκοπό και τις πρακτικές λεπτομέρειες για τις οποίες χρησιμοποιείται το εν λόγω σύστημα. 

Στο κεφάλαιο 1 του τίτλου III καθορίζονται οι κανόνες ταξινόμησης και προσδιορίζονται δύο κύριες κατηγορίες συστημάτων ΤΝ υψηλού κινδύνου:

·συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν ως κατασκευαστικά στοιχεία ασφάλειας προϊόντων τα οποία υπόκεινται σε εκ των προτέρων αξιολόγηση της συμμόρφωσης από τρίτα μέρη·

·άλλα αυτόνομα συστήματα ΤΝ με επιπτώσεις κυρίως στα θεμελιώδη δικαιώματα, τα οποία αναφέρονται ρητά στο παράρτημα III.

Ο εν λόγω κατάλογος συστημάτων ΤΝ υψηλού κινδύνου στο παράρτημα III περιλαμβάνει περιορισμένο αριθμό συστημάτων ΤΝ των οποίων οι κίνδυνοι έχουν ήδη πραγματωθεί ή είναι πιθανό να πραγματωθούν στο εγγύς μέλλον. Προκειμένου να διασφαλιστεί ότι ο κανονισμός μπορεί να προσαρμοστεί στις αναδυόμενες χρήσεις και εφαρμογές της ΤΝ, η Επιτροπή μπορεί να επεκτείνει τον κατάλογο των συστημάτων ΤΝ υψηλού κινδύνου που χρησιμοποιούνται σε ορισμένους προκαθορισμένους τομείς, μέσω της εφαρμογής συνόλου κριτηρίων και μεθοδολογίας εκτίμησης κινδύνου. 

Στο κεφάλαιο 2 καθορίζονται οι νομικές απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου σε σχέση με τα δεδομένα και τη διακυβέρνηση των δεδομένων, την τεκμηρίωση και την τήρηση αρχείων, τη διαφάνεια και την παροχή πληροφοριών στους χρήστες, την ανθρώπινη εποπτεία, τη στιβαρότητα, την ακρίβεια και την ασφάλεια. Οι προτεινόμενες ελάχιστες απαιτήσεις είναι ήδη προηγμένες για πολλούς επιμελείς φορείς εκμετάλλευσης και συνιστούν το αποτέλεσμα διετών προπαρασκευαστικών εργασιών, που προέκυψε από τις κατευθυντήριες γραμμές δεοντολογίας της ΟΕΥΕ 29 , οι οποίες εφαρμόζονται πιλοτικά από περισσότερους από 350 οργανισμούς 30 . Είναι επίσης σε μεγάλο βαθμό συνεπείς με άλλες διεθνείς συστάσεις και αρχές, γεγονός που διασφαλίζει ότι το προτεινόμενο πλαίσιο για την ΤΝ είναι συμβατό με εκείνο που εγκρίθηκε από τους διεθνείς εμπορικούς εταίρους της ΕΕ. Οι ακριβείς τεχνικές λύσεις για την επίτευξη της συμμόρφωσης με τις εν λόγω απαιτήσεις μπορούν να παρέχονται μέσω προτύπων ή μέσω άλλων τεχνικών προδιαγραφών ή να αναπτύσσονται με άλλον τρόπο σύμφωνα με γενικές τεχνικές ή επιστημονικές γνώσεις κατά τη διακριτική ευχέρεια του παρόχου του συστήματος ΤΝ. Η ευελιξία αυτή είναι ιδιαίτερα σημαντική, διότι επιτρέπει στους παρόχους συστημάτων ΤΝ να επιλέγουν τον τρόπο εκπλήρωσης των απαιτήσεών τους, λαμβανομένης υπόψη της τεχνολογικής και επιστημονικής προόδου στον εν λόγω τομέα.

Το κεφάλαιο 3 προβλέπει σαφές σύνολο οριζόντιων υποχρεώσεων για τους παρόχους συστημάτων ΤΝ υψηλού κινδύνου. Αναλογικές υποχρεώσεις επιβάλλονται επίσης στους χρήστες και σε άλλους συμμετέχοντες σε ολόκληρη την αξιακή αλυσίδα της ΤΝ (π.χ. εισαγωγείς, διανομείς, εξουσιοδοτημένους αντιπροσώπους).

Στο κεφάλαιο 4 καθορίζεται το πλαίσιο για τη συμμετοχή των κοινοποιημένων οργανισμών ως ανεξάρτητων τρίτων στις διαδικασίες αξιολόγησης της συμμόρφωσης, ενώ στο κεφάλαιο 5 εξηγούνται λεπτομερώς οι διαδικασίες αξιολόγησης της συμμόρφωσης που πρέπει να ακολουθούνται για κάθε τύπο συστήματος ΤΝ υψηλού κινδύνου. Η προσέγγιση αξιολόγησης της συμμόρφωσης αποσκοπεί στην ελαχιστοποίηση της επιβάρυνσης για τους οικονομικούς φορείς, καθώς και για τους κοινοποιημένους οργανισμούς, των οποίων η ικανότητα πρέπει να αυξάνεται σταδιακά με την πάροδο του χρόνου. Τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν ως κατασκευαστικά στοιχεία ασφάλειας προϊόντων, τα οποία ρυθμίζονται από τη νομοθεσία του νέου νομοθετικού πλαισίου (π.χ. μηχανήματα, παιχνίδια, ιατροτεχνολογικά προϊόντα κ.λπ.), θα υπόκεινται στους ίδιους εκ των προτέρων και εκ των υστέρων μηχανισμούς συμμόρφωσης και επιβολής στους οποίους υπόκεινται τα προϊόντα των οποίων αποτελούν κατασκευαστικό στοιχείο. Η βασική διαφορά είναι ότι οι μηχανισμοί εκ των προτέρων και εκ των υστέρων θα διασφαλίσουν τη συμμόρφωση όχι μόνο με τις απαιτήσεις που καθορίζονται στην τομεακή νομοθεσία, αλλά και με τις απαιτήσεις που θεσπίζονται με τον παρόντα κανονισμό. 

Όσον αφορά τα αυτόνομα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα III, θα θεσπιστεί νέο σύστημα συμμόρφωσης και επιβολής. Αυτό ακολουθεί το πρότυπο της νομοθεσίας του νέου νομοθετικού πλαισίου που εφαρμόζεται μέσω ελέγχων στο πλαίσιο του εσωτερικού ελέγχου από τους παρόχους, με εξαίρεση τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης που θα υπόκεινται σε αξιολόγηση της συμμόρφωσης από τρίτους. Η ολοκληρωμένη εκ των προτέρων αξιολόγηση της συμμόρφωσης μέσω εσωτερικών ελέγχων, σε συνδυασμό με την ισχυρή εκ των υστέρων επιβολή, θα μπορούσε να είναι αποτελεσματική και εύλογη λύση για τα εν λόγω συστήματα, δεδομένης της αρχικής φάσης της ρυθμιστικής παρέμβασης και δεδομένου του γεγονότος ότι ο τομέας της ΤΝ είναι πολύ καινοτόμος και η εμπειρογνωσία στον τομέα του ελέγχου μόλις τώρα αρχίζει να συσσωρεύεται. Η αξιολόγηση μέσω εσωτερικών ελέγχων για τα «αυτόνομα» συστήματα ΤΝ υψηλού κινδύνου θα απαιτούσε πλήρη, αποτελεσματική και δεόντως τεκμηριωμένη εκ των προτέρων συμμόρφωση με όλες τις απαιτήσεις του κανονισμού και συμμόρφωση με στιβαρά συστήματα ποιότητας και διαχείρισης κινδύνου, καθώς και παρακολούθηση μετά τη διάθεση στην αγορά. Μετά τη διενέργεια της σχετικής αξιολόγησης της συμμόρφωσης, ο πάροχος θα πρέπει να καταχωρίζει τα εν λόγω αυτόνομα συστήματα ΤΝ υψηλού κινδύνου σε βάση δεδομένων της ΕΕ την οποία θα διαχειρίζεται η Επιτροπή για να αυξήσει τη δημόσια διαφάνεια και εποπτεία και να ενισχύσει την εκ των υστέρων εποπτεία από τις αρμόδιες αρχές. Αντιθέτως, για λόγους συνέπειας με την ισχύουσα νομοθεσία για την ασφάλεια των προϊόντων, οι αξιολογήσεις της συμμόρφωσης των συστημάτων ΤΝ που αποτελούν κατασκευαστικά στοιχεία προϊόντων θα ακολουθούν σύστημα με διαδικασίες αξιολόγησης της συμμόρφωσης από τρίτους που έχουν ήδη καθιερωθεί στο πλαίσιο της σχετικής τομεακής νομοθεσίας για την ασφάλεια των προϊόντων. Θα απαιτούνται νέες εκ των προτέρων επαναξιολογήσεις της συμμόρφωσης σε περίπτωση ουσιαστικών τροποποιήσεων των συστημάτων ΤΝ (και κυρίως αλλαγών που υπερβαίνουν τα όσα προκαθορίζονται από τον πάροχο στην τεχνική του τεκμηρίωση και ελέγχονται κατά τη στιγμή της εκ των προτέρων αξιολόγησης της συμμόρφωσης).

5.2.4.ΥΠΟΧΡΕΩΣΕΙΣ ΔΙΑΦΑΝΕΙΑΣ ΓΙΑ ΟΡΙΣΜΕΝΑ ΣΥΣΤΗΜΑΤΑ ΤΝ (ΤΙΤΛΟΣ IV) 

Ο τίτλος IV αφορά την απαίτηση να λαμβάνονται υπόψη οι ειδικοί κίνδυνοι χειραγώγησης τους οποίους ενέχουν ορισμένα συστήματα ΤΝ. Υποχρεώσεις διαφάνειας θα ισχύουν για τα συστήματα που i) αλληλεπιδρούν με ανθρώπους, ii) χρησιμοποιούνται για την ανίχνευση συναισθημάτων ή για τον προσδιορισμό της συσχέτισης με (κοινωνικές) κατηγορίες με βάση βιομετρικά δεδομένα, ή iii) παράγουν ή χειρίζονται περιεχόμενο («βαθιά ψευδές υλικό»). Όταν τα πρόσωπα αλληλεπιδρούν με ένα σύστημα ΤΝ ή τα συναισθήματα ή τα χαρακτηριστικά τους αναγνωρίζονται με αυτοματοποιημένα μέσα, τα άτομα πρέπει να ενημερώνονται για το γεγονός αυτό. Εάν ένα σύστημα ΤΝ χρησιμοποιείται για τη δημιουργία ή τον χειρισμό περιεχομένου εικόνας, ήχου ή βίντεο που παρουσιάζει αισθητή ομοιότητα με αυθεντικό περιεχόμενο, θα πρέπει να υπάρχει υποχρέωση γνωστοποίησης ότι το περιεχόμενο παράγεται με αυτοματοποιημένα μέσα, με την επιφύλαξη εξαιρέσεων για νόμιμους σκοπούς (επιβολή του νόμου, ελευθερία της έκφρασης). Αυτό επιτρέπει στα άτομα να προβαίνουν σε τεκμηριωμένες επιλογές ή να υπαναχωρούν από μια δεδομένη κατάσταση.

5.2.5.ΜΕΤΡΑ ΓΙΑ ΤΗ ΣΤΗΡΙΞΗ ΤΗΣ ΚΑΙΝΟΤΟΜΙΑΣ (ΤΙΤΛΟΣ V) 

Ο τίτλος V συμβάλλει στον στόχο της δημιουργίας ενός νομικού πλαισίου που να είναι φιλικό προς την καινοτομία, διαχρονικό και ανθεκτικό στις διαταραχές. Για τον σκοπό αυτόν, ενθαρρύνει τις εθνικές αρμόδιες αρχές να δημιουργήσουν ρυθμιστικά δοκιμαστήρια και καθορίζει ένα βασικό πλαίσιο όσον αφορά τη διακυβέρνηση, την εποπτεία και την ευθύνη. Τα ρυθμιστικά δοκιμαστήρια ΤΝ δημιουργούν ένα ελεγχόμενο περιβάλλον για τη δοκιμή καινοτόμων τεχνολογιών για περιορισμένο χρονικό διάστημα βάσει σχεδίου δοκιμών που έχει συμφωνηθεί με τις αρμόδιες αρχές. Ο τίτλος V περιλαμβάνει επίσης μέτρα για τη μείωση της κανονιστικής επιβάρυνσης για τις ΜΜΕ και τις νεοφυείς επιχειρήσεις. 

5.2.6.ΔΙΑΚΥΒΕΡΝΗΣΗ ΚΑΙ ΕΦΑΡΜΟΓΗ (ΤΙΤΛΟΙ VI, VII ΚΑΙ VII) 

Ο τίτλος VI θεσπίζει τα συστήματα διακυβέρνησης σε ενωσιακό και εθνικό επίπεδο. Σε επίπεδο Ένωσης, η πρόταση προβλέπει τη σύσταση Ευρωπαϊκού Συμβουλίου Τεχνητής Νοημοσύνης (στο εξής: συμβούλιο), το οποίο απαρτίζεται από εκπροσώπους των κρατών μελών και της Επιτροπής. Το συμβούλιο θα διευκολύνει την ομαλή, αποτελεσματική και εναρμονισμένη εφαρμογή του παρόντος κανονισμού συμβάλλοντας στην αποτελεσματική συνεργασία των εθνικών εποπτικών αρχών και της Επιτροπής και παρέχοντας συμβουλές και εμπειρογνωσία στην Επιτροπή. Επίσης, θα διασφαλίζει τη συλλογή και ανταλλαγή βέλτιστων πρακτικών μεταξύ των κρατών μελών. 

Σε εθνικό επίπεδο, τα κράτη μέλη θα πρέπει να ορίσουν μία ή περισσότερες εθνικές αρμόδιες αρχές και, μεταξύ αυτών, την εθνική εποπτική αρχή, για τους σκοπούς της εποπτείας της εφαρμογής και της εκτέλεσης του κανονισμού. Ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων θα ενεργεί ως η αρμόδια αρχή για την εποπτεία των θεσμικών και λοιπών οργάνων και οργανισμών της Ένωσης όταν εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού.

Ο τίτλος VII αποσκοπεί στη διευκόλυνση του έργου παρακολούθησης της Επιτροπής και των εθνικών αρχών μέσω της δημιουργίας μιας πανευρωπαϊκής βάσης δεδομένων για αυτόνομα συστήματα ΤΝ υψηλού κινδύνου με επιπτώσεις κυρίως στα θεμελιώδη δικαιώματα. Η βάση δεδομένων θα τελεί υπό τη διαχείριση της Επιτροπής και θα λαμβάνει δεδομένα από τους παρόχους των συστημάτων ΤΝ, οι οποίοι θα υποχρεούνται να καταχωρίζουν τα συστήματά τους προτού τα διαθέσουν στην αγορά ή τα θέσουν σε λειτουργία με άλλον τρόπο.

Ο τίτλος VIII καθορίζει τις υποχρεώσεις παρακολούθησης και υποβολής εκθέσεων για τους παρόχους συστημάτων ΤΝ όσον αφορά την παρακολούθηση και την υποβολή εκθέσεων μετά τη διάθεση στην αγορά και τη διερεύνηση περιστατικών και δυσλειτουργιών που σχετίζονται με την ΤΝ. Οι αρχές εποπτείας της αγοράς θα ελέγχουν επίσης την αγορά και θα διερευνούν τη συμμόρφωση με τις υποχρεώσεις και τις απαιτήσεις για όλα τα συστήματα ΤΝ υψηλού κινδύνου που διατίθενται ήδη στην αγορά. Οι αρχές εποπτείας της αγοράς θα έχουν όλες τις εξουσίες βάσει του κανονισμού (ΕΕ) 2019/1020 για την εποπτεία της αγοράς. Η εκ των υστέρων επιβολή θα πρέπει να διασφαλίζει ότι, μετά τη διάθεση του συστήματος ΤΝ στην αγορά, οι δημόσιες αρχές διαθέτουν τις εξουσίες και τους πόρους για να παρεμβαίνουν σε περίπτωση που τα συστήματα ΤΝ δημιουργούν απροσδόκητους κινδύνους, οι οποίοι απαιτούν ταχεία δράση. Θα παρακολουθούν επίσης τη συμμόρφωση των φορέων εκμετάλλευσης με τις σχετικές υποχρεώσεις τους βάσει του κανονισμού. Η πρόταση δεν προβλέπει την αυτόματη δημιουργία πρόσθετων οργανισμών ή αρχών σε επίπεδο κρατών μελών. Ως εκ τούτου, τα κράτη μέλη μπορούν να διορίζουν υφιστάμενες τομεακές αρχές (και να αξιοποιούν την εμπειρογνωσία τους), στις οποίες θα ανατεθούν επίσης οι εξουσίες παρακολούθησης και επιβολής των διατάξεων του κανονισμού. 

Όλα αυτά ισχύουν με την επιφύλαξη του υφιστάμενου συστήματος και της κατανομής αρμοδιοτήτων για την εκ των υστέρων επιβολή υποχρεώσεων όσον αφορά τα θεμελιώδη δικαιώματα στα κράτη μέλη. Όταν είναι αναγκαίο για τους σκοπούς της εντολής τους, οι υφιστάμενες αρχές εποπτείας και επιβολής θα έχουν επίσης την εξουσία να ζητούν και να έχουν πρόσβαση σε όλα τα έγγραφα που τηρούνται σύμφωνα με τον παρόντα κανονισμό και, όπου απαιτείται, να ζητούν από τις αρχές εποπτείας της αγοράς να οργανώνουν δοκιμές του συστήματος ΤΝ υψηλού κινδύνου με τεχνικά μέσα.

5.2.7.ΚΩΔΙΚΕΣ ΔΕΟΝΤΟΛΟΓΙΑΣ (ΤΙΤΛΟΣ IX) 

Ο τίτλος IX διαμορφώνει ένα πλαίσιο για τη δημιουργία κωδίκων δεοντολογίας, οι οποίοι αποσκοπούν στην ενθάρρυνση των παρόχων συστημάτων ΤΝ μη υψηλού κινδύνου να εφαρμόζουν εθελοντικά τις υποχρεωτικές απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου (όπως ορίζονται στον τίτλο III). Οι πάροχοι συστημάτων ΤΝ μη υψηλού κινδύνου μπορούν να δημιουργούν και να εφαρμόζουν οι ίδιοι τους κώδικες δεοντολογίας. Οι κώδικες αυτοί μπορούν επίσης να περιλαμβάνουν εθελοντικές δεσμεύσεις που σχετίζονται, για παράδειγμα, με την περιβαλλοντική βιωσιμότητα, την προσβασιμότητα για τα άτομα με αναπηρία, τη συμμετοχή των ενδιαφερόμενων μερών στον σχεδιασμό και στην ανάπτυξη συστημάτων ΤΝ, καθώς και την ποικιλομορφία των ομάδων ανάπτυξης. 

5.2.8.ΤΕΛΙΚΕΣ ΔΙΑΤΑΞΕΙΣ (ΤΙΤΛΟΙ X, XI ΚΑΙ XII) 

Ο τίτλος Χ τονίζει την υποχρέωση όλων των μερών να σέβονται την εμπιστευτικότητα των πληροφοριών και των δεδομένων και θεσπίζει κανόνες για την ανταλλαγή πληροφοριών που λαμβάνονται κατά την εφαρμογή του κανονισμού. Ο τίτλος X περιλαμβάνει επίσης μέτρα για τη διασφάλιση της αποτελεσματικής εφαρμογής του κανονισμού μέσω αποτελεσματικών, αναλογικών και αποτρεπτικών κυρώσεων για παραβάσεις των διατάξεων.

Ο τίτλος XI θεσπίζει κανόνες για την άσκηση των εξουσιών έκδοσης κατ’ εξουσιοδότηση και εκτελεστικών πράξεων. Η πρόταση εξουσιοδοτεί την Επιτροπή να εκδίδει, κατά περίπτωση, εκτελεστικές πράξεις για τη διασφάλιση της ομοιόμορφης εφαρμογής του κανονισμού ή κατ’ εξουσιοδότηση πράξεις για την επικαιροποίηση ή τη συμπλήρωση των καταλόγων των παραρτημάτων I έως VII. 

Ο τίτλος XII περιλαμβάνει την υποχρέωση της Επιτροπής να αξιολογεί τακτικά την ανάγκη επικαιροποίησης του παραρτήματος ΙΙΙ και να εκπονεί τακτικές εκθέσεις σχετικά με την αξιολόγηση και την επανεξέταση του κανονισμού. Θεσπίζει επίσης τελικές διατάξεις, συμπεριλαμβανομένης μιας διαφοροποιημένης μεταβατικής περιόδου για την αρχική ημερομηνία εφαρμογής του κανονισμού, ώστε να διευκολύνεται η ομαλή εφαρμογή του για όλα τα ενδιαφερόμενα μέρη.

2021/0106 (COD)

Πρόταση

ΚΑΝΟΝΙΣΜΟΣ ΤΟΥ ΕΥΡΩΠΑΪΚΟΥ ΚΟΙΝΟΒΟΥΛΙΟΥ ΚΑΙ ΤΟΥ ΣΥΜΒΟΥΛΙΟΥ

ΓΙΑ ΤΗ ΘΕΣΠΙΣΗ ΕΝΑΡΜΟΝΙΣΜΕΝΩΝ ΚΑΝΟΝΩΝ ΣΧΕΤΙΚΑ ΜΕ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ (ΠΡΑΞΗ ΓΙΑ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ) ΚΑΙ ΓΙΑ ΤΗΝ ΤΡΟΠΟΠΟΙΗΣΗ ΟΡΙΣΜΕΝΩΝ ΝΟΜΟΘΕΤΙΚΩΝ ΠΡΑΞΕΩΝ ΤΗΣ ΕΝΩΣΗΣ

ΤΟ ΕΥΡΩΠΑΪΚΟ ΚΟΙΝΟΒΟΥΛΙΟ ΚΑΙ ΤΟ ΣΥΜΒΟΥΛΙΟ ΤΗΣ ΕΥΡΩΠΑΪΚΗΣ ΕΝΩΣΗΣ,

Έχοντας υπόψη τη Συνθήκη για τη λειτουργία της Ευρωπαϊκής Ένωσης και ιδίως τα άρθρα 16 και 114,

Έχοντας υπόψη την πρόταση της Ευρωπαϊκής Επιτροπής,

Κατόπιν διαβίβασης του σχεδίου νομοθετικής πράξης στα εθνικά κοινοβούλια,

Έχοντας υπόψη τη γνώμη της Ευρωπαϊκής Οικονομικής και Κοινωνικής Επιτροπής 31 ,

Έχοντας υπόψη τη γνώμη της Επιτροπής των Περιφερειών 32 ,

Αποφασίζοντας σύμφωνα με τη συνήθη νομοθετική διαδικασία,

Εκτιμώντας τα ακόλουθα:

(1)Σκοπός του παρόντος κανονισμού είναι η βελτίωση της λειτουργίας της εσωτερικής αγοράς με τη θέσπιση ενιαίου νομικού πλαισίου, ιδίως για την ανάπτυξη, την εμπορία και τη χρήση της τεχνητής νοημοσύνης σύμφωνα με τις αξίες της Ένωσης. Ο παρών κανονισμός επιδιώκει ορισμένους σκοπούς υπέρτερου δημόσιου συμφέροντος, όπως υψηλό επίπεδο προστασίας της υγείας, της ασφάλειας και των θεμελιωδών δικαιωμάτων, και διασφαλίζει την ελεύθερη κυκλοφορία των αγαθών και υπηρεσιών που βασίζονται στην ΤΝ σε διασυνοριακό επίπεδο, εμποδίζοντας, κατ’ αυτόν τον τρόπο, τα κράτη μέλη να επιβάλλουν περιορισμούς στην ανάπτυξη, την εμπορία και τη χρήση συστημάτων ΤΝ, εκτός εάν αυτό επιτρέπεται ρητά από τον παρόντα κανονισμό. 

(2)Τα συστήματα τεχνητής νοημοσύνης (συστήματα ΤΝ) μπορούν εύκολα να χρησιμοποιηθούν σε πολλούς τομείς της οικονομίας και της κοινωνίας, μεταξύ άλλων και σε διασυνοριακό επίπεδο, και να κυκλοφορούν σε ολόκληρη την Ένωση. Ορισμένα κράτη μέλη έχουν ήδη διερευνήσει τη θέσπιση εθνικών κανόνων για να διασφαλίσουν ότι η τεχνητή νοημοσύνη είναι ασφαλής και αναπτύσσεται και χρησιμοποιείται σύμφωνα με τις υποχρεώσεις που απορρέουν από τα θεμελιώδη δικαιώματα. Η ύπαρξη διαφορετικών εθνικών κανόνων μπορεί να οδηγήσει σε κατακερματισμό της εσωτερικής αγοράς και να μειώσει την ασφάλεια δικαίου για τους φορείς εκμετάλλευσης που αναπτύσσουν ή χρησιμοποιούν συστήματα ΤΝ. Ως εκ τούτου, θα πρέπει να διασφαλιστεί ένα συνεκτικό και υψηλό επίπεδο προστασίας σε ολόκληρη την Ένωση, ενώ θα πρέπει να αποτρέπονται οι αποκλίσεις που εμποδίζουν την ελεύθερη κυκλοφορία των συστημάτων ΤΝ και των συναφών προϊόντων και υπηρεσιών εντός της εσωτερικής αγοράς, με τον καθορισμό ενιαίων υποχρεώσεων για τους φορείς εκμετάλλευσης και με τη διασφάλιση της ενιαίας προστασίας του υπέρτερου δημόσιου συμφέροντος και των δικαιωμάτων των προσώπων σε ολόκληρη την εσωτερική αγορά βάσει του άρθρου 114 της Συνθήκης για τη λειτουργία της Ευρωπαϊκής Ένωσης (ΣΛΕΕ). Στον βαθμό που ο παρών κανονισμός περιέχει ειδικούς κανόνες για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας δεδομένων προσωπικού χαρακτήρα αναφορικά με περιορισμούς στη χρήση συστημάτων ΤΝ για την εξ αποστάσεως βιομετρική ταυτοποίηση «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου, είναι σκόπιμο ο παρών κανονισμός να βασιστεί, όσον αφορά αυτούς τους ειδικούς κανόνες, στο άρθρο 16 της ΣΛΕΕ. Λαμβανομένων υπόψη των εν λόγω ειδικών κανόνων και της επίκλησης του άρθρου 16 της ΣΛΕΕ, είναι σκόπιμο να ζητηθεί η γνώμη του Ευρωπαϊκού Συμβουλίου Προστασίας Δεδομένων.

(3)Η τεχνητή νοημοσύνη είναι ένα ταχέως εξελισσόμενο σύνολο τεχνολογιών που μπορούν να συμβάλλουν στην επίτευξη ευρείας κλίμακας οικονομικών και κοινωνικών οφελών σε ολόκληρο το φάσμα των κλάδων και των κοινωνικών δραστηριοτήτων. Μέσω της βελτίωσης της πρόβλεψης, της βελτιστοποίησης των δραστηριοτήτων και της κατανομής των πόρων, καθώς και της εξατομίκευσης των ψηφιακών λύσεων που διατίθενται σε ιδιώτες και οργανισμούς, η χρήση της τεχνητής νοημοσύνης μπορεί να παράσχει βασικά ανταγωνιστικά πλεονεκτήματα στις εταιρείες και να στηρίξει κοινωνικά και περιβαλλοντικά επωφελή αποτελέσματα, για παράδειγμα στους τομείς της υγειονομικής περίθαλψης, της γεωργίας, της εκπαίδευσης και κατάρτισης, της διαχείρισης υποδομών, της ενέργειας, των μεταφορών και της εφοδιαστικής, των δημόσιων υπηρεσιών, της ασφάλειας, της δικαιοσύνης, της αποδοτικότητας των πόρων και της ενεργειακής απόδοσης, και του μετριασμού της κλιματικής αλλαγής και της προσαρμογής σε αυτήν.

(4)Ταυτόχρονα, ανάλογα με τις περιστάσεις που αφορούν τη συγκεκριμένη εφαρμογή και χρήση της, η τεχνητή νοημοσύνη μπορεί να δημιουργήσει κινδύνους και να αποβεί επιζήμια για τα δημόσια συμφέροντα και τα δικαιώματα που προστατεύονται από το δίκαιο της Ένωσης. Η ζημία αυτή μπορεί να είναι υλική ή άυλη.

(5)Ως εκ τούτου, για την προώθηση της ανάπτυξης, της χρήσης και της αποδοχής της τεχνητής νοημοσύνης στην εσωτερική αγορά, είναι αναγκαίο ένα ενωσιακό νομικό πλαίσιο το οποίο θεσπίζει εναρμονισμένους κανόνες σχετικά με την τεχνητή νοημοσύνη και που ανταποκρίνεται, ταυτόχρονα, σε υψηλό επίπεδο προστασίας των δημόσιων συμφερόντων, όπως η υγεία και η ασφάλεια και η προστασία των θεμελιωδών δικαιωμάτων, όπως αυτά αναγνωρίζονται και προστατεύονται από το δίκαιο της Ένωσης. Για την επίτευξη του στόχου αυτού, θα πρέπει να θεσπιστούν κανόνες που να ρυθμίζουν τη διάθεση στην αγορά και τη θέση σε λειτουργία ορισμένων συστημάτων ΤΝ, διασφαλίζοντας, κατ’ αυτόν τον τρόπο, την ομαλή λειτουργία της εσωτερικής αγοράς και παρέχοντας στα συστήματα αυτά τη δυνατότητα να επωφελούνται από την αρχή της ελεύθερης κυκλοφορίας των εμπορευμάτων και των υπηρεσιών. Με τη θέσπιση των κανόνων αυτών, o παρών κανονισμός στηρίζει τον στόχο της Ένωσης να αναλάβει ηγετικό ρόλο παγκοσμίως στην ανάπτυξη ασφαλούς, αξιόπιστης και δεοντολογικής τεχνητής νοημοσύνης, όπως δήλωσε το Ευρωπαϊκό Συμβούλιο 33 , και διασφαλίζει την προστασία των δεοντολογικών αρχών, όπως είχε ζητηθεί ειδικά από το Ευρωπαϊκό Κοινοβούλιο 34 .

(6)Η έννοια του συστήματος ΤΝ θα πρέπει να οριστεί με σαφήνεια, για λόγους ασφάλειας δικαίου, και για να διασφαλιστεί, παράλληλα, ευελιξία για την προσαρμογή στις μελλοντικές τεχνολογικές εξελίξεις. Ο ορισμός θα πρέπει να βασίζεται στα βασικά λειτουργικά χαρακτηριστικά του λογισμικού, ειδικότερα στην ικανότητα ενός δεδομένου συνόλου στόχων καθορισμένων από τον άνθρωπο, να παράγει στοιχεία εξόδου όπως περιεχόμενο, προβλέψεις, συστάσεις ή αποφάσεις που επηρεάζουν το περιβάλλον με το οποίο αλληλεπιδρά το σύστημα, είτε σε υλική είτε σε ψηφιακή διάσταση. Τα συστήματα ΤΝ μπορούν να σχεδιάζονται ώστε να λειτουργούν με διαφορετικά επίπεδα αυτονομίας και να χρησιμοποιούνται σε αυτόνομη βάση ή ως κατασκευαστικό στοιχείο προϊόντος, ανεξάρτητα από το αν το σύστημα έχει ενσωματωθεί φυσικά στο προϊόν (ενσωματωμένο σύστημα) ή εξυπηρετεί τη λειτουργικότητα του προϊόντος χωρίς να έχει ενσωματωθεί σε αυτό (μη ενσωματωμένο σύστημα). Ο ορισμός του συστήματος ΤΝ θα πρέπει να συμπληρωθεί από κατάλογο ειδικών τεχνικών και προσεγγίσεων που χρησιμοποιούνται για την ανάπτυξή του, ο οποίος θα πρέπει να επικαιροποιείται με βάση τις εξελίξεις της αγοράς και της τεχνολογίας, μέσω της έκδοσης κατ’ εξουσιοδότηση πράξεων από την Επιτροπή για την τροποποίησή του.

(7)Η έννοια των βιομετρικών δεδομένων η οποία χρησιμοποιείται στον παρόντα κανονισμό συνάδει και θα πρέπει να ερμηνεύεται σύμφωνα με την έννοια των βιομετρικών δεδομένων, όπως αυτά ορίζονται στο άρθρο 4 σημείο 14) του κανονισμού (ΕΕ) 2016/679 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 35 , στο άρθρο 3 σημείο 18) του κανονισμού (ΕΕ) 2018/1725 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 36 και στο άρθρο 3 σημείο 13) της οδηγίας (ΕΕ) 2016/680 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 37 . 

(8)Η έννοια του συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης, όπως χρησιμοποιείται στον παρόντα κανονισμό, θα πρέπει να οριστεί λειτουργικά ως σύστημα ΤΝ που προορίζεται για την εξ αποστάσεως ταυτοποίηση φυσικών προσώπων μέσω της αντιπαραβολής των βιομετρικών δεδομένων του προσώπου με τα βιομετρικά δεδομένα που περιέχονται σε βάση δεδομένων αναφοράς και χωρίς να είναι γνωστό εκ των προτέρων το αν το στοχευόμενο πρόσωπο θα είναι παρόν και αν μπορεί να ταυτοποιηθεί, ανεξάρτητα από τη συγκεκριμένη τεχνολογία, τις διαδικασίες ή τους τύπους βιομετρικών δεδομένων που χρησιμοποιούνται. Λαμβανομένων υπόψη των διαφορετικών χαρακτηριστικών και τρόπων με τους οποίους χρησιμοποιούνται, καθώς και των διαφορετικών κινδύνων που ενέχουν, θα πρέπει να γίνει διάκριση μεταξύ συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε «πραγματικό χρόνο» και «σε ύστερο χρόνο». Στην περίπτωση των συστημάτων ταυτοποίησης σε «πραγματικό χρόνο», η λήψη των βιομετρικών δεδομένων, η αντιπαραβολή και η ταυτοποίηση πραγματοποιούνται αμέσως, σχεδόν αμέσως ή, σε κάθε περίπτωση, χωρίς σημαντική καθυστέρηση. Στο πλαίσιο αυτό, με την πρόβλεψη μικρών καθυστερήσεων, αναμένεται ότι δεν θα υπάρξει περιθώριο καταστρατήγησης των κανόνων του παρόντος κανονισμού σχετικά με τη χρήση «σε πραγματικό χρόνο» των συστημάτων ΤΝ. Τα συστήματα ταυτοποίησης «σε πραγματικό χρόνο» περιλαμβάνουν τη χρήση υλικού σε «ζωντανή μετάδοση» ή «σχεδόν ζωντανή μετάδοση», όπως βίντεο που δημιουργείται μέσω κάμερας ή άλλης συσκευής με παρόμοια λειτουργία. Αντιθέτως, στην περίπτωση των συστημάτων ταυτοποίησης «σε ύστερο χρόνο», τα βιομετρικά δεδομένα έχουν ήδη ληφθεί και η αντιπαραβολή και η ταυτοποίηση πραγματοποιούνται μόνο μετά από σημαντική καθυστέρηση. Πρόκειται για υλικό, όπως φωτογραφίες ή βίντεο που δημιουργούνται από κάμερες συστημάτων τηλεόρασης κλειστού κυκλώματος ή ιδιωτικές συσκευές, και τα οποία είχαν δημιουργηθεί πριν χρησιμοποιηθεί το σύστημα για τα συγκεκριμένα φυσικά πρόσωπα.

(9)Για τους σκοπούς του παρόντος κανονισμού, η έννοια του δημόσια προσβάσιμου χώρου θα πρέπει να θεωρείται ότι αφορά κάθε φυσικό χώρο προσβάσιμο στο κοινό, ανεξάρτητα από το αν ο εν λόγω χώρος είναι ιδιωτικός ή δημόσιος. Ως εκ τούτου, η έννοια δεν καλύπτει χώρους ιδιωτικού χαρακτήρα οι οποίοι κατά κανόνα δεν είναι ελεύθερα προσβάσιμοι σε τρίτους, συμπεριλαμβανομένων των αρχών επιβολής του νόμου, εκτός αν οι τρίτοι έχουν προσκληθεί ή εξουσιοδοτηθεί ειδικά· παραδείγματα τέτοιων χώρων είναι οι οικίες, οι ιδιωτικές λέσχες, τα γραφεία, οι αποθήκες και τα εργοστάσια. Επίσης, δεν καλύπτονται οι επιγραμμικοί χώροι, καθώς δεν είναι φυσικοί χώροι. Ωστόσο, το γεγονός και μόνον ότι η πρόσβαση σε συγκεκριμένο χώρο μπορεί να υπόκειται σε ορισμένες προϋποθέσεις, όπως εισιτήρια εισόδου ή περιορισμοί ηλικίας, δεν σημαίνει ότι ο χώρος δεν είναι δημόσια προσβάσιμος κατά την έννοια του παρόντος κανονισμού. Συνεπώς, πέραν των δημόσιων χώρων, όπως είναι οι δρόμοι, τα σχετικά τμήματα των κρατικών κτιρίων και οι περισσότερες υποδομές μεταφορών, δημόσια προσβάσιμοι είναι, κατά κανόνα, και χώροι όπως κινηματογράφοι, θέατρα, καταστήματα και εμπορικά κέντρα. Ωστόσο, το αν ένας συγκεκριμένος χώρος είναι προσβάσιμος στο κοινό θα πρέπει να καθορίζεται κατά περίπτωση, λαμβανομένων υπόψη των ιδιαιτεροτήτων της εκάστοτε εξεταζόμενης κατάστασης. 

(10)Προκειμένου να διασφαλιστούν ισότιμοι όροι ανταγωνισμού και αποτελεσματική προστασία των δικαιωμάτων και των ελευθεριών των ατόμων σε ολόκληρη την Ένωση, οι κανόνες που θεσπίζονται με τον παρόντα κανονισμό θα πρέπει να εφαρμόζονται στους παρόχους συστημάτων ΤΝ χωρίς διακρίσεις, ανεξάρτητα από το αν είναι εγκατεστημένοι εντός της Ένωσης ή σε τρίτη χώρα, καθώς και στους χρήστες συστημάτων ΤΝ που είναι εγκατεστημένοι εντός της Ένωσης.

(11)Δεδομένου του ψηφιακού τους χαρακτήρα, ορισμένα συστήματα ΤΝ θα πρέπει να εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού, ακόμη και σε περίπτωση που δεν διατίθενται στην αγορά, ούτε τίθενται σε λειτουργία, ούτε χρησιμοποιούνται στην Ένωση. Αυτό ισχύει, για παράδειγμα, στην περίπτωση φορέα εκμετάλλευσης που είναι εγκατεστημένος στην Ένωση και αναθέτει ορισμένες υπηρεσίες σε φορέα εκμετάλλευσης που είναι εγκατεστημένος εκτός της Ένωσης σε σχέση με δραστηριότητα που πρόκειται να εκτελεστεί από σύστημα ΤΝ το οποίο χαρακτηρίζεται υψηλού κινδύνου και έχει επιπτώσεις σε φυσικά πρόσωπα που βρίσκονται στην Ένωση. Στις περιπτώσεις αυτές, το σύστημα ΤΝ που χρησιμοποιείται από τον φορέα εκμετάλλευσης εκτός της Ένωσης θα μπορούσε να επεξεργάζεται δεδομένα που έχουν συλλεχθεί και διαβιβαστεί νομίμως από την Ένωση, και τα στοιχεία εξόδου του συστήματος ΤΝ που προκύπτουν από την εν λόγω επεξεργασία να παρέχονται στον αναθέτοντα φορέα στην Ένωση, χωρίς το εν λόγω σύστημα ΤΝ να έχει διατεθεί στην αγορά, να έχει τεθεί σε λειτουργία ή να χρησιμοποιείται στην Ένωση. Για να αποφευχθεί η καταστρατήγηση του παρόντος κανονισμού και να διασφαλιστεί η αποτελεσματική προστασία των φυσικών προσώπων που βρίσκονται στην Ένωση, ο παρών κανονισμός θα πρέπει να εφαρμόζεται και στους παρόχους και τους χρήστες των συστημάτων ΤΝ που είναι εγκατεστημένοι σε τρίτη χώρα, στον βαθμό που τα στοιχεία εξόδου που παράγονται από τα εν λόγω συστήματα χρησιμοποιούνται στην Ένωση. Ωστόσο, προκειμένου να ληφθούν υπόψη οι υφιστάμενες ρυθμίσεις και οι ειδικές ανάγκες για συνεργασία με αλλοδαπούς εταίρους με τους οποίους ανταλλάσσονται πληροφορίες και αποδεικτικά στοιχεία, ο παρών κανονισμός δεν θα πρέπει να εφαρμόζεται σε δημόσιες αρχές τρίτης χώρας και σε διεθνείς οργανισμούς όταν ενεργούν στο πλαίσιο διεθνών συμφωνιών που συνάπτονται σε εθνικό ή ευρωπαϊκό επίπεδο για σκοπούς επιβολής του νόμου και δικαστικής συνεργασίας με την Ένωση ή με τα κράτη μέλη της. Συμφωνίες αυτού του είδους έχουν συναφθεί σε διμερές επίπεδο μεταξύ κρατών μελών και τρίτων χωρών ή μεταξύ της Ευρωπαϊκής Ένωσης, της Ευρωπόλ και άλλων οργανισμών της ΕΕ και τρίτων χωρών ή διεθνών οργανισμών. 

(12)Ο παρών κανονισμός θα πρέπει επίσης να εφαρμόζεται στα θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης όταν ενεργούν ως πάροχοι ή χρήστες συστήματος ΤΝ. Τα συστήματα ΤΝ που αναπτύσσονται ή χρησιμοποιούνται αποκλειστικά για στρατιωτικούς σκοπούς θα πρέπει να εξαιρεθούν από το πεδίο εφαρμογής του παρόντος κανονισμού, όταν η εν λόγω χρήση εμπίπτει αποκλειστικά στο πεδίο της Κοινής Εξωτερικής Πολιτικής και Πολιτικής Ασφάλειας που διέπεται από τον Τίτλο V της Συνθήκης για την Ευρωπαϊκή Ένωση (ΣΕΕ). Ο παρών κανονισμός δεν θα πρέπει να θίγει τις διατάξεις σχετικά με την ευθύνη των μεσαζόντων παροχής υπηρεσιών που ορίζονται στην οδηγία 2000/31/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου [όπως τροποποιήθηκε με την πράξη για τις ψηφιακές υπηρεσίες].

(13)Προκειμένου να διασφαλιστεί ένα συνεκτικό και υψηλό επίπεδο προστασίας των δημόσιων συμφερόντων όσον αφορά την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα, θα πρέπει να θεσπιστούν κοινά κανονιστικά πρότυπα για όλα τα συστήματα ΤΝ υψηλού κινδύνου. Τα πρότυπα αυτά θα πρέπει να συνάδουν με τον Χάρτη των Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης (ο Χάρτης), να μην εισάγουν διακρίσεις και να είναι σύμφωνα με τις διεθνείς εμπορικές δεσμεύσεις της ΕΕ.

(14)Προκειμένου να θεσπιστεί ένα αναλογικό και αποτελεσματικό σύνολο δεσμευτικών κανόνων για τα συστήματα ΤΝ, θα πρέπει να ακολουθηθεί μια σαφώς καθορισμένη προσέγγιση βάσει κινδύνου. Μέσω αυτής της προσέγγισης, το είδος και το περιεχόμενο των εν λόγω κανόνων αναμένεται να προσαρμοστούν στην ένταση και την έκταση των κινδύνων που μπορούν να δημιουργήσουν τα συστήματα ΤΝ. Ως εκ τούτου, είναι αναγκαίο να απαγορευτούν ορισμένες πρακτικές τεχνητής νοημοσύνης, και να καθοριστούν απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου, υποχρεώσεις για τους σχετικούς φορείς εκμετάλλευσης, καθώς και υποχρεώσεις διαφάνειας για ορισμένα συστήματα ΤΝ.

(15)Πέρα από τις πολλές επωφελείς χρήσεις της, η τεχνολογία τεχνητής νοημοσύνης μπορεί επίσης να χρησιμοποιηθεί καταχρηστικά και να παράσχει νέα και ισχυρά εργαλεία για πρακτικές χειραγώγησης, εκμετάλλευσης και κοινωνικού ελέγχου. Οι πρακτικές αυτές είναι ιδιαίτερα επιβλαβείς και θα πρέπει να απαγορευτούν διότι έρχονται σε αντίθεση με τις ενωσιακές αξίες του σεβασμού της ανθρώπινης αξιοπρέπειας, της ελευθερίας, της ισότητας, της δημοκρατίας και του κράτους δικαίου, καθώς και με τα θεμελιώδη δικαιώματα της Ένωσης, συμπεριλαμβανομένου του δικαιώματος στη μη διακριτική μεταχείριση, στην προστασία των δεδομένων και της ιδιωτικότητας, καθώς και στα δικαιώματα του παιδιού.

(16)Θα πρέπει να απαγορευτεί η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση ορισμένων συστημάτων ΤΝ που αποσκοπούν στη στρέβλωση της ανθρώπινης συμπεριφοράς, με την οποία είναι πιθανόν να προκληθούν σωματικές ή ψυχολογικές βλάβες. Αυτά τα συστήματα ΤΝ χρησιμοποιούν κατασκευαστικά στοιχεία που απευθύνονται στο υποσυνείδητο και τα οποία τα άτομα δεν μπορούν να αντιληφθούν, ή εκμεταλλεύονται ευάλωτα χαρακτηριστικά παιδιών και ανθρώπων λόγω της ηλικίας τους ή λόγω της σωματικής ή της διανοητικής ανικανότητάς τους. Αυτό έχει ως στόχο να στρεβλωθεί ουσιωδώς η συμπεριφορά ενός προσώπου, κατά τρόπο που προκαλεί ή είναι πιθανό να προκαλέσει βλάβη σε αυτό ή σε άλλο πρόσωπο. Δεν μπορεί να θεωρηθεί ότι υπάρχει τέτοια πρόθεση εάν η στρέβλωση της ανθρώπινης συμπεριφοράς οφείλεται σε εξωτερικούς παράγοντες του συστήματος ΤΝ οι οποίοι είναι εκτός του ελέγχου του παρόχου ή του χρήστη. Η απαγόρευση δεν θα πρέπει να παρεμποδίζει την έρευνα που διεξάγεται για νόμιμους σκοπούς σε σχέση με τα εν λόγω συστήματα ΤΝ, εάν η εν λόγω έρευνα δεν ισοδυναμεί με χρήση του συστήματος ΤΝ σε σχέσεις ανθρώπου-μηχανής η οποία εκθέτει φυσικά πρόσωπα σε επιζήμιους παράγοντες, και η εν λόγω έρευνα διεξάγεται σύμφωνα με αναγνωρισμένα πρότυπα δεοντολογίας για την επιστημονική έρευνα.

(17)Τα συστήματα ΤΝ που παρέχουν κοινωνική βαθμολόγηση των φυσικών προσώπων για γενική χρήση από τις δημόσιες αρχές ή για λογαριασμό τους μπορεί να οδηγήσουν σε διακρίσεις και στον αποκλεισμό ορισμένων ομάδων. Ενδέχεται να παραβιάζουν το δικαίωμα στην αξιοπρέπεια και στη μη διακριτική μεταχείριση, καθώς και τις αξίες της ισότητας και της δικαιοσύνης. Αυτά τα συστήματα ΤΝ αξιολογούν ή ταξινομούν την αξιοπιστία των φυσικών προσώπων με βάση την κοινωνική τους συμπεριφορά σε πολλαπλά πλαίσια ή με βάση τα γνωστά ή προβλεπόμενα προσωπικά χαρακτηριστικά τους ή χαρακτηριστικά της προσωπικότητάς τους. Η κοινωνική βαθμολόγηση που λαμβάνεται από τα εν λόγω συστήματα ΤΝ μπορεί να οδηγήσει σε δυσμενή μεταχείριση φυσικών προσώπων ή ολόκληρων ομάδων φυσικών προσώπων σε κοινωνικά πλαίσια, τα οποία δεν σχετίζονται με το πλαίσιο στο οποίο παρήχθησαν ή συλλέχθηκαν αρχικά τα δεδομένα ή σε δυσμενή μεταχείριση η οποία είναι δυσανάλογη ή αδικαιολόγητη σε σχέση με τη σοβαρότητα της κοινωνικής συμπεριφοράς τους. Ως εκ τούτου, αυτά τα συστήματα ΤΝ θα πρέπει να απαγορευτούν.

(18)Η χρήση συστημάτων ΤΝ για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων σε «πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου θεωρείται ιδιαιτέρως παρεμβατική όσον αφορά τα δικαιώματα και τις ελευθερίες των εν λόγω προσώπων, στον βαθμό που μπορεί να επηρεάσει την ιδιωτική ζωή μεγάλου τμήματος του πληθυσμού, να δημιουργήσει την αίσθηση συνεχούς παρακολούθησης και να αποθαρρύνει έμμεσα την άσκηση της ελευθερίας του συνέρχεσθαι και άλλων θεμελιωδών δικαιωμάτων. Επιπλέον, η αμεσότητα των επιπτώσεων και οι περιορισμένες δυνατότητες για τη διενέργεια περαιτέρω ελέγχων ή διορθώσεων σε σχέση με τη χρήση τέτοιων συστημάτων που λειτουργούν σε «πραγματικό χρόνο» ενέχουν αυξημένους κινδύνους για τα δικαιώματα και τις ελευθερίες των προσώπων τα οποία αφορούν οι δραστηριότητες επιβολής του νόμου.

(19)Η χρήση των συστημάτων αυτών για σκοπούς επιβολής του νόμου θα πρέπει, συνεπώς, να απαγορευτεί, με εξαίρεση τρεις εξαντλητικά απαριθμούμενες και αυστηρά καθορισμένες περιπτώσεις, στις οποίες η χρήση τους είναι απολύτως αναγκαία για την επίτευξη σκοπού ουσιαστικού δημόσιου συμφέροντος, η σπουδαιότητα του οποίου υπερτερεί των κινδύνων. Οι περιπτώσεις αυτές περιλαμβάνουν την αναζήτηση δυνητικών θυμάτων εγκληματικών πράξεων, συμπεριλαμβανομένων των αγνοούμενων παιδιών· ορισμένες απειλές κατά της ζωής ή της σωματικής ακεραιότητας φυσικών προσώπων ή απειλές τρομοκρατικής επίθεσης· και τον εντοπισμό, την ταυτοποίηση ή τη δίωξη δραστών ή υπόπτων για τα ποινικά αδικήματα που αναφέρονται στην απόφαση-πλαίσιο 2002/584/ΔΕΥ του Συμβουλίου 38 , εφόσον τα εν λόγω ποινικά αδικήματα τιμωρούνται στο οικείο κράτος μέλος με στερητική της ελευθερίας ποινή ή στερητικό της ελευθερίας μέτρο ασφάλειας ανώτατης διάρκειας τουλάχιστον τριών ετών και όπως ορίζονται στο δίκαιο του εν λόγω κράτους μέλους. Αυτό το όριο για τη στερητική της ελευθερίας ποινή ή το στερητικό μέτρο ασφάλειας σύμφωνα με το εθνικό δίκαιο συμβάλλει στο να διασφαλιστεί ότι το αδίκημα θα είναι αρκετά σοβαρό ώστε να δικαιολογεί δυνητικά τη χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο». Επίσης, από τα 32 ποινικά αδικήματα που απαριθμούνται στην απόφαση-πλαίσιο 2002/584/ΔΕΥ του Συμβουλίου, στην πράξη ορισμένα ενδέχεται να είναι πιο σημαντικά από άλλα, υπό την έννοια ότι, κατά πάσα πιθανότητα, η εκτίμηση του κατά πόσον η προσφυγή στην εξ αποστάσεως βιομετρική ταυτοποίηση «σε πραγματικό χρόνο» είναι αναγκαία και αναλογική για την επιδίωξη, στην πράξη, του εντοπισμού, της ταυτοποίησης ή της δίωξης ενός δράστη ή υπόπτου για τα διάφορα απαριθμούμενα ποινικά αδικήματα θα ποικίλλει σε σημαντικό βαθμό, λαμβανομένων επίσης υπόψη των πιθανών διαφορών ως προς τη σοβαρότητα, την πιθανότητα και την κλίμακα της βλάβης ή των πιθανών αρνητικών συνεπειών.

(20)Προκειμένου να διασφαλιστεί ότι τα συστήματα χρησιμοποιούνται κατά τρόπο υπεύθυνο και αναλογικό, είναι επίσης σημαντικό να καθοριστεί ότι, σε καθεμία από αυτές τις τρεις, εξαντλητικά απαριθμούμενες και αυστηρά καθορισμένες περιπτώσεις, θα πρέπει να λαμβάνονται υπόψη ορισμένα στοιχεία, ιδίως όσον αφορά τη φύση της κατάστασης στο πλαίσιο της οποίας προκύπτει το αίτημα και τις συνέπειες της χρήσης για τα δικαιώματα και τις ελευθερίες όλων των ενδιαφερομένων προσώπων, καθώς και τις εγγυήσεις και τους όρους που προβλέπονται για τη χρήση. Επιπλέον, η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου θα πρέπει να υπόκειται σε κατάλληλους χρονικούς και χωρικούς περιορισμούς, ειδικότερα όσον αφορά τα αποδεικτικά στοιχεία ή ενδείξεις σχετικά με τις απειλές, τα θύματα ή τον δράστη. Η βάση δεδομένων αναφοράς προσώπων θα πρέπει να είναι κατάλληλη για κάθε περίπτωση χρήσης σε καθεμία από τις περιπτώσεις που αναφέρονται ανωτέρω.

(21)Κάθε χρήση συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου θα πρέπει να υπόκειται σε ρητή και ειδική άδεια που χορηγείται από δικαστική αρχή ή από ανεξάρτητη διοικητική αρχή κράτους μέλους. Η άδεια αυτή θα πρέπει καταρχήν να λαμβάνεται πριν από τη χρήση, εκτός από δεόντως αιτιολογημένες επείγουσες περιπτώσεις, δηλαδή σε περιπτώσεις στις οποίες η ανάγκη χρήσης των εν λόγω συστημάτων είναι τέτοια που η λήψη άδειας πριν από την έναρξη της χρήσης καθίσταται πρακτικά και αντικειμενικά αδύνατη. Σε αυτές τις επείγουσες περιπτώσεις, η χρήση θα πρέπει να περιορίζεται στο απολύτως ελάχιστο αναγκαίο και να υπόκειται στις κατάλληλες εγγυήσεις και προϋποθέσεις, όπως καθορίζονται στο εθνικό δίκαιο και εξειδικεύονται στο πλαίσιο κάθε επιμέρους περίπτωσης επείγουσας χρήσης από την ίδια την αρχή επιβολής του νόμου. Επιπλέον, σε τέτοιες περιπτώσεις, η αρχή επιβολής του νόμου θα πρέπει να επιδιώκει να λάβει άδεια το συντομότερο δυνατόν, δηλώνοντας παράλληλα τους λόγους για τους οποίους δεν ήταν σε θέση να τη ζητήσει νωρίτερα. 

(22)Πέραν τούτου, είναι σκόπιμο να προβλεφθεί, εντός του εξαντλητικού πλαισίου που ορίζει ο παρών κανονισμός, ότι η εν λόγω χρήση στην επικράτεια κράτους μέλους σύμφωνα με τον παρόντα κανονισμό θα πρέπει να είναι δυνατή μόνο όταν και στον βαθμό που το εν λόγω κράτος μέλος έχει αποφασίσει να προβλέψει ρητά τη δυνατότητα να επιτρέπεται η χρήση αυτή στο πλαίσιο των ειδικότερων κανόνων του εθνικού του δικαίου. Συνεπώς, τα κράτη μέλη έχουν την ευχέρεια, δυνάμει του παρόντος κανονισμού, να μην προβλέψουν καθόλου αυτή τη δυνατότητα ή να προβλέψουν τη δυνατότητα αυτή μόνο για ορισμένους από τους στόχους που μπορούν να δικαιολογήσουν την εγκεκριμένη χρήση που προσδιορίζεται στον παρόντα κανονισμό.

(23)Η χρήση συστημάτων ΤΝ για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων σε «πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου περιλαμβάνει κατ’ ανάγκη την επεξεργασία βιομετρικών δεδομένων. Οι κανόνες του παρόντος κανονισμού οι οποίοι, με την επιφύλαξη ορισμένων εξαιρέσεων, απαγορεύουν αυτή τη χρήση, και οι οποίοι βασίζονται στο άρθρο 16 της ΣΛΕΕ θα πρέπει να εφαρμόζονται ως lex specialis σε σχέση με τους κανόνες για την επεξεργασία βιομετρικών δεδομένων που περιέχονται στο άρθρο 10 της οδηγίας (ΕΕ) 2016/680, ρυθμίζοντας, συνεπώς, κατά τρόπο εξαντλητικό, τη χρήση αυτή και την επεξεργασία των σχετικών βιομετρικών δεδομένων. Ως εκ τούτου, αυτή η χρήση και επεξεργασία θα πρέπει να είναι δυνατή μόνο στον βαθμό που είναι συμβατή με το πλαίσιο που καθορίζεται στον παρόντα κανονισμό, χωρίς να υπάρχει περιθώριο, εκτός του πλαισίου αυτού, για τις αρμόδιες αρχές, όταν ενεργούν για σκοπούς επιβολής του νόμου, να χρησιμοποιούν τα εν λόγω συστήματα και να επεξεργάζονται τα εν λόγω δεδομένα σε σχέση με αυτά τα συστήματα για τους λόγους που απαριθμούνται στο άρθρο 10 της οδηγίας (ΕΕ) 2016/680. Στο πλαίσιο αυτό, ο παρών κανονισμός δεν προορίζεται να αποτελέσει τη νομική βάση για την επεξεργασία δεδομένων προσωπικού χαρακτήρα σύμφωνα με το άρθρο 8 της οδηγίας 2016/680. Ωστόσο, η χρήση των συστημάτων εξ αποστάσεως ταυτοποίησης σε «πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς άλλους από την επιβολή του νόμου, μεταξύ άλλων από τις αρμόδιες αρχές, δεν θα πρέπει να καλύπτεται από το ειδικό πλαίσιο σχετικά με τη χρήση αυτή για σκοπούς επιβολής του νόμου το οποίο καθορίζεται στον παρόντα κανονισμό. Ως εκ τούτου, η χρήση αυτή για σκοπούς άλλους από την επιβολή του νόμου, δεν θα πρέπει να υπόκειται στην απαίτηση λήψης άδειας δυνάμει του παρόντος κανονισμού και των εφαρμοστέων ειδικών κανόνων εθνικού δικαίου που ενδεχομένως τον θέτουν σε εφαρμογή.

(24)Κάθε επεξεργασία βιομετρικών δεδομένων και άλλων δεδομένων προσωπικού χαρακτήρα που εμπλέκονται στη χρήση συστημάτων ΤΝ για βιομετρική ταυτοποίηση, εκτός του πλαισίου χρήσης συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου όπως ρυθμίζεται από τον παρόντα κανονισμό, συμπεριλαμβανομένων των περιπτώσεων όπου τα εν λόγω συστήματα χρησιμοποιούνται από τις αρμόδιες αρχές σε δημόσια προσβάσιμους χώρους για σκοπούς άλλους από την επιβολή του νόμου, θα πρέπει να εξακολουθήσει να συμμορφώνεται με όλες τις απαιτήσεις που απορρέουν από το άρθρο 9 παράγραφος 1 του κανονισμού (ΕΕ) 2016/679, το άρθρο 10 παράγραφος 1 του κανονισμού (ΕΕ) 2018/1725 και το άρθρο 10 της οδηγίας (ΕΕ) 2016/680, κατά περίπτωση. 

(25)Σύμφωνα με το άρθρο 6α του πρωτοκόλλου αριθ. 21 για τη θέση του Ηνωμένου Βασιλείου και της Ιρλανδίας όσον αφορά τον χώρο ελευθερίας, ασφάλειας και δικαιοσύνης, το οποίο προσαρτάται στη ΣΕΕ και στη ΣΛΕΕ, η Ιρλανδία δεν δεσμεύεται από τους κανόνες που καθορίζονται στο άρθρο 5 παράγραφος 1 στοιχείο δ) και στο άρθρο 5 παράγραφοι 2 και 3 του παρόντος κανονισμού οι οποίοι θεσπίζονται βάσει του άρθρου 16 της ΣΛΕΕ και οι οποίοι συνδέονται με την επεξεργασία δεδομένων προσωπικού χαρακτήρα από τα κράτη μέλη κατά τη διεξαγωγή δραστηριοτήτων που εμπίπτουν στο πεδίο εφαρμογής του τρίτου μέρους τίτλος V κεφάλαιο 4 ή κεφάλαιο 5 της ΣΛΕΕ, στον βαθμό που η Ιρλανδία δεν δεσμεύεται από τους κανόνες οι οποίοι διέπουν μορφές δικαστικής συνεργασίας σε ποινικές υποθέσεις ή αστυνομικής συνεργασίας στο πλαίσιο των οποίων πρέπει να τηρούνται οι διατάξεις οι οποίες θεσπίζονται βάσει του άρθρου 16 ΣΛΕΕ. 

(26)Σύμφωνα με τα άρθρα 2 και 2α του πρωτοκόλλου αριθ. 22 σχετικά με τη θέση της Δανίας, το οποίο προσαρτάται στη ΣΕΕ και στη ΣΛΕΕ, η Δανία δεν δεσμεύεται από τους κανόνες που καθορίζονται στο άρθρο 5 παράγραφος 1 στοιχείο δ) και στο άρθρο 5 παράγραφοι 2 και 3 του παρόντος κανονισμού οι οποίοι θεσπίζονται βάσει του άρθρου 16 της ΣΛΕΕ, οι οποίοι συνδέονται με την επεξεργασία δεδομένων προσωπικού χαρακτήρα από τα κράτη μέλη κατά τη διεξαγωγή δραστηριοτήτων που εμπίπτουν στο πεδίο εφαρμογής του τρίτου μέρους τίτλος V κεφάλαιο 4 ή κεφάλαιο 5 της ΣΛΕΕ, ούτε υπόκειται στην εφαρμογή τους. 

(27)Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να διατίθενται στην αγορά της Ένωσης ή να τίθενται σε λειτουργία μόνον εάν συμμορφώνονται με ορισμένες υποχρεωτικές απαιτήσεις. Οι απαιτήσεις αυτές θα πρέπει να διασφαλίζουν ότι τα συστήματα ΤΝ υψηλού κινδύνου που διατίθενται στην Ένωση ή των οποίων τα στοιχεία εξόδου χρησιμοποιούνται με άλλο τρόπο στην Ένωση δεν ενέχουν μη αποδεκτούς κινδύνους για σημαντικά δημόσια συμφέροντα της Ένωσης, όπως αναγνωρίζονται και προστατεύονται από το ενωσιακό δίκαιο. Τα συστήματα ΤΝ που χαρακτηρίζονται ως υψηλού κινδύνου θα πρέπει να περιορίζονται σε αυτά που έχουν σημαντικές επιβλαβείς επιπτώσεις στην υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα των προσώπων στην Ένωση, ενώ ο περιορισμός αυτός ελαχιστοποιεί τυχόν δυνητικούς περιορισμούς στο διεθνές εμπόριο, εφόσον υπάρχουν.

(28)Τα συστήματα ΤΝ θα μπορούσαν να έχουν δυσμενείς επιπτώσεις στην υγεία και την ασφάλεια των προσώπων, ιδίως όταν τα εν λόγω συστήματα λειτουργούν ως κατασκευαστικά στοιχεία προϊόντων. Σύμφωνα με τους στόχους της ενωσιακής νομοθεσίας εναρμόνισης οι οποίοι συνίστανται στη διευκόλυνση της ελεύθερης κυκλοφορίας των εμπορευμάτων στην εσωτερική αγορά και στο να διασφαλιστεί ότι μόνο ασφαλή και κατά τα άλλα συμμορφούμενα προϊόντα εισέρχονται στην αγορά, είναι σημαντικό να προλαμβάνονται και να μετριάζονται κατάλληλα οι κίνδυνοι για την ασφάλεια που ενδέχεται να προκύψουν από ένα προϊόν στο σύνολό του λόγω των ψηφιακών συστατικών του στοιχείων, συμπεριλαμβανομένων των συστημάτων ΤΝ. Για παράδειγμα, τα ολοένα και πιο αυτόνομα ρομπότ, είτε στο πλαίσιο της κατασκευής είτε της προσωπικής βοήθειας και φροντίδας, θα πρέπει να είναι σε θέση να λειτουργούν με ασφάλεια και να εκτελούν τις λειτουργίες τους σε σύνθετα περιβάλλοντα. Ομοίως, στον τομέα της υγείας όπου το διακύβευμα για τη ζωή και την υγεία είναι ιδιαίτερα υψηλό, τα ολοένα και πιο εξελιγμένα συστήματα διάγνωσης και τα συστήματα που υποστηρίζουν τις ανθρώπινες αποφάσεις θα πρέπει να είναι αξιόπιστα και ακριβή. Η έκταση των δυσμενών επιπτώσεων του συστήματος ΤΝ στα θεμελιώδη δικαιώματα που προστατεύονται από τον Χάρτη έχει ιδιαίτερη σημασία για την ταξινόμηση ενός συστήματος ΤΝ ως υψηλού κινδύνου. Τα δικαιώματα αυτά περιλαμβάνουν το δικαίωμα στην ανθρώπινη αξιοπρέπεια, στον σεβασμό της ιδιωτικής και οικογενειακής ζωής, στην προστασία των δεδομένων προσωπικού χαρακτήρα, την ελευθερία έκφρασης και πληροφόρησης, την ελευθερία του συνέρχεσθαι και του συνεταιρίζεσθαι, την απαγόρευση των διακρίσεων, την προστασία των καταναλωτών, τα δικαιώματα των εργαζομένων, τα δικαιώματα των ατόμων με αναπηρία, το δικαίωμα πραγματικής προσφυγής και αμερόληπτου δικαστηρίου, το δικαίωμα υπεράσπισης και το τεκμήριο αθωότητας, το δικαίωμα χρηστής διοίκησης. Πέραν των δικαιωμάτων αυτών, είναι σημαντικό να επισημανθεί ότι τα παιδιά έχουν ειδικά δικαιώματα, όπως αυτά κατοχυρώνονται στο άρθρο 24 του Χάρτη της ΕΕ και στη Σύμβαση των Ηνωμένων Εθνών για τα Δικαιώματα του Παιδιού (και αναλύονται περαιτέρω στο Γενικό Σχόλιο αριθ. 25 της UNCRC σχετικά με το ψηφιακό περιβάλλον), που αμφότερα απαιτούν να λαμβάνονται υπόψη τα ευάλωτα χαρακτηριστικά των παιδιών και να παρέχεται η προστασία και η φροντίδα που απαιτούνται για την ευημερία τους. Το θεμελιώδες δικαίωμα σε υψηλό επίπεδο περιβαλλοντικής προστασίας, το οποίο κατοχυρώνεται στον Χάρτη και εφαρμόζεται σε πολιτικές της Ένωσης θα πρέπει επίσης να λαμβάνεται υπόψη κατά την αξιολόγηση της σοβαρότητας της βλάβης που μπορεί να προκαλέσει ένα σύστημα ΤΝ, μεταξύ άλλων και σε σχέση με την υγεία και την ασφάλεια των προσώπων.

(29)Όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που αποτελούν κατασκευαστικά στοιχεία ασφάλειας προϊόντων ή συστημάτων, ή είναι τα ίδια προϊόντα ή συστήματα που εμπίπτουν στο πεδίο εφαρμογής του κανονισμού (ΕΚ) αριθ. 300/2008 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 39 , του κανονισμού (ΕΕ) αριθ. 167/2013 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 40 , του κανονισμού (ΕΕ) αριθ. 168/2013 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 41 , της οδηγίας 2014/90/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 42 , της οδηγίας (ΕΕ) 2016/797 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 43 , του κανονισμού (EE) 2018/858 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 44 , του κανονισμού (ΕΕ) 2018/1139 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 45 και του κανονισμού (ΕΕ) 2019/2144 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 46 , είναι σκόπιμο να τροποποιηθούν οι πράξεις αυτές, ώστε να διασφαλιστεί ότι η Επιτροπή λαμβάνει υπόψη, βάσει των τεχνικών και κανονιστικών ιδιαιτεροτήτων κάθε τομέα, και χωρίς να παρεμβαίνει στους υφιστάμενους μηχανισμούς και αρχές διακυβέρνησης, αξιολόγησης της συμμόρφωσης και επιβολής που θεσπίζονται σε αυτές, τις υποχρεωτικές απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου οι οποίες καθορίζονται στον παρόντα κανονισμό κατά τη θέσπιση τυχόν σχετικών μελλοντικών κατ’ εξουσιοδότηση ή εκτελεστικών πράξεων βάσει των εν λόγω πράξεων.

(30)Όσον αφορά τα συστήματα ΤΝ που αποτελούν κατασκευαστικά στοιχεία προϊόντων ή είναι τα ίδια προϊόντα που εμπίπτουν στο πεδίο εφαρμογής ορισμένης ενωσιακής νομοθεσίας εναρμόνισης, είναι σκόπιμο να ταξινομηθούν ως υψηλού κινδύνου βάσει του παρόντος κανονισμού εάν το εν λόγω προϊόν υποβάλλεται στη διαδικασία αξιολόγησης της συμμόρφωσης από τρίτο φορέα αξιολόγησης της συμμόρφωσης σύμφωνα με την εν λόγω σχετική ενωσιακή νομοθεσία εναρμόνισης. Ειδικότερα, τα προϊόντα αυτά είναι μηχανήματα, παιχνίδια, ανελκυστήρες, εξοπλισμός και συστήματα προστασίας που προορίζονται για χρήση σε εκρήξιμες ατμόσφαιρες, ραδιοεξοπλισμός, εξοπλισμός υπό πίεση, εξοπλισμός σκαφών αναψυχής, εγκαταστάσεις με συρματόσχοινα, συσκευές με καύση αέριων καυσίμων, ιατροτεχνολογικά προϊόντα και in vitro διαγνωστικά ιατροτεχνολογικά προϊόντα.

(31)Η ταξινόμηση ενός συστήματος ΤΝ ως υψηλού κινδύνου σύμφωνα με τον παρόντα κανονισμό δεν θα πρέπει κατ’ ανάγκη να σημαίνει ότι το προϊόν του οποίου κατασκευαστικό στοιχείο ασφάλειας είναι το σύστημα ΤΝ, ή το ίδιο το σύστημα ΤΝ ως προϊόν, θεωρείται «υψηλού κινδύνου» σύμφωνα με τα κριτήρια που καθορίζονται στη σχετική ενωσιακή νομοθεσία εναρμόνισης που εφαρμόζεται στο προϊόν. Αυτό ισχύει ιδίως στην περίπτωση του κανονισμού (ΕΕ) 2017/745 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 47και του κανονισμού (EE) 2017/746 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 48 , στο πλαίσιο των οποίων προβλέπεται αξιολόγηση της συμμόρφωσης από τρίτο φορέα για προϊόντα μεσαίου και υψηλού κινδύνου. 

(32)Όσον αφορά τα αυτόνομα συστήματα ΤΝ, δηλαδή τα συστήματα ΤΝ υψηλού κινδύνου πέραν αυτών που αποτελούν συστατικά στοιχεία ασφάλειας προϊόντων, ή τα συστήματα τα οποία είναι τα ίδια προϊόντα, είναι σκόπιμο να ταξινομηθούν ως υψηλού κινδύνου εάν, με βάση τον επιδιωκόμενο σκοπό τους, ενέχουν υψηλό κίνδυνο βλάβης για την υγεία και την ασφάλεια ή τα θεμελιώδη δικαιώματα των προσώπων, λαμβανομένων υπόψη τόσο της σοβαρότητας της πιθανής βλάβης όσο και της πιθανότητας επέλευσής της, και χρησιμοποιούνται σε ορισμένους ειδικά προκαθορισμένους τομείς που προσδιορίζονται στον κανονισμό. Ο προσδιορισμός των εν λόγω συστημάτων βασίζεται στην ίδια μεθοδολογία και στα ίδια κριτήρια που προβλέπονται και για τυχόν μελλοντικές τροποποιήσεις του καταλόγου των συστημάτων ΤΝ υψηλού κινδύνου.

(33)Οι τεχνικές ανακρίβειες των συστημάτων ΤΝ που προορίζονται για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων μπορούν να οδηγήσουν σε στρέβλωση των αποτελεσμάτων και να επιφέρουν διακρίσεις. Αυτό είναι ιδιαίτερα σημαντικό σε σχέση με την ηλικία, την εθνοτική καταγωγή, το φύλο ή τις αναπηρίες. Ως εκ τούτου, τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» ή «σε ύστερο χρόνο» θα πρέπει να ταξινομηθούν ως υψηλού κινδύνου. Λόγω των κινδύνων που ενέχουν, και τα δύο είδη συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης θα πρέπει να υπόκεινται σε ειδικές απαιτήσεις όσον αφορά τις ικανότητες καταγραφής και την ανθρώπινη εποπτεία. 

(34)Όσον αφορά τη διαχείριση και τη λειτουργία υποδομών ζωτικής σημασίας, είναι σκόπιμο να ταξινομηθούν ως υψηλού κινδύνου τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν ως κατασκευαστικά στοιχεία ασφάλειας στη διαχείριση και τη λειτουργία της οδικής κυκλοφορίας και την παροχή νερού, φυσικού αερίου, θέρμανσης και ηλεκτρικής ενέργειας, δεδομένου ότι η αστοχία ή η δυσλειτουργία τους μπορεί να θέσει σε κίνδυνο τη ζωή και την υγεία των προσώπων σε μεγάλη κλίμακα και να προκαλέσει σημαντικές διαταραχές στη συνήθη άσκηση των κοινωνικών και οικονομικών δραστηριοτήτων. 

(35)Τα συστήματα ΤΝ που χρησιμοποιούνται στην εκπαίδευση ή την επαγγελματική κατάρτιση, ιδίως για τον καθορισμό της πρόσβασης ή την τοποθέτηση ατόμων σε ιδρύματα εκπαίδευσης και επαγγελματικής κατάρτισης ή για την αξιολόγηση προσώπων που υποβάλλονται σε εξετάσεις στο πλαίσιο ή ως προϋπόθεση για την εκπαίδευσή τους θα πρέπει να θεωρούνται υψηλού κινδύνου, δεδομένου ότι μπορούν να καθορίσουν την εκπαιδευτική και επαγγελματική πορεία της ζωής ενός ατόμου και, ως εκ τούτου, να επηρεάσουν την ικανότητά του να εξασφαλίσει τα μέσα βιοπορισμού του. Όταν σχεδιάζονται και χρησιμοποιούνται εσφαλμένα, τα συστήματα αυτά ενδέχεται να παραβιάζουν το δικαίωμα στην εκπαίδευση και στην κατάρτιση, καθώς και το δικαίωμα στη μη διακριτική μεταχείριση, και να διαιωνίσουν ιστορικές νοοτροπίες διακρίσεων.

(36)Τα συστήματα ΤΝ που χρησιμοποιούνται στην απασχόληση, στη διαχείριση των εργαζομένων και την πρόσβαση στην αυτοαπασχόληση, ιδίως για την πρόσληψη και την επιλογή προσώπων, για τη λήψη αποφάσεων σχετικά με την προαγωγή και την καταγγελία των συμβάσεων απασχόλησης και την κατανομή καθηκόντων, την παρακολούθηση ή την αξιολόγηση προσώπων που τελούν σε συμβατικές σχέσεις που σχετίζονται με την εργασία, θα πρέπει επίσης να ταξινομηθούν ως υψηλού κινδύνου, δεδομένου ότι τα εν λόγω συστήματα ενδέχεται να επηρεάσουν σημαντικά τις μελλοντικές προοπτικές σταδιοδρομίας και τα μέσα βιοπορισμού αυτών των προσώπων. Οι σχετικές συμβατικές σχέσεις εργασίας θα πρέπει να αφορούν και τους εργαζόμενους και τα άτομα που παρέχουν υπηρεσίες μέσω πλατφορμών όπως αναφέρεται στο πρόγραμμα εργασίας της Επιτροπής για το 2021. Τα πρόσωπα αυτά δεν θα πρέπει καταρχήν να θεωρούνται χρήστες κατά την έννοια του παρόντος κανονισμού. Καθ’ όλη τη διάρκεια της διαδικασίας πρόσληψης και κατά την αξιολόγηση, την προαγωγή ή τη διατήρηση ατόμων σε συμβατικές σχέσεις που σχετίζονται με την εργασία, τα συστήματα αυτά μπορούν να διαιωνίσουν ιστορικές νοοτροπίες διακρίσεων, για παράδειγμα εις βάρος γυναικών, ορισμένων ηλικιακών ομάδων, ατόμων με αναπηρία ή ατόμων συγκεκριμένης φυλετικής ή εθνοτικής καταγωγής ή γενετήσιου προσανατολισμού. Τα συστήματα ΤΝ που χρησιμοποιούνται για την παρακολούθηση των επιδόσεων και της συμπεριφοράς των εν λόγω προσώπων ενδέχεται επίσης να επηρεάσουν τα δικαιώματά τους στην προστασία των δεδομένων και της ιδιωτικότητας. 

(37)Ένας άλλος τομέας στο πλαίσιο του οποίου αξίζει να δοθεί ιδιαίτερη προσοχή στη χρήση των συστημάτων ΤΝ είναι η πρόσβαση και η απόλαυση ορισμένων βασικών ιδιωτικών και δημόσιων υπηρεσιών και παροχών που είναι απαραίτητες για την πλήρη συμμετοχή των πολιτών στην κοινωνία ή τη βελτίωση του βιοτικού τους επιπέδου. Ειδικότερα, τα συστήματα ΤΝ που χρησιμοποιούνται για την αξιολόγηση ή τη βαθμολόγηση της πιστοληπτικής ικανότητας των φυσικών προσώπων θα πρέπει να ταξινομηθούν ως συστήματα ΤΝ υψηλού κινδύνου, καθώς καθορίζουν την πρόσβαση των εν λόγω προσώπων σε χρηματοοικονομικούς πόρους ή βασικές υπηρεσίες όπως στέγαση, ηλεκτρική ενέργεια και τηλεπικοινωνιακές υπηρεσίες. Τα συστήματα ΤΝ που χρησιμοποιούνται για τον σκοπό αυτό μπορούν να οδηγήσουν σε διακρίσεις εις βάρος ατόμων ή ομάδων και να διαιωνίσουν ιστορικές νοοτροπίες διακρίσεων, για παράδειγμα λόγω φυλετικής ή εθνοτικής καταγωγής, αναπηρίας, ηλικίας, γενετήσιου προσανατολισμού ή να δημιουργήσουν νέες μορφές διακρίσεων. Λαμβανομένης υπόψη της πολύ περιορισμένης κλίμακας των επιπτώσεων και δεδομένων των διαθέσιμων εναλλακτικών λύσεων στην αγορά, είναι σκόπιμο να εξαιρεθούν τα συστήματα ΤΝ που χρησιμοποιούνται για τους σκοπούς της αξιολόγησης και βαθμολόγησης της πιστοληπτικής ικανότητας όταν τίθενται σε λειτουργία από παρόχους υπηρεσιών μικρής κλίμακας για ιδία χρήση. Τα φυσικά πρόσωπα που ζητούν ή λαμβάνουν παροχές και υπηρεσίες δημόσιας αρωγής από δημόσιες αρχές εξαρτώνται κατά κανόνα από τις εν λόγω παροχές και υπηρεσίες και βρίσκονται σε ευάλωτη θέση σε σχέση με τις αρμόδιες αρχές. Εάν τα συστήματα ΤΝ χρησιμοποιούνται για να προσδιοριστεί αν οι αρμόδιες αρχές θα πρέπει να αρνηθούν την πρόσβαση στις εν λόγω παροχές και υπηρεσίες ή να τις μειώσουν, να τις ανακαλέσουν ή να τις ανακτήσουν, ενδέχεται να έχουν σημαντικό αντίκτυπο στα μέσα διαβίωσης των προσώπων και να παραβιάζουν τα θεμελιώδη δικαιώματά τους, όπως το δικαίωμα στην κοινωνική προστασία, στη μη διακριτική μεταχείριση, στην ανθρώπινη αξιοπρέπεια ή σε πραγματική προσφυγή. Ως εκ τούτου, τα συστήματα αυτά θα πρέπει να ταξινομηθούν ως υψηλού κινδύνου. Ωστόσο, ο παρών κανονισμός δεν θα πρέπει να παρεμποδίζει την ανάπτυξη και τη χρήση καινοτόμων προσεγγίσεων στη δημόσια διοίκηση, η οποία θα μπορούσε να επωφεληθεί από την ευρύτερη χρήση συμμορφούμενων και ασφαλών συστημάτων ΤΝ, υπό την προϋπόθεση ότι τα εν λόγω συστήματα δεν ενέχουν υψηλό κίνδυνο για τα νομικά και φυσικά πρόσωπα. Τέλος, τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται για την αποστολή ή τον καθορισμό προτεραιοτήτων κατά την αποστολή υπηρεσιών πρώτης αντίδρασης σε καταστάσεις έκτακτης ανάγκης θα πρέπει επίσης να ταξινομηθούν ως υψηλού κινδύνου δεδομένου ότι λαμβάνουν αποφάσεις σε πολύ κρίσιμες καταστάσεις για τη ζωή και την υγεία των προσώπων, καθώς και για τα περιουσιακά τους στοιχεία.

(38)Οι ενέργειες των αρχών επιβολής του νόμου που αφορούν ορισμένες χρήσεις των συστημάτων ΤΝ χαρακτηρίζονται από σημαντικό βαθμό ανισορροπίας ισχύος και μπορούν να οδηγήσουν στην παρακολούθηση, τη σύλληψη ή τη στέρηση της ελευθερίας ενός φυσικού προσώπου, και να έχουν άλλες δυσμενείς επιπτώσεις για τα θεμελιώδη δικαιώματα που κατοχυρώνονται στον Χάρτη. Ειδικότερα, αν το σύστημα ΤΝ δεν είναι εκπαιδευμένο με δεδομένα υψηλής ποιότητας, δεν πληροί τις κατάλληλες απαιτήσεις όσον αφορά την ακρίβεια και τη στιβαρότητά του ή δεν έχει σχεδιαστεί κατάλληλα και δεν έχει υποβληθεί στις κατάλληλες δοκιμές προτού διατεθεί στην αγορά ή τεθεί με άλλο τρόπο σε λειτουργία, μπορεί να διακρίνει άτομα με μεροληπτικό ή άλλο εσφαλμένο ή άδικο τρόπο. Επιπλέον, θα μπορούσε να παρεμποδιστεί η άσκηση σημαντικών δικονομικών θεμελιωδών δικαιωμάτων, όπως το δικαίωμα πραγματικής προσφυγής και αμερόληπτου δικαστηρίου, καθώς και το δικαίωμα υπεράσπισης και το τεκμήριο αθωότητας, ιδίως όταν τα εν λόγω συστήματα ΤΝ δεν είναι επαρκώς διαφανή, εξηγήσιμα και τεκμηριωμένα. Ως εκ τούτου, είναι σκόπιμο να ταξινομηθεί ως υψηλού κινδύνου μια σειρά συστημάτων ΤΝ που προορίζονται να χρησιμοποιηθούν στο πλαίσιο της επιβολής του νόμου, όπου η ακρίβεια, η αξιοπιστία και η διαφάνεια είναι ιδιαίτερα σημαντικές για την αποφυγή δυσμενών επιπτώσεων, τη διατήρηση της εμπιστοσύνης του κοινού και τη διασφάλιση της λογοδοσίας και της αποτελεσματικής προσφυγής Λόγω της φύσης των εν λόγω δραστηριοτήτων και των συναφών κινδύνων, αυτά τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να περιλαμβάνουν ιδίως τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από τις αρχές επιβολής του νόμου για ατομικές εκτιμήσεις κινδύνου, πολύγραφους και παρεμφερή εργαλεία ή για την ανίχνευση της συναισθηματικής κατάστασης φυσικών προσώπων, για τον εντοπισμό «βαθιά ψευδούς υλικού», για την αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων σε ποινικές διαδικασίες, για την πρόβλεψη της τέλεσης ή εκ νέου τέλεσης ποινικού αδικήματος, πραγματικού ή δυνητικού, με βάση την κατάρτιση προφίλ φυσικών προσώπων ή την αξιολόγηση των γνωρισμάτων και χαρακτηριστικών της προσωπικότητας ή προηγούμενης εγκληματικής συμπεριφοράς φυσικών προσώπων ή ομάδων, για την κατάρτιση προφίλ στο πλαίσιο της ανίχνευσης, της διερεύνησης ή της δίωξης ποινικών αδικημάτων, καθώς και για την ανάλυση εγκλημάτων σε σχέση με φυσικά πρόσωπα. Τα συστήματα ΤΝ που προορίζονται ειδικά για χρήση σε διοικητικές διαδικασίες από τις φορολογικές και τελωνειακές αρχές δεν θα πρέπει να θεωρούνται συστήματα ΤΝ υψηλού κινδύνου που χρησιμοποιούνται από τις αρχές επιβολής του νόμου για τους σκοπούς της πρόληψης, της ανίχνευσης, της διερεύνησης και της δίωξης ποινικών αδικημάτων. 

(39)Τα συστήματα ΤΝ που χρησιμοποιούνται στη διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων επηρεάζουν άτομα που βρίσκονται συχνά σε ιδιαίτερα ευάλωτη θέση και εξαρτώνται από την έκβαση των ενεργειών των αρμόδιων δημόσιων αρχών. Ως εκ τούτου, η ακρίβεια, ο αμερόληπτος χαρακτήρας και η διαφάνεια των συστημάτων ΤΝ που χρησιμοποιούνται σε αυτά τα πλαίσια είναι ιδιαίτερα σημαντικά για τη διασφάλιση του σεβασμού των δικαιωμάτων των θιγόμενων προσώπων, ιδίως των δικαιωμάτων τους στην ελεύθερη κυκλοφορία, τη μη διακριτική μεταχείριση, την προστασία της ιδιωτικής ζωής και των δεδομένων προσωπικού χαρακτήρα, σε διεθνή προστασία και χρηστή διοίκηση. Ως εκ τούτου, είναι σκόπιμο να ταξινομηθούν ως υψηλού κινδύνου τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από τις αρμόδιες δημόσιες αρχές που είναι επιφορτισμένες με καθήκοντα στους τομείς της διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων ως πολύγραφοι και παρεμφερή εργαλεία ή για την ανίχνευση της συναισθηματικής κατάστασης ενός φυσικού προσώπου· για την αξιολόγηση ορισμένων κινδύνων που παρουσιάζουν φυσικά πρόσωπα που εισέρχονται στο έδαφος κράτους μέλους ή υποβάλλουν αίτηση θεώρησης ή ασύλου· για την επαλήθευση της γνησιότητας των σχετικών εγγράφων των φυσικών προσώπων· για την παροχή συνδρομής στις αρμόδιες δημόσιες αρχές για την εξέταση των αιτήσεων ασύλου, θεώρησης και αδειών διαμονής και των συναφών καταγγελιών με στόχο τον καθορισμό της επιλεξιμότητας των φυσικών προσώπων που υποβάλλουν αίτηση χορήγησης καθεστώτος. Τα συστήματα ΤΝ στον τομέα της διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων τα οποία καλύπτονται από τον παρόντα κανονισμό θα πρέπει να πληρούν τις σχετικές διαδικαστικές απαιτήσεις που καθορίζονται στην οδηγία 2013/32/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 49 , στον κανονισμό (ΕΚ) αριθ. 810/2009 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 50 και σε άλλη σχετική νομοθεσία.

(40)Ορισμένα συστήματα ΤΝ που προορίζονται για την απονομή δικαιοσύνης και τις δημοκρατικές διαδικασίες θα πρέπει να ταξινομηθούν ως υψηλού κινδύνου, λαμβανομένου υπόψη του δυνητικά σημαντικού αντίκτυπού τους στη δημοκρατία, το κράτος δικαίου, τις ατομικές ελευθερίες, καθώς και στο δικαίωμα πραγματικής προσφυγής και αμερόληπτου δικαστηρίου. Ειδικότερα, για την αντιμετώπιση των κινδύνων δυνητικής μεροληψίας, σφαλμάτων και αδιαφάνειας, είναι σκόπιμο να χαρακτηριστούν ως υψηλού κινδύνου τα συστήματα ΤΝ που προορίζονται για την παροχή συνδρομής σε δικαστικές αρχές κατά την έρευνα και την ερμηνεία των πραγματικών περιστατικών και του νόμου και κατά την εφαρμογή του νόμου σε συγκεκριμένο σύνολο πραγματικών περιστατικών. Ωστόσο, ο χαρακτηρισμός αυτός δεν θα πρέπει να επεκταθεί σε συστήματα ΤΝ που προορίζονται για αμιγώς επικουρικές διοικητικές δραστηριότητες οι οποίες δεν επηρεάζουν στην πράξη την απονομή της δικαιοσύνης σε μεμονωμένες περιπτώσεις, όπως η ανωνυμοποίηση ή η ψευδωνυμοποίηση δικαστικών αποφάσεων, εγγράφων ή δεδομένων, η επικοινωνία μεταξύ των μελών του προσωπικού, η εκτέλεση διοικητικών καθηκόντων ή η κατανομή πόρων.

(41)Το γεγονός ότι ένα σύστημα ΤΝ ταξινομείται ως υψηλού κινδύνου βάσει του παρόντος κανονισμού δεν θα πρέπει να ερμηνεύεται ως ένδειξη ότι η χρήση του συστήματος είναι κατ’ ανάγκη νόμιμη βάσει άλλων πράξεων του ενωσιακού δικαίου ή δυνάμει του εθνικού δικαίου που είναι συμβατό με το δίκαιο της Ένωσης, όπως η νομοθεσία για την προστασία των δεδομένων προσωπικού χαρακτήρα, για τη χρήση πολύγραφων και παρεμφερών εργαλείων ή άλλων συστημάτων για την ανίχνευση της συναισθηματικής κατάστασης φυσικών προσώπων. Κάθε τέτοια χρήση θα πρέπει να συνεχίσει να πραγματοποιείται αποκλειστικά σύμφωνα με τις εφαρμοστέες απαιτήσεις που απορρέουν από τον Χάρτη και από τις εφαρμοστέες πράξεις του παράγωγου ενωσιακού δικαίου και του εθνικού δικαίου. Ο παρών κανονισμός δεν θα πρέπει να θεωρείται ότι παρέχει τη νομική βάση για την επεξεργασία δεδομένων προσωπικού χαρακτήρα, συμπεριλαμβανομένων ειδικών κατηγοριών δεδομένων προσωπικού χαρακτήρα, κατά περίπτωση. 

(42)Για τον μετριασμό των κινδύνων που προκύπτουν από συστήματα ΤΝ υψηλού κινδύνου που διατίθενται στην αγορά ή τίθενται με άλλο τρόπο σε λειτουργία θα πρέπει να εφαρμόζονται ορισμένες υποχρεωτικές απαιτήσεις, λαμβανομένου υπόψη του σκοπού που επιδιώκεται με τη χρήση του συστήματος και σύμφωνα με το σύστημα διαχείρισης κινδύνου που θα θεσπίσει ο πάροχος. 

(43)Οι απαιτήσεις θα πρέπει να εφαρμόζονται σε συστήματα ΤΝ υψηλού κινδύνου όσον αφορά την ποιότητα των συνόλων δεδομένων που χρησιμοποιούνται, τον τεχνικό φάκελο και την τήρηση αρχείων, τη διαφάνεια και την πληροφόρηση των χρηστών, την ανθρώπινη εποπτεία και τη στιβαρότητα, την ακρίβεια και την κυβερνοασφάλεια. Οι απαιτήσεις αυτές είναι αναγκαίες για τον αποτελεσματικό μετριασμό των κινδύνων για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα, όπως εφαρμόζονται βάσει του επιδιωκόμενου σκοπού του συστήματος και δεν είναι ευλόγως διαθέσιμα άλλα λιγότερο περιοριστικά για το εμπόριο μέτρα, ώστε να αποφεύγονται αδικαιολόγητοι περιορισμοί στο εμπόριο. 

(44)Η υψηλή ποιότητα των δεδομένων είναι σημαντική για τις επιδόσεις των συστημάτων ΤΝ, ιδίως όταν χρησιμοποιούνται τεχνικές που αφορούν την εκπαίδευση μοντέλων, προκειμένου να διασφαλίζεται ότι το σύστημα ΤΝ υψηλού κινδύνου λειτουργεί όπως προβλέπεται και με ασφάλεια και δεν αποτελεί πηγή διακρίσεων που απαγορεύονται από το δίκαιο της Ένωσης. Τα υψηλής ποιότητας δεδομένα εκπαίδευσης, επικύρωσης και δοκιμής απαιτούν την εφαρμογή κατάλληλων πρακτικών διακυβέρνησης και διαχείρισης. Τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής θα πρέπει να είναι επαρκώς συναφή, αντιπροσωπευτικά και να μην περιέχουν σφάλματα, και να είναι πλήρως σύμφωνα με τον επιδιωκόμενο σκοπό του συστήματος. Θα πρέπει επίσης να έχουν τις κατάλληλες στατιστικές ιδιότητες, μεταξύ άλλων όσον αφορά τα πρόσωπα ή τις ομάδες προσώπων για τα οποία πρόκειται να χρησιμοποιηθεί το σύστημα ΤΝ υψηλού κινδύνου. Ειδικότερα, τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής θα πρέπει να λαμβάνουν υπόψη, στον βαθμό που απαιτείται ανάλογα με τον επιδιωκόμενο σκοπό τους, τα γνωρίσματα, τα χαρακτηριστικά ή τα στοιχεία που προσιδιάζουν σε συγκεκριμένο γεωγραφικό, συμπεριφορικό ή λειτουργικό περιβάλλον ή πλαίσιο εντός του οποίου προορίζεται να χρησιμοποιηθεί το σύστημα ΤΝ. Προκειμένου να προστατεύεται το δικαίωμα τρίτων από διακρίσεις που θα μπορούσαν να προκύψουν από τη μεροληψία στα συστήματα ΤΝ, οι πάροχοι θα πρέπει να είναι σε θέση να επεξεργάζονται επίσης ειδικές κατηγορίες δεδομένων προσωπικού χαρακτήρα, για λόγους ουσιαστικού δημόσιου συμφέροντος, προκειμένου να διασφαλίζεται η παρακολούθηση, ο εντοπισμός και η διόρθωση της μεροληψίας στα συστήματα ΤΝ υψηλού κινδύνου.

(45)Για την ανάπτυξη συστημάτων ΤΝ υψηλού κινδύνου, ορισμένοι παράγοντες, όπως πάροχοι, κοινοποιημένοι οργανισμοί και άλλες σχετικές οντότητες, όπως κόμβοι ψηφιακής καινοτομίας, εγκαταστάσεις πειραματισμού και δοκιμών και ερευνητές, θα πρέπει να είναι σε θέση να αποκτούν πρόσβαση και να χρησιμοποιούν σύνολα δεδομένων υψηλής ποιότητας στους αντίστοιχους οικείους τομείς δραστηριοτήτων που σχετίζονται με τον παρόντα κανονισμό. Οι ευρωπαϊκοί κοινοί χώροι δεδομένων που δημιουργούνται από την Επιτροπή και η διευκόλυνση της κοινοχρησίας δεδομένων μεταξύ επιχειρήσεων και με την κυβέρνηση για την εξυπηρέτηση του δημόσιου συμφέροντος, θα έχουν καθοριστική σημασία για την παροχή αξιόπιστης, υπεύθυνης και χωρίς διακρίσεις πρόσβασης σε υψηλής ποιότητας δεδομένα για την εκπαίδευση, την επικύρωση και τη δοκιμή των συστημάτων ΤΝ. Για παράδειγμα, στον τομέα της υγείας, ο ευρωπαϊκός χώρος δεδομένων υγείας θα διευκολύνει τη χωρίς διακρίσεις πρόσβαση σε δεδομένα υγείας και την εκπαίδευση αλγόριθμων τεχνητής νοημοσύνης σε αυτά τα σύνολα δεδομένων, κατά τρόπο ασφαλή, έγκαιρο, διαφανή και αξιόπιστο, που διαφυλάσσει την ιδιωτικότητα, και με την κατάλληλη θεσμική διακυβέρνηση. Οι σχετικές αρμόδιες αρχές, συμπεριλαμβανομένων των τομεακών αρχών, οι οποίες παρέχουν ή υποστηρίζουν την πρόσβαση σε δεδομένα μπορούν επίσης να υποστηρίξουν την παροχή δεδομένων υψηλής ποιότητας για την εκπαίδευση, την επικύρωση και τη δοκιμή συστημάτων ΤΝ.

(46)Η ύπαρξη πληροφοριών σχετικά με τον τρόπο ανάπτυξης συστημάτων ΤΝ υψηλού κινδύνου και τις επιδόσεις τους καθ’ όλη τη διάρκεια του κύκλου ζωής τους είναι σημαντική για την επαλήθευση της συμμόρφωσης με τις απαιτήσεις του παρόντος κανονισμού. Αυτό απαιτεί την τήρηση αρχείων και τη διαθεσιμότητα τεχνικού φακέλου, ο οποίος περιέχει πληροφορίες που είναι απαραίτητες για την αξιολόγηση της συμμόρφωσης του συστήματος ΤΝ με τις σχετικές απαιτήσεις. Οι πληροφορίες αυτές θα πρέπει να περιλαμβάνουν τα γενικά χαρακτηριστικά, τις ικανότητες και τους περιορισμούς του συστήματος, τους αλγόριθμους, τα δεδομένα, τις διαδικασίες εκπαίδευσης, επικύρωσης και δοκιμής που χρησιμοποιούνται, καθώς και τεκμηρίωση σχετικά με το σχετικό σύστημα διαχείρισης κινδύνου. Ο τεχνικός φάκελος θα πρέπει να επικαιροποιείται.

(47)Για να αντιμετωπιστεί η αδιαφάνεια που μπορεί να καταστήσει ορισμένα συστήματα ΤΝ δυσνόητα ή υπερβολικά περίπλοκα για τα φυσικά πρόσωπα, θα πρέπει να απαιτείται κάποιος βαθμός διαφάνειας για τα συστήματα ΤΝ υψηλού κινδύνου. Οι χρήστες θα πρέπει να σε θέση να ερμηνεύουν τα στοιχεία εξόδου του συστήματος και να τα χρησιμοποιούν σωστά. Ως εκ τούτου, τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να συνοδεύονται από σχετική τεκμηρίωση και οδηγίες χρήσης και να περιλαμβάνουν συνοπτικές και σαφείς πληροφορίες, μεταξύ άλλων σε σχέση με πιθανούς κινδύνους για τα θεμελιώδη δικαιώματα και κινδύνους διακρίσεων, κατά περίπτωση.

(48)Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να σχεδιάζονται και να αναπτύσσονται κατά τρόπο ώστε τα φυσικά πρόσωπα να μπορούν να επιβλέπουν τη λειτουργία τους. Για τον σκοπό αυτό, ο πάροχος του συστήματος θα πρέπει να προσδιορίζει κατάλληλα μέτρα ανθρώπινης εποπτείας πριν από τη διάθεσή του συστήματος στην αγορά ή τη θέση του σε λειτουργία. Ειδικότερα, τα μέτρα αυτά θα πρέπει, κατά περίπτωση, να διασφαλίζουν ότι το σύστημα υπόκειται σε εγγενείς περιορισμούς λειτουργίας οι οποίοι δεν μπορούν να παρακαμφθούν από το ίδιο το σύστημα και ότι ανταποκρίνεται στον άνθρωπο που το χειρίζεται, και ότι τα φυσικά πρόσωπα στα οποία έχει ανατεθεί η ανθρώπινη εποπτεία διαθέτουν την απαιτούμενη ικανότητα, κατάρτιση και εξουσιοδότηση για την εκτέλεση αυτού του καθήκοντος. 

(49)Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να λειτουργούν με συνέπεια καθ’ όλη τη διάρκεια του κύκλου ζωής τους και να επιτυγχάνουν κατάλληλο επίπεδο ακρίβειας, στιβαρότητας και κυβερνοασφάλειας σύμφωνα με τη γενικώς αναγνωρισμένη εξέλιξη της τεχνολογίας. Το επίπεδο ακρίβειας και οι μετρήσεις ακρίβειας θα πρέπει να κοινοποιούνται στους χρήστες. 

(50)Η τεχνική στιβαρότητα αποτελεί βασική απαίτηση για τα συστήματα ΤΝ υψηλού κινδύνου. Θα πρέπει να είναι ανθεκτικά απέναντι στους κινδύνους που συνδέονται με τους περιορισμούς του συστήματος (π.χ. σφάλματα, ελαττώματα, ασυνέπειες, απρόβλεπτες καταστάσεις), καθώς και σε κακόβουλες ενέργειες που ενδέχεται να θέσουν σε κίνδυνο την ασφάλεια του συστήματος ΤΝ και να οδηγήσουν σε επιβλαβή ή άλλως ανεπιθύμητη συμπεριφορά. Η έλλειψη προστασίας από τους κινδύνους αυτούς θα μπορούσε να έχει επιπτώσεις στην ασφάλεια ή να επηρεάσει αρνητικά τα θεμελιώδη δικαιώματα, για παράδειγμα λόγω εσφαλμένων αποφάσεων ή λανθασμένων ή μεροληπτικών στοιχείων εξόδου που παράγονται από το σύστημα ΤΝ.

(51)Η κυβερνοασφάλεια διαδραματίζει καίριο ρόλο στη διασφάλιση της ανθεκτικότητας των συστημάτων ΤΝ έναντι προσπαθειών κακόβουλων τρίτων να αλλοιώσουν τη χρήση τους, τη συμπεριφορά τους και τις επιδόσεις τους ή να θέσουν σε κίνδυνο τις ιδιότητες ασφάλειας εκμεταλλευόμενοι τα τρωτά σημεία του συστήματος. Οι κυβερνοεπιθέσεις κατά συστημάτων ΤΝ μπορούν να μοχλεύσουν συγκεκριμένα περιουσιακά στοιχεία της ΤΝ, όπως τα σύνολα δεδομένα εκπαίδευσης (π.χ. μόλυνση δεδομένων) ή εκπαιδευμένα μοντέλα (π.χ. αντιπαραθετικές επιθέσεις) ή να εκμεταλλευτούν τα τρωτά σημεία των ψηφιακών περιουσιακών στοιχείων του συστήματος ΤΝ ή των υποκείμενων υποδομών ΤΠΕ. Ως εκ τούτου, προκειμένου να διασφαλιστεί επίπεδο κυβερνοασφάλειας που να αρμόζει στους κινδύνους, θα πρέπει οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου να λάβουν κατάλληλα μέτρα, λαμβάνοντας επίσης υπόψη, κατά περίπτωση, τις υποκείμενες υποδομές ΤΠΕ.

(52)Στο πλαίσιο της ενωσιακής νομοθεσίας εναρμόνισης, θα πρέπει να θεσπιστούν κανόνες για τη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση συστημάτων ΤΝ υψηλού κινδύνου, σύμφωνα με τον κανονισμό (ΕΚ) αριθ. 765/2008 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 51 για τον καθορισμό των απαιτήσεων διαπίστευσης και εποπτείας της αγοράς των προϊόντων, την απόφαση αριθ. 768/2008/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 52 για κοινό πλαίσιο εμπορίας των προϊόντων και τον κανονισμό (ΕΕ) 2019/1020 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 53 για την εποπτεία της αγοράς και τη συμμόρφωση των προϊόντων («νέο νομοθετικό πλαίσιο για την εμπορία των προϊόντων»).

(53)Είναι σκόπιμο ένα συγκεκριμένο φυσικό ή νομικό πρόσωπο, το οποίο ορίζεται ως ο πάροχος, να αναλαμβάνει την ευθύνη για τη διάθεση στην αγορά ή τη θέση σε λειτουργία ενός συστήματος ΤΝ υψηλού κινδύνου, ανεξάρτητα από το αν το εν λόγω φυσικό ή νομικό πρόσωπο είναι αυτό που σχεδίασε ή ανέπτυξε το σύστημα.

(54)Ο πάροχος θα πρέπει να θεσπίσει ένα άρτιο σύστημα διαχείρισης της ποιότητας, να διασφαλίσει την ολοκλήρωση της απαιτούμενης διαδικασίας αξιολόγησης, να καταρτίσει τη σχετική τεκμηρίωση και να καθιερώσει ένα στιβαρό σύστημα παρακολούθησης μετά τη διάθεση στην αγορά. Οι δημόσιες αρχές που θέτουν σε λειτουργία συστήματα ΤΝ υψηλού κινδύνου για ιδία χρήση μπορούν να θεσπίζουν και να εφαρμόζουν τους κανόνες για το σύστημα διαχείρισης της ποιότητας στο πλαίσιο του συστήματος διαχείρισης της ποιότητας που έχει θεσπιστεί σε εθνικό ή περιφερειακό επίπεδο, κατά περίπτωση, λαμβάνοντας υπόψη τις ιδιαιτερότητες του τομέα και τις αρμοδιότητες και την οργάνωση της οικείας δημόσιας αρχής. 

(55)Όταν ένα σύστημα ΤΝ υψηλού κινδύνου που αποτελεί συστατικό ασφάλειας ενός προϊόντος που καλύπτεται από σχετική τομεακή νομοθεσία του νέου νομοθετικού πλαισίου δεν διατίθεται στην αγορά ούτε τίθεται σε λειτουργία ανεξάρτητα από το προϊόν, ο κατασκευαστής του τελικού προϊόντος, όπως ορίζεται στη σχετική νομοθεσία του νέου νομοθετικού πλαισίου, θα πρέπει να συμμορφώνεται με τις υποχρεώσεις του παρόχου οι οποίες καθορίζονται στον παρόντα κανονισμό και ιδίως να διασφαλίζει ότι το σύστημα ΤΝ που είναι ενσωματωμένο στο τελικό προϊόν συμμορφώνεται με τις απαιτήσεις του παρόντος κανονισμού.

(56)Για να καταστεί δυνατή η επιβολή του παρόντος κανονισμού και να διαμορφωθούν ισότιμοι όροι ανταγωνισμού για τους φορείς εκμετάλλευσης, και λαμβανομένων υπόψη των διαφόρων μορφών διάθεσης ψηφιακών προϊόντων, είναι σημαντικό να διασφαλιστεί ότι, σε κάθε περίπτωση, ένα πρόσωπο εγκατεστημένο στην Ένωση είναι σε θέση να παρέχει στις αρχές όλες τις απαραίτητες πληροφορίες σχετικά με τη συμμόρφωση ενός συστήματος ΤΝ. Ως εκ τούτου, πριν από τη διάθεση των συστημάτων τους στην Ένωση, όταν δεν μπορεί να προσδιοριστεί εισαγωγέας, οι πάροχοι που είναι εγκατεστημένοι εκτός της Ένωσης διορίζουν με γραπτή εντολή εξουσιοδοτημένο αντιπρόσωπο εγκατεστημένο στην Ένωση. 

(57)Σύμφωνα με τις αρχές του νέου νομοθετικού πλαισίου, θα πρέπει να καθοριστούν ειδικές υποχρεώσεις για τους σχετικούς οικονομικούς φορείς, όπως οι εισαγωγείς και οι διανομείς, για λόγους ασφάλειας δικαίου και για να διευκολυνθεί η κανονιστική συμμόρφωση των εν λόγω σχετικών φορέων.

(58)Δεδομένης της φύσης των συστημάτων ΤΝ και δεδομένων των κινδύνων για την ασφάλεια και τα θεμελιώδη δικαιώματα που ενδεχομένως συνδέονται με τη χρήση τους, μεταξύ άλλων όσον αφορά την ανάγκη διασφάλισης ορθής παρακολούθησης των επιδόσεων ενός συστήματος ΤΝ σε πραγματικές συνθήκες, είναι σκόπιμο να καθοριστούν συγκεκριμένες ευθύνες για τους χρήστες. Οι χρήστες θα πρέπει, ειδικότερα, να χρησιμοποιούν συστήματα ΤΝ υψηλού κινδύνου σύμφωνα με τις οδηγίες χρήσης, ενώ θα πρέπει να προβλέπονται και ορισμένες άλλες υποχρεώσεις όσον αφορά την παρακολούθηση της λειτουργίας των συστημάτων ΤΝ και όσον αφορά την τήρηση αρχείων, κατά περίπτωση. 

(59)Είναι σκόπιμο να προβλεφθεί ότι χρήστης του συστήματος ΤΝ θα πρέπει να είναι το φυσικό ή νομικό πρόσωπο, η δημόσια αρχή, η υπηρεσία ή άλλος φορέας υπό την ευθύνη του οποίου λειτουργεί το σύστημα ΤΝ, εκτός εάν η χρήση λαμβάνει χώρα στο πλαίσιο προσωπικής μη επαγγελματικής δραστηριότητας.

(60)Δεδομένης της πολυπλοκότητας της αξιακής αλυσίδας της τεχνητής νοημοσύνης, οι ενδιαφερόμενοι τρίτοι, ιδίως όσοι εμπλέκονται στην πώληση και την προμήθεια λογισμικού, εργαλείων και συστατικών στοιχείων λογισμικού, προεκπαιδευμένων μοντέλων και δεδομένων ή οι πάροχοι υπηρεσιών δικτύου, θα πρέπει να συνεργάζονται, κατά περίπτωση, με τους παρόχους και τους χρήστες ώστε να καθίσταται δυνατή η συμμόρφωσή τους με τις υποχρεώσεις που απορρέουν από τον παρόντα κανονισμό και με τις αρμόδιες αρχές που συστήνονται δυνάμει του παρόντος κανονισμού.

(61)Η τυποποίηση θα πρέπει να διαδραματίσει βασικό ρόλο στην παροχή τεχνικών λύσεων στους παρόχους για τη διασφάλιση της συμμόρφωσης με τον παρόντα κανονισμό. Η συμμόρφωση με τα εναρμονισμένα πρότυπα, όπως ορίζονται στον κανονισμό (ΕΕ) αριθ. 1025/2012 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 54 θα πρέπει να αποτελεί μέσο απόδειξης της συμμόρφωσης των παρόχων με τις απαιτήσεις του παρόντος κανονισμού. Ωστόσο, η Επιτροπή θα μπορούσε να θεσπίσει κοινές τεχνικές προδιαγραφές σε τομείς όπου δεν υπάρχουν εναρμονισμένα πρότυπα ή όπου αυτά δεν επαρκούν. 

(62)Προκειμένου να διασφαλιστεί υψηλό επίπεδο αξιοπιστίας των συστημάτων ΤΝ υψηλού κινδύνου, τα συστήματα αυτά θα πρέπει να υπόκεινται σε αξιολόγηση της συμμόρφωσης πριν από τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία.

(63)Προκειμένου να ελαχιστοποιηθεί η επιβάρυνση των φορέων εκμετάλλευσης και να αποφευχθεί κάθε πιθανή επικάλυψη, όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που σχετίζονται με προϊόντα που καλύπτονται από την υφιστάμενη ενωσιακή νομοθεσία εναρμόνισης σύμφωνα με την προσέγγιση του νέου νομοθετικού πλαισίου, είναι σκόπιμο η συμμόρφωση των εν λόγω συστημάτων ΤΝ με τις απαιτήσεις του παρόντος κανονισμού να αξιολογείται στο πλαίσιο της αξιολόγησης της συμμόρφωσης που προβλέπεται ήδη στην εν λόγω νομοθεσία. Συνεπώς, η εφαρμογή των απαιτήσεων του παρόντος κανονισμού δεν θα πρέπει να επηρεάζει την ειδική λογική, τη μεθοδολογία ή τη γενική δομή της αξιολόγησης της συμμόρφωσης βάσει της σχετικής ειδικής νομοθεσίας του νέου νομοθετικού πλαισίου. Η προσέγγιση αυτή αντικατοπτρίζεται πλήρως στην αλληλεπίδραση μεταξύ του παρόντος κανονισμού και του [κανονισμού για τα μηχανήματα]. Οι κίνδυνοι ασφάλειας των συστημάτων ΤΝ που εκτελούν λειτουργίες ασφάλειας στα μηχανήματα αντιμετωπίζονται από τις απαιτήσεις του παρόντος κανονισμού, ενώ ορισμένες ειδικές απαιτήσεις του [κανονισμού για τα μηχανήματα] θα διασφαλίσουν την ασφαλή ενσωμάτωση του συστήματος ΤΝ στο σύνολο του μηχανήματος, ώστε να μην τίθεται σε κίνδυνο η ασφάλεια του μηχανήματος στο σύνολό του. Ο [κανονισμός για τα μηχανήματα] εφαρμόζει τον ίδιο ορισμό του συστήματος ΤΝ που εφαρμόζει ο παρών κανονισμός. 

(64)Δεδομένης της πιο εκτεταμένης πείρας των επαγγελματιών φορέων πιστοποίησης πριν από τη διάθεση στην αγορά στον τομέα της ασφάλειας των προϊόντων, καθώς και της διαφορετικής φύσης των σχετικών κινδύνων, είναι σκόπιμο να περιοριστεί, τουλάχιστον κατά την αρχική φάση εφαρμογής του παρόντος κανονισμού, το πεδίο εφαρμογής της αξιολόγησης της συμμόρφωσης από τρίτους φορείς όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου πλην εκείνων που σχετίζονται με τα προϊόντα. Ως εκ τούτου, η αξιολόγηση της συμμόρφωσης των εν λόγω συστημάτων θα πρέπει να διενεργείται, κατά γενικό κανόνα, από τον πάροχο, με δική του ευθύνη, με μόνη εξαίρεση τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την εξ αποστάσεως βιομετρική ταυτοποίηση προσώπων, για την οποία θα πρέπει να προβλέπεται η συμμετοχή κοινοποιημένου οργανισμού στην αξιολόγηση της συμμόρφωσης, στον βαθμό που δεν απαγορεύονται. 

(65)Για τη διενέργεια αξιολόγησης της συμμόρφωσης από τρίτους φορείς, όσον αφορά τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την εξ αποστάσεως βιομετρική ταυτοποίηση προσώπων, θα πρέπει να οριστούν από τις εθνικές αρμόδιες αρχές κοινοποιημένοι οργανισμοί, βάσει του παρόντος κανονισμού, υπό την προϋπόθεση ότι συμμορφώνονται με ένα σύνολο απαιτήσεων, ιδίως όσον αφορά την ανεξαρτησία, την επάρκεια και την απουσία συγκρούσεων συμφερόντων. 

(66)Σύμφωνα με την κοινώς καθιερωμένη έννοια της ουσιαστικής τροποποίησης, όσον αφορά τα προϊόντα που ρυθμίζονται από την ενωσιακή νομοθεσία εναρμόνισης, είναι σκόπιμο ένα σύστημα ΤΝ να υποβάλλεται σε νέα αξιολόγηση της συμμόρφωσης όποτε επέρχεται αλλαγή η οποία ενδέχεται να επηρεάσει τη συμμόρφωση του συστήματος με τον παρόντα κανονισμό ή όταν αλλάζει ο επιδιωκόμενος σκοπός του συστήματος. Επιπλέον, όσον αφορά τα συστήματα ΤΝ που συνεχίζουν να «μαθαίνουν» μετά τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία (δηλαδή προσαρμόζουν αυτόματα τον τρόπο εκτέλεσης των λειτουργιών) είναι αναγκαίο να θεσπιστούν κανόνες που να ορίζουν ότι οι αλλαγές στον αλγόριθμο και στις επιδόσεις του συστήματος που έχουν προκαθοριστεί από τον πάροχο και έχουν αξιολογηθεί κατά τον χρόνο της αξιολόγησης της συμμόρφωσης δεν θα πρέπει να συνιστούν ουσιαστική τροποποίηση. 

(67)Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να φέρουν τη σήμανση CE ώστε να δηλώνεται η συμμόρφωσή τους με τον παρόντα κανονισμό και να μπορούν να κυκλοφορούν ελεύθερα εντός της εσωτερικής αγοράς. Τα κράτη μέλη δεν θα πρέπει να δημιουργούν αδικαιολόγητα εμπόδια στη διάθεση στην αγορά ή στη θέση σε λειτουργία των συστημάτων ΤΝ υψηλού κινδύνου που συμμορφώνονται με τις απαιτήσεις που ορίζονται στον παρόντα κανονισμό και φέρουν τη σήμανση CE.

(68)Υπό ορισμένες προϋποθέσεις, η ταχεία διαθεσιμότητα καινοτόμων τεχνολογιών μπορεί να έχει κρίσιμη σημασία για την υγεία και την ασφάλεια των προσώπων και για την κοινωνία στο σύνολό της. Συνεπώς, είναι σκόπιμο, για εξαιρετικούς λόγους δημόσιας ασφάλειας ή προστασίας της ζωής και της υγείας φυσικών προσώπων και της προστασίας της βιομηχανικής και εμπορικής ιδιοκτησίας, τα κράτη μέλη να μπορούν να επιτρέπουν τη διάθεση στην αγορά ή τη θέση σε λειτουργία συστημάτων τεχνητής νοημοσύνης που δεν έχουν υποβληθεί σε αξιολόγηση της συμμόρφωσης.

(69)Για να διευκολυνθεί το έργο της Επιτροπής και των κρατών μελών στον τομέα της τεχνητής νοημοσύνης, καθώς και να αυξηθεί η διαφάνεια έναντι του κοινού, οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου εκτός αυτών που σχετίζονται με προϊόντα που εμπίπτουν στο πεδίο εφαρμογής της σχετικής υφιστάμενης ενωσιακής νομοθεσίας εναρμόνισης, θα πρέπει να υποχρεούνται να καταχωρίζουν το οικείο σύστημα ΤΝ υψηλού κινδύνου σε βάση δεδομένων της ΕΕ, την οποία θα δημιουργήσει και θα διαχειρίζεται η Επιτροπή. Η Επιτροπή θα πρέπει να είναι ο υπεύθυνος επεξεργασίας αυτής της βάσης δεδομένων, σύμφωνα με τον κανονισμό (ΕΕ) 2018/1725 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 55 . Προκειμένου να διασφαλιστεί η πλήρης λειτουργικότητα της βάσης δεδομένων, όταν αναπτυχθεί, η διαδικασία για τη δημιουργία της βάσης δεδομένων θα πρέπει να περιλαμβάνει την εκπόνηση λειτουργικών προδιαγραφών από την Επιτροπή και ανεξάρτητη έκθεση ελέγχου. 

(70)Ορισμένα συστήματα ΤΝ που προορίζονται να αλληλεπιδρούν με φυσικά πρόσωπα ή να παράγουν περιεχόμενο ενδέχεται να ενέχουν συγκεκριμένους κινδύνους πλαστοπροσωπίας ή παραπλάνησης ανεξάρτητα από το αν χαρακτηρίζονται ως υψηλού κινδύνου ή όχι. Συνεπώς, σε ορισμένες περιπτώσεις, η χρήση των συστημάτων αυτών θα πρέπει να υπόκειται σε ειδικές υποχρεώσεις διαφάνειας, με την επιφύλαξη των απαιτήσεων και των υποχρεώσεων που ισχύουν για τα συστήματα ΤΝ υψηλού κινδύνου. Ειδικότερα, τα φυσικά πρόσωπα θα πρέπει να ενημερώνονται ότι αλληλεπιδρούν με σύστημα ΤΝ, εκτός εάν αυτό είναι προφανές από τις περιστάσεις και το πλαίσιο της χρήσης. Επιπλέον τα φυσικά πρόσωπα θα πρέπει να ενημερώνονται όταν εκτίθενται σε σύστημα αναγνώρισης συναισθημάτων ή βιομετρικής κατηγοριοποίησης. Οι πληροφορίες και κοινοποιήσεις θα πρέπει να παρέχονται σε μορφή προσβάσιμη για τα άτομα με αναπηρία. Επιπλέον, οι χρήστες οι οποίοι χρησιμοποιούν σύστημα ΤΝ για τη δημιουργία ή τον χειρισμό περιεχομένου εικόνας, ήχου ή βίντεο που έχει αισθητές ομοιότητες με υπαρκτά πρόσωπα, τόπους ή γεγονότα και το οποίο θα μπορούσε να εκληφθεί ψευδώς από κάποιο πρόσωπο ως γνήσιο, θα πρέπει να γνωστοποιούν ότι το περιεχόμενο έχει δημιουργηθεί τεχνητά ή έχει υποστεί χειρισμό, μέσω της κατάλληλης επισήμανσης των στοιχείων εξόδου του συστήματος τεχνητής νοημοσύνης και γνωστοποίησης της τεχνητής προέλευσής του. 

(71)Η τεχνητή νοημοσύνη είναι ένα ταχέως αναπτυσσόμενο σύνολο τεχνολογιών που απαιτεί καινοτόμες μορφές ρυθμιστικής εποπτείας και ασφαλή χώρο για πειραματισμό, με παράλληλη διασφάλιση της υπεύθυνης καινοτομίας και της ενσωμάτωσης κατάλληλων διασφαλίσεων και μέτρων μετριασμού του κινδύνου. Προκειμένου να διασφαλιστεί ένα νομικό πλαίσιο φιλικό προς την καινοτομία, ανθεκτικό στις μελλοντικές εξελίξεις και στις διαταραχές, οι εθνικές αρμόδιες αρχές σε ένα ή περισσότερα κράτη μέλη θα πρέπει να ενθαρρυνθούν να δημιουργήσουν ρυθμιστικά δοκιμαστήρια για την τεχνητή νοημοσύνη ώστε να διευκολύνουν την ανάπτυξη και τη δοκιμή καινοτόμων συστημάτων ΤΝ υπό αυστηρή ρυθμιστική εποπτεία προτού τα εν λόγω συστήματα διατεθούν στην αγορά ή τεθούν με άλλο τρόπο σε λειτουργία. 

(72)Στόχοι των ρυθμιστικών δοκιμαστηρίων θα πρέπει να είναι η προώθηση της καινοτομίας στον τομέα της ΤΝ με τη δημιουργία περιβάλλοντος ελεγχόμενου πειραματισμού και δοκιμών κατά τη φάση ανάπτυξης και πριν από την εμπορική προώθηση, με σκοπό τη διασφάλιση της συμμόρφωσης των καινοτόμων συστημάτων ΤΝ με τον παρόντα κανονισμό και με άλλη σχετική ενωσιακή νομοθεσία και τη νομοθεσία των κρατών μελών· η ενίσχυση της ασφάλειας δικαίου για τους φορείς καινοτομίας και της άσκησης εποπτείας από τις αρμόδιες αρχές και της εκ μέρους τους κατανόησης των ευκαιριών, των αναδυόμενων κινδύνων και των επιπτώσεων της χρήσης της ΤΝ, καθώς και η επιτάχυνση της πρόσβασης στις αγορές, μεταξύ άλλων με την άρση των φραγμών για τις μικρές και μεσαίες επιχειρήσεις (ΜΜΕ) και τις νεοφυείς επιχειρήσεις. Για να διασφαλιστούν η ομοιόμορφη εφαρμογή σε ολόκληρη την Ένωση και οικονομίες κλίμακας, είναι σκόπιμο να θεσπιστούν κοινοί κανόνες για την εφαρμογή των ρυθμιστικών δοκιμαστηρίων, καθώς και πλαίσιο συνεργασίας μεταξύ των αρμόδιων αρχών που συμμετέχουν στην εποπτεία των δοκιμαστηρίων. Ο παρών κανονισμός θα πρέπει να παρέχει τη νομική βάση για τη χρήση δεδομένων προσωπικού χαρακτήρα, τα οποία έχουν συλλεχθεί για άλλους σκοπούς, για την ανάπτυξη ορισμένων συστημάτων ΤΝ προς το δημόσιο συμφέρον εντός του ρυθμιστικού δοκιμαστηρίου ΤΝ, σύμφωνα με το άρθρο 6 παράγραφος 4 του κανονισμού (ΕΕ) 2016/679 και το άρθρο 6 του κανονισμού (ΕΕ) 2018/1725 και με την επιφύλαξη του άρθρου 4 παράγραφος 2 της οδηγίας 2016/680. Οι συμμετέχοντες στο δοκιμαστήριο θα πρέπει να διασφαλίζουν ότι υπάρχουν κατάλληλες εγγυήσεις και να συνεργάζονται με τις αρμόδιες αρχές, μεταξύ άλλων ακολουθώντας την καθοδήγησή τους και ενεργώντας ταχέως και καλή τη πίστει για τον μετριασμό τυχόν υψηλών κινδύνων για την ασφάλεια και τα θεμελιώδη δικαιώματα που ενδέχεται να προκύψουν κατά την ανάπτυξη και τον πειραματισμό στο πλαίσιο του δοκιμαστηρίου. Η συμπεριφορά των συμμετεχόντων στο δοκιμαστήριο θα πρέπει να λαμβάνεται υπόψη όταν οι αρμόδιες αρχές αποφασίζουν αν θα επιβάλουν διοικητικό πρόστιμο σύμφωνα με το άρθρο 83 παράγραφος 2 του κανονισμού 2016/679 και το άρθρο 57 της οδηγίας 2016/680. 

(73)Για την προώθηση και την προστασία της καινοτομίας, είναι σημαντικό να λαμβάνονται ιδιαιτέρως υπόψη τα συμφέροντα των παρόχων μικρής κλίμακας και των χρηστών συστημάτων ΤΝ. Για τον σκοπό αυτό, τα κράτη μέλη θα πρέπει να αναπτύξουν πρωτοβουλίες που θα απευθύνονται στους εν λόγω φορείς εκμετάλλευσης, μεταξύ άλλων όσον αφορά την ευαισθητοποίηση και την ενημέρωση. Επιπλέον, τα ειδικά συμφέροντα και οι ανάγκες των παρόχων μικρής κλίμακας λαμβάνονται υπόψη κατά τον καθορισμό των τελών αξιολόγησης της συμμόρφωσης από τους κοινοποιημένους οργανισμούς. Οι δαπάνες μετάφρασης που σχετίζονται με την υποχρεωτική τεκμηρίωση και επικοινωνία με τις αρχές ενδέχεται να αποτελούν σημαντικό κόστος για τους παρόχους και άλλους φορείς εκμετάλλευσης, ιδίως τους φορείς μικρής κλίμακας. Τα κράτη μέλη θα πρέπει ενδεχομένως να διασφαλίσουν ότι μία από τις γλώσσες που καθορίζουν και αποδέχονται για την τεκμηρίωση των σχετικών παρόχων και για την επικοινωνία με τους φορείς εκμετάλλευσης είναι γλώσσα ευρέως κατανοητή από τον μεγαλύτερο δυνατό αριθμό διασυνοριακών χρηστών. 

(74)Προκειμένου να ελαχιστοποιηθούν οι κίνδυνοι για την εφαρμογή, οι οποίοι προκύπτουν από την έλλειψη γνώσεων και εμπειρογνωσίας στην αγορά, καθώς και για να διευκολυνθεί η συμμόρφωση των παρόχων και των κοινοποιημένων οργανισμών με τις υποχρεώσεις τους δυνάμει του παρόντος κανονισμού, η πλατφόρμα ΤΝ κατά παραγγελία, οι ευρωπαϊκοί κόμβοι ψηφιακής καινοτομίας και οι εγκαταστάσεις δοκιμών και πειραματισμού που συστήνονται από την Επιτροπή και τα κράτη μέλη σε εθνικό επίπεδο και σε επίπεδο ΕΕ θα πρέπει ενδεχομένως να συμβάλουν στην εφαρμογή του παρόντος κανονισμού. Στο πλαίσιο της αντίστοιχης αποστολής και των πεδίων αρμοδιοτήτων τους, μπορούν να παρέχουν ιδίως τεχνική και επιστημονική υποστήριξη σε παρόχους και κοινοποιημένους οργανισμούς, 

(75)Είναι σκόπιμο η Επιτροπή να διευκολύνει, στο μέτρο του δυνατού, την πρόσβαση σε εγκαταστάσεις δοκιμών και πειραματισμού για τους φορείς, τις ομάδες ή τα εργαστήρια που έχουν συσταθεί ή διαπιστευθεί σύμφωνα με οποιαδήποτε σχετική ενωσιακή νομοθεσία εναρμόνισης και οι οποίοι εκτελούν καθήκοντα στο πλαίσιο της αξιολόγησης της συμμόρφωσης προϊόντων ή συσκευών που καλύπτονται από την εν λόγω ενωσιακή νομοθεσία εναρμόνισης. Αυτό ισχύει ιδίως για τις ομάδες εμπειρογνωμόνων, τα εργαστήρια εμπειρογνωμόνων και τα εργαστήρια αναφοράς στον τομέα των ιατροτεχνολογικών προϊόντων σύμφωνα με τον κανονισμό (ΕΕ) 2017/745 και τον κανονισμό (ΕΕ) 2017/746, 

(76)Προκειμένου να διευκολυνθεί η ομαλή, αποτελεσματική και εναρμονισμένη εφαρμογή του παρόντος κανονισμού θα πρέπει να συσταθεί Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης. Το Συμβούλιο θα πρέπει να είναι αρμόδιο για την εκτέλεση ορισμένων συμβουλευτικών καθηκόντων, συμπεριλαμβανομένης της έκδοσης γνωμών, συστάσεων, συμβουλών ή κατευθυντήριων οδηγιών σε θέματα που σχετίζονται με την εφαρμογή του παρόντος κανονισμού, μεταξύ άλλων σε σχέση με τεχνικές προδιαγραφές ή υφιστάμενα πρότυπα όσον αφορά τις απαιτήσεις που θεσπίζονται με τον παρόντα κανονισμό, καθώς και της παροχής συμβουλών και συνδρομής στην Επιτροπή για συγκεκριμένα ζητήματα που σχετίζονται με την τεχνητή νοημοσύνη. 

(77)Τα κράτη μέλη διαδραματίζουν καίριο ρόλο στην εφαρμογή και την επιβολή του παρόντος κανονισμού. Στο πλαίσιο αυτό, κάθε κράτος μέλος θα πρέπει να ορίσει μία ή περισσότερες εθνικές αρμόδιες αρχές για την εποπτεία της εφαρμογής και της υλοποίησης του παρόντος κανονισμού. Προκειμένου να αυξηθεί η αποτελεσματικότητα της οργάνωσης από την πλευρά των κρατών μελών και να δημιουργηθεί ένα επίσημο σημείο επαφής με το κοινό και άλλους ομολόγους σε επίπεδο κρατών μελών και σε επίπεδο Ένωσης, σε κάθε κράτος μέλος θα πρέπει να οριστεί μία εθνική αρχή ως εθνική εποπτική αρχή.

(78)Προκειμένου να διασφαλιστεί ότι οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου μπορούν να λαμβάνουν υπόψη την πείρα από τη χρήση συστημάτων ΤΝ υψηλού κινδύνου για τη βελτίωση των συστημάτων τους και τη διαδικασία σχεδιασμού και ανάπτυξης ή να μπορούν να λαμβάνουν εγκαίρως τυχόν διορθωτικά μέτρα, όλοι οι πάροχοι θα πρέπει να διαθέτουν σύστημα παρακολούθησης μετά τη διάθεση στην αγορά. Το εν λόγω σύστημα έχει επίσης καίρια σημασία προκειμένου να διασφαλίζεται ότι οι πιθανοί κίνδυνοι που προκύπτουν από συστήματα ΤΝ τα οποία συνεχίζουν να «μαθαίνουν» μετά τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία μπορούν να αντιμετωπιστούν αποτελεσματικότερα και πιο έγκαιρα. Σε αυτό το πλαίσιο, οι πάροχοι θα πρέπει επίσης να υποχρεούνται να διαθέτουν σύστημα για την αναφορά, στις δημόσιες αρχές, τυχόν σοβαρών περιστατικών ή παραβιάσεων της εθνικής ή της ενωσιακής νομοθεσίας για την προστασία των θεμελιωδών δικαιωμάτων που προκύπτουν από τη χρήση των οικείων συστημάτων ΤΝ. 

(79)Προκειμένου να διασφαλιστεί η κατάλληλη και αποτελεσματική επιβολή των απαιτήσεων και των υποχρεώσεων που ορίζονται στον παρόντα κανονισμό, ο οποίος αποτελεί ενωσιακή νομοθεσία εναρμόνισης, θα πρέπει να εφαρμόζεται στο σύνολό του το σύστημα εποπτείας της αγοράς και συμμόρφωσης των προϊόντων που θεσπίστηκε με τον κανονισμό (ΕΕ) 2019/1020. Όταν απαιτείται για την άσκηση της εντολής τους, οι εθνικές αρμόδιες αρχές ή φορείς που έχουν επιφορτιστεί με την εποπτεία της εφαρμογής του δικαίου της Ένωσης για την προστασία των θεμελιωδών δικαιωμάτων, συμπεριλαμβανομένων των φορέων ισότητας, θα πρέπει επίσης να έχουν πρόσβαση σε κάθε φάκελο τεκμηρίωσης που δημιουργείται στο πλαίσιο του παρόντος κανονισμού.

(80)Η νομοθεσία της Ένωσης για τις χρηματοπιστωτικές υπηρεσίες περιλαμβάνει κανόνες και απαιτήσεις εσωτερικής διακυβέρνησης και διαχείρισης κινδύνου που εφαρμόζονται στα ρυθμιζόμενα χρηματοπιστωτικά ιδρύματα στο πλαίσιο της παροχής των εν λόγω υπηρεσιών, μεταξύ άλλων όταν χρησιμοποιούνται συστήματα τεχνητής νοημοσύνης. Προκειμένου να διασφαλιστεί η συνεκτική εφαρμογή και επιβολή των υποχρεώσεων δυνάμει του παρόντος κανονισμού και των σχετικών κανόνων και απαιτήσεων της νομοθεσίας της Ένωσης για τις χρηματοπιστωτικές υπηρεσίες, οι αρχές που είναι αρμόδιες για την εποπτεία και την επιβολή της νομοθεσίας για τις χρηματοπιστωτικές υπηρεσίες, συμπεριλαμβανομένης, κατά περίπτωση, της Ευρωπαϊκής Κεντρικής Τράπεζας, θα πρέπει να οριστούν ως αρμόδιες αρχές για την εποπτεία της εφαρμογής του παρόντος κανονισμού, μεταξύ άλλων και για τις δραστηριότητες εποπτείας της αγοράς, όσον αφορά τα συστήματα ΤΝ που παρέχονται ή χρησιμοποιούνται από ρυθμιζόμενα και εποπτευόμενα χρηματοπιστωτικά ιδρύματα. Προκειμένου να ενισχυθεί περαιτέρω η συνέπεια μεταξύ του παρόντος κανονισμού και των κανόνων που ισχύουν για τα πιστωτικά ιδρύματα που ρυθμίζονται από την οδηγία 2013/36/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 56 , είναι επίσης σκόπιμο η διαδικασία αξιολόγησης και ορισμένες από τις διαδικαστικές υποχρεώσεις των παρόχων σε σχέση με τη διαχείριση κινδύνου, την παρακολούθηση μετά τη διάθεση στην αγορά και την τεκμηρίωση, να ενσωματωθούν στις υφιστάμενες υποχρεώσεις και διαδικασίες δυνάμει της οδηγίας 2013/36/ΕΕ. Προκειμένου να αποφευχθούν αλληλεπικαλύψεις, θα πρέπει επίσης να προβλεφθούν περιορισμένες παρεκκλίσεις σε σχέση με το σύστημα διαχείρισης ποιότητας των παρόχων και την υποχρέωση παρακολούθησης που επιβάλλεται σε χρήστες συστημάτων ΤΝ υψηλού κινδύνου, στον βαθμό που ισχύουν για πιστωτικά ιδρύματα που ρυθμίζονται από την οδηγία 2013/36/ΕΕ.

(81)Η ανάπτυξη συστημάτων ΤΝ πέραν των συστημάτων ΤΝ υψηλού κινδύνου σύμφωνα με τις απαιτήσεις του παρόντος κανονισμού μπορεί να οδηγήσει στην ευρύτερη αποδοχή αξιόπιστης τεχνητής νοημοσύνης στην Ένωση. Οι πάροχοι συστημάτων ΤΝ μη υψηλού κινδύνου θα πρέπει να ενθαρρύνονται να δημιουργούν κώδικες δεοντολογίας με σκοπό την εθελοντική εφαρμογή των υποχρεωτικών απαιτήσεων που ισχύουν για τα συστήματα ΤΝ υψηλού κινδύνου. Οι πάροχοι θα πρέπει επίσης να ενθαρρύνονται να εφαρμόζουν σε εθελοντική βάση πρόσθετες απαιτήσεις που σχετίζονται, για παράδειγμα, με την περιβαλλοντική βιωσιμότητα, την προσβασιμότητα για τα άτομα με αναπηρία, τη συμμετοχή των ενδιαφερόμενων μερών στον σχεδιασμό και την ανάπτυξη συστημάτων ΤΝ και την ποικιλομορφία των ομάδων ανάπτυξης. Η Επιτροπή μπορεί να αναπτύξει πρωτοβουλίες, μεταξύ άλλων τομεακού χαρακτήρα, για να διευκολύνει τη μείωση των τεχνικών φραγμών που εμποδίζουν τη διασυνοριακή ανταλλαγή δεδομένων για την ανάπτυξη τεχνητής νοημοσύνης, μεταξύ άλλων όσον αφορά την υποδομή πρόσβασης σε δεδομένα, και τη σημασιολογική και τεχνική διαλειτουργικότητα των διαφόρων τύπων δεδομένων.

(82)Είναι σημαντικό τα συστήματα ΤΝ που σχετίζονται με προϊόντα που δεν είναι υψηλού κινδύνου σύμφωνα με τον παρόντα κανονισμό και, ως εκ τούτου, δεν απαιτείται να συμμορφώνονται με τις απαιτήσεις που ορίζονται στον παρόντα κανονισμό να είναι, παρόλα αυτά, ασφαλή κατά τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία. Για να προωθηθεί η επίτευξη αυτού του στόχου, η οδηγία 2001/95/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 57 θα εφαρμόζεται ως δίχτυ ασφαλείας.

(83)Προκειμένου να διασφαλιστεί η αξιόπιστη και εποικοδομητική συνεργασία των αρμόδιων αρχών σε ενωσιακό και σε εθνικό επίπεδο, όλα τα μέρη που συμμετέχουν στην εφαρμογή του παρόντος κανονισμού θα πρέπει να τηρούν την εμπιστευτικότητα των πληροφοριών και των δεδομένων που λαμβάνονται κατά την εκτέλεση των καθηκόντων τους. 

(84)Τα κράτη μέλη θα πρέπει να λαμβάνουν όλα τα απαραίτητα μέτρα για να εξασφαλίζουν την εφαρμογή των διατάξεων του παρόντος κανονισμού, μεταξύ άλλων θεσπίζοντας αποτελεσματικές, αναλογικές και αποτρεπτικές ποινές για την παράβασή τους. Για ορισμένες συγκεκριμένες παραβάσεις, τα κράτη μέλη θα πρέπει να λαμβάνουν υπόψη τα περιθώρια και τα κριτήρια που καθορίζονται στον παρόντα κανονισμό. Ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων θα πρέπει να έχει την εξουσία να επιβάλλει πρόστιμα σε θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης που εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού.

(85)Προκειμένου να διασφαλιστεί ότι το κανονιστικό πλαίσιο μπορεί να προσαρμόζεται όταν απαιτείται, θα πρέπει να ανατεθεί στην Επιτροπή η εξουσία έκδοσης πράξεων σύμφωνα με το άρθρο 290 ΣΛΕΕ ώστε να τροποποιεί τις τεχνικές και τις προσεγγίσεις που αναφέρονται στο παράρτημα Ι για τον καθορισμό των συστημάτων ΤΝ, την ενωσιακή νομοθεσία εναρμόνισης που παρατίθεται στο παράρτημα II, τα συστήματα ΤΝ υψηλού κινδύνου που απαριθμούνται στο παράρτημα ΙΙΙ, τις διατάξεις που αφορούν τον τεχνικό φάκελο στο παράρτημα IV, το περιεχόμενο της δήλωσης συμμόρφωσης ΕΕ που αναφέρεται στο παράρτημα V, τις διατάξεις που αφορούν τις διαδικασίες αξιολόγησης της συμμόρφωσης στα παραρτήματα VI και VII και τις διατάξεις για τον καθορισμό των συστημάτων ΤΝ υψηλού κινδύνου στα οποία θα πρέπει να εφαρμόζεται η διαδικασία αξιολόγησης της συμμόρφωσης βάσει αξιολόγησης του συστήματος διαχείρισης της ποιότητας και αξιολόγησης του τεχνικού φακέλου. Είναι ιδιαίτερα σημαντικό η Επιτροπή να διεξάγει, κατά τις προπαρασκευαστικές της εργασίες, τις κατάλληλες διαβουλεύσεις, μεταξύ άλλων σε επίπεδο εμπειρογνωμόνων, και οι διαβουλεύσεις αυτές να πραγματοποιούνται σύμφωνα με τις αρχές που ορίζονται στη διοργανική συμφωνία της 13ης Απριλίου 2016 για τη βελτίωση του νομοθετικού έργου 58 . Πιο συγκεκριμένα, προκειμένου να εξασφαλιστεί η ίση συμμετοχή στην προετοιμασία των κατ’ εξουσιοδότηση πράξεων, το Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο λαμβάνουν όλα τα έγγραφα κατά τον ίδιο χρόνο με τους εμπειρογνώμονες των κρατών μελών, και οι εμπειρογνώμονές τους έχουν συστηματικά πρόσβαση στις συνεδριάσεις των ομάδων εμπειρογνωμόνων της Επιτροπής που ασχολούνται με την προετοιμασία κατ’ εξουσιοδότηση πράξεων.

(86)Προκειμένου να εξασφαλισθούν ενιαίες προϋποθέσεις για την εκτέλεση του παρόντος κανονισμού, θα πρέπει να ανατεθούν στην Επιτροπή εκτελεστικές αρμοδιότητες. Οι εν λόγω αρμοδιότητες θα πρέπει να ασκούνται σύμφωνα με τον κανονισμό (ΕΕ) αριθ. 182/2011 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 59 .

(87)Δεδομένου ότι ο στόχος του παρόντος κανονισμού δεν μπορεί να επιτευχθεί επαρκώς από τα κράτη μέλη, μπορεί όμως, λόγω της κλίμακας ή των αποτελεσμάτων της δράσης, να επιτευχθεί καλύτερα σε ενωσιακό επίπεδο, η Ένωση δύναται να λάβει μέτρα σύμφωνα με την αρχή της επικουρικότητας, η οποία διατυπώνεται στο άρθρο 5 της ΣΕΕ. Σύμφωνα με την αρχή της αναλογικότητας, όπως ορίζεται στο ίδιο άρθρο, ο παρών κανονισμός δεν υπερβαίνει τα αναγκαία για την επίτευξη του εν λόγω στόχου.

(88)Ο παρών κανονισμός θα πρέπει να αρχίσει να εφαρμόζεται από…[Υπηρεσία Εκδόσεων: να προστεθεί η ημερομηνία που ορίζεται στο άρθρο 85]. Ωστόσο, η υποδομή που σχετίζεται με τη διακυβέρνηση και το σύστημα αξιολόγησης της συμμόρφωσης θα πρέπει να τεθεί σε λειτουργία πριν από την εν λόγω ημερομηνία, συνεπώς οι διατάξεις για τους κοινοποιημένους οργανισμούς και τη δομή διακυβέρνησης θα πρέπει να αρχίσουν να εφαρμόζονται από [Υπηρεσία Εκδόσεων: να προστεθεί η ημερομηνία — τρεις μήνες μετά την έναρξη ισχύος του παρόντος κανονισμού]. Επιπλέον, τα κράτη μέλη θα πρέπει να θεσπίσουν και να κοινοποιήσουν στην Επιτροπή κανόνες σχετικά με τις κυρώσεις, συμπεριλαμβανομένων των διοικητικών προστίμων, και να διασφαλίσουν την ορθή και αποτελεσματική εφαρμογή τους έως την ημερομηνία εφαρμογής του παρόντος κανονισμού. Ως εκ τούτου, οι διατάξεις σχετικά με τις κυρώσεις θα πρέπει να αρχίσουν να εφαρμόζονται από [Υπηρεσία Εκδόσεων: να προστεθεί η ημερομηνία — δώδεκα μήνες μετά την έναρξη ισχύος του παρόντος κανονισμού].

(89)Πραγματοποιήθηκε διαβούλευση, σύμφωνα με το άρθρο 42 παράγραφος 2 του κανονισμού (ΕΕ) 2018/1725, με τον Ευρωπαίο Επόπτη Προστασίας Δεδομένων και το Ευρωπαϊκό Συμβούλιο Προστασίας Δεδομένων, οι οποίοι γνωμοδότησαν στις […],

ΕΞΕΔΩΣΑΝ ΤΟΝ ΠΑΡΟΝΤΑ ΚΑΝΟΝΙΣΜΟ:

ΤΙΤΛΟΣ I

ΓΕΝΙΚΕΣ ΔΙΑΤΑΞΕΙΣ

Άρθρο 1 
Αντικείμενο

Ο παρών κανονισμός θεσπίζει:

α)εναρμονισμένους κανόνες για τη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση συστημάτων τεχνητής νοημοσύνης (στο εξής: συστήματα ΤΝ) στην Ένωση·

β)απαγορεύσεις ορισμένων πρακτικών τεχνητής νοημοσύνης·

γ)ειδικές απαιτήσεις για συστήματα ΤΝ υψηλού κινδύνου και υποχρεώσεις για τους φορείς εκμετάλλευσης τέτοιων συστημάτων·

δ)εναρμονισμένους κανόνες διαφάνειας για τα συστήματα ΤΝ που προορίζονται για αλληλεπίδραση με φυσικά πρόσωπα, συστήματα αναγνώρισης συναισθημάτων και τα συστήματα βιομετρικής κατηγοριοποίησης, καθώς και τα συστήματα ΤΝ που χρησιμοποιούνται για τη δημιουργία ή τον χειρισμό περιεχομένου εικόνας, ήχου ή βίντεο·

ε)κανόνες για την παρακολούθηση και την εποπτεία της αγοράς.

Άρθρο 2 
Πεδίο εφαρμογής

1.Ο παρών κανονισμός εφαρμόζεται σε:

α)παρόχους που διαθέτουν στην αγορά ή θέτουν σε λειτουργία συστήματα ΤΝ στην Ένωση, ανεξάρτητα από το αν οι εν λόγω πάροχοι είναι εγκατεστημένοι εντός της Ένωσης ή σε τρίτη χώρα·

β)χρήστες συστημάτων ΤΝ οι οποίοι βρίσκονται εντός της Ένωσης·

γ)παρόχους και χρήστες συστημάτων ΤΝ οι οποίοι βρίσκονται σε τρίτη χώρα, όταν τα στοιχεία εξόδου που παράγει το σύστημα χρησιμοποιούνται στην Ένωση.

2.Όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που αποτελούν κατασκευαστικά στοιχεία ασφάλειας προϊόντων ή συστημάτων ή που είναι τα ίδια προϊόντα ή συστήματα και εμπίπτουν στο πεδίο εφαρμογής των ακόλουθων πράξεων, εφαρμόζεται μόνο το άρθρο 84 του παρόντος κανονισμού:

α)του κανονισμού (EΚ) αριθ. 300/2008·

β)του κανονισμού (ΕΕ) αριθ. 167/2013·

γ)του κανονισμού (ΕΕ) αριθ. 168/2013·

δ)της οδηγίας 2014/90/ΕΕ·

ε)της οδηγίας (ΕΕ) 2016/797· 

στ)του κανονισμού (EΕ) 2018/858· 

ζ)του κανονισμού (EΕ) 2018/1139·

η)του κανονισμού (ΕΕ) 2019/2144.

3.Ο παρών κανονισμός δεν εφαρμόζεται σε συστήματα που αναπτύσσονται ή χρησιμοποιούνται αποκλειστικά για στρατιωτικούς σκοπούς.

4.Ο παρών κανονισμός δεν εφαρμόζεται σε δημόσιες αρχές τρίτης χώρας ούτε σε διεθνείς οργανισμούς που εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού σύμφωνα με την παράγραφο 1, όταν οι εν λόγω αρχές ή οργανισμοί χρησιμοποιούν συστήματα ΤΝ στο πλαίσιο διεθνών συμφωνιών για την επιβολή του νόμου και τη δικαστική συνεργασία με την Ένωση ή με ένα ή περισσότερα κράτη μέλη.

5.Ο παρών κανονισμός δεν θίγει την εφαρμογή των διατάξεων σχετικά με την ευθύνη των μεσαζόντων παροχής υπηρεσιών που ορίζονται στο κεφάλαιο II, τμήμα IV της οδηγίας 2000/31/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 60 [όπως θα αντικατασταθούν από τις αντίστοιχες διατάξεις της πράξης για τις ψηφιακές υπηρεσίες].

Άρθρο 3 
Ορισμοί

Για τους σκοπούς του παρόντος κανονισμού, ισχύουν οι ακόλουθοι ορισμοί:

(1)«σύστημα τεχνητής νοημοσύνης» (σύστημα ΤΝ): λογισμικό που αναπτύσσεται με μία ή περισσότερες από τις τεχνικές και προσεγγίσεις που παρατίθενται στο παράρτημα I και μπορεί, για ένα δεδομένο σύνολο στόχων που έχουν καθοριστεί από τον άνθρωπο, να παράγει στοιχεία εξόδου όπως περιεχόμενο, προβλέψεις, συστάσεις ή αποφάσεις που επηρεάζουν τα περιβάλλοντα με τα οποία αλληλεπιδρά·

(2)«πάροχος»: το φυσικό ή νομικό πρόσωπο, η δημόσια αρχή, η υπηρεσία ή άλλος φορέας που αναπτύσσει σύστημα ΤΝ ή έχει στην κατοχή του σύστημα ΤΝ το οποίο έχει αναπτυχθεί με σκοπό να το διαθέσει στην αγορά ή να το θέσει σε λειτουργία με τη δική του επωνυμία ή εμπορικό σήμα, είτε έναντι αντιτίμου είτε δωρεάν· 

(3)«πάροχος μικρής κλίμακας»: πάροχος που είναι πολύ μικρή ή μικρή επιχείρηση κατά την έννοια της σύστασης 2003/361/ΕΚ της Επιτροπής 61 ·

(4)«χρήστης»: κάθε φυσικό ή νομικό πρόσωπο, δημόσια αρχή, υπηρεσία ή άλλος φορέας που χρησιμοποιεί σύστημα ΤΝ υπό την ευθύνη του, εκτός εάν το σύστημα ΤΝ χρησιμοποιείται στο πλαίσιο προσωπικής μη επαγγελματικής δραστηριότητας·

(5)«εξουσιοδοτημένος αντιπρόσωπος»: κάθε φυσικό ή νομικό πρόσωπο εγκατεστημένο στην Ένωση, το οποίο έχει λάβει γραπτή εντολή από πάροχο συστήματος ΤΝ να εκπληρώνει και να διεκπεραιώνει, αντίστοιχα, εξ ονόματός του, τις υποχρεώσεις και τις διαδικασίες που θεσπίζονται με τον παρόντα κανονισμό·

(6)«εισαγωγέας»: κάθε φυσικό ή νομικό πρόσωπο εγκατεστημένο στην Ένωση που διαθέτει στην αγορά ή θέτει σε λειτουργία σύστημα ΤΝ το οποίο φέρει την επωνυμία ή το εμπορικό σήμα φυσικού ή νομικού προσώπου εγκατεστημένου εκτός της Ένωσης·

(7)«διανομέας»: κάθε φυσικό ή νομικό πρόσωπο στην αλυσίδα εφοδιασμού, πλην του κατασκευαστή και του εισαγωγέα, το οποίο θέτει σύστημα ΤΝ σε κυκλοφορία στην αγορά της Ένωσης, χωρίς να επηρεάζει τις ιδιότητές του·

(8)«φορέας εκμετάλλευσης»: ο πάροχος, ο χρήστης, ο εξουσιοδοτημένος αντιπρόσωπος, ο εισαγωγέας και ο διανομέας·

(9)«διάθεση στην αγορά»: η πρώτη φορά κατά την οποία σύστημα ΤΝ καθίσταται διαθέσιμο στην αγορά της Ένωσης·

(10)«διαθεσιμότητα στην αγορά»: κάθε προσφορά συστήματος ΤΝ για διανομή ή χρήση στην αγορά της Ένωσης στο πλαίσιο εμπορικής δραστηριότητας, είτε έναντι αντιτίμου είτε δωρεάν·

(11)«θέση σε λειτουργία»: η προσφορά συστήματος ΤΝ για πρώτη χρήση απευθείας στον χρήστη ή για ιδία χρήση στην αγορά της Ένωσης για τον επιδιωκόμενο σκοπό του·

(12)«επιδιωκόμενος σκοπός»: η χρήση για την οποία προορίζει το σύστημα ΤΝ ο πάροχος του συστήματος, συμπεριλαμβανομένων του ειδικού πλαισίου και των όρων χρήσης, όπως προσδιορίζονται στις πληροφορίες που παρέχει ο πάροχος στις οδηγίες χρήσης, σε διαφημιστικό υλικό ή στο υλικό πωλήσεων και σε δηλώσεις, καθώς και στον τεχνικό φάκελο·

(13)«ευλόγως προβλέψιμη κακή χρήση»: η χρήση συστήματος ΤΝ κατά τρόπο που δεν συνάδει με τον επιδιωκόμενο σκοπό του, αλλά μπορεί να προκύψει από ευλόγως προβλέψιμη ανθρώπινη συμπεριφορά ή αλληλεπίδραση με άλλα συστήματα·

(14)«κατασκευαστικό στοιχείο ασφάλειας προϊόντος ή συστήματος»: το κατασκευαστικό στοιχείο προϊόντος ή συστήματος το οποίο επιτελεί λειτουργία ασφάλειας για το εν λόγω προϊόν ή σύστημα ή του οποίου η αστοχία ή δυσλειτουργία θέτει σε κίνδυνο την υγεία και την ασφάλεια προσώπων ή περιουσιακών στοιχείων·

(15)«οδηγίες χρήσης»: οι πληροφορίες που παρέχονται από τον πάροχο για την ενημέρωση του χρήστη ιδίως σχετικά με τον επιδιωκόμενο σκοπό και την ορθή χρήση ενός συστήματος ΤΝ, συμπεριλαμβανομένου του συγκεκριμένου γεωγραφικού, συμπεριφορικού ή λειτουργικού περιβάλλοντος εντός του οποίου προορίζεται να χρησιμοποιηθεί το σύστημα ΤΝ υψηλού κινδύνου·

(16)«ανάκληση συστήματος ΤΝ»: κάθε μέτρο που αποσκοπεί στην επιστροφή, στον πάροχο, συστήματος ΤΝ που έχει τεθεί στη διάθεση των χρηστών·

(17)«απόσυρση συστήματος ΤΝ»: κάθε μέτρο που αποσκοπεί στην παρεμπόδιση της διανομής, της έκθεσης και της προσφοράς ενός συστήματος ΤΝ·

(18)«επιδόσεις συστήματος ΤΝ»: η ικανότητα ενός συστήματος ΤΝ να επιτυγχάνει τον επιδιωκόμενο σκοπό του·

(19)«κοινοποιούσα αρχή»: η εθνική αρχή που είναι υπεύθυνη για τον καθορισμό και τη διεξαγωγή των αναγκαίων διαδικασιών αξιολόγησης, ορισμού και κοινοποίησης των οργανισμών αξιολόγησης της συμμόρφωσης, καθώς και για την παρακολούθησή τους·

(20)«αξιολόγηση της συμμόρφωσης»: η διαδικασία με την οποία ελέγχεται αν πληρούνται οι απαιτήσεις που καθορίζονται στον τίτλο ΙΙΙ κεφάλαιο 2 του παρόντος κανονισμού σε σχέση με ένα σύστημα ΤΝ·

(21)«οργανισμός αξιολόγησης της συμμόρφωσης»: φορέας που εκτελεί δραστηριότητες αξιολόγησης της συμμόρφωσης ως τρίτο πρόσωπο, συμπεριλαμβανομένων των δοκιμών, της πιστοποίησης και της επιθεώρησης·

(22)«κοινοποιημένος οργανισμός»: οργανισμός αξιολόγησης της συμμόρφωσης που ορίζεται σύμφωνα με τον παρόντα κανονισμό και άλλη σχετική ενωσιακή νομοθεσία·

(23)«ουσιαστική τροποποίηση»: αλλαγή στο σύστημα ΤΝ μετά τη διάθεσή του στην αγορά ή τη θέση του σε λειτουργία, η οποία επηρεάζει τη συμμόρφωση του συστήματος ΤΝ με τις απαιτήσεις που καθορίζονται στον τίτλο III κεφάλαιο 2 του παρόντος κανονισμού ή επιφέρει τροποποίηση του επιδιωκόμενου σκοπού για τον οποίο έχει αξιολογηθεί το σύστημα ΤΝ·

(24)«σήμανση συμμόρφωσης CE» (σήμανση CE): η σήμανση με την οποία ο πάροχος δηλώνει ότι το σύστημα ΤΝ συμμορφώνεται με τις απαιτήσεις που καθορίζονται στον τίτλο III κεφάλαιο 2 του παρόντος κανονισμού και άλλης ισχύουσας ενωσιακής νομοθεσίας η οποία εναρμονίζει τους όρους εμπορίας των προϊόντων (στο εξής: ενωσιακή νομοθεσία εναρμόνισης) όπου προβλέπεται η τοποθέτηση της εν λόγω σήμανσης·

(25)«εποπτεία μετά τη διάθεση στην αγορά»: το σύνολο των ενεργειών που πραγματοποιούν οι πάροχοι συστημάτων ΤΝ με στόχο την προδραστική συλλογή στοιχείων και την αξιολόγηση της πείρας από τη χρήση συστημάτων ΤΝ τα οποία διαθέτουν οι ίδιοι στην αγορά ή θέτουν σε λειτουργία προκειμένου να εντοπίζουν ενδεχόμενη ανάγκη άμεσης εφαρμογής διορθωτικών ή προληπτικών μέτρων·

(26)«αρχή εποπτείας της αγοράς»: η εθνική αρχή που διεξάγει τις δραστηριότητες και λαμβάνει μέτρα σύμφωνα με τον κανονισμό (ΕΕ) 2019/1020·

(27)«εναρμονισμένο πρότυπο»: ευρωπαϊκό πρότυπο, όπως ορίζεται στο άρθρο 2 παράγραφος 1 στοιχείο γ) το κανονισμού (ΕΕ) αριθ. 1025/2012·

(28)«κοινές προδιαγραφές»: έγγραφο, εκτός των προτύπων, το οποίο περιέχει τεχνικές λύσεις που παρέχουν ένα μέσο για τη συμμόρφωση με ορισμένες απαιτήσεις και υποχρεώσεις που θεσπίζονται δυνάμει του παρόντος κανονισμού·

(29)«δεδομένα εκπαίδευσης»: δεδομένα που χρησιμοποιούνται για την εκπαίδευση ενός συστήματος ΤΝ μέσω της προσαρμογής των διδάξιμων παραμέτρων του, συμπεριλαμβανομένων των βαρών νευρωνικού δικτύου·

(30)«δεδομένα επικύρωσης»: δεδομένα που χρησιμοποιούνται για την αξιολόγηση του εκπαιδευμένου συστήματος ΤΝ και για τον συντονισμό των μη διδάξιμων παραμέτρων του και της οικείας διαδικασίας μάθησης, μεταξύ άλλων, με σκοπό την αποτροπή της υπερπροσαρμογής, λαμβανομένου υπόψη ότι το σύνολο δεδομένων επικύρωσης μπορεί να είναι χωριστό σύνολο δεδομένων ή μέρος συνόλου δεδομένων εκπαίδευσης, είτε ως σταθερό είτε ως μεταβλητό τμήμα·

(31)«δεδομένα δοκιμής»: δεδομένα που χρησιμοποιούνται για την παροχή ανεξάρτητης αξιολόγησης του εκπαιδευμένου και επικυρωμένου συστήματος ΤΝ, προκειμένου να επιβεβαιωθούν οι αναμενόμενες επιδόσεις του εν λόγω συστήματος πριν από τη διάθεσή του στην αγορά ή τη θέση του σε λειτουργία· 

(32)«δεδομένα εισόδου»: δεδομένα που παρέχονται σε σύστημα ΤΝ ή λαμβάνονται απευθείας από αυτό, βάσει των οποίων το σύστημα παράγει στοιχεία εξόδου·

(33)«βιομετρικά δεδομένα»: τα δεδομένα προσωπικού χαρακτήρα τα οποία προκύπτουν από ειδική τεχνική επεξεργασία συνδεόμενη με τα φυσικά χαρακτηριστικά, τα χαρακτηριστικά της φυσιολογίας ή τα συμπεριφορικά χαρακτηριστικά φυσικού προσώπου και τα οποία επιτρέπουν ή επιβεβαιώνουν τη μοναδική ταυτοποίηση του εν λόγω φυσικού προσώπου, όπως εικόνες προσώπου ή δακτυλοσκοπικά δεδομένα·

(34)«σύστημα αναγνώρισης συναισθημάτων»: σύστημα ΤΝ για τον προσδιορισμό ή τη διαπίστωση συναισθημάτων ή προθέσεων φυσικών προσώπων βάσει των βιομετρικών δεδομένων τους·

(35)«σύστημα βιομετρικής κατηγοριοποίησης»: σύστημα ΤΝ για την κατάταξη φυσικών προσώπων σε συγκεκριμένες κατηγορίες, όπως φύλο, ηλικία, χρώμα μαλλιών, χρώμα οφθαλμών, δερματοστιξία, εθνοτική καταγωγή ή γενετήσιος ή πολιτικός προσανατολισμός, βάσει των βιομετρικών δεδομένων τους·

(36)«σύστημα εξ αποστάσεως βιομετρικής ταυτοποίησης»: σύστημα ΤΝ για την εξ αποστάσεως ταυτοποίηση φυσικών προσώπων μέσω της αντιπαραβολής των βιομετρικών δεδομένων του προσώπου με τα βιομετρικά δεδομένα που περιέχονται σε βάση δεδομένων αναφοράς και χωρίς ο χρήστης του συστήματος ΤΝ να γνωρίζει εκ των προτέρων αν το πρόσωπο θα είναι παρόν και μπορεί να ταυτοποιηθεί·

(37)«σύστημα εξ αποστάσεως βιομετρικής ταυτοποίησης ‘‘σε πραγματικό χρόνο”»: σύστημα εξ αποστάσεως βιομετρικής ταυτοποίησης στο οποίο η λήψη βιομετρικών δεδομένων, η αντιπαραβολή και η ταυτοποίηση πραγματοποιούνται χωρίς σημαντική καθυστέρηση. Αυτό δεν περιλαμβάνει μόνο την άμεση ταυτοποίηση, αλλά και περιορισμένες σύντομες καθυστερήσεις προς αποφυγή καταστρατηγήσεων.

(38)«σύστημα εξ αποστάσεως βιομετρικής ταυτοποίησης ‘‘σε ύστερο χρόνο”»: σύστημα εξ αποστάσεως βιομετρικής ταυτοποίησης, διαφορετικό από το σύστημα εξ αποστάσεως βιομετρικής ταυτοποίησης σε «πραγματικό χρόνο»·

(39)«δημόσια προσβάσιμος χώρος»: κάθε φυσικός χώρος προσβάσιμος στο κοινό, ανεξάρτητα από το αν τυχόν ισχύουν ορισμένοι όροι πρόσβασης·

(40)«αρχή επιβολής του νόμου»: 

α)κάθε δημόσια αρχή αρμόδια για την πρόληψη, τη διερεύνηση, την ανίχνευση ή τη δίωξη ποινικών αδικημάτων ή την εκτέλεση ποινικών κυρώσεων, συμπεριλαμβανομένων της προστασίας από απειλές κατά της δημόσιας ασφάλειας και της αποτροπής τους· ή

β)κάθε άλλος οργανισμός ή φορέας στον οποίο δυνάμει του δικαίου κράτους μέλους ανατίθεται ρόλος δημόσιας αρχής και η εκτέλεση δημόσιων εξουσιών για τους σκοπούς της πρόληψης, της διερεύνησης, της ανίχνευσης ή της δίωξης ποινικών αδικημάτων ή της εκτέλεσης ποινικών κυρώσεων, συμπεριλαμβανομένων της προστασίας από απειλές κατά της δημόσιας ασφάλειας και της αποτροπής τους·

(41)«επιβολή του νόμου»: οι δραστηριότητες που διεξάγονται από τις αρχές επιβολής του νόμου για την πρόληψη, τη διερεύνηση, την ανίχνευση ή τη δίωξη ποινικών αδικημάτων ή την εκτέλεση ποινικών κυρώσεων, συμπεριλαμβανομένων της προστασίας από απειλές κατά της δημόσιας ασφάλειας και της αποτροπής τους·

(42)«εθνική εποπτική αρχή»: η αρχή στην οποία ένα κράτος μέλος αναθέτει την ευθύνη για την υλοποίηση και την εφαρμογή του παρόντος κανονισμού, για τον συντονισμό των δραστηριοτήτων που ανατίθενται στο εν λόγω κράτος μέλος, για να λειτουργεί ως ενιαίο σημείο επαφής για την Επιτροπή, και για να εκπροσωπεί το κράτος μέλος στο Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης· 

(43)«εθνική αρμόδια αρχή»: η εθνική εποπτική αρχή, η κοινοποιούσα αρχή και η αρχή εποπτείας της αγοράς·

(44)«σοβαρό περιστατικό»: κάθε περιστατικό που, άμεσα ή έμμεσα, οδηγεί, ενδέχεται να έχει οδηγήσει ή ενδέχεται να οδηγήσει σε ένα από τα ακόλουθα:

α)θάνατος προσώπου ή σοβαρή βλάβη της υγείας του, ή σοβαρή ζημία της περιουσίας του ή του περιβάλλοντος,

β)σοβαρή και μη αναστρέψιμη διαταραχή στη διαχείριση και τη λειτουργία υποδομών ζωτικής σημασίας.

Άρθρο 4 
Τροποποιήσεις του παραρτήματος I

Ανατίθεται στην Επιτροπή η εξουσία να εκδίδει κατ’ εξουσιοδότηση πράξεις σύμφωνα με το άρθρο 73 για την τροποποίηση του καταλόγου των τεχνικών και των προσεγγίσεων που απαριθμούνται στο παράρτημα Ι, με σκοπό την επικαιροποίηση του εν λόγω καταλόγου σε συνάρτηση με τις εξελίξεις της αγοράς και τις τεχνολογικές εξελίξεις με βάση χαρακτηριστικά παρόμοια με τις τεχνικές και τις προσεγγίσεις που απαριθμούνται σε αυτό. 

ΤΙΤΛΟΣ II

ΑΠΑΓΟΡΕΥΜΕΝΕΣ ΠΡΑΚΤΙΚΕΣ ΣΤΟΝ ΤΟΜΕΑ ΤΗΣ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ

Άρθρο 5

1.Απαγορεύονται οι ακόλουθες πρακτικές στον τομέα της τεχνητής νοημοσύνης:

α)η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστήματος ΤΝ που χρησιμοποιεί τεχνικές οι οποίες απευθύνονται στο υποσυνείδητο ενός προσώπου υπερκεράζοντας το συνειδητό του, προκειμένου να στρεβλώσει ουσιωδώς τη συμπεριφορά ενός προσώπου κατά τρόπο που προκαλεί ή ενδέχεται να προκαλέσει στο εν λόγω πρόσωπο ή σε άλλο πρόσωπο σωματική ή ψυχολογική βλάβη·

β)η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστήματος ΤΝ που εκμεταλλεύεται οποιοδήποτε από τα τρωτά σημεία συγκεκριμένης ομάδας προσώπων λόγω της ηλικίας, της σωματικής ή διανοητικής αναπηρίας τους, προκειμένου να στρεβλωθεί ουσιωδώς η συμπεριφορά προσώπου που ανήκει στην εν λόγω ομάδα κατά τρόπο που προκαλεί ή ενδέχεται να προκαλέσει στο εν λόγω πρόσωπο ή σε άλλο πρόσωπο σωματική ή ψυχολογική βλάβη·

γ)η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστημάτων ΤΝ από τις δημόσιες αρχές ή εξ ονόματός τους για την αξιολόγηση ή την ταξινόμηση της αξιοπιστίας των φυσικών προσώπων για ορισμένο χρονικό διάστημα με βάση την κοινωνική τους συμπεριφορά ή τα γνωστά ή προβλεπόμενα προσωπικά χαρακτηριστικά τους ή χαρακτηριστικά της προσωπικότητάς τους, με κοινωνική βαθμολογία η οποία οδηγεί σε ένα ή σε αμφότερα από τα ακόλουθα:

i)επιζήμια ή δυσμενή μεταχείριση ορισμένων φυσικών προσώπων ή ολόκληρων ομάδων φυσικών προσώπων σε κοινωνικά πλαίσια τα οποία δεν σχετίζονται με το πλαίσιο στο οποίο παρήχθησαν ή συλλέχθηκαν αρχικά τα δεδομένα· 

ii)επιζήμια ή δυσμενή μεταχείριση ορισμένων φυσικών προσώπων ή ολόκληρων ομάδων φυσικών προσώπων, η οποία είναι αδικαιολόγητη ή δυσανάλογη προς την κοινωνική συμπεριφορά τους ή τη σοβαρότητά της·

δ)η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο», σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου, εκτός εάν και στον βαθμό που η χρήση αυτή είναι απολύτως αναγκαία για έναν από τους ακόλουθους στόχους:

i)τη στοχευμένη αναζήτηση συγκεκριμένων δυνητικών θυμάτων εγκληματικών πράξεων, συμπεριλαμβανομένων των αγνοούμενων παιδιών· 

ii)την πρόληψη συγκεκριμένης, ουσιώδους και επικείμενης απειλής κατά της ζωής ή της σωματικής ακεραιότητας φυσικών προσώπων ή απειλές τρομοκρατικής επίθεσης· 

iii)τον εντοπισμό, την ταυτοποίηση ή τη δίωξη δράστη ή υπόπτου για ποινικό αδίκημα που αναφέρεται στο άρθρο 2 παράγραφος 2 της απόφασης-πλαισίου 2002/584/ΔΕΥ του Συμβουλίου 62 και το οποίο τιμωρείται στο οικείο κράτος μέλος με στερητική της ελευθερίας ποινή ή στερητικό της ελευθερίας μέτρο ασφάλειας ανώτατης διάρκειας τουλάχιστον τριών ετών, όπως ορίζεται στο δίκαιο του εν λόγω κράτους μέλους.

2.Η χρήση των συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου, για οποιονδήποτε από τους στόχους που αναφέρονται στην παράγραφο 1 στοιχείο δ) λαμβάνει υπόψη τα ακόλουθα στοιχεία:

α)τη φύση της κατάστασης που οδηγεί στην πιθανή χρήση, ειδικότερα τη σοβαρότητα, την πιθανότητα και το μέγεθος της βλάβης που θα προκληθεί αν δεν χρησιμοποιηθεί το σύστημα· 

β)τις συνέπειες της χρήσης του συστήματος για τα δικαιώματα και τις ελευθερίες όλων των ενδιαφερομένων προσώπων, ειδικότερα τη σοβαρότητα, την πιθανότητα και την έκταση των εν λόγω συνεπειών.

Επιπλέον, η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου για οποιονδήποτε από τους στόχους που αναφέρονται στην παράγραφο 1 στοιχείο δ) συμμορφώνεται με τις αναγκαίες και αναλογικές διασφαλίσεις και προϋποθέσεις που σχετίζονται με τη χρήση, ιδιαίτερα όσον αφορά τους χρονικούς και γεωγραφικούς περιορισμούς, καθώς και τους περιορισμούς όσον αφορά τα πρόσωπα.

3.Όσον αφορά την παράγραφο 1 στοιχείο δ) και την παράγραφο 2, κάθε μεμονωμένη χρήση συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου υπόκειται σε προηγούμενη άδεια που χορηγείται από δικαστική αρχή ή από ανεξάρτητη διοικητική αρχή του κράτους μέλους στο οποίο πρόκειται να πραγματοποιηθεί η χρήση, και η οποία εκδίδεται κατόπιν αιτιολογημένου αιτήματος και σύμφωνα με τους λεπτομερείς κανόνες του εθνικού δικαίου που αναφέρονται στην παράγραφο 4. Ωστόσο, σε δεόντως αιτιολογημένες επείγουσες περιπτώσεις, η χρήση του συστήματος μπορεί να αρχίσει χωρίς άδεια, ενώ η άδεια μπορεί να ζητηθεί μόνο κατά τη διάρκεια της χρήσης ή μετά τη χρήση. 

Η αρμόδια δικαστική ή διοικητική αρχή χορηγεί την άδεια μόνο εφόσον έχει πεισθεί, βάσει αντικειμενικών αποδεικτικών στοιχείων ή σαφών ενδείξεων που της προσκομίζονται, ότι η χρήση του εν λόγω συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» είναι αναγκαία και αναλογική για την επίτευξη ενός από τους στόχους που ορίζονται στην παράγραφο 1 στοιχείο δ), όπως προσδιορίζονται στο αίτημα. Κατά τη λήψη απόφασης σχετικά με το αίτημα, η αρμόδια δικαστική ή διοικητική αρχή λαμβάνει υπόψη τα στοιχεία που αναφέρονται στην παράγραφο 2. 

4.Ένα κράτος μέλος μπορεί να αποφασίσει να προβλέψει τη δυνατότητα πλήρους ή μερικής έγκρισης της χρήσης συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου εντός των ορίων και υπό τις προϋποθέσεις που απαριθμούνται στην παράγραφο 1 στοιχείο δ) και στις παραγράφους 2 και 3. Το εν λόγω κράτος μέλος καθορίζει στο εθνικό του δίκαιο τους αναγκαίους λεπτομερείς κανόνες για το αίτημα, την έκδοση και την άσκηση, καθώς και την εποπτεία, όσον αφορά τις άδειες που αναφέρονται στην παράγραφο 3. Οι εν λόγω κανόνες προσδιορίζουν επίσης σε σχέση με ποιους από τους στόχους που απαριθμούνται στην παράγραφο 1 στοιχείο δ), μεταξύ άλλων για ποια από τα ποινικά αδικήματα που αναφέρονται στο σημείο iii), μπορεί να επιτραπεί στις αρμόδιες αρχές να χρησιμοποιούν τα εν λόγω συστήματα για σκοπούς επιβολής του νόμου.

ΤΙΤΛΟΣ ΙΙΙ

ΣΥΣΤΗΜΑΤΑ ΤΝ ΥΨΗΛΟΥ ΚΙΝΔΥΝΟΥ

Κεφάλαιο 1

ΤΑΞΙΝΟΜΗΣΗ ΣΥΣΤΗΜΑΤΩΝ ΤΝ ΩΣ ΥΨΗΛΟΥ ΚΙΝΔΥΝΟΥ

Άρθρο 6 
Κανόνες ταξινόμησης για συστήματα ΤΝ υψηλού κινδύνου

1.Ασχέτως εάν ένα σύστημα ΤΝ διατίθεται στην αγορά ή τίθεται σε λειτουργία ανεξάρτητα από τα προϊόντα που αναφέρονται στα στοιχεία α) και β), το συγκεκριμένο σύστημα ΤΝ θεωρείται υψηλού κινδύνου όταν πληρούνται αμφότερες οι ακόλουθες προϋποθέσεις:

α)το σύστημα ΤΝ προορίζεται να χρησιμοποιηθεί ως κατασκευαστικό στοιχείο ασφάλειας ενός προϊόντος ή είναι το ίδιο προϊόν που καλύπτεται από την ενωσιακή νομοθεσία εναρμόνισης που παρατίθεται στο παράρτημα ΙΙ· 

β)το προϊόν του οποίου κατασκευαστικό στοιχείο ασφάλειας είναι το σύστημα ΤΝ, ή το ίδιο το σύστημα ΤΝ ως προϊόν, απαιτείται να υποβληθεί σε αξιολόγηση της συμμόρφωσης από τρίτο μέρος με σκοπό τη διάθεση του εν λόγω προϊόντος στην αγορά ή τη θέση του σε λειτουργία, σύμφωνα με την ενωσιακή νομοθεσία εναρμόνισης που παρατίθεται στο παράρτημα II.

2.Εκτός από τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στην παράγραφο 1, τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα III θεωρούνται επίσης υψηλού κινδύνου.

Άρθρο 7 
Τροποποιήσεις του παραρτήματος IIΙ

1.Ανατίθεται στην Επιτροπή η εξουσία να εκδίδει κατ’ εξουσιοδότηση πράξεις σύμφωνα με το άρθρο 73 για την επικαιροποίηση του καταλόγου του παραρτήματος ΙΙΙ με την προσθήκη συστημάτων ΤΝ υψηλού κινδύνου, όταν πληρούνται αμφότερες οι ακόλουθες προϋποθέσεις:

α)τα συστήματα ΤΝ προορίζονται να χρησιμοποιηθούν σε οποιονδήποτε από τους τομείς που απαριθμούνται στο παράρτημα ΙΙΙ σημεία 1 έως 8·

β)τα συστήματα ΤΝ ενέχουν κίνδυνο βλάβης για την υγεία και την ασφάλεια ή κίνδυνο δυσμενών επιπτώσεων στα θεμελιώδη δικαιώματα, δηλαδή όσον αφορά τη σοβαρότητα και την πιθανότητα εμφάνισης κινδύνου ισοδύναμου ή μεγαλύτερου από τον κίνδυνο βλάβης ή δυσμενών επιπτώσεων που ενέχουν τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται ήδη στο παράρτημα ΙΙΙ.

2.Όταν, για τους σκοπούς της παραγράφου 1, αξιολογείται αν ένα σύστημα ΤΝ ενέχει κίνδυνο βλάβης για την υγεία και την ασφάλεια ή κίνδυνο δυσμενών επιπτώσεων στα θεμελιώδη δικαιώματα που είναι ισοδύναμος ή μεγαλύτερος από τον κίνδυνο βλάβης που ενέχουν τα συστήματα ΤΝ υψηλού κινδύνου που ήδη αναφέρονται στο παράρτημα III, η Επιτροπή λαμβάνει υπόψη τα ακόλουθα κριτήρια:

α)τον επιδιωκόμενο σκοπό του συστήματος ΤΝ·

β)τον βαθμό στον οποίο ένα σύστημα ΤΝ έχει χρησιμοποιηθεί ή είναι πιθανό να χρησιμοποιηθεί·

γ)τον βαθμό στον οποίο η χρήση ενός συστήματος ΤΝ έχει ήδη προκαλέσει βλάβη στην υγεία και την ασφάλεια ή δυσμενείς επιπτώσεις στα θεμελιώδη δικαιώματα ή έχει εγείρει σοβαρές ανησυχίες σε σχέση με την επέλευση της βλάβης ή των δυσμενών επιπτώσεων, όπως καταδεικνύεται από εκθέσεις ή τεκμηριωμένους ισχυρισμούς που υποβάλλονται στις εθνικές αρμόδιες αρχές·

δ)την πιθανή έκταση της εν λόγω βλάβης ή των εν λόγω δυσμενών επιπτώσεων, ιδιαίτερα όσον αφορά την ένταση και την ικανότητά τους να επηρεάζουν πλήθος προσώπων·

ε)τον βαθμό στον οποίο τα δυνητικά ζημιωθέντα ή δυσμενώς επηρεαζόμενα πρόσωπα εξαρτώνται από το αποτέλεσμα που παράγεται με ένα σύστημα ΤΝ, ιδιαίτερα επειδή για πρακτικούς ή νομικούς λόγους δεν είναι ευλόγως δυνατό να εξαιρεθούν από το εν λόγω αποτέλεσμα·

στ)τον βαθμό στον οποίο τα δυνητικά ζημιωθέντα ή δυσμενώς επηρεαζόμενα πρόσωπα βρίσκονται σε ευάλωτη θέση σε σχέση με τον χρήστη ενός συστήματος ΤΝ, ιδίως λόγω ανισορροπίας ισχύος, γνώσεων, οικονομικών ή κοινωνικών περιστάσεων ή ηλικίας·

ζ)τον βαθμό στον οποίο το αποτέλεσμα που παράγεται με ένα σύστημα ΤΝ είναι εύκολα αναστρέψιμο, οπότε τα αποτελέσματα που έχουν αντίκτυπο στην υγεία ή την ασφάλεια των προσώπων δεν θεωρούνται εύκολα αναστρέψιμα·

η)τον βαθμό στον οποίο η ισχύουσα νομοθεσία της Ένωσης προβλέπει:

i)αποτελεσματικά μέτρα επανόρθωσης σε σχέση με τους κινδύνους που ενέχει ένα σύστημα ΤΝ, με εξαίρεση τις αξιώσεις αποζημίωσης·

ii)αποτελεσματικά μέτρα για την πρόληψη ή την ουσιαστική ελαχιστοποίηση των εν λόγω κινδύνων.

Κεφάλαιο 2

Απαιτήσεις για συστήματα ΤΝ υψηλού κινδύνου

Άρθρο 8 
Συμμόρφωση με τις απαιτήσεις

1.Τα συστήματα ΤΝ υψηλού κινδύνου συμμορφώνονται με τις απαιτήσεις που καθορίζονται στο παρόν κεφάλαιο.

2.Ο επιδιωκόμενος σκοπός του συστήματος ΤΝ υψηλού κινδύνου και του συστήματος διαχείρισης κινδύνου που αναφέρεται στο άρθρο 9 λαμβάνεται υπόψη κατά τη διασφάλιση της συμμόρφωσης με τις εν λόγω απαιτήσεις.

Άρθρο 9 
Σύστημα διαχείρισης κινδύνου

1.Θεσπίζεται, υλοποιείται, τεκμηριώνεται και διατηρείται σύστημα διαχείρισης κινδύνου σε σχέση με τα συστήματα ΤΝ υψηλού κινδύνου.

2.Το σύστημα διαχείρισης κινδύνου συνίσταται σε μια συνεχή επαναληπτική διαδικασία καθ’ όλη τη διάρκεια του κύκλου ζωής ενός συστήματος ΤΝ υψηλού κινδύνου, η οποία απαιτεί τακτική συστηματική επικαιροποίηση. Περιλαμβάνει τα ακόλουθα βήματα:

α)προσδιορισμό και ανάλυση των γνωστών και προβλέψιμων κινδύνων που συνδέονται με κάθε σύστημα ΤΝ υψηλού κινδύνου·

β)εκτίμηση και αξιολόγηση των κινδύνων που ενδέχεται να προκύψουν όταν το σύστημα ΤΝ υψηλού κινδύνου χρησιμοποιείται σύμφωνα με τον επιδιωκόμενο σκοπό του και υπό συνθήκες ευλόγως προβλέψιμης κακής χρήσης· 

γ)αξιολόγηση άλλων πιθανών κινδύνων με βάση την ανάλυση των δεδομένων που συλλέγονται από το σύστημα παρακολούθησης μετά τη διάθεση στην αγορά, όπως αναφέρεται στο άρθρο 61·

δ)θέσπιση κατάλληλων μέτρων διαχείρισης κινδύνου σύμφωνα με τις διατάξεις των επόμενων παραγράφων.

3.Τα μέτρα διαχείρισης κινδύνου που αναφέρονται στην παράγραφο 2 στοιχείο δ) λαμβάνουν δεόντως υπόψη τις επιπτώσεις και τις πιθανές αλληλεπιδράσεις που προκύπτουν από τη συνδυασμένη εφαρμογή των απαιτήσεων που ορίζονται στο παρόν κεφάλαιο 2. Λαμβάνουν υπόψη τη γενικά αναγνωρισμένη εξέλιξη της τεχνολογίας, μεταξύ άλλων όπως αντικατοπτρίζεται στα σχετικά εναρμονισμένα πρότυπα ή τις κοινές προδιαγραφές.

4.Τα μέτρα διαχείρισης κινδύνου που αναφέρονται στην παράγραφο 2 στοιχείο δ) είναι τέτοια ώστε κάθε υπολειπόμενος κίνδυνος που συνδέεται με κάθε παράγοντα κινδύνου, καθώς και ο συνολικός υπολειπόμενος κίνδυνος των συστημάτων ΤΝ υψηλού κινδύνου να κρίνονται αποδεκτοί, υπό την προϋπόθεση ότι το σύστημα ΤΝ υψηλού κινδύνου χρησιμοποιείται σύμφωνα με τον επιδιωκόμενο σκοπό του ή υπό συνθήκες ευλόγως προβλέψιμης κακής χρήσης. Οι εν λόγω υπολειπόμενοι κίνδυνοι κοινοποιούνται στον χρήστη.

Κατά τον προσδιορισμό των καταλληλότερων μέτρων διαχείρισης κινδύνου, εξασφαλίζονται τα εξής:

α)εξάλειψη ή μείωση των κινδύνων όσο είναι δυνατόν μέσω κατάλληλου σχεδιασμού και ανάπτυξης·

β)κατά περίπτωση, εφαρμογή κατάλληλων μέτρων μετριασμού και ελέγχου σε σχέση με κινδύνους που δεν μπορούν να εξαλειφθούν·

γ)παροχή επαρκών πληροφοριών σύμφωνα με το άρθρο 13, ειδικότερα όσον αφορά τους κινδύνους που αναφέρονται στην παράγραφο 2 στοιχείο β) του παρόντος άρθρου και, κατά περίπτωση, κατάρτιση των χρηστών.

Για την εξάλειψη ή τη μείωση των κινδύνων που σχετίζονται με τη χρήση του συστήματος ΤΝ υψηλού κινδύνου, λαμβάνονται δεόντως υπόψη οι τεχνικές γνώσεις, η πείρα, η εκπαίδευση, η κατάρτιση που αναμένονται από τον χρήστη και το περιβάλλον στο οποίο πρόκειται να χρησιμοποιηθεί το σύστημα.

5.Τα συστήματα ΤΝ υψηλού κινδύνου υποβάλλονται σε δοκιμή με σκοπό τον προσδιορισμό των καταλληλότερων μέτρων διαχείρισης κινδύνου. Η δοκιμή διασφαλίζει ότι τα συστήματα ΤΝ υψηλού κινδύνου λειτουργούν με συνέπεια για τον επιδιωκόμενο σκοπό τους και συμμορφώνονται με τις απαιτήσεις που ορίζονται στο παρόν κεφάλαιο.

6.Οι διαδικασίες δοκιμής είναι κατάλληλες για την επίτευξη του επιδιωκόμενου σκοπού του συστήματος ΤΝ και δεν χρειάζεται να υπερβαίνουν τα αναγκαία όρια για την επίτευξη του εν λόγω σκοπού.

7.Η δοκιμή των συστημάτων ΤΝ υψηλού κινδύνου διενεργείται, κατά περίπτωση, σε οποιοδήποτε στάδιο της διαδικασίας ανάπτυξης και, σε κάθε περίπτωση, πριν από τη διάθεση στην αγορά ή τη θέση σε λειτουργία. Η δοκιμή πραγματοποιείται βάσει προκαταρκτικά καθορισμένων δεικτών μέτρησης και πιθανολογικών ορίων που είναι κατάλληλα για τον σκοπό για τον οποίο προορίζεται το σύστημα ΤΝ υψηλού κινδύνου.

8.Κατά την εφαρμογή του συστήματος διαχείρισης κινδύνου που περιγράφεται στις παραγράφους 1 έως 7, δίνεται ιδιαίτερη προσοχή στο κατά πόσον το σύστημα ΤΝ υψηλού κινδύνου είναι πιθανό να είναι προσβάσιμο από παιδιά ή να έχει αντίκτυπο σε παιδιά.

9.Για τα πιστωτικά ιδρύματα που ρυθμίζονται από την οδηγία 2013/36/ΕΕ, οι πτυχές που περιγράφονται στις παραγράφους 1 έως 8 αποτελούν μέρος των διαδικασιών διαχείρισης κινδύνου που θεσπίζονται από τα εν λόγω ιδρύματα σύμφωνα με το άρθρο 74 της εν λόγω οδηγίας.

Άρθρο 10 
Δεδομένα και διακυβέρνηση δεδομένων

1.Τα συστήματα ΤΝ υψηλού κινδύνου που χρησιμοποιούν τεχνικές που περιλαμβάνουν την εκπαίδευση μοντέλων με δεδομένα αναπτύσσονται βάσει συνόλων δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής που πληρούν τα κριτήρια που αναφέρονται στις παραγράφους 2 έως 5.

2.Τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής υπόκεινται σε κατάλληλες πρακτικές διακυβέρνησης και διαχείρισης δεδομένων. Οι πρακτικές αυτές αφορούν ειδικότερα: 

α)τις σχετικές επιλογές σχεδιασμού·

β)τη συλλογή δεδομένων·

γ)σχετικές εργασίες επεξεργασίας της προετοιμασίας των δεδομένων, όπως σχολιασμός, επισήμανση, καθαρισμός, εμπλουτισμός και ομαδοποίηση·

δ)τη διατύπωση σχετικών παραδοχών, κυρίως όσον αφορά τις πληροφορίες τις οποίες πρέπει να μετρούν και να αντιπροσωπεύουν τα δεδομένα· 

ε)προηγούμενη αξιολόγηση της διαθεσιμότητας, της ποσότητας και της καταλληλότητας των απαιτούμενων συνόλων δεδομένων· 

στ)εξέταση ενόψει πιθανών περιπτώσεων μεροληψίας·

ζ)τον εντοπισμό τυχόν κενών ή ελλείψεων δεδομένων και τον τρόπο με τον οποίο μπορούν να αντιμετωπιστούν τα εν λόγω κενά και οι ελλείψεις.

3.Τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής είναι συναφή, αντιπροσωπευτικά, πλήρη και δεν περιέχουν σφάλματα. Έχουν τις κατάλληλες στατιστικές ιδιότητες, μεταξύ άλλων, κατά περίπτωση, όσον αφορά τα πρόσωπα ή τις ομάδες προσώπων για τα οποία πρόκειται να χρησιμοποιηθεί το σύστημα ΤΝ υψηλού κινδύνου. Αυτά τα χαρακτηριστικά των συνόλων δεδομένων μπορούν να πληρούνται σε επίπεδο μεμονωμένων συνόλων δεδομένων ή συνδυασμού αυτών.

4.Τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής λαμβάνουν υπόψη, στον βαθμό που απαιτείται από τον επιδιωκόμενο σκοπό, τα χαρακτηριστικά ή τα στοιχεία που προσιδιάζουν σε συγκεκριμένο γεωγραφικό, συμπεριφορικό ή λειτουργικό περιβάλλον εντός του οποίου πρόκειται να χρησιμοποιηθεί το σύστημα ΤΝ υψηλού κινδύνου. 

5.Στον βαθμό που είναι απολύτως αναγκαίο για τη διασφάλιση της παρακολούθησης, του εντοπισμού και της διόρθωσης πιθανών περιπτώσεων μεροληψίας σε σχέση με τα συστήματα ΤΝ υψηλού κινδύνου, οι πάροχοι των εν λόγω συστημάτων μπορούν να επεξεργάζονται ειδικές κατηγορίες δεδομένων προσωπικού χαρακτήρα που αναφέρονται στο άρθρο 9 παράγραφος 1 του κανονισμού (ΕΕ) 2016/679, στο άρθρο 10 της οδηγίας (ΕΕ) 2016/680 και στο άρθρο 10 παράγραφος 1 του κανονισμού (ΕΕ) 2018/1725, με την επιφύλαξη κατάλληλων διασφαλίσεων για τα θεμελιώδη δικαιώματα και τις ελευθερίες των φυσικών προσώπων, συμπεριλαμβανομένων τεχνικών περιορισμών στην περαιτέρω χρήση και τη χρήση προηγμένων μέτρων ασφάλειας και προστασίας της ιδιωτικότητας, όπως η ψευδωνυμοποίηση ή η κρυπτογράφηση όταν η ανωνυμοποίηση μπορεί να επηρεάσει σημαντικά τον επιδιωκόμενο σκοπό.

6.Εφαρμόζονται κατάλληλες πρακτικές διακυβέρνησης και διαχείρισης δεδομένων για την ανάπτυξη συστημάτων ΤΝ υψηλού κινδύνου, εκτός εκείνων που χρησιμοποιούν τεχνικές που περιλαμβάνουν την εκπαίδευση μοντέλων, προκειμένου να διασφαλίζεται ότι τα εν λόγω συστήματα ΤΝ υψηλού κινδύνου συμμορφώνονται με την παράγραφο 2. 

Άρθρο 11 
Τεχνικός φάκελος

1.Ο τεχνικός φάκελος ενός συστήματος ΤΝ υψηλού κινδύνου καταρτίζεται πριν από τη διάθεση του εν λόγω συστήματος στην αγορά ή τη θέση του σε λειτουργία και επικαιροποιείται συνεχώς.

Ο τεχνικός φάκελος καταρτίζεται κατά τρόπο που να αποδεικνύει ότι το σύστημα ΤΝ υψηλού κινδύνου συμμορφώνεται με τις απαιτήσεις του παρόντος κεφαλαίου και παρέχει στις εθνικές αρμόδιες αρχές και στους κοινοποιημένους οργανισμούς όλες τις απαραίτητες πληροφορίες για την αξιολόγηση της συμμόρφωσης του συστήματος ΤΝ με τις εν λόγω απαιτήσεις. Περιέχει τουλάχιστον τα στοιχεία που ορίζονται στο παράρτημα ΙV.

2.Όταν ένα σύστημα ΤΝ υψηλού κινδύνου που σχετίζεται με προϊόν στο οποίο εφαρμόζονται οι νομικές πράξεις που παρατίθενται στο παράρτημα ΙΙ τμήμα Α, διατίθεται στην αγορά ή τίθεται σε λειτουργία, καταρτίζεται ενιαίος τεχνικός φάκελος που περιέχει όλες τις πληροφορίες που ορίζονται στο παράρτημα IV, καθώς και τις πληροφορίες που απαιτούνται βάσει των εν λόγω νομικών πράξεων.

3.Ανατίθεται στην Επιτροπή η εξουσία να εκδίδει κατ’ εξουσιοδότηση πράξεις σύμφωνα με το άρθρο 73 για την τροποποίηση του παραρτήματος IV, εφόσον απαιτείται, ώστε να εξασφαλίζεται ότι, με βάση την τεχνική πρόοδο, ο τεχνικός φάκελος παρέχει όλες τις απαραίτητες πληροφορίες για την αξιολόγηση της συμμόρφωσης του συστήματος με τις απαιτήσεις του παρόντος κεφαλαίου.

Άρθρο 12 
Τήρηση αρχείων

1.Τα συστήματα ΤΝ υψηλού κινδύνου σχεδιάζονται και αναπτύσσονται με ικανότητες που καθιστούν δυνατή την αυτόματη καταγραφή συμβάντων («αρχεία καταγραφής») κατά τη λειτουργία των συστημάτων ΤΝ υψηλού κινδύνου. Αυτές οι ικανότητες καταγραφής πρέπει να είναι σύμφωνες με αναγνωρισμένα πρότυπα ή κοινές προδιαγραφές.

2.Οι ικανότητες καταγραφής διασφαλίζουν ένα επίπεδο ιχνηλασιμότητας της λειτουργίας του συστήματος ΤΝ καθ’ όλη τη διάρκεια του κύκλου ζωής του, το οποίο είναι κατάλληλο για τον επιδιωκόμενο σκοπό του συστήματος. 

3.Συγκεκριμένα, οι ικανότητες καταγραφής καθιστούν δυνατή την παρακολούθηση της λειτουργίας του συστήματος ΤΝ υψηλού κινδύνου όσον αφορά την εμφάνιση καταστάσεων που ενδέχεται να έχουν ως αποτέλεσμα το σύστημα ΤΝ να παρουσιάσει κίνδυνο κατά την έννοια του άρθρου 65 παράγραφος 1 ή να οδηγήσουν σε ουσιαστική τροποποίηση, ενώ παράλληλα διευκολύνουν την παρακολούθηση μετά τη διάθεση στην αγορά, όπως αναφέρεται στο άρθρο 61. 

4.Για τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα ΙΙΙ παράγραφος 1 στοιχείο α), οι ικανότητες καταγραφής παρέχουν τουλάχιστον: 

α)καταγραφή της περιόδου κάθε χρήσης του συστήματος (ημερομηνία και ώρα έναρξης και ημερομηνία και ώρα λήξης κάθε χρήσης)· 

β)τη βάση δεδομένων αναφοράς βάσει της οποίας έχουν ελεγχθεί τα δεδομένα εισόδου από το σύστημα·

γ)τα δεδομένα εισόδου για τα οποία η αναζήτηση οδήγησε σε αντιστοίχιση· 

δ)την ταυτοποίηση των φυσικών προσώπων που συμμετέχουν στην επαλήθευση των αποτελεσμάτων, όπως αναφέρεται στο άρθρο 14 παράγραφος 5.

Άρθρο 13 
Διαφάνεια και πληροφόρηση των χρηστών

1.Τα συστήματα ΤΝ υψηλού κινδύνου σχεδιάζονται και αναπτύσσονται κατά τρόπο που διασφαλίζει ότι η λειτουργία τους είναι επαρκώς διαφανής ώστε οι χρήστες να είναι σε θέση να ερμηνεύουν τα στοιχεία εξόδου του συστήματος και να τα χρησιμοποιούν κατάλληλα. Διασφαλίζεται ο κατάλληλος τύπος και βαθμός διαφάνειας, με στόχο την επίτευξη συμμόρφωσης με τις σχετικές υποχρεώσεις του χρήστη και του παρόχου οι οποίες καθορίζονται στο κεφάλαιο 3 του παρόντος τίτλου.

2.Τα συστήματα ΤΝ υψηλού κινδύνου συνοδεύονται από οδηγίες χρήσης σε κατάλληλο ψηφιακό μορφότυπο ή με άλλο τρόπο, οι οποίες περιλαμβάνουν συνοπτικές, πλήρεις, ορθές και σαφείς πληροφορίες που είναι συναφείς, προσβάσιμες και κατανοητές από τους χρήστες.

3.Οι πληροφορίες που αναφέρονται στην παράγραφο 2 διευκρινίζουν:

α)την ταυτότητα και τα στοιχεία επικοινωνίας του παρόχου και, κατά περίπτωση, του εξουσιοδοτημένου εκπροσώπου του·

β)τα χαρακτηριστικά, τις ικανότητες και τους περιορισμούς των επιδόσεων του συστήματος ΤΝ υψηλού κινδύνου, μεταξύ άλλων:

i)τον επιδιωκόμενο σκοπό του·

ii)το επίπεδο ακρίβειας, στιβαρότητας και κυβερνοασφάλειας που αναφέρεται στο άρθρο 15 με βάση το οποίο έχει δοκιμαστεί και επικυρωθεί το σύστημα ΤΝ υψηλού κινδύνου και το οποίο μπορεί να αναμένεται, καθώς και κάθε γνωστή και προβλέψιμη περίσταση που μπορεί να έχει αντίκτυπο στο εν λόγω αναμενόμενο επίπεδο ακρίβειας, στιβαρότητας και κυβερνοασφάλειας·

iii)κάθε γνωστή ή προβλέψιμη περίσταση που σχετίζεται με τη χρήση του συστήματος ΤΝ υψηλού κινδύνου σύμφωνα με τον επιδιωκόμενο σκοπό του ή υπό συνθήκες ευλόγως προβλέψιμης κακής χρήσης, η οποία μπορεί να οδηγήσει σε κινδύνους για την υγεία και την ασφάλεια ή για τα θεμελιώδη δικαιώματα·

iv)τις επιδόσεις του όσον αφορά τα πρόσωπα ή τις ομάδες προσώπων στα οποία προορίζεται να χρησιμοποιηθεί το σύστημα·

v)κατά περίπτωση, προδιαγραφές για τα δεδομένα εισόδου ή κάθε άλλη σχετική πληροφορία όσον αφορά τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής που χρησιμοποιούνται, δεδομένου του επιδιωκόμενου σκοπού του συστήματος ΤΝ.

γ)τις αλλαγές στο σύστημα ΤΝ υψηλού κινδύνου και τις επιδόσεις του, όπως έχουν προκαθοριστεί από τον πάροχο κατά τη στιγμή της αρχικής αξιολόγησης της συμμόρφωσης, εάν υπάρχουν· 

δ)τα μέτρα ανθρώπινης εποπτείας που αναφέρονται στο άρθρο 14, συμπεριλαμβανομένων των τεχνικών μέτρων που εφαρμόζονται για τη διευκόλυνση της ερμηνείας των στοιχείων εξόδου των συστημάτων ΤΝ από τους χρήστες·

ε)την αναμενόμενη διάρκεια ζωής του συστήματος ΤΝ υψηλού κινδύνου και τυχόν απαραίτητα μέτρα συντήρησης και φροντίδας για τη διασφάλιση της ορθής λειτουργίας του εν λόγω συστήματος ΤΝ, μεταξύ άλλων όσον αφορά τις επικαιροποιήσεις του λογισμικού.

Άρθρο 14 
Ανθρώπινη εποπτεία

1.Τα συστήματα ΤΝ υψηλού κινδύνου σχεδιάζονται και αναπτύσσονται κατά τέτοιο τρόπο, μεταξύ άλλων με κατάλληλα εργαλεία διεπαφής ανθρώπου-μηχανής, ώστε να μπορούν να εποπτεύονται αποτελεσματικά από φυσικά πρόσωπα κατά τη διάρκεια της περιόδου χρήσης τους. 

2.Η ανθρώπινη εποπτεία αποσκοπεί στην πρόληψη ή την ελαχιστοποίηση των κινδύνων για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα που ενδέχεται να προκύψουν όταν ένα σύστημα ΤΝ υψηλού κινδύνου χρησιμοποιείται σύμφωνα με τον επιδιωκόμενο σκοπό του ή υπό συνθήκες ευλόγως προβλέψιμης κακής χρήσης, ιδιαίτερα όταν οι κίνδυνοι αυτοί εξακολουθούν να υφίστανται παρά την εφαρμογή άλλων απαιτήσεων που ορίζονται στο παρόν κεφάλαιο.

3.Η ανθρώπινη εποπτεία εξασφαλίζεται είτε με ένα είτε με όλα τα ακόλουθα μέτρα τα οποία:

α)προσδιορίζονται και ενσωματώνονται, όταν είναι τεχνικά εφικτό, στο σύστημα ΤΝ υψηλού κινδύνου από τον πάροχο πριν από τη διάθεσή του στην αγορά ή τη θέση του σε λειτουργία· 

β)προσδιορίζονται από τον πάροχο πριν από τη διάθεση του συστήματος ΤΝ υψηλού κινδύνου στην αγορά ή τη θέση του σε λειτουργία και είναι σκόπιμο να εφαρμόζονται από τον χρήστη.

4.Τα μέτρα που αναφέρονται στην παράγραφο 3 επιτρέπουν στα άτομα στα οποία έχει ανατεθεί η ανθρώπινη εποπτεία να προβαίνουν στις ακόλουθες ενέργειες, ανάλογα με τις περιστάσεις:

α)να κατανοούν πλήρως τις ικανότητες και τους περιορισμούς του συστήματος ΤΝ υψηλού κινδύνου και να είναι σε θέση να παρακολουθούν δεόντως τη λειτουργία του, έτσι ώστε να εντοπίζονται και να αντιμετωπίζονται το συντομότερο δυνατόν ενδείξεις ανωμαλιών, δυσλειτουργιών και απροσδόκητων επιδόσεων·

β)να παραμένουν ενήμερα για την πιθανή τάση αυτόματης εξάρτησης ή υπέρμετρης εξάρτησης από τα στοιχεία εξόδου που παράγονται από σύστημα ΤΝ υψηλού κινδύνου («μεροληψία αυτοματισμού»), ειδικότερα για τα συστήματα ΤΝ υψηλού κινδύνου που χρησιμοποιούνται για την παροχή πληροφοριών ή συστάσεων για αποφάσεις που πρόκειται να ληφθούν από φυσικά πρόσωπα·

γ)να είναι σε θέση να ερμηνεύουν ορθά τα στοιχεία εξόδου του συστήματος ΤΝ υψηλού κινδύνου, λαμβάνοντας ιδιαίτερα υπόψη τα χαρακτηριστικά του συστήματος και τα διαθέσιμα εργαλεία και τις μεθόδους ερμηνείας·

δ)να είναι σε θέση να αποφασίζουν, σε οποιαδήποτε συγκεκριμένη περίπτωση, να μη χρησιμοποιήσουν το σύστημα ΤΝ υψηλού κινδύνου ή να αγνοούν, να παρακάμπτουν ή να αντιστρέφουν με οποιονδήποτε άλλον τρόπο τα στοιχεία εξόδου του συστήματος ΤΝ υψηλού κινδύνου·

ε)να είναι σε θέση να παρεμβαίνουν στη λειτουργία του συστήματος ΤΝ υψηλού κινδύνου ή να διακόπτουν το σύστημα μέσω πλήκτρου «διακοπής» ή παρόμοιας διαδικασίας.

5.Για τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα ΙΙΙ σημείο 1 στοιχείο α), τα μέτρα που αναφέρονται στην παράγραφο 3 εξασφαλίζουν επιπλέον ότι ο χρήστης δεν προβαίνει σε καμία ενέργεια ή απόφαση με βάση την ταυτοποίηση που προκύπτει από το σύστημα, εκτός εάν αυτή έχει επαληθευτεί και επιβεβαιωθεί από τουλάχιστον δύο φυσικά πρόσωπα.

Άρθρο 15 
Ακρίβεια, στιβαρότητα και κυβερνοασφάλεια

1.Τα συστήματα ΤΝ υψηλού κινδύνου σχεδιάζονται και αναπτύσσονται κατά τρόπο ώστε να επιτυγχάνουν, λαμβανομένου υπόψη του επιδιωκόμενου σκοπού τους, κατάλληλο επίπεδο ακρίβειας, στιβαρότητας και κυβερνοασφάλειας, και να λειτουργούν με συνέπεια ως προς αυτές τις πτυχές καθ’ όλη τη διάρκεια του κύκλου ζωής τους.

2.Τα επίπεδα ακρίβειας και οι σχετικοί δείκτες μέτρησης της ακρίβειας των συστημάτων ΤΝ υψηλού κινδύνου δηλώνονται στις συνοδευτικές οδηγίες χρήσης.

3.Τα συστήματα ΤΝ υψηλού κινδύνου είναι ανθεκτικά όσον αφορά σφάλματα, αστοχίες ή ασυνέπειες που ενδέχεται να προκύψουν εντός του συστήματος ή του περιβάλλοντος στο οποίο λειτουργεί το σύστημα, ειδικότερα λόγω της αλληλεπίδρασής τους με φυσικά πρόσωπα ή άλλα συστήματα.

Η στιβαρότητα των συστημάτων ΤΝ υψηλού κινδύνου μπορεί να επιτευχθεί μέσω λύσεων τεχνικής εφεδρείας, οι οποίες μπορεί να περιλαμβάνουν εφεδρικά σχέδια ή σχέδια ασφαλή από αστοχίες.

Τα συστήματα ΤΝ υψηλού κινδύνου που συνεχίζουν να μαθαίνουν και μετά τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία αναπτύσσονται κατά τρόπο ώστε να διασφαλίζεται ότι τα ενδεχομένως μεροληπτικά στοιχεία εξόδου λόγω της χρήσης στοιχείων εξόδου ως στοιχείων εισόδου για μελλοντικές εργασίες («βρόχοι ανάδρασης») αντιμετωπίζονται δεόντως με κατάλληλα μέτρα μετριασμού.

4.Τα συστήματα ΤΝ υψηλού κινδύνου είναι ανθεκτικά στις απόπειρες μη εξουσιοδοτημένων τρίτων να αλλοιώσουν τη χρήση ή τις επιδόσεις τους εκμεταλλευόμενοι τα τρωτά σημεία του συστήματος.

Οι τεχνικές λύσεις που αποσκοπούν στη διασφάλιση της κυβερνοασφάλειας των συστημάτων ΤΝ υψηλού κινδύνου είναι κατάλληλες για τις σχετικές περιστάσεις και τους κινδύνους.

Οι τεχνικές λύσεις για την αντιμετώπιση συγκεκριμένων τρωτών σημείων των συστημάτων ΤΝ περιλαμβάνουν, κατά περίπτωση, μέτρα για την πρόληψη και τον έλεγχο επιθέσεων που επιχειρούν να χειραγωγήσουν το σύνολο δεδομένων εκπαίδευσης («μόλυνση δεδομένων»), στοιχεία εισόδου που έχουν σχεδιαστεί έτσι ώστε να ωθούν το μοντέλο να διαπράξει σφάλμα («αντιπαραθετικά παραδείγματα») ή ελαττώματα του μοντέλου.

Κεφάλαιο 3

ΥΠΟΧΡΕΩΣΕΙΣ ΤΩΝ ΠΑΡΟΧΩΝ ΚΑΙ ΧΡΗΣΤΩΝ ΣΥΣΤΗΜΑΤΩΝ ΤΝ ΥΨΗΛΟΥ ΚΙΝΔΥΝΟΥ και άλλων μερών

Άρθρο 16 
Υποχρεώσεις των παρόχων συστημάτων ΤΝ υψηλού κινδύνου 

Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου:

α)διασφαλίζουν ότι τα οικεία συστήματα ΤΝ υψηλού κινδύνου συμμορφώνονται με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου·

β)διαθέτουν σύστημα διαχείρισης ποιότητας το οποίο συμμορφώνεται με το άρθρο 17·

γ)καταρτίζουν τον τεχνικό φάκελο του συστήματος ΤΝ υψηλού κινδύνου·

δ)τηρούν τα αρχεία καταγραφής που δημιουργούνται αυτόματα από τα οικεία συστήματα ΤΝ υψηλού κινδύνου, όταν τα εν λόγω αρχεία βρίσκονται υπό τον έλεγχό τους·

ε)διασφαλίζουν ότι το σύστημα ΤΝ υψηλού κινδύνου υποβάλλεται στη σχετική διαδικασία αξιολόγησης της συμμόρφωσης, πριν από τη διάθεσή του στην αγορά ή τη θέση του σε λειτουργία·

στ)τηρούν τις υποχρεώσεις καταχώρισης που αναφέρονται στο άρθρο 51·

ζ)λαμβάνουν τα αναγκαία διορθωτικά μέτρα, εάν το σύστημα ΤΝ υψηλού κινδύνου δεν συμμορφώνεται με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου·

η)ενημερώνουν τις αρμόδιες εθνικές αρχές των κρατών μελών στην αγορά των οποίων έχουν διαθέσει το σύστημα ΤΝ ή το έχουν θέσει σε λειτουργία και, κατά περίπτωση, τον κοινοποιημένο οργανισμό σχετικά με τη μη συμμόρφωση και με τυχόν διορθωτικά μέτρα που έχουν λάβει·

θ)τοποθετούν τη σήμανση CE στα οικεία συστήματα ΤΝ υψηλού κινδύνου για να υποδεικνύουν τη συμμόρφωση με τον παρόντα κανονισμό σύμφωνα με το άρθρο 49·

ι)κατόπιν αιτήματος αρμόδιας εθνικής αρχής, αποδεικνύουν τη συμμόρφωση του συστήματος ΤΝ υψηλού κινδύνου με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου.

Άρθρο 17 
Σύστημα διαχείρισης ποιότητας 

1.Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου εφαρμόζουν σύστημα διαχείρισης ποιότητας το οποίο διασφαλίζει τη συμμόρφωση με τον παρόντα κανονισμό. Το εν λόγω σύστημα τεκμηριώνεται με συστηματικό και τακτικό τρόπο υπό τη μορφή γραπτών πολιτικών, διαδικασιών και οδηγιών, και περιλαμβάνει τουλάχιστον τις ακόλουθες πτυχές:

α)στρατηγική για την κανονιστική συμμόρφωση, που περιλαμβάνει τη συμμόρφωση με τις διαδικασίες αξιολόγησης της συμμόρφωσης και τις διαδικασίες για τη διαχείριση των αλλαγών στο σύστημα ΤΝ υψηλού κινδύνου·

β)τεχνικές, διαδικασίες και συστηματικές ενέργειες που πρέπει να χρησιμοποιούνται για τον σχεδιασμό, τον έλεγχο του σχεδιασμού και την επαλήθευση του σχεδιασμού του συστήματος ΤΝ υψηλού κινδύνου·

γ)τεχνικές, διαδικασίες και συστηματικές ενέργειες που πρέπει να χρησιμοποιούνται για την ανάπτυξη, τον έλεγχο ποιότητας και τη διασφάλιση της ποιότητας του συστήματος ΤΝ υψηλού κινδύνου·

δ)διαδικασίες εξέτασης, δοκιμής και επικύρωσης που πρέπει να διενεργούνται πριν, κατά τη διάρκεια και μετά την ανάπτυξη του συστήματος ΤΝ υψηλού κινδύνου, καθώς και τη συχνότητα με την οποία πρέπει να διενεργούνται·

ε)τεχνικές προδιαγραφές, συμπεριλαμβανομένων των προτύπων, που πρέπει να εφαρμόζονται και, όταν τα σχετικά εναρμονισμένα πρότυπα δεν εφαρμόζονται πλήρως, τα μέσα που πρέπει να χρησιμοποιούνται για να διασφαλίζεται ότι το σύστημα ΤΝ υψηλού κινδύνου συμμορφώνεται με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου·

στ)συστήματα και διαδικασίες για τη διαχείριση δεδομένων, συμπεριλαμβανομένης της συλλογής δεδομένων, της ανάλυσης δεδομένων, της επισήμανσης δεδομένων, της αποθήκευσης δεδομένων, του φιλτραρίσματος δεδομένων, της εξόρυξης δεδομένων, της ομαδοποίησης δεδομένων, της διατήρησης δεδομένων και κάθε άλλης ενέργειας σχετικά με τα δεδομένα η οποία εκτελείται πριν και για τους σκοπούς της διάθεσης των συστημάτων ΤΝ υψηλού κινδύνου στην αγορά ή της θέσης τους σε λειτουργία·

ζ)το σύστημα διαχείρισης κινδύνου που αναφέρεται στο άρθρο 9·

η)την εκπόνηση, εφαρμογή και συντήρηση συστήματος παρακολούθησης μετά τη διάθεση στην αγορά σύμφωνα με το άρθρο 61·

θ)διαδικασίες σχετικά με την αναφορά σοβαρών περιστατικών και δυσλειτουργιών σύμφωνα με το άρθρο 62·

ι)τον χειρισμό της επικοινωνίας με τις εθνικές αρμόδιες αρχές, συμπεριλαμβανομένων των τομεακών αρχών, για την παροχή ή υποστήριξη της πρόσβασης σε δεδομένα, κοινοποιημένους οργανισμούς, άλλους φορείς εκμετάλλευσης, πελάτες ή άλλα ενδιαφερόμενα μέρη·

ια)συστήματα και διαδικασίες για την τήρηση αρχείων όλων των σχετικών εγγράφων και πληροφοριών·

ιβ)διαχείριση των πόρων, συμπεριλαμβανομένων μέτρων σχετικών με την ασφάλεια του εφοδιασμού·

ιγ)πλαίσιο λογοδοσίας που καθορίζει τις αρμοδιότητες της διοίκησης και του λοιπού προσωπικού όσον αφορά όλες τις πτυχές που απαριθμούνται στην παρούσα παράγραφο.

2.Η εφαρμογή των πτυχών που αναφέρονται στην παράγραφο 1 είναι ανάλογη προς το μέγεθος του οργανισμού του παρόχου. 

3.Για τους παρόχους που είναι πιστωτικά ιδρύματα τα οποία ρυθμίζονται από την οδηγία 2013/36/ΕΕ, η υποχρέωση εφαρμογής συστήματος διαχείρισης ποιότητας θεωρείται ότι εκπληρώνεται με τη συμμόρφωση με τους κανόνες σχετικά με τις ρυθμίσεις, τις διαδικασίες και τους μηχανισμούς εσωτερικής διακυβέρνησης σύμφωνα με το άρθρο 74 της εν λόγω οδηγίας. Στο πλαίσιο αυτό, λαμβάνονται υπόψη τυχόν εναρμονισμένα πρότυπα που αναφέρονται στο άρθρο 40 του παρόντος κανονισμού.

Άρθρο 18 
Υποχρέωση κατάρτισης τεχνικού φακέλου

1.Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου καταρτίζουν τον τεχνικό φάκελο που αναφέρεται στο άρθρο 11 σύμφωνα με το παράρτημα IV.

2.Οι πάροχοι που είναι πιστωτικά ιδρύματα τα οποία ρυθμίζονται από την οδηγία 2013/36/ΕΕ διατηρούν τον τεχνικό φάκελο στο πλαίσιο της τεκμηρίωσης που αφορά τις ρυθμίσεις, τις διαδικασίες και τους μηχανισμούς εσωτερικής διακυβέρνησης σύμφωνα με το άρθρο 74 της εν λόγω οδηγίας.

Άρθρο 19 
Αξιολόγηση της συμμόρφωσης 

1.Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου διασφαλίζουν ότι τα συστήματά τους υποβάλλονται στη σχετική διαδικασία αξιολόγησης της συμμόρφωσης σύμφωνα με το άρθρο 43, πριν από τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία. Όταν, κατόπιν της εν λόγω αξιολόγησης της συμμόρφωσης, αποδεικνύεται η συμμόρφωση των συστημάτων ΤΝ με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου, οι πάροχοι καταρτίζουν δήλωση συμμόρφωσης ΕΕ σύμφωνα με το άρθρο 48 και τοποθετούν τη σήμανση συμμόρφωσης CE σύμφωνα με το άρθρο 49. 

2.Για τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα ΙΙΙ σημείο 5 στοιχείο β) και τα οποία διατίθενται στην αγορά ή τίθενται σε λειτουργία από παρόχους που είναι πιστωτικά ιδρύματα τα οποία ρυθμίζονται από την οδηγία 2013/36/ΕΕ, η αξιολόγηση της συμμόρφωσης διενεργείται στο πλαίσιο της διαδικασίας που αναφέρεται στα άρθρα 97 έως 101 της εν λόγω οδηγίας.

Άρθρο  
Αυτόματη δημιουργία αρχείων καταγραφής

1.Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου τηρούν τα αρχεία καταγραφής που δημιουργούνται αυτόματα από τα συστήματα ΤΝ υψηλού κινδύνου, στον βαθμό που τα εν λόγω αρχεία καταγραφής βρίσκονται υπό τον έλεγχό τους δυνάμει συμβατικής ρύθμισης με τον χρήστη ή άλλως βάσει νόμου. Τα αρχεία καταγραφής τηρούνται για χρονικό διάστημα που είναι κατάλληλο υπό το πρίσμα του επιδιωκόμενου σκοπού του συστήματος ΤΝ υψηλού κινδύνου και των εφαρμοστέων νομικών υποχρεώσεων βάσει του ενωσιακού ή του εθνικού δικαίου.

2.Οι πάροχοι που είναι πιστωτικά ιδρύματα τα οποία ρυθμίζονται από την οδηγία 2013/36/ΕΕ διατηρούν τα αρχεία καταγραφής που δημιουργούνται αυτόματα από τα οικεία συστήματα ΤΝ υψηλού κινδύνου στο πλαίσιο της τεκμηρίωσης δυνάμει του άρθρου 74 της εν λόγω οδηγίας.

Άρθρο 21 
Διορθωτικά μέτρα

Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου που θεωρούν ή έχουν λόγους να θεωρούν ότι ένα σύστημα ΤΝ υψηλού κινδύνου που έχουν διαθέσει στην αγορά ή έχουν θέσει σε λειτουργία δεν συμμορφώνεται με τον παρόντα κανονισμό λαμβάνουν αμέσως τα αναγκαία διορθωτικά μέτρα για τη συμμόρφωση, την απόσυρση ή την ανάκλησή του, κατά περίπτωση. Ενημερώνουν τους διανομείς του εν λόγω συστήματος ΤΝ υψηλού κινδύνου και, κατά περίπτωση, τον εξουσιοδοτημένο αντιπρόσωπο και τους εισαγωγείς αναλόγως.

Άρθρο 22 
Υποχρέωση ενημέρωσης

Όταν το σύστημα ΤΝ υψηλού κινδύνου παρουσιάζει κίνδυνο κατά την έννοια του άρθρου 65 παράγραφος 1 και ο εν λόγω κίνδυνος είναι γνωστός στον πάροχο του συστήματος, ο εν λόγω πάροχος ενημερώνει αμέσως τις αρμόδιες εθνικές αρχές των κρατών μελών στα οποία κατέστησε διαθέσιμο το σύστημα και, κατά περίπτωση, τον κοινοποιημένο οργανισμό που εξέδωσε πιστοποιητικό για το σύστημα ΤΝ υψηλού κινδύνου, κυρίως για τη μη συμμόρφωση και για τα τυχόν διορθωτικά μέτρα που έχει λάβει. 

Άρθρο 23 
Συνεργασία με τις αρμόδιες αρχές

Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου, κατόπιν αιτήματος εθνικής αρμόδιας αρχής, παρέχουν στην εν λόγω αρχή όλες τις πληροφορίες και την τεκμηρίωση που απαιτούνται για να αποδειχθεί η συμμόρφωση του συστήματος ΤΝ υψηλού κινδύνου με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου, σε επίσημη γλώσσα της Ένωσης που καθορίζεται από το οικείο κράτος μέλος. Κατόπιν αιτιολογημένου αιτήματος εθνικής αρμόδιας αρχής, οι πάροχοι παρέχουν επίσης στην εν λόγω αρχή πρόσβαση στα αρχεία καταγραφής που δημιουργούνται αυτόματα από το σύστημα ΤΝ υψηλού κινδύνου, στον βαθμό που τα εν λόγω αρχεία καταγραφής βρίσκονται υπό τον έλεγχό τους δυνάμει συμβατικής ρύθμισης με τον χρήστη ή άλλως βάσει νόμου.

Άρθρο 24 
Υποχρεώσεις των κατασκευαστών προϊόντων 

Όταν ένα σύστημα ΤΝ υψηλού κινδύνου που σχετίζεται με προϊόντα στα οποία εφαρμόζονται οι νομικές πράξεις που παρατίθενται στο παράρτημα ΙΙ τμήμα Α, διατίθεται στην αγορά ή τίθεται σε λειτουργία μαζί με το προϊόν που κατασκευάζεται σύμφωνα με τις εν λόγω νομικές πράξεις και με την επωνυμία του κατασκευαστή του προϊόντος, ο κατασκευαστής του προϊόντος αναλαμβάνει την ευθύνη για τη συμμόρφωση του συστήματος ΤΝ με τον παρόντα κανονισμό και, όσον αφορά το σύστημα ΤΝ, έχει τις ίδιες υποχρεώσεις που επιβάλλει ο παρών κανονισμός στον πάροχο. 

Άρθρο 25 
Εξουσιοδοτημένοι αντιπρόσωποι

1.Πριν από τη διάθεση των συστημάτων τους στην αγορά της Ένωσης, όταν δεν μπορεί να προσδιοριστεί εισαγωγέας, οι πάροχοι που είναι εγκατεστημένοι εκτός της Ένωσης διορίζουν με γραπτή εντολή εξουσιοδοτημένο αντιπρόσωπο εγκατεστημένο στην Ένωση.

2.Ο εξουσιοδοτημένος αντιπρόσωπος ασκεί τα καθήκοντα που προσδιορίζονται στην εντολή την οποία λαμβάνει από τον πάροχο. Η εντολή δίνει στον εξουσιοδοτημένο αντιπρόσωπο τη δυνατότητα να προβαίνει στις εξής ενέργειες:

α)να διατηρεί αντίγραφο της δήλωσης συμμόρφωσης ΕΕ και του τεχνικού φακέλου στη διάθεση των αρμόδιων εθνικών αρχών και των εθνικών αρχών που αναφέρονται στο άρθρο 63 παράγραφος 7·

β)να παρέχει στην αρμόδια εθνική αρχή, κατόπιν αιτιολογημένου αιτήματος, όλες τις πληροφορίες και την τεκμηρίωση που απαιτούνται για να αποδειχθεί η συμμόρφωση ενός συστήματος ΤΝ υψηλού κινδύνου με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου, συμπεριλαμβανομένης της πρόσβασης στα αρχεία καταγραφής που δημιουργούνται αυτόματα από το σύστημα ΤΝ υψηλού κινδύνου, στον βαθμό που τα εν λόγω αρχεία καταγραφής βρίσκονται υπό τον έλεγχο του παρόχου δυνάμει συμβατικής ρύθμισης με τον χρήστη ή άλλως βάσει νόμου·

γ)να συνεργάζεται με τις αρμόδιες εθνικές αρχές, κατόπιν αιτιολογημένου αιτήματος, για τυχόν ενέργειες στις οποίες προβαίνουν οι εν λόγω αρχές σε σχέση με το σύστημα ΤΝ υψηλού κινδύνου.

Άρθρο 26 
Υποχρεώσεις των εισαγωγέων

1.Πριν από τη διάθεση συστήματος ΤΝ υψηλού κινδύνου στην αγορά, οι εισαγωγείς του εν λόγω συστήματος εξασφαλίζουν ότι:

α)ο πάροχος του εν λόγω συστήματος ΤΝ έχει διενεργήσει την κατάλληλη διαδικασία αξιολόγησης της συμμόρφωσης· 

β)ο πάροχος έχει καταρτίσει τον τεχνικό φάκελο σύμφωνα με το παράρτημα IV· 

γ)το σύστημα φέρει την απαιτούμενη σήμανση συμμόρφωσης και συνοδεύεται από την απαιτούμενη τεκμηρίωση και οδηγίες χρήσης. 

2.Όταν ο εισαγωγέας θεωρεί ή έχει λόγους να θεωρεί ότι ένα σύστημα ΤΝ υψηλού κινδύνου δεν συμμορφώνεται με τον παρόντα κανονισμό, τότε δεν διαθέτει το εν λόγω σύστημα στην αγορά έως ότου επιτευχθεί η συμμόρφωση του εν λόγω συστήματος ΤΝ. Όταν το σύστημα ΤΝ υψηλού κινδύνου παρουσιάζει κίνδυνο κατά την έννοια του άρθρου 65 παράγραφος 1, ο εισαγωγέας ενημερώνει σχετικά τον πάροχο του συστήματος ΤΝ και τις αρχές εποπτείας της αγοράς.

3.Οι εισαγωγείς σημειώνουν το όνομα, την καταχωρισμένη εμπορική επωνυμία τους ή το καταχωρισμένο εμπορικό σήμα τους και τη διεύθυνσή τους στο σύστημα ΤΝ υψηλού κινδύνου ή, όταν δεν είναι δυνατόν, στη συσκευασία του ή στην τεκμηρίωση που το συνοδεύει, κατά περίπτωση.

4.Οι εισαγωγείς διασφαλίζουν ότι, ενόσω το σύστημα ΤΝ υψηλού κινδύνου βρίσκεται υπό την ευθύνη τους, κατά περίπτωση, οι συνθήκες αποθήκευσης ή μεταφοράς δεν θέτουν σε κίνδυνο τη συμμόρφωσή του με τις απαιτήσεις που καθορίζονται στο κεφάλαιο 2 του παρόντος τίτλου.

5.Οι εισαγωγείς παρέχουν στις αρμόδιες εθνικές αρχές, κατόπιν αιτιολογημένου αιτήματος, όλες τις πληροφορίες και την τεκμηρίωση που απαιτούνται για να αποδειχθεί η συμμόρφωση ενός συστήματος ΤΝ υψηλού κινδύνου με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου, σε γλώσσα που μπορεί να γίνει εύκολα κατανοητή από την αρμόδια εθνική αρχή, συμπεριλαμβανομένης της πρόσβασης στα αρχεία καταγραφής που δημιουργούνται αυτόματα από το σύστημα ΤΝ υψηλού κινδύνου, στον βαθμό που τα εν λόγω αρχεία καταγραφής βρίσκονται υπό τον έλεγχο του παρόχου δυνάμει συμβατικής ρύθμισης με τον χρήστη ή άλλως βάσει νόμου. Επίσης, συνεργάζονται με τις εν λόγω αρχές για οποιαδήποτε ενέργεια στην οποία προβαίνει η αρμόδια εθνική αρχή σε σχέση με το εν λόγω σύστημα.

Άρθρο 27 
Υποχρεώσεις των διανομέων

1.Πριν από τη διάθεση συστήματος ΤΝ υψηλού κινδύνου στην αγορά, οι διανομείς επαληθεύουν ότι το σύστημα ΤΝ υψηλού κινδύνου φέρει την απαιτούμενη σήμανση συμμόρφωσης CE, ότι συνοδεύεται από την απαιτούμενη τεκμηρίωση και οδηγίες χρήσης και ότι ο πάροχος και ο εισαγωγέας του συστήματος, κατά περίπτωση, έχουν συμμορφωθεί με τις υποχρεώσεις που ορίζονται στον παρόντα κανονισμό.

2.Όταν ο διανομέας θεωρεί ή έχει λόγους να θεωρεί ότι ένα σύστημα ΤΝ υψηλού κινδύνου δεν συμμορφώνεται με τις απαιτήσεις που προβλέπονται στο κεφάλαιο 2 του παρόντος τίτλου, τότε μπορεί να καθιστά διαθέσιμο το σύστημα ΤΝ υψηλού κινδύνου στην αγορά μόνο αφού το εν λόγω σύστημα συμμορφωθεί με αυτές τις απαιτήσεις. Επιπλέον, όταν το σύστημα παρουσιάζει κίνδυνο κατά την έννοια του άρθρου 65 παράγραφος 1, ο διανομέας ενημερώνει σχετικά τον πάροχο ή τον εισαγωγέα του συστήματος, κατά περίπτωση.

3.Οι διανομείς διασφαλίζουν ότι, ενόσω το σύστημα ΤΝ υψηλού κινδύνου βρίσκεται υπό την ευθύνη τους, κατά περίπτωση, οι συνθήκες αποθήκευσης ή μεταφοράς δεν θέτουν σε κίνδυνο τη συμμόρφωση του συστήματος με τις απαιτήσεις που καθορίζονται στο κεφάλαιο 2 του παρόντος τίτλου.

4.Ο διανομέας που θεωρεί ή έχει λόγους να θεωρεί ότι ένα σύστημα ΤΝ υψηλού κινδύνου το οποίο έχει διαθέσει στην αγορά δεν συμμορφώνεται με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου, λαμβάνει τα διορθωτικά μέτρα που απαιτούνται για τη συμμόρφωση του εν λόγω συστήματος με τις εν λόγω απαιτήσεις, την απόσυρση ή την ανάκλησή του, ή διασφαλίζει ότι ο πάροχος, ο εισαγωγέας ή οποιοσδήποτε σχετικός φορέας, κατά περίπτωση, λαμβάνει τα εν λόγω διορθωτικά μέτρα. Όταν το σύστημα ΤΝ υψηλού κινδύνου παρουσιάζει κίνδυνο κατά την έννοια του άρθρου 65 παράγραφος 1, ο διανομέας ενημερώνει αμέσως σχετικά με το θέμα αυτό τις αρμόδιες εθνικές αρχές των κρατών μελών στα οποία έχει καταστήσει διαθέσιμο το προϊόν και παραθέτει λεπτομέρειες ιδίως για τη μη συμμόρφωση και τα διορθωτικά μέτρα που έλαβε.

5.Κατόπιν αιτιολογημένου αιτήματος αρμόδιας εθνικής αρχής, οι διανομείς συστημάτων ΤΝ υψηλού κινδύνου παρέχουν στην εν λόγω αρχή όλες τις πληροφορίες και την τεκμηρίωση που απαιτούνται για να αποδειχθεί η συμμόρφωση συστήματος υψηλού κινδύνου με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου. Οι διανομείς συνεργάζονται επίσης με την εν λόγω αρμόδια εθνική αρχή για κάθε μέτρο που λαμβάνει η εν λόγω αρχή. 

Άρθρο 28 
Υποχρεώσεις των διανομέων, των εισαγωγέων, των χρηστών ή λοιπών τρίτων 

1.Οποιοσδήποτε διανομέας, εισαγωγέας, χρήστης ή άλλος τρίτος θεωρείται πάροχος για τους σκοπούς του παρόντος κανονισμού και υπόκειται στις υποχρεώσεις που ισχύουν για τον πάροχο δυνάμει του άρθρου 16, στις ακόλουθες περιστάσεις:

α)διαθέτουν στην αγορά ή θέτουν σε λειτουργία σύστημα ΤΝ υψηλού κινδύνου υπό την επωνυμία ή το εμπορικό τους σήμα·

β)τροποποιούν τον επιδιωκόμενο σκοπό συστήματος ΤΝ υψηλού κινδύνου που έχει ήδη διατεθεί στην αγορά ή έχει τεθεί σε λειτουργία·

γ)πραγματοποιούν ουσιαστική τροποποίηση στο σύστημα ΤΝ υψηλού κινδύνου.

2.Όταν συντρέχουν οι περιστάσεις που αναφέρονται στην παράγραφο 1 στοιχείο β) ή γ), ο πάροχος που αρχικά διέθεσε το σύστημα ΤΝ υψηλού κινδύνου στην αγορά ή το έθεσε σε λειτουργία δεν θεωρείται πλέον πάροχος για τους σκοπούς του παρόντος κανονισμού.

Άρθρο 29 
Υποχρεώσεις των χρηστών συστημάτων ΤΝ υψηλού κινδύνου

1.Οι χρήστες συστημάτων ΤΝ υψηλού κινδύνου χρησιμοποιούν τα συστήματα αυτά σύμφωνα με τις οδηγίες χρήσης που συνοδεύουν τα συστήματα, σύμφωνα με τις παραγράφους 2 και 5. 

2.Οι υποχρεώσεις της παραγράφου 1 ισχύουν με την επιφύλαξη άλλων υποχρεώσεων των χρηστών βάσει του ενωσιακού ή του εθνικού δικαίου και της διακριτικής ευχέρειας του χρήστη κατά την οργάνωση των πόρων του και των δραστηριοτήτων για τον σκοπό της εφαρμογής των μέτρων ανθρώπινης εποπτείας που υποδεικνύει ο πάροχος.

3.Με την επιφύλαξη της παραγράφου 1, στον βαθμό που ο χρήστης ασκεί έλεγχο επί των δεδομένων εισόδου, ο εν λόγω χρήστης διασφαλίζει ότι τα δεδομένα εισόδου είναι συναφή με τον επιδιωκόμενο σκοπό του συστήματος ΤΝ υψηλού κινδύνου. 

4.Οι χρήστες παρακολουθούν τη λειτουργία του συστήματος ΤΝ υψηλού κινδύνου με βάση τις οδηγίες χρήσης. Όταν έχουν λόγους να θεωρούν ότι η χρήση σύμφωνα με τις οδηγίες χρήσης μπορεί να έχει ως αποτέλεσμα το σύστημα ΤΝ να παρουσιάσει κίνδυνο κατά την έννοια του άρθρου 65 παράγραφος 1, τότε ενημερώνουν τον πάροχο ή τον διανομέα και αναστέλλουν τη χρήση του συστήματος. Ενημερώνουν επίσης τον πάροχο ή τον διανομέα όταν εντοπίσουν σοβαρό περιστατικό ή δυσλειτουργία κατά την έννοια του άρθρου 62 και διακόπτουν τη χρήση του συστήματος ΤΝ. Σε περίπτωση που ο χρήστης δεν είναι σε θέση να επικοινωνήσει με τον πάροχο, εφαρμόζεται το άρθρο 62, τηρουμένων των αναλογιών. 

Για τους χρήστες που είναι πιστωτικά ιδρύματα τα οποία ρυθμίζονται από την οδηγία 2013/36/ΕΕ, η υποχρέωση παρακολούθησης που ορίζεται στο πρώτο εδάφιο θεωρείται ότι εκπληρώνεται με τη συμμόρφωση με τους κανόνες σχετικά με τις ρυθμίσεις, τις διαδικασίες και τους μηχανισμούς εσωτερικής διακυβέρνησης σύμφωνα με το άρθρο 74 της εν λόγω οδηγίας.

5.Οι χρήστες συστημάτων ΤΝ υψηλού κινδύνου τηρούν τα αρχεία καταγραφής που δημιουργούνται αυτόματα από το εν λόγω σύστημα ΤΝ υψηλού κινδύνου, στον βαθμό που τα εν λόγω αρχεία καταγραφής βρίσκονται υπό τον έλεγχό τους. Τα αρχεία καταγραφής τηρούνται για χρονικό διάστημα που είναι κατάλληλο υπό το πρίσμα του επιδιωκόμενου σκοπού του συστήματος ΤΝ υψηλού κινδύνου και των εφαρμοστέων νομικών υποχρεώσεων βάσει του ενωσιακού ή του εθνικού δικαίου.

Οι χρήστες που είναι πιστωτικά ιδρύματα τα οποία ρυθμίζονται από την οδηγία 2013/36/ΕΕ διατηρούν τα αρχεία καταγραφής στο πλαίσιο της τεκμηρίωσης που αφορά τις ρυθμίσεις, τις διαδικασίες και τους μηχανισμούς εσωτερικής διακυβέρνησης σύμφωνα με το άρθρο 74 της εν λόγω οδηγίας.

6.Οι χρήστες συστημάτων ΤΝ υψηλού κινδύνου χρησιμοποιούν τις πληροφορίες που παρέχονται βάσει του άρθρου 13 για να συμμορφωθούν με την υποχρέωσή τους να διενεργούν εκτίμηση αντικτύπου σχετικά με την προστασία των δεδομένων, δυνάμει του άρθρου 35 του κανονισμού (ΕΕ) 2016/679 ή του άρθρου 27 της οδηγίας (ΕΕ) 2016/680, κατά περίπτωση.

Κεφάλαιο 4

ΚΟΙΝΟΠΟΙΟΥΣΕΣ ΑΡΧΕΣ ΚΑΙ ΚΟΙΝΟΠΟΙΗΜΕΝΟΙ ΟΡΓΑΝΙΣΜΟΙ

Άρθρο 30 
Κοινοποιούσες αρχές

1.Κάθε κράτος μέλος ορίζει ή συστήνει κοινοποιούσα αρχή, υπεύθυνη για τον καθορισμό και τη διεξαγωγή των αναγκαίων διαδικασιών αξιολόγησης, ορισμού και κοινοποίησης των οργανισμών αξιολόγησης της συμμόρφωσης, καθώς και για την παρακολούθησή τους. 

2.Τα κράτη μέλη μπορούν να ορίσουν εθνικό οργανισμό διαπίστευσης που αναφέρεται στον κανονισμό (ΕΚ) αριθ. 765/2008 ως κοινοποιούσα αρχή.

3.Οι κοινοποιούσες αρχές συστήνονται, οργανώνονται και λειτουργούν κατά τρόπο ώστε να μην προκύπτει σύγκρουση συμφερόντων με τους οργανισμούς αξιολόγησης της συμμόρφωσης και να διασφαλίζονται η αντικειμενικότητα και η αμεροληψία των δραστηριοτήτων τους.

4.Οι κοινοποιούσες αρχές οργανώνονται κατά τρόπο ώστε οι αποφάσεις που αφορούν την κοινοποίηση των οργανισμών αξιολόγησης της συμμόρφωσης να λαμβάνονται από τα αρμόδια πρόσωπα που είναι άλλα από τα πρόσωπα που διεξήγαγαν την αξιολόγηση των εν λόγω οργανισμών.

5.Οι κοινοποιούσες αρχές δεν προσφέρουν ούτε προβλέπουν δραστηριότητες που εκτελούνται από τους οργανισμούς αξιολόγησης της συμμόρφωσης ούτε παρέχουν συμβουλευτικές υπηρεσίες σε εμπορική ή ανταγωνιστική βάση.

6.Οι κοινοποιούσες αρχές διασφαλίζουν την εμπιστευτικότητα των πληροφοριών που λαμβάνουν.

7.Οι κοινοποιούσες αρχές διαθέτουν επαρκή αριθμό αρμόδιου προσωπικού για τη σωστή εκτέλεση των καθηκόντων τους.

8.Οι κοινοποιούσες αρχές διασφαλίζουν ότι οι αξιολογήσεις συμμόρφωσης διενεργούνται με αναλογικό τρόπο και ότι αποφεύγονται περιττές επιβαρύνσεις για τους παρόχους, καθώς και ότι οι κοινοποιημένοι οργανισμοί εκτελούν τις δραστηριότητές τους λαμβάνοντας υπόψη το μέγεθος μιας επιχείρησης, τον τομέα στον οποίο δραστηριοποιείται, τη δομή της και τον βαθμό πολυπλοκότητας του εν λόγω συστήματος ΤΝ.

Άρθρο 31 
Αίτηση από οργανισμό αξιολόγησης της συμμόρφωσης για κοινοποίηση 

1.Οι οργανισμοί αξιολόγησης της συμμόρφωσης υποβάλλουν αίτηση κοινοποίησης στην κοινοποιούσα αρχή του κράτους μέλους στο οποίο είναι εγκατεστημένοι.

2.Η αίτηση κοινοποίησης συνοδεύεται από περιγραφή των δραστηριοτήτων αξιολόγησης της συμμόρφωσης, της ενότητας ή των ενοτήτων αξιολόγησης της συμμόρφωσης και των τεχνολογιών τεχνητής νοημοσύνης για τις οποίες ο οργανισμός αξιολόγησης της συμμόρφωσης ισχυρίζεται ότι διαθέτει επάρκεια, καθώς και από πιστοποιητικό διαπίστευσης, όταν αυτό υπάρχει, το οποίο εκδόθηκε από εθνικό οργανισμό διαπίστευσης και με το οποίο πιστοποιείται ότι ο οργανισμός αξιολόγησης της συμμόρφωσης πληροί τις απαιτήσεις του άρθρου 33. Προστίθεται κάθε έγκυρο έγγραφο που σχετίζεται με υφιστάμενους ορισμούς του αιτούντος κοινοποιημένου οργανισμού βάσει οποιασδήποτε άλλης ενωσιακής νομοθεσίας εναρμόνισης.