Συστήματα Υψηλού Κινδύνου
Κανόνες ταξινόμησης για συστήματα ΤΝ υψηλού κινδύνου
Συστήματα ΤΝ υψηλού κινδύνου: Το Άρθρο 6 περιγράφει τα κριτήρια για την ταξινόμηση των συστημάτων Τεχνητής Νοημοσύνης ως υψηλού κινδύνου. Τα συστήματα αυτά υπόκεινται σε αυστηρότερους κανονισμούς λόγω των πιθανών επιπτώσεών τους στην ασφάλεια και τα θεμελιώδη δικαιώματα.
Κριτήρια Ταξινόμησης
1. Αναφορά στο Παράρτημα Ι: Ανεξαρτήτως του αν ένα σύστημα ΤΝ διατίθεται στην αγορά ή τίθεται σε λειτουργία ανεξάρτητα από τα προϊόντα που αναφέρονται στα στοιχεία α) και β), το συγκεκριμένο σύστημα ΤΝ θεωρείται υψηλού κινδύνου όταν πληρούνται αμφότερες οι ακόλουθες προϋποθέσεις:
Προϋπόθεση α)
Το σύστημα ΤΝ προορίζεται να χρησιμοποιηθεί ως κατασκευαστικό στοιχείο ασφάλειας ενός προϊόντος ή το σύστημα ΤΝ είναι το ίδιο προϊόν που καλύπτεται από την ενωσιακή νομοθεσία εναρμόνισης που παρατίθεται στο παράρτημα Ι.
Προϋπόθεση β)
το προϊόν του οποίου κατασκευαστικό στοιχείο ασφάλειας σύμφωνα με το στοιχείο α) είναι το σύστημα ΤΝ ή το ίδιο το σύστημα ΤΝ ως προϊόν απαιτείται να υποβληθεί σε αξιολόγηση της συμμόρφωσης από τρίτο μέρος με σκοπό τη διάθεση του εν λόγω προϊόντος στην αγορά ή τη θέση του σε λειτουργία, δυνάμει της ενωσιακής νομοθεσίας εναρμόνισης που παρατίθεται στο παράρτημα I.
2. Αναφορά στο Παράρτημα ΙΙΙ: Τα συστήματα τεχνητής νοημοσύνης που αναφέρονται στο Παράρτημα III θεωρούνται αυτόματα υψηλού κινδύνου. Περιλαμβάνει συστήματα που χρησιμοποιούνται σε τομείς όπως:
Βιομετρικά στοιχεία, συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης, βιομετρική κατηγοριοποίηση, αναγνώριση συναισθημάτων.
Υποδομές ζωτικής σημασίας
Εκπαίδευση και επαγγελματική κατάρτιση
Απασχόληση, διαχείριση εργαζομένων και πρόσβαση στην αυτοαπασχόληση
Πρόσβαση και απόλαυση βασικών ιδιωτικών υπηρεσιών και βασικών δημόσιων υπηρεσιών και παροχών
Επιβολή του νόμου
Διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων
Απονομή δικαιοσύνης και δημοκρατικές διαδικασίες
Εξαιρέσεις
Ένα σύστημα Τεχνητής Νοημοσύνης που αναφέρεται στο Παράρτημα III δεν θεωρείται υψηλού κινδύνου εάν δεν ενέχει σημαντικό κίνδυνο για:
Υγεία
Ασφάλεια
Θεμελιώδη Δικαιώματα
AI systems that perform profiling of naturea persons are always considered high-risk, regardless of the above exemptions 
Απαιτήσεις για συστήματα ΤΝ υψηλού κινδύνου (Άρθρα 8-15)
Άρθρο 8: Συμμόρφωση με τις Απαιτήσεις
Ενσωμάτωση των απαιτούμενων δοκιμών, τεκμηρίωσης και διαδικασιών για την απλοποίηση της συμμόρφωσης τόσο με τον κανονισμό για την Τεχνητή Νοημοσύνη όσο και με τη σχετική νομοθεσία εναρμόνισης της Ένωσης (Παράρτημα Ι) και την αποφυγή επικαλύψεων.
Άρθρο 9: Σύστημα διαχείρισης κινδύνου
Σκοπός: Μετριασμός των κινδύνων που σχετίζονται με συστήματα Τεχνητής Νοημοσύνης υψηλού κινδύνου
Βασικά Σημεία:
- Εφαρμογή ενός ολοκληρωμένου συστήματος διαχείρισης κινδύνων.
- Συνεχής εντοπισμός, ανάλυση και μετριασμός των κινδύνων καθ' όλη τη διάρκεια του κύκλου ζωής του συστήματος Τεχνητής Νοημοσύνης
Άρθρο 10: Δεδομένα και διακυβέρνηση δεδομένων
Σκοπός: Διασφάλιση της ποιότητας και της διακυβέρνησης των δεδομένων.
Βασικά σημεία:
- Τα δεδομένα πρέπει να είναι σχετικά, αντιπροσωπευτικά και υψηλής ποιότητας.
- Εφαρμογή ισχυρών μέτρων διακυβέρνησης για τα δεδομένα που χρησιμοποιούνται στην εκπαίδευση, την επικύρωση και τις δοκιμές
Άρθρο 11: Τεχνικός φάκελος
Σκοπός: Παροχή σαφούς τεκμηρίωσης για την αξιολόγηση της συμμόρφωσης.
Βασικά Σημεία:
- Διατήρηση ενημερωμένης τεχνικής τεκμηρίωσης.
- Η τεκμηρίωση θα πρέπει να είναι πλήρης για αξιολόγηση από τις αρχές
Άρθρο 12: Τήρηση Αρχείων
Σκοπός: Διασφάλιση της ιχνηλασιμότητας και της λογοδοσίας.
Βασικά Σημεία:
- Τηρήση αρχείων καταγραφής που δημιουργούνται αυτόματα από το σύστημα Τεχνητής Νοημοσύνης.
- Τα αρχεία καταγραφής θα πρέπει να υποστηρίζουν την ιχνηλασιμότητα και τη λογοδοσία
Άρθρο 13: Διαφάνεια και πληροφόρηση των φορέων εφαρμογής
Σκοπός: Διασφάλιση της κατανόησης και της ασφαλούς λειτουργίας από τους χρήστες.
Βασικά Σημεία:
- Παροχή σαφών οδηγιών χρήσης, συμπεριλαμβανομένων των δυνατοτήτων και των περιορισμών του συστήματος.
- Διασφάλιση ότι οι χρήστες κατανοούν τον τρόπο ασφαλούς λειτουργίας του συστήματος Τεχνητής Νοημοσύνης
Άρθρο 14: Ανθρώπινη Εποπτεία
Σκοπός: Δυνατότητα ανθρώπινου ελέγχου επί των συστημάτων Τεχνητής Νοημοσύνης.
Βασικά Σημεία:
- Εφαρμογή μέτρων για ανθρώπινη εποπτεία.
- Δυνατότητα παρέμβασης και ελέγχου επί του συστήματος Τεχνητής Νοημοσύνης
Άρθρο 15: Ακρίβεια, στιβαρότητα και κυβερνοασφάλεια
Σκοπός: Διασφάλιση της αξιοπιστίας και της ασφάλειας του συστήματος.
Βασικά σημεία:
- Τα συστήματα Τεχνητής Νοημοσύνης πρέπει να είναι ακριβή, ανθεκτικά και ασφαλή έναντι χειραγώγησης ή παρεμβολών