Μη αποδεκτός κίνδυνος

Για παράδειγμα, τα συστήματα τεχνητής νοημοσύνης που επιτρέπουν την «κοινωνική βαθμολόγηση» από κυβερνήσεις ή εταιρείες θεωρούνται σαφής απειλή για τα θεμελιώδη δικαιώματα των ανθρώπων και, ως εκ τούτου, απαγορεύονται.

Υψηλός κίνδυνος

Τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου, όπως το ιατρικό λογισμικό που βασίζεται στην τεχνητή νοημοσύνη ή τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται για προσλήψεις, πρέπει να συμμορφώνονται με αυστηρές απαιτήσεις, συμπεριλαμβανομένων συστημάτων μετριασμού του κινδύνου, υψηλής ποιότητας συνόλων δεδομένων, σαφών πληροφοριών για τους χρήστες, ανθρώπινης εποπτείας κ.λπ.

Περιορισμένος κίνδυνος

Συστήματα όπως τα διαλογικά ρομπότ (chatbots) πρέπει να ενημερώνουν σαφώς τους χρήστες ότι αλληλοεπιδρούν με μηχανή, ενώ ορισμένα περιεχόμενα που παράγονται από τεχνητή νοημοσύνη πρέπει να επισημαίνονται ως τέτοια. 

Ελάχιστος κίνδυνος

Τα περισσότερα συστήματα τεχνητής νοημοσύνης, όπως τα φίλτρα ανεπιθύμητων μηνυμάτων και τα βιντεοπαιχνίδια που λειτουργούν με τεχνητή νοημοσύνη, δεν υπόκεινται σε καμία υποχρέωση βάσει της πράξης για την τεχνητή νοημοσύνη, αλλά οι εταιρείες μπορούν οικειοθελώς να υιοθετήσουν πρόσθετους κώδικες δεοντολογίας. 

Υποβολή παραπόνου

Μοντέλα Γενικού Σκοπού

Ο Κανονισμός για την Τεχνητή Νοημοσύνη της Ευρωπαϊκής Ένωσης (EU AI Act) εισάγει ένα ολοκληρωμένο πλαίσιο για τη ρύθμιση των τεχνολογιών τεχνητής νοημοσύνης, με ειδικές διατάξεις για τα συστήματα γενικής χρήσης τεχνητής νοημοσύνης. Τα συστήματα αυτά ορίζονται και ρυθμίζονται ώστε να διασφαλίζεται ότι είναι ασφαλή, διαφανή και συμμορφωμένα με την ισχύουσα νομοθεσία.

«Μοντέλο ΤΝ γενικού σκοπού»: μοντέλο ΤΝ, μεταξύ άλλων όταν ένα τέτοιο μοντέλο ΤΝ έχει εκπαιδευτεί με μεγάλο όγκο δεδομένων χρησιμοποιώντας αυτοεποπτεία σε κλίμακα, το οποίο παρουσιάζει σημαντική γενικότητα και είναι ικανό να εκτελεί αποτελεσματικά ευρύ φάσμα διακριτών καθηκόντων, ανεξάρτητα από τον τρόπο με τον οποίο το μοντέλο διατίθεται στην αγορά και μπορεί να ενσωματωθεί σε διάφορα κατάντη συστήματα ή εφαρμογές· αυτό δεν καλύπτει μοντέλα ΤΝ που χρησιμοποιούνται πριν από τη διάθεσή τους στην αγορά για δραστηριότητες έρευνας, ανάπτυξης και κατασκευής πρωτοτύπων·

Βασικές Απαιτήσεις και Υποχρεώσεις για όλα τα Μοντέλα TN Γενικού Σκοπού

Όλοι οι πάροχοι μοντέλων τεχνητής νοημοσύνης γενικού σκοπού πρέπει να τηρούν ορισμένες υποχρεώσεις, ώστε να διασφαλίζεται η υπεύθυνη ανάπτυξη και χρήση τους (Άρθρο 53):

1

Διατήρηση τεχνικής τεκμηρίωσης:

  • Ενημερωμένη τεχνική τεκμηρίωση σχετικά με την εκπαίδευση, τις δοκιμές και την αξιολόγηση του μοντέλου, που να περιλαμβάνει όλες τις πληροφορίες του Παραρτήματος XI.
  • Δυνατότητα παροχής της τεκμηρίωσης αυτής στο Γραφείο Τεχνητής Νοημοσύνης ή στις εθνικές αρχές κατόπιν αιτήματος.
2

Κοινοποίηση πληροφοριών σε προγραμματιστές συστημάτων τεχνητής νοημοσύνης:

Παροχή ενημερωμένης τεκμηρίωσης σε παρόχους που ενσωματώνουν το μοντέλο στα δικά τους συστήματα τεχνητής νοημοσύνης, με σεβασμό στα δικαιώματα πνευματικής ιδιοκτησίας και στα εμπορικά απόρρητα.

Η τεκμηρίωση πρέπει:

  • Να εξηγεί τις δυνατότητες και τους περιορισμούς του μοντέλου, ώστε οι ενσωματωτές να μπορούν να εκπληρώσουν τις νομικές τους υποχρεώσεις.
  • Να περιλαμβάνει τουλάχιστον τις λεπτομέρειες που ορίζονται στο Παράρτημα XII.
3

Συμμόρφωση με τη νομοθεσία περί πνευματικών δικαιωμάτων της ΕΕ:

  • Θέσπιση πολιτικής συμμόρφωσης με τα πνευματικά δικαιώματα.
  • Διασφάλιση της αναγνώρισης και του σεβασμού των επιφυλάξεων πνευματικών δικαιωμάτων (σύμφωνα με το Άρθρο 4(3) της Οδηγίας (ΕΕ) 2019/790).
  • Χρήση τεχνολογιών αιχμής για τη διασφάλιση αυτής της συμμόρφωσης.
4

Δημοσίευση περίληψης των δεδομένων εκπαίδευσης:

  • Δημόσια διάθεση μιας περίληψης που να περιγράφει το περιεχόμενο που χρησιμοποιήθηκε για την εκπαίδευση του μοντέλου.
  • Ακολουθείται πρότυπο που παρέχεται από το Γραφείο Τεχνητής Νοημοσύνης.

Εξαιρέσεις

Οι υποχρεώσεις τεκμηρίωσης (1)(α) και (β) δεν ισχύουν εάν:

  • Το μοντέλο διατίθεται με ελεύθερη και ανοικτή άδεια χρήσης (free and open-source license), που επιτρέπει την πρόσβαση, χρήση, τροποποίηση και αναδιανομή.
  • Οι παράμετροι, η αρχιτεκτονική και οι πληροφορίες χρήσης του μοντέλου είναι δημόσια διαθέσιμες.

Εξαίρεση: Η παραπάνω απαλλαγή δεν ισχύει εάν το μοντέλο ενέχει συστημικούς κινδύνους.

 icon High RiskΕάν ένα Σύστημα Τεχνητής Νοημοσύνης Υψηλού Κινδύνου (High Risk AI System) χρησιμοποιεί μοντέλο τεχνητής νοημοσύνης γενικού σκοπού, τότε ο πάροχος του συστήματος υποχρεούται να συμμορφώνεται με όλες τις υποχρεώσεις που ισχύουν για τα Συστήματα Υψηλού Κινδύνου.

Πότε ένα Μοντέλο Τεχνητής Νοημοσύνης Γενικού Σκοπού Θεωρείται ότι Ενέχει Συστημικό Κίνδυνο;

Πότε ένα Μοντέλο Τεχνητής Νοημοσύνης Γενικού Σκοπού Θεωρείται ότι Ενέχει Συστημικό Κίνδυνο;

Ένα μοντέλο τεχνητής νοημοσύνης γενικού σκοπού θεωρείται ότι ενέχει συστημικό κίνδυνο όταν έχει τη δυνατότητα να προκαλέσει σημαντικές αρνητικές επιπτώσεις στη δημόσια ασφάλεια, την προστασία, ή τα θεμελιώδη δικαιώματα, λόγω της κλίμακας ή των δυνατοτήτων του.

Η ταξινόμηση αυτή εφαρμόζεται όταν πληρούται οποιαδήποτε από τις ακόλουθες προϋποθέσεις:

  • Το μοντέλο παρουσιάζει δυνατότητες υψηλού αντικτύπου, όπως αξιολογούνται με τη χρήση κατάλληλων τεχνικών εργαλείων, δεικτών και σημείων αναφοράς,

ή

  • Η Ευρωπαϊκή Επιτροπή, είτε αυτεπάγγελτα είτε κατόπιν τεκμηριωμένης ειδοποίησης από την επιστημονική επιτροπή, καθορίζει ότι το μοντέλο διαθέτει ισοδύναμες δυνατότητες ή επιπτώσεις, βάσει των κριτηρίων που ορίζονται στο Παράρτημα XIII.

*Ένα μοντέλο τεκμαίρεται ότι διαθέτει δυνατότητες υψηλού αντικτύπου εάν ο συνολικός υπολογιστικός φόρτος που χρησιμοποιήθηκε για την εκπαίδευσή του υπερβαίνει τα 10²⁵ λειτουργίες κινητής υποδιαστολής (FLOPs).

Σημείωση: Η Ευρωπαϊκή Επιτροπή μπορεί να αναθεωρεί αυτά τα όρια, σημεία αναφοράς και δείκτες μέσω κατ’ εξουσιοδότηση πράξεων, ώστε να αντικατοπτρίζουν τις τεχνολογικές εξελίξεις, όπως βελτιώσεις σε αλγορίθμους ή στην αποδοτικότητα του υλικού (hardware).

Obligations for General-Purpose AI Models with Systemic Risk

Πέραν των υποχρεώσεων που αναφέρονται στο Άρθρο 53, οι πάροχοι μοντέλων τεχνητής νοημοσύνης γενικού σκοπού με συστημικό κίνδυνο οφείλουν να τηρούν τα εξής:

1

Αξιολόγηση του Μοντέλου:

Διενέργεια αξιολόγησης του μοντέλου σύμφωνα με τυποποιημένα πρωτόκολλα και εργαλεία που αντανακλούν την τεχνολογική πρόοδο.Συμπεριλαμβάνεται η αντιπαραθετική δοκιμή (adversarial testing) του μοντέλου, με σκοπό τον εντοπισμό και την αντιμετώπιση συστημικών κινδύνων, καθώς και η πλήρης τεκμηρίωση των αποτελεσμάτων.

2

Μετριασμός Συστημικών Κινδύνων:

Εκτίμηση και μετριασμός πιθανών συστημικών κινδύνων σε επίπεδο Ευρωπαϊκής Ένωσης, συμπεριλαμβανομένων των πηγών τους, που μπορεί να προκύπτουν από την ανάπτυξη, τη διάθεση στην αγορά ή τη χρήση των εν λόγω μοντέλων.

3

Τεκμηρίωση:

Καταγραφή, τεκμηρίωση και αναφορά, χωρίς αδικαιολόγητη καθυστέρηση, στο AI Office και, όπου απαιτείται, στις αρμόδιες εθνικές αρχές, όλων των σχετικών πληροφοριών για σοβαρά περιστατικά και των ενδεχόμενων διορθωτικών μέτρων για την αντιμετώπισή τους.

4

Κυβερνοασφάλεια:

Διασφάλιση επαρκούς επιπέδου προστασίας κυβερνοασφάλειας για το μοντέλο τεχνητής νοημοσύνης γενικού σκοπού με συστημικό κίνδυνο, καθώς και για την υλική υποδομή (infrastructure) που το υποστηρίζει.