Επισκόπηση
Το Rythmisis, το Εθνικό Ινστιτούτο Τεχνητής Νοημοσύνης, Προσωπικών Δεδομένων και Δικαίου Ψηφιακής Διακυβέρνησης, συμμετείχε στη διαβούλευση μέσω του Rythmisis Brussels (Αδάμ Πασχαλίδης, Θεοφάνης-Παρασκευάς Γραμμένος, Σωτηρία Κόρδα και Ναταλία Μπένου με την πολύτιμη συμβολή της Ελπίδας Λογγινίδου) και υπέβαλε τις παρατηρήσεις του στη Στοχευμένη Διαβούλευση της Ευρωπαϊκής Επιτροπής επί του Σχεδίου Κατευθυντήριων Γραμμών για την Ταξινόμηση Συστημάτων Τεχνητής Νοημοσύνης Υψηλού Κινδύνου. Οι Κατευθυντήριες Γραμμές (Guidelines) αποσκοπούν στην υποστήριξη παρόχων (providers), φορέων εφαρμογής (deployers) και αρμόδιων αρχών εποπτείας αγοράς κατά την αξιολόγηση του κατά πόσον ένα σύστημα τεχνητής νοημοσύνης θα πρέπει να ταξινομηθεί ως υψηλού κινδύνου. Οι κατευθυντήριες γραμμές περιελαμβάνουν (i) τις Γενικές Αρχές, (ii) την Ταξινόμηση βάσει Παραρτήματος Ι (ασφάλεια προϊόντων) και (iii) την Ταξινόμηση βάσει Παραρτήματος ΙΙΙ (θεμελιώδη δικαιώματα).
Ενότητα ΙΙ — Γενικές Αρχές
Στην Ενότητα αυτή, το Rythmisis ζήτησε πρόσθετη πρακτική καθοδήγηση, συμπεριλαμβανομένων δέντρων αποφάσεων (decision trees) ή ενδεικτικών παραδειγμάτων, προκειμένου να βοηθηθούν οι πάροχοι, ιδίως οι Μικρο-Μεσαίες Επιχειρήσεις (ΜΜΕ), να προσδιορίσουν εάν το λογισμικό τους εμπίπτει στον ορισμό του συστήματος τεχνητής νοημοσύνης πριν από την αξιολόγηση της ταξινόμησης υψηλού κινδύνου. Ζητήθηκε επίσης διευκρίνιση σχετικά με τα συστήματα τεχνητής νοημοσύνης πολλαπλών χρήσεων, και συγκεκριμένα κατά πόσον οι υποχρεώσεις υψηλού κινδύνου αφορούv ολόκληρο το σύστημα ή μόνο τη σχετική μονάδα σκοπούμενης χρήσης. Ευρύτερα, ζητήθηκαν πιο αντικειμενικά κριτήρια για βασικές έννοιες όπως ο «intended purpose», οι «reasonably foreseeable uses» και η «overall presentation», υποστηριζόμενα από μη εξαντλητικό κατάλογο σχετικών παραγόντων, για τη διευκόλυνση της αξιολόγησης συστημάτων με πολλαπλές λειτουργίες.
Ενότητα ΙΙΙ — Ταξινόμηση βάσει Παραρτήματος Ι
Στην Ενότητα αυτή, το Rythmisis ζήτησε ρητή επιβεβαίωση ότι το Άρθρο 6(1) εφαρμόζεται μόνο όταν πληρούνται σωρευτικά όλες οι προϋποθέσεις, προκειμένου να αποφευχθεί η υπερβολική ταξινόμηση προϊόντων με ενσωματωμένη τεχνητή νοημοσύνη, ιδίως για ΜΜΕ που αντιμετωπίζουν δυσανάλογα βάρη συμμόρφωσης σε περιπτώσεις αβέβαιης συνάφειας με την ασφάλεια. Ζητήθηκαν πρόσθετα αναλυτικά παραδείγματα για βιομηχανικά πλαίσια ΜΜΕ, συμπεριλαμβανομένων αναλυτικών εργαλείων συντήρησης και λειτουργιών ενεργειακής απόδοσης που δεν επηρεάζουν τη σωματική ασφάλεια.
Ενότητα IV — Ταξινόμηση βάσει Παραρτήματος ΙΙΙ
Οριζόντια Ζητήματα: Το Rythmisis επεσήμανε ότι οι Κατευθυντήριες Γραμμές δεν προσδιορίζουν επαρκώς τον «σημαντικό κίνδυνο» ως κατώφλι (threshold) και ζήτησε μη εξαντλητικό κατάλογο δεικτών κινδύνου. Ζητήθηκε επίσης διευκρίνιση σχετικά με την εμφανή αντίφαση μεταξύ της μη συνάφειας της ανθρώπινης εμπλοκής για την ταξινόμηση βάσει Παραρτήματος ΙΙΙ και της δυνητικής συνάφειάς της για την αξιολόγηση του φίλτρου του Άρθρου 6(3). Ευρύτερα, προειδοποιήσαμε κατά της στενής διατύπωσης του σκοπού και ζητήσαμε το intended purpose να αξιολογείται βάσει τεχνικών δυνατοτήτων και ευλόγως προβλέψιμων χρήσεων, και όχι αποκλειστικά βάσει συμβατικών όρων. Ζητήθηκε περαιτέρω λειτουργική καθοδήγηση σχετικά με την «material influence» και την έννοια της «previously completed» ανθρώπινης δραστηριότητας δυνάμει του Άρθρου 6(3)(β).
Τομεακές Παρατηρήσεις: Σε έξι τομείς του Παραρτήματος ΙΙΙ, το Rythmisis ανέδειξε στοχευμένα ζητήματα: (i) στα βιομετρικά, σχετικά με την ολιστική ταξινόμηση πολυτροπικών συστημάτων και την απόκλιση μεταξύ των ορισμών βιομετρικών δεδομένων στο ΑΙ Act και στον GDPR, (ii) στις κρίσιμες υποδομές, σχετικά με το ανεπίλυτο δίλημμα συμμόρφωσης για παρόχους ΜΜΕ που δεν μπορούν να εξακριβώσουν το καθεστώς CER του φορέα εφαρμογής και τον αποκλεισμό της μη φυσικής βλάβης από τον ορισμό του στοιχείου ασφαλείας, (iii) στην εκπαίδευση, σχετικά με εταιρικά προγράμματα κατάρτισης, ενδεχόμενες εργασιακές συνέπειες της εκπαίδευσης και παρακαμπτόμενες συστάσεις μαθησιακής πορείας, (iv) στην απασχόληση, σχετικά με εργαλεία ανάλυσης λέξεων-κλειδιών, παρόχους πλατφορμών διπλού ρόλου και στόχευση βάσει συμφραζομένων ως υποκατάστατο προστατευόμενων χαρακτηριστικών, (v) στην επιβολή του νόμου, σχετικά με το όριο μεταξύ διοικητικής και επιχειρησιακής λειτουργίας και την ταξινόμηση αποτελεσμάτων ΤΝ που ενσωματώνονται αυτομάτως σε ερευνητικές ροές εργασίας, και (vi) στην απονομή δικαιοσύνης, σχετικά με τη σημασία του «sufficiently direct» λειτουργικού συνδέσμου με τη δικαστική κρίση.
Ερωτήματα Επανεξέτασης δυνάμει του Άρθρου 112(1) της Πράξης για την ΤΝ
Το Rythmisis έκρινε ότι καμία περίπτωση χρήσης δεν θα έπρεπε να αφαιρεθεί από το Παράρτημα ΙΙΙ, αλλά ζήτησε μεγαλύτερη ακρίβεια ως προς τον προσδοκώμενο σκοπό, την ουσιώδη επιρροή και την ανθρώπινη εποπτεία για την υποστήριξη συνεπούς ταξινόμησης μεταξύ κρατών μελών. Όσον αφορά το Άρθρο 5 AI Act, υποστηρίξαμε τη στοχευμένη διεύρυνση για συστήματα ΤΝ που συνάγουν προστατευόμενα χαρακτηριστικά από δεδομένα συμπεριφοράς ή βιομετρικά δεδομένα, καθώς και για συστήματα ΤΝ που στοχεύουν άτομα όταν ασκούν νόμιμα δικαιώματα, υπό τον όρο σαφών ορισμών για την αποφυγή δυσανάλογων βαρών συμμόρφωσης για τις ΜΜΕ.