Νέες προηγμένες τεχνολογίες που θα μπορούσαν να αλλάξουν τα δεδομένα στο ελληνικό δημόσιο και να ανοίξουν νέους δρόμους «διασύνδεσης» με το ψηφιακό αύριο φέρνει το νομοσχέδιο του υπουργείου Ψηφιακής Διακυβέρνησης «Αναδυόμενες τεχνολογίες πληροφορικής και επικοινωνιών, ενίσχυση της ψηφιακής διακυβέρνησης και άλλες διατάξεις», το οποίο υπερψηφίστηκε χθες με ευρεία πλειοψηφία επί του συνόλου, επί της αρχής και επί των περισσότερων άρθρων του.
Μεταξύ των βασικών αναδυόμενων τεχνολογιών που ενεργοποιεί, βρίσκεται και μάλιστα σε δεσπόζουσα θέση και η Τεχνητή Νοημοσύνη. Η χρήση της δε προβλέπεται να οριοθετηθεί και να προγραμματιστεί με τρόπο τέτοιο ώστε η Ελλάδα να αποκτήσει την δυνατότητα να την αξιοποιήσει άμεσα, αποτελεσματικά και προς το συμφέρον των πολιτών.
Ειδικότερα προβλέπεται ότι οι φορείς του δημόσιου τομέα δύνανται, κατά την άσκηση των αρμοδιοτήτων τους, να χρησιμοποιούν συστήματα τεχνητής νοημοσύνης για τη διαδικασία λήψης ή την υποστήριξη της διαδικασίας λήψης μιας απόφασης ή την έκδοση πράξης. Κατά χρήση τους ωστόσο θα πρέπει να περιλαμβάνονται οι κατάλληλες εγγυήσεις για την προστασία των δεδομένων προσωπικού χαρακτήρα και της ιδιωτικής ζωής, όπως αυτά απορρέουν από το ενωσιακό και το εθνικό δίκαιο, η οποία θα διασφαλίζεται μέσα από συγκεκριμένα πρότυπα χρήσης, μέσα από ειδικές επιτροπές και μέσα από την ενίσχυση της λογοδοσίας και της διαφάνειας χρήσης των εν λόγω συστημάτων.
Για την ακρίβεια οι φορείς του δημόσιου τομέα μπορούν να χρησιμοποιούν συστήματα τεχνητής νοημοσύνης για τη διαδικασία λήψης αποφάσεων οι οποίες επηρεάζουν τα δικαιώματα ενός φυσικού ή νομικού προσώπου, μόνον εφόσον η χρήση αυτή προβλέπεται ρητά σε ειδική διάταξη νόμου που περιλαμβάνει κατάλληλες εγγυήσεις για την προστασία των δικαιωμάτων αυτών.
Από το πεδίο εφαρμογής του παρόντος ωστόσο εξαιρούνται τα Υπουργεία Εθνικής Άμυνας και Προστασίας του Πολίτη, οι εποπτευόμενοι φορείς αυτών, καθώς και η Εθνική Υπηρεσία Πληροφοριών (Ε.Υ.Π.)
Αλγοριθμική Εκτίμηση Αντικτύπου
Στα βασικά μέτρα που λαμβάνονται για την ορθή χρήση της ΤΝ, προβλέπεται πριν την χρήση της από κάποιο δημόσιο φορέα να εκπονείται αλγοριθμική εκτίμηση αντικτύπου.
Κατά την εκπόνηση της αλγοριθμικής εκτίμησης αντικτύπου θα πρέπει να λαμβάνονται υπόψη ο επιδιωκόμενος σκοπός, συμπεριλαμβανομένου του δημόσιου συμφέροντος που εξυπηρετείται με τη χρήση του συστήματος, οι δυνατότητες, τα τεχνικά χαρακτηριστικά και οι παράμετροι λειτουργίας του συστήματος, το είδος και οι κατηγορίες των αποφάσεων που λαμβάνονται ή των πράξεων που εκδίδονται με τη συμμετοχή του συστήματος, οι κατηγορίες δεδομένων που συλλέγονται, τυγχάνουν επεξεργασίας ή εισάγονται στο σύστημα ή παράγονται από αυτό αλλά και οι κίνδυνοι που ενδέχεται να προκύψουν για τα δικαιώματα, τις ελευθερίες και τα έννομα συμφέροντα των φυσικών ή νομικών προσώπων, στα οποία αφορά ή τα οποία επηρεάζει η λήψη της απόφασης.
Θα πρέπει δηλαδή να υπολογίζεται το προσδοκώμενο όφελος που απορρέει για το κοινωνικό σύνολο σε συνάρτηση με ενδεχόμενους κινδύνους και επιπτώσεις που δύναται να επιφέρει η χρήση του συστήματος, ιδίως για φυλετικές, εθνοτικές, κοινωνικές ή ηλικιακές ομάδες και κατηγορίες του πληθυσμού.
Υποχρεώσεις Διαφάνειας
Από την δυνητική χρήση της ΤΝ τόσο στον ιδιωτικό όσο και στον δημόσιο τομέα απορρέουν βάσει του νομοσχεδίου και διάφορες υποχρεώσεις διαφάνειας. Αυτό σημαίνει ότι κάθε φορέας του δημόσιου τομέα που χρησιμοποιεί σύστημα τεχνητής νοημοσύνης θα πρέπει να παρέχει, δημόσια, πληροφορίες σχετικά με:
- τον χρόνο έναρξης λειτουργίας του συστήματος,
- τις παραμέτρους λειτουργίας, τις δυνατότητες και τα τεχνικά χαρακτηριστικά του συστήματος,
- τις κατηγορίες των αποφάσεων που λαμβάνονται ή των πράξεων που εκδίδονται με τη συμμετοχή του συστήματος ή υποστηρίζονται από αυτό και
- τη διενέργεια αλγοριθμικής εκτίμησης αντικτύπου.
Επιπλέον θα πρέπει να διασφαλίζει ότι το φυσικό ή νομικό πρόσωπο στο οποίο αφορά η λήψη της απόφασης ή η έκδοση της πράξης λαμβάνει γνώση των παραμέτρων στις οποίες στηρίχθηκε η λήψη της απόφασης ή η έκδοση της πράξης σε κατανοητή και εύκολα προσβάσιμη μορφή, συμπεριλαμβανομένων των μορφών που διευκολύνουν την ενημέρωση των ατόμων με αναπηρία.
Μητρώο συστημάτων ΤΝ
Στο πλαίσιο αυτό προβλέπεται να δημιουργηθεί και ένα μητρώο συστημάτων τεχνητής νοημοσύνης των φορέων του δημόσιου τομέα, ώστε να καταγραφούν τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιεί κάθε Δημόσιος Φορέας. Το Μητρώο αυτό θα πρέπει να επικαιροποιείται μέχρι την 1η Μαρτίου κάθε έτους, και, σε κάθε περίπτωση, όταν τίθεται σε λειτουργία νέο σύστημα.
Στο μητρώο αυτό πέρα από την καταγραφή των συστημάτων θα περιλαμβάνονται πληροφορίες σχετικά με:
- τον επιδιωκόμενο σκοπό, συμπεριλαμβανομένου του δημόσιου συμφέροντος που εξυπηρετείται με τη χρήση του συστήματος,
- τον χρόνο έναρξης λειτουργίας του συστήματος,
- τις παραμέτρους λειτουργίας, τις δυνατότητες και τα τεχνικά χαρακτηριστικά του συστήματος,
- τις βασικές πληροφορίες του συστήματος, όπως η ονομασία, η έκδοση και η επωνυμία του κατασκευαστή,
- μέτρα που λαμβάνονται για την ασφαλή λειτουργία του,
- τη διενέργεια αλγοριθμικής εκτίμησης αντικτύπου και
- τη διενέργεια εκτίμησης αντικτύπου του άρθρου 35 του Γ.Κ.Π.Δ., εφόσον απαιτείται.
Προσλήψεις στον ιδιωτικό τομέα με συστήματα ΤΝ
Πέρα βέβαια από το Δημόσιο, η χρήση της ΤΝ ενεργοποιείται και για τον ιδιωτικό τομέα. Και σε αυτή την περίπτωση ωστόσο προβλέπονται συγκεκριμένοι παράμετροι για την χρήση της.
Συγκεκριμένα κάθε επιχείρηση του ιδιωτικού τομέα, που χρησιμοποιεί σύστημα τεχνητής νοημοσύνης, το οποίο επηρεάζει οποιαδήποτε διαδικασία λήψης αποφάσεων σχετικά με τους εργαζομένους ή τους υποψήφιους εργαζομένους και έχει αντίκτυπο στις συνθήκες εργασίας, την επιλογή, την πρόσληψη ή την αξιολόγησή τους, θα πρέπει πριν την πρώτη χρήση του να παρέχει επαρκή και σαφή πληροφόρηση προς τους εργαζόμενους.
Η πληροφόρηση αυτή θα πρέπει να περιλαμβάνει κατ’ ελάχιστον τις παραμέτρους στις οποίες στηρίχθηκε η λήψη της απόφασης, με την επιφύλαξη των περιπτώσεων που προϋποθέτουν προηγούμενη ενημέρωση και διαβούλευση.
Το παραπάνω ισχύει και για τις ψηφιακές πλατφόρμες ως προς τα φυσικά πρόσωπα που συνδέονται μαζί τους με συμβάσεις εξαρτημένης εργασίας ή ανεξάρτητων υπηρεσιών ή έργου.
Για κάθε επιχείρηση που παραβιάζει την εν λόγω υποχρέωση μάλιστα θα υπάρχουν διοικητικές και ποινικές κυρώσεις που θα επιβάλλονται από το Σώμα Επιθεώρησης Εργασίας (Σ.Ε.Π.Ε.).
Πολιτική δεοντολογικής χρήσης δεδομένων για τις επιχειρήσεις
Πέραν της ενημέρωσης για την χρήση των συστημάτων, η χρήση της ΤΝ διέπεται κι από μια πολιτική δεοντολογικής χρήση των δεδομένων.
Για την ακρίβεια κάθε επιχείρηση του ιδιωτικού τομέα, μεσαία ή μεγάλη θα πρέπει να τηρεί τηρεί, σε ηλεκτρονική μορφή, μητρώο των συστημάτων τεχνητής νοημοσύνης τα οποία χρησιμοποιεί είτε στο πλαίσιο κατάρτισης προφίλ καταναλωτών είτε στο πλαίσιο αξιολόγησης των πάσης φύσεως εργαζομένων της ή συνεργαζόμενων με αυτήν φυσικών προσώπων.
Στο μητρώο περιλαμβάνονται για κάθε σύστημα, κατ’ ελάχιστον, οι εξής πληροφορίες:
- η περιγραφή των παραμέτρων λειτουργίας, των δυνατοτήτων και των τεχνικών χαρακτηριστικών του συστήματος,
- ο αριθμός και η ιδιότητα των φυσικών προσώπων που αφορά ή ενδέχεται να αφορά,
- οι τεχνικές πληροφορίες που αφορούν στον προμηθευτή ή εξωτερικούς συνεργάτες που συμμετέχουν στην ανάπτυξη ή λειτουργία του συστήματος,
- η περίοδος λειτουργίας του συστήματος, και
- τα μέτρα που λαμβάνονται για την ασφαλή λειτουργία τους.
Επιπλέον κάθε επιχείρηση οφείλει να καταρτίζει και να τηρεί πολιτική δεοντολογικής χρήσης δεδομένων, η οποία περιλαμβάνει πληροφορίες σχετικά με τα μέτρα, τις ενέργειες και τις διαδικασίες που εφαρμόζει σε θέματα δεοντολογίας δεδομένων κατά τη χρήση συστημάτων τεχνητής νοημοσύνης.
Τέλος κάθε επιχείρηση με τη μορφή ανώνυμης εταιρείας, που συντάσσει δήλωση εταιρικής διακυβέρνησης σύμφωνα με το άρθρο 152 του ν. 4548/2018 (Α’ 104), θα πρέπει να συμπεριλαμβάνει υποχρεωτικά στη δήλωση πληροφορίες για την πολιτική δεοντολογικής χρήσης δεδομένων που εφαρμόζει.
Συντονιστική Επιτροπή και Επιτροπής Εποπτείας για την τεχνητή νοημοσύνη
Με στόχο την ομαλή υιοθέτηση της χρήσης της ΤΝ το νομοσχέδιο προβλέπει και την δημιουργία Συντονιστικής Επιτροπής για την ΤΝ, η οποία θα έχει ως αποστολή τον συντονισμό της εφαρμογής της Εθνικής Στρατηγικής για την ανάπτυξη της Τεχνητής Νοημοσύνης.
Η Συντονιστική Επιτροπή αποτελείται από τον αρμόδιο Υπουργό για την ψηφιακή διακυβέρνηση ως Πρόεδρο, τον αρμόδιο Υπουργό για τη Γενική Γραμματεία Ιδιωτικών Επενδύσεων και Συμπράξεων Δημοσίου και Ιδιωτικού Τομέα (Σ.Δ.Ι.Τ.), τον αρμόδιο Υπουργό για τη Γενική Γραμματεία Έρευνας και Καινοτομίας, τον Γενικό Γραμματέα Τηλεπικοινωνιών και Ταχυδρομείων, τον Γενικό Γραμματέα Ψηφιακής Διακυβέρνησης και Απλούστευσης Διαδικασιών, τον Γενικό Γραμματέα Δικαιοσύνης και Ανθρωπίνων Δικαιωμάτων, τον Γενικό Γραμματέα Δημόσιας Υγείας, τον Γενικό Γραμματέα Οικονομικής Πολιτικής, τον Γενικό Γραμματέα Επαγγελματικής Εκπαίδευσης, Κατάρτισης, Δια Βίου Μάθησης και Νεολαίας και έως έξι (6) μέλη με ιδιότητα ιδιώτη - εμπειρογνώμονα ή εκπροσώπου ανεξάρτητης αρχής ή στελέχους άλλου φορέα του δημόσιου τομέα, κατόπιν υπόδειξης από τον οικείο φορέα.
Η Συντονιστική Επιτροπή συνεδριάζει, ύστερα από πρόσκληση του Προέδρου, τακτικά μία (1) φορά το τρίμηνο και εκτάκτως όταν το κρίνει αναγκαίο ο Πρόεδρος και στις συνεδριάσεις της δύναται να παρευρίσκεται, κατόπιν πρόσκλησης του Προέδρου, και οποιοδήποτε άλλο πρόσωπο εγνωσμένου κύρους, το οποίο δραστηριοποιείται στο πεδίο της τεχνητής νοημοσύνης.
Τα μέλη της, τα οποία έχουν τριετή θητεία, θα λαμβάνουν αποφάσεις που αφορούν στην εφαρμογή και τη συνεχή βελτίωση της Εθνικής Στρατηγικής για την ανάπτυξη της τεχνητής νοημοσύνης, τη διαμόρφωση εθνικών προτεραιοτήτων και κατευθύνσεων για τη βέλτιστη εφαρμογή της Εθνικής Στρατηγικής για την ανάπτυξη της ΤΝ. Παράλληλα η Επιτροπή θα είναι αρμόδια για τον σχεδιασμό και την προώθηση προτάσεων πολιτικών και δράσεων ενώ θα μπορεί να υποβάλλει και εισηγήσεις προς τους φορείς του δημόσιου τομέα για τη λήψη διορθωτικών μέτρων, εφόσον διαπιστώνονται αποκλίσεις αναφορικά με την εφαρμογή της Εθνικής Στρατηγικής για την ανάπτυξη της τεχνητής νοημοσύνης ή επιπτώσεις στα θεμελιώδη δικαιώματα των φυσικών προσώπων.
Στο πλαίσιο άσκησης των αρμοδιοτήτων της, η Συντονιστική Επιτροπή έχει πρόσβαση σε στατιστικά στοιχεία και βασικούς δείκτες απόδοσης σχετικά με την εφαρμογή της Εθνικής Στρατηγικής για την ανάπτυξη της τεχνητής νοημοσύνης, τα οποία παρέχονται από κάθε φορέα του δημόσιου ή του ιδιωτικού τομέα που δραστηριοποιείται στο πεδίο της τεχνητής νοημοσύνης.
Πέρα από την Συντονιστική Επιτροπή προβλέπεται και η σύσταση Επιτροπής Εποπτείας της Εθνικής Στρατηγικής για την ανάπτυξη της τεχνητής νοημοσύνης. Η επιτροπή αυτή, η οποία συστήνεται στο Υπουργείο Ψηφιακής Διακυβέρνησης θα είναι επταμελής, θα απαρτίζεται από στελέχη του ΥΨΔ και θα αποτελεί το εκτελεστικό όργανο της Συντονιστικής Επιτροπής για την τεχνητή νοημοσύνη. Με λίγα λόγια θα είναι αρμόδια για την αποτύπωση της πορείας υλοποίησης της Εθνικής Στρατηγικής για την ανάπτυξη της τεχνητής νοημοσύνης και τη γνωστοποίηση στη Συντονιστική Επιτροπή παρεκκλίσεων κατά την υλοποίηση μέτρων και πολιτικών, για τη μέριμνα για την εφαρμογή των αποφάσεων της Συντονιστικής Επιτροπής και τον συντονισμό των δραστηριοτήτων των φορέων που εμπλέκονται στην Εθνική Στρατηγική για την ανάπτυξη της τεχνητής νοημοσύνης, με βάση τις κατευθύνσεις της Συντονιστικής Επιτροπής.
Παρατηρητήριο Τεχνητής Νοημοσύνης
Για την πιο πλήρη ανάπτυξη της ΤΝ προβλέπεται να συσταθεί στο Υπουργείο Ψηφιακής Διακυβέρνησης και Παρατηρητήριο Τεχνητής Νοημοσύνης, το οποίο θα υπάγεται στη Γενική Γραμματεία Ψηφιακής Διακυβέρνησης και Απλούστευσης Διαδικασιών.
Κύρια αποστολή του Παρατηρητηρίου θα είναι η συλλογή δεδομένων σχετικά με την εφαρμογή της Εθνικής Στρατηγικής για την ανάπτυξη της τεχνητής νοημοσύνης, η σύνταξη αναφορών σχετικά με τις δραστηριότητες που αφορούν στην τεχνητή νοημοσύνη στη χώρα καθώς και η υποστήριξη των αρμόδιων φορέων στον καθορισμό προτεραιοτήτων και την ανάδειξη ευκαιριών και τομέων προστιθέμενης αξίας.
Το Παρατηρητήριο θα καταρτίζει και θα επικαιροποιεί βασικούς δείκτες απόδοσης (Key Performance Indicators – KPI) και παρέχει πληροφορίες σχετικά με:
- τις δραστηριότητες που αφορούν στην τεχνητή νοημοσύνη στην Ελλάδα,
- τους φορείς του δημόσιου ή του ιδιωτικού τομέα που δραστηριοποιούνται στο πεδίο της τεχνητής νοημοσύνης στην Ελλάδα,
- τις διαθέσιμες εκπαιδευτικές δραστηριότητες σχετικά με την τεχνητή νοημοσύνη που λαμβάνουν χώρα στην Ελλάδα σε όλα τα επίπεδα εκπαίδευσης, συμπεριλαμβανομένων των προγραμμάτων κατάρτισης για στελέχη του δημόσιου τομέα, σε συνεργασία με το Εθνικό Κέντρο Δημόσιας Διοίκησης και Αυτοδιοίκησης (Ε.Κ.Δ.Δ.Α.) του Υπουργείου Εσωτερικών,
- επιτυχημένα παραδείγματα και βέλτιστες πρακτικές αξιοποίησης τεχνητής νοημοσύνης στον ιδιωτικό και τον δημόσιο τομέα και
- τις επιπτώσεις των δραστηριοτήτων τεχνητής νοημοσύνης στα θεμελιώδη δικαιώματα των φυσικών προσώπων.
Τέλος θα αναρτά τις εκθέσεις του στον διαδικτυακό τόπο της Γενικής Γραμματείας Ψηφιακής Διακυβέρνησης και Απλούστευσης Διαδικασιών, τον Ιανουάριο και τον Ιούλιο κάθε έτους.
