Τι είναι η Τεχνητή Νοημοσύνη (ΤΝ);
Η πολυπλοκότητα του ζητήματος της φύσης αλλά και της λειτουργίας της ΤΝ και των συστημάτων της έχει οδηγήσει στη δημιουργία πολλών ορισμών για αυτή από ποικίλους οργανισμούς, ενώ ως σήμερα κανένας από αυτούς δεν μπορεί να θεωρηθεί πλήρης. Ο Κανονισμός 2024/1689 (AI ACT), το βασικότερο ίσως μέχρι σήμερα Νομοθετικό κείμενο που καθορίζει τη λειτουργία της ΤΝ στην Ε.Ε, θέτει ως βασικά στοιχεία για τη διάκριση ενός συστήματος ως ΤΝ, την αυτονομία και την προσαρμοστικότητα. Η ΤΝ λοιπόν δεν αποτελεί έναν αλγόριθμο ή ένα σύστημα αλγορίθμων το οποίο τροφοδοτείται από τον ανθρώπινο παράγοντα με δεδομένα, δίνοντας έτσι ένα αποτέλεσμα/ λύση στον επιδιωκόμενο σκοπό. Αντιθέτως, τα συστήματα ΤΝ έχουν τη δυνατότητα να λαμβάνουν δεδομένα, να εξελίσσονται χωρίς τον ανθρώπινο παράγοντα και να παράγουν αποτελέσματα προσαρμοσμένα στον εκάστοτε χρήστη τους και στις ανάγκες αυτού.
Πώς εμφανίζεται η Τεχνητή Νοημοσύνη στην Επιχειρηματική καθημερινότητα;
Η ραγδαία ανάπτυξη της ΤΝ γίνεται αντιληπτή και στην καθημερινότητα αφού τα συστήματα της πλέον εφαρμόζονται σε διάφορους τομείς. Από τις μηχανές αναζήτησης στο διαδίκτυο έως τους διάφορους τομείς κρατικών υποδομών τα συστήματα αυτά πλέον παίζουν ουσιαστικό ρόλο. Συστήματα ΤΝ έχουν αρχίζει να εφαρμόζονται σε τομείς όπως η Δημόσια και Ιδιωτική Υγεία, η Εκπαίδευση, ο Στρατός αλλά και σε ένα σύνολο παροχών του Ιδιωτικού τομέα, όπως το εμπόριο, η βιομηχανία και ο τουρισμός. Όπως αναλύθηκε ανωτέρω, η πολυπλοκότητα των συστημάτων Τεχνητής Νοημοσύνης σε συνδυασμό με τη ραγδαία ανάπτυξή της, εγκυμονούν σημαντικούς κινδύνους τόσο για τους τελικούς χρήστες των συστημάτων της, όσο και για τους φορείς που την παρέχουν, καθώς το νομοθετικό αλλά και γνωστικό πλαίσιο βρίσκεται σε πρώιμο στάδιο, ενώ η ανάγκη για την προστασία όλων των συναλλασσόμενων αποτελεί αδήριτη ανάγκη ώστε να απολαμβάνονται μόνο τα οφέλη και να περιοριστούν στο έπακρο οι κίνδυνοι.
Ποιο είναι το νομικό πλαίσιο για την ΤΝ και τι είναι ο AI Act;
Στο πρόσφατο παρελθόν η Διεθνής κοινότητα, η Ευρωπαϊκή αλλά και ο εθνικός νομοθέτης έχουν λάβει μέτρα ώστε να οριστεί ένα σαφές πλαίσιο χρήσης ΤΝ, με προβλέψεις για το σύνολο των φορέων που αποτελούν «μέρος» της. Βασικότερο νομοθέτημα που τυγχάνει άμεσης εφαρμογής και στη χώρα μας είναι ο Κανονισμός 2024/1689 (AI Act).
Ο AI Act αποτελεί το πρώτο ολοκληρωμένο ευρωπαϊκό νομοθέτημα που θέτει σαφείς κανόνες για την ρύθμιση της χρήσης της ΤΝ. Στόχος του κανονισμού είναι να θεσπίσει ένα ενιαίο νομικό πλαίσιο για την ανάπτυξη, διάθεση στην αγορά, θέση σε λειτουργία και χρήση συστημάτων ΤΝ εντός της Ε.Ε., εξασφαλίζοντας παράλληλα υψηλού επιπέδου προστασία της υγείας, της ασφάλειας και των θεμελιωδών δικαιωμάτων από τις επιβλαβείς επιπτώσεις των συστημάτων αυτών.
Η πρακτική σημασία του AI Act για τις επιχειρήσεις είναι ιδιαίτερα σημαντική, καθώς εισάγει συγκεκριμένες υποχρεώσεις συμμόρφωσης για όλους τους εμπλεκόμενους φορείς, ανεξαρτήτως μεγέθους ή κλάδου δραστηριότητας. Η άμεση εφαρμογή του κανονισμού στα κράτη μέλη της Ε.Ε. και η σταδιακή θέση σε ισχύ των επιμέρους διατάξεων αυτού, καθιστούν αναγκαία την έγκαιρη προσαρμογή των επιχειρήσεων στο νέο κανονιστικό πλαίσιο.
Ποιους αφορά ο AI Act;
Ο AI Act δεν αφορά αποκλειστικά εταιρείες που αναπτύσσουν συστήματα ΤΝ, αλλά ένα πολύ ευρύτερο φάσμα επιχειρήσεων καθώς. Ειδικότερα εφαρμόζεται όχι μόνο σε παρόχους, αλλά και σε επιχειρήσεις που χρησιμοποιούν συστήματα ΤΝ στο πλαίσιο της δραστηριότητάς τους, καθώς και σε εισαγωγείς και διανομείς τέτοιων συστημάτων.
Στην πράξη, αυτό σημαίνει ότι ακόμη και επιχειρήσεις που δεν αναπτύσσουν οι ίδιες ΤΝ, ενδέχεται να υπάγονται στο πεδίο εφαρμογής του AI Act. Η χρήση εργαλείων όπως συστήματα αυτοματοποιημένης λήψης αποφάσεων, εφαρμογές ανάλυσης δεδομένων, εργαλεία αξιολόγησης προσωπικού ή προσωποποιημένης διαφήμισης μπορεί να ενεργοποιεί συγκεκριμένες νομικές υποχρεώσεις.
Παράλληλα, ο AI Act έχει και εξωεδαφική εφαρμογή, καταλαμβάνοντας και επιχειρήσεις εκτός Ε.Ε. στις περιπτώσεις που αναπτύσσουν, διαθέτουν ή χρησιμοποιούν συστήματα ΤΝ που επηρεάζουν πρόσωπα εντός της Ε.Ε.
Κατά συνέπεια, η πλειονότητα των σύγχρονων επιχειρήσεων καλείται να εξετάσει εάν και σε ποιο βαθμό εμπίπτει στο νέο αυτό κανονιστικό πλαίσιο, γεγονός που καθιστά αναγκαία μια αρχική νομική αξιολόγηση της ανάπτυξης, διάθεσης ή χρήσης ΤΝ στα πλαίσια της δραστηριότητάς τους.
Τέλος, οι ιδιώτες χρήστες των συστημάτων ΤΝ, οφείλουν να είναι ενήμεροι για τα δικαιώματα τους, όπως αυτά προκύπτουν από τις διατάξεις του AI Act καθώς μπορεί να μην έχει θεσμοθετηθεί η ευθύνη των τελικών χρηστών των συστημάτων ΤΝ, ωστόσο η φύση των συστημάτων αυτών καθιστά απαραίτητη την πρόληψη κατά τη χρήση τους αλλά και τον έλεγχο τους για πιθανές παραβάσεις θεμελιωδών δικαιωμάτων .
Κατηγορίες κινδύνου: Πώς ταξινομούνται τα συστήματα ΤΝ;
Κεντρικός άξονας του AI Act είναι η κατηγοριοποίηση των συστημάτων ΤΝ βάσει του κινδύνου που ενέχουν. Η κατηγοριοποίηση αυτή δεν είναι θεωρητικού χαρακτήρα, αλλά καθορίζει άμεσα το εάν και σε ποιο βαθμό μια επιχείρηση υπόκειται σε συγκεκριμένες νομικές υποχρεώσεις.
Ειδικότερα, τα συστήματα ΤΝ διακρίνονται σε:
- Απαγορευμένες πρακτικές ΤΝ/ Συστήματα ΤΝ μη αποδεκτού κινδύνου: Απαγορεύονται πλήρως.
- Συστήματα ΤΝ υψηλού κινδύνου: Αυστηρό πλαίσιο συμμόρφωσης.
- Συστήματα περιορισμένου κινδύνου: Λιγότερες ρυθμιστικές απαιτήσεις
- Συστήματα ελάχιστου ή μηδενικού κινδύνου: Δεν υπόκεινται σε ειδικές ρυθμιστικές απαιτήσεις
Η κατηγοριοποίηση των συστημάτων και εφαρμογών ΤΝ κατά τα ανωτέρω είναι καθοριστική για τις επιχειρήσεις, καθώς από αυτήν εξαρτάται το είδος και η έκταση των υποχρεώσεων συμμόρφωσης που καλούνται να τηρήσουν. Ο ορθός προσδιορισμός της κατηγορίας στην οποία υπάγεται ένα σύστημα ΤΝ δεν είναι πάντοτε προφανής, ιδίως όταν πρόκειται για σύνθετες ή πολλαπλές χρήσεις, γεγονός που καθιστά αναγκαία την εξειδικευμένη νομική αξιολόγησή του.
Ποιες βασικές υποχρεώσεις συμμόρφωσης για τις επιχειρήσεις δημιουργεί ο AI Act;
Οι υποχρεώσεις που εισάγει ο AI Act διαφοροποιούνται ανάλογα με το επίπεδο κινδύνου του εκάστοτε συστήματος ΤΝ, με τις αυστηρότερες απαιτήσεις να αφορούν τα συστήματα ΤΝ υψηλού κινδύνου. Σε γενικές γραμμές, οι επιχειρήσεις καλούνται να αξιολογούν και να διαχειρίζονται τους κινδύνους που απορρέουν από τη χρήση της ΤΝ, να διασφαλίζουν την ορθή χρήση των δεδομένων και να υιοθετούν μέτρα που ενισχύουν τη διαφάνεια και τη λογοδοσία.
Παράλληλα, το κανονιστικό πλαίσιο εισάγει απαιτήσεις που σχετίζονται με την εποπτεία, την τεκμηρίωση και την ανάπτυξη εσωτερικών διαδικασιών συμμόρφωσης, το εύρος και η ένταση των οποίων εξαρτώνται από τη φύση και τη χρήση του εκάστοτε συστήματος ΤΝ.
Οι ανωτέρω υποχρεώσεις δεν λειτουργούν αποσπασματικά, αλλά συγκροτούν ένα συνολικό πλαίσιο κανονιστικής συμμόρφωσης, το οποίο απαιτεί συνεχή παρακολούθηση και προσαρμογή, λαμβάνοντας υπόψη τόσο την εξέλιξη των τεχνολογιών όσο και την σταδιακή εφαρμογή των διατάξεων του AI Act.
Ποιοι είναι οι κίνδυνοι από την μη συμμόρφωση;
Η μη συμμόρφωση με το κανονιστικό πλαίσιο του AI Act ενδέχεται να επιφέρει σημαντικές νομικές και επιχειρηματικές επιπτώσεις. Ειδικότερα, προβλέπεται η επιβολή αυστηρών διοικητικών κυρώσεων και υψηλών προστίμων, το ύψος των οποίων μπορεί να ανέλθει σε ιδιαίτερα σημαντικά ποσά ανάλογα με την βαρύτητα της παράβασης. Πέραν των κανονιστικών κυρώσεων, η μη συμμόρφωση μπορεί να εκθέσει την επιχείρηση και σε αστική ευθύνη έναντι τρίτων προσώπων σε περιπτώσεις πρόκλησης ζημίας από την χρήση ΤΝ.
Οι σχετικοί κίνδυνοι, όμως, δεν περιορίζονται σε νομικό επίπεδο, αλλά επεκτείνονται και στην λειτουργία και την φήμη της επιχείρησης, καθώς ενδεχόμενες παραβάσεις μπορεί να επηρεάσουν την αξιοπιστία της έναντι πελατών, συνεργατών και εποπτικών αρχών.
Ταυτόχρονα, δεδομένης της αλληλεπίδρασης του AI Act και με άλλα κανονιστικά πλαίσια, όπως ενδεικτικά η νομοθεσία περί προστασίας των προσωπικών δεδομένων, οι επιχειρήσεις ενδέχεται να βρεθούν αντιμέτωπες με συνδυασμό υποχρεώσεων και κυρώσεων.
Συμπέρασμα
Η ανάπτυξη της ΤΝ αποτελεί μια αναπόφευκτη πραγματικότητα στην οποία όλοι οι κοινωνικοί και οικονομικοί φορείς οφείλουν να προσαρμοστούν και να εκπαιδευτούν ώστε να αξιοποιήσουν τις δυνατότητες που προσφέρει με ασφάλεια και αποτελεσματικότητα. Στο νέο αυτό περιβάλλον, η κατανόηση και ορθή εφαρμογή του κανονιστικού πλαισίου, και ιδίως του AI Act, καθίσταται καθοριστικής σημασίας για την σύννομη και βιώσιμη λειτουργία των επιχειρήσεων.
Η εταιρία μας παρέχει ολοκληρωμένη νομική υποστήριξη και συμβουλή τόσο προς τους φορείς και παρόχους συστημάτων ΤΝ ώστε να αναπτύσσουν σύννομα τα συστήματά τους, όσο και ως προς τους χρήστες των συστημάτων ώστε να είναι πλήρως ενημερωμένοι και προστατευμένοι κατά τη χρήση της.
Λέξεις κλειδιά: Τεχνητή Νοημοσύνη (ΤΝ), AI Act, Συμμόρφωση με AI Act, Συστήματα Τεχνητής Νοημοσύνης (ΤΝ), Ταξινόμηση Συστημάτων ΤΝ, Συστήματα ΤΝ Υψηλού Κινδύνου