Τεχνητή Νοημοσύνη: Πράσινο Ευρωπαϊκού Συμβουλίου για πρώτο πακέτο κανονισμών

Στις 21 Μαΐου 2024 το Ευρωπαϊκό Συμβούλιο  ενέκρινε το νομοσχέδιο που στοχεύει να εναρμονίσει τους κανονισμούς γύρω από την τεχνητή νοημοσύνη, με τον εν λόγω νόμο να χαρακτηρίζεται ως πρωτοποριακός από Ευρωπαίους αξιωματούχους. Η νομοθεσία αυτή ακολουθεί μια προσέγγιση με βάση την επικινδυνότητα, που σημαίνει ότι όσο μεγαλύτερος είναι ο κίνδυνος, τόσο πιο αυστηροί θα είναι οι αντίστοιχοι κανονισμοί. Συνολικά πρόκειται για το πρώτο στο είδος του νομοσχέδιο παγκοσμίως, και ως εκ τούτου μπορεί να θεωρηθεί ως πρότυπο για την θεσμική ρύθμιση της τεχνητής νοημοσύνης διεθνώς.

Το νομοσχέδιο αναμένεται να ισχύσει είκοσι ημέρες μετά την δημοσίευσή του στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης, η οποία αναμένεται τις επόμενες ημέρες, ενώ θα εφαρμόζεται μόνο στις περιοχές εντός της δικαιοδοσίας της Ευρωπαϊκής Ένωσης. Αξίζει να σημειωθεί ότι στο νομοσχέδιο περιλαμβάνονται εξαιρέσεις για συστήματα που χρησιμοποιούνται αποκλειστικά στον στρατιωτικό και αμυντικό τομέα, αλλά και στον τομέα της επιστημονικής έρευνας.

Διαφάνεια και θεμελιώδη δικαιώματα

Ειδικότερα, ο νέος κανονισμός στοχεύει στην ενίσχυση της ανάπτυξης και την υιοθέτηση ασφαλών και αξιόπιστων συστημάτων τεχνητής νοημοσύνης στην ευρωπαϊκή αγορά με την συμμετοχή τόσο του δημόσιου όσο και του ιδιωτικού τομέα. Παράλληλα, στοχεύεται και η διασφάλιση των θεμελιωδών ανθρωπινών δικαιωμάτων των πολιτών της ευρωπαϊκής ένωσης μέσω της υποχρέωσης καταγραφής σε μια ευρωπαϊκή βάση δεδομένων των συστημάτων υψηλού κινδύνου, ενώ οι μεμονωμένοι χρήστες συστημάτων συναισθηματικής αναγνώρισης βασισμένα στην τεχνητή νοημοσύνη θα είναι υποχρεωμένοι να ενημερώνουν τα φυσικά πρόσωπα όταν αυτά πρόκειται να εκτεθούν σε τέτοια συστήματα.

Χαρακτηρισμός των συστημάτων τεχνητής νοημοσύνης σε συστήματα υψηλού ρίσκου και απαγορευμένες πρακτικές

Σύμφωνα με το νομοσχέδιο, τα διάφορα συστήματα τεχνητής νοημοσύνης κατηγοριοποιούνται ως προς τον βαθμό δυνητικής επικινδυνότητας των εφαρμογών τους. Έτσι, συστήματα περιορισμένου κινδύνου θα υπόκεινται σε περιορισμένες υποχρεώσεις όσον άφορα την διαφάνεια, ενώ αντίθετα, τα συστήματα υψηλού κινδύνου θα μπορούν να λάβουν εξουσιοδότηση για την συμμετοχή τους στις ευρωπαϊκές αγορές μόνο εφόσον πληρούν το σύνολο των προβλεπόμενων απαιτήσεων και εκπληρώσουν τις αντίστοιχες υποχρεώσεις που απορρέουν από τον νέο νόμο. Χαρακτηριστικά παραδείγματα εφαρμογών τεχνητής νοημοσύνης που θα απαγορεύονται ρητά στην Ευρώπη είναι αυτά που σχετίζονται με τον χειρισμό της συμπεριφοράς και της κοινωνικής αξιολόγησης, καθώς και εφαρμογές που επιχειρούν να προβλέψουν πιθανές παραβατικές συμπεριφορές.

Μοντέλα γενικής χρήσης

Τα μοντέλα τεχνητής νοημοσύνης γενικής χρήσης που δεν αποτελούν συστημικό κίνδυνο θα υπόκεινται σε περιορισμένους κανονισμούς, κυρίως όσον αφορά το θέμα της διαφάνειας, ωστόσο αν παραστεί ανάγκη, η αυστηρότητα των περιορισμών θα αυξάνεται ανάλογα.

Εφαρμογή του κανονισμού και διοίκηση

Για την διασφάλιση της εφαρμογής των νέων κανονισμών, συστήνονται διάφορα νέα διοικητικά σώματα όπως το Γραφείο Τεχνητής Νοημοσύνης εντός της Ευρωπαϊκή Επιτροπή για την εφαρμογή των κοινών κανόνων, η επιστημονική επιτροπή ανεξάρτητων ειδικών που θα υποστηρίζει την εφαρμογή σε τεχνικό επίπεδο, το Συμβούλιο Τεχνητής Νοημοσύνης όπου θα συμμετέχουν εκπρόσωποι των κρατών μελών για την αποτελεσματικότερη εφαρμογή του νομοσχεδίου, και ένα συμβουλευτικό φόρουμ συμβαλλομένων για την παροχή τεχνικής υποστήριξης.

Πρόστιμα

Τα πρόστιμα για την παράβαση των κανόνων του νομοσχεδίου υπολογίζονται επί του ποσοστού ετήσιου τζίρου της παραβατικής εταιρίας ή σε ένα προκαθορισμένο ποσό, και κυρώνεται το υψηλότερο.

Ενίσχυση της καινοτομίας

Το νομοσχέδιο παρέχει ένα νομικό πλαίσιο φιλικό προς τις επενδύσεις και την καινοτομία, ενισχύοντας την διαφάνεια και την ρυθμιζόμενη τεχνητή νοημοσύνη βασισμένη στην απόδειξη. Ο νόμος προβλέπει την δημιουργία ενός ασφαλούς και απομονωμένου περιβάλλοντος που μπορεί να ελεγχθεί για την ανάπτυξη, τον έλεγχο και την επιβεβαίωση της ομαλής λειτουργίας καινοτόμων εφαρμογών τεχνητής νοημοσύνης.