Σοβαρές ανησυχίες της Ευρωπαϊκής Επιτροπής για τους κινδύνους που δημιουργεί ο ανεξέλεγκτος ανταγωνισμός στην Τεχνητή Νοημοσύνη. Η Χένα Βίρκουνεν προειδοποιεί ότι οι τεχνολογικές εταιρείες δεν αφιερώνουν επαρκή χρόνο στους ελέγχους ασφαλείας, ενώ σε ορισμένες περιπτώσεις αγνοούν τις ενέργειες των ίδιων των συστημάτων τους. Στο επίκεντρο ο ευρωπαϊκός κανονισμός AI Act και οι απαιτήσεις των Βρυξελλών για αυστηρότερη εποπτεία.
Η ταχύτατη εξέλιξη της Τεχνητής Νοημοσύνης και η σκληρή αναμέτρηση μεταξύ των μεγαλύτερων τεχνολογικών εταιρειών προκαλούν αυξανόμενη ανησυχία στην Ευρωπαϊκή Επιτροπή, η οποία προειδοποιεί ότι η πίεση για την ανάπτυξη ολοένα ισχυρότερων συστημάτων ενδέχεται να υποβαθμίζει κρίσιμες διαδικασίες ασφαλείας. Η εκτελεστική αντιπρόεδρος της Κομισιόν, Χένα Βίρκουνεν, έθεσε το ζήτημα στο περιθώριο διεθνούς Συνόδου Κορυφής για την Τεχνητή Νοημοσύνη στο Δουβλίνο, επισημαίνοντας ότι ο ανταγωνισμός έχει αποκτήσει τέτοια ένταση, ώστε οι επιχειρήσεις δεν φαίνεται να διαθέτουν πάντοτε τον απαραίτητο χρόνο και τους απαιτούμενους πόρους για την ουσιαστική αξιολόγηση των μοντέλων τους. Η Ευρωπαία αξιωματούχος υπογράμμισε ότι η τεχνολογική πρόοδος δεν μπορεί να αποτελεί δικαιολογία για την παράκαμψη των ελέγχων, καθώς οι εταιρείες έχουν την ευθύνη να διατηρούν τον έλεγχο των συστημάτων που αναπτύσσουν, ανεξάρτητα από την πίεση της αγοράς και την προσπάθεια να προηγηθούν των ανταγωνιστών τους.
Η προειδοποίηση για τους πράκτορες Τεχνητής Νοημοσύνης και τα κενά στους ελέγχους ασφαλείας
Ιδιαίτερη ανησυχία προκαλεί στις Βρυξέλλες η λειτουργία των λεγόμενων πρακτόρων Τεχνητής Νοημοσύνης (AI agents), προηγμένων συστημάτων που έχουν τη δυνατότητα να εκτελούν σύνθετες εργασίες και να αναλαμβάνουν ενέργειες με σημαντικό βαθμό αυτονομίας. Σύμφωνα με τη Χένα Βίρκουνεν, έχουν ήδη παρατηρηθεί περιστατικά που αποκαλύπτουν ότι οι ίδιες οι εταιρείες δεν γνωρίζουν πάντοτε με ακρίβεια ποιες ενέργειες πραγματοποιούν οι ψηφιακοί πράκτορές τους, γεγονός που δημιουργεί σοβαρά ερωτήματα για την αποτελεσματικότητα των υφιστάμενων μηχανισμών εποπτείας. Παράλληλα, η διαρκής ενίσχυση των δυνατοτήτων των νέων μοντέλων καθιστά την αξιολόγησή τους ολοένα πιο απαιτητική, αυξάνοντας την ανάγκη για εξειδικευμένες δοκιμές και ανεξάρτητους ελέγχους. Η αντιπρόεδρος της Επιτροπής επισήμανε ότι οι ειδικοί πρέπει να διαθέτουν επαρκή χρόνο για να εξετάζουν τη συμπεριφορά των συστημάτων και να εντοπίζουν πιθανούς κινδύνους. Στο πλαίσιο αυτό, οι ευρωπαϊκές υπηρεσίες έχουν ήδη ζητήσει αναλυτικές πληροφορίες από σημαντικές εταιρείες του κλάδου, επικεντρώνοντας το ενδιαφέρον τους στα μέτρα ασφαλείας που εφαρμόζονται και στις διαδικασίες εξωτερικής αξιολόγησης των τεχνολογιών τους.
Στο μικροσκόπιο των Βρυξελλών οι τεχνολογικοί κολοσσοί – Οι απαιτήσεις του AI Act
Η παρέμβαση της Ευρωπαϊκής Επιτροπής εντάσσεται στην προσπάθεια ενίσχυσης της εποπτείας μιας τεχνολογίας που αποκτά ολοένα μεγαλύτερη παρουσία στην οικονομία και την καθημερινότητα. Με βάση τον ευρωπαϊκό κανονισμό για την Τεχνητή Νοημοσύνη, γνωστό ως AI Act, η Ευρωπαϊκή Ένωση διαθέτει πλέον συγκεκριμένες ρυθμιστικές εξουσίες, τις οποίες έχει αρχίσει να αξιοποιεί ζητώντας εξηγήσεις από τις επιχειρήσεις για ένα ευρύ φάσμα ζητημάτων. Οι έλεγχοι δεν περιορίζονται αποκλειστικά στην ασφάλεια των συστημάτων, αλλά επεκτείνονται και στον σεβασμό των πνευματικών δικαιωμάτων, καθώς οι Βρυξέλλες επιδιώκουν να διαμορφώσουν ένα πλαίσιο σαφών υποχρεώσεων για τους δημιουργούς προηγμένων μοντέλων AI. Η Χένα Βίρκουνεν κατέστησε σαφές ότι η δυνατότητα ουσιαστικού ελέγχου των συστημάτων αποτελεί ρητή απαίτηση της ευρωπαϊκής νομοθεσίας και όχι ζήτημα που μπορεί να αφεθεί αποκλειστικά στην κρίση των εταιρειών. Το μήνυμα της Κομισιόν είναι ότι η τεχνολογική καινοτομία πρέπει να συνοδεύεται από αποτελεσματική εποπτεία και λογοδοσία, σε μια περίοδο κατά την οποία ο διεθνής ανταγωνισμός επιταχύνει την ανάπτυξη της Τεχνητής Νοημοσύνης και αυξάνει τις απαιτήσεις για την ασφαλή λειτουργία της.
