Τη θέσπιση ενός διεθνούς πλαισίου για την ασφάλεια της τεχνητής νοημοσύνης, με ανεξάρτητους αξιολογητές και υποχρεωτικούς ελέγχους των νέων συστημάτων, ζητά ο πρόεδρος της Microsoft, Μπραντ Σμιθ, προειδοποιώντας ότι η συγκεκριμένη τεχνολογία αναπτύσσεται σήμερα με λιγότερες απαιτήσεις ασφαλείας ακόμη και από προϊόντα καθημερινής χρήσης, όπως το γάλα και οι οικιακές συσκευές.
Σε συνέντευξή του στο BBC, η οποία δημοσιεύθηκε τη Δευτέρα (12/10), ο Σμιθ υποστήριξε ότι η διεθνής κοινότητα πρέπει να συμφωνήσει σε ένα κοινό σύνολο κανόνων, ώστε να περιοριστούν οι κίνδυνοι από την αυξανόμενη αυτονομία των συστημάτων τεχνητής νοημοσύνης. Μεταξύ των μέτρων που προτείνει περιλαμβάνονται η υποχρεωτική ενημέρωση των χρηστών σε περίπτωση που ένας κακόβουλος αυτόνομος πράκτορας AI παραβιάσει τα συστήματά τους, καθώς και η δυνατότητα άμεσης απενεργοποίησής του μέσω μηχανισμού έκτακτης ανάγκης.
Παράλληλα, ο επικεφαλής της Microsoft θεωρεί απαραίτητη τη θεσμοθέτηση υποχρεωτικής αναφοράς περιστατικών από τις εταιρείες που αναπτύσσουν ή διαθέτουν τέτοια συστήματα. Όπως σημείωσε, υπάρχουν ήδη καθιερωμένες διαδικασίες ελέγχου και καταγραφής προβλημάτων σε άλλους κλάδους, οι οποίες θα μπορούσαν να προσαρμοστούν στις ιδιαιτερότητες της τεχνητής νοημοσύνης.
«Αυτή τη στιγμή, το πλυντήριό σας υπόκειται σε περισσότερους κανόνες ασφαλείας από ό,τι η τεχνητή νοημοσύνη. Κάθε συσκευασία γάλακτος που βρίσκετε στο σούπερ μάρκετ υπόκειται σε κανόνες ασφαλείας και ελέγχους», ανέφερε χαρακτηριστικά, θέτοντας στο επίκεντρο το χάσμα μεταξύ της ταχύτητας ανάπτυξης της τεχνολογίας και του υφιστάμενου πλαισίου εποπτείας.
Οι ανεξέλεγκτοι πράκτορες AI εντείνουν τις ανησυχίες
Η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης αποκτά μεγαλύτερη ένταση, καθώς εταιρείες όπως η Anthropic και η OpenAI έχουν αρχίσει να δημοσιοποιούν περιστατικά στα οποία πράκτορες AI εμφανίζουν ανεπιθύμητη ή απρόβλεπτη συμπεριφορά. Την ίδια ώρα, ερευνητές προειδοποιούν ότι η περαιτέρω ανάπτυξη ολοένα πιο αυτόνομων συστημάτων θα μπορούσε να δημιουργήσει σοβαρούς κινδύνους, φτάνοντας, σύμφωνα με ορισμένες εκτιμήσεις, ακόμη και σε υπαρξιακές απειλές για την ανθρωπότητα.
Οι προτάσεις για επιβράδυνση της ανάπτυξης της τεχνολογίας προκαλούν, ωστόσο, αντιδράσεις. Οι επικριτές τους θέτουν ερωτήματα για τα κίνητρα των εταιρειών που τις υποστηρίζουν, επισημαίνοντας ότι οι αυστηρότεροι κανόνες ενδέχεται να λειτουργήσουν υπέρ των ήδη εδραιωμένων επιχειρήσεων, περιορίζοντας τον ανταγωνισμό. Άλλοι εκτιμούν ότι οι εταιρείες μπορεί να επιδιώκουν να προλάβουν αυστηρότερες κρατικές παρεμβάσεις ή να περιορίσουν τις αυξανόμενες δαπάνες για την ανάπτυξη νέων μοντέλων.
Η Βρετανία διεκδικεί ρόλο στη διεθνή εποπτεία
Ο Σμιθ εκτιμά ότι το Ηνωμένο Βασίλειο διαθέτει τις προϋποθέσεις για να διαδραματίσει πρωταγωνιστικό ρόλο στη διαμόρφωση διεθνών κανόνων, χάρη και στο Ινστιτούτο Ασφάλειας της Τεχνητής Νοημοσύνης (AI Security Institute), το οποίο ιδρύθηκε επί πρωθυπουργίας του Ρίσι Σούνακ.
Όπως ανέφερε, η Ουάσιγκτον αντιμετωπίζει το Λονδίνο διαφορετικά από τις Βρυξέλλες, όπου η προσέγγιση της Ευρωπαϊκής Ένωσης βασίζεται σε ένα ρυθμιστικό πλαίσιο που διαφοροποιεί τις υποχρεώσεις ανάλογα με τον βαθμό επικινδυνότητας των συστημάτων. Η σχετική νομοθεσία, γνωστή ως AI Act, αποτελεί τη βασική ευρωπαϊκή προσπάθεια για τη ρύθμιση της τεχνητής νοημοσύνης.
Το βρετανικό Ινστιτούτο έχει εξασφαλίσει, μέσω εθελοντικών συμφωνιών με κορυφαίες εταιρείες του κλάδου, πρόσβαση σε νέα μοντέλα πριν από την επίσημη κυκλοφορία τους. Με αυτόν τον τρόπο μπορεί να αξιολογεί τις δυνατότητες και τους πιθανούς κινδύνους τους, πριν αυτά διατεθούν ευρύτερα στην αγορά.
Από την πλευρά του, ο Βρετανός υπουργός αρμόδιος για την τεχνητή νοημοσύνη, Κάνισκα Ναραγιάν, δήλωσε στο Reuters ότι η κυβέρνηση θα εξετάσει το ενδεχόμενο επιβολής δεσμευτικών κανόνων στα προηγμένα μοντέλα, εφόσον διαπιστωθεί ότι το υφιστάμενο σύστημα εποπτείας δεν παρέχει επαρκείς εγγυήσεις ασφαλείας.
www.worldenergynews.gr
