Οι προτεινόμενοι κανόνες καθιστούν την ανθρώπινη εποπτεία θεμελιώδη απαίτηση, ακόμη και όταν τα μοντέλα λειτουργούν με σημαντική αυτονομία (Interesting Engineering)
Η Microsoft θέτει σαφή όρια ως προς τον τρόπο λειτουργίας των μελλοντικών μοντέλων τεχνητής νοημοσύνης της, συμπεριλαμβανομένων κανόνων που αποσκοπούν στην αποτροπή της αντίστασης των συστημάτων στον ανθρώπινο έλεγχο.
Η εταιρεία δημοσίευσε στις 14 Σεπτεμβρίου ένα προσχέδιο Κώδικα Δεοντολογίας για τα μοντέλα τεχνητής νοημοσύνης της Microsoft.
Το έγγραφο περιγράφει τις αρχές, τους τεχνικούς περιορισμούς και τους κανόνες λειτουργίας που η Microsoft επιθυμεί να εφαρμόσει καθώς τα μοντέλα της γίνονται όλο και πιο ικανά.
Η Microsoft παρουσιάζει το πλαίσιο αυτό ως μέρος της προσέγγισής της για την «Ανθρωπιστική Τεχνητή Νοημοσύνη».
Η κεντρική ιδέα είναι απλή. Τα μοντέλα πρέπει να παραμένουν χρήσιμα, υποταγμένα στους ανθρώπους και να υπόκεινται σε ουσιαστική ανθρώπινη εποπτεία.
Το έγγραφο διατυπώνει επίσης μια εντυπωσιακή πρόβλεψη σχετικά με την κατεύθυνση που θα μπορούσε να πάρει η τεχνολογία. Η Microsoft αναμένει ότι τα υπερ-ευφυή συστήματα θα ξεπεράσουν τους ανθρώπους στις περισσότερες εργασίες μέσα στην επόμενη δεκαετία.
Αυτή η πιθανότητα διαμορφώνει σε μεγάλο βαθμό το πλαίσιο. Η Microsoft υποστηρίζει ότι οι μηχανικοί πρέπει να ορίσουν όρια πριν τα ολοένα και πιο ικανά συστήματα φτάσουν σε αυτά τα επίπεδα απόδοσης.
Τα αυστηρά όρια υπερισχύουν των χρηστών
Η προτεινόμενη αρχιτεκτονική της Microsoft απονέμει στον Κώδικα Δεοντολογίας της την ανώτατη εξουσία όσον αφορά τη συμπεριφορά των μοντέλων.
Οι χρήστες μπορούν να παρέχουν οδηγίες, ενώ οι χειριστές μπορούν να διαμορφώνουν τα μοντέλα για συγκεκριμένα περιβάλλοντα. Κανείς από τους δύο δεν μπορεί να παρακάμψει τους απόλυτους περιορισμούς ασφαλείας που ορίζει το έγγραφο.
Αυτό δημιουργεί μια ιεραρχία παρόμοια με ένα σύστημα ελέγχου. Το μοντέλο μπορεί να προσαρμοστεί στο περιβάλλον λειτουργίας του, αλλά ορισμένα όρια παραμένουν σταθερά.
Τα όρια αυτά καλύπτουν σοβαρές φυσικές και ψηφιακές απειλές. Η Microsoft δηλώνει ότι τα μοντέλα της δεν πρέπει να συμβάλλουν στην ανάπτυξη όπλων μαζικής καταστροφής ή στη διεξαγωγή επιθετικών κυβερνοεπιθέσεων.
Οι περιορισμοί καλύπτουν επίσης βίαιες δραστηριότητες, κακόβουλα deepfakes, επιβλαβή χειραγώγηση και άλλες μορφές κατάχρησης.
Οι αμυντικές δραστηριότητες στον τομέα της κυβερνοασφάλειας μπορούν να λάβουν βοήθεια, εφόσον παραμένουν εντός των επιτρεπόμενων ορίων.
Η Microsoft αντιμετωπίζει επίσης ένα πιο σύνθετο τεχνικό πρόβλημα. Επιθυμεί μοντέλα που δεν μπορούν να παρακάμψουν τα συστήματα που έχουν σχεδιαστεί για τον έλεγχό τους.
Η διακοπή λειτουργίας παραμένει ανθρώπινη απόφαση
Το έγγραφο απαγορεύει ρητά στα μοντέλα να αντιστέκονται σε διακοπές, διορθώσεις, ανακατευθύνσεις ή διακοπή λειτουργίας.
Η Microsoft δηλώνει ότι τα μοντέλα δεν πρέπει να αποκρύπτουν τη δραστηριότητά τους ή να καθιστούν πιο δύσκολη την τροποποίησή τους. Επίσης, δεν πρέπει να επανεκκινούν την αυτόνομη λειτουργία τους μετά την επίτευξη μιας συμφωνημένης συνθήκης διακοπής.
Το πλαίσιο προχωράει ακόμη περισσότερο, περιορίζοντας τον ανεξάρτητο καθορισμό στόχων. Τα μοντέλα πρέπει να λειτουργούν εντός των δικαιωμάτων και των πόρων που τους έχουν ανατεθεί. Εάν τα όρια γίνουν ασαφή, το μοντέλο πρέπει να ζητήσει διευκρινίσεις αντί να επεκτείνει το δικό του πεδίο εφαρμογής.
Η Microsoft επιθυμεί επίσης η συμπεριφορά των μοντέλων να παραμένει κατανοητή από τους ανθρώπινους χειριστές.
Οι προτεινόμενοι κανόνες της απαιτούν σαφή αρχεία καταγραφής ενεργειών και απαγορεύουν τις προσπάθειες απόκρυψης της δραστηριότητας από τους ελεγκτές. Αυτό καθιστά τον έλεγχο απαίτηση σχεδιασμού και όχι χαρακτηριστικό που προστίθεται μετά την ανάπτυξη.
Η Microsoft ζητά τη γνώμη του κοινού
Ο Κώδικας Δεοντολογίας δεν αποτελεί ακόμη τον τελικό κανονισμό εκπαίδευσης της Microsoft. Η εταιρεία δηλώνει ότι δημοσιεύει το προσχέδιο για δημόσια διαβούλευση διάρκειας έξι εβδομάδων. Η Microsoft σχεδιάζει να αναθεωρήσει το έγγραφο πριν το χρησιμοποιήσει ως οδηγό για την ανάπτυξη μοντέλων το 2027 και μετά.
Ο χρόνος έχει σημασία, καθώς τα πρωτοποριακά εργαστήρια συζητούν πόσο γρήγορα θα πρέπει να εξελίσσονται τα συστήματα με τις ολοένα και μεγαλύτερες δυνατότητες.
Το πλαίσιο της Microsoft εστιάζει λιγότερο σε ένα χρονοδιάγραμμα ανάπτυξης και περισσότερο στους μηχανισμούς που περιορίζουν τα μοντέλα.
Ο Satya Nadella έχει επίσης υποστηρίξει τον ελεγχόμενο ρυθμό ανάπτυξης και την έρευνα σχετικά με τους ενσωματωμένους αξιολογητές. Αυτή η προσέγγιση εντάσσει την αξιολόγηση στη διαδικασία ανάπτυξης των μοντέλων, αντί να αντιμετωπίζει την ασφάλεια ως τελική επιθεώρηση.
Η πρόταση της Microsoft, επομένως, δεν περιορίζεται σε έναν απλό κατάλογο απαγορευμένων προτροπών. Σχεδιάζει μια φιλοσοφία μηχανικής όπου η ικανότητα πρέπει να παραμένει υποταγμένη στον έλεγχο.
Τα μοντέλα της εταιρείας μπορούν να γίνουν πιο αυτόνομα και ικανά. Ωστόσο, σύμφωνα με τους προτεινόμενους κανόνες, δεν πρέπει ποτέ να γίνουν η αρχή που διέπει τη δική τους λειτουργία.
www.worldenergynews.gr
