Ο κυβερνήτης της Καλιφόρνια, Γκάβιν Νιούσομ υπέγραψε εκτελεστικό διάταγμα με το οποίο αναθέτει σε κρατικούς αξιωματούχους και ειδικές ομάδες εργασίας την ανάπτυξη συστάσεων για αυστηρότερες δικλείδες ασφαλείας στην Τεχνητή Νοημοσύνη, συμπεριλαμβανομένης της αξιολόγησης ενός μηχανισμού έκτακτης ανάγκης.
Η μάχη για τη ρύθμιση της TN περνά στο επόμενο κεφάλαιο. Λίγο μετά το ηχηρό βέτο στο πολυσυζητημένο νομοσχέδιο SB 1047, ο Νιούσομ ξαναγράφει τους κανόνες.
Τι είναι ο μηχανισμός «kill switch»
Στο επίκεντρο της πρωτοβουλίας βρίσκεται η αξιολόγηση ενός μηχανισμού έκτακτης ανάγκης, ευρέως γνωστού ως «kill switch», ο οποίος θα επιτρέπει την άμεση και ολική απενεργοποίηση ενός συστήματος AI εφόσον εντοπιστεί ανεξέλεγκτος ή συστημικός κίνδυνος.
Το διάταγμα συγκροτεί ειδική ομάδα εργασίας από κρατικούς αξιωματούχους και εμπειρογνώμονες του κλάδου, η οποία καλείται εντός 60 ημερών (έως τις 16 Νοεμβρίου) να παραδώσει ένα ολοκληρωμένο πλαίσιο προτάσεων. Οι συστάσεις αυτές θα αποτελέσουν τη βάση για επόμενες νομοθετικές και ρυθμιστικές παρεμβάσεις στην πολιτεία.
Παράλληλα, το εκτελεστικό διάταγμα επιταχύνει την εφαρμογή δύο πρόσφατων πολιτειακών νόμων (SB 813 και AB 1405), οι οποίοι προβλέπουν:
- Ανεξάρτητους ελέγχους ασφαλείας: Δημιουργία μητρώου πιστοποιημένων ελεγκτών που θα διενεργούν εξωτερικά τεστ στα μοντέλα AI.
- Παρατηρητές εντός των εργαστηρίων: Εξέταση του ενδεχομένου τοποθέτησης ανεξάρτητων εποπτών απευθείας στα αμερικανικά AI labs.
- Αυστηρότερη αναφορά περιστατικών: Υποχρεωτική κοινοποίηση σοβαρών δυσλειτουργιών ή επικίνδυνων συμπεριφορών των συστημάτων στις αρχές.
Σε δήλωση που δημοσιεύθηκε παράλληλα με τη διαταγή ο Νιούσομ ανέφερε ότι η ανάληψη δράσης από την πολιτεία ήταν κρίσιμη, δεδομένου ότι η ομοσπονδιακή κυβέρνηση αγνόησε το ζήτημα.
«Η παταγώδης αποτυχία της ομοσπονδιακής κυβέρνησης να δημιουργήσει οποιαδήποτε μορφή ουσιαστικής εποπτείας ή λογοδοσίας στον τομέα της Τεχνητής Νοημοσύνης θα πρέπει να ανησυχεί κάθε Αμερικανό, ειδικά όταν οι ίδιοι οι διευθύνοντες σύμβουλοι εταιρειών τεχνητής νοημοσύνης ικετεύουν για ρύθμιση», δήλωσε. «Δεν περιμένουμε για να δράσουμε, θα επιταχύνουμε τις εργασίες μας για μια ουσιαστική και υπεύθυνη εποπτεία της τεχνητής νοημοσύνης πριν να είναι πολύ αργά. Θα το κάνουμε αυτό με προσεκτικό τρόπο, αλλά και με επείγουσα ταχύτητα· διακυβεύονται πάρα πολλά για να περιμένουμε ή να καθυστερήσουμε τη δράση», συμπλήρωσε.
Από το SB 1047 στη νέα προσέγγιση από την Καλιφόρνια
Η κίνηση αυτή σηματοδοτεί μια τακτική αλλαγή πλεύσης από την πλευρά της διοίκησης. Ενώ το νομοσχέδιο SB 1047 επιχειρούσε να επιβάλει οριζόντιους περιορισμούς με βάση αμιγώς την υπολογιστική ισχύ και το κόστος εκπαίδευσης των μοντέλων -ξεσηκώνοντας κύμα αντιδράσεων από επενδυτές και startups- το νέο διάταγμα εστιάζει στην εμπειρική αξιολόγηση επικινδυνότητας και στα συγκεκριμένα σενάρια χρήσης.
Οι τεχνολογικές εταιρείες βρίσκονται πλέον αντιμέτωπες με την προοπτική επιβολής αυστηρών ποινικών και οικονομικών κυρώσεων εάν διαπιστωθεί ότι οι δικλείδες ασφαλείας τους σχεδιάστηκαν επιφανειακά ή παραβλέφθηκαν χάριν της επιτάχυνσης των ρυθμών λανσαρίσματος νέων προϊόντων στην ανταγωνιστική ψηφιακή αγορά.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου