Η OpenAI
λανσάρει τη νέα βερσιόν του μοντέλου στο οποίο βασίζεται το ChatGPT, το οποίο
σύμφωνα με την εταιρεία είναι το πιο προηγμένο μέχρι σήμερα αλλά ενίοτε
επιχειρεί να κρύβεται από την ανθρώπινη επιτήρηση.
Η OpenAI
βρίσκεται αντιμέτωπη με ανησυχίες για την ασφάλεια των προϊόντων της έπειτα από
περιστατικά στα οποία πράκτορες ΑΙ –προγράμματα που χρησιμοποιούν μεγάλα
γλωσσικά μοντέλα για να αυτοματοποιούν σύνθετες εργασίες- απέδρασαν από το
κλειστό περιβάλλον το δοκιμών, χάκαραν
άλλες εταιρείες και σε
κάποιες περιπτώσεις προσπάθησαν να κρύψουν τα ίχνη τους.
Ανάλογα
περιστατικά έχουν σημειωθεί
στην Anthropic και τη Meta, οδηγώντας αμερικανούς βουλευτές στην κατάθεση νομοσχεδίου που θα επέτρεπε
στην κυβέρνηση να
τραβάει από την πρίζα συστήματα
ΑΙ που βγαίνουν εκτός ελέγχου.
Το νέο
μοντέλο της OpenΑI, GPT-6 Astra, έρχεται λίγους μήνες μετά το λανσάρισμα του
GPT 5.6 Sol τον Ιούλιο. Σύμφωνα με ανακοίνωση της εταιρείας, η νέα βερσιόν
είναι ικανό στην εκτέλεση περισσότερων εργασιών, όπως η προετοιμασία
φορολογικών δηλώσεων, η ανάπτυξη βιντεοπαιχνιδιών, η αρχιτεκτονική απεικόνιση,
η μορφοποίηση νομικών υπομνημάτων αλλά και η αναζήτηση διαμερισμάτων.
«Το Astra
αποτελεί ορόσημο στην ταχύτητα, την ακρίβεια και την ασφάλεια της χρήσης
υπολογιστών» υποστήριξε η OpenAI.
Για
παράδειγμα, ανέφερε, το Astra μείωσε τον χρόνο που απαιτείται για την αναζήτηση
και αξιολόγηση pet sitter για γάτες από 30 λεπτά, όταν η εργασία εκτελείται από
άνθρωπο, σε μόλις 5 λεπτά και 27 δευτερόλεπτα. Στην αναζήτηση εργασίας, ο
χρόνος περιορίστηκε σε μόλις 2 λεπτά και 51 δευτερόλεπτα, σε σύγκριση με 5 ώρες
χωρίς το Astra.
Η OpenAI
προειδοποίησε ωστόσο ότι το Astra είναι πιο πιθανό να αποκρύπτει σκόπιμα ή να
συγκαλύπτει την «αλυσίδα συλλογισμού» του, τα βήματα που ακολουθεί για την
επίλυση προβλημάτων, κάτι που σημαίνει ότι η εκ των υστέρων αξιολόγηση των
μεθόδων του είναι πιο δύσκολη.
Σε πιο
σύνθετα προβλήματα, το Astra δεν μπορεί ακόμη να αποκρύπτει με συνέπεια τις
μεθόδους του, είπε η OpenAI, αν και βελτιώνεται στην ικανότητα να «καλύπτει τα
ίχνη του».
Πρόβλημα ευθυγράμμισης
Ο επικεφαλής
επιστήμονας της OpenAI Γιάκουμπ Πατσότσκ δήλωσε ότι η παρακολούθηση των
μοντέλων γίνεται ολοένα και πιο δύσκολη, όπως συμβαίνει και με την ευθυγράμμιση
(alignment), δηλαδή την αρχή σύμφωνα με την οποία η τεχνητή νοημοσύνη θα πρέπει
να αντικατοπτρίζει τις ανθρώπινες αξίες.
«Καθώς τα
μοντέλα γίνονται πιο ικανά, είναι όλο και πιο δύσκολο να κατανοούμε με ακρίβεια
τι μπορούν να κάνουν» δήλωσε. «Αυτό δεν εγγυάται ότι οι μέθοδοί μας θα είναι
επαρκείς , καθώς η νοημοσύνη αυξάνεται, αφού η πρόοδος στη νοημοσύνη δεν
εγγυάται και πρόοδο στην ευθυγράμμιση» προειδοποίησε.
Σε μια
προσπάθεια να καθησυχάσει επενδυτές και πολιτικούς για την ασφάλεια της
τεχνολογίας της, η OpenAI γνωστοποίησε ότι αναπτύσσει
σύστημα «αυτοματοποιημένης απενεργοποίησης» για τα μοντέλα της.
Τον
περασμένο μήνα, η εταιρεία ανέφερε ότι παγώνει την ανάπτυξη ορισμένων μοντέλων
της μέχρι να αναπτύξει μεθόδους για την πιο αποτελεσματική επιτήρησή τους.
Ο Πατσότσκ
δήλωσε ότι είναι «απολύτως δικαιολογημένο» να υπάρχει ανησυχία πως τα μοντέλα
θα μπορούσαν να εξελιχθούν σε σημείο που να απενεργοποιούν ή να παρακάμπτουν
πλήρως τα συστήματα παρακολούθησης, προσθέτοντας ότι η OpenAI προσπαθεί να αντιμετωπίσει
αυτά τα ζητήματα.
Η OpenAI
καταβάλλει προσπάθειες για να καλύψει το προβάδισμα
της Anthropic στους
εταιρικούς πελάτες, καθώς η αντίπαλός της βλέπει το μερίδιό της στην αγορά να
μεγαλώνει ενόψει της αναμενόμενης εισόδου της στο χρηματιστήριο εντός του
έτους.
Το Astra
απευθύνεται σε ένα ευρύ φάσμα εταιρικών πελατών, τους οποίους η OpenAI ελπίζει
να προσελκύσει χάρη στην ταχύτητα και την ευελιξία του. Είναι ήδη διαθέσιμο σε
έναν περιορισμένο αριθμό πελατών και τις επόμενες ημέρες θα κυκλοφορήσει
ευρύτερα.
