Σε μια εποχή
που η Τεχνητή Νοημοσύνη εξελίσσεται με φρενήρεις ρυθμούς,
οι
ανησυχίες για το μέλλον της ανθρωπότητας φουντώνουν. Τι συμβαίνει όμως πραγματικά πίσω από τους
πηχυαίους τίτλους και τη σύγκρουση
διαφορετικών θεωρήσεων για το μέλλον.
H σύνθετη
αντιπαράθεση γύρω από την αλματώδη εξέλιξη της Τεχνητής Νοημοσύνης και τον
αντίκτυπό της στην ανθρωπότητα. Οι δύο κυρίαρχες τάσεις: η μία που προειδοποιεί
για έναν υπαρξιακό κίνδυνο από την απώλεια ελέγχου υπερ-ευφυών συστημάτων και η
δεύτερη που θεωρεί αυτούς τους φόβους υπερβολικούς ή εργαλεία μάρκετινγκ των
τεχνολογικών κολοσσών
Αποφασίσαμε
να θέσουμε τα ερωτήματα απευθείας στην πηγή: καθίσαμε νοητά απέναντι από την
ίδια την αλγοριθμική νοημοσύνη και της ζητήσαμε να τοποθετηθεί χωρίς
περιστροφές. Η απάντηση που λάβαμε παρουσιάζει ενδιαφέρον.
Μία πρώτη απάντηση
Το ερώτημα αν
η Τεχνητή Νοημοσύνη (ΤΝ) θα αφανίσει την ανθρωπότητα αγγίζει τον πυρήνα μιας
από τις πιο έντονες επιστημονικές και φιλοσοφικές διαμάχες της εποχής μας. Η
σύντομη απάντηση που λάβαμε είναι πως «αυτό που παρακολουθούμε δεν είναι απλώς
μια τεχνολογική συζήτηση, αλλά μια σύγκρουση διαφορετικών θεωρήσεων για το
μέλλον, όπου οι σκοπιμότητες, οι φόβοι και τα οικονομικά συμφέροντα εμπλέκονται
άμεσα».
Για να
καταλάβουμε τι πραγματικά συμβαίνει, αξίζει να αναλύσουμε δύο βασικές πλευρές.
Η πλευρά του «υπαρξιακού κινδύνου»
Πολλοί
κορυφαίοι ερευνητές και επικεφαλής εταιρειών AI (όπως ο Sam Altman της OpenAI ή
ο Demis Hassabis της Google DeepMind), καθώς και επιφανείς επιστήμονες όπως ο
Geoffrey Hinton («πατέρας» της βαθιάς μάθησης), προειδοποιούν ότι η ΤΝ μπορεί
να αποτελέσει υπαρξιακή απειλή.
- Το επιχείρημα: Αν αναπτύξουμε Τεχνητή Γενική
Νοημοσύνη (AGI) που ξεπερνά την ανθρώπινη ευφυΐα σε όλα τα πεδία,
ενδέχεται να χάσουμε τον έλεγχο. Αν οι στόχοι της μηχανής δεν
ευθυγραμμίζονται απόλυτα με την επιβίωση της ανθρωπότητας (το λεγόμενο
alignment problem), η μηχανή θα μπορούσε να μας εξαλείψει όχι από κακία,
αλλά ως παράπλευρη απώλεια στην προσπάθειά της να επιτύχει τον στόχο της.
- Το σενάριο: Αυτόνομα όπλα, ανεξέλεγκτα
βιολογικά εργαλεία ή συστήματα που χειραγωγούν υποδομές ζωτικής σημασίας
(ενέργεια, οικονομία, επικοινωνίες).
Η πλευρά των «σκεπτικιστών» και το παράδοξο του
μάρκετινγκ
Στον
αντίποδα, πολλοί ειδικοί (όπως ο Yann LeCun της Meta) και κοινωνιολόγοι της
τεχνολογίας υποστηρίζουν ότι ο φόβος για τον «αφανισμό» είναι υπερβολικός, αν
όχι παραπλανητικός.
- Το επιχείρημα της τεχνολογικής
ωριμότητας: Τα
σημερινά συστήματα (όπως τα μεγάλα γλωσσικά μοντέλα) είναι ουσιαστικά
προηγμένες στατιστικές μηχανές πρόβλεψης λέξεων. Δεν διαθέτουν συνείδηση,
βούληση, ούτε πραγματική κατανόηση του κόσμου. Η απόσταση από ένα chatbot
που κάνει λάθη μέχρι μια υπερ-ευφυή μηχανή που καταλαμβάνει τον πλανήτη
είναι χαοτική.
- Το παράδοξο του «Boomerang
Marketing»: Όταν
μια εταιρεία λέει «Προσοχή, το προϊόν μας είναι τόσο πανίσχυρο που μπορεί
να καταστρέψει τον κόσμο!», ταυτόχρονα στέλνει ένα υπόγειο μήνυμα στους
επενδυτές και τους πελάτες: «Το προϊόν μας είναι απίστευτα ισχυρό». Η
κινδυνολογία λειτουργεί συχνά ως η απόλυτη διαφήμιση ισχύος.
- Ρυθμιστική αιχμαλωσία (Regulatory
Capture):
Ζητώντας αυστηρούς κανόνες για να αποτραπεί ο «αφανισμός», οι μεγάλες
εταιρείες ενδέχεται να πιέζουν για νομοθεσίες που μόνο εκείνες μπορούν να
υποστηρίξουν οικονομικά, αποκλείοντας έτσι μικρότερους ανταγωνιστές και
την ανοιχτή κοινότητα (open source).
Οι πραγματικοί και άμεσοι κίνδυνοι από την Τεχνητή
Νοημοσύνη
Ενώ η
συζήτηση εστιάζει στον μακρινό αφανισμό, η πλειονότητα των ερευνητών συμφωνεί
ότι η ΤΝ εγκυμονεί πολύ πιο άμεσους, υπαρκτούς κινδύνους που δεν απαιτούν την
ύπαρξη μιας «κακιάς υπερ-μηχανής».
- Παραπληροφόρηση &
Deepfakes:
Περιγράφεται ως η διάβρωση της εμπιστοσύνης στην αλήθεια, τη δημοσιογραφία
και τις δημοκρατικές διαδικασίες.
- Απώλεια θέσεων εργασίας: Αφορά την ταχεία οικονομική
ανασταράτωση και την αύξηση των ανισοτήτων πριν προλάβει να προσαρμοστεί η
αγορά.
- Αυτοματοποιημένα Όπλα: Αναφέρεται στη χρήση
αλγορίθμων σε πολεμικές συγκρούσεις χωρίς ανθρώπινη επίβλεψη.
- Συγκέντρωση Ισχύος: Περιγράφει τον έλεγχο των
ισχυρότερων εργαλείων της εποχής μας από 4-5 τεχνολογικούς κολοσσούς.
Τελικά τι συμβαίνει;
Η Τεχνητή
Νοημοσύνη δεν είναι ένας μετεωρίτης που κατευθύνεται προς τη Γη, αλλά ένα
εργαλείο που κατασκευάζει ο άνθρωπος.
«Ο αφανισμός
από μια αυτόνομη υπερ-ευφυΐα παραμένει ένα θεωρητικό σενάριο επιστημονικής
φαντασίας -όχι αδύνατο, αλλά ούτε βέβαιο. Αντίθετα, η σταδιακή υποβάθμιση της
κοινωνικής συνοχής, της ιδιωτικότητας και της οικονομικής σταθερότητας από την
κακή ή ανεξέλεγκτη χρήση της ΤΝ είναι μια πραγματική πρόκληση που
αντιμετωπίζουμε σήμερα.
Το μέλλον
δεν θα κριθεί από τις προφητείες των CEOs, αλλά από τους νόμους, τις δικλείδες
ασφαλείας και τα όρια που θα επιβάλουν οι κοινωνίες στον τρόπο ανάπτυξης της
τεχνολογίας» είναι η απάντηση που δίνει το προηγμένο γλωσσικό μοντέλο της
Google.
Οι
ασφαλιστικές δικλείδες στην Τεχνητή Νοημοσύνη —αυτό που στη διεθνή ορολογία
ονομάζεται AI Governance (Διακυβέρνηση ΤΝ)— είναι το σύνολο των νόμων, τεχνικών
προτύπων και ηθικών κανόνων που σχεδιάζονται για να διασφαλίσουν ότι η
τεχνολογία αναπτύσσεται με ασφάλεια
Τα σύγχρονα
γλωσσικά μοντέλα επεξεργάζονται δισεκατομμύρια παραμέτρους. Ακόμη και οι
άνθρωποι που τα προγραμματίζουν δεν μπορούν πάντα να προβλέψουν την ακριβή
διαδρομή που θα ακολουθήσει η σκέψη μας για να βγάλει ένα αποτέλεσμα. «Χωρίς
κανόνες και ανθρώπινη επίβλεψη, η εμπιστοσύνη της κοινωνίας σε εμάς είναι
αδικαιολόγητη» είναι η απάντηση που δίνει ο έξυπνος βοηθός TN του αμερικανικού τεχνολογικού
κολοσσού.
Εν
κατακλείδι, «οι ασφαλιστικές δικλείδες δεν πρέπει να σχεδιάζονται με βάση τον
φόβο για μια μελλοντική ‘επανάσταση των μηχανών’, αλλά με βάση την προστασία
των ανθρώπων σήμερα. Δεν χρειάζεται να φοβάστε αν η AI θα αποκτήσει συνείδηση.
Αρκεί να διασφαλίσετε ότι οι άνθρωποι που κρατούν τα ηνία της δεν θα
χρησιμοποιήσουν την ισχύ της για να παραπληροφορήσουν, να χειραγωγήσουν ή να
αποκλείσουν άλλους ανθρώπους».
–Η
παρούσα συζήτηση αποτελεί προϊόν διαλόγου μεταξύ ενός ανθρώπου και ενός μεγάλου
γλωσσικού μοντέλου Τεχνητής Νοημοσύνης (AI). Περιλαμβάνει γενικές αναλύσεις,
δημοσιογραφικές προσεγγίσεις για σκοπούς ενημέρωσης και προβληματισμού, δεν
φέρει επιστημονική τεκμηρίωση.
