Σπάνια βλέπει κανείς μια κυβέρνηση που, ενώ μπαίνει στον πειρασμό να ρυθμίσει κάτι με βαριά χείρα, αποφασίζει τελικά να ακολουθήσει μια πιο ήπια προσέγγιση. Κι όμως, αυτό ακριβώς ήταν το ευπρόσδεκτο θέαμα, όταν ο Ντόναλντ Τραμπ βγήκε από μια συνάντηση στον Λευκό Οίκο για να παρουσιάσει τις δεσμεύσεις κορυφαίων εταιρειών τεχνολογίας να κάνουν καλύτερη δουλειά στον έλεγχο των ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης από τον άνθρωπο.
Η συμφωνία επικεντρώθηκε στην εσωτερική εταιρική διακυβέρνηση. Έξι κορυφαίες εταιρείες δήλωσαν ότι θα βελτιώσουν τους μηχανισμούς για την «παρακολούθηση των δυνατοτήτων και της ευθυγράμμισης» των μοντέλων τους «κατά την εκπαίδευση και την ανάπτυξη», θα διορίσουν ομάδες για την επαλήθευση της συμμόρφωσης και θα συστήσουν επιτροπές στα διοικητικά τους συμβούλια για την εποπτεία της προόδου.
Αυτή είναι η σωστή προσέγγιση. Τα εργαστήρια που βρίσκονται στην αιχμή της τεχνητής νοημοσύνης δεν έχουν δώσει πάντοτε επαρκή προτεραιότητα στην ασφάλεια των εφευρέσεών τους. Στελέχη της OpenAI αγνόησαν προειδοποιήσεις εργαζομένων που ανησυχούσαν για πρόχειρα πρωτόκολλα δοκιμών και παρότρυναν τους εργαζομένους να τηρήσουν το χρονοδιάγραμμα για την κυκλοφορία του επόμενου μοντέλου της εταιρείας, όπως ανέφεραν αυτή την εβδομάδα οι New York Times.
Όμως η εταιρική κουλτούρα γύρω από την τεχνητή νοημοσύνη φαίνεται να αλλάζει προς το καλύτερο, καθώς τα εργαστήρια αιχμής προετοιμάζονται για αρχικές δημόσιες εγγραφές. Αυτό οφείλεται εν μέρει στην αυξανόμενη επίγνωση των πιθανών νομικών ευθυνών. Η OpenAI ανακοίνωσε τη Δευτέρα ότι καθυστερεί την κυκλοφορία του νεότερου μοντέλου της, του GPT-6.1 Astra. Ο Saachi Jain, επικεφαλής των συστημάτων ασφάλειας της εταιρείας, δήλωσε ότι «δεν έφτασε ακριβώς το απαιτούμενο επίπεδο».
Σε μια κίνηση που παραπέμπει σε πρόσφατη πρόταση του διευθύνοντος συμβούλου της Anthropic, Dario Amodei, η συμφωνία του Λευκού Οίκου καλεί τις εταιρείες να προσλαμβάνουν εξωτερικούς ελεγκτές. Η συμφωνία προβλέπει επίσης ότι οι κορυφαίες εταιρείες θα συναντώνται τακτικά για να καθορίζουν βέλτιστες πρακτικές, οι οποίες «με την πάροδο του χρόνου» θα μπορούσαν να ενσωματωθούν στη νομοθεσία.
Οι έξι εταιρείες που υπέγραψαν τη συμφωνία είναι οι Google, Anthropic, Meta, OpenAI, xAI και Nvidia. Ο ιδιοκτήτης της Post, Τζεφ Μπέζος, εκτελεστικός πρόεδρος της Amazon, παρευρέθηκε στη σύνοδο. Ο διευθύνων σύμβουλος της Nvidia, Jensen Huang, μιλώντας μετά την τελετή υπογραφής, συνόψισε με περιεκτικό τρόπο το αποτέλεσμα. «Δεν υπάρχει σύγκρουση μεταξύ καινοτομίας, τεχνολογίας και ασφάλειας», είπε.
Ο Huang έχει δίκιο. Η επιβράδυνση του ρυθμού ανάπτυξης δεν αποτελεί επιλογή. Νωρίτερα αυτή την εβδομάδα, η Anthropic δημοσίευσε μια έκθεση σύμφωνα με την οποία το GLM-5.3, ένα μοντέλο ανοιχτών βαρών που αναπτύχθηκε από την κινεζική Z.ai, πλησιάζει τις δυνατότητες στον κυβερνοχώρο του δικού της Claude Mythos Preview - το οποίο είχε κρατηθεί εκτός κυκλοφορίας τον Απρίλιο, λόγω ανησυχιών για τις εξαιρετικά ισχυρές δυνατότητές του στο hacking. Σε μια δοκιμή της ικανότητας του κινεζικού μοντέλου να κατασκευάζει εξελιγμένα exploits υπολογιστών, πέτυχε σε 50 από τις 410 προσπάθειες, έναντι 56 του Mythos Preview.
Η απώλεια αυτού του μικρού προβαδίσματος θα μπορούσε να αποδειχθεί καταστροφική για τις Ηνωμένες Πολιτείες σε μια σειρά από τομείς, συμπεριλαμβανομένης της εθνικής άμυνας. Η τεχνητή νοημοσύνη δεν αποτελεί μόνο απειλή. Είναι επίσης ένα ισχυρό αμυντικό εργαλείο. Αυτό το καλοκαίρι, ένας αυτόνομος πράκτορας που βασιζόταν κυρίως σε ένα προηγμένο μοντέλο της OpenAI διείσδυσε στα συστήματα του Hugging Face, μιας κορυφαίας αμερικανικής πλατφόρμας τεχνητής νοημοσύνης. Για να βοηθήσει στον περιορισμό της εισβολής, το Hugging Face στράφηκε στο παλαιότερο μοντέλο της Z.ai, το GLM-5.2, το οποίο βοήθησε τους ερευνητές να ανασυνθέσουν όσα είχε κάνει ο επιτιθέμενος και τελικά να θέσουν τέλος στην εισβολή.
Τα πιο ικανά μοντέλα αναμφίβολα θα δημιουργήσουν νέους κινδύνους. Όμως η τεχνητή νοημοσύνη μπορεί επίσης να προσφέρει στους ανθρώπους καλύτερα εργαλεία για τον εντοπισμό, την κατανόηση και τον περιορισμό αυτών των κινδύνων. Αυτές οι άμυνες πρέπει να εξελίσσονται παράλληλα με την τεχνητή νοημοσύνη αιχμής.
Δεν υπάρχει τρόπος να ξαναμπεί το τζίνι της τεχνητής νοημοσύνης στο μπουκάλι. Οι προσπάθειες να περιοριστεί η ανάπτυξη και η διάδοση της τεχνολογίας είναι απίθανο να επιτύχουν. Η καλύτερη πορεία είναι αυτή που υιοθέτησε η κυβέρνηση Τραμπ αυτή την εβδομάδα: να συνεχίσουμε την καινοτομία, ενώ παράλληλα αναπτύσσουμε καλύτερους μηχανισμούς για τον ανθρώπινο έλεγχο.
Η καινοτομία και ο έλεγχος δεν αποτελούν ανταγωνιστικούς στόχους. Όλο και περισσότερο, ο καθένας θα εξαρτάται από τον άλλο.
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
