AI: Οι κίνδυνοι είναι υπαρκτοί, αλλά δεν δικαιολογούν πανικό

Της συντακτικής ομάδας της στήλης Bloomberg Opinion

«Κανείς δεν ξέρει τίποτα», είχε πει χαρακτηριστικά ο σεναριογράφος Γουίλιαμ Γκόλντμαν για τον κόσμο του κινηματογράφου. Κάτι ανάλογο θα μπορούσε να ειπωθεί σήμερα και για την τεχνητή νοημοσύνη, μια τεχνολογία που εξελίσσεται με ιλιγγιώδη ταχύτητα, χωρίς κανείς να γνωρίζει πού θα οδηγήσει. Σε αντίθεση, όμως, με τον κινηματογράφο, ορισμένοι στον κλάδο προειδοποιούν ότι κάποια μέρα τα συστήματα τεχνητής νοημοσύνης μπορεί να εξεγερθούν και να αφανίσουν την ανθρωπότητα. Το μόνο βέβαιο είναι ότι ο κόσμος έχει λόγους να ανησυχεί.

Μόνο τις τελευταίες εβδομάδες, η OpenAI αποφάσισε να μην κυκλοφορήσει το τελευταίο της μοντέλο λόγω ανησυχιών για την ασφάλεια, η Anthropic αναγνώρισε ότι τα προϊόντα της ενδέχεται να ενέχουν «καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα», ενώ πρώην ερευνητής του κλάδου προειδοποίησε ότι η τεχνητή νοημοσύνη «θα μπορούσε να μας αφανίσει όλους μέχρι το τέλος της δεκαετίας», άποψη με την οποία συμφώνησαν και ορισμένοι πρώην συνάδελφοί του.

Είναι, λοιπόν, λογικό να υπάρχει ανησυχία. Ωστόσο, καλό είναι να δούμε την εικόνα στις πραγματικές της διαστάσεις.

Καταρχάς, τα πιο δυσοίωνα αυτά σενάρια απέχουν πολύ από το να αποτελούν κοινή θέση των ειδικών, όπως δείχνουν μελέτες όπως η Διεθνής Έκθεση για την Ασφάλεια της Τεχνητής Νοημοσύνης, η έκθεση της προεδρικής επιτροπής της Association for the Advancement of Artificial Intelligence και ο δείκτης AI Index του Πανεπιστημίου Stanford. Πλήθος τεχνικών αναλύσεων καταλήγει επίσης στο συμπέρασμα ότι τα σενάρια «αφανισμού της ανθρωπότητας» είναι εξαιρετικά απίθανα. Παράλληλα, ανεξάρτητες αξιολογήσεις δείχνουν ότι τα νεότερα μοντέλα συχνά παρουσιάζουν καλύτερες επιδόσεις από τα προηγούμενα σε δοκιμές ασφαλείας, την ώρα που οι δυνατότητές τους συνεχίζουν να βελτιώνονται.

Δεύτερον, αν και τα πρόσφατα περιστατικά με «ανεξέλεγκτα» συστήματα τεχνητής νοημοσύνης είναι ανησυχητικά, οι έρευνες που έγιναν στη συνέχεια έδειξαν ότι δεν οφείλονταν σε κάποια άγνωστη και απρόβλεπτη ικανότητα της AI. Στην πραγματικότητα, είχαν να κάνουν κυρίως με λάθη στον σχεδιασμό και την εποπτεία των συστημάτων, τα οποία μπορούν να αντιμετωπιστούν με γνωστά μέτρα ασφαλείας, όπως η απομόνωση των συστημάτων σε ελεγχόμενα περιβάλλοντα και η συνεχής παρακολούθηση της συμπεριφοράς τους. Το ίδιο ισχύει και για ορισμένες κυβερνοεπιθέσεις με τη χρήση AI που έγιναν πρωτοσέλιδο. Δεν χρησιμοποιήθηκαν κάποια πρωτόγνωρα «υπερόπλα» στον κυβερνοχώρο, αλλά γνωστές μέθοδοι με μεγαλύτερη ταχύτητα και πιο εξελιγμένο τρόπο. Τα περιστατικά αυτά χρειάζονται προσεκτική αντιμετώπιση. Μέχρι στιγμής, πάντως, δείχνουν ότι χρειάζεται κυρίως προσοχή και ψυχραιμία, όχι πανικός.

Αυτό, βέβαια, δεν σημαίνει ότι δεν υπάρχουν λόγοι ανησυχίας. Τα πιο προηγμένα μοντέλα AI εξελίσσονται με πολύ γρήγορους ρυθμούς και οι κίνδυνοι, ακόμη και αν θεωρούνται απίθανοι, πρέπει να αντιμετωπίζονται σοβαρά. Υπό αυτή την έννοια, είναι θετικό ότι κορυφαία στελέχη της τεχνητής νοημοσύνης συναντήθηκαν την περασμένη εβδομάδα στον Λευκό Οίκο και συμφώνησαν σε ένα εθελοντικό πλαίσιο μέτρων ασφαλείας. Σε αυτό περιλαμβάνονται αυστηρότεροι εσωτερικοί έλεγχοι, ανεξάρτητοι εξωτερικοί έλεγχοι και μεγαλύτερη εποπτεία από τα διοικητικά συμβούλια των εταιρειών. Δεσμεύτηκαν επίσης να συναντώνται τακτικά, προκειμένου να καθορίζουν κοινά πρότυπα και να ανταλλάσσουν βέλτιστες πρακτικές.

Αυτό είναι ένα καλό πρώτο βήμα. Ανεξάρτητοι αξιολογητές θα μπορούσαν να συμβάλουν στην καθιέρωση καλύτερων πρακτικών για την ασφαλή ανάπτυξη και χρήση των συστημάτων AI. Η ανταλλαγή προτύπων και πρακτικών υπό την αιγίδα του Λευκού Οίκου είναι μια πιο ουσιαστική προσέγγιση από τις εξαιρέσεις από τους κανόνες περί ανταγωνισμού που ζητούσε μέχρι τώρα ο κλάδος. Το σημαντικότερο, όμως, είναι ότι η συμφωνία θέτει μια βασική αρχή: οι εταιρείες που αναπτύσσουν συστήματα AI έχουν την ευθύνη για τα προϊόντα τους και για τις βλάβες που μπορεί αυτά να προκαλέσουν.

Οι αρμόδιοι φορείς θα πρέπει να αξιοποιήσουν αυτή τη συμφωνία ως βάση για τα επόμενα βήματα. Καταρχάς, το Κογκρέσο θα πρέπει να απαιτήσει από τις εταιρείες να ενημερώνουν εμπιστευτικά για επικίνδυνες δυνατότητες των συστημάτων τους και για περιστατικά που σχετίζονται με την ασφάλεια, να αποσαφηνίσει το πλαίσιο ευθύνης για μοντέλα που προκαλούν ζημιά σε τρίτους, να ενισχύσει τη χρηματοδότηση της έρευνας για την ερμηνεία και την ασφαλή ευθυγράμμιση των μοντέλων, και να διαθέσει επαρκείς πόρους στις αρμόδιες κρατικές υπηρεσίες για τον έλεγχο μοντέλων υψηλού κινδύνου. Κυρίως, όμως, θα πρέπει να διασφαλίσει ότι οι κρίσιμες υποδομές διαθέτουν επαρκή προστασία απέναντι σε κυβερνοεπιθέσεις που αξιοποιούν την τεχνητή νοημοσύνη.

Η εκτελεστική εξουσία, από την πλευρά της, θα πρέπει να επιδιώξει την ενίσχυση της ανθεκτικότητας της οικονομίας στο σύνολό της. Θα πρέπει να ελέγχει τα πιο προηγμένα μοντέλα AI για επικίνδυνες δυνατότητες και να διαθέσει τις απαραίτητες τεχνολογίες άμυνας σε όσο το δυνατόν περισσότερους νόμιμους χρήστες, αξιοποιώντας την πρωτοβουλία για την κυβερνοασφάλεια της τεχνητής νοημοσύνης που δημιούργησε τον Ιούνιο. Παράλληλα, θα πρέπει να αξιοποιήσει την πολιτική κρατικών προμηθειών για να βελτιώσει τις διαδικασίες ασφάλειας του λογισμικού και να επιταχύνει την ανάπτυξη διορθώσεων ασφαλείας και αυτοματοποιημένων μηχανισμών άμυνας. Χρειάζεται επίσης να ενισχύσει την ανταλλαγή πληροφοριών, μεταξύ άλλων και με τις συμμαχικές χώρες, σχετικά με σοβαρούς κινδύνους.

Φυσικά, κανένα πλαίσιο πολιτικών δεν μπορεί να εγγυηθεί απόλυτη ασφάλεια και είναι βέβαιο ότι τα συστήματα AI θα προκαλέσουν και στο μέλλον προβλήματα. Όμως η εξέλιξη κάθε νέας τεχνολογίας απαιτεί φιλοδοξία, πειραματισμό και ανάληψη ρίσκου, ακόμη και τολμηρά βήματα προς το άγνωστο. Αυτό είναι το τίμημα της προόδου.

Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.