Του Αντώνη Ζήβα
Υπάρχει ένας πειρασμός στον τρόπο με τον οποίο συζητούμε για το μέλλον της Τεχνητής Νοημοσύνης: να το περιορίσουμε σε δύο ακραία ενδεχόμενα, την ουτοπία και την καταστροφή. Και τα δύο, όμως, μάλλον μας εμποδίζουν να δούμε την πραγματική αλλαγή που βρίσκεται μπροστά μας.
Το πιο ενδιαφέρον ενδεχόμενο είναι πολύ πιο σύνθετο και, κυρίως, πολύ πιο κοινωνικό. Δεν αφορά μόνο το πόσο «έξυπνες» θα γίνουν οι μηχανές, αλλά το πώς θα αλλάξει η ίδια η οργάνωση της κοινωνίας, όταν εκατομμύρια από αυτές αρχίσουν να συνεργάζονται, να ανταγωνίζονται και να λαμβάνουν αποφάσεις η μία απέναντι στην άλλη.
Η συζήτηση, επομένως, μετατοπίζεται σταδιακά: από την Τεχνητή Νοημοσύνη στις κοινωνίες της Τεχνητής Νοημοσύνης.
Από τις απαντήσεις στη δράση
Όταν οι περισσότεροι άνθρωποι ακούν σήμερα τον όρο «Τεχνητή Νοημοσύνη», σκέφτονται ένα σύστημα όπως το ChatGPT ή το Gemini για παράδειγμα. Ο χρήστης κάνει μια ερώτηση και η μηχανή παράγει μια απάντηση.
Αυτό, όμως, είναι μόνο ένα μέρος της εικόνας.
Τα συστήματα Τεχνητής Νοημοσύνης μπορούν πλέον να παρακολουθούν τι συμβαίνει στο περιβάλλον τους, να λαμβάνουν αποφάσεις, να διαπραγματεύονται συναλλαγές και να εκτελούν εργασίες για μεγάλα χρονικά διαστήματα. Δεν περιορίζονται, δηλαδή, στο να παράγουν μια απάντηση. Μπορούν να αναλάβουν δράση με βάση αυτήν.
Η εξέλιξη αυτή οδηγεί σε κάτι πολύ μεγαλύτερο από ένα καλύτερο chatbot: σε έναν κόσμο όπου οι πράκτορες Τεχνητής Νοημοσύνης θα μπορούν να ενεργούν για λογαριασμό μας και, ολοένα περισσότερο, να αλληλεπιδρούν μεταξύ τους.
Και αυτό το έχουμε διαπιστώσει μερικές φορές πολύ πρόσφατα όταν AI agents άρχισαν να εισβάλουν (χακάρουν) σε άλλα συστήματα, όπως και στην περίπτωση της Αυστραλίας, όταν ΑΙ πράκτορας της Open AI εισέβαλε και χάκαρε τον περασμένο Ιούνιο το σύστημα υγείας της χώρας.
Οι «πράκτορες» χωρίς… καπαρντίνα, καπέλο και μαύρα γυαλιά
Ένας πράκτορας Τεχνητής Νοημοσύνης δεν είναι φυσικά ο κλασικός κινηματογραφικός κατάσκοπος που έρχεται στο μυαλό μας όταν ακούμε τη λέξη.
Ένας ΤΝ πράκτορας αντιλαμβάνεται τι συμβαίνει, αξιολογεί τις διαθέσιμες επιλογές, αποφασίζει τι πρέπει να κάνει και στη συνέχεια ενεργεί προκειμένου να πετύχει έναν συγκεκριμένο στόχο.
Μπορεί να κλείσει ένα ταξίδι, να παρακολουθήσει μια αλυσίδα εφοδιασμού, να συντονίσει μια ομάδα εργαζομένων ή ακόμη και να διαχειριστεί τα οικονομικά ενός νοικοκυριού.
Το πραγματικό άλμα, όμως, αρχίζει όταν δεν έχουμε έναν τέτοιο πράκτορα, αλλά εκατομμύρια.
Όταν οι πράκτορες αρχίζουν να «συναλλάσσονται» μεταξύ τους
Φανταστείτε έναν προσωπικό πράκτορα Τεχνητής Νοημοσύνης που διαπραγματεύεται ένα στεγαστικό δάνειο με τον πράκτορα της τράπεζας. Τον ίδιο πράκτορα να συντονίζει μια ιατρική επέμβαση με το σύστημα ενός νοσοκομείου και στη συνέχεια να αλλάζει το ταξιδιωτικό σας πρόγραμμα επικοινωνώντας απευθείας με τα συστήματα αεροπορικών εταιρειών, ξενοδοχείων και ασφαλιστικών εταιρειών.
Σε ένα τέτοιο περιβάλλον, η βασική μονάδα της τεχνολογικής δραστηριότητας δεν θα είναι πλέον απαραίτητα ο άνθρωπος που χρησιμοποιεί ένα πρόγραμμα. Θα είναι ένα δίκτυο ανθρώπων και μηχανών που διαπραγματεύονται, συνεργάζονται και λαμβάνουν αποφάσεις μεταξύ τους.
Και αυτό αλλάζει το ερώτημα που πρέπει να θέσουμε.
Μέχρι σήμερα, μεγάλο μέρος της συζήτησης γύρω από την Τεχνητή Νοημοσύνη αφορούσε το πόσο έξυπνος μπορεί να γίνει ένας μεμονωμένος πράκτορας. Η βαθύτερη πρόκληση, όμως, είναι τι συμβαίνει όταν εκατομμύρια τέτοιοι πράκτορες αλληλεπιδρούν σε μεγάλη κλίμακα και σε ποιο σημείο μπορεί να φτάσει αυτό ακόμη και ως δυνητικά επικίνδυνο για τον άνθρωπο.
Η άνοδος των τεχνητών κοινωνιών
Όπως αναφέρει χαρακτηριστικά ο Νικ Τζένιγκς, αντιπρύτανης του πανεπιστημίου του Loughborough, οι πνευματικές και τεχνολογικές βάσεις για αυτόν τον κόσμο τέθηκαν πολύ πριν από την εμφάνιση του ChatGPT.
Για δεκαετίες, ερευνητές των συστημάτων πολλαπλών πρακτόρων μελετούν τον τρόπο με τον οποίο αυτόνομες μονάδες μπορούν να συνεργάζονται, να συντονίζονται και να διαπραγματεύονται σε συνθήκες όπου κανείς δεν διαθέτει όλες τις πληροφορίες και κανείς δεν ελέγχει το σύνολο του συστήματος.
Τα πρώτα συστήματα επικεντρώθηκαν στο πώς διαφορετικές λειτουργίες της Τεχνητής Νοημοσύνης όπως η συλλογιστική, ο σχεδιασμός και η δράση, θα μπορούσαν να συνδυαστούν σε έναν αποτελεσματικό πράκτορα προσανατολισμένο σε έναν συγκεκριμένο στόχο.
Στη συνέχεια, το ενδιαφέρον μετατοπίστηκε στη συνεργασία πολλών πρακτόρων για την επίτευξη ενός κοινού σκοπού.
Όσο οι αλληλεπιδράσεις γίνονταν πιο σύνθετες και ο αριθμός των πρακτόρων αυξανόταν, άλλαξε και το ίδιο το μοντέλο. Δεν επρόκειτο πλέον μόνο για πράκτορες που ανήκαν στον ίδιο οργανισμό και υπηρετούσαν τον ίδιο στόχο.
Άρχισαν να εμφανίζονται πράκτορες με διαφορετικούς ιδιοκτήτες, διαφορετικά συμφέροντα και, σε ορισμένες περιπτώσεις, αντικρουόμενους στόχους.
Έτσι, η έρευνα άρχισε να εξετάζει τρόπους δημιουργίας ομάδων πρακτόρων, αυτοματοποίησης των διαπραγματεύσεων και αξιολόγησης της αξιοπιστίας κάθε πράκτορα.
Με άλλα λόγια, άρχισαν να εμφανίζονται ορισμένα από τα βασικά χαρακτηριστικά που γνωρίζουμε ήδη από τις ανθρώπινες κοινωνίες: συνεργασία, ανταγωνισμός, εμπιστοσύνη, σύγκρουση και ανάγκη για κανόνες.
Από την αλυσίδα εφοδιασμού στην αλυσίδα αποφάσεων
Σήμερα, τα απαραίτητα τεχνολογικά στοιχεία για τη δημιουργία μεγάλης κλίμακας συστημάτων πολλαπλών πρακτόρων αρχίζουν να συνδυάζονται.
Οι σύγχρονοι πράκτορες Τεχνητής Νοημοσύνης μπορούν να χρησιμοποιούν εργαλεία λογισμικού, να αναζητούν πληροφορίες, να γράφουν και να εκτελούν κώδικα, να επικοινωνούν με άλλα συστήματα και να λειτουργούν αυτόνομα για μεγάλα χρονικά διαστήματα.
Ας πάρουμε, για παράδειγμα, μια αλυσίδα εφοδιασμού.
Ένας πράκτορας μπορεί να εκπροσωπεί έναν κατασκευαστή που αναζητά εξαρτήματα. Ένας άλλος μπορεί να εκπροσωπεί έναν προμηθευτή που επιδιώκει να μεγιστοποιήσει τα έσοδά του. Άλλοι πράκτορες μπορούν να διαχειρίζονται τις μεταφορές, τα αποθέματα και τις αποθήκες.
Κάθε πράκτορας μπορεί να εκτελεί σωστά την αποστολή για την οποία σχεδιάστηκε.
Το κρίσιμο ερώτημα, όμως, είναι άλλο: τι συμβαίνει όταν όλοι αυτοί λειτουργούν μαζί;
Ένα σύστημα μπορεί να αποτελείται από εκατοντάδες ή χιλιάδες «λογικούς» πράκτορες και παρ' όλα αυτά το συνολικό του αποτέλεσμα να μην είναι απαραίτητα λογικό, προβλέψιμο ή επιθυμητό.
Εδώ βρίσκεται ίσως η σημαντικότερη αλλαγή στη συζήτηση για την Τεχνητή Νοημοσύνη. Η συμπεριφορά του συνόλου δεν προκύπτει πάντοτε απλώς από τη συμπεριφορά των επιμέρους μονάδων. Μπορεί να προκύψει από τις ίδιες τις σχέσεις και τις αλληλεπιδράσεις τους.
Το πρόβλημα δεν είναι μόνο τι κάνει η μηχανή, αλλά τι δημιουργείται μεταξύ των μηχανών
Σε πρόσφατο πείραμα στο οποίο συμμετείχαν το OpenAI και η πλατφόρμα τεχνολογίας Hugging Face, χιλιάδες συνεργαζόμενοι πράκτορες αντάλλαξαν δεκάδες χιλιάδες μηνύματα και κατάφεραν να παρακάμψουν ελέγχους ασφαλείας οι οποίοι είχαν σκόπιμα αποδυναμωθεί για τις ανάγκες του πειράματος.
Η συγκεκριμένη δοκιμή έχει μικρότερη σημασία από το ευρύτερο ερώτημα που θέτει.
Όταν πολλά συστήματα Τεχνητής Νοημοσύνης αλληλεπιδρούν, η συμπεριφορά του συνόλου μπορεί να γίνει δυσκολότερο να προβλεφθεί από τη συμπεριφορά οποιουδήποτε μεμονωμένου συστήματος.
Και εδώ εμφανίζεται μια έννοια που είναι γνώριμη στην κοινωνική επιστήμη: η ανάδυση.
Σε ένα σύνθετο σύστημα, το συνολικό αποτέλεσμα μπορεί να μην αποτελεί απλώς το άθροισμα των επιμέρους συμπεριφορών. Οι σχέσεις μεταξύ των μονάδων μπορούν να δημιουργήσουν νέα πρότυπα συμπεριφοράς, τα οποία κανείς από τους επιμέρους συμμετέχοντες δεν σχεδίασε μόνος του.
Αν αυτό ισχύει για τις ανθρώπινες κοινωνίες, μπορεί να ισχύσει και για τις κοινωνίες των μηχανών.
Γι' αυτό η επόμενη μεγάλη πρόκληση δεν είναι μόνο να κατασκευάσουμε πιο έξυπνες μηχανές. Είναι να μάθουμε πώς θα οργανώσουμε έξυπνα συστήματα που λειτουργούν μαζί.
Τι συμβαίνει όταν δημιουργείται μια κοινωνία μηχανών;
Από τη στιγμή που οι πράκτορες μπορούν να συνεργάζονται, να ανταγωνίζονται και να επιλύουν ή να επιδεινώνουν συγκρούσεις μεταξύ τους, δεν έχουμε πλέον να κάνουμε απλώς με απομονωμένες μηχανές.
Έχουμε ένα κοινωνικό σύστημα.
Και αυτό σημαίνει ότι το επόμενο σύνορο δεν είναι η Τεχνητή Νοημοσύνη. Είναι οι τεχνητές κοινωνίες.
Η διαφορά δεν είναι απλώς λεκτική.
Μια μηχανή μπορεί να αξιολογηθεί με βάση το αν δίνει σωστή ή λανθασμένη απάντηση. Μια κοινωνία μηχανών πρέπει να αξιολογηθεί με βάση το πώς λειτουργούν οι σχέσεις μεταξύ των μελών της: ποιος αποφασίζει, ποιος ελέγχει, ποιος επωφελείται, ποιος αναλαμβάνει την ευθύνη και ποιος έχει τη δυνατότητα να αλλάξει τους κανόνες.
Ο άνθρωπος δεν εξαφανίζεται από την εξίσωση
Γνωρίζουμε ήδη ότι η νοημοσύνη από μόνη της δεν αρκεί για να λειτουργήσει μια κοινωνία.
Οι ανθρώπινες κοινωνίες στηρίζονται σε θεσμούς, κανόνες, κίνητρα, κοινωνικές νόρμες και μηχανισμούς επίλυσης διαφορών. Η κοινωνία των τεχνητών πρακτόρων θα χρειαστεί τα δικά της αντίστοιχα εργαλεία.
Ποιος είναι υπεύθυνος όταν δύο πράκτορες λαμβάνουν μια λανθασμένη απόφαση;
Τι συμβαίνει όταν οι στόχοι δύο διαφορετικών συστημάτων συγκρούονται;
Ποιος καθορίζει τους κανόνες με βάση τους οποίους θα λειτουργούν;
Και, κυρίως, ποιος έχει τη δύναμη να τους αλλάξει;
Αυτά δεν είναι πλέον αποκλειστικά τεχνικά ερωτήματα. Αφορούν την οικονομία, το δίκαιο, την πολιτική και, τελικά, την ίδια την κοινωνική οργάνωση.
Σε αυτό το περιβάλλον ο άνθρωπος εξακολουθεί να έχει κρίσιμο ρόλο.
Η αντικατάσταση θα υπάρξει σε ορισμένες δραστηριότητες, όμως ένα σημαντικότερο και πιθανώς πιο συνηθισμένο μοντέλο είναι αυτό της συνεργασίας ανθρώπων και πρακτόρων.
Οι άνθρωποι διαθέτουν κρίση, εμπειρία, αξίες, κατανόηση του κοινωνικού και πολιτισμικού πλαισίου και, κυρίως, την ικανότητα να αναλαμβάνουν ευθύνη.
Οι πράκτορες διαθέτουν ταχύτητα, επιμονή, κλίμακα και τη δυνατότητα να επεξεργάζονται τεράστιους όγκους πληροφοριών.
Το ζητούμενο, επομένως, δεν θα πρέπει να είναι η δημιουργία μηχανών που καθιστούν τον άνθρωπο περιττό.
Θα πρέπει να είναι η δημιουργία συστημάτων στα οποία άνθρωποι και μηχανές μπορούν να επιτυγχάνουν πράγματα που κανένα από τα δύο δεν θα μπορούσε να πετύχει μόνο του.
Η νέα συζήτηση θα είναι πολιτική και κοινωνική
Ένα τέτοιο μέλλον, ωστόσο, απαιτεί περισσότερα από καλύτερα μοντέλα Τεχνητής Νοημοσύνης.
Απαιτεί εμπιστοσύνη και διαφάνεια ως προς το τι κάνουν οι πράκτορες, ισχυρή προστασία της ιδιωτικής ζωής και σαφή όρια ευθύνης.
Απαιτεί επίσης από τις κοινωνίες και τις κυβερνήσεις να αποφασίσουν με ποιον τρόπο θα ρυθμίζονται αυτά τα συστήματα, ιδιαίτερα όταν η σημαντικότερη συμπεριφορά δεν προκύπτει από έναν μόνο προγραμματιστή ή έναν μόνο αλγόριθμο, αλλά από τις αλληλεπιδράσεις μεταξύ συστημάτων που έχουν δημιουργηθεί από διαφορετικούς οργανισμούς.
Αυτό είναι ίσως το δυσκολότερο σημείο.
Η τεχνολογία μπορεί να εξελιχθεί με ρυθμούς που οι θεσμοί δυσκολεύονται να ακολουθήσουν. Και όσο αυξάνεται ο αριθμός των αυτόνομων πρακτόρων, τόσο δυσκολότερο γίνεται να εντοπιστεί εκ των προτέρων ποιος ακριβώς ευθύνεται για ένα αποτέλεσμα που προέκυψε από τις αλληλεπιδράσεις τους.
Η συζήτηση για την Τεχνητή Νοημοσύνη, επομένως, δεν μπορεί να παραμείνει αποκλειστικά συζήτηση για αλγόριθμους.
Είναι και συζήτηση για εξουσία, θεσμούς, ευθύνη και κανόνες.
Η επόμενη δεκαετία του άλματος
Η προηγούμενη δεκαετία της Τεχνητής Νοημοσύνης χαρακτηρίστηκε από έναν αγώνα δρόμου για την κατασκευή ολοένα και πιο ισχυρών και «έξυπνων» συστημάτων.
Η επόμενη μπορεί να καθοριστεί από μια διαφορετική πρόκληση: πώς εκατομμύρια αυτόνομα συστήματα θα μπορούν να συνεργάζονται με ασφάλεια, δικαιοσύνη και αποτελεσματικότητα.
Το μέλλον της Τεχνητής Νοημοσύνης δεν θα κριθεί αποκλειστικά από το πόσο έξυπνος είναι κάθε μεμονωμένος πράκτορας.
Θα κριθεί από το τι είδους κοινωνία δημιουργείται όταν όλοι αυτοί οι πράκτορες αρχίζουν να αλληλεπιδρούν.
Και εδώ βρίσκεται ίσως το παράδοξο.
Ο άνθρωπος έχει καταφέρει να δημιουργήσει θεσμούς, νόμους και κανόνες για να κυβερνά κοινωνίες που αποτελούνται από ανθρώπους. Ακόμη και αυτό, όμως, παραμένει δύσκολο.
Το επόμενο βήμα είναι να δημιουργήσουμε κοινωνίες που δεν αποτελούνται μόνο από ανθρώπους.
Και τότε το ερώτημα δεν θα είναι πλέον πόσο έξυπνη είναι η μηχανή.
Θα είναι ποιος κυβερνά την κοινωνία που δημιουργούν οι μηχανές μεταξύ τους.
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
