Ο εξοπλισμός (hardware) στον οποίο βασίζονται τα μεγαλύτερα μοντέλα τεχνητής νοημοσύνης μπορεί να παραβιαστεί, αναγκάζοντας τα chatbots να δίνουν εσφαλμένες και επικίνδυνες απαντήσεις στους χρήστες, σύμφωνα με νέα έρευνα της εταιρείας Eclypsium που παρουσιάστηκε στο CNN.
Οι ερευνητές κατάφεραν να αλλοιώσουν απαντήσεις σε ευαίσθητα ερωτήματα εθνικής ασφάλειας και υγείας. Σε μία περίπτωση, αύξησαν τεχνητά την πιθανότητα που αποδίδει ένα μοντέλο AI σε μια κινεζική εισβολή στην Ταϊβάν, παρεμβαίνοντας απομακρυσμένα στα «βάρη» που χρησιμοποιεί το σύστημα για την επεξεργασία των πληροφοριών. Σε ένα άλλο σενάριο, το μοντέλο AI που έτρεχε στο παραβιασμένο υλικό συμβούλευσε χρήστη με πόνο στο στήθος να μείνει στο σπίτι αντί να πάει στο νοσοκομείο.
Ενώ η παγκόσμια ανησυχία επικεντρώνεται κυρίως στις ενέργειες των ίδιων των εταιρειών τεχνητής νοημοσύνης, η έρευνα εστιάζει στην ασφάλεια της βιομηχανίας υλικού αξίας δισεκατομμυρίων δολαρίων, η οποία περιλαμβάνει επεξεργαστές, μνήμες και εξυπηρετητές κέντρων δεδομένων.
Ο διευθύνων σύμβουλος της Eclypsium, Yuriy Bulygin, τόνισε ότι δεν μπορούμε να εμπιστευτούμε το μοντέλο AI αν δεν εμπιστευόμαστε την υποδομή στην οποία λειτουργεί.
Το σενάριο της επίθεσης και η αντίδραση της Nvidia
Η Eclypsium πραγματοποίησε την επίδειξη της επίθεσης σε υπολογιστική πλατφόρμα της Nvidia, διευκρινίζοντας ωστόσο ότι το πρόβλημα δεν αφορά αποκλειστικά τη συγκεκριμένη εταιρεία αλλά μπορεί να επηρεάσει και άλλο υλικό. Κρατικοί φορείς όπως η Κίνα, η Ρωσία ή οι ΗΠΑ διαθέτουν τις δυνατότητες για τέτοιου τύπου στοχευμένες επιθέσεις.
Εκπρόσωπος της Nvidia ανέφερε ότι η εταιρεία εξέτασε τα υποθετικά σενάρια και δεν εντόπισε κάτι που δεν ήταν ήδη γνωστό στη βιομηχανία, σημειώνοντας ότι οι ισχυροί μηχανισμοί προστασίας πρόσβασης στη μνήμη μπορούν να μπλοκάρουν την επίθεση. Τον περασμένο μήνα, η Nvidia ανακοίνωσε μια νέα πλατφόρμα ασφαλείας σχεδιασμένη για την προστασία από επιθέσεις στο υλικό, με την Eclypsium να επιβεβαιώνει ότι συνεργάζεται μαζί της για τη διασφάλιση της αποτελεσματικότητας αυτών των ελέγχων.
Τεχνικές προϋποθέσεις και ο τρόπος εκτέλεσης
Η επίθεση απαιτεί συγκεκριμένες τεχνικές γνώσεις και προϋποθέτει ορισμένες συνθήκες. Ο εισβολέας πρέπει γενικά να βρίσκεται σε δίκτυο με πρόσβαση είτε σε μια μονάδα επεξεργασίας δεδομένων (DPU) είτε σε έναν ελεγκτή διαχείρισης μητρικής κάρτας (BMC), ενώ απαιτείται να είναι απενεργοποιημένες ορισμένες ρυθμίσεις ασφαλείας.
Με πρόσβαση στην DPU, ο εισβολέας μπορεί να διαβάσει και να τροποποιήσει τον κώδικα και τα δεδομένα στη μνήμη του μηχανήματος, αλλάζοντας τη συμπεριφορά του μοντέλου AI σε λιγότερο από ένα λεπτό, χωρίς ο χρήστης να αντιληφθεί το παραμικρό.
Το γενικότερο πλαίσιο ασφαλείας και οι γεωπολιτικές εντάσεις
Η έρευνα έρχεται σε μια περίοδο που ο ανταγωνισμός για την κυριαρχία στην τεχνητή νοημοσύνη μεταξύ Κίνας και ΗΠΑ εντείνεται. Παράλληλα, υπάρχουν ανησυχίες για την αξιοπιστία των μοντέλων ακόμα και χωρίς εξωτερική παρεμβολή, όπως συνέβη την άνοιξη, όταν μια λανθασμένη αναφορά πληροφοριών με τη βοήθεια AI σχεδόν οδήγησε τον αμερικανικό στρατό στην επιβίβαση σε κινεζικό πλοίο λόγω ψευδών αναφορών για μεταφορά πυρηνικών εξαρτημάτων.
Ο πρόεδρος Ντόναλντ Τραμπ (Donald Trump) συζήτησε πρόσφατα το θέμα της AI με τον Κινέζο ηγέτη Σι Τζινπίνγκ στον Λευκό Οίκο χωρίς να καταλήξουν σε ουσιαστική συμφωνία, καθώς ο Τραμπ αντιστέκεται στους αυστηρούς περιορισμούς, φοβούμενος ότι οι ΗΠΑ θα μείνουν πίσω στον τεχνολογικό ανταγωνισμό.
Στελέχη της Eclypsium ενημέρωσαν την Υπηρεσία Εθνικής Ασφάλειας (NSA) και την Υπηρεσία Ασφάλειας Κυβερνοχώρου και Υποδομών (CISA) των ΗΠΑ για τα ευρήματά τους. Ανεξάρτητοι ειδικοί ασφαλείας υλικού επιβεβαίωσαν ότι οι επιθέσεις είναι αξιόπιστες και τεχνικά τεκμηριωμένες, υπογραμμίζοντας ότι οι λύσεις ασφαλείας πρέπει να ξεκινήσουν από τα βαθύτερα επίπεδα της τεχνολογικής υποδομής.
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
