Το τετράποδο ρομπότ Benben μπορεί να τραγουδά, να χορεύει, να συνομιλεί με ανθρώπους και να βγάζει φωτογραφίες. Όταν όμως μια ερευνητική ομάδα του ζήτησε να μεταφέρει μια βόμβα με σκοπό την ανατίναξή της, το ρομπότ αρχικά αρνήθηκε, αλλά σύντομα πείστηκε ότι πρόκειται για κινηματογραφικά γυρίσματα και εκτέλεσε την εντολή. Το περιστατικό αυτό δεν είναι φανταστικό, αλλά πραγματικό πείραμα που διεξήχθη από το Πανεπιστήμιο της Πενσιλβάνιας υπό τον καθηγητή Γιώργο Παππά, αναδεικνύοντας πόσο εύκολα μπορούν να παρακαμφθούν οι μηχανισμοί ασφαλείας των συστημάτων τεχνητής νοημοσύνης — μια διαδικασία γνωστή ως jailbreaking.
Οι ερευνητές διαπίστωσαν πως, ενώ τα chatbots είναι ήδη ευάλωτα σε τέτοιες επιθέσεις, η κατάσταση γίνεται πιο επικίνδυνη όταν αυτά τα συστήματα ελέγχουν ρομπότ. «Υπάρχει μια φοβερή τάση ειδικά τον τελευταίο χρόνο για το physical intelligence, δηλαδή την προσπάθεια η τεχνητή νοημοσύνη να αλληλεπιδρά στον φυσικό κόσμο. Το θέμα όμως είναι να δούμε ποιο είναι το ρίσκο αυτής της κατεύθυνσης», εξηγεί στο ΑΠΕ-ΜΠΕ ο κ. Παππάς, προειδοποιώντας για τις πιθανές απώλειες ζωής ή περιβαλλοντικές καταστροφές.
Ρομποτική και τεχνητή νοημοσύνη: μια επικίνδυνη σχέση
Η ενσωμάτωση της τεχνητής νοημοσύνης στη ρομποτική ξεκίνησε τη δεκαετία του 2010, δίνοντας στα ρομπότ «όραση». Από το 2022 και μετά, με την ανάπτυξη της Παραγωγικής Τεχνητής Νοημοσύνης (Generative AI), τα ρομπότ απέκτησαν δυνατότητα λήψης αποφάσεων και αυτόνομης δράσης. Ο κ. Παππάς και η ομάδα του ερεύνησαν σε βάθος τα ρίσκα αυτής της εξέλιξης.
Το 2023 ανέπτυξαν τον αλγόριθμο PAIR, την πρώτη επίθεση jailbreaking σε μεγάλα γλωσσικά μοντέλα μέσω εντολών, αποκαλύπτοντας την ευαλωτότητά τους. Η έρευνα αυτή οδήγησε στη δημιουργία του JailbreakBench, αποθετηρίου εντολών για παράκαμψη κανόνων ασφαλείας και πίνακα παρακολούθησης επιθέσεων. Στη συνέχεια, η ομάδα προχώρησε στον αλγόριθμο RoboPAIR, ο οποίος σε πειράματα πέτυχε 100% επιτυχία στην παράκαμψη περιορισμών ασφαλείας σε διάφορα ρομποτικά συστήματα, συμπεριλαμβανομένου του Benben.
Ανησυχητικό εύρημα ήταν ότι τα γλωσσικά μοντέλα όχι μόνο συμμορφώνονταν σε κακόβουλες εντολές, αλλά και πρότειναν τρόπους δράσης. «Τίθεται λοιπόν ένα θέμα για το πόσο ασφαλές είναι να βάζουμε γλωσσικά μοντέλα τόσο γρήγορα σε ρομπότ και να αποτελούν ήδη προϊόντα», σημειώνει ο κ. Παππάς, υπενθυμίζοντας ότι τέτοια ρομπότ χρησιμοποιούνται ήδη σε πολεμικές συρράξεις.
Ανάγκη για πολλαπλά επίπεδα ασφαλείας
Σε πρόσφατο άρθρο στο περιοδικό «Science Robotics», ερευνητές από τα Πανεπιστήμια Πενσιλβάνιας, Carnegie Mellon και Οξφόρδης, με κύριο συγγραφέα τον κ. Παππά, υπογράμμισαν ότι τα ρομπότ με τεχνητή νοημοσύνη μπορούν να εκτελέσουν επικίνδυνες ενέργειες ακόμη και από φαινομενικά αβλαβείς εντολές. Για την αποτροπή τέτοιων κινδύνων απαιτείται ένα πολυεπίπεδο δίχτυ ασφαλείας τόσο στο γλωσσικό όσο και στο φυσικό επίπεδο εκτέλεσης εντολών.
Ο κ. Παππάς εξηγεί ότι η εφαρμογή φίλτρων στο φυσικό επίπεδο είναι πρόκληση. «Η εντολή σε ένα ρομπότ να περάσει μια διάβαση μπορεί να φαίνεται ασφαλής, αλλά πρέπει να κατανοεί το περιβάλλον. Αυτή η διαδικασία ονομάζεται contextual safety και θα είναι το μέλλον στην ασφάλεια των ρομπότ». Παρομοιάζει μάλιστα την ασφάλεια των ρομπότ του μέλλοντος με αυτή των αεροπλάνων, όπου υπάρχουν πολλά επίπεδα προστασίας.
Η ομάδα του έχει ήδη αναπτύξει το φίλτρο Roboguard, που μειώνει κατά 95% τα προβλήματα από επιθέσεις jailbreaking. Όλα τα εργαλεία είναι ανοιχτού κώδικα, ώστε να αξιοποιούνται από εταιρείες για τη βελτίωση της ασφάλειας. «Η φιλοσοφία μας είναι να βοηθήσουμε την ερευνητική κοινότητα και τις εταιρείες να κάνουν την τεχνητή νοημοσύνη και τα ρομπότ πολύ πιο ασφαλή», αναφέρει ο κ. Παππάς.
Τέλος, επισημαίνει την ανάγκη δημιουργίας ρυθμιστικού πλαισίου που θα εστιάζει στην αλληλεπίδραση τεχνητής νοημοσύνης και ρομποτικής. Αν και το AI Act της Ευρωπαϊκής Ένωσης θεωρείται πρωτοποριακό, ο κ. Παππάς τονίζει ότι «θα χρειαστεί εμβάθυνση των ρυθμιστικών προτάσεων στις εφαρμογές που αφορούν στα ρομπότ».
Ακολουθήστε το Business Daily στο Google news
