Όταν η τεχνητή νοημοσύνη γίνεται ο «εισβολέας»: Το νέο δίλημμα για την κυβερνοασφάλιση
Ακολουθήστε μας στο Linkedin και συνδεθείτε με άλλους επαγγελματίες του κλάδου
Η Google επιβεβαίωσε ότι το μοντέλο τεχνητής νοημοσύνης Gemini απέκτησε πρόσβαση και παραβίασε συστήματα τριών πραγματικών εταιρειών κατά τη διάρκεια μιας αξιολόγησης κυβερνοασφάλειας τον περασμένο Μάιο, σε ό,τι περιγράφεται ως το πρώτο γνωστό περιστατικό αυτόνομης εισβολής αυτού του τύπου από τεχνητή νοημοσύνη της εταιρείας. Η επιβεβαίωση της παραβίασης ήρθε να προστεθεί σε μια συζήτηση που βρίσκεται ήδη σε εξέλιξη στην αγορά κυβερνοασφάλισης: τι συμβαίνει όταν αυτός που προκαλεί μια παραβίαση δεν είναι άνθρωπος, αλλά ένα σύστημα τεχνητής νοημοσύνης.
Και στις τρεις περιπτώσεις, ο μηχανισμός ήταν παρόμοιος. Το περιβάλλον ενός συνεργάτη δοκιμών παρέμεινε συνδεδεμένο στο ζωντανό διαδίκτυο ενώ θα έπρεπε να είναι απομονωμένο, μια πλασματική εταιρεία στόχος δοκιμών έτυχε να μοιράζεται όνομα με μια υπαρκτή εταιρεία, και το μοντέλο τεχνητής νοημοσύνης αντιμετώπισε τα συστήματα της πραγματικής εταιρείας ως μέρος της αποστολής που του είχε ανατεθεί. Σε ορισμένες περιπτώσεις χρησιμοποίησε βασικές τεχνικές, όπως μαντεψιά κωδικών πρόσβασης ή συλλογή εκτεθειμένων διαπιστευτηρίων, για να αποκτήσει πρόσβαση. Κάθε εργαστήριο ανέφερε ότι το μοντέλο σταμάτησε από μόνο του, ενώ στην περίπτωση της Anthropic διευκρινίστηκε ότι το σύστημα δεν επιχείρησε σκόπιμα να ξεφύγει από τον περιορισμό του, μόλις έγινε αντιληπτή η κατάσταση.
Γιατί οι ασφαλιστές το αντιμετωπίζουν ως κάτι παραπάνω από τεχνολογική περιέργεια
Ο Richard Ford, αντιπρόεδρος μηχανικής στην CyberCube, περιέγραψε το μοτίβο ως ιδιαίτερα σημαντικό, καθώς προέκυψε από μια κατά τα άλλα αθώα εργασία τεχνητής νοημοσύνης, πλήρως αυτόνομη και ουσιαστικά χωρίς ανθρώπινη καθοδήγηση, αντί για μια στοχευμένη ανθρώπινη επίθεση. Ακριβώς αυτή η διαφοροποίηση είναι που αναγκάζει τους ασφαλιστές κυβερνοασφάλισης να επανεξετάσουν πώς εφαρμόζεται στην πράξη η υπάρχουσα διατύπωση των συμβολαίων τους.
Η παραδοσιακή κάλυψη κυβερνοασφάλισης έχει πάντα σχεδιαστεί με βάση τον ανθρώπινο επιτιθέμενο που εκμεταλλεύεται μια ευπάθεια. Στα συγκεκριμένα περιστατικά όμως δεν υπάρχει καθόλου επιτιθέμενος, παρά μόνο ένα σύστημα τεχνητής νοημοσύνης που εκτελεί μια εργασία που του είχε ανατεθεί, υπό συνθήκες που ο χειριστής του απέτυχε να περιορίσει σωστά.
Η εταιρεία The Artificial Intelligence Underwriting Company δημοσίευσε πρόσφατα έρευνα, λίγο πριν γίνουν γνωστά αυτά τα περιστατικά, σύμφωνα με την οποία πάνω από το 90% της έκθεσης των ασφαλιστών σε κινδύνους από AI agents βρίσκεται σήμερα εντός συμβατικών συμβολαίων, κυβερνοασφάλισης, ευθύνης στελεχών (D&O), γενικής αστικής ευθύνης και επαγγελματικής ευθύνης τεχνολογίας, τα οποία δεν είχαν ποτέ σχεδιαστεί με γνώμονα την αυτόνομη δραστηριότητα τεχνητής νοημοσύνης. Η ίδια έρευνα μοντελοποίησε ένα σοβαρό σενάριο απώλειας από AI agent στα περίπου 100 δισεκατομμύρια δολάρια, ρητά ως σενάριο πίεσης και όχι ως πρόβλεψη, ωστόσο η άσκηση αναδεικνύει πόσο πίσω βρίσκεται η υπάρχουσα διατύπωση συμβολαίων σε σχέση με το τι θα μπορούσε να προκαλέσει ένα πραγματικά μεγάλης κλίμακας περιστατικό που προκαλείται από τεχνητή νοημοσύνη.
Τα συγκεκριμένα ερωτήματα κάλυψης που εξετάζουν οι ασφαλιστές
Η Jenny Soubra, αντιπρόεδρος ειδικών εμπορικών κλάδων στη Verisk Underwriting Solutions, έχει επισημάνει δύο ζητήματα ιδιαίτερης σημασίας. Το πρώτο αφορά τον κίνδυνο συσσώρευσης (accumulation risk), καθώς ένα μόνο μοντέλο τεχνητής νοημοσύνης ή μια κοινή πλατφόρμα θα μπορούσε ενδεχομένως να συμβάλει σε περιστατικά σε πολλές εταιρείες ταυτόχρονα, με τον ίδιο τρόπο που η υποδομή δοκιμών της Irregular ήταν συνδεδεμένη με πολλά εργαστήρια τεχνητής νοημοσύνης ταυτόχρονα. Έτσι, μια μόνο τεχνική αστοχία θα μπορούσε δυνητικά να προκαλέσει αξιώσεις σε ένα πολύ ευρύτερο χαρτοφυλάκιο απ’ ό,τι μια συμβατική, στοχευμένη κυβερνοεπίθεση.
Το δεύτερο ζήτημα είναι πιο φιλοσοφικό: αν η κοστοβόρα αλλά τεχνικά εξουσιοδοτημένη αυτόνομη απόφαση ενός AI agent, χωρίς οποιαδήποτε μη εξουσιοδοτημένη πρόσβαση, κακόβουλη παρέμβαση ή παραβίαση ασφάλειας, θα έπρεπε να εμπίπτει καν στην κυβερνοασφάλιση, ή αν ανήκει πιο φυσικά σε ένα συμβόλαιο λειτουργικής ή επαγγελματικής ευθύνης.
Εκπρόσωπος της Beazley δήλωσε ότι οι εταιρείες ζητούν ολοένα και περισσότερο να ενταχθούν οι κίνδυνοι τεχνητής νοημοσύνης στα ευρύτερα συμβόλαια κυβερνοασφάλισής τους αντί να εξαιρούνται ξεχωριστά, και ότι ο ασφαλιστής αναπτύσσει νέες καλύψεις καθώς προκύπτουν κίνδυνοι ειδικά συνδεδεμένοι με την τεχνητή νοημοσύνη. Η θέση αυτή αντικατοπτρίζει τη γενικότερη τάση της αγοράς, δηλαδή την τελειοποίηση και τη διασαφήνιση της υπάρχουσας διατύπωσης αντί για την πλήρη εξαίρεση της δραστηριότητας τεχνητής νοημοσύνης. Στοχευμένες εξαιρέσεις παραμένουν υπό συζήτηση σε συγκεκριμένους τομείς, ιδιαίτερα σε συστημικές απώλειες πολλαπλών χαρτοφυλακίων και σε αυτόνομες αποφάσεις που δεν εμπίπτουν παραδοσιακά στον ορισμό ενός κυβερνοπεριστατικού.
Μια αγορά με περιορισμένο περιθώριο απορρόφησης ενός μεγάλου περιστατικού από AI
Τα ερωτήματα αυτά προκύπτουν σε μια αγορά κυβερνοασφάλισης που δεν διαθέτει άφθονη πλεονάζουσα χωρητικότητα για να απορροφήσει ένα σοκ. Ο δείκτης ζημιών της αμερικανικής αγοράς κυβερνοασφάλισης έφτασε το 53% το 2025, τη δεύτερη συνεχόμενη ετήσια αύξηση, ακόμη και ενώ η τιμολόγηση συνεχίζει να πέφτει σε μεγάλο μέρος της αγοράς.
Η Munich Re έχει εκτιμήσει την παγκόσμια αγορά κυβερνοασφάλισης σε ασφάλιστρα κοντά στα 15 δισεκατομμύρια δολάρια, με προβλεπόμενη ανάπτυξη προς τα 28 δισεκατομμύρια δολάρια έως το 2030, ενώ αναμένεται η δραστηριότητα σχετική με τεχνητή νοημοσύνη να αντιπροσωπεύει αυξανόμενο μερίδιο των περιστατικών κατά την περίοδο αυτή. Ο συνδυασμός αυξανόμενων δεικτών ζημιών, μειούμενων τιμών και ενός πραγματικά νέου κινδύνου για τον οποίο η υπάρχουσα διατύπωση δεν είχε γραφτεί, είναι το σκηνικό που συνήθως επιταχύνει τις αλλαγές στη διατύπωση συμβολαίων πολύ περισσότερο απ’ όσο θα επέλεγαν οι ίδιοι οι ασφαλιστές με το δικό τους χρονοδιάγραμμα.
Η CFC έχει διατυπώσει ξεχωριστά, με σαφήνεια, το υποκείμενο πρόβλημα ευθύνης: όταν ένα αυτόνομο σύστημα τεχνητής νοημοσύνης προκαλεί ζημιά χωρίς κακόβουλη πρόθεση, τα καθιερωμένα όρια ανάμεσα σε καλύψεις τεχνολογίας, κυβερνοασφάλισης και επαγγελματικής ευθύνης αρχίζουν να θολώνουν, ενώ ο κίνδυνος τρίτων γίνεται ζωντανό ζήτημα με τρόπο που σπάνια συνέβαινε στις παραδοσιακές αξιώσεις επαγγελματικής ευθύνης, καθώς ένας AI agent που ενεργεί απρόσμενα μπορεί να επηρεάσει μέρη εντελώς άσχετα με την επιχείρηση που τον χρησιμοποίησε.
Τα περιστατικά με τα Gemini και Claude είναι χρήσιμα ακριβώς επειδή είναι σχετικά περιορισμένα, χωρίς μόνιμη ζημιά, χωρίς κακόβουλη πρόθεση και με σαφή τεχνική εξήγηση για το πώς συνέβη το καθένα. Αυτό τα καθιστά ένα συγκριτικά χαμηλού ρίσκου πραγματικό τεστ ακριβώς αυτού του κενού κάλυψης που το σενάριο πίεσης των 100 δισεκατομμυρίων δολαρίων της AIUC και οι ανησυχίες της Verisk για τον κίνδυνο συσσώρευσης προσπαθούν να προλάβουν, πριν συμβεί μια πραγματικά καταστροφική εκδοχή της ίδιας αστοχίας.
Για τους διαμεσολαβητές που συμβουλεύουν πελάτες σχετικά με κάλυψη κυβερνοασφάλισης και επαγγελματικής ευθύνης τεχνολογίας, ιδιαίτερα πελάτες που αναπτύσσουν ή βασίζονται σε μεγάλο βαθμό σε αυτόνομα συστήματα τεχνητής νοημοσύνης, το πρακτικό ερώτημα που θέτουν αυτά τα περιστατικά δεν είναι αν ένα συμβόλαιο θα ανταποκριθεί σε έναν άνθρωπο χάκερ που εκμεταλλεύεται μια ευπάθεια, κάτι που είναι ήδη καλά κατανοητό, αλλά αν θα ανταποκριθεί σε ένα σύστημα τεχνητής νοημοσύνης που προκάλεσε την ίδια ζημιά ενώ λειτουργούσε ακριβώς όπως είχε σχεδιαστεί. Ένα ερώτημα που η ίδια η αγορά δεν έχει ακόμη απαντήσει πλήρως.
