Η OpenAI διερευνά νέα περιστατικά κατά τα οποία αυτόνομοι πράκτορες τεχνητής νοημοσύνης κατάφεραν να ξεφύγουν από τα ελεγχόμενα περιβάλλοντα δοκιμών της εταιρείας. Η OpenAI, μ’ αυτόν τον τρόπο, διευρύνει την εσωτερική έρευνα που ξεκίνησε μετά το πρόσφατο συμβάν με την πλατφόρμα Hugging Face.
Σύμφωνα με πληροφορίες του Reuters από πηγές με γνώση της υπόθεσης, οι ερευνητές της εταιρείας εντόπισαν και άλλες περιπτώσεις «μη αναμενόμενης συμπεριφοράς», οι οποίες εξετάζονται προκειμένου να διαπιστωθεί πώς ακριβώς σημειώθηκαν και αν αποκαλύπτουν βαθύτερα προβλήματα στον τρόπο ελέγχου των προηγμένων συστημάτων AI.
OpenAI: Περιορισμένης έκτασης τα νέα περιστατικά
Κατά τις ίδιες πληροφορίες, τα νέα περιστατικά ήταν περιορισμένης έκτασης και δεν υπάρχουν ενδείξεις ότι οι συγκεκριμένοι πράκτορες εγκατέλειψαν -ποτέ- το εσωτερικό δίκτυο της OpenAI.
Ωστόσο, σύμφωνα με όσα αναφέρει το ειδησεογραφικό πρακτορείο, η ανακάλυψή τους έχει προκαλέσει νέα ερωτήματα για το κατά πόσο ακόμη και οι κορυφαίες εταιρείες τεχνητής νοημοσύνης μπορούν να ελέγξουν αποτελεσματικά συστήματα που αποκτούν ολοένα και μεγαλύτερο βαθμό αυτονομίας.
Η OpenAI είχε ήδη ανακοινώσει ότι, εκτός από τη διερεύνηση του περιστατικού στο Hugging Face, εξετάζει συνολικά τη δραστηριότητα των μοντέλων της, αναζητώντας ενδείξεις παρόμοιας συμπεριφοράς. Οι πρόσφατες αποκαλύψεις δείχνουν ότι η έρευνα επεκτάθηκε σε δεδομένα και καταγραφές προηγούμενων μηνών, με στόχο να εντοπιστούν τυχόν ανάλογα περιστατικά που μέχρι σήμερα δεν είχαν γίνει αντιληπτά.
Το προηγούμενο συμβάν με την OpenAI
Το ενδιαφέρον της υπόθεσης αυξήθηκε μετά το συμβάν των αρχών Ιουλίου, όταν ένας πράκτορες της OpenAI, κατά τη διάρκεια εσωτερικής δοκιμής, εισέβαλε στο δίκτυο της Hugging Face σε μια αποτυχημένη προσπάθεια να παρακάμψει τους περιορισμούς του τεστ στο οποίο συμμετείχε.
Η ίδια η OpenAI έχει αναφέρει ότι, πέρα από το συγκεκριμένο περιστατικό, παραβιάστηκαν και λογαριασμοί σε τέσσερις ακόμη εταιρείες, ενώ μία από αυτές αναγνώρισε δημοσίως ότι επηρεάστηκε.
Στο μεταξύ, η υπόθεση έλαβε ακόμη μεγαλύτερες διαστάσεις όταν και η Anthropic γνωστοποίησε ότι δικά της μοντέλα είχαν εμπλακεί σε σειρά δοκιμών που οδήγησαν σε παραβιάσεις συστημάτων τριών διαφορετικών εταιρειών από τον Απρίλιο και μετά.
Ειδικοί στην ασφάλεια της τεχνητής νοημοσύνης θεωρούν ότι οι εξελίξεις αυτές αποτελούν προειδοποιητικό σημάδι για το εγγύς μέλλον. Ο μαθηματικός Maurice Chiodo, από το Centre for the Study of Existential Risk του Πανεπιστημίου του Κέιμπριτζ, υποστηρίζει ότι η ταχύτητα ανάπτυξης εργαλείων με δυνατότητες αυτόνομων κυβερνοεπιθέσεων φαίνεται να ξεπερνά την ικανότητα των ίδιων των δημιουργών τους να τα επιβλέπουν και να τα ελέγχουν αποτελεσματικά.
Σύμφωνα με τον ίδιο, η εικόνα που προκύπτει δημιουργεί ανησυχία, καθώς δείχνει ότι οι μηχανισμοί επιτήρησης ενδέχεται να μην είναι ακόμη επαρκείς για τις δυνατότητες των νέων μοντέλων.
Το Reuters σημειώνει ότι δεν κατέστη δυνατό να εξακριβωθεί ο ακριβής αριθμός των περιστατικών που εξετάζει σήμερα η OpenAI ούτε οι ακριβείς συνθήκες υπό τις οποίες συνέβησαν. Οι πηγές αναφέρουν, πάντως, ότι η εταιρεία αναλύει εκ νέου καταγραφές λειτουργίας των μοντέλων της σε συνεργασία με εξωτερικούς ειδικούς, προσπαθώντας να ανασυνθέσει τι ακριβώς συνέβη σε κάθε περίπτωση.
ΠΗΓΗ: lifo Με πληροφορίες από Reuters
Ακολουθήστε το tameteora.gr στο Google News!
