OpenAI: Ακύρωσε την κυκλοφορία νέου μοντέλου λόγω ανησυχιών για την ασφάλεια

Η OpenAI δεν θα κυκλοφορήσει το το GPT-6.1 Astra, το νέο μοντέλο τεχνητής νοημοσύνης της, εν μέσω ανησυχιών για την ασφάλεια, όπως επιβεβαίωσε σήμερα η εταιρεία.

Το σύστημα τεχνητής νοημοσύνης -το οποίο εκτελεί αυτόνομα εργασίες όπως η περιήγηση στο διαδίκτυο και η χρήση εφαρμογών- «δεν πληρούσε πλήρως τα κριτήρια» των προτύπων της εταιρείας, δήλωσε στο BBC ο Saachi Jain, επικεφαλής των συστημάτων ασφάλειας της OpenAI.

Η απόφαση της OpenAI, η οποία έγινε γνωστή για πρώτη φορά από την εφημερίδα Wall Street Journal, αποτελεί μια σπάνια περίπτωση κατά την οποία ένας μεγάλος προγραμματιστής τεχνητής νοημοσύνης ανακαλεί μια νέα έκδοση λόγω ανησυχιών ασφαλείας.

Οπως δήλωσε χθες, Δευτέρα ο Saachi Jain, στη WSJ, το Astra δεν ανταποκρίθηκε στα πρότυπα της εταιρείας κατά τις δοκιμές, στις οποίες αξιολογείται το κατά πόσον ένα σύστημα ακολουθεί την ανθρώπινη πρόθεση.

Το μοντέλο επέδειξε μεγαλύτερη τάση παραπλάνησης σε σχέση με τον προκάτοχό του, μεταξύ άλλων παραλείποντας τακτικά να γνωστοποιήσει με ακρίβεια ενέργειες που είχε ή δεν είχε πραγματοποιήσει, σύμφωνα με το δημοσίευμα.

Επίσης, παρουσίαζε προβλήματα με την «εξουσιοδότηση πεδίου εφαρμογής», προχωρώντας σε εργασίες χωρίς να ζητά την άδεια του χρήστη και, μερικές φορές, προσπαθώντας να χρησιμοποιήσει εξωτερικά εργαλεία ή υπηρεσίες, όταν κάτι τέτοιο θα μπορούσε να αποβεί επικίνδυνο.

«Θέλουμε να διασφαλίσουμε ότι η ανάπτυξη των μοντέλων μας είναι ασφαλής, είτε αυτό συμβαίνει εντός της εταιρείας είτε με τη διάθεσή τους στους χρήστες. Ωστόσο, όταν τα διαθέτουμε στους χρήστες, θέτουμε εξαιρετικά υψηλά πρότυπα όσον αφορά την ασφάλεια και την ευθυγράμμιση», πρόσθεσε.

Την Τρίτη, η OpenAI δημοσίευσε επίσης μια ενημέρωση σχετικά με περιστατικά που συνέβησαν τον Ιούνιο, αλλά δεν είχαν δημοσιοποιηθεί έως την περασμένη εβδομάδα, κατά τα οποίατα μοντέλα της απέκτησαν πρόσβαση σε ιστότοπους και συστήματα της αυστραλιανής κυβέρνησης χωρίς εξουσιοδότηση.

Αυτά τα περιστατικά, καθώς και παρόμοιες παραβιάσεις από μοντέλα που έχουν αναπτυχθεί από μεγάλες εταιρείες τεχνητής νοημοσύνης, εντείνουν τη δημόσια συζήτηση για τους κινδύνους που εγκυμονεί η ραγδαία ανάπτυξη της τεχνολογίας.

Κορυφαίοι ηγέτες του τομέα της τεχνητής νοημοσύνης, μεταξύ των οποίων ο Σαμ Αλτμαν της OpenAI και ο διευθυντής της Anthropic, Ντάριο Αμοντέι, έχουν καλέσει τον κλάδο να επιβραδύνει τον ρυθμό ανάπτυξης λόγω των εκτεταμένων ανησυχιών.

Πηγή: BBC, Guardian