Просмотр новости
Найдите то, что Вас интересует
Спутники
РН
SpaceX
Роскосмос
NASA
СпутникиРНSpaceXРоскосмосNASAΗ Anthropic ερευνά περιστατικό μη εξουσιοδοτημένης πρόσβασης στο μοντέλο ΑΙ που προκάλεσε παγκόσμιο συναγερμό για τις προηγμένες δυνατότητές του. Τι γνωρίζουμε.
Η Anthropic διερευνά εάν μια ομάδα χρηστών απέκτησε μη εξουσιοδοτημένη πρόσβαση στο μοντέλο τεχνητής νοημοσύνης Claude Mythos, το οποίο είχε διατεθεί μόνο σε περιορισμένο αριθμό αξιόπιστων εταιρειών λόγω των προηγμένων δυνατοτήτων κυβερνοασφάλειας που διαθέτει.
Το εργαστήριο τεχνητής νοημοσύνης ανέφερε την Τρίτη ότι εξετάζει αναφορές σύμφωνα με τις οποίες μια ομάδα ατόμων απέκτησε πρόσβαση στο μοντέλο μέσω ενός συστήματος που είχε διαμορφωθεί για τρίτες εταιρείες οι οποίες συνεργάζονται με την Anthropic.
Η εταιρεία δήλωσε: «Διερευνούμε μια αναφορά που ισχυρίζεται μη εξουσιοδοτημένη πρόσβαση στο Claude Mythos Preview μέσω ενός από τα περιβάλλοντα τρίτων συνεργατών μας.»
Το περιστατικό εγείρει ανησυχίες σχετικά με το κατά πόσο το εργαστήριο τεχνητής νοημοσύνης, αποτιμώμενο στα 380 δισ. δολάρια, μπορεί να διασφαλίσει ότι η τεχνολογία που αναπτύσσει δεν θα καταλήξει στα χέρια κακόβουλων παραγόντων.
Η Anthropic περιόρισε τη διάθεση του Claude Mythos Preview σε μια μικρή ομάδα αξιόπιστων τεχνολογικών εταιρειών, επικαλούμενη τον κίνδυνο κακής χρήσης του μοντέλου για τη διεξαγωγή κυβερνοεπιθέσεων σε κλίμακα και ταχύτητα που υπερβαίνουν τις ανθρώπινες δυνατότητες.
Ο κίνδυνος μη εξουσιοδοτημένης πρόσβασης εντείνει τις ανησυχίες γύρω από το Mythos, το οποίο έχει προκαλέσει αναταράξεις στις αγορές και έχει οδηγήσει σε υψηλού επιπέδου συζητήσεις μεταξύ χρηματοπιστωτικών ιδρυμάτων και παγκόσμιων ρυθμιστικών αρχών.
Σύμφωνα με το Bloomberg, που μετέδωσε πρώτο την είδηση, ένα από τα άτομα που απέκτησαν μη εξουσιοδοτημένη πρόσβαση κατάφερε να χρησιμοποιήσει τα δικαιώματά του ως εξωτερικός συνεργάτης της Anthropic για να αποκτήσει πρόσβαση στο Mythos.
Η Anthropic ανέφερε ότι δεν διαθέτει στοιχεία που να δείχνουν ότι η δραστηριότητα επεκτάθηκε πέρα από το «περιβάλλον συνεργατών», το οποίο χρησιμοποιούν τρίτα μέρη για την πρόσβαση σε συστήματα ανάπτυξης μοντέλων.
Τα εργαστήρια τεχνητής νοημοσύνης χρησιμοποιούν συνήθως εξωτερικούς συνεργάτες για εργασίες όπως ο έλεγχος των μοντέλων, αν και δεν ήταν σαφές ποιος συνεργάτης εμπλεκόταν στο συγκεκριμένο περιστατικό.
Η Anthropic παρουσίασε το Mythos νωρίτερα αυτόν τον μήνα σε εταιρείες όπως η Amazon, η Microsoft, η Apple, η Cisco και η CrowdStrike.
Η εταιρεία με έδρα το Σαν Φρανσίσκο δήλωσε ότι οι συνεργάτες αυτοί θα μπορούν να εντοπίζουν και να θωρακίζουν ευπάθειες κυβερνοασφάλειας χρησιμοποιώντας τις προηγμένες δυνατότητες του Mythos πριν από τη δημόσια διάθεσή του.
Ειδικοί στην ασφάλεια έχουν προειδοποιήσει ότι, σε λάθος χέρια, χάκερ θα μπορούσαν να εκμεταλλευτούν σφάλματα ταχύτερα απ’ ό,τι μπορούν οι οργανισμοί να τα διορθώσουν.
Οι διαδικασίες ασφαλείας της Anthropic έχουν τεθεί υπό έντονο έλεγχο μετά την ανακάλυψη περιγραφών του μοντέλου, συμπεριλαμβανομένου του ονόματός του, σε δημόσια προσβάσιμη προσωρινή μνήμη δεδομένων τον Μάρτιο. Το εργαστήριο απέδωσε το περιστατικό σε ανθρώπινο λάθος.
Νωρίτερα αυτόν τον μήνα, εσωτερικός πηγαίος κώδικας για τον βοηθό προγραμματισμού της εταιρείας, Claude Code, δημοσιοποιήθηκε επίσης σε ένα δεύτερο περιστατικό.