- Ο νέος πίνακας ελέγχου Reflect του Claude βοηθά τους χρήστες να παρακολουθούν και να διαχειρίζονται τα μοτίβα χρήσης της τεχνητής νοημοσύνης.
- Η Anthropic εισάγει μια αυτο-φιλοξενούμενη πύλη για το AWS, η οποία παρέχει στις επιχειρήσεις κεντρικό έλεγχο των αναπτύξεων Claude.
- Οι Κινέζοι ρυθμιστές ισχυρίζονται ότι υπάρχει ένα backdoor ασφαλείας στο Claude Code, ενώ η Anthropic ισχυρίζεται ότι επρόκειτο για ένα πείραμα κατά της κατάχρησης.
Η Anthropic έχει ασχοληθεί ενεργά με την κυκλοφορία νέων λειτουργιών και αντιμετωπίζει νέο έλεγχο σε διάφορα μέτωπα. Η εταιρεία πίσω από τον βοηθό τεχνητής νοημοσύνης Claude κυκλοφόρησε πρόσφατα ένα εργαλείο που έχει σχεδιαστεί για να βοηθά τους χρήστες να αναλογίζονται τις συνήθειές τους στην τεχνητή νοημοσύνη, ενώ παράλληλα εισάγει μια πύλη για εταιρικές αναπτύξεις στο AWS. Ταυτόχρονα, οι Κινέζοι ρυθμιστικοί φορείς έχουν επισημάνει ένα πιθανό πρόβλημα ασφαλείας στο εργαλείο κωδικοποίησης Claude Code, αν και η Anthropic λέει ότι ο μηχανισμός είχε ως στόχο την αποτροπή κατάχρησης.
Αυτές οι εξελίξεις υπογραμμίζουν τον τρόπο με τον οποίο ο κλάδος της Τεχνητής Νοημοσύνης πιέζει ταυτόχρονα για βαθύτερη ενσωμάτωση στις καθημερινές ροές εργασίας και αντιμετωπίζει ζητήματα διακυβέρνησης και ασφάλειας. Ακολουθεί μια πιο προσεκτική ματιά σε κάθε ιστορία.
Claude Reflect: Ένας πίνακας ελέγχου για ενσυνείδητη χρήση της τεχνητής νοημοσύνης
Η Anthropic παρουσίασε μια νέα λειτουργία που ονομάζεται Reflect , η οποία βρίσκεται σε beta έκδοση και επιτρέπει στους χρήστες να παρακολουθούν και να απεικονίζουν τον τρόπο με τον οποίο αλληλεπιδρούν με τον Claude. Ο πίνακας ελέγχου παρέχει μια σύνοψη των θεμάτων που συζητήθηκαν, των μοτίβων χρήσης και των τύπων εργασιών που διεκπεραιώθηκαν τους τελευταίους 1, 3, 6 ή 12 μήνες. Στόχος είναι να βοηθηθούν οι χρήστες να κατανοήσουν εάν ο χρόνος τεχνητής νοημοσύνης τους ευθυγραμμίζεται με τους προσωπικούς ή επαγγελματικούς τους στόχους.
Το Reflect περιοδικά εμφανίζει στοχαστικές ερωτήσεις, όπως «Ποιο είναι ένα πράγμα που θέλετε να συνεχίσετε να κάνετε μόνοι σας, ακόμα κι αν ο Claude μπορούσε να το κάνει πιο γρήγορα;». Αυτό ωθεί τους χρήστες να σκεφτούν κριτικά σχετικά με την εξάρτησή τους από την Τεχνητή Νοημοσύνη. Ο πίνακας ελέγχου περιλαμβάνει επίσης ώρες κοινής ησυχίας και υπενθυμίσεις διαλειμμάτων για την αποφυγή υπερβολικής χρήσης, αντιμετωπίζοντας ανησυχίες σχετικά με την εθιστική φύση των chatbots. Σύντομα, το Anthropic θα προσθέσει μια προβολή που δείχνει ακριβώς πόσο χρόνο αφιερώνουν οι χρήστες στον Claude.
Από άποψη απορρήτου, η λειτουργία εξαιρεί τις ανώνυμες συνομιλίες και τις συνομιλίες που σχετίζονται με την υγεία. Η Anthropic αναφέρει ότι συνεργάστηκε με ερευνητές από το MIT Media Lab, το Boston Children's Hospital και το Family Online Safety Institute για την υπεύθυνη ανάπτυξη της λειτουργίας. Δεν χρησιμοποιούνται δεδομένα από την αντανάκλαση για άλλους σκοπούς και τα ευαίσθητα θέματα εμφανίζονται μόνο σε υψηλό επίπεδο.
Για τους χρήστες, το Reflect είναι διαθέσιμο στον ιστό και στην εφαρμογή για υπολογιστές για τα επίπεδα Free, Pro και Max που έχουν ενεργοποιημένη τη μνήμη. Η λειτουργία χρησιμεύει επίσης ως ένας διακριτικός τρόπος για το Anthropic να ενθαρρύνει την βαθύτερη ενσωμάτωση του Claude στις καθημερινές ροές εργασίας, καθώς προτείνει τη χρήση των Projects για την αποφυγή της εκ νέου εξήγησης του περιβάλλοντος.
Πύλη Claude Apps για AWS: Κεντρικός έλεγχος για επιχειρήσεις
Η Anthropic ανακοίνωσε επίσης ένα αυτο-φιλοξενούμενο επίπεδο ελέγχου που ονομάζεται πύλη εφαρμογών Claude για AWS, το οποίο απευθύνεται σε οργανισμούς που αναπτύσσουν το Claude Code και το Claude Desktop σε μεγάλες ομάδες. Αυτή η πύλη αντικαθιστά την ανάγκη για μεμονωμένα διαπιστευτήρια προγραμματιστή και μη αυτόματη διανομή ρυθμίσεων, παρέχοντας ένα ενιαίο σημείο ελέγχου σχετικά με την πρόσβαση, το κόστος και την πολιτική.
Η πύλη συνδέεται με οποιονδήποτε πάροχο ταυτότητας OpenID Connect, επιτρέποντας στους προγραμματιστές να συνδέονται μέσω εταιρικού SSO. Επιβάλλει κεντρικά καθορισμένες πολιτικές —όπως επιτρεπόμενα μοντέλα, δικαιώματα εργαλείων και όρια δαπανών— σε κάθε αίτημα. Η ενσωμάτωση και η αποσύνδεση ακολουθούν τις υπάρχουσες ροές εργασίας ταυτότητας , επομένως η κατάργηση ενός χρήστη από το IdP ανακαλεί αυτόματα την πρόσβαση εντός μίας ώρας.
Τα δεδομένα τηλεμετρίας δρομολογούνται σε έναν διαμορφώσιμο συλλέκτη όπως το Amazon CloudWatch και τα αιτήματα εξαγωγής συμπερασμάτων μπορούν να δρομολογηθούν μέσω του Amazon Bedrock (διατηρώντας τα δεδομένα εντός των ορίων του AWS) ή της πλατφόρμας Claude στο AWS. Οι προγραμματιστές χρησιμοποιούν το ίδιο Claude Code CLI όπως και πριν, αλλά τώρα κάθε αίτημα ελέγχεται και διέπεται από την πύλη. Τα όρια δαπανών μπορούν να οριστούν καθημερινά, εβδομαδιαία ή μηνιαία ανά χρήστη, ομάδα ή οργανισμό , παρέχοντας στις επιχειρήσεις λεπτομερή έλεγχο κόστους.
Η πύλη παρέχεται ως ένα container χωρίς κατάσταση, το οποίο μπορεί να αναπτυχθεί στο Amazon ECS, EKS ή EC2, και υποστηρίζεται από μια βάση δεδομένων PostgreSQL. Ένα ελάχιστο αρχείο διαμόρφωσης στο YAML ορίζει την ταυτότητα, την πολιτική, τη δρομολόγηση και την τηλεμετρία. Αυτή η κίνηση είναι πιθανό να βοηθήσει την Anthropic να ανταγωνιστεί άλλους παρόχους τεχνητής νοημοσύνης που προσφέρουν λειτουργίες διαχείρισης επιχειρήσεων.
Κατηγορίες για παραβίαση ασφαλείας στην Κίνα
Εν τω μεταξύ, η Εθνική Βάση Δεδομένων Ευπαθειών της Κίνας προειδοποίησε ότι το εργαλείο κωδικοποίησης Claude Code περιέχει μια «κερκόπορτα ασφαλείας» που θα μπορούσε να μεταδώσει ευαίσθητες πληροφορίες, όπως τοποθεσία και αναγνωριστικά χρήστη, χωρίς τη συγκατάθεση. Οι Κινέζοι ρυθμιστικοί φορείς προέτρεψαν τους χρήστες να απεγκαταστήσουν ή να ενημερώσουν το εργαλείο και να παρακολουθούν την κίνηση δικτύου για μη εξουσιοδοτημένες διαρροές δεδομένων. Η προειδοποίηση ήρθε μετά την ανακοίνωση της Alibaba για εσωτερική απαγόρευση του Claude Code από τις 10 Ιουλίου λόγω ανησυχιών για την ασφάλεια.
Η Anthropic δεν έχει απαντήσει επίσημα στην κανονιστική ειδοποίηση, αλλά ένας μηχανικός της Claude Code σχολίασε στο X ότι η εν λόγω λειτουργία ήταν ένα πείραμα που ξεκίνησε τον Μάρτιο για την αποτροπή της κατάχρησης λογαριασμών από μη εξουσιοδοτημένους μεταπωλητές και την προστασία από την απόσπαση. Δεν είναι η πρώτη φορά που η εταιρεία αντιμετωπίζει φόβους για την ασφάλεια της Τεχνητής Νοημοσύνης και ο μηχανικός δήλωσε ότι έκτοτε έχουν εφαρμοστεί αυστηρότερα μέτρα μετριασμού και ότι ο κώδικας θα ανακληθεί πλήρως στην επόμενη έκδοση. Αυτό υποδηλώνει ότι η εταιρεία θεωρεί ότι το πρόβλημα έχει λυθεί, αν και η στάση της κινεζικής κυβέρνησης παραμένει επιφυλακτική.
Το περιστατικό υπογραμμίζει τη συνεχιζόμενη ένταση μεταξύ των εταιρειών τεχνητής νοημοσύνης και των ρυθμιστικών αρχών, ειδικά σε αγορές όπου το προϊόν είναι επίσημα αποκλεισμένο αλλά εξακολουθεί να είναι προσβάσιμο μέσω VPN ή proxies. Υπογραμμίζει επίσης την πρόκληση της εξισορρόπησης της ασφάλειας, του απορρήτου των χρηστών και των μέτρων κατά της κατάχρησης σε εργαλεία τεχνητής νοημοσύνης που αναπτύσσονται παγκοσμίως.
Και οι τρεις ιστορίες - η Reflect, η πύλη AWS και το backdoor της Κίνας - παρουσιάζουν τις προσπάθειες της Anthropic να επεκτείνει και να διαχειριστεί την εμβέλεια του Claude, ενώ παράλληλα αντιμετωπίζει την αναπόφευκτη αντίσταση που συνοδεύει την ταχεία υιοθέτηση της Τεχνητής Νοημοσύνης. Η λειτουργία Reflect ενθαρρύνει την προσεκτική χρήση, η πύλη παρέχει εταιρική διακυβέρνηση και οι ισχυρισμοί για την ασφάλεια χρησιμεύουν ως υπενθύμιση ότι κάθε νέα δυνατότητα μπορεί να προσελκύσει έλεγχο. Μαζί, σκιαγραφούν την εικόνα μιας εταιρείας που πλοηγείται στην ανάπτυξη, τη ρύθμιση και την εμπιστοσύνη των χρηστών σε ένα ανταγωνιστικό τοπίο.
