- Η ομοιότητα συνημίτονου μετρά την κατευθυντική ευθυγράμμιση δύο διανυσμάτων υπολογίζοντας το συνημίτονο της γωνίας μεταξύ τους, αγνοώντας το συνολικό τους μέγεθος.
- Αυτή η μέτρηση είναι απαραίτητη για τη σύγχρονη Τεχνητή Νοημοσύνη, επιτρέποντας τη σημασιολογική αναζήτηση, τα εξατομικευμένα συστήματα προτάσεων και την επεξεργασία ενσωματώσεων υψηλής διάστασης.
- Ενώ η τυπική ομοιότητα συνημιτόνου αντιμετωπίζει τα χαρακτηριστικά ως ανεξάρτητα, οι προηγμένες εκδόσεις όπως το Soft Cosine ενσωματώνουν σχέσεις χαρακτηριστικών για να βελτιώσουν την ακρίβεια.
Έχετε αναρωτηθεί ποτέ πώς το Spotify φαίνεται να γνωρίζει ακριβώς ποιο τραγούδι θα πετύχει ή πώς η Google καταλαβαίνει ότι το ερώτημα αναζήτησής σας σημαίνει κάτι συγκεκριμένο, ακόμα κι αν δεν χρησιμοποιείτε τις ακριβείς λέξεις; Μεγάλο μέρος της μαγείας συμβαίνει στο παρασκήνιο χρησιμοποιώντας ενσωματώσεις διανυσμάτων . Αντί να αντιμετωπίζει λέξεις ή αντικείμενα ως απλό κείμενο, η Τεχνητή Νοημοσύνη τα μετατρέπει σε σημεία σε έναν τεράστιο, πολυδιάστατο χώρο, και εκεί είναι που η έννοια της ομοιότητας συνημιτόνου μπαίνει στο παιχνίδι για να βγάλει νόημα από όλα αυτά.
Βασικά, αυτό το μαθηματικό κόλπο επιτρέπει στους υπολογιστές να υπολογίσουν πόσο «κοντά» είναι δύο πράγματα κοιτάζοντας τη γωνία μεταξύ των διανυσμάτων τους . Δεν ενδιαφέρει αν το ένα διάνυσμα είναι πολύ μεγαλύτερο από το άλλο. Ενδιαφέρεται μόνο αν δείχνουν προς την ίδια γενική κατεύθυνση. Είναι μια ολοκληρωτική αλλαγή για την Επεξεργασία Φυσικής Γλώσσας (NLP) και τις μηχανές συστάσεων, επειδή εστιάζει στη σημασιολογική σημασία και όχι μόνο στην αντιστοίχιση χαρακτήρων.
Τα βασικά του υπολογισμού
Για να κατανοήσετε πώς λειτουργεί αυτό, πρέπει να κατανοήσετε ότι κάθε κομμάτι δεδομένων —είτε πρόκειται για λέξη είτε για ταινία— αναπαρίσταται ως ένα διάνυσμα όπου κάθε διάσταση είναι ένα συγκεκριμένο χαρακτηριστικό. Για να βρούμε την ομοιότητα, ακολουθούμε μερικά συγκεκριμένα βήματα. Αρχικά, υπολογίζουμε το γινόμενο των κουκκίδων , το οποίο περιλαμβάνει τον πολλαπλασιασμό των αντίστοιχων τιμών και από τα δύο διανύσματα και την άθροισή τους για να δούμε πόσο ευθυγραμμισμένες είναι. Στη συνέχεια, υπολογίζουμε το μέγεθος (ή το μήκος) κάθε διανύσματος λαμβάνοντας την τετραγωνική ρίζα του αθροίσματος των τετραγώνων των συνιστωσών του.
Το τελικό βήμα είναι ο πραγματικός τύπος ομοιότητας συνημιτόνου : παίρνετε αυτό το γινόμενο κουκκίδων και το διαιρείτε με το γινόμενο των δύο μεγεθών. Μαθηματικά, μοιάζει με Ομοιότητα Συνημιτόνου = (A · B) / (||A|| × ||B||) . Το αποτέλεσμα είναι μια βαθμολογία που συνήθως κυμαίνεται μεταξύ -1 και 1. Μια βαθμολογία 1 σημαίνει ότι τα διανύσματα είναι τέλεια ευθυγραμμισμένα , 0 σημαίνει ότι είναι ορθογώνια (εντελώς άσχετα) και -1 σημαίνει ότι είναι διαμετρικά αντίθετα.
Βάζοντας το σε προοπτική: Βασιλιάδες, βασίλισσες και μήλα
Ας το κάνουμε συγκεκριμένο. Φανταστείτε έναν LLM που επεξεργάζεται τις λέξεις «βασιλιάς» και «βασίλισσα». Επειδή αυτοί οι όροι εμφανίζονται συχνά κοντά σε λέξεις όπως «θρόνος» ή «μοναρχία», οι ενσωματώσεις διανυσμάτων τους θα δείχνουν σχεδόν προς την ίδια κατεύθυνση, με αποτέλεσμα ένα υψηλό σκορ ομοιότητας συνημιτόνου . Τώρα, προσθέστε τη λέξη «μήλο» στο μείγμα. Ακόμα κι αν βρίσκεται στο ίδιο έγγραφο, εμφανίζεται με όρους όπως «φρούτα» ή «οπωρώνας», επομένως το άνυσμά της θα δείχνει προς μια εντελώς διαφορετική κατεύθυνση, οδηγώντας σε ένα πολύ χαμηλότερο σκορ ομοιότητας.
Για να διατηρούν τα πράγματα γρήγορα, οι εταιρείες δεν το υπολογίζουν αυτό απλώς εν κινήσει για κάθε μεμονωμένο στοιχείο. Χρησιμοποιούν βάσεις δεδομένων διανυσμάτων . Αυτά τα εξειδικευμένα εργαλεία έχουν σχεδιαστεί για να δημιουργούν ευρετήρια διανυσμάτων υψηλής διάστασης, επιτρέποντας την ταχύτατη ανάκτηση των πιο παρόμοιων αντιστοιχίσεων χωρίς να χρειάζεται να σαρώσετε ολόκληρο το σύνολο δεδομένων χειροκίνητα.
Πέρα από τα βασικά: Μαλακό συνημίτονο και άλλες μετρήσεις
Η τυπική ομοιότητα συνημιτόνου έχει ένα ελάττωμα: υποθέτει ότι κάθε διάσταση είναι ανεξάρτητη. Ωστόσο, στον πραγματικό κόσμο, λέξεις όπως «παίζω» και «παιχνίδι» είναι διαφορετικές διαστάσεις αλλά σχετίζονται σημασιολογικά . Εδώ έρχεται η Soft Cosminote Similarity . Εισάγει έναν πίνακα ομοιότητας (συχνά χρησιμοποιώντας απόσταση Levenshtein ή WordNet) για να λαμβάνει υπόψη τη σχέση μεταξύ των χαρακτηριστικών, επιτρέποντας στο μοντέλο να γενικεύει έννοιες πιο αποτελεσματικά, ακόμη και αν τα τυπικά χαρακτηριστικά διαφέρουν.
Αξίζει επίσης να συγκριθεί αυτό με άλλες κοινές μετρήσεις. Για παράδειγμα, η Ευκλείδεια Απόσταση (L2) μετρά την ευθύγραμμη απόσταση μεταξύ δύο σημείων, η οποία είναι εξαιρετική για τη χωρική εγγύτητα. Η Απόσταση Μανχάταν (L1) υπολογίζει την απόσταση ακολουθώντας μια διαδρομή που μοιάζει με πλέγμα. Ενώ αυτές μετρούν την απόλυτη απόσταση , η ομοιότητα συνημιτόνου εστιάζει αποκλειστικά στον προσανατολισμό . Υπάρχει επίσης η Ομοιότητα του Κουκκιδικού Γινομένου , η οποία λαμβάνει υπόψη τόσο τη γωνία όσο και το μέγεθος. Εάν ομαλοποιήσετε τα διανύσματά σας σε μονάδα μήκους, το κουκκιδικό γινόμενο και η ομοιότητα συνημιτόνου γίνονται ουσιαστικά το ίδιο πράγμα, αλλά ο υπολογισμός του κουκκιδικού γινομένου είναι υπολογιστικά φθηνότερος .
Πρακτικές Εφαρμογές σε Δεδομένα Γραφημάτων και Αναζήτηση
Στον κόσμο των βάσεων δεδομένων γραφημάτων όπως το Amazon Neptune και άλλα συστήματα γραφημάτων , η ομοιότητα συνημίτονου χρησιμοποιείται για την εύρεση συνοχής μεταξύ ομάδων ή τον εντοπισμό παρόμοιων χρηστών. Για παράδειγμα, εάν έχετε ένα γράφημα ατόμων και των αγαπημένων τους κουζινών, μπορείτε να αναπαραστήσετε τις προτιμήσεις τους ως διανύσματα βαθμολογιών. Εφαρμόζοντας τον αλγόριθμο ομοιότητας συνημίτονου , μπορείτε να κατατάξετε ποιοι χρήστες έχουν τα πιο παρόμοια γούστα, ανεξάρτητα από το αν ένα άτομο αξιολογεί περισσότερα εστιατόρια από ένα άλλο.
Οι σύγχρονες μηχανές αναζήτησης απομακρύνονται επίσης από την καθαρά λεξιλογική αναζήτηση (όπως το Ctrl+F) και κατευθύνονται προς την αναζήτηση διανυσμάτων . Ενώ η λεξιλογική αναζήτηση είναι ιδανική για tokenization, χάνει το νόημα του κειμένου. Η αναζήτηση διανυσμάτων αποτυπώνει την υποκείμενη πρόθεση . Σε συστήματα όπως το Elasticsearch, αυτό υλοποιείται μετατρέποντας τα ερωτήματα σε ενσωματώσεις και βρίσκοντας τους πλησιέστερους γείτονες χρησιμοποιώντας τις μετρήσεις που έχουμε συζητήσει, συχνά μετατρέποντας το εύρος -1 προς 1 σε θετική βαθμολογία για καλύτερη κατάταξη.
Είτε δημιουργείτε έναν οδηγό συστάσεων ταινιών είτε έναν σύνθετο παράγοντα τεχνητής νοημοσύνης, η επιλογή της σωστής μέτρησης ομοιότητας εξαρτάται από το αν το μέγεθος του διανύσματος έχει νόημα. Αν σας ενδιαφέρει μόνο το «θέμα» ή η «κατεύθυνση» των δεδομένων, η ομοιότητα συνημίτονου είναι η καλύτερη επιλογή σας. Για όσους χρειάζονται ακατέργαστη χωρική απόσταση, η Ευκλείδεια μέθοδος είναι η ιδανική. Συνδυάζοντας αυτά τα μαθηματικά εργαλεία με αποτελεσματικούς αλγόριθμους ευρετηρίασης , μπορούμε να μετατρέψουμε τα μη δομημένα δεδομένα σε έναν οργανωμένο, αναζητήσιμο χάρτη ανθρώπινης σημασίας.
