Ricerca e ranking
Ricerca per significato con vettori a 32, 16, 8 e 4 bit
Gli embedding stanno in una colonna di vettori contigua nel file, e avaliar calcola il coseno con la query e restituisce le k righe più simili.
· jsonW 1.3.11
Il problema
La ricerca per significato di solito richiede un database vettoriale accanto al database principale. Lo stesso record finisce per vivere in due posti, con due sistemi di permessi e due copie da tenere allineate.
Come lo risolve jsonW
Il vettore è un tipo del formato: vf32[n], vf16[n], vq8[n] e vq4[n], scritto in modo contiguo nel file. avaliar … cosseno confronta la query con tutta la colonna e restituisce le k righe più vicine, con la riga completa accanto.
$ wjsw avaliar prod.jsw cosseno vet "1,0,0.2,0.1" 2
0.9869597291884717 2 {id:3,produto:"Chá verde",…,vet:vf16[0.7998046875,0,0.300048828125,0.0999755859375],…}
0.9681576829495052 0 {id:1,produto:"Café especial",…}
Output reale. Il valore 0,8 scritto in vf16 torna come 0,7998046875: la mezza precisione conserva circa tre cifre decimali.
Dove si trova
Nello strumento, wjsw avaliar … cosseno, e negli SDK. Quando conta l'esattezza del vettore, usate vf32; vq8 e vq4 scambiano precisione con spazio. Generare l'embedding resta compito del vostro modello; jsonW conserva e confronta.