Vai al contenuto
jsonW Articolo GitHub

Ricerca e ranking

Ricerca per significato con vettori a 32, 16, 8 e 4 bit

Gli embedding stanno in una colonna di vettori contigua nel file, e avaliar calcola il coseno con la query e restituisce le k righe più simili.

· jsonW 1.3.11

Il problema

La ricerca per significato di solito richiede un database vettoriale accanto al database principale. Lo stesso record finisce per vivere in due posti, con due sistemi di permessi e due copie da tenere allineate.

Come lo risolve jsonW

Il vettore è un tipo del formato: vf32[n], vf16[n], vq8[n] e vq4[n], scritto in modo contiguo nel file. avaliar … cosseno confronta la query con tutta la colonna e restituisce le k righe più vicine, con la riga completa accanto.

$ wjsw avaliar prod.jsw cosseno vet "1,0,0.2,0.1" 2
0.9869597291884717	2	{id:3,produto:"Chá verde",…,vet:vf16[0.7998046875,0,0.300048828125,0.0999755859375],…}
0.9681576829495052	0	{id:1,produto:"Café especial",…}

Output reale. Il valore 0,8 scritto in vf16 torna come 0,7998046875: la mezza precisione conserva circa tre cifre decimali.

Dove si trova

Nello strumento, wjsw avaliar … cosseno, e negli SDK. Quando conta l'esattezza del vettore, usate vf32; vq8 e vq4 scambiano precisione con spazio. Generare l'embedding resta compito del vostro modello; jsonW conserva e confronta.

Leggi la sezione completa nell'articolo →