Classificare i risultati di ricerca

Questa pagina descrive come classificare i risultati di ricerca per le ricerche full-text in Spanner.

Spanner supporta il calcolo di un punteggio di pertinenza, che fornisce un elemento costitutivo per la creazione di funzioni di ranking sofisticate. Questi punteggi calcolano la pertinenza di un risultato per una query in base alla frequenza del termine della query e ad altre opzioni personalizzabili.

L'esempio seguente mostra una ricerca classificata:

SELECT AlbumId
FROM Albums
WHERE SEARCH(AlbumTitle_Tokens, "fifth symphony")
ORDER BY SCORE(AlbumTitle_Tokens, "fifth symphony") DESC

Assegnare un punteggio ai termini di query con la funzione SCORE

La funzione SCORE calcola un punteggio per ogni termine di query e poi combina i punteggi. Il punteggio per termine si basa approssimativamente sulla frequenza del termine e sulla frequenza inversa del documento (TF/IDF). Il punteggio è uno dei componenti dell'ordinamento finale di un record. La query li combina con altri indicatori, come l'aggiornamento che modula il punteggio di pertinenza.

Nell'implementazione attuale, la parte IDF di TF/IDF è disponibile solo se viene utilizzato enhance_query=>true. Calcola la frequenza relativa delle parole in base all'intero corpus web utilizzato dalla Ricerca Google, anziché a un indice di ricerca specifico. Se il miglioramento della query r non è attivato, il calcolo del punteggio utilizza solo il componente della frequenza dei termini (ovvero il termine IDF è impostato su 1).

La funzione SCORE restituisce valori che fungono da punteggi di pertinenza utilizzati da Spanner per stabilire un ordine di ordinamento. Non hanno un significato autonomo. Più alto è il punteggio, migliore è la corrispondenza alla query.

In genere, argomenti come query e enhance_query sono gli stessi per le funzioni SEARCH e SCORE per garantire la coerenza nel recupero e nel ranking.

Il modo consigliato per farlo è utilizzare questi argomenti con parametri di query anziché con stringhe literal e specificare gli stessi parametri di ricerca nelle funzioni SEARCH e SCORE.

Assegnare un punteggio a più colonne

Spanner utilizza la funzione SCORE per assegnare un punteggio a ciascun campo singolarmente. La query combina poi questi punteggi individuali. Un modo comune per farlo è sommare i singoli punteggi e poi aumentarli in base ai pesi dei campi forniti dall'utente (forniti utilizzando parametri di ricerca SQL).

Ad esempio, la seguente query combina l'output di due funzioni SCORE:

SELECT AlbumId
FROM Albums
WHERE SEARCH(Title_Tokens, @p1) AND SEARCH(Studio_Tokens, @p2)
ORDER BY SCORE(Title_Tokens, @p1) * @titleweight + SCORE(Studio_Tokens, @p2) * @studioweight
LIMIT 25

L'esempio seguente aggiunge due parametri di boost:

  • L'aggiornamento (FreshnessBoost) aumenta il punteggio con (1 + @freshnessweight * GREATEST(0, 30 - DaysOld) / 30)
  • La popolarità(PopularityBoost) aumenta il punteggio moltiplicandolo per il fattore (1 + IF(HasGrammy, @grammyweight, 0).

Per una maggiore leggibilità, la query utilizza l'operatore WITH.

SELECT AlbumId
FROM Albums
WHERE SEARCH(Title_Tokens, @p1) AND SEARCH(Studio_Tokens, @p2)
ORDER BY WITH(
  TitleScore AS SCORE(Title_Tokens, @p1) * @titleweight,
  StudioScore AS SCORE(Studio_Tokens, @p2) * @studioweight,
  DaysOld AS (UNIX_MICROS(CURRENT_TIMESTAMP()) - ReleaseTimestamp) / 8.64e+10,
  FreshnessBoost AS (1 + @freshnessweight * GREATEST(0, 30 - DaysOld) / 30),
  PopularityBoost AS (1 + IF(HasGrammy, @grammyweight, 0)),
  (TitleScore + StudioScore) * FreshnessBoost * PopularityBoost)
LIMIT 25

TOKENLIST_CONCAT può essere utilizzato anche nella ricerca e nel calcolo del punteggio per semplificare le query, se opportuno:

SELECT AlbumId
FROM Albums
WHERE SEARCH(TOKENLIST_CONCAT([Title_Tokens, Studio_Tokens]), @p)
ORDER BY SCORE(TOKENLIST_CONCAT([Title_Tokens, Studio_Tokens]), @p)
LIMIT 25

Migliorare le corrispondenze dell'ordine delle query

Puoi applicare un aumento moltiplicativo al punteggio di pertinenza per i valori che contengono i termini di query nello stesso ordine in cui appaiono nella query. Esistono due versioni di questo potenziamento: corrispondenza parziale e corrispondenza esatta. Un aumento per la corrispondenza parziale viene applicato quando:

  1. TOKENLIST contiene tutti i termini originali della query.
  2. I token sono adiacenti tra loro e nello stesso ordine in cui appaiono nella query.

Esistono alcune regole speciali per congiuntivi, negazioni e frasi:

  • Una query con un'espressione di negazione non può ricevere un miglioramento della corrispondenza parziale.
  • Una query con una congiunzione riceve un aumento se parte della congiunzione appare nelle posizioni appropriate.
  • Una query con una frase riceve un aumento se la frase compare nel TOKENLIST e il termine a sinistra della frase nella query compare a sinistra della frase nel TOKENLIST, e lo stesso vale per il termine a destra della frase.

Spanner applica un miglioramento della corrispondenza esatta quando tutte le regole precedenti sono vere. I token primo e ultimo nella query sono i token primo e ultimo nel documento.

Documento di esempio: Bridge Over Troubled Water

Query Boost applicato
Problemi con il ponte nessun miglioramento
Ponte sopra - altro corpo d'acqua nessun miglioramento
Ponte (sopra o con acque agitate) nessun miglioramento
Bridge Over aumento parziale
Ponte (acque agitate OPPURE acqua) aumento parziale
Bridge Over Troubled Water aumento esatto
Ponte "sopra acque agitate" aumento esatto
Ponte ("Over Troubled" OPPURE missingterm) Acqua aumento esatto

Limita la profondità di recupero

Gli indici di ricerca spesso contengono milioni di documenti. Per le query in cui i predicati hanno una bassa selettività, non è pratico assegnare un ranking a tutti i risultati. Le query di punteggio hanno in genere due limiti:

  1. Limite di profondità di recupero: il numero massimo di righe da valutare.
  2. Limite di dimensione del set di risultati: il numero massimo di righe che la query deve restituire (in genere le dimensioni della pagina).

Le query possono limitare la profondità di recupero con le sottoquery SQL:

SELECT *
FROM (
  SELECT AlbumId
  FROM Albums
  WHERE SEARCH(Title_Tokens, @p1)
  ORDER BY ReleaseTimestamp DESC
  LIMIT @retrieval_limit
)
ORDER BY SCORE(Title_Tokens, @p1)
LIMIT @page_size

Questo funziona particolarmente bene se Spanner utilizza il segnale di ranking più importante per ordinare l'indice.

Passaggi successivi