Watch It? Track It.

Wyszukiwanie to również statyczny indeks: około 7000 małych plików, które razem obejmują każdą nazwę każdego serialu, filmu i osoby w każdym języku. Zapytanie potrzebuje tylko jednego z nich.

Pliki

  • https://api.watchittrackit.com/v1/search/manifest.json
  • https://api.watchittrackit.com/v1/search/{build}/tree.json
  • https://api.watchittrackit.com/v1/search/{build}/l/{hex}.json
  • https://api.watchittrackit.com/v1/search/{build}/s/{hex}.json
  • https://api.watchittrackit.com/v1/search/recent.json

Wyszukiwanie zapytania

  1. Odczytaj v1/search/manifest.json, aby uzyskać id bieżącego buildu.
  2. Odczytaj v1/search/{build}/tree.json. Dla danego buildu nigdy się nie zmienia, więc pobierz go raz.
  3. Znormalizuj zapytanie: zamień na małe litery, usuń znaki diakrytyczne i interpunkcję. Wyszukuj po jego najdłuższym słowie, które nie jest słowem pomijanym.
  4. Przejdź drzewo z tym słowem, aby znaleźć jego plik: kubełek w l/ lub, jeśli słowo kończy się dokładnie na prefiksie podziału, podsumowanie w s/. Nazwy plików to zapis szesnastkowy bajtów prefiksu w UTF-8.
  5. Zachowaj wpisy, w których każde słowo zapytania rozpoczyna któreś słowo nazwy. Na początek daj nazwy zaczynające się od całego zapytania, a potem sortuj według popularności.
  6. Zastosuj v1/search/recent.json: zawiera rekordy zmienione od czasu buildu. Usuń wpisy indeksu dla tych rekordów i użyj zamiast nich tych. Plik zmienia się wraz z edycją rekordów, więc dodaj parametr zapytania zmieniający się co kilka minut (?w= plus bieżące 5-minutowe okno), aby pobrać świeżą kopię.

Wpisy

Każdy wpis to tablica:

PozycjaTypOpis
0stringTyp rekordu.
1numberId rekordu.
2stringDopasowana nazwa, w dowolnym języku.
3numberPozycja w obrębie typu: 1 000 000 to najpopularniejszy.
4stringSlug rekordu.
5number | nullRok, dla tytułów.
6string | nullŚcieżka miniatury.

Przykład (JavaScript)

const BASE = "https://api.watchittrackit.com/v1/search"
const STOPWORDS = new Set(["a", "an", "and", "the", "of", "in", "on", "to", "for", "at", "by", "with", "or",
  "de", "del", "la", "le", "les", "el", "los", "las", "lo", "un", "une", "et", "du", "des", "da", "do", "dos",
  "der", "die", "das", "und", "ein", "eine", "den", "dem", "von", "zu", "il", "i", "e", "di", "y", "en", "het", "een", "van"])

const normalize = (s) => s.normalize("NFKD").replace(/\p{M}/gu, "").toLowerCase()
  .replace(/[^\p{L}\p{N}]+/gu, " ").trim()
const hex = (s) => [...new TextEncoder().encode(s)].map((b) => b.toString(16).padStart(2, "0")).join("")

async function search(query) {
  const { build } = await fetch(`${BASE}/manifest.json`).then((r) => r.json())
  const tree = await fetch(`${BASE}/${build}/tree.json`).then((r) => r.json())

  const q = normalize(query)
  const words = q.split(" ").filter(Boolean)
  const real = words.filter((w) => !STOPWORDS.has(w))
  const word = (real.length ? real : words).sort((a, b) => [...b].length - [...a].length)[0]

  // Walk the tree: descend while the prefix is split; stop at a bucket or a summary.
  let key = "", file
  for (const c of word) {
    if (tree[key + c]) { key += c; continue }
    const starts = tree[key] ?? []
    const start = starts.filter((s) => s <= c).pop() ?? starts[0] ?? c
    file = `l/${hex(key + start)}.json`
    break
  }
  file ??= `s/${hex(key)}.json`

  const res = await fetch(`${BASE}/${build}/${file}`)
  let entries = res.ok ? await res.json() : []

  // Records changed since the build replace the index's entries for them.
  // The query string changes every 5 minutes, so caches don't serve an old copy.
  const recent = await fetch(`${BASE}/recent.json?w=${Math.floor(Date.now() / 300000)}`).then((r) => r.json())
  entries = entries.filter(([type, id]) => !(`${type}:${id}` in recent.records))
  entries.push(...Object.values(recent.records).flat())

  const seen = new Set()
  return entries
    .filter((e) => { const n = normalize(e[2]).split(" "); return words.every((w) => n.some((x) => x.startsWith(w))) })
    .sort((a, b) => Number(normalize(b[2]).startsWith(q)) - Number(normalize(a[2]).startsWith(q)) || b[3] - a[3])
    .filter(([type, id]) => !seen.has(`${type}:${id}`) && seen.add(`${type}:${id}`))
    .slice(0, 30)
}

// [["tv", 81189, "Breaking Bad", 999998, "breaking-bad", 2008, "/images/tv/81189/….t.jpg"], …]
console.log(await search("breaking bad"))

Indeks jest przebudowywany codziennie. Pliki buildu nigdy się nie zmieniają, więc możesz je buforować dowolnie długo; zmieniają się tylko manifest i recent.json.