Documentație tehnică

Documentație

Ghiduri tehnice pentru crawling, indexare, setări de domeniu, API, contorizare și integrarea ZENIA Assistant.

Incremental indexing

Când reindexezi un domeniu, ZENIA folosește indexare incrementală pentru a evita reprocesarea inutilă a întregului website. În loc să refacă tot procesul de la zero, verifică ce pagini sunt noi, schimbate sau nemodificate și actualizează doar conținutul care are nevoie de reindexare.

How it works

Detectarea schimbărilor cu HEAD mai întâi

Pentru paginile indexate anterior, ZENIA poate trimite mai întâi o cerere HEAD. Dacă serverul returnează aceleași valori pentru ETag sau Last-Modified, pagina poate fi considerată neschimbată fără să fie descărcată din nou.

Dacă aceste informații lipsesc, indică o schimbare sau nu pot fi folosite în siguranță, ZENIA preia pagina completă și verifică mai departe conținutul ei.
Change detection

Verificarea conținutului paginii

Când o pagină este descărcată, ZENIA extrage textul vizibil și îl compară cu versiunea indexată anterior. Dacă textul relevant nu s-a schimbat, pagina poate fi marcată ca neschimbată, chiar dacă HTML-ul brut are diferențe minore.

Această verificare ajută la evitarea reindexărilor inutile cauzate de schimbări care nu modifică informația utilă pentru asistent, cum ar fi scripturi, markup injectat, spațiere sau alte diferențe tehnice minore.
Statuses

Statusuri de pagină

După o indexare incrementală, fiecare pagină poate primi un status care explică ce s-a întâmplat cu ea în timpul rulării:
StatusSemnificație
NouăPagina a fost descoperită și indexată pentru prima dată.
SchimbatăConținutul relevant diferă de versiunea indexată anterior, deci pagina a fost reindexată.
NeschimbatăPagina a fost verificată, iar conținutul relevant nu pare să se fi schimbat.
Omisă prin HEADInformațiile returnate de server, precum ETag sau Last-Modified, au indicat că pagina nu s-a schimbat, deci nu a fost descărcată din nou.
Nemai-găsităPagina exista într-o indexare anterioară, dar nu a mai fost găsită în timpul descoperirii linkurilor. Este posibil să fi fost eliminată sau mutată.
EșuatăPagina nu a putut fi procesată corect, de exemplu din cauza unei erori de acces, a unui răspuns invalid sau a unui tip de conținut nepotrivit.
Stale content

Paginile care nu mai sunt găsite

Dacă o pagină indexată anterior nu mai este găsită în timpul descoperirii linkurilor, ZENIA o marchează ca pagină nemai-găsită. Acest status te ajută să identifici conținut care poate fi vechi, mutat sau eliminat de pe website.

O pagină nemai-găsită nu este neapărat ștearsă imediat din evidență. Dacă pagina reapare la o indexare viitoare, statusul poate fi actualizat automat.
Skipped pages

Evitarea procesării inutile

Dacă o reindexare nu găsește pagini noi sau schimbări relevante, ZENIA poate evita pașii suplimentari de procesare care nu mai sunt necesari. Astfel, indexările repetate sunt mai rapide și mai eficiente pentru website-urile care se modifică rar.

Jurnalul de indexare te poate ajuta să înțelegi dacă rularea s-a încheiat normal, dacă nu au fost găsite modificări relevante sau dacă a fost oprită de o limită ori de o eroare.
First crawl

Prima indexare vs. reindexare

Prima indexare a unui domeniu construiește baza inițială de conținut: descoperă paginile, preia conținutul relevant și pregătește sursele pe care asistentul le va putea folosi în răspunsuri.

Reindexările ulterioare folosesc informațiile deja cunoscute despre pagini pentru a verifica mai eficient ce s-a schimbat. Nu trebuie să activezi manual indexarea incrementală - aceasta este folosită automat atunci când domeniul are deja o indexare anterioară.