hvor det er indekseret. Nogle søgemaskiner bruger også web-crawlere til at høste e-mail-adresser og vedligeholdelsesopgaver, ud over at indsamle oplysninger om et websted. Hver søgemaskine har deres egne individuelle web crawlers og hver søgemaskine har variationer på hvordan de indsamler information.Webmaster bør have en vis indikation af, hvordan hver søgemaskine rangerer sider, for at forstå, hvorfor ét dokument er rangeret højere end en anden.
Selvom søgemaskiner holder deres algoritmer en hemmelighed, dels for at gøre livet vanskeligere for Black Hat SEOs web mastere bør forsøge deres bedste for at få en vis forståelse for, hvordan søgemaskineoptimering søgestrategi bør arbejde.