Zum Inhalt springen

Archiv

Tag: Crawler

Gestern wurde ich wieder einmal von meinem chinesischen Freund „Baidu“ (chin. 百度, bǎidù) besucht. Jeder von uns dürfte bestimmt schon einmal das Vergnügen mit diesem Robot gemacht haben. Die kleinen Spiderchen, die von soooo weit herkommen, nur um ein paar Seiten zu durchsuchen. Leider weiß Baidu.com anscheinend nicht, dass die Menschen im Fernen Osten unsere Sprache nicht verstehen und deshalb auch keine unserer indexierten Seiten lesen können. Oder etwa doch? Soviel ich weiter lesen…

Jeder Webseiten Besitzer wird täglich von bekannten, aber auch unbekannten Crawler besucht. Crawler bzw. Webcrawler (auch Robot oder Spider genannt) sind Programme, die im Auftrag einer Suchmaschine eigenständig das Internet auf Inhalte von Webseiten durchsuchen und analysieren. weiter lesen…