楼(lou)上(shang)说的(de)很多(duo),我补充一下,正确的应该叫网络蜘蛛,又称(cheng)爬(pa)虫,本(ben)质是(shi)搜(sou)索引擎派出的一(yi)个执行抓取任务的程(cheng)序(xu)蜘(zhi)蛛(zhu)池的本质是大量的网站互相链接(jie),每(mei)个站单独(du)产生(sheng)大(da)量(liang)的内(nei)容吸(xi)引蜘蛛来爬,几千个网站互链时,可以想(xiang)象(xiang)蜘蛛的链接
Copyright © 2008-2018