楼(lou)上说(shuo)的很多,我(wo)补充一下,正确(que)的应该叫(jiao)网络(luo)蜘蛛,又(you)称爬虫,本(ben)质(zhi)是搜索引擎派出的一个执行抓取任务的程序蜘蛛池(chi)的(de)本质是大(da)量(liang)的网站互(hu)相链(lian)接(jie),每个站单独产生大(da)量的内容吸引蜘(zhi)蛛(zhu)来爬(pa),几千个网(wang)站互链时,可以想象(xiang)蜘蛛(zhu)的链(lian)接
Copyright © 2008-2018