楼上(shang)说(shuo)的很多，我(wo)补(bu)充一下，正(zheng)确的应该叫网络蜘蛛(zhu)，又称爬(pa)虫，本质是搜索引擎(qing)派出的一个执行抓取任务的(de)程(cheng)序(xu)蜘蛛(zhu)池的本质(zhi)是大量的网站互相链(lian)接，每个站(zhan)单独(du)产生(sheng)大(da)量(liang)的内容吸引蜘蛛来爬(pa)，几千(qian)个(ge)网站(zhan)互链时(shi)，可以想象蜘蛛的(de)链接(jie)