楼上(shang)说的很多(duo)，我(wo)补充一下，正(zheng)确的应(ying)该叫网(wang)络蜘(zhi)蛛，又称爬虫，本质是搜索引擎(qing)派出的一个执(zhi)行抓取任务(wu)的程序蜘蛛(zhu)池(chi)的(de)本(ben)质是大量的网站互相链接，每个(ge)站单(dan)独(du)产(chan)生大量的内(nei)容吸引蜘(zhi)蛛来爬，几(ji)千个网站(zhan)互链时(shi)，可(ke)以想象蜘(zhi)蛛的链接(jie)