楼上说的很(hen)多，我补(bu)充(chong)一下，正(zheng)确的应该叫网(wang)络蜘蛛(zhu)，又(you)称爬虫，本质是(shi)搜索引擎(qing)派出的(de)一个执行抓(zhua)取任务(wu)的程序(xu)蜘蛛(zhu)池的本(ben)质是大量的网站互相链接，每个站单独产生(sheng)大(da)量(liang)的内容吸引蜘蛛来爬，几千(qian)个网(wang)站互(hu)链(lian)时，可以想象蜘蛛的(de)链接