蜘蛛精是什么

蜘蛛精是通过网页的链接地址来寻找网页

从网站某一个页面，通常是首页开始，读取网页的内容，找到在网页中的其它链接地址，然后通过这些链接地址寻找下一个网页，这样一直循环下去，直到把这个网站所有的网页都抓取完为止

如果把整个互联网当成一个网站，那么，网络蜘蛛就可以用这个原理把互联网上所有的网页都抓取下来