网络爬虫（又被称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。

网络爬虫

定义：网络蜘蛛、网络机器人,抓取网络数据的程序

总结：用Python程序去模仿人去访问网站,模仿的越像越好

目的：通过有效的大量数据分析市场走势、决策

企业获取数据的方式

• 公司自有数据

• 第三方数据平台购买

  • 数据堂、贵阳大数据交易所

• 爬虫爬取数据

  • 市场上没有或者价格太高,利用爬虫程序爬取

Python做爬虫优势

请求模块、解析模块丰富成熟;强大的Scrapy框架

PHP ：对多线程、异步支持不好
JAVA：代码笨重, 代码量大
C/C++ ：虽然效率高, 但是代码成型很慢

爬虫分类

1. 通用网络爬虫(搜索引擎引用,需要遵守robots协议)

   https://www.taobao.com/robots.txt

   搜索引擎如何获取一个新网站的URL?

   1. 网站主动向搜索引擎提供(百度站长平台)

   2. 和DNS服务商(万网)合作,快速收录新网站