一个网站背后的数据是一座巨大的宝库,对于如何爬取数据,如何利用好这些数据,很多人还是一头雾水。在知乎的提问“有哪些网站用爬虫爬取能得到很有价值的数据?”中,@何明科为读者分享了自己的爬虫经验:
0、IT桔子和36Kr
在专栏文章中(http://zhuanlan.zhihu.com/p/20714713),抓取IT橘子和36Kr的各公司的投融资数据,试图分析中国各家基金之间的互动关系。
1、知乎 沧海横流,看行业起伏(2015年) - 数据冰山 - 知乎专栏,抓取并汇总所有的答案,方便大家阅读,找出2015年最热门和最衰落的行业
有空的时候,准备写爬虫分析知乎的关系链。
2、汽车之家 大数据画像:宝马车主究竟有多任性? - 数据冰山 - 知乎专栏,利用论坛发言的抓取以及NLP,对各种车型的车主做画像。
3、天猫、京东、淘宝等电商网站 超越咨询顾问的算力,在用户理解和维护:大数据改变管理咨询(三) - 数据冰山 - 知乎专栏,抓取各大电商的评论及销量数据,对各种商品(颗粒度可到款式)沿时间序列的销量以及用户的消费场景进行分析。
甚至还可以根据用户评价做情感分析,实时监控产品在消费者心目中的形象,对新发布的产品及时监控,以便调整策略。
4、58同城的房产、安居客、Q房网、搜房等房产网站 下半年深圳房价将如何发展 - 数据冰山 - 知乎专栏,抓取房产买卖及租售信息,对热热闹闹的房价问题进行分析。
5、大众点评、美团网等餐饮及消费类网站 黄焖鸡米饭是怎么火起来的? - 何明科的回答,抓取各种店面的开业情况以及用户消费和评价,了解周边变化的口味,所谓是“舌尖上的爬虫”。
以及各种变化的口味,比如:啤酒在衰退,重庆小面在崛起。
6、58同城等分类信息网站 花10万买贡茶配方,贵不贵? - 何明科的回答,抓取招商加盟的数据,对定价进行分析,帮助网友解惑。
7、拉勾网、中华英才网等招聘网站 互联网行业哪个职位比较有前途? - 数据冰山 - 知乎专栏,抓取各类职位信息,分析最热门的职位以及薪水。
8、挂号网等医疗信息网站 如何评价挂号网? - 何明科的回答,抓取医生信息并于宏观情况进行交叉对比。
9、应用宝等App市场 你用 Python 做过什么有趣的数据挖掘/分析项目? - 何明科的回答,对各个App的发展情况进行跟踪及预测。(顺便吹一下牛,我们这个榜单很早就发现小红书App的快速增长趋势以及在年轻人中的极佳口碑)
10、携程、去哪儿及12306等交通出行类网站 你用 Python 做过什么有趣的数据挖掘/分析项目? - 何明科的回答,对航班及高铁等信息进行抓取,能从一个侧面反映经济是否正在走入下行通道。
11、雪球等财经类网站 抓取雪球KOL或者高回报用户的行为,找出推荐股票
12、58同城二手车、易车等汽车类网站 一年当中买车的最佳时间为何时? - 何明科的回答和什么品牌或者型号的二手车残值高?更保值?反之,什么类型的贬值较快? - 二手车,找出最佳的买车时间以及最保值的汽车。
13、神州租车、一嗨租车等租车类网站 抓取它们列举出来的租车信息,长期跟踪租车价格及数量等信息
14、各类信托网站 通过抓取信托的数据,了解信托项目的类型及规模
其实还有很多数据,不一一列举了。只要有爱数据的心和能爬的虫子,一切且有可能。顺利安利一下,抓取数据只是很小一部分,我们更擅长的是数据分析挖掘、可视化以及个性化的推荐。
链接:https://www.zhihu.com/question/36132174/answer/89145038 来源:知乎