爬虫实现的功能:
输入python,选择地点:上海,北京 ---->就去爬取上海,北京2个城市python招聘信息
输入会计,选择地址:广州,深圳,杭州---->就去爬取广州,深圳,杭州3个城市会计招聘信息...根据输入的不同,动态爬取结果
二、页面分析
输入关键字
selenium怎么模拟用户输入关键字,怎么选择城市,怎么点击搜索按钮?...selenium模拟用户点击搜索
通过selenium的find_element_by_xpath 找到 这个button按钮,然后click() 即可模拟用户点击搜索
代码为:
browser.find_element_by_xpath...(首先运行)获取城市编号,会生成一个city.txt文件
mylog.py 日志程序,记录爬取过程中的一些信息
get51Job.py 爬虫主程序,里面包含:
?...,用来存放所有岗位详情的url
urls = []
# 创建一个特殊招聘空列表
job_urls = []
# 获取所有岗位详情url