一个简单的Python爬虫实例
这是一个简单的Python爬虫实例,我们将使用urllib库来下载一个网页并解析它。
首先,我们需要安装urllib库:
pip install urllib
接下来,我们来看看如何使用urllib库来下载一个网页:
import urllib.request
这是要下载的网页地址
url = 'https://www.python.org'
使用urllib.request库下载网页
response = urllib.request.urlopen(url)
解析网页
html = response.read()
打印网页内容
print(html)
运行上面的代码,你会看到网页的内容被打印出来了。
下面,我们来看看如何使用urllib库来下载一个图片:
import urllib.request
这是要下载的图片地址
url = 'https://www.python.org/static/img/python-logo.png'
使用urllib.request库下载图片
response = urllib.request.urlopen(url)
读取图片数据
data = response.read()
将图片数据写入文件
with open('python-logo.png', 'wb') as f:
f.write(data)
运行上面的代码,你会发现一个名为“python-logo.png”的文件被下载到了当前目录。
最后,我们来看看如何使用urllib库来模拟一个浏览器发送请求:
import urllib.request
这是要请求的网页地址
url = 'https://www.python.org'
这是请求头,模拟一个浏览器发送请求
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.110 Safari/537.36'
}
使用urllib.request库发送请求
response = urllib.request.urlopen(url, headers=headers)
解析网页
html = response.read()
打印网页内容
print(html)
运行上面的代码,你会发现网页的