社区首页 >专栏 >从HTML提取表格数据到Excel：猫头虎博主的终极指南

从HTML提取表格数据到Excel：猫头虎博主的终极指南

猫头虎

发布于 2024-04-07 07:25:08

1.5K017

代码可运行

文章被收录于专栏：猫头虎博客专区猫头虎博客专区

运行总次数：17

代码可运行

🐾从HTML提取表格数据到Excel：猫头虎博主的终极指南📊

摘要

在本篇技术博客中，猫头虎博主将带领大家探索如何高效从HTML中提取表格数据并保存至Excel文件的技巧。无论你是数据分析师、开发者，还是对数据抓取感兴趣的技术爱好者，这篇文章都将为你提供宝贵的知识和实用的代码案例。通过本文，你将学会使用Python语言及其强大的库如BeautifulSoup和Pandas来完成这一任务。本文内容涵盖HTML解析、数据提取、数据处理以及Excel文件的生成，旨在帮助读者轻松掌握从网页提取信息到数据持久化的完整流程。本文将成为你数据处理工作中的得力助手，快速从网页抓取数据再也不是问题。

SEO关键词：HTML表格数据提取，Python数据处理，BeautifulSoup教程，Pandas操作Excel，数据抓取技巧，技术博客CSDN发布

引言

在数据密集的互联网世界，能够从各种网页中提取有用信息，并将其保存到Excel表格中，对于数据分析和信息汇总来说极为重要。Python，作为一门强大的编程语言，结合其丰富的库资源，使得这一切变得触手可及。猫头虎博主今天将分享如何使用Python中的BeautifulSoup库和Pandas库，从HTML中提取表格数据并保存至Excel，无论你是技术小白还是编程大佬，都能轻松上手，一起来看看吧！

正文

🚀开始之前

在深入教程之前，请确保你的Python环境已经安装了以下库：

pip install beautifulsoup4
pip install pandas
pip install openpyxl
pip install lxml

这些库将为我们提取网页数据、分析并保存到Excel中提供支持。

📜理解HTML结构

HTML是构成网页的基本骨架，了解其结构对于数据提取至关重要。表格数据通常位于<table>标签内，其中<tr>标签定义了表格的行，<td>标签定义了行内的单元格。掌握这些基本概念将帮助我们更准确地定位和提取数据。

🛠使用BeautifulSoup提取表格数据

BeautifulSoup是一个用于解析HTML和XML文档的Python库。它创建了一个解析树，让我们可以轻松提取HTML中的数据。以下是如何使用BeautifulSoup提取表格数据的步骤：

from bs4 import BeautifulSoup
import requests

url = "你的目标网页链接"
response = requests.get(url)
soup = BeautifulSoup(response.text, 'html.parser')

# 找到页面中的所有表格
tables = soup.find_all('table')

📈处理数据并保存至Excel

一旦我们使用BeautifulSoup提取了表格数据，下一步就是使用Pandas处理这些数据并保存至Excel。Pandas是一个强大的数据分析和处理库，它提供了DataFrame对象，非常适合用于处理表格数据。

import pandas as pd

# 假设我们处理第一个表格
table = tables[0]
rows = table.find_all('tr')

data = []
for row in rows:
    cols = row.find_all('td')
    cols = [ele.text.strip() for ele in cols]
    data.append([ele for ele in cols if ele]) # 去除空值

df = pd.DataFrame(data)

# 保存至Excel
df.to_excel('output.xlsx', index=False)

小结

通过上述步骤，我们学会了如何使用BeautifulSoup和Pandas库从HTML中提取表格数据并将其保存至Excel。这一流程不仅适用于数据分析项目，也可以用于任何需要从网页提取信息的场景。

📈处理本地html文件并保存至Excel代码案例

import pandas as pd
from bs4 import BeautifulSoup

# Load and parse the HTML file
with open("E:/test/testexcel.html", "r", encoding="utf-8") as file:
    soup = BeautifulSoup(file, "html.parser")

# Find the table in the HTML
table = soup.find("table")

# Extract rows from the table
rows = table.find_all("tr")

# Create a list to hold all row data
data = []

# Loop through rows and collect data
for row in rows:
    cols = row.find_all("td")
    cols = [ele.text.strip() for ele in cols]
    data.append([ele for ele in cols if ele])  # Get rid of empty values

# Create a DataFrame
df = pd.DataFrame(data)

# Specify the file name for the Excel file
excel_file = "E:/test/Name.xlsx"

# Write the DataFrame to an Excel file
df.to_excel(excel_file, index=False, header=False)

excel_file