立即前往

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
查看全部活动
热门活动
  • 智算采购季 热销S6云服务器2核4G限时88元/年起,部分主机可加赠对象存储组合包!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 一键部署Llama3大模型学习机 0代码一键部署,预装最新主流大模型Llama3与StableDiffusion
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 产品能力
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
    • 关系数据库SQL Server版
    • 企业主机安全
    • 云防火墙
    • CDN加速
    • 物理机
    • GPU云主机
    • 天翼云电脑(政企版)
    • 天翼云电脑(公众版)
    • 云主机备份
    • 弹性云主机
      搜索发现
      关系数据库SQL Server版企业主机安全云防火墙CDN加速物理机GPU云主机天翼云电脑(政企版)天翼云电脑(公众版)云主机备份弹性云主机
    • 文档
    • 控制中心
    • 备案
    • 管理中心
    • 登录
    • 免费注册

    快乐学Python,如何使用爬虫从网页中提取感兴趣的内容?

    首页 知识中心 软件开发 文章详情页

    快乐学Python,如何使用爬虫从网页中提取感兴趣的内容?

    2024-04-26 08:39:47 阅读次数:44

    Python,标签

    前面的内容,我们了解了使用urllib3和selenium来下载网页,但下载下来的是整个网页的内容,那我们又怎么从下载下来的网页中提取我们自己感兴趣的内容呢?这里就需要Python的另一个库来实现-BeautifulSoup。

    BeautifulSoup 是一个 Python 库,用于分析 HTML。它和它的名字一样,用起来非常“香”。今天我们通过使用 BeautifulSoup 去从上一篇文章案例中下载到的 html 文件:jiandan.html 中提取所有新闻的标题。

    打开 VS Code,并创建ipynb文件,将之前下载的jandan.html文件复制到源文件共同的文件夹内。

    接下来我们将在这个 notebook 中对 jiandan.html 进行内容提取。

    1、安装BeautifulSoup

    这里安装的步骤和之前安装selenium的步骤一样。 我们去开始菜单 → Anaconda ,选择 Anaconda Prompt,出现命令行界面。在命令行界面,输入如下安装命令:(BeautifulSoup 的 Python 包名为 bs4, 简写)

    conda install bs4
    

    回车执行,之后在询问会否确认时输入 y 回车,等待安装完毕,关闭即可。

    (1)读取html文件到Python

    数据提取的第一步,我们首先需要将 html 文件加载到 Python 的变量中。在上一篇文章中,我们了解了通过文件对象来把 Python 变量写进文件里,这里我们来尝试用类似的代码来将文件中的内容读出来。

    代码如下,可以看到和写入文件的代码非常类似。

    # 打开 jiandan.html,第二个参数 r,代表 read
    
    # open 函数返回一个文件对象,保存在变量 fo 中
    
    fo = open("jiandan.html","r",encoding="utf-8")
    
    # 调用文件对象的 read 函数,该函数将文件的内容读取到 Python 中
    
    # read 函数的返回值就会文件内容,我们保存在 html_content 中
    
    html_content = fo.read()
    
    # 关闭文件对象
    
    fo.close()
    
    # 打印 html_content 变量,看内容是否被正确加载
    
    print(html_content)
    
    

    执行之后,输出结果如下所示(打印的 html 文本太长,这里仅截图示意)。

    快乐学Python,如何使用爬虫从网页中提取感兴趣的内容?

    (2)创建BeautifulSoup对象

    现在,我们已经将文件的内容读了出来,但是目前还是以一个超大的字符串的形式存储在变量中。想要对其进行有效的分析,第一步我们先要构造一个 BeautifulSoup 的对象。代码如下:

    # 从 bs4 模块中导入 BeautifulSoup 类
    
    from bs4 import BeautifulSoup
    
    # 创建一个 BeautifulSoup 的对象,并将刚才我们存储网页内容的变量作为参数
    
    doc = BeautifulSoup(html_content)
    
    # 打印 doc 对象的 title 属性。
    
    print(doc.title)
    
    

    执行上述代码之后,BeautifulSoup 对象就被创建并存在变量 doc 中,为了测试是否创建成功,我们打印了 doc 对象的 title 属性,输出如下。

    <title>
    
    煎蛋 - 地球上没有新鲜事
    
    </title>
    
    

    (3)BeautifulSoup 对象的基本使用

    刚刚我们打印了 doc 对象的 title 属性,来测试对象是否创建成功。从打印的内容来看,想必你已经猜到了,doc 对象的 title 属性,就对应了网页的 title 标签。但是刚才我们打印的内容中,title 标签也被打印出来了。

    那是否可以只取标签里面的内容呢?

    ①get_text方法

    在 BeautifulSoup 中,我们可以通过标签对象的 get_text 方法来获得标签中的内容。

    # 将 title 属性保存在 title_label 的变量中
    
    title_label = doc.title
    
    # 调用 get_text 方法,并把返回值打印出来
    
    print(title_label.get_text())
    
    

    输出如下:

    煎蛋 - 地球上没有新鲜事
    
    

    可以看到,这次我们成功将标签内的文字提取了出来。

    ②find_all方法

    BeautifulSoup 对象另一个常用方法是 find_all, 用来在 html 文档中查到特定标签名以及特定属性值的标签,下面来举例说明。

    比如,在网页上有这么个结构

    快乐学Python,如何使用爬虫从网页中提取感兴趣的内容? 目前我们的 doc 对象已经包含了这些内容。现在我们来尝试提取 class 等于 logo 的这个 div 标签,代码如下。

    # find_all 是 BeautifulSoup 对象的常用方法,用于查找特定的标签
    
    # 接受三个参数,第一个是要查找的标签名,第二个则是要匹配的属性名
    
    # 比如这里,我们查找的是 class=logo 标签,则直接按如下写法即可。
    
    # 因为 class 是 Python 的关键字,所以这里需要使用 class_ 以示区分
    
    # 最终,find_all 函数返回所有满足条件的标签列表
    
    logo_label = doc.find_all("div", class_="logo")
    
    print(logo_label)
    
    

    输出结果为:

    [<div >
    
    <a rel="nofollow" href="/" onclick="ga('send', 'pageview','/header/logo');">煎蛋</a>
    
    </div>]
    
    

    可以看到,我们截图中的内容,箭头所指的 div 标签被成功的过滤了出来。

    ③获取标签对象的属性

    通过标签对象的 attrs 属性,我们可以获取标签对象的属性的值,attrs 是一个字典,获取属性的值的方法如下:

    # 取 logo_label 列表的第一个标签对象
    
    label = logo_label[0]
    
    # 打印这个对象的 class 属性
    
    print(label.attrs["class"])
    
    

    输出:

    ['logo']
    
    

    2、过滤出网页的新闻列表

    现在,我们来使用之前的 doc 对象来过滤出新闻的标题列表。

    (1)观察html,提取初步的新闻标签列表

    在使用 BeautifulSoup 进行内容过滤的第一步,首先要查看我们想要的内容所在的标签。我们在 VS Code 中打开 jiandan.html,搜索“普通感冒”到达新闻标题内容区域,如下图所示。

    快乐学Python,如何使用爬虫从网页中提取感兴趣的内容? 通过观察截图中的标签内容,很容易发现似乎每个新闻标题,都有一个对应的 div 标签,并且它的 class 是 indexs。沿着这个思路,我们可以先考虑使用 find_all 将其过滤出来。通过如下代码。

    # 查找 class 为 indexs 的所有 div 标签,存储在 index_labels 中
    
    index_labels = doc.find_all("div", class_="indexs")
    
    # 打印符合条件的 div 标签的数量
    
    print(len(index_labels))
    
    

    输出:

    24
    

    说明找到了 24 个符合条件的 div 标签。一个网页的新闻也是 20 多条,说明有希望。

    (2)提取单个标签的新闻标题

    因为 index_labels 是一个标签对象的列表,距离我们要过滤的新闻标题还有距离。下一步,我们就来分析如何从这些标签对象中抽取新闻标题。 首先,我们先取第一个来看一下。

    first_object = index_labels[0]
    
    print(first_object)
    
    

    输出如下:

    <div >
    
    <span  title="1小时 ago">8</span>
    
    <h2><a rel="nofollow" href="http:///p/108693" target="_blank">引发普通感冒的鼻病毒会将新冠病毒排挤出细胞!</a></h2>
    
    <div ><a rel="nofollow" href="http:///p/author/majer">majer</a> · <strong><a href="http:///p/tag/%e6%96%b0%e5%86%a0%e7%97%85%e6%af%92" rel="tag">新冠病毒</a></strong></div>
    
    换而言之,如果你感冒了,在那段期间就不会被新冠病毒感染 </div>
    
    

    现在我们的问题就转化为,如何从上述 html 中抽取出新闻的标题。

    通过查看上述内容可以发现,我们的标题在第三行,在一个 a 标签内部。那是不是我们只需要过滤出这个 a 标签,再使用 get_text 拿到里面的内容就好了?

    那要怎么过滤出第三行的 a 标签呢?可以看到这个 a 标签里有 target="_blank" 这样一个属性,我们就可以使用 find_all 将其过滤出来了。

    # 从刚才的 first_object 标签对象中过滤出所有 target=_blank 的 a 标签
    
    a_labels = first_object.find_all("a",target="_blank")
    
    # 取第一个标签对象
    
    my_label = a_labels[0]
    
    # 打印该标签对象内的文字内容
    
    print(my_label.get_text())
    
    

    输出如下:

    引发普通感冒的鼻病毒会将新冠病毒排挤出细胞!
    
    

    你看,新闻的标题被成功抽取了出来!

    (3)提取新闻标题的列表

    目前,我们已经实现了从第一个标签对象中提取新闻标题,但我们的列表中有 24 个标签对象。要怎么做呢?聪明的你应该想到了,我们只需要把“从标签对象抽取标题”这段逻辑写成一个函数,然后通过一个循环对列表的每个标签对象都调用这个函数即可。

    # 从第一次 find_all 获取的标签对象中抽取标题
    
    def get_title(label_object):
    
        # 从刚才的参数传入的标签对象中过滤出所有 target=_blank 的 a 标签
    
        a_labels = label_object.find_all("a",target="_blank")
    
        # 取第一个标签对象
    
        my_label = a_labels[0]
    
        # 将标签的文字内容作为返回值返回
    
        return my_label.get_text()
    
    # 用循环针对每个 index_labels 列表中的标签对象
    
    # 都将其作为参数传入 get_title 函数
    
    # 并打印返回值
    
    for i in range(0,len(index_labels)):
    
        title = get_title(index_labels[i])
    
        print(title)
    
    

    执行后输出:

    引发普通感冒的鼻病毒会将新冠病毒排挤出细胞!
    
    无厘头研究:植入虚假的记忆再抹去它们
    
    什么是仇恨犯罪?
    
    突发:LHCb发现了违背标准模型的现象
    
    今日带货 20210324
    
    舌战裸猿:IBM搞出了可以打辩论赛的AI
    
    大吐槽:「我没醉,醉的是世界」
    
    今年世界总发电量的0.6%被用于挖比特币
    
    接种疫苗后还是感染新冠?不要为此惊讶
    
    今日带货:蛋友家的血橙
    
    科学家首次在野外检测到抗多药的超级真菌
    
    未在iPhone12盒中搭配充电器,苹果被巴西消协罚200万美元
    
    工程师将解决城市陷坑的问题
    
    今日带货:粉面专场
    
    科学家在碟子里培育出了泪腺,并让它哭泣
    
    疯狂实验进行时:把志愿者禁闭在黑暗的空间里40天
    
    今日带货 20210321
    
    我们已向外星人发送了哪些消息?
    
    脑力小体操:石头+剪刀 VS 石头+布
    
    发霉啦:今天,我终于向母亲摊牌了
    
    普渡大学的经济学家计算出世界各地幸福的价格
    
    人类首次观察到木星上极光黎明风暴的成形过程
    
    为女儿出头,母亲编辑假裸照败坏高中啦啦队队员的名誉
    
    今日带货:淘宝京东蛋友推荐
    
    

    可以看到,jiandan.html 中的所有新闻标题被我们成功过滤了出来,现在是不是感受到了 BeautifulSoup 的神奇之处了呢。

    至此,我们就完成了使用 BeautifulSoup 对网页进行内容的提取。

    版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.51cto.com/jiangyi/9255980,作者:我爱哇哈哈,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

    上一篇:java实现遍历树形菜单方法——设计思路【含源代码】

    下一篇:markdown 常用表情符号 (github emoji)

    相关文章

    2025-04-23 08:18:21

    【Python】学习笔记01

    【Python】学习笔记01

    2025-04-23 08:18:21
    Python , 程序 , 编译 , 逻辑 , 面向对象
    2025-04-22 09:27:28

    啥,凭什么Python中函数的返回值可以有多个?

    啥,凭什么Python中函数的返回值可以有多个?

    2025-04-22 09:27:28
    Python , 函数 , 参数 , 形参 , 返回值
    2025-04-22 09:27:28

    【Python】系列之判断和循环

    【Python】系列之判断和循环

    2025-04-22 09:27:28
    Python , 判断 , 循环 , 执行 , 语句
    2025-04-18 08:02:02

    QT从入门到精通(一)——Qlabel介绍与使用

    Qt 是一个跨平台的应用程序开发框架,广泛用于开发图形用户界面(GUI)应用程序,也支持非图形应用程序的开发。Qt 提供了一套工具和库,使得开发者能够高效地构建高性能、可移植的应用程序。

    2025-04-18 08:02:02
    Python , 应用程序 , 示例
    2025-04-18 07:10:44

    linux常用命令-pip命令详解(超详细)

    pip 是 Python 的包管理器,用于安装和管理 Python 包。它提供了一种简单而强大的方式来管理项目所需的依赖项。

    2025-04-18 07:10:44
    pip , Python , 命令 , 安装 , 安装包 , 选项
    2025-04-15 09:20:33

    初学Java,跳出外层循环(四)

    初学Java,跳出外层循环(四)

    2025-04-15 09:20:33
    break , continue , 标签 , 语句 , 运行
    2025-04-14 09:28:32

    31天Python入门——第20天:魔法方法详解

    魔法方法: Python中的魔法方法是一类特殊的方法, 它们以双下划线 __ 开头和结尾, 用于实现类的特殊行为.这些魔法方法在Python中具有特殊的含义, 可以让你自定义类的行为, 使其更符合你的需求, 它们一般是自动调用, 也可以通过内置函数来显式调用.

    2025-04-14 09:28:32
    Python , 对象 , 方法 , 调用 , 迭代
    2025-04-11 07:08:42

    一文解读JavaScript中的文档对象(DOM)

    一文解读JavaScript中的文档对象(DOM)

    2025-04-11 07:08:42
    JavaScript , Python , 元素 , 文档 , 节点 , 获取
    2025-04-09 09:16:56

    Python算法学习[6]—查找算法:表、树、散列、斐波那契查找算法&实践操作

    查找算法:表、树、散列、斐波那契查找算法&实践操作

    2025-04-09 09:16:56
    Python , 代码 , 元素 , 函数 , 查找 , 算法 , 那契
    2025-04-09 09:16:56

    Python算法学习[10]—经典算法问题的解决&算法分析与实现

    在计算机科学中,经典算法问题是一类常见的编程问题。本文将介绍三个经典的算法问题:快速排序、最短路径和二分查找,并提供Python代码来实现这些问题的解决方案。

    2025-04-09 09:16:56
    Python , 函数 , 列表 , 目标值 , 算法 , 节点 , 路径
    查看更多
    推荐标签

    作者介绍

    天翼云小翼
    天翼云用户

    文章

    32777

    阅读量

    4830235

    查看更多

    最新文章

    【Python】学习笔记01

    2025-04-23 08:18:21

    【Python】系列之判断和循环

    2025-04-22 09:27:28

    啥,凭什么Python中函数的返回值可以有多个?

    2025-04-22 09:27:28

    QT从入门到精通(一)——Qlabel介绍与使用

    2025-04-18 08:02:02

    linux常用命令-pip命令详解(超详细)

    2025-04-18 07:10:44

    初学Java,跳出外层循环(四)

    2025-04-15 09:20:33

    查看更多

    热门文章

    Python标准输入输出

    2023-04-18 14:15:05

    Python:matplotlib分组Bar柱状图

    2024-09-25 10:15:01

    刷题——Python篇(2)类型转换

    2023-02-13 07:58:38

    Python Pandas将多个dataframe写入Excel文件

    2023-04-21 03:11:35

    AI:深度学习中的激活函数sigmoid函数,Python

    2024-09-25 10:15:01

    Python冒泡排序

    2023-04-18 14:14:43

    查看更多

    热门标签

    java Java python 编程开发 开发语言 代码 算法 线程 html Python 数组 C++ javascript c++ 元素
    查看更多

    相关产品

    弹性云主机

    随时自助获取、弹性伸缩的云服务器资源

    天翼云电脑(公众版)

    便捷、安全、高效的云电脑服务

    对象存储

    高品质、低成本的云上存储服务

    云硬盘

    为云上计算资源提供持久性块存储

    查看更多

    随机文章

    使用Python的Turtle库绘制太极,用turtle演绎中国风!

    Python冒泡排序

    31天Python入门——第20天:魔法方法详解

    深入理解Python中的类方法、类实例方法和静态方法

    算法题 62. 不同路径,66. 加一,67. 二进制求和

    python编程-12:类的定义-面向对象

    • 7*24小时售后
    • 无忧退款
    • 免费备案
    • 专家服务
    售前咨询热线
    400-810-9889转1
    关注天翼云
    • 权益商城
    • 天翼云APP
    • 天翼云微信公众号
    服务与支持
    • 备案中心
    • 售前咨询
    • 智能客服
    • 自助服务
    • 工单管理
    • 客户公告
    • 涉诈举报
    账户管理
    • 管理中心
    • 订单管理
    • 余额管理
    • 发票管理
    • 充值汇款
    • 续费管理
    快速入口
    • 权益商城
    • 文档中心
    • 最新活动
    • 免费试用
    • 信任中心
    • 天翼云学堂
    云网生态
    • 甄选商城
    • 渠道合作
    • 云市场合作
    了解天翼云
    • 关于天翼云
    • 天翼云APP
    • 服务案例
    • 新闻资讯
    • 联系我们
    热门产品
    • 云电脑
    • 弹性云主机
    • 云电脑政企版
    • 天翼云手机
    • 云数据库
    • 对象存储
    • 云硬盘
    • Web应用防火墙
    • 服务器安全卫士
    • CDN加速
    热门推荐
    • 云服务备份
    • 边缘安全加速平台
    • 全站加速
    • 安全加速
    • 云服务器
    • 云主机
    • 智能边缘云
    • 应用编排服务
    • 微服务引擎
    • 共享流量包
    更多推荐
    • web应用防火墙
    • 密钥管理
    • 等保咨询
    • 安全专区
    • 应用运维管理
    • 云日志服务
    • 文档数据库服务
    • 云搜索服务
    • 数据湖探索
    • 数据仓库服务
    友情链接
    • 中国电信集团
    • 189邮箱
    • 天翼企业云盘
    • 天翼云盘
    ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
    公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
    • 用户协议
    • 隐私政策
    • 个人信息保护
    • 法律声明
    备案 京公网安备11010802043424号 京ICP备 2021034386号