活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
查看全部活动
热门活动
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 一键部署Llama3大模型学习机 0代码一键部署,预装最新主流大模型Llama3与StableDiffusion
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
    • 关系数据库SQL Server版
    • 企业主机安全
    • 云防火墙
    • CDN加速
    • 物理机
    • GPU云主机
    • 天翼云电脑(政企版)
    • 天翼云电脑(公众版)
    • 云主机备份
    • 弹性云主机
      搜索发现
      关系数据库SQL Server版企业主机安全云防火墙CDN加速物理机GPU云主机天翼云电脑(政企版)天翼云电脑(公众版)云主机备份弹性云主机
    • 文档
    • 控制中心
    • 备案
    • 管理中心
    • 登录
    • 免费注册

    网络爬虫入门及准备工作(爬虫及数据可视化)

    首页 知识中心 服务器 文章详情页

    网络爬虫入门及准备工作(爬虫及数据可视化)

    2025-03-21 06:59:32 阅读次数:12

    内容,数据,服务器,模块,浏览器,爬虫,网页

    1,网络爬虫入门

    主要看课件
    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)此次任务只需对表面的也的分析,不用点进去的详细信息

    接下来的1-2天进行
    大概两天

    后面项目做的需要扩展内容(时间充分)

    使用程序复制网络上的数据

    网络数据非常多,但数据价值,股市、金融数据保险等信息

    电影天堂流量很大,可以在百度指数查看每天的访问人次

    1.1 百度指数

    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    电影天堂和吃鸡对比
    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    可能你觉得很简单的网站流量也是非常大的

    如电影天堂网站,很多信息并不是其自己写的,很多信息是来自豆瓣的

    很多流量大的网站,

    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    只需要将内容爬取出来

    这么多的流量怎么赚钱,通过视频引流,使用广告变现,如右下角广告变现

    搜索引擎就是网络爬虫

    1.2 天眼查

    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    天眼查的网站怎么赢利,有些信息不能看,需要充值才能看,卖的不是信息本身,卖的是信息之间的关系。基于数据分析,提供方案的。就是数据采集聚合。

    原来的基本应用产生大量数据,现在要将数据整合,产生新的价值
    爬虫可以完成特定行业的。

    一些付费视频,前提是付过钱了,然后爬取,可能有加密,反爬取等

    浏览器本身展示的看的,写的程序只是将我们看到的东西存起来(我们想要的数据)

    爬虫根据每个网页,分析

    1.3 爬虫原理

    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    1.4 搜索引擎原理

    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    这两天的内容是前半段,将爬取的数据放到数据库中,而搜索引擎在后半段,需要将爬取的东西做一个索引,用户搜索时,可以将索引快速定位到数据库中的数据。
    每次搜索不是爬虫再爬取一次,而是数据展现

    这里后面没讲索引,只是讲了数据的可视化展现,实际思路是一样的

    准备工作:看目标网页,怎么分析,看那些是我们想要的内容,并且找到,还包括写程序的输出框架,问题预防解决的

    获取数据:很多的库,发起请求,模拟浏览器发起,获取网页信息

    页面解析:页面解析库,正则表达式等库

    保存数据:保存到Excel或数据库,需要很多库

    2,准备工作

    2.1 分析爬取页面

    准备工作是用来分析要爬取的页面的

    上方连接是第2页
    问号后是参数名和参数值是&链接
    start=25意思是从26个后提供共25个电影显示到页面
    &filter= 可以不要
    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    上来就看连接的特点,网络爬虫都是根据连接模拟浏览器访问网页,现在看到的所有东西

    2.2 爬虫拿到的不仅是网页还是网页的源代码

    返回的就是html网页,里面嵌入了js及css代码而已

    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    2.3 爬虫就是将网页中的内容提取出来。

    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    2.4 爬虫需要找到规律

    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    2.5 使用开发者工具进行调试,找到要寻找的数据位置

    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    在network中,点击刷,可以看到,发起请求到显示结束,中间浏览器向服务器发出了这么多请求,因为这些请求的作用一直延长时间,中间有交互,只要有交互就会延长,可以点击红色圆圈停止记录。

    点击刷新,只要内容是想要的就点击停止记录。
    比如将鼠标放到开始

    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    Response headers是我们发给服务器的,要求服务器的适配,服务器返回的信息就是整个网页

    Headers下的所有内容全是浏览器发送给服务器的请求。

    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)
    User-agent使用哪个浏览器,需要标明,如果没有,服务器可能不返回信息
    Cookie如果是需要一些登录后才能进行的内容的爬取,就必须学会存储cookie和读取cookie
    Headers是发送网络请求给服务器的消息,服务器通过此消息来鉴定我们的身份

    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    Cookie:是服务器能标识客户端信息保存在本地的信息,里面是加密的,登录信息还是客户端行为信息保存在本地的内容。当访问豆瓣时,cookie可能反映了很多我的内容,如地理位置、ip地址、浏览的以前的关键字

    记录行为,不仅在本地,每次访问都会给对方法消息,服务器可以通过此进行分析

    宏观可以知道有多少人使用谷歌浏览器,多少windows系统,有多少人的分辨率多少

    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)
    根据此层级结构可以快速锁定位置

    有很多的库,可以通过此路径直接找到内容,甚至批量将剩下内容拿到
    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    2.6 主程序入口(If name==”main”:)

    If _name_==”_main_”:
    

    如果执行主方法,当运行的函数名是main的时候,起始2main就是程序被解释的时候默认的方法名。

    定义程序执行的入口

    这样写使程序安照自己的组织来,在上面写,程序入口,执行过程看
    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    2.7 引入包或库(from test import t1)

    库就是将别人写好的代码,在当前文件中直接调用,调用如下
    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)
    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    库的内容如上图所示

    引入包或者库,就是别人写好的函数,可以在我们的文件中调用

    from test import t1
    

    from的文件夹是包,文件夹中有个具体文件,此文件就是具体的模块,import t1模块
    模块中是有函数的,上方就是引入自定义模块

    2.8 引入其他模块报错(两种解决方式)

    若引入其他模块

    最常用引入第三方模块
    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    (1)使用控制台方式(这里下载可能会因为网络的不稳定而下载失败)

    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    (2)可进入setting中的interpreter解释器中添加包

    下面界面在安装时是可以退出的,不用在控制台安装,可能会安装很长时间,这样就能直接进行其他的操作
    四、(1)网络爬虫入门及准备工作(爬虫及数据可视化)

    2.9 爬虫需要引入的包

    以下的包是我们必须用到的

    import urllib.request,urllib.error          #指定url,获取网页数据
    from bs4  import  BeautifulSoup         #网页解析,获取数据
    import re           #正则表达式,进行文字匹配
    import xlwt         #进行Excel操作
    import sqlite3       #进行SQLite操作
    
    Python3中将urllib2中的功能整合到urllib中了,使用urllib就可以了
    
    版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://zhaocai-l.blog.csdn.net/article/details/140134123,作者:吾名招财,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

    上一篇:Shell脚本实现日志老化管理:七天打包归档与三十天自动清除

    下一篇:配置过zsh的Ubuntu配置java环境变量

    相关文章

    2025-05-19 09:05:01

    项目更新到公网服务器的操作步骤

    项目更新到公网服务器的操作步骤

    2025-05-19 09:05:01
    公网 , 数据库 , 文件 , 更新 , 服务器
    2025-05-19 09:04:53

    【NetApp数据恢复】误操作导致NetApp存储的卷丢失,卷内虚拟机无法访问的数据恢复案例

    【NetApp数据恢复】误操作导致NetApp存储的卷丢失,卷内虚拟机无法访问的数据恢复案例

    2025-05-19 09:04:53
    存储 , 数据 , 数据恢复 , 解压
    2025-05-19 09:04:44

    FinalShell 配置SSH密钥登陆

    FinalShell 配置SSH密钥登陆

    2025-05-19 09:04:44
    密钥 , 服务器 , 配置
    2025-05-16 09:15:10

    画图时使用的函数和一些错误处理

    画图时使用的函数和一些错误处理

    2025-05-16 09:15:10
    数据
    2025-05-14 10:33:25

    超级好用的C++实用库之国密sm4算法

    国密SM4算法,全称为国家密码管理局制定的SM4分组密码算法,是中国自主设计的商用密码算法标准之一,用于数据的对称加密。

    2025-05-14 10:33:25
    加密 , 参数 , 数据 , 模式 , 解密
    2025-05-14 10:33:16

    30天拿下Python之使用网络

    Python网络编程覆盖的范围非常广,包括:套接字编程、socketserver、HTTP和Web开发、异步编程和asyncio等。

    2025-05-14 10:33:16
    Json , TCP , 客户端 , 接字 , 服务器 , 示例 , 连接
    2025-05-14 10:07:38

    30天拿下Rust之引用

    在Rust语言中,引用机制是其所有权系统的重要组成部分,它为开发者提供了一种既高效又安全的方式来访问和共享数据。引用可以被视为一个指向内存地址的指针,它允许我们间接地访问和操作存储在内存中的数据。

    2025-05-14 10:07:38
    Rust , text , 可变 , 引用 , 数据
    2025-05-14 10:07:38

    30天拿下Rust之所有权

    在编程语言的世界中,Rust凭借其独特的所有权机制脱颖而出,为开发者提供了一种新颖而强大的工具来防止内存错误。这一特性不仅确保了代码的安全性,还极大地提升了程序的性能。

    2025-05-14 10:07:38
    data , Rust , 内存 , 函数 , 变量 , 数据
    2025-05-14 10:07:38

    30天拿下Rust之箱、包和模块

    Rust语言使用模块系统来组织工程和代码。模块系统允许我们将相关的函数、类型、常量等组织在一起,形成一个逻辑上的单元。通过模块系统,我们可以隐藏实现细节,只暴露必要的接口,从而提高代码的可读性和可维护性。

    2025-05-14 10:07:38
    Rust , 关键字 , 文件 , 模块 , 访问
    2025-05-14 10:03:13

    【MySQL】-数据库优化(索引)

    索引(index)是帮助数据库高效获取数据的数据结构

    2025-05-14 10:03:13
    index , Tree , 二叉 , 搜索 , 数据 , 索引 , 节点
    查看更多
    推荐标签

    作者介绍

    天翼云小翼
    天翼云用户

    文章

    33564

    阅读量

    5029450

    查看更多

    最新文章

    项目更新到公网服务器的操作步骤

    2025-05-19 09:05:01

    FinalShell 配置SSH密钥登陆

    2025-05-19 09:04:44

    【Linux 从基础到进阶】AppArmor 安全模块应用指南

    2025-05-07 09:09:26

    redis高可用集群搭建

    2025-05-06 09:19:12

    基于javaWeb+jsp人力资源管理系统(含文档)

    2025-05-06 09:19:00

    【Linux 从基础到进阶】Apache服务器搭建与优化

    2025-05-06 09:18:38

    查看更多

    热门文章

    用ftp服务器进行yum源的设置

    2023-04-21 03:04:35

    Confluence 6 配置服务器基础地址

    2023-04-23 09:34:48

    linux环境日志排查,cat命令关键字查找、最近1000条、定位到指定位置

    2022-12-28 07:22:30

    linux中常见工具安装问题集锦

    2023-05-05 10:12:49

    Ubuntu18.04搭建Web服务器

    2023-04-21 02:58:02

    Mac 终端连接linux程服务器并相互传输文件

    2023-04-23 09:44:23

    查看更多

    热门标签

    服务器 linux Linux 虚拟机 数据库 运维 网络 日志 数据恢复 java python nginx 配置 centos mysql
    查看更多

    相关产品

    弹性云主机

    随时自助获取、弹性伸缩的云服务器资源

    天翼云电脑(公众版)

    便捷、安全、高效的云电脑服务

    对象存储

    高品质、低成本的云上存储服务

    云硬盘

    为云上计算资源提供持久性块存储

    查看更多

    随机文章

    Windows server :web服务网站虚拟目录&在一台设备上开启多个web网站(TCP端口,IP地址,dns)第三种下次发

    高性能服务器适用于哪些场景或应用?

    【WAF】雷池waf升级体验

    Mac 终端连接linux程服务器并相互传输文件

    操作系统权限维持(十五)之Linux系统-inetd远程后门

    LVS基本概述

    • 7*24小时售后
    • 无忧退款
    • 免费备案
    • 专家服务
    售前咨询热线
    400-810-9889转1
    关注天翼云
    • 权益商城
    • 天翼云APP
    • 天翼云微信公众号
    服务与支持
    • 备案中心
    • 售前咨询
    • 智能客服
    • 自助服务
    • 工单管理
    • 客户公告
    • 涉诈举报
    账户管理
    • 管理中心
    • 订单管理
    • 余额管理
    • 发票管理
    • 充值汇款
    • 续费管理
    快速入口
    • 权益商城
    • 文档中心
    • 最新活动
    • 免费试用
    • 信任中心
    • 天翼云学堂
    云网生态
    • 甄选商城
    • 渠道合作
    • 云市场合作
    了解天翼云
    • 关于天翼云
    • 天翼云APP
    • 服务案例
    • 新闻资讯
    • 联系我们
    热门产品
    • 云电脑
    • 弹性云主机
    • 云电脑政企版
    • 天翼云手机
    • 云数据库
    • 对象存储
    • 云硬盘
    • Web应用防火墙
    • 服务器安全卫士
    • CDN加速
    热门推荐
    • 云服务备份
    • 边缘安全加速平台
    • 全站加速
    • 安全加速
    • 云服务器
    • 云主机
    • 智能边缘云
    • 应用编排服务
    • 微服务引擎
    • 共享流量包
    更多推荐
    • web应用防火墙
    • 密钥管理
    • 等保咨询
    • 安全专区
    • 应用运维管理
    • 云日志服务
    • 文档数据库服务
    • 云搜索服务
    • 数据湖探索
    • 数据仓库服务
    友情链接
    • 中国电信集团
    • 189邮箱
    • 天翼企业云盘
    • 天翼云盘
    ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
    公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
    • 用户协议
    • 隐私政策
    • 个人信息保护
    • 法律声明
    备案 京公网安备11010802043424号 京ICP备 2021034386号