立即前往

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
查看全部活动
热门活动
  • 智算采购季 热销S6云服务器2核4G限时88元/年起,部分主机可加赠对象存储组合包!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 一键部署Llama3大模型学习机 0代码一键部署,预装最新主流大模型Llama3与StableDiffusion
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 产品能力
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      Python 实现 NLP 的完整流程

      首页 知识中心 软件开发 文章详情页

      Python 实现 NLP 的完整流程

      2025-03-10 09:50:08 阅读次数:6

      文本,模型,训练

      1. 安装和导入必要的库

      首先,确保已安装必要的 NLP 库:

      pip install numpy pandas matplotlib scikit-learn nltk spacy
      

      然后导入必要的 Python 库:

      import numpy as np
      import pandas as pd
      import matplotlib.pyplot as plt
      from sklearn.model_selection import train_test_split
      from sklearn.feature_extraction.text import TfidfVectorizer
      from sklearn.naive_bayes import MultinomialNB
      from sklearn.metrics import accuracy_score, confusion_matrix
      import nltk
      from nltk.corpus import stopwords
      from nltk.tokenize import word_tokenize
      import spacy
      

      2. 文本数据准备

      在实际应用中,你可能需要从文件、数据库或网页中获取文本数据。这里我们以一个简单的文本数据集为例:

      # 示例文本数据
      data = {
          'text': [
              "I love programming in Python.",
              "Python is a great language for machine learning.",
              "Natural language processing is fun!",
              "I enjoy solving problems using code.",
              "Deep learning and NLP are interesting fields.",
              "Machine learning and AI are revolutionizing industries."
          ],
          'label': [1, 1, 1, 0, 1, 0]  # 1表示正面情感,0表示负面情感
      }
      
      df = pd.DataFrame(data)
      print(df)
      

      3. 文本预处理

      文本预处理是 NLP 的关键步骤,通常包括:分词、去除停用词、词干提取和小写化。

      3.1 小写化

      将文本中的所有字母转换为小写,确保词汇的一致性。

      # 小写化
      df['text'] = df['text'].apply(lambda x: x.lower())
      
      3.2 分词(Tokenization)

      分词是将一段文本分割成一个个单独的词。

      nltk.download('punkt')  # 下载 punkt 分词器
      
      # 分词
      df['tokens'] = df['text'].apply(word_tokenize)
      print(df['tokens'])
      
      3.3 去除停用词

      停用词是一些常见但不携带实际信息的词,如 "the", "is", "and" 等。我们需要去除这些词。

      nltk.download('stopwords')  # 下载停用词库
      
      stop_words = set(stopwords.words('english'))
      
      # 去除停用词
      df['tokens'] = df['tokens'].apply(lambda x: [word for word in x if word not in stop_words])
      print(df['tokens'])
      
      3.4 词干提取(Stemming)

      词干提取是将词语还原为其基本形式(词干)。例如,将“running”还原为“run”。

      from nltk.stem import PorterStemmer
      
      stemmer = PorterStemmer()
      
      # 词干提取
      df['tokens'] = df['tokens'].apply(lambda x: [stemmer.stem(word) for word in x])
      print(df['tokens'])
      

      4. 特征提取

      文本数据无法直接用于机器学习模型,因此需要将其转换为数字特征。常见的特征提取方法是 TF-IDF(Term Frequency-Inverse Document Frequency)。

      # 使用 TF-IDF 向量化文本
      vectorizer = TfidfVectorizer()
      
      # 将文本数据转换为 TF-IDF 特征矩阵
      X = vectorizer.fit_transform(df['text'])
      
      # 查看转换后的 TF-IDF 特征矩阵
      print(X.toarray())
      

      5. 训练测试数据集划分

      将数据集分成训练集和测试集,通常是 80% 训练集和 20% 测试集。

      # 划分训练集和测试集
      X_train, X_test, y_train, y_test = train_test_split(X, df['label'], test_size=0.2, random_state=42)
      
      print(f"训练集大小: {X_train.shape}")
      print(f"测试集大小: {X_test.shape}")
      

      6. 训练模型

      我们使用 朴素贝叶斯(Naive Bayes) 模型来训练数据。朴素贝叶斯是一种常用的分类算法,适用于文本分类任务。

      # 创建并训练模型
      model = MultinomialNB()
      model.fit(X_train, y_train)
      

      7. 评估模型

      训练好模型后,我们需要用测试集来评估模型的性能。主要评估指标包括准确率和混淆矩阵。

      # 使用测试集进行预测
      y_pred = model.predict(X_test)
      
      # 计算准确率
      accuracy = accuracy_score(y_test, y_pred)
      print(f"模型准确率: {accuracy:.4f}")
      
      # 显示混淆矩阵
      conf_matrix = confusion_matrix(y_test, y_pred)
      print("混淆矩阵:")
      print(conf_matrix)
      
      # 可视化混淆矩阵
      plt.matshow(conf_matrix, cmap='Blues')
      plt.title("Confusion Matrix")
      plt.xlabel('Predicted')
      plt.ylabel('True')
      plt.colorbar()
      plt.show()
      

      8. 模型预测

      使用训练好的模型对新的文本数据进行预测。

      # 新文本数据
      new_text = ["I love learning about AI and machine learning."]
      
      # 文本预处理
      new_text = [text.lower() for text in new_text]
      new_tokens = [word_tokenize(text) for text in new_text]
      new_tokens = [[stemmer.stem(word) for word in tokens if word not in stop_words] for tokens in new_tokens]
      new_text_clean = [' '.join(tokens) for tokens in new_tokens]
      
      # 特征提取
      new_features = vectorizer.transform(new_text_clean)
      
      # 预测
      prediction = model.predict(new_features)
      print(f"预测标签: {prediction[0]}")
      

      9. 总结

      在这篇文章中,我们展示了一个完整的 NLP 流程,包括:

      1. 文本预处理:小写化、分词、去除停用词、词干提取。
      2. 特征提取:使用 TF-IDF 将文本转换为特征矩阵。
      3. 模型训练:使用朴素贝叶斯分类器进行文本分类。
      4. 模型评估:使用准确率和混淆矩阵来评估模型表现。
      5. 模型预测:对新文本进行预测。

      这是一个典型的 NLP 流程,可以根据实际需求进行扩展,加入更多的特征、算法和调优步骤。

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.csdn.net/weixin_45710998/article/details/145153949,作者:王子良.,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:【编程题】字符合集

      下一篇:【C++】单链表实现多项式加法运算

      相关文章

      2025-04-18 08:02:02

      django从入门到精通(五)——表单与模型

      Django 模型是一个 Python 类,用于定义数据库中的数据结构。每个模型类对应数据库中的一张表,类的属性对应表中的字段。

      2025-04-18 08:02:02
      Django , 定义 , 模型 , 用于 , 表单 , 验证
      2025-04-18 08:02:02

      diffusionAI从入门到精通——基本组件介绍

      diffusionAI从入门到精通——基本组件介绍

      2025-04-18 08:02:02
      图像 , 文本 , 模型 , 生成 , 示例 , 输入
      2025-04-18 07:11:40

      DDL—表—数据类型—字符串类型相关语法

      DDL—表—数据类型—字符串类型相关语法

      2025-04-18 07:11:40
      bytes , 二进制 , 字符串 , 存储 , 描述 , 数据 , 文本
      2025-04-18 07:10:38

      shell编程-sed命令详解(超详细)

      在Shell编程中,对文本进行处理和转换是一项常见的任务。sed命令作为一种流式文本编辑器,提供了强大的文本处理能力,可以通过简单的命令实现复杂的文本操作。掌握sed命令的基本用法,可以极大地提高文本处理的效率和灵活性。

      2025-04-18 07:10:38
      sed , 命令 , 插入 , 文件 , 文本 , 替换
      2025-04-16 09:12:36

      软件设计师教程(第5版)第5章 软件工程基础知识(更新中)

      【软件工程】是指应用计算机科学、数学及管理科学等原理,以工程化的原则和方法来解决软件问题的工程,其目的是提高软件生产率、提高软件质量、降低软件成本。

      2025-04-16 09:12:36
      模型 , 测试 , 系统 , 软件 , 需求
      2025-04-14 09:27:25

      杂记(3):在Pytorch中如何操作将数据集分为训练集和测试集?

      杂记(3):在Pytorch中如何操作将数据集分为训练集和测试集?

      2025-04-14 09:27:25
      Pytorch , 方法 , 测试 , 训练
      2025-04-09 09:16:07

      TF-IDF:概念与python实现

      TF-IDF(Term Frequency - Inverse Document Frequency)表示“词频-逆文本频率”。词频(TF,Term Frequency )表示给定词语在文件或语料中出现的频率(归一化以屏蔽长短文件的差异);逆文本频率(IDF,Inverse Document Frequency)是一个词语重要性的度量。

      2025-04-09 09:16:07
      log , 人工智能 , 文本 , 网页
      2025-04-09 09:13:17

      python 无监督生成模型

      无监督生成模型在机器学习中扮演着重要角色,特别是当我们在没有标签数据的情况下想要生成新的样本或理解数据的内在结构时。一种流行的无监督生成模型是生成对抗网络(Generative Adversarial Networks, GANs)。

      2025-04-09 09:13:17
      图像 , 样本 , 生成 , 生成器 , 训练
      2025-04-09 09:13:17

      机器学习项目的流程:从数据到部署

      随着人工智能技术的不断发展,机器学习在各个领域中得到广泛应用。本文将深入探讨机器学习项目的完整流程,以语音识别和自动驾驶为例,详细介绍每个阶段的关键步骤和注意事项。

      2025-04-09 09:13:17
      性能 , 数据 , 模型 , 训练 , 部署
      2025-04-09 09:11:38

      图神经网络与图表示学习: 从基础概念到前沿技术

      随着复杂网络数据的快速增长,图数据的处理和分析成为机器学习领域的一个重要方向。图神经网络(Graph Neural Networks, GNNs)和图表示学习技术逐渐崭露头角,成为处理图数据的有效工具。

      2025-04-09 09:11:38
      学习 , 模型 , 神经网络 , 节点 , 表示
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      32777

      阅读量

      4822253

      查看更多

      最新文章

      shell编程-sed命令详解(超详细)

      2025-04-18 07:10:38

      软件设计师教程(第5版)第5章 软件工程基础知识(更新中)

      2025-04-16 09:12:36

      杂记(3):在Pytorch中如何操作将数据集分为训练集和测试集?

      2025-04-14 09:27:25

      将服务器传入的字段转成html渲染出来

      2025-03-31 08:57:16

      自然语言处理与知识图谱的融合与应用

      2025-03-28 07:42:20

      AI 大模型重塑软件开发流程的未来

      2025-03-25 08:08:59

      查看更多

      热门文章

      Python修改文本列对齐

      2023-04-06 09:57:04

      C#编程-48:文本控件复习笔记

      2023-03-16 08:39:34

      AI模型如何重塑软件开发

      2024-12-11 06:19:22

      一段比较简单的人工智能自动做模型的程序

      2024-09-25 10:14:34

      R语言连续型变量回归分析预测

      2024-08-02 09:08:33

      软件测试模型

      2024-10-30 08:58:12

      查看更多

      热门标签

      java Java python 编程开发 开发语言 代码 算法 线程 html Python 数组 C++ javascript c++ 元素
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      自然语言处理与知识图谱的融合与应用

      MVVM架构详解:前端开发的理想选择

      MATLAB与R语言在建模中的合作与应用(下篇)

      分词算法在自然语言处理中的基本原理与应用场景

      架构师必备知识 - 软件体系结构 - “4+1”视图模型

      shell编程-sed命令详解(超详细)

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 权益商城
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 权益商城
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号