立即前往

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
查看全部活动
热门活动
  • 智算采购季 热销S6云服务器2核4G限时88元/年起,部分主机可加赠对象存储组合包!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 一键部署Llama3大模型学习机 0代码一键部署,预装最新主流大模型Llama3与StableDiffusion
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 产品能力
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
    • 关系数据库SQL Server版
    • 企业主机安全
    • 云防火墙
    • CDN加速
    • 物理机
    • GPU云主机
    • 天翼云电脑(政企版)
    • 天翼云电脑(公众版)
    • 云主机备份
    • 弹性云主机
      搜索发现
      关系数据库SQL Server版企业主机安全云防火墙CDN加速物理机GPU云主机天翼云电脑(政企版)天翼云电脑(公众版)云主机备份弹性云主机
    • 文档
    • 控制中心
    • 备案
    • 管理中心
    • 登录
    • 免费注册

    hdfs 相关概念

    首页 知识中心 存储 文章详情页

    hdfs 相关概念

    2023-06-29 08:29:24 阅读次数:369

    hdfs,存储


    • 一. HDFS的NameNode 的启动流程
    • 二. HDFS中NameNode元数据本地磁盘存储目录如何配置DataNode存储数据的本地磁盘目录如何配置(哪里配置,属性名称)。
    • 三: 存储在HDFS上的文件,存储机制及数据安全性如何保证。

    一. HDFS的NameNode 的启动流程

     1.Hadoop 在格式化文件系统HDFS 时候会默认生成一个fsimage 文件,启动时会将 fsimage 镜像加载到内存,然后replay 去编辑edit_log 默认edit_log 为空的,。
       
     2.当客户端节点去整个HDFS 的数据节点datenode 传送数据文件时, 默认在安全模式下数据节点datenode会每隔一断时间发送一些存储信息给 namenode处理, edit_log 就会经行记录, 然后进行合并镜像 fsimage 使当前整个镜像保持在最新状态。
    
    3. secourndarynamenode 会通过http get 去下载 namenode节点的 镜像fsimage  与edits_log   将fsimage  加载内存当中,当用数据写入HDFS 时记录到edits_log 并生成新edits_logs 同时合并fsimage ,生成新的fsimage.ckpt  镜像文件,然后将fsimge.ckpt通过http  put 上传到, namenode 节点. namenode 节点最后更名成为新的fsimage 
    

    二. HDFS中NameNode元数据本地磁盘存储目录如何配置DataNode存储数据的本地磁盘目录如何配置(哪里配置,属性名称)。

    1. NameNode 配置参数为,dfs.name.dir  可以单独定制定制,参数为namenode  在core-site.xml 的配置文件中配置,具体目录可以自己定制,一般在生产环境中可以存储在一块 空的比较大的磁盘上。
    
    2.在hdfs 格式化的时候会生成一个 dfs/name/current 目录 里面存放着edits 与fsimage 文件。
    Datanode 配置参数为,dfs,data.dir 这个参数可以配置 datanode 节点  可以配置到单独的目录在core-site.xml  现实环境一台服务器做datenode 节点 ,在dfs/data/current/ 会生成一个以本机名字生成的一个BP 文件 下面有一个current / finalized 录,里面很多在向 hdfs 上传文件时 生成的block文件。
    伪分布时采用hadoop.tmp.dir 参数 统一目录。 
    
    3.NameNode 配置参数为,dfs.name.dir  可以单独定制定制,参数为namenode  在core-site.xml 的配置文件中配置,具体目录可以自己定制,一般在生产环境中可以存储在一块 空的比较大的磁盘上。
    在hdfs 格式化的时候会生成一个 dfs/name/current 目录 里面存放着edits 与fsimage 文件。
    Datanode 配置参数为,dfs,data.dir 这个参数可以配置 datanode 节点  可以配置到单独的目录在core-site.xml  现实环境一台服务器做datanode 节点 ,在dfs/data/current/ 会生成一个以本机名字生成的一个BP 文件 下面有一个current / finalized 录,里面很多在向 hdfs 上传文件时 生成的block文件。
    伪分布时采用hadoop.tmp.dir 参数 统一目录。  
    
    

    三: 存储在HDFS上的文件,存储机制及数据安全性如何保证。

     HDFS 在客户端上传文件到整个 hdfs 时,会在这个block 节点快的形式存储,切分成块每个block 节点块128M , 数据在存储在hdfs 上的时候 包括了两个文件,一个是上传文件的本身,一个是元数据,包括数据块的长度,块之间的校验和,以及存储的时间等。数据在存储本身,其每块副本存储在不同的datanode 节点之上,默认副本数为3 在 datanode 节点上默认用 按就近原则复制。现实环境当datanode 节点出现问题时,根据datanode 可以横向扩展 新加上的datanode 就可以从临近节点的副本数,进行数据恢复。
    
    
    版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.51cto.com/flyfish225/2096371,作者:flyfish225,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

    上一篇:查看 cpu、内存、磁盘相关指标

    下一篇:mysql列存储引擎-POC-查询数据错误追踪

    相关文章

    2025-04-22 09:27:37

    顺序表以及实现(结构篇)

    顺序表是一种线性表的存储结构,它使用一组地址连续的存储单元依次存储线性表的数据元素。在顺序表中,逻辑上相邻的元素在物理存储上也相邻,通常采用数组来实现这种存储方式。

    2025-04-22 09:27:37
    元素 , 动态 , 存储 , 顺序
    2025-04-22 09:24:51

    数据在内存中的存储(超详细讲解)

    数据在内存中的存储(超详细讲解)

    2025-04-22 09:24:51
    char , int , long , 存储
    2025-04-18 07:11:40

    DDL—表—数据类型—字符串类型相关语法

    DDL—表—数据类型—字符串类型相关语法

    2025-04-18 07:11:40
    bytes , 二进制 , 字符串 , 存储 , 描述 , 数据 , 文本
    2025-04-16 09:26:27

    定义一个prometheus数据存储使用的pv

    PV全称叫做Persistent Volume,持久化存储卷。它是用来描述或者说用来定义一个存储卷的

    2025-04-16 09:26:27
    Node , prometheus , PV , 存储
    2025-04-15 09:25:57

    软件设计师教程(第5版)第3章 数据结构(更新中)

    【数据结构】是指数据元素的集合及元素间的相互关系和构造方法。

    2025-04-15 09:25:57
    二叉树 , 存储 , 排序 , 矩阵 , 结构
    2025-04-15 09:24:56

    Redis多级缓存指南:从前端到后端全方位优化!

    在现代互联网应用中,高性能和高可用性是两个非常重要的目标。为了达到这些目标,我们通常会使用缓存技术,其中 Redis 是一种非常受欢迎的缓存中间件。

    2025-04-15 09:24:56
    内存 , 存储 , 数据 , 服务器 , 浏览器 , 磁盘 , 缓存
    2025-04-15 09:19:45

    文心一言 VS 讯飞星火 VS chatgpt (263)-- 算法导论20.1 2题

    在Go语言中,为了支持带有卫星数据的关键字,我们可以定义一个结构体(struct)来表示这个关键字,其中可以包含一个字段用于存储关键字本身,以及另一个字段用于存储与该关键字相关联的卫星数据。

    2025-04-15 09:19:45
    关键字 , 存储 , 数据 , 数据结构
    2025-04-09 09:14:24

    javascript 西瓜一期 05-08 计算机的基本组成

    javascript 西瓜一期 05-08 计算机的基本组成

    2025-04-09 09:14:24
    cpu , 内存 , 存储 , 数据 , 硬盘
    2025-04-01 10:29:01

    第13关:存储过程1、第14关:存储过程2。

    第13关:存储过程1、第14关:存储过程2。

    2025-04-01 10:29:01
    任务 , 存储 , 数据表 , 过程
    2025-04-01 10:28:37

    【JAVA】-- 集合(三)(Set)

    Set接口和List接口一样,同样继承自Collection接口,与其接口方法基本一致,只是比Collection接口更加严格,与List接口不同的是其元素无序,并且保证元素不重复。

    2025-04-01 10:28:37
    Collection , HashSet , List , 元素 , 存储 , 接口 , 示例
    查看更多
    推荐标签

    作者介绍

    天翼云小翼
    天翼云用户

    文章

    32777

    阅读量

    4816876

    查看更多

    最新文章

    数据在内存中的存储(超详细讲解)

    2025-04-22 09:24:51

    DDL—表—数据类型—字符串类型相关语法

    2025-04-18 07:11:40

    Redis多级缓存指南:从前端到后端全方位优化!

    2025-04-15 09:24:56

    文心一言 VS 讯飞星火 VS chatgpt (263)-- 算法导论20.1 2题

    2025-04-15 09:19:45

    第13关:存储过程1、第14关:存储过程2。

    2025-04-01 10:29:01

    你应该知道一些其他存储——列式存储

    2025-04-01 10:28:07

    查看更多

    热门文章

    Ceph 块设备存储

    2023-05-09 05:52:48

    存储相关

    2023-05-04 08:57:32

    vmware

    2023-06-14 09:05:26

    Sql Server 分页存储过程

    2023-05-30 08:05:57

    Raid5两块硬盘掉线数据恢复方法和数据恢复过程

    2024-07-01 01:31:09

    vsan存储介绍/存储原理/数据恢复案例

    2023-06-27 09:51:44

    查看更多

    热门标签

    存储 缓存 内存 数据库 数据 redis mysql 服务器 数据恢复 Redis linux java sql MySQL 数据结构
    查看更多

    相关产品

    弹性云主机

    随时自助获取、弹性伸缩的云服务器资源

    天翼云电脑(公众版)

    便捷、安全、高效的云电脑服务

    对象存储

    高品质、低成本的云上存储服务

    云硬盘

    为云上计算资源提供持久性块存储

    查看更多

    随机文章

    利用Xp_Cmdshell取得服务器的管理权,很可怕的SQL注入

    PostgreSQL存储过程介绍

    数据仓库是什么?数据仓库简介

    【mySQL】MYSQL数据库时间字段INT,TIMESTAMP,DATETIME性能效率比较

    MySQL库表设计小技巧

    触发器的设计、掌握存储过程的基本概念和创建、执行、删除方法。掌握数据库备份的方法和数据库恢复的方法。

    • 7*24小时售后
    • 无忧退款
    • 免费备案
    • 专家服务
    售前咨询热线
    400-810-9889转1
    关注天翼云
    • 权益商城
    • 天翼云APP
    • 天翼云微信公众号
    服务与支持
    • 备案中心
    • 售前咨询
    • 智能客服
    • 自助服务
    • 工单管理
    • 客户公告
    • 涉诈举报
    账户管理
    • 管理中心
    • 订单管理
    • 余额管理
    • 发票管理
    • 充值汇款
    • 续费管理
    快速入口
    • 权益商城
    • 文档中心
    • 最新活动
    • 免费试用
    • 信任中心
    • 天翼云学堂
    云网生态
    • 甄选商城
    • 渠道合作
    • 云市场合作
    了解天翼云
    • 关于天翼云
    • 天翼云APP
    • 服务案例
    • 新闻资讯
    • 联系我们
    热门产品
    • 云电脑
    • 弹性云主机
    • 云电脑政企版
    • 天翼云手机
    • 云数据库
    • 对象存储
    • 云硬盘
    • Web应用防火墙
    • 服务器安全卫士
    • CDN加速
    热门推荐
    • 云服务备份
    • 边缘安全加速平台
    • 全站加速
    • 安全加速
    • 云服务器
    • 云主机
    • 智能边缘云
    • 应用编排服务
    • 微服务引擎
    • 共享流量包
    更多推荐
    • web应用防火墙
    • 密钥管理
    • 等保咨询
    • 安全专区
    • 应用运维管理
    • 云日志服务
    • 文档数据库服务
    • 云搜索服务
    • 数据湖探索
    • 数据仓库服务
    友情链接
    • 中国电信集团
    • 189邮箱
    • 天翼企业云盘
    • 天翼云盘
    ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
    公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
    • 用户协议
    • 隐私政策
    • 个人信息保护
    • 法律声明
    备案 京公网安备11010802043424号 京ICP备 2021034386号