学习 HDFS(三):写文件

写流程 HDFS 客户端写流程: 客户端连接 NameNode 请求打开写入文件,NameNode 创建文件元数据。此时,并没有与文件元数据相对应的数据块。 客户端向 NameNode 请求复制管道(Replication Pipeline),并向管道中的第一个 DataNode 写入数据。 复制管道中的第一个 DataNode 又将数据复制到管道下一个 DataNode。 关闭文件。 Java API public »

学习 HDFS(二):读文件

读流程 HDFS 客户端读流程: 客户端连接 NameNode 并指定读取文件所在路径。首先,NameNode 对客户端进行身份认证,通过用户名(弱)或者 Kerberos(强)。然后,NameNode 对客户端进行权限认证。如果文件存在且用户可以访问,NameNode 向客户端返回文件所有数据块的数据块 ID 和数据块所在的 DataNode 主机地址。 通过数据块 ID »

学习 HDFS(一):概览

HDFS 是 Hadoop Distributed File System (Hadoop 分布式文件系统)的缩写,是 Hadoop 核心项目之一(另外两个分别是 YARN 和 MapReduce)。HDFS 提供了高容错、高吞吐、易扩展、高可用的文件系统。 架构 HDFS 是一个主从(Master/Slave) »

学习 HDFS(十):跨集群拷贝

使用 获取文件系统地址: hdfs getconf -confKey fs.defaultFS 拷贝: hadoop distcp hdfs://master1/from hdfs://master2/to 参考:http://hadoop.apache.org/docs/stable/hadoop-distcp/DistCp.html »

学习 HDFS(九):快照

简介 HDFS 快照是 HDFS 某个时间点的只读拷贝。 HDFS 快照常用于数据备份、防止用户错误和灾难恢复。 管理操作 允许一个目录创建快照: hdfs dfsadmin -allowSnapshot <path> 注意:在所有快照被删除之前,允许创建快照的目录即不可以删除也不可以重命名 反之,取消: hdfs dfsadmin -disallowSnapshot <path& »