ChunkServer
2017-01-20 06:36:37 0 举报
AI智能生成
ChunkServer是Hadoop分布式文件系统HDFS中的一个组件,负责存储和管理数据块。在HDFS中,大文件被分割成多个固定大小的数据块(默认64MB),这些数据块被称为“chunk”。每个chunk都会被复制到多个ChunkServer上,以提高数据的可靠性和容错性。ChunkServer还负责处理客户端对数据块的读写请求,以及在需要时进行数据块的迁移、复制和删除操作。ChunkServer通常运行在HDFS集群中的通用服务器上,可以使用多线程和内存缓存技术来提高数据处理性能。总之,ChunkServer是HDFS中关键的存储和管理单元,它确保了大规模数据的高效存储和访问。
作者其他创作
大纲/内容
接口
WriteBlock
ChunkServerImpl::WriteBlock
ChunkServerImpl::WriteNext,将request发送给next server,设置回调函数,ChunkServerImpl::WriteNextCallback,
ChunkServerImpl::WriteNextCallback
ChunkServerImpl::LocalWriteBlock
新建Block
BlockManager::CreateBlock
BlockManager::PickDisk,挑选一块磁盘写
创建Block对象,插入到block_map_中,key是block_id
Disk::SyncBlockMeta
追加写Block
BlockManager::FindBlock,根据block_id查找
Block::Write
GetBlockInfo
ChunkServerImpl::GetBlockInfo
ReadBlock
ChunkServerImpl::ReadBlock
ChunkServerImpl::SendBlockReport
BlockManager::ListBlocks,遍历Blocks
子主题
ChunkServerImpl::SendHeartbeat
ChunkServerImpl::Register
ChunkServerImpl::ReportFinish
ChunkServerImpl::PushBlock
组件
BlockManager
ThreadPool,work_thread_pool_
ThreadPool,read_thread_pool_
ThreadPool,write_thread_pool_
ThreadPool,recover_thread_pool_
ThreadPool,heartbeat_thread_
NameServerClient
ChunkserverCounterManager
0 条评论
下一页