大小网场景下连接HDFS原理和方法

举报
打杂的程序猿 发表于 2020/09/30 18:32:24 2020/09/30
【摘要】 hdfs大小网连接

场景:企业使用公有云时存在一种场景是切换公有云提供商的情况,其中hdfs数据迁移到华为云大数据服务(MRS)是一种典型的场景,由于hdfs集群在其他公有云上,那么数据切换时可能会面临大小网的场景,如下图,但是一般hdfs集群name node和data node节点都是配置的内网ip作为监听地址,迁移工具(CDM)从公网是无法可达的,此时需要给节点配置附加公网ip地址才可以连接。

image.png

原理:1. hdfs支持2种模式连接dn节点,支持ip直连&支持通过主机名连接,那么在大小网的场景就存在了可连接的可能,原理如下图:

image.png

        2.那么在大小网场景下,给cdm 配置hosts时配置主机名 映射成 公网IP地址,则可以通过公网读写数据。

image.png

    3. ip和主机名映射,可以在cdm创建hdfs连接里添加,如图所示。

image.png

其他:CDM也提供了agent模式,解决大小网的问题,这样就不用给所有节点绑定公网ip,具体参考帮助。

          https://support.huaweicloud.cn/usermanual-cdm/cdm_01_0201.html


【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。