博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
三:Hadoop伪分布式配置
阅读量:5825 次
发布时间:2019-06-18

本文共 3832 字,大约阅读时间需要 12 分钟。

  hot3.png

一:Hadoop伪分布式配置:

1.core-site.xml 
    
         
fs.defaultFS
         
hdfs://master:9000
     
     
         
hadoop.tmp.dir
         
file:/mysoftware/hadoop-2.6.4/tmp
    
    
        
hadoop.native.lib
        
false
    
 
 2.hdfs-site.xml
    
         
dfs.replication
         
1
     
     
        
dfs.namenode.name.dir
        
file:/mysoftware/hadoop-2.6.4/dfs/name
    
    
        
dfs.datanode.data.dir
        
file:/mysoftware/hadoop-2.6.4/dfs/data
    
    
        
dfs.permissions
        
false
    
 
 3.mapred-site.xml
    
        
mapreduce.framework.name
        
yarn
    
4.yarn-site.xml
    
        
The hostname of the RM.
         
yarn.resourcemanager.hostname
         
master
     
     
         
yarn.nodemanager.aux-services
         
mapreduce.shuffle
     

  1. 在conf/hadoop-env.sh文件中增加:

            export JAVA_HOME=/mysoftware/jdk1.7.0_80  (这是我的JDk的安装路径)

  2.  在core-site.xml文件中增加如下内容:

       <!--  fs.default.name - 这是一个描述集群中NameNode结点的URI(包括协议、主机名称、端口号),集群里面的每一台机器都需要知道NameNode的地址。DataNode结点会先在NameNode上注册,这样它们的数据才可以被使用。独立的客户端程序通过这个URI跟DataNode交互,以取得文件的块列表。-->

    <property> 

        <name>fs.defaultFS</name> 

        <value>hdfs://master:9000</value> 

    </property> 

    【这里的值指的是默认的HDFS路径。当有多个HDFS集群同时工作时,用户如果不写集群名称,那么默认使用哪个哪?在这里指定!该值来自于hdfs-site.xml中的配置】

           

    <!—hadoop.tmp.dir 是hadoop文件系统依赖的基础配置,很多路径都依赖它。如果hdfs-site.xml中不配置namenode和datanode的存放位置,默认就放在这个路径中-->

    <property> 

        <name>hadoop.tmp.dir</name> 

        <value>file:/mysoftware/hadoop-2.6.4/tmp</value>

    </property>

 3.  在hdfs-site.xml中增加如下内容:

       <!-- dfs.replication -它决定着 系统里面的文件块的数据备份个数。对于一个实际的应用,它应该被设为3(这个数字并没有上限,但更多的备份可能并没有作用,而且会占用更多的空间)。少于三个的备份,可能会影响到数据的可靠性(系统故障时,也许会造成数据丢失)-->

    <property> 

        <name>dfs.replication</name> 

        <value>1</value> 

    </property> 

          <!--  dfs.data.dir - 这是DataNode结点被指定要存储数据的本地文件系统路径。DataNode结点上            的这个路径没有必要完全相同,因为每台机器的环境很可能是不一样的。但如果每台机器上的这个路径都是统一配置的话,会使工作变得简单一些。默认的情况下,它的值hadoop.tmp.dir, 这个路径只能用于测试的目的,因为,它很可能会丢失掉一些数据。所以,这个值最好还是被覆盖。 

dfs.name.dir - 这是NameNode结点存储hadoop文件系统信息的本地系统路径。这个值只对NameNode有效,DataNode并不需要使用到它。上面对于/temp类型的警告,同样也适用于这里。在实际应用中,它最好被覆盖掉。-->

    <property>

        <name>dfs.namenode.name.dir</name>

        <value>file:/mysoftware/hadoop-2.6.4/dfs/name</value>

    </property>

    <property>

        <name>dfs.datanode.data.dir</name>

        <value>file:/mysoftware/hadoop-2.6.4/dfs/data</value>

    </property>

      <!—解决:org.apache.hadoop.security.AccessControlException:Permission                                                 denied:user=Administrator,access=WRITE,inode="tmp":root:supergroup:rwxr-xr-x 。

因为Eclipse使用hadoop插件提交作业时,会默认以 DrWho 身份去将作业写入hdfs文件系统中,对应的也就是 HDFS 上的/user/hadoop ,  由于 DrWho 用户对hadoop目录并没有写入权限,所以导致异常的发生。解决方法为:

        放开 hadoop 目录的权限, 命令如下 :$ hadoop fs -chmod 777 /user/hadoop -->

          <property>

             <name>dfs.permissions</name>

             <value>false</value>

           </property>

 

   4.  mapred-site.xml中增加如下内容:

        <configuration>

            <property>

                <name>mapreduce.framework.name</name>

                <value>yarn</value>

            </property>

        </configuration>

 [  指定运行mapreduce的环境是yarn  ]

  5.yarn-site.xml

        <configuration>

            <property>

                <description>The hostname of the RM.</description> 

                <name>yarn.resourcemanager.hostname</name> 

                <value>master</value> 

            </property> 

            <property> 

                <name>yarn.nodemanager.aux-services</name> 

                <value>mapreduce.shuffle</value> 

            </property>

        </configuration>

    【指定定ResourceManager的地址,还是单点】

       

    6.文件slaves:

        master

        [ 指定所有的DataNode节点列表,每行一个节点名称 ]

转载于:https://my.oschina.net/gently/blog/668227

你可能感兴趣的文章
晚婚晚育 近20年巴西35岁以上孕妇增加65%
查看>>
读书:为了那个美妙的咔哒声
查看>>
我从过去八个月的AI公司面试中学到了什么?
查看>>
深入探究Immutable.js的实现机制(一)
查看>>
jsp改造之sitemesh注意事项
查看>>
智能硬件的时代,嵌入式是否已经日薄西山
查看>>
SpringBoot-Shiro使用
查看>>
iOS 9.0之后NSString encode方法替换
查看>>
解决 ThinkPHP5 无法接收 客户端 Post 传递的 Json 参数
查看>>
ASMFD (ASM Filter Driver) Support on OS Platforms (Certification Matrix). (文档 ID 2034681.1)
查看>>
CRM Transaction处理中的权限控制
查看>>
[转]linux创建链接文件的两种方法
查看>>
python ipaddress模块使用
查看>>
统计文件里面某个字符串出现次数
查看>>
文件权限
查看>>
busybox里的僵尸进程为何那么多
查看>>
python debug
查看>>
java 连接数据库之一个完整的函数
查看>>
mysql脚本
查看>>
OllyDBG 入门系列教学--让你瞬间成为破解高手
查看>>