storm环境配置

storm的官方安装说明(e文):https://github.com/nathanmarz/storm/wiki/Setting-up-a-Storm-cluster

storm的安装分为单机版和集群版,只是配置稍微有点区别,大致一样。

要使用storm首先要安装以下工具:

python、zookeeper、zeromq、jzmq、storm

 

第一步,安装Python2.7.2(可忽略)
wget http://www.python.org/ftp/python/2.7.2/Python-2.7.2.tgz
tar zxvf Python-2.7.2.tgz
cd Python-2.7.2
./configure
make
make install
vi /etc/ld.so.conf
追加/usr/local/lib/
sudo ldconfig

 

 
第二步,安装zookeeper  
tar -zxvf zookeeper-3.3.5.tar.gz
cp -R zookeeper-3.3.5 /usr/local/
ln -s /usr/local/zookeeper-3.3.5/ /usr/local/zookeeper
vim /etc/profile (设置ZOOKEEPER_HOME和ZOOKEEPER_HOME/bin)
export ZOOKEEPER_HOME="/path/to/zookeeper"
export PATH=$PATH:$ZOOKEEPER_HOME/bin
cp /usr/local/zookeeper/conf/zoo_sample.cfg /usr/local/zookeeper/conf/zoo.cfg (用zoo_sample.cfg制作$ZOOKEEPER_HOME/conf/zoo.cfg)
mkdir /tmp/zookeeper
mkdir /var/log/zookeeper
zookeeper的单机安装已经完成了。

 

 
第三步,安装zeromq以及jzmq
jzmq的安装貌似是依赖zeromq的,所以应该先装zeromq,再装jzmq。
1)安装zeromq:
tar zxf zeromq-4.1.4.tar.gz
cd zeromq-4.1.4
./configure --without-libsodium
不加--without-libsodium会报No package 'libsodium' found
make
make install
sudo ldconfig (更新LD_LIBRARY_PATH)
zeromq安装完成。
注意:如有有依赖报错,需要安装:
jzmq dependencies 依赖包
sudo yum install uuid*
sudo yum install libtool
sudo yum install libuuid
sudo yum install libuuid-devel
2)安装jzmq
yum install git(不想装git的可以直接到https://github.com/nathanmarz/jzmq下载zip包后解压安装)
git clone git://github.com/nathanmarz/jzmq.git
cd jzmq
./autogen.sh
./configure
make
make install
然后,jzmq就装好了.
注意:在./autogen.sh这步如果报错:autogen.sh:error:could not find libtool is required to run autogen.sh,这是因为缺少了libtool,可以用#yum install libtool*来解决。
 

第四步,安装Storm
unzip apache-storm-0.9.4.tar.gz
mv apache-storm-0.9.4.tar.gz /usr/local/
ln -s /usr/local/apache-storm-0.9.4/ /usr/local/storm
vim /etc/profile
export STORM_HOME=/usr/local/apache-storm-0.9.4.tar.gz
export PATH=$PATH:$STORM_HOME/bin
source /etc/profile 使之前配置的zookeeper和storm环境变量立即生效,否则需要下次登录时环境变量才能生效
 
到此为止单机版的Storm就安装完毕了。

 

第五步,测试一下本地模式的WordCount
下载storm-starter 编译,并导入eclipse 工程:
(http://blog.csdn.net/guoqiangma/article/details/7212677)
1. 下载strom starter的代码 git clone https://github.com/nathanmarz/storm-starter.git
2. 使用mvn -f m2-pom.xml package 进行编译
3. 复制 storm-starter目录下的m2_pom.xml 为pom.xml ,因为eclipse需要pom.xml
4. 使用mvn eclipse:eclipse编译成eclipse工程
5. 在Eclipse 中import 选择storm-starter 的路径,一般导入项目后,会需要设置相应的M2_查看工程是否无误,可能会需要配置M2_REPO变量,
M2_REPO配置方法:工程上右键->Properties->Java Build Path->Libraries->AddVariable->Configure Variable->New
输入Name:M2_REPO , Path:localRepository路径->ok刷新工程,代码无误了,可以进行开发了
6. 编译无误后,现在本地跑storm.starter目录下的WordCountTopology,看到如下的截屏,代表本地的local模式可以跑通过
使用eclipse的export功能导出项目的jar包,便于以后分布式的情况下,提交相应的逻辑

Strom-Starter构建失败,缺少twitter4j包 的解决办法:
(http://www.cnblogs.com/zeutrap/archive/2012/10/11/2720528.html)
修改Storm-Starter的pom文件m2-pom.xml ,修改dependency中twitter4j-core 和 twitter4j-stream两个包的依赖版本,如下:
<dependency>
    <groupId>org.twitter4j</groupId>
    <artifactId>twitter4j-core</artifactId>
    <version>[2.2,)</version>
</dependency>
<dependency>
    <groupId>org.twitter4j</groupId>
    <artifactId>twitter4j-stream</artifactId>
    <version>[2.2,)</version>
</dependency>

 

要注意上面的本地模式运行WordCount其实并没有使用到上述安装的工具,只是一个storm的虚拟环境下测试demo。那我们怎样将程序运行在刚刚搭建的单机版的环境里面呢,

很简单,官方的例子:

注意看官方实例中WordCountTopology类如果不带参数其实是执行的本地模式,也就是刚说的虚拟的环境,带上参数就是将jar发送到了storm执行了。

首先弄好环境:

启动zookeeper:

 
/usr/local/zookeeper/bin/zkServer.sh start  单机版直接启动,不用修改什么配置,如集群就需要修改zoo.cfg加上如下配置
server.1=192.168.246.18:2888:3888
server.2=192.168.246.20:2888:3888
server.3=192.168.246.21:2888:3888

配置storm:

文件在/usr/local/storm/conf/storm.yaml

 
内容:
storm.zookeeper.servers:
     - "127.0.0.1"
#集群模式是多行,每行一个ip,如
#     - "192.168.246.18"
#     - "192.168.246.20"
#     - "192.168.246.21"
storm.zookeeper.port: 2181
nimbus.host: "127.0.0.1"
storm.local.dir: "/tmp/storm"
storm.log.dir: "/yazuo/logs/storm"
supervisor.slots.ports:
  - 6700
  - 6701
  - 6702
  - 6703

说明一下:storm.local.dir表示storm需要用到的本地目录。nimbus.host表示那一台机器是master机器,即 nimbus。storm.zookeeper.servers表示哪几台机器是zookeeper服务器。storm.zookeeper.port表 示zookeeper的端口号,这里一定要与zookeeper配置的端口号一致,否则会出现通信错误,切记切记。当然你也可以配 superevisor.slot.port,supervisor.slots.ports表示supervisor节点的槽数,就是最多能跑几个 worker进程(每个sprout或bolt默认只启动一个worker,但是可以通过conf修改成多个)。

 
执行:
nohup bin/storm nimbus  >/dev/null 2>&1 &(启动主节点)
nohup bin/storm supervisor >/dev/null 2>&1 &(启动从节点)
注意一定要加nohup,否则终端断开后storm进程就被杀了

执行命令:# storm jar StormStarter.jar storm.starter.WordCountTopology test

此命令的作用就是用storm将jar发送给storm去执行,后面的test是定义的toplogy名称。

 
搞定,任务就发送到storm上运行起来了,还可以通过命令:
nohup bin/storm ui>/dev/null 2>&1 &
启动ui,可以通过 ip:8080/ 查看运行情况。

猜你喜欢

转载自ydlmlh.iteye.com/blog/2283567