データの大規模なクラスタ:
1、飼育係のクラスタ操作:
起動します。bin / [、注文hadoop102にhadoop103、hadoop104ノード上のZooKeeperを起動する]を開始zkServer.sh
閉じる:ビン/ zkServer.sh停止
ステータスを表示します。bin / zkServer.shステータス
2、カフカのクラスタ操作(あなたが最初のZooKeeperを起動する必要があります):
[hadoop102に回し、hadoop103、hadoop104ノード上カフカを開始]ビン/ kafka-server-start.sh -daemonのconfig / server.properties:[スタート]
閉じる:ビン/ kafka-server-stop.sh
创建トピック:ビン/ kafka-console-producer.sh --brokerリストhadoop102:9092 --topicレコメン
トピックを表示するインフォメーション:ビン/ kafka-topics.sh --zookeeperはlocalhost:2181 --list
3、Hadoopクラスタ・オペレーション:
格式化名前ノード:Hadoopのの名前ノードの-format
HDFSは、開始:hadoop102にsbinに/ start-dfs.sh [開始]ノード
糸開始:hadoop103にsbinに/ start-yarn.sh [開始]ノード
HDFSアクセスアドレス:のhttp:// hadoop102:50070 /
糸のアクセスアドレス:のhttp:// hadoop102:16010 /
ハイブ開始(最初のHadoopクラスタを起動します):ビン/ハイブ
図4に示すように、スパーククラスタ操作:
開始:hadoop102でsbinに/ start-all.sh [スタート]ノード
第二に、データ操作
1、Redisの操作(設定パスワード):
Redisのデフォルトのインストール場所:は/ usr / local / binに
redis.conf設定:
IPバインディングをホストバインド192.168.1.102#
requirepass 123456#パスワード
リモートコマンド実行サーバ:Redisの-CLI -h IPアドレスポート-a -pパスワード
開始:Redisのサーバー/myredis/redis.conf
接続:Redisの-CLI -p 6379 -a 123456
閉じる:Redisの-CLI -p 6379 -a 123456シャットダウン
Redisのコマンド:
lpushのuserId:4867 231449:3.0
LRANGEユーザーID:4867 0 -1
2、MongoDBの操作:
開始:mongodは-config /opt/module/mongodb-3.4.3/data/mongodb.conf
閉じる:mongodは-shutdown -config /opt/module/mongodb-3.4.3/data/mongodb.conf
アクセス:モンゴ
開始するかどうかのMongoDB見ます:
netstatの-nltp | grepの27017
PS -ef | grepをMongoDBの
ビューテーブル情報:db.table.find()かなり()。
クエリフィールド:db.table.find({にuserId:4867})
3、sqoop操作
ビン/ sqoopリスト・データベース--connectます。jdbc:mysqlの:// hadoop102:3306 / --usernameルート123456を--passwordデータベースに正常に接続できるSqoopがいるかどうかをテスト
4、水路クラスタの起動:
ビン/水路-ngのエージェント-c confに-f仕事/ファイル・水路・hdfs.conf -n A2 -Dflume.root.logger = INFO、コンソール
ビン/水路-ngのエージェント-c confに-f ./conf/log-kafka.properties -nエージェント-Dflume.root.logger = INFO、コンソール
第三に、ネットワーク通信ツールnetcatを:
インストール:sudoのyumの-y NCをインストール
サーバー:NC -lk 44444
クライアント:NC hadoop102 44444