[关闭]
@EVA001 2017-10-29T12:21:33.000000Z 字数 1906 阅读 275

2017-3-3 IDEA中调试Topology出现的错误

有道云笔记


在IDEA的maven项目中编写Topology出错:
NoClassFound找不到主类:解决--
在pom.xml中,找到中的storm,添加<>compi<>

  1. kafka中的topic不新建也可以使用
  2. 如果不执行 ./kafka-topics.sh --create --zookeeper hadoop01:2181 --replication-factor 1 --partitions 1 --topic test
  3. 直接执行下述两条命令:
  4. kafka生产者客户端命令
  5. ./kafka-console-producer.sh --broker-list hadoop01:9092 --topic test
  6. kafka消费者客户端命令
  7. ./kafka-console-consumer.sh -zookeeper hadoop01:2181 --from-beginning --topic test
  8. 也可以起到新建topic的目的

maven有很多插件,在IDEA中调试时需要使用compile插件来执行compile命令、

  1. mvn compile exec:Java -Dstorm.topology=storm.starter.WordCountTopology
  2. mvn compile exec:java -Dstorm.topology=storm.starter.WordCountTopology

调试Topology过程:

  1. pom.xml 打包出错,jdk版本问题,打包中[显式指定]
  2. 项目settingM2_HOME :  -DmultiXXXXX错误[首行出错]
  3. import org.apache.storm.. : 新版storm包 1.0.x
  4. import backtype.storm.. :  旧版storm包版本 0.9.x
  5. src目录结构 :待探究
  6. 本地运行找不到IRichSpout compile改动
  7. 打包compileprovided ClassNotFoundError
  8. SLF4J ERROR 引入两个dependence - slf4j+log4j

kafka启动问题的日志在logs文件夹中的server.log

kafka主题的日志才在自己自定义的目录中

  1. 2017-03-01 17:23:12.906 o.a.s.u.NimbusClient [WARN] Using deprecated config nimbus.host for backward compatibility. Please update your storm.yaml so it only has config nimbus.seeds
  2. 2017-03-01 17:23:12.906 o.a.s.u.NimbusClient [WARN] Using deprecated config nimbus.host for backward compatibility. Please update your storm.yaml so it only has config nimbus.seeds

错误原因:更改UI端口只修改了nimbus的,没有修改supervisor的

storm nimbus启动失败:nimbus进程不可用时,storm ui将无法访问
查nimbus.log无果,直接使用命令./storm nimbus 则会在下方打印出错误:

  1. SLF4J: Class path contains multiple SLF4J bindings.
  2. SLF4J: Found binding in [jar:file:/usr/local/storm/tzl-depend.jar!/org/slf4j/impl/StaticLoggerBinder.class]
  3. SLF4J: Found binding in [jar:file:/usr/local/storm/lib/log4j-slf4j-impl-2.1.jar!/org/slf4j/impl/StaticLoggerBinder.class]
  4. SLF4J: See http://www.slf4j.org/codes.html#multiple_bindings for an explanation.

是因为之前提交的topo有slf4j的错误,再次开启storm时就会自动运行[叙述不恰当]而出错
改:删掉之
(使用storm kill不行,因为nimbus已经出错启动不起来了,故而直接删除掉相关文件)

下图如是:tzl.jar和tzl-depend.jar是之前提交的错误任务,其有slf4j的错误,在启动时好像storm命令会扫描整个目录文件
解决:删掉后,storm nimbus & 完美运行

添加新批注
在作者公开此批注前,只有你和作者可见。
回复批注