在IntelliJ中运行如下Scala程序,可以正常出结果,但是打成jar包却总是报错

卢卡斯 发布于 2016/03/09 11:24
阅读 1K+
收藏 0

代码如下:

package SQL

import org.apache.spark.SparkContext
import org.apache.spark.SparkContext._
import org.apache.spark.SparkConf
import org.apache.spark.sql.SQLContext
import org.apache.log4j.{Level,Logger}

/**
  * Created by hduser on 16-3-9.
  */
object SparkSQL {


  def main(args: Array[String]) {
    val conf = new SparkConf().setAppName("SparkSQL Application").setMaster("local")
    val sc = new SparkContext(conf)

    val sqlContext = new org.apache.spark.sql.SQLContext(sc)

    import sqlContext.implicits._


        Logger.getLogger("org.apache.spark").setLevel(Level.WARN)
        Logger.getLogger("org.apache.spark.sql").setLevel(Level.WARN)

    val df = sqlContext.read.json("/home/hduser/spark/examples/src/main/resources/people.json")
    df.show()

    df.printSchema()

    df.select("name").show()
    df.select("age").show()
    df.select(df("name"), df("age") + 1).show()
    df.filter(df("age") > 21).show()
    df.groupBy("age").count().show()
  }
}



配置截图:


补充error信息:

加载中
0
hzajie
hzajie
仔细检查一下,估计是少依赖包了,你在开发工具中,有些依赖包是它默认自带的.
卢卡斯
卢卡斯
少了依赖包,运行应该不会成功吧
返回顶部
顶部