1
回答
在IntelliJ中运行如下Scala程序,可以正常出结果,但是打成jar包却总是报错
利用AWS快速构建适用于生产的无服务器应用程序,免费试用12个月>>>   

代码如下:

package SQL

import org.apache.spark.SparkContext
import org.apache.spark.SparkContext._
import org.apache.spark.SparkConf
import org.apache.spark.sql.SQLContext
import org.apache.log4j.{Level,Logger}

/**
  * Created by hduser on 16-3-9.
  */
object SparkSQL {


  def main(args: Array[String]) {
    val conf = new SparkConf().setAppName("SparkSQL Application").setMaster("local")
    val sc = new SparkContext(conf)

    val sqlContext = new org.apache.spark.sql.SQLContext(sc)

    import sqlContext.implicits._


        Logger.getLogger("org.apache.spark").setLevel(Level.WARN)
        Logger.getLogger("org.apache.spark.sql").setLevel(Level.WARN)

    val df = sqlContext.read.json("/home/hduser/spark/examples/src/main/resources/people.json")
    df.show()

    df.printSchema()

    df.select("name").show()
    df.select("age").show()
    df.select(df("name"), df("age") + 1).show()
    df.filter(df("age") > 21).show()
    df.groupBy("age").count().show()
  }
}



配置截图:


补充error信息:

举报
卢卡斯
发帖于2年前 1回/1K+阅
顶部