☰

Spark - 找不到資料來源：avro

tag-icon • tag-icon scala
Spark - 找不到資料來源：avro

當我執行 Spark Submit 時出現以下錯誤：

執行緒「main」org.apache.spark.sql.AnalysisException 中出現例外狀況：無法找到資料來源：avro。從 Spark 2.4 開始，Avro 是內建但外部的資料來源模組。請依照「Apache Avro 資料來源指南」部署的部分應用程式。

但在 IDE 中一切正常。

jar 是使用建構的sbt組裝。

構建.sbt看起來像這樣：

val sparkVersion = "2.4.3"
val jacksonVersion = "2.8.7"

dependencyOverrides ++= Seq(
  "com.fasterxml.jackson.core" % "jackson-core" % jacksonVersion,
  "com.fasterxml.jackson.core" % "jackson-databind" % jacksonVersion,
  "com.fasterxml.jackson.module" %% "jackson-module-scala" % jacksonVersion
)


libraryDependencies ++= Seq(
  "org.apache.spark" %% "spark-core" % sparkVersion % "provided" ,
  "org.apache.spark" %% "spark-sql" % sparkVersion % "provided",
  "org.apache.spark" %% "spark-hive" % sparkVersion % "provided",
  "org.apache.spark" %% "spark-avro" % "2.4.3",
  "io.confluent" % "kafka-avro-serializer" % "5.0.1",
  "org.apache.avro" % "avro" % "1.8.2"
)

assemblyMergeStrategy in assembly := {
  case PathList("META-INF", xs@_*) => MergeStrategy.discard
  case x => MergeStrategy.first
}

我嘗試過scala版本2.11.12 和 2.12.8

工作看起來像這樣：

Seq(1, 2, 3).toDF("id")
      .write
      .format("avro")
      .mode(SaveMode.Overwrite)
      .save("testavro")

答案1

您需要刪除此依賴項：

"org.apache.avro" % "avro" % "1.8.2"

相關內容