2016-06-22 15 views
21

aşağıda build.sbt dosyasında spark-core, spark-streaming, twitter4j ve spark-streaming-twitter indirmek için çalışıyorum Merhaba: Ben sadece ben öylesine çevrimiçi bu libraryDependencies aldıbuild.sbt: kıvılcım bağımlılıkları nasıl ekleneceğini

name := "hello" 

version := "1.0" 

scalaVersion := "2.11.8" 

libraryDependencies += "org.apache.spark" %% "spark-core" % "1.6.1" 
libraryDependencies += "org.apache.spark" % "spark-streaming_2.10" % "1.4.1" 

libraryDependencies ++= Seq(
    "org.twitter4j" % "twitter4j-core" % "3.0.3", 
    "org.twitter4j" % "twitter4j-stream" % "3.0.3" 
) 

libraryDependencies += "org.apache.spark" % "spark-streaming-twitter_2.10" % "0.9.0-incubating" 

Hangi sürümleri kullanacağınızdan emin değilsiniz.

Lütfen birisi bana bu .sbt dosyalarını nasıl düzeltmem gerektiğini açıklayabilir. Bunu anlamaya çalışırken birkaç saatimi harcadım ama suggesstion'ın hiçbiri işe yaramadı. Ben homebrew ile scala yüklü ve ben ilgiliydi sürümü 2.11.8

benim hataların tamamı üzerinde duyuyorum: Sorun Scala 2.11 ve 2.10 eserler karıştırma olmasıdır

Modules were resolved with conflicting cross-version suffixes. 

cevap

32

. Şu ana kadar: o zaman

scalaVersion := "2.11.8" 

Ve:

2.10 eser gerekli ediliyor
libraryDependencies += "org.apache.spark" % "spark-streaming_2.10" % "1.4.1" 

. Ayrıca Kıvılcım sürümlerini karıştırma yerine tutarlı bir sürümünü kullanıyorsanız: Ayrıca olduklarını beri elle twitter4j bağımlılıkları eklemek gerekmez

name := "hello" 

version := "1.0" 

scalaVersion := "2.11.8" 

val sparkVersion = "1.6.1" 

libraryDependencies ++= Seq(
    "org.apache.spark" %% "spark-core" % sparkVersion, 
    "org.apache.spark" %% "spark-streaming" % sparkVersion, 
    "org.apache.spark" %% "spark-streaming-twitter" % sparkVersion 
) 

: Burada

// spark 1.6.1 
libraryDependencies += "org.apache.spark" %% "spark-core" % "1.6.1" 

// spark 1.4.1 
libraryDependencies += "org.apache.spark" % "spark-streaming_2.10" % "1.4.1" 

// spark 0.9.0-incubating 
libraryDependencies += "org.apache.spark" % "spark-streaming-twitter_2.10" % "0.9.0-incubating" 

hem sorunları gideren bir build.sbt olduğunu spark-streaming-twitter tarafından geçici olarak eklendi.

+1

Çok teşekkür ederim! Hızlı bir soru, scala ('2.11.8') sürümü, '1.6.1' sürümüne sahip tüm kıvılcım kütüphaneleriyle çalışacak mı? – Bobby

+2

Evet. Spark 1.6.1, scala'nın 2.10 ve 2.11 sürümleri için geliştirildi. – marcospereira

+0

Tamam! Yardım ve bilgi için teşekkürler! – Bobby

İlgili konular