2014-12-18 8 views
8

Kerberize edilmiş bir kümede Spark 1.1.0, HDP 2.1 çalıştırıyorum. --Simp iplik istemcisini kullanarak kıvılcımlı gönderimi başarılı bir şekilde yürütebilirim ve sonuçlar HDFS'ye uygun şekilde yazılır, ancak iş Hadoop Tüm Uygulamalar sayfasında görünmez. Ben iplik küme --master kullanarak kıvılcım göndermek çalıştırmak istiyorum ama bu hatayı almaya devam:Çalıştırıcıyı --master iplik küme ile çalıştıran: kıvılcım montajı ile ilgili sorun

appDiagnostics: Application application_1417686359838_0012 failed 2 times due to AM Container 
for appattempt_1417686359838_0012_000002 exited with exitCode: -1000 due to: File does not 
exist: hdfs://<HOST>/user/<username>/.sparkStaging/application_<numbers>_<more numbers>/spark-assembly-1.1.0-hadoop2.4.0.jar 
.Failing this attempt.. Failing the application. 

Ben kümeye erişimi olan hesabımı provisioned ettik. İplik-site.xml'yi yapılandırdım. Temizledim. Ben dahil --jars denedim kıvılcım kıvılcım benim kıvılcım/lib]. Ben çok benzer ama henüz cevapsız olan this question'u buldum. Bu bir 2.1 sorun, kıvılcım 1.1.0, kümelenmiş küme, yapılandırmalar veya ne olduğunu anlayamıyorum. Herhangi bir yardım çok takdir edilecektir.

+0

Aynı sorunla karşılaşıyor. Onu işe aldın mı? Herhangi bir işaretçi için minnettarım. Teşekkürler. – DilTeam

+0

Spark'in daha yeni bir sürümüne yükseltmenin yardımcı olduğunu düşünüyor. Şimdi Spark 1,3 kullanıyorum ama 1.2.1 ile gayet iyi çalışıyordu. Umarım yardımcı olur! – jackar

cevap

11

Bu, muhtemelen kodda sparkConf.setMaster("local[n]")'u bıraktığınız içindir.

+0

Gah! Çok açıktı! Teşekkürler, bu beni büyük bir baş ağrısından kurtardı. –

İlgili konular