2015-10-05 20 views
14

Bu çok önemsiz ise üzgünüm ama Spark için çok yeni. Windows'da Apache Spark'i Maven kullanarak oluşturdum. Cygwin'i inşa etmek için kullandım ve işe yaradı. Şimdi sbin dizininden komut (./start-master.sh) kullanarak başlayamıyorum. Windows'ta Apache Kıvılcımı başlatılamıyor Cygwin

aşağıda hatayı alıyorum: org.apache.spark.deploy.master.Master başlatmak için başarısız oldu:

Error: Could not find or load main class org.apache.spark.launcher.Main 
full log in /cygdrive/c/Spark/spark-1.5.1/sbin/../logs/spark-auser-org.apache.spark.deploy.master.Master-1.host 

Ben kıvılcım-launcher_2.10-1.5.1 arıyor anlıyoruz. sınıf yolunda jar ancak sınıf yolunu veya lib dizini tanımlayan betiklerde tanımlayamıyorum.

./make-distribution.sh --name custom-spark --tgz -Psparkr -Phadoop-2.4 -Phive -Phive-thriftserver -Pyarn 
Patrick McGloin belirtildiği gibi

, ayrıca örneğin böyle Windows'un kendisi üzerinde Spark Cluster başlayabileceğini: Gimby örneğin böyle, belirtildiği gibi

+0

Cygwin'den JDK/JRE kullanıyor musunuz? – kostya

+0

@kostya: Spark, JVM'nin içinde koşardı. JRE'ye cygwin'den de erişebiliyorum. Java 1.7 çalıştırıyorum. – Geek

+0

"Cygwin'i inşa etmek için kullandım ve işe yaradı" - yani derleme hiçbir hata üretmiyor, ama burada kendinize kanıtladığınız şey aslında iyi değil. Yapıyı tam olarak nasıl yapıyorsunuz? Hangi belgeleri takip ettiniz? – Gimby

cevap

4

Sen Building a Runnable Distribution adımları izleyebilirsiniz:

spark-class.cmd org.apache.spark.deploy.master.Master 
spark-class.cmd org.apache.spark.deploy.worker.Worker spark://localhost:7077 

Sen Spark Standalone Mode ve How to set up Spark cluster on Windows machines?

daha okuyabilir 210

Son olarak, OP'den bahsedildiği gibi, üst dizinde yeni bir Özel kıvılcım tar dosyası yaratan bir çalıştırılabilir dağıtım oluşturabildi. (S) bu dosyayı aldı, farklı bir dizinde onu untardı, bin alt dizinine gitti ve daha sonra scala-kabuğunu getirmeyi başardı.