2016-03-23 23 views
0

Bazı günlük dosyalarını local'dan HDFS'a flume-ng kullanarak kopyalamaya çalışıyorum. source, /home/cloudera/flume/weblogs/ ve sink, hdfs://localhost:8020/flume/dump/'dur. Bir cron işi, tomcat sunucusundan günlükleri /home/cloudera/flume/weblogs/'a kopyalayacak vekullanarak dosyaları /home/cloudera/flume/weblogs/ aracılığıyla HDFS'a kopyalanacak dosyaları kaydetmek istiyorum. agent1.sources.local.type = ??? 2) nerede değerinin ne olacağınıKaynak: yerel dosyadan yerel dosyaya kopyalama için kaynak yolu ve türü.

1) Yukarıdaki conf dosyasında source yolunu /home/cloudera/flume/weblogs/ söz:

agent1.sources= local 
agent1.channels= MemChannel 
agent1.sinks=HDFS 

agent1.sources.local.type = ??? 
agent1.sources.local.channels=MemChannel 

agent1.sinks.HDFS.channel=MemChannel 
agent1.sinks.HDFS.type=hdfs 
agent1.sinks.HDFS.hdfs.path=hdfs://localhost:8020/flume/dump/ 
agent1.sinks.HDFS.hdfs.fileType=DataStream 
agent1.sinks.HDFS.hdfs.writeformat=Text 
agent1.sinks.HDFS.hdfs.batchSize=1000 
agent1.sinks.HDFS.hdfs.rollSize=0 
agent1.sinks.HDFS.hdfs.rollCount=10000 
agent1.sinks.HDFS.hdfs.rollInterval=600 
agent1.channels.MemChannel.type=memory 
agent1.channels.MemChannel.capacity=10000 
agent1.channels.MemChannel.transactionCapacity=100 

ben anlamak mümkün değilim: Aşağıda benim yarattığım conf dosyası ? 3) Yukarıdaki conf dosyasında eksik olan bir şey var mı?

Lütfen bunları bana bildirin.

cevap

1

kullanabilirsiniz ya:

bir Exec Source ve kullanımı bir komut (size gnu/linux dosyaları üzerinde yani kedi veya kuyruk)

Veya bir dizindeki okunan tüm dosyaları için Spooling Directory Source

İlgili konular