2013-03-16 1 views
1

Hadoop을 설치하고 잘 테스트했지만 n00b에 대한 지침을 찾을 수 없습니다.cascading.jruby를 설치하고 실행할 수있는 자습서는 어디에서 찾을 수 있습니까?

계단식 및 cascading.jruby를 설정하는 방법. 계단식 Jar를 배치 할 장소와 루비 어셈블리를 올바르게 빌드하기 위해 jading을 구성하는 방법은 무엇입니까?

자동으로 젠킨스를 사용하는 사람이 있습니까?

편집 : 자세한 내용 은 내가

  1. 하둡을 설치 한 https://github.com/etsy/cascading.jruby

    에서 예를 들어, 단어 개수 작업을 구축을 위해 노력하고, 성공적으로 테스트를 실행하고 있습니다.

  2. 는 JRuby를를 설치
  3. 보석 설치 cascading.jruby 옥
  4. -

  5. 가 wc.rb를 컴파일 할

  6. 실행 옥 wc.rb 단어 수의 샘플을 만들어 https://github.com/etsy/jading

  7. 설치 개미 항아리에

    옥 wc.rb

  8. 다음과 같은 컴파일 오류가 발생합니다.

    Buildfile : build.xml이 없습니다! 빌드 RuntimeError에 실패했습니다 개미가 (루트) 실패 조회하는는/usr/빈/hjade에서 89 감각 옥 코드를 찾고, 그러나 이것은 사용 예에서 다루지 않습니다하게

? 내가 여기서 무엇을 놓치고 있니?

+0

빌드 실패의 전체 추적을 게시 할 수 있습니까? –

+0

더 이상 스택 추적이 없습니다. 문제는 필자가 심볼릭 링크를 사용하고 있기 때문에 원본 폴더에서 스크립트가 실행되지 않고 잘못된 위치에서 파일을 찾고 있기 때문이었습니다. 아래의 현재 답변을 참조하십시오. – velniukas

답변

7

wc.rb ~는/dev/cascading.jruby.demo /에,이 여기, 내 첫 번째 대답이다.

Jading이 심볼 링크에서 호출 될 때 Ant 빌드 스크립트를 찾을 수 없다는 문제가 실제로 발생합니다. symlink를 만드는 것보다 Jading 클론을 PATH에 추가하는 것 (또는 issue을 고치기 위해 pull 요청을 제출하는 것)을 권합니다.

다른 우려 사항을 해결하기 위해 Jading 위키에 Getting Started 페이지가 만들어져 도움이 될 수 있습니다. 그것은 preqs (Java, Ant, JRuby 및 Hadoop 클라이언트 + config) 외에 다른 것을 설치하지 않고 로컬 및 원격 cascading.jruby 작업을 시작하고 실행하는 과정을 안내합니다. 이제는 로컬 및 Hadoop 클러스터에서 모두 작동해야하는 전체 예제 단어 카운트 스크립트가 포함되어 있으며 Etsy의 자체 내부 클러스터에서 테스트되었습니다.

젠킨스에 대한 질문에 답하기 위해 계속해서 백업합니다. 예, Etsy에서는 젠킨스를 사용하여 클러스터에 cascading.jruby (및 Scalding)를 빌드하고 배포합니다. 그러나이 빌드 프로세스는 현재 Jading을 사용하여 작업 항아리를 생성하지 않습니다. Jade와 Jading은 Jar를 빌드하기 위해 사용했던 프로세스의 더 깨끗한 버전을 출시하려는 시도였습니다. 우리의 빌드는 Jading을 쉽게 사용할 수 있습니다. (그리고 원래 예제는 코드에서 실제로 사용되었습니다.)하지만 빌드에 의해 생성 된 아티팩트에 약간 다른 요구 사항이 있습니다.

다른 문제가있는 경우 언제든지 문제를 제출하거나 github 프로젝트에 요청을 제출하십시오.

+0

감사합니다 - 시작하기 페이지가 매우 도움이됩니다. – velniukas

+0

도움이 되니 기쁩니다. 인터페이스 변경으로 Etsy 내부로 마이그레이션 할 작업 수가 많기 때문에 c.j를 변경하는 것이 다소 문제가 있다고 말할 수 있습니다. 그러나, 어느 시점에서 두려운 * args 반 패턴의 프로젝트를 없애고 싶습니다. 그리고 할 때, 더 나은 문서 작성을 할 것입니다. 반면에 Jading은 bagge가 없기 때문에 매우 빨리 변경할 수 있습니다 (아직 릴리스 나 다른 번호를 매기는 시작조차하지 못했습니다). –

+0

도와 드릴 수 있는지 알려주세요. 나는 c.j를 생성하기 위해 블록을 포팅하는 것의 가치를보고있다. 작은 프로젝트로서 그래픽으로 코드화하십시오. – velniukas

0

jruby를 사용하는 경우. 번들러도 사용해야합니다. 이 경우 cascading.jruby를 gemfile에 의존성으로 추가 할 수 있습니다.

당신은 어쨌든 귀하의 프로젝트 폴더에서 설치 시도 할 수 있습니다 :이 도움이

gem install 'cascading.jruby'

희망을.

+0

안녕하세요. 저는 이미이 작업을 수행했습니다. 그러나 https://github.com/etsy/cascading.jruby에서 간단한 단어 집계 예제를 얻을 수는 없습니다. https://github.com/etsy/ 옥을 사용하여 컴파일했습니다. jading - 예제 사용법에서 다루지 않는 필요한 build.xml 파일을 참조합니다. – velniukas

0

지금 끝낼 작업이 있습니다. 나는/usr/local/bin에 바이너리를 jading, 하둡에 심볼릭 링크를 만들었다

스크립트는 다음 작품 즉

을 지원 파일을 찾기 위해 자신의 디렉토리에서 실행해야

: (가정 cascading.jruby 예는 지연에 대한 죄송합니다

cd /usr/local/jading 
./jade ~/dev/cascading.jruby.demo/wc.rb 

# creates a jade.jar locally in jading folder 
cd /usr/local/hadoop 
./bin/hadoop jar /usr/local/jading/jade.jar ~/dev/cascading.jruby.demo/wc.rb ~/dev/cascading.jruby.demo/sampledata/in.txt 
관련 문제