텍스트 처리 응용 프로그램에 대한로드 균형 조정

Question

웹에 넣을 리소스 집약적 인 NLP 응용 프로그램이 있으며이를 100 명 이상의 사용자가 동시에 액세스 할 수있게하려고합니다.

몇 대의 컴퓨터 클러스터에 대한 액세스 권한이 있습니다. 내 생각은 이러한 컴퓨터에서 여러 백그라운드 프로세스를 실행 한 다음로드 균형 조정 프로그램을 사용하여 여러 클라이언트의 입력을 분산시키는 것입니다. 나는 올바른 길을 가고 있으며 제안을 환영할지 궁금합니다.

Answer 1

여러 통합 시나리오와 확장 시나리오가 있습니다. 대부분의 구성 요소가 NLP와 관련 있다고 가정하면 NLP에 맞게 구성된 프레임 워크 인 Apache UIMA project을 권장합니다. 시나리오에 유용하면 Apache UIMA Asynchronous Scaleout 일 수 있습니다.