tensorflow에서 계산 시간을 향상시키는 방법

Question

나는 android에서 tensorflow를 사용하고 있습니다. TFClassify 용 apk를 설치했습니다. 응용 프로그램을 실행하고 추론 시간이 400ms를 넘지 않아 신속하게 실행됩니다. 그러나 사용 가능한 훈련 된 모델을 내 모델로 대체하면 결과를 표시하기 전에 계산을 위해 약 2000ms가 소요됩니다. 왜 그런 차이가 있으며 어떻게 retrained_graph.pb를 최적화 할 수 있습니까?

Answer 1

이것은 내가에 걸쳐있어 가장 적합한 솔루션입니다 :

Codelabs Tensorflow for poets 2

어떤 도움도이 그룹 토론 페이지를 통해 수행 할 수 있습니다.

Reduce the TensorFlow Model (using tf.contrib.learn API) computation time

Answer 2

재교육 모델을 최적화 된 & 양자화 그래프로 변환 했습니까?

하지 않으면

:

tensorflow/bazel-bin/tensorflow/python/tools/optimize_for_inference \ 
     --input=retrained_graph.pb \ 
     --output=optimized_graph.pb \ 
     --input_names=Mul \ 
     --output_names=final_result 

tensorflow/bazel-bin/tensorflow/tools/quantization/quantize_graph \ 
     --input=optimized_graph.pb \ 
     --output=rounded_graph.pb \ 
     --output_node_names=final_result \ 
     --mode=weights_rounded 

참고로, 먼저 이러한 도구를 구축해야합니다.