0
메트릭 학습의 학습 과정에서 비용 함수가 볼록하면, 그래디언트 디센트 방법을 사용하여 최적의 솔루션을 얻을 수 있습니다.다중 메트릭 학습을위한 "대안 최적화"방법
이제 훈련 세트에서 N (N은 100과 같이 매우 클 수 있습니다) 메트릭을 학습하고 하나의 방법은 이러한 N 메트릭을 큰 메트릭 매트릭스로 결합하여 사용하도록 비용 함수를 조정하는 것입니다. 그라디언트 디센트 메서드 그러나 N이 매우 큰 경우이 메서드는 매우 좋지 않습니다.이 조건에서는 사용할 수있는 "대체 최적화"메서드가 있습니까? 2 번째 ~ N 번째 메트릭을 수정하고 1 번째 메트릭에 대해서만 그래디언트 디센트를 작성한 다음 1, 3 N 번째 메트릭을 수정하고 2 번째 메트릭에 대해서만 그래디언트 디센트를 만듭니다. "대체 최적화"방법에 대한 몇 가지 필수 조건이 있습니까?
어떤 그라디언트 디센트 메소드를 사용하고 있습니까? –
이것은 크게 최적화하는 기능 (치수가 얼마나 분리되어 있는지)에 달려 있습니다. 때로는 한번에 한 번에 하나씩 수행해야 할 때도 있습니다. 때때로 한 번에 하나씩, 여러 번에 걸쳐 일괄 적으로 일괄 적으로 수행 할 수도 있습니다 (다중 패스가있는 일괄 처리는 내가 선호하는 타협입니다) – Dave