상호 정보를 기반으로 한 피쳐 추출 방법이 있습니까?

Question

나는 800 개의 입력 특징과 하나의 연속적인 출력을 가진 데이터 셋 D = {X, Y}를 얻었다. 나는 두 가지 조건

을 만족하는 어떤 특징 추출 방법을 찾고

(1)의 MATLAB 코드를 다운로드 할 수 있습니다

(2). 이 방법은 입력 x를 변환 된 입력 z (z는 d 벡터)에 매핑해야합니다 (d < < 800). 그러면 z_i와 y 사이의 상호 정보가 가능한 한 높아집니다.

CCA (X, y)를 수행 할 때 메소드가 CCA와 관련이 있어야한다고 생각하지만 한 차원 만있는 벡터 z를 얻습니다. PCA와 같은 좋은 기능을 선택하는 옵션이 있어야합니다.

Answer 1

이 EM-같은 반복 알고리즘 또는 경험적 욕심, 응집성 클러스터링 과정을 통해 어떤 경우에 해결 될 수있는 "정보 Buttleneck"문제의 프레임입니다

감사합니다.

유용한 참조 :

• Wikipedia
• Paper
• MATLAB 코드 : (1) by G. Chechik 또는 (2) in the VLfeat library이 깊이 CCA 관련이 실제로

; 문제에 대한 특정 가정 (즉, 가우스 성) 하에서이 관계가 정확히 이루어질 수 있습니다 (Wikipedia 링크 및 this paper 참조).