상호 정보의 계산

Question

M이 각각 속성 X와 Y를 갖는 객체 m의 집합이라고 가정합니다. 이제 X와 Y가 주어진 m에 대해 하나의 값만 가질 수있는 경우 (예 : X, Y는 P (X = x_i | M = m_i), P (Y = y_i | M = m_i)), X와 Y의 상호 정보를 계산할 수 있습니다. 그러나 X가 동시에 여러 결과를 가질 수 있다면 어떨까요? 나는. X = {x1, x2} - 일반적으로 X의 결과는 모든 가능한 결과의 하위 집합입니다. 그러한 경우에 상호 정보 또는 기타 의존성 측정을 측정 할 수 있습니까?

X를 X_1, X_2 등으로 나눌 수 있습니까? X가 x1을 포함하면 X_1 = 1, X_1 = 0이면 X_1 = 1, 모든 조합 i, j에 대해 I (X_i, Y_j) I (X, Y)를 얻기위한 정보?

감사합니다.

는

예 : 내가 잘못 아니에요 경우

m_1: X={a,b}, Y={x,y}; m_2: X={c}, Y={z,x} 

Answer 1

이 전제 사용자가 설정 :

If M is a set of objects { m1, m2, ... }, 
and each mi has two attributes X, Y, 
and X, Y can be a set of { x1, x2, ... } , { y1, y2, ... } respectively 

은 다음

*(X, Y) based on each mi's X, Y 

음을 정의하려면,이 복잡성을 증가 계산의 관점에서 문제의 현저한 차이는 있지만, 상관 관계가 아닌 동일한 유형의 상관 관계를 여전히 수행 할 수 있습니다. 값 X와 Y를 사용하면 두 개의 하위 집합 X와 Y를 연관 지을 수 있습니다.

Answer 2

집합의 의미와 상호 정보를 사용하려는 대상에 따라 집합을 원자 값으로 처리 할 수 ​​있습니다. 그런 다음 이벤트 공간은 V_X의 힘입니다. 일반적인 이벤트 공간에서 상호 정보를 계산할 수 있습니다 (비트 스트링 생각).

상호 작용 정보 또는 전체 상관 관계와 같은 상호 정보의 다 변수 일반화가 있습니다. 그러나 나는 그들이 당신이 찾고있는 것 같지는 않습니다. 상호 관계에 관한 다른 정보가 아닌 이론적 인 다 변수 측정을 보는 것이 더 나을 것입니다.