확률변수의 기본 (4) 합성곱

합성곱은 여러분이 공대 혹은 수학을 조금만 하셔도 미분방정식, 신호처리이론, 물리, 전자기학 등등 많은 분야에서 등장하기 때문에 여기서 한 번 다루고 넘어가는 것이 좋을 것 같습니다.

사실 합성곱에 대해서 그 정의는 위키피디아만큼 완벽하게 설명된 곳이 없습니다.

https://ko.wikipedia.org/wiki/%ED%95%A9%EC%84%B1%EA%B3%B1

위키를 보면, 합성곱은 '하나의 함수와 또 다른 함수를 반전 이동한 값을 곱한 다음, 구간에 대해 적분하여 새로운 함수를 구하는 수학 연산자'라고 정의되어 있습니다. 실제로 오른쪽의 도식을 보면, 그러한 특성을 잘 확인할 수 있습니다.

확률변수의 개념 중 함수들, 정확하게는 CDF와 PDF를 이 함수로 볼 때, 그 합성곱에 대한 연산을 정의할 수 있습니다. CDF의 convolution은 독립인 확률분포 X와 Y로부터

PDF의 convolution은 역시 독립인 확률분포 X와 Y로부터 구한 CDF를 미분하여

위와 같이 구할 수 있습니다.

확률변수의 '합'이 어떻게 합성'곱'이 되는 걸까요? 수식으로는 납득이 되지만, 도저히 마음속으로는 이해가 안되시는 분들을 위해서 설명해드리겠습니다.

위키피디아를 잘 읽어보면, 사실 합성곱은 '곱'은 아니고 겹친 부분의 적분입니다. 곱의 형태가 된것은 X와 Y가 독립이었기 때문에 조건부 형태의 joint PDF가 아닌 두 개의 분리된 PDF들의 곱이 된 것, 단지 그 이유입니다. 그러니 X의 PDF와 Y의 PDF가 곱해진 것을 그냥 '겹쳐진 부분에 대한 함수'로 보아도 됩니다.

그렇다면 a는 무엇일까요? a는 X의 PDF의 2*(축)의 위치입니다. 무슨 소리냐 하면, 예를 들어 X와 Y가 같은 분포, 이른바 IID (독립임은 앞에 언급했으므로) 라고 합시다. 그렇다면 곱해지는 함숫값에 해당하는 정의역의 위치는 y와 a-y 입니다. y 에서 -y가 된 것은 전치를 의미하므로 전치가 되는 축을 구하기 위해 y = a-y 라 하면 y = a/2 가 됩니다. 이 때의 y를 '축'이라고 합니다.

예를 들어 a=1 이면 축은 y=1/2 인 것이죠.

IID인 두 분포 X와 Y의 평균이 m이라면 a=2m 일 때 합의 분포 X+Y가 최댓값을 보임은 쉽게 알 수 있습니다.

왜 이런 겹치는 형태가 될까라고 의아해 하실 수도 있습니다.

그것은 한 가지 예시로 쉽게 알려드리겠습니다.

철수와 영희가 영호에게 영호가 내는 문제를 맞추면 50원씩을 각각 받기로 했습니다. 철수와 영희는 문제를 잘 몰랐고, 할 수 없이 맞다, 틀리다 중 하나를 고르는 문제를 내었습니다. 이 때 철수의 돈의 획득 분포는 p=0.5인 베르누이 확률변수이며 영희도 마찬가지입니다. 그렇다면 두 사람이 받을 수 있는 돈의 합은 0원, 50원, 100원 중 하나입니다.

이제 겹치는 것의 의미를 보여드리겠습니다.

영희가 틀린 것은 흰색 별, 맞은 것은 검은 별, 철수가 틀린 것은 흰색 동그라미, 맞은 것은 검은 동그라미라고 합시다.

      ☆★

○●

철수와 영희가 떨어져 있으므로 (다시 언급하지만, 곱의 형태가 된것은 다름이 아니고 조건부가 '독립'이기 때문입니다. 따라서 아래와 같은 표현을 쓸 수 있습니다.)

철수 틀릴 확률	0.5	철수 틀릴 확률 위치에서 영희 틀릴 확률	정의되지 않음 (=0)	철수 틀리고 영희 틀림	0
철수 틀릴 확률	0.5	철수 틀릴 확률 위치에서 영희 맞을 확률	정의되지 않음 (=0)	철수 틀리고 영희 맞음	0
철수 맞을 확률	0.5	철수 맞을 확률 위치에서 영희 틀릴 확률	정의되지 않음 (=0)	철수 맞고 영희 틀림	0
철수 맞을 확률	0.5	철수 맞을 확률 위치에서 영희 맞을 확률	정의되지 않음 (=0)	철수 맞고 영희 맞음	0

이제 철수의 함수를 한칸 옆으로 옮기면,

      ☆★

   ○●

철수 틀릴 확률	0.5	철수 틀릴 확률 위치에서 영희 틀릴 확률	정의되지 않음 (=0)	철수 틀리고 영희 틀림	0
철수 틀릴 확률	0.5	철수 틀릴 확률 위치에서 영희 맞을 확률	정의되지 않음 (=0)	철수 틀리고 영희 맞음	0
철수 맞을 확률	0.5	철수 맞을 확률 위치에서 영희 틀릴 확률	0.5	철수 맞고 영희 틀림	0.25
철수 맞을 확률	0.5	철수 맞을 확률 위치에서 영희 맞을 확률	0	철수 맞고 영희 맞음	0

     ☆★

     ○●

철수 틀릴 확률	0.5	철수 틀릴 확률 위치에서 영희 틀릴 확률	0.5	철수 틀리고 영희 틀림	0.25
철수 틀릴 확률	0.5	철수 틀릴 확률 위치에서 영희 맞을 확률	0	철수 틀리고 영희 맞음	0
철수 맞을 확률	0.5	철수 맞을 확률 위치에서 영희 틀릴 확률	0	철수 맞고 영희 틀림	0
철수 맞을 확률	0.5	철수 맞을 확률 위치에서 영희 맞을 확률	0.5	철수 맞고 영희 맞음	0.25

     ☆★

        ○●

철수 틀릴 확률	0.5	철수 틀릴 확률 위치에서 영희 틀릴 확률	0	철수 틀리고 영희 틀림	0
철수 틀릴 확률	0.5	철수 틀릴 확률 위치에서 영희 맞을 확률	0.5	철수 틀리고 영희 맞음	0.25
철수 맞을 확률	0.5	철수 맞을 확률 위치에서 영희 틀릴 확률	정의되지 않음 (=0)	철수 맞고 영희 틀림	0
철수 맞을 확률	0.5	철수 맞을 확률 위치에서 영희 맞을 확률	정의되지 않음 (=0)	철수 맞고 영희 맞음	0

이때 맞은 사람 수를 기준으로 전체 확률을 합하면 0.25, 0.5, 0.25로 각각 0원, 50원, 100원의 확률임을 알 수 있습니다. 합성곱은 연속확률변수에서 적용되므로 베르누이 분포대신 균등분포를 사용하면 이와같은 삼각형 꼴의 연속한 분포 (삼각분포) 를 얻을 수 있습니다.

다음 글에서는 랜덤 프로세스에 대해 알아보겠습니다.