Tensorflow로 XOR문제 해결

XOR 문제?

과거 딥러닝 모델은 하나의 퍼셉트론만을 사용한 단층 퍼셉트론 모델이었다. 하지만 이러한 하나의 퍼셉트론만으로는 XOR 문제를 해결하는 것은 불가능하다.

다음과 같은 여러개의 결정 경계가 필요한데, 그러기 위해서는 3개의 퍼셉트론을 사용한 다층 퍼셉트론 모델을 사용해야한다.

다층 퍼셉트론

다음과 같은 가중치와 bias를 갖는 3개의 퍼셉트론을 사용하면 XOR문제를 해결할 수 있다.

수식으로 나타내면 다음과 같으며, Tensorflow를 사용하여 아래와 같이 표현할 수 있다.

K = tf.sigmoid(tf.matmul(X, W1) + b1)
hypothesis = tf.sigmoid(tf.matmul(K, W2) + b2)

가중치 설정 문제

하지만 이러한 다층 퍼셉트론 모델은 가중치 설정이 어렵다는 문제점이 있었다. 해당 문제를 해결하기 위해 은닉층이 도입 되었다.