Ⅰ. 서 론

무선 통신 시스템에서 데이터를 송수신할 때, 전송되는 데이터에는 무선 채널의 잡음이 추가된다. 이 잡음은 정보의 정확한 전달을 방해하는 요소로 작용한다. 그러므로 무선 통신에서는 송수신 과정에서 발생하는 잡음으로 인한 오류를 정정하는 것이 매우 중요하다^[1]. 1948년 Shannon이 정보 이론을 제안한 이후, 채널 코드는 지난 수십 년 동안 다양한 통신 시스템에서 필수적인 오류 정정기술로 활용됐다. 채널 코드는 적절한 부호화 알고리즘을 통해 정보 비트에 적절한 패리티를 추가하여 전송하고 복호기를 통해 채널 잡음에 의해 발생하는 무작위 오류를 효과적으로 제거할 수 있다. 현재까지 Bose-Chaudhuri-Hocquenghem(BCH) 코드^[2], Turbo 코드^[3], Low-Density Parity-Check(LDPC) 코드^[4], Polar 코드^[5] 등 다양한 유형의 채널 코드가 제안되었다.

딥러닝의 급속한 발전으로 채널 코드의 복호기를 인공 신경망으로 설계하려는 다양한 시도가 이루어져 왔다^[6-13]. 신경망 기반 복호기는 일반적으로 기존 복호기 대비 낮은 복잡도를 보이며, 일부 채널 코드에 대해서는 기존 복호기보다 더 우수한 성능을 보여준다. 최근에는 신경망 복호기 앞쪽에 채널 디노이저를 추가하여 무선 채널의 잡음을 우선 제거한 뒤 복호를 수행하는 수신 기법이 제안되었다^[14,15]. 이러한 방법은 기존 수신기의 복호기 이전 복조기에서 변조 심볼 단위로 잡음 제거가 수행되던 것을 부호어 단위로 잡음을 제거하고 복호기와 연동하여 잡음 및 오류를 제거하게 함으로써 수신 성능을 더욱 개선시킨다.

오토인코더(Auto-Encoder, AE)는 이미지나 텍스트 등 많은 연구 분야에서 잡음을 제거하는 디노이저로서 사용된다^[16,17]. 본 논문에서는 이러한 오토인코더 구조를 활용하여 무선 통신 시스템에서 채널 잡음을 제거하기 위한 오토인코더 기반 채널 디노이저를 제안한다. 전체 수신기는 신경망 구조의 디노이저와 복호기로 구성되며, 멀티 태스크 러닝(Multi-task learning)^[18]을 통해 학습된다.

학습된 디노이저는 입력된 신호에 랜덤하게 추가된 잡음을 효과적으로 제거하고, 이를 복호기에 전달하여 원래의 메시지 비트가 성공적으로 복구될 수 있도록 기여한다. 성능 평가 실험에서 가우시안(Additive White Gaussian Noise, AWGN) 채널, 레일리 페이딩(Rayleigh fading) 채널 환경을 가정하여 실험한 결과, 제안 모델은 세 가지 대표적인 블록 코드인 Polar 코드, LDPC 코드, BCH 코드에 대해 기존 모델보다 향상된 성능을 보여주었다.

Ⅱ. 시스템 모델

본 논문에서는 채널 잡음 제거를 통해 Polar 코드, BCH 코드, LDPC 코드의 복호 성능을 더욱 개선하기 위한 오토인코더 구조의 디노이저를 제안한다. 이때 채널 잡음 제거 및 메시지 복호를 위한 전체 시스템 모델은 그림1과 같다. 시스템 모델의 송신기 입력은 메시지 비트 [TeX:] $$u_A$$이다. 각 채널 코드에 따른 부호화를 진행하여 코드워드 [TeX:] $$x_1^N$$이 출력 된다. 이후 [TeX:] $$x_1^N$$에 Binary Phase Shift Keying(BPSK) 변조를 적용하여 신호 [TeX:] $$s_1^N$$이 생성되고, [TeX:] $$s_1^N$$은 채널을 통과하여 수신기에 전달된다. 수신기에 전달된 [TeX:] $$y_1^N$$은 디노이저의 입력이 된다. 디노이저는 [TeX:] $$y_1^N$$에서 채널 잡음을 제거하여 잡음이 제거된 신호 [TeX:] $$\hat{s}_1^N$$을 복호기에 전달한다. 복호기는 복호화를 수행하여 최종적으로 메시지 비트 [TeX:] $$\hat{u}_A$$을 출력한다. 제안 모델은 디노이저와 복호기를 동시에 학습시키기 위해 멀티 태스크 러닝 방법을 사용한다.

그림(Fig.) 1.

오토인코더 기반 디노이저가 적용된 제안 시스템 모델 (Proposed system model with autoencoder-based denoiser)

Ⅲ. 제안 모델

그림 2는 제안된 모델의 디노이저 구조이다. 디노이저는 5개의 선형 레이어로 구성되며 데이터를 압축하는 오토인코더의 인코더(AE Encoder) 부분과 압축한 데이터를 복구하는 오토인코더의 디코더(AE Decoder) 부분으로 나누어진다. 이러한 구조로부터 데이터가 압축되고 다시 복구되는 과정에서 고유한 특성에 해당하지 않는 채널 잡음이 제거되는 효과를 얻을 수 있다. AE Encoder의 노드 수는 각 채널 코드의 코드워드 길이인 N에서 256으로 변경된 후 128, 32개로 줄어들며, 이후 AE Decoder의 노드 수는 32에서 128, 256개로 늘어났다가 N으로 다시 변경된다. 각 레이어의 활성 함수는 모두 Rectified Linear Unit(ReLU)를 사용하였다.

그림(Fig.) 2.

제안된 모델의 디노이저 구조 (Structure of the denoiser for the proposed model)

기존 연구에서 제시한 디노이저의 구조는 3개의 선형 레이어와 잔차 연결로 구성된다. 기존 모델의 디노이저 입력 노드는 코드워드 길이 이며 이후 노드 수가 128, 64, 32인 선형 레이어를 거쳐 최종 출력은 코드워드 길이 N이 된다. 이때 입력과 출력 사이에 잔차 연결을 적용하며, 각 레이어의 활성 함수는 모두 ReLU를 사용한다.

제안된 모델의 복호기의 구조는 그림 3과 같이 3개의 선형 레이어로 구성된다. 복호기의 입력 노드 수는 코드워드 길이 N이고, 각 레이어의 노드 수는 128개, 64개, 32개로 구성되며, 최종 출력으로는 메시지 비트 길이인 K가 출력된다. 이때 각 레이어의 활성 함수는 모두 ReLU를 사용한다. 기존 모델의 복호기는 제안 모델의 복호기와 동일하다.

그림(Fig.) 3.

제안된 모델의 복호기 구조 (Structure of the decoder for the proposed model)

디노이저의 목표는 디노이저의 출력 [TeX:] $$\hat{s}_1^N$$과 변조 심볼 [TeX:] $$s_1^N$$ 간의 차이를 최소화하는 것이다. 따라서 [TeX:] $$s_1^N \text{ 과 } \hat{s}_1^N$$ 사이의 차이를 측정하기 위해 평균 제곱 오차(Mean Squared Error, MSE) 손실 함수를 사용하며, 복호기도 동일한 손실 함수를 사용한다. 디노이저와 복호기를 동시에 훈련시키기 위해서 멀티 태스크 러닝 전략을 채택했으며, 디노이저의 손실 함수와 복호기의 손실 함수를 합산하는 방식으로 수행된다. 멀티 태스크 러닝 전략은 아래와 같이 공식화할 수 있다.

여기서 λ는 가중치를 나타내고, 조정 가능한 하이퍼 파라미터이다. 논문에서는 λ=1로 고정하였다.

Ⅳ. 실험 결과

모든 실험은 소프트웨어상에서 수행되었으며, Python 3.10.13 및 PyTorch 2.1.2를 사용하고 캐글 (Kaggle)에서 제공하는 단일 NVIDIA T4 Tensor Core GPU를 통해 수행되었다. 제안 모델의 성능을 평가하기 위해 가우시안 채널과 레일리 페이딩 채널에서 실험을 진행하였다. 가우시안 채널에서 훈련은 신호 대 잡음비 (Signal-to-Noise Ratio, SNR) 3dB에서 진행하였으며, [TeX:] $$10^6$$개의 테스트 샘플에 대해 SNR 0dB부터 SNR 7dB까지의 SNR 영역에서 복호 성능을 살펴보았다. 다음으로 레일리 페이딩 채널에서 훈련은 SNR 7dB에서 진행하였으며, [TeX:] $$10^6$$개의 테스트 샘플에 대해 SNR 0dB부터 SNR 14dB까지의 SNR 영역에 대한 복호 성능을 살펴보았다. 또한, 제안 모델과의 비교를 위해 기존 연구^[14,15]에서 제시한 모델 구조를 사용해 가정한 모든 채널 환경 및 채널 코드에 대해 동일한 실험을 진행하였다. 실험에 사용한 채널 코드는 코드워드 길이가 32이고 메시지 비트 길이가 10인 Polar 코드, 코드워드 길이가 20이고 메시지 비트 길이가 10인 LDPC 코드, 코드워드 길이가 15이고 메시지 비트 길이가 11인 BCH 코드이다.

멀티 태스크 학습 과정에서 디노이저와 복호기는 동시에 학습되며, 이때 각각의 디노이저, 복호기, 멀티 태스크의 손실 값을 확인할 수 있다. 그림 4는 Polar 코드의 학습 과정에서 기존 모델과 제안 모델의 디노이저, 복호기, 멀티 태스크 손실 값을 전체 에포크(epoch) [TeX:] $$2^{16}$$에 대해 200 간격으로 나타낸 결과이다. 이때 멀티 태스크 손실은 디노이저의 손실과 복호기 손실의 합으로 계산된다.

그림 4에서 제안 모델과 기존 모델을 비교해보면 제안 모델의 디노이저 소실은 기존 모델의 디노이저 손실에 비해 매우 낮지만, 복호기에 경우 제안 모델의 복호기와 기존 모델의 복호기 손실 값이 비슷한 것을 확인할 수 있다. 이를 통해 본 논문에서 제시한 오토인코더 기반의 제안 모델 디노이저가 다층 퍼셉트론 기반의 기존 모델 디노이저보다 잡음 제거에 더 효과적임을 확인할 수 있다.

그림(Fig.) 4.

가우시안 채널에서 Polar(32,10) 코드에 대한 제안 모델과 기존 모델의 훈련 손실 (Training loss of the proposed model and the reference model for Polar(32, 10) code in AWGN channel)

다음으로 기존 모델과 제안 모델의 데이터 복구 성능을 평가하기 위해 블록 오류율(Block Error Rate, BLER)를 사용하였다. BLER은 전체 수신 데이터 블록 중 복호 과정에서 올바르게 복구되지 않는 블록의 비율을 나타내며 다음과 같이 정의된다.

여기서 오류 블록 수는 오류 비트가 적어도 하나 포함된 블록의 수이다.

Polar 코드, LDPC 코드, BCH 코드 각각에 대하여 기존 모델과 제안 모델의 가우시안 채널에서 BLER 성능 평가를 진행한 결과는 그림 5, 6, 7에 나타내었다. 실험에 사용한 모든 채널 코드에 대해 제안 모델은 SNR 0dB부터 SNR 7dB까지의 SNR 영역에서 기존 모델보다 우수한 성능을 보이는 것을 확인할 수 있었다. 또한 제안 모델은 실험에 사용한 코드들 중 상대적으로 부호율이 낮고 코드워드 길이가 긴 Polar 코드와 LDPC 코드의 경우 더 큰 폭의 성능 향상을 보여주었다.

레일리 페이딩 채널에서도 Polar 코드에 대해 멀티 태스크 러닝을 통한 모델 훈련 과정에서 기존 모델과 제안 모델의 디노이저, 복호기, 멀티 태스크 손실 값을 에포크 200마다 살펴보았다. 결과는 그림 8과 같다.

그림(Fig.) 5.

가우시안 채널에서 Polar(32,10) 코드를 위한 기존 모델과 제안 모델의 블록 오류율 비교 (Comparison of BLER between the reference model and the proposed model for Polar(32,10) code in AWGN channel)

그림(Fig.) 6.

가우시안 채널에서 LDPC(20,10) 코드를 위한 기존 모델과 제안 모델의 블록 오류율 비교 (Comparison of BLER between the reference model and the proposed model for Polar(32,10) code in AWGN channel)

그림(Fig.) 7.

가우시안 채널에서 BCH(15,11) 코드를 위한 기존 모델과 제안 모델의 블록 오류율 비교 (Comparison of BLER between the reference model and the proposed model for BCH(15,11) code in AWGN channel)

그림(Fig.) 8.

레일리 페이딩 채널에서 Polar(32, 10)에 대한 제안 모델과 기존 모델의 훈련 손실 (Training loss of the proposed model and the reference model for Polar(32, 10) in Rayleigh fading channel)

그림 8에서 제안 모델과 기존 모델의 비교를 통해 제안 모델의 디노이저 손실이 기존 모델의 디노이저 손실에 비해 현저히 낮은 것을 관찰할 수 있고, 기존 모델의 복호기와 제안 모델의 복호기 손실은 비슷한 것을 확인할 수 있다. 이러한 결과를 통해 우리는 오토인코더 구조의 제안 디노이저가 더 열악한 채널 환경인 레일리 페이딩 채널에서도 기존의 다층 퍼셉트론 구조의 디노이저보다 잡음 제거에 효과적이고 적합한 구조임을 확인할 수 있다.

Polar 코드, LDPC 코드, BCH 코드 각각에 대하여 기존 모델과 제안 모델의 레일리 채널에서 BLER 성능 평가를 진행한 결과는 그림 9, 10, 11에 표현되어 있다. 실험에 사용한 모든 채널 코드에 대해 제안 모델은 SNR 0dB부터 SNR 14dB까지의 모든 SNR 영역에서 기존 모델보다 우수한 성능을 보임을 확인할 수 있다. 또한 가우시안 채널과 마찬가지로 레일리 페이딩 채널에서도 실험에 사용한 코드 중 상대적으로 부호율이 낮고 코드워드 길이가 긴 Polar 코드와 LDPC 코드에서 더 높은 성능을 보였다.

그림(Fig.) 9.

레일리 페이딩 채널에서 Polar(32,10) 코드를 위한 기존 모델과 제안 모델의 블록 오류율 비교 (Comparison of BLER between the reference model and the proposed model for Polar(32,10) code in Rayleigh fading channel)

그림(Fig.) 10.

레일리 페이딩 채널에서 LDPC(20,10) 코드를 위한 기존 모델과 제안 모델의 블록 오류율 비교 (Comparison of BLER between the reference model and the proposed model for LDPC(20,10) code in Rayleigh fading channel)

그림(Fig.) 11.

레일리 페이딩 채널에서 BCH(15,11) 코드를 위한 기존 모델과 제안 모델의 블록 오류율 비교 (Comparison of BLER between the reference model and the proposed model for BCH(15,11) code in Rayleigh fading channel)

제안 모델은 실험에서 사용한 모든 채널 환경 및 채널 코드에 대해 기존 모델보다 우수한 성능을 보였다. 특히 코드워드가 길고 부호율이 낮을수록 성능 차이가 크게 나타남을 확인했다. 이러한 실험 결과를 통해 기존 다층 퍼셉트론 구조의 디노이저보다 제안한 디노이저의 오토인코더 구조가 다양한 채널 환경과 채널 코드에 강건하며 채널 잡음 제거에 매우 효과적임을 알 수 있다.

Ⅴ. 결 론

본 논문에서는 대표적인 블록 코드인 Polar 코드, LDPC 코드, BCH 코드의 복호 성능을 개선하기 위한 채널 디노이저를 제안하였다. 제안 모델은 새롭게 설계된 오토인코더 구조의 디노이저를 통해 채널 잡음을 효과적으로 제거한 뒤 잡음이 제거된 신호를 복호기에 전달함으로써 최종 복호 성능을 크게 향상시켰다.

가우시안 채널과 레일리 페이딩 채널 환경에서 기존 모델과 성능 비교 실험을 통해 제안 모델이 열악한 채널 환경에서도 탁월한 성능을 보이며 채널 환경이 좋을수록 기존 모델과의 성능 격차가 크게 벌어짐을 확인할 수 있었다.

이러한 결과를 바탕으로, 블록 코드뿐만 아니라 컨볼루셔널 코드 계열의 채널 코드를 위한 새로운 신경망 기반 디노이저를 설계할 수 있고, 실측 데이터를 활용하여 제안 모델을 학습시킨다면 실제 무선 통신 시스템에서 효과적으로 사용될 수 있을 것으로 기대된다.