Ⅰ. 서 론

최근 몇 년간 기술의 발전에 따라 통신시스템에서 전송되는 데이터의 양이 급격하게 증가하며, 최고 속도 1T bps의 데이터 전송률을 가지는 6G 표준에 관한 연구가 활발히 진행되고 있다. 하지만 통신시스템의 데이터 전송 과정에서 발생하는 잡음은 필연적으로 오류를 발생시키기 때문에 이를 해결하기 위한 오류정정부호가 개발되고 있다. 이러한 오류정정부호 중에서도 터보 부호(turbo code)^[1], BCH 부호(BCH code)^[2-4], 길쌈 부호(convolutional code)^[5] 등 많은 오류정정부호가 고안되었으며, 현재는 저밀도 패리티 검사(low-density parity-check, LDPC)^[6] 부호가 우수한 오류정정 능력을 인정받아 터보 부호와 함께 통신 표준뿐만 아닌 많은 애플리케이션에 사용되고 있다^[7].

저밀도 패리티 검사 부호는 1960년대 Gallager에 의해 처음 제안되었지만, 당시 하드웨어 기술은 진공관에서 트랜지스터로 교체되는 상황이었기 때문에 저밀도 패리티 검사부호는 널리 활용되지 못하였다. 이에 저밀도 패리티 검사 부호 외에 터보 부호, 길쌈 부호 등이 주로 사용되다가 2000년대 기술의 발전으로 인해 병렬처리가 가능해지면서 저밀도 패리티 검사 부호가 사용되기 시작하였다. 저밀도 패리티검사 부호는 타 오류정정부호들에 비해 우수한 복호화 성능을 보이며 이론적으로 샤논 한계(Shannon limit)에 접근하는 성능을 지녀 각광받게 되었다. 일례로 가산성 가우시안 백색잡음(additive white Gaussian noise, AWGN) 채널에서 샤논의 한계에 0.0045dB밖에 차이 나지 않는 차수 분포(degree distribution)를 가지는 저밀도 패리티 검사 부호가 발견되었다^[8]. 또한 저밀도 패리티 검사 부호는 샤논 한계에 근접할 뿐만 아니라 고속 연산, 좋은 비트 및 프레임 오류율(bit/frame error rate, BER/FER), 낮은 복호 복잡도의 장점이 있으며 5G New Radio (NR)를 비롯한 다양한 통신환경과 solid state drive (SSD) 같은 저장매체에서도 활용되고 있다.

비균일(non-uniform) 채널에서는 한 부호 내에서 전송되는 비트들이 서로 다른 채널 상황을 겪으며 이는 많은 애플리케이션에서 고려되는 모델이다. 특히 다중 입력 다중 출력(multi-input multi-output, MIMO) 시스템에서 이산 멀티톤(discrete multi tone, DMT) 및 직교 주파수 분할 다중화(orthogonal frequency division multiplexing, OFDM) 상황에 대응되며 이때 신호가 서로 다른 채널을 통과하며 서로 다른 잡음 정도를 지니게된다.

보통 이론적 성능이나 모의실험을 진행할 때의 통신 환경은 이진 소실 채널(binary erasure channel, BEC)과 AWGN 채널을 가정하지만, 실제 이동통신이나 위성통신에서는 다중경로 페이딩(multipath fading) 환경을 겪게 된다. 다중경로란 신호가 산란, 회절, 반사 등으로 전파 수신의 경로가 여러 개인 경우이며 무선 통신 링크에 영향을 주는 중요한 요인이다. 이러한 상황에서 가시선(line of sight, LOS)이 있는 경우를 라이시안(Rician) 페이딩 채널, 가시선은 존재하지 않으며 비가시선(non-line of sight, NLOS)으로만 이루어진 경우를 레일리(Rayleigh) 페이딩 채널로 흔히 모사한다. 실제 5G 등의 OFDM 기반 이동통신 시스템에서 겪게 되는 페이딩 채널은 각 부반송파(subcarrier)에 걸쳐서 비교적 상관관계인(correlated) 채널 변수를 경험하게 되지만 세계 모바일 통신(global system for mobile communications, GSM) 표준에서 고려하는 야외 채널 모델 중 언덕 지형 상황은 상관관계가 없는 (uncorrelated) 채널과 더 유사함이 알려져 있다^[9].

본 논문에서는 비균일하고 상관관계가 없는 레일리 페이딩 채널에서 프로토그래프 외부 정보 전송 (protograph extrinsic information transfer, PEXIT) 분석 알고리즘^[10,11]을 활용하여 복호 임계값(decoding threshold)을 계산한다. 또한, 차등 진화(differential evolution, DE)^[12] 알고리즘을 사용하여 프로토그래프 기반 저밀도 패리티 검사 부호를 설계한다. 나아가 AWGN 채널과 비균일 레일리 페이딩 채널에서 다양한 부호율(code rate)에 대하여 프로토그래프를 설계하고 성능을 비교 분석한다. 레일리 페이딩 채널에서 레일리 페이딩 계수(fading factor)가 하나의 값으로 고정되면 신호의 크기가 증폭/감쇠된 AWGN 채널로 해석할 수 있기 때문에 복호 임계값은 AWGN 채널에서의 PEXIT 분석 과정 중 상호 정보 계산을 페이딩 계수의 수만큼 여러 번 수행하고 평균 냄으로써 계산할 수 있다^[11]. 하지만 레일리 페이딩 채널을 정확히 모사하기 위해 다수의 페이딩 계수를 활용할 경우 차등 진화 알고리즘을 통한 프로토그래프 최적화에는 계산 복잡도의 측면에서 활용이불가능하다. 따라서본 논문에서는 적은수의 페이딩 계수를 활용하여 최적화하되 차등 진화 알고리즘의 마지막 단계에서 다수의 페이딩 계수를 활용하는 경량화된 최적화 알고리즘을 제안한다. 또한 일반적으로 균일(uniform) AWGN 채널에서 최적화된 프로토그래프들이 균일 레일리 페이딩 채널에서도 우수한 복호 임계값을 보이지만 비균일 레일리 페이딩 채널에서는 그렇지 않으며 이로부터 제안하는 최적화 알고리즘이 비균일 레일리 페이딩 채널에서 효과적임을 보인다.

본 논문은 다음과 같이 구성된다. Ⅱ장에서는 프로토그래프에 대한 정의와 비균일 레일리 페이딩 채널의 시스템 모델을 제시하고, PEXIT 분석 알고리즘을 소개한다. Ⅲ장에서는 최적화 과정에 활용할 PEXIT 분석 알고리즘에 적합한 페이딩 계수의 수를 분석한다. 이를 활용하여 경량화된 최적화 기법인 차등 진화 알고리즘을 새롭게 제안하고 다양한 부호율에서 최적화된 프로토그래프를 얻는다. Ⅳ장에서는 다양한 부호율에 대해 균일 AWGN 채널과 비균일 레일리 페이딩 채널에서 최적화된 부호들을 AWGN 채널과 서로 다른 레일리 분포를 가지는 비균일 레일리 페이딩 채널에서 FER 성능을 비교한다. 마지막으로 Ⅴ장에서는 본 논문의 결론을 내린다.

Ⅱ. 배경 이론

2.1 시스템 모델

본 논문은 그림 1과 같은 시스템 모델을 사용한다. 그림과 같이 처음에는 정보 비트들(information bits)이 저밀도 패리티 검사 부호의 부호기(encoder)를 통과하고 부호화된 이진 비트들 [TeX:] $$v_j \in\{0,1\}(j=1,2, \ldots)$$은 이진 위상 천이(binary phase shift keying, BPSK) 변조기를 통과하여 [TeX:] $$x_j=(-1)^{v_j} \in\{+1,-1\}$$의 출력값을 가진다. 전체 길이 N을 가지는 변조된 신호는 상관관계가 없는 평평한(uncorrelated flat) L개의 레일리 페이딩 채널을 통과하고 이때 N/L개의 한 블록 내 비트들은 서로 독립적이고 같은 확률분포(independent and identically distributed, iid)의 레일리 페이딩을 겪으며, 각 블록은 [TeX:] $$\mathbb{E}\left[\alpha_j^2\right]=h_l(l=1,2, \ldots, L)$$을 만족하는 서로 다른 레일리 페이딩 분포를 가진다. 예시로 [TeX:] $$v_1$$부터 [TeX:] $$v_{\frac{N}{L}}$$까지의 N/L개 이진 비트들은 l=1인 블록에 속하며 모두 [TeX:] $$\mathbb{E}\left[\alpha_j^2\right]=h_1$$으로 동일한 레일리 페이딩 분포를 겪으나 각 비트들은 독립적으로 페이딩 계수를 가진다. 여기서 [TeX:] $$\mathbb{E}[\cdot]$$은 기댓값(expectation) 연산을 뜻한다.

그림(Fig.) 1.

저밀도 패리티 검사 부호를 사용한 비균일 레일리 페이딩 채널의 시스템 모델(System model of non-uniform Rayleigh fading channels with LDPC codes)

채널을 통과한 출력값 [TeX:] $$y_j$$에 대하여

로 나타낼 수 있으며, 정규화된(normalized) 레일리 페이딩 계수 [TeX:] $$\alpha_j$$는 비트마다 다르고 에르고딕성(ergodicity)을 지닌다. [TeX:] $$n_j$$는 평균이 0이고, 분산 [TeX:] $$\sigma^2=N_0 / 2$$를 가지는 가우시안 잡음이며 [TeX:] $$n_j \sim N\left(0, \sigma^2\right)$$으로 나타낼 수 있다. 여기서 [TeX:] $$N_0$$는 잡음 전력 스펙트럼 밀도를 뜻한다. 수신된 신호 [TeX:] $$y_i$$는 복조기 (demodulator)를 거친 후 연판정(soft decision) 복호기(decoder)를 통해 복호화된다. 여기서 연판정 복호기는 합-곱(sum-product) 알고리즘으로 구현한다. 일반적으로 수신단 안테나는 2개 이상의 다수로 구성될 수 있으며 수신 신호들은 maximum-ratio-combining (MRC) 또는 equal-gain -combining (EGC) 결합기(combiner)를 통해 결합된다^[11,13]. 수신단 안테나 수와 블록 수 L은 일반적으로 다양한 값을 가질 수 있지만 단일 수신단 안테나와 L=2에서의 부호 설계 방법이 일반적인 상황에서의 부호 설계 방법으로 쉽게 확장될 수 있다. 따라서 본 논문에서는 단일 수신단 안테나와 L=2인 비균일 레일리 페이딩 채널을 가정한다.

2.2 프로토그래프

프로토그래프 G=(V, C, E)로 나타내며 변수(variable) 노드(node)들의 집합 V , 검사(check) 노드들의 집합 C , 엣지(edge)들의 집합 E로 정의한다. 엣지 [TeX:] $$c_{i, j} \in \mathrm{E}$$는 j번째 변수 노드 [TeX:] $$v_j \in \mathrm{V}$$와 i번째 검사 노드 [TeX:] $$c_i \in \mathrm{C}$$의 연결 상태를 나타내며, 이는 반드시 1대 1 대응될 필요는 없다. 변수 노드의 수를 n, 검사 노드의 수를 m이라 할 때 프로토그래프의 기본 그래프 단위인 기본 행렬(base matrix) B는 m × n 크기를 가지며 요소 [TeX:] $$b_{i, j}$$는 [TeX:] $$v_j$$와 [TeX:] $$c_i$$사이에 연결된 엣지 수를 나타낸다. 프로토그래프는 ‘복사-순열(copy-and-permutation)’ 작업을 통해 더 큰 프로토그래프로 확장(lifting) 시킬 수 있고 이때 확장 계수(lifting factor)를 조절하여 원하는 부호 길이를 달성할 수 있다. 프로토그래프 기반 저밀도 패리티 검사 부호는 PEXIT 분석을 통해 복호 임계값을 구한다.

2.3 PEXIT 분석 알고리즘

과거 저밀도 패리티 검사 부호 설계에는 밀도 진화(density evolution)^[14] 또는 이에 파생되는 기술 중 하나인 외부 정보 전송 차트(EXIT chart)^[15]를 사용하여 반복 복호기의 복호 수렴 분석을 하였다. 하지만 밀도 진화의 경우 계산 복잡성, EXIT 차트의 경우에는 프로토그래프 기반 저밀도 패리티 검사 부호에서 복호 임계값 예측 불일치 문제가 있었다. 이를 해결하기 위해 PEXIT 분석 알고리즘^[10]이 제안되었으며 PEXIT 분석 알고리즘을 활용하여 에르고딕 나카가미(ergodic Nakagami) 페이딩 채널, 가우시안 다중 접근 채널(Gaussian multiple access channel, GMAC) 등 다양한 채널에서 저밀도 패리티 검사 부호 설계가 연구되어왔다^[13,16-19].

대표적으로 AWGN 채널과 균일 페이딩 채널에 대한 PEXIT 분석 알고리즘이 선행 연구들에서 소개되었다^[10,11]. 본 절에서는 이를 토대로 비균일 레일리 페이딩 채널에 대한 PEXIT 분석 알고리즘을 소개한다. 우선 all-zero 부호어(codeword)가 전송된다고 가정하면 j번째 비트의 초기 채널 로그 우도비(log-likelihood ratio, LLR)는 다음과 같이 표현할 수 있다.

여기서 [TeX:] $$n_j \sim N\left(0, \sigma^2\right)$$ 이므로

가 되고 식 (2), (3)을 따라 LLR의 가우시안 분포는

와 같이 표현할 수 있다.

다음으로 상호 정보(mutual information, MI)의 5가지 종류에 대해 정의한다.

1) [TeX:] $$I_{E v}(i, j)$$는 [TeX:] $$v_j$$에서 [TeX:] $$c_i$$로 보내는 외부 상호 정보 값.

2) [TeX:] $$I_{A v}(i, j)$$는 [TeX:] $$v_j$$에 연결된 [TeX:] $$c_i$$들로부터 얻는 사전 상호 정보 값.

3) [TeX:] $$I_{E c}(i, j)$$는 [TeX:] $$c_i$$에서 [TeX:] $$v_j$$로 보내는 외부 상호 정보 값.

4) [TeX:] $$I_{A c}(i, j)$$는 [TeX:] $$c_i$$에 연결된 [TeX:] $$v_j$$들로부터 얻는 사전 상호 정보 값.

5) [TeX:] $$I_{\mathrm{app}}(j)$$는 [TeX:] $$v_j$$의 사후 상호 정보 값.

또한, j번째 비트의 LLR이 [TeX:] $$\mathrm{LLR}_j \sim N\left(\frac{\sigma_j^2}{2}, \sigma_j^2\right)$$을 따를 때, 가우스 근사(Gaussian approximation)와 역 채널 근사(reciprocal channel approximation)를 활용하여 상호 정보 값을 구하는 J 함수는 다음과 같이 표현될 수 있다^[20].

식 (5)의 역함수는 다음과 같이 표현된다^[20].

이때 [TeX:] $$a_1=1.09542, a_2=-0.706692, b_1=0.214217, b_2=0.386013, c_1=2.33737, c_2=1.75017$$이다.

여기서 비균일 레일리 페이딩 채널에서의 PEXIT 분석 알고리즘은 알고리즘 1로 표현된다. R=(n-m)/n의 부호율을 가지는 m × n 크기 기본 행렬 [TeX:] $$\mathrm{B}_{\mathrm{m} \times \mathrm{n}}$$이 주어졌다고 할 때, 각 변수 노드마다 K개의 레일리 페이딩 계수를 저장한다. 앞에서 설명하였듯이 [TeX:] $$\alpha_j$$가 하나의 값으로 고정이 되었을 때는 AWGN 채널의 PEXIT 분석 알고리즘^[10]과 유사하게 진행할 수 있지만 [TeX:] $$\alpha_j$$는 레일리 분포를 따르는 확률변수이므로 확률분포에 따라 개의 페이딩 계수를 추출하여 레일리 페이딩 채널을 모사한다. 또한 앞서 설명한 바와 같이 본 논문에서는 L=2의 비균일 레일리 페이딩 채널을 가정한다. j번째 비트에 존재하는 [TeX:] $$k \in\{1,2, \ldots, K\}$$번째 페이딩계수 [TeX:] $$\alpha_{j, k}$$는 k에 따라 iid 하며 1부터 n/2까지의 각 변수 노드에는 [TeX:] $$\mathbb{E}\left[\alpha_{j, k}^2\right]=h_1$$을 만족하는 레일리 분포에 따른 K개의 페이딩 계수가 존재하고, n/2+1부터 n까지의 각 변수 노드에는 [TeX:] $$\mathbb{E}\left[\alpha_{j, k}^2\right]=h_2$$를 만족하는 레일리 분포에 따른 K개의 페이딩 계수가 존재한다.

알고리즘(Algorithm) 1

비균일 레일리 페이딩 채널에서 PEXIT 분석 알고리즘(PEXIT algorithm over non-uniform Rayleigh fading channels)

PEXIT 분석 알고리즘의 각 단계는 다음과 같으며 충분히 작은 를 활용한다.

1) 라인 1: 초기 채널 상호 정보를 구하기 위해 [TeX:] $$\alpha_{j, k}$$에 대응되는 [TeX:] $$\sigma_{j, k}$$를 사용해야 한다. [TeX:] $$\sigma_{j, k}^2=4 \alpha_{j, k}^2 / \sigma^2$$의 관계식을 가지므로 [TeX:] $$E_b / N_0=1 / 2 R \sigma^2$$을 활용하여 식 (7)을 만들 수 있다. 생성된 [TeX:] $$\sigma_{j, k}$$와 식 (5)를 통해 총 K개의 j번째 비트 상호 정보 값을 계산할 수 있다.

2) 라인 2-10: 중간 단계의 상호 정보의 연산 과정이다. t는 반복 수를 뜻하며, variable to check update, check to variable update, a posteriori probability (APP)-LLR mutual information evaluation의 순으로 모두 진행하며 최대 반복 수 [TeX:] $$T_{\max }$$까지 반복한다.

3) 라인 5: 각 변수 노드마다 K개의 페이딩 계수가 존재하며, n × K개의 [TeX:] $$I_{E v, k}$$를 생성한다. [TeX:] $$I_{E v}$$는 해당 변수 노드에 존재하는 K개의 [TeX:] $$I_{E v, k}$$를 평균 내서 구하고 이는 variable to check update의 외부 상호 정보이다. 반복 수 t가 1일 때는 검사 노드로부터 받는 사전 정보 값 [TeX:] $$I_{A v}\left(I_{A v}=I_{E c}\right)$$가 존재하지 않으므로 라인 1에서 구한 초기 채널 상호 정보 값을 대응 시켜 [TeX:] $$I_{E v, k}$$으로 사용한다.

4) 라인 6: 검사 노드 입장에서는 평균 낸 [TeX:] $$I_{E v}\left(I_{A c}=I_{E v}\right)$$가 들어오므로 라인 5와 같이 평균 낼 필요가 없으며, 식 (10)에 따라 check to variable update 의 외부 상호 정보인 [TeX:] $$I_{E c}$$를 구할 수 있다.

5) 라인 7: 해당 변수 노드에 연결되어있는 모든 엣지들로부터 사전 상호 정보인 [TeX:] $$I_{A v}$$값을 받고 식 (11), (12)로부터 사후 상호 정보 값인 [TeX:] $$I_{\mathrm{app}}$$를 계산한다.

6) 라인 8-11: 모든 j에 대해 [TeX:] $$I_{\mathrm{app}}$$값이 1에 수렴한다면 이는 더 열악한 채널 환경에서도 정상적으로 동작 할 가능성이 있음을 의미한다. 그러므로 [TeX:] $$\sigma^2$$을 증가시키고 라인 1로 돌아간다. 만일 반복 수가 최대 반복 수에 도달했을 때 모든 j에 대해 [TeX:] $$I_{\mathrm{app}}$$값이 1에 수렴하지 못한다면 반복을 멈추고 직전의 성공한 값을 복호 임계값으로 판단한다. 출력 [TeX:] $$\left(E_b / N_0\right)^*$$은 해당 프로토그래프의 복호 임계값이며, 단위는 데시벨이다.

알고리즘 1에서 정확한 복호 임계값 산출을 위해서는 다수의 페이딩 계수가 필요하다. 그렇지 않을 경우 딥 페이딩(deep fading)으로 인해 신뢰할 수 있는 복호 임계값을 구할 수 없다. 이러한 이유로 본 논문에서는 비균일 레일리 페이딩 채널에서 정확한 복호 임계값을 구할 때 [TeX:] $$K=10^5$$을 사용하였다.

Ⅲ. 최적화 기법

3.1 페이딩 계수의 수 K에 따른 복호 임계값

확률 모델에서 임의의 확률분포를 따르는 확률변수의 수가 많을수록 해당 확률분포를 잘 표현하므로 레일리 페이딩 채널에서는 다수의 페이딩 계수를 활용하여 레일리 페이딩 분포를 모사한다. 이러한 이유로 Ⅱ-3절에서 언급한 바와 같이 정확한 복호 임계값 산출을 위해서는 [TeX:] $$K=10^5$$개의 페이딩 계수를 활용한다. 다수의 페이딩 계수는 식 (7), (9), (12)에서 활용되는데, AWGN 채널에서의 PEXIT 분석 알고리즘^[10]과 비교하면 대응되는 과정에서 배 만큼의 연산을 추가로 수행하므로 계산 복잡도가 상대적으로 높지만 소수의 프로토그래프에 대해 복호 임계값을 산출하는 것에서는 문제 되지않는다. 하지만 부호 최적화 과정에서는 다수의 프로토그래프에 대한 복호 임계값 산출이 필요하므로 최적화 과정에서 다수의 페이딩 계수를 활용하는 것은 불가능하다.

따라서 프로토그래프 설계를 위해 차등 진화 알고리즘을 활용할 때 알고리즘 1을 사용하기 위해서는 복호 임계값 정확도와 계산 복잡도를 고려하여 적절한 페이딩 계수의 수를 선택해야 한다. 적절한 페이딩 계수의 수를 결정하기 위해 식 (13)과 같은 기본 행렬에 대해 [TeX:] $$\mathbb{E}\left[\alpha_{j, k}^2\right]=1$$인 균일 레일리 페이딩 채널에서 다양한 K값에 따라 복호 임계값을 측정한다.

(13)은 AWGN 채널에서 차등 진화 알고리즘을 활용하여 최적화된 4 × 8크기의 기본 행렬이다.

표 1은 위의 균일 레일리 페이딩 채널에서 (13)에대해 페이딩 계수의 수에 따른 복호 임계값의 최댓값, 최솟값, 평균, 표준편차를 나타낸다.

하나의 프로토그래프에 대해 별개의 [TeX:] $$\alpha_{j, k}$$ 집합을 활용하여 총 1000번을 수행한 결과이며, 그림 2는 표 1을 그래프로 표현한 것이다. 표 1의 평균 임계값을보면 K=100과 K=500에서 0.04dB만큼 차이난다. 다시, K=500과 [TeX:] $$K=10^3$$은 0.014dB 만큼 차이나고 [TeX:] $$K=10^3$$과 [TeX:] $$K=10^5$$은 0.005dB 밖에 차이나지 않는다. 이는 [TeX:] $$K=10^3$$을 활용하더라도 주어진 레일리 분포를 어느정도잘 모사함을 보인다. 또한 [TeX:] $$10^3 \text { 과 } 10^5$$은 100배 차이로 그에 근사한 배율만큼 계산 복잡도에서 이득을 본다. 하지만 최댓값, 최솟값 모두 평균값 대비 0.2dB씩 차이나는 [TeX:] $$K=10^3$$과 달리 [TeX:] $$K=10^5$$에서는 0.02dB씩 밖에 차이나지 않고 표준편차 또한 가장 낮아 정확한 복호 임계값 산출 시 [TeX:] $$K=10^3$$보다 유리하다. 따라서 계산 복잡도에서 이득을 보면서 정확한 복호 임계값을 산출하기 위해서는 페이딩 계수의 수를 상황에 맞게 활용해야 한다. 이에 본 논문에서는 Ⅲ-2절 차등 진화 알고리즘에서 최적화를 진행하는 단계에서는 다수의 프로토그래프에 대해 복호 임계값을 산출하므로 [TeX:] $$K=10^3$$으로 사용하고, 최종단계에서는 가장 우수한 복호 임계값을 가진 프로토그래프를 추출하기 위해 정확한 복호 임계값을 산출할 수 있는 [TeX:] $$K=10^5$$을 사용한다.

그림(Fig.) 2.

페이딩 계수의 수에 따른 기본 행렬 (13)에 대한 복호 임계값 정확도(Exactness of the decoding thresholds for the base matrix (13) according to the number of fading factors)

3.2 차등 진화

부호를 최적화한다는 것은 복호 임계값을 샤논의 한계에 근접하게만드는 것이다. 하지만 우수한 복호 임계값이 항상 좋은 성능을 보장하지는 않아서 복호 임계값 외에 다른 조건들을 고려하여 부호를 설계해야 한다. 예를 들어, 오류 마루(error-floor) 현상을 완화하기 위해 프로토그래프에서 연결 차수가 2인 변수 노드의 수는 전체 검사 노드의 수보다 적게 설정하여 최소거리 선형 증가를 보장^[21]해야 하며 확장 계수를 충분히 크게 설정해야 한다.

본 논문에서는 프로토그래프 기반 저밀도 패리티 검사 부호 최적화를 위해 가장 우수한 복호 임계값을 추적하는 차등 진화 알고리즘^[12]을 사용하며, Ⅱ-3절에서 설명한 비균일 레일리 페이딩 채널의 복호 임계값을 비용 함수로 사용한다. 또한 이중 지수 하락(double exponential fall) 특성과 최소거리 선형 증가 특성을 만족하기 위해 연결 차수가 2인 변수 노드로만 이루어진 루프(loop)가 없도록 설계한다. 더불어 연결 차수가 0과 1인 변수, 검사 노드를 없게 하며 해당 조건들을 기본 생성조건 라 부른다. 차등 진화에 사용되는 주 변수들을 다음과 같이 정의한다.

[TeX:] $$\mathbf{B}_{u, g}$$ : g번째 세대의 u번째 후보(candidate) 행렬.

[TeX:] $$g_{\max }$$ : 최대 세대 수.

[TeX:] $$N_p$$ : 후보군의 개수.

[TeX:] $$p_c$$ : 교차 확률.

[TeX:] $$d_{\text {max }}$$ : 행렬 내 엔트리의 최댓값.

[TeX:] $$d_{\text {avg }}$$ : 변수 노드 기준 행렬 내 모든 엔트리 값의 평균.

본 논문에서는 [TeX:] $$g_{\max }=5000$$, [TeX:] $$N_p=100$$, [TeX:] $$p_c=0.88$$, 식 (14)에 활용되는 F=0.5로 설정했으며, [TeX:] $$d_{\text {max }}$$와 [TeX:] $$d_{\text {avg }}$$는 행렬 크기마다 다르게 적용하였고 이는 Ⅲ-4절에서 설명한다. [TeX:] $$N_p=10|\mathrm{C} \| \mathrm{V}|$$로 하는 것이 보편적이나 [TeX:] $$N_p=100$$과 비교했을 때, 임계값 결과가 거의 비슷하여 수렴 속도가 빠른 [TeX:] $$N_p=100$$을 병렬적으로 실행하여 가장 우수한 임계값을 갖는 프로토그래프를 얻었다.

이때 제안하는 차등 진화 알고리즘은 알고리즘 2와 같고 각 단계에 대한 설명은 다음과 같다.

알고리즘(Algorithm) 2

알고리즘 1을 활용한 차등 진화 알고리즘(Differential evolution algorithm using Algorithm 1)

1) 라인 1: m × n 크기를 가지는 0세대 후보 행렬 [TeX:] $$\mathbf{B}_{u, 0}$$를 [TeX:] $$N_p$$개만큼 만들고, [TeX:] $$\mathbf{B}_{u, 0}$$의 모든 엔트리 값은 0과 [TeX:] $$d_{\text {max }}$$ 사이에서 랜덤하게 선택되며 변수 노드 기준 엔트리 값의 평균이 [TeX:] $$d_{\text {avg }}$$보다 작거나 같아야 한다. 만일 해당 행렬이 기본 생성조건 를 충족하지 못한다면 행렬은 재생성된다.

2) 라인 2-8: 라인 4-6의 실행이 완료될 시 g를 1 증가시키며 해당 작업은 g가 [TeX:] $$g_{\max }$$에 도달할 때까지 반복된다.

3) 라인 4: 새로운 후보 행렬을 만들 때 필요한 행렬 [TeX:] $$\mathbf{M}_{u, g}$$을 만드는 과정이다. 식 (14)를 따르며 [TeX:] $$\mathrm{B}_{r_s, g}$$는 [TeX:] $$N_p$$개의 [TeX:] $$\mathbf{B}_{u, g}$$ 중 랜덤하게 선택되고 중복되지 않는다. 행렬 B에 대해 [TeX:] $$[\mathrm{B}]_{i, j}$$는 B의 i행, j열 성분을 의미하고 식 (14)로 얻어진 [TeX:] $$\mathbf{M}_{u, g}$$의 엔트리들은 0과 [TeX:] $$d_{\text {max }}$$ 사이의 가장 가까운 정수값으로 대체된다.

4) 라인 5: 새로운 후보 행렬 [TeX:] $$\mathbf{B}_{u, g}^{\prime}$$를 생성한다. [TeX:] $$p_c$$의 확률로 [TeX:] $$\mathbf{M}_{u, g}$$의 엔트리가 선택된다. [TeX:] $$\mathbf{B}_{u, g}^{\prime}$$의 생성 또한 기본 생성조건 와 [TeX:] $$d_{\text {avg }}$$ 조건을 따른다.

5) 라인 6: u번째 자리에 해당하는 [TeX:] $$\mathbf{B}_{u, g}$$와 라인 4, 5에 의해 만들어진 [TeX:] $$\mathbf{B}_{u, g}^{\prime}$$의 복호 임계값을 비교한다. 복호 임계값 계산은 알고리즘 1을 사용하며, 더 우수한 복호 임계값을 가지는 행렬을 다음 세대의 후보 행렬로 선택하고 해당 세대의 모든 u에 대해 진행한다. 이때 최적화 알고리즘의 경량화를 위해 [TeX:] $$K=10^3$$으로 설정한다.

6) 라인 9: g가 [TeX:] $$g_{\max }$$에 도달했을 때, 가장 우수한 복호 임계값을 가지는 10개의 [TeX:] $$\mathrm{B}_{u, g_{\max }}$$에 대해 페이딩 계수의 수 [TeX:] $$K=10^5$$으로 설정하고 알고리즘 1을 통해 최종 복호 임계값을 산출한다. 그 후 가장 우수한 복호 임계값을 갖는 프로토그래프를 얻는다.

Remark : 경량화한 차등 진화 알고리즘의 초기 페이딩 계수의 수는 [TeX:] $$10^3$$개로 진행하였으며, 라인 9에서 최종적으로 최적화된 프로토그래프를 구할 때는 [TeX:] $$10^5$$개로 진행하였다.

3.3 균일 채널에 대한 최적화

모든 비트에 대해 같은 잡음 분포를 겪는 균일 채널에서 저밀도 패리티 검사 부호에 대한 최적화는 다양한 환경에서 진행되어왔다. 이때 채널 상황이 다르더라도 균일하다면 부호의성능 차이는 크지않으며, 특정 균일 채널에서 우수한 부호는 다른 채널에서도 성능이 우수하다는 선행 연구가 있다^[22.23]. 이러한 성질은 균일 채널의 경우 대리 채널을 활용하여 부호를 최적화할 수 있음을 보여준다.

앞서 언급한 바와 같이 레일리 페이딩 채널은 페이딩 계수가 고정되면 신호 대 잡음비(signal-to-noise ratio, SNR)가 다른 AWGN 채널로 간주할 수 있다. 따라서 균일 레일리 페이딩 채널과 균일 AWGN 채널은 최적화 결과가 상당히 유사할 것임을 예측할 수 있다. 이를 확인하기 위해 AWGN 채널에 최적화된 프로토그래프 20개를 추출하여 AWGN 채널과 균일 레일리 페이딩 채널에서의 복호 임계값을 비교한다. 이때 균일 레일리 페이딩 채널은 [TeX:] $$\mathbb{E}\left[\alpha_{j, k}^2\right]=1$$의 정규화된 페이딩 분포를 따르는 것으로 가정한다. 표 2는 각 채널에서의 복호 임계값 평균과 가장 우수한 복호 임계값을 나타낸다. 해당 프로토그래프들은 AWGN 채널에 최적화되었기 때문에 AWGN 채널에서의 복호 임계값에 대해 평균값과 가장 우수한 값이 큰 차이가 없을 것이라 예상할 수 있고 표 2를 통해서도 0.01dB 밖에 차이나지 않는 것을 확인할 수 있다. 하지만 표 2를 통해 균일 레일리 페이딩 채널에서도 그 차이가 0.02dB로 마찬가지의 현상이 나타남을 확인할 수 있다. 따라서 채널이 균일한 경우 AWGN 채널과 레일리 페이딩 채널은 부호 최적화 관점에서 유사하게 동작함을 확인할 수 있다.

위의 결과로부터 복호 임계값 기준으로 최적화하는것이 균일 AWGN 채널과 레일리 페이딩 채널에서는 차이가 없다고 생각할 수 있는 반면에 비균일 채널은 비트들이 블록마다 서로 다른 잡음 분포를 겪으므로, 균일 채널과 다르게 채널 특성의 영향을 크게 받을 수 있다. 이와 비슷한 상황으로 불균등한 전력 할당으로 정보 비트와 패리티 비트의 전력이 다른 상황에서 프로토그래프 기반 저밀도 패리티 검사 부호를 최적화한 연구가 있다^[19]. 이렇듯 비균일 채널에서는 일반적으로 표2와 같은 결과를 보여주기 어렵다고 예상할 수 있다. 다음 Ⅲ-4절에서는 알고리즘 2로 비균일 레일리 페이딩 채널에서 최적화된 프로토그래프 구조를 보이고 각 채널에 따른 복호 임계값 양상이 표 2와는 다름을 보인다. 이로부터 제안하는 최적화 알고리즘이 비균일 레일리 페이딩 채널에서 효과적임을 증명한다.

3.4 비균일 레일리 페이딩 채널에서의 최적화

L=2인 비균일 레일리 페이딩 채널 하에서 알고리즘 2로 최종프로토그래프를 추출하였으며, [TeX:] $$K=10^5$$ 및 알고리즘 1을 활용하여 복호 임계값을 계산한다. 복호 임계값은 [TeX:] $$E_b / N_0(\mathrm{~dB})$$를 기준으로 하였고 최대 반복 수 [TeX:] $$T_{\max }=400$$이며 기본 행렬 크기에 따라 사용된 [TeX:] $$d_{\text {max }}$$와 [TeX:] $$d_{\text {avg }}$$의 값은 표 3에 기술되어 있다. 본 논문에서는 총 3종류의 채널에서 최적화를 진행하였다: 1) 비교군 으로 사용할 균일 AWGN 채널, 2) [TeX:] $$h_1=1, h_2=2$$인 비균일 레일리 페이딩 채널, 3) [TeX:] $$h_1=3, h_2=2$$인 비균일 레일리 페이딩 채널. 또한 총 4종류의 기본 행렬 크기에 대해 최적화를 진행하였다: 1) 3 × 12, 2) 4 × 12, 3) 4 × 8, 4) 4 × 6.

3.4.1 균일 AWGN 채널에 최적화된 프로토그래프

3 × 12 크기, 부호율 3/4인 최적화된 프로토그래프의 기본 행렬 구조:

4 × 12 크기, 부호율 2/3인 최적화된 프로토그래프의 기본 행렬 구조:

4 × 8 크기, 부호율 1/2인 최적화된 프로토그래프의 기본 행렬 구조:

4 × 6 크기, 부호율 1/3인 최적화된 프로토그래프의 기본 행렬 구조:

3.4.2 [TeX:] $$h_1=1, h_2=2$$인 비균일 레일리 페이딩 채널에 최적화된 프로토그래프

[TeX:] $$h_1=1, h_2=2$$인 비균일 레일리 페이딩 채널을 [TeX:] $$P_1$$ 채널이라 하며 이때 최적화된 프로토그래프를 proposed1로 표현한다.

3 × 12 크기, 부호율 3/4인 최적화된 프로토그래프의 기본 행렬 구조:

4 × 12 크기, 부호율 2/3인 최적화된 프로토그래프의 기본 행렬 구조:

4 × 8 크기, 부호율 1/2인 최적화된 프로토그래프의 기본 행렬 구조:

4 × 6 크기, 부호율 1/3인 최적화된 프로토그래프의 기본 행렬 구조:

3.4.3 [TeX:] $$h_1=3, h_2=2$$인 비균일 레일리 페이딩 채널에 최적화된 프로토그래프

[TeX:] $$h_1=3, h_2=2$$인 비균일 레일리 페이딩 채널을 [TeX:] $$P_2$$채널이라 하며 이때 최적화된 프로토그래프를 proposed2로 표현한다.

3 × 12 크기, 부호율 3/4인 최적화된 프로토그래프의 기본 행렬 구조:

4 × 12 크기, 부호율 2/3인 최적화된 프로토그래프의 기본 행렬 구조:

4 × 8 크기, 부호율 1/2인 최적화된 프로토그래프의 기본 행렬 구조:

4 × 6 크기, 부호율 1/3인 최적화된 프로토그래프의 기본 행렬 구조:

표 3을 보면 각 채널에 대해 최적화된 프로토그래프가 그 채널에서 가장 우수한 복호 임계값을 가지며 어느 한 채널에서 우수한 부호가 다른 채널에서 우수하지 않을 수 있다는 것을 확인할 수 있다. 이로부터 균일 채널과 달리 비균일 채널에서는 각 채널에 맞게 최적화하는 것이 중요하며 제안하는 경량화된 알고리즘이 효과적임을 확인할 수 있다. 복호 임계값 외에 실제 성능은 Ⅳ장에서 FER로 검증 및 비교한다.

Ⅳ. 실험 결과

Ⅲ-4절에서 최적화된 프로토그래프들에 대해 균일 AWGN 채널과 비균일 레일리 페이딩 채널에서 FER을 측정하며, [TeX:] $$P_1$$ 채널은 [TeX:] $$h_1=1, h_2=2$$이고 [TeX:] $$P_2$$ 채널은 [TeX:] $$h_1=3, h_2=2$$인 비균일 레일리 분포를 따른다. 측정된 모든 프로토그래프 부호의 길이 N=30000이고 합-곱 알고리즘을 사용하여 복호화를 진행하였으며 복호 반복 횟수(decoding iteration)는 400으로 설정하였다. 앞서 설명한 바와 같이 총 3종류의 채널에 대해 최적화를 진행하였으며 각각 부호율을 제외한 표기법을 따르면 [TeX:] $$\mathrm{B}_{\text {proposed } 1}$$은 [TeX:] $$P_1$$ 채널에 대해 최적화, [TeX:] $$\mathrm{B}_{\text {proposed } 2}$$은 [TeX:] $$P_2$$ 채널에 대해 최적화된 프로토그래프의 기본 행렬을 의미하고 균일 AWGN 채널에 최적화된 프로토그래프의 기본 행렬 [TeX:] $$\mathrm{B}_{\mathrm{AWGN}}$$를 비교 대상으로 사용한다.

그림 3을 보면 [TeX:] $$P_1$$ 채널에서는 [TeX:] $$\mathrm{B}_{\text {proposed } 1}$$의 RER 성능이 가장 좋게 나오며 [TeX:] $$P_2$$ 채널에서는 [TeX:] $$\mathrm{B}_{\text {proposed } 2}$$가, 균일 AWGN 채널에서는 [TeX:] $$\mathrm{B}_{\mathrm{AWGN}}$$가 비교군 내에서 가장 좋은 FER 성능을 보인다. 다른 부호율을 가지는 그림 4, 5, 6에서도 똑같은 양상을 보이며, 이는 표 3의 복호 임계값 경향성과 일치한다. 더욱이 [TeX:] $$P_1$$ 채널 및 [TeX:] $$P_2$$ 채널의 경우 각 부호율에 대해서 페이딩 채널의 이론적 한계치인 채널 중단 확률(channel outage probability)과 FER 성능 차이를 봤을 때 제안하는 부호 설계 알고리즘이 효과적임을 확인할 수 있다.

각 채널에서 최적화된 프로토그래프들의 복호 임계값 및 FER 성능 결과를 균일 AWGN 채널에서 살펴보면 그 성능 차이가 [TeX:] $$P_1, P_2$$ 채널 대비 크지 않은 것을 확인할 수 있다. 이는 Ⅲ-3절에서 확인한 바와 같이 레일리 페이딩 채널에서의 부호 최적화도 AWGN 채널과 같이 SNR을 최적화하는 방향으로 진행되기 때문이다. 비균일 레일리 페이딩 채널의 경우 레일리 페이딩 분포가 달라 SNR을 비균일하게 최적화하는 방향으로 설계되지만 여전히 전체 SNR을 최적화하는 과정의 특수 상황으로 생각될 수 있다. 이에 채널이 균등하여 전체 SNR 관점에서 동작되는 균일 AWGN 채널에서는 부호들의 성능 차이가 크지 않은 것으로 판단된다. 다만 채널의 비균일성이 명확한 [TeX:] $$P_1, P_2$$ 채널의 경우 비균일한 SNR 특성이 큰 성능 차이를 야기하는 것을 확인할 수 있다. 이러한 결과들은 제안한 경량화된 차등 진화 알고리즘으로 비균일 레일리 페이딩 채널에 최적화된 프로토그래프 기반 저밀도 패리티 검사 부호의 설계가 효과적임을 보여준다.

그림(Fig.) 3.

부호율 0.75인 프로토그래프들의 각 채널에 따른 FER 성능(FER performance of protographs for each channel with a code rate 0.75)

그림(Fig.) 4.

부호율 0.667인 프로토그래프들의 각 채널에 따른 FER 성능(FER performance of protographs for each channel with a code rate 0.667)

그림(Fig.) 5.

부호율 0.5인 프로토그래프들의 각 채널에 따른 FER 성능(FER performance of protographs for each channel with a code rate 0.5)

그림(Fig.) 6.

부호율 0.333인 프로토그래프들의 각 채널에 따른 FER 성능(FER performance of protographs for each channel with a code rate 0.333)

Ⅴ. 결 론

본 논문에서는 비균일 레일리 페이딩 채널에서의 프로토그래프 기반 저밀도 패리티 검사 부호 설계 알고리즘을 제안하였다. 이를 위해비균일 레일리 페이딩채널에 적합하도록 PEXIT 분석 알고리즘을 수정하고 다수의 페이딩 계수를 활용하여 정확한 복호 임계값을 구하였다. 하지만 차등 진화 알고리즘에서 다수의 페이딩 계수를 사용하는 것은 계산 복잡도 측면에서 불가능하기 때문에 적은 수의 페이딩 계수를 사용하여 최적화를 진행하다가 최종단계에서 다수의 페이딩 계수를 활용하는 경량화된 차등 진화 알고리즘을 제안하였다. 이때 페이딩 계수의 수에 따른 최대, 최소, 평균, 표준편차를 비교하여 경량화된 차등 진화 알고리즘에 적합한 페이딩 계수의 수를 설정하였다. 균일 채널에서는 AWGN 채널과 레일리 페이딩 채널이 부호 설계 관점에서 유사하게 동작함을 확인하였다. 하지만 비균일 채널에서는 프로토그래프의 복호 임계값 및 FER 성능을 통해 각 채널에서 최적화된 프로토그래프가 해당 채널에 대해 성능이 가장우수한 것을 보였다. 이로부터 본논문에서 제안한 경량화된 부호 설계 알고리즘이 비균일 레일리 페이딩 채널에서 효과적임을 확인할 수 있다.

본 논문에서는 단일 수신단 안테나와 블록 수L=2인 비균일 레일리 페이딩 채널을 가정하여 부호 설계를 하였지만 향후 다수의 수신 안테나나 다수의 블록 수 환경으로 연구 결과를 확장시킬 수 있을 것으로 기대된다. 더불어 제안하는 부호 설계 알고리즘의 추가적인 성능 지표로서 블록 수 L과 페이딩 계수의 수인 K의 연관성 혹은 트레이드-오프(trade-off) 관계를 보일 수 있을 것으로 생각된다.