2.1 ANN Model

인공신경망 모델은 인간의 두뇌 구조를 모의하여 인지적 정보 처리 구조를 갖는 시스템으로서, 생체내의 신경세포 즉 뉴런과 유사한 특징을 갖는 간단한 아날로그 프로세서로 이루어져 있다. 그러므로 인공신경망은 많은 수의 뉴런으로 이루어져 있으므로 병렬처리뿐만 아니라 주어진 입력들에 가중치를 조정하여 원하는 출력을 생성하는 학습기능이 있다. 여기서 학습이란 학습규칙에 따라 입력으로 들어온 데이터로부터 출력 값을 원하는 값으로 바꾸어가는 일련의 과정을 말하며 이러한 특징으로 왜곡되거나 잡음을 가진 입력에 대해 인식이 가능하여 불완전한 입력에 대해서도 학습에 의해 가장 유사한 출력 값을 낸다. 최근 인공신경망의 은닉층(Hidden layer)의 개수를 증가시켜 학습시키는 딥 러닝(Deep Learning)모델을 구현하여 보다 높은 예측 정확도를 높이는 방법도 활발히 연구되고 있다^(15-16). 본 논문에서는 인공신경망을 통하여 풍력발전기 출력예측을 하는 모델을 구현하였으며, 모델에 사용된 데이터와 뉴런 및 은닉층의 개수는 아래와 같다.

ANN모델을 구현하기 위해 본 논문에서는 입력데이터로 과거 15분단위의 4개의 풍속(X1), 출력(X2) 데이터를 사용하였으며 Hidden layer의 수와 각 layer마다 뉴런수를 결정하기 위해 layer수와 뉴런수를 증가하면서 $t$시점의 풍력발전기 실제 출력 값 과 예측 값(Yt)과의 오차를 계산하여 가장 최소가 되는 layer수와 뉴런수를 구하였다. 그 결과 Hidden layer는 2개, 각 Hidden layer마다 뉴런의 수는 10, 9개로 산정하게 되었고 구현된 ANN 모델은 그림 3과 같다.

그림 3 인공신경망 모델

Fig. 3 ANN model

2.2 SVR Model

SVM(Support Vector Machine)은 주어진 데이터 집합을 바탕으로 새로운 데이터가 어느 분류에 속할지 판단하는 선형 분류 모델을 생성하는 기계학습이다. SVM은 선형 분류와 더불어 비선형 분류에서도 사용되며 비선형 분류를 수행하기 위해서는 주어진 데이터를 커널 함수를 통해 고차원 특징 공간으로 사상하여 선형 분류를 할 수 있으며 이를 초평면(Hyper-plane)이라 부른다. 초평면은 초평면과 가장 가까운 데이터와 최대 폭을 갖게 구성되어 데이터 오분류를 최소화 할 수 있다. SVM에 주로 사용되는 커널 함수의 종류로는 Sigmoid, Polynomial, RBF(Radial Basis Function) 등이 있으며, 각 데이터의 분포에 따라 적합한 커널 함수를 통해 비선형 분류를 수행 할 수 있다.

SVR(Support Vector Regression)은 SVM을 회귀 문제에 적용한 방법으로, 주어진 데이터를 커널함수를 통해 사상하여 선형회귀방법을 통해 초평면을 구하고 이를 통해 예측하는 기법이다. SVR모델을 학습하기 위한 기본 식은 아래 식 (1), (2)와 같다.

식 (1)과 같이 SVR은 모든 입력 $x$에 대해 출력 $y$를 가장 적합하게 예측하는 $f(x)$를 구성하는 것이며 데이터 오분류를 최소화하기 위해 식 (2)와 같이 $\xi ,\:\xi^{*}$ 와 같은 여유 변수를 추가하며 실제 값과 예측 값의 오차가 $\varepsilon$ 내로 들어 올 수 있는 $w$ 값을 최소가 되도록 모델을 구현한다⁽¹⁷⁾.

본 논문에서는 커널함수인 RBF와 과거의 풍속, 출력 데이터를 사용하여 최적의 Hyper-plane을 구성하였고 이를 통해 풍력발전기 출력 예측에 적용하였다.

2.3 LSTM Model

LSTM은 RNN(Recurrent Neural Network)모델의 한 종류로 RNN의 기본적인 아이디어는 순차적인 정보를 처리한다는 데 있다. 즉, 아래 그림 4와 같이 입력에 사용된 모든 과거데이터들이 예측 값에 일정한 영향을 주는 구조로 구성되어 있는데 이 구조의 장점은 과거데이터의 영향을 예측시간대에 반영 할 수 있다는 장점이 있지만 과거데이터가 많을수록 가장 최근의 데이터의 비중이 작게 되는 단점이 있다. 이러한 데이터의 장기 의존성 문제를 LSTM모델을 통해 해결 할 수 있다.

그림 4 RNN 모델 구조

Fig. 4 Structure of RNN

그림 5 LSTM 모델 구조

Fig. 5 Structure of LSTM

LSTM은 데이터의 장기 의존성 문제를 해결 할 수 있는 모델로써 LSTM에서는 RNN의 뉴런 대신에 메모리 셀이라고 불리는 구조를 사용한다. LSTM 셀은 4개의 layer로 구분되는데 첫 번째로, cell state로부터 이전 state의 출력인 ht-1와 현재 입력값 Xt를 sigmoid($\sigma$) 함수를 통해 “0”과 “1”의 값으로 메모리 값을 그대로 남길지 지울지 정하는 forger gate layer, 두 번째는 input gate layer로, 첫 번째 단계에서 sigmoid($\sigma$) 함수를 통해 구해진 값과 tanh 함수와의 곱으로 각 cell state에 저장될 데이터를 결정하는 단계이다. 세 번째는 첫 번째 단계와 두 번째 단계로부터 구해진 정보를 cell state에 저장하는 단계(cell state update)이며 마지막 네 번째 단계는 output gate layer로 이전 출력과 현재의 입력의 sigmoid($\sigma$) 함수 결과 값과 업데이트된 cell state 의 tanh 함수 결과 값의 곱으로 최종 출력 값을 결정한다. 이처럼 RNN에 비해 과거 데이터의 영향을 지우거나 남겨서 다음 cell 로 이동되기에 입력데이터의 수가 많아질수록 RNN에 비해 LSTM이 예측시점과 가까운 데이터의 비중이 커지므로 예측정확도 부분에서 뛰어나다 할 수 있다.

본 논문에서는 위와 같은 LSTM의 장점을 풍력발전기 출력 예측에 적용하기로 하였으며 $t$시점에 대한 풍력발전기 출력을 예측하기 위해 ANN모델과 동일한 입력변수와 데이터 개수를 사용하여 제안한 LSTM모델의 정확도를 검증할 수 있도록 하였다.

3.1 풍력발전기 예측 모델 구현

제주도에 위치한 풍력발전단지의 출력 예측을 위해 2018년 1월 1일부터 12월 31일까지의 15분 단위의 풍속과 출력 데이터 중 2018년 1월 1일부터 8월 31일까지의 데이터를 ANN, SVR, LSTM모델 학습에 사용하였으며 학습종료조건은 0.001로 설정하였다. 구현된 모델의 정확도를 판단하는 기준으로는 평균 제곱근 오차인 RMSE(Root Mean Square Error) 와 평균 절대 백분율 편차인 MAPE(Mean Absolute Percent Error)를 사용하였다. RMSE는 모델의 예측 값과 실제 값의 차이를 표현하는 지표로 예측모델의 정확도를 평가하는 대표적인 방법 이지만 예측 값 또는 실제 값의 크기 즉, 스케일에 큰 영향을 받는 단점이 있다. MAPE의 경우 오차를 백분율로 표현하기 때문에 각 계열간의 정확도를 쉽게 비교할 수 있고 RMSE의 단점인 스케일에 의존하는 부분을 보완 할 수 있다. RMSE와 MAPE는 아래 식 (3), (4)와 같이 표현 할 수 있으며 $N$은 데이터의 개수, $Real_{t}$는 $t$시점에서의 실제 값, ${for}ec\ast_{t}$는 $t$시점에 대한 모델 예측 값이다.

3.2 풍력발전기 예측 모델 결과

2018년 9월 1일부터 12월 31일까지의 테스트 데이터를 앞서 구현한 세 개의 예측모델에 적용하여 각 예측모델의 결과를 비교, 분석 하였다. 아래 그림 6부터 9까지는 각 월마다 1일, 1주일, 월 전체의 예측 결과를 나타낸 것이고 단위시간당 풍력발전기 출력변화를 정격용량으로 나눈 값인 출력 변동률이 큰 기준으로 날을 선정하였으며 각 예측결과지표인 RMSE와 MAPE도 같이 표기해두었다. 각 월마다 출력 변동률을 구한 결과, 가장 크게 나타난 월은 12월이고 변동률은 평균 1.24%, 최대 13.21% 이며 가작 작게 나타난 달은 11월이며 변동률은 평균 0.51%, 최대 3.2%이다.

먼저 그림 6의 경우 9월의 예측결과 이며 그림에서와 같이 출력 변동률이 작은 구간인 9월 2일 1시~8시 구간과 9월 3일 20시~24시 시간대에 비해 출력변동률이 큰 구간인 9월 3일 1시~4시 구간과 9월 18일 13시~18시 시간대에서 대해서는 오차가 많이 발생하는 것을 확인 할 수 있다. 출력 변동률이 큰 구간에서 살펴보면 LSTM모델의 오차가 ANN, SVR모델의 오차보다 작게 나타남을 보이는데 이는 LSTM모델이 지닌 데이터의 입, 출력 패턴을 기억하는 특징이 ANN, SVR모델 보다 뛰어나기 때문이다. 1주일 결과를 살펴보면 대략 9월 1일~3일 구간과 9월 6일~7일구간 보다 9월 4일~5일 구간에서 큰 오차가 발생함을 알 수 있는데 앞서 언급한 것과 같이 이 구간에서 출력 변동률이 크기 때문에 오차가 크게 발생한 것으로 확인된다. 9월 전체 예측 값에 대한 MAPE를 확인하면 LSTM모델이 ANN, SVR모델 대비 정확도가 2.85%, 5.56% 더 높음을 보여주고 있다.

그림 7은 10월의 예측결과를 나타낸 것으로 10월 5일의 경우 오전시간대에 비해 오후시간대 출력변동률이 작게 나타서 각 예측모델 별 MAPE가 낮게 나타났으며 LSTM 모델이 ANN, SVR모델 대비 정확도가 1.81%, 2.79% 높게 나타났다. 하지만 13일의 22시 이후와 17일의 12~14시를 보면 급격한 출력 변동으로 인해 큰 오차가 발생하여 10월 5일에 비해 MAPE값이 크게 구해짐을 확인하였다. 하지만 전체적으로 출력 변동률이 9월에 비해 작았기에 10월 전체의 MAPE값이 9월에 비해 ANN모델이 0.62%, SVR모델이 1.07%, LSTM모델이 0.35% 더 높으며 10월 전체 예측 값에 대한 MAPE를 보면 LSTM 모델이 ANN, SVR모델 대비 정확도가 2.58%, 4.84% 더 높음을 보여주고 있다.

그림 8은 11월의 예측결과를 나타낸 것이며 11월의 경우테스트 기간 동안의 출력 변동률이 가장 작게 나온 월 이며 11월 7일의 경우 출력 변동률이 가장 작은 날이고 이에 따른 예측모델의 MAPE값이 ANN모델은 4.61%, SVR모델은5.29%, LSTM모델은 2.23% 로 테스트 데이터 기간 동안 가장 작게 나왔다. 출력 변동률이 심했던 1주일의 결과를 보면 각 예측모델의 MAPE가 9월, 10월에 비해 ANN모델은 0.46%, -0.31%, SVR모델은 0.85%, 0.94%, LSTM모델은 0.82%, 0.38% 로 대체적으로 11월의 예측 정확도가 높게 나옴을 확인 할 수 있다. 11월 전체 예측 결과를 보면 ANN, LSTM모델의 경우 9월, 10월과 비슷한 결과를 보이지만 SVR모델의 경우 MAPE값이 8.60%로 9월, 10월에 비해 2%, 1.57% 정도 작아짐을 알 수 있는데 SVR모델의 경우 모든 입력데이터에 대해 출력 데이터를 가장 적합하게 예측하는 수식을 구성하기 때문에 출력 변동률이 작은 입력데이터 일수록 예측결과 값이 좋게 나옴을 확인할 수 있다.

그림 9는 12월에 대한 예측결과를 나타낸 것 이며, 12월의 경우 바람이 많이 부는 시기 이므로 전체적으로 풍력발전기 출력 값이 높게 나타났으며 출력 변동률이 가장 크게 나왔다. 12월 17일에 비해 12월 6일, 11일, 13일의 경우 출력이 1000kW가 넘는 구간이 많으며 이 구간에서는 출력이 600kW이하인 구간에 비해 예측 값이 실제 값과 큰 차이가 발생함을 알 수 있는데 MAPE값을 보더라도 12월 17일의 값이 다른 날 보다 대략 2~3%작게 구해짐을 확인 할 수 있다. 또한 1주일 결과인 12월 17일~23일의 결과를 보게 되면 출력이 1000kW가 넘는 구간에서 의 예측 값들이 실제 값과 큰 차이를 보임을 확인 할 수 있고 12월 전체 결과에서도 마찬가지로 1000kW가 넘는 구간에서 차이가 크게 발생함을 알 수 있어 바람의 세기가 큰 구간 즉, 최대풍속 근처 구간에서의 오차가 크게 발생함을 알 수 있다. 테스트 기간 동안의 예측오차를 비교하면 각 월마다 비슷한 성능을 보였지만 LSTM모델이 ANN, SVR모델보다 높은 예측 정확도를 보임을 확인 할 수 있다. 본 논문에서 구한 LSTM모델의 MAPE값은 다른 연구결과와 같은 데이터를 사용한 것은 아니지만 타 논문 및 문헌과 MAPE값을 비교하였을 때, 예측 정확도 부분이 높다고 판단 할 수 있다⁽¹⁸⁾.