2.1 의사결정트리 기법

의사결정트리는 데이터의 분류나 예측을 목적으로 통계학에서 개발 및 발전되었다⁽¹⁶⁾.

그림 1 의사결정트리 모형

Fig. 1 Decision tree model

의사결정트리는 순환적 분할 방식을 이용하여 트리를 구축하는 방식이다. 순환적 분할이란 하향식 귀납법으로 상위노트에서 분리된 데이터를 분리규칙에 의해 서로 유사한 데이터로 세분화하고 최종 분류가 이루어질 때까지 반복하는 분할 기법이다. 의사결정트리는 분류나 예측을 목적으로 쓰이지만 분석의 과정과 결과를 직관적으로 보여주기 때문에 분석과정의 설명이 필요한 경우에도 적용된다.

의사결정트리에서 서로 유사한 데이터를 세분화 하는 방식은 순도의 증가, 또는 불순도나 불확실성의 감소를 기준으로 형성된다. 순도를 계산하는 방법에는 두 가지가 있다. 첫 번째, 엔트로피(entropy)는 확률변수의 불확실성을 수치로 나타낸 것으로, 값이 높을수록 불확실성이 높아진다. 분할 전 $A$영역에 포함되는 전체 $m$개인 경우 중에 $k$인 경우의 엔트로피와 분할 후 $d$개의 영역에 각각 속하는 경우의 엔트로피를 나타낸 식은 다음과 같다.

여기서, $p_{k}$는 $A$영역에 포함되는 $m$개의 경우 중 $k$범주에 속하는 경우의 비율을 의미한다.

여기서, $R_{i}$은 분할 전 경우 가운데, 분할 후 $i$영역에 속하는 경우의 비율을 말한다.

두 번째로 지니계수(Gini index)는 엔트로피와 비슷하게 불순도와 다양성을 계산하는 기법이다. 분할 전 불순도의 지니계수와 $d$개의 부분집합으로 나뉜 후의 지니계수에 대한 식은 다음과 같다.

그림 2에서 두 개의 부분집합으로 나뉘었을 때의 비율($p$)에 따라, 의사결정트리의 가지치기를 위한 오분류오차(misclassification error)와 위 두 가지 기법을 표현하였다. 엔트로피와 지니계수 모두 값을 최소로 하는 분류가 최적이라고 해석된다.

그림 2 엔트로피와 지니계수의 비교곡선

Fig. 2 Comparative curve of Entropy and Gini index

지니계수 계산이 엔트로피 계산보다 빠르지만 엔트로피는 로그를 취하여 정규화 과정을 거쳤기 때문에 정확한 데이터의 비율을 분석하는 데에 용이하다. 따라서 본 논문은 엔트로피를 사용하는 의사결정트리 시뮬레이션을 사용한다.

2.2 인공신경망 모델

그림 3 인공신경망 모형 ⁽¹⁷⁾

Fig. 3 Artificial Neural Network

인공신경망은 사람의 뉴런세포에서 비롯된 통계적 학습 알고리즘으로, 입력층, 은닉층 그리고 출력층으로 구분된다(그림 3 참고). 입력층과 은닉층, 은닉층과 은닉층 사이를 연결하는 가중치에 따라 결과값이 실제값에 가까워 질 수도, 결과값이 수렴하지 않을 수도 있다. 인공신경망에는 출력값의 오차를 줄이기 위한 가중치 조절에 따른 두 가지 대표적인 알고리즘이 존재한다.

2.2.2 탄력성 역전파 신경망(Resilient back propagation algorithm, RPROP) 모델

탄력성 역전파 신경망은 인공신경망 중 결과값의 오차를 줄이기 위해 은닉층 간의 학습률을 변동하게 하는 알고리즘으로 이루어져있다. 오차의 크기에 따라 변화하는 학습률은 수렴속도와 결과의 정확성을 향상시킨다⁽²¹⁾.

(12)

$b_{i}(k+1)= b_{i}(k)+\triangle b_{i}(k)$

(13)

$\triangle b_{i}(k)= -sign\left(\partial\dfrac{\epsilon}{\partial}b_{i}\right)\triangle_{i}(k)$

(14)

\begin{align*} {if}\dfrac{\partial\epsilon(k-1)}{\partial b_{i}}\dfrac{\partial\epsilon(k)}{\partial b_{i}}\ge 0\\ then\triangle_{i}(k)=\min(\eta^{+}\cdot\triangle_{i}(k-1),\:\triangle_{\max}) \end{align*}

(15)

\begin{align*} {if}\dfrac{\partial\epsilon(k-1)}{\partial b_{i}}\dfrac{\partial\epsilon(k)}{\partial b_{i}}< 0\\ then\triangle_{i}(k)=\max(\eta^{-}\cdot\triangle_{i}(k-1),\:\triangle_{\min}) \end{align*}

여기서, $b_{i}$는 $i$번째 은닉노드의 가중치를 말하며 $k$는 iternal 횟수, $\epsilon$는 오차를 나타낸다. $\triangle_{i}$는 $b_{i}$의 스탭사이즈를 의미하며 $\triangle_{\max}$와 $\triangle_{\min}$는 스탭사이즈의 최대, 최소값을 나타낸다. 학습률은 $0<\eta^{-}<1<\eta^{+}$를 의미한다.

그림 4는 순방향 신경망과 탄력성 역전파 신경망의 학습률 특성을 간단하게 보여주는 그림이다. 순방향 신경망은 고정된 학습률을 가지기 때문에 변화율이 0이 되는 최적 가중치 $\omega$값을 찾지 못할 수 있다. 그에 반해, 탄력적 학습률은 학습결과와 실제값의 오차에 따라 스탭사이즈를 조절하기 때문에 최적 가중치를 정확하게 구할 수 있다. 따라서 본 논문은 오차에 따라 학습률을 변화시켜 최적 가중치를 찾는 RPROP 알고리즘을 채택하여 전력수요예측을 진행한다.

그림 4 고정된 학습률과 탄력적 학습률에 따른 알고리즘 비교

Fig. 4 Comparison of algorithms based on fixed and resilient learning rates

2.3 제안된 전력수요예측 모델

본 논문에서는 빅데이터 기반 RPROP 인공신경망 모델을 제안하여, 향상된 단기 전력수요예측 결과값을 증명하고자 한다. B-ANN 모델은 다음 알고리즘 흐름도를 따라 전력수요예측을 진행한다.

그림 5 제안된 B-ANN 모델 흐름도

Fig. 5 Proposed B-ANN model flow diagram

그림 5는 본 논문에서 제안된 모델의 흐름도이다. 첫번째로 시간별 전력수요와 기상 및 기상 외 데이터를 수집한다. 본 논문은 기존에 고려되지 않았던 시간별 기상 데이터와 환율, 유가 등의 기상 외 데이터를 수집하여 전력수요와의 연관성을 분석하고자 한다. 두번째로 앞서 수집된 빅데이터 정보 분석을 위해 피크전력 값을 정규화하고, 정규화된 데이터를 가지고 의사결정트리 시뮬레이션을 진행한다. 의사결정트리는 데이터 분류에 특화된 통계적 기법으로, 유사한 데이터를 세분화하여 결과값이 영향을 크게 받는 입력값과 영향을 주지 않는 입력값을 분류한다. 따라서 본 논문은 의사결정트리 시뮬레이션을 통해 전력수요에 영향을 주는 입력데이터를 분석하고, 군집화된 결과노드를 통해 유사한 특징을 가진 데이터를 그룹화한다. 이는 비슷한 데이터를 가지고 인공신경망을 학습시켜, 더 향상된 전력수요예측을 도출할 것이다. 네번째로 예측하고자 하는 날을 결정하여 해당 날의 기상데이터와 기상 외 데이터가 유효한지 판단한다. 입력데이터가 시간별로 존재하지 않는다면 보간법을 이용하여 시간별 입력값을 설정한다. 데이터 유효성을 판단한 후, 미래의 입력데이터가 포함되는 그룹의 데이터를 가지고 인공신경망을 학습시킨다. 앞에서 설명한 RPROP 알고리즘을 바탕으로, 기상요소 그리고 기상 외 요소의 입력데이터와 시간별 전력수요데이터를 이용하여 인공신경망을 학습시킨다. 인공신경망의 학습이란, 입력데이터와 전력수요데이터의 선형적, 비선형적 상관성을 분석하여 최적의 가중치를 도출하는 것이다. 마지막으로, 학습된 모델에 미래의 입력데이터를 입력하여 결과값을 도출한다. 본 논문은 모델의 정확성 판단을 위해 Mean Absolute Percentage Error(MAPE)를 오차값으로 사용하였으며 식은 다음과 같다.

3.1 입력데이터 분석

본 논문에서는 입력데이터로 최대기온(high.degree), 최저기온(low.degree), 평균기온(avg,degree)과 평균습도(avg,wet), 강우량(rain), 풍속(wind.speed), 전운량(cloud)와 같은 기상데이터⁽²²⁾뿐만 아니라 환율(dollar, yen, euro), 유가(Brent, WTI, Dubai, Oman) 및 천연가스 가격(natural_gas) ⁽²³⁾을 사용하여 의사결정트리를 구축하였다.

그림 6은 2018년 서울의 평일 피크전력수요를 나타낸 그림이다. 하계와 동계에 냉난방 기기의 사용이 늘어나서 전력수요가 증가함을 볼 수 있다. 의사결정트리 시뮬레이션을 위해 표 1과 같이 피크전력을 정규화하였다.

그림 6 2018년 서울의 평일 피크전력수요

Fig. 6 2018 Weekday peak power demand in Seoul

그림 7 기상요소와 기상 외 요소를 고려한 2018년 서울의 피크전력의 의사 결정트리

Fig. 7 Decision tree of 2018 peak power in Seoul considering weather factors and out-of-climate factors

그림 7은 15개의 입력데이터와 2018년 평일 서울의 피크전력을 사용하여 도출된 의사결정나무이다. 마지막 7개의 노드가 분류된 데이터들을 의미하며, -3부터 3의 레벨로 구분된 피크전력들이 낮은 순서부터 분류되었음을 보여준다. 좌측부터 group 1, 2, …라고 명명한다. .00으로 표시된 부분은 노드에 포함되는 전력의 레벨 경우를 표현하였으며 00%은 전체의 경우 중 그 노드에 포함되는 경우의 비율을 나타내었다. 가장 낮은 전력 레벨인 –3과 가장 높은 전력 레벨인 3은 노드에 나타나지 않았으나 가운데 노드에서 .21이라는 확률로 레벨 3의 전력의 경우가 포함되어 있는 것을 보아 평균기온이 25도 이상일 때 높은 전력수요에 주의해야한다. group1의 데이터양이 전체 중 33%로 가장 많고, 그 중 –3단계의 피크전력을 가지는 케이스가 6%, -2단계의 피크전력을 가지는 케이스가 80%이다.

본 논문에서는 시간별 전력수요예측의 정확성을 위해 마지막 노드를 기준으로 1년 데이터를 7가지로 그룹화하여 입력데이터에 따라 민감하게 변화하는 전력수요를 분석한다. 사계절 또는 월별로 나누어 전력수요예측을 진행하는 것은 일별 전력패턴을 평균치로 고려하기 때문에 시간별 전력수요예측에 오류를 유발할 수 있으며, 건물에너지 소비가 많은 도시형 네트워크 내에서 피크 값 예측에 불리할 수 있다.

3.2 전력수요예측 결과 평가

전력수요예측을 위한 프로그램으로는 RStudio를 사용하였다. 본 논문에서는 활용한 B-ANN 모델의 적합성을 평가하기 위해 다중회귀분석, 시계열분석법과 ARIMA 모형을 사용한 각각의 전력수요 예측값의 오차를 비교하였다. 다중회귀분석은 두 개 이상의 독립변수와 하나의 종속변수 간의 선형적 수식을 도출하여, 독립변수의 대입으로 결과를 도출·예측하는 기법이다. 독립변수는 기상요소와 기상 외 요소가 해당되며 종속변수는 시간별 전력수요가 해당된다. 시계열분석은 시간적 주기성을 갖는 데이터를 분석하여 예측하는 기법이다. 그래서 시간적 패턴을 가지는 시간별 전력수요예측에 적용될 수 있다. ARIMA 모형은 과거의 시간적 데이터를 기반으로 과거 데이터의 추세까지 반영하여 예측을 진행한다. 과거의 데이터를 학습하고 예측에 반영하는 기법으로 시간별 전력수요예측에 사용될 수 있다.

그림 8은 실제값인 testdata와 B-ANN, 다중회귀분석, 시계열 분석 그리고 ARIMA 모델을 통해 동일데이터를 가지고 시간별 전력수요를 예측한 결과값을 보여준다. 그림 8의 (a)에서 B-ANN과 다중회귀분석이 좋은 결과값을 보여주었다. 그림 8의 (b)에서는 4개의 모형이 모두 실제값보다 낮은 값의 예측을 보였는데, 이는 group2에 낮은 피크값을 가지는 케이스가 19%정도 분포되어 있기 때문에 전체적인 예측값이 낮았던 것으로 해석된다. (c)에서는 10시부터 21시에 높은 전력이 분포되었다. B-ANN 모형은 15시의 전력이 늘어나는 부분을 예측하지 못하였다. 그래서 오차값이 2.9%로 약간 높게 측정되었다. (d)에서 ARIMA 모형은 전체적으로 높은 예측값을 도출하였고 B-ANN 모형은 16시의 과예측 외에는 좋은 결과값을 도출하였다. 그림 8의 (e)에서 B-ANN 모형은 10시와 11시를 피크전력으로 예측하였다. 전체적으로 시계열 분석은 평평한 전력값을 도출하였는데, 이는 주간 또는 계절별 단위의 주기성으로 예측을 진행하는 시계열 분석법의 특징때문에 그 특징을 고려하지 않은 그룹 분류법 때문이라고 해석된다. 그림 8의 (f)에서 전력이 높아졌다가 낮아지는 21시와 22시에 대부분의 모델이 과한 예측값을 보였다. 이는 본 논문에서 고려한 입력데이터 외에 전력수요에 영향을 준 요인이 존재한다는 해석을 가능하게 한다. (g)에서 B-ANN과 다중회귀분석이 가장 좋은 예측을 보였다.

표 2는 전력예측을 수행하는 모형에 따른 각 그룹별 오차값을 나타낸다. 그룹별로 오차값의 차이가 존재하는 이유는 그룹별로 일(日) 수가 달라 데이터의 양의 차이가 존재하기 때문이다. 데이터 양의 차이에 의해 인공신경망이 학습하는 정도의 차이가 발생할 수 있다. 다만 데이터의 양이 많음이 항상 좋은 예측을 보이지는 않는다. group1에서는 네 가지 기법 모두 1.3%이하의 오차값을 가지기 때문에 7개의 그룹 중 가장 좋은 예측을 보인다. 특히 앞선 그림에서 볼 수 있듯이 피크전력 값이 존재하는 오후타임에 제안된 모델이 가장 정확하게 전력수요를 예측하고 있다. group2에서는 B-ANN 모델이 2.8%로 가장 낮은 MAPE 값을 가진다. 다음 그룹에서는 시계열 분석이 가장 낮은 오차값을 가졌지만, MAPE의 특성 상 24시간동안의 예측 전력의 오차값을 나타냈기 때문에 부분적으로 과하게 예측하고 적게 예측한 모델은 서로 보완되어 오차값이 적게나왔다. 따라서 오차값 뿐만 아니라 시간별 예측값을 비교하며 모형의 적합성을 판단해야 한다. 앞선 그림에서, B-ANN 모델이 실제 전력데이터와 근사한 예측을 진행하였음을 보여준다. group4과 group6에서 가장 오차율이 낮은 모델은 본 논문이 제시한 B-ANN 모델이다. 시계열 분석은 데이터의 시간적 주기성을 기반으로 예측을 진행하기 때문에 입력데이터의 양에 따른 영향을 많이 받음을 보여준다. ARIMA 모델은 과거의 추세에 따른 전력예측을 진행하기 때문에 앞선 데이터들의 전력이 증가하는 추세라면 group6 처럼 과도한 전력을 예측할 수 있다. group5는 앞선 group3에서와 같은 이유로 시계열분석이 아닌, 10시~12시의 전력예측을 가장 정확하게 진행한 B-ANN 모델이 예측에 적합하다. 마지막으로 group7에서는 다중회귀분석과 B-ANN 모델이 좋은 예측값을 보인다. 평균적으로 본 논문에서 제시한 모형을 이용한 전력예측오차가 2.38%로 가장 낮은 MAPE 값을 가진다.