2.1 로지스틱 회귀

로지스틱 회귀분석은 대상들이 두 집단 혹은 그 이상의 집단으로 나누어진 경우에 개별 관측 값들이 어느 집단으로 분류될 수 있는가를 분석하고 이를 예측하는 모델을 모형화한 것이다. 로지스틱 회귀 분석은 확률 모델로서 종속변수와 독립변수 간의 인과관계를 시그모이드(sigmoid) 함수를 이용하여 추정하는 것으로 입력 변수 x에 대하여 식(1)과 같은 수식으로 표현된다.

2.2 랜덤포레스트

주로 분류 또는 회귀 분석에 사용되는 랜덤포레스트 분류기는 그림 1과 같이 학습된 다수의 의사 결정 트리(decision tree)를 결합하여 한 개의 최종예측모형을 생성하는 앙상블(ensemble) 분류 기법이다 ^[8]. 학습과정에서 랜덤포레스트는 각 트리의 노드(node)마다 최적의 판별식과 임계값을 결정한다. 랜덤포레스트는 서로 다른 특성을 가지는 여러 개의 의사결정 트리를 구성함으로써 각 트리 간의 상관관계를 최소화하여 과적합(overfitting) 현상을 줄일 수 있고, 결과적으로 트리들의 결과 합산을 통해 신뢰도 높고 안정적인 분류 결과를 도출할 수 있는 장점이 있다. 또한 많은 독립변수를 모두 활용할 수 있기 때문에 대량의 데이터에서 중요한 변수를 찾아내고 추산 모델을 구성하는데 용이하다. 랜덤포레스트 분류기를 구현할 때 설정해야 하는 주요 매개 변수로는 트리의 개수와 하나의 트리에서 몇 개의 노드로 수행할 것인지 결정하는 최대 허용 깊이가 있다. 본 연구에서는 최대 허용 깊이(max depth)를 5로 설정하고, 트리의 개수를 10으로 설정하여 여러 개의 결정 트리를 학습하도록 했다.

그림. 1. 랜덤포레스트의 구조

Fig. 1. Structure of Random Forest

2.3 다층 퍼셉트론

인공신경망(Artificial Neural Network, ANN)은 인간의 두뇌의 대량 병렬성을 모방한 것으로 반복적인 학습을 통해 데이터에 사이의 패턴을 찾아내는 알고리즘이다. 입출력층만으로 구성된 단층 구조 인공신경망인 경우에는 선형 분리가 가능한 문제에만 적용 가능하다는 한계가 있는데 이를 해결하기 위해 고안된 신경망으로 다층 퍼셉트론이 있다. 다층 퍼셉트론은 입력층(input layer)과 출력층(output layer) 사이에 다수의 은닉층(hidden layer)이 존재하는 신경망으로 은닉층과 각 뉴런 사이의 입출력 특성을 비선형으로 처리함으로써 복잡한 문제를 해결할 수 있다. 이 연구에서는 입출력층과 2개의 은닉층으로 구성된 다층 퍼셉트론을 설계하였다 (그림 2). 은닉층은 2048개 노드를 가지는 2개 층으로 구성하였으며, 출력층은 원­핫 인코딩(one­hot encoding)에 대응되도록 2개로 설정하였다. 출력층을 제외한 나머지 층에서는 활성화 함수로 ReLU(Rectified Linear Unit)를 사용하였고, 출력층에서는 소프트맥스(softmax) 함수를 사용하였다. 분류기의 학습 효율성을 높이기 위해 epoch을 10으로 설정하였고 동시에 한번 학습을 수행할 때의 데이터 수인 배치 크기(batch size)는 20으로 설정하였으며 데이터의 과적합 방지를 위해 탈락율(dropout rate)을 0.5로 설정했다.

그림. 2. 연구에 사용된 다층 퍼셉트론 구조

Fig. 2. Multi­Layer Perceptron structure used in this study

2.4 합성곱 신경망

합성곱 신경망은 시각 처리 과정을 모방한 것으로 주로 이미지나 영상 등의 공간적 데이터의 패턴 식별에 효과적인 신경망이다. 합성곱 신경망은 이미지의 특징을 추출하는 부분과 이미지를 분류하는 부분으로 구성되며 데이터의 공간 정보를 유지하면서 인접 이미지와의 특징을 효과적으로 인식하고 강조하는 방식으로 학습된다. 또한 합성곱 신경망 중 하나인 일차원 합성곱 신경망은 일차원 격자 형태 데이터의 패턴 인식에 좋은 성능을 보이고 있어 신호 데이터를 분석하는데 가장 활발히 사용되고 있다. 이 연구에서는 통증 유무를 분류하기 위해 212개의 통증후보지표를 일차원 입력으로 하는 1차원 합성곱 신경망을 설계하였다. 합성곱 층(convolution layer) 필터의 크기는 1×2로 설정하였으며, 스트라이드(stride)는 1로 설정하여 여러 번의 합성곱 연산을 통해 인접한 데이터들의 특징을 추출했다. 완전 연결층(fully connected layer)에서는 앞에서 추출한 특징들을 512개의 노드를 가지는 은닉층을 거쳐 ReLU 활성화 함수를 통해 최종적으로 1개의 노드로 출력되어 0.5를 기준으로 0과 1로 이진 분류하였다. 다층 퍼셉트론과 동일하게 학습 epoch은 10, 배치 크기는 20으로 설정하여 학습되었다. 사용된 합성곱 신경망의 구조는 그림 3과 같다.

그림. 3. 연구에 사용된 합성곱 신경망 구조

Fig. 3. Convolutional Neural Network structure used in this study

3.1 통증 데이터

본 연구는 서울아산병원 임상연구심의위원회(Institutional Review Board, IRB No.: 2016­0477)의 승인을 받았으며 국제임상시험등록플랫폼에 등록되었다 (http://cris.nih.go.kr, KCT00 02080). 임상시험에는 총 81명의 피험자가 참여하였으며 최종적으로 73명의 데이터가 사용되었다. 데이터는 수술 전과 수술 후 각각 측정되었으며 통증 평가 도구인 VAS(visual analogue scale)를 기록한 후, 광용적맥파와 SPI를 동시에 기록하였다. VAS는 통증의 강도에 따라 0­100 사이의 값으로 측정되는데, 수술 전 모든 피험자의 VAS는 0점으로 통증이 없는 상태였고, 수술 후 VAS는 67.6±1.0점으로 모든 피험자가 60 점 이상의 VAS를 보였다. 이에 따라 분류기 입력을 위한 통증 레이블을 수술 전 데이터는 0, 수술 후 데이터는 1로 설정하였다. 광용적맥파는 수술 직전 6분간 통증이 없는 상태와 수술 직후 6분간 진통제 투여 전 상태에서 기록되었다. 광용적맥파는 300Hz의 표본화 주파수로 기록되었고, SPI는 10초마다 출력되는 값을 기록하였다.

통증 평가 분류에 사용된 입력 데이터로는 이전 연구에서 도출된 통증 후보 지표들을 사용하였다 ^[9]. 선행 연구에서는 진폭과 같은 공간적 특성 및 박동 간격, 파형 구간 등의 시간적 특성 등을 기반으로 광용적맥파 형태 분석을 통해 23개의 기본 지표를 도출하였고, 개인 간의 차이를 보정하기 위한 정규화를 통해 28개의 정규화 지표를 추가 추출하여 한 박동에서 총 53개의 지표를 생성하였다. 이 후 시계열 분석에 사용될 수 있는 분석법인 평균(Average, AV), 표준편차(Standard Deviation, SD), 인접한 지표 값 차이의 표준편차(Standard Deviation of the Successive Deviation, SDSD), 인접한 지표 값 차이의 평균제곱근(Root Mean Square of Successive Difference, RMSSD)등을 53개 지표에 적용하였고 최종적으로 212개의 지표를 도출하였다. 이 연구에서는 212개의 지표에 대하여 각 지표별로 z­score 정규화 과정을 수행하고 입력 데이터로 사용하였다.

3.2 중첩 교차 검증

개발된 통증 분류기 모델 성능의 통계적 신뢰성을 확보하기 위해 중첩 교차 검증(Nested cross validation)을 사용하였다. 중첩 교차 검증은 k겹 교차 검증(k­fold cross validation)방법을 외부 루프(outer loop)와 내부 루프(inner loop) 각각 적용하여 검증을 수행하는 것으로 소규모의 데이터로 구현한 모델 간 비교에 용이하다 ^[10].

본 연구에서 수행된 중첩 교차 검증은 외부 루프와 내부 루프 모두 5개의 집단으로 나누어 모델 성능을 평가했다. 먼저 외부 루프를 구성하기 위해 전체 데이터를 5개의 집단으로 나누어 한 개의 집단은 시험 집단(test set)으로, 나머지 집단은 내부 루프를 구성하는 개발 집단(development set)으로 구분하여 5개의 집단이 한 번씩은 시험 집단으로 사용될 수 있도록 반복 수행하여 총 5번 반복에 의한 평균 분류 성능을 계산한다. 이와 비슷하게 내부 루프의 집단 구성은 시험 데이터 집단으로 구성된 데이터를 제외한 나머지 4개의 데이터 집단을 다시 5개의 집단으로 재구분하여 한 개의 집단은 검증(validation) 데이터 나머지 집단은 학습(training) 데이터로 중첩 분배하여 학습­검증을 수행한다 (그림 4). 결과 제공에 있어, 외부 루프를 통해 계산된 시험 데이터 평균 분류 성능을 분류기의 최종 성능 결과로 사용되었고, 내부 루프를 통해 계산된 검증 데이터 평균 분류 성능은 개발(development) 성능 결과로 사용되었다. 최종 분류기 성능은 임의 추출(random sampling)에 의한 중첩 교차 검증을 30회 수행한 후 평균을 내어 계산되었다.

그림. 4. 중첩 교차 검증 (5겹)

Fig. 4. Nested cross validation (5­fold)

3.3 통증 분류기 성능 평가 지표

통증 분류기의 성능 평가를 위해 TP(True Positive), TN(True Negative), FP(False Positive), FN(False Negative)를 도출한 후 이를 이용해 정확도(Accuracy, AC), 민감도(Sensitivity, SE), 특이도(Specificity, SP), 양성예측도(Positive Predictive Value, PPV)를 구해 평가 지표로 사용했다. 각 지표 계산 방법은 식(2)­(5)와 같다.