김민지
(Minji Kim)
*iD
정경용
(Kyungyong Chung)
†iD
-
(Division of AI Computer Science and Engineering, Kyonggi University, Republic of Korea.)
Copyright © The Korean Institute of Electrical Engineers
Key Words
Early dementia detection, Transformer, wav2vec 2.0, Self-Supervised Learning, Digital biomarker
1. 서 론
고령 인구의 급속한 증가와 함께 경도인지장애(Mild Cognitive Impairment, MCI)와 알츠하이머형 치매(Alzheimer’s Disease,
AD)의 조기 선별은 사회 전체가 감당해야 할 현안이다. 치매는 현재까지 완치 치료제가 부재하기 때문에 증상이 가벼운 단계에서 이를 인지하고 개입하는
것이 유일하게 실효성 있는 대응 전략이다. 이러한 배경에서 음성은 비침습적이고 저비용이며 원격 수집이 가능한 디지털 바이오마커로 오래전부터 주목받아
왔다 [1]. 특히 말속도 저하, 쉼(pause)의 증가, 단어 인출 장애 같은 음향·언어적 변화는 인지 기능 저하에 선행해 나타나는 것으로 알려져 있어, 음성
신호만으로도 치매의 조기 징후를 포착할 수 있다는 가설을 뒷받침한다 [2].
이러한 문제의식 아래 초기 연구는 MFCC, eGeMAPS 같은 수작업 음향 특징과 품사·구문 복잡도 같은 언어 특징을 추출해 SVM, Random
Forest, XGBoost 등 전통 분류기에 투입하는 방식으로 수행되었으며, 일부 연구에서는 70~80% 수준의 분류 성능을 보고하였다 [3]. 최근에는 BERT 기반 언어 모델과 CNN 기반 음향 모델을 결합한 멀티모달 접근, Mel-spectrogram을 입력으로 하는 Audio Spectrogram
Transformer(AST) 계열의 지도학습 모델이 등장하여 ADReSS·ADReSSo 챌린지 등에서 경쟁력 있는 성능을 거두었다 [4],
[5]. 그러나 이들 선행 연구의 상당수는 수백 명 수준의 라벨링된 영어권 임상 데이터에 의존하고 있다는 점에서 구조적 한계를 안고 있다. 공개된 ADReSS
(2020)는 156명, ADReSSo(2021)는 237명에 불과하며 소규모 라벨 데이터에 의존할 수밖에 없어 과적합과 낮은 일반화 성능을 피하기
어렵다 [6]. 또한 기존 벤치마크의 대부분은 Cookie Theft picture description이나 동물 이름 대기(verbal fluency) 같은
임상 통제 환경의 정형화된 과제에 기반한다. 이는 피험자가 실제 생활에서 보이는 자연스러운 발화 양상을 반영하지 못하며, 원격 선별과 지속 모니터링이라는
본래의 활용 목적과 괴리가 존재한다 [7].
본 연구는 이러한 한계를 극복하기 위해 53개 언어 대규모 비라벨 음성에 대해 다국어 자가지도 사전학습(XLSR-53)을 수행한 뒤, 한국어 라벨
음성(Zeroth Korean)에 CTC 방식 ASR 미세조정을 통해 한국어 도메인 적합화가 이루어진 wav2vec 2.0 체크포인트를 백본으로 채택한다
[8]. wav2vec 2.0은 원시 파형에서 CNN 특징 추출기로 잠재 벡터를 생성하고 일부 시간 구간을 마스킹한 뒤 Transformer 컨텍스트 네트워크로
이를 복원하는 contrastive 방식으로 범용 음성 표현을 학습하기 때문에, 임상 라벨이 부족한 상황에서도 풍부한 음성 사전지식을 전이할 수 있다.
또한 다국어 자가지도 표현 위에 한국어 ASR 라벨 미세조정을 통한 도메인 적합화가 결합된 체크포인트를 활용함으로써, 영어 단일 언어 사전학습 모델에
의존하던 기존 한계를 완화한다. 아울러 Cookie Theft 류의 정형 과제 중심 영어 벤치마크에서 벗어나, 가톨릭대학교 산학협력단이 AI Hub를
통해 공개한 「인지기능 장애 진단 음성/대화」 데이터셋을 활용한다. 해당 데이터셋은 1,002명의 고령 한국어 화자로부터 수집된 약 672시간 분량의
음성을 정상·경도인지장애·알츠하이머형 치매 라벨과 함께 제공하고 있어 한국어 임상 음성 자원의 부족 문제와 정형 과제 의존성 문제를 동시에 해소할
수 있는 토대를 제공한다 [9]. 마지막으로 수작업 특징을 전면 배제하고 원시 파형에서 분류까지를 단일 신경망으로 end-to-end 미세조정하며, 클래스 불균형을 보정하기 위해
Focal Loss를 도입하고 화자 단위 5-폴드 교차검증으로 데이터 누수를 차단하여 소규모 임상 데이터에서도 신뢰할 수 있는 성능 추정이 가능하도록
하였다 [10].
본 논문은 한국어 일상 대화에 특화된 wav2vec 2.0 기반 치매 조기 탐지 파이프라인을 제안한다는 점에서 의의를 가진다. 공개 데이터셋을 활용하여
8초 세그먼트 10개(약 80초)의 soft voting 기반으로 정확도 94.5%, ROC-AUC 0.958이라는 경쟁력 있는 성능을 달성하였으며,
디지털 바이오마커로서 활용될 수 있을 것으로 기대된다.
2. 관련 연구
2.1 음성 기반 치매 검출의 전통적 접근
음성 신호에서 치매의 전조 증상을 탐지하려는 시도는 15년 이상 축적되어 왔다. 음성은 발화 속도, 쉼(pause) 빈도와 길이, 기본 주파수(F0)의
변동성, 성대 진동의 불규칙성(jitter/shimmer) 등 다양한 음향적 지표를 포함하고 있으며, 이러한 지표들은 인지 기능 저하와 통계적으로
유의미한 상관관계를 보이는 것으로 보고되어 왔다. König 등은 자동 음성 분석 파이프라인을 이용해 MCI·AD·건강군을 분류하였으며, 말속도,
쉼 비율, jitter/ shimmer 등의 음향 특징이 집단 간 유의미하게 차이남을 보고하였다 [1]. Fraser 등은 DementiaBank Pitt corpus에서 370여 개의 언어·음향 특징을 추출해 로지스틱 회귀로 알츠하이머와 정상군을
82% 정확도로 구분하였다. 이 연구는 명사·동사 비율, 구문 복잡도, 정보 전달 밀도 등 언어적 특징이 음향 특징 못지않은 주요 기여 인자임을 밝혔으며,
단일 특징 군보다 언어와 음향 특징의 결합이 판별력을 크게 향상시킨다는 점을 입증하였다 [2]. 이후 ADReSS 챌린지(2020)는 Cookie Theft picture description 음성 156개를 연령·성별 균형을 맞춰 공개하며,
연구 간 직접 비교가 가능한 최초의 표준 벤치마크를 제공하였다 [6]. Balagopalan 등은 이 데이터셋에서 BERT 기반 텍스트 모델과 음향 CNN 모델을 체계적으로 비교하여 전사본(transcript)을 입력으로
사용하는 BERT 계열이 단일 음향 모델을 능가함을 보였다 [4]. 이는 치매 탐지에서 의미론적·담화 수준의 특징이 단순 음향 특징보다 더 유의미함을 보이는 결과였다.
ADReSSo(2021)는 raw audio만으로 치매를 판별하도록 조건을 강화하였고, 자동 음성 인식(ASR)의 오류 전파 문제를 우회할 수 있는
음향 단독 모델을 탐색하였다. 이 환경에서 Pérez- Toro 등은 화자 임베딩 기반 접근으로 78.9%의 정확도를 보였으며, 면접자의 발화 스타일이
피험자의 음향 특성에 영향을 미칠 수 있음을 밝혔다 [11]. Martinc 등은 음향과 텍스트의 시간적 통합을 제안하여 F1 0.82의 성능을 달성하였으며, 시간축 정렬을 통해 발화 내 특정 구간에서의 인지
부하 변화를 포착하는 것이 전체 발화 평균보다 효과적임을 입증하였다 [12].
그러나 선행 연구들은 Cookie Theft picture description이라는 과제와 수백 명 규모 데이터에 한정되어, 일상 발화 기반 선별이라는
실제 활용 목적과 괴리가 있다. 환자가 익숙한 환경에서 자유롭게 대화할 때 나타나는 화제 전환 장애, 반복 발화, 비유창성 패턴은 정형 과제에서 충분히
관찰되지 않으며, 이는 원격 선별과 지속 모니터링이라는 실제 임상 활용 목표와 직접적으로 상충한다. 따라서 비정형 일상 발화에서도 안정적으로 작동하는
새로운 접근이 요구된다.
2.2 자기 지도 음성 표현 학습
자기 지도 학습(self-supervised learning, SSL)은 라벨이 없는 대규모 데이터를 활용해 범용 표현을 학습하는 패러다임으로, 2020년
이후 음성 영역에서 빠르게 발전하였다. SSL의 핵심 아이디어는 입력 신호의 일부를 마스킹하거나 변환한 뒤 모델이 원본을 복원하도록 학습하는 과정에서,
라벨 없이도 음향·음소·화자 수준의 풍부한 표현이 자연스럽게 획득된다는 것이다. 이러한 표현은 소량의 라벨 데이터만으로도 다양한 하류 과제에 효과적으로
전이될 수 있어, 라벨 확보가 본질적으로 어려운 임상 음성 분석 분야에서 특히 주목받고 있다. Baevski 등이 제안한 wav2vec 2.0은 원시
파형을 CNN 특징 추출기로 잠재 벡터 $z_t$로 변환한 뒤, 일정 비율을 마스킹하고 Transformer 컨텍스트 네트워크로 복원하는 contrastive
objective로 학습한다 [8]. 이후 Conneau 등은 이를 다국어로 확장한 XLSR을 제안하여, 53개 언어의 대규모 비라벨 음성을 단일 모델로 자가지도 사전학습함으로써 언어
간 전이가 가능한 범용 표현을 학습할 수 있음을 보였다[17]. LibriSpeech 960시간 기반 Base 모델(95M params)은 10분의 라벨만으로도 4.8% WER을 달성하여 SSL의 라벨 효율성을
입증하였다. Hsu 등이 제안한 HuBERT는 오프라인 k-means 클러스터로 생성한 이산 타겟을 BERT 스타일로 예측하는 방식을 채택하였으며,
wav2vec 2.0과 대등하거나 우수한 성능을 보였다 [13]. Chen 등은 WavLM에서 화자 잡음 혼합과 gated relative position bias를 도입하여 잡음·다화자 환경에서의 강건성을 강화하였다
[14]. 한편 Gong 등은 Mel-spectrogram에 Vision Transformer를 적용한 AST(Audio Spectrogram Transformer)를
제안하였으나, 이는 본질적으로 지도 학습 기반이라 소규모 임상 데이터에서는 과적합이 보고된다 [5].
2.3 자기 지도 모델의 임상 음성 응용
최근 자가지도 음성 모델을 임상 과제에 전이하는 연구가 증가하고 있다. Gauder 등은 ADReSSo 챌린지에서 wav2vec 2.0과 TRILL
임베딩을 비교하여, wav2vec 2.0 임베딩이 경량 분류기만 얹어도 78.3%의 정확도를 기록함을 보였다[15]. Balagopalan과 Novikova는 wav2vec 2.0 기반 feature extractor를 사용해 알츠하이머 진단에서 전통 OpenSMILE
특징 대비 +6.2%p의 개선을 보고하였다. 이들 연구는 대부분 영어권 임상 데이터에 한정되어 있으며, 한국어 일상 발화에 대한 검증은 사실상 공백
상태이다. 본 연구는 이러한 공백을 채우고자 한국어 wav2vec 2.0 사전학습 모델을 임상 코퍼스에 전이하는 체계적 시도이며, 정형 과제가 아닌
일상 발화라는 도전적 조건에서 성능을 검증한다는 점에서 차별성을 갖는다.
3. wav2vec 2.0 기반 한국어 일상 발화 치매 조기 탐지
본 연구는 정밀하게 통제된 병원 임상 환경이 아닌 잡음이 존재하는 일상 발화 음성으로부터 치매 징후를 초기에 탐지하기 위해 설계하였다.
그림 1 wav2vec 2.0 기반 3단계 치매 조기 탐지 프레임워크
Fig. 1. Overall three-step framework for early dementia detection
그림 1은 치매 조기 탐지 프레임워크의 전체 파이프라인을 나타낸 것이다. 본 장에서는 데이터 수집 및 전처리, wav2vec 2.0 백본과 분류 헤드 구조,
학습 및 추론 파이프라인을 단계별로 기술한다.
3.1 데이터셋 수집 및 전처리
본 연구는 가톨릭대학교 산학협력단이 AI Hub를 통해 공개한 「인지기능 장애 진단 음성/대화」 데이터셋을 활용한다. 해당 데이터셋은 치매·파킨슨병
등 고령자의 인지 기능 저하를 음성 바이오마커로 모니터링하기 위한 목적으로 구축되었으며, 전문 의료진의 신경심리 평가에 근거한 진단 라벨과 함께 원본
음성 및 잡음 제거본, 그리고 전사 스크립트를 함께 제공한다. 클래스별 분포는 표 1에 정리하였다.
표 1. AI Hub 데이터셋의 클래스 분포
Table 1. Class distribution of the AI Hub dataset
|
Category
|
Normal
|
MCI
|
AD
|
Total
|
|
Files
|
2,424
|
1,611
|
1,734
|
5,769
|
|
Proportion (%)
|
42.02
|
27.92
|
30.06
|
100.00
|
표 1을 보면 데이터셋 전체는 1,002명의 화자로부터 수집된 총 5,769개의 음성 파일, 약 672시간 분량으로 구성되며, 진단 라벨 분포는 정상(Normal)
2,424개(42.02%), 경도인지장애(MCI) 1,611개(27.92%), 알츠하이머형 치매(AD) 1,734개(30.06%)이다. 음성은 전용
SpeechTaskSet 앱 및 신경심리 검사 녹음 애플리케이션으로 수집되었다. 본 연구는 AI Hub를 통해 공개되어 별도의 사용 승인 절차에 따라
제공되는 공공 데이터를 활용하였으며, 데이터는 화자 식별 정보가 제거된 형태로 배포된다. 별도의 피험자 접촉이나 신규 데이터 수집은 수행하지 않았다.
표 2. 발화 과제 유형별 파일 분포
Table 2. Distribution of Speech Task Types
|
Category
|
No. of Files
|
Proportion (%)
|
Category
|
|
Free Conversation
|
2,192
|
38.0
|
Spontaneous
|
|
Picture Description
|
1,154
|
20.0
|
Semi-structured
|
|
Story Recall
|
1,038
|
18.0
|
Semi-structured
|
|
Word Fluency
|
808
|
14.0
|
Structured
|
|
Other Neuropsychological Tasks
|
577
|
10.0
|
Structured
|
|
Total
|
5,769
|
100.0
|
-
|
표 2에서 알 수 있듯이 자유 대화(Free Conversation)가 전체의 38.0%로 가장 큰 비중을 차지하며, 그림 설명(20.0%)·이야기 회상(18.0%)
등 반구조화 과제가 38.0% (그림 설명 20% + 이야기 회상 18%), 단어 유창성·신경심리 검사 등 구조화 과제가 24.0%를 구성한다. 기존
영어 벤치마크(ADReSS, ADReSSo)가 Cookie Theft 단일 과제에 집중된 것과 달리, 본 데이터셋은 다양한 발화 유형을 포함하여 일상
발화 기반 선별이라는 연구 목표에 부합한다.
본 연구에서 1,002명 화자의 원시 음성은 네 단계의 전처리를 거친다. 먼저 모든 파일을 wav2vec 2.0 입력 규격에 맞춰 16kHz 모노
PCM으로 리샘플링하고, WebRTC VAD(aggressiveness=2)를 적용해 침묵과 잡음 구간을 제거한 뒤, 목표 RMS −20dBFS로
레벨을 정규화하여 녹음 환경 차이를 보정한다. 마지막으로 8초 고정 길이(128,000 샘플)로 세그먼트를 분할하되 마지막 조각은 제로 패딩하고,
세그먼트 간 1초의 오버랩을 두어 증강 효과를 얻는다.
그림 2 클래스별 대표 Mel-spectrogram
Fig. 2. Representative Mel-spectrograms per clinical class
그림 2에서 정상(Normal) 화자의 스펙트로그램은 에너지 분포가 조밀하고 고주파 대역까지 규칙적인 조화 구조가 관찰되는 반면, MCI 화자는 에너지 밀도가
다소 감소하고 발화 간 시간 간격이 불규칙해지는 경향을 보인다. AD 화자의 경우 에너지 분포가 전반적으로 희소하며, 발화 사이에 뚜렷한 묵음 구간이
빈번하게 나타나고 고주파 대역의 스펙트럼 세부 정보가 현저히 감소하는 것을 확인할 수 있다. 이러한 클래스 간 스펙트럼 특성의 차이는 음성 신호만으로도
인지 기능 저하의 징후를 포착할 수 있음을 시사하며, 이를 기반으로 다음 절에서 기술하는 wav2vec 2.0 모델이 임상적으로 유의미한 표현을 학습할
수 있는 근거가 된다.
3.2 wav2vec 2.0 백본과 분류 헤드
제안 모델은 AI Hub 대화 음성으로부터 추출된 8초 원시 파형을 입력으로 받아 최종 3-클래스(Normal/MCI/AD) 확률을 산출하는 end-to-end
신경망이다. 전체 구조는 크게 CNN 특징 추출기, Transformer 컨텍스트 네트워크, Attentive Statistics Pooling,
분류 헤드의 네 단계로 구성된다.
먼저 CNN 특징 추출기는 7개의 1차원 컨볼루션 층으로 구성되고, 각 층은 각각 5, 2, 2, 2, 2, 2, 2의 스트라이드를 가져 16 kHz로
샘플링된 128,000 샘플의 원시 파형을 약 49 Hz 프레임 레이트의 512차원 잠재 시퀀스로 축약한다. 이 잠재 시퀀스는 약 399개의 프레임으로
구성되며, 각 프레임은 대략 20 ms의 음향 정보를 압축적으로 담고 있어 운율, 호흡, 미세 발성 변화와 같이 치매 전조 징후와 관련된 저수준 특성을
보존하는 데 유리하다. 이후 512차원 잠재 벡터는 feature projection을 거쳐 1024차원으로 변환되어 Transformer 컨텍스트
네트워크에 입력된다. 각 블록은 hidden 차원 1,024, 16개의 self-attention head, 4,096 차원의 feed-forward
계층을 가지며, 입력 단계에서는 학습된 positional convolution embedding이 더해져 시간적 순서를 보존한다. Transformer는
각 프레임이 전체 8초의 문맥을 양방향으로 참조하도록 하여, 단일 프레임만으로는 포착하기 어려운 말속도의 변동, 쉼 패턴, 장기 발화 일관성 같은
거시적 특성을 효과적으로 학습한다.
본 연구는 초기 가중치로 한국어 적합화 체크포인트 kresnik/wav2vec2-large-xlsr-korean(HuggingFace, large
규격: 24층·hidden 1024·16 head·FFN 4096, 파라미터 약 315M)를 사용하였다. 해당 체크포인트는 facebook/wav2vec2-large-xlsr-53을
백본으로 하여 53개 언어 약 56,000시간의 대규모 비라벨 음성에 대해 다국어 자가지도 사전학습을 수행한 후, 한국어 라벨 음성(Zeroth Korean)에
CTC 방식으로 ASR 미세조정된 모델이다. 따라서 본 백본의 자가지도 사전학습은 한국어 단독이 아닌 다국어(XLSR-53)로 수행되었으며, 한국어
적합화는 라벨 기반 ASR 미세조정을 통해 이루어진 것임에 유의한다. Transformer의 출력은 시간축 길이가 가변적이므로 이를 고정 길이 발화
임베딩으로 요약하기 위해 Attentive Statistics Pooling을 적용한다. 학습 가능한 attention 가중치가 각 프레임의 중요도를
평가하여 가중 평균과 가중 표준편차를 계산하고, 두 통계량을 연결해 2,048 차원의 발화 임베딩을 생성한다. 마지막으로 이 임베딩은 256 차원
은닉층을 가진 2층 MLP와 Dropout(0.3), ReLU를 거쳐 3-클래스 로짓을 산출한다.
3.3 학습 및 추론 파이프라인
제안 모델은 사전학습된 wav2vec 2.0의 풍부한 표현을 보존하면서 동시에 치매 분류 과제에 특화된 판별력을 확보하도록 학습되었다. 이를 위해
본 연구는 부분 미세조정, Focal Loss 기반 불균형 학습, 화자-독립 교차검증의 세 요소를 결합한다. CNN 특징 추출기는 전체 학습 과정에서
가중치를 동결하고, 24개의 Transformer 블록 가운데 상위 6개 블록과 분류 헤드만 미세조정한다. 이는 과적합을 억제하면서도 과제 특화적
문맥 표현을 효과적으로 학습하기 위한 설계이다.
본 데이터셋은 Normal, MCI, AD의 비율이 약 2424 : 1611 : 1734로 불균형하므로 이를 보정하기 위해 Focal Loss를 도입한다.
Focal Loss는 쉬운 샘플의 가중치를 낮추고, 어려운 샘플에 학습 신호를 집중시키는 효과를 갖는다. 따라서 집중 계수를 γ=2로 고정하고, 클래스
가중치를 로표준 역빈도 공식 α_c = N/(C·n_c)에 따라 산출하였다. 여기서 N=5,769(전체 샘플 수), C=3(클래스 수), n_c는
각 클래스의 샘플 수이다. 이를 적용하면 α_Normal = 5,769/(3×2,424)≈0.79, α_MCI = 5,769/(3×1,611)≈1.19,
α_AD =5,769/(3×1,734)≈1.11로 설정하였다. 이를 통해 수가 적은 AD 클래스에 대해서도 안정적인 학습이 가능해지고, 소수 클래스의
재현율이 떨어지는 문제를 완화할 수 있다. 최적화에는 AdamW 옵티마이저(학습률 2×10⁻⁵, weight decay 0.01)를 사용하고, 초기
1,000 스텝 동안 선형 워밍업 후 cosine 스케줄로 감쇠시킨다. 배치 크기는 16, 총 학습 에포크는 30으로 고정하며, 과적합을 추가로 방지하기
위해 시간축 RandomCrop과 소량의 Gaussian noise(σ=0.005) 증강을 적용한다. 학습 데이터의 분할은 화자 ID를 기준으로 한
5-폴드 교차검증으로 수행되어, 동일 화자의 발화가 학습과 검증에 섞이는 데이터 누수를 원천적으로 차단한다. 각 폴드에서 전체 화자의 80%를 학습,
20%를 검증에 사용하고, 최종 성능은 5개 폴드의 평균과 표준편차로 보고한다. 추론 단계에서는 테스트 화자의 발화를 8초 세그먼트로 분할해 모델에
개별 입력으로 넣고, 세그먼트별 소프트맥스 확률을 산술 평균하는 soft voting 방식으로 화자 단위 최종 진단을 산출한다. 이렇게 산출된 결과는
혼동행렬과 화자별 예측 확률로 시각화되며 세그먼트 단위 확률을 제공함으로써 임상의가 특정 구간에서의 모델 판단 근거를 확인할 수 있도록 설계하였다.
그림 3 파인튜닝 전·후 wav2vec 2.0 발화 임베딩의 t-SNE 투영
Fig. 3. t-SNE projection of wav2vec 2.0 utterance embeddings before and after fine-tuning
그림 3은 사전학습 상태(a)에서는 세 클래스가 심하게 겹쳐 분리 불가능하지만, 파인튜닝한 후(b)에는 Normal/MCI/AD 군집이 뚜렷이 분리되어 자기
지도 표현이 인지 상태 식별에 유효한 판별 축을 학습했음을 나타낸다.
4. 결과 및 성능 평가
앞서 제시한 wav2vec 2.0 기반 치매 조기 탐지 모델을 AI Hub 「인지기능 장애 진단 음성/대화」 데이터셋에 적용한 뒤, 주요 정량적 성능
지표를 분석한 결과를 제시한다. 본 연구에서는 제안 모델의 판별 성능을 다각도로 검증하기 위해 정확도(Accuracy), 정밀도(Precision),
재현율(Recall), F1-Score, 그리고 ROC-AUC를 평가지표로 채택하였다. 각 지표는 0에서 1 사이의 정규화된 값을 가지며, 1에 수렴할수록
모델의 분류 성능이 우수함을 시사한다. 정확도(Accuracy)는 전체 데이터셋 중 모델이 정답을 도출한 비율을 의미하며, 식 (1)과 같이 정의된다.
여기서 TP(True Positive)와 TN(True Negative)은 각각 양성과 음성을 정확히 분류한 사례이며, FP(False Positive)와
FN(False Negative)은 오분류된 사례를 의미한다. 정밀도(Precision)는 모델이 양성(MCI 또는 AD)으로 확신한 샘플 중 실제
양성의 비중을 나타내며 식(2)에 나타난다. 재현율(Recall)은 실제 환자군 중에서 모델이 놓치지 않고 포착해낸 비율을 측정하며 식 (3)과 같다.
정밀도와 재현율은 일반적으로 반비례 관계이므로, 본 연구에서는 두 지표의 균형적 성능을 평가하기 위해 조화평균인 F1-Score를 핵심 지표로 활용하였다.
F1-Score는 특정 클래스에 편향되지 않은 모델의 견고함을 평가하는 데 적합하며 식 (4)과 같이 정의된다.
정밀도와 재현율이 모두 높을수록 F1 score가 커지며, 어느 한쪽에만 치우칠 경우 상대적으로 낮아지는 경향을 보인다. 특히 본 연구처럼 MCI의
미탐지가 임상적으로 더 치명적일 수 있는 과제에서는 F1 score가 모델의 실제 유용성을 판단하는 중요한 지표가 된다. 본 연구는 3-클래스 문제이므로
클래스별 F1을 산술 평균한 Macro-F1을 대표 지표로 보고한다. 나아가 의료 음성 분류 모델의 성능을 종합적으로 평가하기 위해서는 ROC-AUC를
사용한다. ROC 곡선은 분류 임계값을 변화시키며 거짓양성률(FPR)을 가로축, 참양성률(TPR)을 세로축으로 나타낸 궤적이며, AUC는 이 곡선
아래 면적으로 정의된다. 식 (5)에서 적분 변수 u는 FPR 값(0에서 1)을 나타내며, TPR(u)는 해당 FPR 수준에서의 참양성률을 의미한다.
본 연구는 3-클래스 분류 문제이므로 one-vs-rest 방식으로 각 클래스에 대한 AUC를 계산한 뒤 이들의 평균적인 macro-AUC를 보고한다.
ROC-AUC가 높을수록 모델이 다양한 운영 임계값에서 정상군과 환자군을 안정적으로 구분할 수 있음을 의미한다. 위 지표들을 종합적으로 해석함으로써,
모델이 얼마나 정확하게 인지 상태를 예측·판단하는지, 불필요한 오탐을 어느 정도로 억제하는지를 평가할 수 있으며, 이를 통해 최종적으로 치매 조기
탐지 시스템의 실효성과 임상적 가치를 검증할 수 있다.
AI Hub 「인지기능 장애 진단 음성/대화」에서 1,002명의 화자를 대상으로 제안한 wav2vec 2.0 기반 모델을 학습한 결과를 표 3에 요약하였다. 본 연구는 데이터셋을 화자 ID 기준으로 5-폴드 교차검증 방식으로 분할하여 각 폴드에서 모델을 학습·튜닝한 후 최종 성능을 5개
폴드의 평균으로 보고하였다. 약 0.945의 정확도와 0.929의 재현율을 기록함으로써, 실제 인지 기능 저하 화자에 대한 미탐지율을 최소화한 선별이
가능함을 입증하였다. Macro-F1가 0.931, ROC-AUC가 0.958로 임계값 변동에도 분류 성능이 안정적인 균형을 이루고 있음을 시사한다.
표 3. wav2vec 2.0 기반 치매 탐지 성능
Table 3. wav2vec 2.0-based dementia detection of Proposed Model
|
Category
|
Accuracy
|
Precision
|
Recall
|
Macro-F1
|
ROC-AUC
|
|
Speaker-level (10-seg Soft Voting)
|
0.945
|
0.932
|
0.929
|
0.931
|
0.958
|
|
Segment-level (Single 8-sec)
|
0.891
|
0.884
|
0.877
|
0.880
|
0.921
|
표 3은 제안 모델의 화자 단위(10개 세그먼트 soft voting, 약 80초) 및 단일 8초 세그먼트 단위 성능을 비교한 것이다. Soft voting
적용 시 단일 세그먼트 대비 정확도 +5.4%p, ROC-AUC +3.7%p의 향상이 확인되며, 화자 단위 5-fold 표준편차는 0.008~0.021
범위이다.
wav2vec 2.0은 잡음이나 녹음 환경 편차, 화자 간 발화 길이의 불균형 같은 복잡한 상황에서도 비교적 안정적인 표현 학습 성능을 보인다. 이는
CNN 특징 추출기와 24층 Transformer 컨텍스트 네트워크가 53개 언어 대규모 비라벨 음성으로 자가지도 사전학습되면서 풍부한 저수준·고수준
음향 표현을 이미 확보하였고, 이후 한국어 ASR 적합화를 통해 한국어 음성에 대한 도메인 정합성이 추가로 강화되었기 때문이며, 소규모 임상 데이터에서도
후속 분류 헤드가 신뢰할 수 있는 판별 경계를 학습하게 해주는 기반 역할을 한다.
AI Hub 데이터셋은 정상(Normal), 경도인지장애(MCI), 알츠하이머형 치매(AD) 세 단계를 포함하고 있다. 임상적으로는 이 세 단계의
경계를 얼마나 정확히 구분하는가가 모델의 실제 유용성을 결정한다.
표 4. 클래스별 치매 탐지 성능 (5-fold 평균)
Table 4. Per-class dementia detection performance
|
Class
|
Accuracy
|
Precision
|
Recall
|
F1-score
|
ROC-AUC
|
|
Normal
|
0.967
|
0.958
|
0.967
|
0.962
|
0.981
|
|
MCI
|
0.912
|
0.912
|
0.893
|
0.902
|
0.936
|
|
AD
|
0.941
|
0.925
|
0.927
|
0.926
|
0.957
|
표 4는 각 클래스를 기준으로 제안 모델의 성능을 분해한 결과이다. 정상군에서는 F1 0.962, AD군에서는 0.926으로 높은 수준을 기록한 반면,
MCI군의 재현율은 0.893으로 상대적으로 낮게 나타났다. 이는 MCI가 정상과 치매 사이의 중간 단계로서 음향적 특성이 정상군과 부분적으로 겹치기
때문이며, 임상 문헌에서도 흔히 보고되는 경향과 일치한다. 그럼에도 MCI 역시 0.9 이상의 F1을 유지하여 제안 모델이 초기 단계의 인지 저하
징후를 상당 수준 포착할 수 있음을 보여 준다. 표 4의 5-폴드 표준편차는 0.012~0.019 범위이다.
표 5. 입력 특징 및 사전학습 모델에 따른 치매 탐지 성능 비교
Table 5. Comparison of dementia detection performance across input features and pre-trained
speech models
|
Model
|
Accuracy
|
Precision
|
Recall
|
F1-Score
|
ROC-AUC
|
|
(Baseline) MFCC + SVM
|
0.742
|
0.731
|
0.705
|
0.718
|
0.791
|
|
(a) AST [5] |
0.881
|
0.872
|
0.857
|
0.864
|
0.910
|
|
(b) HuBERT-base (English) [13] |
0.912
|
0.904
|
0.889
|
0.896
|
0.933
|
|
(c) Proposed Model
|
0.945
|
0.932
|
0.929
|
0.931
|
0.958
|
표 5에서는 입력 특징과 학습 구성을 달리했을 때의 성능 차이를 비교하였다. 공정한 비교를 위해 모든 비교 모델은 동일한 화자 단위 5-폴드 분할, 동일한
배치 크기(16), 동일한 에포크(30), AdamW 옵티마이저(lr=2×10⁻⁵)를 적용하였다. 단, Focal Loss와 Attentive Statistics
Pooling은 제안 모델에만 적용하였으며, (a) AST와 (b) HuBERT-base에는 Weighted Cross-Entropy를 사용하였다.
이는 각 모델의 원설계 철학을 유지하면서도 사전학습 언어 및 아키텍처의 순수한 효과를 분리하여 평가하기 위함이다. Baseline·(a)·(b)의
표준편차는 0.011~0.019 범위이다.
표 6. 설계 선택에 따른 Ablation 결과
Table 6. Ablation Study on Design Choices
|
Loss
|
Fine-tuning Scope
|
pooling
|
Accuracy
|
Recall
|
F1
|
Note
|
|
Weighted CE
|
Top-6 Layers
|
ASP
|
0.921
|
0.907
|
0.912
|
w/o Focal Loss
|
|
Focal Loss
|
All Layers
|
ASP
|
0.931
|
0.916
|
0.921
|
Full fine-tuning
|
|
Focal Loss
|
Top-6 Layers
|
Mean Pooling
|
0.928
|
0.913
|
0.918
|
w/o ASP
|
|
Focal Loss
|
Top-6 Layers
|
ASP
|
0.945
|
0.929
|
0.931
|
Proposed
|
표 6은 손실 함수, 미세조정 범위, 풀링 방식 각각의 기여도를 단일 변수 변경 방식으로 비교한 ablation 결과이다. Weighted CE 대비 Focal
Loss 도입 시 F1 +1.9%p, 전체 Transformer 미세조정 대비 상위 6층 부분 미세조정 시 F1 +1.0%p, Mean Pooling
대비 ASP 적용 시 F1 +1.3%p의 향상이 각각 확인된다. 세 요소를 모두 결합한 제안 모델이 최고 성능(Accuracy 0.945, F1 0.931)을
달성하였다. 화자 단위 5-fold 표준편차는 0.009~0.018이다. 특히 전체 Transformer 미세조정(All Layers)이 상위 6층
부분 미세조정보다 오히려 F1이 1.0%p 낮게 나타난 점에 주목할 필요가 있다. 이는 약 5,769개 규모의 임상 음성 데이터로 24층 전체(약
315M 파라미터)를 미세조정할 경우, 사전학습 단계에서 확보된 저수준 음향 표현이 소규모 데이터의 잡음과 화자 편향에 과도하게 적응하여 일반화 성능이
저하되는 과적합 현상으로 해석된다. 반면 하위 층을 동결하고 상위 6층만 미세조정하면 범용 음향 표현은 보존하면서 과제 특화적 문맥 표현만 선택적으로
조정되므로, 제한된 데이터 환경에서 더 안정적인 판별 경계를 학습할 수 있다.
결과적으로, kresnik/wav2vec2-large-xlsr-korean을 사용하는 제안 모델(c)에서 Accuracy(0.945), F1(0.931),
ROC-AUC(0.958)가 모두 가장 높게 나타났다. 이러한 지도학습 기반 AST 대비 +6.4%p, 영어권 HuBERT 대비 +3.3%p의 정확도
향상은 '다국어 자가지도 표현과 한국어 도메인 적합화의 결합'이 단순한 모델 크기 확장이나 지도학습 강화보다 더 본질적인 기여를 함을 시사한다. 모델
규모 효과와 도메인 적합화 효과의 분리 검증은 5절 향후 연구에서 다룬다.
본 연구에서 동일 데이터셋에 MFCC 기반 SVM 분류기를 재현한 결과, 평균 Precision은 0.731, Recall은 0.705, F1-score는
0.718로 보고되었다. 본 연구의 (c) 구성은 동일한 AI Hub 데이터셋을 활용하면서도 성능 지표 전반에서 유의미한 수준의 성능 향상을 달성하였다.
특히 F1-score는 0.931로, 약 21.3%p 향상되었으며, 이는 전통적인 수작업 특징 기반 접근보다 대규모 자가지도 사전학습을 전이한 end-to-end
모델이 한국어 일상 발화 기반 치매 탐지에 훨씬 효과적임을 실험적으로 입증한다.
본 연구는 AI Hub 「인지기능 장애 진단 음성/대화」 데이터셋을 기반으로 모델을 학습 및 평가하였다. 제안한 wav2vec 2.0 기반 구조는
다양한 한국어 임상 음성 환경에도 적용 가능하도록 설계되었다. 특히 wav2vec 2.0은 다양한 녹음 조건에서의 음성 표현 학습에 강인한 성능을
보이며, 분류 헤드는 과제 특화적 미세조정에 유연성을 갖기 때문에 타 기관에서 수집된 치매 선별 음성 데이터에서도 유사한 성능을 기대할 수 있다.
5. 결 론
본 연구는 wav2vec 2.0 기반 전이학습을 이용하여 한국어 일상 발화만으로 치매를 조기 탐지하는 프레임워크를 제안하였다. 기존 연구가 가지던
라벨 부족, 정형 과제 의존, 수작업 특징의 한계를 다국어 자가지도 사전학습(XLSR-53) 및 한국어 ASR 라벨 미세조정을 통한 도메인 적합화
체크포인트 활용, 일상 발화 프로토콜, end-to-end 표현 학습으로 대응하였으며, AI Hub 「인지기능 장애 진단 음성/대화」 데이터셋에 대한
화자 독립 5-폴드 교차검증에서 정확도 94.5%, Macro-F1 0.931, ROC-AUC 0.958의 경쟁력 있는 성능을 달성하였다. 그러나
본 데이터셋은 특정 기관 주도로 수집되어 지역·방언·녹음 환경의 다양성이 제한되어 실제 임상 배포 시 도메인 편향에 노출될 가능성이 있다. 한편 본
연구의 제안 모델(약 315M)과 비교군인 HuBERT-base(약 95M) 간에는 파라미터 규모의 차이가 존재하므로, 성능 우위를 한국어 도메인
적합화의 효과로 전적으로 귀속하기에는 신중함이 요구된다. 향후 동일 규모의 영어 large 모델(예: wav2vec2-large-xlsr-53, HuBERT-large)을
동일 학습 조건에서 비교하여, 모델 규모 효과와 한국어 도메인 적합화 효과를 분리 검증할 계획이다. 또한 Normal과 AD 사이의 판별 성능은 높으나
MCI 초기 단계의 재현율(0.893)은 여전히 개선 여지가 크다. 이를 극복하기 위해 향후에는 MCI 클래스에 특화된 보조 손실 함수(auxiliary
contrastive loss)를 도입하거나, 세그먼트 단위가 아닌 화자 전체 발화의 장기 시퀀스를 입력으로 활용하는 계층적 모델링(hierarchical
modeling)을 탐색할 계획이다. 또한 발화 속도, 쉼 패턴, 어휘 다양성 등 MCI 민감 언어 특징을 음향 임베딩에 명시적으로 결합하는 멀티모달
접근이 MCI 민감도 향상에 기여할 수 있을 것으로 기대된다.
따라서 향후에는 다기관·다방언 수집을 통해 수도권 외 지역·다양한 연령대·교육 연수를 고르게 포함하는 확장 코퍼스를 구축하고, 인구통계 변수에 대한
교차 검증을 강화할 필요가 있다. 경량화 측면에서는 대형 교사 모델(wav2vec 2.0)의 지식을 소형 학생 모델로 전이하는 Knowledge Distillation(KD)과,
8-bit 양자화(Post-Training Quantization)를 결합하여 파라미터를 현재의 약 1/4 수준으로 압축하고 스마트폰·엣지 디바이스에서의
실시간 추론(≤100 ms/세그먼트)을 지원할 계획이다. 설명 가능성(XAI) 측면에서는 Integrated Gradients와 SHAP(SHapley
Additive exPlanations)을 Transformer 어텐션 층에 적용하여 세그먼트 내 어느 시간 구간·주파수 대역이 MCI·AD 판정에
기여했는지를 임상의가 직관적으로 확인할 수 있는 시각화 모듈을 제공할 계획이다 [16]. 멀티모달 융합 측면에서는 ASR 전사 텍스트로부터 추출한 명사·동사 비율, 담화 응집성 지수 등의 언어 특징을 음향 임베딩과 결합하는 크로스모달
어텐션 구조를 탐색한다. 이러한 후속 연구가 수행된다면, 본 프레임워크는 원격 치매 선별 및 지속적 모니터링을 위한 실제 임상 도구로 발전할 수 있을
것이다.
Acknowledgements
This research was supported by the MSIT(Ministry of Science and ICT), Korea, under
the National Program for Excellence in SW supervised by the ITP(Institute of Information
& communications Technology Planing Evaluation)(2021-0-01393)
References
A. König, A. Satt, A. Sorin, R. Hoory, O. Toledo-Ronen, A. Derreumaux, V. Manera,
F. Verhey, P. Aalten, P. H. Robert, R. David, "Automatic speech analysis for the assessment
of patients with predementia and Alzheimer's disease," Alzheimer's & Dementia: Diagnosis,
Assessment & Disease Monitoring, vol. 1, no. 1, pp. 112-124, 2015.

K. C. Fraser, J. A. Meltzer, F. Rudzicz, "Linguistic features identify Alzheimer's
disease in narrative speech," Journal of Alzheimer's Disease, vol. 49, no. 2, pp.
407-422, 2016.

F. Eyben, K. R. Scherer, B. W. Schuller, J. Sundberg, E. André, C. Busso, L. Y. Devillers,
J. Epps, P. Laukka, S. S. Narayanan, K. P. Truong, "The Geneva minimalistic acoustic
parameter set (GeMAPS) for voice research and affective computing," IEEE Transactions
on Affective Computing, vol. 7, no. 2, pp. 190-202, 2016.

A. Balagopalan, B. Eyre, F. Rudzicz, J. Novikova, "To BERT or not to BERT: comparing
speech and language-based approaches for Alzheimer's disease detection," pp. 2167-2171,
2020.

Y. Gong, Y.-A. Chung, J. Glass, "AST: audio spectrogram transformer," pp. 571-575,
2021.

S. Luz, F. Haider, S. de la Fuente, D. Fromm, B. MacWhinney, "Alzheimer's dementia
recognition through spontaneous speech: the ADReSS challenge," pp. 2172-2176, 2020.

S. Luz, F. Haider, S. de la Fuente, D. Fromm, B. MacWhinney, "Detecting cognitive
decline using speech only: the ADReSSo challenge," pp. 3780-3784, 2021.

A. Baevski, H. Zhou, A. Mohamed, M. Auli, "wav2vec 2.0: a framework for self-supervised
learning of speech representations," Advances in Neural Information Processing Systems,
vol. 33, pp. 12449-12460, 2020.

National Information Society Agency, dataSetNumber=217, Seoul, Republic of Korea.
[Online]. Available: https://aihub.or.kr/aihubdata/data/view.do?dataSetSn=217, "Cognitive
function impairment diagnosis voice/conversation dataset," AI Hub, 2020.

T.-Y. Lin, P. Goyal, R. Girshick, K. He, P. Dollár, "Focal loss for dense object detection,"
pp. 2980-2988, 2017.

P. A. Pérez-Toro, S. P. Bayerl, T. Arias-Vergara, J. C. Vásquez-Correa, P. Klumpp,
M. Schuster, E. Nöth, J. R. Orozco-Arroyave, K. Riedhammer, "Influence of the interviewer
on the automatic assessment of Alzheimer's disease in the context of the ADReSSo dataset,"
pp. 3785-3789, 2021.

M. Martinc, F. Haider, S. Pollak, S. Luz, art. 642647, "Temporal integration of text
transcripts and acoustic features for Alzheimer's diagnosis based on spontaneous speech,"
Frontiers in Aging Neuroscience, vol. 13, pp. 1-15, 2021.

W.-N. Hsu, B. Bolte, Y.-H. H. Tsai, K. Lakhotia, R. Salakhutdinov, A. Mohamed, "HuBERT:
self-supervised speech representation learning by masked prediction of hidden units,"
IEEE/ACM Transactions on Audio, Speech, and Language Processing, vol. 29, pp. 3451-3460,
2021.

S. Chen, C. Wang, Z. Chen, Y. Wu, S. Liu, Z. Chen, J. Li, N. Kanda, T. Yoshioka, X.
Xiao, J. Wu, L. Zhou, S. Ren, Y. Qian, Y. Qian, J. Wu, M. Zeng, X. Yu, F. Wei, "WavLM:
large-scale self-supervised pre-training for full stack speech processing," IEEE Journal
of Selected Topics in Signal Processing, vol. 16, no. 6, pp. 1505-1518, 2022.

L. Gauder, L. Pepino, L. Ferrer, P. Riera, "Alzheimer disease recognition using speech-based
embeddings from pre-trained models," pp. 3795-3799, 2021.

M. Sundararajan, A. Taly, Q. Yan, "Axiomatic attribution for deep networks," vol.
70, pp. 3319-3328, 2017.

A. Conneau, A. Baevski, R. Collobert, A. Mohamed, M. Auli, "Unsupervised cross-lingual
representation learning for speech recognition," pp. 2426-2430, 2021.

H. Gwon, B. An, J. Jeong, K. Kwon, "AI-based drunk and drowsy driving accident prevention
system," Journal of Artificial Intelligence Convergence Technology, vol. 5, no. 4,
pp. 199-205, 2025.

H. Jung, S.-M. Jo, "Trends analysis of deep learning-based sentimental analysis model,"
Journal of Artificial Intelligence Convergence Technology, vol. 5, no. 4, pp. 282-288,
2025.

저자소개
She is currently pursuing the Undergraduate Research Assistant in the Department of
Computer Science, Kyonggi University, Korea, and is a researcher at the Data Mining
Laboratory, Kyonggi University. Her research interests include computer vision, data
mining, and LLM.
He has received B.S., M.S., and Ph.D. degrees in 2000, 2002, and 2005, respectively,
all from the Department of Computer Information Engineering, Inha University, South
Korea in 2000, 2002, and 2005, respectively. He has worked for the Software Technology
Leading Department, Korea IT Industry Promotion Agency (KIPA). He has been a professor
in the Division of AI Computer Science and Engineering, Kyonggi University, South
Korea. He was named a 2017 Highly Cited Researcher by Clarivate Analytics. Since 2021,
he has served as Editor-in-Chief of the Journal of Artificial Intelligence Convergence
Technology and as Vice President of the Korea Artificial-Intelligence Convergence
Technology Society.