이주영
(Ju-Young Lee)
1†iD
-
(Agency for Defense Development, Korea)
Copyright © The Korean Institute of Electrical Engineers(KIEE)
Key words
Infrared image, Coast targets, Long short term memory, Convolutional neural network
1. 서론
본 논문에서는 계절에 따른 해상 소형표적의 적외선 방사 특징을 분석하고, 분석결과를 바탕으로 인공지능 신경망으로 적외선 방사특징을 학습하고, 표적과
클러터를 구분하는 방법에 기계적 다중인격을 도입한 인공지능 신경망과 융합하여 성능을 개선한 내용에 대해 실험을 통해 제시한다.
우리나라는 4계절이 뚜렷하고, 기온과 수온의 변화에 따라 해상환경이 다양한 특징을 나타낸다. 그리고 해상환경에 위치해 있는 소형표적 또한 수시로 변하는
주변 환경에 의해 일정하지 않은 적외선 방사 특징을 갖는다(1). 또한 해수면의 태양 직사광 반사 특성 역시 해수면의 기울기 분포와 태양의 위치 및 계절에 따라서 다양한 특성을 나타낸다(2). 그렇기 때문에 이러한 소형표적과 해수면 배경의 특징을 사전에 파악하고 해수면 클러터들과 적절하게 분류해 내는 문제는 표적탐지의 정확도를 높이기
위한 방법 중에서도 매우 중요한 사항이다.
해수면에서의 표적탐지 알고리듬은 기본적으로 표적과 클러터를 분류하기 위한 방법들을 적용하고 있으며, RDL(Robust Dictionary Learning)방법,
QFT(Quaternion Fourier Transform)방법 등 관련된 많은 연구가 진행되어 왔다(3,4). 하지만 이러한 방법들은 표적과 클러터가 기온과 수온의 다양한 변화에 따라 유사한 형태를 띄는 등의 상황에서는 제한적이다.
따라서 이러한 상황을 극복하고 분류기의 성능을 높이는 것이 요구되나 자원이 제한된 소형 센서 시스템의 실시간성을 고려하면 성능을 높이기 위해 연산량을
무작정 늘릴 수는 없다. 연산량의 증가를 최소화하면서도 정확도를 높이는 것이 최우선적으로 고려되어야 할 상황이다. 이러한 상황을 해결하기 위해 별도의
탐지 알고리듬을 통해 후보로 포착한 표적의 배경과 신호세기차를 분석해서 CNN(Convolutional Neural Network)의 층을 최대한
늘리지 않으면서 정확도를 개선할 수 있는 서로 다른 CNN 학습모델을 사용하는 Du-CNN(Duality of CNN) 알고리듬이 제안되었다(5,6). 이외에도, 다수의 정찰용 드론을 활용해서 표적정보(영상, 위치, 크기)를 획득하여 사격통제장치에 전송하고, 표적정보를 수신 받은 사격통제장치는
표적정보를 분석하여 타격 정확도가 높은 유도 알고리듬을 선택하도록 하는 방법도 제안된 바 있다(7).
이러한 방법들은 연산량의 증가를 최소화하면서도 정확도를 높일 수는 있지만, 표적과 배경의 신호세기차를 분석하는 연산이나 정찰용 드론을 별도로 제작해서
표적특성 분석에 이용하는 등의 표적정보제공을 위한 추가적인 연산 또는 시스템이 필요하다. 그러므로 본 논문에서는 이러한 추가적인 사항들이 필요 없는
LSTM 신경망(8) 학습을 이용한 표적특성 예측방법을 제안하고, 인간의 다중인격 활용방법 기반의 Du-CNN 이미지인식 알고리듬을 융합함으로써 해상 소형표적의 표적과
클러터를 구분하는 새로운 방법을 제안한다.
2장에서는 계절별 해수면의 적외선 방사특징을 분석하고, 3장에서는 LSTM 신경망을 적용한 적외선 방사특징 학습방법을 제안한 후, 4장에서는 LSTM
방사특징 예측과 Du-CNN 이미지 분류방법을 융합한 CR-DuNN 알고리듬을 제안하겠다. 그리고 5장에서는 제안한 방법을 이용하여 실험한 결과를
제시한다.
2. 계절별 해수면의 적외선 방사특징 분석
해상에 위치한 소형표적은 수온, 기온, 진입방향, 진입각도, 표적과의 거리 등의 변수들에 의해서 다양한 적외선 방사특징을 나타낼 수 있다. 또한 계절별로
위의 변수들이 어떠한 특징을 나타내는지 분석하는 것은, 주변 환경들에 의해 해상 소형표적의 적외선 방사특징이 어떠한 특징을 나타내는지 예측하는 데
좋은 참고자료가 될 수 있다. 본 장에서는 계절을 하절기, 동절기, 봄가을 3가지 부분으로 나누고 적외선 방사특징을 분석한 후, 1년간의 계절변화에
따른 해상 소형표적의 적외선 방사특징을 분석한 결과를 제시하고 표적과 배경의 신호세기를 계절별로 비교해서 나타낸다. 표적과의 거리는 센서가 표적영상
획득을 위해 진입하는 원거리 시점의 방사특징을 분석하겠다.
6, 7, 8월을 나타내는 하절기 해상 소형표적의 적외선 방사특징을 그래프로 나타내면 그림. 1과 같다.
그림. 1. 하절기 해상 소형표적의 적외선 방사특징
Fig. 1. Infrared features of small coast targets in summer season
그림 1의 x축은 6, 7, 8월의 하절기 시간 흐름을 나타내고, y축은 신호세기 값을 나타낸다. 적색 곡선은 해상 소형표적의 신호세기이고, 노란색
곡선은 해수면의 신호세기이다. 각각은 target과 background로 그림. 1에 표시되어 있다. 녹색 직선은 하절기 해상 소형표적의 평균 신호세기이고, 청색 직선은 하절기 해수면의 평균 신호세기이다. 각각은 target average와
background average로 그림. 1에 표시되어 있다. 해상 소형표적의 신호세기가 해수면의 신호세기보다 전부 크다는 것을 알 수 있다.
12, 1, 2월을 나타내는 동절기 해상 소형표적의 적외선 방사특징을 그래프로 나타내면 그림. 2와 같다.
그림. 2. 동절기 해상 소형표적의 적외선 방사특징
Fig. 2. Infrared features of small coast targets in winter season
그림. 2의 x축은 12, 1, 2월의 하절기 시간 흐름을 나타내고, y축은 신호세기 값을 나타낸다. 각각의 곡선과 직선이 나타내는 의미는 그림. 1과 동일하다. 해수면의 신호세기가 해상 소형표적의 신호세기보다 큰 경우도 있다는 것을 알 수 있다.
3, 4, 5, 9, 10, 11월을 나타내는 봄가을 해상 소형표적의 적외선 방사특징을 그래프로 나타내면 그림. 3과 같다.
그림. 3. 봄가을 해상 소형표적의 적외선 방사특징
Fig. 3. Infrared features of small coast targets in spring/fall season
그림. 3의 x축은 봄가을 시간 흐름을 나타내고, y축은 신호세기 값을 나타낸다. 각각의 곡선과 직선이 나타내는 의미는 그림. 1과 동일하다. 해수면의 신호세기가 해상 소형표적의 신호세기보다 큰 경우도 있다는 것을 알 수 있다.
해상 소형표적의 1년간 계절변화에 따른 적외선 방사특징을 종합해서 그래프로 나타내면 그림. 4와 같다.
그림. 4. 1년간 해상 소형표적의 적외선 방사특징
Fig. 4. Infrared features of small coast targets in four season
1년간의 적외선 방사특징을 통해, 표적의 신호세기가 배경의 신호세기가 큰 경우가 많지만, 배경의 신호세기보다 낮아지는 경우도 있다는 것을 알 수 있다.
계절별로 해상 소형표적의 신호세기를 나타내면 그림. 5와 같다.
그림. 5. 계절별 해상 소형표적의 신호세기
Fig. 5. Infrared signal intensity of small coast target by seasons
그림. 5의 x축은 각 계절별 시간흐름을 나타내고, y축은 신호세기 값을 나타낸다. 적색 선은 하절기의 표적 신호세기 값이고, 녹색 선은 봄가을의 표적 신호세기
값이며, 노란 선은 겨울철의 표적 신호세기 값이다. 각각은 summer, spring fall, winter로 그림. 5에 표시되어 있다. 하절기, 봄가을, 동절기 순으로 신호세기 크기가 정렬되지만, 동절기의 신호세기가 봄가을 보다 커지는 경우도 있다는 것을 알 수
있다. 그림. 6은 해상 배경의 신호세기를 나타낸다.
그림. 6. 계절별 해상 배경의 신호세기
Fig. 6. Infrared signal intensity of sea background by seasons
해상 배경의 신호세기도 표적의 신호세기와 비슷한 경향을 나타낸다는 것을 알 수 있다.
3. LSTM 신경망을 적용한 방사특징 학습
해상 소형표적의 적외선 방사특징은 1년간 계절변화와 진입방향, 진입각도, 수온, 기온, 표적과의 거리 등의 변수에 의해 신호세기의 차이가 다양하게
나타난다는 것을 2장을 통해서 확인할 수 있었다. 본 장에서는 이러한 5가지 변수에 따른 해상 소형표적과 해수면의 신호세기 차이를 학습하고, 학습모델을
바탕으로 현재 주어진 환경에서 해상 소형표적과 해수면의 신호세기 차이가 얼마나 있을지 방사특징을 예측하는 시스템을 제안하고, 학습결과 그래프를 통해
가능성을 보인다.
학습을 진행하는 학습모델의 구조는 그림. 7과 같이 LSTM (Long Short Term Memory) 순환신경망을 이용해서 학습했다. 기온, 수온, 진입각도, 진입방향, 표적과의 거리를
5가지 변수의 시계열 데이터로 배치해서 LSTM 순환신경망을 통과시키고, 해상 소형표적의 적외선 방사특징에 해당하는 예측수치는 소프트맥스 활성화함수를
이용해서 16가지 level로 예측하도록 했다.
그림. 7. 적외선 방사특징 예측시스템 LSTM 모델 구조
Fig. 7. LSTM model structure of infrared feature prediction system
다양한 해상환경과 표적거리를 나타내는 5,120개의 데이터를 정리해서 학습을 위한 데이터로 사용하였으며, 가중치 및 바이어스의 최적화를 위해 같은
학습을 40,000번 반복했다. 그리고 행렬백터 연산을 간략화하기 위해, 5,120개의 배치리스트를 동시에 계산했다. 학습결과에 대한 손실함수와 정확도
그래프는 그림. 8과 같다.
그림. 8. 적외선 방사특징 예측시스템 손실함수/정확도
Fig. 8. loss-function/accuracy of infrared feature prediction system
4. LSTM 예측과 Du-CNN 이미지 분류의 융합
Du-CNN은 Duality of CNN의 약어로써, 표적과 클러터의 구분이라는 같은 주제에 대해서 서로 다른 label 수로 학습된 CNN 구조를
각각 다르게 학습된 기계의 다중인격이라고 보고, 경우에 따라 어떤 machinality의 판단을 이용하는지를 서로 다르게 하는 방법이다(5). 이 방법에서는 서로 다른 machinality의 장점을 최대한 이용하기 위해 별도의 탐지 알고리듬을 통해 후보로 포착한 표적이 역상일 때는 다양하게
생각하는 complex machinality가 판단한 결과를 이용하고, 표적이 백상일 때는 단순하게 생각하는 simple machinality가 판단한
결과를 이용한다. 이 방법을 이용하면 실시간으로 동작하는 소형 센서 processor 연산량의 증가를 최소화하고 정확도를 높이는 것이 가능하지만,
표적분류에 해당하는 본 연산에 들어가기 위한 전처리로 포착한 표적이 역상인지 백상인지 판단하는 연산이 필요하기 때문에 불필요한 추가 연산이 발생하고,
온도차가 크지 않은 환경에서는 표적을 클러터로 인식하는 miss alarm이 크게 발생하는 단점이 있다.
3장에서 제안한 LSTM을 이용한 적외선 방사특징 학습모델을 이용하면 표적이 역상인지 백상인지 판단하는 불필요한 추가연산을 발생하지 않고 표적과 배경의
신호세기 차를 단순하게 역상과 백상이 아니라 16개의 level로 더욱 정밀하게 나누어서 예측하는 것이 가능하다. 또한 온도차가 크지 않은 환경을
미리 예측해서 이러한 상황에서는 표적과 클러터를 분류하는 Du-CNN 알고리듬을 이용하는 것보다 표적탐지 알고리듬이 포착한 표적을 실제표적이라고 고려하고
진행하는 것이 훨씬 유리하기 때문에 상황에 따라 Du-CNN 알고리듬 사용유무도 결정할 수 있다. 이렇게 표적특성을 사전에 예측하는 LSTM 순환신경망과
다중 “machinality”로 이루어진 CNN 구조인 “Du-CNN”을 융합한 인공지능 알고리듬을 “CRoss Duality of Neural Network”,
줄여서 “CR-DuNN”이라 하겠다. CR-DuNN의 구조는 그림. 9와 같다.
그림. 9. CR-DuNN 알고리듬 구조
Fig. 9. Algorithm structure of CR-DuNN
주변 환경에 따른 표적의 적외선 방사특징을 예측하는 LSTM 신경망은 3장에서 제안한 구조와 동일하게 기온, 수온, 진입각도, 진입방향, 표적과의
거리 정보를 입력으로 받아서 16가지 level로 예측을 한다. 그 다음은 표적을 탐지하는 단계인데, 표적탐지 알고리듬은 영상품질을 평가하는 알고리듬
중 하나인 SSIM (Structural Similarity Index Measure)을 이용한다(10). 이동표적을 탐지하는 데 SSIM을 이용한 방법(11)을 응용해서, 주변대비 유사도가 낮은 영역은 전부 표적후보로 올리도록 했는데, 이렇게 하면 표적으로 분류될 수 있는 가능성이 존재하는 영역들은 하나도
빠짐없이 표적후보로 올라오게 된다. 그리고 적외선 방사특징 level이 8에서 16 사이면 표적탐지 알고리듬을 통해 후보로 포착한 표적에 대해 Du-CNN의
Simple Machinality를 이용해서 표적분류를 수행한다. 이 경우는 하절기에 발생빈도가 높다. 또한 적외선 방사특징 level이 1에서 4
사이일 때는 표적탐지 알고리듬을 통해 후보로 포착한 표적에 대해 Du-CNN의 Complex Machinality를 이용해서 표적분류를 수행한다.
이 경우는 동절기에 발생빈도가 높고, 봄가을에도 드물게 발생한다. 만약 적외선 방사특징 level이 5에서 7 사이인 경우에는 주변 환경에 의해서
해상소형표적과 해수면 배경과의 신호세기 차이가 크게 나지 않는 상황이기 때문에, Du-CNN의 표적과 클러터 분류 알고리듬을 전혀 이용하지 않고 표적탐지
알고리듬을 통해 후보로 포착된 표적은 우리가 목표로 하는 해상 소형표적이라고 판단을 한다. 이 경우는 봄가을에 발생빈도가 높고, 동절기에도 드물게
발생한다. 해상 소형표적과 해수면 배경과의 신호세기 차이가 크게 나지 않는 환경에서 어렵게 표적후보를 포착하고 표적과 클러터 분류 알고리듬을 적용한다는
것은, 표적을 클러터로 인식할 수 있는 miss alarm 확률을 높이는 원인을 제공하기 때문에, 이 방법은 적절한 방법이라고 할 수 있다.
5. CR-DuNN을 이용한 표적과 클러터 구분 결과
표 1은 총 53,119개의 실험데이터 중에서, CR-DuNN을 이용한 방법과 기존의 방법을 이용했을 때의 성능 차이점을 나타낸다.
표 1. 표적과 클러터 구분 결과 비교
Table 1. Comparison result of classification
CNN level
|
FC level
|
LSTM prediction
|
Machinality
|
Success Rate(%)
|
Conv. 2
Pooling. 2
|
3
|
Not
|
Complex
(10 Label)
|
88.73
|
Conv. 2
Pooling. 2
|
3
|
Not
|
Simple
(3 Label)
|
90.08
|
Conv. 3
Pooling. 2
|
3
|
Not
|
Previous[9]
(3 Label)
|
91.38
|
Conv. 2
Pooling. 2
|
3
|
Not
|
Du-CNN[5]
|
92.49
|
Conv. 2
Pooling. 2
|
3
|
Apply
|
CR-DuNN
|
93.05
|
표적과 클러터를 구분하는 데에 제안한 CR-DuNN 구조를 이용하면, 기존의 단일 machinality의 학습내용을 이용하는 것보다 성능이 좋아지는
것뿐만 아니라, Du-CNN을 이용하는 것보다도 성능이 좋은 것을 알 수 있다. complex machinality만 이용했을 때의 성공률은 약 88.73%로,
CR-DuNN보다 약 4.32% 낮았다. simple machinality만 이용했을 때의 성공률은 약 90.08%로, CR-DuNN보다 약 2.97%
낮았다. 또한 기존 연구[9]에 전결합층을 2개 추가한 CNN신경망을 이용했을 때의 성공률은 약 91.38%로, CR-DuNN보다 약 1.67% 낮았다.
Du-CNN을 이용했을 때의 성공률은 약 92.49%로, 기존의 방법들 중에서 가장 높았다. 하지만 제안한 CR-DuNN의 성공률은 약 93.05%로,
Du-CNN보다 약 0.56% 성능이 개선되었다는 것을 알 수 있다. 따라서 제안한 CR-DuNN을 이용하면, 주변 환경에 의한 표적의 적외선 방사특징을
예측해서 추가적인 연산 없이 정확도를 높일 수 있다는 것을 확인하였다.
6. 결 론
본 논문에서 제안된 CR-DuNN 구조는 주변 환경에 따라 표적의 적외선 방사특징을 예측하는 LSTM 인공지능 신경망과 CNN 앙상블 방법의 일종이라
할 수 있는 Du-CNN 알고리듬을 융합한 새로운 방법으로써, 표적과 클러터를 구분하는 주제에 적용했을 때 성능을 높일 수 있다는 것을 실험을 통해
확인하였다. 계절에 따른 해상 소형표적의 적외선 방사 특징을 분석하고, 분석결과를 바탕으로 LSTM 인공지능 신경망 학습모델을 설계하여 주변 환경에
따른 표적특성을 사전에 예측하도록 하였으며, 그 결과를 바탕으로 표적분류를 위한 CNN 신경망을 이용하도록 구성하였다.
본 논문에서 제안한 구조를 이용해서 표적특성 예측을 위한 환경변수 학습데이터를 다양하게 확보한 후 더욱 성능을 높일 수 있는 딥러닝 학습모델을 적용한다면,
해상 소형표적과 해수면 클러터의 분류 정확도를 더욱 높일 수 있을 것으로 기대한다.
References
Lee Juyoung, et al., November. 2018, An Analysis of Infrared Feature for the Small
Coast Targets and applying The Artificial Intelligence Method, KIMST Fall Conference
Proceedings, pp. 1201-1202
Kim Kyung Ha, 2018, A Study on the characteristics of Sunglint in LongWave InfraRed
Band, KIMST, Vol. 21, No. 3, pp. 306-314
Yang C., Liu H., Liao S., Wang S., 2015, Small Target Detection in Infrared Video
Sequence using Robust Dictionary Learning, Infrared Physics & Technology, Vol. 68,
pp. 1-9
Qi S., Ma J., Li H., Zhang S., Tian J., 2014, Infrared Small Target Enhancement via
Phase Spectrum of Quaternion Fourier Transform, Infrared Physics & Technology, Vol.
62, pp. 50-58
Lee Juyoung, et al., Dec. 2017, A Design of Du-CNN based on the Hybrid Machine Characters
to Classify Target and Clutter in the IR Image, KIMST, Vol. 20, No. 6, pp. 758-766
Lee Juyoung, et al., 2018, A study of image classification using HMC method applying
CNN ensemble in the infrared image, Journal of Electrical Engineering and Technology,
Vol. 13, No. 3, pp. 1377-1382
Kim Chunho, et al., June. 2017, A study of operational concept of guided missile
by network-based Smart Device target information, KIMST Annual Conference Proceedings,
pp. 1480-1481
Hochreiter Sepp, Schmidhuber Jürgen, 1997, LONG SHORT- TERM MEMORY, Neural Computation
Ødegaard N., Knapskog A. O., Cochin C., Louvigne J. C., 2016, Classification of ships
using real and simulated data in a convolutional neural network, Rader Conference
Hore A., Ziou D., 2010, Image quality metrics: PSNR vs SSIM, ICPR 20th, Vol. 1, pp.
2366-2369
Chen G. et al., 2015, Region-based moving object detection Using SSIM, ICCSNT 4th
IEEE, Vol. 1, pp. 1361-1364
저자소개
1985년 8월 5일생
2011년 서경대학교 컴퓨터과학과 졸업
2013년 서울과학기술대학교 정보통신융합공학과 졸업(석사)
2013년~현재 국방과학연구소 재직중
관심분야 : 영상처리, 딥러닝, 표적분석
E-mail : developer_y@naver.com