• 대한전기학회
Mobile QR Code QR CODE : The Transactions of the Korean Institute of Electrical Engineers
  • COPE
  • kcse
  • 한국과학기술단체총연합회
  • 한국학술지인용색인
  • Scopus
  • crossref
  • orcid

  1. Dept. of Computer Engineering, SeoKyeong University, Korea.



Crowd counting, Point-based detection, P2PNet, Duplicate suppression, Uniqueness, Adaptive curriculum

1. 서 론

군중 계수(crowd counting)는 영상 속 사람의 수를 자동으로 추정하는 동시에 개별 사람의 위치를 표현하는 것을 목적으로 하는 컴퓨터 비전 문제이다. 최근 대규모 집회, 경기장, 대중교통 환승 구역 등에서 밀집도가 급격히 높아지는 상황이 잦아지면서, 군중 계수는 공공 안전 관리, 이벤트 모니터링, 혼잡 제어와 같은 응용의 핵심 기술로 주목받고 있다.

이러한 응용에서는 단순히 전체 인원 수를 아는 것을 넘어, 개별 사람의 위치를 신뢰성 있게 파악하는 것이 중요하다. 예를 들어 혼잡 경보나 밀집 구역 탐지에서는 특정 영역에 몇 명이 어디에 있는지가 판단 근거가 되는데, 한 사람을 여러 번 세는 중복 제안(duplicate proposal)이 많으면 밀집 구역이 실제보다 과대평가되어 경보의 신뢰성이 떨어진다. 따라서 계수 성능뿐 아니라 예측된 제안(proposal) 집합의 구조적 품질까지 확보하는 것이 실제 응용에서 요구된다.

기존 딥러닝 기반 군중 계수는 주로 밀도 지도 회귀(density map regression)에 기반하였다 [1- 5]. 이 방식은 밀집 장면에서 안정적인 인원 수 추정이 가능하지만, 출력이 연속적인 밀도 지도이므로 개별 사람의 위치를 직접 표현하지 못한다. 이를 보완하기 위해 점 기반(point-based) 방법인 P2PNet은 머리 위치를 점 제안으로 직접 예측하고 헝가리안 매칭(Hungarian matching)으로 정답(ground-truth, 이하 GT)과 일대일 대응시켜 학습한다 [6- 9]. 그러나 학습에서 일대일 대응을 사용하더라도 추론 결과가 항상 중복 없이 구성되는 것은 아니다. 본 연구의 제안 수준(proposal-level) 분석 결과, 신뢰도 기반 출력에서 하나의 GT 주변에 여러 제안이 동시에 남는 현상이 관찰되었으며(그림 2), 이 때 전체 인원 수는 정답과 비슷해 보여도 내부 제안 구조에서는 대표 제안보다 중복 제안이 많이 남아 위치 표현 품질이 저하된다. 이러한 문제는 평균절대오차(MAE)나 평균제곱근오차(RMSE) 같은 계수 지표만으로는 충분히 드러나지 않는다.

본 논문은 이러한 중복 제안 문제를 완화하기 위해, P2PNet의 위치·신뢰도 예측 구조를 유지하면서 각 제안의 대표성을 나타내는 유일성(uniqueness)을 추가로 예측하는 ValueUp-P2PNet을 제안한다. 제안 모델은 헝가리안 매칭 결과를 지도 신호로 대표 제안의 유일성은 높이고 주변 중복 제안의 유일성은 낮추도록 학습하며, 임계값 불연속을 완화하는 가우시안 가중 중복 손실과, 학습 진행도에 따라 보조 손실 비중을 자동 조절하는 적응형 손실 비율 커리큘럼(adaptive loss-ratio curriculum)을 도입한다.

본 논문의 주요 기여는 다음과 같다. 첫째, P2PNet의 예측 제안을 대표(matched)·중복(duplicate)·배경(background)으로 분류하여 점 기반 모델의 구조적 예측 품질을 정량적으로 분석한다. 둘째, 기존 P2PNet에 유일성을 예측하는 보조 분기를 추가한 ValueUp-P2PNet 구조를 제안한다. 셋째, 가우시안 가중 중복 손실과 유일성 기반 최종 점수, 그리고 보조 손실의 비중을 점진적으로 키우는 적응형 커리큘럼으로 중복 제안을 억제하는 학습·평가 방식을 제시한다. 넷째, ShanghaiTech Part A, UCF-CC-50, UCF-QNRF에서 중복 제안 현상을 분석하고 제안 방법의 유효성을 확인한다.

2. 군중 계수와 제안 선택(proposal selection)

2.1 Density Map 기반 군중 계수

밀도 지도(density map) 기반 군중 계수 방법은 주석 점(annotation point)을 가우시안 커널(Gaussian kernel)로 확산하여 목표 밀도 지도를 생성하고, 이를 네트워크가 회귀하도록 학습한다. 대표적으로 MCNN(Multi-Column Convolutional Neural Network)은 다중 열(multi-column) 구조로 다양한 스케일의 군중 패턴을 처리하였으며, ShanghaiTech 데이터셋을 통해 밀집 군중 계수의 표준 평가 환경을 제공하였다 [1]. 이어 CSRNet은 VGG 기반 전방부(front-end)와 확장 합성곱(dilated convolution) 기반 후방부(back-end)를 결합해 수용 영역(receptive field)을 넓혀 고밀도 장면의 계수 성능을 높였고 [2], CAN(Context-Aware Network)은 다중 수용 영역의 문맥 정보를 적응적으로 결합해 스케일 변화에 대응하였다 [3]. 또한 Bayesian Loss는 밀도 지도 대신 점 주석에 직접 기반한 확률적 손실로 계수 성능을 개선하였으며 [4], 최근에는 RCCFormer와 같이 트랜스포머(transformer) 기반으로 배경 억제와 스케일 인지를 강화한 방법도 제안되었다 [5]. 그러나 밀도 지도 기반 방법은 계수(count estimation)에는 효과적이지만, 출력이 연속적인 밀도 지도 형태이므로 개별 사람의 위치를 직접 표현하지 못한다. 또한 가우시안 커널의 크기나 밀도 지도 생성 방식에 따라 목표 분포(target distribution)가 달라져, 주석 점과 예측 결과 사이의 직접적 대응 관계가 약하다는 한계가 있다. 그림 1(a)는 정답 점을 가우시안 커널로 확산한 연속적 밀도 지도를 회귀하여 그 적분값을 인원 수로 사용하는 밀도 지도 기반 방식을 예시로 보여준다.

그림 1 밀도 지도 기반과 점 기반 접근의 비교 예시(ShanghaiTech Part A test)

Fig. 1 Comparison of density map-based and point-based approaches (ShanghaiTech Part A test)

../../Resources/kiee/KIEE.2026.75.11.2951/fig1.png

2.2 Point-Based Crowd Counting

이러한 한계를 보완하기 위해 점 기반(point-based) 군중 계수는 사람의 위치를 점 집합으로 직접 예측한다. 그림 1(b)와 같이 점 기반 방식은 개별 머리 위치를 점으로 직접 출력하며 점의 개수가 인원 수가 된다. 대표적으로 P2PNet은 군중 계수를 점 집합 예측(point set prediction) 문제로 정의하고, 예측 제안과 정답 점 사이의 헝가리안 매칭(Hungarian matching)으로 일대일 대응을 학습한다 [6]. 구체적으로 P2PNet은 앵커(anchor) 점을 배치하고 각 앵커에서 좌표와 사람일 확률을 예측한 뒤, 헝가리안 매칭으로 배정된 제안에는 위치·분류 손실을, 미배정 제안에는 배경으로서 분류 손실을 적용하며 추론 시에는 신뢰도가 임계값을 넘은 점을 출력한다(자세한 학습 구성은 2.4절에서 다룬다). 이 방식은 밀도 지도 생성 과정을 제거하고 개별 위치를 직접 다룬다는 점에서 위치 추정(localization) 관점의 장점이 있다. 이후 CLTR(Crowd Localization TRansformer)은 트랜스포머 기반 집합 예측으로 군중 위치 추정을 수행하였고 [7], PET(Point-quEry Transformer)은 점 질의(point-query) 구조로 희소·밀집 장면을 함께 처리하였다 [8]. 특히 APGCC는 P2PNet 계열의 제안-정답 매칭 불안정성을 지적하고 보조 점 안내(auxiliary point guidance)로 이를 완화하였는데 [9], 본 연구는 보조 점이 아니라 각 제안의 대표성을 나타내는 유일성(uniqueness)을 직접 학습한다는 점에서 구별된다. 한편 검출 기반 접근인 LSC-CNN [10]과 Point in, Box out [11]은 사람의 위치와 크기를 함께 추정하며, 대규모 위치 추정 벤치마크인 NWPU-Crowd [12]는 점 단위 평가의 표준 환경을 제공한다. 그러나 점 집합 예측 구조에서도 중복 예측 문제가 완전히 사라지는 것은 아니다. 헝가리안 매칭은 학습 시 하나의 정답에 하나의 제안만 대응시키지만, 추론 단계에서 신뢰도 임계값을 통과한 출력에는 동일 정답 주변에 여러 예측이 동시에 남을 수 있다. 그림 2는 이를 예시로 나타낸 것으로, (a)는 실제 영상 위에 실측 정답(노란 +)과 예측 점을 함께 표시하여 한 사람에 대해 대표(matched) 외에 중복(duplicate)이 남고 배경(background)에서도 오검출이 발생함을, (b)는 한 정답 주변을 확대하여 분석 반경 이내에서 대표 1개를 제외한 나머지 예측이 중복으로 분류됨을 보여준다(예측 점은 개념 설명용 예시). 이러한 중복은 단순 계수 오차만으로는 충분히 드러나지 않는다.

그림 2 중복 제안(duplicate proposal) 개념 예시(ShanghaiTech Part A test)

Fig. 2 Illustration of duplicate proposals (ShanghaiTech Part A test)

../../Resources/kiee/KIEE.2026.75.11.2951/fig2.png

2.3 제안 선택(Proposal Selection) 및 매칭 안정화

이러한 중복 문제는 객체 검출(object detection) 분야에서도 오래 다루어져 왔다. DETR(DEtection TRansformer)은 객체 검출을 집합 예측 문제로 정의하고 이분 매칭 손실(bipartite matching loss)로 예측과 정답을 직접 대응시켰으며 [13], 이러한 집합 예측 관점은 군중 계수에서도 점 제안과 정답 점의 직접 대응을 학습하는 방식으로 확장되었다. 또한 분포 정합(distribution matching) 기반 접근은 예측 분포와 정답 분포의 정렬을 강조한다 [14]. 그러나 이러한 분포 정렬만으로는 어떤 제안이 하나의 정답을 대표하고 어떤 제안이 중복인지를 구분하기 어렵다. 한편 검출에서 중복 예측을 제거하는 표준 기법인 비최대 억제(Non-Maximum Suppression, NMS) 계열에는 낮은 점수를 급격히 제거하는 대신 감쇠시키는 Soft-NMS [15], 군중 밀도에 따라 임계값을 조절하는 Adaptive NMS [16], 억제 과정을 신경망으로 학습하는 Learning-NMS [17], 객체 간 관계를 모델링해 중복을 제거하는 Relation Network [18] 등이 있으나, 대체로 학습과 분리된 후처리이거나 별도 모듈을 필요로 한다. 이에 본 연구는 별도 후처리 없이 각 제안의 대표성을 나타내는 유일성을 학습하고 이를 추론 점수에 직접 반영하여, 점 기반 군중 계수의 제안 선택 안정성을 높이는 방향을 제안한다.

2.4 P2PNet의 학습 구성

본 연구는 P2PNet을 기반 모델로 사용하므로, 제안 방법과의 관계를 명확히 하기 위해 P2PNet의 학습 구성을 정리한다. 제안 생성 단계에서는 VGG16-BN 백본과 Feature Pyramid Network(FPN)로 추출한 특징 지도의 각 격자 위치에 행·열 방향으로 정해진 개수의 앵커 점을 배치하고, 회귀 헤드가 각 앵커에 대한 좌표 오프셋을, 분류 헤드가 사람일 확률을 예측한다. 따라서 전체 제안 수 $N$은 특징 지도 크기와 앵커 수의 곱으로 결정된다.

매칭 단계에서는 예측 제안과 정답 점 사이의 비용 행렬을 분류 비용과 위치 비용의 가중합으로 구성하고, 헝가리안 알고리즘으로 전체 비용이 최소가 되는 일대일 배정을 구한다. 배정된 제안은 사람(positive)으로, 나머지 제안은 배경(background)으로 분류된다.

손실 단계에서 분류 손실은 위 배정 결과를 목표로 하는 교차 엔트로피이며, 클래스 불균형을 고려해 배경 항에 가중치를 적용한다. 위치 손실은 배정된 제안과 대응 정답 점 사이의 좌표 차이에 대한 L2 제곱오차를 최소화한다.

본 논문이 추가하는 손실들은 P2PNet의 매칭 과정을 변경하지 않고 동일한 헝가리안 배정 결과를 재사용한다. 배정된 제안 집합은 식 (5)의 대상이 되고, 미배정 제안 중 정답 반경 이내의 것이 식 (7)의 대상을, 반경 밖의 것이 식 (10)의 대상을 구성한다. 즉 ValueUp 분기는 기존 학습 구조를 유지한 채 그 결과를 유일성 학습의 지도 신호로 재활용한다.

3. 유일성 기반 중복 제안 억제 방법

본 장에서는 제안하는 ValueUp-P2PNet을 설명한다. 먼저 예측 제안을 대표(matched)·중복(duplicate)·배경(background)으로 분해하는 문제 정의(3.1절)와, 기존 P2PNet에 유일성·위상·스케일을 예측하는 보조 분기를 더한 전체 구조(3.2절)를 제시한다. 이어 헝가리안 매칭을 지도 신호로 대표 제안과 중복 제안의 유일성을 분리하는 학습(3.3~3.5절), 학습 중 손실 크기 변화에 따라 보조 손실의 상대적 기여를 자동 보정하는 적응형 손실 비율 커리큘럼(3.6절), 그리고 유일성을 반영한 추론 점수(3.7절) 순으로 세부 내용을 설명한다.

그림 3 ValueUp-P2PNet의 전체 구조

Fig. 3 Overall architecture of ValueUp-P2PNet

../../Resources/kiee/KIEE.2026.75.11.2951/fig3.png

그림 4 추가된 Uniqueness Head(ValueUp 분기)의 세부 구조

Fig. 4 Detailed structure of the added Uniqueness Head (ValueUp branch)

../../Resources/kiee/KIEE.2026.75.11.2951/fig4.png

3.1 문제 정의

입력 이미지 $I$에 대해 P2PNet 기반 모델은 $N$개의 점 제안(point proposal)을 예측한다. 식 (1)은 $i$번째 제안을 위치와 신뢰도로 표현한 것이다.

(1)
$P = \{p_i\}_{i=1}^N, \quad p_i = (x_i, y_i, c_i)$

식 (1)에서 $(x_i, y_i)$는 제안의 예측 위치이고, $c_i \in [0, 1]$는 해당 위치에 사람이 존재할 신뢰도(confidence)이다. 식 (2)는 $M$개의 정답 점(ground-truth, GT)으로 구성된 집합이며, $M$은 실제 사람 수이다.

(2)
$G = \{g_j\}_{j=1}^M, \quad g_j = (x_j^{gt}, y_j^{gt})$

학습 시 헝가리안 매칭(Hungarian matching)은 예측 집합과 정답 집합 사이에서 비용이 최소가 되는 일대일 대응을 찾아 각 정답에 하나의 제안을 배정한다. 그러나 추론 시에는 신뢰도가 임계값을 넘은 제안이 모두 출력되므로, 하나의 정답 주변에 여러 제안이 동시에 남을 수 있다.

이를 정량화하기 위해 본 연구는 점수 임계값을 통과한 최종 예측 집합 $P_{\text{out}}$을 정답과의 관계에 따라 식 (3)과 같이 세 부분집합으로 분해하며, 분해 기준으로 분석 반경 $r$ (본 연구에서는 16 px)을 사용한다.

(3)
$P_{\text{out}} = P_{\text{matched}} \cup P_{\text{dup}} \cup P_{\text{bg}}$

구체적으로 (i) 대표 제안 $P_{\text{matched}}$는 각 정답에 대해 헝가리안 매칭으로 배정된 제안 중 해당 정답과의 거리가 반경 $r$ 이내인 하나의 제안으로, 그 정답을 대표한다. (ii) 중복 제안 $P_{\text{dup}}$는 대표가 아니면서 어떤 정답의 반경 $r$ 이내에 위치하는 제안으로, 이미 대표가 존재하는 정답을 중복해 세는 예측이다. (iii) 배경 제안 $P_{\text{bg}}$는 모든 정답으로부터 반경 $r$ 밖에 위치하는 제안이다. 세 부분집합은 상호배타적이며 그 합집합은 $P_{\text{out}}$ 전체와 같다. 이 분해를 사용하면 단순 계수 오차 외에도, 전체 정답 중 대표로 포착된 비율(Matched/GT), 전체 예측 중 중복이 차지하는 비율(Dup/Pred), 배경 오검출 비율(BG/Pred)을 함께 측정하여 예측 집합의 구조적 품질을 평가할 수 있다. 즉 전체 인원 수가 정답과 비슷하더라도 중복 비율이 높으면 위치 표현 품질이 낮은 것으로 판정된다.

3.2 ValueUp-P2PNet 구조

제안하는 ValueUp-P2PNet은 기존 P2PNet의 위치·신뢰도 예측 구조를 유지하면서, 보조 분기(auxiliary branch)로 제안별 추가 정보를 예측한다. 입력 영상에서 VGG16-BN(Batch Normalization을 포함한 VGG-16) 백본과 Feature Pyramid Network(FPN)로 계층적 특징을 추출한 뒤, 동일 특징 위에서 기존 P2P Head와 Uniqueness Head를 병렬로 둔다. 식 (4)는 ValueUp-P2PNet에서 확장된 $i$번째 제안 표현이다.

(4)
$v_i = (x_i, y_i, c_i, u_i, \mu_i, \sigma_i)$

식 (4)에서 $u_i$는 유일성(uniqueness)으로 해당 제안이 하나의 정답을 대표할 가능성을, $\mu_i$는 위상(phase)으로 대표 제안과 중복 제안의 보조 표현 분리를, $\sigma_i$는 스케일(scale)로 제안 크기 및 정규화를 담당하는 보조 출력이다. 이 중 핵심은 유일성 $u_i$이다. 신뢰도 $c_i$가 “이 제안이 사람일 가능성”을 나타낸다면, 유일성 $u_i$는 “이 제안이 하나의 정답을 대표하는 정도”를 나타내며, 두 값을 분리함으로써 신뢰도를 직접 낮추지 않고도 중복 제안을 억제할 수 있다. 그림 3은 전체 구조를, 그림 4는 추가된 Uniqueness Head의 세부 구조를 나타낸다. P2P Head는 위치 $(x, y)$와 신뢰도 $c$를, Uniqueness Head는 유일성 $u$, 위상 $\mu$, 스케일 $\sigma$를 병렬로 예측한다. 학습 단계에서는 헝가리안 매칭 결과를 지도 신호로 대표 제안의 $u$는 높이고 주변 중복 제안의 $u$는 낮추며(3.3절), 추론 단계에서는 소프트 게이트(soft-gate) $s = c \cdot \text{Gate}(u)$로 중복을 억제한다(3.7절).

3.3 대표성 인지 유일성 학습

ValueUp-P2PNet은 헝가리안 매칭 결과를 학습 신호로 사용하되, 목표는 매칭 결과를 그대로 복제하는 것이 아니라 한 정답 주변에서 하나의 대표 제안만 높은 대표성을 갖도록 만드는 것이다. 이를 위해 매칭에서 선택된 제안에는 높은 유일성을, 같은 정답 주변의 나머지 중복 제안에는 낮은 유일성을 부여한다. 식 (5)는 매칭으로 선택된 제안 집합 $M$에 대한 대표 유일성 손실이다.

(5)
$L_{\text{match}} = -\frac{1}{|M|}\sum_{i \in M} \log(u_i + \epsilon)$

식 (5)에서 $M$은 헝가리안 배정으로 선택된 제안 집합이고, $\epsilon$은 로그 연산의 수치적 안정성을 위한 작은 상수이다. ValueUp 분기는 $M$과 주변 중복 제안 사이의 유일성 차이를 크게 만들어, 최종 출력에서 대표 제안은 보존하고 중복 제안은 억제하도록 학습한다.

반면 배정되지 않은 제안 중 정답 주변에 위치한 것은 중복일 가능성이 높다. 단순히 고정 반경만 사용하면 경계 부근에서 벌점이 불연속적으로 바뀌므로, 식 (6)과 같이 정답과의 최단 거리에 따른 가우시안 가중치를 사용하고 식 (7)의 중복 유일성 손실을 적용한다.

(6)
$w_i = \exp\left(-\frac{d_i^2}{2\sigma_d^2}\right)$
(7)
$L_{\text{dup}} = -\frac{1}{|D|}\sum_{i \in D} w_i \log(1 - u_i + \epsilon)$

식 (6)에서 $d_i$는 $i$번째 제안과 가장 가까운 정답 점 사이의 거리, $\sigma_d$는 가우시안 가중치의 스케일 파라미터이다. 식 (7)에서 $D$는 배정되지 않았지만 정답 주변에 위치한 중복 후보 집합이다. 정답에 가까운 미배정 제안일수록 $w_i$가 커져 유일성을 강하게 낮추고, 멀리 떨어진 제안은 약하게 억제되어 고정 임계값 방식보다 부드러운 학습 신호를 제공한다. 결과적으로 이 손실은 대표 제안의 유일성은 높이고 주변 중복 제안의 유일성은 낮추어, 최종 출력에서 대표 포착률은 높이고 중복 비율은 낮추는 방향으로 작동한다.

3.4 순위 손실과 위상 분리(Ranking Loss와 Phase Separation)

같은 정답 주변에 대표 제안과 중복 제안이 함께 존재할 때, 추론에서 대표가 선택되려면 대표 제안의 최종 점수가 중복보다 높아야 한다. 식 (8)은 대표–중복 제안 쌍에 대한 마진 순위 손실이다.

(8)
$L_{\text{rank}} = \frac{1}{|Q|}\sum_{(m, d) \in Q} \max(0, \delta - s_m + s_d)$

식 (8)에서 $Q$는 동일 정답 주변에서 형성된 대표–중복 제안 쌍의 집합, $\delta$는 순위 마진이다. $s_m$과 $s_d$는 각각 대표·중복 제안의 최종 점수로 식 (16)으로 계산된다. 이 손실은 중복 제안의 신뢰도가 높더라도 유일성이 낮아지도록 유도하여 최종 점수를 낮춘다. 즉 신뢰도만으로는 구분이 어려운 중복 후보를 유일성 차원에서 분리하여, 대표 제안이 임계값을 통과할 가능성은 높이고 중복이 남을 가능성은 낮춘다.

또한 위상 표현은 대표 제안과 중복 제안이 서로 다른 보조 표현을 갖도록 유도한다. 각 위상 벡터를 정규화한 뒤, 식 (9)와 같이 대표–중복 쌍이 반대 방향을 향하도록 위상 분리 손실을 적용한다.

(9)
$L_{\text{phase}} = \frac{1}{|Q|}\sum_{(m, d) \in Q} (1 + \hat{\mu}_m^T \hat{\mu}_d)$

식 (9)에서 $\hat{\mu}$는 L2 정규화된 위상 벡터이며, 두 벡터의 내적이 $-1$에 가까워질수록 대표와 중복의 위상 표현이 분리된다. 위상 표현을 도입한 이유는 다음과 같다. 유일성 $u$는 $[0, 1]$ 범위의 스칼라이므로, 동일 정답 주변의 시각적으로 거의 동일한 두 제안에 서로 다른 목표값(대표는 1, 중복은 0)을 부여하면 학습 신호가 상충하여 두 값이 중간으로 수렴할 수 있다. 위상 벡터는 이 구분을 스칼라가 아닌 방향 표현으로 옮겨 대표와 중복이 방향적으로 분리된 보조 표현을 갖도록 하는 보조 제약으로 작동한다. 즉 위상은 그 자체가 예측 목표가 아니라, 유일성이 두 극단으로 분리되도록 돕는 정규화 항이다.

마진 기반의 완화된 제약 대신 내적을 $-1$로 유도하는 형태를 택한 것은 위상이 최종 점수에 직접 관여하지 않는 보조 표현이기 때문이다. 마진 제약은 조건을 만족한 쌍에서 손실이 조기에 포화되어 유일성 분리에 기여하는 기울기가 소멸할 수 있다. 본 연구에서 채택한 형태는 마진 기반 손실과 달리 분리 조건을 만족한 즉시 손실이 0으로 포화되지 않고, 대표–중복 표현이 반대 방향에 가까워질 때까지 연속적인 정렬 신호를 제공한다. 한편 식 (9)는 대표–중복 쌍에만 적용되며 배경 제안의 위상은 제약하지 않는데, 이는 배경 제안이 식 (10)을 통해 신뢰도와 유일성의 곱을 억제받아 최종 점수 단계에서 제거되므로 위상 공간에서 별도로 구분할 필요가 없기 때문이다. 따라서 위상은 대표–중복 구분에 특화된 보조 표현이며, 배경 제안의 위상 분포는 학습 과정에서 통제되지 않는다.

3.5 배경 및 스케일 정규화

배경 제안은 모든 정답에서 멀리 떨어져 있으므로 높은 신뢰도와 높은 유일성을 동시에 가져서는 안 된다. 이를 위해 식 (10)의 배경 억제 손실을 추가한다.

(10)
$L_{\text{bg}} = \frac{1}{|B|}\sum_{i \in B} c_i u_i$

또한 스케일 출력 $\sigma_i$가 과도하게 커지거나 작아지지 않도록, 식 (11)과 같이 사전 스케일 $\sigma_0$에 대한 정규화를 적용한다.

(11)
$L_{\text{scale}} = \frac{1}{N}\sum_{i=1}^N (\sigma_i - \sigma_0)^2$

식 (10)과 식 (11)은 각각 배경 오검출 억제와 보조 스케일 출력의 안정화를 목적으로 한다. 스케일 출력을 별도로 두고 정규화하는 이유는 유일성 학습이 제안이 위치한 영역의 밀도 맥락에 따라 편향되는 것을 억제하기 위함이다. 밀집 영역과 희소 영역에서 이웃 제안까지의 전형적 거리가 다르므로, 사전 스케일 $\sigma_0$에 대한 정규화로 보조 출력의 분포를 안정화하여 가우시안 가중 중복 손실(식 (7))이 특정 밀도 구간에 과적합되지 않도록 한다.

3.6 전체 목적 함수와 적응형 손실 비율 커리큘럼 (Adaptive Loss Ratio Curriculum)

ValueUp 분기의 전체 손실은 식 (12)와 같고, 최종 학습 목적 함수는 식 (13)과 같이 기존 P2PNet 손실과 ValueUp 손실의 가중합이다.

(12)
$L_{\text{ValueUp}} = \lambda_m L_{\text{match}} + \lambda_d L_{\text{dup}} + \lambda_r L_{\text{rank}} + \lambda_p L_{\text{phase}} + \lambda_b L_{\text{bg}} + \lambda_s L_{\text{scale}}$
(13)
$L_{\text{total}} = L_{\text{P2P}} + \lambda_v L_{\text{ValueUp}}$

식 (13)에서 $L_{\text{P2P}}$는 2.4절에서 정리한 P2PNet의 분류 손실과 점 위치 손실의 합이며, $\lambda_v$는 ValueUp 분기가 전체 학습에 미치는 영향을 조절하는 계수이다. 데이터셋마다 $L_{\text{ValueUp}}$의 스케일이 달라 고정된 $\lambda_v$는 ValueUp 손실이 P2P 손실을 압도하거나 무시되게 만들 수 있다. 이를 막기 위해 본 연구는 $\lambda_v$를 고정하지 않고, ValueUp 손실이 전체 손실 대비 목표 비율 $r(t)$를 유지하도록 조절하는 적응형 손실 비율 커리큘럼(adaptive loss-ratio curriculum)을 사용한다. 에폭 $t$에서의 유효 계수는 식 (14)와 같다.

(14)
$\lambda_v^{\text{eff}}(t) = \text{clip}\left(\frac{r(t)}{1 - r(t)} \cdot \frac{L_{\text{P2P}}}{|L_{\text{ValueUp}}| + \epsilon}, 0, \lambda_{\max}\right)$

여기서 $r(t) (0 \le r(t) < 1)$는 ValueUp 손실이 전체 손실에서 차지하도록 목표하는 비율이며, 이를 P2P 손실 대비 계수로 환산하면 $r(t)/(1 - r(t))$가 되어 식 (14)에 나타난다. 계수 계산에 쓰이는 손실 값은 정지 기울기(stop-gradient)로 처리되어 비율 조절에만 사용된다. $r(t)$는 학습 초기 일정 에폭 동안(웜업) 0으로 두어 점 위치를 충분히 학습한 뒤 목표 비율까지 선형으로 증가한다. 이를 통해 초기 위치 학습의 안정성을 확보하면서 ValueUp 손실의 기여를 데이터셋과 무관하게 일정 비율로 키운다. 데이터셋별 $r(t)$ 스케줄과 상한 $\lambda_{\max}$는 표 1에 제시한다.

3.7 유일성(uniqueness) 기반 최종 점수 추론

신뢰도와 유일성을 단순히 곱해 추론 점수로 쓰면, 유일성이 1보다 작은 모든 제안의 점수가 선형적으로 감소하여 유효한 대표 제안도 임계값 아래로 떨어질 수 있다. 따라서 식 (15)와 같이 유일성에 대한 시그모이드 소프트 게이트를 사용하고, 최종 제안 점수를 식 (16)과 같이 신뢰도와 게이트 값의 곱으로 정의한다.

(15)
$\text{Gate}(u_i) = \frac{1}{1 + \exp[-k(u_i - \tau)]}$
(16)
$s_i = c_i \cdot \text{Gate}(u_i)$

식 (15)에서 $k$는 게이트의 기울기, $\tau$는 유일성 임계값이다. $u_i$가 $\tau$보다 충분히 크면 $\text{Gate}(u_i)$가 1에 가까워 신뢰도가 보존되고, 낮으면 0에 가까워 중복 가능성이 높은 제안이 억제된다. 후처리 NMS와 달리 학습된 유일성을 추론에 그대로 반영하므로 학습–추론 간 불일치(train-inference mismatch)가 발생하지 않는다. 식 (16)의 $s_i$가 평가 단계의 최종 제안 선택에 사용된다. 그림 5는 신뢰도만으로는 구분이 어려운 대표(A)와 중복(B)에서, 유일성이 낮은 B의 최종 점수가 크게 억제되는 과정을 보인다.

그림 5 유일성 기반 소프트 게이트 억제의 개념 예시

Fig. 5 Illustration of uniqueness-based soft-gate suppression

../../Resources/kiee/KIEE.2026.75.11.2951/fig5.png

4. 실험 및 결과

4.1 실험 설정

A. 데이터셋

본 연구는 ShanghaiTech Part A(SHHA) [1], UCF-CC-50 [19], UCF-QNRF [20]를 사용한다. SHHA는 밀집 장면 중심의 주요 검증 데이터셋이고, UCF-CC-50은 영상 수가 적고 장면별 군중 수 변화가 커 5겹 교차검증(5-fold cross validation)으로 평가하며, UCF-QNRF는 고해상도·고밀도 대규모 데이터셋으로 제안 방법의 확장 가능성 검증에 사용한다. 세 데이터셋 모두 동일한 제안 수준(proposal-level) 분석 기준을 적용하여 계수 성능과 구조 품질을 함께 평가하며, UCF-QNRF는 고해상도 입력의 GPU 메모리 제약을 고려해 최장변 1408 px(max1408) 설정을 사용한다. 본 논문이 보고하는 비교 기준은 동일 시드로 처음부터 재학습한 원본 P2PNet(Original P2PNet)이며, 이하 표에서는 지면 관계상 원본 P2PNet과 ValueUp-P2PNet을 각각 “Original”, “ValueUp”으로 표기한다. 이 수치는 원 논문 결과의 재현이 아니라, 본 연구의 데이터 전처리·입력 크기·점수 임계값·분석 반경·체크포인트 설정에서 다시 학습·평가한 동일 환경 비교 기준이다.

B. 평가 지표

계수 성능은 식 (17)의 평균절대오차(Mean Absolute Error, MAE)와 평균제곱근오차(Root Mean Square Error, RMSE)로 평가한다.

(17)
$\text{MAE} = \frac{1}{T}\sum_{t=1}^T |C_t - \hat{C}_t|, \quad \text{RMSE} = \sqrt{\frac{1}{T}\sum_{t=1}^T (C_t - \hat{C}_t)^2}$

$T$는 평가 영상 수, $C_t$와 $\hat{C}_t$는 각각 $t$번째 영상의 정답 인원 수(GT count)와 예측 인원 수(Prediction count)이다. 제안 집합의 구조 품질은 식 (18)의 세 비율로 평가한다.

(18)
$\frac{\text{Matched}}{\text{GT}} = \frac{|P_{\text{matched}}|}{|G|}, \quad \frac{\text{Dup}}{\text{Pred}} = \frac{|P_{\text{dup}}|}{|P_{\text{out}}|}, \quad \frac{\text{BG}}{\text{Pred}} = \frac{|P_{\text{bg}}|}{|P_{\text{out}}|}$

Matched/GT는 전체 정답 중 대표 제안으로 포착된 비율, Dup/Pred는 본 연구에서 가장 중요한 중복 비율, BG/Pred는 정답과 무관한 오검출(false positive) 비율이다. 검출 관점에서 Matched/GT는 정답을 얼마나 포착했는지를 나타내므로 재현율(recall)에 해당하고, 전체 예측 중 대표 제안이 차지하는 비율인 Matched/Pred는 정밀도(precision)에 해당한다. 세 비율은 $\text{Matched/Pred} + \text{Dup/Pred} + \text{BG/Pred} = 1$의 관계를 가지므로, 중복과 배경 오류를 구분해 보고하면 정밀도의 손실이 어느 원인에서 비롯되는지를 함께 파악할 수 있다. 대표·중복 판정에 사용하는 분석 반경은 16 px로 설정한다.

C. 구현 세부사항

모든 모델은 VGG16-BN 백본을 ImageNet 사전학습 가중치로 초기화하고 다음 공통 설정으로 학습한다. 에폭 3500, 학습률 $1 \times 10^{-4}$ (백본 $1 \times 10^{-5}$), 배치 크기 8, 시드 42, 크롭 크기 128, 패치 수 4, 스케일 증강 $[0.7, 1.3]$, 최종 출력의 점수 임계값 0.5이다. 학습 시 중복 후보 반경은 평가의 분석 반경과 동일한 $r_{\text{dup}} = 16\text{ px}$를 사용한다.

ValueUp 손실 가중치는 $\lambda_m = \lambda_d = 1.0$, $\lambda_r = 0.5$, $\lambda_p = 0.2$, $\lambda_b = 0.05$, $\lambda_s = 0.001$이고, 사전 스케일은 $\sigma_0 = 8.0$, 가우시안 중복 가중치 스케일은 $\sigma_d = r_{\text{dup}} / 2 = 8\text{ px}$이다. 식 (15)의 소프트 게이트는 기울기 $k = 20$과 유일성 임계값 $\tau = 0.5$를 사용하며, $\tau$는 유일성 범위의 중앙값에 해당한다. $k$와 $\tau$는 세 데이터셋에 동일하게 적용하여 데이터셋별로 조정하지 않았다. ValueUp 손실은 웜업(warm-up) 500 에폭 이후 활성화하고, 식 (14)의 적응 비율은 전체 손실($L_{\text{P2P}} + L_{\text{ValueUp}}$) 기준으로 적용한다. 데이터셋별 입력 크기, 앵커 수, 비율 스케줄과 $\lambda_{\max}$는 표 1과 같으며, 여기서 비율 스케줄은 $r(t)$의 (에폭:목표비율) 선형 보간을 의미한다.

평가는 유효 점수(effective score) 모드(식 (16))를 기본으로 하며, P2PNet 손실의 기본 설정은 원 구현을 따라 매칭 비용 계수 1.0(분류)과 0.05(위치), 배경 가중치 0.5, 점 위치 손실 계수 $2 \times 10^{-4}$를 사용한다.

제안 구조가 추가하는 연산 비용은 다음과 같다. Uniqueness Head는 $3 \times 3$ 합성곱 2개와 출력 합성곱 1개로 구성되어 약 1.22M개의 파라미터를 추가하며, 전체 모델 파라미터는 21.58M에서 22.80M으로 5.64% 증가한다. 동일 GPU에서 측정한 영상당 추론 시간은 44.41 ms에서 46.45 ms로 2.04 ms(4.58%) 증가하여 초당 처리량은 22.52 FPS에서 21.53 FPS가 된다. 추론 단계에서 유일성은 동일 특징 위에서 한 번에 계산되고 소프트 게이트는 제안별 원소 연산이므로, 제안 간 거리 비교를 반복 수행하는 NMS 계열과 달리 별도의 반복적 후처리 단계를 필요로 하지 않는다.

표 1 데이터셋별 구현 세부 설정

Table 1 Dataset-specific implementation settings

Dataset Anchors Max side Ratio schedule $\lambda_{\max}$
ShanghaiTech A $2 \times 2$ Original 500:0→3400:0.20 0.10
UCF-CC-50 $2 \times 2$ 1408 500:0→3400:0.20 0.10
UCF-QNRF $2 \times 4$ 1408 500:0→3400:0.12 0.08

4.2 실험 결과 및 분석

A. ShanghaiTech Part A

ShanghaiTech Part A 결과는 표 2와 같다. 원본 P2PNet 대비 ValueUp-P2PNet은 MAE를 54.10에서 52.54로, RMSE를 89.26에서 88.10으로 낮추었다. 또한 Matched/GT는 75.28%에서 78.28%로 증가하고 Dup/Pred는 18.41%에서 16.63%로 감소하였다. 이는 단순히 예측 수를 줄인 것이 아니라 더 많은 정답을 대표 제안으로 포착하면서 중복 비율을 낮춘 결과로, 대표 포착률(Matched/GT) 증가와 중복 비율(Dup/Pred) 감소가 동시에 나타난 점이 제안 집합의 구조적 품질 개선을 보여주는 핵심 결과이다.

표 2 ShanghaiTech Part A 결과(제안 모델을 굵게 표시)

Table 2 Results on ShanghaiTech Part A (proposed model in bold)

Model MAE↓ RMSE↓ Matched/GT↑ Dup/Pred↓ BG/Pred↓
Original 54.10 89.26 75.28% 18.41% 4.44%
ValueUp 52.54 88.10 78.28% 16.63% 4.44%

B. UCF-CC-50

UCF-CC-50 5겹 교차검증 결과는 표 3과 같다. ValueUp-P2PNet은 원본 P2PNet 대비 MAE를 198.44에서 190.22로, Matched/GT를 66.63%에서 71.04%로, Dup/Pred를 34.08%에서 27.60%로 개선하였으나, RMSE는 333.50에서 349.57로, BG/Pred는 2.82%에서 3.02%로 소폭 증가하였다. 즉 제안한 유일성 구조가 대표 포착률과 중복 억제에는 기여하지만, 영상별 큰 오차에 민감한 RMSE까지 일관되게 개선하지는 못함을 보여준다.

표 3 UCF-CC-50 5겹 교차검증 결과(제안 모델을 굵게 표시)

Table 3 Five-fold cross-validation results on UCF-CC-50 (proposed model in bold)

Model MAE↓ RMSE↓ Matched/GT↑ Dup/Pred↓ BG/Pred↓
Original 198.44 333.50 66.63% 34.08% 2.82%
ValueUp 190.22 349.57 71.04% 27.60% 3.02%

표 4 UCF-CC-50 5겹 교차검증 폴드별 결과

Table 4 Per-fold results of five-fold cross-validation on UCF-CC-50

Fold Original ValueUp
MAE RMSE MAE RMSE
Fold 0 228.30 371.90 214.60 372.42
Fold 1 309.40 493.96 304.90 525.19
Fold 2 145.80 298.17 146.20 325.27
Fold 3 104.00 136.78 98.90 181.25
Fold 4 204.70 257.27 186.50 240.45
Mean / Pooled 198.44 333.50 190.22 349.57

UCF-CC-50의 폴드는 원본 50장을 순서대로 10장씩 분할하여 구성하므로 폴드 간 밀도가 균등하지 않으며, RMSE는 폴드별 제곱오차를 통합(pooled)하여 계산한다. 표 4에서 폴드 0과 폴드 1이 가장 조밀하여 오차가 크며, 특히 폴드 1은 두 모델 모두에서 MAE·RMSE가 최대이다. ValueUp-P2PNet은 5개 폴드 중 4개에서 MAE를 낮추어(폴드 0·1·3·4) 평균 MAE를 198.44에서 190.22로 개선하였다. 반면 RMSE는 통합 기준 333.50에서 349.57로 소폭 증가하는데, 이는 폴드별 제곱오차를 합산하는 RMSE 특성상 극단적 밀도의 소수 영상이 지표를 지배하기 때문이다. 실제로 중복 억제가 대다수 영상의 계수 오차를 줄여 MAE를 낮추지만, 폴드 1·3의 최고밀도 영상 몇 장에서 오차가 커지면서 제곱 합산 시 RMSE 상승으로 나타난다. 즉 제안 방법은 평균적 계수 성능(MAE)을 안정적으로 개선하되, 초고밀도 극단 사례의 편차는 향후 과제로 남는다.

C. UCF-QNRF

UCF-QNRF(max1408) 결과는 표 5와 같다. ValueUp-P2PNet은 원본 P2PNet 대비 MAE를 96.14에서 91.84로, RMSE를 169.84에서 168.57로, Matched/GT를 75.51%에서 82.13%로, Dup/Pred를 17.82%에서 15.43%로, BG/Pred를 3.92%에서 1.82%로 모두 개선하였다. 제안 수준 분석에서 정답 240,127개에 대해 238,357개의 제안이 예측되었고, 이 중 대표 197,219개, 중복 36,788개, 배경 4,350개로 나타나 계수 성능과 구조 지표가 함께 향상되었다.

표 5 UCF-QNRF (max1408) 결과(제안 모델을 굵게 표시)

Table 5 Results on UCF-QNRF (max1408) (proposed model in bold)

Model MAE↓ RMSE↓ Matched/GT↑ Dup/Pred↓ BG/Pred↓
Original 96.14 169.84 75.51% 17.82% 3.92%
ValueUp 91.84 168.57 82.13% 15.43% 1.82%

D. 구성 요소 분석(ablation study)

제안 구조의 각 구성 요소가 실제로 기여하는지 확인하기 위해, ShanghaiTech Part A에서 (i) ValueUp 분기의 유무, (ii) 손실 비율을 고정하는 방식 대 적응형 커리큘럼 방식, (iii) ValueUp 손실을 구성하는 개별 항의 기여를 비교하였다. (iii)은 채택 설정에서 위상·스케일·순위·배경 손실을 하나씩 제거하고 나머지 조건을 동일하게 유지한 채 처음부터 재학습한 결과이다. 공정한 비교를 위해 모든 설정을 동일 시드로 고정하여 학습·평가하였으며, 결과는 표 6과 같다.

먼저 ValueUp 분기를 제거한 원본 P2PNet 대비, ValueUp을 적용한 두 방식 모두 MAE가 감소하고(54.10에서 각각 52.41, 52.54) Matched/GT가 증가하며 Dup/Pred가 감소하여, 유일성 기반 학습이 계수와 제안 구조를 함께 개선함을 확인하였다. 고정 방식과 적응형 커리큘럼을 비교하면 MAE와 Matched/GT는 비슷한 수준이나, 적응형 방식이 Dup/Pred를 17.19%에서 16.63%로 낮추고 RMSE와 BG/Pred에서도 더 우수하여, 고정 계수 사용에 따른 민감도를 줄이면서 중복 억제와 안정성 측면에서 이점을 가진다.

개별 손실 항의 기여는 서로 다른 축에서 나타난다. 순위 손실을 제거하면 Matched/GT가 80.51%로 가장 높고 Dup/Pred도 15.80%로 가장 낮지만 MAE가 55.06으로 원본(54.10)보다도 악화되어, 순위 손실이 최종 점수의 서열을 정렬해 계수 성능을 유지하는 역할을 담당함을 알 수 있다. 배경 억제 손실을 제거하면 Matched/GT가 74.76%로 가장 낮고 Dup/Pred가 19.44%로 가장 높아져, 이 항이 제안 집합의 구조 품질을 지탱하는 핵심임을 보여준다. 스케일 정규화를 제거하면 구조 지표는 소폭 개선되지만 MAE와 RMSE가 함께 악화되어 계수 안정성에 기여함을 확인할 수 있다. 위상 분리 손실을 제거하면 MAE와 RMSE는 오히려 개선되지만 Matched/GT가 낮아지고 Dup/Pred가 높아져, 위상 항이 계수 지표를 일부 양보하는 대신 제안 구조의 분리에 기여함을 보여준다.

이러한 결과는 채택 설정이 모든 지표에서 최상이라는 의미가 아니라, 계수 성능과 제안 구조 품질이 서로 상충하는 상황에서 두 축을 함께 고려한 균형점이라는 의미로 해석된다. 계수 지표만으로는 예측 품질을 충분히 설명할 수 없다는 본 논문의 관점에서, 위상 항과 같이 MAE를 소폭 양보하더라도 구조 지표를 개선하는 구성 요소는 유지할 가치가 있다고 판단하였다. 다만 본 분석은 단일 시드에서 수행되어 MAE 기준 0.5 내외의 차이는 학습 변동 범위에 해당할 수 있으며, 다중 시드 반복을 통한 검증은 향후 과제로 남긴다.

표 6 ShanghaiTech Part A 구성 요소 분석(채택 설정을 굵게 표시)

Table 6 Ablation study on ShanghaiTech Part A (adopted setting in bold)

Setting MAE↓ RMSE↓ Matched/GT↑ Dup/Pred↓ BG/Pred↓
Original 54.10 89.26 75.28% 18.41% 4.44%
Fixed 52.41 88.47 78.71% 17.19% 4.58%
Adaptive 52.54 88.10 78.28% 16.63% 4.44%
$-L_{\text{phase}}$ 52.13 85.52 77.85% 16.83% 4.22%
$-L_{\text{scale}}$ 52.95 90.95 78.58% 16.17% 4.10%
$-L_{\text{rank}}$ 55.06 90.75 80.51% 15.80% 4.30%
$-L_{\text{bg}}$ 53.06 86.84 74.76% 19.44% 4.09%

E. 후처리 기반 억제와의 비교

제안 방법이 거리 기반 후처리와 어떻게 다른지 확인하기 위해, 원본 P2PNet의 예측 제안 집합에 비최대 억제(NMS)와 Soft-NMS를 후처리로 적용하고 계수 성능의 변화를 표 7에 제시한다. 모든 설정은 ShanghaiTech Part A 테스트 집합(정답 78,970개)과 점수 임계값 0.5를 기준으로 한다. 후처리는 학습과 무관하게 제안 집합을 사후에 변경하므로 대표–중복 판정 기준을 본문의 분석과 동일하게 적용하기 어렵다. 따라서 본 비교에서는 계수 성능과 예측 수의 변화를 중심으로 하고, 제안 수준 지표는 판정 기준과 무관한 배경 오검출 비율에 한정하여 보고한다.

NMS 계열은 서로 가까운 제안을 제거하므로 억제 강도를 키울수록 예측 수가 줄어든다. 그러나 억제 강도가 약한 설정(NMS 반경 4 px, Soft-NMS $\sigma = 4$)은 예측 수를 1% 내외만 줄이며 계수 성능도 개선되지 않는다(MAE 54.10 대비 각각 54.65, 54.34). 반대로 예측 수를 실질적으로 줄이는 설정에서는 계수 오차가 급격히 악화되어, NMS 반경 8 px에서는 예측 수가 정답의 84.2%로 감소하면서 MAE가 83.67로, 반경 12 px에서는 68.8%까지 감소하면서 MAE가 139.61로 나빠진다. 이는 밀집 장면에서 인접한 사람 사이의 실제 거리가 억제 반경보다 작아 중복과 대표를 거리만으로 구분할 수 없기 때문이며, 배경 오검출 비율이 4.44%에서 5.80%로 오히려 증가하는 점도 이를 뒷받침한다.

즉 거리 기반 후처리에서는 계수 성능을 유지하면서 예측 수를 줄이는 동작점을 찾기 어렵다. 반면 제안 방법은 예측 수를 정답 수준으로 유지하면서 MAE와 RMSE를 함께 낮추고, 표 2와 같이 대표 포착률 증가와 중복 비율 감소를 동시에 달성한다. 또한 ValueUp에 NMS를 추가로 적용하면 MAE가 52.54에서 77.24로 악화되어, 제안 방법이 후처리와 병용할 성격이 아니라 후처리를 대체하는 접근임을 보여준다.

표 7 후처리 기반 억제 기법과의 계수 성능 비교(ShanghaiTech Part A, 제안 모델을 굵게 표시)

Table 7 Comparison of counting performance with post-processing suppression methods (ShanghaiTech Part A, proposed model in bold)

Setting #Pred. Pred/GT MAE↓ RMSE↓ BG/Pred↓
Original 77,065 97.6% 54.10 89.26 4.44%
+ NMS ($r = 4$) 76,352 96.7% 54.65 90.04 4.47%
+ NMS ($r = 8$) 66,514 84.2% 83.67 157.24 4.95%
+ NMS ($r = 12$) 54,303 68.8% 139.61 250.20 5.80%
+ Soft-NMS ($\sigma = 4$) 76,821 97.3% 54.34 89.57 4.45%
+ Soft-NMS ($\sigma = 8$) 70,326 89.1% 72.46 143.54 4.81%
ValueUp 78,348 99.2% 52.54 88.10 4.44%
+ NMS ($r = 8$) 68,386 86.6% 77.24 154.87 4.83%

F. 분석 반경에 대한 민감도

제안 수준 지표는 대표·중복 판정에 사용하는 분석 반경 $r$에 의존하므로, $r$을 8 px에서 24 px까지 변화시키며 두 모델의 지표를 비교하였다(표 8). 반경이 커질수록 정답 주변으로 포함되는 제안이 늘어 Dup/Pred는 증가하고 BG/Pred는 감소하는 공통 경향이 나타난다. 그러나 모든 반경에서 제안 방법이 원본 대비 Matched/GT는 3%p 내외 높고 Dup/Pred는 1.7%p 내외 낮은 관계가 유지되며, 두 모델의 우열은 반경 선택에 따라 뒤바뀌지 않는다. 즉 본문에서 사용한 16 px이라는 값은 지표의 절대 수준을 결정하지만 결론을 결정하지는 않는다.

표 8 분석 반경에 따른 제안 수준 지표 변화(ShanghaiTech Part A, 점수 임계값 0.5)

Table 8 Proposal-level metrics with respect to the analysis radius (ShanghaiTech Part A, score threshold 0.5)

$r$ (px) Original ValueUp
Matched/GT↑ Dup/Pred↓ BG/Pred↓ Matched/GT↑ Dup/Pred↓ BG/Pred↓
8 70.48% 13.14% 14.63% 73.62% 11.35% 14.44%
12 74.16% 16.26% 7.75% 77.25% 14.36% 7.77%
16 75.28% 18.41% 4.44% 78.28% 16.63% 4.44%
20 75.28% 20.08% 2.77% 78.30% 18.35% 2.72%
24 75.28% 21.07% 1.79% 78.30% 19.30% 1.78%

G. 점수 임계값 민감도와 재현율–정밀도 관계

최종 제안 점수의 임계값 $t$를 0.5부터 0.9까지 변화시키며 두 모델의 계수 성능과 재현율·정밀도를 비교하였다(표 9). 계수 성능과 재현율은 모든 임계값에서 제안 방법이 원본을 앞서며, 그 격차는 임계값이 높아질수록 오히려 확대된다(MAE 격차 1.6에서 42.4로, 재현율 격차 3.0%p에서 7.0%p로).

표 9 점수 임계값에 따른 계수 성능과 재현율·정밀도 변화(ShanghaiTech Part A, 분석 반경 16 px)

Table 9 Counting performance, recall, and precision with respect to the score threshold (ShanghaiTech Part A, analysis radius 16 px)

Thresh. Model #Pred. MAE↓ Matched/GT↑ Matched/Pred↑ Dup/Pred↓
0.5 Original 77,065 54.1 75.3% 77.2% 18.4%
ValueUp 78,348 52.5 78.3% 78.9% 16.6%
0.6 Original 73,178 57.7 74.0% 79.8% 16.1%
ValueUp 75,520 53.1 76.9% 80.4% 15.6%
0.7 Original 68,720 68.6 72.2% 83.0% 13.4%
ValueUp 72,255 58.2 75.9% 83.0% 13.5%
0.8 Original 62,994 90.5 69.2% 86.8% 10.2%
ValueUp 68,211 68.8 73.7% 85.3% 11.7%
0.9 Original 53,444 140.3 63.5% 93.8% 4.0%
ValueUp 61,385 97.9 70.5% 90.6% 7.0%

그림 6 임계값 변화에 따른 재현율–정밀도 곡선(ShanghaiTech Part A)

Fig. 6 Recall-precision curves under varying score thresholds (ShanghaiTech Part A)

../../Resources/kiee/KIEE.2026.75.11.2951/fig6.png

반면 정밀도와 중복 비율은 임계값 0.5와 0.6에서는 제안 방법이 우수하지만 0.8 이상에서는 원본이 더 유리하게 나타난다. 이는 두 모델의 점수가 서로 다른 척도를 갖기 때문이며, 동일한 임계값이 동일한 동작점을 의미하지 않는다는 점에 주의해야 한다. 제안 방법의 최종 점수는 식 (16)과 같이 신뢰도와 게이트 값의 곱으로 정의되어 원본의 신뢰도와 직접 대응하지 않으며, 실제로 임계값 0.9에서 원본이 53,444개의 제안만 남기는데 비해 제안 방법은 61,385개를 유지한다. 즉 같은 임계값에서 제안 방법은 원본보다 더 느슨한 동작점에 놓이므로, 정밀도와 중복 비율을 임계값 기준으로 직접 비교하는 것은 타당하지 않다.

따라서 두 모델은 재현율–정밀도 평면에서 비교하는 것이 적절하다. 그림 6은 임계값을 변화시키며 얻은 두 모델의 재현율–정밀도 곡선으로, 제안 방법의 곡선이 원본의 곡선 바깥에 위치한다. 구체적으로 원본의 모든 동작점에 대해 재현율과 정밀도가 동시에 더 높은 제안 방법의 동작점이 존재한다. 예를 들어 원본의 임계값 0.5 동작점(재현율 75.3%, 정밀도 77.2%)은 제안 방법의 임계값 0.75 동작점(재현율 75.4%, 정밀도 84.5%)에 의해, 원본의 임계값 0.8 동작점(재현율 69.2%, 정밀도 86.8%)은 제안 방법의 임계값 0.9 동작점(재현율 70.5%, 정밀도 90.6%)에 의해 각각 지배된다. 이는 유일성 기반 게이트가 특정 임계값에서의 이득이 아니라 검출과 억제 사이의 상충 관계 자체를 개선함을 의미하며, 본문에서 사용한 임계값 0.5라는 선택이 결론을 결정하지 않음을 보여준다.

H. 최신 점 기반 모델과의 위치 비교

제안 방법의 상대적 위치를 명확히 하기 위해 최근 점 기반 군중 계수 모델의 보고 성능을 표 10에 정리하였다. 본 연구의 목적은 계수 성능에서 최고 성능을 달성하는 것이 아니라 동일한 기반 모델 위에서 제안 집합의 구조적 품질을 개선하는 것이므로, 표 10은 우열의 근거가 아니라 위치 확인을 위한 참고 자료로 제시한다.

계수 성능만 보면 PET와 APGCC가 제안 방법보다 우수하다. 다만 이들은 트랜스포머 기반 질의 구조나 보조 점 안내와 같이 기반 구조 자체를 변경하는 접근인 반면, 제안 방법은 P2PNet의 예측 구조를 그대로 유지한 채 유일성 분기만을 추가하여 중복 제안을 억제한다. 또한 본 연구의 UCF-QNRF 실험은 GPU 메모리 제약으로 최장변 1408 px로 축소한 입력을 사용하므로 원 해상도 계열 설정을 사용하는 다른 모델의 보고값과 직접 비교하기 어렵다. UCF-CC-50의 경우 비교 대상 모델들은 원 해상도 계열 입력과 표준 5겹 분할을 사용하는 반면, 본 연구는 GPU 메모리 제약으로 최장변 1408 px로 축소하고 폴드를 원본 50장의 순서대로 분할하였다. 이처럼 입력 해상도와 폴드 구성이 모두 달라 동일 조건 비교가 성립하지 않으므로 표 10에서 제외하였다. 참고로 APGCC [9]는 UCF-CC-50에서 P2PNet 172.7, PET 159.9, APGCC 154.8의 MAE를 보고하며, 본 연구의 수치(원본 198.44, 제안 190.22)와의 차이에는 위 프로토콜 차이가 함께 반영되어 있다.

표 10 최신 점 기반 군중 계수 모델의 보고 성능

Table 10 Reported performance of recent point-based crowd counting models

Model Venue ShanghaiTech A UCF-QNRF
MAE↓ RMSE↓ MAE↓ RMSE↓
P2PNet [6] ICCV 2021 52.74 85.06 85.32 154.5
CLTR [7] ECCV 2022 56.9 95.2 85.8 141.3
PET [8] ICCV 2023 49.34 78.77 79.53 144.32
APGCC [9] ECCV 2024 48.75 76.69 80.1 136.6
Original — 54.10 89.26 96.14 169.84
ValueUp — 52.54 88.10 91.84 168.57

I. 종합 논의 및 한계

세 데이터셋 결과를 종합하면, 제안한 ValueUp-P2PNet은 원본 P2PNet 대비 대표 포착률(Matched/GT)을 높이고 중복 비율(Dup/Pred)을 낮추는 경향을 일관되게 보였다. 특히 ShanghaiTech Part A와 UCF-QNRF에서는 계수 성능(MAE, RMSE)과 제안 수준 지표가 함께 개선되었고, UCF-CC-50에서는 MAE, Matched/GT, Dup/Pred는 개선되었으나 RMSE와 BG/Pred는 원본보다 불리하였다. 따라서 제안 방법의 효과는 대표 포착률 증가와 중복 비율 감소를 중심으로 해석하는 것이 타당하다.

이러한 결과는 점 기반 군중 계수에서 계수 지표만으로는 예측 품질을 충분히 설명할 수 없음을 보여준다. MAE가 낮더라도 하나의 정답 주변에 여러 제안이 남으면 위치 표현 구조가 불안정할 수 있으며, 이는 개별 위치가 필요한 후속 과제(downstream task)에도 영향을 줄 수 있다. 제안한 유일성(uniqueness) 분기는 신뢰도와 별개로 제안의 대표성을 학습하므로, 신뢰도를 직접 낮추는 방식보다 세밀한 중복 억제가 가능하다. 특히 SHHA에서 대표 포착률 증가와 중복 비율 감소가 동시에 나타난 점은, 제안 방법이 단순 후처리 이상의 구조적 개선을 제공함을 시사한다.

다만 한계도 있다. 첫째, UCF-CC-50에서는 중복 비율과 MAE는 낮추었지만 RMSE는 원본보다 높게 나타났는데, 이는 초고밀도 소수 영상이 제곱오차를 지배하기 때문이다. 둘째, 분석 반경과 점수 임계값에 대한 민감도는 표 8 및 표 9에서 확인하였다. 다만 게이트 파라미터는 세 데이터셋에 동일하게 $k = 20$, $\tau = 0.5$를 사용하였을 뿐 데이터셋별 최적값 탐색은 수행하지 않았다. 셋째, 위상(phase)과 스케일(scale) 출력은 보조 정규화로만 쓰였을 뿐 최종 추론에 직접 활용되지는 않았다. 넷째, 본 연구는 각 보조 분기의 기여를 구성 요소 분석으로 확인하였으나, 위상 표현이 실제로 학습하는 정보를 표현 분포(embedding distribution) 수준에서 시각화하거나 정량적으로 분석하지는 못하였다. 이는 향후 과제로 남긴다.

5. 결 론

본 논문은 점 기반 군중 계수의 대표 모델인 P2PNet이 추론 단계에서 하나의 정답 주변에 여러 제안을 남기는 중복 제안(duplicate proposal) 문제를 가진다는 점을 제안 수준(proposal-level) 분석으로 밝히고, 이를 완화하는 ValueUp-P2PNet을 제안하였다. 제안 방법은 기존 위치·신뢰도 예측 구조를 유지하면서 각 제안의 대표성을 나타내는 유일성(uniqueness)과 보조적인 위상·스케일을 추가로 예측하고, 헝가리안 매칭 결과를 지도 신호로 대표 제안의 유일성은 높이고 주변 중복 제안의 유일성은 낮추도록 학습한다. 또한 임계값 불연속을 완화하는 가우시안 가중 중복 손실과, 학습 중 손실 크기 변화에 따라 보조 손실의 상대적 기여를 자동 보정하는 적응형 손실 비율 커리큘럼을 도입하였으며, 추론 단계에서는 학습된 유일성을 소프트 게이트로 반영하여 별도 후처리 없이 중복을 억제한다.

세 데이터셋(ShanghaiTech Part A, UCF-CC-50, UCF-QNRF) 실험에서 제안 모델은 원본 P2PNet 대비 계수 성능(MAE)을 유지 또는 개선하면서 대표 포착률(Matched/GT)을 높이고 중복 비율(Dup/Pred)을 낮추는 경향을 일관되게 보였다. 이는 계수 성능을 해치지 않으면서 점 제안 집합의 구조적 중복을 완화할 수 있음을 의미한다. 본 연구의 기여는 다음과 같다. 첫째, 점 기반 모델의 예측 품질을 계수 지표를 넘어 대표·중복·배경 구조로 정량화하였다. 둘째, 신뢰도와 분리된 유일성 학습으로 중복을 억제하는 구조를 제시하였다. 셋째, P2P 손실과 보조 손실의 상대적 크기에 따라 유효 가중치를 자동 조절하는 적응형 커리큘럼을 제안하였다. 이러한 개선은 개별 위치의 신뢰성이 중요한 공공 안전 관리·이벤트 모니터링 등 응용에서 실질적 이점을 가진다.

제안 방법은 세 데이터셋에서 일관된 개선을 보였으나, 몇 가지 측면은 향후 보완의 여지가 있다. 예를 들어 UCF-CC-50과 같이 초고밀도 영상이 포함된 경우 RMSE의 추가적인 안정화가 가능할 것으로 보이며, 게이트 파라미터($k, \tau$)의 설정과 위상·스케일 출력의 활용 범위 또한 더 넓힐 수 있다. 이러한 관찰을 바탕으로 향후 연구에서는 초고밀도 장면의 오차를 완화하는 밀도 인지형 적응 게이트(density-aware adaptive gate)를 설계하고, 보조 표현에 머물러 있는 위상·스케일 정보를 추론 단계의 제안 선택에 직접 활용하며, 동일한 학습·평가 프로토콜에서 CLTR, PET 등 최신 점 기반 기법을 직접 재현하여 비교함으로써 일반화 성능을 폭넓게 검증하고자 한다. 이를 통해 계수 성능과 위치 표현 품질을 함께 향상시키는 점 기반 군중 계수 모델로 발전시킬 수 있을 것으로 기대한다.

Acknowledgements

This Research was supported by Seokyeong University in 2025.

References

1 
Y. Zhang, D. Zhou, S. Chen, S. Gao, Y. Ma, "Single-Image Crowd Counting via Multi-Column Convolutional Neural Network," pp. 589-597, Proc. IEEE CVPR, 2016. Google Search
2 
Y. Li, X. Zhang, D. Chen, "CSRNet: Dilated Convolutional Neural Networks for Understanding the Highly Congested Scenes," pp. 1091-1100, Proc. IEEE CVPR, 2018. Google Search
3 
W. Liu, M. Salzmann, P. Fua, "Context-Aware Crowd Counting," pp. 5099-5108, Proc. IEEE/CVF CVPR, 2019. Google Search
4 
Z. Ma, X. Wei, X. Hong, Y. Gong, "Bayesian Loss for Crowd Count Estimation with Point Supervision," pp. 6142-6151, Proc. IEEE/CVF ICCV, 2019. Google Search
5 
P. Liu, H.-C. Li, S. Lei, N. Liu, B. Feng, X. Wu, "RCCFormer: A Robust Crowd Counting Network Based on Transformer," arXiv preprint arXiv:2504.04935, 2025. Google Search
6 
Q. Song, C. Wang, Z. Jiang, Y. Wang, Y. Tai, C. Wang, J. Li, F. Huang, Y. Wu, "Rethinking Counting and Localization in Crowds: A Purely Point-Based Framework," pp. 3365-3374, Proc. IEEE/CVF ICCV, 2021. Google Search
7 
D. Liang, W. Xu, X. Bai, "An End-to-End Transformer Model for Crowd Localization," pp. 38-54, Proc. ECCV, 2022. Google Search
8 
C. Liu, H. Lu, Z. Cao, T. Liu, "Point-Query Quadtree for Crowd Counting, Localization, and More," pp. 1676-1685, Proc. IEEE/CVF ICCV, 2023. Google Search
9 
I.-H. Chen, W.-T. Chen, Y.-W. Liu, M.-H. Yang, S.-Y. Kuo, "Improving Point-Based Crowd Counting and Localization Based on Auxiliary Point Guidance," Proc. ECCV, 2024. Google Search
10 
D. B. Sam, S. V. Peri, M. N. Sundararaman, A. Kamath, R. V. Babu, "Locate, Size, and Count: Accurately Resolving People in Dense Crowds via Detection," IEEE Trans. Pattern Anal. Mach. Intell., vol. 43, no. 8, pp. 2739-2751, 2021. DOI
11 
Y. Liu, M. Shi, Q. Zhao, X. Wang, "Point in, Box out: Beyond Counting Persons in Crowds," pp. 6469-6478, Proc. IEEE/CVF CVPR, 2019. Google Search
12 
Q. Wang, J. Gao, W. Lin, X. Li, "NWPU-Crowd: A Large-Scale Benchmark for Crowd Counting and Localization," IEEE Trans. Pattern Anal. Mach. Intell., vol. 43, no. 6, pp. 2141-2149, 2021. DOI
13 
N. Carion, F. Massa, G. Synnaeve, N. Usunier, A. Kirillov, S. Zagoruyko, "End-to-End Object Detection with Transformers," pp. 213-229, Proc. ECCV, 2020. Google Search
14 
B. Wang, H. Liu, D. Samaras, M. Hoai, "Distribution Matching for Crowd Counting," Advances in Neural Information Processing Systems, vol. 33, pp. 1595-1607, 2020. Google Search
15 
N. Bodla, B. Singh, R. Chellappa, L. S. Davis, "Soft-NMS – Improving Object Detection with One Line of Code," pp. 5561-5569, Proc. IEEE ICCV, 2017. Google Search
16 
S. Liu, D. Huang, Y. Wang, "Adaptive NMS: Refining Pedestrian Detection in a Crowd," pp. 6459-6468, Proc. IEEE/CVF CVPR, 2019. Google Search
17 
J. Hosang, R. Benenson, B. Schiele, "Learning Non-Maximum Suppression," pp. 4507-4515, Proc. IEEE CVPR, 2017. Google Search
18 
H. Hu, J. Gu, Z. Zhang, J. Dai, Y. Wei, "Relation Networks for Object Detection," pp. 3588-3597, Proc. IEEE/CVF CVPR, 2018. Google Search
19 
H. Idrees, I. Saleemi, C. Seibert, M. Shah, "Multi-Source Multi-Scale Counting in Extremely Dense Crowd Images," pp. 2547-2554, Proc. IEEE CVPR, 2013. Google Search
20 
H. Idrees, M. Tayyab, K. Athrey, D. Zhang, S. Al-Maadeed, N. Rajpoot, M. Shah, "Composition Loss for Counting, Density Map Estimation and Localization in Dense Crowds," pp. 532-546, Proc. ECCV, 2018. Google Search

저자소개

김민석 (Minseok Kim)
../../Resources/kiee/KIEE.2026.75.11.2951/au1.png

Minseok Kim is expected to receive the B.S. degree in computer engineering from Seokyeong University, Seoul, Korea, in 2027.
Minseok Kim's research interests include computer vision, deep learning, and crowd counting.
ORCID Number : 0009-0008-1269-0586

조영완 (Youngwan Cho)
../../Resources/kiee/KIEE.2026.75.11.2951/au2.png

Youngwan Cho received the B.S., M.S., and Ph.D. degrees in electronic engineering from Yonsei University, Seoul, Korea, in 1991, 1993, and 1999, respectively. He worked as a Senior Research Engineer in the Control System Group at Samsung Electronics, Seoul, Korea, from 2000 to 2003. He was a visiting scholar at Department of Mechanical Engineering, Michigan State University. He is currently working as a Professor in the Department of Computer Engineering, Seokyeong University, Seoul, Korea.
His research interests include intelligent control systems, deep learning, reinforcement learning, and robotics and automation.
ORCID Number : 0000-0002-0462-1408
E-mail: ywcho@skuniv.ac.kr