Adikteev blog: Get the latest company updates and industry trends

CTV (Connected TV) Incrementality, 어떻게 제대로 측정할 것인가

작성자: Abhilasha Mishra | 2026. 9. 22. 오후 3:11:56

CTV (Connected TV) Attribution (기여도 측정) 을 올바르게 설정하면 CTV 채널에 적절한 기여도를 부여할 수 있습니다. 하지만 Attribution이 곧 성과의 증거는 아닙니다. MMP를 제대로 설정하면 어떤 install이 (유저의 앱 설치) CTV 광고에 노출된 이후 발생했는지는 확인할 수 있지만, 그 install이 실제로 CTV 때문에 발생했는지까지는 알 수 없습니다. 이 둘은 전혀 다른 질문이며, 실제 광고비 집행의 가치를 입증하는 것은 두 번째 질문입니다.

바로 이 두 번째 질문이 Incrementality (증분 효과) 입니다. CTV에 기여도 측정된 Install 중 CTV 광고가 없었다면 발생하지 않았을 Install은 얼마나 될까요? 광고 노출 여부와 관계없이 어차피 설치했을 유저를 제외하고 남는 부분이 바로 광고가 실제로 만들어낸 Incremental Lift입니다.

이를 검증하기 위해 세 차례의 CTV Incrementality Test를 진행했습니다. 첫 번째 테스트에서는 유의미한 결과를 거의 확인하지 못했고, 두 번째는 방법론은 적절했지만 입력 데이터에 문제가 있었습니다. 세 번째 테스트에서는 하나의 정교하게 설계된 테스트에서 두 캠페인 모두 통계적으로 유의미한 Lift를 확인했습니다. 이 글에서는 CTV Incrementality 측정에 실제로 무엇이 필요한지, 어떤 방법론이 효과적인지, 그리고 세 번의 테스트를 통해 신뢰할 수 있는 결과를 얻기 위해 무엇을 배웠는지 공유합니다.

왜 CTV는 측정이 가장 어려운 채널일까?

CTV는 가장 빠르게 성장하는 User Acquisition(UA) 채널 중 하나인 동시에 성과를 정확하게 측정하기 가장 어려운 채널 중 하나입니다. 크게 세 가지 이유가 있습니다.

  • 추적할 Click이 없음: TV 광고에는 사용자가 직접 클릭할 수 있는 접점이 없기 때문에 Impression과 Install을 직접 연결하는 Click 데이터가 존재하지 않습니다.
  • Cross-device 및 시간차: 광고는 TV에서 노출되지만 Install은 이후 모바일 디바이스에서 발생합니다. 따라서 측정 과정에서 서로 다른 디바이스와 시간적 간극을 연결해야 합니다.
  • Last-touch 어트리뷰션의 한계: 마지막 광고 접점에 전환 기여도를 부여하는 방식에서는 어트리뷰션 우선순위를 정교하게 설정하지 않으면, CTV가 실제로 기여한 설치가 다른 채널의 성과로 잘못 반영될 수 있습니다

따라서 CTV 성과를 판단하기 전에 먼저 측정 구조를 바로잡아야 합니다. 그 시작이 Attribution이라면, 최종적으로 실제 증분 효과를 검증하는 것이 Incrementality입니다.


먼저 Attribution Priority Conflict를 해결해야 합니다

CTV가 다른 채널의 성과를 잠식(Cannibalization)한다는 우려는 대부분 기여도 설정에 대한 오해에서 비롯됩니다. 실제로는 기여도 우선순위의 문제입니다. CTV의 View-through는 일반적으로 MMP의 기여도 우선순위에서 Click이나 Deterministic View보다 후순위에 있기 때문에, 우선순위가 더 높은 접점에 전환이 귀속되지 않은 경우에만 CTV에 설치가 어트리뷰션됩니다.

Equal Attribution Priority Window를 설정하면 이러한 우선순위 차이를 조정할 수 있습니다. 해당 Window 내에서는 CTV 노출도 모바일 Click과 동일한 기여도 우선순위를 갖게 되어, CTV와 모바일 채널의 성과를 보다 공정하게 측정할 수 있습니다.

Adikteev는 6시간의 Equal Attribution Priority Window와 24시간의 View-through Window 설정을 권장합니다. 이를 통해 실제 CTV가 기여한 설치가 모바일 채널로 잘못 어트리뷰션되는 것을 방지하고, CTV의 전환 기여도를 보다 정확하게 반영할 수 있습니다 (Adikteev internal data, 2025). Attribution 구조가 제대로 설정된 이후에야 Organic Install을 잠식한다는 우려 없이 CTV가 실제로 Incremental Install을 만들어내는지 측정할 수 있습니다.

 

Incrementality는 실제로 무엇을 측정하는가

기본적인 방법은 Controlled Experiment입니다. 동일한 조건의 Audience를 두 그룹으로 나눠 Exposed Group에는 CTV 광고를 노출하고, Control Group에는 일반적으로 PSA(Public Service Announcement)를 노출 합니다. 두 그룹의 다른 조건을 동일하게 유지하면 Install Rate의 차이를 광고 노출에 따른 효과로 볼 수 있습니다.

두 그룹 간 차이가 Incremental Lift 입니다. 즉, 광고가 없었다면 발생하지 않았을 Incremental Install을 의미합니다.

Incremental Lift = (Exposed IPM - Control IPM) / Exposed IPM
※ IPM = 1,000 Impressions당 Install 수

이때 다음 두 CPI는 서로 다른 의미를 가집니다.

  • Platform CPI: 플랫폼상 Attributed Install을 기준으로 확인되는 CPI입니다.
  • Incremental CPI: 광고가 없었다면 발생하지 않았을 Incremental Install만을 기준으로 산정한 CPI로, 실제 증분 유저 획득 비용을 보여줍니다.


Incrementality를 가장 명확하게 측정하는 방법

CTV는 UA 채널이기 때문에 Retargeting처럼 Audience를 직접 Holdout하는 방식에는 제약이 있습니다. 따라서 CTV에서 가장 명확한 방법은 PSA Holdout입니다. Test Group에는 CTV 광고를, Control Group에는 PSA를 노출한 뒤 두 Campaign의 CPI와 ROAS를 비교합니다. MMP에서 익숙한 Campaign Metric을 활용할 수 있어 비교적 빠르게 세팅할 수 있습니다. 다만 Control Group에도 실제 미디어 비용이 발생하면서 브랜드 광고 대신 PSA가 노출된다는 Trade-off가 있습니다. 이것이 Adikteev가 사용하는 핵심 방법론입니다.

이 외에도 고려할수 있는 두 가지 경로가 더 있습니다.

  • 리타겟팅(RTG): 리타겟팅에서는 테스트 그룹에 광고를 노출하고, 통제 그룹은 광고 노출에서 제외한 뒤 재활성화율(Reactivation Rate)과 ARPU를 비교합니다. 이는 ITT 2.0의 기본 방식입니다. 비용 효율적이고 투명하며 실제 비즈니스 성과와 직접 연결해 측정할 수 있고, 여러 플랫폼에 적용할 수 있다는 장점이 있습니다. 다만 일정 규모 이상의 오디언스가 필요하며, 다른 채널에서도 통제 그룹에 광고가 노출되지 않도록 유지해야 합니다.
  • 외부 전문기관 또는 In-house Modeling: 전문 분석 업체나 내부 BI팀이 Synthetic Control Group(합성 통제군), 시계열 분석(Time-series Analysis), 미디어 믹스 모델링(MMM) 등의 방법론을 활용해 증분 효과를 측정합니다. 보다 독립적이고 고도화된 분석이 가능하다는 장점이 있지만, 분석에 더 많은 시간이 필요하고 복잡도가 높으며 별도의 솔루션 또는 인력 비용이 발생할 수 있습니다.

어떤 방법을 선택할지는 KPI, 오디어스 규모, 그리고 어느 정도의 독립적인 측정이 필요한지에 따라 결정됩니다.

 

세 번의 테스트에서 얻은 세 가지 교훈

Adikteev의 실제 테스트 사례를 살펴보겠습니다. 총 세 차례의 테스트를 진행했고, 각 테스트에서 얻은 교훈을 다음 테스트 설계에 반영했습니다.

Test 1: 성과보다 더 많은 인사이트를 얻은 테스트

퍼즐게임 대상으로 PSA Holdout을 진행하고 IPM 기반 Lift를 측정했습니다. 수치상으로는 2% Lift를 보였으나 통계적 유의미성은 낮았습니다. 그러나 실패한 테스트는 아니었습니다. 오히려 다음 테스트에서 무엇을 개선해야 하는지 명확하게 보여주었습니다.

문제는 세 가지였습니다.

  1. 테스트 도중 그룹 간 균형이 깨짐: 여러 Device ID가 연결된 고위험 IP를 제외하기 위한 Blacklist를 테스트 도중 적용하면서, 노출 그룹과 통제 그룹의 조건이 달라짐.
  2. 유효한 데이터가 4일에 불과함: 증분 효과를 신뢰도 있게 판단하기에는 테스트 기간이 지나치게 짧았음.
  3. 클라이언트와 설치 측정 범위가 달랐음: 당사는 어트리뷰션된 설치(Attributed Install)를 기준으로 측정한 반면, 클라이언트는 당사에서 확인할 수 없는 간접 기여 전환(Assisted Conversion)까지 포함하고 있어 전체 성과를 동일한 기준으로 비교하기 어려움.

이 경험을 통해 정립한 4가지 Playbook

  1. 첫날부터 그룹 간 균형 유지: 고위험 IP를 제외하기 위한 Blacklist는 캠페인 시작 전에 적용하고, 테스트 도중에는 변경하지 않습니다.
  2. 예산 집행 속도 안정화: 과도한 Bidding을 제한해 예산이 최대한 다양한 CTV 디바이스에 고르게 진행되도록 합니다.
  3. 노출 빈도 기준 일치: 기존 벤치마크가 IP당 일일 2회 노출이라면, 테스트 역시 동일한 노출 빈도를 적용해야 공정한 비교가 가능합니다. 첫 번째 테스트에서는 IP당 일일 약 1회 노출로 집행 했습니다.
  4. 타겟팅 정교화: 전체 CTV Inventory에 광범위하게 예산을 집행하기보다, 품질이 높은 Publisher와 Audience Segment에 예산을 집중합니다.

Test 2: 방법론은 적절했지만 Input이 잘못된 테스트

소셜 앱을 대상으로 완전히 새로운 방식을 시도했습니다. User-level Split 대신 Geo와 Time을 기준으로 Test/Control을 구분하는 Difference-in-Differences(DiD) 방법론을 사용하고 일일 신규 유저 (Daily New Users)를 KPI로 설정했습니다.

CTV를 Test Region에서 집행하고 유사한 조건의 Control Region은 Holdout한 뒤, 두 단계에 걸쳐 각 그룹의 변화를 비교합니다.

  • Phase 1 – Scale: Test Region과 Control Region 양쪽의 Spend를 함께 확대
  • Phase 2 – Pause: Control Region의 CTV 집행을 중단하고 변화를 관찰

이중차분법(Difference-in-Differences)을 활용하면 계절성(Seasonality)의 영향을 분리할 수 있습니다. 예를 들어 통제 지역에서 신규 유저가 20만 명 감소하고 테스트 지역에서는 5만 명 감소했다면, 두 지역의 감소 폭 차이인 15만 명을 CTV가 만들어낸 증분 효과로 해석할 수 있습니다. 반면 두 지역에 공통적으로 나타난 5만 명의 감소분은 계절성에 따른 변화로 볼 수 있습니다 .

단 해당 테스트의 방법론 자체는 강력했지만 Input에 문제가 있었습니다.

  • KPI가 불투명했음: 일일 신규 유저(Daily New Users)를 산정하는 공식이 공유되지 않아, 해당 KPI를 기준으로 캠페인을 최적화할 수 없었음.
  • 채널 효과를 분리할 수 없었음: 여러 CTV Vendor가 동일한 테스트 기간에 동시에 캠페인을 집행하고 있었기 때문에, 당사의 타겟팅을 개선하더라도 당사 캠페인이 전체 KPI에 미친 영향을 독립적으로 측정하기 어려움.

예산을 집행하기 전에 KPI와 산정 방식을 명확히 합의하고, 테스트 대상 채널의 증분 효과를 독립적으로 측정할 수 있도록 설계해야 합니다.

 

Test 3: 통계적으로 유의미한 Lift를 확인한 테스트

소셜 카지노 앱을 대상으로 앞선 테스트에서 얻은 인사이트를 모두 적용했습니다. 첫날부터 정교하게 설계된 PSA Holdout을 적용하고, Audience Builder를 통해 구성한 오디언스를 IP별 연결 디바이스 수에 따라 세분화했습니다. 이후 타겟팅 범위가 서로 다른 두 개의 캠페인을 운영했습니다.

  • 캠페인 A – 정교한 고가치 오디언스: Premium Segment 내 약 100만 명을 대상으로, 연결된 고유 Device ID 수가 적은 IP만 선별해 최대한 정제된 오디언스를 구성
  • 캠페인 B – 광범위한 모델링 오디언스: CTV Audience Model을 통해 생성한 300만~500만 명 규모의 오디언스를 타겟팅. 오디언스 규모를 확대하더라도 증분 효과가 유지되는지를 검증하기 위한 캠페인

두 캠페인 모두 첫날부터 Blacklist를 적용하고 노출 그룹과 통제 그룹의 균형을 맞췄으며, 충분한 테스트 기간과 Benchmark 수준의 노출 빈도(Frequency)를 유지하도록 설계했습니다 .

그 결과, 두 캠페인 모두 통계적으로 유의미한 증분 효과를 확인했습니다 .

    • Campaign A: 약 $10,000 Spend에서 Control 0.06 IPM 대비 0.09 IPM을 달성
    • Campaign B: 약 $11,600 Spend에서 거의 0에 가까운 Control 대비 0.10 IPM을 달성

다만 여기에는 Trade-off가 있었습니다. 증분 효과를 높이기 위해 타겟팅을 정교화 하면서 CPI가 약 3배 상승했습니다 .

실제로 증분 효과를 만들어낸 요인

  1. 오디언스 정교화: 연결된 디바이스 수가 적은 정교한 오디언스 Segment에서 높은 증분 효과가 나타남. 반면 도달 범위를 넓힐수록 증분 효과가 희석되는 경향을 보임.
  2. 구매 의도가 높은 Vertical: 오가닉 유입이 상대적으로 적은 Vertical에서는 CTV를 통해 발생한 설치가 광고 없이도 발생했을 설치가 아니라, 실제로 CTV가 추가로 만들어낸 설치일 가능성이 높음.
  3. Inventory 품질: 공인된 리셀러를 통해 확보한 Premium Inventory의 노출이 실제로 측정 가능한 증분 효과로 이어짐.

Vertical보다 중요한 것은 레버(Lever) 입니다

어떤 Vertical인지가 CTV의 증분 효과를 결정하는 것은 아닙니다. 중요한 것은 각 Vertical의 특성에 맞는 전략을 선택하는 것입니다.

  • 정교한 타겟팅이 전략: 광범위한 CTV 집행으로 발생한 증분 효과는 오가닉 유입에 묻힐 수 있습니다. 오가닉 유입이 강한 캐주얼·퍼즐 게임에서는 ‘규모’보다 ‘품질’이 중요합니다. 고가치 오디언스 세그먼트, 적은 연결 디바이스 수, Frequency 관리, 프리미엄 인벤토리 활용해 타겟팅의 정밀도를 높이는 것이 중요합니다.
  • Scale 전략: 소셜 카지노와 같이 오가닉 유입이 상대적으로 적고 유저의 전환 의도가 높은 앱에서는 모델링된 광범위 오디언스를 통해서 실질적인 증분 효과가 나타날 수 있습니다. 따라서 타겟팅을 더욱 정교화하기 전부터 Scale-up을 시도할 수 있습니다.

결국 중요한 질문은 “CTV가 우리 앱에서 증분 효과를 만들어낼 수 있는가?”가 아니라, “어떤 전략을 통해 CTV의 증분 효과를 극대화할 것인가?”입니다. .

신뢰할 수 있는 증분 효과를 위한 5가지 원칙

결과는 신뢰할 수 있을 때만 의사결정에 활용할 가치가 있습니다. 신뢰도 높은 결과를 얻기 위해 다음 5가지 원칙을 반드시 준수해야 합니다 .

  1. 첫날부터 명확한 Holdout 유지: 캠페인 시작 전 노출 그룹과 통제 그룹의 균형을 맞추고, 테스트 도중에는 조건을 변경하지 않음
  2. KPI 사전 합의: 예산을 집행하기 전에 정확한 측정 지표와 산정 방식을 명확히 합의 함. 불분명하거나 사전에 공유되지 않은 KPI가 있어서는 안됨
  3. 충분한 테스트 기간과 표본 확보: 증분 효과를 신뢰도 있게 확인할 수 있도록 충분한 데이터를 확보. Adikteev는 최소 14일의 테스트 기간을 권장
  4. 인벤토리와 노출 빈도 관리: 공정한 비교를 위해 노출 그룹과 통제 그룹 간 인벤토리 품질과 노출 빈도를 최대한 동일하게 유지
  5. 직접 및 간접 기여 설치를 모두 측정: Last-view 기준으로 어트리뷰션된 설치뿐만 아니라, 광고가 전환 과정에 기여한 Attributed Install과 Assisted Install까지 함께 고려

Adikteev는 모든 테스트에서 Holdout 설계, 표본 규모, 테스트 기간, 통계적 유의성을 공개합니다. 다른 파트너와 테스트를 진행할 때도 동일한 수준의 정보를 요청하는 것이 중요합니다.

Where to start

처음부터 모든 것을 해결할 필요는 없습니다. 다음 3 단계부터 시작할 수 있습니다 .

  1. Define: KPI와 Holdout 방식을 사전에 합의하고 문서화
  2. Design: 적절한 오디언스를 기반으로 첫날부터 명확하고 균형 잡힌 테스트를 설계
  3. Scale: 증분 CPI(Incremental CPI)를 측정한 뒤, 증분 효과가 검증된 오디언스 세그먼트를 중심으로 Scale-up

결론

  • 적절한 조건에서 CTV는 확실한 증분 효과를 만들어낼 수 있습니다. 실제 테스트를 통해 통계적으로 유의미한 증분 효과(Lift)를 확인했습니다.
  • CTV와 모바일 채널은 동일한 설치를 두고 어트리뷰션 우선순위가 충돌할 수 있습니다. 따라서 Equal Attribution Priority Window와 같은 MMP 설정이 중요합니다. 테스트를 시작하기 전부터 CTV가 어트리뷰션 구조상 불리한 위치에 놓이지 않도록 해야 합니다 .
  • 다음 과제는 Scale입니다. 증분 효과, CPI, Reach는 서로 Trade-off 관계에 있습니다. 핵심은 CPI를 과도하게 높이지 않으면서 높은 증분 효과를 보이는 오디언스 세그먼트를 찾아 Scale-up하는 것입니다 .

어트리뷰션은 CTV가 기여한 전환에 적절한 기여도를 부여하고, Incrementality는 그 전환이 실제로 광고를 통해 추가로 발생한 성과인지를 검증합니다. 이 두 가지를 모두 제대로 측정해야 CTV의 가치를 단순히 추정하는 수준을 넘어, 실제 비즈니스 성과를 명확하게 판단할 수 있습니다 .