[논문 리뷰] LIGE-GR: A Smooth Leap from Ranking to Generative Recommendation in the LLM Era
메타정보
| 항목 | 내용 |
|---|---|
| 저자 | Venkat Srinivas et al. (저자 66명, Meta · 미국) |
| 학회 | arXiv · 2026 |
| arXiv 또는 DOI | 2609.18148 |
| 데이터 | Instagram Reels · Facebook Video의 내부 추천 로그와 온라인 A/B 실험 |
| 리뷰 일자 | 2026-09-28 |
TL;DR
- LIGE-GR은 기존 추천 모델이 계산한 사용자·아이템 표현을 유지하면서, 현재 목록의 앞부분을 보는 작은 causal Transformer와 목록 평가 함수, Palette decoder를 추가하는 프레임워크다. 기존 ranking 단계 안에서 목록을 순차 생성한다.
- 기본 구성은 context-aware 예측에 단순 합산 목적함수와 beam width 1을 사용한다. 각 제품의 기존 시스템 대비 시청 시간은 Instagram Reels에서 1.14%, Facebook Video에서 0.72% 증가한다. 추가 추론 자원은 기존 context-free 모델 자원의 약 10%다.
- 사용자 이탈을 고려한 목록 가치와 duration-aware 미래 가치 근사를 결합한 beam width 6 구성은 Reels 기본 구성 대비 시청 시간을 0.69% 더 높인다. 이는 앞선 결과와 기준선이 다른 독립 실험이며, 두 개선율을 합쳐 하나의 측정 결과로 제시하면 안 된다.
- 목록의 주제·제작자 다양성이 좋아지는 동시에 최신 영상 비중은 감소한다. 더 좋은 engagement와 모든 생태계 지표의 개선은 같은 주장이 아니다.
- 핵심은 거대한 언어모델로 추천기를 대체하는 데 있지 않다. 기존 모델·사업 규칙·복구 경로를 보존하면서 예측, 평가, 탐색을 목록 단위로 확장하는 설계다.
소개 (Introduction)
좋아할 가능성이 높은 영상을 열 개 고르면 좋은 추천 목록이 될까? 개별적으로는 매력적인 영상도 같은 주제를 연속해서 보여 주면 지루해질 수 있다. 반대로 조금 다른 주제의 영상 하나가 다음 영상을 계속 보게 만들 수도 있다. 각각의 클릭이나 좋아요 확률을 정확하게 예측하는 문제와, 여러 영상의 순서를 함께 결정하는 문제는 겹치지만 같지는 않다. 특히 사용자가 중간에 떠날 수 있는 짧은 영상 서비스에서는 뒤쪽 영상의 높은 가치가 실제로 실현되는지까지 고려해야 한다.
대규모 추천 시스템은 이미 이런 문제를 일부 다루고 있다. 같은 제작자의 연속 노출을 줄이고 특정 조합을 금지하는 규칙을 넣으며, 사용자 이력을 정교하게 표현하는 모델도 사용한다. 그러나 개별 후보를 평가한 뒤 규칙으로 보정하는 구조에서는 현재 선택이 다음 후보의 가치에 미치는 영향을 충분히 반영하기 어렵다. 그렇다고 수년에 걸쳐 만든 ranking 모델과 serving 시스템을 통째로 바꾸는 것도 간단하지 않다. 성능뿐 아니라 장애 복구, 지연 시간, 팀별 책임 범위까지 함께 바뀌기 때문이다.
Srinivas et al.의 LIGE-GR은 이 전환 비용을 연구 문제의 일부로 다룬다. 생성형 추천의 핵심을 “목록 앞부분에 조건화해 다음 항목을 선택하고, 완성될 목록의 가치를 평가하는 것”으로 잡는다. 그리고 기존 시스템 위에 필요한 기능만 추가한다. 이 리뷰는 arXiv v2의 본문과 부록을 기준으로, 생성이라는 표현의 실제 의미부터 온라인 성능과 비용의 비교 기준까지 살펴본다.
핵심 기여 (Key Contributions)
- 기존 ranking 단계의 목록 단위 확장. Context-free 모델을 보존하고 작은 context-aware 모듈을 붙여, 별도의 reranking 단계를 새로 만들지 않고 현재 목록 내부의 영향을 예측한다.
- 도달 확률을 반영한 ListVM. 모든 위치의 가치를 똑같이 더하는 대신 사용자가 해당 위치까지 시청을 이어 갈 확률을 곱한다. 개별 예측값과 전체 목록의 기대 가치를 명시적으로 연결한다.
- 미래 가치 근사를 이용한 Palette 탐색. 누적 점수만으로 prefix를 가지치기하지 않고 남은 위치의 가치를 저비용으로 추정한다. 영상 길이 때문에 생기는 짧은 콘텐츠 선호 편향도 보정한다.
- 실서비스의 점진적 도입과 복구 경로. 기존 표현 재사용, 후보 축소, beam batching, 요청별 fallback을 함께 설계하고 두 제품의 A/B 실험과 목록 구성 변화를 보고한다.
관련 연구 / 배경 지식
사용자 이력과 현재 추천 목록의 문맥
사용자의 과거 시청 기록을 Transformer로 처리한다고 해서 현재 출력 목록 전체를 최적화하는 것은 아니다. 과거에 스포츠를 많이 봤다는 정보를 이용해 후보마다 점수를 주는 모델도, 이번 요청에서 이미 스포츠 영상을 세 개 골랐다는 사실을 보지 못할 수 있다. 논문의 context-free, 즉 CF는 사용자 문맥이 없다는 뜻이 아니라 현재 생성 중인 목록의 prefix에 조건화하지 않는다는 뜻이다.
Context-aware, 즉 CA는 같은 사용자와 같은 후보라도 앞에 선택한 아이템이 달라지면 다른 결과를 예측한다. 여기서 prefix는 이번 요청에서 먼저 배치한 영상들의 순서다. 아직 사용자가 실제로 시청한 결과가 들어온 것은 아니다. 따라서 이것은 실시간으로 관측한 반응을 매번 받아 행동하는 장기 agent와도 다르다. 시스템은 한 요청의 목록을 구성하는 동안 예상되는 문맥 효과를 모델로 계산한다.
이 차이를 이해하면 “기존 추천은 순서를 전혀 고려하지 않았다”는 식의 설명을 피할 수 있다. 과거 사용자 이력, 사업 규칙, 현재 목록 내부의 학습된 상호작용은 서로 다른 경로로 순서 정보를 사용한다. LIGE-GR은 그중 세 번째를 기존 ranking 경로 안으로 넣는다. 과거 이력 모델이 좋아져도 남을 수 있는 반복과 포화 문제를 직접 다루려는 시도다.
Slate 생성과 generative retrieval의 구분
Slate는 함께 제시할 아이템들의 목록이다. Seq2Slate는 이미 선택한 항목을 바탕으로 다음 항목을 고르는 순차적 slate 구성을 다뤘다. 따라서 autoregressive 추천 자체를 LIGE-GR의 최초 발명으로 읽어서는 안 된다. 기존 listwise ranking과 generator–evaluator 연구도 목록 간 상호작용과 전체 품질을 오래 다뤄 왔다.
한편 TIGER는 Semantic ID를 생성해 아이템을 찾는 generative retrieval의 예다. OneRec은 retrieval과 ranking을 통합하는 더 큰 구조 변경을 제안한다. LIGE-GR은 입력으로 주어진 수백 개 수준의 후보에서 약 열 개 아이템으로 구성된 목록을 고른다. 전체 카탈로그를 언어 토큰처럼 직접 탐색하는 모델도, 자연어 응답을 생성하는 LLM도 아니다.
논문의 차별점은 이런 요소를 실제 시스템의 어느 위치에 넣는지에 있다. 완성된 여러 목록을 만든 후 평가하는 방식과 달리, LIGE-GR은 부분 목록을 만들면서 동시에 평가하고 가지치기한다. 기존 item value model과 control layer를 유지하기 때문에 제품별 목적과 제약도 같은 인터페이스로 계속 다룰 수 있다.
방법 / 아키텍처 상세
1. CF·CA·ListVM·decoder의 역할 분리
사용자 정보 u와 후보 집합 C가 주어지면 중복 없는 길이 T의 순서 목록을 반환한다. 논문의 실험 규모는 후보가 수백 개 수준이고 T는 약 10이다. 기존 CF 모델은 후보마다 좋아요, 공유, 특정 시청 행동 등의 예측값을 낸다. itemVM은 이 여러 신호를 가중합 같은 방식으로 하나의 아이템 가치로 바꾼다. 즉 예측 모델과 제품이 최적화하려는 가치 함수가 구분되어 있다.
Control layer, 즉 CL은 여기에 문맥에 따른 보정이나 금지를 적용한다. 같은 주제가 너무 가까이 나오는 경우 감점할 수 있고, 허용되지 않는 조합은 음의 무한대로 마스킹한다. 이런 CL이 있으면 기존 시스템도 앞에 선택한 항목에 따라 다음 선택이 달라진다. 다만 engagement 예측 자체는 CF로 유지되며, 다음 단계의 가장 높은 점수 하나를 고르는 greedy 방식이 전체 목록의 최적해를 보장하지는 않는다.
LIGE-GR의 세 변경점은 서로 분리된다. CF를 CA 예측으로 확장하고, 아이템 점수의 합을 목록 가치 함수로 확장하며, greedy 선택을 여러 prefix와 미래 가치를 비교하는 탐색으로 확장한다. 세 기능을 한꺼번에 켜야만 동작하는 구조가 아니다. 실제 주요 온라인 실험은 CA만 도입한 가벼운 구성에서 시작한다. 이 단계적 비교가 무엇 때문에 성능이 개선됐는지 읽는 기준이 된다.
2. 기존 표현을 재사용하는 causal Transformer
CF의 interaction network는 사용자 정보와 후보 특징을 결합해 중간 표현을 계산한다. CA는 이 표현들을 입력으로 받아 현재 후보와 앞서 고른 아이템의 관계를 처리한다. 구현은 attention head 4개, layer 4개의 GPT 계열 decoder-only causal Transformer다. 앞부분의 표현에 attention을 적용하고 task별 예측 head를 통해 engagement를 다시 예측한다.
여기서 중요한 것은 모델을 거대하게 만드는 것이 아니라 비싼 특징 계산을 반복하지 않는 것이다. 사용자와 후보를 결합한 CF 표현은 요청당 한 번 계산해 저장한다. 목록을 한 칸씩 늘릴 때에는 이 표현을 재사용하면서 작은 CA만 호출한다. 따라서 열 개를 생성한다고 기존 대형 ranking 모델을 열 번 전부 실행하는 구조는 아니다.
Causal 구조도 목적에 맞는다. 아직 결정하지 않은 미래 아이템을 조건으로 다음 선택을 예측하면 실제 생성 과정에서 사용할 수 없는 정보에 의존하게 된다. CA는 현재 후보의 표현과 이미 선택한 prefix를 이용해 그 후보를 붙였을 때의 결과를 평가한다. 같은 후보가 서로 다른 prefix 뒤에서 다른 점수를 얻을 수 있으므로, 단순히 처음 한 번 후보 점수를 보정하고 정렬하는 것과 다르다.
논문은 이 구조로 반복, 포화, 상호보완성, 다양성, 피로 같은 목록 효과를 포착하려 한다. 다만 아키텍처가 해당 현상을 표현할 수 있다는 것과 각각의 원인을 분리해 학습했다는 것은 별개다. 예측 품질과 목록 구성 실험은 실제 효과를 보여 주지만, 피로와 반복의 기여를 따로 식별하는 실험까지 제공하지는 않는다.
3. 위치별 도달 확률과 목록의 기대 가치
설명을 간결하게 하기 위해 t번째 아이템의 CA 기반 가치와 CL 보정을 합친 값을 s라고 두자. prefix는 그 위치 이전에 선택한 아이템들의 목록이다. 아래 식은 원문 식 (8)~(9)을 같은 의미로 다시 쓴 것이다.
\[\begin{aligned} s_t &= \operatorname{itemVM}(\operatorname{CA}(u,v_t\mid V_{t-1}))\\ &\quad + \operatorname{CL}(v_t\mid V_{t-1}),\\ \operatorname{ListVM}_{\mathrm{vanilla}}(V_T)&=\sum_{t=1}^{T}s_t. \end{aligned}\]Vanilla도 이미 listwise 성격이 있다. s가 앞선 선택에 따라 달라지기 때문이다. 그러나 사용자가 마지막 영상까지 전부 본다는 보장은 없다. 열 번째 위치의 가치가 크더라도 거기까지 도달할 확률이 낮으면 기대되는 기여는 작다. 논문은 이 문제를 continuation probability로 표현한다.
\[\begin{aligned} P_0&=1,\\ q_t&=\operatorname{CA}_{\mathrm{continue}}(u,v_t\mid V_{t-1}),\\ P_t&=P_{t-1}q_t,\\ \operatorname{ListVM}_{\mathrm{golden}}(V_T)&=\sum_{t=1}^{T}P_{t-1}s_t. \end{aligned}\]여기서 q는 현재 영상을 소비한 뒤 다음 영상으로 계속 갈 조건부 확률이고, P는 그 prefix 이후까지 남아 있을 누적 확률이다. t번째 항에 곱하는 값은 P의 t-1번째 값이다. 현재 영상을 보기 위해서는 그 이전까지 남아 있으면 되기 때문이다. 현재 영상 이후의 계속 시청 확률까지 현재 가치에 곱하면 원문의 목적함수와 달라진다.
예를 들어 다음 영상으로 넘어갈 확률이 두 번 연속 0.8이라면 세 번째 위치에 도달할 확률은 0.64가 된다. 이는 식을 이해하기 위한 예시이며 실험에서 측정한 확률은 아니다. 이처럼 앞쪽의 선택은 자기 가치뿐 아니라 뒤쪽 가치가 실현될 가능성에도 영향을 준다. CL 보정도 원문에서는 같은 도달 확률로 가중된다. 다만 금지된 후보는 점수를 계산하기 전에 허용 후보 집합에서 제거한다.
4. Palette의 prefix 확장과 미래 가치
Palette는 빈 목록에서 시작해 각 prefix 뒤에 아직 선택하지 않은 허용 후보를 하나씩 붙인다. 모든 확장 결과에 대해 golden 누적 가치와 미래 가치 추정치를 더한 검색 점수를 계산한다. 그중 상위 b개만 다음 단계로 넘긴다. b는 beam width다. 동일한 깊이에서 어떤 prefix를 살릴지 결정하는 것이 핵심이며, beam 하나 안에서만 따로 상위 후보를 고르는 방식은 아니다.
\[Q(V_t)=\operatorname{ListVM}_{\mathrm{golden}}(V_t)+\widehat F(V_t).\]완성된 목록에서는 남은 위치가 없으므로 미래 가치는 0이다. 마지막에는 남아 있는 목록 중 golden 가치가 가장 큰 것을 반환한다. 각 단계에서는 미래 가능성을 고려하고, 최종 선택에서는 완성된 목적함수로 비교하는 구조다. 입력에는 사용자와 후보, 길이와 beam width, CA와 continuation predictor, itemVM, CL, 미래 가치 추정기가 필요하다. 허용 확장이 매 위치에 하나 이상 있다는 가정도 Algorithm 1에 들어 있다.
논문이 이를 RL-based decoder라고 부르는 이유는 prefix를 상태, 다음 후보를 행동, 이미 계산한 가치와 남은 가치를 return과 value-to-go로 해석하기 때문이다. 하지만 여기서 별도의 value network를 reinforcement learning으로 학습하거나 PPO로 정책을 업데이트한 것은 아니다. Palette는 이미 있는 예측값으로 계산하는 닫힌 형태의 근사를 사용한다. 학습된 value model이나 Monte Carlo tree search는 향후 확장으로 남겨 둔다.
이 구분은 구현 비용을 이해하는 데도 중요하다. “RL 도입”이라는 표현만 보면 추가 reward model 학습과 복잡한 rollout을 떠올리기 쉽다. 이 논문의 실용적 선택은 그 비용을 피하면서도 현재 누적값만 보는 검색의 근시안을 줄이는 것이다. 다만 제한된 beam과 근사값을 사용하므로 전체 후보 순열에 대한 최적성을 보장하는 알고리즘은 아니다.
5. 영상 길이를 반영한 미래 가치 근사
가장 간단한 미래 가치 추정은 선택된 아이템들의 가중 전 평균 가치와 마지막 아이템의 continuation 확률을 이용한다. 남은 모든 위치에서 비슷한 가치가 생기고, 마지막 아이템과 같은 계속 시청 확률이 반복된다고 가정하는 것이다. 원문 식 (11)의 평균은 각 선택 위치의 점수를 평균내는 의미이므로 아래에서는 앞서 정의한 s로 표기한다.
\[\begin{aligned} \bar s(V_t)&=\frac{1}{t}\sum_{\tau=1}^{t}s_\tau,\\ \widehat F_{\mathrm{step}}(V_t)&=\bar s(V_t)\sum_{j=1}^{T-t}q_t^j. \end{aligned}\]문제는 q가 영상 한 개 전체를 본 뒤의 확률이라는 점이다. 초당 이탈 경향이 같아도 긴 영상 뒤의 continuation 확률은 짧은 영상 뒤보다 낮을 수 있다. 방금 고른 긴 영상의 확률을 남은 모든 위치에 반복 적용하면, 미래 영상도 모두 그만큼 길다는 가정을 암묵적으로 넣는다. 그 결과 긴 영상으로 끝나는 prefix가 과도하게 가지치기될 수 있다.
Duration-aware 추정은 마지막 영상 길이 d와 prefix의 평균 길이를 비교해 확률의 지수를 조정한다. 원문 식 (13)~(14)은 다음과 같다.
\[\begin{aligned} \bar d&=\frac{D(V_t)}{t},\\ \widetilde q_t&=q_t^{\bar d/d_t},\\ \widehat F_{\mathrm{dur}}(V_t)&=\bar s(V_t)\sum_{j=1}^{T-t}\widetilde q_t^{\,j}. \end{aligned}\]D는 선택한 영상들의 전체 길이다. 마지막 영상이 평균보다 길면 지수가 1보다 작아져 q가 위로 보정되고, 짧으면 반대로 조정된다. 긴 영상을 무조건 우대하는 것이 아니라 마지막 영상의 길이를 미래 전체에 복제하는 편향을 줄이려는 것이다. 누적 golden 가치에 이 근사를 더한 평가기를 논문은 duration-aware listwise VM이라고 부른다.
이 식을 정확한 기대 미래 보상으로 받아들여서는 안 된다. 평균 가치와 마지막 continuation을 미래에 재사용하는 근사이며, 원문 식 (14)에는 prefix의 누적 도달 확률 P를 별도로 곱하는 항도 없다. 리뷰에서도 그 항을 임의로 추가하지 않는다. 도달 확률을 곱한 완성 목록 목적함수와 탐색을 돕는 휴리스틱은 역할과 정확성이 다르다. 실험이 확인하는 것은 이 조합의 유용성이지, 추정치의 불편성이나 Bellman 최적성은 아니다.
6. 후보 축소·beam batching·요청별 fallback
Serving의 첫 단계는 CF 점수와 중간 표현을 후보마다 한 번 계산하는 것이다. 두 번째 단계에서 Palette가 저장한 표현을 이용해 목록을 만든다. CA에 넘길 후보는 CF 상위권 약 3분의 1로 제한한다. 기존 모델이 저품질 후보를 미리 걸러 주는 셈이며, 논문의 온라인 결과도 이 축소된 후보 집합에서 얻었다.
같은 생성 위치의 여러 beam과 후보는 하나의 batch로 평가한다. 따라서 beam을 1에서 6으로 늘린다고 순차적인 모델 호출 단계가 여섯 배가 되는 것은 아니다. 순차 단계 수는 생성 길이에 대응하고, beam이 늘면 각 단계의 batch가 커진다. 물론 batch가 커지는 데도 비용은 든다. 실제 보고된 b=6 자원은 같은 후보 수와 트래픽에서 b=1의 약 2.1배다.
두 GPU 세대의 serving benchmark에서는 후보 축소가 전체 후보 재평가 대비 CA 경로 throughput을 약 60~80% 높였다. 이 값은 전체 추천 시스템의 처리량 개선율이 아니다. 비용이 큰 CF는 그대로 남아 있고, 최적화 대상은 추가 CA 경로다. 또 한 평가 설정에서는 최대 길이를 항상 만든 뒤 자르지 않고 요청이 요구한 위치 수만 생성했다.
장애 대응도 알고리즘의 일부다. CA 호출에 실패하거나 두 번째 단계가 요청 지연 예산을 넘으면, 저장된 CF 점수를 이용해 기존 itemwise decoder로 돌아간다. CA 대신 CF, beam width 1, continuation 1, 미래 가치 0을 적용하면 기존 경로를 회복한다. 이 복구에는 CF 표현을 다시 계산할 필요가 없다. 다만 논문은 실제 timeout 발생률이나 fallback 빈도까지 보고하지 않으므로 복구 설계와 운영 중 관측된 안정성 수치를 혼동하지 않아야 한다.
학습 목표 / 손실 함수
Engagement 예측과 decode-time 목적함수
이 논문에서 가장 자세히 정의되는 목표는 모델 파라미터의 학습 손실이 아니라 목록을 선택할 때의 가치 함수다. CF와 CA는 좋아요·공유·시청 등의 engagement 신호를 예측하고, decoder는 그 예측을 itemVM과 ListVM으로 평가한다. 예측 오차를 줄이는 문제와 어떤 신호에 얼마나 가치를 둘지 결정하는 문제를 분리해야 한다.
논문은 각 task의 구체적인 loss, loss 간 가중치, optimizer, learning rate, 학습 batch 크기와 전체 학습량을 공개하지 않는다. 따라서 여기에 특정 cross-entropy 합이나 policy gradient 식을 “LIGE-GR의 학습 손실”로 채워 넣을 근거가 없다. Table 1의 normalized entropy, 즉 NE는 CF와 CA의 예측 품질을 비교하는 지표로 보고된다. NE가 개선됐다는 사실만으로 모든 task가 동일한 손실과 학습 절차를 사용했다고 추론할 수는 없다.
반면 decoding 목표는 명확하다. Vanilla는 문맥을 반영한 점수의 합을, golden은 도달 확률을 반영한 합을 최적화한다. Table 3의 비교에서는 itemVM 내부 가중치를 동일하게 유지한다. 따라서 제품 가치의 가중치를 바꿔서 나온 차이라는 설명은 배제할 수 있다. 다만 golden과 미래 가치 추정을 동시에 바꾸는 실험에서는 두 요소의 개별 기여를 분리할 수 없다.
학습 데이터와 파이프라인
| 항목 | 원문에서 확인되는 구성 |
|---|---|
| 서비스 | Instagram Reels, Facebook Video |
| 후보·출력 규모 | 후보 수백 개 수준, 출력 길이 약 10 |
| 추가 예측 모듈 | 4-head·4-layer causal Transformer |
| 입력 표현 | 기존 CF가 계산한 사용자·아이템 중간 표현 |
| Reels 예측 평가 | 한 차례 online-training run에서 누적한 NE 개선 |
| Facebook 예측 평가 | CA와 CF 비교, 전체 17개 task 중 15개 개선 |
| Reels 기본 A/B | treatment와 baseline 각각 사용자 1.5%, 7일 readout |
| Facebook 기본 A/B | treatment 약 2%, 유사 규모 control, 7일 readout |
| Reels b=6 A/B | 각 treatment 약 3%, 유사 규모 b=1 control, 각각 독립적인 7일 비교 |
| 비공개 학습 정보 | 전체 데이터 크기·기간, task loss 세부, optimizer, learning rate, 학습 자원 |
재사용되는 것은 serving 경로만이 아니다. CF의 학습·배포 흐름을 유지하면서 CA를 독립적으로 개선할 수 있다는 점이 전환 전략의 일부다. 그러나 이것이 CA를 학습할 필요가 없다는 뜻은 아니다. 기존 표현에서 현재 목록 문맥에 따른 engagement를 예측하는 모듈은 여전히 데이터와 평가가 필요하다. 논문은 그 모듈의 학습 재현법보다 기존 시스템과의 결합 방식에 더 많은 정보를 제공한다.
공개 benchmark에서 누구나 같은 split을 내려받아 실행하는 실험과도 성격이 다르다. 서비스의 내부 후보 생성, 가치 가중치, 기존 ranking 품질이 결과에 관여한다. 따라서 실험을 읽을 때에는 절대적인 추천 정확도 순위보다 각 제품의 최적화된 기존 시스템에서 무엇을 추가했고 어떤 지표가 움직였는지를 보는 편이 정확하다. 논문에서 별도의 공개 구현 링크는 제시하지 않아 설치 예제는 생략한다.
실험 결과
CA의 task별 NE 개선
Reels의 상대 NE 개선은 Continue 1.57%, Skip 0.74%, Like 0.29%, Comment 0.21%, Share 0.30%, Watch completion 0.43%다. 표의 양수는 NE가 더 낮아졌다는 뜻이다. 좋아요 확률이나 정확도가 그만큼 상승했다는 뜻도, percentage point 단위의 절대 차이도 아니다. 현재 목록의 prefix가 여러 engagement 예측에 추가 정보를 제공한다는 결과로 읽을 수 있다.
Facebook Video에서는 Skip과 Like가 각각 0.46%, Comment 1.59%, Share 1.25%, Watch completion 0.55% 개선된다. Continue 칸의 표시는 0이 아니라 추적하지 않은 task라는 의미다. 표시된 다섯 task는 모두 좋아졌지만, 전체 17개 평가 task에서는 15개가 개선되고 두 작은 task는 최대 0.07% 퇴보했다. 표 일부만 보고 모든 task가 개선됐다고 요약하면 과장이다.
예측 지표의 이득과 제품 지표의 이득도 분리해서 봐야 한다. 더 정확한 예측이 실제 노출 순서를 충분히 바꾸지 않을 수도 있고, 예측하는 행동과 제품의 장기 가치가 완전히 일치하지 않을 수도 있다. 논문은 그래서 CA 품질을 먼저 측정한 뒤 별도의 온라인 실험으로 실제 추천 효과를 확인한다.
기본 구성의 7일 온라인 A/B 결과
Table 2의 기본 구성은 CA, ListVM vanilla, beam width 1, 미래 가치 0이다. 복잡한 미래 탐색이 없어도 현재 prefix를 고려해 후보를 다시 평가하기 때문에 기존 CF 기반 선택과 결과가 달라진다. Reels에서는 시청 시간 +1.14%, video views +2.28%, likes +2.65%, reshares +1.77%다. Sessions는 +0.11%, DAU는 +0.05%다. 이 여섯 변화에는 모두 p<0.001 표시가 붙는다.
Facebook Video에서는 시청 시간 +0.72%, reactions +1.59%와 함께 video views가 0.52% 감소한다. 이 세 항목에는 p<0.001 표시가 있다. Sessions +0.07%, DAU +0.01%, reshares +0.99%에는 같은 표시가 없다. 시청 시간은 증가했지만 조회 수가 감소한 만큼 “모든 소비 지표가 상승했다”고 정리할 수는 없다. 더 긴 시청이나 다른 소비 구성과 양립하는 결과지만, 집계 수치만으로 그 원인을 특정할 수는 없다.
또한 Sessions와 DAU는 전체 제품 활동을 반영하고 나머지는 평가 대상 short-video surface로 제한된다. 이 범위를 구분하지 않으면 Reels 개선을 Instagram 전체 시청 시간의 동일한 증가율로 오해할 수 있다. 두 서비스의 사용 경험, baseline, 측정 대상이 다르므로 개선율 크기만으로 어느 제품에서 기술이 더 우수한지 순위를 매기기도 어렵다.
추가 연산 자원과 지연 시간
기본 구성은 두 설정에서 CF component가 쓰는 자원의 약 10%에 해당하는 추가 추론 자원을 요구한다. 여기서 분모는 전체 서비스 비용이 아니라 CF 모델의 추론 자원이다. 저장소, retrieval, 네트워크, 기타 제품 비용을 포함한 총 운영비가 정확히 10% 늘었다는 의미가 아니다. 경량이라는 평가는 무엇에 비해 가벼운지와 함께 읽어야 한다.
Reels에서는 end-to-end per-request latency가 약 7% 증가하고, Facebook Video에서는 average serving latency가 약 2.2% 증가한다. 논문은 측정 정의와 baseline이 달라 두 수치를 직접 비교하지 말라고 명시한다. 평균과 요청 전체 지연을 같은 조건의 숫자로 취급해서는 안 된다. 두 결과 모두 추가 비용이 0이 아님을 보여 주며, 각 제품에서 engagement 개선과 바꾼 비용이다.
Beam width 6의 추가 자원은 CF 대비 약 20%로 추정된다. 이는 같은 후보 집합과 트래픽에서 b=1 대비 약 2.1배라는 serving 측정에 기반한 환산이다. 같은 기준의 b=6 end-to-end latency는 제공되지 않는다. 따라서 beam을 넓힌 결과의 시청 시간 이득은 확인할 수 있어도, 지연 시간까지 포함한 완전한 효율 곡선을 재구성할 수는 없다.
결과 분석 / Ablation
Beam 확대와 duration-aware 구성의 차이
Table 3은 세 구성 모두 CA와 같은 itemVM 가중치를 사용한다. 기준은 이미 CA를 도입한 b=1 기본 구성이다. Beam만 6으로 늘리고 vanilla 목적함수와 미래 가치 0을 유지하면 시청 시간은 +0.05%, video views는 +0.00%로 거의 변하지 않는다. Likes +0.74%와 reshares +1.21%에는 p<0.001 표시가 붙는다. 더 많은 순서를 탐색하는 것만으로 모든 지표가 좋아지는 것은 아니다.
같은 b=6에서 golden과 duration-aware 미래 가치를 결합하면 기본 구성 대비 시청 시간 +0.69%, video views +1.82%, likes +2.93%, reshares +1.41%이며 네 지표 모두 p<0.001이다. 이 결과는 탐색 폭뿐 아니라 무엇을 좋은 prefix로 평가할지도 중요하다는 해석을 지지한다. 더 잘 탐색하더라도 목적함수가 제품 가치를 충분히 반영하지 못하면 이득이 제한될 수 있다.
다만 두 b=6 treatment는 각각 공통 b=1 control과 독립적으로 비교됐다. +0.69%에서 +0.05%를 빼서 순수 duration 보정 효과가 +0.64%라고 단정할 수 없다. 더구나 두 번째 treatment에서는 continuation 가중 목적함수와 미래 가치 추정이 함께 바뀐다. 원문에 없는 golden-only나 future-only ablation을 있는 것처럼 설명해서도 안 된다.
Offline beam score와 온라인 소비 지표의 간격
부록 A의 5,815개 outlier-filtered replay 요청에서는 continuation을 1, 미래 가치를 0으로 고정하고 beam width만 바꾼다. Greedy 대비 누적 VM+CL score 개선은 b=2에서 3.16%, b=3에서 4.72%, b=4에서 5.63%, b=5에서 6.27%, b=6에서 6.72%, b=7에서 7.10%, b=8에서 7.42%다. 작은 폭에서 많은 이득을 얻고 이후 증가분이 줄어드는 형태다.
이 결과는 b=6을 비용과 점수 사이의 실용적인 지점으로 고르는 근거다. 하지만 가로축의 beam 확대가 세로축에서 올리는 값은 모델의 offline 목적 점수다. 시청 시간이 6.72% 증가했다는 뜻이 아니다. 앞선 온라인 beam-only 실험에서 시청 시간은 거의 변하지 않았으므로, 두 실험을 함께 읽어야 proxy 개선과 실제 제품 효과의 차이가 드러난다.
별도의 11,965개 replay에서는 b=1 복원 설정의 평균과 사분위 score 통계가 기존 greedy 결과와 0.15% 이내로 일치했다. 이는 대규모 replay에서 경로의 대응을 확인한 증거다. 모든 개별 요청의 모든 아이템 순서가 비트 단위로 같다는 검증 결과로 확대할 수는 없다. 프레임워크의 수학적 복원 조건과 구현을 실측한 통계의 범위를 나누어 읽는 편이 안전하다.
주제·제작자 다양성과 신선도의 절충
생태계 분석은 같은 요청의 동일 입력으로 baseline 목록과 LIGE-GR 기본 구성 목록을 기록한 paired-request 진단이다. 3일 동안 13,197개 요청을 사용했다. 확인 가능한 사용자는 7,110명이고, viewer ID가 없는 1,498개 요청을 각각 다른 사용자로 보수적으로 취급해 유효 사용자 수를 8,608명으로 둔다. 요청 단위 sampling이므로 활동이 많은 사용자가 더 자주 포함될 수 있다.
주제 entropy는 taxonomy에 따라 1.14~2.37% 증가하고, 서로 다른 주제 cluster 수는 1.34~2.40% 증가한다. 같은 주제가 가장 길게 이어지는 구간은 4.03~4.74% 줄고, 인접 영상의 cosine similarity는 3.68% 줄었다. 제작자 수도 0.66% 증가하고 동일 제작자 집중도는 2.98% 감소한다. 이 변화는 목록 내부 반복을 줄이는 방향과 맞지만, 인접 영상 사이의 자연스러운 연결감까지 항상 좋아졌다는 뜻은 아니다.
익숙한 제작자의 콘텐츠 비중은 6.23%, 기존 관심사와 맞는 주제 비중은 1.65% 감소한다. 이를 탐색 범위 확장으로 볼 수 있지만 당장의 친숙함과도 교환하는 변화다. 제작자 entropy +0.54%, 대형 제작자 비중 -1.15%, 중형 제작자 비중 +0.38%도 보고된다. 이는 해당 목록의 노출 구성이 이동했다는 뜻이며, 장기적으로 제작자 수익의 공정성이 개선됐다는 직접 측정은 아니다.
영상 길이 entropy는 0.86% 증가하지만 72시간 이내 영상 비중은 0.66% 감소한다. 저자도 신선도를 퇴보 항목으로 취급한다. 개별 추정에는 사용자별 반복 요청을 고려하는 Bayesian hierarchical linear model을 적용했고 95% 수준의 통계적 근거를 보고한다. 이 통계 처리에도 불구하고 관측 창과 표본의 성격이 장기 생태계 결론으로 바뀌는 것은 아니다.
Figure 4는 변화가 실제 목록에서 어떤 형태인지 보여 주는 한 사례다. 기존 주제들을 남기면서 Sports를 추가하고, 27.5초 영상을 2번에서 4번 위치로 옮기며, 70일 된 영상을 마지막으로 보낸다. 두 Internet Culture 영상 중 하나는 제외된다. 다만 그림의 thumbnail은 저자가 주제에 맞춰 만든 AI 생성 대체 이미지이고, 주제·길이·게시 후 시간·이동 정보가 실제 요청 로그에서 온다. 실제 이용자 영상 화면을 그대로 보여 주는 자료로 오해하지 않아야 한다.
한계와 비판적 평가
수백 후보와 한 요청의 범위
저자는 현재 프레임워크가 수백 개 규모의 입력 후보를 다룬다고 명시한다. 전체 추천을 end-to-end로 만들려면 Semantic ID처럼 훨씬 큰 후보 공간을 지원하는 기술과 결합해야 한다. 또 CA에 넘기는 후보를 CF 상위권으로 제한하므로, CF가 낮게 평가한 아이템이 특정 목록에서는 유용하더라도 탐색 기회 자체를 얻지 못할 수 있다. 이는 비용을 줄이는 설계와 탐색 범위 사이의 구조적 절충이다.
Continuation은 한 목록 안의 소비를 모델링한다. 7일 온라인 readout과 3일 구성 분석만으로 몇 달 뒤의 만족도, 새로운 관심의 형성, 제작자의 콘텐츠 생산 변화까지 검증했다고 볼 수 없다. 시청 시간과 likes의 증가가 중요하더라도 그것이 모든 장기 사용자 가치의 완전한 대리변수는 아니다. 이를 확인하려면 더 긴 관측과 별도의 만족도·생태계 지표가 필요하다.
미래 가치 근사와 결합된 ablation
마지막 영상의 확률과 prefix 평균을 미래에 재사용하는 가정은 계산을 줄이지만, 뒤에 남은 후보들의 실제 분포를 직접 평가하지 않는다. 앞부분은 다양하고 뒤쪽 후보는 반복적일 때처럼 미래가 과거 평균과 크게 다른 경우 오차가 커질 수 있다. Duration 보정 역시 영상 길이에 따른 계속 시청 확률을 단순한 지수 변환으로 재조정하는 근사다.
저자는 더 표현력이 높은 모델, 학습된 value estimator, 더 발전된 planning을 향후 방향으로 제시한다. 리뷰어 관점에서는 그 복잡도를 추가하기 전에 golden, future estimate, duration 보정의 기여를 분리한 실험이 특히 유용하다. 현재 결과는 결합 구성을 지지하지만 어떤 부분이 필수인지, 어떤 조건에서 근사가 오히려 불리해지는지는 충분히 구분하지 못한다.
재현 정보와 비용 평가의 공백
두 제품의 실제 A/B 결과는 이 논문의 강점이다. 그러나 내부 데이터와 CF 모델, itemVM 가중치, task별 학습법이 공개되지 않아 외부에서 같은 수치를 재현하기 어렵다. 기존 모델의 품질이 낮거나 후보 retrieval이 다른 환경에서 CA가 얼마나 이득을 내는지도 직접 비교할 수 없다. 이 한계는 문서 형식이 아니라 결과의 재현성과 다른 서비스로의 적용 가능성에 관한 문제다.
비용 측면에서도 상대 자원과 기본 latency 변화는 제공되지만 절대 지연, tail latency, fallback 빈도, b=6의 비교 가능한 end-to-end latency가 없다. 작은 CA라는 설명만으로 모든 실시간 서비스의 예산에 들어간다고 보장할 수는 없다. 도입하려는 서비스에서는 예측 품질, 목록 가치, 후보 축소로 잃는 기회, 실제 지연을 같은 트래픽 조건에서 함께 측정해야 한다.
시사점 / Takeaways
- 현재 출력의 문맥과 사용자 과거 이력의 분리. 좋은 이력 encoder가 있어도 이번 목록 내부의 반복과 조합 효과는 별도로 모델링할 가치가 있다.
- 예측·가치·탐색의 단계적 개선. CA 도입, continuation 목적함수, beam과 미래 가치의 효과를 같은 변화로 뭉뚱그리지 않아야 실험과 비용을 해석할 수 있다.
- 도달 확률과 콘텐츠 길이의 구분. 사용자가 어디까지 남는지 고려하되, 긴 영상의 낮은 continuation을 모든 미래 위치에 반복 적용하는 편향도 살펴야 한다.
- Offline 점수와 온라인 효용의 별도 검증. 더 넓은 beam의 목적 점수 개선이 시청 시간의 같은 비율 개선을 뜻하지 않는다. Proxy가 좋아질수록 실제 지표도 함께 확인해야 한다.
- 복구 가능한 전환 설계. 기존 모델의 표현과 점수, 사업 규칙을 재사용하고 요청별 fallback을 유지하는 선택은 모델 정확도와 함께 평가할 중요한 시스템 기여다.
참고 자료
- LIGE-GR 원문: Srinivas et al., arXiv v2. 방법, 수치와 그림의 기준 버전.
- 그림·표 출처: 같은 논문의 Figures 2~5, Tables 1~4. 원문은 arXiv non-exclusive distribution license로 제공되며 CC BY로 표기하지 않음. 저작권은 원저작자에게 귀속.
더 읽어보기
- Seq2Slate: Re-ranking and Slate Optimization with RNNs (Bello et al., 2018): 이미 선택한 항목에 조건화해 다음 항목을 고르는 순차적 slate 최적화.
- Recommender Systems with Generative Retrieval (Rajput et al., NeurIPS 2023): 아이템의 Semantic ID를 생성해 추천 후보를 찾는 TIGER 접근.
- OneRec: Unifying Retrieve and Rank with Generative Recommender and Iterative Preference Alignment (Deng et al., 2025): retrieval과 ranking의 통합 및 선호 정렬을 지향하는 생성형 추천 시스템.
Enjoy Reading This Article?
Here are some more articles you might like to read next: