Multi-turn Agent Eval 1 - 정답지를 미리 쓸 수 없습니다

한 턴 평가는 시험지와 같습니다. 질문을 주고, 답을 받고, 정답과 비교합니다.

  질문    프랑스의 수도는?
  답      파리
  정답    파리                → 맞음

agent 는 이렇게 일하지 않습니다. 항공권을 바꿔 달라는 사용자와 몇 번을 주고받으며 예약 번호를 묻고, 규정을 확인하고, 바꿔도 되는지 다시 묻고, 그다음에 바꿉니다. 이걸 재는 게 여러 턴(multi-turn) 평가입니다.

Moonshot AI 의 Kimi K2 기술 보고서(2025년 7월)도 여러 턴 능력을 따로 쟀습니다. τ2-Bench(2025년 6월), ACEBench(2025년 1월), MultiChallenge(2025년 1월) 세 시험으로요.

1. 여러 턴 평가는 두 가지입니다

다음 사용자 말을 누가 쓰느냐로 갈립니다.

  써 둔 대화    사용자 말을 미리 써 둔다. agent 의 답이 달라도 다음 말은 같다
                앞의 대화를 읽고 이해하는지 본다           예: MultiChallenge
  LLM 사용자    LLM 이 사용자를 흉내 내며 agent 의 답을 보고 다음 말을 쓴다
                주고받으며 일을 끝내는지 본다              예: τ2-Bench

둘 다 여러 턴 평가입니다. 앞쪽은 앞의 대화를 기억해야 맞히고, 뒤쪽은 실제로 주고받아야 끝납니다.

2. 다음 사용자 말을 미리 쓸 수 없습니다

같은 첫 마디로 시작해도 agent 의 답에 따라 대화가 갈립니다.

  사용자   다음 주 비행기를 하루 늦추고 싶어요
  agent A  예약 번호를 알려주시겠어요?
  사용자   ABC123 이요                          ← 이런 말이 이어진다

  agent B  네, 하루 늦췄습니다
  사용자   잠깐, 어떤 예약을 바꾼 거예요?       ← 이런 말이 이어진다

두 번째 사용자 말은 agent 의 첫 답을 보기 전에는 쓸 수 없습니다. 그래서 써 둔 대화 시험은 사용자 말을 미리 정해 두고, 대개 앞의 AI 답까지 써 둡니다. LLM 사용자 시험은 사용자를 LLM 에게 맡깁니다. 앞쪽은 모든 agent 가 같은 사용자 말을 받지만 그 말이 agent 의 답에 맞춰 달라지지 않고, 뒤쪽은 대화가 진짜처럼 이어지지만 흉내 내는 쪽도 틀리고 매번 다르게 말합니다.

3. 무엇을 채점할지가 정해지지 않습니다

같은 일을 하는 길이 여러 개입니다. 예약 번호를 먼저 물어도 되고 이름부터 물어도 됩니다. τ-bench(2024년 6월)는 그래서 대화의 순서를 정답으로 두지 않고, 끝난 뒤의 데이터베이스 상태를 정답 상태와 비교합니다. 사용자에게 꼭 알려야 할 값을 말했는지도 함께 봅니다.

끝 상태가 없는 대화도 있습니다. 조언을 구하거나 글을 고치는 대화입니다. MultiChallenge(2025년 1월) 논문은 "there is no single ground-truth answer for most test conversations" 라고 적었습니다. 이런 대화는 다른 채점법이 필요합니다. 3편에서 봅니다.

4. 같은 과제도 매번 다르게 흘러갑니다

사용자 쪽도 LLM 이 말하니, 같은 과제를 다시 돌리면 대화가 달라집니다. τ-bench 는 그래서 같은 과제를 k번 돌려 k번 다 성공할 확률을 잽니다. 이름이 pass^k 입니다.

  pass@k   k번 중 한 번이라도 성공      시도할수록 오른다    코드 평가에서 흔하다
  pass^k   k번 모두 성공                시도할수록 내려간다  고객 응대에 맞다

gpt-4o 는 τ-bench 소매 분야에서 pass^1 이 약 61% 인데 pass^8 은 약 25% 입니다. 한 번 돌리면 열에 여섯은 성공하는데, 여덟 번 연속 성공하는 과제는 넷에 하나입니다.

5. 흉내 내는 사용자도 틀립니다

τ2-Bench(2025년 6월) 논문이 사용자 시뮬레이터의 실수를 대화를 읽으며 셌습니다. 치명적 오류는 과제를 끝낼 수 없게 만드는 실수입니다 — 사용자 목표와 반대되는 요구를 하거나, 되돌릴 수 없는 상태로 만드는 것입니다.

                                     읽은 대화   오류        치명적 오류
  항공 (τ-bench 에서 가져온 분야)    100         47 (47%)    13 (13%)
  소매 (τ-bench 에서 가져온 분야)    50          20 (40%)    6 (12%)
  통신 (τ2-Bench 가 새로 만든 분야)  50          8 (16%)     3 (6%)

비율은 모두 읽은 대화 수가 분모입니다.

LLM 사용자 시험의 점수에는 늘 시뮬레이터의 실수가 섞여 있습니다. 사용자 LLM 에게 무엇을 어떻게 시키느냐가 그래서 중요하고, 5편이 그 프롬프트를 모아 봅니다.

6. 채점하는 LLM 도 대화를 따라가지 못합니다

끝 상태가 없으면 LLM 이 읽고 채점해야 하는데, 대화가 길면 채점하는 LLM 도 헷갈립니다. MultiChallenge 논문은 대화를 통째로 주고 판정시켰더니 사람과 37% 맞았고, 사람이 문제마다 yes / no 질문 하나를 써 두자 94% 맞았다고 적었습니다.

그래서 정해야 할 것

  다음 사용자 말을 누가 쓰나   미리 써 둔 기록 · 흉내 내는 LLM · 사람
  agent 가 몇 번 답하나        마지막 한 번 · 턴마다
  무엇을 채점하나              마지막 답 · 끝 상태 · 여러 번 돌린 결과

6편에서 내 agent 를 잴 때 이 셋을 어떻게 고를지 제안합니다.

출처

논문 이름 옆의 연월은 arXiv 에 처음 올라온 달입니다.
Kimi Team 2025 · Kimi K2: Open Agentic Intelligence. arXiv:2507.20534.
Yao 외 2024 · τ-bench: A Benchmark for Tool-Agent-User Interaction in Real-World Domains. arXiv:2406.12045. 끝 상태 비교, pass^k, gpt-4o 의 61% · 25%.
Barres 외 2025 · τ2-Bench: Evaluating Conversational Agents in a Dual-Control Environment. arXiv:2506.07982. 시뮬레이터 오류 수(Table 2). 통신 분야의 치명적 오류를 본문은 6%, 표 설명은 "no critical errors were reported" 로 적어 서로 다릅니다. 본문을 따랐습니다.
Sirdeshmukh 외 2025 · MultiChallenge. arXiv:2501.17399. 채점 일치율 37.33% · 93.95% (Table 4).
2절의 항공권 대화는 설명하려고 지어낸 예입니다.

David learns to code