返回首页

Clocktower Bench

x+web 0.86
访问原文

介绍

Clocktower Bench 是 Dwarkesh Patel 于 2026 年 11 月 5 日发布的多智能体社会推理 / 欺骗评测:让前沿模型互相对战玩社交推理桌游 Blood on the Clocktower——一队扮好人(镇民)抓恶魔,一队扮恶魔阵营隐藏与撒谎。官网排行榜:https://clocktowerbench.com/ ;可玩入口:https://play.clocktowerbench.com/ ;长文:https://www.dwarkesh.com/p/clocktower 。

评测设计(官方):

  • 每局一模型打全部好人席,另一模型打全部邪恶席,再互换阵营重打,降低座位运气;
  • 用 Bradley–Terry / Elo 同时拟合好人能力、邪恶能力、好人优势与牌局设定;
  • 计分集约 386 场;研究花费约 2 万美元 API;
  • 同设定:各家 "high" 推理力度、每回合 8000 token 上限与统一字数限制;
  • 同时报告整体 Elo、Detection(做好人)与 Deception(做邪恶)。

榜单叙事:OpenAI 系在探测侧领先更明显;两家实验室在欺骗侧更接近。站点还展示按发布日进步、头对头胜率、混合队(半 Opus 半 GPT)等分析。

解释

为什么重要

多数 Agent 基准测工具调用或短题;Clocktower Bench 把难度放到多日社交欺骗、证据更新与阵营协作,同时量化“抓谎”和“会谎”。

与既有基准区分

不同于纯文本谎言检测或 Diplomacy 类长程谈判:规则来自 Blood on the Clocktower,强调夜间信息、日间投票与角色技能互动。

局限

  • Elo 区间重叠时名次不可靠(官方 90% bootstrap);
  • 评测栈与提示由主办方设定,独立复现成本高;
  • 社会欺骗能力不等于通用安全/对齐结论。

用法

适合谁

  • 做多智能体、社会推理、欺骗/探测能力评测的研究与产品团队;
  • 需要对照官方 Detection vs Deception 选型模型的人;
  • 关注 Dwarkesh 评测长文与可玩演示的读者。

如何上手

  1. 打开 https://clocktowerbench.com/ 看榜单与 Detection/Deception 图;
  2. 读 https://www.dwarkesh.com/p/clocktower 理解拟合与采样设定;
  3. 在 https://play.clocktowerbench.com/ 试玩/观赛(若开放);
  4. 引用分数时注明侧别互换、推理力度与日期戳。

广告