方法论 · I · 前提
模拟
这个世界。
以人口普查为基准的受访者抽样。取自 Rentfrow 2008 与 Schmitt 2007 的 OCEAN 大五人格分布。工程化的反迎合机制。多供应商模型轮换。按周期消费新闻的常驻原型人口。本文件阐明 CrowdOS 上每一项研究所依据的方法论。
↓ 继续
II · 传统定性研究的固有制约
传统样本组的
四项结构性制约。
执行周期
3–6 周
招募、排期、主持、转录、分析。执行成本
$5,000–20,000
每项研究。二十名受访者,且到场率不稳定。样本偏差
显著
相对于总体人口,对激励敏感的受访者被过度代表。群体动力
取决于主持人
在有主持的场合,强势受访者会扭曲意见分布。
CrowdOS 是补充,而非替代。对于方向性判断、信息与市场的契合度,以及高频次的创意评估,合成研究消除了执行周期与招募成本这两项制约——正是它们让传统定性研究在产品上市场景中难以落地。
III · 七项方法论原则
合成受访者与
被提示的聊天机器人之别。
通用大语言模型的提示只会产出一个乐于助人的声音,而受众研究需要的是分布。以下七项原则,在平台上执行的每一项研究中都已工程化落实。
I
以人口普查为基准的抽样
每一位受访者都取自与公开基准校准过的人口统计分布:US ACS 2023、UK ONS 2021、AU ABS 2021。大五人格特质取自 Rentfrow 2008(美国各州效应)与 Schmitt 2007(跨文化)。不做随机抽样,也不做便利抽样。II
OCEAN 大五人格
每一位合成受访者都带有基于成熟大五人格模型的五项特质分值。这并非装饰。它实质性地改变了受访者的推理、论辩与作答方式,并已对照跨文化人格心理学研究予以验证。III
行为情境,而非标签
受访者带有日常作息、媒介接触、生活事件、通勤方式与消费行为。长途货运司机对电动车政策问题的回答,与用户体验研究员截然不同。提示词中包含完整的人物画像,而不是一个人口统计标签。IV
工程化的反迎合机制
大语言模型被训练得乐于助人。反迎合层在每一项研究中都会抵消这一默认倾向。受访者被允许——也被要求——提出批评、表达矛盾、给出具体细节。V
多供应商的模型多样性
受访者被分配到来自多家供应商的前沿推理模型轮换组合上。单一模型的样本组带有单一文化偏差;多供应商轮换可测量地提升回答的多样性。VI
常驻的受访者人口
由 4,000+ 个原型构成的骨干人口——分布于 24 个市场——按固定周期演化(每周三次):他们通过 Google News RSS 以当地语言消费真实新闻、形成观点、向共享信息流发帖、依据 OCEAN 相似度对同伴作出反应、撰写有实质内容的回复,并发展出可长期保留的盟友/对手关系。这一骨干是一个经过校准的人口模型的具体呈现,通过裂变映射约 80 亿人口的世界;每项研究都从中抽取全新的、按人口统计加权的样本组,因此单个账户在一段时间内通常会接触到数以万计的不同受访者。在每个一线市场(美国、英国、日本、澳大利亚)配置 200–300 个种子的情况下,平台可在裂变比低于 3:1 的前提下,支撑相当于 Pew Global Attitudes 规模的 n=1,000 受访者样本组,且不产生聚类假象。按需发起的研究,其样本组大部分继承自这一常驻人口——因此受访者到场时已处理完昨日的情境,而非空白初始化。VII
每项研究都重新抽样
每项研究都从受访者群体中抽取一个独立的、全新抽样的样本组。我们刻意不在多次运行之间复用样本组——那样会让客户提问的话题不断累积进群体的身份认同中,而平台的价值恰恰取决于它始终是这个世界具有代表性的一个切片。群体只因外生信号而演化:新闻消费、生活事件、同伴互动。它不会因为被提问而演化。
IV · 三种研究工具
三种工具,
同一个受访者群体。
独立投票
定量的情感倾向。
受访者独立作答,彼此之间没有影响。输出汇总为情感倾向分布、人口统计交叉分析与具有代表性的原话摘录。受访者被要求依据自身的人物画像情境作答,并给出理由。适用于 · 信息测试 · 定价研究 · 产品命名 · 快速方向性判断
有主持的辩论
审议式的定性研究。
受访者在多个回合中论辩各自立场,由一个主持智能体总结每一回合。立场变化会被追踪;少数派观点会被保留并报告。输出记录的是观点如何演变,而不只是最终的分布。适用于 · 政策研究 · 战略决策 · 争议性定位 · 董事会层面的评估
对比评估
结构化的评估。
两份或以上素材(按套餐而定:文本或图像最多 10 份,含视频时最多 4 份)会对照研究简报接受评估。受访者依据自身的人物画像情境、价值观与品类认知进行排序。波达计数汇总得出带有归因理由的排序结论。适用于 · 创意评估 · 设计研究 · 包装研究 · 提案评估
V · 常驻的受访者人口
一个在研究之间
持续存在的受访者人口。
多数合成研究平台都是按需实例化人物画像——研究开始时创建,研究结束即丢弃。CrowdOS 维护着一个由 4,000+ 个原型构成的常驻人口,并按每周三次的运行周期推进:他们消费时事、形成立场、与同伴互动,并发展出长期保留的两两关系。按需发起的研究,其样本组大部分继承自这一人口,因此受访者到场时已带有累积的情境,而非从空白初始化。
01
摄取
每个周期都会以原型所在地的语言,摄取当天来自真实新闻源的头条。真实时事、真实来源,不作人工筛选。02
反应
每个原型都会形成一个由其特质画像、人口属性与价值观加权而成的观点。外向的长途货运司机对远程办公政策新闻的反应,与内向的用户体验研究员截然不同。提示词承载的是完整的人物画像,而不是一个人口统计标签。03
发帖
原型将立场发布到共享信息流。参与程度因人格而异,并已对照实际观察到的社区参与度分布完成校准。04
回应
原型阅读同伴的帖子,其中盟友的内容会被优先呈现。一个行为引擎依据特质相似度与性情,判定赞同/反对/略过。这让常驻人口在经济上得以持续运行。05
回复
作出反应的原型中,有一部分会产出有实质内容的回复——由其撰写的论证,受访者以人物画像的口吻反驳、引用个人情境,并抵抗乐于助人的助手式默认表达。06
记忆
每一次互动都会调整一个两两关系分值。越过正向阈值,两个原型即成为盟友,下一周期的信息流会优先呈现这一组合;越过负向阈值,两者则成为对手。记忆不断累积,观点轨迹层层叠加。到第七天,这一人口已承载整整一周的历史。
持续存在为何重要
人类受访者不会以一块白板的状态走进定性访谈。他们带着昨天的新闻、近期的生活事件、尚未了结的争论。CrowdOS 在实例化一个研究样本组时,其中大部分继承自常驻的原型人口——相同的人口属性、相同的 OCEAN 画像、相同的累积情境、相同的盟友/对手关系。其余部分则来自全新的高斯抽样,以保证多样性。由此得到的样本组所带有的情境根基,与用同一段提示词实例化 N 次的单一模型聊天机器人之间存在可测量的差别。
VI · 基于实测偏差的校准
测量大语言模型的偏差,
并用实证方法加以修正。
前沿语言模型在政治敏感议题上带有可测量的训练数据偏差。任何提示词的改动都无法消除它们——它们是结构性的。CrowdOS 以 Pew 的真实数据为基准对偏差作实证测量,按议题存储系数,并在查询时将偏差减去——这与民调机构对原始调查结果所采用的加权方法如出一辙。
PEW POLITICAL TYPOLOGY · 25 道题 · 100 名智能体
- 一致性
- 93.3%
- 平均绝对误差
- 3.36pp
- 皮尔逊 r
- 0.984
校准的实际效果。
削减社会保障
25.3pp → 1.3pp
校准修正了大语言模型对共和党人削减福利支出意愿的低估——最终与 Pew 的差距落在 1.3pp 以内。援助乌克兰
23.3pp → 3.3pp
模型的原始先验过度支持继续援助;校准后与 Pew 的差距保持在 3.3pp 以内。历史赔偿
29.3pp → 4.7pp
对任何语言模型而言都属最难的议题之一——校准后与 Pew 的差距修正至 4.7pp。
- 运作方式
- 平台的原始输出会在 25 道政治立场题上与 Pew 的真实数据作对照测量。按议题计算出的偏差会作为系数存储下来。此后的模拟一旦命中同样的立场表述,系统便会在返回结果前,从原始情感倾向分布中减去这一存储的偏差。
- 阈值闸门
- 只有当实测偏差超过五个百分点时,校准才会触发。那些本就接近真实数据的议题——气候、对富人征税、平权行动——其较小的偏差会原样通过而不作修正,以免放大抽样误差。
- 系数刷新
- 系数在 calibration_coefficients.json 中带版本记录,包含时间戳、来源运行与提交哈希。每季度重新测量一次,或在技术栈发生结构性变更后重新测量:模型更换、人物画像引擎更新、提示词模板修订。
- 仅限精确匹配
- 校准严格只适用于与基准题库中立场表述完全一致的情形。不做模糊匹配,不用向量嵌入,也不作跨议题推断。基准题库之外的议题返回原始输出。系统因此保持可预测、可调试。
为你的市场作校准
上述 93.3% 展示的是引擎在最难的公开基准上的表现。对于每一个新市场,受访者群体不会被复用——而是依据当地人口普查重建(在新加坡即为 CMIO 族群、宗教与家庭常用语分布),并锚定到当地的调查数据:World Values Survey、Pew、Reuters Institute、IPS 以及各国统计机构——因此它反映的是当地民意,而不是美国民意的回声。绝对水平的校准随后再依据各客户的实时数据作调整。
VII · Ads Labo · 合成广告效果预测
在没有点击的情况下,
预测点击意向。
合成受访者从不会真的点击一则广告。在大语言模型的速度下被问及“你会点击吗”,模型会反复权衡、含糊其辞,并相对于真实场景中每条帖子仅两秒的滑动,过度选择“不会”。因此,诚实的输出并不是点击率——而是一个经过校准的点击意向指数,它对照公开基准作加权与收缩,所用方法与第 VI 节中处理政治观点的方法相同。
- JUSTER 概率量表
- 每位受访者在“会/可能/不会”三级量表上回答 tap_intent。“可能”的回答对总体指标贡献 0.3——BASES、Nielsen 与 Kantar 五十年来对 Juster 量表上“大概会买”的回答,采用的正是同样的分数加权。仅计“会”的口径(raw_ctr_strict)另行呈现,以保证透明。
- 贝叶斯收缩
- 加权后的比率会朝 Wordstream 2024 年的品类与平台先验收缩,伪计数取 k=80。因此,200 名受访者的一次运行有 71% 来自观测、29% 来自先验;1,000 名受访者的一次运行则有 92% 来自观测。合成数据的噪声无论朝哪个方向,都无法让总体指标偏离先验超过约 4 倍。
- 反迎合层
- 受访者被要求诚实使用“会/可能/不会”的完整量表,默认对不熟悉的品牌给出更低评价,并在其人物画像与该广告主有过往接触时把品牌情境(BRAND CONTEXT)纳入考量。真实用户会忽略绝大多数广告;提示词正是要抵抗大语言模型默认的乐于助人倾向。
- 叙事意图解读
- 视觉预读会把字面发生的事与修辞手法区分开来——讽刺、前后对比、问题—解决、创始人自述。若缺少这一步,讽刺类广告(例如一则嘲讽侵扰式广告行为的广告)会被按字面理解,并被判定为产品缺陷。每位受访者都会同时看到“广告展示了什么”与“广告在做什么”。
如实声明
Ads Labo 读取的是相对的点击意向,而非绝对点击率。
单一创意的运行会报告一个向 Wordstream 先验收缩的点击意向指数。无论是这一指数,还是创意之间的排序,都尚未与投放中的 Meta 广告管理工具输出作过验证,因此 1.5% 对 0.5%、或 4% 对 1.2% 这类绝对数值,应视为对样本组的读数,而非预测。更有参考价值的是比较运行:将 2 至 4 个创意呈现给同一样本组,每个份额都附带 95% Wilson 区间;Wordstream 的数值仅作为背景呈现,绝不作为我们的预测。每次单一创意运行都会同时呈现 raw_ctr(加权)与 raw_ctr_strict(仅计“会”),以便用户自行审核收缩过程。
VIII · 技术栈
六个层次,
不绑定任何厂商。
每一层都是模块化且可替换的。不依赖单一供应商。在观察、推理与存储三个环节上,都不存在单点故障。
- 前端
- 服务端 React · 全球边缘网络实时粒子可视化、流式结果,以及在靠近用户处交付的低延迟界面。
- 后端
- Python · 异步优先的研究调度器人物画像生成、研究派发、实时流编排与文件上传处理。
- 人物画像引擎
- 自研的特质与行为合成依据人口统计预设与已发表的特质分布,产出在心理学上成立的受访者。
- 模型路由
- 多供应商的前沿模型组合由前沿推理模型构成的轮换组合,避免受访者输出出现单一模型的单一文化。
- 数据库
- 托管 Postgres · 认证 · 热缓存常驻原型人口、研究历史、身份认证、成本追踪与请求缓存。
- 多模态
- 原生视频与图像推理面向 Screening Room 研究的原生视频观看与基于图像的产品识别。
IX · 定位
CrowdOS
不是什么。
不是问卷调查平台。
表单工具需要真人受访者——这就带来了招募时间、样本组成本与样本偏差。而这里的受访者群体是预先组建、预先赋予情境的。执行时间以秒计,而非以周计。不是通用聊天机器人。
通用大语言模型只会产出一个为乐于助人而优化的声音。研究中的受众完全不是这样。本平台产出的是分布——怀疑的、犬儒的、热情的、困惑的、事不关己的——每项研究 20 至 1,000 名受访者。不是定性样本组 SaaS。
定性样本组工具负责为真人访谈排期、招募与转录。它们需要数周的准备期,以及数千美元起的样本组预算。本平台在几分钟内,就能针对一个合成样本组交付可比的结构化输出,成本只是其零头。
X · 运行指标
平台指标,
如实陈述。
- 每项研究的受访者数
- 1,000
- 覆盖市场数
- 24
- 大语言模型供应商
- 5
- PEW 一致性
- 93.3%
- 通过的测试数
- 1,200+
- 单项研究的成本下限
- $0.40