方法論 · I · 前提

模擬
這個世界。

以人口普查為基準的受訪者抽樣。取自 Rentfrow 2008 與 Schmitt 2007 的 OCEAN 五大人格分布。工程化的反迎合機制。多供應商模型輪換。依週期消化新聞的常駐原型人口。本文件闡明 CrowdOS 上每一項研究所依據的方法論。

↓ 繼續

II · 傳統質性研究的固有制約

傳統樣本組的
四項結構性制約。

  • 執行週期

    3–6 週

    招募、排程、主持、逐字稿轉錄、分析。
  • 執行成本

    $5,000–20,000

    每項研究。二十名受訪者,且出席率不穩定。
  • 樣本偏誤

    顯著

    相對於總體人口,對誘因敏感的受訪者被過度代表。
  • 團體動力

    取決於主持人

    在有主持的場合,強勢受訪者會扭曲意見分布。

CrowdOS 是補充,而非取代。對於方向性判讀、訊息與市場的契合度,以及高頻次的創意評估,合成研究消除了執行週期與招募成本這兩項制約——正是它們讓傳統質性研究在產品上市的情境中難以落地。

III · 七項方法論原則

合成受訪者與
被提示的聊天機器人之別。

通用大型語言模型的提示只會產出一個樂於助人的聲音,而受眾研究需要的是分布。以下七項原則,在平台上執行的每一項研究中都已工程化落實。

  • I

    以人口普查為基準的抽樣

    每一位受訪者都取自與公開基準校準過的人口統計分布:US ACS 2023、UK ONS 2021、AU ABS 2021。五大人格特質取自 Rentfrow 2008(美國各州效應)與 Schmitt 2007(跨文化)。不做隨機抽樣,也不做便利抽樣。
  • II

    OCEAN 五大人格

    每一位合成受訪者都帶有基於成熟五大人格模型的五項特質分數。這並非裝飾。它實質地改變了受訪者的推理、論辯與作答方式,並已對照跨文化人格心理學研究予以驗證。
  • III

    行為情境,而非標籤

    受訪者帶有日常作息、媒體接觸、生活事件、通勤方式與消費行為。長途貨運司機對電動車政策問題的回答,與使用者經驗研究員截然不同。提示詞中包含完整的人物輪廓,而不是一個人口統計標籤。
  • IV

    工程化的反迎合機制

    大型語言模型被訓練得樂於助人。反迎合層在每一項研究中都會抵銷這個預設傾向。受訪者被允許——也被要求——提出批評、表達矛盾、給出具體細節。
  • V

    多供應商的模型多樣性

    受訪者會被分派到來自多家供應商的前沿推理模型輪換組合上。單一模型的樣本組帶有單一文化偏誤;多供應商輪換可測量地提升回答的多樣性。
  • VI

    常駐的受訪者人口

    由 4,000+ 個原型構成的骨幹人口——分布於 24 個市場——依固定週期演化(每週三次):他們透過 Google News RSS 以當地語言消化真實新聞、形成觀點、向共用資訊流發文、依 OCEAN 相似度對同儕作出反應、撰寫有實質內容的回覆,並發展出可長期保留的盟友/對手關係。這個骨幹是一個經過校準的人口模型的具體呈現,透過裂變映射約 80 億人口的世界;每項研究都從中抽取全新的、依人口統計加權的樣本組,因此單一帳戶在一段時間內通常會接觸到數以萬計的不同受訪者。在每個一線市場(美國、英國、日本、澳洲)配置 200–300 個種子的情況下,平台可在裂變比低於 3:1 的前提下,支撐相當於 Pew Global Attitudes 規模的 n=1,000 受訪者樣本組,且不產生叢集假象。隨選發起的研究,其樣本組大部分繼承自這個常駐人口——因此受訪者到場時已消化完昨日的情境,而非空白初始化。
  • VII

    每項研究都重新抽樣

    每項研究都從受訪者群體中抽取一個獨立的、全新抽樣的樣本組。我們刻意不在多次執行之間重複使用樣本組——那樣會讓客戶提問的主題不斷累積進群體的身分認同中,而平台的價值恰恰取決於它始終是這個世界具代表性的一個切片。群體只因外生訊號而演化:新聞消化、生活事件、同儕互動。它不會因為被提問而演化。

IV · 三種研究工具

三種工具,
同一個受訪者群體。

  • 獨立投票

    量化的情緒傾向。

    受訪者獨立作答,彼此之間沒有影響。輸出彙整為情緒傾向分布、人口統計交叉分析與具代表性的原話摘錄。受訪者被要求依自身的人物輪廓情境作答,並給出理由。

    適用於 · 訊息測試 · 定價研究 · 產品命名 · 快速的方向性判讀

  • 有主持的辯論

    審議式的質性研究。

    受訪者在多個回合中論辯各自立場,由一個主持代理總結每一回合。立場變化會被追蹤;少數意見會被保留並回報。輸出記錄的是意見如何演變,而不只是最終的分布。

    適用於 · 政策研究 · 策略決策 · 爭議性定位 · 董事會層級的評估

  • 對比評估

    結構化的評估。

    兩份或以上素材(依方案而定:文字或影像最多 10 份,含影片時最多 4 份)會對照研究簡報接受評估。受訪者依自身的人物輪廓情境、價值觀與類別認知進行排序。波達計數彙整得出帶有歸因理由的排序結論。

    適用於 · 創意評估 · 設計研究 · 包裝研究 · 提案評估

V · 常駐的受訪者人口

一個在研究之間
持續存在的受訪者人口。

多數合成研究平台都是隨選實體化人物輪廓——研究開始時建立,研究結束即丟棄。CrowdOS 維護著一個由 4,000+ 個原型構成的常駐人口,並依每週三次的運作週期推進:他們消化時事、形成立場、與同儕互動,並發展出長期保留的兩兩關係。隨選發起的研究,其樣本組大部分繼承自這個人口,因此受訪者到場時已帶有累積的情境,而非從空白初始化。

  • 01

    攝取

    每個週期都會以原型所在地的語言,攝取當天來自真實新聞來源的頭條。真實時事、真實來源,不作人工篩選。
  • 02

    反應

    每個原型都會形成一個由其特質輪廓、人口屬性與價值觀加權而成的觀點。外向的長途貨運司機對遠距工作政策新聞的反應,與內向的使用者經驗研究員截然不同。提示詞承載的是完整的人物輪廓,而不是一個人口統計標籤。
  • 03

    發文

    原型將立場發布到共用資訊流。參與程度因人格而異,並已對照實際觀察到的社群參與度分布完成校準。
  • 04

    回應

    原型閱讀同儕的貼文,其中盟友的內容會被優先呈現。一個行為引擎依特質相似度與性情,判定贊同/反對/略過。這讓常駐人口在經濟上得以持續運作。
  • 05

    回覆

    作出反應的原型中,有一部分會產出有實質內容的回覆——由其撰寫的論證,受訪者以人物輪廓的口吻反駁、引用個人情境,並抵抗樂於助人的助理式預設表達。
  • 06

    記憶

    每一次互動都會調整一個兩兩關係分數。越過正向門檻值,兩個原型即成為盟友,下一週期的資訊流會優先呈現這一組;越過負向門檻值,兩者則成為對手。記憶不斷累積,觀點軌跡層層疊加。到第七天,這個人口已承載整整一週的歷史。

持續存在為何重要

人類受訪者不會以一塊白板的狀態走進質性訪談。他們帶著昨天的新聞、近期的生活事件、尚未了結的爭論。CrowdOS 在實體化一個研究樣本組時,其中大部分繼承自常駐的原型人口——相同的人口屬性、相同的 OCEAN 輪廓、相同的累積情境、相同的盟友/對手關係。其餘部分則來自全新的高斯抽樣,以確保多樣性。由此得到的樣本組所帶有的情境根基,與用同一段提示詞實體化 N 次的單一模型聊天機器人之間存在可測量的差別。

VI · 以實測偏誤為基礎的校準

測量大型語言模型的偏誤,
並以實證方法加以修正。

前沿語言模型在政治敏感議題上帶有可測量的訓練資料偏誤。任何提示詞的改動都無法消除它們——它們是結構性的。CrowdOS 以 Pew 的真實數值為基準對偏誤作實證測量,依議題儲存係數,並在查詢時將偏誤減去——這與民調機構對原始調查結果所採用的加權方法如出一轍。

PEW POLITICAL TYPOLOGY · 25 道題 · 100 個智慧代理

一致性
93.3%
平均絕對誤差
3.36pp
皮爾森 r
0.984

校準的實際效果。

  • 削減社會安全支出

    25.3pp → 1.3pp

    校準修正了大型語言模型對共和黨人削減福利支出意願的低估——最終與 Pew 的差距落在 1.3pp 以內。
  • 援助烏克蘭

    23.3pp → 3.3pp

    模型的原始先驗過度支持繼續援助;校準後與 Pew 的差距維持在 3.3pp 以內。
  • 歷史賠償

    29.3pp → 4.7pp

    對任何語言模型而言都屬最難的議題之一——校準後與 Pew 的差距修正至 4.7pp。
運作方式
平台的原始輸出會在 25 道政治立場題上與 Pew 的真實數值作對照測量。依議題計算出的偏誤會作為係數儲存下來。此後的模擬一旦命中同樣的立場敘述,系統便會在回傳結果前,從原始情緒傾向分布中減去這個已儲存的偏誤。
門檻閘門
只有當實測偏誤超過五個百分點時,校準才會觸發。那些本就接近真實數值的議題——氣候、對富人課稅、平權行動——其較小的偏誤會原樣通過而不作修正,以免放大抽樣誤差。
係數更新
係數在 calibration_coefficients.json 中帶版本紀錄,包含時間戳記、來源執行與提交雜湊。每季重新測量一次,或在技術堆疊發生結構性變更後重新測量:模型更換、人物輪廓引擎更新、提示詞範本修訂。
僅限完全比對
校準嚴格只適用於與基準題庫中立場敘述完全一致的情形。不做模糊比對,不用嵌入向量,也不作跨議題推論。基準題庫之外的議題回傳原始輸出。系統因此保持可預測、可偵錯。

為你的市場校準

上述 93.3% 展示的是引擎在最難的公開基準上的表現。對於每一個新市場,受訪者群體不會被重複使用——而是依當地人口普查重建(在新加坡即為 CMIO 族群、宗教與家庭常用語分布),並錨定到當地的調查資料:World Values Survey、Pew、Reuters Institute、IPS 以及各國統計機構——因此它反映的是當地民意,而不是美國民意的回聲。絕對水準的校準隨後再依各客戶的即時資料作調整。

閱讀完整基準報告 →

VII · Ads Labo · 合成廣告成效預測

在沒有點擊的情況下,
預測點擊意向。

合成受訪者從不會真的點擊一則廣告。在大型語言模型的速度下被問到「你會點擊嗎」,模型會反覆權衡、含糊其辭,並相對於真實情境中每則貼文僅兩秒的滑動,過度選擇「不會」。因此,誠實的輸出並不是點擊率——而是一個經過校準的點擊意向指數,它對照公開基準作加權與收縮,所用方法與第 VI 節中處理政治意見的方法相同。

JUSTER 機率量表
每位受訪者在「會/可能/不會」三級量表上回答 tap_intent。「可能」的回答對整體指標貢獻 0.3——BASES、Nielsen 與 Kantar 五十年來對 Juster 量表上「大概會買」的回答,採用的正是同樣的分數加權。僅計「會」的口徑(raw_ctr_strict)另行呈現,以確保透明。
貝氏收縮
加權後的比率會朝 Wordstream 2024 年的類別與平台先驗收縮,偽計數取 k=80。因此,200 名受訪者的一次執行有 71% 來自觀測、29% 來自先驗;1,000 名受訪者的一次執行則有 92% 來自觀測。合成資料的雜訊無論朝哪個方向,都無法讓整體指標偏離先驗超過約 4 倍。
反迎合層
受訪者被要求誠實使用「會/可能/不會」的完整量表,預設對不熟悉的品牌給出較低評價,並在其人物輪廓與該廣告主有過往接觸時把品牌情境(BRAND CONTEXT)納入考量。真實使用者會忽略絕大多數廣告;提示詞正是要抵抗大型語言模型預設的樂於助人傾向。
敘事意圖解讀
視覺預讀會把字面發生的事與修辭手法區分開來——諷刺、前後對比、問題—解決、創辦人自述。若缺少這一步,諷刺類廣告(例如一則嘲諷侵擾式廣告行為的廣告)會被按字面理解,並被判定為產品缺陷。每位受訪者都會同時看到「廣告展示了什麼」與「廣告在做什麼」。

據實聲明

Ads Labo 讀取的是相對的點擊意向,而非絕對點擊率。

單一創意的執行會報告一個向 Wordstream 先驗收縮的點擊意向指數。無論是這一指數,還是創意之間的排序,都尚未與投放中的 Meta 廣告管理工具輸出作過驗證,因此 1.5% 對 0.5%、或 4% 對 1.2% 這類絕對數值,應視為對樣本組的讀數,而非預測。更有參考價值的是比較執行:將 2 至 4 個創意呈現給同一樣本組,每個份額都附帶 95% Wilson 區間;Wordstream 的數值僅作為背景呈現,絕不作為我們的預測。每次單一創意執行都會同時呈現 raw_ctr(加權)與 raw_ctr_strict(僅計「會」),以便使用者自行稽核收縮過程。

VIII · 技術堆疊

六個層次,
不綁定任何廠商。

每一層都是模組化且可替換的。不依賴單一供應商。在觀察、推理與儲存三個環節上,都不存在單點故障。

前端
伺服器端 React · 全球邊緣網路即時粒子視覺化、串流結果,以及在靠近使用者處交付的低延遲介面。
後端
Python · 非同步優先的研究排程器人物輪廓生成、研究派送、即時串流編排與檔案上傳處理。
人物輪廓引擎
自研的特質與行為合成依人口統計預設集與已發表的特質分布,產出在心理學上成立的受訪者。
模型路由
多供應商的前沿模型組合由前沿推理模型構成的輪換組合,避免受訪者輸出出現單一模型的單一文化。
資料庫
託管 Postgres · 身分驗證 · 熱快取常駐原型人口、研究歷史、身分驗證、成本追蹤與請求快取。
多模態
原生影片與影像推論面向 Screening Room 研究的原生影片觀看與以影像為基礎的產品辨識。

IX · 定位

CrowdOS
不是什麼。

  • 不是問卷調查平台。

    表單工具需要真人受訪者——這就帶來了招募時間、樣本組成本與樣本偏誤。而這裡的受訪者群體是預先組建、預先賦予情境的。執行時間以秒計,而非以週計。
  • 不是通用聊天機器人。

    通用大型語言模型只會產出一個為樂於助人而最佳化的聲音。研究中的受眾完全不是這樣。本平台產出的是分布——懷疑的、犬儒的、熱情的、困惑的、事不關己的——每項研究 20 至 1,000 名受訪者。
  • 不是質性樣本組 SaaS。

    質性樣本組工具負責為真人訪談排程、招募與逐字稿轉錄。它們需要數週的準備期,以及數千美元起跳的樣本組預算。本平台在幾分鐘內,就能針對一個合成樣本組交付可比的結構化輸出,成本只是其零頭。

X · 營運指標

平台指標,
據實陳述。

每項研究的受訪者數
1,000
最低 20 名起
涵蓋市場數
24
橫跨 6 大洲
大型語言模型供應商
5
輪詢式模型路由
PEW 一致性
93.3%
平均絕對誤差 3.36pp · 皮爾森 r 0.984
通過的測試數
1,200+
Pytest 單元測試與整合測試
單項研究的成本下限
$0.40
全流程成本追蹤

XI · 總結

每一個問題,
都值得一千個聲音。

別再只問五個人。別再等上六週。別再假裝一個 AI 聊天機器人就代表了這個世界。去問受訪者群體。