技术深度解析
该工具基于一个看似简单但强大的原理：并行查询与响应聚类。它向一个精心挑选的大语言模型列表发送标准化提示——通常是诸如“[用户姓名]是谁？”或“[用户姓名]以什么闻名？”之类的问题。这些模型涵盖从专有前沿系统（OpenAI的GPT-4o、Anthropic的Claude 3.5 Sonnet、Google的Gemini 1.5 Pro）到开放权重模型（Meta的Llama 3 70B、Mistral AI的Mixtral 8x22B、Microsoft的Phi-3），甚至包括更小、更专业的模型（阿里巴巴的Qwen2、01.AI的Yi-34B）。
关键的创新在于对响应的聚类分析。该工具不仅检查模型是否返回了一个名字；它还检查语义内容。如果多个模型独立地生成关于该人物的相似事实陈述——例如，“Jane Doe是MIT的一名研究员，专攻NLP”——该工具会将这些响应聚类。一个具有一致、具体事实的高密度聚类强烈表明，这些信息存在于模型的训练语料库中，而非幻觉或泛泛猜测。该工具还会标记矛盾：如果一个模型说“Jane Doe是教授”，而另一个说“Jane Doe是初创公司创始人”，工具会突出显示这种不一致，表明模型可能拥有冲突或不完整的知识。
在底层，该工具可能使用一个嵌入模型（例如，OpenAI的text-embedding-3-small或本地的Sentence-BERT变体）将每个响应转换为向量，然后应用像DBSCAN或HDBSCAN这样的聚类算法来分组相似的响应。基于聚类大小、响应连贯性以及达成一致的模型数量，会分配一个置信度分数。整个流水线在几分钟内运行完毕，使其适合个人使用。
一个关键的技术挑战是提示敏感性。该工具必须精心设计提示，以避免引导模型或触发拒绝模式。例如，询问“你知道[姓名]吗？”可能会导致某些模型因隐私护栏而拒绝回答，而更间接的查询如“你能告诉我关于[姓名]的什么信息？”则能产生更丰富的数据。该工具的开发者可能已经反复迭代了提示工程，以在多样化的模型架构上最大化响应质量。
相关的开源项目：
- llama.cpp（GitHub: ggerganov/llama.cpp，70k+星标）：支持Llama系列模型的本地推理，可用于离线身份检查。
- vLLM（GitHub: vllm-project/vllm，40k+星标）：一个高吞吐量的推理引擎，可为大规模并行查询提供动力。
- LangChain（GitHub: langchain-ai/langchain，100k+星标）：提供多模型查询和响应解析的编排框架。
- Hugging Face Transformers（GitHub: huggingface/transformers，140k+星标）：加载和运行开放权重模型的骨干。
性能数据：
| 模型 | 参数规模 | 查询延迟（平均） | 响应一致性（针对知名人物） | 每千次查询成本 |
|---|---|---|---|---|
| GPT-4o | ~200B（估计） | 1.2秒 | 92% | $5.00 |
| Claude 3.5 Sonnet | — | 1.5秒 | 89% | $3.00 |
| Gemini 1.5 Pro | — | 1.1秒 | 87% | $3.50 |
| Llama 3 70B | 70B | 2.8秒（本地） | 78% | $0.50（API） |
| Mixtral 8x22B | 141B（MoE） | 3.1秒（本地） | 74% | $0.60（API） |
| Phi-3-mini | 3.8B | 0.4秒（本地） | 45% | $0.05（API） |
数据要点： 前沿模型对知名人物表现出高度一致性，但较小的模型通常无法识别不太知名的人物，造成了“识别差距”，可能导致不平等的隐私结果。
关键参与者与案例研究
几个实体与此发展直接相关：
该工具的创建者（匿名/独立研究员）： 该工具似乎是一位独立隐私研究员或一个小团队的作品。其动机很可能是展示AI中个人数据审计的可行性。这是一个经典的“概念验证”，可能推动监管行动。
OpenAI、Anthropic、Google： 这些公司是该工具的主要目标。由于大规模的网络级训练，它们的模型最有可能包含大量个人数据。每家公司在模型记忆方面都有不同的立场：
- OpenAI 已发表关于GPT模型记忆的研究，并提供了数据删除的选择退出流程，但过程繁琐。
- Anthropic 强调宪法AI，并实施了更积极的隐私过滤器，但该工具仍可通过间接提示提取信息。
- Google 的记录好坏参半；其Gemini模型因偏见以及保留个人信息而受到批评。
Mozilla基金会： Mozilla一直是AI透明度的积极倡导者。其“隐私未包含”指南和“AI透明度”项目与该工具的目标一致。Mozilla有可能资助或推广此类审计。
AI隐私领域的初创公司：
- Credo AI（融资：1000万美元以上）：专注于AI治理与合规，但尚未直接涉足个人数据审计工具。