PoC token 检测方法推测 24 款 LLM 中文训练数据污染
热点事件持续更新
PoC token 检测方法推测 24 款 LLM 中文训练数据污染
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
研究者提出 PoC token 定义与检测器，用于推测大型语言模型的训练数据污染情况。该方法在 C4 和 Pile 等知名预训练数据集上验证了推测的准确性，确立了实验基础。 实验结果显示，GPT 及另外 23 款 LLM 中存在广泛的 token 污染现象。其中 GPT 的表现最差，其词表中超过 40% 的长中文 Token（指包含两个以上中文字符的 Token）涉及色情或在线赌博内容。研究进一步推测，GPT-4o 的训练数据中特定网页占比约为 0.5%。
AI 根据报道生成 · 5 小时前更新
最新进展10月19日 12:00
GPT 等 24 款 LLM 的中文训练数据污染推测研究报道时间线
沿着报道，了解事件的不同侧面。
10月19日
- arXiv · NLPGPT 等 24 款 LLM 的中文训练数据污染推测研究
研究通过微调 LLM 构建检测器，推测 GPT 及另外 23 款 LLM 的中文训练数据污染情况。实验显示 GPT 词表中超 40% 长中文 Token 涉及色情或赌博内容，并推测 GPT-4o 训练数据中特定网页占比约 0.5%。
本事件热度走势
- 可比范围当前
- 8
- 可比范围峰值
- 910月19日 14:00
- 近 24 小时变化
- –
02.557.510
14:0015:0016:0017:0018:0019:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。