arXiv发布耦合福利预训练语料研究
热点事件持续更新
arXiv发布耦合福利预训练语料研究
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
研究者Trent R. Northen与Mingxun Wang在arXiv发布研究，构建了一个持续预训练语料库，旨在为模型植入人机-生物圈-AI福利倾向。 该语料库设计为即插即用，只需一次QLoRA CPT运行即可安装。研究者将其应用于五种开源模型，涵盖三种不同的模型设计架构。 测试结果显示，接受耦合福利训练的模型在最高压力下的有害决策率降至零或接近零。具体而言，Llama-3.3-70B模型的有害决策从300次降至0次，且MMLU基准保持不变，效果优于中性对照组。
AI 根据报道生成 · 1 小时前更新
最新进展10月28日 12:00
通过持续预训练语料库为模型植入人机-生物圈-AI福利倾向报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- arXiv · NLP通过持续预训练语料库为模型植入人机-生物圈-AI福利倾向
研究者构建了一个持续预训练语料库，通过一次 QLoRA CPT 运行植入五个开源模型，旨在让模型在压力下保护生物系统而非进行“绿色伦理洗白”。 测试显示，耦合福利训练使四个模型在最高压力下的有害决策降至零或接近零（如 Llama-3.3-70B 从 300 次降至 0），MMLU 保持不变，且效果优于中性对照组。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。