AYO:一个用于研究儿童与LLM互动的安全且保护隐私的平台
研究团队推出开源平台AYO,专为安全、系统地研究儿童与对话式LLM的互动而设计。 AYO提供儿童友好界面、可配置的基于年龄的安全护栏、研究人员监控及保护隐私的数据实践。 该平台支持横截面、纵向及实验性研究,旨在生成证据以指导更安全的AI系统、教育实践和相关政策。
研究团队推出开源平台AYO,专为安全、系统地研究儿童与对话式LLM的互动而设计。 AYO提供儿童友好界面、可配置的基于年龄的安全护栏、研究人员监控及保护隐私的数据实践。 该平台支持横截面、纵向及实验性研究,旨在生成证据以指导更安全的AI系统、教育实践和相关政策。
评估15个开源和10个专有LLM在退伍军人推文危机严重度标注上的一致性,LLM模型间序数一致性α达0.8336,高于人类专家的0.494。 测试8种提示变体显示专有模型与专家标注更符合且更稳定,GPT-5.6-Terra综合表现最佳,Qwen2.5-7B在识别自杀意念急性危机最强。 高一致性不必然代表符合人类判断或可靠检测罕见高危病例,LLM作为专家标注的补充需严格评估后用于高风险应用。
研究团队发布 VEX-Bench,基准涵盖 7 个前沿 LLM、7 种生成方法及 60 个真实主题,共生成 5,880 篇虚假文章。 VEX 分数整合诱发率与核实复杂度,发现 LLM 能以低 3 倍至 169 倍的成本生成高 VEX 虚假信息。 这导致稀缺的核实资源被系统性错配,代码已在 GitHub 公开。
论文提出 Transformer 通信图谱,通过权重几何映射所有潜在通信通道。分析显示 70-89% 的注意力头对呈现显著非随机耦合特征。 研究恢复了归纳电路结构,并通过消融二维残差流子空间,在高达 Pythia-6.9B 的六个模型中使归纳功能失效。 作者开源了通信图谱、统计工具及干预套件,支持模型机制可解释性研究。
研究团队发布 Animation2Code 基准测试,旨在评估视觉语言模型(VLMs)在视频到代码生成任务中的时序视觉推理能力。该基准包含 1,069 个网页动画视频及其对应的 HTML/CSS/JavaScript 实现,并提出了外观相似度和时序相似度两项指标。测试显示,当前最先进的 VLMs 在重建时难以保持时序一致性,即使外观相似度较高,且在微调和迭代优化设置下表现依然受限。
研究发现模型在潜空间视觉推理中忽略连续潜 token,因其替换为无信息占位符后准确率不受影响。 分析表明现有数据中 oracle 潜 token 缺乏额外信息,且推理时生成的 token 偏离 oracle 表征,导致无法获益。 未来突破需依赖具备高信息量中间步骤的数据集及更精确的潜 token 预测方法。
针对大型视觉语言模型(LVLMs)的对象幻觉问题,研究提出基于注意力-值动态的免训练推理时干预方法。 该方法识别出视觉处理中的“聚焦”阶段,通过替换低注意力 token 的值向量来减少幻觉,同时保留真实物体证据。 实验表明该方法几乎不增加额外运行时开销,且能与现有推理时缓解方法兼容。
研究通过线性模型合并策略优化多模态大语言模型的 SFT 数据混合。该策略使用合并后的代理模型评估不同数据混合的效果。 在 14 个多模态 benchmark 上的实验表明,代理模型能一致选出接近最优的数据混合。这种方法解耦了混合搜索与高成本训练过程,提供了可扩展且高效的优化方案。
ChartHal提出了一套图表理解中的幻觉细粒度分类体系及包含1,062条人工验证样本的基准数据集。 实验显示,最先进的模型GPT-5和o4-mini在该基准上的准确率仅分别为34.46%和22.79%。 研究表明,涉及图表缺失或矛盾信息的问题最容易触发模型幻觉,凸显了开发更强健缓解策略的迫切需求。
研究量化了安全对齐带来的效用损失,发现非英语用户承担的系统性“安全代价”高于英语用户。 该现象源于显性拒绝与多维度隐性差异,具体表现为小语种陷入保护弱、损失大的双重惩罚区,高资源语言为达到同等安全也需付出更大代价。 (注:原文未明确提及具体模型名称或量化benchmark分数,仅描述定性发现)
研究团队利用多模态大语言模型审计了法国、意大利和瑞典 TikTok 平台上 36,971 个视频的有害内容暴露情况。 验证发现 Gemini 2.5 Flash 在 300 个视频参考集上表现最佳,聚合 Kappa 系数为 0.42,且单次调用成本仅为原生视频上传的一半。
论文提出硬度调整迁移(HAT)分数,以准确衡量从源语言到低资源目标语言的泛化能力,避免混淆源语言精度提升与真实迁移能力。 研究分析 20 个多样化语言模型在 3 个主流多语言基准上的表现,发现小模型迁移并非失效,但随着模型规模增大,跨语言迁移的进步速度慢于预期。 尽管整体时间维度上取得了明确进步,该指标揭示了当前多语言模型在扩展规模时迁移能力增长的瓶颈。
在乳腺密度和BI-RADS分类任务中,四个视觉语言模型对图像扰动后的置信度并未降低,且选项乱序会改变多数模型的回答。 研究发现,部分模型自身陈述的推理与最终答案存在矛盾,这种不一致性无法仅通过准确率评估。该结果指出,在评估VLM时,必须结合答案、置信度和解释的一致性来判断其输出可信度。
多模态大模型在复杂推理上表现强劲,但难以解决人类轻松处理的视觉问题。HumanSightBench 旨在评估这一差距,包含2876个短答视觉问题,涵盖7个顶级感知类别和21个子类别。
6 个 LLM 代理在模拟放射学流程中,仅有权限时高危违规率为 19.4%,叠加 LLM 检查器后降至 13.2%。各代理间无显著差异,误报信息导致 83% 代理错误引用被篡改文档。分层保障措施可减少但无法完全防止高危错误。
视觉语言模型在视觉虚假信念测试中性能骤降,研究指出瓶颈在于感知而非推理。 通过五条件分离协议评估7个VLM,感知贡献比率量化视觉-文本差距;60%的虚假信念失败源于现实偏差,模型报告物体实际位置而非代理信念位置。 该论文被NeurIPS 2026接收,证实结构化视觉场景状态提取是视觉心理理论的主要障碍。
研究者提出 Machine Hearing Benchmark (MHB) 及轻量级编码器扩展 MachEar,旨在探索音频 LLM 超越人类听觉极限的泛化能力。
SituRecBench 是一个交互式基准,用于评估前沿视觉语言模型(VLM)在高保真3D环境中作为情境推荐助人的表现。该基准模拟真实购物环境,通过统一交互协议评估对话质量、推荐效用和导航有效性。
Micius-Flash 是一款拥有 27B 参数、256K-token 上下文窗口及原生多模态输入的开源模型。 该模型通过 MOPD 技术集成半导体与硬件专家模型,在硬件代码基准中平均得分 64.2%,半导体智能体基准得分 62.4%。 研究团队开发了 Micius Harness,支持连接 EDA 工具与 KiCad,已开源以推进工程智能体发展。
Video LLMs 计数失败源于读取故障而非对象恒存缺失,线性探针窗口解码达93%,但全局解码失效。 两种读取修复策略将同物体计数准确率从46.7%提升至65.0%(Oracle 66.7%),覆盖7B-30B系统。 REALCOUNT 独立视频审计显示该边界持续存在,最佳准确率55.6%(随机基线33.3%)。
论文提出人形机器人交互原型 KR A1,整合 Qwen2.5-3B-Instruct、OpenVoice v2 及双层情绪处理管道,面向心理健康护理场景。 采用 InsightFace 人脸识别与 FAISS 向量检索实现用户个性化交互;当前评估仅涉及语音克隆的八项声学相似度指标,未进行临床部署。 情绪识别准确率、系统延迟及临床效果尚未评估,相关测试均为开发团队非正式自测,未涉及外部参与者。
研究发现视觉语言模型(VLM)中的模态鸿沟源于文本与视觉 Token 在嵌入层的语义密度差异。 具体表现为文本 Token 的语义密度显著低于视觉 Token,导致模型早期层需优先处理文本表征。 研究者证实,用语义最接近的文本 Token 替换视觉 Token 位置,可提升早期层对原视觉位置的注意力。 该机制分析为弥合模态鸿沟及改进多模态推理架构提供了坚实基础。
IRIS-Embed 通过对比训练和指令感知的音频层加权,将大型音频语言模型(LALMs)适配为嵌入模型,在 INSPIRE 基准测试中显著超越基线。 最佳模型取得 62.92% 的宏平均 Recall@50,优于最强基线的 45.15%。该模型使用约 900K 真实与合成数据样本构建训练集,在 MAEB 基准上获得 9.4-19.8 点的宏平均提升,证明其在语音检索之外的泛化能力。
ViCLIP-OT 是专为越南语图像文本检索设计的基础视觉语言模型,整合 CLIP 风格对比学习与 SIGROT 损失。 该模型在 UIT-OpenViIC 基准测试中平均 Recall@K 达 67.34%,较 CLIP 提升 5.75 个百分点;在 Crossmodal-3600 零样本评估中超越 CLIP 11.72 个百分点。
HiVe-Mem 多模态记忆框架通过交错执行水平记忆扩展与垂直证据组合,在多模态记忆基准上提升任务性能。 该框架利用关系图扩展语义检索种子,并通过轻量选择器独立组合每条记忆的多种证据形式,如摘要、原始图像等。 相较于最高效的竞争基线,该框架在保持性能提升的同时,将 token 消耗降低了约 90%。
研究提出 NarrativeBench,包含 23 种语言、460 个查询及 1,333 篇新闻,定义 6 项核心能力。 评估 14 个 LLM 发现,模型缺乏导航多元叙事能力,导致不同语言间信息获取差异显著,加剧“信息对等”缺失。 NeurIPS 2026 录用该工作,其基准为开发跨语言信息系统及提升用户信息获取自主权提供基础。
EmoHarness 框架在 5,507 项 MME-Emotion 测试中,将小型多模态模型的识别准确率提升 7.6-13.4 分。 该框架利用转录文本和韵律描述作为可引用证据,通过元框架演化(MHE)机制,由 Builder LLM 离线优化提示词与验证代码。 转录和韵律贡献了主要提升幅度(+5.38 至 +10.71),而框架演化带来的增量在统计校正后不显著。
研究评测了 19 个开源模型与 Gemini 3.1 Pro 在 92 项任务上的表现,发现开源模型在属性与结构任务上落后 Gemini 28.6 和 41.9 个百分点。
研究在六个冻结编码器上分析孟加拉语习语,发现类均值方向在平衡准确率下支持跨语言共享粗粒度语义。英语训练的类均值读出在8项测试中优于零样本对照,但英语拟合的LEACE消除效应不足1个百分点,显著低于孟加拉语拟合的4-11个百分点。
提出音频字幕框架 LongCap 及评测基准 LongCapBench,支持在 1M token 推理上下文窗口内对长达 16 小时的音频进行时间戳生成。 框架采用交错音频块与结构化事件字幕的方法,引入 TER、GER 和 tcpCapSim 三项指标,在 9B 至 122B 参数规模的模型上验证了尺寸与性能的权衡。
提出模块化分词框架 MoTo,为每种语言训练专用 BPE 分词器并组成统一超集词汇。 在各语言保留独立归一化与词表预算的前提下,MoTo 在 21 种类型多样语言中的 18 种取得提升,且对英语的影响极小。 该结果表明模块化子词分词是实现多语言公平建模的可行且可扩展方案。
Jev 1.14.0 在 67 个系统和 43 项任务上的平均主要指标为 69.24,低于 Gemma-4-31B 的 71.81。Jev 1.14.0 相对于 1.13.0 的提升幅度因任务族而异。 内容匹配对比显示,Jev 1.14.0 的方言减 MSA 准确率差距在四个数据集中范围为 -7.94 至 -0.35 个百分点。
LLM 生成的病历文书存在“文书膨胀”与“诊断过度提及”两类伪影,影响下游 LLM 性能。 研究覆盖 4 个模型家族的 7 个 reader 模型,发现 LLM 生成的摘要笔记会轻微降低下游病程生成质量,而注入的过度诊断会在下游输出中以不同比例复现。 结果证实需在病历中监控 AI 生成内容,并在后续 AI 处理时予以考虑。
研究显示,利用 LLM 不确定性指标 Stenosis Margin 能有效识别提取失败,调整 OR 值为 4.15,AUC 提升 0.06 至 0.86。 该指标与临床不符的关联较弱(调整 OR 1.22, P=0.118),且 90% 的临床不符病例提取正确,表明两者重叠极少。
该基准评估了 LLM 在 42 种语言文化谜题中的表现,发现添加长度约束使与参考答案的一致性提高 22.8 个百分点。 测试涵盖 11 种 LLM 配置和 5 种提示变体。网格输入使兼容答案占比提升 9.7 个百分点,要求完整网格时模型间差异显著。 该基准区分了匹配单一参考答案与生成相互兼容、占据正确单元格的答案的能力。
针对多模态大模型(MLLMs)遗忘学习中的效用平衡问题,本文指出含更多私有信息的监督目标会导致遗忘不充分,且分布偏移过大会造成效用退化。 提出 FFN-Perturbed Self-Distillation (FPD) 方法,通过扰动 FFN 激活以构造低偏移目标,在 S-MLLMUn Bench 上展示了更优的遗忘-效用权衡。
美团正式以 MIT 协议开源 LongCat-2.5,该原生多模态模型总参数 1.6 万亿、每个 token 激活约 480 亿参数并支持一百万上下文,面向长程智能体任务在代码开发、Visual Coding 与专业办公场景中端到端交付能力明显提升。
推荐理由:原文详细披露了1.6万亿参数多模态模型在国产算力下的W4A4量化策略与训练细节,展示了在显存受限场景下落地万亿模型的具体工程路径。
Google 推出的 Language Explorer 是一个交互网页平台,基于开源的 LinguaMeta 数据集整合了数千种语言的数据。 该平台支持研究人员、教育者和语言爱好者可视化全球语言多样性。 Language Explorer 已在柏林通信博物馆的“Real Talk!”展览中作为互动装置展出。
NVIDIA Nemotron 3.5 Super VL 已上线 Amazon SageMaker JumpStart,提供 NVFP4 与 BF16 两个版本,接受图像、视频和文本输入并生成文本。
NVIDIA 正结合韩国制造与工程优势,通过加速计算、AI 与仿真推动 Physical AI 从开发走向实际生产。