跳到正文
Hacker News AI· bmiedlar·· 4 小时前AI 评分45

NullPrime 研究表明多数 AI 模型无法识别自身知识盲区

Show HN: NullPrime – do AI models know when they can't know?

AI 导读

NullPrime 数据集利用剔除小素数因子的整数,证明灵活学习器训练集准确率接近 100% 但在测试集仅得 50% 的随机水平。 该数据集移除原始数字中可学习的首部模式,使 52 维特征(如模小素数余数)在素数与合数间失去判别力,导致模型仅能死记硬背训练集。 研究为 LLM 校准和不确定性估计提供了负向对照基准,相关代码与数据已在 GitHub 以 MIT 和 CC-BY-4.0 协议开源。

来源:Hacker News AI · github.com