跳到正文
LessWrong · All Posts· Eam·· 6 天前AI 评分57

LessWrong 社区研究 Astra 模型的视觉推理与权重读取能力

What Did Astra See?

AI 导读

研究团队测试发现模型 Astra 能够在不依赖外部工具的情况下执行大量编码、解码及可视化计算。实验中 Astra 仅通过策略网络权重便还原出 Pacman 迷宫图,且能识别未提供尺寸信息的原始图像字节,这一现象引发了对 AI 可监控性的担忧。

来源:LessWrong · All Posts · lesswrong.com