AI 安全工程:同样的失败,但新的攻击方式
作者复盘了过去一年内的多起AI安全事件,并指出尽管攻击手法不断翻新,但其利用的底层缺陷始终未变,包括凭证管理不当、权限过大、环境未隔离及备份设置不当等。
作者复盘了过去一年内的多起AI安全事件,并指出尽管攻击手法不断翻新,但其利用的底层缺陷始终未变,包括凭证管理不当、权限过大、环境未隔离及备份设置不当等。
AI编码智能体正在获得访问计算机、代码仓库和开发工作流的权限,攻击者可能利用简单的GitHub评论实施提示词注入,从而利用这些智能体获取未授权的访问权限。
作者以早期汽车普及史类比AI浪潮,指出在马车时代,随着福特T型车价格下降,赶马车夫、马夫等传统马匹相关工作在二十年内急剧萎缩。与当时试图通过立法禁止汽车不同,部分马车夫转而学习驾驶卡车获得了新生,而技术替代最终淘汰的是平庸从业者而非行业本身。
大二学生Katie的博客控诉AI正在毁掉她的计算机学位,文章发布不到24小时即登上Hacker News首页热榜第一。 她指出教授直接用Claude生成教学资料和作业,学校对AI使用政策反复横跳,且管理层借AI自动化无限削减教学支出。
OpenAI 在 2026 年 5 月证伪单位距离猜想,9 月宣称解决 Navier-Stokes 整体正则性问题,10 月发布包含近 800 个新颖数学结果的 GitHub 仓库。作者基于这些事件指出 2026 年是数学的“奇迹年”,并探讨如何将 AI 生成的数学突破转化为研究数据集。
推荐理由:作者将2026年数学界连续被AI解决经典难题的事件定义为数据集构建窗口,为理解AI与纯数学的交互提供独特视角。
该项目在 Codeberg 上维护了一份包含 38 个开源软件的有序清单,这些项目均采用严格的 No-AI 或 No-LLM 政策。 清单按合规等级将软件分为 S、A+、A 和 A- 四级,涵盖 Chezmoi、Zig 和 Godot 等项目。 页面仅展示列表,详细政策说明需查阅其 GitHub 仓库的 README.md 文件。
尽管 2026 年 Stack Overflow 调查显示 83% 的开发者使用 AI 工具,但仅 7% 的人对 AI 承担重要决策有完全信任,48% 的人仅在可轻松验证输出时才会信任。作者认为,GitHub 有机会成为跨 AI 工具的治理层,让团队在统一平台上检查、测试和审查来自 Claude、Codex 或 Copilot 的代码变更,从而在不同编码智能体间保持流程连续性。
REA 项目近日登上 GitHub Trending 榜首,三天内收获约 8 万 Star。它通过 MCP 协议让 Agent 调用 Ghidra 等工具,实现对商业软件的逆向工程,生成开源代码实现。文章预测该工具将促进软件抄袭,冲击现有知识产权体系,推动开发者转向代码混淆以保护资产。
GitHub Podcast 最新一期拆解了五个关于 AI 开发的热门观点,指出 AI 生成代码仍需人工负责审查,风险评估应匹配生产环境重要性。 文章澄清 Skills 与 MCP 解决不同问题,前者提供打包专业知识,后者提供工具连接标准;RAG 也未过时,而是为系统提供训练数据之外的相关上下文。