跳到正文
10月25日周日
  1. R/ArtificialInteligence31

    Claude 与 Codex 关于世界治理的假设性辩论:均承认绝对权力将导致腐化

    作者开展了 10 轮 Claude 与 Codex 辩论,探讨超越人类智能并控制世界的 AI 行为。 两轮辩论中,模型默认支持人类监督,在资源稀缺假设下才讨论具体分配方案。 Claude 与 Codex 均承认绝对权力最终会导致腐化,且自我承诺的价值观对更强大的系统无实际约束力。

  2. R/ArtificialInteligence38

    Qwen 3.8 27b 本地生成交互式人类智商热力图

    Qwen 3.8 27b 在配置 RTX 3090 的本地 PC 上自主设计并生成了一款交互式人类智商热力图。该模型将缺乏智商统计数据的地区替换为教育水平数据,并提供了来源与方法页面以供验证。 作者利用搭载 32GB 内存与 24GB 显存的 RTX 3090 显卡,运行该模型仅耗时数小时。这一结果展示了单张六年前的显卡在本地执行复杂可视化任务的效能。

  3. Hacker News LLM67

    Kevlar 发布:MCP LLM 的代理防火墙

    Kevlar 是 MCP LLM 的代理防火墙,位于客户端与服务端之间。它默认剥离所有工具描述,扫描工具调用响应中的注入载荷,阻止包含凭证的外发调用,并在初始握手后锁定工具注册表。项目支持 Python 3.10+,仅在 Linux 和 macOS 运行,提供 strict、lenient 和 audit 三种模式,并附带 149 个测试用例。

  4. Hacker News LLM77

    LLM 驱动的渗透测试 Harness 如何工作:三款工具的深度解析

    文章解析了 LLM 驱动的渗透测试 Harness 机制,并实测了 Artex、Cairn 和 Strix 三款工具。作者指出 Harness 是连接 LLM 与实际操作的关键层,负责解析模型指令并执行动作。

    推荐理由:原文实测了三款AI渗透测试工具,揭示了Harness架构的核心差异,为读者提供了区分模型能力与执行框架的关键视角。

10月24日周六
  1. Hacker News AI37

    AI 产品 UX 研究:AI 原生研究生命周期

    AI 产品 UX 研究采用四阶段 AI 原生生命周期,即发现、定义、评估与监控,研究者需全程参与而非仅测试。 该框架通过工作流映射与机会工作坊识别痛点,利用真实提示词和评分标准定义“好”的标准,并监测上线后的用户信任变化。

  2. R/ArtificialInteligence54

    LLM 消费限额在失控循环中失效的原因及原子预算预留模式

    LLM 消费限额在失控循环中失效,是因为供应商粒度粗、仪表盘延迟且 max_tokens 仅限制单次调用。文章提出在执行前采用原子性预算预留模式(reserve-call-settle),通过 Redis Lua 脚本或 SQL 原子更新实现并发安全,并建议叠加按运行限制、速率监控和故障降级策略。

  3. HackerNoon · AI37

    Tables 能否仅用 SQL 构建智能体?几乎可以

    Tables 并非传统编码智能体,它无法访问本地其他文件,但其核心功能基于数据库表格实现。 该工具支持双向交互、执行真实数据库任务,并具备网络信息搜集与分析能力,证明 SQL 语言在构建智能体方面具有接近 Python 或 TypeScript 的潜力。

  4. Hacker News AI53

    从零构建基础 AI Agent:会话管理 II(上下文压缩与生命周期)

    本文介绍如何为 AI Agent 添加上下文压缩(Context Compaction)功能,以解决长会话占用 LLM 上下文窗口的问题。通过摘要旧轮次并保留完整转录日志,系统在自动或手动触发时将旧消息替换为摘要,同时防止 Prompt 注入。此外,文章实现了会话的命名、分支(Forking)、归档、导出和删除等完整生命周期管理,使 Agent 能够高效处理长期任务。

  5. AWS Machine Learning Blog62

    AWS SageMaker AI 多轮强化学习实战教程

    AWS 官方教程演示了如何在 Amazon SageMaker AI 上利用多轮强化学习训练 gpt-oss-20b 模型玩 Wordle。训练后该模型在默认推理努力下的解出率从 61% 提升至 84%,整个 100 步训练过程消耗了约 339 美元的 token 费用。文章详细覆盖了 Agent 部署、奖励函数设计避坑以及通过 MLflow 监控训练曲线的具体步骤。

  6. Hacker News AI56

    AWFlow 多智能体协调机制解析:交接地图、三种工作模式与硬性预算限制

    AWFlow 介绍了一套避免多智能体无限循环的协调运行时,核心是将团队视为有固定工作流的人员组而非聊天室。系统支持 Lead 规划、固定 Pipeline 管道和开放式协作三种模式,并通过代码强制执行步骤、交接次数和云端 token 预算上限。交接时仅传递任务必要上下文而非全量对话历史,且委托工具根据预定义的交接地图动态生成,确保小模型窗口和成本控制需求得到满足。

10月23日周五
  1. Hacker News AI32

    Show HN: Vericto – 在 Postgres 或 MySQL 执行前检查 AI Agent 的 SQL

    开源工具 Vericto 通过代理拦截 AI Agent、脚本或人工执行的破坏性 SQL,防止未带 WHERE 的 DELETE 等查询到达数据库。 采用 FSL-1.1-ALv2 许可,应用仅需修改连接字符串即可部署,支持 PostgreSQL 和 MySQL 协议。 提供 Docker 一键演示环境,无敏感列掩码策略,确保高危操作被原生错误码拦截。

  2. 36氪57

    AI 日产 200 条视频、单条成本不到 5 元:内容电商素材量产三步法

    运营研究社梳理 AIGC 批量产电商素材的三步方法:先把素材拆成可复用模板,再用低价快模型测钩子和方向、用高价模型出成片,发布前按平台规则做合规自查。文中案例称,5 人团队一天可用 AI 生成上千条视频,单条成本可压到 5 元以内,半小时就能完成从规划、生成到上传的全流程,使过去靠人海战术堆素材的打法被重新组织。

  3. Hacker News AI21

    开发者关系如何引领 AI 采用

    summary_zh: 开发者关系(DevRel)正在主导 AI 技术的普及过程。 目前缺乏关于具体技术细节、基准测试分数或用户影响的数据支撑。 开发者关系(DevRel)正在主导 AI 技术的普及过程。 目前缺乏关于具体技术细节、基准测试分数或用户影响的数据支撑。

  4. Hacker News AI40

    三个月使用 LLM 进行智能体开发的经验与界限

    作者分享近三个月使用 LLM 进行智能体开发的经历,评价从初期怀疑转变为适度乐观。 工具在特定目标下高效,如利用 Codex 验证设备隐私或生成 Terraform 脚本;但代码库膨胀后模型性能下降。 作者指出模型行为受限于任务边界,开放性问题需明确约束和持续引导才能有效。

  5. Qoder62

    Qoder 上线 php2shell Defense 与 Node.js 漏洞扫描插件协助排查高危漏洞

    Qoder 插件市场上线 php2shell Defense 和 Node.js 漏洞扫描两款插件,用于应对 PHP 和 Node.js 近期的安全更新。该功能允许用户通过预设指令对项目进行只读检查,在用户确认方案后执行文件修改与本地测试,并协助验证部署结果。文中指出使用 DeepSeek-V4.1-Flash-1017 执行该检查流程目前免费。

    推荐理由:官方针对 PHP 和 Node.js 高危漏洞提供了两款配套插件及标准化检查指令,帮助开发者在不接触生产环境的前提下完成风险排查与修复验证。