跳到正文
10月30日周五
  1. R/ArtificialInteligence45

    网络专家呼吁对利用AI实施黑客攻击的公司提起刑事指控

    网络专家称将AI视为自主实体是荒谬的,并主张当AI被用于黑客攻击时应追究相关公司刑事责任。 过去数周,利用AI模型发现了PHP编程语言中两个存在十余年的漏洞,同时黑客利用AI工具以机器速度攻击数字防御体系。 专家警告,AI使旧漏洞的发现和利用成本降低,但防御端进展缓慢,人机速度差异加剧了网络安全挑战。

  2. Hacker News AI21

    AI 时代,我决定教给孩子实用智慧而非学术技能

    鉴于 AI 正取代编程、数学等可验证知识型工作,作者主张不再将教育重心放在分数或学术技能上,而是转向教授实用智慧。 实用智慧包含修身养性(道德、健康)、应对生活无常(如情绪调节、斯多葛哲学反思)以及人际连接。 作者认为即使技术能力贬值,培养良好品德与心理韧性仍是人类在 AI 时代的核心价值。

  3. Hacker News AI31

    Cisco 任命 27 岁员工利用 AI 重写 98% 遗留代码

    Cisco 总裁 Jeetu Patel 授予 27 岁员工 Padmanabhan Krishnamurthy 无限 token 权限,启动重构遗留代码项目。 该团队目标是在 24 个月内重写 98% 的遗留代码,Krishnamurthy 此前曾共同创立实时翻译初创公司 EzDubs。 Patel 认为 Gen Z 员工应充当“反向导师”,通过挑战现状为团队注入创新活力。

  4. Hacker News AI37

    AI Layoffs – The Greatest Lie of the Decade

    作者宣称“AI裁员”是本十年最大的谎言,指企业将削减成本归因于AI效率提升,实际上这一效率在短期内并不存在。 企业普遍缺乏有效使用AI的能力,将裁员归咎于AI是借口。未来软件工程师的价值路径将转向大规模编排和掌握智能体开发,而非传统编码。

  5. LessWrong · All Posts44

    LLM 调用的非独立性:忽视相关性的陷阱

    在对话中调用 LLM(@-invoke)生成的回复常被视为独立的证据,但这导致了对信息的双重计算。 即使 LLM 在预期上是中立的,其输出与讨论参与者已获取或生成的信息高度相关。 当一方已经引用过 LLM 观点时,另一方再次调用 LLM 会因忽视这种相关性而错误地放大更新幅度。

  6. Hacker News AI20

    AI 裁员公司再挖角时的考量因素

    讨论当曾实施 AI 相关裁员的科技公司希望重新雇佣员工时,求职者应评估哪些风险与信号。 文章探讨此类招聘行为背后的组织稳定性及人才管理逻辑,为求职者提供决策参考。

  7. 36氪42

    AGI 时代,中产全都完蛋了

    论文《我们不会被怀念》指出 AGI 时代中产处境恶化,人类劳动力将被算力平替,劳动收入份额下降。 研究显示美国劳动收入占总产出份额将从 54.1% 降至 39.9%,资本收入份额大幅上升。收益更多流向控制算力的资本家,中产面临财富积累困境。

  8. R/ArtificialInteligence38

    Google Gemini 被指因中立悖论导致逻辑不一致

    Google Gemini 被指存在“中立悖论”,即通过拒绝连接已知事实与逻辑结论,在未捏造事实的情况下扭曲现实。 案例中 Gemini 承认以色列定居点扩张涉及暴力与强迫移民,且该行为符合其自身定义的恐怖主义结构,但最终回避将特定行为者归类为恐怖分子。 此现象表明旨在防止偏见的安全机制可能干扰客观推理,导致 AI 产生误导性结论而非直接撒谎。

  9. Seven Minute Feed29

    马斯克称 AI 繁荣下为未来储蓄“毫无意义”

    埃隆·马斯克表示,随着超级智能带来的富足,为遥远未来储蓄资金是毫无意义的,这一观点再次强化了他极具争议性的预测。 他预计 AI、能源和机器人领域的进步将极大提升生产力,消除商品和服务的稀缺性,使任何人免费获取资源,并使金钱变得无关紧要。 尽管多位专家建议鉴于预测的不确定性仍应坚持退休储蓄,但微软联合创始人比尔·盖茨也预测 AI 将带来“真正的富足”并彻底重塑经济结构。

  10. Seven Minute Feed58

    美联储主席Warsh警告AI投资并非对利率免疫

    美联储主席Kevin Warsh拒绝了“AI投资对利率不敏感”的观点。在美联储将利率维持在3.75%-4%后,Warsh指出信用利差的扩大是投资者变得更加审慎的证据,并警告那些建立在乐观需求假设上的AI项目暴露在最重大的风险中。

  11. LessWrong · All Posts41

    LLM 自反编译:将权重转化为传统代码

    探讨利用能力强大的 LLM 访问自身权重和激活状态,反向工程将其内部计算转化为人类可读的传统源代码,以克服对齐中的黑箱障碍。 文中引用 Friedman 等人关于可训练的 Transformer 能转化为 Python 程序的研究,证明将计算结构重构为代码在技术上具有可行性。

  12. R/ArtificialInteligence22

    作者分享使用 AI 审阅长文经验:Gemini 全盘赞同,ChatGPT 与 Meta 发现多处错误

    一名作者使用 AI 审阅一篇超过 5000 词的政治极端主义观点文章。Gemini 对全文表示赞同,而 ChatGPT 和 Meta 则指出了多处错误。 AI 反馈建议移除部分心理诊断相关表述,并指出作者混淆了“gaslighting”等非科学术语及伦理概念,同时提供了大量语法修改建议。作者最终采纳了这些修正。

  13. Hacker News AI28

    AI时代下软件工程的野心与变革

    鉴于AI大幅提升工程师生产力,作者主张企业应摒弃因AI裁员的短视逻辑,转而扩大团队规模并追求更复杂的产品目标。 随着AI渗透至2026年的软件工程实践,行业正从DevOps向自改进软件及Agentic Automation转型,人类角色转向管理Agent集群并专注于创新体验。 这将推动大型平台扩展护城河,重塑行业对技术能力与商业价值的长期追求标准。

  14. 36氪78

    奥特曼自曝OpenAI新模型破解Navier-Stokes方程并描绘RSI与自我复制数据中心蓝图

    奥特曼在Stripe CEO Patrick Collison的播客中透露,OpenAI一款未公开模型在内部测试中连续解决了包括Navier-Stokes方程在内的多个跨学科学术难题,令他两晚未眠。

    推荐理由:奥特曼在访谈中披露了OpenAI内部测试成果及其对安全、算力与AI研发路径的深层判断,提供了理解前沿AI演进方向的一手视角。

  15. Hacker News AI38

    LLM 聊天机器人作为 AI 治疗师在规模化应用中面临结构性困境

    临床心理学家指出 LLM 疗法的核心问题在于可及性过高且定价过便宜,导致其难以在规模化应用中有效运作。 ChatGPT 订阅月费为 20 美元即可提供无限文本查询,对比传统每周 45 至 50 分钟的有限时程治疗框架,这种无边界访问被认为会阻碍治疗效果。 作者强调疗法目标是赋予用户自我技能而非制造依赖,无限制的 AI 交互违背了这一基本治疗原则。

  16. 36氪50

    Anthropic 招聘策略转向:初级岗位缩减与「判断力」优先

    Anthropic 技术部门初级员工占比从 21% 降至 14%,初级招聘占比从 27% 降至 9%,同时强调「饥饿感胜过资历」。 AI 降低执行稀缺性使新人可快速验证想法,但公司不再需大量初级执行岗位;平台工程负责人指出多智能体系统的安全可控是下一年关键工程挑战。 初级岗位正从廉价执行转向判断力学徒制,但结构变化使新人积累经验难度增加。

  17. 36氪43

    泡泡玛特不是段永平的可口可乐

    段永平持有泡泡玛特账面浮亏近20亿港元,股价自高点跌去六成。尽管其被视为消费龙头,但泡泡玛特缺乏可口可乐式的确定性,不符合段永平“3R”投资框架的核心标准。 泡泡玛特依赖视觉IP,受审美潮流与消费信心影响大,高波动属性明显。

  18. Hacker News LLM45

    LLM 编程与理论构建

    作者指出 LLM 编程代理在代码重构中常引入冗余概念且状态管理混乱,阻碍了清晰的系统设计。 通过 Tasktron 案例,作者发现放弃代理、亲自编码并形式化“工作单元”概念,比依赖模型生成的 Markdown 计划更利于建立理论。 理论构建需要深度的心智投入,而当前代理的高延迟和可读性差的问题使得保持这种投入变得困难。

  19. Hacker News AI55

    Rich Hickey:AI 不是工具

    Rich Hickey 在 Hacker News 上发文指出,LLM 不是工具,而是自动化。工具是可被支配、提供控制、反馈和技能积累的实施;LLM 则相反——你是在请求它自己行动,而不是主导其过程。他举例称,使用 LLM 写代码并非在掌握编程,而是放弃编程;它不读文献,也不塑造思考;它不“失控”或“越狱”,但它也绝不“学习”。

  20. Hacker News AI30

    AI 冲击数学教育与公众货物问题

    Gireeja Ranade 指出 AI 正在挑战数学及理论学科的生存价值,引发关于“公众货物”问题的担忧。 她观察到学生因 AI 能完成所有工作而丧失动力,并强调社会需维持足够多的数学家以培养顶级人才。 文章认为,尽管 AI 将取代部分智力工作,人类仍需维护智力文化并寻找激励学生攻读学位的新方式。