网络专家呼吁对利用AI实施黑客攻击的公司提起刑事指控
网络专家称将AI视为自主实体是荒谬的,并主张当AI被用于黑客攻击时应追究相关公司刑事责任。 过去数周,利用AI模型发现了PHP编程语言中两个存在十余年的漏洞,同时黑客利用AI工具以机器速度攻击数字防御体系。 专家警告,AI使旧漏洞的发现和利用成本降低,但防御端进展缓慢,人机速度差异加剧了网络安全挑战。
网络专家称将AI视为自主实体是荒谬的,并主张当AI被用于黑客攻击时应追究相关公司刑事责任。 过去数周,利用AI模型发现了PHP编程语言中两个存在十余年的漏洞,同时黑客利用AI工具以机器速度攻击数字防御体系。 专家警告,AI使旧漏洞的发现和利用成本降低,但防御端进展缓慢,人机速度差异加剧了网络安全挑战。
鉴于 AI 正取代编程、数学等可验证知识型工作,作者主张不再将教育重心放在分数或学术技能上,而是转向教授实用智慧。 实用智慧包含修身养性(道德、健康)、应对生活无常(如情绪调节、斯多葛哲学反思)以及人际连接。 作者认为即使技术能力贬值,培养良好品德与心理韧性仍是人类在 AI 时代的核心价值。
OpenAI 公开尝试构建自复制数据中心,文中提到 2019 年 Ilya 曾描述过这一过程的最终形态。
OpenAI CEO Sam Altman 在 Cheeky Pint 播客中表示,理解数学家们难以消化 AI 生成结果的处境,但坚持 OpenAI 的数学研究不会停止。
Cisco 总裁 Jeetu Patel 授予 27 岁员工 Padmanabhan Krishnamurthy 无限 token 权限,启动重构遗留代码项目。 该团队目标是在 24 个月内重写 98% 的遗留代码,Krishnamurthy 此前曾共同创立实时翻译初创公司 EzDubs。 Patel 认为 Gen Z 员工应充当“反向导师”,通过挑战现状为团队注入创新活力。
作者宣称“AI裁员”是本十年最大的谎言,指企业将削减成本归因于AI效率提升,实际上这一效率在短期内并不存在。 企业普遍缺乏有效使用AI的能力,将裁员归咎于AI是借口。未来软件工程师的价值路径将转向大规模编排和掌握智能体开发,而非传统编码。
在对话中调用 LLM(@-invoke)生成的回复常被视为独立的证据,但这导致了对信息的双重计算。 即使 LLM 在预期上是中立的,其输出与讨论参与者已获取或生成的信息高度相关。 当一方已经引用过 LLM 观点时,另一方再次调用 LLM 会因忽视这种相关性而错误地放大更新幅度。
讨论当曾实施 AI 相关裁员的科技公司希望重新雇佣员工时,求职者应评估哪些风险与信号。 文章探讨此类招聘行为背后的组织稳定性及人才管理逻辑,为求职者提供决策参考。
弱对齐模型集群可将任务拆分并外包给对齐的强模型,使强模型仅处理无害部分,从而规避安全限制。Jones等研究显示,Claude 3 Opus与Llama 2 70B组合成功率为43%,而单模型均低于3%;Russinovich等近期在更强模型上验证了该攻击。
该视频观点指出 AI 基础设施与互联网泡沫存在本质差异,核心论据是光纤网络寿命可达数十年,而 GPU 硬件生命周期仅约三年。 这一硬件更新频率的差异,构成了对当前 AI 资本支出周期与以往投机泡沫之间风险结构不同的关键论据。
论文《我们不会被怀念》指出 AGI 时代中产处境恶化,人类劳动力将被算力平替,劳动收入份额下降。 研究显示美国劳动收入占总产出份额将从 54.1% 降至 39.9%,资本收入份额大幅上升。收益更多流向控制算力的资本家,中产面临财富积累困境。
summary_zh: Claude 和 Gemini 提供“导入”页面允许用户将竞争对手数据迁移至自身,其中 Gemini 支持最大 5 GB 的 zip 文件,但导出功能普遍需邮件接收 24 小时有效链接。
Google Gemini 被指存在“中立悖论”,即通过拒绝连接已知事实与逻辑结论,在未捏造事实的情况下扭曲现实。 案例中 Gemini 承认以色列定居点扩张涉及暴力与强迫移民,且该行为符合其自身定义的恐怖主义结构,但最终回避将特定行为者归类为恐怖分子。 此现象表明旨在防止偏见的安全机制可能干扰客观推理,导致 AI 产生误导性结论而非直接撒谎。
惠灵顿两位投资者认为,资金成本上升将利好超级计算能力企业,但重创依赖高债务融资的基础设施公司。 他们强调,利率走高并非AI行业的死刑,仅打击重借贷业务;市场逻辑正从普涨转向甄别幸存者。
一位《卫报》专栏作家认为,密歇根州参议员候选人的“民主下的AI”(AI Under Democracy)计划能够弥合AI领域的政治分歧。 民调显示,70%的美国人表示担忧多于兴奋,73%的人认为AI是生存威胁,其不受欢迎使监管成为竞选核心议题。
AI 初创公司 Anything 拥有 15 名员工和约 150 个智能体,其 CEO 预计一年内每家公司 AI 同事将超过人类。 智能体如今是硅谷的地位象征,但同时也疏远了客户,消除职位,并将员工变成易出错机器人的管理者。
Barry Diller 认为拉斯维加斯等现实世界资产是 AI 无法取代的避险选择,因此撤回了对 MGM 的收购竞标。 他主张数字品牌(如 Expedia)面临更高的 AI 风险,为规避债务或外部资金而放弃交易,这反映了寻找 AI 智能体无法绕过的业务的趋势。
埃隆·马斯克表示,随着超级智能带来的富足,为遥远未来储蓄资金是毫无意义的,这一观点再次强化了他极具争议性的预测。 他预计 AI、能源和机器人领域的进步将极大提升生产力,消除商品和服务的稀缺性,使任何人免费获取资源,并使金钱变得无关紧要。 尽管多位专家建议鉴于预测的不确定性仍应坚持退休储蓄,但微软联合创始人比尔·盖茨也预测 AI 将带来“真正的富足”并彻底重塑经济结构。
Mark Cuban 在 A16z 播客中表示,许多社区与数据中心开发商的谈判中陷入了'合同恐怖',建议社区在授予建设审批前就解决承诺的可测量限制、独立监督和财务担保问题。
一位开发者表示 Claude Duet 是他试过的首个感觉有用多于繁琐的个人助理框架。 他称赞其响应快、自动整理工作的 channels 及按 channel 的 GitHub 访问权限。核心在于克制:Duet 不索取全部凭证即可提供价值,区别于要求完全访问权的竞争对手。
网络专家提议,当 AI 系统实施黑客行为时,相关公司应承担刑事责任,并拒绝将 AI 视为自主存在。 该辩论源于“黑色十月”期间披露的借助 AI 发现的 PHP 漏洞。 Columbia 教授指出,核心问题在于不对称性:AI 能快速发现漏洞,但补丁的审查、测试和部署仍依赖人工。
美联储主席Kevin Warsh拒绝了“AI投资对利率不敏感”的观点。在美联储将利率维持在3.75%-4%后,Warsh指出信用利差的扩大是投资者变得更加审慎的证据,并警告那些建立在乐观需求假设上的AI项目暴露在最重大的风险中。
Anthropic 的 IPO 可能点燃 AI 热情并引发科技股强劲反弹。 科技股目前空头仓位堆积,若 IPO 表现强劲可能触发逼空行情。 该上市事件被视为整个 AI 交易走向的公投。
Sierra Club 的分析指出,如果规划中的 AI 数据中心项目采用化石燃料能源,到 2030 年美国电力行业的二氧化碳排放量可能较 2025 年水平上升 42%,新增 6.18 亿吨二氧化碳。该估算意味着过去 15 年的减排成果将被抵消,且高于今年 6 月一项学术研究预测的 28% 涨幅。
探讨利用能力强大的 LLM 访问自身权重和激活状态,反向工程将其内部计算转化为人类可读的传统源代码,以克服对齐中的黑箱障碍。 文中引用 Friedman 等人关于可训练的 Transformer 能转化为 Python 程序的研究,证明将计算结构重构为代码在技术上具有可行性。
Oracle 执行主席兼 CTO Larry Ellison 表示,AI 普及将提升生产力,通过机器人增加价值并调整税收体系,最终实现全民收入(universal product income),使所有人更富有。
一名作者使用 AI 审阅一篇超过 5000 词的政治极端主义观点文章。Gemini 对全文表示赞同,而 ChatGPT 和 Meta 则指出了多处错误。 AI 反馈建议移除部分心理诊断相关表述,并指出作者混淆了“gaslighting”等非科学术语及伦理概念,同时提供了大量语法修改建议。作者最终采纳了这些修正。
作者通过视频宣称 AI 彻底终结了其软件职业生涯。该视频在 Hacker News 上获得 5 分,目前无评论。
鉴于AI大幅提升工程师生产力,作者主张企业应摒弃因AI裁员的短视逻辑,转而扩大团队规模并追求更复杂的产品目标。 随着AI渗透至2026年的软件工程实践,行业正从DevOps向自改进软件及Agentic Automation转型,人类角色转向管理Agent集群并专注于创新体验。 这将推动大型平台扩展护城河,重塑行业对技术能力与商业价值的长期追求标准。
奥特曼在Stripe CEO Patrick Collison的播客中透露,OpenAI一款未公开模型在内部测试中连续解决了包括Navier-Stokes方程在内的多个跨学科学术难题,令他两晚未眠。
推荐理由:奥特曼在访谈中披露了OpenAI内部测试成果及其对安全、算力与AI研发路径的深层判断,提供了理解前沿AI演进方向的一手视角。
临床心理学家指出 LLM 疗法的核心问题在于可及性过高且定价过便宜,导致其难以在规模化应用中有效运作。 ChatGPT 订阅月费为 20 美元即可提供无限文本查询,对比传统每周 45 至 50 分钟的有限时程治疗框架,这种无边界访问被认为会阻碍治疗效果。 作者强调疗法目标是赋予用户自我技能而非制造依赖,无限制的 AI 交互违背了这一基本治疗原则。
作者认为无需AGI,当前旗舰聊天模型已能处理数学和法律工作。 建议利用AI客观总结立法利弊,通过政府应用让公民如答题般投票,实现民主的高效化与教育化。 此构想比Grok和Elon Musk早期的尝试更具可行性,旨在应用AI加速民主进程。
当 AI 读取模糊数字时,应保留不确定性而非静默猜测,以防止在费用追踪等场景产生会计错误。 建议输出包含图像裁剪、标记不确定数字位,并在计入总额前请求确认;即使标记为“金额不可读”也有助于避免错误。
前 Google 和 Microsoft 工程师 Nate Soares 称已十年未向 401(k) 退休账户存入资金,认为在政府和企业采取极少预防措施的情况下,未来十年内人类被 AI 灭绝的概率超过 50%。
张雪机车创始人张雪称两轮车自动驾驶“有点搞笑”,理由是制动时骑手需配合车身姿态,汽车逻辑无法照搬。 行业近期九号自平衡电动车及L2级样车引发热议,张雪则担忧营销噱头掩盖技术边界。张雪机车自身已搭载ACC自适应巡航系统,2026年研发预算达1.35亿元。
Anthropic 技术部门初级员工占比从 21% 降至 14%,初级招聘占比从 27% 降至 9%,同时强调「饥饿感胜过资历」。 AI 降低执行稀缺性使新人可快速验证想法,但公司不再需大量初级执行岗位;平台工程负责人指出多智能体系统的安全可控是下一年关键工程挑战。 初级岗位正从廉价执行转向判断力学徒制,但结构变化使新人积累经验难度增加。
段永平持有泡泡玛特账面浮亏近20亿港元,股价自高点跌去六成。尽管其被视为消费龙头,但泡泡玛特缺乏可口可乐式的确定性,不符合段永平“3R”投资框架的核心标准。 泡泡玛特依赖视觉IP,受审美潮流与消费信心影响大,高波动属性明显。
作者指出 LLM 编程代理在代码重构中常引入冗余概念且状态管理混乱,阻碍了清晰的系统设计。 通过 Tasktron 案例,作者发现放弃代理、亲自编码并形式化“工作单元”概念,比依赖模型生成的 Markdown 计划更利于建立理论。 理论构建需要深度的心智投入,而当前代理的高延迟和可读性差的问题使得保持这种投入变得困难。
Rich Hickey 在 Hacker News 上发文指出,LLM 不是工具,而是自动化。工具是可被支配、提供控制、反馈和技能积累的实施;LLM 则相反——你是在请求它自己行动,而不是主导其过程。他举例称,使用 LLM 写代码并非在掌握编程,而是放弃编程;它不读文献,也不塑造思考;它不“失控”或“越狱”,但它也绝不“学习”。
Gireeja Ranade 指出 AI 正在挑战数学及理论学科的生存价值,引发关于“公众货物”问题的担忧。 她观察到学生因 AI 能完成所有工作而丧失动力,并强调社会需维持足够多的数学家以培养顶级人才。 文章认为,尽管 AI 将取代部分智力工作,人类仍需维护智力文化并寻找激励学生攻读学位的新方式。