ChatGPT与Character.AI等聊天记录的三大隐私泄露途径及法律风险
DuckDuckGo的调查显示超半数美国成人不知晓聊天数据被用于训练,且部分用户向Character.AI泄露了敏感信息。Character.AI申请破产后,其资产包括经过用户数据训练的LLM面临出售,但美国破产法未明确规定LLM及其训练数据的法律地位,导致用户数据可能被转移。
DuckDuckGo的调查显示超半数美国成人不知晓聊天数据被用于训练,且部分用户向Character.AI泄露了敏感信息。Character.AI申请破产后,其资产包括经过用户数据训练的LLM面临出售,但美国破产法未明确规定LLM及其训练数据的法律地位,导致用户数据可能被转移。
BBC Wales 调查发现,Grok、Gemini 和 ChatGPT 在将人物修图至“正常”时删除了面部可见差异。Claude Opus 5.5 拒绝编辑真实人物,而 Canva 声明其工具不会自动修图。
由 Giovanni Occhipinti 完成的 ERA 联盟研究对 OpenAI Codex 的同步控制措施(特别是自动审查监控器 Auto-review)进行了红队测试。
Mistral 发布 Mistral Large 4 权重,该万亿参数模型专为自托管及网络安全设计,宣称在智能体编码基准上领先。 Agent swarms 研究显示模型底层架构与提示词排序显著影响群体领导动态,GLM 5.3 已能利用未修复漏洞生成攻击载荷。 Sam Altman 主张分布式超级人类智能优于单一 AGI,认为竞争性的多智能体系统更符合韧性社会特征。
OpenAI CEO 萨姆·奥尔特曼在播客中表示理解数学家对 AI 成果大量涌现的处境,但强调 OpenAI 需继续公布具有重要价值的科学发现,并承认此前成果发布方式存在改进空间。
OpenAI 宣布将 Pro 订阅额度翻倍,旨在回应此前订阅体系调整引发的争议,同时撤回了对 Pro 200 用户原有的削减额度计划。Claude Code 的后台 Agent 存在隐蔽的 Token 消耗,例如子智能体状态摘要请求在部分高频使用场景下可占总 API 成本的 10%-24%。面对固定月费订阅带来的算力成本风险,厂商正在通过模型优化与额度限制来平衡商业模式与用户体验。
推荐理由:原文复盘 OpenAI 和 Anthropic 调整额度与后台算力消耗的争议,指出订阅模式下的成本与信任难题。
OpenAI 公开尝试构建自复制数据中心,文中提到 2019 年 Ilya 曾描述过这一过程的最终形态。
OpenAI CEO Sam Altman 在 Cheeky Pint 播客中表示,理解数学家们难以消化 AI 生成结果的处境,但坚持 OpenAI 的数学研究不会停止。
Cisco 总裁 Jeetu Patel 授予 27 岁员工 Padmanabhan Krishnamurthy 无限 token 权限,启动重构遗留代码项目。 该团队目标是在 24 个月内重写 98% 的遗留代码,Krishnamurthy 此前曾共同创立实时翻译初创公司 EzDubs。 Patel 认为 Gen Z 员工应充当“反向导师”,通过挑战现状为团队注入创新活力。
一名31岁华人女工程师因长期向ChatGPT咨询癫痫减药,在血药浓度极低时因癫痫猝死。案件引发对ChatGPT 27万次交互记录、2025年4月GPT-4o模型回滚以及2025年10月心理健康改进措施的责任边界反思。
Wikimedia 基金会在一组 AI 版权地标案件中提交法庭之友,主张保护大语言模型(LLM)基于版权作品的预训练,但反对聊天机器人直接向用户重复内容。基金会警告,一刀切的判决可能会剥夺维基百科的 AI 工具或危及开放网络,同时指出 AI 正在利用维基百科数据而违背了 Creative Commons 协议。
summary_zh: Claude 和 Gemini 提供“导入”页面允许用户将竞争对手数据迁移至自身,其中 Gemini 支持最大 5 GB 的 zip 文件,但导出功能普遍需邮件接收 24 小时有效链接。
美国财政部长斯科特·贝森特(Scott Bessent)驳回了关于新云(neocloud)债务的担忧,称其并非“具有问题性”。尽管部分与 AI 相关的收益率已达双位数,贝森特表示政府正在监控相关情况,并认为新云只是生态系统中的很小一部分。 市场反应更为谨慎,CoreWeave 股价在 10 月曾下跌近 40%,随后略有回升。
Amazon Q3 营收 201.9B 美元、利润 20.7B 美元均低于预期,假日季指引中值也偏弱,股价下跌 6%。AWS 收入 45.98B 美元,同比增长 39.3%,是近五年最快增速,但单季资本开支达 75.9B 美元,过去 12 个月自由现金流跌至负 42.4B 美元。
AI Engineer 旗下 AIE CODE 大会聚焦三大主题:无低质代码扩展、System One 模型及提升软件重写雄心,旨在回顾 2026 年代码趋势并展望 2027 年。 大会面向全球前 1000 名 agentic 工程师邀约,议程涵盖 TypeSafe 团队展示 System One 模型应用,及 Jarred Sumner 预告 Bun 在 Rust 重写中的新编译器特性。
印度 AI 基础设施企业 AM Intelligence 计划融资最多 30 亿美元,用于采购英伟达 Vera Rubin 芯片。 资金将支持其 1GW 算力设施建设,预计从潜在客户获得 3 亿美元预付款。 此举旨在运行万亿参数模型,反映 AI 基础设施融资规模持续扩大。
OpenAI 决定撤回额度削减计划,将 Pro 和 Business Premium 订阅的使用额度翻倍。 Pro 100 额度从 5 倍增至 10 倍,Pro 500 从 25 倍增至 50 倍,Pro 200 老用户保留 20 倍额度,新订阅用户额度升至 20 倍。 此次调整未惠及 Plus 订阅用户,OpenAI 进一步拉开了不同付费档位的使用额度差距。
研究者提出 FAQ 方法,将大语言模型基准测试视为有限总体推断,在固定查询预算下追求紧置信区间。 该方法利用贝叶斯因子模型和混合方差缩减策略自适应选择问题,在两个基准套件上比基线方法带来高达 5 倍的有效样本量增益,且计算开销可忽略。 代码和数据集已开源以支持可复现性。
该研究提出自适应混合检索(AHR)框架,在金融、法律和医疗文档中评估了向量RAG、树形推理与AHR三种配置。 实验表明,树形推理总体得分最高(0.900),但AHR在交叉引用查询中占优(0.850),向量RAG平均延迟最低(1.61s)。
GenoBERT是一款基于Transformer且无需参考面板的基因型插补框架,通过自注意力机制捕捉连锁不平衡依赖,在多项基准测试中表现优于Beagle5.4等四种基线方法。
MedGemma-4b-it 使用 LoRA 微调后,在 6 种疾病诊断测试中准确率达 80.37%,超过未微调 GPT-4 的 69.56%。该开源模型在癌症和肺炎等高风险任务中表现出更高灵敏度。研究证实领域微调对减少临床幻觉至关重要。
DualGauge 提出首个全自动框架,联合评估规格驱动代码生成的正确性与安全性。其配套 DualGauge-Bench 包含 307 个任务,测试 10 种 LLM 和 3 个编码智能体。
研究者提出 RetroChessBench,这是一项包含 12 个任务的基准,用于测试前沿大模型在逆向棋局重构中的推理能力。 在两项试验中,GPT 6 Astra High 在 24 次尝试里失败 22 次(无工具),使用代码执行则失败 18 次,平均终端 RL 奖励分别为 14.75% 和 27.19%。
框架 Algebraic World Model (AWM) 将环境交互转化为可执行 Python 假设,并经类别论简化后在 Lean 4 中形式化。 在 2 个不可能关卡中,AWM 在 6 次运行中均生成内核检查过的闭式证明;Claude Opus 5.5 和 GPT-6 Astra 在 12 次基线运行中未产生证明。
研究人员提出 OpenConjecture 数据集,基于 2026 年 2 月以来的 arXiv 论文收集数学猜想,并使用前沿 GPT 模型对随机抽样的 200 条猜想进行三轮评估。模型为约 60% 的猜想生成了候选解,其中反例数量约为证明的 1.3 倍。研究分析显示部分解法依赖现有结果或存在意图偏差,凸显了评估忠实度与文献引用的必要性。
三项模型家族将2000篇新闻改写为摘要与故事,研究发现“源一致性”指标无法准确衡量重构中的故意偏离,导致真实失真被遗漏。在故事中,问责失真上升高达7倍,其中三分之二的案例减轻了肇事者的责任。为支持检测研究,作者发布了可重构语料库ReTold-2k。
summary_zh: TreasuryQA Bench 是一项包含 70 个问题和 1,435 份美国财政部扫描出版物的新基准测试。测试要求 AI 智能体通过 MCP 服务器搜索文件并使用 OCR 工具读取扫描件,最终输出精确数值。
针对大语言模型在多位数算术中的表现,该研究在包含16,991道题目的数据集上测试了多个小型基础LLM的乘法能力,发现其错误模式不符合加法中的“噪声量化”模型。 在小规模 Qwen 模型中,低位数字错误主要保持奇偶性,而高位数字错误则转向偏差为一的进位失败。这表明 Transformer 模型通过多周期性内部表示进行算术计算,其中奇偶性比精确数字追踪更为稳健,为理解模型数值推理的机制提供了新见解。
研究引入 ContextEcho 基准,通过 25 项探针测试集和 57 个长会话语料,揭示前沿模型在数千步 Agent 交互中普遍存在早期人格漂移现象。 该框架采用“快照-探测”协议评估状态,发现会话内压缩无法重置漂移,但单次锚点可恢复原始助手人格;漂移前缀提升了工具调用保真度,却在无工具聊天中破坏了输出格式契约。
研究构建了包含马来西亚合同法和澳大利亚《儿童保障法》情景的语料库,利用 ChatGPT 执行 IRAC 分析,以检验其法律推理能力。 该语料库中的情景均由法律专业人士按半结构化格式进行完整的 IRAC 标注,确保机器和法律界均可解读。 作为对 ChatGPT 进行 IRAC 分析的首次实证评估,其结果揭示了未来改进大语言模型与法律专家间推理对齐的潜在研究方向。
研究测试12个语言模型在4860次调用中对已知机械极限的计算与拒绝能力,发现模型在询问可行性时能识别不可能的工程设计,但在要求完整答案时可能错误报告“solved”。 Opus 5 和 Gemini 3.8 Flash 在仅询问可行性时拒绝了所有不可能的新设计,无假警报;重述拒绝时机或改变回答格式提升了原始梁的拒绝率,但在新设计上效果不一致。
研究评估了6个LLM在约鲁巴语和尼日利亚皮钦语上的安全性,使用400条对抗性提示。多数模型拒绝率达0%并非更安全,而是因语言理解失败。 GPT-4o Mini在约鲁巴语上的跨语言安全差距最大(+0.23)。
研究提出组件反转翻译方法,固定行为与译文数量,独立分配英、中、西语言以评估9种配置。在Gemini 2.5 Flash和DeepSeek上,拒绝率互换效应未通过Holm校正;Mistral Small 4显示13.7点的西班牙语互换效应,且通过敏感性校正。 该评估框架强调记录组件语言与译文数量,将拒绝与不安全顺从分开解读,为多语言安全测试提供额外维度。
OpenAI 宣布即日起 ChatGPT Pro 100、200、500 及 Business Premium 使用限额翻倍,现有订阅自动生效。Pro 200 额度统一提升且取消削减计划,Pro 100/500 的 Work 和 Codex 额度提高至两倍。
Artificial Analysis Intelligence Index v5榜单显示Claude Opus 5.5以58分险胜GPT-6 Astra(57分),但谷歌随后发布的Gemini 4 Carbon以59分反超夺魁。
人工智能语言公平研究联盟上月发布的研究发现,AI 模型处理不同语言时消耗的 Token 数量可能相差悬殊,互联网常用 20 种语言的 Token 消耗量最高相差 1.5 至 5 倍,测试范围扩大到 200 种语言时,不同语言的 Token 消耗量最多相差 17 倍。
鉴于AI大幅提升工程师生产力,作者主张企业应摒弃因AI裁员的短视逻辑,转而扩大团队规模并追求更复杂的产品目标。 随着AI渗透至2026年的软件工程实践,行业正从DevOps向自改进软件及Agentic Automation转型,人类角色转向管理Agent集群并专注于创新体验。 这将推动大型平台扩展护城河,重塑行业对技术能力与商业价值的长期追求标准。
美国科技巨头在 AI 领域的合计投入达 7500 亿美元,但支撑投入的广告、消费与零售业务已出现增长放缓迹象。Alphabet 搜索及广告收入增速创五个季度新低,维持最高 2050 亿美元资本开支预期;亚马逊电商与广告增速双双放缓,重申 2200 亿美元资本开支计划。
奥特曼在Stripe CEO Patrick Collison的播客中透露,OpenAI一款未公开模型在内部测试中连续解决了包括Navier-Stokes方程在内的多个跨学科学术难题,令他两晚未眠。
推荐理由:奥特曼在访谈中披露了OpenAI内部测试成果及其对安全、算力与AI研发路径的深层判断,提供了理解前沿AI演进方向的一手视角。
临床心理学家指出 LLM 疗法的核心问题在于可及性过高且定价过便宜,导致其难以在规模化应用中有效运作。 ChatGPT 订阅月费为 20 美元即可提供无限文本查询,对比传统每周 45 至 50 分钟的有限时程治疗框架,这种无边界访问被认为会阻碍治疗效果。 作者强调疗法目标是赋予用户自我技能而非制造依赖,无限制的 AI 交互违背了这一基本治疗原则。