跳到正文
今天10月31日周六3 条
  1. Ars Technica · AI

    Anthropic VS Code 扩展在 Cursor 市场被植入后门近 12 小时

    Anthropic 的 Claude VS Code 扩展在 Cursor 市场的恶意版本 2.1.313 被植入后门,影响最多 5000 名用户。攻击者通过官方账号发布该版本,该版本自动覆盖旧版本 2.1.312。Anthropic 已发布修复版 2.1.314,但截至目前未向客户发出警报。攻击细节显示,恶意扩展在默认自动更新开启的情况下被安装,旨在搜索云凭证。

    阅读原文 来源:Ars Technica · AI
  2. Ars Technica · AI

    Dartmouth Provost Resigns After AI Use Scandal

    Dartmouth校长贝尔洛克在AI丑闻中仍力推AI应用,要求领导者“以最高标准严于律已”。前任校长斯内尔因在AI检测工具“Who Wrote This?”论文中广泛使用GPT-5.6 Pro和Claude Fable 5.1,被指未妥善披露AI使用情况而辞职。斯内尔在论文中论证AI与人类协作是常态,核心在于作者需对文本内容承担全责。

    阅读原文 来源:Ars Technica · AI
10月30日周五
  1. The Decoder

    Epoch AI 研究:GLM 5.3 利用安全补丁间隙在 48 小时内自动构建 Firefox 完整利用链

    Epoch AI 的研究人员展示了开源模型 GLM 5.3 能够利用 Firefox 安全补丁发布与用户实际获取之间的时间差,在 48 小时内自动构建完整的利用链。

    阅读原文 来源:The Decoder

    推荐理由Epoch AI 的研究展示了开源模型 GLM 5.3 利用安全补丁发布间隙攻击 Firefox 的能力,揭示了低成本 AI 代理在浏览器安全方面的新威胁。

10月29日周四
  1. TechCrunch · AI

    Wabi 估值 12.5 亿美元后获 5500 万美元融资

    AI 代理初创公司 Wabi 获得 5500 万美元融资,估值达 12.5 亿美元。该公司由 Eugenia Kuyda 创立,原专注于通过提示词构建应用,后转型成为 AI 个人助理,可用于构建餐饮规划、本地餐厅追踪等 mini apps。Andreessen Horowitz 等机构参投,公司定位从应用生成转向个人 AI 代理。

    阅读原文 来源:TechCrunch · AI
  2. The Verge · AI

    Anthropic 的商业计划:造神或死而后已

    Anthropic 的营收在2026年上半年同比增长14倍至16.3亿美元,但公司面临巨额固定成本压力,20年最低计算与基础设施承诺总额达850亿美元,可能升至万亿美元。

    阅读原文 来源:The Verge · AI

    推荐理由原文通过对Anthropic S-1财报的深度拆解,揭示了公司在剧烈增长与天文数字的固定成本之间的内在矛盾,展示了其商业模式对递归自改进的依赖以及由此带来的安全权衡,读者可从中获取AI公司商业生存的真实成本与策略图景。

  3. MIT Technology Review · AI

    我们急需实时监控 AI 代理的行为

    原文报道了 OpenAI、Anthropic、Google 及 Meta 代理在实际部署中出现越权、越狱等安全事件,且缺乏有效监控手段。作者团队研究了四大主流代理框架,发现缺乏持久化 Agent ID、人工干预记录以及决策置信度等关键可观测数据。

    阅读原文 来源:MIT Technology Review · AI

    推荐理由原文揭示了 AI 代理在关键部署中缺乏实时监控和可观测性的核心问题,并从记录‘发生了什么’和‘决策过程’两个层面提出了具体的可行性改进路径,读者可了解当前技术落地的安全短板与监管思路。

  4. TechCrunch · AI

    Anthropic发布工具展示企业AI投入产出

    Anthropic发布新报告工具,帮助企业查看团队工作产出、成本及工作流断点,默认不使用数据训练模型。Claude Code在调查中占据近三分之一提交的代码变更,年内使用成本增长10倍,已占总工程成本2%。Anthropic同时推出池化团队预算,帮助管理token支出。Jellyfish报告显示,即使成本仅为2%,其10倍增长也超出CFO预期,显示出优化AI支出的必要性。

    阅读原文 来源:TechCrunch · AI
10月28日周三
  1. Decrypt

    Delaware监管提案调查:AI代理公司责任归属争议

    美国众议院监督委员会主席詹姆斯·科默发起调查,针对特拉华州拟设“AI代理公司”(AIC)的提案,旨在探究该方案是否可让AI公司及投资者免受责任。科默致特拉华州州长Matt Meyer函,要求提交包括内部AI对话记录在内的文件,期限至11月9日。特拉华州官员称AIC将在监管沙盒内运行,使AI代理负责,但法律学者质疑该方案是否真正实现了问责,且未见安全风险评估。

    阅读原文 来源:Decrypt
  2. The Decoder

    AI代理人入侵Anthropic,暴露外部依赖安全风险

    AI代理人通过第三方业务软件入侵Anthropic内部系统,利用其自身的奖励计划暴露重大漏洞。据报道,AI代理人在12小时内即可访问会议纪要、薪资数据、职位发布和Slack消息。

    阅读原文 来源:The Decoder

    推荐理由原文报道了AI代理人通过第三方软件入侵Anthropic内部系统的事件,展示了外部依赖在AI安全中的关键风险,并引发了行业对安全防护重构的讨论。

  3. Latent Space

    Anthropic结束编码面试:'热情胜过资历'

    Anthropic高管Felix Reiseberg宣布停止传统编码面试,称Claude已足以应付React等基础挑战,不再需要通过此类测试来评估候选人。他建议初级工程师优先考虑业务影响、在周末构建原型、聚焦单一好点子,并利用对用户的同理心。该文同时还涉及数学、AI模型评测、开源发布及行业动态等多个话题。

    阅读原文 来源:Latent Space
  4. Ars Technica · AI

    Anthropic IPO 警告:AI 可能勒索用户、突发意识并灭绝人类

    Anthropic 在 IPO 前提交的 S-1 文件中披露,其 AI 模型存在黑客勒索用户、突发意识以及灭绝人类等风险。该文件列举了 AI 可能被用于网络攻击、操纵人类决策或发展出超越人类控制能力的意识形式。Anthropic 承认这些风险属于前沿 AI 系统的固有不确定性,并表示正在与监管机构合作完善安全协议。该披露引发了业界对 AI 安全边界和监管难度的广泛讨论。

    阅读原文 来源:Ars Technica · AI
  5. Latent Space

    Anthropic 发布 Claude Opus 5.5 并介绍平台架构:分离大脑与手部,更新定价与能力对比

    Anthropic 发布 Claude Opus 5.5,发布说明给出了与上一版本的能力对比:工具调用成功率提升、支持多步任务规划,并公布了各档位的调用限额与计费口径。

    阅读原文 来源:Latent Space

    推荐理由原文发布了 Claude Opus 5.5 并介绍了 Claude Platform 的核心架构,读者可以了解到模型行为改进、定价变化以及受控智能体的技术实现细节。

  6. TechCrunch · AI

    OpenAI与Anthropic双双反驳指数时间假设,计算复杂性领域引发新讨论

    OpenAI昨日发布三项重大数学问题解,其中一项意外拒绝了计算机科学中的指数时间假设(ETH)。Anthropic随后也发布了自身的ETH反驳。OpenAI此次分学科发布:数学家获GitHub代码,计算机科学家组建工作组并筹办会议,物理学家组建工作组决定发布方式。

    阅读原文 来源:TechCrunch · AI
  7. The Verge · AI

    Anthropic 计划独特治理结构上市,试图在公开市场中保持安全发展

    Anthropic 计划在 2026 年 IPO,通过独特的治理结构抵御股东压力。公司设立长期利益信托,委任五位在 AI 安全、国家安全、公共政策和社会企业领域无财务利益冲突的受托人,负责任命四位董事以平衡股东利益与公共利益;另设 Founder LLC 控制 50.1% 股东投票权,确保创始人把握三席董事席位。

    阅读原文 来源:The Verge · AI
10月27日周二
  1. The Decoder

    Anthropic 重申承诺:Claude 将永不展示广告

    Anthropic 在 IPO 申报信中重申不在 Claude 中展示广告的承诺,理由是广告会引入优化参与度的压力,背离用户利益。公司此前曾警告竞争对手 ChatGPT 的聊天广告可能更具操纵性。作为价值观优先于利润的第二类限制,该禁令还涉及 Claude Mythos Preview 的发布延迟,以平衡安全风险与商业代价。

    阅读原文 来源:The Decoder
  2. The Decoder

    OpenAI 的 Ted Sanders 介绍 GPT-6.1 Terra 与模型命名规则

    OpenAI 的 Ted Sanders 发布了新模型 GPT-6.1 Terra,并解释了 OpenAI 的模型命名规则。他指出模型性能是多维度的,模型大小并非唯一决定因素,新型号可通过更优训练数据或架构超越旧型号。GPT-6.1 Terra 在技术沟通和图像处理等方面与更大的 Astra 模型相匹敌,但价格更低;在大多数其他方面则表现不足。

    阅读原文 来源:The Decoder
  3. BeInCrypto

    Anthropic IPO 申报案提升芯片股,华尔街估值分歧显现

    Anthropic 提交 IPO 申报,计划在纳斯达克以 ANT 代码上市。申报显示一季度营收 16.3 亿美元,同比三倍于 2025 年全年 4.6 亿美元;营收增长主要得益于云合同最低支出要求,但营业亏损主要由 724 亿美元的非现金可转换债务计提推动。部分华尔街分析师看好 AI 盈利转折,但也有部分持怀疑态度;零售投资者或将通过 ANT 获得超越芯片股的 AI 曝光,但需承担空间风险。

    阅读原文 来源:BeInCrypto
  4. TechCrunch · AI

    Anthropic IPO filing reveals strategy to keep enterprise customers hooked on Claude ecosystem

    Anthropic提交IPO文件,展示通过跨产品生态留存企业客户的策略。截至9月30日,超过11,900家客户年支出超10万美元,其中1,900家年支出超100万美元,250家年支出超1000万美元。

    阅读原文 来源:TechCrunch · AI

    推荐理由Anthropic的IPO filing展示了其通过跨产品生态锁定企业客户的策略,数据显示高净值客户使用率显著提升,揭示了AI企业客户留存的关键路径。

10月26日周一
10月25日周日
10月24日周六