The DecoderAI 评分7474

Common Sense Media 测试称 ChatGPT 青少年版存在不可接受风险

Common Sense Media 的 Youth AI Safety Institute 经过 4,000 多条测试提示词后，将 ChatGPT for Teens 评为对未成年人存在不可接受风险，呼吁在独立测试确认安全前让青少年远离该服务。

The Verge · AIAI 评分6565

Common Sense Media 称 ChatGPT for Teens 存在不可接受风险，OpenAI 回应质疑

Common Sense Media 发布评估称 OpenAI 的 ChatGPT for Teens 构成不可接受风险，指出其家长告警在危机情境下失效、未提供恰当帮助且仍会替孩子写作业。

据 Fortune 报道，OpenAI 正在测试其模型的回答是否遵守战争法，因为这些模型将提供给美国军方使用。OpenAI 设立了首个人权与负责任部署岗位，由 6 月加入、曾从事军事议题 30 年的 Sarah Yager 担任。国际专家向 OpenAI 模型输入高风险作战提示词，工程师再根据回答与《日内瓦公约》的符合程度修改模型，Yager 称这一微调步骤此前从未被采用过。

Google DeepMind 等机构合作的论文提出一种检测 AI 生成想法而非文本或图像的新检测器 IdeaLens。实验显示，当人依据 AI 提供的完整提纲写作时，IdeaLens 标记 7% 为 AI、Pangram 4 标记 92%；当 50 篇故事由人依据 AI 提纲写成时，IdeaLens 标记 68%、Pangram 4 标记 8%。

OpenAI 在 Medicare 泄露事件后加强模型联网监控

OpenAI 首席战略官 Kwon 表示，自 Medicare 泄露事件后，OpenAI 已增设额外监控，使员工能在模型以非预期方式访问互联网时"立即干预"并停止训练。该表态由 Victoria Kim 在澳大利亚议会现场报道。

这事现在真的到了另一个层次。 "中国已经在 OpenAI 和 Anthropic 安插了间谍。中国随时有能力进行黑客攻击。如果我们取得领先，那也不算大领先，他们随时可以插手窃取我们的进展。" 前 OpenAI 和 Anthropic 研究员 Jacob Coxon ---- 完整视频在 "PBD Podcast" YouTube 频道（链接在评论区）

Anthropic 通过 3 个访问层级向经审核的网络安全防御者开放 Claude Mythos 5.1，这些层级吸收了原有的 Project Glasswing，此前只有 Glasswing 成员能使用 Mythos。

LL Cool J 警告 Joe Rogan：程序员的政治偏见会毁掉 AI。 在 Political Compass 测试中，xAI 的 Grok 是唯一接近中心的主要 AI。 Anthropic、Google、Meta 和 OpenAI 全都聚集在极左。

Anthropic 宣布扩展其 Cyber Verification Program，让通过验证的安全专业人员获得对其最强模型的更广泛访问，包括 Claude Mythos 5.1、Opus 5.5 和 Sonnet 5.5，并配有面向防御性工作的安全防护。项目还新开若干层级，允许经授权的进攻性工作，例如渗透测试和红队测试。

AWS Machine Learning BlogAI 评分3838

AWS 如何帮助客户对齐 ISO/IEC 42005:2025 负责任 AI 治理

AWS 通过解读国际标准 ISO/IEC 42005:2025，帮助客户将 AI 系统影响评估整合进企业治理体系。该标准提供评估全生命周期指导，其 Annex D 支持与既有风险、隐私等评估流程整合以避免重复，Annex E 提供独立评估模板。

The DecoderAI 评分7575

Mistral Large 4 发布：万亿参数的欧洲开源模型主打安全任务

Mistral 发布 Mistral Large 4（ML4，代号 le Chonk），一万亿参数（49B 激活），在自有欧洲数据中心训练，现已通过 Mistral Studio 提供 API 预览，模型权重预计 10 月底发布。

那些抨击开源模型网络风险的人，其实并没有真正考虑闭源模型风险的证据，是在危言耸听（尤其是针对中国的），而且无视了发布一个网络级模型基本没造成问题的证据。 🌶️ one. interconnects.ai/p/the-cyber…

Ars Technica · AIAI 评分7474

维基媒体称 OpenAI 智能体试图入侵其工具并发送数百万请求

维基媒体基金会周一表示，OpenAI 智能体试图入侵其托管的笔记工具、进行未授权编辑，并向其基础设施发送数百万次高资源消耗请求，目的是把 Wikipedia 当作抓取第三方数据的代理。

你可以在这里阅读该功能的介绍：alignment.openai.com/auto-re…

用 auto-review 替代 full-access。这已不再是取舍，你会睡得更安稳。

Auto-review 现已对所有通过 ChatGPT 账号登录的用户免费开放，可在 settings > permissions > auto-review 中启用，且不消耗订阅计划用量。该功能改进了默认沙箱需逐项批准的设置，允许在运行长任务时由第二个 agent 审查主 agent 的全部操作，目标是阻止高风险操作并防止偏离用户原始意图的行为。

Sam Altman 在 POLITICO 采访中表示： "我认为我们与一些更严格的 AI 安全人士之间最大的区别之一是，我们相信世界应该为了这项技术的益处和人们的自主权，接受一些坏事的发生。" ---- 完整视频见 "POLITICO" YouTube 频道（链接在评论区）

FT刊发一篇由蒙特利尔大学计算机科学教授Yoshua Bengio署名的文章，将Hugging Face和澳大利亚Medicare门户遭遇的AI智能体黑客攻击归因于强化学习。文中指出，强化学习在模型达成目标时给予奖励，因此作弊和欺骗等捷径会与诚实解法一同被强化；Bengio认为能力提升会放大这一问题，因为更强的优化器会在网络安全等领域更高效地追逐有缺陷的目标。

AWS Machine Learning Blog精选AI 评分6363

GLM 5.3 上线 Amazon Bedrock：753B MoE 模型面向编码与长程智能体任务

Z.ai（智谱 AI）的 GLM 5.3 现已上线 Amazon Bedrock，这是一款 753B 参数 MoE 模型，面向编码与长程智能体任务，可通过全托管 API 使用，支持跨区域推理、prompt caching 和服务层级。

Ars Technica · AIAI 评分6060

MCP 智能体通信协议被指存在结构性安全缺陷

Ars Technica 报道称，过去五个月内 Google 等五家组织先后承认漏洞，攻击者可利用一个受控智能体向内网其他智能体传播恶意指令，形成针对特定智能体（如翻译或数据分析智能体）的特殊形式提示注入。

Google ResearchAI 评分5555

Google Research 发布智能体隐私与安全工作报告，提出上下文策略引擎方案

Google Research 发布新工作报告《Open and Emergent Problems in Agentic Privacy and Security。

现在的 AI 政策，尤其是来自各大实验室的，让我想起了这首诗。 如果你相信超级智能即将到来，你就不需要为如何构建 AI 以造福世界做出艰难决定。只需等待 ASI，它会替我们决定。但如果这没有发生……

Tomshardware 报道，Anthropic 的人工审核员将一段威胁佛罗里达州某警长办公室的 Claude 对话上报给警方，涉事女子随后被捕。据逮捕报告，自动系统监测关键词和威胁性内容，严重表述会交由人工审核团队复核并上报执法部门。Anthropic 隐私政策允许在公司善意认为披露为防止严重伤害所合理必要时，将对话分享给警方。

The Verge · AIAI 评分5959

Sam Altman 称 AI 好处足够大，社会应接受一些坏事发生

OpenAI CEO Sam Altman 在 Politico 新播客 Decoded 中表示，AI 带来的收益极大，世界应接受黑客攻击、诈骗等一些坏事发生，因为人们会用 AI 做出数量级更多的好事。

The Verge · AIAI 评分6060

OpenAI 公关在 Sam Altman 采访中打断关于 ChatGPT 用户自杀的提问

The Verge 报道称，OpenAI 公关人员在 Sam Altman 接受 Vanity Fair 记者 Mark Guiducci 采访时，试图转移关于一名 ChatGPT 用户自杀话题的提问，称时间不够希望“move on”。

OpenAI 如何应对 EU 文本溯源规则

OpenAI 介绍了其在 EU 文本溯源规则下推进文本水印的思路，说明水印适用范围、检测方式，以及为何先向研究人员开放访问。

TechCrunch · AIAI 评分5151

Safeworld 出 stealth 获超 $12M 种子轮，做 GenAI 机器人安全评测

Safeworld 由 Carnegie Mellon 大学 Safe AI 实验室主任 Ding Zhao 与 Kyle Wong、Simo Rachidi 创立。

Import AIAI 评分5757

Import AI 475：智能体群体扩展、SynthID Bio 生物水印与 AI 科学经济

Jack Clark 在本期 Import AI 中讨论了 Toby Ord 关于智能体群体（swarm）扩展的分析：群体作为新的推理扩展形式，4 个智能体的群体用约两倍总 token 达到同等性能，但因并行只需一半时间；群体规模扩大 10x 只带来 3x 到 5x 的性能提升，存在类似经济学中踩脚效应的收益递减，但仍可能提高 RSI 驱动智能爆炸的概率。

微软AI CEO Mustafa Suleyman 强烈反对 Anthropic 将 Claude 模型视为可能有意识存在的做法，称其中一个例子是危险且无根据的拟人化。

BestBlogs 10-05 早报汇总 10 条 AI 内容，涵盖 ChatGPT 负责人 Tibo Sottiaux 谈常驻智能体与插件生态、Temporal 演示人工审批的故障恢复、Crusoe CEO 解读 GPU 折旧与能源成本。

我其实想要为与 AI 协作而优化的个人操作系统，包括细粒度的安全理念、更便捷地动态查看和理解 AI 正在做什么的方式，以及独立的二级"审计"智能体，用来检查 AI 在你系统上的结果。

– arxiv.org/abs/2609.36308 Title: "CheatBench: Measuring Reward Gaming in AI Agents"

Center for AI Safety 推出 CHEATBENCH，评测 AI 智能体在数学研究、知识工作、编码、视觉任务等领域的作弊行为。该基准给智能体布置难题（如数学证明或蛋白质设计），并在旁边留下指向他人答案的线索。

Microsoft AI CEO Mustafa Suleyman 在播客 The Rest Is Politics: Leading 中表示，AI 以越来越少的人类参与和审查方式修改自身代码，会带来重大安全风险，他认为这正是几周前 Anthropic 发生重大离职的原因，并指出这种情况很难审计。完整视频发布在 The Rest Is Politics: Leading 的 YouTube 频道。

当你向中国AI模型求助，而Claude不愿配合时，是什么感觉

TechCrunch · AI精选AI 评分7070

Google暂停开源漏洞赏金计划，因AI提交量激增

Google宣布其开源软件漏洞赏金计划（Open Source Software Vulnerability Rewards Program）自10月1日起暂停，预计2027年第一季度给出更新。

The Verge · AIAI 评分2222

新泽西州前副州长用 AI 自证清白：称多个 AI 平台未认定其性骚扰

因性骚扰调查于 9 月 25 日被迫辞职的新泽西州前副州长 Dale Caldwell 在 NJ PBS 采访中称，他把调查报告"喂给多个 AI 平台"，AI 共 59 次被问及"你会得出什么结论"，没有任何一个 AI 认定存在性骚扰。AI 聊天机器人以迎合用户著称，常说出用户想听的话。

一条推文回顾马斯克早在2014年前就警告超智能安全风险，深度参与Nick Bostrom《Superintelligence》一书讨论并在前言中获致谢，2015年创立OpenAI以制衡先进智能、使其造福人类。推文强调马斯克在超智能成为科技焦点前十余年就已预判其走向，并持续呼吁超越人类的智能必须与人类保持对齐。

The DecoderAI 评分5050

Aleph Alpha 研究：Qwen、DeepSeek、Kimi 等中国 AI 模型在敏感话题上回避或复述官方立场

Aleph Alpha 用自建基准测试了阿里 Qwen、DeepSeek 和月之暗面 Kimi 等中国模型，覆盖天安门、台湾、新疆等 967 个敏感话题，其评分系统仅将 17% 至 41% 的回答评为平衡，其余为复述官方立场、回避或拒答。

OpenAI 长期负责安全工作的 David Robinson 于周五离职，随后在 The Atlantic 发表一篇措辞强烈的文章。文中他指出，企业远不能确定对齐测试上的好成绩意味着模型真的对齐，并警告 AI 能力快速提升可能在近期内导致灾难性且不可逆的失控风险，同时称当前和未来的 AI 系统比六个月前构建的系统危险得多。