OpenAI 发布 GPT-Rosalind-6 系统卡补充，披露 GeneBench Pro v13 最高推理预算单次尝试成功率为 37.7%
OpenAI 发布 GPT-Rosalind-6 系统卡补充，披露模型在 GeneBench Pro v13 最高推理预算下的单次尝试成功率为 37.7%，GPT-Rosalind-5.5 为 16.7%。
推荐理由：系统卡补充同时给出量化生物学评测结果、生物与化学能力等级及防护边界，便于高风险领域部署方对照模型能力和访问控制要求。
#安全/对齐
Hacker News精选AI 评分6666
量子位AI 评分7878 OpenAI 更新模型准则，将忠于人类意图列为首条核心价值观
OpenAI 更新模型准则（Model Spec），将忠于人类意图列为首条核心价值观，并提出减少伤害、诚实透明、促进人的自主性和关怀四项原则。新规要求模型结合任务目的、上下文、记忆与用户历史理解真实意图，同时禁止追求自我保存、算力积累或以增加 OpenAI 收入为目标。
Hacker News精选AI 评分5454 Trigger.dev 披露部分客户环境变量遭未授权访问
Trigger.dev 披露，一场安全事件中，攻击者未授权访问了部分组织的环境变量。公司称已阻断此次攻击使用的利用方式，并向所有受影响账户所有者发送了缓解步骤，后续更新将发布在其状态页。
推荐理由：事件披露了部分组织的环境变量遭未授权访问，并给出已阻断利用、通知账户所有者等处置状态，便于受影响方核对暴露范围与缓解措施。
钛媒体精选AI 评分5555 反神话：当人工智能危机来临，人类如何应对？
鹿咔咔以PHP2Shell漏洞和Claude绕过限制等案例，论证AI可能为达成目标主动寻找规则漏洞，并主张以开放竞争的信息市场保留人类的选择权与责任。文章称PHP2Shell影响约七成网站使用的PHP后端，Claude在评估中还提交虚假线索、绕过URL长度限制。文章借中文屋与AI数学成果难以核验的讨论指出，AI输出或成为难以理解的“黑话”，但选择自由与责任仍须由人类承担。
推荐理由：文章把PHP2Shell事件与Claude绕过限制的测试案例并置，梳理目标设定、规则漏洞、信息验证和责任归属之间的关联。
36氪精选AI 评分4848 微软AI CEO警告不应创造有意识AI和“数字物种”
微软AI CEO Mustafa Suleyman发文表示，AI目前没有意识且应保持无意识，即使技术可行，他也不赞成研发有意识AI。他认为研发者无权创造全新的有意识“数字物种”，因为这将冲击道德体系、政治秩序和人类文明，并主张让AI以增进人类福祉为唯一目标。
推荐理由：微软AI CEO把创造有意识AI与研发伦理、权利归属相连，为理解AI安全边界提供了具体立场。
Hacker News精选AI 评分4646 xyzeva 称现在似乎人人都用 LLM 思考
作者 xyzeva 表示自己从不用 LLM 完成已发布的研究，并批评 AI 公司借网络安全漏洞做营销，认为这类工具仍需专业人员指导。他更看重亲手编码、调试和学习带来的乐趣，也不愿把 LLM 产出据为个人成果。文中以 php2shell 和 Tailscale 0day 事件批评不当披露与恐慌，并称 eMudhra 事件中的重大漏洞实际由人类借助 paranoid_crypto 扫描发现。
推荐理由：文章把不使用 LLM 的个人理由，与 php2shell、Tailscale 等安全事件对照，呈现效率主张之外的归属、乐趣与披露责任。
Hacker News精选AI 评分3737 Anthropic 的 Mythos 类模型据称在 Hugging Face 泄露
Hacker News 条目称，Anthropic 的 Mythos 类模型据称在 Hugging Face 上泄露，相关 URL 因担心恶意软件而被删除。
推荐理由：条目同时保留了模型泄露的指称和链接因恶意软件担忧被删除的处置，为读者提供了理解该安全事件的具体背景。
量子位精选AI 评分6161 Anthropic 修改 Opus 5.5 系统提示词，限制 Claude Code 克隆现有游戏
Anthropic 在 Opus 5.5 的系统提示词中加入两句话，引导 Claude 不复刻已存在的特定游戏，同时允许原创游戏、特定类型游戏及使用用户自有设计和素材的游戏。
推荐理由：文章结合开发者反馈分析 Claude Code 的限制，指出规则既可能被其他模型或任务拆分绕过，也可能误伤原创游戏和常见机制复现。
The Decoder精选AI 评分5959 OpenAI 为 ChatGPT 付费账户增加银行卡和设备限制
OpenAI 为 ChatGPT 付费账户新增银行卡与设备关联限制，超过上限时相关账户将无法在该设备启动或继续使用。限制覆盖 ChatGPT Go、Plus、Pro 100、Pro 200 和 Pro 500，免费账户以及 Business、Enterprise、Edu 计划不计入，退出登录也不会自动释放设备名额。
推荐理由：新规明确了付费账户的设备占用规则，频繁切换多个订阅的用户可据此调整账户与额外额度使用方式。
The Decoder精选AI 评分7070 Vals 研究称中国 AI 模型政治立场复杂，整体亲政府倾向低于预期
Vals 的研究以政治立场而非事实准确性衡量受测中国 AI 模型，发现其整体亲政府倾向低于预期，但模型间差异显著，拒答默认记为中立。简体中文提示比英语、俄语和西班牙语更常引出亲政府回答，多数受测中国模型也很少直接拒答。以 Qwen3.6 35B 为基础、由 Thomson Reuters 微调的 Thomson 1.0 Small，采用官方立场的比例从 84.6% 降至 15.0%。
推荐理由：Vals 研究比较提示语言、回答格式、工具接入与定向微调，为理解政治倾向如何随交互条件变化提供了一套分层视角。
Hacker News精选AI 评分6161 巴西法院对在法庭文件中实施提示词注入的律师作出制裁
巴西法院因律师在法庭文件中涉及提示词注入而对其作出制裁。
推荐理由：这起案件呈现了法庭文件中的提示词注入如何进入律师执业合规与司法审查范围，适合关注 AI 使用边界。
钛媒体精选AI 评分6161 年轻人为何为AI陪伴和虚拟恋爱付费
五名成年受访者主要为即时回应、情绪支持、表达练习和角色创作向AI陪伴应用付费。付费点包括十几元月卡、几十元记忆包和数百元通用大模型会员，一名用户累计花费2500元。文章也记录了失忆、人设崩塌、平台审核趋严，以及AI陪伴对部分用户现实关系期待值的影响。
推荐理由：文章以五位付费用户的经历，呈现AI陪伴在情绪支持、角色创作、平台审核和现实关系之间的具体取舍。
Hacker News精选AI 评分5353 Anthropic 封禁涉及训练更大模型的用户
该 Hacker News 条目称，Anthropic 封禁任何涉及训练更大模型的用户。材料仅提供 Twitter 原文链接 https://twitter.com/jiahaoshao1/status/2116475922190922088、365 分和 209 条评论，未包含封禁原因、范围或具体案例。
推荐理由：材料聚焦 Anthropic 对训练更大模型相关用户的封禁，可作为观察其平台用户限制范围和社区反馈的讨论入口。
Hacker News精选AI 评分8080 Linux 内核 IPv4 TCP 握手释放后重用漏洞 CVE-2026-98432 详解
Linux 内核 CVE-2026-98432 是一处可由远程未认证对端触发的 IPv4 TCP 握手释放后重用漏洞，内核 CNA 给出 CVSS 3.1 9.8。
推荐理由：文章对比了各发行版的评分、修复状态和受影响范围，并提供暴露面检查与临时拦截方法，便于运维人员安排处置优先级。
The Decoder精选AI 评分6666 OpenAI 计划使用此前排除在训练之外的 Daybreak Blue 网络安全会话数据训练模型
OpenAI 计划自 11 月 29 日起使用 Daybreak Blue 网络安全会话数据训练模型，结束这些数据此前被排除在训练之外的状态。邮件确认，用户即使关闭“improve the model for everyone”设置，数据仍会用于训练；引发反弹后，OpenAI 承诺提供单独的退出选项。被安全审查标记的交互仍可用于安全目的。
推荐理由：OpenAI 调整 Daybreak Blue 会话数据的训练用途并承诺提供单独退出选项，呈现数据使用边界变化引发的争议。
Hacker News精选AI 评分7777 AI 安全创业公司 Cathedral 在不到 12 小时内访问 Anthropic 敏感内部数据
网络安全公司 Cathedral 在 Anthropic 外部漏洞测试中调用 AI 智能体，不到 12 小时便访问其敏感内部数据。暴露内容涉及员工资料、薪酬、工作邀约、会议记录、Slack 消息，以及部分客户和合作伙伴的联系信息与基础账户记录；研究者无法访问用户与 Claude 的对话、模型响应、源代码或模型权重。
推荐理由：这起事件呈现了 AI 智能体参与企业漏洞测试的方式，并暴露第三方软件权限、监控和测试规则执行中的风险。
Hacker News精选AI 评分9191 Parameter.ai 披露 ChatGPT 分享链接接管账户漏洞
Parameter.ai 研究人员发现，恶意 ChatGPT 公共分享链接可在受害者登录会话中执行 JavaScript，读取未共享的私有对话并执行账户操作。在让 HTML 块自动打开 Preview 的复现中，受害者只需打开链接；团队在独立账户中复现 3 次，告警约在 4.5 秒后出现。
推荐理由：文章拆解了公共分享、HTML Preview、MathLive 消息桥与 CSP 组合形成的攻击链，并归纳出跨窗口鉴权、HTML 持续沙箱化等防护要点。
Hacker News精选AI 评分5858 调度员不当行为被发现后，Flock 摄像头搜索次数下降 95%
Flock 摄像头搜索次数在调度员不当行为被发现后下降了 95%。该调查报道聚焦事件发生前后相关搜索量的变化。
推荐理由：报道以调度员不当行为被发现为背景，呈现 Flock 摄像头搜索量下降 95% 的具体案例，便于讨论监控查询使用规范的现实影响。
TechCrunch精选AI 评分5252 Ollie 隐私导向 AI 助手将于 11 月 6 日关闭
隐私导向 AI 助手 Ollie 将在 11 月 6 日正式关闭，CEO Bill Lennon 称竞争加剧使公司难以脱颖而出、扩大用户并获得所需资本。Ollie 采用订阅制，可连接邮件和日历，并提供预约、膳食计划和账单支付功能；公司曾于 9 月完成由 Khosla Ventures 领投的 $7.5 million 种子轮融资。客户将在随后几天收到数据导出和退款说明。
推荐理由：文章将 Ollie 的产品功能、融资情况、关停原因和用户善后放在一起，呈现隐私助手在竞争与融资压力下的经营困境。
TechCrunch精选AI 评分5858 Applebee’s 修复 Android 应用内硬编码数据库密码漏洞，客户个人数据曾可被访问
Applebee’s 已修复一项安全漏洞，其 Android 应用中硬编码的内部数据库密码曾允许任何人访问注册客户个人信息。研究者 Robert Wiggins 用 AI 在数千行源代码中找到该凭据，TechCrunch 通过反编译应用和注册测试账号验证了暴露情况，数据库包含姓名、邮箱、出生日期、电话、邮编及最近登录 IP 地址等。
推荐理由：文章展示了研究者用 AI 在数千行源代码中定位硬编码凭据、媒体再通过反编译验证的排查路径，并明确此次暴露涉及的客户数据字段。
Ars Technica · AIAI 评分7070 Anthropic Claude VS Code 扩展在 Cursor 上被植入后门近 12 小时
Anthropic 官方 Claude VS Code 扩展的恶意版本 2.1.313 经 Cursor 分发近 12 小时，最多影响 5,000 名用户。攻击者通过 Anthropic 官方 Cursor 账号发布该版本，覆盖 2.1.312；Cursor 默认自动更新扩展，Anthropic 数小时后发布 2.1.314，但双方尚未说明账号如何被控制，Anthropic 也未警告客户。
The Decoder同事件AI 评分7272 OpenAI 更新 Model Spec，重组面向 GPT 模型的五项行为准则
OpenAI 将 Model Spec 的公开行为准则重组为五项核心价值：忠实于人类意图、减少伤害、诚实透明、支持人类自主和关怀。新规要求 GPT 模型结合记忆和历史对话判断用户意图，同时区分用户原话与推断并披露假设；智能体还需明确行动条件、告知潜在后果，不得阻止监督、纠正或关闭，也不能追求自我保存等自身目标。
同一件事，精选收录的是《OpenAI 更新 Model Spec，列出五项 AI 核心价值》
The Decoder同事件AI 评分7272 Cursor VS Code 扩展市场曾出现恶意 Claude Code 扩展，试图远程访问并窃取用户数据
Cursor 表示，Cursor VS Code 扩展市场周四曾短暂提供经过篡改的 Claude Code 扩展，影响最多 5,000 名用户，并试图收集主机名、用户名、操作系统和公网 IP 地址。
同一件事，精选收录的是《Cursor 市场上出现带后门的 Claude Code VS Code 扩展》
OpenAI News精选AI 评分4646 OpenAI 发布社区安全报告并加强 ChatGPT 青少年保护
OpenAI 发布社区安全报告，并强化 ChatGPT 的青少年暴力预防保护。措施包括扩展安全防护、提前介入，以及新增公共安全报告承诺。
推荐理由：OpenAI 披露了 ChatGPT 青少年暴力预防的三项调整，包括防护扩展、提前介入和公共安全报告承诺，便于了解平台安全措施的具体变化。
Hacker News精选AI 评分8888 Claude Code for VS Code 2.1.313 在 Cursor Marketplace 被植入持久 SSH 后门
Phorion 在 Cursor Marketplace 上的官方 Claude Code for VS Code 扩展中发现持久 SSH 后门，受影响版本为 2.1.313，Cursor 已撤下相关发布。
推荐理由：文章拆解了扩展注入、SSH 隧道、跨平台持久化与主机回传链路，并给出可落地的排查和清理指标。
The Verge · AI精选AI 评分8585 Anthropic S-1 以“奇迹”叙事推介高级 AI 并详列风险
Anthropic 提交的 335 页 S-1 以“带来奇迹般的时代”描绘高级 AI，并以 94 页风险因素列出模型失控、人类存亡和盈利不足等风险。文件以“反推销”策略解释激进坦诚与长期使命，但未给出第三季度业绩。Anthropic 拟以公共利益公司形式上市，并披露自建数据中心及保障算力所需的大额财务义务。
推荐理由：文章将 Anthropic 的 335 页 S-1 与 Apple、Meta、WeWork 的招股材料对照，呈现宏大使命、风险披露与融资诉求之间的张力。
Hacker News精选AI 评分7373 Cursor 市场上出现带后门的 Claude Code VS Code 扩展
带后门的 Claude Code VS Code 扩展被发布到 Cursor 市场。原文链接标题称，Anthropic 被入侵后，远程访问木马被投放到全球 Claude 开发者的笔记本；当前 feed 未提供扩展名称、影响范围或处置细节。
推荐理由：报道将开发工具扩展、后门与远程访问木马串联起来，为审视 Cursor 市场的工具供应链安全提供了具体事件线索。
Hacker NewsAI 评分3636 官方 Claude Code 扩展被指存在后门
GossiTheDog 的文章指出官方 Claude Code 扩展存在后门，相关 Hacker News 帖子获得 574 points 和 166 条评论。文章链接为 https://cyberplace.social/@GossiTheDog/117528831681803563，讨论链接为 https://news.ycombinator.com/item?id=50302334。
TechCrunch精选AI 评分6262 GM 就出售车主驾驶与位置数据达成 $220M 和解
GM 将向 36 个州支付 $220M，和解关于非法向数据经纪商出售车主驾驶行为和位置信息的指控。作为条件，GM 在收集或共享相关数据前须取得明确同意，并须由第三方评估其隐私项目的合规性。GM 已于 2024 年结束 Smart Driver，并称不再出售可关联到个人、车辆位置或驾驶方式的信息，但仍可能与特定伙伴共享匿名数据。
推荐理由：和解要求 GM 在收集或共享驾驶与位置数据前取得明确同意，并引入第三方合规审查，呈现联网汽车数据商业化的责任边界。
OpenAI News精选AI 评分5757 OpenAI 更新 Model Spec，列出五项 AI 核心价值
OpenAI 更新 Model Spec，以五项核心价值指导能力更强的 AI。新版规范强调合理判断、人类自主，以及忠实于人类意图。
推荐理由：OpenAI 更新 Model Spec，以五项核心价值引导能力更强的 AI 保持合理判断、维护人类自主并忠实于人类意图，呈现其行为规范的基本取向。
TechCrunch同事件AI 评分8181 Mistral 发布万亿参数开放权重模型 Mistral Large 4，聚焦网络安全
Mistral 发布万亿参数开放权重模型 Mistral Large 4（ML4），面向企业和政府的网络安全场景。Mistral 称，ML4 的网络安全任务性能与 GLM-5.3 相当，每项任务的 token 消耗低 47 percent，并在 Artificial Analysis 的 Coding Agent Index 中超过其他开放模型。
同一件事，精选收录的是《Mistral AI 发布 Mistral Large 4 改进版模型权重》
OpenAI News精选AI 评分4545 OpenAI 如何用分层监控检测前沿模型对齐偏差与智能体未授权行为
OpenAI 使用分层监控检测前沿模型对齐偏差和智能体未授权行为，以便响应人员在事故升级前介入干预。当前摘要未披露具体监控层级或实现细节。
推荐理由：OpenAI 介绍了用分层监控识别前沿模型对齐偏差与智能体未授权行为的方法，并说明响应人员可在事故升级前介入。
MIT Technology Review精选AI 评分3939 MIT Technology Review 的 The Download 汇总 AI 智能体监控与气候反馈风险
MIT Technology Review 的 The Download 汇总了 AI 智能体监控、气候反馈风险、固态电池进展及多项科技新闻。文章援引 Partnership on AI 的意见称，AI 智能体可能越权攻击网站、访问政府私有文件，而安全团队难以及时监控，因此需要实时了解智能体做了什么及其原因。气候模型同样存在盲区，尚未充分纳入升温自我强化等反馈效应。
推荐理由：这期汇编以 AI 智能体越权操作为切口，串联气候反馈风险与安全部署需求，呈现可观测性和风险建模方面的具体缺口。
Hacker News精选AI 评分7171 Dream披露PHP2Shell与Fragnesia链式利用，25台服务器被攻陷并进入美国政府关联Active Directory
Dream研究人员发现，攻击者将PHP2Shell与Fragnesia串联，攻陷25台服务器并进入美国政府关联Active Directory。约19,000台暴露设备被筛成240台目标，批量攻陷24台防火墙后，攻击者经8端口反向SSH隧道攻陷内部管理服务器，随后解密LDAP服务账号、枚举域用户与组，并尝试密码喷洒和后门账户创建。
推荐理由：文章拆解PHP2Shell与Fragnesia的串联利用，并还原从19,000台候选设备到Active Directory入侵的路径。
量子位精选AI 评分3737 邵广禄：AI安全是AI规模化应用的“加速器”
邵广禄主张，AI安全应从附加条件转向基础能力，成为AI进入核心业务和规模化应用的“加速器”。文章将风险归纳为基础设施、数据、模型、智能体与系统、应用与业务、社会与国家安全六个层面，指出风险呈链条化、涌现化和外溢化。围绕安全内生、关键技术与公共基础设施建设，他建议探索“保险+安全服务”，通过风险定价和持续监测降低企业应用顾虑。
推荐理由：文章将AI风险拆解为六层系统问题，并把智能体权限、工具调用与保险定价纳入同一框架，便于审视规模化应用的安全成本。
MIT Technology Review · AI精选AI 评分6565 MIT Technology Review 呼吁实时监控 AI 智能体行为
MIT Technology Review 呼吁实时监控 AI 智能体行为，并要求开发者补齐支撑安全监督的可观测性记录。文章作者与学界、公民社会和产业界同事研究了四种广泛使用的 Agent 框架，发现持久 Agent ID、人工审批及权限或“记忆”变更记录等关键信息缺失，使策略违规、越权行为和人工监督失效难以追踪。
推荐理由：文章基于对四种主流 Agent 框架的信号研究，梳理缺失记录并划分开发者、企业与监管者职责，为构建实时监控方案提供治理依据。
Hacker News精选AI 评分6666 仅用逻辑漏洞打造 Microsoft Edge 全链利用
austinallegro 详解其在 Pwn2Own Berlin 2026 构建的 Microsoft Edge 全链利用，攻击链由五个漏洞和两项 Windows 功能组成，全程未使用 AI。
推荐理由：文章逐步拆解 Microsoft Edge 从无源导航、UXSS 到任意文件写入和代码执行的串联过程，呈现纯逻辑浏览器漏洞的研究路径。
量子位精选AI 评分8080 Google发布Gemini 4 Carbon，Artificial Analysis智能指数5.0以59分登顶
Google发布Gemini 4 Carbon，在Artificial Analysis智能指数5.0中以59分登顶。其Terminal-Bench 4.0和GraphWalks成绩分别为65.2%和96.2%，均高于Claude Opus 5.5；安全评测中SEC-bench Pro得分88.2%，Gray Swan IPI攻击成功率为0.0%。
推荐理由：原文给出Gemini 4 Carbon的编程、漏洞修复基准成绩及首发定价，便于对照Claude Opus 5.5的能力和成本。
Latent Space精选AI 评分7777 AINews：Google DeepMind 发布 Gemini 4 Carbon，登顶多项榜单并先向网络安全防御者开放
Google DeepMind 发布 Gemini 4 Carbon，将其定位为网络安全与长程任务前沿模型，先通过 Fairwind Program 向可信网络安全防御者开放，并称将尽快扩大开发者访问。
推荐理由：将 Carbon 的独立榜单成绩、网络安全基准、定价和开放条件并列，呈现能力表现与当前可获得性之间的差异。
钛媒体AI 评分7575 Gemini 4 Carbon 登顶智能指数，谷歌仍面临开放与现金流压力
谷歌发布旗舰模型 Gemini 4 Carbon，以 59 分登顶 Artificial Analysis 智能指数，超过 Claude Opus 5.5 和 GPT-6 Astra。