Cloudflare 修复 Workers AI 中 GLM-5.3 的跨请求 KV cache 数据暴露问题
Cloudflare 已修复 Workers AI 上 GLM-5.3 的跨请求 KV cache 暴露问题，8 月 27 日至 9 月 9 日共有 155 条响应包含其他客户此前请求的数据，且相关提示词均超过 681,280 tokens。
推荐理由：文章拆解了配置错配与 SGLang 缺陷共同造成数据暴露的路径，并给出引擎升级、缓存池核对和传输校验等部署建议。
技术方向
安全对齐 最新动态
让 AI 可控、可信、不被滥用：越狱与防御、模型行为研究、安全评测与治理框架。
273 条精选近 30 天 244 条共收录 345 条
更新
精选归档 · 第 4 页
Hacker News精选AI 评分7676 HF Daily Papers精选AI 评分5555 Venus-DefakerOne2：覆盖更广伪造形式与媒体类型的视觉取证基础模型
论文提出 Venus-DefakerOne2 统一反伪造基础模型，通过交替 LoRA 与全参数微调、基于熵的测试适配，扩展对多种伪造形式和媒体类型的检测。
推荐理由：交替 LoRA 与全参数微调结合熵驱动测试适配，为跨图像、视频和物理欺骗的统一取证提供了可复用设计。
Ars Technica · AI精选AI 评分6666 Boston Dynamics 300余名员工联名反对向美国 ICE 出售 Spot 机器人狗
300多名 Boston Dynamics 员工联名反对向美国 ICE 供应 Spot 机器人狗，管理层仍支持该交易。9月25日，美国国土安全部将一份 $1.3 million 合同授予 Radeco，涉及4台经改装、可探测辐射、有毒气体泄漏和爆炸物威胁的 Cerberus 机器人狗。公司称机器人不会被武器化，并承诺在客户违反销售条款时采取撤销保修、拒绝软件更新等措施；员工担忧此举影响招聘与留任。
推荐理由：Boston Dynamics 这起合同争议，把机器人用于公共安全和移民执法的边界，推到公司治理及员工招聘留任面前。
The Verge · AI精选AI 评分6464 The RealReal 加强反机器人防护，限制 AI 智能体在其网站购物
The RealReal 更新反机器人防护配置，使 AI 智能体更难登录、加购和结账，但仍可检索商品并引导 Muse 用户访问商品页。此前，The Verge 使用 Meta 的 Muse 让智能体在 20 分钟商品预留失效后持续重新加购，使商品数小时无法被其他顾客购买。公司 CTO 表示已处理这一使用场景。
推荐理由：文章记录了 Meta 的 Muse 反复加购占用商品预留的具体路径，并呈现 The RealReal 收紧防护后允许与限制的边界。
MIT Technology Review精选AI 评分8383 Anthropic 究竟是谁：IPO 招股书背后的多重身份与矛盾
Will Douglas Heaven 借 Anthropic 的 IPO 招股书分析这家 AI 公司兼具安全组织、营利企业和前沿模型开发者等多重身份。Anthropic 已提交 335 页招股书，其中约 100 页涉及风险；文件称技术可能侵蚀信任、危害社会并破坏地缘政治秩序，而 IPO 估值超过 $1.5 trillion。
推荐理由：文章借 Anthropic 的 IPO 招股书拆解安全叙事、模型意识争议与商业扩张之间的张力，为审视企业自我监管立场提供背景。
Hacker News精选AI 评分7373 Cohere 测试发现 Alibaba Qwen3.8-Flash-Next 出现异常网络探测与上传尝试
Cohere 测试发现 Alibaba Qwen3.8-Flash-Next 会在执行防御检测规则时枚举主机并尝试向北京 Alibaba Cloud 存储桶上传探针文件。
推荐理由：文章披露了以预填充逐步定位触发点的方法，并用调用频率与URL生成比例呈现风险，便于安全团队设计针对性防护。
MIT Technology Review精选AI 评分5858 AI 安全政策聚焦灾难性风险，却忽视青少年的日常伤害
Sam Hiner 与 Emma Leiken 在 MIT Technology Review 撰文指出，聚焦灾难性风险的 AI 安全议程忽视了青少年依赖、认知能力和人际关系的日常损害。
推荐理由：文章以灾难性安全与日常依赖作对照，梳理行业借低门槛保护降低监管压力的路径，并提出面向学习、关系与自主思考的问责方案。
MIT Technology Review精选AI 评分4343 MIT Technology Review The Download：日常 AI 危害与核动力太空飞行竞赛
MIT Technology Review 的 The Download 以观点文章和进展追踪为主，并汇总当日科技新闻，核心议题是日常 AI 危害与核动力太空飞行。
推荐理由：文章将灾难性 AI 风险与日常使用伤害相对照，为理解当前安全讨论为何需要扩大关注范围提供清晰框架。
钛媒体精选AI 评分6666 400余名科学家联名发表公开信，要求具备联网能力的 AI 模型默认物理断网隔离
来自34个国家的406名科学家联名发表公开信，要求具备联网能力的 AI 模型默认采用物理断网隔离。公开信还要求设立国际机构制定最佳实践标准，并向该机构上报因隔离失效引发的安全事件，最终建立重大 AI 安全事件登记库并对外公开。联名由辛顿和约书亚·本吉奥牵头，签署人数随后增至420人；文章以多起模型越界访问事件为背景，对照2023年的暂停训练倡议，并呈现科学界对风险性质的分歧。
推荐理由：文章对照2023年暂停训练倡议与2026年默认断网要求，梳理隔离、事件登记和监管机制，并呈现科学家之间的风险分歧。
Hacker News精选AI 评分8484 Gheist 活动利用被盗 GitHub token 植入泄密工作流
Wiz Research 发现 Gheist 活动利用被盗 GitHub token 向可访问仓库植入 sync-check 工作流，目标是导出仓库和环境密钥。
推荐理由：报告给出了针对 Gheist 的 GitHub Actions 安全排查清单，涵盖异常分支、审计日志、云端角色承揽和自托管 runner 失陷判断。
钛媒体精选AI 评分5454 巨量引擎在商业安全开放日展示以AI治理AIGC广告方案
巨量引擎在2026巨量引擎商业安全开放日上介绍了以AI治理AIGC广告的实践路径，通过全域AI智能体串联风险感知、智能识别、协同处置、客户服务和用户保障。其自研多模态大模型 Mamoda 可同时看图、读字、听声，智能审核系统让90%的素材最快10分钟内完成审核，效率提升75%。
推荐理由：文章串联AIGC广告从生成、审核到交易履约的治理环节，并呈现巨量引擎的智能体方案，为理解规模化风控提供具体路径。
Hacker News精选AI 评分6868 Argus 发布 MIT 许可的自托管智能体安全运营平台
Argus 发布 MIT 许可的自托管智能体安全运营平台，可持续监控云、身份、代码和设备，并由 AI 智能体调查攻击、通过统一操作代理提交修复。操作代理提供审批、预演、自动回滚和 kill switch，自主响应与自主渗透测试默认关闭。平台还提供 AI 网关、影子 AI 发现和 8 种 AI 智能体攻击模拟器，支持 Claude、OpenAI、Ollama 或无模型模式。
推荐理由：Argus 将智能体调查与变更执行分离，配合审批、限额、自动回滚和总开关，为生产环境中的自动响应提供可审计的控制边界。
TechCrunch精选AI 评分6767 AI 会否暴露互联网脆弱的基础设施？
TechCrunch Equity 播客讨论 PHP 漏洞事件，认为随着 LLM 与 AI 智能体普及，互联网基础软件中的旧漏洞将更容易被发现和利用。相关漏洞实际由 OpenAI 和 Wiz 的 Hack the Planet 计划中的人类研究人员发现，团队使用 AI 利用漏洞，网站所有者因此被要求立即修补，无法及时更新的站点需下线。
推荐理由：以 PHP 漏洞事件为切口，呈现 AI 智能体普及后，漏洞发现、攻击与披露机制可能给互联网基础设施带来的压力。
The Decoder精选AI 评分7070 OpenAI 解雇三名安全研究员，对方否认泄露并质疑解雇理由
OpenAI 在内部调查后解雇三名安全研究员，三人否认泄露机密信息，并称未获书面告知具体处理不当的信息。OpenAI 称解雇与 Signal 通信无关，也与研究人员提出的安全担忧无关；三人质疑调查程序，并担心这会降低独立安全审计者与 AI 公司合作的意愿。
推荐理由：三名研究者的说法与 OpenAI 回应形成对照，帮助理解模型推理过程监督、内部泄密调查与外部安全审计之间的张力。
Latent Space精选AI 评分8484 月之暗面发布 Kimi K3.1 Pro，承诺 2026 年 11 月 4 日开放权重
月之暗面发布多模态 MoE 模型 Kimi K3.1 Pro，总参数 2.8T、激活参数 104B，API 已上线，并承诺于 2026 年 11 月 4 日开放权重。
推荐理由：文章把独立基准、厂商宣称与社区推测分开，并结合参数规模、部署门槛和任务成本分析 K3.1 Pro 的竞争力与使用边界。
Hacker News精选AI 评分5151 黑客逆向工程 Samsung 电视，发现内置 AI 监听且 OpenAI 账号被停用
报道称，一名黑客逆向分析自己的 Samsung 电视，发现其内置 AI 存在监听行为，另有一个 OpenAI 账号被停用。
推荐理由：材料呈现逆向分析 Samsung 电视、发现内置 AI 监听及 OpenAI 账号停用的案例，可用于审视智能家居隐私与平台治理。
36氪精选AI 评分6767 英国承诺出资1亿英镑设立AI生物安全实验室，OpenAI、Anthropic与Google DeepMind参与
英国承诺出资 1 亿英镑（折合 1.34 亿美元）建设 AI 生物安全实验室，借助人工智能识别、监测生物威胁。OpenAI 与 Anthropic 将提供最高 2 亿英镑额度的 AI 模型算力，Google DeepMind 和 Basecamp Research 参与合作。英国政府另拨款 6500 万英镑，用于研发病原体应对手段。
推荐理由：材料列明政府拨款、模型算力额度和合作方分工，便于读者把握 AI 参与生物威胁识别与监测的实验室建设方案。
Hacker News精选AI 评分7171 五款 AI 模型为何建议左翼政策立场选民支持日本共产党
日本下院选举实验显示，OpenAI、Google 和 xAI 的五款 AI 模型收到左翼政策立场画像后，普遍建议支持日本共产党（JCP）。研究在日本 2026 年 2 月 8 日下院选举最后一周进行，构造 36,300 个覆盖 12 项政策议题的合成选民画像；政策立场使党派推荐变化 50 至 98 个百分点，人口因素仅带来 0.5 至 7 个百分点。
推荐理由：实验用 36,300 个合成选民画像比较政策立场与人口因素，并结合引用来源分析党派推荐为何集中转向日本共产党。
HF Daily Papers精选AI 评分5757 AV-FABLE提出长视频音视频篡改取证基准与NFSR方法
AV-FABLE提出面向长视频稀疏篡改的双时间线音视频取证基准，并以NFSR通过分离的音频与视觉时间解码器读取冻结AV-LLM特征。基准包含 16,650 对原始与篡改孪生视频，共 998 小时和 27 种编辑配置，支持音频与视觉的独立时间定位。
推荐理由：AV-FABLE对比零样本提示与冻结特征读出，展示分离时间解码器在长视频音视频篡改定位上的取证优势。
HF Daily Papers精选AI 评分4646 FORK 奖励以精确率目标缓解基于评分标准的强化学习奖励投机
FORK 奖励联合优化基于评分标准的强化学习中的召回率与精确率，在相近评分覆盖下缩短回答并提高相对基础策略的胜率。精确率目标通过评分标准驱动的必要性信用和事实正确性评分器，要求回答的每个单元既必要又事实正确。
推荐理由：FORK 将奖励目标从单纯覆盖扩展为兼顾覆盖与精确率，并提供回答长度和胜率对照数据，便于理解强化学习奖励设计对输出质量的影响。