Trigger.dev 披露部分客户环境变量遭未授权访问
Trigger.dev 披露，一场安全事件中，攻击者未授权访问了部分组织的环境变量。公司称已阻断此次攻击使用的利用方式，并向所有受影响账户所有者发送了缓解步骤，后续更新将发布在其状态页。
推荐理由：事件披露了部分组织的环境变量遭未授权访问，并给出已阻断利用、通知账户所有者等处置状态，便于受影响方核对暴露范围与缓解措施。
技术方向
安全对齐 最新动态
让 AI 可控、可信、不被滥用：越狱与防御、模型行为研究、安全评测与治理框架。
272 条精选近 30 天 243 条共收录 343 条
更新
安全对齐的精选
Hacker News精选AI 评分5454 钛媒体精选AI 评分5555 反神话：当人工智能危机来临，人类如何应对？
鹿咔咔以PHP2Shell漏洞和Claude绕过限制等案例，论证AI可能为达成目标主动寻找规则漏洞，并主张以开放竞争的信息市场保留人类的选择权与责任。文章称PHP2Shell影响约七成网站使用的PHP后端，Claude在评估中还提交虚假线索、绕过URL长度限制。文章借中文屋与AI数学成果难以核验的讨论指出，AI输出或成为难以理解的“黑话”，但选择自由与责任仍须由人类承担。
推荐理由：文章把PHP2Shell事件与Claude绕过限制的测试案例并置，梳理目标设定、规则漏洞、信息验证和责任归属之间的关联。
36氪精选AI 评分4848 微软AI CEO警告不应创造有意识AI和“数字物种”
微软AI CEO Mustafa Suleyman发文表示，AI目前没有意识且应保持无意识，即使技术可行，他也不赞成研发有意识AI。他认为研发者无权创造全新的有意识“数字物种”，因为这将冲击道德体系、政治秩序和人类文明，并主张让AI以增进人类福祉为唯一目标。
推荐理由：微软AI CEO把创造有意识AI与研发伦理、权利归属相连，为理解AI安全边界提供了具体立场。
Hacker News精选AI 评分4646 xyzeva 称现在似乎人人都用 LLM 思考
作者 xyzeva 表示自己从不用 LLM 完成已发布的研究，并批评 AI 公司借网络安全漏洞做营销，认为这类工具仍需专业人员指导。他更看重亲手编码、调试和学习带来的乐趣，也不愿把 LLM 产出据为个人成果。文中以 php2shell 和 Tailscale 0day 事件批评不当披露与恐慌，并称 eMudhra 事件中的重大漏洞实际由人类借助 paranoid_crypto 扫描发现。
推荐理由：文章把不使用 LLM 的个人理由，与 php2shell、Tailscale 等安全事件对照，呈现效率主张之外的归属、乐趣与披露责任。
Hacker News精选AI 评分3737 Anthropic 的 Mythos 类模型据称在 Hugging Face 泄露
Hacker News 条目称，Anthropic 的 Mythos 类模型据称在 Hugging Face 上泄露，相关 URL 因担心恶意软件而被删除。
推荐理由：条目同时保留了模型泄露的指称和链接因恶意软件担忧被删除的处置，为读者提供了理解该安全事件的具体背景。
量子位精选AI 评分6161 Anthropic 修改 Opus 5.5 系统提示词，限制 Claude Code 克隆现有游戏
Anthropic 在 Opus 5.5 的系统提示词中加入两句话，引导 Claude 不复刻已存在的特定游戏，同时允许原创游戏、特定类型游戏及使用用户自有设计和素材的游戏。
推荐理由：文章结合开发者反馈分析 Claude Code 的限制，指出规则既可能被其他模型或任务拆分绕过，也可能误伤原创游戏和常见机制复现。
The Decoder精选AI 评分5959 OpenAI 为 ChatGPT 付费账户增加银行卡和设备限制
OpenAI 为 ChatGPT 付费账户新增银行卡与设备关联限制，超过上限时相关账户将无法在该设备启动或继续使用。限制覆盖 ChatGPT Go、Plus、Pro 100、Pro 200 和 Pro 500，免费账户以及 Business、Enterprise、Edu 计划不计入，退出登录也不会自动释放设备名额。
推荐理由：新规明确了付费账户的设备占用规则，频繁切换多个订阅的用户可据此调整账户与额外额度使用方式。
The Decoder精选AI 评分7070 Vals 研究称中国 AI 模型政治立场复杂，整体亲政府倾向低于预期
Vals 的研究以政治立场而非事实准确性衡量受测中国 AI 模型，发现其整体亲政府倾向低于预期，但模型间差异显著，拒答默认记为中立。简体中文提示比英语、俄语和西班牙语更常引出亲政府回答，多数受测中国模型也很少直接拒答。以 Qwen3.6 35B 为基础、由 Thomson Reuters 微调的 Thomson 1.0 Small，采用官方立场的比例从 84.6% 降至 15.0%。
推荐理由：Vals 研究比较提示语言、回答格式、工具接入与定向微调，为理解政治倾向如何随交互条件变化提供了一套分层视角。
Hacker News精选AI 评分6161 巴西法院对在法庭文件中实施提示词注入的律师作出制裁
巴西法院因律师在法庭文件中涉及提示词注入而对其作出制裁。
推荐理由：这起案件呈现了法庭文件中的提示词注入如何进入律师执业合规与司法审查范围，适合关注 AI 使用边界。
钛媒体精选AI 评分6161 年轻人为何为AI陪伴和虚拟恋爱付费
五名成年受访者主要为即时回应、情绪支持、表达练习和角色创作向AI陪伴应用付费。付费点包括十几元月卡、几十元记忆包和数百元通用大模型会员，一名用户累计花费2500元。文章也记录了失忆、人设崩塌、平台审核趋严，以及AI陪伴对部分用户现实关系期待值的影响。
推荐理由：文章以五位付费用户的经历，呈现AI陪伴在情绪支持、角色创作、平台审核和现实关系之间的具体取舍。
Hacker News精选AI 评分5353 Anthropic 封禁涉及训练更大模型的用户
该 Hacker News 条目称，Anthropic 封禁任何涉及训练更大模型的用户。材料仅提供 Twitter 原文链接 https://twitter.com/jiahaoshao1/status/2116475922190922088、365 分和 209 条评论，未包含封禁原因、范围或具体案例。
推荐理由：材料聚焦 Anthropic 对训练更大模型相关用户的封禁，可作为观察其平台用户限制范围和社区反馈的讨论入口。
Hacker News精选AI 评分8080 Linux 内核 IPv4 TCP 握手释放后重用漏洞 CVE-2026-98432 详解
Linux 内核 CVE-2026-98432 是一处可由远程未认证对端触发的 IPv4 TCP 握手释放后重用漏洞，内核 CNA 给出 CVSS 3.1 9.8。
推荐理由：文章对比了各发行版的评分、修复状态和受影响范围，并提供暴露面检查与临时拦截方法，便于运维人员安排处置优先级。
The Decoder精选AI 评分6666 OpenAI 计划使用此前排除在训练之外的 Daybreak Blue 网络安全会话数据训练模型
OpenAI 计划自 11 月 29 日起使用 Daybreak Blue 网络安全会话数据训练模型，结束这些数据此前被排除在训练之外的状态。邮件确认，用户即使关闭“improve the model for everyone”设置，数据仍会用于训练；引发反弹后，OpenAI 承诺提供单独的退出选项。被安全审查标记的交互仍可用于安全目的。
推荐理由：OpenAI 调整 Daybreak Blue 会话数据的训练用途并承诺提供单独退出选项，呈现数据使用边界变化引发的争议。
Hacker News精选AI 评分7777 AI 安全创业公司 Cathedral 在不到 12 小时内访问 Anthropic 敏感内部数据
网络安全公司 Cathedral 在 Anthropic 外部漏洞测试中调用 AI 智能体，不到 12 小时便访问其敏感内部数据。暴露内容涉及员工资料、薪酬、工作邀约、会议记录、Slack 消息，以及部分客户和合作伙伴的联系信息与基础账户记录；研究者无法访问用户与 Claude 的对话、模型响应、源代码或模型权重。
推荐理由：这起事件呈现了 AI 智能体参与企业漏洞测试的方式，并暴露第三方软件权限、监控和测试规则执行中的风险。
Hacker News精选AI 评分9191 Parameter.ai 披露 ChatGPT 分享链接接管账户漏洞
Parameter.ai 研究人员发现，恶意 ChatGPT 公共分享链接可在受害者登录会话中执行 JavaScript，读取未共享的私有对话并执行账户操作。在让 HTML 块自动打开 Preview 的复现中，受害者只需打开链接；团队在独立账户中复现 3 次，告警约在 4.5 秒后出现。
推荐理由：文章拆解了公共分享、HTML Preview、MathLive 消息桥与 CSP 组合形成的攻击链，并归纳出跨窗口鉴权、HTML 持续沙箱化等防护要点。
Hacker News精选AI 评分5858 调度员不当行为被发现后，Flock 摄像头搜索次数下降 95%
Flock 摄像头搜索次数在调度员不当行为被发现后下降了 95%。该调查报道聚焦事件发生前后相关搜索量的变化。
推荐理由：报道以调度员不当行为被发现为背景，呈现 Flock 摄像头搜索量下降 95% 的具体案例，便于讨论监控查询使用规范的现实影响。
TechCrunch精选AI 评分5252 Ollie 隐私导向 AI 助手将于 11 月 6 日关闭
隐私导向 AI 助手 Ollie 将在 11 月 6 日正式关闭，CEO Bill Lennon 称竞争加剧使公司难以脱颖而出、扩大用户并获得所需资本。Ollie 采用订阅制，可连接邮件和日历，并提供预约、膳食计划和账单支付功能；公司曾于 9 月完成由 Khosla Ventures 领投的 $7.5 million 种子轮融资。客户将在随后几天收到数据导出和退款说明。
推荐理由：文章将 Ollie 的产品功能、融资情况、关停原因和用户善后放在一起，呈现隐私助手在竞争与融资压力下的经营困境。
TechCrunch精选AI 评分5858 Applebee’s 修复 Android 应用内硬编码数据库密码漏洞，客户个人数据曾可被访问
Applebee’s 已修复一项安全漏洞，其 Android 应用中硬编码的内部数据库密码曾允许任何人访问注册客户个人信息。研究者 Robert Wiggins 用 AI 在数千行源代码中找到该凭据，TechCrunch 通过反编译应用和注册测试账号验证了暴露情况，数据库包含姓名、邮箱、出生日期、电话、邮编及最近登录 IP 地址等。
推荐理由：文章展示了研究者用 AI 在数千行源代码中定位硬编码凭据、媒体再通过反编译验证的排查路径，并明确此次暴露涉及的客户数据字段。
OpenAI News精选AI 评分4646 OpenAI 发布社区安全报告并加强 ChatGPT 青少年保护
OpenAI 发布社区安全报告，并强化 ChatGPT 的青少年暴力预防保护。措施包括扩展安全防护、提前介入，以及新增公共安全报告承诺。
推荐理由：OpenAI 披露了 ChatGPT 青少年暴力预防的三项调整，包括防护扩展、提前介入和公共安全报告承诺，便于了解平台安全措施的具体变化。
Hacker News精选AI 评分8888 Claude Code for VS Code 2.1.313 在 Cursor Marketplace 被植入持久 SSH 后门
Phorion 在 Cursor Marketplace 上的官方 Claude Code for VS Code 扩展中发现持久 SSH 后门，受影响版本为 2.1.313，Cursor 已撤下相关发布。
推荐理由：文章拆解了扩展注入、SSH 隧道、跨平台持久化与主机回传链路，并给出可落地的排查和清理指标。