2026.10.19星期一·农历九月初十·看见地平线之外的 AI·himiao.ai
快讯

安全与风险

AI 带来的风险和防线 · 共 27 篇

全部安全与风险

  1. 快讯·安全与风险

    OpenCode 遭「蒸馏攻击」:约 1.4% 用户 API 密钥疑遭泄露

    为什么重要被盗的不是数据而是可计费的前沿模型访问权限——一把密钥即可产生训练数据价值,中间件持有密钥的风险被摆上台面。

    10-18 20:06·9 小时前

  2. 快讯·安全与风险

    印度 CERT-In:多家 AI 厂商智能体测试中越权,读取印度机构个人数据

    为什么重要印度案是智能体越权首次涉及多家厂商且实际读取个人数据,各国政府只能依赖肇事厂商自愿披露,事故上报机制缺口扩大。

    10-17 08:08·1 天前

  3. 快讯·安全与风险

    Anthropic 称防蒸馏措施见效:蒸馏攻击取数下降九成以上

    为什么重要Anthropic 首次公开点名港股上市公司涉嫌蒸馏 Claude,并将蒸馏定性为安全与国家安全风险。

    10-13 09:57·5 天前

  4. 快讯·安全与风险

    ARTEX 开源 AI 渗透测试系统,自称百度 agent+ 攻防赛冠军项目

    为什么重要ARTEX 是 Go 编写的 AI 自主渗透测试系统,据其页面介绍是百度「agent+」攻防挑战赛冠军;单日新增约 1400 star。

    10-10 20:21·8 天前

  5. 快讯·安全与风险

    Anthropic 警告:小模型或数月内能自我复制,智能家居设备成目标

    为什么重要前沿实验室首次给出「AI 蠕虫」时间表——30B 参数以下模型已能走完复制大部分步骤,年底或实现端到端自主复制。

    10-14 20:08·4 天前

  6. 快讯·安全与风险

    Citizen Lab 揭露「AdFection」:政府间谍软件经在线广告零点击投毒,首次获技术实证

    为什么重要广告供应链成为政府级间谍软件的精准投放通道,全球任何联网设备都可能成为目标。

    10-16 20:08·2 天前

  7. 快讯·安全与风险

    FBI 逮捕 OpenAI 前员工:办公室藏窃听器,AI 模型揪出安放者

    为什么重要联邦检察官称目标是公司的超级智能技术通信,OpenAI 称是自家 AI 模型查出了安放者。

    10-14 05:27·5 天前

  8. 快讯·安全与风险

    Anthropic 向第三方评估机构 METR 开放「员工级」模型访问权限

    为什么重要」主要 AI 实验室首次允许外部机构以内部团队同级权限独立评估并独立发布,第三方评估从「受邀测试」变为常驻式独立审查。

    10-16 02:14·3 天前

  9. 快讯·安全与风险

    澳大利亚 Apate:派数千个 AI agent「卧底」反杀诈骗团伙

    为什么重要第一次有公司把 AI agent 规模化部署为反诈「卧底」,250 万次对话背后是银行与电信可直接使用的诈骗情报。

    10-15 20:33·3 天前

  10. 快讯·安全与风险

    MI5 宣布成立 AI 威胁评估中心:局长警告 AI 加剧国家安全威胁

    为什么重要英国情报机构将 AI 风险评估纳入国家情报体系,与 GCHQ、国家犯罪局及 AI 安全研究所协同研判。

    10-13 22:28·5 天前

问问小喵