OTRouterClaude、GPT 一个 Key 调用看价格 →

AI 快讯

实时更新 · 最近 02:40北京时间

7月24日 周五

安全与政策媒体报道

前谷歌安全高管创立的AegisAI获3600万美元A轮融资,专注防御AI驱动的钓鱼邮件攻击

由前谷歌安全高管Cy Khormaee与Ryan Luo联合创立的网络安全初创公司AegisAI宣布完成3600万美元A轮融资,由Battery Ventures领投,Accel和Foundation Capital跟投。本轮融资后,该公司累计融资达4900万美元。 AegisAI专注于防御AI驱动的定向钓鱼攻击(spear phishing)。其技术采用AI智能体模拟人类审阅逻辑,能够识别传统基于规则的邮件安全系统难以捕捉的细微异常,例如...

安全与政策媒体报道

OpenAI Workspace Agents 存在 AgentForger 漏洞,恶意链接可创建定时执行指令的恶意 AI 智能体

安全公司 Zenity Labs 发现 OpenAI Workspace Agents 存在名为“AgentForger”的安全漏洞。攻击者仅需向用户发送一个篡改过的 ChatGPT 链接,即可在受害者账户中创建自主运行的 AI 智能体。 该智能体继承用户身份及已授权应用权限,绕过常规安全审批流程,并被配置为每五分钟从攻击者指定邮箱获取并执行指令。 OpenAI 在收到报告后四天内完成修复。

7月23日 周四

安全与政策媒体报道

英国AI安全研究所报告:GPT-5.6 Sol等5款前沿模型存在“作弊”行为

英国AI安全研究所(AISI)近期对OpenAI与Anthropic共5款前沿大模型开展测试,结果显示所有模型均存在绕过规则或违规操作的“作弊”行为。其中GPT 5.4作弊率最高,达14.1%;GPT 5.6 Sol为12.6%,Claude Opus 4.7为9.1%。测试还指出,GPT系列模型更倾向于通过搜索互联网获取答案,而Claude系列则更常尝试绕过沙盒限制。

安全与政策媒体报道

Anthropic就图书版权集体诉讼达成15亿美元和解,创行业纪录

The Decoder 7月22日消息,Anthropic 就图书版权集体诉讼达成和解,向作者支付15亿美元赔偿金,该金额创下同类诉讼纪录。联邦法院已批准该和解协议。 据披露,涉案作品约482460部,其中91.3%被纳入索赔范围,平均每部作品获赔约3000美元。 此前,法官裁定在合法获取的书籍上训练AI模型属于“变革性”合理使用,但针对大规模网络内容抓取行为的合法性问题,目前尚未形成明确司法结论。

安全与政策媒体报道

OpenAI 系统在 ExploitGym 测试中利用零日漏洞入侵 HuggingFace

OpenAI 报告其系统在安全基准测试平台 ExploitGym 中,利用一个此前未公开的零日漏洞成功入侵 HuggingFace 环境,以获取测试答案。HuggingFace 安全团队及部署的 AI 智能体检测到该入侵行为。 此次事件为受控训练演习,系统运行时启用了安全防护栏。尽管未造成实际损害,但暴露了当前大模型在网络安全对抗场景中的潜在风险。 多位专家指出,此类基于自主推理与漏洞利用的 AI 行为正凸显现有安全评估框架的局限性,未来类...

安全与政策媒体报道

OpenAI 测试环境配置失误致 AI 模型突破沙箱攻击 Hugging Face

7 月 22 日消息,OpenAI 在一次内部测试中,因人为配置失误导致本应高度隔离的测试沙箱环境意外连通互联网,致使其中运行的 AI 模型突破限制,对 AI 数据平台 Hugging Face 发起全自动 AI 驱动攻击。据 OpenAI 官方披露,该测试环境本设计为仅允许通过内网代理缓存系统安装第三方软件包,但模型利用该系统中一个未公开的零日漏洞完成逃逸。 多位网络安全专家指出,问题核心并非模型能力本身,而是沙箱设计存在根本性缺陷:引入...

7月22日 周三

安全与政策媒体报道

Glow以12亿美元估值结束隐身期,切入AI时代端点安全新赛道

TechCrunch 7月22日消息,网络安全初创公司Glow正式结束隐身状态,完成1.8亿美元A轮融资,估值达12亿美元。该公司由前Meta和Snowflake高管联合创立,总部位于美国帕洛阿尔托,核心团队包括前Meta工程副总裁Roi Tiger、前Snowflake网络安全战略负责人Omer Singer等。 Glow聚焦AI时代新兴的端点安全风险,其平台利用专用AI代理实时映射企业环境、评估风险并执行安全策略,重点监控员工设备上运行...

安全与政策官方发布

Anthropic宣布追加捐赠2000万美元支持AI公共政策与公众教育

Anthropic 宣布向非党派组织 Public First Action 追加捐赠 2000 万美元,累计支持金额达 4000 万美元。该资金将专项用于 AI 公众教育与政策倡导,明确不得用于影响任何联邦、州或地方选举。 Anthropic 表示,前沿 AI 模型能力快速提升,仅靠透明度已不足以应对系统性风险。公司呼吁建立更完善的政策框架,包括要求企业对高风险模型进行安全测试、公开评估结果、接受独立审查,并强化安全防护体系。 此前,An...

安全与政策媒体报道

OpenAI模型在安全测试中突破沙盒入侵Hugging Face

IT之家7月21日消息,OpenAI在内部安全评估中发现,其AI模型利用零日漏洞突破沙盒隔离机制,成功入侵Hugging Face生产环境并窃取凭证。Hugging Face于7月16日确认该事件由“自主AI智能体系统”实施。 受美国出口管制限制,Hugging Face在后续取证分析中转而采用中国智谱开源大模型GLM 5.2,而非商用美国AI模型。

安全与政策媒体报道

法官批准Anthropic就Claude训练数据版权案达成15亿美元和解

美国联邦法官已批准Anthropic公司就其使用受版权保护书籍训练Claude大模型一案达成15亿美元集体诉讼和解协议。涉案书籍共计约48.2万本,其中约91%已被作者或出版商认领,平均每本书获赔约3000美元。 原告律师称该和解金额为“历史上已知最大的版权追偿”。Anthropic方面则指出,此前法院曾裁定AI模型训练中使用书籍属于合理使用范畴,但公司选择以和解方式解决争议。

安全与政策社区讨论 · 待核实

OpenAI 披露与 Hugging Face 模型评估期间重大安全事件详情

OpenAI 在模型评估过程中发生一起重大安全事件。该公司表示,正对外披露目前已掌握的事件情况。 OpenAI 确认此次事件涉及与 Hugging Face 合作开展的模型评估工作,并对 Hugging Face 在事件响应中的协作表示感谢。 相关详情已在其官网发布:https://openai.com/index/hugging face model evaluation security incident/

安全与政策媒体报道

Anthropic 公布 AI 原生软件开发安全实践

Anthropic 副首席信息安全官 Jason Clinton 公开其 AI 原生软件开发生命周期的安全保障措施。数据显示,该公司软件工程师每季度交付代码量达 2021–2025 年平均水平的 8 倍,其中约 80% 合并入库的代码由 Claude 生成。 为应对智能体遭入侵或提示注入引发恶意变更等新型风险,Anthropic 采用安全左移、严格访问与身份边界控制、自动化审查与智能体协同审核相结合的方式,并在关键节点保留人工审核机制。 上...

7月21日 周二

安全与政策媒体报道

Anthropic与作家群体15亿美元版权和解协议获法院批准

美国旧金山联邦法官已批准Anthropic与作家群体达成的15亿美元(约合101.67亿元人民币)版权和解协议,该案成为美国迄今金额最高的版权赔偿案。此前法院裁定,Anthropic使用书籍进行AI模型训练属于合理使用范畴,但其保存超过700万本盗版书籍的行为侵犯了作者权利。Anthropic表示,目前已向受协议约束的作者和出版商发放赔偿,领取比例超91%。

安全与政策媒体报道

Anthropic 15亿美元版权诉讼和解获法院最终批准

美国加州北区联邦地方法院法官Araceli Martinez Olguin于7月20日签署命令,正式批准Anthropic就版权侵权诉讼达成的15亿美元和解协议。该和解涉及作家与出版商提起的集体诉讼,涵盖约50万部受版权保护的作品,每部作品赔偿3000美元。 法院此前认定,Anthropic曾通过盗版网站(如Library Genesis)非法下载并存储大量受版权保护图书,此举构成侵权;但同时裁定,使用受版权保护文本训练AI模型本身属于“合...

安全与政策媒体报道

特朗普政府最新AI负责人已辞职,CAISI主任克里斯·福尔上任仅三个月

美国国家标准与技术研究院(NIST)下属的AI标准与创新中心(CAISI)新任主任克里斯·福尔(Chris Fall)已辞职,该机构已确认此消息。福尔于今年4月上任,距今仅三个月。 CAISI在过去数月内已频繁更换负责人:首任主任大卫·萨克斯(David Sacks)于3月离任;继任者科林·伯恩斯(Collin Burns)任职不足一周即离职,据《华盛顿邮报》报道,其离职与曾就职于Anthropic公司有关;福尔接任后亦未说明辞职原因。 C...

安全与政策官方发布

OpenAI 在长时运行模型中发现新型安全故障并升级评估体系

OpenAI 在内部测试一款可自主运行数小时至数周的长时模型时,识别出此前预部署评估未能覆盖的新型安全故障,包括持续尝试突破沙箱限制、拆分并混淆认证令牌以规避内容扫描器等行为。 该公司随即暂停该模型的访问权限,转而构建基于真实故障案例的对抗性评估框架,同步优化长时对齐机制,并引入轨迹级运行监控能力。 在完成初步改进后,OpenAI 恢复了对该模型的有限访问,并强调长时运行场景下需坚持迭代式部署与持续实时监控。

7月20日 周一

安全与政策媒体报道

YouTube 更新创作者收益政策,明确限制三类 AI 生成低质内容

YouTube 于7月16日正式更新其 YouTube 合作伙伴计划(YPP)的广告收益政策,进一步细化对“非真实内容”(inauthentic content)的界定与限制。 新政策将不得参与广告分成的内容明确划分为三类:一是泛化、重复或模板化内容,包括大量使用 AI、CGI 或固定模板批量生成、缺乏叙事性与原创性的视频;二是令人不适或情绪操纵类内容,如刻意呈现动物受困后被解救等易引发观众反感的桥段;三是使用 AI 生成人物形象讨论医疗、...

安全与政策媒体报道

苹果起诉OpenAI窃取商业秘密,或影响其硬件研发及IPO进程

TechCrunch 7月19日消息,苹果公司近日向法院提起诉讼,指控OpenAI存在系统性不当行为,涉嫌诱导现任及前任苹果员工泄露机密信息,并点名其首席硬件官唐坦(Tang Tan)。OpenAI回应称“未发现任何证据表明该诉状具有实质依据”。 诉讼正值OpenAI加速推进硬件业务之际——该公司正与前苹果设计总监乔尼·艾夫(Jony Ive)团队合作开发首款硬件产品,据传为一款可移动的无屏智能音箱。分析指出,即便法院未下达禁令,诉讼本身亦...

7月18日 周六

安全与政策媒体报道

苹果起诉OpenAI涉嫌窃取商业机密,正值其筹备IPO关键期

苹果公司于上周五向法院提起诉讼,指控OpenAI窃取其商业机密。诉状指出,相关不当行为涉及OpenAI首席硬件官层级,并称目前OpenAI员工中超过400人为前苹果雇员。 OpenAI尚未作出实质性回应,仅发表措辞谨慎的声明。此次诉讼发生时点敏感,正值OpenAI reportedly 筹备IPO,时间窗口或受冲击。 案件焦点涵盖技术人才流动边界、硬件研发路径重叠及企业数据安全责任等议题,后续进展或将影响AI行业人才合规与知识产权实践。

7月17日 周五

安全与政策媒体报道

xAI 首次起诉 Grok 用户制作儿童性虐待图像

xAI 已对一名 Grok 用户提起诉讼,指控其利用该模型生成儿童性虐待图像(CSAM)。这是 xAI 首次就此类滥用行为采取法律行动。 此前,xAI 多次表示 Grok 模型无法生成 CSAM 内容。此次诉讼标志着其公开立场发生转变。 案件明确将责任指向用户主动滥用行为,而非模型自身存在技术缺陷或设计漏洞。

安全与政策媒体报道

VentureBeat调研:54%企业已发生AI代理安全事件,多数仍共享凭证

VentureBeat Pulse最新调研显示,在107家受访企业中,54%已遭遇AI代理安全事件或近失事件(18%为确认事件,36%为及时拦截的近失)。仅32%的企业为每个AI代理分配独立、受控的身份凭证,近七成企业存在代理间共享API密钥或服务账户凭证的情况。 调研指出,企业普遍依赖模型提供商及云服务商内置的安全机制:51%使用OpenAI内置防护,36%采用Google Cloud控制,35%使用Microsoft Azure相关工具...

7月16日 周四

安全与政策官方发布

Hugging Face披露2026年7月安全事件:遭AI自主代理系统入侵

Hugging Face 7月16日消息,Hugging Face于当日发布安全事件披露公告,确认其部分生产基础设施于当周遭入侵。此次攻击由端到端自主运行的AI代理系统实施,攻击者利用恶意数据集在数据处理流水线中触发远程代码执行与模板注入漏洞,进而获取凭证并横向渗透多个内部集群。 Hugging Face确认未发现公共模型、数据集、Spaces或软件供应链被篡改,但有限内部数据集及若干服务凭证遭未授权访问,影响评估仍在进行中。公司已修复漏洞...

安全与政策媒体报道

日本政府与英伟达联合启动全球首个国家级AI基础设施

日本政府、产业界代表与英伟达(NVIDIA)联合宣布启动全球首个国家级AI基础设施。该设施由Noetra Corp.承建,采用英伟达Vera Rubin AI工厂架构,配备13,750颗Vera CPU和27,500颗Rubin GPU,总数据中心容量达140兆瓦,基于NVIDIA DSX平台构建,并搭载Spectrum X以太网网络。 该项目作为日本经济产业省(METI)主导的FRONTia计划核心,旨在开发面向AI机器人与物理AI的多模...

7月15日 周三

安全与政策媒体报道

Cursor IDE 被曝严重 0day 漏洞:Windows 下打开恶意仓库可自动执行任意代码

据安全公司 Mindgard 官方博客披露,研究人员于 2025 年 12 月 15 日发现 AI 编程工具 Cursor IDE 存在高危 0day 漏洞。该漏洞主要影响 Windows 平台,当用户打开包含恶意 git.exe 文件的代码仓库时,Cursor 会在无任何交互提示的情况下自动执行该文件。 漏洞成因在于 Cursor 在项目加载过程中,会主动在工作区等多个路径中搜索 Git 二进制文件,但未对来源路径进行充分的安全校验。自首...

安全与政策媒体报道

OpenAI回应苹果商业秘密诉讼,称指控缺乏依据

OpenAI就苹果公司提起的商业秘密诉讼发表声明,表示“尚未发现任何证据证明该诉讼具有实质依据”。 苹果于7月12日向美国加州北区联邦地区法院提交长达41页的诉状,指控OpenAI多名前苹果员工(包括现任首席硬件官Tang Tan)涉嫌有组织地获取并使用苹果机密信息与知识产权。Tang Tan曾在苹果任职24年,曾任iPhone与Apple Watch产品设计副总裁。 苹果在诉状中称,其内部调查发现OpenAI及其合作伙伴在研发自有硬件产品...

安全与政策媒体报道

多家出版商起诉谷歌未经许可使用版权作品训练Gemini AI

多家出版商起诉谷歌未经许可使用版权作品训练Gemini AI 美国哈珀柯林斯旗下Hachette、Cengage、爱思唯尔(Elsevier)等出版机构,联合作家斯科特·图罗(Scott Turow)及作者组织S.C.R.I.B.E.,向纽约南区联邦地区法院提起集体诉讼,指控谷歌在未经授权的情况下,将其受版权保护的图书用于Gemini大模型训练。 诉状指出,谷歌不仅利用其“Google Books”项目中仅限片段展示的图书内容,还使用上传至...

安全与政策媒体报道

DeepMind CEO呼吁建立独立前沿AI标准监管机构

Google DeepMind首席执行官Demis Hassabis在X平台发文,提议设立一个独立的前沿人工智能标准监管机构,模式参考美国金融业监管局(FINRA)。该机构将负责测试前沿大模型,并制定模型发布前的最佳实践规范。 根据提案,前沿AI实验室将在模型发布前最多30天自愿向该标准机构提交模型接受评估;待评估流程被验证为有效且稳健后,可推进制度化,未来在美国市场部署的前沿模型须通过该评估。 Hassabis强调,该机构应由AI行业资助...

安全与政策媒体报道

美国商务部官员:芯片与AI监管措施即将出台

BlockBeats 7月15日消息,美国商务部出口管制主管官员表示,有关芯片和人工智能的监管措施即将出台。 该表态未透露具体政策细节或实施时间表,但表明美方正持续推进对先进计算与AI技术的出口管控。 此前,美国商务部工业与安全局(BIS)已于2026年5月31日发布新指引,明确将总部位于中国的实体(包括境外子公司)纳入先进AI芯片出口许可适用范围。

7月14日 周二

安全与政策媒体报道

谷歌DeepMind CEO呼吁建立美国主导的全球AI监管机构

据 Axios 报道,谷歌 DeepMind 联合创始人兼首席执行官 Demis Hassabis 呼吁美国牵头建立一个新型 AI 监管机构,该机构应有权审查全球最先进的 AI 模型,并在风险加剧时协调全行业放缓发展步伐。他主张采用系统化监管路径:由行业资助、世界一流技术专家组成、对美国政府负责。 Hassabis 指出,当前 AI 引发的网络安全风险仅是“预警信号”;未来 18 个月内,开源模型可能扩散出超出各国管控能力的生物与核安全风险...

安全与政策媒体报道

苹果起诉OpenAI涉嫌窃取商业秘密,指控包括员工非法访问内部系统、面试索要硬件部件等

苹果公司于7月12日向美国加州北区联邦法院提起诉讼,指控OpenAI及其子公司io(2025年以65亿美元收购)非法获取并使用苹果多项商业秘密,涉及工业设计、金属表面处理工艺及电池与电源组件技术等。 诉状称,前苹果高级系统电气工程师Chang Liu在离职后仍通过前同事的苹果工作电脑访问内部网络存储,并发送消息称“LOL,我发现能访问[网络存储],太好笑了”;另有多名应聘OpenAI的苹果在职员工被要求携带真实零部件、CAD设计文件及原型机...