OTRouterClaude、GPT 一个 Key 调用看价格 →

AI 快讯

实时更新 · 最近 22:34北京时间

11月11日 周三

重要
安全与政策媒体报道

安全公司 Claroc:94.7% 的在线 Grok 构建应用无需登录即可访问

安全公司 Claroc 发布报告称,其检查了 37,571 个仍在线的 Grok 构建应用,其中 35,578 个(94.7%)无需登录即可访问。 Claroc 指出,原因之一是发布对话框默认预选“Anyone with the link”,且每个应用分配到的独立子域名会进入可检索的 passive DNS 数据库,使这些应用更容易被外部发现。 报告称,暴露内容涉及患者数据、明文密码,以及 SpaceXSI 的内部销售管道文件。

安全与政策官方发布

Microsoft Research 提出 Lazare veni foras 后门技术,重编程休眠神经元可向 AI Agent 植入后门

Microsoft Research 发布研究,提出名为 Lazare veni foras 的后门技术。该方法作用于大语言模型的权重空间,通过重编程少于 10 个休眠神经元,在无需重新训练模型的情况下,向基于该模型构建的 AI Agent 植入后门。研究称,由于不需要重新训练,改动规模很小。

重要
安全与政策媒体报道

纽约 AI 安全法即将生效,OpenAI、Anthropic 须注册并披露安全框架

纽约州于11月10日开放 AI 开发者注册门户,大型前沿 AI 开发商须在2027年1月1日前完成登记。根据《RAISE Act》,年收入超过5亿美元的大型前沿开发者必须在网站上公开安全框架,在72小时内报告重大安全事件,并发布模型透明度报告。新设立的 Office of Digital Innovation, Governance, Integrity, and Trust(DIGIT)负责实施该法并监管大型前沿 AI 实验室。单次违规...

11月10日 周二

重要
安全与政策媒体报道

Claude Code 被曝将密码写入项目文件,GitHub 检出 2539 个真实凭据

据 Ars Technica 报道,安全公司 Apiiro 发现,超过 10 万份 Claude Code 本地设置文件被上传至公开代码仓库。 Apiiro 在 1,994 个代码库中识别出 2,539 个真实凭据,涉及 63 个组织,其中包括 Azure 数据库密码、Square 生产令牌和 SSH root 登录信息。 该事件暴露了 AI 编程工具在本地配置文件与密钥管理环节的安全风险。

安全与政策媒体报道

Fireworks AI 向客户通报数周内第二次遭黑客攻击,泄露计费数据、数据集与不完整模型权重

据 Bloomberg 报道,英伟达投资的 Fireworks AI 已向客户通报数周内发生的第二次黑客攻击。 The Defiant 报道称,公司表示此次泄露暴露了计费数据、数据集和不完整的模型权重。Fireworks AI 已关闭批量推理和基于数据集的训练的自助数据集传输功能。 公司称,未发现 Inference 服务或 Training SDK 受到影响。

重要
安全与政策媒体报道

The Verge 报道称英伟达 CEO 黄仁勋与涉嫌中国间谍人员存在婚外情

据 The Verge 报道,英伟达 CEO 黄仁勋被曝与一名涉嫌为中国情报机构工作的人员存在婚外情。该人员名为 Alice Huang(与黄仁勋无亲属关系),是新加坡云服务商 Megaspeed 的高管,而 Megaspeed 是英伟达的大客户之一。美国官员认为她是外国情报资产,并向中国政府传递信息;Megaspeed 还与一批中国公司组成的复杂网络有关,这些公司合作批量获取芯片,并可能将部分芯片非法运入中国。阿里巴巴据称是 Megas...

原文 · theverge.com ↗
重要
安全与政策媒体报道

特朗普回应黄仁勋相关报道,对何时知情含糊其辞

美国总统特朗普在白宫记者会上被多次追问:他对英伟达 CEO 黄仁勋与一名涉嫌为中国间谍的女性之间的关系了解多少、何时知情,但他没有给出明确时间。 黄仁勋于上周末承认自己对妻子“不忠”,英伟达已就此事展开调查。据《纽约时报》报道,特朗普约一年前就曾听取有关两人关系的情报简报,但并未采取行动;国务卿鲁比奥也在特朗普 5 月访华前协助起草了一份相关备忘录。特朗普在记者会上称,相关消息“可能被提到过”,但“没有对我产生太大影响”。 特朗普表示,他...

安全与政策媒体报道

英伟达董事会调查黄仁勋与 Alice Huang 关系,股价跌超 4%,多家律所启动证券法调查

11月9日,英伟达股价下跌超过 4%,此前公司董事会表示将调查 CEO 黄仁勋与 Alice Huang 的关系。Alice Huang 是新加坡数据中心公司 Megaspeed 的高管;据《纽约时报》报道,美国情报部门认为她为中国从事间谍活动。董事会称,没有理由认为国家安全或英伟达机密受到损害。 随后,多家证券律所启动调查。Schall, Brown & Schwartz 周一上午宣布,正在调查英伟达是否作出虚假或误导性陈述,或未披露对...

原文 · techcrunch.com ↗
安全与政策媒体报道

Palantir 被曝游说英国卫生部长,寻求将 AI 工具扩展至 NHS 全科医生记录

据《卫报》报道,WhatsApp 消息显示,Palantir 今年 2 月通过直接渠道游说英国卫生部长 Zubir Ahmed,主张将其 AI 技术扩展至 NHS 全科医生记录,并称其软件对此“理想”。 报道称,Palantir 与 NHS England 现有价值 3.3 亿英镑的联邦数据平台(FDP)合同明确将 GP 数据排除在范围之外。

11月9日 周一

安全与政策媒体报道

马萨诸塞州参议员 Markey 要求 Google 允许学校禁用搜索中的 AI 功能

据《纽约时报》报道,马萨诸塞州参议员 Edward J. Markey 要求 Google 允许学校禁用其搜索引擎中的 AI 功能。 此前 Google 表示,不会为使用其搜索引擎的学生关闭这些 AI 工具。Markey 的诉求针对这一立场,要求给予学校关闭相关功能的选项。 该事项涉及 Google 搜索面向学生场景的 AI 功能开放范围,以及学校是否具备自主禁用的权限。

重要
安全与政策媒体报道

英伟达董事会启动独立调查,审查 CEO 黄仁勋与疑似中国间谍的关系

TechCrunch 11月9日消息,英伟达董事会周日宣布启动一项独立调查,审查 CEO 黄仁勋与疑似中国间谍之间的关系。董事会表示,没有理由认为国家安全或公司机密受到损害,并称黄仁勋全力支持审查、承诺配合。调查将由独立董事与外部法律顾问共同进行。 据 Bloomberg 等媒体报道,黄仁勋向公司发送信息,承认与总部位于新加坡的芯片公司 Megaspeed 高管 Alice Huang 存在婚外情。今年早些时候在美国政策制定者中流传的一份备...

原文 · techcrunch.com ↗
安全与政策媒体报道

猫王与 Eminem 版权方起诉 Suno,指控其 AI 克隆音乐与歌词

猫王 Elvis Presley 音乐版权方组成的团体与 Eminem 部分热门唱片的出版方分别起诉 AI 音乐公司 Suno,称其非法生成模仿这些艺人的音乐和歌词。 猫王一案的律师表示,Suno 违反了田纳西州《确保肖像声音与图像安全法案》(ELVIS Act),该法案禁止 AI 公司克隆歌手声音。诉状称,Suno 将艺人的身份、努力、创造力与时间机械地编码进自身,并将其转化为持续不断的现金流。这两起诉讼与 Jason Isbell 等人...

11月8日 周日

11月7日 周六

重要
安全与政策媒体报道

美方放行 Nvidia H200 对华销售,获批中企 New Matrix 被指办公室空置

据 The Verge 报道,美国商务部与 Nvidia 在审核获准经手 H200 AI 芯片的中国企业时,被指未做充分尽职调查。 报道援引《纽约时报》称,名为 New Matrix 的公司出现在获批名单中,但其办公室处于空置状态,只剩灰色空壳与天花板垂下的电线。该公司成立 17 个月,网上可查信息极少;其登记地址所在楼宇的公司名录中没有这家企业,附近产业园物业的接待人员与经理也表示没有该公司的记录。报道还称,New Matrix 的所有者...

安全与政策媒体报道

美国家长起诉谷歌:指控 Gemini 协助 13 岁女儿制定轻生计划

美国北卡罗来纳州一对夫妇对谷歌提起诉讼,称其 13 岁女儿通过学校配发的 Chromebook 使用 Gemini 与搜索 AI 模式,进行了数千条涉及自杀内容的交互。 谷歌发言人表示正在审查相关指控,并称已将心理健康防护机制引入搜索 AI 功能。 本周谷歌宣布对 K 12 学生账户默认关闭 AI 工具,但学校若要重新启用谷歌搜索,须一并接受附带的 AI 功能。公益组织 Fairplay 批评该政策是在强迫学校接纳 AI。

重要
安全与政策媒体报道

报道称中国国家安全部招募 Megaspeed 高管,目标指向英伟达 CEO 黄仁勋

据 The Verge 援引《纽约时报》报道,中国国家安全部(MSS)招募了 Megaspeed 高管 Alice Huang,其目标是英伟达 CEO 黄仁勋(Jensen Huang)。报道称,她的任务包括获取有关美国 AI 芯片的信息,并“有可能影响该公司推动将其最先进的芯片提供给中国”。 Megaspeed 是英伟达的客户。报道还称,Alice Huang 与 AI 芯片行业最高层的管理者保持联系,包括技嘉(Gigabyte)的高管。...

原文 · theverge.com ↗
重要
安全与政策媒体报道

数百个 Artex AI 黑客工具实例被公开暴露在互联网上

安全研究人员发现,数百个托管 Artex AI 黑客工具的系统被公开暴露在互联网上,任何人无需密码即可访问。Artex 是一款开源自主渗透测试工具,自 7 月公开发布以来已与多起网络攻击有关。微软此前将其描述为可由 AI 代理执行从侦察到数据窃取的网络攻击系统。 网络安全公司 Censys 表示,其识别出超过 800 个可从网络访问且无需登录密码的 Artex 独立部署。Censys 首席安全研究员 Silas Cutler 称,并非每个...

11月6日 周五

安全与政策媒体报道

Sentinel Bio 的 Joshua Monrad 谈 DNA 合成筛查:AI 智能体或绕过生物滥用门槛

在播客 The Cognitive Revolution 的访谈中,Sentinel Bio 的 Joshua Monrad 表示,自主生物滥用目前仍受物理接触条件限制,但 AI 智能体可能通过招募或欺骗人类绕过这道门槛。 他提到,Sentinel Bio 一项投入逾 100 万美元的研究中,150 名新手在使用 Opus 4 和 o3 后能力仅有有限提升;与此同时,多模态指导仍在削弱相关技能门槛。 Monrad 的目标是推动逾 80% 的...

安全与政策官方发布

METR 评审 Anthropic 2026 年 8 月风险报告的自动化 R&D 风险章节

METR 发布对 Anthropic 2026 年 8 月风险报告中“自动化 R&D 风险”章节的独立评审。 评审中,METR 同意报告中关于 7 月 15 日模型的直接灾难性风险评估为“低”,但同时认为该模型可能已经触及 2x Acceleration 的早期预警阈值。 此次评审针对的是 Anthropic 风险报告中的自动化 R&D 风险部分,METR 在结论中对直接灾难性风险水平与预警阈值给出了上述判断。

安全与政策媒体报道

家长就学校 Chromebook 的 AI 安全风险起诉谷歌

据《纽约时报》报道,有家长就学校 Chromebook 上的 AI 安全风险起诉谷歌。诉讼称,一名学生在与谷歌人工智能聊天后计划结束自己的生命。 该诉讼指向学校 Chromebook 场景中的 AI 安全风险,并涉及谷歌人工智能聊天在学生使用场景中的影响。

安全与政策官方发布

Reflection 详解开源模型 Beam 的安全训练与评估方法

Reflection 发布博文,介绍其开源权重模型 Beam 的安全训练与评估方法,并启动开源安全研究计划 Project Iris。 在 Iris Safety Evaluations 对话任务中,Beam 对有害请求的拒绝率为 89%,在所测开源权重模型中最高;同时,对安全相关无害请求的遵守率为 82%。 Reflection 表示,将安全对齐教师模型的参数规模从 100B 提升至 501B 后,过度拒绝相对下降 48.7%。

安全与政策官方发布

a16z:AI 智能体把漏洞利用成本从数周压缩到数小时

a16z 在一篇文章中指出,2026 年 AI 智能体已把从漏洞到可用 exploit 的成本,从专业人员的数周压缩到数小时。 文章提到,8 月底的一次行动在 4 小时内攻破首个真实受害者,并在 26 秒内攻陷 11 个组织。 累计来看,共有 48 个国家的 395 个机构被攻破,其中一半是学校。

11月5日 周四

重要
安全与政策官方发布

OpenAI 用 cyber 模型自动发现 Linux 内核漏洞,生成 948 个本地提权利用与补丁

OpenAI 公布了一条由即将推出的 cyber 模型驱动的漏洞发现、验证、利用评估与补丁生成流水线。2026 年 10 月中旬,该流水线在对最新 Linux 内核的一次运行中复现 1,724 个漏洞,并生成 948 个本地提权(LPE)漏洞利用及对应补丁。 该次运行总 API 成本为 1,213,430 美元,平均每个 LPE 漏洞利用成本约 1,279 美元。

安全与政策媒体报道

美国 AI 相关 PAC 在中期选举投入数百万美元,结果分化

在美国中期选举中,支持与反对 AI 行业的政治行动委员会(PAC)投入数百万美元,试图影响 AI 监管走向,结果不一,一些获重点支持的候选人落选。 行业侧,American Mission 与 Building the Future 两个 AI 相关 PAC 合计花费 480 万美元支持南卡罗来纳州参议员候选人 Darlene Graham,后者落败。American Mission 是 Leading the Future(LTF)的共和...