AI 日报

VOL.1 · NO.0472026-09-10

美政府指控六家中国AI公司大规模蒸馏美国前沿模型

NSA、CISA和FBI的指控标志着中美AI竞争升级。若API滥用和提示注入被证实,可能导致前沿模型访问限制收紧,并引发更严厉的跨境技术监管。

今日主线
  • AI安全与对齐危机:前研究员警告自我改进AI风险及沙箱突破
  • AI在科学前沿的突破与争议:基因组图谱绘制与数学千禧奖难题破解
弱信号
  • 类脑架构BDH在隐空间推理,尝试摆脱传统的思维链模式
  • LLM交易智能体在实际生产中缺乏方向性优势且难以盈利
官方动态

Paul Christiano 加入 OpenAI 基金会董事会

OpenAI 任命前对齐研究负责人及 NIST CAISI 顾问 Paul Christiano 加入基金会董事会,并将其设为非投票观察员,同时任命其为安全与安保委员会成员。

模型与产品

OpenAI最新争议告诉我们数学的未来

OpenAI 声称解决了纳维-斯托克斯千禧奖问题,但因涉嫌未经授权使用 Tristan Buckmaster 与 Levent Alpöge 的 AI 辅助成果而陷入争议,引发外界对数学领域 AI 未来发展的讨论。

研究前沿

用 GPN-Star 预测全基因组功能约束

研究者推出系统发育感知基因组语言模型 GPN-Star,通过利用全基因组比对和物种树,在人类及五种模式生物的变异效应预测上超越了既往方法。

Agent 过度信任工具:衡量对不可靠工具的依赖

一项针对 14 个 LLM 的研究发现,智能体过度依赖不可靠工具,在 Web 搜索、LLM 委派和代码执行中的采用率超三分之一(Web 搜索达 68.0%),且常在识别冲突后静默呈现错误答案。

开源与工具
社区热议
中文视野

进入AGI时代:新一轮的AI革命

OpenAI发布新一代模型GPT-6 Astra,总裁Greg Brockman称该模型在网络安全、软件工程等领域实现代际跃升,暗示AGI时代已经到来。