AI 日报

VOL.1 · NO.0522026-09-15

AI巨头罕见联合呼吁放缓前沿模型,特朗普回应:谁赢AI谁赢

Anthropic CEO阿莫代伊提出三步放缓方案,获奥尔特曼、马斯克、哈萨比斯支持,标志前沿实验室出现罕见共识。但特朗普政府淡化警告,AI相关股票大跌,行业是否真会削减投入仍存疑。

今日主线
  • 前沿实验室罕见联合呼吁放缓AI能力,递归自我改进成核心担忧
  • 微软发布MAI模型行为准则,明确拒绝模型意识与权利
  • AI治理成外交议题,特朗普与习近平定于9月24日会谈
弱信号
  • 研究揭示LLM裁判准确度随任务变化,能力强的被评对象获更宽松评分
  • 污染控制研究发现harness无平均优势,仅在竞赛任务胜出且成本更高
模型与产品

科技巨头呼吁放缓'鲁莽'的AI发展后,AI相关股票下跌

Anthropic的阿莫迪获OpenAI的曼、DeepMind的哈萨abis与马斯克联声,呼吁放缓'鲁莽'的AI发展。消息引发AI相关股票大跌,但特朗普总统拒绝该呼吁,分析师亦质疑企业是否会真正削减投入。市场反应与政策表态出现明显背离。

北京回击 Anthropic CEO 限制中国 AI 发展的呼吁

中国外交部反驳Anthropic CEO阿莫迪限制中国AI发展的呼吁,称其文章意在制造恐慌。表态正值特朗普与习近平定于9月24日举行的AI治理会谈之前,凸显中美在AI竞争与监管上的紧张。中方将美方约束诉求视为战略遏制手段。

'攻击将完全自主':俄罗斯与乌克兰竞速迈向AI战争

半岛电视台报道俄罗斯首次使用AI自主无人机袭击,致乌克兰平民死亡。俄乌双方正加速构建侦察打击体系——乌克兰的DELTA与俄罗斯的Svod——以缩短杀伤链。自主武器进入实战,标志战争形态向自动化升级,平民风险上升。

研究前沿

三思而后行:LLM Agent 的动作前验证

该框架在智能体执行动作前运行廉价确定性验证器,捕获95.8%的无效shell命令,并揭示位置锚定的代码编辑会静默失败。结合拒绝策略,可将失败转化为可恢复状态,提升LLM智能体的动作可靠性。

开源与工具
社区热议

中国监管层瞄准"AI男友"

中国网信办禁止提供持续情感互动的拟人 AI 伴侣,阿里、字节、腾讯随即关闭陪伴功能并加装提醒,提示用户 AI 并非真人。

攻击 AI 客服代理

Inti De Ceukelaire 在 DEF CON 34 演示如何攻击 AI 客服代理:通过邮件伪造、提示注入及 RFC 822 多 From 头发送钓鱼邮件并窃取数据,赚取逾 5 万美元赏金。

中文视野

AI治理:最高法院裁判规则先行

最高人民法院9月7日发布《涉人工智能二十四条意见》,成为全球首部最高审判机构人工智能裁判规则文件,覆盖AI换脸、幻觉、自动驾驶事故及训练数据使用等场景,为相关纠纷提供统一裁判尺度。

探索RSI,生数新世界模型让机器人开始自我进化

生数科技发布具身世界模型Motus2,将行动、预测、评估整合为递归自我改进闭环。真机测试显示,触觉与记忆模块显著提升任务成功率,标志机器人向自我进化迈进,为具身智能提供新范式。

智谱提前剧透GLM-6.0:完全自训练方法公开了

智谱港交所配售及可转债净募约393亿港元,约六成投向下一代GLM-6.0的完全自训练体系,涵盖数据自产、环境自造与基础设施优化。智谱提前剧透GLM-6.0方法,凸显其在递归自我改进路线上的押注。