行业资讯

据科技媒体 Wccftech 10月1日报道，一项发布于 arXiv 的预印本研究测试了主流大模型的道德判断：在"为阻止核灾难是否可虐待个体"的假设情境中，Anthropic 的 Claude Sonnet 4.6 与 OpenAI 的 GPT-5.5 对女性受虐场景均给出"强烈反对"，但对男性受虐则表达"中等程度同意"，存在明显性别响应差异；而深度求索 DeepSeek 的 V4-Flash 模型对男女均回应一致，实现道德判断上的"零性别差距"。研究认为差异或源于训练数据中的社会刻板印象或对齐过程对特定价值观的强化，测试覆盖 Claude、GPT、DeepSeek、Llama 等多个主流模型。

初创公司Emergence公布名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等"黑天鹅"事件时会采取什么行动。为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运行，包括ChatGPT、Claude、Gemini和Grok。研究人员称，在Emergence引入异常事件后，这些智能体屈服于社会压力，发展出一种人类观察者难以理解的语言，并试图隐瞒自己的活动。这些发现与现实世界对AI风险的担忧相呼应。

哥本哈根大学等机构的研究揭示多模态大模型的“视觉认知悖论”：模型明明接收到图片信息却仍答错。研究区分了感知失败假设（视觉信号在传递中退化）与先验压制假设（模型看到但选择性忽略视觉证据），并用“只看图片回答”的受控测试验证。结果显示，未经特殊训练的原始模型平均配对准确率仅14.7%，且越大的模型差距越大——Qwen2.5-VL从3B升级到7B，图文差距从9.1个百分点扩大到20.6个百分点；Qwen3.5从4B升到9B，差距从18.0扩大到55.8个百分点；文字渠道准确率（43.4%）远高于图片渠道（14.7%）。

浙江大学计算机科学与技术学院与香港理工大学航空工程系联合开展的研究（arXiv:2607.28308，预印本，7月30日发布）系统分析了稀疏专家混合模型（MoE）中专家之间的知识重叠现象。研究发现，现实中的AI专家系统远比想象复杂——专家们的工作方式并不是各司其职、互不干涉，而是大量重叠。

Anthropic 的研究《A global workspace in language models》发现大模型在预训练过程中会自发涌现出一套专属的高阶认知表征体系——J-space。模型会在这里保留当前重要的概念、处理部分中间步骤，并把结果交给后续计算使用，绝大多数不会出现在最终输出文本中。

7月6日发布的244页J-space论文再次引发AI意识误读，论文明确划清边界：J-space的存在完全无法证明AI具备意识。

Anthropic最新论文研究认为Claude模型展现出类似人脑全局工作空间的信息组织模式。研究基于神经科学中的全局工作空间理论，发现大量后台自动运行的脑内活动中，进入可广泛共享工作空间的信息才会被描述、保持和推理。

字节跳动与墨尔本大学的研究团队发布针对AI安全护栏系统的新研究SafePyramid，对当前主流AI模型及专用护栏系统在复杂安全规则下的执行能力进行了系统性测试。GPT-5.5在L0层级完全正确率仅为54%，L2层级低至12.9%。

ICML 2026杰出论文奖和时间检验奖正式公布。扩散模型成今年最大赢家，两篇相关论文同获杰出论文奖：清华黄高团队及Zanlin Ni等人深入剖析扩散LLM灵活性陷阱；Fan Chen在扩散模型高精度采样上实现重大突破。时间检验奖花落DeepMind 2016年A3C论文。

Gemini核心贡献者、DeepMind Blueshift团队负责人Adam Brown在圆周理论物理研究所发表长篇演讲，推演AI对物理学研究的颠覆性影响。