大模型日报（6月27日资讯篇）

我们希望能够搭建一个AI学习社群，让大家能够学习到最前沿的知识，大家共建一个更好的社区生态。

「奇绩大模型日报」知识库现已登陆飞书官方社区：

https://www.feishu.cn/community/article/wiki?id=7355065047338450972

点击「订阅社区精选」，即可在飞书每日收到《大模型日报》每日最新推送

如果想和我们空间站日报读者和创作团队有更多交流，欢迎扫码。

欢迎大家一起交流！

资讯

国产大模型新高度！讯飞星火4.0发布：整体超越GPT-4 Turbo，8个国际权威测试集测评第一

6月27日，科大讯飞正式对外发布讯飞星火大模型V4.0，以及在医疗、教育、商业等多个领域的人工智能应用。随着新版本的发布，讯飞星火V4.0七大核心能力全面升级，在8个国际主流测试集中排名第一，整体超越GPT-4 Turbo，领先国内大模型。刘庆峰称，当前，星火APP下载量已经达到了1.31亿，涌现出一批用户喜爱的应用助手。在星火大模型的加持下，部分场景下的智能硬件销量同比增长70%+，月均使用时次数超过4000万。

https://mp.weixin.qq.com/s/2b6RUB4evBQduTMejijdTQ

Stability AI 管理层大换血，前 Facebook 总裁主导新一轮 8000 万美元投资！4 亿美元债务一笔勾销

Stability AI是一家致力于 AI 增强人类创造力的初创公司，曾在 2022 年巅峰时刻完成 1.01亿美元融资，当时估值为 10 亿美元，但自那以后其商业模式遇到种种挑战。今年 3 月，Stability AI 联合创始人 Emad Mostaque 因投资者压力而辞去 CEO 职务；自那以后，一系列员工离职，Stability AI 也未能支付包括计算资源在内的日益增加的账单。Stability AI 曾在过去一年中与投资者讨论过筹集更多资金，但最终未能达成交易。去年 12 月，曾传 Stability 或被收购！当时每月烧钱 800 万美元。今年第一季度，Stability AI 收入不到 500 万美元，亏损超过 3000 万美元，并拖欠云计算提供商和其他供应商近 1 亿美元款项。

https://mp.weixin.qq.com/s/tRRWpdivtehDZYi-vkNBZw

寒武纪1号诞生：谢赛宁Yann LeCun团队发布最强开源多模态LLM

古往今来，许多哲学家都探究过这个问题：理解语言的含义是否需要以感官为基础？尽管哲学家们看法不一，但有一点却不言而喻：坚实有效的感官定基（grounding）至少能带来助益。比如科学家们普遍相信，寒武纪大爆发期间视觉的出现是早期动物演化的关键一步；这不仅能帮助动物更好地找寻食物和躲避捕食者，而且还有助于动物自身的进化。事实上，人类（以及几乎所有动物）的大多数知识都是通过与物理交互的感官体验获取的，比如视觉、听觉、触觉、味觉和嗅觉。这些感官体验是我们理解周围世界的基础，也是帮助我们采取行动和决策的关键。这些思想不仅仅能用来探究哲学概念，而且也具有实用价值，尤其是近期多模态大型语言模型（MLLM）的发展，更是让视觉表征学习与语言理解来到了实践应用的关注核心。语言模型表现出了非常强大的规模扩展行为，而多模态学习领域的近期进展也很大程度上得益于更大更好的 LLM。另一方面，人们仍旧没有充分探索视觉组件的设计选择，并且这方面的探索与视觉表征学习的研究有所脱节。这主要是因为这方面的研究非常困难：MLLM 涉及复杂的训练和评估流程，需要考虑的设计选择非常多。近日，纽约大学谢赛宁和 Yann LeCun 团队以视觉为中心对 MLLM 进行了探索，填补了这一空白；他们还基于这些探索成果构建了 Cambrian-1（寒武纪 1 号）系列模型。（本文有三位共同一作：Shengbang Tong（童晟邦）、Ellis Brown 和 Penghao Wu。）

https://mp.weixin.qq.com/s/NFiorsNZLzVT1YXeLgNZPw

史上首个实时AI视频生成技术：DiT通用，速度提升10.6倍

实时 AI 视频生成来了！本周三，新加坡国立大学尤洋团队提出了业内第一种可以实时输出的，基于 DiT 的视频生成方法。该技术名为 Pyramid Attention Broadcast （PAB）。通过减少冗余注意力计算，PAB 实现了高达 21.6 FPS 的帧率和 10.6 倍的加速，同时不会牺牲包括 Open-Sora、Open-Sora-Plan 和 Latte在内的流行基于 DiT 的视频生成模型的质量。值得注意的是，作为一种不需要训练的方法，PAB 可以为任何未来基于 DiT 的视频生成模型提供加速，让其具备实时生成的能力。

https://mp.weixin.qq.com/s/tidE-qSM3nZ8kUfjNcpMZA

微软AI负责人：未来知识生产成本将降到边际成本为零

在近日举行的阿斯彭思想节(Aspen Ideas Festival)上，谈及AI公司训练模型过程中涉及的版权问题，微软AI首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）表示，对于许多开放网络上的内容，默认的社会契约是允许这种使用的。自90年代以来，网络内容的社会契约是基于“公平使用”原则，这意味着任何人都可以复制、重建或再生公开可用的内容。

https://www.yicai.com/news/102169185.html

ICML 2024 | 揭示非线形Transformer在上下文学习中学习和泛化的机制

上下文学习 (in-context learning, 简写为 ICL) 已经在很多 LLM 有关的应用中展现了强大的能力，但是对其理论的分析仍然比较有限。人们依然试图理解为什么基于 Transformer 架构的 LLM 可以展现出 ICL 的能力。近期，一个来自美国伦斯勒理工大学和 IBM 研究院的团队从优化和泛化理论的角度分析了带有非线性注意力模块 (attention) 和多层感知机 (MLP) 的 Transformer 的 ICL 能力。他们特别从理论端证明了单层 Transformer 首先在 attention 层根据 query 选择一些上下文示例，然后在 MLP 层根据标签嵌入进行预测的 ICL 机制。该文章已收录在 ICML 2024。