大模型日报（7月1日资讯篇）

我们希望能够搭建一个AI学习社群，让大家能够学习到最前沿的知识，大家共建一个更好的社区生态。

「奇绩大模型日报」知识库现已登陆飞书官方社区：

https://www.feishu.cn/community/article/wiki?id=7355065047338450972

点击「订阅社区精选」，即可在飞书每日收到《大模型日报》每日最新推送

如果想和我们空间站日报读者和创作团队有更多交流，欢迎扫码。

欢迎大家一起交流！

资讯

比尔盖茨最新访谈：Scaling Law快要走到尽头，超人AI还需新的突破

近日，比尔·盖茨 (Bill Gates) 在一期 Next Big Idea 播客中讨论了人工智能的未来，以及它如何比人们想象的更接近现实。在过去半个世纪里，比尔·盖茨在每一项重大技术发展中都发挥了主导作用，在预测未来方面，他有着相当不错的记录。早在 1980 年，他就预测有一天每张桌子上都会有一台电脑；现在，他说很快每个人的耳朵里都会有一个人工智能体。主持人鲁弗斯·格里斯科姆（Rufus Griscom）和安迪·萨克（Andy Sack）以及亚当·布罗特曼（Adam Brotman）一起（三人为新书《人工智能第一》[AI First] 的合著者），与比尔·盖茨讨论了人工智能对医疗保健、教育、生产力和商业的影响。

https://mp.weixin.qq.com/s/lzX6JpBLUmF_FSwlwEIfjQ

苹果被曝将与谷歌“牵手”？Gemini模型今秋或融入苹果智能生态系统

苹果知名爆料人马克·古尔曼最新称，苹果公司的Apple Intelligence系统将于今年秋季宣布与谷歌大模型Gemini建立合作关系；古尔曼还重申，苹果不会考虑整合Meta公司的人工智能服务。

https://www.cls.cn/detail/1719886

腾讯元宝上线AI深度搜索，可一键生成脑图、表格

腾讯宣布旗下大模型应用“腾讯元宝”上线AI深度搜索，更新到最新版本后，腾讯元宝将在AI搜索深度模式下对问题进行扩展，可同步生成内容大纲、思维导图及相关人物事件梳理。

https://www.tmtpost.com/nictation/7150767.html

腾讯搜狗输入法AI功能全面升级，独家上线AI对话和AI宠物

腾讯搜狗输入法发布全新版本，升级了AI帮写、AI对话功能，同时推出快捷问答、AI宠物、AI自拍表情等多种新玩法。自2019年推出行业内首个AI助手“智能汪仔”以来，搜狗输入法的能力外延在不断扩展，跨应用、跨终端、高频次调用的特点让搜狗输入法拥有了为用户提供AI服务的最短路径。这次智能汪仔的能力进一步扩展为信息的智能输入、便捷获取和轻度处理，让输入更智能、更高效，也更有温度。

https://tech.cnr.cn/techph/20240701/t20240701_526772763.shtml

帮你写脚本、剪片、找素材，谷歌 AI 视频编辑应用 Google Vids 上线测试

谷歌曾在今年 4 月发布了一款全新的 AI 视频编辑应用 Google Vids，并宣布预计 6 月登陆 Google Workspace Labs 测试版。据 Android Authority 报道，目前该应用已经于上周五前后悄悄上线并开启测试，功能齐全。

https://www.ithome.com/0/778/756.htm

拆分Transformer注意力，韩国团队让大模型解码提速20倍

只要将注意力切块，就能让大模型解码提速20倍。来自韩国科学技术研究院、LG和DeepMind的研究人员，提出了一种新的Transformer架构。不仅获得了更快的推理速度，内存开销也大幅度下降。

https://mp.weixin.qq.com/s/JE0w-ksh5TRby_TRfjWbzw

马斯克：xAI 将于 8 月推出 Grok-2 大语言模型

北京时间今日午间，马斯克在自己的 X（推特）平台上发文宣布，其人工智能初创公司 xAI 的大语言模型 Grok-2 将于 8 月推出。

https://www.ithome.com/0/778/831.htm

推特

Howard：大语言模型并不能做出突破性科学研究，突破性研究需要走一条完全新颖且意想不到的方向

对于那些希望（或担心）LLMs（大型语言模型）会做出突破性科学研究的人，我有好消息（或坏消息）：LLMs在这项任务上特别、极其、非常不适合。（如果你是研究人员，你早就注意到了）原因如下：

突破性研究需要走一条完全新颖且意想不到的方向，这个方向大家早就认为是愚蠢的，或找到一些非常新的实验数据，这意味着我们必须改变我们的理论。LLMs不能进行实验，所以我们将重点放在第一个方面。仅仅说“LLMs不能推理”是不够的，因为显然它们能做一些人类会用推理来做的事情。但LLMs首先是模糊子图匹配机器（在大规模上）。

换句话说，LLMs主要通过在其训练集中的概念进行模糊查找和插值来工作。由于搜索的模糊性和训练集的规模，这可以产生一些相当令人印象深刻的结果。但是！任何时候我尝试探索即使稍微违背普遍接受的信念的东西，LLMs总是只会重述普遍接受的信念。作为研究人员，我发现这种行为比无用还要糟糕。它给人一种误解，认为没有什么值得探索的。

公平地说，这不仅仅是LLMs的问题。这在研究界也是如此。例如，Planet Money的最新一期节目中采访了一位诺贝尔奖获得的经济学家，当他首次发表结果时，审稿人称他为“骗子”。但有些人类，有些时候，能够顽强而创造性地探索超出常规的想法，即使没有人支持他们。例如Katalin Karikó。

由于LLMs是模糊子图匹配器，它们只是在插值已经存在的东西，并且它们在训练集中最常见的东西上权重很大——这不是那个大家认为不会起作用的疯狂想法！那么，如何在研究中利用LLMs呢？我知道有两种好方法：利用LLMs的插值能力，通过给它大量的半随机和/或不断变化的提示，并有一个自动答案检查器；或者，给LLMs精心制作的一组想法，并让它帮助你考虑和构建它们的含义。告诉LLMs“我们只是在头脑风暴”可以帮助它朝着插值不太常见的子图方向发展。例如，AlphaGeometry就成功地使用了这些想法。

我的信息是：LLMs在与人类结合时效果最好。这意味着最值得兴奋（或害怕）的不是计算机本身的力量，而是计算机与人类结合的力量……这正是Douglas Engelbart在1962年指出的！他当时的结论是，我们需要一个“紧急”的人类能力增强计划。也许我们应该关注这个？

我想说两件我坚持做的事情，当时所有专家都告诉我这是愚蠢的：一是使用利润优化进行保险定价，而不是经典的精算分析。我基于这个想法创办了一家成功的公司，今天每个人都在使用我的方法。精算师们当时告诉我这是愚蠢的；二是对一个大规模通用语料库进行训练，然后对下游任务进行微调。今天这几乎是所有NLP的标准方法，但当时我的NLP朋友们告诉我这肯定行不通，所以不用尝试。

所以我确实知道做突破性科学研究需要什么——而这与LLMs的训练内容非常非常不同！

https://x.com/jeremyphoward/status/1807162701380223070

OmniParse：将非结构化数据转化为结构化、可操作的数据

📢 启动 OmniParse 📢

将非结构化数据 ➡️ 转化为结构化、可操作的数据

✨输入：📄文档 🌄图像 🎥媒体 🕸️网页

✨输出：干净的结构化数据

为需要高质量数据的 AI 项目而设计

完美解决方案！

https://x.com/adithya_s_k/status/1807506838935789603

Shreyas分享：Exa如何实现亿级向量搜索

Exa如何实现亿级向量搜索？

我们结合了二进制量化、Matryoshka嵌入、SIMD和IVF，构建了一种新系统，可以超越像HNSW这样的替代方案。

@shreyas4_ 今天在 @aiDotEngineer 世界博览会上介绍了我们的方法！⬇️

https://x.com/ExaAILabs/status/1806444570210934949

推特神人使用Rust，从零构建GPT-2

wh：用 Rust 从零开始构建 GPT-2，仅使用标准库 :)

https://x.com/nrehiew_/status/1807382306115789254

Karpathy评价爆火越南工作室视频：操作系统能否在设备上检测活体，证明屏幕背后是真人？

iOS和Android操作系统能否在设备上进行某种机器学习来检测活体，并以安全、私密的方式加密签名/认证行为来自一个真实的人？

https://x.com/karpathy/status/1807137244735767012

Shubham Saboo分享：使用AIOS免费利用其他人的计算机运行Llama3

在世界上最大的点对点网络上运行Llama-3，利用其他人的计算机进行AI代理（100%免费）

https://x.com/Saboo_Shubham_/status/1807239508653715656

产品

Plus

Plus AI 是一款针对 PowerPoint 的 AI 辅助制作工具，可以帮助用户在几分钟内生成专业水准的演示文稿。它直接集成在 PowerPoint 软件中，无需学习新的工具，提供大量模板和布局选择，并支持上传自定义模板。相比于聊天机器人的操作方式，Plus AI 提供了更加原生的 PowerPoint 集成体验，非常适合用于商业演示、销售会议、企业培训等场景。

https://www.plusdocs.com/

Respired.io

Respired.io 是一个面向初创企业和中小企业的 AI 驱动社交媒体管理平台。它旨在解决企业在社媒管理方面的痛点，提供自动生成内容、排程发布、数据分析等功能。创始人 Justin 认为市面上的社媒管理工具要么价格过高，要么功能过于复杂，因此成立了 Respired.io 提供一个简单实用、低成本的解决方案。