当前位置：
【每日AI快讯】5月13日 周一
什么软件好05月13日 周一
💡 3倍生成速度还降内存成本，超越Medusa2的高效解码框架终于来了
上海交通大学和加利福尼亚大学的研究团队展示了如何将预训练的大型语言模型（LLMs）转变为高效的并行解码器，并介绍了一种新的并行解码器族，称为一致性大语言模型（CLLMs）。这些模型能够通过在每个推断步骤中高效地解码一个n -token序列来降低推断延迟。CLLMs通过简单地微调预训练的LLMs来模仿人类在头脑中形成完整句子后逐字表达的认知过程。具体而言，CLLMs通过将任何随机初始化的n -token序列映射到尽可能少的步骤中，产生与自回归（AR）解码相同的结果，来进行并行解码的训练。实验结果显示，使用该研究团队所提出的方法获得的CLLMs非常有效，在生成速度上显示出该方法获得了2.4倍至3.4倍的改进，与其他快速推断技术如Medusa2和Eagle相媲美甚至更好，且在推断时不需要额外的内存成本来容纳辅助模型组件。论文《CLLMs：Consistency Large Language Models》详细介绍了这一方法，并提供了一系列实验结果来支持其有效性。
💡 AlphaFold 3轻松应对核酸、脂类分子？科学家迫不及待地更新了评测
欧洲分子生物学实验室（EMBL）的科学家 Jan Kosinski 在 AlphaFold 3 发布后立即进行了测试，并发现该模型能够准确预测一个结构未知的转录因子的序列特异性。他还测试了 AlphaFold 3 对其他生物分子的预测能力，包括 DNA 序列和限制性内切酶。Kosinski 的实验显示，AlphaFold 3 在预测这些生物分子结构方面表现出色，但有时也存在局限性。例如，它无法准确预测限制性内切酶 BamHI 的序列，尽管有 5 种结构可用。这表明训练集中结构的存在并不能保证准确的预测。Kosinski 的实验结果引发了科学家们对 AlphaFold 3 在生物信息学领域的潜在应用的讨论和期待。相关内容可以在 Kosinski 的 Twitter 账号上找到。
💡 AI“数据荒”怎么办？微软、谷歌等公司正使用“合成数据”训练AI
合成数据是人工智能领域的一个新兴趋势，它通过人工智能模型生成数据来训练未来的系统迭代。这个过程可以更精确地控制用于训练人工智能系统的数据。合成数据在解决数据可用性、版权和隐私问题方面具有潜在优势，但同时也存在风险，如模型崩溃和偏见问题。目前，对于如何生成和使用合成数据的最佳做法尚无共识，需要进一步的研究和发展。人工智能研究人员和领域专家之间的合作对于充分利用人工智能开发合成数据的潜力至关重要。
💡 英国抢先发布AI模型安全检测工具 以识别和评估相关风险
英国人工智能安全研究所发布了名为Inspect的新测试平台，旨在加强监测先进AI模型的安全风险。该工具箱可以评估AI模型的核心知识、推理能力和自主能力，并给出了一个分数。Inspect通过开源许可证发布，免费供全球AI社区使用。它由数据集、求解器和计分器三个基本部分组成，可扩展并接纳新的测试技术。这显示了英国在AI安全领域的领导地位。
💡 可用 AI 写 Java 程序，甲骨文推出 Oracle Code Assist 编程助理
甲骨文公司最近推出了一款名为 Oracle Code Assist 的 AI 编程助理，专门用于帮助用户开发 Java 程序。该工具基于甲骨文的云端 Oracle Cloud Infrastructure（OCI）模型，旨在优化 Java、SQL 程序和 OCI 平台上的应用开发流程。Oracle Code Assist 经过多种软件库的训练，并通过甲骨文的软件进行微调，以提高编程效率。该编程助理可以处理代码生成、生成 API 文档、智能添加注释等工作，并能够帮助开发人员理解开发原理、查看或修改现有代码。此外，它还能提供修改建议，或生成 pull request 自动将代码更改合并到软件库中。企业用户还可以使用 Oracle Code Assist 实现一些高级功能，例如集成企业内部代码、框架和库，生成定制化代码，并根据企业程序的开发经验检查可能存在的代码错误和低效之处。
💡 人工智能会对经济造成全面影响？OpenAI 高管称现在下结论为时尚早
美联储主席杰罗姆-鲍威尔表示，生成式人工智能短期内可能不会促进生产力增长，因此有人认为当前 AI 的潜力被过度夸大。然而，OpenAI 首席运营官 Brad Lightcap 在彭博科技峰会上表示，现在下结论还为时过早，AI 的影响可能需要更长时间才能显现。他还开玩笑说，如果 OpenAI 停止所有未来的人工智能开发，其现有模式的全部影响还需要相当长的时间才能显现出来。抱抱脸（Hugging Face）CEO Clement Delangue 也表达了类似观点，认为人们可能会高估 AI 的短期影响，但低估了长期影响。此外，有消息称 OpenAI 计划在 5 月 13 日发布一款新型多模态人工智能模型，能够进行语音对话和物体识别。