苹果加大Siri的A投入；OpenAI首次开发者大会；LLMs从例子中学习；TokenFlow挑战Gen2？Seona搞定SEO

产业资讯

苹果公司正在通过生成式 AI 大力投入Siri的改进工作

苹果公司增加了用于开发 AI 的预算，重点是为Siri创建对话式聊天机器人功能，据称每天在研究和开发上花费数百万美元。

OpenAI首次开发者大会

OpenAI将于2023年11月6日在旧金山举办首届DevDay开发者大会。这次活动将预览新工具并促进思想交流，吸引全球数百名开发者。目前，超过200万开发者通过OpenAI不断更新的API使用GPT-4和DALL·E等工具。

发布Falcon 180B模型

来自阿联酋的Falcon模型长期以来一直是最好的开放模型。最新的180B参数模型略胜于Llama 2 70B，并具有2k的上下文窗口。这些模型在历史上一直是可以调整的。然而，考虑到资源需求，目前不清楚社区是否会采用这个最新模型。

工程研究

减少RLHF中PPO的内存使用

PPO在RLHF中是一个痛点，因为你需要有3个浮动的模型。然而，它们都保持紧密联系，只需要相互之间的小更新。LoRA应运而生。如果你使用适配器，你可以显著降低内存成本而不会损失性能。这个想法的简单之美令人赞叹。

在Jax中模拟订单簿

金融机构使用一种称为限价订单簿的东西来维护他们平台上交易的所有信息。这很有用，但通常在CPU上运行，这使得在它们上面运行RL变得困难。本文介绍了如何创建一个在GPU上运行的订单簿，它使用JAX编写。

增强语音驱动的3D面部动画

这项研究深入探讨了由语音驱动的3D面部动画的复杂性，突出了两个重要方面：改变面部随时间移动的全局因素（组合性质）以及基于局部肌肉的不同面部部分如何独立移动（区域性质）。

使视频化身适应不同的光线和背景

ReliTalk是一项很棒的技术突破，它可以让我们的视频化身在改变光线或背景时看起来自然。它使用一个视频和你的声音来创建一个3D面部模型。

LLMs能否从一个例子中学习？

看起来AI模型能够在只看一次例子后迅速记住数据集中的例子。这一惊人的成就与神经网络的样本效率相左，与以往关于神经网络样本效率的大部分智慧相悖。

一种新方法来判断两张相似图片是否真正显示了同一个3D对象

Doppelgangers是一种新的技术工具，可以帮助确定两张看起来几乎相同的图片是否实际上显示了相同的3D对象。它聪明到足以避免甚至人类可能犯的错误。

‍

效率资源

‍

TokenFlow

使用预训练的文本到图像模型来编辑视频会产生梦幻般和奇怪的结果。TokenFlow更加流畅，并且保持了原始视频的许多语义和结构特征。它几乎似乎胜过了Runway Gen-2。

Comgra

这是一个用于PyTorch的库，使得检查神经网络的内部更加容易。

Seona

Seona是一个旨在优化你的搜索引擎优化的 AI 助手。