Hugging Face 推出跨模型统一工具调用 API
Hugging Face 在 Transformers 中推出统一的工具调用 API,同一套代码可在 Mistral、Cohere、NousResearch 和 Llama 等模型家族间通用,无需或只需极少模型专属改动。
推荐理由:原文给出了统一工具调用 API 的用法与完整示例,读者可据此把同一套代码迁移到多个模型家族。
AI 产品与应用的功能上新、改版与商业化动态——谁家的产品变强了、变贵了、能用了。
Hugging Face 在 Transformers 中推出统一的工具调用 API,同一套代码可在 Mistral、Cohere、NousResearch 和 Llama 等模型家族间通用,无需或只需极少模型专属改动。
推荐理由:原文给出了统一工具调用 API 的用法与完整示例,读者可据此把同一套代码迁移到多个模型家族。
OpenAI 在 API 中推出结构化输出(Structured Outputs),模型输出现在可以可靠地遵循开发者提供的 JSON Schema。
推荐理由:OpenAI 在 API 中引入结构化输出,模型输出可稳定遵循开发者提供的 JSON Schema,便于构建可靠的下游流程。
OpenAI 正在测试 SearchGPT,这是新搜索功能的临时原型,可提供快速及时的答案并附上清晰相关的来源。
推荐理由:OpenAI 官方公布搜索功能原型 SearchGPT 的测试信息,可了解其定位与信息来源呈现方式。
Hugging Face 为 TGI 推出 Multi-LoRA 服务,只需部署一次基础模型,即可按请求中的 adapter_id 动态调用多个 LoRA 适配器。
推荐理由:Hugging Face 官方给出 TGI Multi-LoRA 的部署步骤与成本数据,读者可据此评估单次部署承载多适配器的可行性。
Mistral AI 在 la Plateforme 上线模型定制功能,提供三个入口:开源微调代码库 mistral-finetune、平台上的无服务器微调服务,以及面向特定客户的定制训练服务。
推荐理由:Mistral 同时给出开源微调代码库与托管微调服务,读者可据此比较自建与托管两条落地路径。
Hugging Face 发布 Transformers Agents 2.0,在原有 agent 类型之上新增两种可基于历史观察迭代的 agent,并加入社区 agent 分享功能。
推荐理由:官方披露了 Agents 2.0 的模块化设计与 GAIA 榜单成绩,读者可据此判断开源智能体框架的可用边界。
OpenAI 宣布 GPT-4 API 正式开放(general availability),GPT-3.5 Turbo、DALL·E 和 Whisper API 也同步正式开放。同时公布旧版 Completions API 模型的弃用计划,这些模型将于 2024 年初退役。
推荐理由:官方说明 GPT-4 API 正式开放,并给出旧版 Completions 模型的退役时间表,便于开发者安排迁移。
OpenAI 宣布让用户无需注册即可直接使用 ChatGPT,以便更多人体验 AI 带来的好处。
推荐理由:OpenAI 官方说明 ChatGPT 无需注册即可使用,读者可据此了解其降低使用门槛的具体做法。
Hugging Face 面向 Enterprise Hub 组织推出 Train on DGX Cloud,可在 Hub 内直接调用 NVIDIA H100 GPU 微调 Llama、Mistral、Stable Diffusion 等模型。
推荐理由:原文给出了无代码微调的具体操作路径与按分钟计费价格,读者可据此判断企业团队接入 H100 训练的成本与门槛。
Mistral AI 发布对话助手 le Chat Mistral,作为与 Mistral 各模型交互的对话入口,底层可调用 Mistral Large、Mistral Small 或原型模型 Mistral Next。同时推出面向企业的 le Chat Enterprise,支持自部署和细粒度审核机制,le Chat 目前以 beta 形式开放注册,暂不能联网,可能给出不准确或过时信息。
推荐理由:Mistral 官方给出对话助手的模型选择、企业自部署与审核机制,可据此判断其产品定位。
OpenAI 正在测试 ChatGPT 记住用户讨论内容的能力,以便让后续对话更有帮助。用户对 ChatGPT 的记忆拥有控制权。
推荐理由:OpenAI 官方说明 ChatGPT 记忆功能的测试范围与用户控制方式,可了解其数据留存边界。
OpenAI 宣布推出 GPT Store。
OpenAI 推出新的 ChatGPT 订阅方案 ChatGPT Team,面向各种规模的团队,提供安全、可协作的工作空间,帮助团队在工作中充分利用 ChatGPT。
推荐理由:OpenAI 推出面向团队的 ChatGPT 订阅方案,读者可了解其安全协作工作区的定位。
Mistral AI 开放首个平台服务 La Plateforme 的 beta 访问,提供三个生成文本的 chat 端点和 Mistral-embed 嵌入端点,各端点性能与价格取舍不同。
推荐理由:Mistral AI 开放首个平台服务测试,给出三个生成端点和嵌入端点的模型、价格与基准表现,可据此判断其 API 能力边界。
OpenAI 推出 GPTs,用户现在可以创建自定义版本的 ChatGPT,把指令、额外知识和任意技能组合在一起。
推荐理由:OpenAI 开放自定义 ChatGPT 的入口,读者可据此了解提示词、知识与技能组合的搭建方式。
OpenAI 宣布 DALL·E 3 现已在 ChatGPT Plus 和 Enterprise 中可用。为准备更广泛的发布,OpenAI 为 DALL·E 3 开发了一套安全缓解措施,并同步分享了其在内容溯源研究方面的进展。
推荐理由:OpenAI 官方说明 DALL·E 3 已进入 ChatGPT Plus 与 Enterprise,并同步交代安全缓解措施与溯源研究进展。
OpenAI 宣布 ChatGPT 现在可以看、听和说。
OpenAI 推出 ChatGPT Enterprise,主打企业级安全与隐私,并称其为迄今最强大的 ChatGPT 版本。
推荐理由:OpenAI 官方发布企业版 ChatGPT,读者可了解其面向企业的安全隐私定位与能力版本。
OpenAI 宣布开发者现在可以自带数据对 GPT-3.5 Turbo 进行微调,以适配自己的使用场景,同时更新了 API。
推荐理由:OpenAI 开放 GPT-3.5 Turbo 微调,开发者可用自有数据定制模型,值得关注其对应用落地方式的影响。
Hugging Face 发布 Swift Transformers,用于在 Apple 设备上运行端侧 LLM。