首页
学习
活动
专区
圈层
工具
发布

#部署

大模型部署怎么做?从环境准备到推理服务上线的完整路径

克劳德2048

大模型部署的路径选择取决于控制粒度需求:需要定制推理代码走裸机自建,部署主流开源模型并快速对外提供服务选高性能应用服务 HAI,不需要私有部署则直接调用模型 A...

7000

WordPress 建站怎么选服务器?配置、带宽与一键部署全流程

gavin1024

HTTPS 配置可通过申请免费的 DV 型 SSL 证书完成,证书签发后按文档部署到服务器的 Web 服务配置中。部署完成后在 WordPress 后台将站点地...

7810

AI Agent 怎么部署到云端?从本地运行到 7×24 常驻的完整方案

克劳德2048

摘要: 本地运行的 AI Agent 关机即停,无法接收定时任务与远程消息。把 Agent 迁到腾讯云轻量应用服务器(Tencent Cloud Lightho...

6510

云开发部署失败怎么办?8 种常见原因与解法

克劳德2048

跨会话时还有个坑:AI 会话无记忆,第二次部署时它可能不知道上次用的是哪种部署方式。建议在项目里保留 cloudbaserc.json,把环境 ID 和部署方式...

9910

云开发 30 分钟做个人名片网页:从零到公网可访问

gavin1024

摘要: 用云开发 CloudBase 做个人名片网页,静态页面加 Web 托管即可,不用数据库也不用云函数。素材备好的话,从开通环境到拿到公网链接,30 分钟能...

8310

如何设计私有化部署的 Token 工厂的权限系统

宅蓝三木

私有化交付的 Token 工厂,权限问题很少从“角色怎么分”开始暴露,通常是从两个很具体的问题开始:

5210

OpenBao 实战笔记:从上手到生产部署(已更新至 v2.7.2)

张善友

为什么要立刻升到 2.7.2:2.7.1 和 2.7.2 一共修了 11 个安全漏洞,包括 AppRole 的 Secret ID 过期后仍能认证、Kubern...

11710

Komga私人漫画库教程:飞牛NAS部署、在线阅读与远程访问

fruge365

数量少时没什么问题,存得多以后就开始麻烦了。想找一部作品要翻目录,手机上想继续看还得先传文件;明明已经有自己的 NAS,漫画却还是停留在“文件管理”阶段。

11610

FDE 前沿部署:把通用平台变成客户现场可运行的价值

搜weiranit.fun

FDE 通常指 Forward Deployed Engineer,核心职责是深入客户环境完成方案设计、集成、部署、调优和交付验证。他与传统实施工程师的区别在于...

20010

一个产品助理的第一次服务器部署:Flask + Gunicorn + Nginx 踩坑记

用户12874083

我不是开发,本职是产品助理。前一阵需要做一个内部小工具:把几个系统里的数据拉出来,用一个简单的网页展示,方便同事查。

17310

FDE 前沿部署:把工程能力推到价值发生的地方

资源shanxueit.com

FDE 前沿部署的本质,不是把工程师“派出去”,而是把工程判断、部署能力和产品反馈推到价值发生的地方。它解决的是复杂产品在真实环境中落地时不可避免的“最后一公里...

11110

大模型选型指南:不同场景我该用哪个模型

编程小白狼

从 GPT-4o 到 Claude 3.5 Sonnet,从国内的 Qwen2.5 到 DeepSeek-V3,从开源社区的 Llama 3 到 Mistral...

10110

在AI开发平台上快速搭建一个原型应用

编程小白狼

搁以前,这种需求从想法到可演示的原型,至少要一周:搭后端、接大模型 API、写前端页面、部署……但这次我决定换一种方式——完全基于 AI 开发平台来做。

9710

本地部署大模型的成本和收益分析

编程小白狼

过去半年,我一直在纠结一个问题:对于团队内部的一些 AI 需求,到底是用云端的 API,还是自己买个显卡在本地跑?

21710

模型推理部署工具Ollama/vLLM/SGLang对比实战

编程小白狼

部署大模型,除了选模型本身,推理框架的选择同样关键。不同的框架在推理速度、显存占用、功能特性上差异巨大,选错了不仅浪费硬件资源,还会严重影响用户体验。

16710

HuggingFace生态工具使用指南

编程小白狼

但很多人在使用HuggingFace时,只用了它最基础的能力——下载模型。实际上,HuggingFace围绕AI开发构建了一整套工具链,覆盖了从数据准备到模型部...

12010

使用Dify快速搭建AI应用的实战经验

编程小白狼

今年年初,团队需要快速搭建几个AI应用原型——内部知识问答、智能客服、内容审核助手。如果用传统方式,每个应用都要从零开始搭建RAG、Agent、前端,周期至少2...

17520
领券