首页
学习
活动
专区
圈层
工具
发布

#模型

燃气工程师的本地AI推理方案:Ollama三后端搭建实录

用户12619379

我是刘工,港华燃气工程部经理。上个月我写了一篇用 WorkBuddy+Obsidian 搭知识库的文章,收到不少同行私信,问得最多的不是知识库怎么搭,而是:

100

把"个人工作流"跑成自动化流水线——一周 WorkBuddy 实战心得

用户12122707

我是一名开发者,长期有个习惯:凡是重复超过两次的活,就想办法交给工具自动跑。本周(7/9—7/12)我在 WorkBuddy 上集中验证了这条思路——把"备份配...

1200

llm 训练脚本怎么写?平台启动怎么配?一文搞定

掘金安东尼

咱也是好起来了,作为兼具编程经验与项目经验的选手,开始着手类似 MCP 架构的大模型融入公司业务的落地项目。

500

从显存瓶颈到推理革命:vLLM 为何成为大模型服务的底层标配

掘金安东尼

很多开发者都有一个共识:当模型基座的性能逐渐趋同,真正决定 AI 产品落地效率和成本的,是推理层的工程化能力。

200

LLM API调用成本降80%?我踩过的坑和实战方案

用户12493922

2500

大模型比价:别再盲目烧钱,教你选对API

用户12493922

3100

理解人工智能与灵性起源

王瑞MVP

假设,我们有一个设备可以观察这些细胞的意识形态,并将这些意识形态作为一个随机数来使用。那么,这个细胞驱动的大模型,自然就是真正的意识体大模型。也就是真正的具备了...

1910

本地部署千问 2.5-1.5B-GGUF + LangChain 封装学习

王瑞MVP

本教程基于llama.cpp实现大模型本地轻量化部署,适配RTX 5060 8GB显卡,选用轻量级的千问 2.5-1.5B 对话模型,通过 GPU 加速保证运行...

2000

Windows平台下CUDA安装及llama.cpp使用教程

王瑞MVP

本文将详细讲解Windows平台下,如何安装与NVIDIA RTX显卡匹配的CUDA工具包,并正确配置、使用llama.cpp加载大模型,实现模型高效运行(将模...

1700

Windows 环境下 llama.cpp 编译 + Qwen 模型本地部署全指南

王瑞MVP

在大模型落地场景中,本地轻量化部署因低延迟、高隐私性、无需依赖云端算力等优势,成为开发者与 AI 爱好者的热门需求。本文聚焦 Windows 10/11(64 ...

1600
领券