【腾讯云HAI域探秘】如何使用搭建ChatGLM2服务

在这里插入图片描述

前言

腾讯云高性能应用服务 HAI 是为开发者量身打造的澎湃算力平台。无需复杂配置，便可享受即开即用的GPU云服务体验。在 HAI 中，根据应用智能匹配并推选出最适合的GPU算力资源，以确保您在数据科学、LLM、AI作画等高性能应用中获得最佳性价比。

HAI 服务优势

• 智能选型 ：根据应用匹配推选GPU算力资源，实现最高性价比。同时，打通必备云服务组件，大幅简化云服务配置流程。
• 一键部署 ：分钟级自动构建LLM、AI作画等应用环境。提供多种预装模型环境，包含如StableDiffusion、ChatGLM等热门模型。
• 可视化界面 ：友好的图形界面，AI调试更为简单

实操指导

进入算力管理

在这里插入图片描述

新建应用

在这里插入图片描述

应用创建中

在这里插入图片描述

选择

在这里插入图片描述

体验与 ChatGLM2-6B 简单的对话

在这里插入图片描述

选择jupyter_lab

在这里插入图片描述

选择终端

在这里插入图片描述

输入

apt-get update && apt-get install sudo
sudo apt-get update  
sudo apt-get install psmisc
sudo fuser -k 6889/tcp #执行这条命令将关闭 HAI提供的 chatglm2_gradio webui功能

开启API服务

cd ./ChatGLM2-6B
python api.py

总结

腾讯云高性能应用服务（HAI）是一款强大而便捷的GPU应用服务产品，为开发者和研究者提供了一个灵活、易于使用的平台。无论是0基础的开发者还是经验丰富的研究者，都可以通过HAI构建和管理高性能应用环境。HAI的智能匹配功能确保开发者获得最佳性价比的GPU算力资源，而一键部署特性和直观的图形界面则大大简化了开发和调试的过程。

腾讯云HAI域探秘为AI和科学计算领域带来更多创新和突破。无论是数据科学、深度学习模型训练还是人工智能应用，HAI都将成为您的强大伙伴，助您开创未来。

我正在参与2023腾讯技术创作特训营第三期有奖征文，组队打卡瓜分大奖！