大语言模型，算力共享-腾讯云开发者社区

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

大语言模型，算力共享

大语言模型和算力共享

专栏成员

26

文章

2775

阅读量

16

订阅数

6G；网络6G和5G区别联系；太赫兹通信技术

腾讯技术创作特训营S8

假设一个城市正在构建一个智能交通系统，该系统需要实时收集和处理来自各个交通节点的数据，以实现交通流量的优化和事故的预防。在5G网络的支持下，该系统已经能够实现大部分功能，但在高峰时段或复杂交通环境下，可能会出现数据传输延迟或拥堵的情况。而在6G网络的支持下，由于具有更高的传输速率和更低的延迟，该系统将能够更快速、更准确地收集和处理数据，从而实现更高效的交通管理和更安全的道路环境。

2024-08-21

930

星际文件系统优点和原理

腾讯技术创作特训营S8

在IPFS中，文件一旦被存储是不能在系统中修改的，因为修改文件会改变文件的哈希值。

2024-08-20

1010

腾讯技术创作特训营S8

ZKRollup，全称为Zero-Knowledge Rollup，是一种基于零知识证明的二层扩容方案（Layer 2）。它旨在通过提高交易处理效率和降低交易成本来扩展区块链网络的能力，尤其是在以太坊等区块链平台上得到了广泛应用。以下是对ZKRollup的简单说明：

2024-08-15

1210

零知识证明；Halo2原理；举例说明算术电路、转换为约束系统、多项式承诺举例形式和数值；PLANK算术化；

腾讯技术创作特训营S8

零知识证明（Zero-Knowledge Proof，简称ZKP）是一种密码学工具，允许互不信任的通信双方之间证明某个命题的有效性，同时不泄露任何额外信息。这种技术最初由莎菲·戈德瓦塞尔、S.Micali及C.Rackoff在20世纪80年代初提出，其核心在于证明者能够在不向验证者提供任何有用信息的情况下，使验证者相信某个论断是正确的。

2024-08-14

1210

腾讯技术创作特训营S8

GitHub地址：GitHub - bbycroft/llm-viz: 3D Visualization of an GPT-style LLM

2024-08-13

870

GPU的并发技术原理，实际案例说明；matrixMul==6000，k=6000

腾讯技术创作特训营S8

以CUDA（Compute Unified Device Architecture，英伟达推出的统一计算架构）为例，介绍GPU在矩阵乘法中的应用。

2024-08-12

890

Transformer模型注意力机制；层归一化（Layer Normalization）

腾讯技术创作特训营S8

中，有几个关键的公式和概念需要解释，包括注意力机制（Attention Mechanism）和层归一化（Layer Normalization）。以下是详细的解释：

2024-08-10

1320

MLP：全连接神经网络的并行执行

腾讯技术创作特训营S8

为了继续解释这段代码，我们需要做一些假设和补充，因为原始代码片段中DummyModel、Shard和mx.array的具体实现没有给出。不过，基于常见的编程模式和深度学习框架的惯例，我们可以推测这些组件的大致功能和目的。

2024-08-09

860

激活函数的实质作用：是调节结果分布，使结果趋于0或1，明确结果吗；归一化的实质作用，先归一化，再能激活码？；MLP权重（Weights）、偏置（Bias）；

腾讯技术创作特训营S8

首先，我们需要澄清“LN Agg: μ, o”这一表述可能存在一定的误解或混淆，因为在深度学习和机器学习的上下文中，并没有直接对应的标准术语“LN Agg”。不过，我们可以从字面和可能的理解角度来解释，并结合“Layer Norm”来给出答案。

2024-08-08

940

Transformer中多头是串行链接还是并行连接的；多头注意力与并行计算能力

腾讯技术创作特训营S8

在Transformer模型中，多头注意力（Multi-Head Attention）的多个“头”是并行连接的。这种设计允许模型在不同的表示空间中并行地计算多个注意力机制，从而能够捕捉输入序列中不同方面的信息。

2024-08-07

1280

多层次算力网络及计算卸载系统

腾讯技术创作特训营S8

针对提出的云雾混合多层次算力网络及计算卸载系统，我们可以从以下几个方面进行详细阐述：

2024-08-06

1240

llama神经网络的结构，llama-3-8b.layers=32 llama-3-70b.layers=80； 2000汉字举例说明

腾讯技术创作特训营S8

Llama神经网络（或模型）的结构通常涉及多个层次，用于处理输入数据并逐步提取高级特征，最终用于分类、回归或其他类型的预测任务。虽然直接针对“Llama神经网络”的详细结构可能因具体实现而异，但我可以基于一般性的深度学习模型结构，特别是卷积神经网络（CNN）和循环神经网络（RNN）的变体，以及NLP（自然语言处理）中常见的模型结构，来概述一个可能的Llama神经网络结构，并说明每层输入输出的大小。

2024-08-05

950

io.net 是什么，DePIN（去中心化物理基础设施网络）

腾讯技术创作特训营S8

io.net是一个基于Solana网络的去中心化GPU分配基础设施。以下是关于io.net的详细介绍：

2024-08-04

880

OpenStack；异构算力网络架构；算力服务与交易技术；服务编排与调度技术

腾讯技术创作特训营S8

OpenStack由多个核心组件组成，每个组件都有其特定的功能和作用，以下是一些主要组件的举例：

2024-08-03

990

算力共享和联邦学习的关系

腾讯技术创作特训营S8

算力共享和联邦学习之间存在着紧密的关系，它们都是现代数据处理和机器学习领域中的重要概念，尤其在处理大规模数据和保护数据隐私方面发挥着关键作用。

2024-08-02

1200

区块链技术和系统；ZKRollup ；区块链交易打包和审查

腾讯技术创作特训营S8

区块链技术作为一种去中心化、不可篡改且高度安全的分布式账本技术，近年来在金融科技、供应链管理、物联网、版权保护、投票系统等多个领域展现出了巨大的应用潜力。以下是拥有区块链研究经验可能涵盖的一些关键方面：

2024-08-01

1210

英伟达A100 GPU的核心数，Tesla系列

腾讯技术创作特训营S8

GeForce RTX是英伟达（NVIDIA）公司旗下的一个高端显卡系列。其中，“GeForce”是英伟达推出的显卡品牌，广泛应用于游戏、图形设计、视频编辑等多个领域，以其出色的图形处理能力和性能而著称。“RTX”则代表了该系列显卡所具备的特殊技术和功能，具体来说，“RTX”是Ray Tracing Texel eXtreme的缩写，意味着光线追踪技术的极致表现。

2024-07-31

1790

算力共享中：负载监控系统；多维度调度策略

腾讯技术创作特训营S8

每 5 秒采集一次所有集群上的负载信息（CPU 指标、内存、存储 I/O、网络 I/O、GPU 各项指标以及作业进程对 GPU 的使用等），支持监控数据存放于 Elasticsearch 或 Prometheus 数据库中。

2024-07-30

750

SRv6 和IGP／BGP协议区别

腾讯技术创作特训营S8

SRv6（Segment Routing over IPv6）和IGP（Interior Gateway Protocol，内部网关协议）/BGP（Border Gateway Protocol，边界网关协议）在网络架构和功能上存在显著差异。下面分别介绍它们的定义、作用及区别：

2024-07-29

1250

算力服务标识封装

腾讯技术创作特训营S8

随着云计算和边缘计算的快速发展，算力服务成为网络架构中的重要组成部分。然而，传统的网络架构往往将IP层作为数据转发的核心，这使得算力服务的部署和管理受到IP层限制。为了解决这一问题，算力服务标识封装技术应运而生，旨在实现算力服务与IP层的解耦，提升算力服务的灵活性和可扩展性。

2024-07-28

780

点击加载更多

社区活动

【纪录片】中国数据库前世今生

穿越半个世纪，探寻中国数据库50年的发展历程

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·千货材料·成员作品最新动态