Loading [MathJax]/jax/output/CommonHTML/config.js
前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >【LLM】最简单理解嵌入(Embedding)概念及其应用

【LLM】最简单理解嵌入(Embedding)概念及其应用

原创
作者头像
Freedom123
发布于 2024-05-02 12:55:29
发布于 2024-05-02 12:55:29
9310
举报
文章被收录于专栏:AIGCAIGC

toc


嵌入是我们遇到的许多技术中看不见但很重要的一部分。从互联网搜索引擎,到推荐系统和广告个性化,再到图像、视频以及语音和声音识别技术的高级分析,嵌入无处不在。在本文中,我们将解释嵌入是如何工作的,以及它们如何促进和丰富我们的日常技术体验。正如我上面提到的,向量嵌入是一种流行的技术,它以一种可以被算法(尤其是深度学习模型)轻松处理的格式(通常作为数值向量)表示信息,这些“信息”可以是文本、图片、视频和音频。

例如,将单词“dog”转换为数字向量表示可能如下所示:

决定嵌入质量和有效性的一个关键因素是嵌入维度。通常,术语“词嵌入的维度”是指用于定义单词向量表示的维度总数。这个数字通常是在单词嵌入的发展过程中建立的,它表示单词的向量表示中包含多少个不同的特征。对于文本嵌入,这些向量的构造方式可以捕获文本的语义含义。这确保了传达相似含义的单词或句子在嵌入空间(通常称为向量空间)中彼此靠近。

假设我们有一个只有两个维度的空间 - x, y,其中 x 代表性别,y 代表活动。

假设现在,通过问“谁在走路?”这个问题,嵌入将搜索在y维度中包含“走路”句子的向量。

我们可以观察到,“走路”这句话与一个女人、一个男人、一个男孩和一个女孩有关。这意味着他们都在走路。因此,我们得到了答案:一个女人,一个男人,一个男孩和一个女孩在走路。 一个非常简化的例子,只有两个维度的含义。实际上,这样的维度越多,我们的嵌入就越能更好地猜测保存的句子作为单词或短语的含义。

我正在参与2024腾讯技术创作特训营最新征文,快来和我瓜分大奖!

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
.NET 云原生架构师训练营(模块二 基础巩固 MongoDB API重构)--学习笔记
将业务从controller 抽取到 Lighter.Application 层,并为业务建立抽象接口 Lighter.Application.Contract层
郑子铭
2021/01/07
5150
.NET 云原生架构师训练营(模块二 基础巩固 MongoDB API重构)--学习笔记
.NET 云原生架构师训练营(权限系统 代码重构)--学习笔记
新增 AuthenticationController 用于登录和注册;登录会颁发 jwt token,包含用户的 claims 和 role 的 claims
郑子铭
2022/02/21
3500
.NET 云原生架构师训练营(权限系统 代码重构)--学习笔记
.NET 云原生架构师训练营(模块二 基础巩固 EF Core 更新和迁移)--学习笔记
乐观处理:系统认为数据的更新在大多数情况下是不会产生冲突的,只在数据库更新操作提交的时候才对数据作冲突检测(推荐)
郑子铭
2020/12/31
6000
.NET 云原生架构师训练营(模块二 基础巩固 EF Core 更新和迁移)--学习笔记
.NET 云原生架构师训练营(权限系统 代码实现 WebApplication)--学习笔记
创建 ResourceController,通过 ResourceManager 获取所有 Resource
郑子铭
2022/02/21
3190
.NET 云原生架构师训练营(权限系统 代码实现 WebApplication)--学习笔记
.NET MongoDB数据仓储和工作单元模式封装
在.NET开发中,MongoDB作为一种高性能、灵活的NoSQL数据库,常用于存储和管理大量数据。为了更好地组织代码结构,提高开发效率和代码可维护性,可以将数据访问层与业务逻辑层解耦,使用数据仓储(Repository)模式和工作单元(UnitOfWork)模式来封装MongoDB数据库操作。数据仓储模式通过抽象出通用的CRUD方法,使业务逻辑层无需关心数据的存储细节;工作单元模式则负责协调多个仓储操作,统一管理事务,确保数据的一致性。
郑子铭
2025/01/22
1540
.NET MongoDB数据仓储和工作单元模式封装
.NET 云原生架构师训练营(KestrelServer源码分析)--学习笔记
理解 KestrelServer 如何接收网络请求,网络请求如何转换成 http request context(C# 可识别)
郑子铭
2022/01/17
3080
.NET 云原生架构师训练营(KestrelServer源码分析)--学习笔记
.NET Core MongoDB数据仓储和工作单元模式实操
  上一章节我们主要讲解了MongoDB数据仓储和工作单元模式的封装,这一章节主要讲的是MongoDB用户管理相关操作实操。如:获取所有用户信息、获取用户分页数据、通过用户ID获取对应用户信息、添加用户信息、事务添加用户信息、用户信息修改、用户信息删除等实战教程。
追逐时光者
2023/04/17
7710
.NET Core MongoDB数据仓储和工作单元模式实操
.NET 云原生架构师训练营(模块二 基础巩固 EF Core 介绍)--学习笔记
一个工作单元在一个事务范围内保留所有对数据库的变更,在这个工作单元结束的时候一次性提交所有改动到数据库
郑子铭
2020/12/27
9910
.NET 云原生架构师训练营(模块二 基础巩固 EF Core 介绍)--学习笔记
.NET 云原生架构师训练营(模块二 基础巩固 MongoDB 问答系统)--学习笔记
在范式化的情况下需要在进行多次查询再拼装数据,或者使用 lookup,即跨表查询;反范式化的情况下可以直接查出相关数据
郑子铭
2021/01/05
3570
.NET 云原生架构师训练营(模块二 基础巩固 MongoDB 问答系统)--学习笔记
.NET Core MongoDB数据仓储和工作单元模式封装
上一章我们把系统所需要的MongoDB集合设计好了,这一章我们的主要任务是使用.NET Core应用程序连接MongoDB并且封装MongoDB数据仓储和工作单元模式,因为本章内容涵盖的有点多关于仓储和工作单元的使用就放到下一章节中讲解了。仓储模式(Repository )带来的好处是一套代码可以适用于多个类,把常用的CRUD通用方法抽象出来通过接口形式集中管理,从而解除业务逻辑层与数据访问层之间的耦合,使业务逻辑层在存储、访问数据库时无须关心数据的来源及存储方式。工作单元模式(UnitOfWork)它是用来维护一个由已经被业务修改(如增加、删除和更新等)的业务对象组成的列表,跨多个请求的业务,统一管理事务,统一提交从而保障事物一致性的作用。
追逐时光者
2023/04/28
1.5K0
.NET 云原生架构师训练营(组合模式)--学习笔记
在上一篇执行 _connectionDelegate 之后,HttpConnectionMiddleware 处理请求
郑子铭
2022/01/06
3860
.NET 云原生架构师训练营(组合模式)--学习笔记
.NET 云原生架构师训练营(模块二 基础巩固 路由与终结点)--学习笔记
2.3.3 Web API -- 路由与终结点 路由模板 约定路由 特性路由 路由冲突 终结点 ASP.NET Core 中的路由:https://docs.microsoft.com/zh-cn/a
郑子铭
2020/12/22
4450
.NET 云原生架构师训练营(模块二 基础巩固 路由与终结点)--学习笔记
.NET 云原生架构师训练营(模块二 基础巩固 Host)--学习笔记
2.2.4 核心模块--Host 什么是 Host Host 的默认配置做了哪些事情 框架提供的服务 HostedService 后台服务 ASP.NET Core Web 主机:https://do
郑子铭
2021/01/13
3590
.NET 云原生架构师训练营(模块二 基础巩固 RabbitMQ Masstransit 详解)--学习笔记
消费者的类型包括:普通消费者,saga,saga 状态机,路由活动(分布式追踪),处理器 handlers,工作消费者 job comsumers
郑子铭
2021/01/28
6080
ASP.NET 6 使用工作单元操作 MongoDB
最近工作中需要用到MongoDB的事务操作,因此参考了一些资料封装了一个小的组件,提供基础的CRUD Repository基类 和 UnitOfWork工作单元模式。今天,就来简单介绍一下这个小组件。
Edison Zhou
2023/07/21
3590
ASP.NET 6 使用工作单元操作 MongoDB
.NET 云原生架构师训练营(ASP .NET Core 整体概念推演)--学习笔记
ASP .NET Core 其实就是通过 web framework 处理 HTTP 请求并提供 HTTP 响应
郑子铭
2021/12/30
3190
.NET 云原生架构师训练营(ASP .NET Core 整体概念推演)--学习笔记
.NET 云原生架构师训练营(模块二 基础巩固 EF Core 查询)--学习笔记
加载相关数据:https://docs.microsoft.com/zh-cn/ef/core/querying/related-data/
郑子铭
2020/12/30
1.2K0
.NET 云原生架构师训练营(模块二 基础巩固 EF Core 查询)--学习笔记
.NET 云原生架构师训练营(模块二 基础巩固 MongoDB 写入和查询)--学习笔记
https://docs.mongodb.com/manual/tutorial/insert-documents/
郑子铭
2021/01/02
7180
.NET 云原生架构师训练营(模块二 基础巩固 MongoDB 写入和查询)--学习笔记
小范笔记:ASP.NET Core API 基础知识与Axios前端提交数据
跟同事合作前后端分离项目,自己对 WebApi 的很多知识不够全,虽说不必要学全栈,可是也要了解基础知识,才能合理设计接口、API,方便与前端交接。
痴者工良
2019/07/04
5.7K0
.NET 云原生架构师训练营(模块二 基础巩固 Host)--学习笔记
2.2.4 核心模块--Host 什么是 Host Host 的默认配置做了哪些事情 框架提供的服务 HostedService 后台服务 ASP.NET Core Web 主机:https://do
郑子铭
2020/12/17
5610
.NET 云原生架构师训练营(模块二 基础巩固 Host)--学习笔记
推荐阅读
.NET 云原生架构师训练营(模块二 基础巩固 MongoDB API重构)--学习笔记
5150
.NET 云原生架构师训练营(权限系统 代码重构)--学习笔记
3500
.NET 云原生架构师训练营(模块二 基础巩固 EF Core 更新和迁移)--学习笔记
6000
.NET 云原生架构师训练营(权限系统 代码实现 WebApplication)--学习笔记
3190
.NET MongoDB数据仓储和工作单元模式封装
1540
.NET 云原生架构师训练营(KestrelServer源码分析)--学习笔记
3080
.NET Core MongoDB数据仓储和工作单元模式实操
7710
.NET 云原生架构师训练营(模块二 基础巩固 EF Core 介绍)--学习笔记
9910
.NET 云原生架构师训练营(模块二 基础巩固 MongoDB 问答系统)--学习笔记
3570
.NET Core MongoDB数据仓储和工作单元模式封装
1.5K0
.NET 云原生架构师训练营(组合模式)--学习笔记
3860
.NET 云原生架构师训练营(模块二 基础巩固 路由与终结点)--学习笔记
4450
.NET 云原生架构师训练营(模块二 基础巩固 Host)--学习笔记
3590
.NET 云原生架构师训练营(模块二 基础巩固 RabbitMQ Masstransit 详解)--学习笔记
6080
ASP.NET 6 使用工作单元操作 MongoDB
3590
.NET 云原生架构师训练营(ASP .NET Core 整体概念推演)--学习笔记
3190
.NET 云原生架构师训练营(模块二 基础巩固 EF Core 查询)--学习笔记
1.2K0
.NET 云原生架构师训练营(模块二 基础巩固 MongoDB 写入和查询)--学习笔记
7180
小范笔记:ASP.NET Core API 基础知识与Axios前端提交数据
5.7K0
.NET 云原生架构师训练营(模块二 基础巩固 Host)--学习笔记
5610
相关推荐
.NET 云原生架构师训练营(模块二 基础巩固 MongoDB API重构)--学习笔记
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档