前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >LotusDB 2.0 重磅发布!

LotusDB 2.0 重磅发布!

作者头像
roseduan
发布2023-09-12 18:04:45
2490
发布2023-09-12 18:04:45
举报
文章被收录于专栏:roseduan写字的地方

经过差不多两个月的重构,在社区小伙伴的共同协作努力下,LotusDB V2.0.0版本正式发布!

LotusDB 项目地址:https://github.com/lotusdblabs/lotusdb

LotusDB 是用 Go 语言编写的 KV 数据库,它采用 KV 分离的思想,融 LSM Tree 和 B+ Tree 存储模型为一体,适合大规模的 KV 数据存储,相较于 Go 语言领域知名的 KV 存储项目 badger 和 bbolt,LotusDB 具有更先进的设计架构。

这次我们通过两个月的重构,将 LotusDB 原来 V1 版本的代码基本上重新实现了一遍,目的在于提高简洁度。

LotusDB 的整体架构实现了全新升级,目的在于提升读写和压缩性能,下面是之前 V1 版本的架构图:

这是重构后的 V2 版本的架构图:

相对于 V1 版本,V2 版本主要有以下更新:

  • 新版本的所有磁盘存储(包括预写日志 WAL 和 Value Log)均直接采用 wal 组件(https://github.com/rosedblabs/wal)实现,代码屏蔽了底层管理文件读写的操作,更加简洁易懂
  • 新版本通过对 key 哈希分片的方式构建多个 Index 和 Value Log 对象,实现了 Index 和Value Log 的并发读写,读写和压缩性能相对于 V1 提升了 2~3 倍,这也是本次重构架构上最大的更新
  • TODO:另一大重要更新是将会引入新的基于磁盘的 Hash 索引,这样 LotusDB 将会支持磁盘 BTree 和 Hash 两种类型的索引,满足更多样化的场景(预计在下一次 Release 发布)
  • 新版本舍弃了 Column Family(CF) 的设计,目的在于使架构更加简洁,原来跨 CF 的操作并不能保证原子性,如果后续有需求的话将会重新设计这个 feature

毫不夸张的说,这是目前 Go 语言领域架构最先进的 KV 存储引擎项目,其优势主要体现在:

  • 结合了 LSM 和 B+ 树存储模型的优点,B+ 树读性能稳定,而 LSM 写吞吐高,LotusDB 在这基础上做了一个巨大的改动,就是采用 KV 分离的思想,完全舍弃掉 LSM 中的 SST 文件,改由 B+ 树来存储索引,而 value 存放则参考了 Wisckey 和 bitcask 模型的设计,以追加写的方式存储到单独的 value log 文件中,充分利用顺序 IO 的优势
  • 更加均衡和快速的读/写性能,写入 LotusDB 的数据不需要在磁盘上排序,追加写的 Value Log 设计在写入过程中减少了磁盘磁头的移动,因此即便是完全无序的数据,LotusDB 依然能够保持较高的吞吐量。同时 LotusDB 的读写性能更加均衡,而不会像bbolt 那样读写性能差距极大,适合读写都非常频繁的业务场景
  • 比典型的 LSM 低得多的读放大,LotusDB 采用 KV 分离的思路,从 B+ 树中获取 Key 对应 Value 在磁盘中的存储地址后,即可直接一步读取 Value 数据,显著降低了传统 LSM 存储模型带来的读放大问题
  • 更大规模的数据存储,和 LotusDB 的姊妹项目 RoseDB 相比,LotusDB 是一个基于磁盘索引的 KV 存储引擎,而 RoseDB 是 Bitcask 存储模型全内存索引,因此数据存储规模基本不受到内存大小的影响,因此更加适合大规模的数据存储
  • 支持崩溃恢复,LotusDB 实现了 WAL 机制,在将 KV 数据刷盘前就将事务日志进行持久性存储,数据库崩溃后依然能够从 WAL 中读取事务日志,保证事务的原子性
  • 数据并发式刷盘 LotusDB 通过将 key 进行哈希分片的机制,建立多个 Index 和 Value Log 对象,每一组 Index & Value Log 对象对应一个数据片,当 memory table 中的数据需要刷盘时,多个对象可以通过并发的方式实现刷盘,大大提升了刷盘的吞吐量

以下是 LotusDB 的简单使用示例,大家可以上手体验!

代码语言:javascript
复制
package main

import "github.com/lotusdblabs/lotusdb/v2"

func main() {
    // 指定设置
    options := lotusdb.DefaultOptions
    options.DirPath = "/tmp/lotusdb_basic"

    // 打开数据库
    db, err := lotusdb.Open(options)
    if err != nil {
        panic(err)
    }
    defer func() {
        _ = db.Close()
    }()

    // 写入键值对
    key := []byte("KV store engine")
    value := []byte("LotusDB")
    putOptions := &lotusdb.WriteOptions{
        Sync:       true,
        DisableWal: false,
    }
    err = db.Put(key, value, putOptions)
    if err != nil {
        panic(err)
    }

    // 读取键值对
    value, err = db.Get(key)
    if err != nil {
        panic(err)
    }
    println(string(value))

    // 删除键值对
    err = db.Delete(key, putOptions)
    if err != nil {
        panic(err)
    }

    // 启动Value Log压缩
    err = db.Compact()
    if err != nil {
        panic(err)
    }
}
本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2023-09-04 10:19,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 roseduan写字的地方 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
对象存储
对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档