Lucene系列(12)索引格式之nvm文件

本文使用 Lucene 代码版本：8.7.0

前言

本文学习一下。nvm 文件的格式与内容。

nvm 与 nvd 文件配合存储了索引中的标准化相关信息。其中 nvm 存储了元数据，nvd 文件存储了标准化后的值及相关 docId 信息。

.pay 文件整体结构

字段解释：

1. Entry: 一个 field 的标准化信息

1. FileNumber: 域的编号
2. docsWithFieldOffset: 这个域有值的所有 docId, 在 nvd 文件中开始存储的文件指针，注意有两个特殊值。-1 代表每个文档在这个域都有值，-2 代表所有文档在这个域都没有值。
3. docsWithFieldLength: 这个域有值的所有 docId，存储在 nvd 文件中的长度。如果 docsWithFieldOffset 为-1/-2 两个特殊值，那么这个值为 0.
4. jumpTableEntryCount: 把这个域有值的所有 docId 存储为了多少个块。
5. DenseRankPower: 存储所有的 docId 的时候，使用密集策略的话，存储的块的大小的是 2 的多少次幂。
6. numBytesPerValue: 每一个值占用的字节数量，因此采用的增量编码，所以使用 docId 的最大最小值的差值，来决定使用 byte, short, int, long 的哪种。
7. minDocId: 如果每一个值占用的字节数量为 0, 说明所有的 docId 是一样，也就是说只有一个 doc。在这里记录最小值，就意味着存储了所有的 docID.
8. normsOffset: 如果不是所有 docId 都一样，也就是说有多个 docId。那么这里存一下所有的标准化值在 nvd 文件中存储的起始文件位置。

相关写入代码分析

nvm 及 nvd 文件的写入全部在org.apache.lucene.codecs.lucene80.Lucene80NormsConsumer类中。

初始化

在该类的构造函数中，进行了初始化及 Header 的写入。

addNormsField

在org.apache.lucene.codecs.lucene80.Lucene80NormsConsumer#addNormsField中进行了全部的内容写入。

具体内容都在注释里，不再赘述。

结语

比较简单，罗列一下。

完。