用asp.net core结合fastdfs打造分布式文件存储系统

yum -y install vim wget unzip

yum install -y gcc-c++ perl

unzip libfastcommon-master.zip

cd libfastcommon-master/

./make.sh && ./make.sh install

#### 第五步 修改配置文件
切换到配置文件目录下
```shell

查看所有配置文件
 使用ls命令就行了
 

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/4ow1vz8qvr.png?qc_blockWidth=720&qc_blockHeight=22)

去除所有的.sample后缀

```javascript

我们再次使用ls命令查看
 

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/rmscnb1n1t.png?qc_blockWidth=580&qc_blockHeight=17)

可以看到我们已经去除了所有的.sample后缀
 下一步，创建文件夹，分别创建client，storage，tracker文件夹

```javascript

##### client.config配置

下面我们开始配置文件修改，首先修改的是clietn.conf,使用vim编辑器进行文件的编辑

```javascript

使用 :set number 显示行数
 修改第11行，确定日志文件的存储路径，这里用我们刚刚创建client文件夹路径

>  base\_path = /home/software/fastdfs/data/client
>  

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/pssw75pqcx.png?qc_blockWidth=494&qc_blockHeight=74)

修改第22 行，tracker的地址与端口，根据实际情况进行修改，我的是192.168.1.14。

>  这里貌似有两个tracker\_server,毕竟是单机版部署因此我这里注释了一个
>  tracker\_server = 192.168.1.14:22122
>  

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/ysv6w3qmr2.png?qc_blockWidth=376&qc_blockHeight=102)

修改号之后记得保存修改！

##### storage.conf修改

下面我们修改storage.conf。同上是用vim进行修改
 首先我们修改下11行的分组设置

>  group\_name = group1
>  

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/b25ef7qw2r.png?qc_blockWidth=334&qc_blockHeight=47)

接下来修改49行的基础路径，这里也用上面我们已经创建的路径

>  base\_path = /home/software/fastdfs/data/storage
>  

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/yf7fobnlig.png?qc_blockWidth=393&qc_blockHeight=107)

修改第129行的storage路径。

>  store\_path0 = /home/software/fastdfs/data/storage
>  注意：这里提示下：存储路径的顺序很重要，不要弄乱了，
>  基础路径应该独立于存储路径，即尽量让这两个路径不一样。这里我设置了一样
>  

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/fkvdxxi54o.png?qc_blockWidth=584&qc_blockHeight=119)

修改第145行 ，配置tracker的IP地址与端口。至于如何填写这个地址，上面配置client.conf的时候，我们就已经说过了。

>  tracker\_server = 192.168.1.14:22122
>  

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/zb24zsfts2.png?qc_blockWidth=367&qc_blockHeight=63)

##### tracker.conf 配置

现在修改tracker.conf文件
 修改第23行，修改tracker的基础路径。这个路径的文件夹我们刚刚在上面已经创建过了

>  base\_path = /home/software/fastdfs/data/tracker
>  

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/xnh30plkak.png?qc_blockWidth=402&qc_blockHeight=64)

修改第57行 归属组设置

>  store\_group = group1
>  

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/obdnyh4itm.png?qc_blockWidth=528&qc_blockHeight=71)

#### 第六步 启动tracker 与storage

启动tracker

```javascript

启动storage

```javascript

测试是否启动成功，我们尝试上传文件。我的root文件夹下有一张图片

```javascript

如上图所示表示上传成功。

#### 第七步 安装nginx访问图片

这里由于服务器已经安装了nginx，因此需要在现有的nginx的版本基础上安装新的fastdfs的模块。，安装方法可能略有不同
 首先查看下nginx的版本

```javascript

这里需要注意一下，如果你服务器上没有安装过nginx则需要先安装nginx的依赖，然后再进行安装

```javascript

如下图所示：
 

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/yd26nfb5cj.png?qc_blockWidth=416&qc_blockHeight=69)

因此我们需要下载对应版本的源码

```javascript

解压安装包

```javascript

下载nginx的fastdfs模块，这里我已经帮大家把这个项目github地址整理好了。
 [astdfs-nginx-module](https://github.com/happyfish100/fastdfs-nginx-module)
 这这里我们可以先下载到自己电脑上，再上传服务器。
 进行解压

```javascript

这里由于我们已经安装了nginx，因此需要备份之前的nginx防止出现问题进行还原

```javascript

切换到nginx压缩包的解压目录里面去

```javascript

进行配置检测并且添加模块

```javascript

>  --prefix : nginx的安装目录
>  --add-module：解压后模块所在目录，记得要加上src
>  

执行如下命令进行nginx的重新编译,如果之前已经安装了nginx则不能执行install，否则会覆盖之前的配置文件,也可以在安装后再把之前的配置覆盖过来。

```javascript

拷贝编译后的nginx到原来的安装目录

```javascript

重启nginx

```javascript

切换至fastdfs的解压包里面去

```javascript

进行文件的复制

```javascript

切换至fastdfs-nginx-module的解压目录下面

```javascript

进行配置文件的复制

```javascript

##### mod\_fastdfs.conf配置

修改/etc/fdfs下面的mod\_fastdfs.conf配置文件

```javascript

修改 40行，更改tracker的ip地址与端口

>  tracker\_server=192.168.1.14:22122
>  

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/9khximzix3.png?qc_blockWidth=444&qc_blockHeight=60)

修改48行的group\_name

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/e5tgka18p2.png?qc_blockWidth=383&qc_blockHeight=63)

修改53行 url地址中是否包含组名，如果链接中包含group则需要设置为true

```javascript

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/i0wdyqhosa.png?qc_blockWidth=630&qc_blockHeight=111)

修改62行 storage所在目录

```javascript

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/xrd021fimc.png?qc_blockWidth=582&qc_blockHeight=88)

保存修改。

##### nginx修改

这里注意，每个笨的配置文件存储的方式不同，此步骤可能有所不同。
 进行nginx配置文件的修改，我们可以切换到nginx的安装目录下面。也可以直接输入如下命令

>  注意：这里我的nginx版本为1.16.1，配置文件为conf.d下面的所有的\*.conf文件。因此我的输入命令如下：
>  

```javascript

进行nginx.conf的修改，如下图所示：

```javascript

  server {

      listen       8888;

      server_name  192.168.1.93;

      location ~/group([0-9])/M00 {

          #root   html;

          #index  index.html index.htm;

          root    /home/software/fastdfs/data/storage/data;

          ngx_fastdfs_module;

      }

  }

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/8r0vpcud6k.png?qc_blockWidth=500&qc_blockHeight=318)

多个group的配置

当配置多个组，且mod\_fastdfs.conf 里面指定了url\_have\_group\_name= true 时，配置方式:

```javascript

 root /home/software/fastdfs/data/storage/data;

 ngx_fastdfs_module;

比如:在group1上的 nginx 的nginx.conf 配置是

```javascript

 root /home/software/fastdfs/data/storage/data;

 ngx_fastdfs_module;

比如:在group2上的 nginx 的nginx.conf 配置是

```javascript

 root /home/software/fastdfs/data/storage/data;

 ngx_fastdfs_module;

查看nginx的配置文件是否有效

```javascript

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/hov3gdnltv.png?qc_blockWidth=555&qc_blockHeight=61)

显示 is ok没有任何问题，现在启动nginx。这里我配置为开机自动启动

```javascript

依照上面的方式，我们重新上传一张图片。并进行访问
 测试是否启动成功，我们尝试上传文件。我的root文件夹下有一张图片

```javascript

上传成功，访问下面的地址
 

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/znqctjoqzu.png?qc_blockWidth=1058&qc_blockHeight=697)

#### 路径说明

group1：表示这张图片被保存在了哪个组当中，
 M00：代表磁盘目录，如果电脑只有一个磁盘那就只有M00， 如果有多个磁盘，那就M01、M02...等等。
 00/00：代表磁盘上的两级目录，每级目录下是从00到FF共256个文件夹，两级就是256\*256个。
 wKgBE1r-fICAcd3kAAHY-4ojheI481.jpeg表示被存储到storage上的test.jpeg被重命名的名字，这样做的目的是为了防止图片名字重复。
 我们到单机版的数据目录下查看一下是否有我们刚才上传的图片，发现是有的返回的图片信息中明确说明了存储在了group1下面。

### FastDFS集群版的安装

这里集群版的安装是在单机版的基础上安装的。

#### 机器准备

| IP | 作用 | 模块 |
|:----|:----|:----|
| 192.168.1.14 | storage(group1)    tracker1 | fastdfs+nginx+fastdfs-nginx-module |
| 192.168.1.15 | storage(group1) | fastdfs+nginx+fastdfs-nginx-module |
| 192.168.1.16 | storage(group2)   tracker2 | fastdfs+nginx+fastdfs-nginx-module |
| 192.168.1.93 | storage(group2) | fastdfs+nginx+fastdfs-nginx-module |
| 192.168.1.197 | VIP（对外提供服务） | nginx |


#### 安装步骤

##### 软件准备

在所有服务器上创建如下目录用来存储需要安装的软件包

```javascript

在tracker1上下载所需要的软件安装包，并放在如下目录下

```javascript

查看如下所示：
 

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/4qbsoexcem.png?qc_blockWidth=587&qc_blockHeight=252)

进入对应的文件夹并拷贝对应的文件到其他几台服务器上：

```javascript

在storage服务器及tracker服务器都创建如下的文件夹，用来存放fastdfs的数据及日志文件

```javascript

在所有服务器上执行·如下命令安装相关工具

```javascript

在所有sotrage及tracker服务器上执行如下命令安装相关依赖

```javascript

##### 安装

这些操作需要在所有storage及tracker服务器上都进行操作

##### storage及tracker服务器安装libfastcommon

在需要安装fastdfs的storage及tracker服务器上安装libfastcommon
 这里我们进入安装文件目录~/fastdfs/，执行如下命令，解压并编译安装：

```javascript

出现如下图所示则表示安装成功
 

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/h23425amj8.png?qc_blockWidth=800&qc_blockHeight=111)

##### storage及tracker服务器安装fastdfs

在需要安装fastdfs的storage及tracker服务器上安装fastdfs
 这里我们进入安装文件目录~/fastdfs/，执行如下命令，解压并编译安装：

```javascript

进行文件的复制

```javascript

##### 修改配置文件

切换到配置文件目录，并执行如下命令去除所有的.sample后缀：

```javascript

修改client.config配置

>  需要测试的时候才需要配置此client.conf配置
>  

```javascript

修改内容如下：

```javascript

vim修改storage.conf 
 修改内容如下：

```javascript

vim修改tracker.conf配置

>  这里只有tracker服务器才需要配置此配置及 14跟16
>  

修改内容如下：

```javascript

##### 安装nginx

只有sotrage服务器及vip服务器需要安装nginx用来提供文件的访问
 在安装nginx前需要安装相关的依赖并下载对应的源码，执行如下命令。此文件也保存到文件安装目录

```javascript

解压nginx的fastdfs模块,并进入到文件夹下进行配置文件的复制

>  nginx的fastdfs模块在所有storage服务器上进行安装
>  

```javascript

进入到nginx源码目录，进行配置检测并添加对应的fastdfs模块。然后进行nginx的安装

```javascript

##### mod\_fastdfs.conf配置

vim修改/etc/fdfs下面的mod\_fastdfs.conf配置文件

```javascript

##### nginx配置修改

只有sotrage服务器及vip服务器需要安装，
 group1的服务器需要新增如下server配置，root路径为storage的data路径

```javascript

  server {

      listen       8888;

      server_name  192.168.1.93;

      location /group1/M00 {

          #root   html;

          #index  index.html index.htm;

          root    /home/software/fastdfs/storage/data;

          ngx_fastdfs_module;

      }

  }

group2的服务器上新增如下server配置，root路径为storage的data路径

```javascript

  server {

      listen       8888;

      server_name  192.168.1.93;

      location /group2/M00 {

          #root   html;

          #index  index.html index.htm;

          root    /home/software/fastdfs/storage/data;

          ngx_fastdfs_module;

      }

  }

vip服务器的nginx配置如下：

```javascript

server 192.168.1.14:8888 weight=1 max_fails=2 fail_timeout=30s;

server 192.168.1.15:8888 weight=1 max_fails=2 fail_timeout=30s;

server 192.168.1.16:8888 weight=1 max_fails=2 fail_timeout=30s;

server 192.168.1.93:8888 weight=1 max_fails=2 fail_timeout=30s;

listen       80;

server_name  192.168.1.197;

#charset koi8-r;

#access_log  /var/log/nginx/host.access.log  main;

#设置默认路径

location / {

    root   html;

    index  index.html index.htm;

}

#设置 group 的负载均衡参数

location /group1/M00 {

    proxy_set_header Host $host;

    proxy_set_header X-Real-IP $remote_addr;

    proxy_pass http://fdfs_group1;

}

location /group2/M00 {

    proxy_set_header Host $host;

    proxy_set_header X-Real-IP $remote_addr;

    proxy_pass http://fdfs_group2;

}

查看nginx的配置文件是否有效

```javascript

显示 is ok没有任何问题，现在启动nginx。这里我配置为开机自动启动

```javascript

依照上面的方式，我们重新上传一张图片。并进行访问
 测试是否启动成功，我们尝试上传文件。我的root文件夹下有一张图片

```javascript

上传成功，访问下面的地址
 

![请在此添加图片描述](https://ask.qcloudimg.com/http-save/yehe-1181323/jb3b2oopkk.png?qc_blockWidth=1058&qc_blockHeight=697)

### asp.net core操作FastDFS

这里的微服务是基于abp vnext的。只是在应用层进行相关的服务开发。这里需要说明下，这里我是使用工厂模式，根据配置来创建对应的文件操作提供者，进而对对应的文件服务器上的文件进行操作的。这里我只摘录FastDFS相关的代码供大家参考。

#### 第一步 安装对应的nuget包

这里我用的是更新时间相对比较近下载量相对比较多的作者的nuget包，

```javascript

#### 第二步，编写一个FastDFSProvider

具体的代码如下所示：

```javascript

/// 功能介绍:FastDFS提供者

/// 作者:lzhu

/// 创建日期:2020/4/23 19:54:35

/// </summary>

{

    /// <summary>

    /// 提供程序名称

    /// </summary>

    public string ProviderName => "FastDFS";

    //配置

    private readonly FastDFSConfig _fastDFSConfig;

    /// <summary>

    /// 构造函数

    /// </summary>

    /// <param name="fastDFSConfig">注入配置数据</param>

    public FastDFSProvider(FastDFSConfig fastDFSConfig)

    {

        _fastDFSConfig = fastDFSConfig ?? throw new ArgumentNullException(nameof(fastDFSConfig));

        string[] trackers = fastDFSConfig.Trackers.Split(',', StringSplitOptions.RemoveEmptyEntries);

        var trackerIPs = new List<IPEndPoint>();

        foreach (var onetracker in trackers)

        {

            trackerIPs.Add(new IPEndPoint(IPAddress.Parse(onetracker), fastDFSConfig.Port));

        }

        ConnectionManager.Initialize(trackerIPs);

    }

    /// <summary>

    /// 通过文件名删除对应的文件

    /// </summary>

    /// <param name="objectName">对象名称</param>

    /// <param name="groupName">分组名称</param>

    /// <returns>是否成功</returns>

    public async Task<bool> DeleteObjectByNameAsync(string objectName, string groupName = "")

    {

        RestoreFileName(objectName, out string fileName, out groupName);

        await FastDFSClient.RemoveFileAsync(groupName, fileName);

        return true;

    }

    /// <summary>

    /// 获取网关连接

    /// </summary>

    /// <returns>网关连接</returns>

    public Task<string> GetGateWayUrl() => Task.FromResult(_fastDFSConfig.GateWayUrl);

    /// <summary>

    /// 获取对象二进制数组

    /// </summary>

    /// <param name="groupName">组名称</param>

    /// <param name="objectName">对象名称</param>

    /// <returns>对象的二进制数组</returns>

    public async Task<byte[]> GetObjectByteAsync(string objectName, string groupName = "")

    {

        RestoreFileName(objectName, out string fileName, out groupName);

        var storageNode = await GetStorageNodeAsync(groupName);

        return await FastDFSClient.DownloadFileAsync(storageNode, fileName);

    }

    /// <summary>

    /// 获取对象流

    /// </summary>

    /// <param name="groupName">组名称</param>

    /// <param name="objectName">对象名称</param>

    /// <returns>对象流</returns>

    public async Task<Stream> GetObjectStreamAsync(string objectName, string groupName = "")

    {

        RestoreFileName(objectName, out string fileName, out groupName);

        var storageNode = await GetStorageNodeAsync(groupName);

        FDFSFileInfo fileInfo = await FastDFSClient.GetFileInfoAsync(storageNode, fileName);

        Stream stream = new MemoryStream();

        int limit = 1024 * 100;//每次获取100KB的数据

        //如果文件大小大于100KB  分次写入

        if (fileInfo.FileSize >= limit)

        {

            long offset = 0;

            long len = limit;

            while (len > 0)

            {

                byte[] buffer = await FastDFSClient.DownloadFileAsync(storageNode, fileName, offset, len);

                stream.Write(buffer, 0, int.Parse(len.ToString()));

                stream.Flush();

                offset += len;

                len = (fileInfo.FileSize - offset) >= limit ? limit : (fileInfo.FileSize - offset);

            }

        }

        else

        {

            //如果文件大小小小于100KB  直接写入文件

            byte[] buffer = await FastDFSClient.DownloadFileAsync(storageNode, fileName);

            stream.Write(buffer, 0, buffer.Length);

            stream.Flush();

        }

        stream.Seek(0, SeekOrigin.Begin);

        return stream;

    }

    /// <summary>

    /// 存储文件

    /// </summary>

    /// <param name="objectByte">对象</param>

    /// <param name="objectName">对象名</param>

    /// <param name="groupName">分组</param>

    /// <returns></returns>

    public async Task<string> StoreObjectByteAsync(byte[] objectByte, string objectName, string groupName = "")

    {

        var storageNode = await GetStorageNodeAsync("");

        var filePath = await FastDFSClient.UploadFileAsync(storageNode, objectByte, Path.GetExtension(objectName));

        return storageNode.GroupName + "/" + filePath;

    }

    /// <summary>

    /// 存储文件

    /// </summary>

    /// <param name="objectStream">文件流</param>

    /// <param name="objectName">对象名</param>

    /// <param name="groupName">分组</param>

    /// <returns>文件路径</returns>

    public async Task<string> StoreObjectStreamAsync(Stream objectStream, string objectName, string groupName = "")

    {

        var storageNode = await GetStorageNodeAsync("");

        var filePath = await FastDFSClient.UploadFileAsync(storageNode, objectStream, Path.GetExtension(objectName));

        return storageNode.GroupName + "/" + filePath;

    }

}

#### 第三步 在分布式配置中心中进行配置

这里的分布式配置中心中进行FastDFS的配置如下：

```javascript

"StoreType": "FastDFS",

"FastDFS": {

  "Trackers": "192.168.1.14,192.168.1.16",

  "Port": 22122,

  "GateWayUrl": "http://192.168.1.197"

}

#### 第四步 文件提供者工厂方法中加入FastDFS的处理

工厂方法根据上面配置中的`StoreType`从而知道对应的存储是往FastDFS集群进行存储的，进而再加载对应的FastDFS的配置，然后创建上面的FastDFSProvider。
 主要代码摘录如下：

```javascript

var rondsDFSSection = _configuration.GetSection("ObjectStorage:RondsDFS");

if (rondsDFSSection == null)

   throw new ArgumentNullException("RondsDFS is not configured![OObjectStorage:RondsDFS]");

    StorageProvider = _serviceProvider.GetRequiredService<RondsDFSProvider>();

    break;

 }