一、引言
pipeline(管道)是huggingface transformers库中一种极简方式使用大模型推理的抽象,将所有大模型分为音频(Audio)、计算机视觉(Computer vision)、自然语言处理(NLP)、多模态(Multimodal)等4大类,28小类任务(tasks)。共计覆盖32万个模型
今天介绍CV计算机视觉的第一篇,深度估计(depth-estimation),在huggingface库内有106个图片深度估计的模型。
深度估计是一种计算机视觉任务,旨在从2D图像估计深度。该任务需要输入RGB图像并输出深度图像。深度图像包括关于从视点到图像中的物体的距离的信息,该视点通常是拍摄图像的相机。
2014年之前,采用传统的方法进行深度估计,2014年之后采用深度学习方法,同时分为监督和半监督/无监督两条roadmap。
首先看一下基于深度学习方法depth-estimation的开山之作Depth Map Prediction from a Single Image using a Multi-Scale Deep Network
模型架构使用堆叠的卷积层预测,该论文发表于2014年,早于VGG,所以网络结构遵循AlexNet的设计。其希望捕捉全局信息和布局信息,蓝色框部分用于得到粗略的全局信息,而且Coarse 5和Coarse 6部分使用的是全连接层;橙色框部分处理原图和得到的全局信息,最终预测得到深度图。训练过程分为两步,第一步先训练coarse网络,然后冻结之后再训练fine网络。
再看2024年较火的由港大&字节提出用于任意图像的深度估计大模型:Depth Anything
str
或ModelCard
,可选)— 属于此管道模型的模型卡。str
,可选)— 要使用的框架,"pt"
适用于 PyTorch 或"tf"
TensorFlow。必须安装指定的框架。str
,默认为""
)— 管道的任务标识符。int
,可选,默认为 8)— 当管道将使用DataLoader(传递数据集时,在 Pytorch 模型的 GPU 上)时,要使用的工作者数量。int
,可选,默认为 1)— 当管道将使用DataLoader(传递数据集时,在 Pytorch 模型的 GPU 上)时,要使用的批次的大小,对于推理来说,这并不总是有益的,请阅读使用管道进行批处理。int
,可选,默认为 -1)— CPU/GPU 支持的设备序号。将其设置为 -1 将利用 CPU,设置为正数将在关联的 CUDA 设备 ID 上运行模型。您可以传递本机torch.device
或str
太str
或torch.dtype
,可选) - 直接发送model_kwargs
(只是一种更简单的快捷方式)以使用此模型的可用精度(torch.float16
,,torch.bfloat16
...或"auto"
)bool
,可选,默认为False
)——标志指示管道的输出是否应以序列化格式(即 pickle)或原始输出数据(例如文本)进行。str
、List[str]
或PIL.Image
)List[PIL.Image]
——管道处理三种类型的图像: 管道可以接受单张图片或一批图片,然后必须以字符串形式传递。一批图片必须全部采用相同的格式:全部为 http 链接、全部为本地路径或全部为 PIL 图片。
float
,默认为 None)— 等待从网络获取图像的最长时间(以秒为单位)。如果为 None,则不设置超时,并且调用可能会永远阻塞。将http链接中的两只猫咪图片进行深度估计
采用pipeline代码如下
import os
os.environ["HF_ENDPOINT"] = "https://hf-mirror.com"
os.environ["CUDA_VISIBLE_DEVICES"] = "2"
from transformers import pipeline
depth_estimator = pipeline(task="depth-estimation", model="LiheYoung/depth-anything-base-hf")
output = depth_estimator("http://images.cocodataset.org/val2017/000000039769.jpg")
output["depth"].save("depth.png")
print(output)
output中的结果为
{'predicted_depth': tensor([[[26.3997, 26.3004, 26.3929, ..., 24.8488, 24.9059, 20.0686],
[26.2260, 26.2093, 26.3428, ..., 24.8447, 24.6682, 24.6084],
[26.0719, 26.0483, 26.1255, ..., 24.7053, 24.6745, 24.5809],
...,
[43.2635, 43.2344, 43.2892, ..., 39.0545, 39.2170, 39.0817],
[43.3637, 43.2703, 43.3899, ..., 39.1390, 38.9937, 39.0317],
[38.7509, 43.2192, 43.4387, ..., 38.5407, 38.3691, 35.3691]]]), 'depth': <PIL.Image.Image image mode=L size=640x480 at 0x7FAA9F2E5CD0>}
将Image类型的图片保存并打开
基于此深度估计图片,我们可以进行上色等处理。
在huggingface上,我们将深度估计(depth-estimation)模型按下载量从高到低排序:
本文对transformers之pipeline的深度估计(depth-estimation)从概述、技术原理、pipeline参数、pipeline实战、模型排名等方面进行介绍,读者可以基于pipeline使用文中的代码极简的使用计算机视觉中的深度估计(depth-estimation)模型,应用于3D建模、自动驾驶距离测算等。