6 ^! J* I% s2 \. z" Q 作者：Pieterluitjens
* `8 b/ v/ G2 G& [6 J8 o0 d
参与：一鸣、嘉明、思
0 K7 z4 N |+ Q. B
你的数据处理影响整个训练速度，如果加上英伟达 DALI 库，处理速度比原生 PyTorch 也能快上四倍。
: r" m+ G/ G; E' V6 x# e# s1 F 
: X! ^- V4 e3 {& U" N* F
3 @; K7 m) I$ k! n3 R/ S2 A! h
打开凤凰新闻，查看更多高清图片
- g- e5 V# \+ r3 d
0 Y D: I3 |8 N6 y# w% K+ R 深度学习的加速上，除了对训练和推理过程的加速之外，还有对数据加载和预处理阶段的加速。这一阶段也尤为关键，因为数据处理 pipeline 的处理速度也影响着整体的流程效率。
: I% W8 o4 e7 N9 ~
近日，有开发者介绍了如何使用 NVIDIA Data Loading Library（DALI），以及使用这个库进行数据预处理加速的方法。DALI 和 TensorFlow 自带的 DataLoader 类似，是一个专门用于加速数据预处理过程的库。
% g; [7 g5 D3 Q5 U1 v1 g! y* Z) F
在一篇博客中，开发者表示，该库不仅可以进行 GPU 加速，也可以在 CPU 上构建一个完整的数据预处理流程。如果在 Tesla V100 上做测试，PyTorch+DALI 的处理速度能达到 4000 images/s，比原版 PyTorch 要快近 4 倍。
! @& f/ {( K- \ 支持多个框架，针对预处理
% H* I# R0 q0 _ 英伟达数据加载库 DALI 是一个便捷式开源库，用于图像或视频的解码及增强，从而加速深度学习应用。通过并行训练和预处理过程，减少了延迟及训练时间，并为当下流行的深度学习框架中的内置数据加载器及数据迭代器提供了一个嵌入式替代器，便于集成或重定向至不同框架。
: ~3 W8 M+ M, e2 ? 开发人员可以在 GPU 上运行他们的数据处理通道，从而减少训练神经网络的时间。而 DALI 实现了数据处理 pipeline 可移植，因为可以轻松地重定向至 TensorFlow，PyTorch 和 MXNet。
3 X' @) Z* \$ }4 V9 O/ _% C) Y' u5 Z 
- S# S8 E' _- Z( v/ H- ?# M DALI 设计之初就是用来帮助用户突破数据预处理的瓶颈，使得模型的训练和推理能够达到最高的效率。其主要设计是用于在 GPU 上的预处理，但大多数操作也可在 CPU 上实现。
0 i) B% @3 p4 v2 f8 b7 [% B! m
主要特征
3 ?, x5 D/ C( \6 w
易于使用的 Python API
v4 |% x0 m8 v
在多个 GPU 之间显式地缩放
( ^ D, x/ y* f9 Y0 G5 \# g- t9 F 加快图像分类（ResNet-50）和目标检测分类（SSD）工作流
3 i2 p# c1 Q% A m/ `% u 灵活的计算图使得开发人员可创建自定义的数据处理 pipeline
/ M* C# K- \2 ]+ k$ ]3 z% m' X7 h$ V 支持多种格式 - LMDB、RecordIO、TFRecord、COCO、JPEG、H.264 以及 HEVC
4 w% h! u9 O: y) y 开发人员可添加自定义的图像或视频处理 operator
3 w/ T( [0 X5 ^ 
( S. s: K5 t: \" Y3 r4 R/ F% O DALI 在 MXNet 上训练 ResNet50 的性能表现。
% H* L5 y- c. X/ y6 J 使用 DALI 重构数据预处理 pipeline
) j* Z! O# G; b: o/ A+ }0 z
内存占用大是 DALI 在加速数据预处理中面对的一个重要问题。随着批大小的上升，DALI 的内存占用会变得更大。这一问题现在还没有得到修复。
4 P* Z( r' p4 w. [7 p# x
: S4 X+ {) g* m7 e! X DALI 的内存占用问题。
+ x$ Y8 V* F) x8 V/ j! R. n
而和其他的数据预处理工具相比，DALI 能够最大处理的批大小相比 TorchVision 少了一半。
$ f( q! ~# R4 A' k- f& [
8 p0 V. U `8 h$ q# m4 S% [ 因此，使用 DALI 加速数据预处理需要重新构建整个 pipeline。在教程中，作者分别介绍了构建 CPU pipeline 和 GPU pipeline 的方法。
& X# _" `* C4 l9 m* R8 P; x7 D6 p- {* A
构建 CPU pipepline
% s8 Z% [" G2 q! S O# I9 f3 D6 H
使用 CPU 进行数据预处理的时候，常用的做法是让 CPU 处理解码和 resize 的工作，而 CropMirrorNormalize 这样的工作放到 GPU 上。由于使用 DALI 将输出传入 GPU 中就会占用很大的内存，因此作者构建了一个完全基于 CPU 的 pipeline。
( M* g8 o9 E3 S& I4 f 首先，重新加载并导入 DALI。
# s3 m1 W# M! l7 f. V4 Z 
3 O1 L F/ P J( [9 H
然后构建基于 CPU 的 pipeline。
; L S; P7 Y- ^# I: ^3 H; m+ o3 c
& |2 z+ J: {6 F4 k% v' [3 O
在这里设置一下哪些操作应当由 CPU 运行。
6 T8 u* k# W2 a; f$ c% E1 t" c% v
5 y7 g: {2 h8 b- s5 G) W& I$ J
然后开始相应的操作。如解码：
8 p+ f" M- n: h6 a, J6 z4 W
9 O7 W7 e% z' v 以及 resize：
6 x& y$ T9 I/ D 
1 Q* }! s) d- O4 W, _' [! `% q8 Z
CropMirrorNormalize 的操作由 GPU 进行。
% K- {2 L3 J2 D8 r- Z6 r! m 
( @) Z% j" R- f! x
当然，还需要从 CPU 到 GPU 的转移过程，这一过程使用 PyTorch 进行，作者在教程中也给出了相应的代码。
3 @8 m. n8 N( K
构建基于 GPU 的 pipeline
" p A5 y$ h) i5 A 当模型较大（如使用 ResNet50）的时候，基于 CPU 的 pipepline 效果较好，而在类似于 AlexNet 或 ResNet18 这样的小模型上，CPU 的处理还是跟不上 GPU 的数据处理速度。其主要原因在于，GPU pipeline 会降低近一半的批大小。
5 T6 U5 W1 v5 _& O+ Z+ Y; |( } 为了解决这个问题，作者建议将验证 pipepline 从 GPU 中关掉，直到每个 epoch 的最后需要的时候再开启。
; S0 x$ r9 m: L) c3 f& H 效果评价
, P1 `. T# L1 F( W0 \# Q
以下是作者在 ResNet18 中使用的最大批量大小：
; [: t0 g, }3 y! P 
* M7 P; r6 o$ Y! t+ Y 因此通过合理应用这一系列修改，DALI 可以使得最大批量大小在 CPU 或 GPU 模式下提升 50%
; }; n5 y" \4 F8 [$ f' W' ?: z% k6 I
而在 Shufflenet V2 0.5 上，如果批大小为 512，则 DALI GPU 和 CPU 能够处理的批大小如下：
% O% b) `5 Y, F! X% D6 E1 t& Z 
" _$ y4 ]' v: [6 ]
可以看到，即使是 CPU，其处理速度也达到了每秒 1800 张图像，速度超过了 TorchVision。
! C/ \1 i' ^. [- L& [
所有的测试都在 Google Cloud V100 实例下运行：包含 12 个 vCPU（6 个物理内核），78GB 内存，以及使用 ApexFP16 进行训练。
+ w5 O1 @) `6 D) K8 o- e2 H- v1 Q/ d
因此，通过 DALI，一个 Tesla V100 GPU 就可以达到将近每秒 4000 张图像。接近英伟达有 8 个 V100 GPU 的 DGX-1 的性能，尽管使用的是小模型。
- j; `3 Y5 B) ~
https://towardsdatascience.com/nvidia-dali-speeding-up-pytorch-876c80182440
8 |% [3 b0 E8 _$ ~" l5 X 加入机器之心（全职记者 / 实习生）：hr@jiqizhixin.com
, ~/ f) D8 K5 I& i 投稿或寻求报道：content @jiqizhixin.com
/ a0 \2 {4 Y& E" l1 r
广告 & 商务合作：bd@jiqizhixin.com
[; s0 {7 J* M( h; O' P4 Y4 ~
