tesseract引擎RVV代码学习笔记

  Tesseract 是一个开源的 OCR(Optical Character Recognition,光学字符识别)引擎,可将图像中的文本转换为机器可读的文本格式。由于组内曾经有同事为这个项目贡献了RVV(RISC-V Vector)的代码,我打算单独拎出来学习一下。

  PR链接在此:Add RISC-V V support by hleft · Pull Request #4346 · tesseract-ocr/tesseract。由于有一定的篇幅,我只挑了汇编部分来进行阅读。

static int DotProduct(const int8_t *u, const int8_t *v, int num) {   int total = 0;    asm __volatile__ (     "  .option       arch, +v                   nt"     "  vsetvli t0,zero,e32,m8,ta,ma             nt"     "  vmv.v.i v0,0                             nt"     "1:                                         nt"     "  vsetvli t0,%[num],e8,m2,ta,ma            nt"     "  vle8.v v16,0(%[u])                       nt"     "  vle8.v v24,0(%[v])                       nt"     "  sub %[num],%[num],t0                     nt"     "  vwmul.vv v8,v24,v16                      nt"     "  add %[u],%[u],t0                         nt"     "  add %[v],%[v],t0                         nt"     "  vsetvli zero,zero,e16,m4,tu,ma           nt"     "  vwadd.wv v0,v0,v8                        nt"     "  bnez %[num],1b                           nt"     "  vsetvli t0,zero,e32,m8,ta,ma             nt"     "  vmv.s.x v8,zero                          nt"     "  vredsum.vs v0,v0,v8                      nt"     "  vmv.x.s %[total],v0                      nt"     :  [u] "+r" (u),        [v] "+r" (v),        [num] "+r" (num),        [total] "+r" (total)     :     :  "cc", "memory"   );    return total; }

  这个函数主要用来实现一维向量乘积,采用了内嵌汇编的方式进行优化,除了用RVV汇编,还可以用封装好的riscv_vector.h接口,不过这里使用了最原始的汇编,我们分段阅读。

"  vsetvli t0,zero,e32,m8,ta,ma             nt" "  vmv.v.i v0,0                             nt"

  vsetvli是跟向量寄存器组有关的指令,这里设置向量长度为最大(zero表示根据配置自动计算),然后再对向量寄存器初始化为0。

"1:                                         nt" "  vsetvli t0,%[num],e8,m2,ta,ma            nt" "  vle8.v v16,0(%[u])                       nt" "  vle8.v v24,0(%[v])                       nt" "  sub %[num],%[num],t0                     nt"

  1这里表示进入了循环,用RVV的好处就是循环过程中步长会自动调整,比如说长度为18,如果每次步长为8,传统的SIMD需要8+8+3,8是可以用向量指令集去实现,但是3这里就需要采用普通for循环手写,但是RVV会自动忽略掉这个过程,不用担心越界,只需关注循环内部本身即可,因为硬件会根据情况自动调整为向量步长为3。另外,这里vsetvli加载了num操作数到t0寄存器,寄存器存的是向量步长,e8代表元素大小,相当于int8类型,因为函数参数传入的也是int8 *的指针。

"  vwmul.vv v8,v24,v16                      nt" "  add %[u],%[u],t0                         nt" "  add %[v],%[v],t0                         nt"

  vwmul.vv指令首先对v24和v16这两个向量寄存器组里面的元素求和,然后扩展位宽到16位,存到v8向量寄存器里面。之所以要扩展位宽,是因为8位的数乘8位的数可能会变成16位的数。add这里就是分别对传入的两个函数参数进行指针的移动。

"  vsetvli zero,zero,e16,m4,tu,ma           nt" "  vwadd.wv v0,v0,v8                        nt" "  bnez %[num],1b                           nt"

  到了这一步,vsetvli重新将操作数类型变为16位的,因为刚刚上面乘法的时候已经扩展为16位了。接着vwadd.wv将v8的结果累加到v0向量寄存器组,由于最后返回值是32位的,这里同样用了扩展位宽的加法。

"  vsetvli t0,zero,e32,m8,ta,ma             nt" "  vmv.s.x v8,zero                          nt" "  vredsum.vs v0,v0,v8                      nt" "  vmv.x.s %[total],v0                      nt"

  最后是这里,vsetvli重新调整向量寄存器中的元素为32位,接下来对v8清零,将v0寄存器组的所有元素归约求和到v0寄存器中,最后再将结果移到变量total当中,这个函数到此就实现完成了。

  这么看来,RVV在自动调整步长方面还是很有优势的(比起SIMD),不过由于汇编比较晦涩难懂,所以下次打算寻找RVV C-Intrinsics的代码进行解剖。

发表评论

您必须 [ 登录 ] 才能发表留言!

相关文章