Lines Matching refs:VEC_SIZE
46 # if VEC_SIZE > 16
59 # if VEC_SIZE > 16
66 #if VEC_SIZE == 64
67 # define LOOP_4X_OFFSET (VEC_SIZE * 4)
92 #if VEC_SIZE == 16 && IS_IN (libc)
132 cmpq $VEC_SIZE, %rdx
134 cmpq $(VEC_SIZE * 2), %rdx
137 VMOVU %VEC(0), -VEC_SIZE(%rdi,%rdx)
143 # if VEC_SIZE == 16
168 # if VEC_SIZE == 16
187 cmp $VEC_SIZE, %RDX_LP
189 cmp $(VEC_SIZE * 2), %RDX_LP
194 VMOVU %VEC(0), -VEC_SIZE(%rax, %rdx)
201 VMOVU %VEC(0), (VEC_SIZE * 2 + LOOP_4X_OFFSET)(%rcx)
202 VMOVU %VEC(0), (VEC_SIZE * 3 + LOOP_4X_OFFSET)(%rcx)
204 VMOVU %VEC(0), (VEC_SIZE * -2)(%rdi)
205 VMOVU %VEC(0), (VEC_SIZE * -1)(%rdi)
216 # if VEC_SIZE != 16 && VEC_SIZE != 32 && VEC_SIZE != 64
217 # error Unsupported VEC_SIZE!
226 cmpl $(PAGE_SIZE - VEC_SIZE), %edi
229 # if VEC_SIZE > 32
278 leaq -(VEC_SIZE * 4 + LOOP_4X_OFFSET)(%rdi, %rdx), %END_REG
284 VMOVU %VEC(0), VEC_SIZE(%rax)
292 cmpq $(VEC_SIZE * 4), %rdx
296 VMOVU %VEC(0), (VEC_SIZE * 2)(%rax)
297 VMOVU %VEC(0), (VEC_SIZE * 3)(%rax)
305 subq $-(VEC_SIZE * 4), %LOOP_REG
310 addq $-(VEC_SIZE * 4), %END_REG
311 cmpq $(VEC_SIZE * 8), %rdx
316 leaq (VEC_SIZE * 4)(%rax), %LOOP_REG
319 andq $(VEC_SIZE * -2), %LOOP_REG
323 VMOVA %VEC(0), (VEC_SIZE + LOOP_4X_OFFSET)(%LOOP_REG)
324 VMOVA %VEC(0), (VEC_SIZE * 2 + LOOP_4X_OFFSET)(%LOOP_REG)
325 VMOVA %VEC(0), (VEC_SIZE * 3 + LOOP_4X_OFFSET)(%LOOP_REG)
326 subq $-(VEC_SIZE * 4), %LOOP_REG
332 VMOVU %VEC(0), (VEC_SIZE + LOOP_4X_OFFSET)(%END_REG)
333 VMOVU %VEC(0), (VEC_SIZE * 2 + LOOP_4X_OFFSET)(%END_REG)
334 VMOVU %VEC(0), (VEC_SIZE * 3 + LOOP_4X_OFFSET)(%END_REG)
336 #if VEC_SIZE > 16
360 #if VEC_SIZE > 32
364 #if VEC_SIZE > 16
381 #if VEC_SIZE > 32
390 #if VEC_SIZE >= 32