23   (__m256i)__builtin_ia32_mpsadbw256((__v32qi)(__m256i)(X), \
24                                      (__v32qi)(__m256i)(Y), (int)(M))
26 static __inline__ __m256i __DEFAULT_FN_ATTRS256
27 _mm256_abs_epi8(__m256i __a)  in _mm256_abs_epi8()
29     return (__m256i)__builtin_ia32_pabsb256((__v32qi)__a);  in _mm256_abs_epi8()
32 static __inline__ __m256i __DEFAULT_FN_ATTRS256
33 _mm256_abs_epi16(__m256i __a)  in _mm256_abs_epi16()
35     return (__m256i)__builtin_ia32_pabsw256((__v16hi)__a);  in _mm256_abs_epi16()
38 static __inline__ __m256i __DEFAULT_FN_ATTRS256
39 _mm256_abs_epi32(__m256i __a)  in _mm256_abs_epi32()
41     return (__m256i)__builtin_ia32_pabsd256((__v8si)__a);  in _mm256_abs_epi32()
44 static __inline__ __m256i __DEFAULT_FN_ATTRS256
45 _mm256_packs_epi16(__m256i __a, __m256i __b)  in _mm256_packs_epi16()
47   return (__m256i)__builtin_ia32_packsswb256((__v16hi)__a, (__v16hi)__b);  in _mm256_packs_epi16()
50 static __inline__ __m256i __DEFAULT_FN_ATTRS256
51 _mm256_packs_epi32(__m256i __a, __m256i __b)  in _mm256_packs_epi32()
53   return (__m256i)__builtin_ia32_packssdw256((__v8si)__a, (__v8si)__b);  in _mm256_packs_epi32()
56 static __inline__ __m256i __DEFAULT_FN_ATTRS256
57 _mm256_packus_epi16(__m256i __a, __m256i __b)  in _mm256_packus_epi16()
59   return (__m256i)__builtin_ia32_packuswb256((__v16hi)__a, (__v16hi)__b);  in _mm256_packus_epi16()
62 static __inline__ __m256i __DEFAULT_FN_ATTRS256
63 _mm256_packus_epi32(__m256i __V1, __m256i __V2)  in _mm256_packus_epi32()
65   return (__m256i) __builtin_ia32_packusdw256((__v8si)__V1, (__v8si)__V2);  in _mm256_packus_epi32()
68 static __inline__ __m256i __DEFAULT_FN_ATTRS256
69 _mm256_add_epi8(__m256i __a, __m256i __b)  in _mm256_add_epi8()
71   return (__m256i)((__v32qu)__a + (__v32qu)__b);  in _mm256_add_epi8()
74 static __inline__ __m256i __DEFAULT_FN_ATTRS256
75 _mm256_add_epi16(__m256i __a, __m256i __b)  in _mm256_add_epi16()
77   return (__m256i)((__v16hu)__a + (__v16hu)__b);  in _mm256_add_epi16()
80 static __inline__ __m256i __DEFAULT_FN_ATTRS256
81 _mm256_add_epi32(__m256i __a, __m256i __b)  in _mm256_add_epi32()
83   return (__m256i)((__v8su)__a + (__v8su)__b);  in _mm256_add_epi32()
86 static __inline__ __m256i __DEFAULT_FN_ATTRS256
87 _mm256_add_epi64(__m256i __a, __m256i __b)  in _mm256_add_epi64()
89   return (__m256i)((__v4du)__a + (__v4du)__b);  in _mm256_add_epi64()
92 static __inline__ __m256i __DEFAULT_FN_ATTRS256
93 _mm256_adds_epi8(__m256i __a, __m256i __b)  in _mm256_adds_epi8()
95   return (__m256i)__builtin_ia32_paddsb256((__v32qi)__a, (__v32qi)__b);  in _mm256_adds_epi8()
98 static __inline__ __m256i __DEFAULT_FN_ATTRS256
99 _mm256_adds_epi16(__m256i __a, __m256i __b)  in _mm256_adds_epi16()
101   return (__m256i)__builtin_ia32_paddsw256((__v16hi)__a, (__v16hi)__b);  in _mm256_adds_epi16()
104 static __inline__ __m256i __DEFAULT_FN_ATTRS256
105 _mm256_adds_epu8(__m256i __a, __m256i __b)  in _mm256_adds_epu8()
107   return (__m256i)__builtin_ia32_paddusb256((__v32qi)__a, (__v32qi)__b);  in _mm256_adds_epu8()
110 static __inline__ __m256i __DEFAULT_FN_ATTRS256
111 _mm256_adds_epu16(__m256i __a, __m256i __b)  in _mm256_adds_epu16()
113   return (__m256i)__builtin_ia32_paddusw256((__v16hi)__a, (__v16hi)__b);  in _mm256_adds_epu16()
117   (__m256i)__builtin_ia32_palignr256((__v32qi)(__m256i)(a), \
118                                      (__v32qi)(__m256i)(b), (n))
120 static __inline__ __m256i __DEFAULT_FN_ATTRS256
121 _mm256_and_si256(__m256i __a, __m256i __b)  in _mm256_and_si256()
123   return (__m256i)((__v4du)__a & (__v4du)__b);  in _mm256_and_si256()
126 static __inline__ __m256i __DEFAULT_FN_ATTRS256
127 _mm256_andnot_si256(__m256i __a, __m256i __b)  in _mm256_andnot_si256()
129   return (__m256i)(~(__v4du)__a & (__v4du)__b);  in _mm256_andnot_si256()
132 static __inline__ __m256i __DEFAULT_FN_ATTRS256
133 _mm256_avg_epu8(__m256i __a, __m256i __b)  in _mm256_avg_epu8()
135   return (__m256i)__builtin_ia32_pavgb256((__v32qi)__a, (__v32qi)__b);  in _mm256_avg_epu8()
138 static __inline__ __m256i __DEFAULT_FN_ATTRS256
139 _mm256_avg_epu16(__m256i __a, __m256i __b)  in _mm256_avg_epu16()
141   return (__m256i)__builtin_ia32_pavgw256((__v16hi)__a, (__v16hi)__b);  in _mm256_avg_epu16()
144 static __inline__ __m256i __DEFAULT_FN_ATTRS256
145 _mm256_blendv_epi8(__m256i __V1, __m256i __V2, __m256i __M)  in _mm256_blendv_epi8()
147   return (__m256i)__builtin_ia32_pblendvb256((__v32qi)__V1, (__v32qi)__V2,  in _mm256_blendv_epi8()
152   (__m256i)__builtin_ia32_pblendw256((__v16hi)(__m256i)(V1), \
153                                      (__v16hi)(__m256i)(V2), (int)(M))
155 static __inline__ __m256i __DEFAULT_FN_ATTRS256
156 _mm256_cmpeq_epi8(__m256i __a, __m256i __b)  in _mm256_cmpeq_epi8()
158   return (__m256i)((__v32qi)__a == (__v32qi)__b);  in _mm256_cmpeq_epi8()
161 static __inline__ __m256i __DEFAULT_FN_ATTRS256
162 _mm256_cmpeq_epi16(__m256i __a, __m256i __b)  in _mm256_cmpeq_epi16()
164   return (__m256i)((__v16hi)__a == (__v16hi)__b);  in _mm256_cmpeq_epi16()
167 static __inline__ __m256i __DEFAULT_FN_ATTRS256
168 _mm256_cmpeq_epi32(__m256i __a, __m256i __b)  in _mm256_cmpeq_epi32()
170   return (__m256i)((__v8si)__a == (__v8si)__b);  in _mm256_cmpeq_epi32()
173 static __inline__ __m256i __DEFAULT_FN_ATTRS256
174 _mm256_cmpeq_epi64(__m256i __a, __m256i __b)  in _mm256_cmpeq_epi64()
176   return (__m256i)((__v4di)__a == (__v4di)__b);  in _mm256_cmpeq_epi64()
179 static __inline__ __m256i __DEFAULT_FN_ATTRS256
180 _mm256_cmpgt_epi8(__m256i __a, __m256i __b)  in _mm256_cmpgt_epi8()
184   return (__m256i)((__v32qs)__a > (__v32qs)__b);  in _mm256_cmpgt_epi8()
187 static __inline__ __m256i __DEFAULT_FN_ATTRS256
188 _mm256_cmpgt_epi16(__m256i __a, __m256i __b)  in _mm256_cmpgt_epi16()
190   return (__m256i)((__v16hi)__a > (__v16hi)__b);  in _mm256_cmpgt_epi16()
193 static __inline__ __m256i __DEFAULT_FN_ATTRS256
194 _mm256_cmpgt_epi32(__m256i __a, __m256i __b)  in _mm256_cmpgt_epi32()
196   return (__m256i)((__v8si)__a > (__v8si)__b);  in _mm256_cmpgt_epi32()
199 static __inline__ __m256i __DEFAULT_FN_ATTRS256
200 _mm256_cmpgt_epi64(__m256i __a, __m256i __b)  in _mm256_cmpgt_epi64()
202   return (__m256i)((__v4di)__a > (__v4di)__b);  in _mm256_cmpgt_epi64()
205 static __inline__ __m256i __DEFAULT_FN_ATTRS256
206 _mm256_hadd_epi16(__m256i __a, __m256i __b)  in _mm256_hadd_epi16()
208     return (__m256i)__builtin_ia32_phaddw256((__v16hi)__a, (__v16hi)__b);  in _mm256_hadd_epi16()
211 static __inline__ __m256i __DEFAULT_FN_ATTRS256
212 _mm256_hadd_epi32(__m256i __a, __m256i __b)  in _mm256_hadd_epi32()
214     return (__m256i)__builtin_ia32_phaddd256((__v8si)__a, (__v8si)__b);  in _mm256_hadd_epi32()
217 static __inline__ __m256i __DEFAULT_FN_ATTRS256
218 _mm256_hadds_epi16(__m256i __a, __m256i __b)  in _mm256_hadds_epi16()
220     return (__m256i)__builtin_ia32_phaddsw256((__v16hi)__a, (__v16hi)__b);  in _mm256_hadds_epi16()
223 static __inline__ __m256i __DEFAULT_FN_ATTRS256
224 _mm256_hsub_epi16(__m256i __a, __m256i __b)  in _mm256_hsub_epi16()
226     return (__m256i)__builtin_ia32_phsubw256((__v16hi)__a, (__v16hi)__b);  in _mm256_hsub_epi16()
229 static __inline__ __m256i __DEFAULT_FN_ATTRS256
230 _mm256_hsub_epi32(__m256i __a, __m256i __b)  in _mm256_hsub_epi32()
232     return (__m256i)__builtin_ia32_phsubd256((__v8si)__a, (__v8si)__b);  in _mm256_hsub_epi32()
235 static __inline__ __m256i __DEFAULT_FN_ATTRS256
236 _mm256_hsubs_epi16(__m256i __a, __m256i __b)  in _mm256_hsubs_epi16()
238     return (__m256i)__builtin_ia32_phsubsw256((__v16hi)__a, (__v16hi)__b);  in _mm256_hsubs_epi16()
241 static __inline__ __m256i __DEFAULT_FN_ATTRS256
242 _mm256_maddubs_epi16(__m256i __a, __m256i __b)  in _mm256_maddubs_epi16()
244     return (__m256i)__builtin_ia32_pmaddubsw256((__v32qi)__a, (__v32qi)__b);  in _mm256_maddubs_epi16()
247 static __inline__ __m256i __DEFAULT_FN_ATTRS256
248 _mm256_madd_epi16(__m256i __a, __m256i __b)  in _mm256_madd_epi16()
250   return (__m256i)__builtin_ia32_pmaddwd256((__v16hi)__a, (__v16hi)__b);  in _mm256_madd_epi16()
253 static __inline__ __m256i __DEFAULT_FN_ATTRS256
254 _mm256_max_epi8(__m256i __a, __m256i __b)  in _mm256_max_epi8()
256   return (__m256i)__builtin_ia32_pmaxsb256((__v32qi)__a, (__v32qi)__b);  in _mm256_max_epi8()
259 static __inline__ __m256i __DEFAULT_FN_ATTRS256
260 _mm256_max_epi16(__m256i __a, __m256i __b)  in _mm256_max_epi16()
262   return (__m256i)__builtin_ia32_pmaxsw256((__v16hi)__a, (__v16hi)__b);  in _mm256_max_epi16()
265 static __inline__ __m256i __DEFAULT_FN_ATTRS256
266 _mm256_max_epi32(__m256i __a, __m256i __b)  in _mm256_max_epi32()
268   return (__m256i)__builtin_ia32_pmaxsd256((__v8si)__a, (__v8si)__b);  in _mm256_max_epi32()
271 static __inline__ __m256i __DEFAULT_FN_ATTRS256
272 _mm256_max_epu8(__m256i __a, __m256i __b)  in _mm256_max_epu8()
274   return (__m256i)__builtin_ia32_pmaxub256((__v32qi)__a, (__v32qi)__b);  in _mm256_max_epu8()
277 static __inline__ __m256i __DEFAULT_FN_ATTRS256
278 _mm256_max_epu16(__m256i __a, __m256i __b)  in _mm256_max_epu16()
280   return (__m256i)__builtin_ia32_pmaxuw256((__v16hi)__a, (__v16hi)__b);  in _mm256_max_epu16()
283 static __inline__ __m256i __DEFAULT_FN_ATTRS256
284 _mm256_max_epu32(__m256i __a, __m256i __b)  in _mm256_max_epu32()
286   return (__m256i)__builtin_ia32_pmaxud256((__v8si)__a, (__v8si)__b);  in _mm256_max_epu32()
289 static __inline__ __m256i __DEFAULT_FN_ATTRS256
290 _mm256_min_epi8(__m256i __a, __m256i __b)  in _mm256_min_epi8()
292   return (__m256i)__builtin_ia32_pminsb256((__v32qi)__a, (__v32qi)__b);  in _mm256_min_epi8()
295 static __inline__ __m256i __DEFAULT_FN_ATTRS256
296 _mm256_min_epi16(__m256i __a, __m256i __b)  in _mm256_min_epi16()
298   return (__m256i)__builtin_ia32_pminsw256((__v16hi)__a, (__v16hi)__b);  in _mm256_min_epi16()
301 static __inline__ __m256i __DEFAULT_FN_ATTRS256
302 _mm256_min_epi32(__m256i __a, __m256i __b)  in _mm256_min_epi32()
304   return (__m256i)__builtin_ia32_pminsd256((__v8si)__a, (__v8si)__b);  in _mm256_min_epi32()
307 static __inline__ __m256i __DEFAULT_FN_ATTRS256
308 _mm256_min_epu8(__m256i __a, __m256i __b)  in _mm256_min_epu8()
310   return (__m256i)__builtin_ia32_pminub256((__v32qi)__a, (__v32qi)__b);  in _mm256_min_epu8()
313 static __inline__ __m256i __DEFAULT_FN_ATTRS256
314 _mm256_min_epu16(__m256i __a, __m256i __b)  in _mm256_min_epu16()
316   return (__m256i)__builtin_ia32_pminuw256 ((__v16hi)__a, (__v16hi)__b);  in _mm256_min_epu16()
319 static __inline__ __m256i __DEFAULT_FN_ATTRS256
320 _mm256_min_epu32(__m256i __a, __m256i __b)  in _mm256_min_epu32()
322   return (__m256i)__builtin_ia32_pminud256((__v8si)__a, (__v8si)__b);  in _mm256_min_epu32()
326 _mm256_movemask_epi8(__m256i __a)  in _mm256_movemask_epi8()
331 static __inline__ __m256i __DEFAULT_FN_ATTRS256
336   return (__m256i)__builtin_convertvector((__v16qs)__V, __v16hi);  in _mm256_cvtepi8_epi16()
339 static __inline__ __m256i __DEFAULT_FN_ATTRS256
344 …return (__m256i)__builtin_convertvector(__builtin_shufflevector((__v16qs)__V, (__v16qs)__V, 0, 1, …  in _mm256_cvtepi8_epi32()
347 static __inline__ __m256i __DEFAULT_FN_ATTRS256
352 …return (__m256i)__builtin_convertvector(__builtin_shufflevector((__v16qs)__V, (__v16qs)__V, 0, 1, …  in _mm256_cvtepi8_epi64()
355 static __inline__ __m256i __DEFAULT_FN_ATTRS256
358   return (__m256i)__builtin_convertvector((__v8hi)__V, __v8si);  in _mm256_cvtepi16_epi32()
361 static __inline__ __m256i __DEFAULT_FN_ATTRS256
364 …return (__m256i)__builtin_convertvector(__builtin_shufflevector((__v8hi)__V, (__v8hi)__V, 0, 1, 2,…  in _mm256_cvtepi16_epi64()
367 static __inline__ __m256i __DEFAULT_FN_ATTRS256
370   return (__m256i)__builtin_convertvector((__v4si)__V, __v4di);  in _mm256_cvtepi32_epi64()
373 static __inline__ __m256i __DEFAULT_FN_ATTRS256
376   return (__m256i)__builtin_convertvector((__v16qu)__V, __v16hi);  in _mm256_cvtepu8_epi16()
379 static __inline__ __m256i __DEFAULT_FN_ATTRS256
382 …return (__m256i)__builtin_convertvector(__builtin_shufflevector((__v16qu)__V, (__v16qu)__V, 0, 1, …  in _mm256_cvtepu8_epi32()
385 static __inline__ __m256i __DEFAULT_FN_ATTRS256
388 …return (__m256i)__builtin_convertvector(__builtin_shufflevector((__v16qu)__V, (__v16qu)__V, 0, 1, …  in _mm256_cvtepu8_epi64()
391 static __inline__ __m256i __DEFAULT_FN_ATTRS256
394   return (__m256i)__builtin_convertvector((__v8hu)__V, __v8si);  in _mm256_cvtepu16_epi32()
397 static __inline__ __m256i __DEFAULT_FN_ATTRS256
400 …return (__m256i)__builtin_convertvector(__builtin_shufflevector((__v8hu)__V, (__v8hu)__V, 0, 1, 2,…  in _mm256_cvtepu16_epi64()
403 static __inline__ __m256i __DEFAULT_FN_ATTRS256
406   return (__m256i)__builtin_convertvector((__v4su)__V, __v4di);  in _mm256_cvtepu32_epi64()
409 static __inline__  __m256i __DEFAULT_FN_ATTRS256
410 _mm256_mul_epi32(__m256i __a, __m256i __b)  in _mm256_mul_epi32()
412   return (__m256i)__builtin_ia32_pmuldq256((__v8si)__a, (__v8si)__b);  in _mm256_mul_epi32()
415 static __inline__ __m256i __DEFAULT_FN_ATTRS256
416 _mm256_mulhrs_epi16(__m256i __a, __m256i __b)  in _mm256_mulhrs_epi16()
418   return (__m256i)__builtin_ia32_pmulhrsw256((__v16hi)__a, (__v16hi)__b);  in _mm256_mulhrs_epi16()
421 static __inline__ __m256i __DEFAULT_FN_ATTRS256
422 _mm256_mulhi_epu16(__m256i __a, __m256i __b)  in _mm256_mulhi_epu16()
424   return (__m256i)__builtin_ia32_pmulhuw256((__v16hi)__a, (__v16hi)__b);  in _mm256_mulhi_epu16()
427 static __inline__ __m256i __DEFAULT_FN_ATTRS256
428 _mm256_mulhi_epi16(__m256i __a, __m256i __b)  in _mm256_mulhi_epi16()
430   return (__m256i)__builtin_ia32_pmulhw256((__v16hi)__a, (__v16hi)__b);  in _mm256_mulhi_epi16()
433 static __inline__ __m256i __DEFAULT_FN_ATTRS256
434 _mm256_mullo_epi16(__m256i __a, __m256i __b)  in _mm256_mullo_epi16()
436   return (__m256i)((__v16hu)__a * (__v16hu)__b);  in _mm256_mullo_epi16()
439 static __inline__  __m256i __DEFAULT_FN_ATTRS256
440 _mm256_mullo_epi32 (__m256i __a, __m256i __b)  in _mm256_mullo_epi32()
442   return (__m256i)((__v8su)__a * (__v8su)__b);  in _mm256_mullo_epi32()
445 static __inline__ __m256i __DEFAULT_FN_ATTRS256
446 _mm256_mul_epu32(__m256i __a, __m256i __b)  in _mm256_mul_epu32()
451 static __inline__ __m256i __DEFAULT_FN_ATTRS256
452 _mm256_or_si256(__m256i __a, __m256i __b)  in _mm256_or_si256()
454   return (__m256i)((__v4du)__a | (__v4du)__b);  in _mm256_or_si256()
457 static __inline__ __m256i __DEFAULT_FN_ATTRS256
458 _mm256_sad_epu8(__m256i __a, __m256i __b)  in _mm256_sad_epu8()
463 static __inline__ __m256i __DEFAULT_FN_ATTRS256
464 _mm256_shuffle_epi8(__m256i __a, __m256i __b)  in _mm256_shuffle_epi8()
466   return (__m256i)__builtin_ia32_pshufb256((__v32qi)__a, (__v32qi)__b);  in _mm256_shuffle_epi8()
470   (__m256i)__builtin_ia32_pshufd256((__v8si)(__m256i)(a), (int)(imm))
473   (__m256i)__builtin_ia32_pshufhw256((__v16hi)(__m256i)(a), (int)(imm))
476   (__m256i)__builtin_ia32_pshuflw256((__v16hi)(__m256i)(a), (int)(imm))
478 static __inline__ __m256i __DEFAULT_FN_ATTRS256
479 _mm256_sign_epi8(__m256i __a, __m256i __b)  in _mm256_sign_epi8()
481     return (__m256i)__builtin_ia32_psignb256((__v32qi)__a, (__v32qi)__b);  in _mm256_sign_epi8()
484 static __inline__ __m256i __DEFAULT_FN_ATTRS256
485 _mm256_sign_epi16(__m256i __a, __m256i __b)  in _mm256_sign_epi16()
487     return (__m256i)__builtin_ia32_psignw256((__v16hi)__a, (__v16hi)__b);  in _mm256_sign_epi16()
490 static __inline__ __m256i __DEFAULT_FN_ATTRS256
491 _mm256_sign_epi32(__m256i __a, __m256i __b)  in _mm256_sign_epi32()
493     return (__m256i)__builtin_ia32_psignd256((__v8si)__a, (__v8si)__b);  in _mm256_sign_epi32()
497   (__m256i)__builtin_ia32_pslldqi256_byteshift((__v4di)(__m256i)(a), (int)(imm))
500   (__m256i)__builtin_ia32_pslldqi256_byteshift((__v4di)(__m256i)(a), (int)(imm))
502 static __inline__ __m256i __DEFAULT_FN_ATTRS256
503 _mm256_slli_epi16(__m256i __a, int __count)  in _mm256_slli_epi16()
505   return (__m256i)__builtin_ia32_psllwi256((__v16hi)__a, __count);  in _mm256_slli_epi16()
508 static __inline__ __m256i __DEFAULT_FN_ATTRS256
509 _mm256_sll_epi16(__m256i __a, __m128i __count)  in _mm256_sll_epi16()
511   return (__m256i)__builtin_ia32_psllw256((__v16hi)__a, (__v8hi)__count);  in _mm256_sll_epi16()
514 static __inline__ __m256i __DEFAULT_FN_ATTRS256
515 _mm256_slli_epi32(__m256i __a, int __count)  in _mm256_slli_epi32()
517   return (__m256i)__builtin_ia32_pslldi256((__v8si)__a, __count);  in _mm256_slli_epi32()
520 static __inline__ __m256i __DEFAULT_FN_ATTRS256
521 _mm256_sll_epi32(__m256i __a, __m128i __count)  in _mm256_sll_epi32()
523   return (__m256i)__builtin_ia32_pslld256((__v8si)__a, (__v4si)__count);  in _mm256_sll_epi32()
526 static __inline__ __m256i __DEFAULT_FN_ATTRS256
527 _mm256_slli_epi64(__m256i __a, int __count)  in _mm256_slli_epi64()
532 static __inline__ __m256i __DEFAULT_FN_ATTRS256
533 _mm256_sll_epi64(__m256i __a, __m128i __count)  in _mm256_sll_epi64()
538 static __inline__ __m256i __DEFAULT_FN_ATTRS256
539 _mm256_srai_epi16(__m256i __a, int __count)  in _mm256_srai_epi16()
541   return (__m256i)__builtin_ia32_psrawi256((__v16hi)__a, __count);  in _mm256_srai_epi16()
544 static __inline__ __m256i __DEFAULT_FN_ATTRS256
545 _mm256_sra_epi16(__m256i __a, __m128i __count)  in _mm256_sra_epi16()
547   return (__m256i)__builtin_ia32_psraw256((__v16hi)__a, (__v8hi)__count);  in _mm256_sra_epi16()
550 static __inline__ __m256i __DEFAULT_FN_ATTRS256
551 _mm256_srai_epi32(__m256i __a, int __count)  in _mm256_srai_epi32()
553   return (__m256i)__builtin_ia32_psradi256((__v8si)__a, __count);  in _mm256_srai_epi32()
556 static __inline__ __m256i __DEFAULT_FN_ATTRS256
557 _mm256_sra_epi32(__m256i __a, __m128i __count)  in _mm256_sra_epi32()
559   return (__m256i)__builtin_ia32_psrad256((__v8si)__a, (__v4si)__count);  in _mm256_sra_epi32()
563   (__m256i)__builtin_ia32_psrldqi256_byteshift((__m256i)(a), (int)(imm))
566   (__m256i)__builtin_ia32_psrldqi256_byteshift((__m256i)(a), (int)(imm))
568 static __inline__ __m256i __DEFAULT_FN_ATTRS256
569 _mm256_srli_epi16(__m256i __a, int __count)  in _mm256_srli_epi16()
571   return (__m256i)__builtin_ia32_psrlwi256((__v16hi)__a, __count);  in _mm256_srli_epi16()
574 static __inline__ __m256i __DEFAULT_FN_ATTRS256
575 _mm256_srl_epi16(__m256i __a, __m128i __count)  in _mm256_srl_epi16()
577   return (__m256i)__builtin_ia32_psrlw256((__v16hi)__a, (__v8hi)__count);  in _mm256_srl_epi16()
580 static __inline__ __m256i __DEFAULT_FN_ATTRS256
581 _mm256_srli_epi32(__m256i __a, int __count)  in _mm256_srli_epi32()
583   return (__m256i)__builtin_ia32_psrldi256((__v8si)__a, __count);  in _mm256_srli_epi32()
586 static __inline__ __m256i __DEFAULT_FN_ATTRS256
587 _mm256_srl_epi32(__m256i __a, __m128i __count)  in _mm256_srl_epi32()
589   return (__m256i)__builtin_ia32_psrld256((__v8si)__a, (__v4si)__count);  in _mm256_srl_epi32()
592 static __inline__ __m256i __DEFAULT_FN_ATTRS256
593 _mm256_srli_epi64(__m256i __a, int __count)  in _mm256_srli_epi64()
598 static __inline__ __m256i __DEFAULT_FN_ATTRS256
599 _mm256_srl_epi64(__m256i __a, __m128i __count)  in _mm256_srl_epi64()
604 static __inline__ __m256i __DEFAULT_FN_ATTRS256
605 _mm256_sub_epi8(__m256i __a, __m256i __b)  in _mm256_sub_epi8()
607   return (__m256i)((__v32qu)__a - (__v32qu)__b);  in _mm256_sub_epi8()
610 static __inline__ __m256i __DEFAULT_FN_ATTRS256
611 _mm256_sub_epi16(__m256i __a, __m256i __b)  in _mm256_sub_epi16()
613   return (__m256i)((__v16hu)__a - (__v16hu)__b);  in _mm256_sub_epi16()
616 static __inline__ __m256i __DEFAULT_FN_ATTRS256
617 _mm256_sub_epi32(__m256i __a, __m256i __b)  in _mm256_sub_epi32()
619   return (__m256i)((__v8su)__a - (__v8su)__b);  in _mm256_sub_epi32()
622 static __inline__ __m256i __DEFAULT_FN_ATTRS256
623 _mm256_sub_epi64(__m256i __a, __m256i __b)  in _mm256_sub_epi64()
625   return (__m256i)((__v4du)__a - (__v4du)__b);  in _mm256_sub_epi64()
628 static __inline__ __m256i __DEFAULT_FN_ATTRS256
629 _mm256_subs_epi8(__m256i __a, __m256i __b)  in _mm256_subs_epi8()
631   return (__m256i)__builtin_ia32_psubsb256((__v32qi)__a, (__v32qi)__b);  in _mm256_subs_epi8()
634 static __inline__ __m256i __DEFAULT_FN_ATTRS256
635 _mm256_subs_epi16(__m256i __a, __m256i __b)  in _mm256_subs_epi16()
637   return (__m256i)__builtin_ia32_psubsw256((__v16hi)__a, (__v16hi)__b);  in _mm256_subs_epi16()
640 static __inline__ __m256i __DEFAULT_FN_ATTRS256
641 _mm256_subs_epu8(__m256i __a, __m256i __b)  in _mm256_subs_epu8()
643   return (__m256i)__builtin_ia32_psubusb256((__v32qi)__a, (__v32qi)__b);  in _mm256_subs_epu8()
646 static __inline__ __m256i __DEFAULT_FN_ATTRS256
647 _mm256_subs_epu16(__m256i __a, __m256i __b)  in _mm256_subs_epu16()
649   return (__m256i)__builtin_ia32_psubusw256((__v16hi)__a, (__v16hi)__b);  in _mm256_subs_epu16()
652 static __inline__ __m256i __DEFAULT_FN_ATTRS256
653 _mm256_unpackhi_epi8(__m256i __a, __m256i __b)  in _mm256_unpackhi_epi8()
655 …return (__m256i)__builtin_shufflevector((__v32qi)__a, (__v32qi)__b, 8, 32+8, 9, 32+9, 10, 32+10, 1…  in _mm256_unpackhi_epi8()
658 static __inline__ __m256i __DEFAULT_FN_ATTRS256
659 _mm256_unpackhi_epi16(__m256i __a, __m256i __b)  in _mm256_unpackhi_epi16()
661 …return (__m256i)__builtin_shufflevector((__v16hi)__a, (__v16hi)__b, 4, 16+4, 5, 16+5, 6, 16+6, 7, …  in _mm256_unpackhi_epi16()
664 static __inline__ __m256i __DEFAULT_FN_ATTRS256
665 _mm256_unpackhi_epi32(__m256i __a, __m256i __b)  in _mm256_unpackhi_epi32()
667   return (__m256i)__builtin_shufflevector((__v8si)__a, (__v8si)__b, 2, 8+2, 3, 8+3, 6, 8+6, 7, 8+7);  in _mm256_unpackhi_epi32()
670 static __inline__ __m256i __DEFAULT_FN_ATTRS256
671 _mm256_unpackhi_epi64(__m256i __a, __m256i __b)  in _mm256_unpackhi_epi64()
673   return (__m256i)__builtin_shufflevector((__v4di)__a, (__v4di)__b, 1, 4+1, 3, 4+3);  in _mm256_unpackhi_epi64()
676 static __inline__ __m256i __DEFAULT_FN_ATTRS256
677 _mm256_unpacklo_epi8(__m256i __a, __m256i __b)  in _mm256_unpacklo_epi8()
679 …return (__m256i)__builtin_shufflevector((__v32qi)__a, (__v32qi)__b, 0, 32+0, 1, 32+1, 2, 32+2, 3, …  in _mm256_unpacklo_epi8()
682 static __inline__ __m256i __DEFAULT_FN_ATTRS256
683 _mm256_unpacklo_epi16(__m256i __a, __m256i __b)  in _mm256_unpacklo_epi16()
685 …return (__m256i)__builtin_shufflevector((__v16hi)__a, (__v16hi)__b, 0, 16+0, 1, 16+1, 2, 16+2, 3, …  in _mm256_unpacklo_epi16()
688 static __inline__ __m256i __DEFAULT_FN_ATTRS256
689 _mm256_unpacklo_epi32(__m256i __a, __m256i __b)  in _mm256_unpacklo_epi32()
691   return (__m256i)__builtin_shufflevector((__v8si)__a, (__v8si)__b, 0, 8+0, 1, 8+1, 4, 8+4, 5, 8+5);  in _mm256_unpacklo_epi32()
694 static __inline__ __m256i __DEFAULT_FN_ATTRS256
695 _mm256_unpacklo_epi64(__m256i __a, __m256i __b)  in _mm256_unpacklo_epi64()
697   return (__m256i)__builtin_shufflevector((__v4di)__a, (__v4di)__b, 0, 4+0, 2, 4+2);  in _mm256_unpacklo_epi64()
700 static __inline__ __m256i __DEFAULT_FN_ATTRS256
701 _mm256_xor_si256(__m256i __a, __m256i __b)  in _mm256_xor_si256()
703   return (__m256i)((__v4du)__a ^ (__v4du)__b);  in _mm256_xor_si256()
706 static __inline__ __m256i __DEFAULT_FN_ATTRS256
707 _mm256_stream_load_si256(__m256i const *__V)  in _mm256_stream_load_si256()
710   return (__m256i)__builtin_nontemporal_load((const __v4di_aligned *)__V);  in _mm256_stream_load_si256()
737 static __inline__ __m256i __DEFAULT_FN_ATTRS256
740   return (__m256i)__builtin_shufflevector((__v2di)__X, (__v2di)__X, 0, 1, 0, 1);  in _mm256_broadcastsi128_si256()
750   (__m256i)__builtin_ia32_pblendd256((__v8si)(__m256i)(V1), \
751                                      (__v8si)(__m256i)(V2), (int)(M))
753 static __inline__ __m256i __DEFAULT_FN_ATTRS256
756 …return (__m256i)__builtin_shufflevector((__v16qi)__X, (__v16qi)__X, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, …  in _mm256_broadcastb_epi8()
759 static __inline__ __m256i __DEFAULT_FN_ATTRS256
762 …return (__m256i)__builtin_shufflevector((__v8hi)__X, (__v8hi)__X, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0,…  in _mm256_broadcastw_epi16()
765 static __inline__ __m256i __DEFAULT_FN_ATTRS256
768   return (__m256i)__builtin_shufflevector((__v4si)__X, (__v4si)__X, 0, 0, 0, 0, 0, 0, 0, 0);  in _mm256_broadcastd_epi32()
771 static __inline__ __m256i __DEFAULT_FN_ATTRS256
774   return (__m256i)__builtin_shufflevector((__v2di)__X, (__v2di)__X, 0, 0, 0, 0);  in _mm256_broadcastq_epi64()
802 static __inline__ __m256i __DEFAULT_FN_ATTRS256
803 _mm256_permutevar8x32_epi32(__m256i __a, __m256i __b)  in _mm256_permutevar8x32_epi32()
805   return (__m256i)__builtin_ia32_permvarsi256((__v8si)__a, (__v8si)__b);  in _mm256_permutevar8x32_epi32()
812 _mm256_permutevar8x32_ps(__m256 __a, __m256i __b)  in _mm256_permutevar8x32_ps()
818   (__m256i)__builtin_ia32_permdi256((__v4di)(__m256i)(V), (int)(M))
821   (__m256i)__builtin_ia32_permti256((__m256i)(V1), (__m256i)(V2), (int)(M))
824   (__m128i)__builtin_ia32_extract128i256((__v4di)(__m256i)(V), (int)(M))
827   (__m256i)__builtin_ia32_insert128i256((__v4di)(__m256i)(V1), \
830 static __inline__ __m256i __DEFAULT_FN_ATTRS256
831 _mm256_maskload_epi32(int const *__X, __m256i __M)  in _mm256_maskload_epi32()
833   return (__m256i)__builtin_ia32_maskloadd256((const __v8si *)__X, (__v8si)__M);  in _mm256_maskload_epi32()
836 static __inline__ __m256i __DEFAULT_FN_ATTRS256
837 _mm256_maskload_epi64(long long const *__X, __m256i __M)  in _mm256_maskload_epi64()
839   return (__m256i)__builtin_ia32_maskloadq256((const __v4di *)__X, (__v4di)__M);  in _mm256_maskload_epi64()
855 _mm256_maskstore_epi32(int *__X, __m256i __M, __m256i __Y)  in _mm256_maskstore_epi32()
861 _mm256_maskstore_epi64(long long *__X, __m256i __M, __m256i __Y)  in _mm256_maskstore_epi64()
878 static __inline__ __m256i __DEFAULT_FN_ATTRS256
879 _mm256_sllv_epi32(__m256i __X, __m256i __Y)  in _mm256_sllv_epi32()
881   return (__m256i)__builtin_ia32_psllv8si((__v8si)__X, (__v8si)__Y);  in _mm256_sllv_epi32()
890 static __inline__ __m256i __DEFAULT_FN_ATTRS256
891 _mm256_sllv_epi64(__m256i __X, __m256i __Y)  in _mm256_sllv_epi64()
893   return (__m256i)__builtin_ia32_psllv4di((__v4di)__X, (__v4di)__Y);  in _mm256_sllv_epi64()
902 static __inline__ __m256i __DEFAULT_FN_ATTRS256
903 _mm256_srav_epi32(__m256i __X, __m256i __Y)  in _mm256_srav_epi32()
905   return (__m256i)__builtin_ia32_psrav8si((__v8si)__X, (__v8si)__Y);  in _mm256_srav_epi32()
914 static __inline__ __m256i __DEFAULT_FN_ATTRS256
915 _mm256_srlv_epi32(__m256i __X, __m256i __Y)  in _mm256_srlv_epi32()
917   return (__m256i)__builtin_ia32_psrlv8si((__v8si)__X, (__v8si)__Y);  in _mm256_srlv_epi32()
926 static __inline__ __m256i __DEFAULT_FN_ATTRS256
927 _mm256_srlv_epi64(__m256i __X, __m256i __Y)  in _mm256_srlv_epi64()
929   return (__m256i)__builtin_ia32_psrlv4di((__v4di)__X, (__v4di)__Y);  in _mm256_srlv_epi64()
959                                         (__v4di)(__m256i)(i), \
971                                        (__v8si)(__m256i)(i), \
983                                        (__v4di)(__m256i)(i), \
993   (__m256i)__builtin_ia32_gatherd_d256((__v8si)(__m256i)(a), \
995                                        (__v8si)(__m256i)(i), \
996                                        (__v8si)(__m256i)(mask), (s))
1007                                        (__v4di)(__m256i)(i), \
1017   (__m256i)__builtin_ia32_gatherd_q256((__v4di)(__m256i)(a), \
1020                                        (__v4di)(__m256i)(mask), (s))
1029   (__m256i)__builtin_ia32_gatherq_q256((__v4di)(__m256i)(a), \
1031                                        (__v4di)(__m256i)(i), \
1032                                        (__v4di)(__m256i)(mask), (s))
1062                                         (__v4di)(__m256i)(i), \
1079                                        (__v8si)(__m256i)(i), \
1096                                        (__v4di)(__m256i)(i), \
1107   (__m256i)__builtin_ia32_gatherd_d256((__v8si)_mm256_undefined_si256(), \
1108                                        (int const *)(m), (__v8si)(__m256i)(i), \
1118                                        (int const *)(m), (__v4di)(__m256i)(i), \
1128   (__m256i)__builtin_ia32_gatherd_q256((__v4di)_mm256_undefined_si256(), \
1140   (__m256i)__builtin_ia32_gatherq_q256((__v4di)_mm256_undefined_si256(), \
1142                                        (__v4di)(__m256i)(i), \