comparison src/impl/ppc/altivec.c @ 34:8b5e0974fd41

Backed out changeset 92156fe32755
author Paper <paper@tflc.us>
date Fri, 25 Apr 2025 17:40:46 -0400
parents bf6ad516f1e6
children
comparison
equal deleted inserted replaced
33:4655b49eaf9f 34:8b5e0974fd41
21 * OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE 21 * OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
22 * SOFTWARE. 22 * SOFTWARE.
23 **/ 23 **/
24 24
25 #include "vec/impl/ppc/altivec.h" 25 #include "vec/impl/ppc/altivec.h"
26 #include "vec/impl/generic.h"
27 26
28 #include <altivec.h> 27 #include <altivec.h>
29
30 #define VEC_DEFINE_IMPL_DATA(sign, bits, size, type) \
31 union v##sign##int##bits##x##size##_impl_data { \
32 v##sign##int##bits##x##size vec; \
33 vector type altivec; \
34 }; \
35 \
36 VEC_STATIC_ASSERT(VEC_ALIGNOF(vector type) <= VEC_ALIGNOF(v##sign##int##bits##x##size), "vec: v" #sign "int" #bits "x" #size " alignment needs to be expanded to fit intrinsic type size"); \
37 VEC_STATIC_ASSERT(sizeof(vector type) <= sizeof(v##sign##int##bits##x##size), "vec: v" #sign "int" #bits "x" #size " needs to be expanded to fit intrinsic type size");
38
39 VEC_DEFINE_IMPL_DATA( , 8, 16, signed char)
40 VEC_DEFINE_IMPL_DATA(u, 8, 16, unsigned char)
41 VEC_DEFINE_IMPL_DATA( , 16, 8, signed short)
42 VEC_DEFINE_IMPL_DATA(u, 16, 8, unsigned short)
43 VEC_DEFINE_IMPL_DATA( , 32, 4, signed int)
44 VEC_DEFINE_IMPL_DATA(u, 32, 4, unsigned int)
45
46 #undef VEC_DEFINE_IMPL_DATA
47 28
48 /* GCC 4.2.1 on Mac OS X doesn't have these for some reason */ 29 /* GCC 4.2.1 on Mac OS X doesn't have these for some reason */
49 #ifdef vec_mul 30 #ifdef vec_mul
50 # define VEC_ALTIVEC_DEFINE_MUL(sign, csign, bits, size) \ 31 # define VEC_ALTIVEC_DEFINE_MUL(sign, csign, bits, size) \
51 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_mul(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \ 32 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_mul(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \
52 { \ 33 { \
53 union v##sign##int##bits##x##size##_impl_data *vec1d = (union v##sign##int##bits##x##size##_impl_data *)&vec1; \ 34 v##sign##int##bits##x##size vec; \
54 union v##sign##int##bits##x##size##_impl_data *vec2d = (union v##sign##int##bits##x##size##_impl_data *)&vec2; \ 35 vec.altivec = vec_mul(vec1.altivec, vec2.altivec); \
55 \ 36 return vec; \
56 vec1d->altivec = vec_mul(vec1d->altivec, vec2d->altivec); \
57 return vec1d->vec; \
58 } 37 }
59 # define VEC_ALTIVEC_STRUCT_MUL(sign, csign, bits, size) \ 38 # define VEC_ALTIVEC_STRUCT_MUL(sign, csign, bits, size) \
60 v##sign##int##bits##x##size##_altivec_mul 39 v##sign##int##bits##x##size##_altivec_mul
61 #else 40 #else
62 # define VEC_ALTIVEC_DEFINE_MUL(sign, csign, bits, size) 41 # define VEC_ALTIVEC_DEFINE_MUL(sign, csign, bits, size)
63 # define VEC_ALTIVEC_STRUCT_MUL(sign, csign, bits, size) \ 42 # define VEC_ALTIVEC_STRUCT_MUL(sign, csign, bits, size) NULL
64 v##sign##int##bits##x##size##_generic_mul
65 #endif 43 #endif
66 44
67 #ifdef vec_splats 45 #ifdef vec_splats
68 # define VEC_ALTIVEC_DEFINE_SPLAT(sign, csign, bits, size) \ 46 # define VEC_ALTIVEC_DEFINE_SPLAT(sign, csign, bits, size) \
69 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_splat(vec_##sign##int##bits x) \ 47 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_splat(vec_##sign##int##bits x) \
70 { \ 48 { \
71 union v##sign##int##bits##x##size##_impl_data vec; \ 49 v##sign##int##bits##x##size vec; \
72 vec.altivec = vec_splats(x); \ 50 vec.altivec = vec_splats(x); \
73 return vec.vec; \ 51 return vec; \
74 } 52 }
75 # define VEC_ALTIVEC_STRUCT_SPLAT(sign, csign, bits, size) \ 53 # define VEC_ALTIVEC_STRUCT_SPLAT(sign, csign, bits, size) \
76 v##sign##int##bits##x##size##_altivec_splat 54 v##sign##int##bits##x##size##_altivec_splat
77 #else 55 #else
78 # define VEC_ALTIVEC_DEFINE_SPLAT(sign, csign, bits, size) 56 # define VEC_ALTIVEC_DEFINE_SPLAT(sign, csign, bits, size)
79 # define VEC_ALTIVEC_STRUCT_SPLAT(sign, csign, bits, size) \ 57 # define VEC_ALTIVEC_STRUCT_SPLAT(sign, csign, bits, size) NULL
80 v##sign##int##bits##x##size##_generic_splat
81 #endif 58 #endif
82 59
83 #define VEC_ALTIVEC_uRSHIFT vec_sr 60 #define VEC_ALTIVEC_uRSHIFT vec_sr
84 #define VEC_ALTIVEC_RSHIFT vec_sra 61 #define VEC_ALTIVEC_RSHIFT vec_sra
85 62
86 #define VEC_ALTIVEC_DEFINE_uLRSHIFT(sign, csign, bits, size) \ 63 #define VEC_ALTIVEC_DEFINE_uLRSHIFT(sign, csign, bits, size) \
87 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_lrshift(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \ 64 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_lrshift(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \
88 { \ 65 { \
89 union v##sign##int##bits##x##size##_impl_data *vec1d = (union v##sign##int##bits##x##size##_impl_data *)&vec1; \ 66 v##sign##int##bits##x##size vec; \
90 union vuint##bits##x##size##_impl_data *vec2d = (union vuint##bits##x##size##_impl_data *)&vec2; \ 67 vec.altivec = vec_sr(vec1.altivec, vec2.altivec); \
91 \ 68 return vec; \
92 vec1d->altivec = vec_sr(vec1d->altivec, vec2d->altivec); \
93 return vec1d->vec; \
94 } 69 }
95 #define VEC_ALTIVEC_STRUCT_uLRSHIFT(sign, csign, bits, size) \ 70 #define VEC_ALTIVEC_STRUCT_uLRSHIFT(sign, csign, bits, size) \
96 v##sign##int##bits##x##size##_altivec_lrshift 71 v##sign##int##bits##x##size##_altivec_lrshift
97 72
98 #define VEC_ALTIVEC_DEFINE_LRSHIFT(sign, csign, bits, size) 73 #define VEC_ALTIVEC_DEFINE_LRSHIFT(sign, csign, bits, size)
99 #define VEC_ALTIVEC_STRUCT_LRSHIFT(sign, csign, bits, size) \ 74 #define VEC_ALTIVEC_STRUCT_LRSHIFT(sign, csign, bits, size) NULL
100 v##sign##int##bits##x##size##_generic_lrshift
101 75
102 #define VEC_ALTIVEC_CAST_BOOL_8 (vector signed char) 76 #define VEC_ALTIVEC_CAST_BOOL_8 (vector signed char)
103 #define VEC_ALTIVEC_CAST_BOOL_U8 (vector unsigned char) 77 #define VEC_ALTIVEC_CAST_BOOL_U8 (vector unsigned char)
104 #define VEC_ALTIVEC_CAST_BOOL_16 (vector signed short) 78 #define VEC_ALTIVEC_CAST_BOOL_16 (vector signed short)
105 #define VEC_ALTIVEC_CAST_BOOL_U16 (vector unsigned short) 79 #define VEC_ALTIVEC_CAST_BOOL_U16 (vector unsigned short)
109 /* Since altivec conveniently made their API super user friendly, we can just use 83 /* Since altivec conveniently made their API super user friendly, we can just use
110 * one giant macro to define literally everything */ 84 * one giant macro to define literally everything */
111 #define VEC_DEFINE_OPERATIONS_SIGN(sign, csign, bits, size) \ 85 #define VEC_DEFINE_OPERATIONS_SIGN(sign, csign, bits, size) \
112 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_load_aligned(const vec_##sign##int##bits in[size]) \ 86 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_load_aligned(const vec_##sign##int##bits in[size]) \
113 { \ 87 { \
114 union v##sign##int##bits##x##size##_impl_data vec; \ 88 v##sign##int##bits##x##size vec; \
115 vec.altivec = vec_ld(0, in); \ 89 vec.altivec = vec_ld(0, in); \
116 return vec.vec; \ 90 return vec; \
117 } \ 91 } \
118 \ 92 \
119 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_load(const vec_##sign##int##bits in[size]) \ 93 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_load(const vec_##sign##int##bits in[size]) \
120 { \ 94 { \
121 union v##sign##int##bits##x##size##_impl_data vec; \ 95 v##sign##int##bits##x##size vec; \
122 vec.altivec = vec_perm(vec_ld(0, in), vec_ld(15, in), vec_lvsl(0, in)); \ 96 vec.altivec = vec_perm(vec_ld(0, in), vec_ld(15, in), vec_lvsl(0, in)); \
123 return vec.vec; \ 97 return vec; \
124 } \ 98 } \
125 \ 99 \
126 static void v##sign##int##bits##x##size##_altivec_store_aligned(v##sign##int##bits##x##size vec, vec_##sign##int##bits out[size]) \ 100 static void v##sign##int##bits##x##size##_altivec_store_aligned(v##sign##int##bits##x##size vec, vec_##sign##int##bits out[size]) \
127 { \ 101 { \
128 vec_st(((union v##sign##int##bits##x##size##_impl_data *)&vec)->altivec, 0, out); \ 102 vec_st(vec.altivec, 0, out); \
129 } \ 103 } \
130 \ 104 \
131 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_add(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \ 105 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_add(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \
132 { \ 106 { \
133 union v##sign##int##bits##x##size##_impl_data *vec1d = (union v##sign##int##bits##x##size##_impl_data *)&vec1; \ 107 v##sign##int##bits##x##size vec; \
134 union v##sign##int##bits##x##size##_impl_data *vec2d = (union v##sign##int##bits##x##size##_impl_data *)&vec2; \ 108 vec.altivec = vec_add(vec1.altivec, vec2.altivec); \
135 \ 109 return vec; \
136 vec1d->altivec = vec_add(vec1d->altivec, vec2d->altivec); \
137 return vec1d->vec; \
138 } \ 110 } \
139 \ 111 \
140 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_sub(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \ 112 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_sub(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \
141 { \ 113 { \
142 union v##sign##int##bits##x##size##_impl_data *vec1d = (union v##sign##int##bits##x##size##_impl_data *)&vec1; \ 114 v##sign##int##bits##x##size vec; \
143 union v##sign##int##bits##x##size##_impl_data *vec2d = (union v##sign##int##bits##x##size##_impl_data *)&vec2; \ 115 vec.altivec = vec_sub(vec1.altivec, vec2.altivec); \
144 \ 116 return vec; \
145 vec1d->altivec = vec_sub(vec1d->altivec, vec2d->altivec); \
146 return vec1d->vec; \
147 } \ 117 } \
148 \ 118 \
149 VEC_ALTIVEC_DEFINE_MUL(sign, csign, bits, size) \ 119 VEC_ALTIVEC_DEFINE_MUL(sign, csign, bits, size) \
150 \ 120 \
151 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_lshift(v##sign##int##bits##x##size vec1, vuint##bits##x##size vec2) \ 121 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_lshift(v##sign##int##bits##x##size vec1, vuint##bits##x##size vec2) \
152 { \ 122 { \
153 union v##sign##int##bits##x##size##_impl_data *vec1d = (union v##sign##int##bits##x##size##_impl_data *)&vec1; \ 123 v##sign##int##bits##x##size vec; \
154 union vuint##bits##x##size##_impl_data *vec2d = (union vuint##bits##x##size##_impl_data *)&vec2; \ 124 vec.altivec = vec_sl(vec1.altivec, vec2.altivec); \
155 \ 125 return vec; \
156 vec1d->altivec = vec_sl(vec1d->altivec, vec2d->altivec); \
157 return vec1d->vec; \
158 } \ 126 } \
159 \ 127 \
160 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_rshift(v##sign##int##bits##x##size vec1, vuint##bits##x##size vec2) \ 128 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_rshift(v##sign##int##bits##x##size vec1, vuint##bits##x##size vec2) \
161 { \ 129 { \
162 union v##sign##int##bits##x##size##_impl_data *vec1d = (union v##sign##int##bits##x##size##_impl_data *)&vec1; \ 130 v##sign##int##bits##x##size vec; \
163 union vuint##bits##x##size##_impl_data *vec2d = (union vuint##bits##x##size##_impl_data *)&vec2; \ 131 vec.altivec = VEC_ALTIVEC_##sign##RSHIFT(vec1.altivec, vec2.altivec); \
164 \ 132 return vec; \
165 vec1d->altivec = VEC_ALTIVEC_##sign##RSHIFT(vec1d->altivec, vec2d->altivec); \
166 return vec1d->vec; \
167 } \ 133 } \
168 \ 134 \
169 VEC_ALTIVEC_DEFINE_##sign##LRSHIFT(sign, csign, bits, size) \ 135 VEC_ALTIVEC_DEFINE_##sign##LRSHIFT(sign, csign, bits, size) \
170 \ 136 \
171 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_avg(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \ 137 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_avg(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \
172 { \ 138 { \
173 union v##sign##int##bits##x##size##_impl_data *vec1d = (union v##sign##int##bits##x##size##_impl_data *)&vec1; \ 139 v##sign##int##bits##x##size vec; \
174 union v##sign##int##bits##x##size##_impl_data *vec2d = (union v##sign##int##bits##x##size##_impl_data *)&vec2; \ 140 vec.altivec = vec_avg(vec1.altivec, vec2.altivec); \
175 \ 141 return vec; \
176 vec1d->altivec = vec_avg(vec1d->altivec, vec2d->altivec); \
177 return vec1d->vec; \
178 } \ 142 } \
179 \ 143 \
180 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_and(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \ 144 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_and(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \
181 { \ 145 { \
182 union v##sign##int##bits##x##size##_impl_data *vec1d = (union v##sign##int##bits##x##size##_impl_data *)&vec1; \ 146 v##sign##int##bits##x##size vec; \
183 union v##sign##int##bits##x##size##_impl_data *vec2d = (union v##sign##int##bits##x##size##_impl_data *)&vec2; \ 147 vec.altivec = vec_and(vec1.altivec, vec2.altivec); \
184 \ 148 return vec; \
185 vec1d->altivec = vec_and(vec1d->altivec, vec2d->altivec); \
186 return vec1d->vec; \
187 } \ 149 } \
188 \ 150 \
189 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_or(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \ 151 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_or(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \
190 { \ 152 { \
191 union v##sign##int##bits##x##size##_impl_data *vec1d = (union v##sign##int##bits##x##size##_impl_data *)&vec1; \ 153 v##sign##int##bits##x##size vec; \
192 union v##sign##int##bits##x##size##_impl_data *vec2d = (union v##sign##int##bits##x##size##_impl_data *)&vec2; \ 154 vec.altivec = vec_or(vec1.altivec, vec2.altivec); \
193 \ 155 return vec; \
194 vec1d->altivec = vec_or(vec1d->altivec, vec2d->altivec); \
195 return vec1d->vec; \
196 } \ 156 } \
197 \ 157 \
198 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_xor(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \ 158 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_xor(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \
199 { \ 159 { \
200 union v##sign##int##bits##x##size##_impl_data *vec1d = (union v##sign##int##bits##x##size##_impl_data *)&vec1; \ 160 v##sign##int##bits##x##size vec; \
201 union v##sign##int##bits##x##size##_impl_data *vec2d = (union v##sign##int##bits##x##size##_impl_data *)&vec2; \ 161 vec.altivec = vec_xor(vec1.altivec, vec2.altivec); \
202 \ 162 return vec; \
203 vec1d->altivec = vec_xor(vec1d->altivec, vec2d->altivec); \
204 return vec1d->vec; \
205 } \ 163 } \
206 \ 164 \
207 VEC_ALTIVEC_DEFINE_SPLAT(sign, csign, bits, size) \ 165 VEC_ALTIVEC_DEFINE_SPLAT(sign, csign, bits, size) \
208 \ 166 \
209 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_cmplt(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \ 167 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_cmplt(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \
210 { \ 168 { \
211 union v##sign##int##bits##x##size##_impl_data *vec1d = (union v##sign##int##bits##x##size##_impl_data *)&vec1; \ 169 v##sign##int##bits##x##size vec; \
212 union v##sign##int##bits##x##size##_impl_data *vec2d = (union v##sign##int##bits##x##size##_impl_data *)&vec2; \ 170 vec.altivec = VEC_ALTIVEC_CAST_BOOL_##csign##bits vec_cmplt(vec1.altivec, vec2.altivec); \
213 \ 171 return vec; \
214 vec1d->altivec = VEC_ALTIVEC_CAST_BOOL_##csign##bits vec_cmplt(vec1d->altivec, vec2d->altivec); \
215 return vec1d->vec; \
216 } \ 172 } \
217 \ 173 \
218 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_cmple(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \ 174 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_cmple(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \
219 { \ 175 { \
220 union v##sign##int##bits##x##size##_impl_data *vec1d = (union v##sign##int##bits##x##size##_impl_data *)&vec1; \ 176 v##sign##int##bits##x##size vec; \
221 union v##sign##int##bits##x##size##_impl_data *vec2d = (union v##sign##int##bits##x##size##_impl_data *)&vec2; \ 177 vec.altivec = VEC_ALTIVEC_CAST_BOOL_##csign##bits vec_or(vec_cmplt(vec1.altivec, vec2.altivec), vec_cmpeq(vec1.altivec, vec2.altivec)); \
222 \ 178 return vec; \
223 vec1d->altivec = VEC_ALTIVEC_CAST_BOOL_##csign##bits vec_or(vec_cmplt(vec1d->altivec, vec2d->altivec), vec_cmpeq(vec1d->altivec, vec2d->altivec)); \
224 return vec1d->vec; \
225 } \ 179 } \
226 \ 180 \
227 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_cmpeq(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \ 181 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_cmpeq(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \
228 { \ 182 { \
229 union v##sign##int##bits##x##size##_impl_data *vec1d = (union v##sign##int##bits##x##size##_impl_data *)&vec1; \ 183 v##sign##int##bits##x##size vec; \
230 union v##sign##int##bits##x##size##_impl_data *vec2d = (union v##sign##int##bits##x##size##_impl_data *)&vec2; \ 184 vec.altivec = VEC_ALTIVEC_CAST_BOOL_##csign##bits vec_cmpeq(vec1.altivec, vec2.altivec); \
231 \ 185 return vec; \
232 vec1d->altivec = VEC_ALTIVEC_CAST_BOOL_##csign##bits vec_cmpeq(vec1d->altivec, vec2d->altivec); \
233 return vec1d->vec; \
234 } \ 186 } \
235 \ 187 \
236 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_cmpge(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \ 188 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_cmpge(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \
237 { \ 189 { \
238 union v##sign##int##bits##x##size##_impl_data *vec1d = (union v##sign##int##bits##x##size##_impl_data *)&vec1; \ 190 v##sign##int##bits##x##size vec; \
239 union v##sign##int##bits##x##size##_impl_data *vec2d = (union v##sign##int##bits##x##size##_impl_data *)&vec2; \ 191 vec.altivec = VEC_ALTIVEC_CAST_BOOL_##csign##bits vec_or(vec_cmpgt(vec1.altivec, vec2.altivec), vec_cmpeq(vec1.altivec, vec2.altivec)); \
240 \ 192 return vec; \
241 vec1d->altivec = VEC_ALTIVEC_CAST_BOOL_##csign##bits vec_or(vec_cmpgt(vec1d->altivec, vec2d->altivec), vec_cmpeq(vec1d->altivec, vec2d->altivec)); \
242 return vec1d->vec; \
243 } \ 193 } \
244 \ 194 \
245 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_cmpgt(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \ 195 static v##sign##int##bits##x##size v##sign##int##bits##x##size##_altivec_cmpgt(v##sign##int##bits##x##size vec1, v##sign##int##bits##x##size vec2) \
246 { \ 196 { \
247 union v##sign##int##bits##x##size##_impl_data *vec1d = (union v##sign##int##bits##x##size##_impl_data *)&vec1; \ 197 v##sign##int##bits##x##size vec; \
248 union v##sign##int##bits##x##size##_impl_data *vec2d = (union v##sign##int##bits##x##size##_impl_data *)&vec2; \ 198 vec.altivec = VEC_ALTIVEC_CAST_BOOL_##csign##bits vec_cmpgt(vec1.altivec, vec2.altivec); \
249 \ 199 return vec; \
250 vec1d->altivec = VEC_ALTIVEC_CAST_BOOL_##csign##bits vec_cmpgt(vec1d->altivec, vec2d->altivec); \ 200 } \
251 return vec1d->vec; \ 201 \
252 } \ 202 static v##sign##int##bits##x##size##_impl v##sign##int##bits##x##size##_impl_altivec = { \
253 \
254 const v##sign##int##bits##x##size##_impl v##sign##int##bits##x##size##_impl_altivec = { \
255 VEC_ALTIVEC_STRUCT_SPLAT(sign, csign, bits, size), \ 203 VEC_ALTIVEC_STRUCT_SPLAT(sign, csign, bits, size), \
256 v##sign##int##bits##x##size##_altivec_load_aligned, \ 204 v##sign##int##bits##x##size##_altivec_load_aligned, \
257 v##sign##int##bits##x##size##_altivec_load, \ 205 v##sign##int##bits##x##size##_altivec_load, \
258 v##sign##int##bits##x##size##_altivec_store_aligned, \ 206 v##sign##int##bits##x##size##_altivec_store_aligned, \
259 v##sign##int##bits##x##size##_generic_store, \ 207 /* .store = */ NULL, \
260 v##sign##int##bits##x##size##_altivec_add, \ 208 v##sign##int##bits##x##size##_altivec_add, \
261 v##sign##int##bits##x##size##_altivec_sub, \ 209 v##sign##int##bits##x##size##_altivec_sub, \
262 VEC_ALTIVEC_STRUCT_MUL(sign, csign, bits, size), \ 210 VEC_ALTIVEC_STRUCT_MUL(sign, csign, bits, size), \
263 v##sign##int##bits##x##size##_generic_div, \ 211 /* .div = */ NULL, \
264 v##sign##int##bits##x##size##_altivec_avg, \ 212 v##sign##int##bits##x##size##_altivec_avg, \
265 v##sign##int##bits##x##size##_altivec_and, \ 213 v##sign##int##bits##x##size##_altivec_and, \
266 v##sign##int##bits##x##size##_altivec_or, \ 214 v##sign##int##bits##x##size##_altivec_or, \
267 v##sign##int##bits##x##size##_altivec_xor, \ 215 v##sign##int##bits##x##size##_altivec_xor, \
268 v##sign##int##bits##x##size##_generic_not, \ 216 /* .not = */ NULL, \
269 v##sign##int##bits##x##size##_altivec_lshift, \ 217 v##sign##int##bits##x##size##_altivec_lshift, \
270 v##sign##int##bits##x##size##_altivec_rshift, \ 218 v##sign##int##bits##x##size##_altivec_rshift, \
271 VEC_ALTIVEC_STRUCT_##sign##LRSHIFT(sign, csign, bits, size), \ 219 VEC_ALTIVEC_STRUCT_##sign##LRSHIFT(sign, csign, bits, size), \
272 v##sign##int##bits##x##size##_altivec_cmplt, \ 220 v##sign##int##bits##x##size##_altivec_cmplt, \
273 v##sign##int##bits##x##size##_altivec_cmple, \ 221 v##sign##int##bits##x##size##_altivec_cmple, \