Home
last modified time | relevance | path

Searched refs:d1 (Results 1 – 25 of 46) sorted by relevance

12

/frameworks/av/media/libstagefright/codecs/m4v_h263/dec/src/
Dpost_filter.cpp189 int mbnum, strength, A_D, d1_2, d1, d2, A, B, C, D, b_size; in H263_Deblock() local
232 d1 = -(-d >> 3); in H263_Deblock()
233 if (d1 < -(strength << 1)) in H263_Deblock()
235 d1 = 0; in H263_Deblock()
237 else if (d1 < -strength) in H263_Deblock()
239 d1 = -d1 - (strength << 1); in H263_Deblock()
241 d1_2 = -d1 >> 1; in H263_Deblock()
245 d1 = d >> 3; in H263_Deblock()
246 if (d1 > (strength << 1)) in H263_Deblock()
248 d1 = 0; in H263_Deblock()
[all …]
/frameworks/rs/cpu_ref/
DrsCpuIntrinsics_neon_ColorMatrix.S81 vld4.8 {d0[0],d1[0],d2[0],d3[0]}, [r1]!
82 vld4.8 {d0[1],d1[1],d2[1],d3[1]}, [r1]!
83 vld4.8 {d0[2],d1[2],d2[2],d3[2]}, [r1]!
84 vld4.8 {d0[3],d1[3],d2[3],d3[3]}, [r1]!
88 vld4.8 {d0[0],d1[0],d2[0],d3[0]}, [r1]!
89 vld4.8 {d0[1],d1[1],d2[1],d3[1]}, [r1]!
90 vld4.8 {d0[2],d1[2],d2[2],d3[2]}, [r1]!
91 vld4.8 {d0[3],d1[3],d2[3],d3[3]}, [r1]!
96 vld2.8 {d0[0],d1[0]}, [r1]!
97 vld2.8 {d0[1],d1[1]}, [r1]!
[all …]
DrsCpuIntrinsics_neon_Convolve.S73 vmlal.s16 q8, d9, d1[0]
74 vmlal.s16 q8, d10, d1[1]
75 vmlal.s16 q8, d12, d1[2]
76 vmlal.s16 q8, d13, d1[3]
83 vmlal.s16 q9, d10, d1[0]
84 vmlal.s16 q9, d11, d1[1]
85 vmlal.s16 q9, d13, d1[2]
86 vmlal.s16 q9, d14, d1[3]
132 vld1.16 {d0, d1, d2, d3}, [r6]!
168 vmlal.s16 q4, d22, d1[0]
[all …]
DrsCpuIntrinsics_neon_Blur.S188 vertfetch_clamped 7, d1[3]
189 vertfetch_clamped 6, d1[2]
190 vertfetch_clamped 5, d1[1]
191 vertfetch_clamped 4, d1[0]
223 vertfetch_noclamp 7, d1[3]
224 vertfetch_noclamp 6, d1[2]
225 vertfetch_noclamp 5, d1[1]
226 vertfetch_noclamp 4, d1[0]
291 vmlal.u16 q14, d24, d1[3]
292 vmlal.u16 q15, d25, d1[3]
[all …]
/frameworks/ml/nn/runtime/test/specs/V1_0/
Drelu1_quant8_2.mod.py21 d1 = 64 variable
25 i0 = Input("input", "TENSOR_QUANT8_ASYMM", "{%d, %d, %d, %d}, 1.f, 128" % (d0, d1, d2, d3))
27 output = Output("output", "TENSOR_QUANT8_ASYMM", "{%d, %d, %d, %d}, 1.f, 128" % (d0, d1, d2, d3))
32 rng = d0 * d1 * d2 * d3
Drelu6_quant8_2.mod.py21 d1 = 128 variable
25 i0 = Input("input", "TENSOR_QUANT8_ASYMM", "{%d, %d, %d, %d}, 1.f, 128" % (d0, d1, d2, d3))
27 output = Output("output", "TENSOR_QUANT8_ASYMM", "{%d, %d, %d, %d}, 1.f, 128" % (d0, d1, d2, d3))
32 rng = d0 * d1 * d2 * d3
Drelu1_float_2.mod.py21 d1 = 30 variable
25 i0 = Input("input", "TENSOR_FLOAT32", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
27 output = Output("output", "TENSOR_FLOAT32", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
32 rng = d0 * d1 * d2 * d3
Drelu_quant8_2.mod.py21 d1 = 32 variable
25 i0 = Input("input", "TENSOR_QUANT8_ASYMM", "{%d, %d, %d, %d}, 1.f, 128" % (d0, d1, d2, d3))
27 output = Output("output", "TENSOR_QUANT8_ASYMM", "{%d, %d, %d, %d}, 1.f, 128" % (d0, d1, d2, d3))
32 rng = d0 * d1 * d2 * d3
Drelu6_float_2.mod.py21 d1 = 26 variable
25 i0 = Input("input", "TENSOR_FLOAT32", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
27 output = Output("output", "TENSOR_FLOAT32", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
32 rng = d0 * d1 * d2 * d3
Dlogistic_float_2.mod.py23 d1 = 32 variable
27 i0 = Input("input", "TENSOR_FLOAT32", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
29 output = Output("output", "TENSOR_FLOAT32", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
34 rng = d0 * d1 * d2 * d3
Drelu_float_2.mod.py21 d1 = 64 variable
25 i0 = Input("input", "TENSOR_FLOAT32", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
27 output = Output("output", "TENSOR_FLOAT32", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
32 rng = d0 * d1 * d2 * d3
Dlogistic_quant8_2.mod.py23 d1 = 16 #256 variable
27 i0 = Input("input", "TENSOR_QUANT8_ASYMM", "{%d, %d, %d, %d}, .5f, 0" % (d0, d1, d2, d3))
29 output = Output("output", "TENSOR_QUANT8_ASYMM", "{%d, %d, %d, %d}, 0.00390625f, 0" % (d0, d1, d2, …
34 rng = d0 * d1 * d2 * d3
/frameworks/ml/nn/runtime/test/specs/V1_1/
Dlogistic_float_2_relaxed.mod.py23 d1 = 32 variable
27 i0 = Input("input", "TENSOR_FLOAT32", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
29 output = Output("output", "TENSOR_FLOAT32", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
35 rng = d0 * d1 * d2 * d3
Drelu6_float_2_relaxed.mod.py21 d1 = 26 variable
25 i0 = Input("input", "TENSOR_FLOAT32", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
27 output = Output("output", "TENSOR_FLOAT32", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
33 rng = d0 * d1 * d2 * d3
Drelu_float_2_relaxed.mod.py21 d1 = 64 variable
25 i0 = Input("input", "TENSOR_FLOAT32", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
27 output = Output("output", "TENSOR_FLOAT32", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
33 rng = d0 * d1 * d2 * d3
Drelu1_float_2_relaxed.mod.py21 d1 = 30 variable
25 i0 = Input("input", "TENSOR_FLOAT32", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
27 output = Output("output", "TENSOR_FLOAT32", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
33 rng = d0 * d1 * d2 * d3
/frameworks/ml/nn/runtime/test/specs/V1_2/
Daxis_aligned_bbox_transform.mod.py19 d1 = Input("bboxDeltas", "TENSOR_FLOAT32", "{5, 8}") variable
23 model1 = Model().Operation("AXIS_ALIGNED_BBOX_TRANSFORM", r1, d1, b1, i1).To(o1)
27 d1: ("TENSOR_QUANT8_ASYMM", 0.05, 128),
38 d1: [0.2, 0.2, 0.1, 0.1,
Drelu1_v1_2.mod.py32 d1 = 30 variable
36 i0 = Input("input", "TENSOR_FLOAT16", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
37 output = Output("output", "TENSOR_FLOAT16", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
41 rng = d0 * d1 * d2 * d3
Drelu_v1_2.mod.py32 d1 = 64 variable
36 i0 = Input("input", "TENSOR_FLOAT16", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
37 output = Output("output", "TENSOR_FLOAT16", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
41 rng = d0 * d1 * d2 * d3
Dlogistic_v1_2.mod.py40 d1 = 32 variable
44 i0 = Input("input", "TENSOR_FLOAT16", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
45 output = Output("output", "TENSOR_FLOAT16", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
49 rng = d0 * d1 * d2 * d3
Drelu6_v1_2.mod.py32 d1 = 26 variable
36 i0 = Input("input", "TENSOR_FLOAT16", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
37 output = Output("output", "TENSOR_FLOAT16", "{%d, %d, %d, %d}" % (d0, d1, d2, d3))
41 rng = d0 * d1 * d2 * d3
/frameworks/ml/nn/runtime/test/specs/V1_3/
Daxis_aligned_bbox_transform_quant8_signed.mod.py19 d1 = Input("bboxDeltas", "TENSOR_FLOAT32", "{5, 8}") variable
23 model1 = Model().Operation("AXIS_ALIGNED_BBOX_TRANSFORM", r1, d1, b1, i1).To(o1)
27 d1: ("TENSOR_QUANT8_ASYMM_SIGNED", 0.05, 0),
38 d1: [0.2, 0.2, 0.1, 0.1,
Drelu1_quant8_signed.mod.py47 d1 = 64 variable
51 i0 = Input("input", "TENSOR_QUANT8_ASYMM_SIGNED", "{%d, %d, %d, %d}, 1.f, 0" % (d0, d1, d2, d3))
53 output = Output("output", "TENSOR_QUANT8_ASYMM_SIGNED", "{%d, %d, %d, %d}, 1.f, 0" % (d0, d1, d2, d…
58 rng = d0 * d1 * d2 * d3
Drelu6_quant8_signed.mod.py45 d1 = 128 variable
49 i0 = Input("input", "TENSOR_QUANT8_ASYMM_SIGNED", "{%d, %d, %d, %d}, 1.f, 0" % (d0, d1, d2, d3))
51 output = Output("output", "TENSOR_QUANT8_ASYMM_SIGNED", "{%d, %d, %d, %d}, 1.f, 0" % (d0, d1, d2, d…
56 rng = d0 * d1 * d2 * d3
Dlogistic_quant8_signed.mod.py43 d1 = 16 #256 variable
48 "{%d, %d, %d, %d}, .5f, -128" % (d0, d1, d2, d3))
50 "{%d, %d, %d, %d}, 0.00390625f, -128" % (d0, d1, d2, d3))
54 rng = d0 * d1 * d2 * d3

12