1; RUN: llc < %s -march=nvptx64 -mcpu=sm_70 -mattr=+ptx60 | FileCheck %s
2
3declare i32 @llvm.nvvm.match.any.sync.i32(i32, i32)
4declare i64 @llvm.nvvm.match.any.sync.i64(i32, i64)
5
6; CHECK-LABEL: .func{{.*}}match.any.sync.i32
7define i32 @match.any.sync.i32(i32 %mask, i32 %value) {
8  ; CHECK: ld.param.u32 	[[MASK:%r[0-9]+]], [match.any.sync.i32_param_0];
9  ; CHECK: ld.param.u32 	[[VALUE:%r[0-9]+]], [match.any.sync.i32_param_1];
10
11  ; CHECK:  match.any.sync.b32  [[V0:%r[0-9]+]], [[VALUE]], [[MASK]];
12  %v0 = call i32 @llvm.nvvm.match.any.sync.i32(i32 %mask, i32 %value)
13  ; CHECK:  match.any.sync.b32  [[V1:%r[0-9]+]], [[VALUE]], 1;
14  %v1 = call i32 @llvm.nvvm.match.any.sync.i32(i32 1, i32 %value)
15  ; CHECK:  match.any.sync.b32  [[V2:%r[0-9]+]], 2, [[MASK]];
16  %v2 = call i32 @llvm.nvvm.match.any.sync.i32(i32 %mask, i32 2)
17  ; CHECK:  match.any.sync.b32  [[V3:%r[0-9]+]], 4, 3;
18  %v3 = call i32 @llvm.nvvm.match.any.sync.i32(i32 3, i32 4)
19  %sum1 = add i32 %v0, %v1
20  %sum2 = add i32 %v2, %v3
21  %sum3 = add i32 %sum1, %sum2
22  ret i32 %sum3;
23}
24
25; CHECK-LABEL: .func{{.*}}match.any.sync.i64
26define i64 @match.any.sync.i64(i32 %mask, i64 %value) {
27  ; CHECK: ld.param.u32 	[[MASK:%r[0-9]+]], [match.any.sync.i64_param_0];
28  ; CHECK: ld.param.u64 	[[VALUE:%rd[0-9]+]], [match.any.sync.i64_param_1];
29
30  ; CHECK:  match.any.sync.b64  [[V0:%rd[0-9]+]], [[VALUE]], [[MASK]];
31  %v0 = call i64 @llvm.nvvm.match.any.sync.i64(i32 %mask, i64 %value)
32  ; CHECK:  match.any.sync.b64  [[V1:%rd[0-9]+]], [[VALUE]], 1;
33  %v1 = call i64 @llvm.nvvm.match.any.sync.i64(i32 1, i64 %value)
34  ; CHECK:  match.any.sync.b64  [[V2:%rd[0-9]+]], 2, [[MASK]];
35  %v2 = call i64 @llvm.nvvm.match.any.sync.i64(i32 %mask, i64 2)
36  ; CHECK:  match.any.sync.b64  [[V3:%rd[0-9]+]], 4, 3;
37  %v3 = call i64 @llvm.nvvm.match.any.sync.i64(i32 3, i64 4)
38  %sum1 = add i64 %v0, %v1
39  %sum2 = add i64 %v2, %v3
40  %sum3 = add i64 %sum1, %sum2
41  ret i64 %sum3;
42}
43
44declare {i32, i1} @llvm.nvvm.match.all.sync.i32p(i32, i32)
45declare {i64, i1} @llvm.nvvm.match.all.sync.i64p(i32, i64)
46
47; CHECK-LABEL: .func{{.*}}match.all.sync.i32p(
48define {i32,i1} @match.all.sync.i32p(i32 %mask, i32 %value) {
49  ; CHECK: ld.param.u32 	[[MASK:%r[0-9]+]], [match.all.sync.i32p_param_0];
50  ; CHECK: ld.param.u32 	[[VALUE:%r[0-9]+]], [match.all.sync.i32p_param_1];
51
52  ; CHECK:  match.all.sync.b32 {{%r[0-9]+\|%p[0-9]+}}, [[VALUE]], [[MASK]];
53  %r1 = call {i32, i1} @llvm.nvvm.match.all.sync.i32p(i32 %mask, i32 %value)
54  %v1 = extractvalue {i32, i1} %r1, 0
55  %p1 = extractvalue {i32, i1} %r1, 1
56
57  ; CHECK:  match.all.sync.b32 {{%r[0-9]+\|%p[0-9]+}}, 1, [[MASK]];
58  %r2 = call {i32, i1} @llvm.nvvm.match.all.sync.i32p(i32 %mask, i32 1)
59  %v2 = extractvalue {i32, i1} %r2, 0
60  %p2 = extractvalue {i32, i1} %r2, 1
61
62  ; CHECK:  match.all.sync.b32 {{%r[0-9]+\|%p[0-9]+}}, [[VALUE]], 2;
63  %r3 = call {i32, i1} @llvm.nvvm.match.all.sync.i32p(i32 2, i32 %value)
64  %v3 = extractvalue {i32, i1} %r3, 0
65  %p3 = extractvalue {i32, i1} %r3, 1
66
67  ; CHECK:  match.all.sync.b32 {{%r[0-9]+\|%p[0-9]+}}, 4, 3;
68  %r4 = call {i32, i1} @llvm.nvvm.match.all.sync.i32p(i32 3, i32 4)
69  %v4 = extractvalue {i32, i1} %r4, 0
70  %p4 = extractvalue {i32, i1} %r4, 1
71
72  %vsum1 = add i32 %v1, %v2
73  %vsum2 = add i32 %v3, %v4
74  %vsum3 = add i32 %vsum1, %vsum2
75  %psum1 = add i1 %p1, %p2
76  %psum2 = add i1 %p3, %p4
77  %psum3 = add i1 %psum1, %psum2
78  %ret0 = insertvalue {i32, i1} undef, i32 %vsum3, 0
79  %ret1 = insertvalue {i32, i1} %ret0, i1 %psum3, 1
80  ret {i32, i1} %ret1;
81}
82
83; CHECK-LABEL: .func{{.*}}match.all.sync.i64p(
84define {i64,i1} @match.all.sync.i64p(i32 %mask, i64 %value) {
85  ; CHECK: ld.param.u32 	[[MASK:%r[0-9]+]], [match.all.sync.i64p_param_0];
86  ; CHECK: ld.param.u64 	[[VALUE:%rd[0-9]+]], [match.all.sync.i64p_param_1];
87
88  ; CHECK:  match.all.sync.b64 {{%rd[0-9]+\|%p[0-9]+}}, [[VALUE]], [[MASK]];
89  %r1 = call {i64, i1} @llvm.nvvm.match.all.sync.i64p(i32 %mask, i64 %value)
90  %v1 = extractvalue {i64, i1} %r1, 0
91  %p1 = extractvalue {i64, i1} %r1, 1
92
93  ; CHECK:  match.all.sync.b64 {{%rd[0-9]+\|%p[0-9]+}}, 1, [[MASK]];
94  %r2 = call {i64, i1} @llvm.nvvm.match.all.sync.i64p(i32 %mask, i64 1)
95  %v2 = extractvalue {i64, i1} %r2, 0
96  %p2 = extractvalue {i64, i1} %r2, 1
97
98  ; CHECK:  match.all.sync.b64 {{%rd[0-9]+\|%p[0-9]+}}, [[VALUE]], 2;
99  %r3 = call {i64, i1} @llvm.nvvm.match.all.sync.i64p(i32 2, i64 %value)
100  %v3 = extractvalue {i64, i1} %r3, 0
101  %p3 = extractvalue {i64, i1} %r3, 1
102
103  ; CHECK:  match.all.sync.b64 {{%rd[0-9]+\|%p[0-9]+}}, 4, 3;
104  %r4 = call {i64, i1} @llvm.nvvm.match.all.sync.i64p(i32 3, i64 4)
105  %v4 = extractvalue {i64, i1} %r4, 0
106  %p4 = extractvalue {i64, i1} %r4, 1
107
108  %vsum1 = add i64 %v1, %v2
109  %vsum2 = add i64 %v3, %v4
110  %vsum3 = add i64 %vsum1, %vsum2
111  %psum1 = add i1 %p1, %p2
112  %psum2 = add i1 %p3, %p4
113  %psum3 = add i1 %psum1, %psum2
114  %ret0 = insertvalue {i64, i1} undef, i64 %vsum3, 0
115  %ret1 = insertvalue {i64, i1} %ret0, i1 %psum3, 1
116  ret {i64, i1} %ret1;
117}
118