Add a unit test for 4:2:0 YCbCr input.
[movit] / ycbcr_input_test.cpp
1 // Unit tests for YCbCrInput.
2 // FIXME: This class really ought to support mipmaps.
3
4 #include "test_util.h"
5 #include "gtest/gtest.h"
6 #include "ycbcr_input.h"
7
8 TEST(YCbCrInput, Simple444) {
9         const int width = 1;
10         const int height = 5;
11
12         // Pure-color test inputs, calculated with the formulas in Rec. 601
13         // section 2.5.4.
14         unsigned char y[width * height] = {
15                 16, 235, 81, 145, 41,
16         };
17         unsigned char cb[width * height] = {
18                 128, 128, 90, 54, 240,
19         };
20         unsigned char cr[width * height] = {
21                 128, 128, 240, 34, 110,
22         };
23         float expected_data[4 * width * height] = {
24                 0.0, 0.0, 0.0, 1.0,
25                 1.0, 1.0, 1.0, 1.0,
26                 1.0, 0.0, 0.0, 1.0,
27                 0.0, 1.0, 0.0, 1.0,
28                 0.0, 0.0, 1.0, 1.0,
29         };
30         float out_data[4 * width * height];
31
32         EffectChainTester tester(NULL, width, height);
33
34         ImageFormat format;
35         format.color_space = COLORSPACE_sRGB;
36         format.gamma_curve = GAMMA_sRGB;
37
38         YCbCrFormat ycbcr_format;
39         ycbcr_format.luma_coefficients = YCBCR_REC_601;
40         ycbcr_format.full_range = false;
41         ycbcr_format.chroma_subsampling_x = 1;
42         ycbcr_format.chroma_subsampling_y = 1;
43         ycbcr_format.chroma_x_position = 0.5f;
44         ycbcr_format.chroma_y_position = 0.5f;
45
46         YCbCrInput *input = new YCbCrInput(format, ycbcr_format, width, height);
47         input->set_pixel_data(0, y);
48         input->set_pixel_data(1, cb);
49         input->set_pixel_data(2, cr);
50         tester.get_chain()->add_input(input);
51
52         tester.run(out_data, GL_RGBA, COLORSPACE_sRGB, GAMMA_sRGB);
53
54         // Y'CbCr isn't 100% accurate (the input values are rounded),
55         // so we need some leeway.
56         expect_equal(expected_data, out_data, 4 * width, height, 0.025, 0.002);
57 }
58
59 TEST(YCbCrInput, FullRangeRec601) {
60         const int width = 1;
61         const int height = 5;
62
63         // Pure-color test inputs, calculated with the formulas in Rec. 601
64         // section 2.5.4 but without the scaling factors applied
65         // (so both R, G, B, Y, Cb and R vary from 0 to 255).
66         unsigned char y[width * height] = {
67                 0, 255, 76, 150, 29,
68         };
69         unsigned char cb[width * height] = {
70                 128, 128, 85, 44, 255,
71         };
72         unsigned char cr[width * height] = {
73                 128, 128, 255, 21, 107,
74         };
75         float expected_data[4 * width * height] = {
76                 0.0, 0.0, 0.0, 1.0,
77                 1.0, 1.0, 1.0, 1.0,
78                 1.0, 0.0, 0.0, 1.0,
79                 0.0, 1.0, 0.0, 1.0,
80                 0.0, 0.0, 1.0, 1.0,
81         };
82         float out_data[4 * width * height];
83
84         EffectChainTester tester(NULL, width, height);
85
86         ImageFormat format;
87         format.color_space = COLORSPACE_sRGB;
88         format.gamma_curve = GAMMA_sRGB;
89
90         YCbCrFormat ycbcr_format;
91         ycbcr_format.luma_coefficients = YCBCR_REC_601;
92         ycbcr_format.full_range = true;
93         ycbcr_format.chroma_subsampling_x = 1;
94         ycbcr_format.chroma_subsampling_y = 1;
95         ycbcr_format.chroma_x_position = 0.5f;
96         ycbcr_format.chroma_y_position = 0.5f;
97
98         YCbCrInput *input = new YCbCrInput(format, ycbcr_format, width, height);
99         input->set_pixel_data(0, y);
100         input->set_pixel_data(1, cb);
101         input->set_pixel_data(2, cr);
102         tester.get_chain()->add_input(input);
103
104         tester.run(out_data, GL_RGBA, COLORSPACE_sRGB, GAMMA_sRGB);
105
106         // Y'CbCr isn't 100% accurate (the input values are rounded),
107         // so we need some leeway.
108         expect_equal(expected_data, out_data, 4 * width, height, 0.025, 0.002);
109 }
110
111 TEST(YCbCrInput, Subsampling420) {
112         const int width = 4;
113         const int height = 4;
114
115         unsigned char y[width * height] = {
116                 126, 126, 126, 126,
117                 126, 126, 126, 126,
118                 126, 126, 126, 126,
119                 126, 126, 126, 126,
120         };
121         unsigned char cb[(width/2) * (height/2)] = {
122                 64, 128,
123                 128, 192,
124         };
125         unsigned char cr[(width/2) * (height/2)] = {
126                 128, 128,
127                 128, 128,
128         };
129
130         // Note: This is only the blue channel. The chroma samples (with associated
131         // values for blue) are marked off in comments.
132         float expected_data[width * height] = {
133                 0.000, 0.125, 0.375, 0.500, 
134                  /* 0.0 */      /* 0.5 */
135                 0.125, 0.250, 0.500, 0.625,
136
137                 0.375, 0.500, 0.750, 0.875,
138                  /* 0.5 */      /* 1.0 */
139                 0.500, 0.625, 0.875, 1.000,
140         };
141         float out_data[width * height];
142
143         EffectChainTester tester(NULL, width, height);
144
145         ImageFormat format;
146         format.color_space = COLORSPACE_sRGB;
147         format.gamma_curve = GAMMA_sRGB;
148
149         YCbCrFormat ycbcr_format;
150         ycbcr_format.luma_coefficients = YCBCR_REC_601;
151         ycbcr_format.full_range = false;
152         ycbcr_format.chroma_subsampling_x = 2;
153         ycbcr_format.chroma_subsampling_y = 2;
154         ycbcr_format.chroma_x_position = 0.5f;
155         ycbcr_format.chroma_y_position = 0.5f;
156
157         YCbCrInput *input = new YCbCrInput(format, ycbcr_format, width, height);
158         input->set_pixel_data(0, y);
159         input->set_pixel_data(1, cb);
160         input->set_pixel_data(2, cr);
161         tester.get_chain()->add_input(input);
162
163         tester.run(out_data, GL_BLUE, COLORSPACE_sRGB, GAMMA_sRGB);
164
165         // Y'CbCr isn't 100% accurate (the input values are rounded),
166         // so we need some leeway.
167         expect_equal(expected_data, out_data, width, height, 0.01, 0.001);
168 }
169
170 TEST(YCbCrInput, Subsampling420WithNonCenteredSamples) {
171         const int width = 4;
172         const int height = 4;
173
174         unsigned char y[width * height] = {
175                 126, 126, 126, 126,
176                 126, 126, 126, 126,
177                 126, 126, 126, 126,
178                 126, 126, 126, 126,
179         };
180         unsigned char cb[(width/2) * (height/2)] = {
181                 64, 128,
182                 128, 192,
183         };
184         unsigned char cr[(width/2) * (height/2)] = {
185                 128, 128,
186                 128, 128,
187         };
188
189         // Note: This is only the blue channel. The chroma samples (with associated
190         // values for blue) are marked off in comments.
191         float expected_data[width * height] = {
192                    0.000, 0.250, 0.500, 0.500, 
193                 /* 0.0 */     /* 0.5 */
194                    0.125, 0.375, 0.625, 0.625,
195
196                    0.375, 0.625, 0.875, 0.875,
197                 /* 0.5 */     /* 1.0 */
198                    0.500, 0.750, 1.000, 1.000,
199         };
200         float out_data[width * height];
201
202         EffectChainTester tester(NULL, width, height);
203
204         ImageFormat format;
205         format.color_space = COLORSPACE_sRGB;
206         format.gamma_curve = GAMMA_sRGB;
207
208         YCbCrFormat ycbcr_format;
209         ycbcr_format.luma_coefficients = YCBCR_REC_601;
210         ycbcr_format.full_range = false;
211         ycbcr_format.chroma_subsampling_x = 2;
212         ycbcr_format.chroma_subsampling_y = 2;
213         ycbcr_format.chroma_x_position = 0.0f;
214         ycbcr_format.chroma_y_position = 0.5f;
215
216         YCbCrInput *input = new YCbCrInput(format, ycbcr_format, width, height);
217         input->set_pixel_data(0, y);
218         input->set_pixel_data(1, cb);
219         input->set_pixel_data(2, cr);
220         tester.get_chain()->add_input(input);
221
222         tester.run(out_data, GL_BLUE, COLORSPACE_sRGB, GAMMA_sRGB);
223
224         // Y'CbCr isn't 100% accurate (the input values are rounded),
225         // so we need some leeway.
226         expect_equal(expected_data, out_data, width, height, 0.01, 0.001);
227 }