git.sesse.net Git - movit/blob - ycbcr_input_test.cpp

   1 // Unit tests for YCbCrInput.
   2 // FIXME: This class really ought to support mipmaps.
   3
   4 #include <stddef.h>
   5
   6 #include "effect_chain.h"
   7 #include "gtest/gtest.h"
   8 #include "test_util.h"
   9 #include "ycbcr_input.h"
  10 #include "util.h"
  11
  12 TEST(YCbCrInput, Simple444) {
  13         const int width = 1;
  14         const int height = 5;
  15
  16         // Pure-color test inputs, calculated with the formulas in Rec. 601
  17         // section 2.5.4.
  18         unsigned char y[width * height] = {
  19                 16, 235, 81, 145, 41,
  20         };
  21         unsigned char cb[width * height] = {
  22                 128, 128, 90, 54, 240,
  23         };
  24         unsigned char cr[width * height] = {
  25                 128, 128, 240, 34, 110,
  26         };
  27         float expected_data[4 * width * height] = {
  28                 0.0, 0.0, 0.0, 1.0,
  29                 1.0, 1.0, 1.0, 1.0,
  30                 1.0, 0.0, 0.0, 1.0,
  31                 0.0, 1.0, 0.0, 1.0,
  32                 0.0, 0.0, 1.0, 1.0,
  33         };
  34         float out_data[4 * width * height];
  35
  36         EffectChainTester tester(NULL, width, height);
  37
  38         ImageFormat format;
  39         format.color_space = COLORSPACE_sRGB;
  40         format.gamma_curve = GAMMA_sRGB;
  41
  42         YCbCrFormat ycbcr_format;
  43         ycbcr_format.luma_coefficients = YCBCR_REC_601;
  44         ycbcr_format.full_range = false;
  45         ycbcr_format.chroma_subsampling_x = 1;
  46         ycbcr_format.chroma_subsampling_y = 1;
  47         ycbcr_format.cb_x_position = 0.5f;
  48         ycbcr_format.cb_y_position = 0.5f;
  49         ycbcr_format.cr_x_position = 0.5f;
  50         ycbcr_format.cr_y_position = 0.5f;
  51
  52         YCbCrInput *input = new YCbCrInput(format, ycbcr_format, width, height);
  53         input->set_pixel_data(0, y);
  54         input->set_pixel_data(1, cb);
  55         input->set_pixel_data(2, cr);
  56         tester.get_chain()->add_input(input);
  57
  58         tester.run(out_data, GL_RGBA, COLORSPACE_sRGB, GAMMA_sRGB);
  59
  60         // Y'CbCr isn't 100% accurate (the input values are rounded),
  61         // so we need some leeway.
  62         expect_equal(expected_data, out_data, 4 * width, height, 0.025, 0.002);
  63 }
  64
  65 TEST(YCbCrInput, FullRangeRec601) {
  66         const int width = 1;
  67         const int height = 5;
  68
  69         // Pure-color test inputs, calculated with the formulas in Rec. 601
  70         // section 2.5.4 but without the scaling factors applied
  71         // (so both R, G, B, Y, Cb and R vary from 0 to 255).
  72         unsigned char y[width * height] = {
  73                 0, 255, 76, 150, 29,
  74         };
  75         unsigned char cb[width * height] = {
  76                 128, 128, 85, 44, 255,
  77         };
  78         unsigned char cr[width * height] = {
  79                 128, 128, 255, 21, 107,
  80         };
  81         float expected_data[4 * width * height] = {
  82                 0.0, 0.0, 0.0, 1.0,
  83                 1.0, 1.0, 1.0, 1.0,
  84                 1.0, 0.0, 0.0, 1.0,
  85                 0.0, 1.0, 0.0, 1.0,
  86                 0.0, 0.0, 1.0, 1.0,
  87         };
  88         float out_data[4 * width * height];
  89
  90         EffectChainTester tester(NULL, width, height);
  91
  92         ImageFormat format;
  93         format.color_space = COLORSPACE_sRGB;
  94         format.gamma_curve = GAMMA_sRGB;
  95
  96         YCbCrFormat ycbcr_format;
  97         ycbcr_format.luma_coefficients = YCBCR_REC_601;
  98         ycbcr_format.full_range = true;
  99         ycbcr_format.chroma_subsampling_x = 1;
 100         ycbcr_format.chroma_subsampling_y = 1;
 101         ycbcr_format.cb_x_position = 0.5f;
 102         ycbcr_format.cb_y_position = 0.5f;
 103         ycbcr_format.cr_x_position = 0.5f;
 104         ycbcr_format.cr_y_position = 0.5f;
 105
 106         YCbCrInput *input = new YCbCrInput(format, ycbcr_format, width, height);
 107         input->set_pixel_data(0, y);
 108         input->set_pixel_data(1, cb);
 109         input->set_pixel_data(2, cr);
 110         tester.get_chain()->add_input(input);
 111
 112         tester.run(out_data, GL_RGBA, COLORSPACE_sRGB, GAMMA_sRGB);
 113
 114         // Y'CbCr isn't 100% accurate (the input values are rounded),
 115         // so we need some leeway.
 116         expect_equal(expected_data, out_data, 4 * width, height, 0.025, 0.002);
 117 }
 118
 119 TEST(YCbCrInput, Rec709) {
 120         const int width = 1;
 121         const int height = 5;
 122
 123         // Pure-color test inputs, calculated with the formulas in Rec. 709
 124         // page 19, items 3.4 and 3.5.
 125         unsigned char y[width * height] = {
 126                 16, 235, 63, 173, 32,
 127         };
 128         unsigned char cb[width * height] = {
 129                 128, 128, 102, 42, 240,
 130         };
 131         unsigned char cr[width * height] = {
 132                 128, 128, 240, 26, 118,
 133         };
 134         float expected_data[4 * width * height] = {
 135                 0.0, 0.0, 0.0, 1.0,
 136                 1.0, 1.0, 1.0, 1.0,
 137                 1.0, 0.0, 0.0, 1.0,
 138                 0.0, 1.0, 0.0, 1.0,
 139                 0.0, 0.0, 1.0, 1.0,
 140         };
 141         float out_data[4 * width * height];
 142
 143         EffectChainTester tester(NULL, width, height);
 144
 145         ImageFormat format;
 146         format.color_space = COLORSPACE_sRGB;
 147         format.gamma_curve = GAMMA_sRGB;
 148
 149         YCbCrFormat ycbcr_format;
 150         ycbcr_format.luma_coefficients = YCBCR_REC_709;
 151         ycbcr_format.full_range = false;
 152         ycbcr_format.chroma_subsampling_x = 1;
 153         ycbcr_format.chroma_subsampling_y = 1;
 154         ycbcr_format.cb_x_position = 0.5f;
 155         ycbcr_format.cb_y_position = 0.5f;
 156         ycbcr_format.cr_x_position = 0.5f;
 157         ycbcr_format.cr_y_position = 0.5f;
 158
 159         YCbCrInput *input = new YCbCrInput(format, ycbcr_format, width, height);
 160         input->set_pixel_data(0, y);
 161         input->set_pixel_data(1, cb);
 162         input->set_pixel_data(2, cr);
 163         tester.get_chain()->add_input(input);
 164
 165         tester.run(out_data, GL_RGBA, COLORSPACE_sRGB, GAMMA_sRGB);
 166
 167         // Y'CbCr isn't 100% accurate (the input values are rounded),
 168         // so we need some leeway.
 169         expect_equal(expected_data, out_data, 4 * width, height, 0.025, 0.002);
 170 }
 171
 172 TEST(YCbCrInput, Rec2020) {
 173         const int width = 1;
 174         const int height = 5;
 175
 176         // Pure-color test inputs, calculated with the formulas in Rec. 2020
 177         // page 4, tables 4 and 5 (for conventional non-constant luminance).
 178         // Note that we still use 8-bit inputs, even though Rec. 2020 is only
 179         // defined for 10- and 12-bit.
 180         unsigned char y[width * height] = {
 181                 16, 235, 74, 164, 29,
 182         };
 183         unsigned char cb[width * height] = {
 184                 128, 128, 97, 47, 240,
 185         };
 186         unsigned char cr[width * height] = {
 187                 128, 128, 240, 25, 119,
 188         };
 189         float expected_data[4 * width * height] = {
 190                 0.0, 0.0, 0.0, 1.0,
 191                 1.0, 1.0, 1.0, 1.0,
 192                 1.0, 0.0, 0.0, 1.0,
 193                 0.0, 1.0, 0.0, 1.0,
 194                 0.0, 0.0, 1.0, 1.0,
 195         };
 196         float out_data[4 * width * height];
 197
 198         EffectChainTester tester(NULL, width, height);
 199
 200         ImageFormat format;
 201         format.color_space = COLORSPACE_sRGB;
 202         format.gamma_curve = GAMMA_sRGB;
 203
 204         YCbCrFormat ycbcr_format;
 205         ycbcr_format.luma_coefficients = YCBCR_REC_2020;
 206         ycbcr_format.full_range = false;
 207         ycbcr_format.chroma_subsampling_x = 1;
 208         ycbcr_format.chroma_subsampling_y = 1;
 209         ycbcr_format.cb_x_position = 0.5f;
 210         ycbcr_format.cb_y_position = 0.5f;
 211         ycbcr_format.cr_x_position = 0.5f;
 212         ycbcr_format.cr_y_position = 0.5f;
 213
 214         YCbCrInput *input = new YCbCrInput(format, ycbcr_format, width, height);
 215         input->set_pixel_data(0, y);
 216         input->set_pixel_data(1, cb);
 217         input->set_pixel_data(2, cr);
 218         tester.get_chain()->add_input(input);
 219
 220         tester.run(out_data, GL_RGBA, COLORSPACE_sRGB, GAMMA_sRGB);
 221
 222         // Y'CbCr isn't 100% accurate (the input values are rounded),
 223         // so we need some leeway.
 224         expect_equal(expected_data, out_data, 4 * width, height, 0.025, 0.002);
 225 }
 226
 227 TEST(YCbCrInput, Subsampling420) {
 228         const int width = 4;
 229         const int height = 4;
 230
 231         unsigned char y[width * height] = {
 232                 126, 126, 126, 126,
 233                 126, 126, 126, 126,
 234                 126, 126, 126, 126,
 235                 126, 126, 126, 126,
 236         };
 237         unsigned char cb[(width/2) * (height/2)] = {
 238                 64, 128,
 239                 128, 192,
 240         };
 241         unsigned char cr[(width/2) * (height/2)] = {
 242                 128, 128,
 243                 128, 128,
 244         };
 245
 246         // Note: This is only the blue channel. The chroma samples (with associated
 247         // values for blue) are marked off in comments.
 248         float expected_data[width * height] = {
 249                 0.000, 0.125, 0.375, 0.500,
 250                  /* 0.0 */      /* 0.5 */
 251                 0.125, 0.250, 0.500, 0.625,
 252
 253                 0.375, 0.500, 0.750, 0.875,
 254                  /* 0.5 */      /* 1.0 */
 255                 0.500, 0.625, 0.875, 1.000,
 256         };
 257         float out_data[width * height];
 258
 259         EffectChainTester tester(NULL, width, height);
 260
 261         ImageFormat format;
 262         format.color_space = COLORSPACE_sRGB;
 263         format.gamma_curve = GAMMA_sRGB;
 264
 265         YCbCrFormat ycbcr_format;
 266         ycbcr_format.luma_coefficients = YCBCR_REC_601;
 267         ycbcr_format.full_range = false;
 268         ycbcr_format.chroma_subsampling_x = 2;
 269         ycbcr_format.chroma_subsampling_y = 2;
 270         ycbcr_format.cb_x_position = 0.5f;
 271         ycbcr_format.cb_y_position = 0.5f;
 272         ycbcr_format.cr_x_position = 0.5f;
 273         ycbcr_format.cr_y_position = 0.5f;
 274
 275         YCbCrInput *input = new YCbCrInput(format, ycbcr_format, width, height);
 276         input->set_pixel_data(0, y);
 277         input->set_pixel_data(1, cb);
 278         input->set_pixel_data(2, cr);
 279         tester.get_chain()->add_input(input);
 280
 281         tester.run(out_data, GL_BLUE, COLORSPACE_sRGB, GAMMA_sRGB);
 282
 283         // Y'CbCr isn't 100% accurate (the input values are rounded),
 284         // so we need some leeway.
 285         expect_equal(expected_data, out_data, width, height, 0.01, 0.001);
 286 }
 287
 288 TEST(YCbCrInput, Subsampling420WithNonCenteredSamples) {
 289         const int width = 4;
 290         const int height = 4;
 291
 292         unsigned char y[width * height] = {
 293                 126, 126, 126, 126,
 294                 126, 126, 126, 126,
 295                 126, 126, 126, 126,
 296                 126, 126, 126, 126,
 297         };
 298         unsigned char cb[(width/2) * (height/2)] = {
 299                 64, 128,
 300                 128, 192,
 301         };
 302         unsigned char cr[(width/2) * (height/2)] = {
 303                 128, 128,
 304                 128, 128,
 305         };
 306
 307         // Note: This is only the blue channel. The chroma samples (with associated
 308         // values for blue) are marked off in comments.
 309         float expected_data[width * height] = {
 310                    0.000, 0.250, 0.500, 0.500,
 311                 /* 0.0 */     /* 0.5 */
 312                    0.125, 0.375, 0.625, 0.625,
 313
 314                    0.375, 0.625, 0.875, 0.875,
 315                 /* 0.5 */     /* 1.0 */
 316                    0.500, 0.750, 1.000, 1.000,
 317         };
 318         float out_data[width * height];
 319
 320         EffectChainTester tester(NULL, width, height);
 321
 322         ImageFormat format;
 323         format.color_space = COLORSPACE_sRGB;
 324         format.gamma_curve = GAMMA_sRGB;
 325
 326         YCbCrFormat ycbcr_format;
 327         ycbcr_format.luma_coefficients = YCBCR_REC_601;
 328         ycbcr_format.full_range = false;
 329         ycbcr_format.chroma_subsampling_x = 2;
 330         ycbcr_format.chroma_subsampling_y = 2;
 331         ycbcr_format.cb_x_position = 0.0f;
 332         ycbcr_format.cb_y_position = 0.5f;
 333         ycbcr_format.cr_x_position = 0.0f;
 334         ycbcr_format.cr_y_position = 0.5f;
 335
 336         YCbCrInput *input = new YCbCrInput(format, ycbcr_format, width, height);
 337         input->set_pixel_data(0, y);
 338         input->set_pixel_data(1, cb);
 339         input->set_pixel_data(2, cr);
 340         tester.get_chain()->add_input(input);
 341
 342         tester.run(out_data, GL_BLUE, COLORSPACE_sRGB, GAMMA_sRGB);
 343
 344         // Y'CbCr isn't 100% accurate (the input values are rounded),
 345         // so we need some leeway.
 346         expect_equal(expected_data, out_data, width, height, 0.01, 0.001);
 347 }
 348
 349 // Yes, some 4:2:2 formats actually have this craziness.
 350 TEST(YCbCrInput, DifferentCbAndCrPositioning) {
 351         const int width = 4;
 352         const int height = 4;
 353
 354         unsigned char y[width * height] = {
 355                 126, 126, 126, 126,
 356                 126, 126, 126, 126,
 357                 126, 126, 126, 126,
 358                 126, 126, 126, 126,
 359         };
 360         unsigned char cb[(width/2) * height] = {
 361                 64, 128,
 362                 128, 192,
 363                 128, 128,
 364                 128, 128,
 365         };
 366         unsigned char cr[(width/2) * height] = {
 367                 48, 128,
 368                 128, 208,
 369                 128, 128,
 370                 128, 128,
 371         };
 372
 373         // Chroma samples in this csae are always co-sited with a luma sample;
 374         // their associated color values and position are marked off in comments.
 375         float expected_data_blue[width * height] = {
 376                    0.000 /* 0.0 */, 0.250,           0.500 /* 0.5 */, 0.500,
 377                    0.500 /* 0.5 */, 0.750,           1.000 /* 1.0 */, 1.000,
 378                    0.500 /* 0.5 */, 0.500,           0.500 /* 0.5 */, 0.500,
 379                    0.500 /* 0.5 */, 0.500,           0.500 /* 0.5 */, 0.500,
 380         };
 381         float expected_data_red[width * height] = {
 382                    0.000,           0.000 /* 0.0 */, 0.250,           0.500 /* 0.5 */,
 383                    0.500,           0.500 /* 0.5 */, 0.750,           1.000 /* 1.0 */,
 384                    0.500,           0.500 /* 0.5 */, 0.500,           0.500 /* 0.5 */,
 385                    0.500,           0.500 /* 0.5 */, 0.500,           0.500 /* 0.5 */,
 386         };
 387         float out_data[width * height];
 388
 389         EffectChainTester tester(NULL, width, height);
 390
 391         ImageFormat format;
 392         format.color_space = COLORSPACE_sRGB;
 393         format.gamma_curve = GAMMA_sRGB;
 394
 395         YCbCrFormat ycbcr_format;
 396         ycbcr_format.luma_coefficients = YCBCR_REC_601;
 397         ycbcr_format.full_range = false;
 398         ycbcr_format.chroma_subsampling_x = 2;
 399         ycbcr_format.chroma_subsampling_y = 1;
 400         ycbcr_format.cb_x_position = 0.0f;
 401         ycbcr_format.cb_y_position = 0.5f;
 402         ycbcr_format.cr_x_position = 1.0f;
 403         ycbcr_format.cr_y_position = 0.5f;
 404
 405         YCbCrInput *input = new YCbCrInput(format, ycbcr_format, width, height);
 406         input->set_pixel_data(0, y);
 407         input->set_pixel_data(1, cb);
 408         input->set_pixel_data(2, cr);
 409         tester.get_chain()->add_input(input);
 410
 411         // Y'CbCr isn't 100% accurate (the input values are rounded),
 412         // so we need some leeway.
 413         tester.run(out_data, GL_RED, COLORSPACE_sRGB, GAMMA_sRGB);
 414         expect_equal(expected_data_red, out_data, width, height, 0.02, 0.002);
 415
 416         tester.run(out_data, GL_BLUE, COLORSPACE_sRGB, GAMMA_sRGB);
 417         expect_equal(expected_data_blue, out_data, width, height, 0.01, 0.001);
 418 }
 419
 420 TEST(YCbCrInput, PBO) {
 421         const int width = 1;
 422         const int height = 5;
 423
 424         // Pure-color test inputs, calculated with the formulas in Rec. 601
 425         // section 2.5.4.
 426         unsigned char data[width * height * 3] = {
 427                 16, 235, 81, 145, 41,
 428                 128, 128, 90, 54, 240,
 429                 128, 128, 240, 34, 110,
 430         };
 431         float expected_data[4 * width * height] = {
 432                 0.0, 0.0, 0.0, 1.0,
 433                 1.0, 1.0, 1.0, 1.0,
 434                 1.0, 0.0, 0.0, 1.0,
 435                 0.0, 1.0, 0.0, 1.0,
 436                 0.0, 0.0, 1.0, 1.0,
 437         };
 438         float out_data[4 * width * height];
 439
 440         GLuint pbo;
 441         glGenBuffers(1, &pbo);
 442         glBindBuffer(GL_PIXEL_UNPACK_BUFFER_ARB, pbo);
 443         glBufferData(GL_PIXEL_UNPACK_BUFFER_ARB, width * height * 3, data, GL_STREAM_DRAW);
 444         glBindBuffer(GL_PIXEL_UNPACK_BUFFER_ARB, 0);
 445
 446         EffectChainTester tester(NULL, width, height);
 447
 448         ImageFormat format;
 449         format.color_space = COLORSPACE_sRGB;
 450         format.gamma_curve = GAMMA_sRGB;
 451
 452         YCbCrFormat ycbcr_format;
 453         ycbcr_format.luma_coefficients = YCBCR_REC_601;
 454         ycbcr_format.full_range = false;
 455         ycbcr_format.chroma_subsampling_x = 1;
 456         ycbcr_format.chroma_subsampling_y = 1;
 457         ycbcr_format.cb_x_position = 0.5f;
 458         ycbcr_format.cb_y_position = 0.5f;
 459         ycbcr_format.cr_x_position = 0.5f;
 460         ycbcr_format.cr_y_position = 0.5f;
 461
 462         YCbCrInput *input = new YCbCrInput(format, ycbcr_format, width, height);
 463         input->set_pixel_data(0, (unsigned char *)BUFFER_OFFSET(0), pbo);
 464         input->set_pixel_data(1, (unsigned char *)BUFFER_OFFSET(width * height), pbo);
 465         input->set_pixel_data(2, (unsigned char *)BUFFER_OFFSET(width * height * 2), pbo);
 466         tester.get_chain()->add_input(input);
 467
 468         tester.run(out_data, GL_RGBA, COLORSPACE_sRGB, GAMMA_sRGB);
 469
 470         // Y'CbCr isn't 100% accurate (the input values are rounded),
 471         // so we need some leeway.
 472         expect_equal(expected_data, out_data, 4 * width, height, 0.025, 0.002);
 473
 474         glDeleteBuffers(1, &pbo);
 475 }