git.sesse.net Git - movit/blob - ycbcr_conversion_effect.frag

   1 // See footer.frag for details about this if statement.
   2 #ifndef YCBCR_ALSO_OUTPUT_RGBA
   3 #define YCBCR_ALSO_OUTPUT_RGBA 0
   4 #endif
   5
   6 uniform sampler2D PREFIX(tex_y);
   7 uniform sampler2D PREFIX(tex_cb);
   8 uniform sampler2D PREFIX(tex_cr);
   9
  10 #if YCBCR_ALSO_OUTPUT_RGBA
  11 vec4[2] FUNCNAME(vec2 tc) {
  12 #else
  13 vec4 FUNCNAME(vec2 tc) {
  14 #endif
  15         vec4 rgba = INPUT(tc);
  16         vec4 ycbcr_a;
  17
  18         ycbcr_a.rgb = PREFIX(ycbcr_matrix) * rgba.rgb + PREFIX(offset);
  19
  20         if (PREFIX(clamp_range)) {
  21                 // If we use limited-range Y'CbCr, the card's usual 0–255 clamping
  22                 // won't be enough, so we need to clamp ourselves here.
  23                 //
  24                 // We clamp before dither, which is a bit unfortunate, since
  25                 // it means dither can take us out of the clamped range again.
  26                 // However, since DitherEffect never adds enough dither to change
  27                 // the quantized levels, we will be fine in practice.
  28                 ycbcr_a.rgb = clamp(ycbcr_a.rgb, PREFIX(ycbcr_min), PREFIX(ycbcr_max));
  29         }
  30
  31         ycbcr_a.a = rgba.a;
  32
  33 #if YCBCR_ALSO_OUTPUT_RGBA
  34         return vec4[2](ycbcr_a, rgba);
  35 #else
  36         return ycbcr_a;
  37 #endif
  38 }