Find Y from the xyz and the D65 white point instead of using the luma coefficients...
[movit] / colorspace_conversion_effect.cpp
1 #include <assert.h>
2
3 #include "colorspace_conversion_effect.h"
4 #include "util.h"
5
6 // Color coordinates from Rec. 709; sRGB uses the same primaries.
7 double rec709_x_R = 0.640,  rec709_x_G = 0.300,  rec709_x_B = 0.150;
8 double rec709_y_R = 0.330,  rec709_y_G = 0.600,  rec709_y_B = 0.060;
9
10 // Color coordinates from Rec. 601. (Separate for 525- and 625-line systems.)
11 double rec601_525_x_R = 0.630, rec601_525_x_G = 0.310, rec601_525_x_B = 0.155;
12 double rec601_525_y_R = 0.340, rec601_525_y_G = 0.595, rec601_525_y_B = 0.070;
13 double rec601_625_x_R = 0.640, rec601_625_x_G = 0.290, rec601_625_x_B = 0.150;
14 double rec601_625_y_R = 0.330, rec601_625_y_G = 0.600, rec601_625_y_B = 0.060;
15
16 double d65_x = 0.3127, d65_y = 0.3290;
17
18 ColorSpaceConversionEffect::ColorSpaceConversionEffect()
19         : source_space(COLORSPACE_sRGB),
20           destination_space(COLORSPACE_sRGB)
21 {
22         register_int("source_space", (int *)&source_space);
23         register_int("destination_space", (int *)&destination_space);
24 }
25
26 void get_xyz_matrix(ColorSpace space, Matrix3x3 m)
27 {
28         if (space == COLORSPACE_XYZ) {
29                 m[0] = 1.0f; m[3] = 0.0f; m[6] = 0.0f;
30                 m[1] = 0.0f; m[4] = 1.0f; m[7] = 0.0f;
31                 m[2] = 0.0f; m[5] = 0.0f; m[8] = 1.0f;
32                 return;
33         }
34
35         double x_R, x_G, x_B;
36         double y_R, y_G, y_B;
37
38         switch (space) {
39         case COLORSPACE_REC_709:  // And sRGB.
40                 x_R = rec709_x_R; x_G = rec709_x_G; x_B = rec709_x_B;
41                 y_R = rec709_y_R; y_G = rec709_y_G; y_B = rec709_y_B;
42                 break;
43         case COLORSPACE_REC_601_525:
44                 x_R = rec601_525_x_R; x_G = rec601_525_x_G; x_B = rec601_525_x_B;
45                 y_R = rec601_525_y_R; y_G = rec601_525_y_G; y_B = rec601_525_y_B;
46                 break;
47         case COLORSPACE_REC_601_625:
48                 x_R = rec601_625_x_R; x_G = rec601_625_x_G; x_B = rec601_625_x_B;
49                 y_R = rec601_625_y_R; y_G = rec601_625_y_G; y_B = rec601_625_y_B;
50                 break;
51         default:
52                 assert(false);
53         }
54
55         // Recover z = 1 - x - y.
56         double z_R = 1.0 - x_R - y_R;
57         double z_G = 1.0 - x_G - y_G;
58         double z_B = 1.0 - x_B - y_B;
59
60         // Find the XYZ coordinates of D65 (white point for both Rec. 601 and 709),
61         // normalized so that Y=1.
62         double d65_X = d65_x / d65_y;
63         double d65_Y = 1.0;
64         double d65_Z = (1.0 - d65_x - d65_y) / d65_y;
65
66         // We have, for each primary (example is with red):
67         //
68         //   X_R / (X_R + Y_R + Z_R) = x_R
69         //   Y_R / (X_R + Y_R + Z_R) = y_R
70         //   Z_R / (X_R + Y_R + Z_R) = z_R
71         //
72         // Some algebraic fiddling yields (unsurprisingly):
73         //
74         //   X_R = (x_R / y_R) Y_R
75         //   Z_R = (z_R / y_R) Z_R
76         //
77         // We also know that since RGB=(1,1,1) should give us the
78         // D65 illuminant, we must have
79         //
80         //   X_R + X_G + X_B = D65_X
81         //   Y_R + Y_G + Y_B = D65_Y
82         //   Z_R + Z_G + Z_B = D65_Z
83         //
84         // But since we already know how to express Y and Z by
85         // some constant multiple of X, this reduces to
86         //
87         //   k1 Y_R + k2 Y_G + k3 Y_B = D65_X
88         //      Y_R +    Y_G +    Y_B = D65_Y
89         //   k4 Y_R + k5 Y_G + k6 Y_B = D65_Z
90         //
91         // Which we can solve for (Y_R, Y_G, Y_B) by inverting a 3x3 matrix.
92
93         Matrix3x3 temp, inverted;
94         temp[0] = x_R / y_R;
95         temp[3] = x_G / y_G;
96         temp[6] = x_B / y_B;
97
98         temp[1] = 1.0;
99         temp[4] = 1.0;
100         temp[7] = 1.0;
101
102         temp[2] = z_R / y_R;
103         temp[5] = z_G / y_G;
104         temp[8] = z_B / y_B;
105
106         invert_3x3_matrix(temp, inverted);
107         float Y_R, Y_G, Y_B;
108         multiply_3x3_matrix_float3(inverted, d65_X, d65_Y, d65_Z, &Y_R, &Y_G, &Y_B);
109
110         // Now convert xyY -> XYZ.
111         double X_R = temp[0] * Y_R;
112         double Z_R = temp[2] * Y_R;
113         double X_G = temp[3] * Y_G;
114         double Z_G = temp[5] * Y_G;
115         double X_B = temp[6] * Y_B;
116         double Z_B = temp[8] * Y_B;
117
118         m[0] = X_R; m[3] = X_G; m[6] = X_B;
119         m[1] = Y_R; m[4] = Y_G; m[7] = Y_B;
120         m[2] = Z_R; m[5] = Z_G; m[8] = Z_B;
121 }
122
123 std::string ColorSpaceConversionEffect::output_fragment_shader()
124 {
125         // Create a matrix to convert from source space -> XYZ,
126         // another matrix to convert from XYZ -> destination space,
127         // and then concatenate the two.
128         //
129         // Since we right-multiply the RGB column vector, the matrix
130         // concatenation order needs to be the opposite of the operation order.
131         Matrix3x3 m;
132
133         Matrix3x3 source_space_to_xyz;
134         Matrix3x3 destination_space_to_xyz;
135         Matrix3x3 xyz_to_destination_space;
136
137         get_xyz_matrix(source_space, source_space_to_xyz);
138         get_xyz_matrix(destination_space, destination_space_to_xyz);
139         invert_3x3_matrix(destination_space_to_xyz, xyz_to_destination_space);
140         
141         multiply_3x3_matrices(xyz_to_destination_space, source_space_to_xyz, m);
142
143         char buf[1024];
144         sprintf(buf,
145                 "const mat3 PREFIX(conversion_matrix) = mat3(\n"
146                 "    %.8f, %.8f, %.8f,\n"
147                 "    %.8f, %.8f, %.8f,\n"
148                 "    %.8f, %.8f, %.8f);\n\n",
149                 m[0], m[1], m[2],
150                 m[3], m[4], m[5],
151                 m[6], m[7], m[8]);
152         return buf + read_file("colorspace_conversion_effect.frag");
153 }