]> git.sesse.net Git - movit/blob - util.cpp
Allow dual Y'CbCr/RGBA outputs.
[movit] / util.cpp
1 #include <epoxy/gl.h>
2 #include <assert.h>
3 #include <math.h>
4 #include <stdio.h>
5 #include <stdlib.h>
6 #include <string.h>
7 #include <locale>
8 #include <sstream>
9 #include <string>
10 #include <Eigen/Core>
11
12 #include "fp16.h"
13 #include "init.h"
14 #include "util.h"
15
16 #if defined(__APPLE__)
17 #include <OpenGL/OpenGL.h>
18 #elif defined(WIN32)
19 #include <epoxy/wgl.h>
20 #else
21 #include <epoxy/glx.h>
22 #endif
23
24 using namespace std;
25
26 namespace movit {
27
28 extern string *movit_data_directory;
29
30 void hsv2rgb(float h, float s, float v, float *r, float *g, float *b)
31 {
32         if (h < 0.0f) {
33                 h += 2.0f * M_PI;
34         }
35         float c = v * s;
36         float hp = (h * 180.0 / M_PI) / 60.0;
37         float x = c * (1 - fabs(fmod(hp, 2.0f) - 1.0f));
38
39         if (hp >= 0 && hp < 1) {
40                 *r = c;
41                 *g = x;
42                 *b = 0.0f;
43         } else if (hp >= 1 && hp < 2) {
44                 *r = x;
45                 *g = c;
46                 *b = 0.0f;
47         } else if (hp >= 2 && hp < 3) {
48                 *r = 0.0f;
49                 *g = c;
50                 *b = x;
51         } else if (hp >= 3 && hp < 4) {
52                 *r = 0.0f;
53                 *g = x;
54                 *b = c;
55         } else if (hp >= 4 && hp < 5) {
56                 *r = x;
57                 *g = 0.0f;
58                 *b = c;
59         } else {
60                 *r = c;
61                 *g = 0.0f;
62                 *b = x;
63         }
64
65         float m = v - c;
66         *r += m;
67         *g += m;
68         *b += m;
69 }
70
71 void hsv2rgb_normalized(float h, float s, float v, float *r, float *g, float *b)
72 {
73         float ref_r, ref_g, ref_b;
74         hsv2rgb(h, s, v, r, g, b);
75         hsv2rgb(h, 0.0f, v, &ref_r, &ref_g, &ref_b);
76         float lum = 0.2126 * *r + 0.7152 * *g + 0.0722 * *b;
77         float ref_lum = 0.2126 * ref_r + 0.7152 * ref_g + 0.0722 * ref_b;
78         if (lum > 1e-3) {
79                 float fac = ref_lum / lum;
80                 *r *= fac;
81                 *g *= fac;
82                 *b *= fac;
83         }
84 }
85
86 string read_file(const string &filename)
87 {
88         const string full_pathname = *movit_data_directory + "/" + filename;
89
90         FILE *fp = fopen(full_pathname.c_str(), "r");
91         if (fp == NULL) {
92                 perror(full_pathname.c_str());
93                 exit(1);
94         }
95
96         int ret = fseek(fp, 0, SEEK_END);
97         if (ret == -1) {
98                 perror("fseek(SEEK_END)");
99                 exit(1);
100         }
101
102         int size = ftell(fp);
103
104         ret = fseek(fp, 0, SEEK_SET);
105         if (ret == -1) {
106                 perror("fseek(SEEK_SET)");
107                 exit(1);
108         }
109
110         string str;
111         str.resize(size);
112         ret = fread(&str[0], size, 1, fp);
113         if (ret == -1) {
114                 perror("fread");
115                 exit(1);
116         }
117         if (ret == 0) {
118                 fprintf(stderr, "Short read when trying to read %d bytes from %s\n",
119                         size, full_pathname.c_str());
120                 exit(1);
121         }
122         fclose(fp);
123
124         return str;
125 }
126
127 string read_version_dependent_file(const string &base, const string &extension)
128 {
129         if (movit_shader_model == MOVIT_GLSL_130) {
130                 return read_file(base + ".130." + extension);
131         } else if (movit_shader_model == MOVIT_ESSL_300) {
132                 return read_file(base + ".300es." + extension);
133         } else {
134                 assert(false);
135         }
136 }
137
138 GLuint compile_shader(const string &shader_src, GLenum type)
139 {
140         GLuint obj = glCreateShader(type);
141         const GLchar* source[] = { shader_src.data() };
142         const GLint length[] = { (GLint)shader_src.size() };
143         glShaderSource(obj, 1, source, length);
144         glCompileShader(obj);
145
146         GLchar info_log[4096];
147         GLsizei log_length = sizeof(info_log) - 1;
148         glGetShaderInfoLog(obj, log_length, &log_length, info_log);
149         info_log[log_length] = 0; 
150         if (strlen(info_log) > 0) {
151                 fprintf(stderr, "Shader compile log: %s\n", info_log);
152         }
153
154         GLint status;
155         glGetShaderiv(obj, GL_COMPILE_STATUS, &status);
156         if (status == GL_FALSE) {
157                 fprintf(stderr, "Failed to compile shader: %s\n", shader_src.c_str());
158                 exit(1);
159         }
160
161         return obj;
162 }
163
164 void print_3x3_matrix(const Eigen::Matrix3d& m)
165 {
166         printf("%6.4f %6.4f %6.4f\n", m(0,0), m(0,1), m(0,2));
167         printf("%6.4f %6.4f %6.4f\n", m(1,0), m(1,1), m(1,2));
168         printf("%6.4f %6.4f %6.4f\n", m(2,0), m(2,1), m(2,2));
169         printf("\n");
170 }
171
172 string output_glsl_mat3(const string &name, const Eigen::Matrix3d &m)
173 {
174         // Use stringstream to be independent of the current locale in a thread-safe manner.
175         stringstream ss;
176         ss.imbue(locale("C"));
177         ss.precision(8);
178         ss << scientific;
179         ss << "const mat3 " << name << " = mat3(\n";
180         ss << "    " << m(0,0) << ", " << m(1,0) << ", " << m(2,0) << ",\n";
181         ss << "    " << m(0,1) << ", " << m(1,1) << ", " << m(2,1) << ",\n";
182         ss << "    " << m(0,2) << ", " << m(1,2) << ", " << m(2,2) << ");\n\n";
183         return ss.str();
184 }
185
186 string output_glsl_float(const string &name, float x)
187 {
188         // Use stringstream to be independent of the current locale in a thread-safe manner.
189         stringstream ss;
190         ss.imbue(locale("C"));
191         ss.precision(8);
192         ss << scientific;
193         ss << "const float " << name << " = " << x << ";\n";
194         return ss.str();
195 }
196
197 string output_glsl_vec2(const string &name, float x, float y)
198 {
199         // Use stringstream to be independent of the current locale in a thread-safe manner.
200         stringstream ss;
201         ss.imbue(locale("C"));
202         ss.precision(8);
203         ss << scientific;
204         ss << "const vec2 " << name << " = vec2(" << x << ", " << y << ");\n";
205         return ss.str();
206 }
207
208 string output_glsl_vec3(const string &name, float x, float y, float z)
209 {
210         // Use stringstream to be independent of the current locale in a thread-safe manner.
211         stringstream ss;
212         ss.imbue(locale("C"));
213         ss.precision(8);
214         ss << scientific;
215         ss << "const vec3 " << name << " = vec3(" << x << ", " << y << ", " << z << ");\n";
216         return ss.str();
217 }
218
219 template<class DestFloat>
220 void combine_two_samples(float w1, float w2, float pos1, float pos2, float num_subtexels, float inv_num_subtexels,
221                          DestFloat *offset, DestFloat *total_weight, float *sum_sq_error)
222 {
223         assert(movit_initialized);
224         assert(w1 * w2 >= 0.0f);  // Should not have differing signs.
225         float z;  // Normalized 0..1 between pos1 and pos2.
226         if (fabs(w1 + w2) < 1e-6) {
227                 z = 0.5f;
228         } else {
229                 z = w2 / (w1 + w2);
230         }
231
232         // Round to the desired precision. Note that this might take z outside the 0..1 range.
233         *offset = from_fp64<DestFloat>(pos1 + z * (pos2 - pos1));
234         z = (to_fp64(*offset) - pos1) / (pos2 - pos1);
235
236         // Round to the minimum number of bits we have measured earlier.
237         // The card will do this for us anyway, but if we know what the real z
238         // is, we can pick a better total_weight below.
239         z = lrintf(z * num_subtexels) * inv_num_subtexels;
240         
241         // Choose total weight w so that we minimize total squared error
242         // for the effective weights:
243         //
244         //   e = (w(1-z) - a)² + (wz - b)²
245         //
246         // Differentiating by w and setting equal to zero:
247         //
248         //   2(w(1-z) - a)(1-z) + 2(wz - b)z = 0
249         //   w(1-z)² - a(1-z) + wz² - bz = 0
250         //   w((1-z)² + z²) = a(1-z) + bz
251         //   w = (a(1-z) + bz) / ((1-z)² + z²)
252         //
253         // If z had infinite precision, this would simply reduce to w = w1 + w2.
254         *total_weight = from_fp64<DestFloat>((w1 + z * (w2 - w1)) / (z * z + (1 - z) * (1 - z)));
255
256         if (sum_sq_error != NULL) {
257                 float err1 = to_fp64(*total_weight) * (1 - z) - w1;
258                 float err2 = to_fp64(*total_weight) * z - w2;
259                 *sum_sq_error = err1 * err1 + err2 * err2;
260         }
261 }
262
263 // Explicit instantiations.
264 template
265 void combine_two_samples<float>(float w1, float w2, float pos1, float pos2, float num_subtexels, float inv_num_subtexels,
266                                 float *offset, float *total_weight, float *sum_sq_error);
267
268 template
269 void combine_two_samples<fp16_int_t>(float w1, float w2, float pos1, float pos2, float num_subtexels, float inv_num_subtexels,
270                                      fp16_int_t *offset, fp16_int_t *total_weight, float *sum_sq_error);
271
272 GLuint fill_vertex_attribute(GLuint glsl_program_num, const string &attribute_name, GLint size, GLenum type, GLsizeiptr data_size, const GLvoid *data)
273 {
274         int attrib = glGetAttribLocation(glsl_program_num, attribute_name.c_str());
275         if (attrib == -1) {
276                 return -1;
277         }
278
279         GLuint vbo;
280         glGenBuffers(1, &vbo);
281         check_error();
282         glBindBuffer(GL_ARRAY_BUFFER, vbo);
283         check_error();
284         glBufferData(GL_ARRAY_BUFFER, data_size, data, GL_STATIC_DRAW);
285         check_error();
286         glEnableVertexAttribArray(attrib);
287         check_error();
288         glVertexAttribPointer(attrib, size, type, GL_FALSE, 0, BUFFER_OFFSET(0));
289         check_error();
290         glBindBuffer(GL_ARRAY_BUFFER, 0);
291         check_error();
292
293         return vbo;
294 }
295
296 void cleanup_vertex_attribute(GLuint glsl_program_num, const string &attribute_name, GLuint vbo)
297 {
298         int attrib = glGetAttribLocation(glsl_program_num, attribute_name.c_str());
299         if (attrib == -1) {
300                 return;
301         }
302
303         glDisableVertexAttribArray(attrib);
304         check_error();
305         glDeleteBuffers(1, &vbo);
306         check_error();
307 }
308
309 unsigned div_round_up(unsigned a, unsigned b)
310 {
311         return (a + b - 1) / b;
312 }
313
314 // Algorithm from http://graphics.stanford.edu/~seander/bithacks.html#RoundUpPowerOf2.
315 unsigned next_power_of_two(unsigned v)
316 {
317         v--;
318         v |= v >> 1;
319         v |= v >> 2;
320         v |= v >> 4;
321         v |= v >> 8;
322         v |= v >> 16;
323         v++;
324         return v;
325 }
326
327 void *get_gl_context_identifier()
328 {
329 #if defined(__APPLE__)
330         return (void *)CGLGetCurrentContext();
331 #elif defined(WIN32)
332         return (void *)wglGetCurrentContext();
333 #else
334         return (void *)glXGetCurrentContext();
335 #endif
336 }
337
338 }  // namespace movit