]> git.sesse.net Git - nageru/blob - theme.cpp
Expose the video input signals to the theme, so that they can ask for connection...
[nageru] / theme.cpp
1 #include "theme.h"
2
3 #include <assert.h>
4 #include <bmusb/bmusb.h>
5 #include <epoxy/gl.h>
6 #include <lauxlib.h>
7 #include <lua.hpp>
8 #include <movit/effect.h>
9 #include <movit/effect_chain.h>
10 #include <movit/image_format.h>
11 #include <movit/mix_effect.h>
12 #include <movit/multiply_effect.h>
13 #include <movit/overlay_effect.h>
14 #include <movit/padding_effect.h>
15 #include <movit/resample_effect.h>
16 #include <movit/resize_effect.h>
17 #include <movit/util.h>
18 #include <movit/white_balance_effect.h>
19 #include <movit/ycbcr.h>
20 #include <movit/ycbcr_input.h>
21 #include <stdio.h>
22 #include <stdlib.h>
23 #include <cstddef>
24 #include <memory>
25 #include <new>
26 #include <utility>
27
28 #include "defs.h"
29 #include "deinterlace_effect.h"
30 #include "ffmpeg_capture.h"
31 #include "flags.h"
32 #include "image_input.h"
33 #include "input.h"
34 #include "input_state.h"
35 #include "pbo_frame_allocator.h"
36
37 class Mixer;
38
39 namespace movit {
40 class ResourcePool;
41 }  // namespace movit
42
43 using namespace std;
44 using namespace movit;
45
46 extern Mixer *global_mixer;
47
48 namespace {
49
50 // Contains basically the same data as InputState, but does not hold on to
51 // a reference to the frames. This is important so that we can release them
52 // without having to wait for Lua's GC.
53 struct InputStateInfo {
54         InputStateInfo(const InputState& input_state);
55
56         unsigned last_width[MAX_VIDEO_CARDS], last_height[MAX_VIDEO_CARDS];
57         bool last_interlaced[MAX_VIDEO_CARDS], last_has_signal[MAX_VIDEO_CARDS], last_is_connected[MAX_VIDEO_CARDS];
58         unsigned last_frame_rate_nom[MAX_VIDEO_CARDS], last_frame_rate_den[MAX_VIDEO_CARDS];
59 };
60
61 InputStateInfo::InputStateInfo(const InputState &input_state)
62 {
63         for (unsigned signal_num = 0; signal_num < MAX_VIDEO_CARDS; ++signal_num) {
64                 BufferedFrame frame = input_state.buffered_frames[signal_num][0];
65                 if (frame.frame == nullptr) {
66                         last_width[signal_num] = last_height[signal_num] = 0;
67                         last_interlaced[signal_num] = false;
68                         last_has_signal[signal_num] = false;
69                         last_is_connected[signal_num] = false;
70                         continue;
71                 }
72                 const PBOFrameAllocator::Userdata *userdata = (const PBOFrameAllocator::Userdata *)frame.frame->userdata;
73                 last_width[signal_num] = userdata->last_width[frame.field_number];
74                 last_height[signal_num] = userdata->last_height[frame.field_number];
75                 last_interlaced[signal_num] = userdata->last_interlaced;
76                 last_has_signal[signal_num] = userdata->last_has_signal;
77                 last_is_connected[signal_num] = userdata->last_is_connected;
78                 last_frame_rate_nom[signal_num] = userdata->last_frame_rate_nom;
79                 last_frame_rate_den[signal_num] = userdata->last_frame_rate_den;
80         }
81 }
82
83 class LuaRefWithDeleter {
84 public:
85         LuaRefWithDeleter(mutex *m, lua_State *L, int ref) : m(m), L(L), ref(ref) {}
86         ~LuaRefWithDeleter() {
87                 unique_lock<mutex> lock(*m);
88                 luaL_unref(L, LUA_REGISTRYINDEX, ref);
89         }
90         int get() const { return ref; }
91
92 private:
93         LuaRefWithDeleter(const LuaRefWithDeleter &) = delete;
94
95         mutex *m;
96         lua_State *L;
97         int ref;
98 };
99
100 template<class T, class... Args>
101 int wrap_lua_object(lua_State* L, const char *class_name, Args&&... args)
102 {
103         // Construct the C++ object and put it on the stack.
104         void *mem = lua_newuserdata(L, sizeof(T));
105         new(mem) T(forward<Args>(args)...);
106
107         // Look up the metatable named <class_name>, and set it on the new object.
108         luaL_getmetatable(L, class_name);
109         lua_setmetatable(L, -2);
110
111         return 1;
112 }
113
114 // Like wrap_lua_object, but the object is not owned by Lua; ie. it's not freed
115 // by Lua GC. This is typically the case for Effects, which are owned by EffectChain
116 // and expected to be destructed by it. The object will be of type T** instead of T*
117 // when exposed to Lua.
118 //
119 // Note that we currently leak if you allocate an Effect in this way and never call
120 // add_effect. We should see if there's a way to e.g. set __gc on it at construction time
121 // and then release that once add_effect() takes ownership.
122 template<class T, class... Args>
123 int wrap_lua_object_nonowned(lua_State* L, const char *class_name, Args&&... args)
124 {
125         // Construct the pointer ot the C++ object and put it on the stack.
126         T **obj = (T **)lua_newuserdata(L, sizeof(T *));
127         *obj = new T(forward<Args>(args)...);
128
129         // Look up the metatable named <class_name>, and set it on the new object.
130         luaL_getmetatable(L, class_name);
131         lua_setmetatable(L, -2);
132
133         return 1;
134 }
135
136 Theme *get_theme_updata(lua_State* L)
137 {       
138         luaL_checktype(L, lua_upvalueindex(1), LUA_TLIGHTUSERDATA);
139         return (Theme *)lua_touserdata(L, lua_upvalueindex(1));
140 }
141
142 Effect *get_effect(lua_State *L, int idx)
143 {
144         if (luaL_testudata(L, idx, "WhiteBalanceEffect") ||
145             luaL_testudata(L, idx, "ResampleEffect") ||
146             luaL_testudata(L, idx, "PaddingEffect") ||
147             luaL_testudata(L, idx, "IntegralPaddingEffect") ||
148             luaL_testudata(L, idx, "OverlayEffect") ||
149             luaL_testudata(L, idx, "ResizeEffect") ||
150             luaL_testudata(L, idx, "MultiplyEffect") ||
151             luaL_testudata(L, idx, "MixEffect") ||
152             luaL_testudata(L, idx, "ImageInput")) {
153                 return *(Effect **)lua_touserdata(L, idx);
154         }
155         luaL_error(L, "Error: Index #%d was not an Effect type\n", idx);
156         return nullptr;
157 }
158
159 InputStateInfo *get_input_state_info(lua_State *L, int idx)
160 {
161         if (luaL_testudata(L, idx, "InputStateInfo")) {
162                 return (InputStateInfo *)lua_touserdata(L, idx);
163         }
164         luaL_error(L, "Error: Index #%d was not InputStateInfo\n", idx);
165         return nullptr;
166 }
167
168 bool checkbool(lua_State* L, int idx)
169 {
170         luaL_checktype(L, idx, LUA_TBOOLEAN);
171         return lua_toboolean(L, idx);
172 }
173
174 string checkstdstring(lua_State *L, int index)
175 {
176         size_t len;
177         const char* cstr = lua_tolstring(L, index, &len);
178         return string(cstr, len);
179 }
180
181 int EffectChain_new(lua_State* L)
182 {
183         assert(lua_gettop(L) == 2);
184         Theme *theme = get_theme_updata(L);
185         int aspect_w = luaL_checknumber(L, 1);
186         int aspect_h = luaL_checknumber(L, 2);
187
188         return wrap_lua_object<EffectChain>(L, "EffectChain", aspect_w, aspect_h, theme->get_resource_pool());
189 }
190
191 int EffectChain_gc(lua_State* L)
192 {
193         assert(lua_gettop(L) == 1);
194         EffectChain *chain = (EffectChain *)luaL_checkudata(L, 1, "EffectChain");
195         chain->~EffectChain();
196         return 0;
197 }
198
199 int EffectChain_add_live_input(lua_State* L)
200 {
201         assert(lua_gettop(L) == 3);
202         Theme *theme = get_theme_updata(L);
203         EffectChain *chain = (EffectChain *)luaL_checkudata(L, 1, "EffectChain");
204         bool override_bounce = checkbool(L, 2);
205         bool deinterlace = checkbool(L, 3);
206         bmusb::PixelFormat pixel_format = global_flags.ten_bit_input ? bmusb::PixelFormat_10BitYCbCr : bmusb::PixelFormat_8BitYCbCr;
207
208         // Needs to be nonowned to match add_video_input (see below).
209         return wrap_lua_object_nonowned<LiveInputWrapper>(L, "LiveInputWrapper", theme, chain, pixel_format, override_bounce, deinterlace);
210 }
211
212 int EffectChain_add_video_input(lua_State* L)
213 {
214         assert(lua_gettop(L) == 3);
215         Theme *theme = get_theme_updata(L);
216         EffectChain *chain = (EffectChain *)luaL_checkudata(L, 1, "EffectChain");
217         FFmpegCapture **capture = (FFmpegCapture **)luaL_checkudata(L, 2, "VideoInput");
218         bool deinterlace = checkbool(L, 3);
219
220         // These need to be nonowned, so that the LiveInputWrapper still exists
221         // and can feed frames to the right EffectChain even if the Lua code
222         // doesn't care about the object anymore. (If we change this, we'd need
223         // to also unregister the signal connection on __gc.)
224         int ret = wrap_lua_object_nonowned<LiveInputWrapper>(
225                 L, "LiveInputWrapper", theme, chain, bmusb::PixelFormat_8BitBGRA,
226                 /*override_bounce=*/false, deinterlace);
227         if (ret == 1) {
228                 Theme *theme = get_theme_updata(L);
229                 LiveInputWrapper **live_input = (LiveInputWrapper **)lua_touserdata(L, -1);
230                 theme->register_signal_connection(*live_input, *capture);
231         }
232         return ret;
233 }
234
235 int EffectChain_add_effect(lua_State* L)
236 {
237         assert(lua_gettop(L) >= 2);
238         EffectChain *chain = (EffectChain *)luaL_checkudata(L, 1, "EffectChain");
239
240         // TODO: Better error reporting.
241         Effect *effect = get_effect(L, 2);
242         if (lua_gettop(L) == 2) {
243                 if (effect->num_inputs() == 0) {
244                         chain->add_input((Input *)effect);
245                 } else {
246                         chain->add_effect(effect);
247                 }
248         } else {
249                 vector<Effect *> inputs;
250                 for (int idx = 3; idx <= lua_gettop(L); ++idx) {
251                         if (luaL_testudata(L, idx, "LiveInputWrapper")) {
252                                 LiveInputWrapper **input = (LiveInputWrapper **)lua_touserdata(L, idx);
253                                 inputs.push_back((*input)->get_effect());
254                         } else {
255                                 inputs.push_back(get_effect(L, idx));
256                         }
257                 }
258                 chain->add_effect(effect, inputs);
259         }
260
261         lua_settop(L, 2);  // Return the effect itself.
262
263         // Make sure Lua doesn't garbage-collect it away.
264         lua_pushvalue(L, -1);
265         luaL_ref(L, LUA_REGISTRYINDEX);  // TODO: leak?
266
267         return 1;
268 }
269
270 int EffectChain_finalize(lua_State* L)
271 {
272         assert(lua_gettop(L) == 2);
273         EffectChain *chain = (EffectChain *)luaL_checkudata(L, 1, "EffectChain");
274         bool is_main_chain = checkbool(L, 2);
275
276         // Add outputs as needed.
277         // NOTE: If you change any details about the output format, you will need to
278         // also update what's given to the muxer (HTTPD::Mux constructor) and
279         // what's put in the H.264 stream (sps_rbsp()).
280         ImageFormat inout_format;
281         inout_format.color_space = COLORSPACE_REC_709;
282
283         // Output gamma is tricky. We should output Rec. 709 for TV, except that
284         // we expect to run with web players and others that don't really care and
285         // just output with no conversion. So that means we'll need to output sRGB,
286         // even though H.264 has no setting for that (we use “unspecified”).
287         inout_format.gamma_curve = GAMMA_sRGB;
288
289         if (is_main_chain) {
290                 YCbCrFormat output_ycbcr_format;
291                 // We actually output 4:2:0 and/or 4:2:2 in the end, but chroma subsampling
292                 // happens in a pass not run by Movit (see ChromaSubsampler::subsample_chroma()).
293                 output_ycbcr_format.chroma_subsampling_x = 1;
294                 output_ycbcr_format.chroma_subsampling_y = 1;
295
296                 // This will be overridden if HDMI/SDI output is in force.
297                 if (global_flags.ycbcr_rec709_coefficients) {
298                         output_ycbcr_format.luma_coefficients = YCBCR_REC_709;
299                 } else {
300                         output_ycbcr_format.luma_coefficients = YCBCR_REC_601;
301                 }
302
303                 output_ycbcr_format.full_range = false;
304                 output_ycbcr_format.num_levels = 1 << global_flags.x264_bit_depth;
305
306                 GLenum type = global_flags.x264_bit_depth > 8 ? GL_UNSIGNED_SHORT : GL_UNSIGNED_BYTE;
307
308                 chain->add_ycbcr_output(inout_format, OUTPUT_ALPHA_FORMAT_POSTMULTIPLIED, output_ycbcr_format, YCBCR_OUTPUT_SPLIT_Y_AND_CBCR, type);
309
310                 // If we're using zerocopy video encoding (so the destination
311                 // Y texture is owned by VA-API and will be unavailable for
312                 // display), add a copy, where we'll only be using the Y component.
313                 if (global_flags.use_zerocopy) {
314                         chain->add_ycbcr_output(inout_format, OUTPUT_ALPHA_FORMAT_POSTMULTIPLIED, output_ycbcr_format, YCBCR_OUTPUT_INTERLEAVED, type);  // Add a copy where we'll only be using the Y component.
315                 }
316                 chain->set_dither_bits(global_flags.x264_bit_depth > 8 ? 16 : 8);
317                 chain->set_output_origin(OUTPUT_ORIGIN_TOP_LEFT);
318         } else {
319                 chain->add_output(inout_format, OUTPUT_ALPHA_FORMAT_POSTMULTIPLIED);
320         }
321
322         chain->finalize();
323         return 0;
324 }
325
326 int LiveInputWrapper_connect_signal(lua_State* L)
327 {
328         assert(lua_gettop(L) == 2);
329         LiveInputWrapper **input = (LiveInputWrapper **)luaL_checkudata(L, 1, "LiveInputWrapper");
330         int signal_num = luaL_checknumber(L, 2);
331         (*input)->connect_signal(signal_num);
332         return 0;
333 }
334
335 int ImageInput_new(lua_State* L)
336 {
337         assert(lua_gettop(L) == 1);
338         string filename = checkstdstring(L, 1);
339         return wrap_lua_object_nonowned<ImageInput>(L, "ImageInput", filename);
340 }
341
342 int VideoInput_new(lua_State* L)
343 {
344         assert(lua_gettop(L) == 1);
345         string filename = checkstdstring(L, 1);
346         int ret = wrap_lua_object_nonowned<FFmpegCapture>(L, "VideoInput", filename, global_flags.width, global_flags.height);
347         if (ret == 1) {
348                 Theme *theme = get_theme_updata(L);
349                 FFmpegCapture **capture = (FFmpegCapture **)lua_touserdata(L, -1);
350                 theme->register_video_input(*capture);
351         }
352         return ret;
353 }
354
355 int VideoInput_rewind(lua_State* L)
356 {
357         assert(lua_gettop(L) == 1);
358         FFmpegCapture **video_input = (FFmpegCapture **)luaL_checkudata(L, 1, "VideoInput");
359         (*video_input)->rewind();
360         return 0;
361 }
362
363 int VideoInput_change_rate(lua_State* L)
364 {
365         assert(lua_gettop(L) == 2);
366         FFmpegCapture **video_input = (FFmpegCapture **)luaL_checkudata(L, 1, "VideoInput");
367         double new_rate = luaL_checknumber(L, 2);
368         (*video_input)->change_rate(new_rate);
369         return 0;
370 }
371
372 int VideoInput_get_signal_num(lua_State* L)
373 {
374         assert(lua_gettop(L) == 1);
375         FFmpegCapture **video_input = (FFmpegCapture **)luaL_checkudata(L, 1, "VideoInput");
376         lua_pushnumber(L, -1 - (*video_input)->get_card_index());
377         return 1;
378 }
379
380 int WhiteBalanceEffect_new(lua_State* L)
381 {
382         assert(lua_gettop(L) == 0);
383         return wrap_lua_object_nonowned<WhiteBalanceEffect>(L, "WhiteBalanceEffect");
384 }
385
386 int ResampleEffect_new(lua_State* L)
387 {
388         assert(lua_gettop(L) == 0);
389         return wrap_lua_object_nonowned<ResampleEffect>(L, "ResampleEffect");
390 }
391
392 int PaddingEffect_new(lua_State* L)
393 {
394         assert(lua_gettop(L) == 0);
395         return wrap_lua_object_nonowned<PaddingEffect>(L, "PaddingEffect");
396 }
397
398 int IntegralPaddingEffect_new(lua_State* L)
399 {
400         assert(lua_gettop(L) == 0);
401         return wrap_lua_object_nonowned<IntegralPaddingEffect>(L, "IntegralPaddingEffect");
402 }
403
404 int OverlayEffect_new(lua_State* L)
405 {
406         assert(lua_gettop(L) == 0);
407         return wrap_lua_object_nonowned<OverlayEffect>(L, "OverlayEffect");
408 }
409
410 int ResizeEffect_new(lua_State* L)
411 {
412         assert(lua_gettop(L) == 0);
413         return wrap_lua_object_nonowned<ResizeEffect>(L, "ResizeEffect");
414 }
415
416 int MultiplyEffect_new(lua_State* L)
417 {
418         assert(lua_gettop(L) == 0);
419         return wrap_lua_object_nonowned<MultiplyEffect>(L, "MultiplyEffect");
420 }
421
422 int MixEffect_new(lua_State* L)
423 {
424         assert(lua_gettop(L) == 0);
425         return wrap_lua_object_nonowned<MixEffect>(L, "MixEffect");
426 }
427
428 int InputStateInfo_get_width(lua_State* L)
429 {
430         assert(lua_gettop(L) == 2);
431         InputStateInfo *input_state_info = get_input_state_info(L, 1);
432         Theme *theme = get_theme_updata(L);
433         int signal_num = theme->map_signal(luaL_checknumber(L, 2));
434         lua_pushnumber(L, input_state_info->last_width[signal_num]);
435         return 1;
436 }
437
438 int InputStateInfo_get_height(lua_State* L)
439 {
440         assert(lua_gettop(L) == 2);
441         InputStateInfo *input_state_info = get_input_state_info(L, 1);
442         Theme *theme = get_theme_updata(L);
443         int signal_num = theme->map_signal(luaL_checknumber(L, 2));
444         lua_pushnumber(L, input_state_info->last_height[signal_num]);
445         return 1;
446 }
447
448 int InputStateInfo_get_interlaced(lua_State* L)
449 {
450         assert(lua_gettop(L) == 2);
451         InputStateInfo *input_state_info = get_input_state_info(L, 1);
452         Theme *theme = get_theme_updata(L);
453         int signal_num = theme->map_signal(luaL_checknumber(L, 2));
454         lua_pushboolean(L, input_state_info->last_interlaced[signal_num]);
455         return 1;
456 }
457
458 int InputStateInfo_get_has_signal(lua_State* L)
459 {
460         assert(lua_gettop(L) == 2);
461         InputStateInfo *input_state_info = get_input_state_info(L, 1);
462         Theme *theme = get_theme_updata(L);
463         int signal_num = theme->map_signal(luaL_checknumber(L, 2));
464         lua_pushboolean(L, input_state_info->last_has_signal[signal_num]);
465         return 1;
466 }
467
468 int InputStateInfo_get_is_connected(lua_State* L)
469 {
470         assert(lua_gettop(L) == 2);
471         InputStateInfo *input_state_info = get_input_state_info(L, 1);
472         Theme *theme = get_theme_updata(L);
473         int signal_num = theme->map_signal(luaL_checknumber(L, 2));
474         lua_pushboolean(L, input_state_info->last_is_connected[signal_num]);
475         return 1;
476 }
477
478 int InputStateInfo_get_frame_rate_nom(lua_State* L)
479 {
480         assert(lua_gettop(L) == 2);
481         InputStateInfo *input_state_info = get_input_state_info(L, 1);
482         Theme *theme = get_theme_updata(L);
483         int signal_num = theme->map_signal(luaL_checknumber(L, 2));
484         lua_pushnumber(L, input_state_info->last_frame_rate_nom[signal_num]);
485         return 1;
486 }
487
488 int InputStateInfo_get_frame_rate_den(lua_State* L)
489 {
490         assert(lua_gettop(L) == 2);
491         InputStateInfo *input_state_info = get_input_state_info(L, 1);
492         Theme *theme = get_theme_updata(L);
493         int signal_num = theme->map_signal(luaL_checknumber(L, 2));
494         lua_pushnumber(L, input_state_info->last_frame_rate_den[signal_num]);
495         return 1;
496 }
497
498 int Effect_set_float(lua_State *L)
499 {
500         assert(lua_gettop(L) == 3);
501         Effect *effect = (Effect *)get_effect(L, 1);
502         string key = checkstdstring(L, 2);
503         float value = luaL_checknumber(L, 3);
504         if (!effect->set_float(key, value)) {
505                 luaL_error(L, "Effect refused set_float(\"%s\", %d) (invalid key?)", key.c_str(), int(value));
506         }
507         return 0;
508 }
509
510 int Effect_set_int(lua_State *L)
511 {
512         assert(lua_gettop(L) == 3);
513         Effect *effect = (Effect *)get_effect(L, 1);
514         string key = checkstdstring(L, 2);
515         float value = luaL_checknumber(L, 3);
516         if (!effect->set_int(key, value)) {
517                 luaL_error(L, "Effect refused set_int(\"%s\", %d) (invalid key?)", key.c_str(), int(value));
518         }
519         return 0;
520 }
521
522 int Effect_set_vec3(lua_State *L)
523 {
524         assert(lua_gettop(L) == 5);
525         Effect *effect = (Effect *)get_effect(L, 1);
526         string key = checkstdstring(L, 2);
527         float v[3];
528         v[0] = luaL_checknumber(L, 3);
529         v[1] = luaL_checknumber(L, 4);
530         v[2] = luaL_checknumber(L, 5);
531         if (!effect->set_vec3(key, v)) {
532                 luaL_error(L, "Effect refused set_vec3(\"%s\", %f, %f, %f) (invalid key?)", key.c_str(),
533                         v[0], v[1], v[2]);
534         }
535         return 0;
536 }
537
538 int Effect_set_vec4(lua_State *L)
539 {
540         assert(lua_gettop(L) == 6);
541         Effect *effect = (Effect *)get_effect(L, 1);
542         string key = checkstdstring(L, 2);
543         float v[4];
544         v[0] = luaL_checknumber(L, 3);
545         v[1] = luaL_checknumber(L, 4);
546         v[2] = luaL_checknumber(L, 5);
547         v[3] = luaL_checknumber(L, 6);
548         if (!effect->set_vec4(key, v)) {
549                 luaL_error(L, "Effect refused set_vec4(\"%s\", %f, %f, %f, %f) (invalid key?)", key.c_str(),
550                         v[0], v[1], v[2], v[3]);
551         }
552         return 0;
553 }
554
555 const luaL_Reg EffectChain_funcs[] = {
556         { "new", EffectChain_new },
557         { "__gc", EffectChain_gc },
558         { "add_live_input", EffectChain_add_live_input },
559         { "add_video_input", EffectChain_add_video_input },
560         { "add_effect", EffectChain_add_effect },
561         { "finalize", EffectChain_finalize },
562         { NULL, NULL }
563 };
564
565 const luaL_Reg LiveInputWrapper_funcs[] = {
566         { "connect_signal", LiveInputWrapper_connect_signal },
567         { NULL, NULL }
568 };
569
570 const luaL_Reg ImageInput_funcs[] = {
571         { "new", ImageInput_new },
572         { "set_float", Effect_set_float },
573         { "set_int", Effect_set_int },
574         { "set_vec3", Effect_set_vec3 },
575         { "set_vec4", Effect_set_vec4 },
576         { NULL, NULL }
577 };
578
579 const luaL_Reg VideoInput_funcs[] = {
580         { "new", VideoInput_new },
581         { "rewind", VideoInput_rewind },
582         { "change_rate", VideoInput_change_rate },
583         { "get_signal_num", VideoInput_get_signal_num },
584         { NULL, NULL }
585 };
586
587 const luaL_Reg WhiteBalanceEffect_funcs[] = {
588         { "new", WhiteBalanceEffect_new },
589         { "set_float", Effect_set_float },
590         { "set_int", Effect_set_int },
591         { "set_vec3", Effect_set_vec3 },
592         { "set_vec4", Effect_set_vec4 },
593         { NULL, NULL }
594 };
595
596 const luaL_Reg ResampleEffect_funcs[] = {
597         { "new", ResampleEffect_new },
598         { "set_float", Effect_set_float },
599         { "set_int", Effect_set_int },
600         { "set_vec3", Effect_set_vec3 },
601         { "set_vec4", Effect_set_vec4 },
602         { NULL, NULL }
603 };
604
605 const luaL_Reg PaddingEffect_funcs[] = {
606         { "new", PaddingEffect_new },
607         { "set_float", Effect_set_float },
608         { "set_int", Effect_set_int },
609         { "set_vec3", Effect_set_vec3 },
610         { "set_vec4", Effect_set_vec4 },
611         { NULL, NULL }
612 };
613
614 const luaL_Reg IntegralPaddingEffect_funcs[] = {
615         { "new", IntegralPaddingEffect_new },
616         { "set_float", Effect_set_float },
617         { "set_int", Effect_set_int },
618         { "set_vec3", Effect_set_vec3 },
619         { "set_vec4", Effect_set_vec4 },
620         { NULL, NULL }
621 };
622
623 const luaL_Reg OverlayEffect_funcs[] = {
624         { "new", OverlayEffect_new },
625         { "set_float", Effect_set_float },
626         { "set_int", Effect_set_int },
627         { "set_vec3", Effect_set_vec3 },
628         { "set_vec4", Effect_set_vec4 },
629         { NULL, NULL }
630 };
631
632 const luaL_Reg ResizeEffect_funcs[] = {
633         { "new", ResizeEffect_new },
634         { "set_float", Effect_set_float },
635         { "set_int", Effect_set_int },
636         { "set_vec3", Effect_set_vec3 },
637         { "set_vec4", Effect_set_vec4 },
638         { NULL, NULL }
639 };
640
641 const luaL_Reg MultiplyEffect_funcs[] = {
642         { "new", MultiplyEffect_new },
643         { "set_float", Effect_set_float },
644         { "set_int", Effect_set_int },
645         { "set_vec3", Effect_set_vec3 },
646         { "set_vec4", Effect_set_vec4 },
647         { NULL, NULL }
648 };
649
650 const luaL_Reg MixEffect_funcs[] = {
651         { "new", MixEffect_new },
652         { "set_float", Effect_set_float },
653         { "set_int", Effect_set_int },
654         { "set_vec3", Effect_set_vec3 },
655         { "set_vec4", Effect_set_vec4 },
656         { NULL, NULL }
657 };
658
659 const luaL_Reg InputStateInfo_funcs[] = {
660         { "get_width", InputStateInfo_get_width },
661         { "get_height", InputStateInfo_get_height },
662         { "get_interlaced", InputStateInfo_get_interlaced },
663         { "get_has_signal", InputStateInfo_get_has_signal },
664         { "get_is_connected", InputStateInfo_get_is_connected },
665         { "get_frame_rate_nom", InputStateInfo_get_frame_rate_nom },
666         { "get_frame_rate_den", InputStateInfo_get_frame_rate_den },
667         { NULL, NULL }
668 };
669
670 }  // namespace
671
672 LiveInputWrapper::LiveInputWrapper(Theme *theme, EffectChain *chain, bmusb::PixelFormat pixel_format, bool override_bounce, bool deinterlace)
673         : theme(theme),
674           pixel_format(pixel_format),
675           deinterlace(deinterlace)
676 {
677         ImageFormat inout_format;
678         inout_format.color_space = COLORSPACE_sRGB;
679
680         // Gamma curve depends on the input signal, and we don't really get any
681         // indications. A camera would be expected to do Rec. 709, but
682         // I haven't checked if any do in practice. However, computers _do_ output
683         // in sRGB gamma (ie., they don't convert from sRGB to Rec. 709), and
684         // I wouldn't really be surprised if most non-professional cameras do, too.
685         // So we pick sRGB as the least evil here.
686         inout_format.gamma_curve = GAMMA_sRGB;
687
688         unsigned num_inputs;
689         if (deinterlace) {
690                 deinterlace_effect = new movit::DeinterlaceEffect();
691
692                 // As per the comments in deinterlace_effect.h, we turn this off.
693                 // The most likely interlaced input for us is either a camera
694                 // (where it's fine to turn it off) or a laptop (where it _should_
695                 // be turned off).
696                 CHECK(deinterlace_effect->set_int("enable_spatial_interlacing_check", 0));
697
698                 num_inputs = deinterlace_effect->num_inputs();
699                 assert(num_inputs == FRAME_HISTORY_LENGTH);
700         } else {
701                 num_inputs = 1;
702         }
703
704         if (pixel_format == bmusb::PixelFormat_8BitBGRA) {
705                 for (unsigned i = 0; i < num_inputs; ++i) {
706                         // We upload our textures ourselves, and Movit swaps
707                         // R and B in the shader if we specify BGRA, so lie and say RGBA.
708                         if (global_flags.can_disable_srgb_decoder) {
709                                 rgba_inputs.push_back(new sRGBSwitchingFlatInput(inout_format, FORMAT_RGBA_POSTMULTIPLIED_ALPHA, GL_UNSIGNED_BYTE, global_flags.width, global_flags.height));
710                         } else {
711                                 rgba_inputs.push_back(new NonsRGBCapableFlatInput(inout_format, FORMAT_RGBA_POSTMULTIPLIED_ALPHA, GL_UNSIGNED_BYTE, global_flags.width, global_flags.height));
712                         }
713                         chain->add_input(rgba_inputs.back());
714                 }
715
716                 if (deinterlace) {
717                         vector<Effect *> reverse_inputs(rgba_inputs.rbegin(), rgba_inputs.rend());
718                         chain->add_effect(deinterlace_effect, reverse_inputs);
719                 }
720         } else {
721                 assert(pixel_format == bmusb::PixelFormat_8BitYCbCr || pixel_format == bmusb::PixelFormat_10BitYCbCr);
722                 // The Blackmagic driver docs claim that the device outputs Y'CbCr
723                 // according to Rec. 601, but practical testing indicates it definitely
724                 // is Rec. 709 (at least up to errors attributable to rounding errors).
725                 // Perhaps 601 was only to indicate the subsampling positions, not the
726                 // colorspace itself? Tested with a Lenovo X1 gen 3 as input.
727                 YCbCrFormat input_ycbcr_format;
728                 input_ycbcr_format.chroma_subsampling_x = (pixel_format == bmusb::PixelFormat_10BitYCbCr) ? 1 : 2;
729                 input_ycbcr_format.chroma_subsampling_y = 1;
730                 input_ycbcr_format.num_levels = (pixel_format == bmusb::PixelFormat_10BitYCbCr) ? 1024 : 256;
731                 input_ycbcr_format.cb_x_position = 0.0;
732                 input_ycbcr_format.cr_x_position = 0.0;
733                 input_ycbcr_format.cb_y_position = 0.5;
734                 input_ycbcr_format.cr_y_position = 0.5;
735                 input_ycbcr_format.luma_coefficients = YCBCR_REC_709;
736                 input_ycbcr_format.full_range = false;
737
738                 for (unsigned i = 0; i < num_inputs; ++i) {
739                         // When using 10-bit input, we're converting to interleaved through v210Converter.
740                         YCbCrInputSplitting splitting = (pixel_format == bmusb::PixelFormat_10BitYCbCr) ? YCBCR_INPUT_INTERLEAVED : YCBCR_INPUT_SPLIT_Y_AND_CBCR;
741                         if (override_bounce) {
742                                 ycbcr_inputs.push_back(new NonBouncingYCbCrInput(inout_format, input_ycbcr_format, global_flags.width, global_flags.height, splitting));
743                         } else {
744                                 ycbcr_inputs.push_back(new YCbCrInput(inout_format, input_ycbcr_format, global_flags.width, global_flags.height, splitting));
745                         }
746                         chain->add_input(ycbcr_inputs.back());
747                 }
748
749                 if (deinterlace) {
750                         vector<Effect *> reverse_inputs(ycbcr_inputs.rbegin(), ycbcr_inputs.rend());
751                         chain->add_effect(deinterlace_effect, reverse_inputs);
752                 }
753         }
754 }
755
756 void LiveInputWrapper::connect_signal(int signal_num)
757 {
758         if (global_mixer == nullptr) {
759                 // No data yet.
760                 return;
761         }
762
763         signal_num = theme->map_signal(signal_num);
764         connect_signal_raw(signal_num);
765 }
766
767 void LiveInputWrapper::connect_signal_raw(int signal_num)
768 {
769         BufferedFrame first_frame = theme->input_state->buffered_frames[signal_num][0];
770         if (first_frame.frame == nullptr) {
771                 // No data yet.
772                 return;
773         }
774         unsigned width, height;
775         {
776                 const PBOFrameAllocator::Userdata *userdata = (const PBOFrameAllocator::Userdata *)first_frame.frame->userdata;
777                 width = userdata->last_width[first_frame.field_number];
778                 height = userdata->last_height[first_frame.field_number];
779         }
780
781         BufferedFrame last_good_frame = first_frame;
782         for (unsigned i = 0; i < max(ycbcr_inputs.size(), rgba_inputs.size()); ++i) {
783                 BufferedFrame frame = theme->input_state->buffered_frames[signal_num][i];
784                 if (frame.frame == nullptr) {
785                         // Not enough data; reuse last frame (well, field).
786                         // This is suboptimal, but we have nothing better.
787                         frame = last_good_frame;
788                 }
789                 const PBOFrameAllocator::Userdata *userdata = (const PBOFrameAllocator::Userdata *)frame.frame->userdata;
790
791                 unsigned this_width = userdata->last_width[frame.field_number];
792                 unsigned this_height = userdata->last_height[frame.field_number];
793                 if (this_width != width || this_height != height) {
794                         // Resolution changed; reuse last frame/field.
795                         frame = last_good_frame;
796                         userdata = (const PBOFrameAllocator::Userdata *)frame.frame->userdata;
797                 }
798
799                 assert(userdata->pixel_format == pixel_format);
800                 switch (pixel_format) {
801                 case bmusb::PixelFormat_8BitYCbCr:
802                         ycbcr_inputs[i]->set_texture_num(0, userdata->tex_y[frame.field_number]);
803                         ycbcr_inputs[i]->set_texture_num(1, userdata->tex_cbcr[frame.field_number]);
804                         ycbcr_inputs[i]->set_width(width);
805                         ycbcr_inputs[i]->set_height(height);
806                         break;
807                 case bmusb::PixelFormat_10BitYCbCr:
808                         ycbcr_inputs[i]->set_texture_num(0, userdata->tex_444[frame.field_number]);
809                         ycbcr_inputs[i]->set_width(width);
810                         ycbcr_inputs[i]->set_height(height);
811                         break;
812                 case bmusb::PixelFormat_8BitBGRA:
813                         rgba_inputs[i]->set_texture_num(userdata->tex_rgba[frame.field_number]);
814                         rgba_inputs[i]->set_width(width);
815                         rgba_inputs[i]->set_height(height);
816                         break;
817                 default:
818                         assert(false);
819                 }
820
821                 last_good_frame = frame;
822         }
823
824         if (deinterlace) {
825                 BufferedFrame frame = theme->input_state->buffered_frames[signal_num][0];
826                 CHECK(deinterlace_effect->set_int("current_field_position", frame.field_number));
827         }
828 }
829
830 namespace {
831
832 int call_num_channels(lua_State *L)
833 {
834         lua_getglobal(L, "num_channels");
835
836         if (lua_pcall(L, 0, 1, 0) != 0) {
837                 fprintf(stderr, "error running function `num_channels': %s\n", lua_tostring(L, -1));
838                 exit(1);
839         }
840
841         int num_channels = luaL_checknumber(L, 1);
842         lua_pop(L, 1);
843         assert(lua_gettop(L) == 0);
844         return num_channels;
845 }
846
847 }  // namespace
848
849 Theme::Theme(const string &filename, const vector<string> &search_dirs, ResourcePool *resource_pool, unsigned num_cards)
850         : resource_pool(resource_pool), num_cards(num_cards), signal_to_card_mapping(global_flags.default_stream_mapping)
851 {
852         L = luaL_newstate();
853         luaL_openlibs(L);
854
855         register_class("EffectChain", EffectChain_funcs); 
856         register_class("LiveInputWrapper", LiveInputWrapper_funcs); 
857         register_class("ImageInput", ImageInput_funcs);
858         register_class("VideoInput", VideoInput_funcs);
859         register_class("WhiteBalanceEffect", WhiteBalanceEffect_funcs);
860         register_class("ResampleEffect", ResampleEffect_funcs);
861         register_class("PaddingEffect", PaddingEffect_funcs);
862         register_class("IntegralPaddingEffect", IntegralPaddingEffect_funcs);
863         register_class("OverlayEffect", OverlayEffect_funcs);
864         register_class("ResizeEffect", ResizeEffect_funcs);
865         register_class("MultiplyEffect", MultiplyEffect_funcs);
866         register_class("MixEffect", MixEffect_funcs);
867         register_class("InputStateInfo", InputStateInfo_funcs);
868
869         // Run script. Search through all directories until we find a file that will load
870         // (as in, does not return LUA_ERRFILE); then run it. We store load errors
871         // from all the attempts, and show them once we know we can't find any of them.
872         lua_settop(L, 0);
873         vector<string> errors;
874         bool success = false;
875         for (size_t i = 0; i < search_dirs.size(); ++i) {
876                 string path = search_dirs[i] + "/" + filename;
877                 int err = luaL_loadfile(L, path.c_str());
878                 if (err == 0) {
879                         // Success; actually call the code.
880                         if (lua_pcall(L, 0, LUA_MULTRET, 0)) {
881                                 fprintf(stderr, "Error when running %s: %s\n", path.c_str(), lua_tostring(L, -1));
882                                 exit(1);
883                         }
884                         success = true;
885                         break;
886                 }
887                 errors.push_back(lua_tostring(L, -1));
888                 lua_pop(L, 1);
889                 if (err != LUA_ERRFILE) {
890                         // The file actually loaded, but failed to parse somehow. Abort; don't try the next one.
891                         break;
892                 }
893         }
894
895         if (!success) {
896                 for (const string &error : errors) {
897                         fprintf(stderr, "%s\n", error.c_str());
898                 }
899                 exit(1);
900         }
901         assert(lua_gettop(L) == 0);
902
903         // Ask it for the number of channels.
904         num_channels = call_num_channels(L);
905 }
906
907 Theme::~Theme()
908 {
909         lua_close(L);
910 }
911
912 void Theme::register_class(const char *class_name, const luaL_Reg *funcs)
913 {
914         assert(lua_gettop(L) == 0);
915         luaL_newmetatable(L, class_name);  // mt = {}
916         lua_pushlightuserdata(L, this);
917         luaL_setfuncs(L, funcs, 1);        // for (name,f in funcs) { mt[name] = f, with upvalue {theme} }
918         lua_pushvalue(L, -1);
919         lua_setfield(L, -2, "__index");    // mt.__index = mt
920         lua_setglobal(L, class_name);      // ClassName = mt
921         assert(lua_gettop(L) == 0);
922 }
923
924 Theme::Chain Theme::get_chain(unsigned num, float t, unsigned width, unsigned height, InputState input_state) 
925 {
926         Chain chain;
927
928         unique_lock<mutex> lock(m);
929         assert(lua_gettop(L) == 0);
930         lua_getglobal(L, "get_chain");  /* function to be called */
931         lua_pushnumber(L, num);
932         lua_pushnumber(L, t);
933         lua_pushnumber(L, width);
934         lua_pushnumber(L, height);
935         wrap_lua_object<InputStateInfo>(L, "InputStateInfo", input_state);
936
937         if (lua_pcall(L, 5, 2, 0) != 0) {
938                 fprintf(stderr, "error running function `get_chain': %s\n", lua_tostring(L, -1));
939                 exit(1);
940         }
941
942         chain.chain = (EffectChain *)luaL_testudata(L, -2, "EffectChain");
943         if (chain.chain == nullptr) {
944                 fprintf(stderr, "get_chain() for chain number %d did not return an EffectChain\n",
945                         num);
946                 exit(1);
947         }
948         if (!lua_isfunction(L, -1)) {
949                 fprintf(stderr, "Argument #-1 should be a function\n");
950                 exit(1);
951         }
952         lua_pushvalue(L, -1);
953         shared_ptr<LuaRefWithDeleter> funcref(new LuaRefWithDeleter(&m, L, luaL_ref(L, LUA_REGISTRYINDEX)));
954         lua_pop(L, 2);
955         assert(lua_gettop(L) == 0);
956
957         chain.setup_chain = [this, funcref, input_state]{
958                 unique_lock<mutex> lock(m);
959
960                 this->input_state = &input_state;
961
962                 // Set up state, including connecting signals.
963                 lua_rawgeti(L, LUA_REGISTRYINDEX, funcref->get());
964                 if (lua_pcall(L, 0, 0, 0) != 0) {
965                         fprintf(stderr, "error running chain setup callback: %s\n", lua_tostring(L, -1));
966                         exit(1);
967                 }
968                 assert(lua_gettop(L) == 0);
969         };
970
971         // TODO: Can we do better, e.g. by running setup_chain() and seeing what it references?
972         // Actually, setup_chain does maybe hold all the references we need now anyway?
973         for (unsigned card_index = 0; card_index < num_cards; ++card_index) {
974                 for (unsigned frame_num = 0; frame_num < FRAME_HISTORY_LENGTH; ++frame_num) {
975                         chain.input_frames.push_back(input_state.buffered_frames[card_index][frame_num].frame);
976                 }
977         }
978
979         return chain;
980 }
981
982 string Theme::get_channel_name(unsigned channel)
983 {
984         unique_lock<mutex> lock(m);
985         lua_getglobal(L, "channel_name");
986         lua_pushnumber(L, channel);
987         if (lua_pcall(L, 1, 1, 0) != 0) {
988                 fprintf(stderr, "error running function `channel_name': %s\n", lua_tostring(L, -1));
989                 exit(1);
990         }
991         const char *ret = lua_tostring(L, -1);
992         if (ret == nullptr) {
993                 fprintf(stderr, "function `channel_name' returned nil for channel %d\n", channel);
994                 exit(1);
995         }
996
997         string retstr = ret;
998         lua_pop(L, 1);
999         assert(lua_gettop(L) == 0);
1000         return retstr;
1001 }
1002
1003 int Theme::get_channel_signal(unsigned channel)
1004 {
1005         unique_lock<mutex> lock(m);
1006         lua_getglobal(L, "channel_signal");
1007         lua_pushnumber(L, channel);
1008         if (lua_pcall(L, 1, 1, 0) != 0) {
1009                 fprintf(stderr, "error running function `channel_signal': %s\n", lua_tostring(L, -1));
1010                 exit(1);
1011         }
1012
1013         int ret = luaL_checknumber(L, 1);
1014         lua_pop(L, 1);
1015         assert(lua_gettop(L) == 0);
1016         return ret;
1017 }
1018
1019 std::string Theme::get_channel_color(unsigned channel)
1020 {
1021         unique_lock<mutex> lock(m);
1022         lua_getglobal(L, "channel_color");
1023         lua_pushnumber(L, channel);
1024         if (lua_pcall(L, 1, 1, 0) != 0) {
1025                 fprintf(stderr, "error running function `channel_color': %s\n", lua_tostring(L, -1));
1026                 exit(1);
1027         }
1028
1029         const char *ret = lua_tostring(L, -1);
1030         if (ret == nullptr) {
1031                 fprintf(stderr, "function `channel_color' returned nil for channel %d\n", channel);
1032                 exit(1);
1033         }
1034
1035         string retstr = ret;
1036         lua_pop(L, 1);
1037         assert(lua_gettop(L) == 0);
1038         return retstr;
1039 }
1040
1041 bool Theme::get_supports_set_wb(unsigned channel)
1042 {
1043         unique_lock<mutex> lock(m);
1044         lua_getglobal(L, "supports_set_wb");
1045         lua_pushnumber(L, channel);
1046         if (lua_pcall(L, 1, 1, 0) != 0) {
1047                 fprintf(stderr, "error running function `supports_set_wb': %s\n", lua_tostring(L, -1));
1048                 exit(1);
1049         }
1050
1051         bool ret = checkbool(L, -1);
1052         lua_pop(L, 1);
1053         assert(lua_gettop(L) == 0);
1054         return ret;
1055 }
1056
1057 void Theme::set_wb(unsigned channel, double r, double g, double b)
1058 {
1059         unique_lock<mutex> lock(m);
1060         lua_getglobal(L, "set_wb");
1061         lua_pushnumber(L, channel);
1062         lua_pushnumber(L, r);
1063         lua_pushnumber(L, g);
1064         lua_pushnumber(L, b);
1065         if (lua_pcall(L, 4, 0, 0) != 0) {
1066                 fprintf(stderr, "error running function `set_wb': %s\n", lua_tostring(L, -1));
1067                 exit(1);
1068         }
1069
1070         assert(lua_gettop(L) == 0);
1071 }
1072
1073 vector<string> Theme::get_transition_names(float t)
1074 {
1075         unique_lock<mutex> lock(m);
1076         lua_getglobal(L, "get_transitions");
1077         lua_pushnumber(L, t);
1078         if (lua_pcall(L, 1, 1, 0) != 0) {
1079                 fprintf(stderr, "error running function `get_transitions': %s\n", lua_tostring(L, -1));
1080                 exit(1);
1081         }
1082
1083         vector<string> ret;
1084         lua_pushnil(L);
1085         while (lua_next(L, -2) != 0) {
1086                 ret.push_back(lua_tostring(L, -1));
1087                 lua_pop(L, 1);
1088         }
1089         lua_pop(L, 1);
1090         assert(lua_gettop(L) == 0);
1091         return ret;
1092 }       
1093
1094 int Theme::map_signal(int signal_num)
1095 {
1096         // Negative numbers map to raw signals.
1097         if (signal_num < 0) {
1098                 return -1 - signal_num;
1099         }
1100
1101         unique_lock<mutex> lock(map_m);
1102         if (signal_to_card_mapping.count(signal_num)) {
1103                 return signal_to_card_mapping[signal_num];
1104         }
1105
1106         int card_index;
1107         if (global_flags.output_card != -1 && num_cards > 1) {
1108                 // Try to exclude the output card from the default card_index.
1109                 card_index = signal_num % (num_cards - 1);
1110                 if (card_index >= global_flags.output_card) {
1111                          ++card_index;
1112                 }
1113                 if (signal_num >= int(num_cards - 1)) {
1114                         fprintf(stderr, "WARNING: Theme asked for input %d, but we only have %u input card(s) (card %d is busy with output).\n",
1115                                 signal_num, num_cards - 1, global_flags.output_card);
1116                         fprintf(stderr, "Mapping to card %d instead.\n", card_index);
1117                 }
1118         } else {
1119                 card_index = signal_num % num_cards;
1120                 if (signal_num >= int(num_cards)) {
1121                         fprintf(stderr, "WARNING: Theme asked for input %d, but we only have %u card(s).\n", signal_num, num_cards);
1122                         fprintf(stderr, "Mapping to card %d instead.\n", card_index);
1123                 }
1124         }
1125         signal_to_card_mapping[signal_num] = card_index;
1126         return card_index;
1127 }
1128
1129 void Theme::set_signal_mapping(int signal_num, int card_num)
1130 {
1131         unique_lock<mutex> lock(map_m);
1132         assert(card_num < int(num_cards));
1133         signal_to_card_mapping[signal_num] = card_num;
1134 }
1135
1136 void Theme::transition_clicked(int transition_num, float t)
1137 {
1138         unique_lock<mutex> lock(m);
1139         lua_getglobal(L, "transition_clicked");
1140         lua_pushnumber(L, transition_num);
1141         lua_pushnumber(L, t);
1142
1143         if (lua_pcall(L, 2, 0, 0) != 0) {
1144                 fprintf(stderr, "error running function `transition_clicked': %s\n", lua_tostring(L, -1));
1145                 exit(1);
1146         }
1147         assert(lua_gettop(L) == 0);
1148 }
1149
1150 void Theme::channel_clicked(int preview_num)
1151 {
1152         unique_lock<mutex> lock(m);
1153         lua_getglobal(L, "channel_clicked");
1154         lua_pushnumber(L, preview_num);
1155
1156         if (lua_pcall(L, 1, 0, 0) != 0) {
1157                 fprintf(stderr, "error running function `channel_clicked': %s\n", lua_tostring(L, -1));
1158                 exit(1);
1159         }
1160         assert(lua_gettop(L) == 0);
1161 }