]> git.sesse.net Git - nageru/blob - nageru/theme.cpp
fb1fa2fd7380c5422fc00dba6eb221dccc350f8c
[nageru] / nageru / theme.cpp
1 #include "theme.h"
2
3 #include <assert.h>
4 #include <bmusb/bmusb.h>
5 #include <epoxy/gl.h>
6 #include <stdarg.h>
7 #include <lauxlib.h>
8 #include <lua.hpp>
9 #include <movit/deinterlace_effect.h>
10 #include <movit/effect.h>
11 #include <movit/effect_chain.h>
12 #include <movit/image_format.h>
13 #include <movit/input.h>
14 #include <movit/lift_gamma_gain_effect.h>
15 #include <movit/mix_effect.h>
16 #include <movit/multiply_effect.h>
17 #include <movit/overlay_effect.h>
18 #include <movit/padding_effect.h>
19 #include <movit/resample_effect.h>
20 #include <movit/resize_effect.h>
21 #include <movit/util.h>
22 #include <movit/white_balance_effect.h>
23 #include <movit/ycbcr.h>
24 #include <movit/ycbcr_input.h>
25 #include <stdio.h>
26 #include <stdlib.h>
27 #include <cstddef>
28 #include <memory>
29 #include <new>
30 #include <utility>
31
32 #include "defs.h"
33 #ifdef HAVE_CEF
34 #include "cef_capture.h"
35 #endif
36 #include "ffmpeg_capture.h"
37 #include "flags.h"
38 #include "image_input.h"
39 #include "input_state.h"
40 #include "lua_utils.h"
41 #include "pbo_frame_allocator.h"
42 #include "scene.h"
43
44 class Mixer;
45
46 namespace movit {
47 class ResourcePool;
48 }  // namespace movit
49
50 using namespace std;
51 using namespace movit;
52
53 extern Mixer *global_mixer;
54
55 Theme *get_theme_updata(lua_State* L)
56 {
57         luaL_checktype(L, lua_upvalueindex(1), LUA_TLIGHTUSERDATA);
58         return (Theme *)lua_touserdata(L, lua_upvalueindex(1));
59 }
60
61 void print_warning(lua_State* L, const char *format, ...)
62 {
63         char buf[4096];
64         va_list ap;
65         va_start(ap, format);
66         vsnprintf(buf, sizeof(buf), format, ap);
67         va_end(ap);
68
69         lua_Debug ar;
70         lua_getstack(L, 1, &ar);
71         lua_getinfo(L, "nSl", &ar);
72         fprintf(stderr, "WARNING: %s:%d: %s", ar.source, ar.currentline, buf);
73 }
74
75 int ThemeMenu_set(lua_State *L)
76 {
77         Theme *theme = get_theme_updata(L);
78         return theme->set_theme_menu(L);
79 }
80
81 InputStateInfo::InputStateInfo(const InputState &input_state)
82 {
83         for (unsigned signal_num = 0; signal_num < MAX_VIDEO_CARDS; ++signal_num) {
84                 BufferedFrame frame = input_state.buffered_frames[signal_num][0];
85                 if (frame.frame == nullptr) {
86                         last_width[signal_num] = last_height[signal_num] = 0;
87                         last_interlaced[signal_num] = false;
88                         last_has_signal[signal_num] = false;
89                         last_is_connected[signal_num] = false;
90                         continue;
91                 }
92                 const PBOFrameAllocator::Userdata *userdata = (const PBOFrameAllocator::Userdata *)frame.frame->userdata;
93                 last_width[signal_num] = userdata->last_width[frame.field_number];
94                 last_height[signal_num] = userdata->last_height[frame.field_number];
95                 last_interlaced[signal_num] = userdata->last_interlaced;
96                 last_has_signal[signal_num] = userdata->last_has_signal;
97                 last_is_connected[signal_num] = userdata->last_is_connected;
98                 last_frame_rate_nom[signal_num] = userdata->last_frame_rate_nom;
99                 last_frame_rate_den[signal_num] = userdata->last_frame_rate_den;
100                 has_last_subtitle[signal_num] = userdata->has_last_subtitle;
101                 last_subtitle[signal_num] = userdata->last_subtitle;
102         }
103 }
104
105 // An effect that does nothing.
106 class IdentityEffect : public Effect {
107 public:
108         IdentityEffect() {}
109         string effect_type_id() const override { return "IdentityEffect"; }
110         string output_fragment_shader() override { return read_file("identity.frag"); }
111 };
112
113 Effect *instantiate_effect(EffectChain *chain, EffectType effect_type)
114 {
115         switch (effect_type) {
116         case IDENTITY_EFFECT:
117                 return new IdentityEffect;
118         case WHITE_BALANCE_EFFECT:
119                 return new WhiteBalanceEffect;
120         case RESAMPLE_EFFECT:
121                 return new ResampleEffect;
122         case PADDING_EFFECT:
123                 return new PaddingEffect;
124         case INTEGRAL_PADDING_EFFECT:
125                 return new IntegralPaddingEffect;
126         case OVERLAY_EFFECT:
127                 return new OverlayEffect;
128         case RESIZE_EFFECT:
129                 return new ResizeEffect;
130         case MULTIPLY_EFFECT:
131                 return new MultiplyEffect;
132         case MIX_EFFECT:
133                 return new MixEffect;
134         case LIFT_GAMMA_GAIN_EFFECT:
135                 return new LiftGammaGainEffect;
136         default:
137                 fprintf(stderr, "Unhandled effect type %d\n", effect_type);
138                 abort();
139         }
140 }
141
142 namespace {
143
144 Effect *get_effect_from_blueprint(EffectChain *chain, lua_State *L, int idx)
145 {
146         EffectBlueprint *blueprint = *(EffectBlueprint **)luaL_checkudata(L, idx, "EffectBlueprint");
147         if (blueprint->effect != nullptr) {
148                 luaL_error(L, "An effect can currently only be added to one chain.\n");
149         }
150
151         Effect *effect = instantiate_effect(chain, blueprint->effect_type);
152
153         // Set the parameters that were deferred earlier.
154         for (const auto &kv : blueprint->int_parameters) {
155                 if (!effect->set_int(kv.first, kv.second)) {
156                         luaL_error(L, "Effect refused set_int(\"%s\", %d) (invalid key?)", kv.first.c_str(), kv.second);
157                 }
158         }
159         for (const auto &kv : blueprint->float_parameters) {
160                 if (!effect->set_float(kv.first, kv.second)) {
161                         luaL_error(L, "Effect refused set_float(\"%s\", %f) (invalid key?)", kv.first.c_str(), kv.second);
162                 }
163         }
164         for (const auto &kv : blueprint->vec3_parameters) {
165                 if (!effect->set_vec3(kv.first, kv.second.data())) {
166                         luaL_error(L, "Effect refused set_vec3(\"%s\", %f, %f, %f) (invalid key?)", kv.first.c_str(),
167                                 kv.second[0], kv.second[1], kv.second[2]);
168                 }
169         }
170         for (const auto &kv : blueprint->vec4_parameters) {
171                 if (!effect->set_vec4(kv.first, kv.second.data())) {
172                         luaL_error(L, "Effect refused set_vec4(\"%s\", %f, %f, %f, %f) (invalid key?)", kv.first.c_str(),
173                                 kv.second[0], kv.second[1], kv.second[2], kv.second[3]);
174                 }
175         }
176         blueprint->effect = effect;
177         return effect;
178 }
179
180 InputStateInfo *get_input_state_info(lua_State *L, int idx)
181 {
182         if (luaL_testudata(L, idx, "InputStateInfo")) {
183                 return (InputStateInfo *)lua_touserdata(L, idx);
184         }
185         luaL_error(L, "Error: Index #%d was not InputStateInfo\n", idx);
186         return nullptr;
187 }
188
189 }  // namespace
190
191 bool checkbool(lua_State* L, int idx)
192 {
193         luaL_checktype(L, idx, LUA_TBOOLEAN);
194         return lua_toboolean(L, idx);
195 }
196
197 string checkstdstring(lua_State *L, int index)
198 {
199         size_t len;
200         const char* cstr = lua_tolstring(L, index, &len);
201         return string(cstr, len);
202 }
203
204 namespace {
205
206 int Scene_new(lua_State* L)
207 {
208         assert(lua_gettop(L) == 2);
209         Theme *theme = get_theme_updata(L);
210         int aspect_w = luaL_checknumber(L, 1);
211         int aspect_h = luaL_checknumber(L, 2);
212
213         return wrap_lua_object<Scene>(L, "Scene", theme, aspect_w, aspect_h);
214 }
215
216 int Scene_gc(lua_State* L)
217 {
218         assert(lua_gettop(L) == 1);
219         Scene *chain = (Scene *)luaL_checkudata(L, 1, "Scene");
220         chain->~Scene();
221         return 0;
222 }
223
224 }  // namespace
225
226 void add_outputs_and_finalize(EffectChain *chain, bool is_main_chain)
227 {
228         // Add outputs as needed.
229         // NOTE: If you change any details about the output format, you will need to
230         // also update what's given to the muxer (HTTPD::Mux constructor) and
231         // what's put in the H.264 stream (sps_rbsp()).
232         ImageFormat inout_format;
233         inout_format.color_space = COLORSPACE_REC_709;
234
235         // Output gamma is tricky. We should output Rec. 709 for TV, except that
236         // we expect to run with web players and others that don't really care and
237         // just output with no conversion. So that means we'll need to output sRGB,
238         // even though H.264 has no setting for that (we use “unspecified”).
239         inout_format.gamma_curve = GAMMA_sRGB;
240
241         if (is_main_chain) {
242                 YCbCrFormat output_ycbcr_format;
243                 // We actually output 4:2:0 and/or 4:2:2 in the end, but chroma subsampling
244                 // happens in a pass not run by Movit (see ChromaSubsampler::subsample_chroma()).
245                 output_ycbcr_format.chroma_subsampling_x = 1;
246                 output_ycbcr_format.chroma_subsampling_y = 1;
247
248                 // This will be overridden if HDMI/SDI output is in force.
249                 if (global_flags.ycbcr_rec709_coefficients) {
250                         output_ycbcr_format.luma_coefficients = YCBCR_REC_709;
251                 } else {
252                         output_ycbcr_format.luma_coefficients = YCBCR_REC_601;
253                 }
254
255                 output_ycbcr_format.full_range = false;
256                 output_ycbcr_format.num_levels = 1 << global_flags.x264_bit_depth;
257
258                 GLenum type = global_flags.x264_bit_depth > 8 ? GL_UNSIGNED_SHORT : GL_UNSIGNED_BYTE;
259
260                 chain->add_ycbcr_output(inout_format, OUTPUT_ALPHA_FORMAT_POSTMULTIPLIED, output_ycbcr_format, YCBCR_OUTPUT_SPLIT_Y_AND_CBCR, type);
261
262                 // If we're using zerocopy video encoding (so the destination
263                 // Y texture is owned by VA-API and will be unavailable for
264                 // display), add a copy, where we'll only be using the Y component.
265                 if (global_flags.use_zerocopy) {
266                         chain->add_ycbcr_output(inout_format, OUTPUT_ALPHA_FORMAT_POSTMULTIPLIED, output_ycbcr_format, YCBCR_OUTPUT_INTERLEAVED, type);  // Add a copy where we'll only be using the Y component.
267                 }
268                 chain->set_dither_bits(global_flags.x264_bit_depth > 8 ? 16 : 8);
269                 chain->set_output_origin(OUTPUT_ORIGIN_TOP_LEFT);
270         } else {
271                 chain->add_output(inout_format, OUTPUT_ALPHA_FORMAT_POSTMULTIPLIED);
272         }
273
274         chain->finalize();
275 }
276
277 namespace {
278
279 int EffectChain_new(lua_State* L)
280 {
281         assert(lua_gettop(L) == 2);
282         Theme *theme = get_theme_updata(L);
283         int aspect_w = luaL_checknumber(L, 1);
284         int aspect_h = luaL_checknumber(L, 2);
285
286         return wrap_lua_object<EffectChain>(L, "EffectChain", aspect_w, aspect_h, theme->get_resource_pool());
287 }
288
289 int EffectChain_gc(lua_State* L)
290 {
291         assert(lua_gettop(L) == 1);
292         EffectChain *chain = (EffectChain *)luaL_checkudata(L, 1, "EffectChain");
293         chain->~EffectChain();
294         return 0;
295 }
296
297 int EffectChain_add_live_input(lua_State* L)
298 {
299         assert(lua_gettop(L) == 3);
300         Theme *theme = get_theme_updata(L);
301         EffectChain *chain = (EffectChain *)luaL_checkudata(L, 1, "EffectChain");
302         bool override_bounce = checkbool(L, 2);
303         bool deinterlace = checkbool(L, 3);
304         bmusb::PixelFormat pixel_format = global_flags.ten_bit_input ? bmusb::PixelFormat_10BitYCbCr : bmusb::PixelFormat_8BitYCbCr;
305
306         // Needs to be nonowned to match add_video_input (see below).
307         return wrap_lua_object_nonowned<LiveInputWrapper>(L, "LiveInputWrapper", theme, chain, pixel_format, override_bounce, deinterlace, /*user_connectable=*/true);
308 }
309
310 int EffectChain_add_video_input(lua_State* L)
311 {
312         assert(lua_gettop(L) == 3);
313         Theme *theme = get_theme_updata(L);
314         EffectChain *chain = (EffectChain *)luaL_checkudata(L, 1, "EffectChain");
315         FFmpegCapture **capture = (FFmpegCapture **)luaL_checkudata(L, 2, "VideoInput");
316         bool deinterlace = checkbool(L, 3);
317
318         // These need to be nonowned, so that the LiveInputWrapper still exists
319         // and can feed frames to the right EffectChain even if the Lua code
320         // doesn't care about the object anymore. (If we change this, we'd need
321         // to also unregister the signal connection on __gc.)
322         int ret = wrap_lua_object_nonowned<LiveInputWrapper>(
323                 L, "LiveInputWrapper", theme, chain, (*capture)->get_current_pixel_format(),
324                 /*override_bounce=*/false, deinterlace, /*user_connectable=*/false);
325         if (ret == 1) {
326                 Theme *theme = get_theme_updata(L);
327                 LiveInputWrapper **live_input = (LiveInputWrapper **)lua_touserdata(L, -1);
328                 theme->register_video_signal_connection(chain, *live_input, *capture);
329         }
330         return ret;
331 }
332
333 #ifdef HAVE_CEF
334 int EffectChain_add_html_input(lua_State* L)
335 {
336         assert(lua_gettop(L) == 2);
337         Theme *theme = get_theme_updata(L);
338         EffectChain *chain = (EffectChain *)luaL_checkudata(L, 1, "EffectChain");
339         CEFCapture **capture = (CEFCapture **)luaL_checkudata(L, 2, "HTMLInput");
340
341         // These need to be nonowned, so that the LiveInputWrapper still exists
342         // and can feed frames to the right EffectChain even if the Lua code
343         // doesn't care about the object anymore. (If we change this, we'd need
344         // to also unregister the signal connection on __gc.)
345         int ret = wrap_lua_object_nonowned<LiveInputWrapper>(
346                 L, "LiveInputWrapper", theme, chain, (*capture)->get_current_pixel_format(),
347                 /*override_bounce=*/false, /*deinterlace=*/false, /*user_connectable=*/false);
348         if (ret == 1) {
349                 Theme *theme = get_theme_updata(L);
350                 LiveInputWrapper **live_input = (LiveInputWrapper **)lua_touserdata(L, -1);
351                 theme->register_html_signal_connection(chain, *live_input, *capture);
352         }
353         return ret;
354 }
355 #endif
356
357 int EffectChain_add_effect(lua_State* L)
358 {
359         assert(lua_gettop(L) >= 2);
360         EffectChain *chain = (EffectChain *)luaL_checkudata(L, 1, "EffectChain");
361
362         // TODO: Better error reporting.
363         Effect *effect;
364         if (luaL_testudata(L, 2, "ImageInput")) {
365                 effect = *(ImageInput **)luaL_checkudata(L, 2, "ImageInput");
366         } else {
367                 effect = get_effect_from_blueprint(chain, L, 2);
368         }
369         if (lua_gettop(L) == 2) {
370                 if (effect->num_inputs() == 0) {
371                         chain->add_input((Input *)effect);
372                 } else {
373                         chain->add_effect(effect);
374                 }
375         } else {
376                 vector<Effect *> inputs;
377                 for (int idx = 3; idx <= lua_gettop(L); ++idx) {
378                         if (luaL_testudata(L, idx, "LiveInputWrapper")) {
379                                 LiveInputWrapper **input = (LiveInputWrapper **)lua_touserdata(L, idx);
380                                 inputs.push_back((*input)->get_effect());
381                         } else if (luaL_testudata(L, idx, "ImageInput")) {
382                                 ImageInput *image = *(ImageInput **)luaL_checkudata(L, idx, "ImageInput");
383                                 inputs.push_back(image);
384                         } else {
385                                 EffectBlueprint *blueprint = *(EffectBlueprint **)luaL_checkudata(L, idx, "EffectBlueprint");
386                                 assert(blueprint->effect != nullptr);  // Parent must be added to the graph.
387                                 inputs.push_back(blueprint->effect);
388                         }
389                 }
390                 chain->add_effect(effect, inputs);
391         }
392
393         lua_settop(L, 2);  // Return the effect itself.
394
395         // Make sure Lua doesn't garbage-collect it away.
396         lua_pushvalue(L, -1);
397         luaL_ref(L, LUA_REGISTRYINDEX);  // TODO: leak?
398
399         return 1;
400 }
401
402 int EffectChain_finalize(lua_State* L)
403 {
404         assert(lua_gettop(L) == 2);
405         EffectChain *chain = (EffectChain *)luaL_checkudata(L, 1, "EffectChain");
406         bool is_main_chain = checkbool(L, 2);
407         add_outputs_and_finalize(chain, is_main_chain);
408         return 0;
409 }
410
411 int LiveInputWrapper_connect_signal(lua_State* L)
412 {
413         assert(lua_gettop(L) == 2);
414         LiveInputWrapper **input = (LiveInputWrapper **)luaL_checkudata(L, 1, "LiveInputWrapper");
415         int signal_num = luaL_checknumber(L, 2);
416         bool success = (*input)->connect_signal(signal_num);
417         if (!success) {
418                 print_warning(L, "Calling connect_signal() on a video or HTML input. Ignoring.\n");
419         }
420         return 0;
421 }
422
423 int ImageInput_new(lua_State* L)
424 {
425         assert(lua_gettop(L) == 1);
426         string filename = checkstdstring(L, 1);
427         return wrap_lua_object_nonowned<ImageInput>(L, "ImageInput", filename);
428 }
429
430 int VideoInput_new(lua_State* L)
431 {
432         assert(lua_gettop(L) == 2);
433         string filename = checkstdstring(L, 1);
434         int pixel_format = luaL_checknumber(L, 2);
435         if (pixel_format != bmusb::PixelFormat_8BitYCbCrPlanar &&
436             pixel_format != bmusb::PixelFormat_8BitBGRA) {
437                 print_warning(L, "Invalid enum %d used for video format, choosing Y'CbCr.\n", pixel_format);
438                 pixel_format = bmusb::PixelFormat_8BitYCbCrPlanar;
439         }
440         int ret = wrap_lua_object_nonowned<FFmpegCapture>(L, "VideoInput", filename, global_flags.width, global_flags.height);
441         if (ret == 1) {
442                 FFmpegCapture **capture = (FFmpegCapture **)lua_touserdata(L, -1);
443                 (*capture)->set_pixel_format(bmusb::PixelFormat(pixel_format));
444
445                 Theme *theme = get_theme_updata(L);
446                 theme->register_video_input(*capture);
447         }
448         return ret;
449 }
450
451 int VideoInput_rewind(lua_State* L)
452 {
453         assert(lua_gettop(L) == 1);
454         FFmpegCapture **video_input = (FFmpegCapture **)luaL_checkudata(L, 1, "VideoInput");
455         (*video_input)->rewind();
456         return 0;
457 }
458
459 int VideoInput_disconnect(lua_State* L)
460 {
461         assert(lua_gettop(L) == 1);
462         FFmpegCapture **video_input = (FFmpegCapture **)luaL_checkudata(L, 1, "VideoInput");
463         (*video_input)->disconnect();
464         return 0;
465 }
466
467 int VideoInput_change_rate(lua_State* L)
468 {
469         assert(lua_gettop(L) == 2);
470         FFmpegCapture **video_input = (FFmpegCapture **)luaL_checkudata(L, 1, "VideoInput");
471         double new_rate = luaL_checknumber(L, 2);
472         (*video_input)->change_rate(new_rate);
473         return 0;
474 }
475
476 int VideoInput_get_signal_num(lua_State* L)
477 {
478         assert(lua_gettop(L) == 1);
479         FFmpegCapture **video_input = (FFmpegCapture **)luaL_checkudata(L, 1, "VideoInput");
480         lua_pushnumber(L, -1 - (*video_input)->get_card_index());
481         return 1;
482 }
483
484 int HTMLInput_new(lua_State* L)
485 {
486 #ifdef HAVE_CEF
487         assert(lua_gettop(L) == 1);
488         string url = checkstdstring(L, 1);
489         int ret = wrap_lua_object_nonowned<CEFCapture>(L, "HTMLInput", url, global_flags.width, global_flags.height);
490         if (ret == 1) {
491                 CEFCapture **capture = (CEFCapture **)lua_touserdata(L, -1);
492                 Theme *theme = get_theme_updata(L);
493                 theme->register_html_input(*capture);
494         }
495         return ret;
496 #else
497         fprintf(stderr, "This version of Nageru has been compiled without CEF support.\n");
498         fprintf(stderr, "HTMLInput is not available.\n");
499         abort();
500 #endif
501 }
502
503 #ifdef HAVE_CEF
504 int HTMLInput_set_url(lua_State* L)
505 {
506         assert(lua_gettop(L) == 2);
507         CEFCapture **video_input = (CEFCapture **)luaL_checkudata(L, 1, "HTMLInput");
508         string new_url = checkstdstring(L, 2);
509         (*video_input)->set_url(new_url);
510         return 0;
511 }
512
513 int HTMLInput_reload(lua_State* L)
514 {
515         assert(lua_gettop(L) == 1);
516         CEFCapture **video_input = (CEFCapture **)luaL_checkudata(L, 1, "HTMLInput");
517         (*video_input)->reload();
518         return 0;
519 }
520
521 int HTMLInput_set_max_fps(lua_State* L)
522 {
523         assert(lua_gettop(L) == 2);
524         CEFCapture **video_input = (CEFCapture **)luaL_checkudata(L, 1, "HTMLInput");
525         int max_fps = lrint(luaL_checknumber(L, 2));
526         (*video_input)->set_max_fps(max_fps);
527         return 0;
528 }
529
530 int HTMLInput_execute_javascript_async(lua_State* L)
531 {
532         assert(lua_gettop(L) == 2);
533         CEFCapture **video_input = (CEFCapture **)luaL_checkudata(L, 1, "HTMLInput");
534         string js = checkstdstring(L, 2);
535         (*video_input)->execute_javascript_async(js);
536         return 0;
537 }
538
539 int HTMLInput_resize(lua_State* L)
540 {
541         assert(lua_gettop(L) == 3);
542         CEFCapture **video_input = (CEFCapture **)luaL_checkudata(L, 1, "HTMLInput");
543         unsigned width = lrint(luaL_checknumber(L, 2));
544         unsigned height = lrint(luaL_checknumber(L, 3));
545         (*video_input)->resize(width, height);
546         return 0;
547 }
548
549 int HTMLInput_get_signal_num(lua_State* L)
550 {
551         assert(lua_gettop(L) == 1);
552         CEFCapture **video_input = (CEFCapture **)luaL_checkudata(L, 1, "HTMLInput");
553         lua_pushnumber(L, -1 - (*video_input)->get_card_index());
554         return 1;
555 }
556 #endif
557
558 int IdentityEffect_new(lua_State* L)
559 {
560         assert(lua_gettop(L) == 0);
561         return wrap_lua_object_nonowned<EffectBlueprint>(L, "EffectBlueprint", IDENTITY_EFFECT);
562 }
563
564 int WhiteBalanceEffect_new(lua_State* L)
565 {
566         assert(lua_gettop(L) == 0);
567         return wrap_lua_object_nonowned<EffectBlueprint>(L, "EffectBlueprint", WHITE_BALANCE_EFFECT);
568 }
569
570 int ResampleEffect_new(lua_State* L)
571 {
572         assert(lua_gettop(L) == 0);
573         return wrap_lua_object_nonowned<EffectBlueprint>(L, "EffectBlueprint", RESAMPLE_EFFECT);
574 }
575
576 int PaddingEffect_new(lua_State* L)
577 {
578         assert(lua_gettop(L) == 0);
579         return wrap_lua_object_nonowned<EffectBlueprint>(L, "EffectBlueprint", PADDING_EFFECT);
580 }
581
582 int IntegralPaddingEffect_new(lua_State* L)
583 {
584         assert(lua_gettop(L) == 0);
585         return wrap_lua_object_nonowned<EffectBlueprint>(L, "EffectBlueprint", INTEGRAL_PADDING_EFFECT);
586 }
587
588 int OverlayEffect_new(lua_State* L)
589 {
590         assert(lua_gettop(L) == 0);
591         return wrap_lua_object_nonowned<EffectBlueprint>(L, "EffectBlueprint", OVERLAY_EFFECT);
592 }
593
594 int ResizeEffect_new(lua_State* L)
595 {
596         assert(lua_gettop(L) == 0);
597         return wrap_lua_object_nonowned<EffectBlueprint>(L, "EffectBlueprint", RESIZE_EFFECT);
598 }
599
600 int MultiplyEffect_new(lua_State* L)
601 {
602         assert(lua_gettop(L) == 0);
603         return wrap_lua_object_nonowned<EffectBlueprint>(L, "EffectBlueprint", MULTIPLY_EFFECT);
604 }
605
606 int MixEffect_new(lua_State* L)
607 {
608         assert(lua_gettop(L) == 0);
609         return wrap_lua_object_nonowned<EffectBlueprint>(L, "EffectBlueprint", MIX_EFFECT);
610 }
611
612 int LiftGammaGainEffect_new(lua_State* L)
613 {
614         assert(lua_gettop(L) == 0);
615         return wrap_lua_object_nonowned<EffectBlueprint>(L, "EffectBlueprint", LIFT_GAMMA_GAIN_EFFECT);
616 }
617
618 int InputStateInfo_get_width(lua_State* L)
619 {
620         assert(lua_gettop(L) == 2);
621         InputStateInfo *input_state_info = get_input_state_info(L, 1);
622
623         Theme *theme = get_theme_updata(L);
624         int signal_num = theme->map_signal(luaL_checknumber(L, 2));
625         lua_pushnumber(L, input_state_info->last_width[signal_num]);
626         return 1;
627 }
628
629 int InputStateInfo_get_height(lua_State* L)
630 {
631         assert(lua_gettop(L) == 2);
632         InputStateInfo *input_state_info = get_input_state_info(L, 1);
633         Theme *theme = get_theme_updata(L);
634         int signal_num = theme->map_signal(luaL_checknumber(L, 2));
635         lua_pushnumber(L, input_state_info->last_height[signal_num]);
636         return 1;
637 }
638
639 int InputStateInfo_get_interlaced(lua_State* L)
640 {
641         assert(lua_gettop(L) == 2);
642         InputStateInfo *input_state_info = get_input_state_info(L, 1);
643         Theme *theme = get_theme_updata(L);
644         int signal_num = theme->map_signal(luaL_checknumber(L, 2));
645         lua_pushboolean(L, input_state_info->last_interlaced[signal_num]);
646         return 1;
647 }
648
649 int InputStateInfo_get_has_signal(lua_State* L)
650 {
651         assert(lua_gettop(L) == 2);
652         InputStateInfo *input_state_info = get_input_state_info(L, 1);
653         Theme *theme = get_theme_updata(L);
654         int signal_num = theme->map_signal(luaL_checknumber(L, 2));
655         lua_pushboolean(L, input_state_info->last_has_signal[signal_num]);
656         return 1;
657 }
658
659 int InputStateInfo_get_is_connected(lua_State* L)
660 {
661         assert(lua_gettop(L) == 2);
662         InputStateInfo *input_state_info = get_input_state_info(L, 1);
663         Theme *theme = get_theme_updata(L);
664         int signal_num = theme->map_signal(luaL_checknumber(L, 2));
665         lua_pushboolean(L, input_state_info->last_is_connected[signal_num]);
666         return 1;
667 }
668
669 int InputStateInfo_get_frame_rate_nom(lua_State* L)
670 {
671         assert(lua_gettop(L) == 2);
672         InputStateInfo *input_state_info = get_input_state_info(L, 1);
673         Theme *theme = get_theme_updata(L);
674         int signal_num = theme->map_signal(luaL_checknumber(L, 2));
675         lua_pushnumber(L, input_state_info->last_frame_rate_nom[signal_num]);
676         return 1;
677 }
678
679 int InputStateInfo_get_frame_rate_den(lua_State* L)
680 {
681         assert(lua_gettop(L) == 2);
682         InputStateInfo *input_state_info = get_input_state_info(L, 1);
683         Theme *theme = get_theme_updata(L);
684         int signal_num = theme->map_signal(luaL_checknumber(L, 2));
685         lua_pushnumber(L, input_state_info->last_frame_rate_den[signal_num]);
686         return 1;
687 }
688
689 int InputStateInfo_get_last_subtitle(lua_State* L)
690 {
691         assert(lua_gettop(L) == 2);
692         InputStateInfo *input_state_info = get_input_state_info(L, 1);
693         Theme *theme = get_theme_updata(L);
694         int signal_num = theme->map_signal(luaL_checknumber(L, 2));
695         if (!input_state_info->has_last_subtitle[signal_num]) {
696                 lua_pushnil(L);
697         } else {
698                 lua_pushstring(L, input_state_info->last_subtitle[signal_num].c_str());
699         }
700         return 1;
701 }
702
703 int EffectBlueprint_set_int(lua_State *L)
704 {
705         assert(lua_gettop(L) == 3);
706         EffectBlueprint *blueprint = *(EffectBlueprint **)luaL_checkudata(L, 1, "EffectBlueprint");
707         string key = checkstdstring(L, 2);
708         float value = luaL_checknumber(L, 3);
709         if (blueprint->effect != nullptr) {
710                 if (!blueprint->effect->set_int(key, value)) {
711                         luaL_error(L, "Effect refused set_int(\"%s\", %d) (invalid key?)", key.c_str(), int(value));
712                 }
713         } else {
714                 // TODO: check validity already here, if possible?
715                 blueprint->int_parameters[key] = value;
716         }
717         return 0;
718 }
719
720 int EffectBlueprint_set_float(lua_State *L)
721 {
722         assert(lua_gettop(L) == 3);
723         EffectBlueprint *blueprint = *(EffectBlueprint **)luaL_checkudata(L, 1, "EffectBlueprint");
724         string key = checkstdstring(L, 2);
725         float value = luaL_checknumber(L, 3);
726         if (blueprint->effect != nullptr) {
727                 if (!blueprint->effect->set_float(key, value)) {
728                         luaL_error(L, "Effect refused set_float(\"%s\", %d) (invalid key?)", key.c_str(), int(value));
729                 }
730         } else {
731                 // TODO: check validity already here, if possible?
732                 blueprint->float_parameters[key] = value;
733         }
734         return 0;
735 }
736
737 int EffectBlueprint_set_vec3(lua_State *L)
738 {
739         assert(lua_gettop(L) == 5);
740         EffectBlueprint *blueprint = *(EffectBlueprint **)luaL_checkudata(L, 1, "EffectBlueprint");
741         string key = checkstdstring(L, 2);
742         array<float, 3> v;
743         v[0] = luaL_checknumber(L, 3);
744         v[1] = luaL_checknumber(L, 4);
745         v[2] = luaL_checknumber(L, 5);
746
747         if (blueprint->effect != nullptr) {
748                 if (!blueprint->effect->set_vec3(key, v.data())) {
749                         luaL_error(L, "Effect refused set_vec3(\"%s\", %f, %f, %f) (invalid key?)", key.c_str(),
750                                 v[0], v[1], v[2]);
751                 }
752         } else {
753                 // TODO: check validity already here, if possible?
754                 blueprint->vec3_parameters[key] = v;
755         }
756
757         return 0;
758 }
759
760 int EffectBlueprint_set_vec4(lua_State *L)
761 {
762         assert(lua_gettop(L) == 6);
763         EffectBlueprint *blueprint = *(EffectBlueprint **)luaL_checkudata(L, 1, "EffectBlueprint");
764         string key = checkstdstring(L, 2);
765         array<float, 4> v;
766         v[0] = luaL_checknumber(L, 3);
767         v[1] = luaL_checknumber(L, 4);
768         v[2] = luaL_checknumber(L, 5);
769         v[3] = luaL_checknumber(L, 6);
770         if (blueprint->effect != nullptr) {
771                 if (!blueprint->effect->set_vec4(key, v.data())) {
772                         luaL_error(L, "Effect refused set_vec4(\"%s\", %f, %f, %f, %f) (invalid key?)", key.c_str(),
773                                 v[0], v[1], v[2], v[3]);
774                 }
775         } else {
776                 // TODO: check validity already here, if possible?
777                 blueprint->vec4_parameters[key] = v;
778         }
779         return 0;
780 }
781
782 const luaL_Reg Scene_funcs[] = {
783         { "new", Scene_new },
784         { "__gc", Scene_gc },
785         { "add_input", Scene::add_input },
786         { "add_effect", Scene::add_effect },
787         { "add_optional_effect", Scene::add_optional_effect },
788         { "finalize", Scene::finalize },
789         { NULL, NULL }
790 };
791
792 const luaL_Reg Block_funcs[] = {
793         { "display", Block_display },
794         { "choose_alternative", Block_choose_alternative },
795         { "enable", Block_enable },
796         { "disable", Block_disable },
797         { "set_int", Block_set_int },
798         { "set_float", Block_set_float },
799         { "set_vec3", Block_set_vec3 },
800         { "set_vec4", Block_set_vec4 },
801         { NULL, NULL }
802 };
803
804 const luaL_Reg EffectBlueprint_funcs[] = {
805         // NOTE: No new() function; that's for the individual effects.
806         { "set_int", EffectBlueprint_set_int },
807         { "set_float", EffectBlueprint_set_float },
808         { "set_vec3", EffectBlueprint_set_vec3 },
809         { "set_vec4", EffectBlueprint_set_vec4 },
810         { NULL, NULL }
811 };
812
813 const luaL_Reg EffectChain_funcs[] = {
814         { "new", EffectChain_new },
815         { "__gc", EffectChain_gc },
816         { "add_live_input", EffectChain_add_live_input },
817         { "add_video_input", EffectChain_add_video_input },
818 #ifdef HAVE_CEF
819         { "add_html_input", EffectChain_add_html_input },
820 #endif
821         { "add_effect", EffectChain_add_effect },
822         { "finalize", EffectChain_finalize },
823         { NULL, NULL }
824 };
825
826 const luaL_Reg LiveInputWrapper_funcs[] = {
827         { "connect_signal", LiveInputWrapper_connect_signal },
828         { NULL, NULL }
829 };
830
831 const luaL_Reg ImageInput_funcs[] = {
832         { "new", ImageInput_new },
833         { NULL, NULL }
834 };
835
836 const luaL_Reg VideoInput_funcs[] = {
837         { "new", VideoInput_new },
838         { "rewind", VideoInput_rewind },
839         { "disconnect", VideoInput_disconnect },
840         { "change_rate", VideoInput_change_rate },
841         { "get_signal_num", VideoInput_get_signal_num },
842         { NULL, NULL }
843 };
844
845 const luaL_Reg HTMLInput_funcs[] = {
846         { "new", HTMLInput_new },
847 #ifdef HAVE_CEF
848         { "set_url", HTMLInput_set_url },
849         { "reload", HTMLInput_reload },
850         { "set_max_fps", HTMLInput_set_max_fps },
851         { "execute_javascript_async", HTMLInput_execute_javascript_async },
852         { "resize", HTMLInput_resize },
853         { "get_signal_num", HTMLInput_get_signal_num },
854 #endif
855         { NULL, NULL }
856 };
857
858 // Effects.
859 // All of these are solely for new(); the returned metatable will be that of
860 // EffectBlueprint, and Effect (returned from add_effect()) is its own type.
861
862 const luaL_Reg IdentityEffect_funcs[] = {
863         { "new", IdentityEffect_new },
864         { NULL, NULL }
865 };
866
867 const luaL_Reg WhiteBalanceEffect_funcs[] = {
868         { "new", WhiteBalanceEffect_new },
869         { NULL, NULL }
870 };
871
872 const luaL_Reg ResampleEffect_funcs[] = {
873         { "new", ResampleEffect_new },
874         { NULL, NULL }
875 };
876
877 const luaL_Reg PaddingEffect_funcs[] = {
878         { "new", PaddingEffect_new },
879         { NULL, NULL }
880 };
881
882 const luaL_Reg IntegralPaddingEffect_funcs[] = {
883         { "new", IntegralPaddingEffect_new },
884         { NULL, NULL }
885 };
886
887 const luaL_Reg OverlayEffect_funcs[] = {
888         { "new", OverlayEffect_new },
889         { NULL, NULL }
890 };
891
892 const luaL_Reg ResizeEffect_funcs[] = {
893         { "new", ResizeEffect_new },
894         { NULL, NULL }
895 };
896
897 const luaL_Reg MultiplyEffect_funcs[] = {
898         { "new", MultiplyEffect_new },
899         { NULL, NULL }
900 };
901
902 const luaL_Reg MixEffect_funcs[] = {
903         { "new", MixEffect_new },
904         { NULL, NULL }
905 };
906
907 const luaL_Reg LiftGammaGainEffect_funcs[] = {
908         { "new", LiftGammaGainEffect_new },
909         { NULL, NULL }
910 };
911
912 // End of effects.
913
914 const luaL_Reg InputStateInfo_funcs[] = {
915         { "get_width", InputStateInfo_get_width },
916         { "get_height", InputStateInfo_get_height },
917         { "get_interlaced", InputStateInfo_get_interlaced },
918         { "get_has_signal", InputStateInfo_get_has_signal },
919         { "get_is_connected", InputStateInfo_get_is_connected },
920         { "get_frame_rate_nom", InputStateInfo_get_frame_rate_nom },
921         { "get_frame_rate_den", InputStateInfo_get_frame_rate_den },
922         { "get_last_subtitle", InputStateInfo_get_last_subtitle },
923         { NULL, NULL }
924 };
925
926 const luaL_Reg ThemeMenu_funcs[] = {
927         { "set", ThemeMenu_set },
928         { NULL, NULL }
929 };
930
931 }  // namespace
932
933 LiveInputWrapper::LiveInputWrapper(
934         Theme *theme,
935         EffectChain *chain,
936         bmusb::PixelFormat pixel_format,
937         bool override_bounce,
938         bool deinterlace,
939         bool user_connectable)
940         : theme(theme),
941           pixel_format(pixel_format),
942           deinterlace(deinterlace),
943           user_connectable(user_connectable)
944 {
945         ImageFormat inout_format;
946         inout_format.color_space = COLORSPACE_sRGB;
947
948         // Gamma curve depends on the input signal, and we don't really get any
949         // indications. A camera would be expected to do Rec. 709, but
950         // I haven't checked if any do in practice. However, computers _do_ output
951         // in sRGB gamma (ie., they don't convert from sRGB to Rec. 709), and
952         // I wouldn't really be surprised if most non-professional cameras do, too.
953         // So we pick sRGB as the least evil here.
954         inout_format.gamma_curve = GAMMA_sRGB;
955
956         unsigned num_inputs;
957         if (deinterlace) {
958                 deinterlace_effect = new movit::DeinterlaceEffect();
959
960                 // As per the comments in deinterlace_effect.h, we turn this off.
961                 // The most likely interlaced input for us is either a camera
962                 // (where it's fine to turn it off) or a laptop (where it _should_
963                 // be turned off).
964                 CHECK(deinterlace_effect->set_int("enable_spatial_interlacing_check", 0));
965
966                 num_inputs = deinterlace_effect->num_inputs();
967                 assert(num_inputs == FRAME_HISTORY_LENGTH);
968         } else {
969                 num_inputs = 1;
970         }
971
972         if (pixel_format == bmusb::PixelFormat_8BitBGRA) {
973                 for (unsigned i = 0; i < num_inputs; ++i) {
974                         // We upload our textures ourselves, and Movit swaps
975                         // R and B in the shader if we specify BGRA, so lie and say RGBA.
976                         rgba_inputs.push_back(new sRGBSwitchingFlatInput(inout_format, FORMAT_RGBA_POSTMULTIPLIED_ALPHA, GL_UNSIGNED_BYTE, global_flags.width, global_flags.height));
977                         chain->add_input(rgba_inputs.back());
978                 }
979
980                 if (deinterlace) {
981                         vector<Effect *> reverse_inputs(rgba_inputs.rbegin(), rgba_inputs.rend());
982                         chain->add_effect(deinterlace_effect, reverse_inputs);
983                 }
984         } else {
985                 assert(pixel_format == bmusb::PixelFormat_8BitYCbCr ||
986                        pixel_format == bmusb::PixelFormat_10BitYCbCr ||
987                        pixel_format == bmusb::PixelFormat_8BitYCbCrPlanar);
988
989                 // Most of these settings will be overridden later if using PixelFormat_8BitYCbCrPlanar.
990                 input_ycbcr_format.chroma_subsampling_x = (pixel_format == bmusb::PixelFormat_10BitYCbCr) ? 1 : 2;
991                 input_ycbcr_format.chroma_subsampling_y = 1;
992                 input_ycbcr_format.num_levels = (pixel_format == bmusb::PixelFormat_10BitYCbCr) ? 1024 : 256;
993                 input_ycbcr_format.cb_x_position = 0.0;
994                 input_ycbcr_format.cr_x_position = 0.0;
995                 input_ycbcr_format.cb_y_position = 0.5;
996                 input_ycbcr_format.cr_y_position = 0.5;
997                 input_ycbcr_format.luma_coefficients = YCBCR_REC_709;  // Will be overridden later even if not planar.
998                 input_ycbcr_format.full_range = false;  // Will be overridden later even if not planar.
999
1000                 for (unsigned i = 0; i < num_inputs; ++i) {
1001                         // When using 10-bit input, we're converting to interleaved through v210Converter.
1002                         YCbCrInputSplitting splitting;
1003                         if (pixel_format == bmusb::PixelFormat_10BitYCbCr) {
1004                                 splitting = YCBCR_INPUT_INTERLEAVED;
1005                         } else if (pixel_format == bmusb::PixelFormat_8BitYCbCr) {
1006                                 splitting = YCBCR_INPUT_SPLIT_Y_AND_CBCR;
1007                         } else {
1008                                 splitting = YCBCR_INPUT_PLANAR;
1009                         }
1010                         if (override_bounce) {
1011                                 ycbcr_inputs.push_back(new NonBouncingYCbCrInput(inout_format, input_ycbcr_format, global_flags.width, global_flags.height, splitting));
1012                         } else {
1013                                 ycbcr_inputs.push_back(new YCbCrInput(inout_format, input_ycbcr_format, global_flags.width, global_flags.height, splitting));
1014                         }
1015                         chain->add_input(ycbcr_inputs.back());
1016                 }
1017
1018                 if (deinterlace) {
1019                         vector<Effect *> reverse_inputs(ycbcr_inputs.rbegin(), ycbcr_inputs.rend());
1020                         chain->add_effect(deinterlace_effect, reverse_inputs);
1021                 }
1022         }
1023 }
1024
1025 bool LiveInputWrapper::connect_signal(int signal_num)
1026 {
1027         if (!user_connectable) {
1028                 return false;
1029         }
1030
1031         if (global_mixer == nullptr) {
1032                 // No data yet.
1033                 return true;
1034         }
1035
1036         signal_num = theme->map_signal(signal_num);
1037         connect_signal_raw(signal_num, *theme->input_state);
1038         return true;
1039 }
1040
1041 void LiveInputWrapper::connect_signal_raw(int signal_num, const InputState &input_state)
1042 {
1043         BufferedFrame first_frame = input_state.buffered_frames[signal_num][0];
1044         if (first_frame.frame == nullptr) {
1045                 // No data yet.
1046                 return;
1047         }
1048         unsigned width, height;
1049         {
1050                 const PBOFrameAllocator::Userdata *userdata = (const PBOFrameAllocator::Userdata *)first_frame.frame->userdata;
1051                 width = userdata->last_width[first_frame.field_number];
1052                 height = userdata->last_height[first_frame.field_number];
1053                 if (userdata->last_interlaced) {
1054                         height *= 2;
1055                 }
1056         }
1057
1058         movit::YCbCrLumaCoefficients ycbcr_coefficients = input_state.ycbcr_coefficients[signal_num];
1059         bool full_range = input_state.full_range[signal_num];
1060
1061         if (input_state.ycbcr_coefficients_auto[signal_num]) {
1062                 full_range = false;
1063
1064                 // The Blackmagic driver docs claim that the device outputs Y'CbCr
1065                 // according to Rec. 601, but this seems to indicate the subsampling
1066                 // positions only, as they publish Y'CbCr → RGB formulas that are
1067                 // different for HD and SD (corresponding to Rec. 709 and 601, respectively),
1068                 // and a Lenovo X1 gen 3 I used to test definitely outputs Rec. 709
1069                 // (at least up to rounding error). Other devices seem to use Rec. 601
1070                 // even on HD resolutions. Nevertheless, Rec. 709 _is_ the right choice
1071                 // for HD, so we default to that if the user hasn't set anything.
1072                 if (height >= 720) {
1073                         ycbcr_coefficients = YCBCR_REC_709;
1074                 } else {
1075                         ycbcr_coefficients = YCBCR_REC_601;
1076                 }
1077         }
1078
1079         // This is a global, but it doesn't really matter.
1080         input_ycbcr_format.luma_coefficients = ycbcr_coefficients;
1081         input_ycbcr_format.full_range = full_range;
1082
1083         BufferedFrame last_good_frame = first_frame;
1084         for (unsigned i = 0; i < max(ycbcr_inputs.size(), rgba_inputs.size()); ++i) {
1085                 BufferedFrame frame = input_state.buffered_frames[signal_num][i];
1086                 if (frame.frame == nullptr) {
1087                         // Not enough data; reuse last frame (well, field).
1088                         // This is suboptimal, but we have nothing better.
1089                         frame = last_good_frame;
1090                 }
1091                 const PBOFrameAllocator::Userdata *userdata = (const PBOFrameAllocator::Userdata *)frame.frame->userdata;
1092
1093                 unsigned this_width = userdata->last_width[frame.field_number];
1094                 unsigned this_height = userdata->last_height[frame.field_number];
1095                 if (this_width != width || this_height != height) {
1096                         // Resolution changed; reuse last frame/field.
1097                         frame = last_good_frame;
1098                         userdata = (const PBOFrameAllocator::Userdata *)frame.frame->userdata;
1099                 }
1100
1101                 assert(userdata->pixel_format == pixel_format);
1102                 switch (pixel_format) {
1103                 case bmusb::PixelFormat_8BitYCbCr:
1104                         ycbcr_inputs[i]->set_texture_num(0, userdata->tex_y[frame.field_number]);
1105                         ycbcr_inputs[i]->set_texture_num(1, userdata->tex_cbcr[frame.field_number]);
1106                         ycbcr_inputs[i]->change_ycbcr_format(input_ycbcr_format);
1107                         ycbcr_inputs[i]->set_width(width);
1108                         ycbcr_inputs[i]->set_height(height);
1109                         break;
1110                 case bmusb::PixelFormat_8BitYCbCrPlanar:
1111                         ycbcr_inputs[i]->set_texture_num(0, userdata->tex_y[frame.field_number]);
1112                         ycbcr_inputs[i]->set_texture_num(1, userdata->tex_cb[frame.field_number]);
1113                         ycbcr_inputs[i]->set_texture_num(2, userdata->tex_cr[frame.field_number]);
1114                         ycbcr_inputs[i]->change_ycbcr_format(userdata->ycbcr_format);
1115                         ycbcr_inputs[i]->set_width(width);
1116                         ycbcr_inputs[i]->set_height(height);
1117                         break;
1118                 case bmusb::PixelFormat_10BitYCbCr:
1119                         ycbcr_inputs[i]->set_texture_num(0, userdata->tex_444[frame.field_number]);
1120                         ycbcr_inputs[i]->change_ycbcr_format(input_ycbcr_format);
1121                         ycbcr_inputs[i]->set_width(width);
1122                         ycbcr_inputs[i]->set_height(height);
1123                         break;
1124                 case bmusb::PixelFormat_8BitBGRA:
1125                         rgba_inputs[i]->set_texture_num(userdata->tex_rgba[frame.field_number]);
1126                         rgba_inputs[i]->set_width(width);
1127                         rgba_inputs[i]->set_height(height);
1128                         break;
1129                 default:
1130                         assert(false);
1131                 }
1132
1133                 last_good_frame = frame;
1134         }
1135
1136         if (deinterlace) {
1137                 BufferedFrame frame = input_state.buffered_frames[signal_num][0];
1138                 CHECK(deinterlace_effect->set_int("current_field_position", frame.field_number));
1139         }
1140 }
1141
1142 namespace {
1143
1144 int call_num_channels(lua_State *L)
1145 {
1146         lua_getglobal(L, "num_channels");
1147
1148         if (lua_pcall(L, 0, 1, 0) != 0) {
1149                 fprintf(stderr, "error running function `num_channels': %s\n", lua_tostring(L, -1));
1150                 abort();
1151         }
1152
1153         int num_channels = luaL_checknumber(L, 1);
1154         lua_pop(L, 1);
1155         assert(lua_gettop(L) == 0);
1156         return num_channels;
1157 }
1158
1159 }  // namespace
1160
1161 Theme::Theme(const string &filename, const vector<string> &search_dirs, ResourcePool *resource_pool, unsigned num_cards)
1162         : resource_pool(resource_pool), num_cards(num_cards), signal_to_card_mapping(global_flags.default_stream_mapping)
1163 {
1164         L = luaL_newstate();
1165         luaL_openlibs(L);
1166
1167         // Search through all directories until we find a file that will load
1168         // (as in, does not return LUA_ERRFILE); then run it. We store load errors
1169         // from all the attempts, and show them once we know we can't find any of them.
1170         lua_settop(L, 0);
1171         vector<string> errors;
1172         bool success = false;
1173
1174         vector<string> real_search_dirs;
1175         if (!filename.empty() && filename[0] == '/') {
1176                 real_search_dirs.push_back("");
1177         } else {
1178                 real_search_dirs = search_dirs;
1179         }
1180
1181         string path;
1182         int theme_code_ref;
1183         for (const string &dir : real_search_dirs) {
1184                 if (dir.empty()) {
1185                         path = filename;
1186                 } else {
1187                         path = dir + "/" + filename;
1188                 }
1189                 int err = luaL_loadfile(L, path.c_str());
1190                 if (err == 0) {
1191                         // Save the theme for when we're actually going to run it
1192                         // (we need to set up the right environment below first,
1193                         // and we couldn't do that before, because we didn't know the
1194                         // path to put in Nageru.THEME_PATH).
1195                         theme_code_ref = luaL_ref(L, LUA_REGISTRYINDEX);
1196                         assert(lua_gettop(L) == 0);
1197
1198                         success = true;
1199                         break;
1200                 }
1201                 errors.push_back(lua_tostring(L, -1));
1202                 lua_pop(L, 1);
1203                 if (err != LUA_ERRFILE) {
1204                         // The file actually loaded, but failed to parse somehow. Abort; don't try the next one.
1205                         break;
1206                 }
1207         }
1208
1209         if (!success) {
1210                 for (const string &error : errors) {
1211                         fprintf(stderr, "%s\n", error.c_str());
1212                 }
1213                 abort();
1214         }
1215         assert(lua_gettop(L) == 0);
1216
1217         // Make sure the path exposed to the theme (as Nageru.THEME_PATH;
1218         // can be useful for locating files when talking to CEF) is absolute.
1219         // In a sense, it would be nice if realpath() had a mode not to
1220         // resolve symlinks, but it doesn't, so we only call it if we don't
1221         // already have an absolute path (which may leave ../ elements etc.).
1222         if (path[0] == '/') {
1223                 theme_path = path;
1224         } else {
1225                 char *absolute_theme_path = realpath(path.c_str(), nullptr);
1226                 theme_path = absolute_theme_path;
1227                 free(absolute_theme_path);
1228         }
1229
1230         // Set up the API we provide.
1231         register_constants();
1232         register_class("Scene", Scene_funcs);
1233         register_class("Block", Block_funcs);
1234         register_class("EffectBlueprint", EffectBlueprint_funcs);
1235         register_class("EffectChain", EffectChain_funcs);
1236         register_class("LiveInputWrapper", LiveInputWrapper_funcs);
1237         register_class("ImageInput", ImageInput_funcs);
1238         register_class("VideoInput", VideoInput_funcs);
1239         register_class("HTMLInput", HTMLInput_funcs);
1240         register_class("IdentityEffect", IdentityEffect_funcs);
1241         register_class("WhiteBalanceEffect", WhiteBalanceEffect_funcs);
1242         register_class("ResampleEffect", ResampleEffect_funcs);
1243         register_class("PaddingEffect", PaddingEffect_funcs);
1244         register_class("IntegralPaddingEffect", IntegralPaddingEffect_funcs);
1245         register_class("OverlayEffect", OverlayEffect_funcs);
1246         register_class("ResizeEffect", ResizeEffect_funcs);
1247         register_class("MultiplyEffect", MultiplyEffect_funcs);
1248         register_class("MixEffect", MixEffect_funcs);
1249         register_class("LiftGammaGainEffect", LiftGammaGainEffect_funcs);
1250         register_class("InputStateInfo", InputStateInfo_funcs);
1251         register_class("ThemeMenu", ThemeMenu_funcs);
1252
1253         // Now actually run the theme to get everything set up.
1254         lua_rawgeti(L, LUA_REGISTRYINDEX, theme_code_ref);
1255         luaL_unref(L, LUA_REGISTRYINDEX, theme_code_ref);
1256         if (lua_pcall(L, 0, 0, 0)) {
1257                 fprintf(stderr, "Error when running %s: %s\n", path.c_str(), lua_tostring(L, -1));
1258                 abort();
1259         }
1260         assert(lua_gettop(L) == 0);
1261
1262         // Ask it for the number of channels.
1263         num_channels = call_num_channels(L);
1264 }
1265
1266 Theme::~Theme()
1267 {
1268         lua_close(L);
1269 }
1270
1271 void Theme::register_constants()
1272 {
1273         // Set Nageru.VIDEO_FORMAT_BGRA = bmusb::PixelFormat_8BitBGRA, etc.
1274         const vector<pair<string, int>> num_constants = {
1275                 { "VIDEO_FORMAT_BGRA", bmusb::PixelFormat_8BitBGRA },
1276                 { "VIDEO_FORMAT_YCBCR", bmusb::PixelFormat_8BitYCbCrPlanar },
1277         };
1278         const vector<pair<string, string>> str_constants = {
1279                 { "THEME_PATH", theme_path },
1280         };
1281
1282         lua_newtable(L);  // t = {}
1283
1284         for (const pair<string, int> &constant : num_constants) {
1285                 lua_pushstring(L, constant.first.c_str());
1286                 lua_pushinteger(L, constant.second);
1287                 lua_settable(L, 1);  // t[key] = value
1288         }
1289         for (const pair<string, string> &constant : str_constants) {
1290                 lua_pushstring(L, constant.first.c_str());
1291                 lua_pushstring(L, constant.second.c_str());
1292                 lua_settable(L, 1);  // t[key] = value
1293         }
1294
1295         lua_setglobal(L, "Nageru");  // Nageru = t
1296         assert(lua_gettop(L) == 0);
1297 }
1298
1299 void Theme::register_class(const char *class_name, const luaL_Reg *funcs)
1300 {
1301         assert(lua_gettop(L) == 0);
1302         luaL_newmetatable(L, class_name);  // mt = {}
1303         lua_pushlightuserdata(L, this);
1304         luaL_setfuncs(L, funcs, 1);        // for (name,f in funcs) { mt[name] = f, with upvalue {theme} }
1305         lua_pushvalue(L, -1);
1306         lua_setfield(L, -2, "__index");    // mt.__index = mt
1307         lua_setglobal(L, class_name);      // ClassName = mt
1308         assert(lua_gettop(L) == 0);
1309 }
1310
1311 Theme::Chain Theme::get_chain_from_effect_chain(EffectChain *effect_chain, unsigned num, const InputState &input_state)
1312 {
1313         if (!lua_isfunction(L, -1)) {
1314                 fprintf(stderr, "Argument #-1 should be a function\n");
1315                 abort();
1316         }
1317         lua_pushvalue(L, -1);
1318         shared_ptr<LuaRefWithDeleter> funcref(new LuaRefWithDeleter(&m, L, luaL_ref(L, LUA_REGISTRYINDEX)));
1319         lua_pop(L, 2);
1320
1321         Chain chain;
1322         chain.chain = effect_chain;
1323         chain.setup_chain = [this, funcref, input_state, effect_chain]{
1324                 lock_guard<mutex> lock(m);
1325
1326                 assert(this->input_state == nullptr);
1327                 this->input_state = &input_state;
1328
1329                 // Set up state, including connecting signals.
1330                 lua_rawgeti(L, LUA_REGISTRYINDEX, funcref->get());
1331                 if (lua_pcall(L, 0, 0, 0) != 0) {
1332                         fprintf(stderr, "error running chain setup callback: %s\n", lua_tostring(L, -1));
1333                         abort();
1334                 }
1335                 assert(lua_gettop(L) == 0);
1336
1337                 // The theme can't (or at least shouldn't!) call connect_signal() on
1338                 // each FFmpeg or CEF input, so we'll do it here.
1339                 if (video_signal_connections.count(effect_chain)) {
1340                         for (const VideoSignalConnection &conn : video_signal_connections[effect_chain]) {
1341                                 conn.wrapper->connect_signal_raw(conn.source->get_card_index(), input_state);
1342                         }
1343                 }
1344 #ifdef HAVE_CEF
1345                 if (html_signal_connections.count(effect_chain)) {
1346                         for (const CEFSignalConnection &conn : html_signal_connections[effect_chain]) {
1347                                 conn.wrapper->connect_signal_raw(conn.source->get_card_index(), input_state);
1348                         }
1349                 }
1350 #endif
1351
1352                 this->input_state = nullptr;
1353         };
1354         return chain;
1355 }
1356
1357 Theme::Chain Theme::get_chain(unsigned num, float t, unsigned width, unsigned height, const InputState &input_state)
1358 {
1359         const char *func_name = "get_scene";  // For error reporting.
1360         Chain chain;
1361
1362         lock_guard<mutex> lock(m);
1363         assert(lua_gettop(L) == 0);
1364         lua_getglobal(L, "get_scene");  /* function to be called */
1365         if (lua_isnil(L, -1)) {
1366                 // Try the pre-1.9.0 name for compatibility.
1367                 lua_pop(L, 1);
1368                 lua_getglobal(L, "get_chain");
1369                 func_name = "get_chain";
1370         }
1371         lua_pushnumber(L, num);
1372         lua_pushnumber(L, t);
1373         lua_pushnumber(L, width);
1374         lua_pushnumber(L, height);
1375         wrap_lua_object<InputStateInfo>(L, "InputStateInfo", input_state);
1376
1377         if (lua_pcall(L, 5, LUA_MULTRET, 0) != 0) {
1378                 fprintf(stderr, "error running function “%s”: %s\n", func_name, lua_tostring(L, -1));
1379                 abort();
1380         }
1381
1382         if (luaL_testudata(L, -1, "Scene") != nullptr) {
1383                 if (lua_gettop(L) != 1) {
1384                         luaL_error(L, "%s() for chain number %d returned an Scene, but also other items", func_name);
1385                 }
1386                 Scene *auto_effect_chain = (Scene *)luaL_testudata(L, -1, "Scene");
1387                 auto chain_and_setup = auto_effect_chain->get_chain(this, L, num, input_state);
1388                 chain.chain = chain_and_setup.first;
1389                 chain.setup_chain = move(chain_and_setup.second);
1390         } else if (luaL_testudata(L, -2, "EffectChain") != nullptr) {
1391                 // Old-style (pre-Nageru 1.9.0) return of a single chain and prepare function.
1392                 if (lua_gettop(L) != 2) {
1393                         luaL_error(L, "%s() for chain number %d returned an EffectChain, but needs to also return a prepare function (or use Scene)", func_name);
1394                 }
1395                 EffectChain *effect_chain = (EffectChain *)luaL_testudata(L, -2, "EffectChain");
1396                 chain = get_chain_from_effect_chain(effect_chain, num, input_state);
1397         } else {
1398                 luaL_error(L, "%s() for chain number %d did not return an EffectChain or Scene\n", func_name, num);
1399         }
1400         assert(lua_gettop(L) == 0);
1401
1402         // TODO: Can we do better, e.g. by running setup_chain() and seeing what it references?
1403         // Actually, setup_chain does maybe hold all the references we need now anyway?
1404         chain.input_frames.reserve(num_cards * FRAME_HISTORY_LENGTH);
1405         for (unsigned card_index = 0; card_index < num_cards; ++card_index) {
1406                 for (unsigned frame_num = 0; frame_num < FRAME_HISTORY_LENGTH; ++frame_num) {
1407                         chain.input_frames.push_back(input_state.buffered_frames[card_index][frame_num].frame);
1408                 }
1409         }
1410
1411         return chain;
1412 }
1413
1414 string Theme::get_channel_name(unsigned channel)
1415 {
1416         lock_guard<mutex> lock(m);
1417         lua_getglobal(L, "channel_name");
1418         lua_pushnumber(L, channel);
1419         if (lua_pcall(L, 1, 1, 0) != 0) {
1420                 fprintf(stderr, "error running function `channel_name': %s\n", lua_tostring(L, -1));
1421                 abort();
1422         }
1423         const char *ret = lua_tostring(L, -1);
1424         if (ret == nullptr) {
1425                 fprintf(stderr, "function `channel_name' returned nil for channel %d\n", channel);
1426                 abort();
1427         }
1428
1429         string retstr = ret;
1430         lua_pop(L, 1);
1431         assert(lua_gettop(L) == 0);
1432         return retstr;
1433 }
1434
1435 int Theme::get_channel_signal(unsigned channel)
1436 {
1437         lock_guard<mutex> lock(m);
1438         lua_getglobal(L, "channel_signal");
1439         lua_pushnumber(L, channel);
1440         if (lua_pcall(L, 1, 1, 0) != 0) {
1441                 fprintf(stderr, "error running function `channel_signal': %s\n", lua_tostring(L, -1));
1442                 abort();
1443         }
1444
1445         int ret = luaL_checknumber(L, 1);
1446         lua_pop(L, 1);
1447         assert(lua_gettop(L) == 0);
1448         return ret;
1449 }
1450
1451 std::string Theme::get_channel_color(unsigned channel)
1452 {
1453         lock_guard<mutex> lock(m);
1454         lua_getglobal(L, "channel_color");
1455         lua_pushnumber(L, channel);
1456         if (lua_pcall(L, 1, 1, 0) != 0) {
1457                 fprintf(stderr, "error running function `channel_color': %s\n", lua_tostring(L, -1));
1458                 abort();
1459         }
1460
1461         const char *ret = lua_tostring(L, -1);
1462         if (ret == nullptr) {
1463                 fprintf(stderr, "function `channel_color' returned nil for channel %d\n", channel);
1464                 abort();
1465         }
1466
1467         string retstr = ret;
1468         lua_pop(L, 1);
1469         assert(lua_gettop(L) == 0);
1470         return retstr;
1471 }
1472
1473 bool Theme::get_supports_set_wb(unsigned channel)
1474 {
1475         lock_guard<mutex> lock(m);
1476         lua_getglobal(L, "supports_set_wb");
1477         lua_pushnumber(L, channel);
1478         if (lua_pcall(L, 1, 1, 0) != 0) {
1479                 fprintf(stderr, "error running function `supports_set_wb': %s\n", lua_tostring(L, -1));
1480                 abort();
1481         }
1482
1483         bool ret = checkbool(L, -1);
1484         lua_pop(L, 1);
1485         assert(lua_gettop(L) == 0);
1486         return ret;
1487 }
1488
1489 void Theme::set_wb(unsigned channel, double r, double g, double b)
1490 {
1491         lock_guard<mutex> lock(m);
1492         lua_getglobal(L, "set_wb");
1493         lua_pushnumber(L, channel);
1494         lua_pushnumber(L, r);
1495         lua_pushnumber(L, g);
1496         lua_pushnumber(L, b);
1497         if (lua_pcall(L, 4, 0, 0) != 0) {
1498                 fprintf(stderr, "error running function `set_wb': %s\n", lua_tostring(L, -1));
1499                 abort();
1500         }
1501
1502         assert(lua_gettop(L) == 0);
1503 }
1504
1505 vector<string> Theme::get_transition_names(float t)
1506 {
1507         lock_guard<mutex> lock(m);
1508         lua_getglobal(L, "get_transitions");
1509         lua_pushnumber(L, t);
1510         if (lua_pcall(L, 1, 1, 0) != 0) {
1511                 fprintf(stderr, "error running function `get_transitions': %s\n", lua_tostring(L, -1));
1512                 abort();
1513         }
1514
1515         vector<string> ret;
1516         lua_pushnil(L);
1517         while (lua_next(L, -2) != 0) {
1518                 ret.push_back(lua_tostring(L, -1));
1519                 lua_pop(L, 1);
1520         }
1521         lua_pop(L, 1);
1522         assert(lua_gettop(L) == 0);
1523         return ret;
1524 }
1525
1526 int Theme::map_signal(int signal_num)
1527 {
1528         // Negative numbers map to raw signals.
1529         if (signal_num < 0) {
1530                 return -1 - signal_num;
1531         }
1532
1533         lock_guard<mutex> lock(map_m);
1534         if (signal_to_card_mapping.count(signal_num)) {
1535                 return signal_to_card_mapping[signal_num];
1536         }
1537
1538         int card_index;
1539         if (global_flags.output_card != -1 && num_cards > 1) {
1540                 // Try to exclude the output card from the default card_index.
1541                 card_index = signal_num % (num_cards - 1);
1542                 if (card_index >= global_flags.output_card) {
1543                          ++card_index;
1544                 }
1545                 if (signal_num >= int(num_cards - 1)) {
1546                         print_warning(L, "Theme asked for input %d, but we only have %u input card(s) (card %d is busy with output).\n",
1547                                 signal_num, num_cards - 1, global_flags.output_card);
1548                         fprintf(stderr, "Mapping to card %d instead.\n", card_index);
1549                 }
1550         } else {
1551                 card_index = signal_num % num_cards;
1552                 if (signal_num >= int(num_cards)) {
1553                         print_warning(L, "Theme asked for input %d, but we only have %u card(s).\n", signal_num, num_cards);
1554                         fprintf(stderr, "Mapping to card %d instead.\n", card_index);
1555                 }
1556         }
1557         signal_to_card_mapping[signal_num] = card_index;
1558         return card_index;
1559 }
1560
1561 void Theme::set_signal_mapping(int signal_num, int card_num)
1562 {
1563         lock_guard<mutex> lock(map_m);
1564         assert(card_num < int(num_cards));
1565         signal_to_card_mapping[signal_num] = card_num;
1566 }
1567
1568 void Theme::transition_clicked(int transition_num, float t)
1569 {
1570         lock_guard<mutex> lock(m);
1571         lua_getglobal(L, "transition_clicked");
1572         lua_pushnumber(L, transition_num);
1573         lua_pushnumber(L, t);
1574
1575         if (lua_pcall(L, 2, 0, 0) != 0) {
1576                 fprintf(stderr, "error running function `transition_clicked': %s\n", lua_tostring(L, -1));
1577                 abort();
1578         }
1579         assert(lua_gettop(L) == 0);
1580 }
1581
1582 void Theme::channel_clicked(int preview_num)
1583 {
1584         lock_guard<mutex> lock(m);
1585         lua_getglobal(L, "channel_clicked");
1586         lua_pushnumber(L, preview_num);
1587
1588         if (lua_pcall(L, 1, 0, 0) != 0) {
1589                 fprintf(stderr, "error running function `channel_clicked': %s\n", lua_tostring(L, -1));
1590                 abort();
1591         }
1592         assert(lua_gettop(L) == 0);
1593 }
1594
1595 int Theme::set_theme_menu(lua_State *L)
1596 {
1597         for (const Theme::MenuEntry &entry : theme_menu) {
1598                 luaL_unref(L, LUA_REGISTRYINDEX, entry.lua_ref);
1599         }
1600         theme_menu.clear();
1601
1602         int num_elements = lua_gettop(L);
1603         for (int i = 1; i <= num_elements; ++i) {
1604                 lua_rawgeti(L, i, 1);
1605                 const string text = checkstdstring(L, -1);
1606                 lua_pop(L, 1);
1607
1608                 lua_rawgeti(L, i, 2);
1609                 luaL_checktype(L, -1, LUA_TFUNCTION);
1610                 int ref = luaL_ref(L, LUA_REGISTRYINDEX);
1611
1612                 theme_menu.push_back(MenuEntry{ text, ref });
1613         }
1614         lua_pop(L, num_elements);
1615         assert(lua_gettop(L) == 0);
1616
1617         if (theme_menu_callback != nullptr) {
1618                 theme_menu_callback();
1619         }
1620
1621         return 0;
1622 }
1623
1624 void Theme::theme_menu_entry_clicked(int lua_ref)
1625 {
1626         lock_guard<mutex> lock(m);
1627         lua_rawgeti(L, LUA_REGISTRYINDEX, lua_ref);
1628         if (lua_pcall(L, 0, 0, 0) != 0) {
1629                 fprintf(stderr, "error running menu callback: %s\n", lua_tostring(L, -1));
1630                 abort();
1631         }
1632 }