]> git.sesse.net Git - nageru/blob - nageru/theme.h
Heed the Exif white point when playing back (MJPEG) video.
[nageru] / nageru / theme.h
1 #ifndef _THEME_H
2 #define _THEME_H 1
3
4 #include <lua.hpp>
5 #include <movit/effect.h>
6 #include <movit/flat_input.h>
7 #include <movit/ycbcr_input.h>
8 #include <stdbool.h>
9 #include <functional>
10 #include <map>
11 #include <mutex>
12 #include <string>
13 #include <unordered_map>
14 #include <vector>
15
16 #include "bmusb/bmusb.h"
17 #include "defs.h"
18 #include "ref_counted_frame.h"
19 #include "tweaked_inputs.h"
20
21 class Scene;
22 class CEFCapture;
23 class FFmpegCapture;
24 class LiveInputWrapper;
25 struct InputState;
26
27 namespace movit {
28 class Effect;
29 class EffectChain;
30 class ResourcePool;
31 }  // namespace movit
32
33 enum EffectType {
34         // LIVE_INPUT_* also covers CEF and video inputs.
35         LIVE_INPUT_YCBCR,
36         LIVE_INPUT_YCBCR_WITH_DEINTERLACE,
37         LIVE_INPUT_YCBCR_PLANAR,
38         LIVE_INPUT_BGRA,
39         IMAGE_INPUT,
40
41         IDENTITY_EFFECT,
42         WHITE_BALANCE_EFFECT,
43         AUTO_WHITE_BALANCE_EFFECT,  // Same as WHITE_BALANCE_EFFECT, but sets its value automatically.
44         RESAMPLE_EFFECT,
45         PADDING_EFFECT,
46         INTEGRAL_PADDING_EFFECT,
47         OVERLAY_EFFECT,
48         RESIZE_EFFECT,
49         MULTIPLY_EFFECT,
50         MIX_EFFECT,
51         LIFT_GAMMA_GAIN_EFFECT,
52
53         NO_EFFECT_TYPE
54 };
55
56 // An EffectBlueprint refers to an Effect before it's being added to the graph.
57 // It contains enough information to instantiate the effect, including any
58 // parameters that were set before it was added to the graph. Once it is
59 // instantiated, it forwards its calls on to the real Effect instead.
60 struct EffectBlueprint {
61         EffectBlueprint(EffectType effect_type) : effect_type(effect_type) {}
62
63         EffectType effect_type;
64         std::map<std::string, int> int_parameters;
65         std::map<std::string, float> float_parameters;
66         std::map<std::string, std::array<float, 3>> vec3_parameters;
67         std::map<std::string, std::array<float, 4>> vec4_parameters;
68
69         movit::Effect *effect = nullptr;  // Gets filled out when it's instantiated.
70 };
71
72 // Contains basically the same data as InputState, but does not hold on to
73 // a reference to the frames. This is important so that we can release them
74 // without having to wait for Lua's GC.
75 struct InputStateInfo {
76         explicit InputStateInfo(const InputState& input_state);
77
78         unsigned last_width[MAX_VIDEO_CARDS], last_height[MAX_VIDEO_CARDS];
79         bool last_interlaced[MAX_VIDEO_CARDS], last_has_signal[MAX_VIDEO_CARDS], last_is_connected[MAX_VIDEO_CARDS];
80         unsigned last_frame_rate_nom[MAX_VIDEO_CARDS], last_frame_rate_den[MAX_VIDEO_CARDS];
81         bool has_last_subtitle[MAX_VIDEO_CARDS];
82         std::string last_subtitle[MAX_VIDEO_CARDS];
83 };
84
85 class Theme {
86 public:
87         Theme(const std::string &filename, const std::vector<std::string> &search_dirs, movit::ResourcePool *resource_pool, unsigned num_cards);
88         ~Theme();
89
90         struct Chain {
91                 movit::EffectChain *chain;
92                 std::function<void()> setup_chain;
93
94                 // FRAME_HISTORY frames for each input, in order. Will contain duplicates
95                 // for non-interlaced inputs.
96                 std::vector<RefCountedFrame> input_frames;
97         };
98
99         Chain get_chain(unsigned num, float t, unsigned width, unsigned height, const InputState &input_state);
100
101         int get_num_channels() const { return num_channels; }
102         int map_signal(int signal_num);
103         void set_signal_mapping(int signal_num, int card_num);
104         std::string get_channel_name(unsigned channel);
105         int get_channel_signal(unsigned channel);
106         bool get_supports_set_wb(unsigned channel);
107         void set_wb(unsigned channel, float r, float g, float b);
108         void set_wb_for_signal(int signal, float r, float g, float b);
109         movit::RGBTriplet get_white_balance_for_signal(int signal);
110         std::string get_channel_color(unsigned channel);
111
112         std::unordered_map<int, movit::RGBTriplet> white_balance_for_signal;
113
114         std::vector<std::string> get_transition_names(float t);
115
116         void transition_clicked(int transition_num, float t);
117         void channel_clicked(int preview_num);
118
119         movit::ResourcePool *get_resource_pool() const { return resource_pool; }
120
121         // Should be called as part of VideoInput.new() only.
122         void register_video_input(FFmpegCapture *capture)
123         {
124                 video_inputs.push_back(capture);
125         }
126
127         std::vector<FFmpegCapture *> get_video_inputs() const
128         {
129                 return video_inputs;
130         }
131
132 #ifdef HAVE_CEF
133         // Should be called as part of HTMLInput.new() only.
134         void register_html_input(CEFCapture *capture)
135         {
136                 html_inputs.push_back(capture);
137         }
138
139         std::vector<CEFCapture *> get_html_inputs() const
140         {
141                 return html_inputs;
142         }
143 #endif
144
145         void register_video_signal_connection(movit::EffectChain *chain, LiveInputWrapper *live_input, FFmpegCapture *capture)
146         {
147                 video_signal_connections[chain].emplace_back(VideoSignalConnection { live_input, capture });
148         }
149
150 #ifdef HAVE_CEF
151         void register_html_signal_connection(movit::EffectChain *chain, LiveInputWrapper *live_input, CEFCapture *capture)
152         {
153                 html_signal_connections[chain].emplace_back(CEFSignalConnection { live_input, capture });
154         }
155 #endif
156
157         struct MenuEntry {
158                 MenuEntry(const std::string &text, lua_State *L, int lua_ref, unsigned flags)
159                         : text(text), is_submenu(false), entry{L, lua_ref, flags} {}
160                 MenuEntry(const std::string &text, std::vector<std::unique_ptr<MenuEntry>> submenu)
161                         : text(text), is_submenu(true), submenu(std::move(submenu)) {}
162                 ~MenuEntry();
163
164                 static constexpr unsigned CHECKABLE = 1;
165                 static constexpr unsigned CHECKED = 2;
166
167                 std::string text;
168                 bool is_submenu;
169
170                 union {
171                         // is_submenu = false.
172                         struct {
173                                 lua_State *L;
174                                 int lua_ref;
175                                 unsigned flags;
176                         } entry;
177
178                         // is_submenu = true.
179                         std::vector<std::unique_ptr<MenuEntry>> submenu;
180                 };
181         };
182         MenuEntry *get_theme_menu() { return theme_menu.get(); }  // Can be empty for no menu.
183         void theme_menu_entry_clicked(int lua_ref);
184
185         // Will be invoked every time the theme sets a new menu.
186         // Is not invoked for a menu that exists at the time of the callback.
187         void set_theme_menu_callback(std::function<void()> callback)
188         {
189                 theme_menu_callback = callback;
190         }
191
192         std::string format_status_line(const std::string &disk_space_left_text, double file_length_seconds);
193
194 private:
195         void register_globals();
196         void register_class(const char *class_name, const luaL_Reg *funcs, EffectType effect_type = NO_EFFECT_TYPE);
197         int set_theme_menu(lua_State *L);
198         Chain get_chain_from_effect_chain(movit::EffectChain *effect_chain, unsigned num, const InputState &input_state);
199         void call_lua_wb_callback(unsigned channel, float r, float g, float b);
200
201         std::string theme_path;
202
203         std::mutex m;
204         lua_State *L;  // Protected by <m>.
205         const InputState *input_state = nullptr;  // Protected by <m>. Only set temporarily, during chain setup.
206         movit::ResourcePool *resource_pool;
207         int num_channels = -1;
208         unsigned num_cards;
209         bool startup_finished = false;
210
211         std::mutex map_m;
212         std::map<int, int> signal_to_card_mapping;  // Protected by <map_m>.
213
214         std::vector<FFmpegCapture *> video_inputs;
215         struct VideoSignalConnection {
216                 LiveInputWrapper *wrapper;
217                 FFmpegCapture *source;
218         };
219         std::unordered_map<movit::EffectChain *, std::vector<VideoSignalConnection>>
220                  video_signal_connections;
221 #ifdef HAVE_CEF
222         std::vector<CEFCapture *> html_inputs;
223         struct CEFSignalConnection {
224                 LiveInputWrapper *wrapper;
225                 CEFCapture *source;
226         };
227         std::unordered_map<movit::EffectChain *, std::vector<CEFSignalConnection>>
228                 html_signal_connections;
229 #endif
230
231         std::unique_ptr<MenuEntry> theme_menu;
232         std::function<void()> theme_menu_callback;
233
234         std::map<unsigned, std::string> channel_names;  // Set using Nageru.set_channel_name(). Protected by <m>.
235         std::map<unsigned, int> channel_signals;  // Set using Nageru.set_channel_signal(). Protected by <m>.
236         std::map<unsigned, bool> channel_supports_wb;  // Set using Nageru.set_supports_wb(). Protected by <m>.
237
238         friend class LiveInputWrapper;
239         friend class Scene;
240         friend int ThemeMenu_set(lua_State *L);
241         friend int Nageru_set_channel_name(lua_State *L);
242         friend int Nageru_set_num_channels(lua_State *L);
243         friend int Nageru_set_channel_signal(lua_State *L);
244         friend int Nageru_set_supports_wb(lua_State *L);
245 };
246
247 // LiveInputWrapper is a facade on top of an YCbCrInput, exposed to
248 // the Lua code. It contains a function (connect_signal()) intended
249 // to be called during chain setup, that picks out the current frame
250 // (in the form of a set of textures) from the input state given by
251 // the mixer, and communicates that state over to the actual YCbCrInput.
252 class LiveInputWrapper {
253 public:
254         // Note: <override_bounce> is irrelevant for PixelFormat_8BitBGRA.
255         LiveInputWrapper(Theme *theme, movit::EffectChain *chain, bmusb::PixelFormat pixel_format, bool override_bounce, bool deinterlace, bool user_connectable);
256
257         bool connect_signal(int signal_num);  // Must be called with the theme's <m> lock held, since it accesses theme->input_state. Returns false on error.
258         void connect_signal_raw(int signal_num, const InputState &input_state);
259         movit::Effect *get_effect() const
260         {
261                 if (deinterlace) {
262                         return deinterlace_effect;
263                 } else if (pixel_format == bmusb::PixelFormat_8BitBGRA) {
264                         return rgba_inputs[0];
265                 } else {
266                         return ycbcr_inputs[0];
267                 }
268         }
269
270 private:
271         Theme *theme;  // Not owned by us.
272         bmusb::PixelFormat pixel_format;
273         movit::YCbCrFormat input_ycbcr_format;
274         std::vector<movit::YCbCrInput *> ycbcr_inputs;  // Multiple ones if deinterlacing. Owned by the chain.
275         std::vector<movit::FlatInput *> rgba_inputs;  // Multiple ones if deinterlacing. Owned by the chain.
276         movit::Effect *deinterlace_effect = nullptr;  // Owned by the chain.
277         bool deinterlace;
278         bool user_connectable;
279 };
280
281 // Utility functions used by Scene.
282 void add_outputs_and_finalize(movit::EffectChain *chain, bool is_main_chain);
283 Theme *get_theme_updata(lua_State* L);
284 bool checkbool(lua_State* L, int idx);
285 std::string checkstdstring(lua_State *L, int index);
286 movit::Effect *instantiate_effect(movit::EffectChain *chain, EffectType effect_type);
287 void print_warning(lua_State* L, const char *format, ...);
288
289 #endif  // !defined(_THEME_H)