]> git.sesse.net Git - vlc/blob - modules/video_output/vmem.c
089631a8d8833cc1c873827cac4abfd1152cf875
[vlc] / modules / video_output / vmem.c
1 /*****************************************************************************
2  * vmem.c: memory video driver for vlc
3  *****************************************************************************
4  * Copyright (C) 2008 VLC authors and VideoLAN
5  * Copyrgiht (C) 2010 RĂ©mi Denis-Courmont
6  *
7  * Authors: Sam Hocevar <sam@zoy.org>
8  *
9  * This program is free software; you can redistribute it and/or modify it
10  * under the terms of the GNU Lesser General Public License as published by
11  * the Free Software Foundation; either version 2.1 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
17  * GNU Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public License
20  * along with this program; if not, write to the Free Software Foundation,
21  * Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
22  *****************************************************************************/
23
24 /*****************************************************************************
25  * Preamble
26  *****************************************************************************/
27
28 #ifdef HAVE_CONFIG_H
29 # include "config.h"
30 #endif
31
32 #include <assert.h>
33
34 #include <vlc_common.h>
35 #include <vlc_plugin.h>
36 #include <vlc_vout_display.h>
37 #include <vlc_picture_pool.h>
38
39 /*****************************************************************************
40  * Module descriptor
41  *****************************************************************************/
42 #define T_WIDTH N_("Width")
43 #define LT_WIDTH N_("Video memory buffer width.")
44
45 #define T_HEIGHT N_("Height")
46 #define LT_HEIGHT N_("Video memory buffer height.")
47
48 #define T_PITCH N_("Pitch")
49 #define LT_PITCH N_("Video memory buffer pitch in bytes.")
50
51 #define T_CHROMA N_("Chroma")
52 #define LT_CHROMA N_("Output chroma for the memory image as a 4-character " \
53                       "string, eg. \"RV32\".")
54
55 static int  Open (vlc_object_t *);
56 static void Close(vlc_object_t *);
57
58 vlc_module_begin()
59     set_description(N_("Video memory output"))
60     set_shortname(N_("Video memory"))
61
62     set_category(CAT_VIDEO)
63     set_subcategory(SUBCAT_VIDEO_VOUT)
64     set_capability("vout display", 0)
65
66     add_integer("vmem-width", 320, T_WIDTH, LT_WIDTH, false)
67         change_private()
68     add_integer("vmem-height", 200, T_HEIGHT, LT_HEIGHT, false)
69         change_private()
70     add_integer("vmem-pitch", 640, T_PITCH, LT_PITCH, false)
71         change_private()
72     add_string("vmem-chroma", "RV16", T_CHROMA, LT_CHROMA, true)
73         change_private()
74     add_obsolete_string("vmem-lock") /* obsoleted since 1.1.1 */
75     add_obsolete_string("vmem-unlock") /* obsoleted since 1.1.1 */
76     add_obsolete_string("vmem-data") /* obsoleted since 1.1.1 */
77
78     set_callbacks(Open, Close)
79 vlc_module_end()
80
81 /*****************************************************************************
82  * Local prototypes
83  *****************************************************************************/
84 struct picture_sys_t {
85     vout_display_sys_t *sys;
86     void *id;
87 };
88
89 /* NOTE: the callback prototypes must match those of LibVLC */
90 struct vout_display_sys_t {
91     picture_pool_t *pool;
92     unsigned        count;
93
94     void *opaque;
95     void *(*lock)(void *sys, void **plane);
96     void (*unlock)(void *sys, void *id, void *const *plane);
97     void (*display)(void *sys, void *id);
98     void (*cleanup)(void *sys);
99
100     unsigned pitches[PICTURE_PLANE_MAX];
101     unsigned lines[PICTURE_PLANE_MAX];
102 };
103
104 typedef unsigned (*vlc_format_cb)(void **, char *, unsigned *, unsigned *,
105                                   unsigned *, unsigned *);
106
107 static picture_pool_t *Pool  (vout_display_t *, unsigned);
108 static void           Display(vout_display_t *, picture_t *, subpicture_t *);
109 static int            Control(vout_display_t *, int, va_list);
110
111 static int            Lock(picture_t *);
112 static void           Unlock(picture_t *);
113
114 /*****************************************************************************
115  * Open: allocates video thread
116  *****************************************************************************
117  * This function allocates and initializes a vout method.
118  *****************************************************************************/
119 static int Open(vlc_object_t *object)
120 {
121     vout_display_t *vd = (vout_display_t *)object;
122     vout_display_sys_t *sys = malloc(sizeof(*sys));
123     if (unlikely(!sys))
124         return VLC_ENOMEM;
125
126     /* Get the callbacks */
127     vlc_format_cb setup = var_InheritAddress(vd, "vmem-setup");
128
129     sys->lock = var_InheritAddress(vd, "vmem-lock");
130     if (sys->lock == NULL) {
131         msg_Err(vd, "missing lock callback");
132         free(sys);
133         return VLC_EGENERIC;
134     }
135     sys->unlock = var_InheritAddress(vd, "vmem-unlock");
136     sys->display = var_InheritAddress(vd, "vmem-display");
137     sys->cleanup = var_InheritAddress(vd, "vmem-cleanup");
138     sys->opaque = var_InheritAddress(vd, "vmem-data");
139     sys->pool = NULL;
140
141     /* Define the video format */
142     video_format_t fmt;
143     video_format_ApplyRotation(&fmt, &vd->fmt);
144
145     if (setup != NULL) {
146         char chroma[5];
147
148         memcpy(chroma, &fmt.i_chroma, 4);
149         chroma[4] = '\0';
150         memset(sys->pitches, 0, sizeof(sys->pitches));
151         memset(sys->lines, 0, sizeof(sys->lines));
152
153         sys->count = setup(&sys->opaque, chroma, &fmt.i_width, &fmt.i_height,
154                            sys->pitches, sys->lines);
155         if (sys->count == 0) {
156             msg_Err(vd, "video format setup failure (no pictures)");
157             free(sys);
158             return VLC_EGENERIC;
159         }
160         fmt.i_chroma = vlc_fourcc_GetCodecFromString(VIDEO_ES, chroma);
161
162     } else {
163         char *chroma = var_InheritString(vd, "vmem-chroma");
164         fmt.i_chroma = vlc_fourcc_GetCodecFromString(VIDEO_ES, chroma);
165         free(chroma);
166
167         fmt.i_width  = var_InheritInteger(vd, "vmem-width");
168         fmt.i_height = var_InheritInteger(vd, "vmem-height");
169         sys->pitches[0] = var_InheritInteger(vd, "vmem-pitch");
170         sys->lines[0] = fmt.i_height;
171         for (size_t i = 1; i < PICTURE_PLANE_MAX; i++)
172         {
173             sys->pitches[i] = sys->pitches[0];
174             sys->lines[i] = sys->lines[0];
175         }
176         sys->count = 1;
177         sys->cleanup = NULL;
178     }
179     fmt.i_x_offset = fmt.i_y_offset = 0;
180     fmt.i_visible_width = fmt.i_width;
181     fmt.i_visible_height = fmt.i_height;
182
183     if (!fmt.i_chroma) {
184         msg_Err(vd, "vmem-chroma should be 4 characters long");
185         free(sys);
186         return VLC_EGENERIC;
187     }
188
189     /* Define the bitmasks */
190     switch (fmt.i_chroma)
191     {
192     case VLC_CODEC_RGB15:
193         fmt.i_rmask = 0x001f;
194         fmt.i_gmask = 0x03e0;
195         fmt.i_bmask = 0x7c00;
196         break;
197     case VLC_CODEC_RGB16:
198         fmt.i_rmask = 0x001f;
199         fmt.i_gmask = 0x07e0;
200         fmt.i_bmask = 0xf800;
201         break;
202     case VLC_CODEC_RGB24:
203     case VLC_CODEC_RGB32:
204         fmt.i_rmask = 0xff0000;
205         fmt.i_gmask = 0x00ff00;
206         fmt.i_bmask = 0x0000ff;
207         break;
208     default:
209         fmt.i_rmask = 0;
210         fmt.i_gmask = 0;
211         fmt.i_bmask = 0;
212         break;
213     }
214
215     /* */
216     vout_display_info_t info = vd->info;
217     info.has_hide_mouse = true;
218
219     /* */
220     vd->sys     = sys;
221     vd->fmt     = fmt;
222     vd->info    = info;
223     vd->pool    = Pool;
224     vd->prepare = NULL;
225     vd->display = Display;
226     vd->control = Control;
227     vd->manage  = NULL;
228
229     /* */
230     vout_display_SendEventFullscreen(vd, false);
231     vout_display_SendEventDisplaySize(vd, fmt.i_width, fmt.i_height, false);
232     vout_display_DeleteWindow(vd, NULL);
233     return VLC_SUCCESS;
234 }
235
236 static void Close(vlc_object_t *object)
237 {
238     vout_display_t *vd = (vout_display_t *)object;
239     vout_display_sys_t *sys = vd->sys;
240
241     if (sys->cleanup)
242         sys->cleanup(sys->opaque);
243     picture_pool_Delete(sys->pool);
244     free(sys);
245 }
246
247 /* */
248 static picture_pool_t *Pool(vout_display_t *vd, unsigned count)
249 {
250     vout_display_sys_t *sys = vd->sys;
251
252     if (sys->pool)
253         return sys->pool;
254
255     if (count > sys->count)
256         count = sys->count;
257
258     picture_t *pictures[count];
259
260     for (unsigned i = 0; i < count; i++) {
261         picture_sys_t *picsys = malloc(sizeof (*picsys));
262         if (unlikely(picsys == NULL))
263         {
264             count = i;
265             break;
266         }
267         picsys->sys = sys;
268         picsys->id = NULL;
269
270         picture_resource_t rsc = { .p_sys = picsys };
271
272         for (unsigned i = 0; i < PICTURE_PLANE_MAX; i++) {
273             /* vmem-lock is responsible for the allocation */
274             rsc.p[i].p_pixels = NULL;
275             rsc.p[i].i_lines  = sys->lines[i];
276             rsc.p[i].i_pitch  = sys->pitches[i];
277         }
278
279         pictures[i] = picture_NewFromResource(&vd->fmt, &rsc);
280         if (!pictures[i]) {
281             free(rsc.p_sys);
282             count = i;
283             break;
284         }
285     }
286
287     /* */
288     picture_pool_configuration_t pool;
289     memset(&pool, 0, sizeof(pool));
290     pool.picture_count = count;
291     pool.picture       = pictures;
292     pool.lock          = Lock;
293     pool.unlock        = Unlock;
294     sys->pool = picture_pool_NewExtended(&pool);
295     if (!sys->pool) {
296         for (unsigned i = 0; i < count; i++)
297             picture_Release(pictures[i]);
298     }
299
300     return sys->pool;
301 }
302
303 static void Display(vout_display_t *vd, picture_t *picture, subpicture_t *subpicture)
304 {
305     vout_display_sys_t *sys = vd->sys;
306
307     assert(!picture_IsReferenced(picture));
308     if (sys->display != NULL)
309         sys->display(sys->opaque, picture->p_sys->id);
310     picture_Release(picture);
311     VLC_UNUSED(subpicture);
312 }
313
314 static int Control(vout_display_t *vd, int query, va_list args)
315 {
316     (void) vd; (void) query; (void) args;
317     return VLC_EGENERIC;
318 }
319
320 /* */
321 static int Lock(picture_t *picture)
322 {
323     picture_sys_t *picsys = picture->p_sys;
324     vout_display_sys_t *sys = picsys->sys;
325     void *planes[PICTURE_PLANE_MAX];
326
327     picsys->id = sys->lock(sys->opaque, planes);
328
329     for (int i = 0; i < picture->i_planes; i++)
330         picture->p[i].p_pixels = planes[i];
331
332     return VLC_SUCCESS;
333 }
334
335 static void Unlock(picture_t *picture)
336 {
337     picture_sys_t *picsys = picture->p_sys;
338     vout_display_sys_t *sys = picsys->sys;
339
340     void *planes[PICTURE_PLANE_MAX];
341
342     for (int i = 0; i < picture->i_planes; i++)
343         planes[i] = picture->p[i].p_pixels;
344
345     if (sys->unlock != NULL)
346         sys->unlock(sys->opaque, picsys->id, planes);
347 }