]> git.sesse.net Git - vlc/blobdiff - modules/codec/zvbi.c
Make sure the window is set to a normal level before going to fullscreen.
[vlc] / modules / codec / zvbi.c
index d9b6913a19b5c92cd2b32df7de871c101740f7c7..958954f598723bb9b2076f5ec25a83889d336d47 100644 (file)
  * EIA-608 Revision A: Closed Captioning [CC] (libzvbi)
  */
 
+#ifdef HAVE_CONFIG_H
+# include "config.h"
+#endif
+
 #include <vlc/vlc.h>
+#include <vlc_plugin.h>
 #include <assert.h>
 #include <stdint.h>
 #include <libzvbi.h>
@@ -89,6 +94,8 @@ static subpicture_t *Decode( decoder_t *, block_t ** );
 #define TELX_LONGTEXT N_( "Output teletext subtitles as text " \
   "instead of as RGBA" )
 
+// #define ZVBI_DEBUG
+
 static int pi_pos_values[] = { 0, 1, 2, 4, 8, 5, 6, 9, 10 };
 static const char *ppsz_pos_descriptions[] =
 { N_("Center"), N_("Left"), N_("Right"), N_("Top"), N_("Bottom"),
@@ -103,13 +110,13 @@ vlc_module_begin();
     set_callbacks( Open, Close );
 
     add_integer( "vbi-page", 100, NULL,
-                 PAGE_TEXT, PAGE_LONGTEXT, VLC_FALSE );
-    add_bool( "vbi-opaque", VLC_TRUE, NULL,
-                 OPAQUE_TEXT, OPAQUE_LONGTEXT, VLC_FALSE );
-    add_integer( "vbi-position", 4, NULL, POS_TEXT, POS_LONGTEXT, VLC_FALSE );
+                 PAGE_TEXT, PAGE_LONGTEXT, false );
+    add_bool( "vbi-opaque", true, NULL,
+                 OPAQUE_TEXT, OPAQUE_LONGTEXT, false );
+    add_integer( "vbi-position", 4, NULL, POS_TEXT, POS_LONGTEXT, false );
         change_integer_list( pi_pos_values, ppsz_pos_descriptions, 0 );
-    add_bool( "vbi-text", VLC_FALSE, NULL,
-              TELX_TEXT, TELX_LONGTEXT, VLC_FALSE );
+    add_bool( "vbi-text", false, NULL,
+              TELX_TEXT, TELX_LONGTEXT, false );
 vlc_module_end();
 
 /****************************************************************************
@@ -118,22 +125,22 @@ vlc_module_end();
 
 struct decoder_sys_t
 {
-    vbi_decoder *           p_vbi_dec;
-    vbi_dvb_demux *         p_dvb_demux;
-    unsigned int            i_wanted_page;
-    unsigned int            i_last_page;
-    vlc_bool_t              b_update;
-    vlc_bool_t              b_opaque;
+    vbi_decoder *     p_vbi_dec;
+    vbi_dvb_demux *   p_dvb_demux;
+    unsigned int      i_wanted_page;
+    unsigned int      i_last_page;
+    bool              b_update;
+    bool              b_opaque;
 
     /* Subtitles as text */
-    vlc_bool_t              b_text;
+    bool              b_text;
 
     /* Positioning of Teletext images */
-    int                     i_align;
+    int               i_align;
 
     /* Misc */
-#ifdef HAVE_FFMPEG_SWSCALE_H
-    image_handler_t         *p_image;
+#if defined(HAVE_FFMPEG_SWSCALE_H) || defined(HAVE_LIBSWSCALE_SWSCALE_H) || defined(HAVE_LIBSWSCALE_TREE)
+    image_handler_t   *p_image;
 #endif
 };
 
@@ -142,6 +149,10 @@ static int RequestPage( vlc_object_t *p_this, char const *psz_cmd,
                         vlc_value_t oldval, vlc_value_t newval, void *p_data );
 static int OpaquePage( decoder_t *p_dec, vbi_page p_page, video_format_t fmt,
                         picture_t **p_src );
+static int Opaque_32bpp( decoder_t *p_dec, vbi_page p_page, video_format_t fmt,
+                        picture_t **p_src );
+static int Opaque_8bpp( decoder_t *p_dec, vbi_page p_page, video_format_t fmt,
+                        picture_t **p_src );
 
 static int Opaque( vlc_object_t *p_this, char const *psz_cmd,
                    vlc_value_t oldval, vlc_value_t newval, void *p_data );
@@ -160,30 +171,24 @@ static int Open( vlc_object_t *p_this )
     decoder_sys_t *p_sys = NULL;
 
     if( p_dec->fmt_in.i_codec != VLC_FOURCC('t','e','l','x') )
-    {
         return VLC_EGENERIC;
-    }
 
     p_dec->pf_decode_sub = Decode;
     p_sys = p_dec->p_sys = malloc( sizeof(decoder_sys_t) );
     if( p_sys == NULL )
-    {
-        msg_Err( p_dec, "out of memory" );
         return VLC_ENOMEM;
-    }
     memset( p_sys, 0, sizeof(decoder_sys_t) );
 
-#ifdef HAVE_FFMPEG_SWSCALE_H
+#if defined(HAVE_FFMPEG_SWSCALE_H) || defined(HAVE_LIBSWSCALE_SWSCALE_H) || defined(HAVE_LIBSWSCALE_TREE)
     p_sys->p_image = image_HandlerCreate( VLC_OBJECT(p_dec) );
     if( !p_sys->p_image )
     {
         free( p_sys );
-        msg_Err( p_dec, "out of memory" );
         return VLC_ENOMEM;
     }
 #endif
 
-    p_sys->b_update = VLC_FALSE;
+    p_sys->b_update = false;
     p_sys->p_vbi_dec = vbi_decoder_new();
     p_sys->p_dvb_demux = vbi_dvb_pes_demux_new( NULL, NULL );
 
@@ -200,8 +205,8 @@ static int Open( vlc_object_t *p_this )
                                 event_handler, p_dec );
 
     /* Create the var on vlc_global. */
-    p_sys->i_wanted_page = var_CreateGetInteger( p_dec->p_libvlc, "vbi-page" );
-    var_AddCallback( p_dec->p_libvlc, "vbi-page",
+    p_sys->i_wanted_page = var_CreateGetInteger( p_dec, "vbi-page" );
+    var_AddCallback( p_dec, "vbi-page",
                      RequestPage, p_sys );
 
     p_sys->b_opaque = var_CreateGetBool( p_dec, "vbi-opaque" );
@@ -217,7 +222,7 @@ static int Open( vlc_object_t *p_this )
     if( p_sys->b_text )
         p_dec->fmt_out.video.i_chroma = VLC_FOURCC('T','E','X','T');
     else
-#ifdef HAVE_FFMPEG_SWSCALE_H
+#if defined(HAVE_FFMPEG_SWSCALE_H) || defined(HAVE_LIBSWSCALE_SWSCALE_H) || defined(HAVE_LIBSWSCALE_TREE)
         p_dec->fmt_out.video.i_chroma = VLC_FOURCC('Y','U','V','A');
 #else
         p_dec->fmt_out.video.i_chroma = VLC_FOURCC('R','G','B','A');
@@ -233,7 +238,12 @@ static void Close( vlc_object_t *p_this )
     decoder_t     *p_dec = (decoder_t*) p_this;
     decoder_sys_t *p_sys = p_dec->p_sys;
 
-#ifdef HAVE_FFMPEG_SWSCALE_H
+    var_Destroy( p_dec, "vbi-opaque" );
+    var_Destroy( p_dec, "vbi-page" );
+    var_DelCallback( p_dec, "vbi-page", RequestPage, p_sys );
+    var_DelCallback( p_dec, "vbi-opaque", Opaque, p_sys );
+
+#if defined(HAVE_FFMPEG_SWSCALE_H) || defined(HAVE_LIBSWSCALE_SWSCALE_H) || defined(HAVE_LIBSWSCALE_TREE)
     if( p_sys->p_image ) image_HandlerDelete( p_sys->p_image );
 #endif
     if( p_sys->p_vbi_dec ) vbi_decoder_delete( p_sys->p_vbi_dec );
@@ -252,7 +262,7 @@ static subpicture_t *Decode( decoder_t *p_dec, block_t **pp_block )
     block_t         *p_block;
     subpicture_t    *p_spu = NULL;
     video_format_t  fmt;
-    vlc_bool_t      b_cached = VLC_FALSE;
+    bool            b_cached = false;
     vbi_page        p_page;
     const uint8_t   *p_pos;
     unsigned int    i_left;
@@ -289,14 +299,14 @@ static subpicture_t *Decode( decoder_t *p_dec, block_t **pp_block )
         goto error;
 
     if( ( p_sys->i_wanted_page == p_sys->i_last_page ) &&
-        ( p_sys->b_update != VLC_TRUE ) )
+        ( p_sys->b_update != true ) )
         goto error;
 
-    p_sys->b_update = VLC_FALSE;
+    p_sys->b_update = false;
     p_sys->i_last_page = p_sys->i_wanted_page;
-#if 0
+#ifdef ZVBI_DEBUG
     msg_Dbg( p_dec, "we now have page: %d ready for display",
-             p_sys->i_wanted_page );
+              p_sys->i_wanted_page );
 #endif
     /* If there is a page or sub to render, then we do that here */
     /* Create the subpicture unit */
@@ -310,7 +320,7 @@ static subpicture_t *Decode( decoder_t *p_dec, block_t **pp_block )
     /* Create a new subpicture region */
     memset( &fmt, 0, sizeof(video_format_t) );
     fmt.i_chroma = p_sys->b_text ? VLC_FOURCC('T','E','X','T') :
-#ifdef HAVE_FFMPEG_SWSCALE_H
+#if defined(HAVE_FFMPEG_SWSCALE_H) || defined(HAVE_LIBSWSCALE_SWSCALE_H) || defined(HAVE_LIBSWSCALE_TREE)
                                    VLC_FOURCC('Y','U','V','A');
 #else
                                    VLC_FOURCC('R','G','B','A');
@@ -331,16 +341,16 @@ static subpicture_t *Decode( decoder_t *p_dec, block_t **pp_block )
 
     p_spu->p_region->i_x = 0;
     p_spu->p_region->i_y = 0;
-    p_spu->p_region->i_align = SUBPICTURE_ALIGN_TOP;
+    p_spu->p_region->i_align = SUBPICTURE_ALIGN_BOTTOM;
 
     /* Normal text subs, easy markup */
-    p_spu->i_flags = SUBPICTURE_ALIGN_TOP;
+    p_spu->i_flags = SUBPICTURE_ALIGN_BOTTOM;
 
     p_spu->i_start = (mtime_t) p_block->i_dts;
     p_spu->i_stop = (mtime_t) 0;
-    p_spu->b_ephemer = VLC_TRUE;
-    p_spu->b_absolute = VLC_FALSE;
-    p_spu->b_pausable = VLC_TRUE;
+    p_spu->b_ephemer = true;
+    p_spu->b_absolute = false;
+    p_spu->b_pausable = true;
     p_spu->i_width = fmt.i_width;
     p_spu->i_height = fmt.i_height;
     p_spu->i_original_picture_width = p_page.columns * 12;
@@ -366,25 +376,24 @@ static subpicture_t *Decode( decoder_t *p_dec, block_t **pp_block )
         p_spu->p_region->psz_text = strdup( &p_text[8] );
 
         p_spu->p_region->fmt.i_height = p_spu->p_region->fmt.i_visible_height = p_page.rows + 1;
-        msg_Dbg( p_dec, "page %x-%x(%d)\n%s", p_page.pgno, p_page.subno, i_total, p_text );
+#ifdef ZVBI_DEBUG
+        msg_Info( p_dec, "page %x-%x(%d)\n%s", p_page.pgno, p_page.subno, i_total, p_text );
+#endif
     }
     else
     {
-#ifdef HAVE_FFMPEG_SWSCALE_H
+#if defined(HAVE_FFMPEG_SWSCALE_H) || defined(HAVE_LIBSWSCALE_SWSCALE_H) || defined(HAVE_LIBSWSCALE_TREE)
         video_format_t fmt_in;
         picture_t *p_pic, *p_dest;
 
         p_pic = ( picture_t * ) malloc( sizeof( picture_t ) );
         if( !p_pic )
-        {
-            msg_Err( p_dec, "out of memory" );
             goto error;
-        }
 
         memset( &fmt_in, 0, sizeof( video_format_t ) );
         memset( p_pic, 0, sizeof( picture_t ) );
 
-        fmt_in = p_spu->p_region->fmt;
+        fmt_in = fmt;
         fmt_in.i_chroma = VLC_FOURCC('R','G','B','A');
 
         vout_AllocatePicture( VLC_OBJECT(p_dec), p_pic, fmt_in.i_chroma,
@@ -402,9 +411,7 @@ static subpicture_t *Decode( decoder_t *p_dec, block_t **pp_block )
         p_pic->p->i_lines = p_page.rows * 10;
         p_pic->p->i_pitch = p_page.columns * 12 * 4;
 
-        OpaquePage( p_dec, p_page, fmt_in, &p_pic );
-
-#if 0
+#ifdef ZVBI_DEBUG
         msg_Dbg( p_dec, "page %x-%x(%d,%d)",
                  p_page.pgno, p_page.subno,
                  p_page.rows, p_page.columns );
@@ -418,8 +425,8 @@ static subpicture_t *Decode( decoder_t *p_dec, block_t **pp_block )
             msg_Err( p_dec, "chroma conversion failed" );
             goto error;
         }
-
-        vout_CopyPicture( VLC_OBJECT(p_dec), &p_spu->p_region->picture,
+        OpaquePage( p_dec, p_page, p_spu->p_region->fmt, &p_dest );
+        vout_CopyPicture( VLC_OBJECT(p_dec), &(p_spu->p_region->picture),
                           p_dest );
 
         free( p_pic->p_data_orig );
@@ -441,7 +448,7 @@ static subpicture_t *Decode( decoder_t *p_dec, block_t **pp_block )
 #endif
     }
 
-#undef PIXFMT_RGBA32
+#undef ZVBI_PIXFMT_RGBA32
 
     vbi_unref_page( &p_page );
     block_Release( p_block );
@@ -466,17 +473,20 @@ static void event_handler( vbi_event *ev, void *user_data )
 
     if( ev->type == VBI_EVENT_TTX_PAGE )
     {
-        /* msg_Dbg( p_dec, "Page %03x.%02x ",
+#ifdef ZVBI_DEBUG
+        msg_Info( p_dec, "Page %03x.%02x ",
                     ev->ev.ttx_page.pgno,
                     ev->ev.ttx_page.subno & 0xFF);
-        */
+#endif
         if( p_sys->i_last_page == vbi_bcd2dec( ev->ev.ttx_page.pgno ) )
-            p_sys->b_update = VLC_TRUE;
+            p_sys->b_update = true;
 
         if( ev->ev.ttx_page.clock_update )
             msg_Dbg( p_dec, "clock" );
+#ifdef ZVBI_DEBUG
         if( ev->ev.ttx_page.header_update )
             msg_Dbg( p_dec, "header" );
+#endif
     }
     else if( ev->type == VBI_EVENT_CAPTION )
         msg_Dbg( p_dec, "Caption line: %x", ev->ev.caption.pgno );
@@ -490,6 +500,27 @@ static void event_handler( vbi_event *ev, void *user_data )
 
 static int OpaquePage( decoder_t *p_dec, vbi_page p_page,
                        video_format_t fmt, picture_t **p_src )
+{
+    int result = VLC_EGENERIC;
+
+    /* Kludge since zvbi doesn't provide an option to specify opacity. */
+    switch( fmt.i_chroma )
+    {
+        case VLC_FOURCC('R','G','B','A' ):
+            result = Opaque_32bpp( p_dec, p_page, fmt, p_src );
+            break;
+        case VLC_FOURCC('Y','U','V','A' ):
+            result = Opaque_8bpp( p_dec, p_page, fmt, p_src );
+            break;
+        default:
+            msg_Err( p_dec, "chroma not supported %4.4s", (char *)&fmt.i_chroma );
+            return VLC_EGENERIC;
+    }
+    return result;
+}
+
+static int Opaque_32bpp( decoder_t *p_dec, vbi_page p_page,
+                         video_format_t fmt, picture_t **p_src )
 {
     decoder_sys_t   *p_sys = (decoder_sys_t *) p_dec->p_sys;
     uint32_t        *p_begin, *p_end;
@@ -497,24 +528,71 @@ static int OpaquePage( decoder_t *p_dec, vbi_page p_page,
     vbi_opacity     opacity;
 
     /* Kludge since zvbi doesn't provide an option to specify opacity. */
-    if( ( fmt.i_chroma != VLC_FOURCC('R','G','B','A' ) ) &&
-        ( fmt.i_chroma != VLC_FOURCC('Y','U','V','A' ) ) )
-    {
-        msg_Err( p_dec, "chroma not supported %4.4s", (char *)&fmt.i_chroma );
-        return VLC_EGENERIC;
-    }
-
     switch( fmt.i_chroma )
     {
         case VLC_FOURCC('R','G','B','A' ):
             p_begin = (uint32_t *)(*p_src)->p->p_pixels;
-            p_end = (uint32_t *)(*p_src)->p->p_pixels +
+            p_end   = (uint32_t *)(*p_src)->p->p_pixels +
                     ( fmt.i_width * fmt.i_height );
             break;
+        default:
+            msg_Err( p_dec, "chroma not supported %4.4s", (char *)&fmt.i_chroma );
+            return VLC_EGENERIC;
+    }
+
+    for( ; p_begin < p_end; p_begin++ )
+    {
+        opacity = p_page.text[ y / 10 * p_page.columns + x / 12 ].opacity;
+        switch( opacity )
+        {
+        /* Show video instead of this character */
+        case VBI_TRANSPARENT_SPACE:
+            *p_begin = 0;
+            break;
+        /* To make the boxed text "closed captioning" transparent
+         * change true to false.
+         */
+        case VBI_OPAQUE:
+            if( p_sys->b_opaque )
+                break;
+        /* Full text transparency. only foreground color is show */
+        case VBI_TRANSPARENT_FULL:
+            *p_begin = 0;
+            break;
+        /* Transparency for boxed text */
+        case VBI_SEMI_TRANSPARENT:
+            if( (*p_begin & 0xffffff00) == 0xff )
+                *p_begin = 0;
+            break;
+        }
+        x++;
+        if( x >= fmt.i_width )
+        {
+            x = 0;
+            y++;
+        }
+    }
+    /* end of kludge */
+    return VLC_SUCCESS;
+}
+
+static int Opaque_8bpp( decoder_t *p_dec, vbi_page p_page,
+                        video_format_t fmt, picture_t **p_src )
+{
+    decoder_sys_t   *p_sys = (decoder_sys_t *) p_dec->p_sys;
+    uint8_t         *p_begin, *p_end;
+    uint32_t        i_width = 0;
+    unsigned int    x = 0, y = 0;
+    vbi_opacity     opacity;
+
+    /* Kludge since zvbi doesn't provide an option to specify opacity. */
+    switch( fmt.i_chroma )
+    {
         case VLC_FOURCC('Y','U','V','A' ):
-            p_begin = (uint32_t *)(*p_src)->p[A_PLANE].p_pixels;
-            p_end = (uint32_t *)(*p_src)->p[A_PLANE].p_pixels +
-                ( (*p_src)->p[A_PLANE].i_lines * (*p_src)->p[A_PLANE].i_pitch );
+            p_begin = (uint8_t *)(*p_src)->p[A_PLANE].p_pixels;
+            p_end   = (uint8_t *)(*p_src)->p[A_PLANE].p_pixels +
+                      ( fmt.i_height * (*p_src)->p[A_PLANE].i_pitch );
+            i_width = (*p_src)->p[A_PLANE].i_pitch;
             break;
         default:
             msg_Err( p_dec, "chroma not supported %4.4s", (char *)&fmt.i_chroma );
@@ -531,7 +609,7 @@ static int OpaquePage( decoder_t *p_dec, vbi_page p_page,
             *p_begin = 0;
             break;
         /* To make the boxed text "closed captioning" transparent
-         * change VLC_TRUE to VLC_FALSE.
+         * change true to false.
          */
         case VBI_OPAQUE:
             if( p_sys->b_opaque )
@@ -547,7 +625,7 @@ static int OpaquePage( decoder_t *p_dec, vbi_page p_page,
             break;
         }
         x++;
-        if( x >= fmt.i_width )
+        if( x >= i_width )
         {
             x = 0;
             y++;
@@ -561,6 +639,7 @@ static int RequestPage( vlc_object_t *p_this, char const *psz_cmd,
                         vlc_value_t oldval, vlc_value_t newval, void *p_data )
 {
     decoder_sys_t   *p_sys = p_data;
+    VLC_UNUSED(p_this); VLC_UNUSED(psz_cmd); VLC_UNUSED(oldval);
 
     if( (newval.i_int > 0) && (newval.i_int < 999) )
         p_sys->i_wanted_page = newval.i_int;
@@ -572,6 +651,7 @@ static int Opaque( vlc_object_t *p_this, char const *psz_cmd,
                    vlc_value_t oldval, vlc_value_t newval, void *p_data )
 {
     decoder_sys_t *p_sys = p_data;
+    VLC_UNUSED(p_this); VLC_UNUSED(psz_cmd); VLC_UNUSED(oldval);
 
     if( p_sys )
         p_sys->b_opaque = newval.b_bool;
@@ -582,6 +662,7 @@ static int Position( vlc_object_t *p_this, char const *psz_cmd,
                      vlc_value_t oldval, vlc_value_t newval, void *p_data )
 {
     decoder_sys_t *p_sys = p_data;
+    VLC_UNUSED(p_this); VLC_UNUSED(psz_cmd); VLC_UNUSED(oldval);
 
     if( p_sys )
         p_sys->i_align = newval.i_int;