git.sesse.net Git - vlc/blob - modules/video_filter/yuvp.c

   1 /*****************************************************************************
   2  * yuvp.c: YUVP to YUVA/RGBA chroma converter
   3  *****************************************************************************
   4  * Copyright (C) 2008 the VideoLAN team
   5  * $Id$
   6  *
   7  * Authors: Laurent Aimar < fenrir @ videolan.org >
   8  *
   9  * This program is free software; you can redistribute it and/or modify
  10  * it under the terms of the GNU General Public License as published by
  11  * the Free Software Foundation; either version 2 of the License, or
  12  * (at your option) any later version.
  13  *
  14  * This program is distributed in the hope that it will be useful,
  15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17  * GNU General Public License for more details.
  18  *
  19  * You should have received a copy of the GNU General Public License
  20  * along with this program; if not, write to the Free Software
  21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
  22  *****************************************************************************/
  23
  24 /*****************************************************************************
  25  * Preamble
  26  *****************************************************************************/
  27 #ifdef HAVE_CONFIG_H
  28 # include "config.h"
  29 #endif
  30
  31 #include <vlc_common.h>
  32 #include <vlc_plugin.h>
  33 #include <vlc_filter.h>
  34 #include <assert.h>
  35
  36 /* TODO:
  37  *  Add anti-aliasing support (specially for DVD where only 4 colors are used)
  38  */
  39
  40 /*****************************************************************************
  41  * Module descriptor
  42  *****************************************************************************/
  43 static int  Open ( vlc_object_t * );
  44 static void Close( vlc_object_t * );
  45
  46 vlc_module_begin ()
  47     set_description( N_("YUVP converter") )
  48     set_capability( "video filter2", 10 )
  49     set_callbacks( Open, Close )
  50 vlc_module_end ()
  51
  52 /****************************************************************************
  53  * Local prototypes
  54  ****************************************************************************/
  55 static picture_t *Filter( filter_t *, picture_t * );
  56 static void Yuv2Rgb( uint8_t *r, uint8_t *g, uint8_t *b, int y1, int u1, int v1 );
  57
  58 /*****************************************************************************
  59  * Open: probe the filter and return score
  60  *****************************************************************************/
  61 static int Open( vlc_object_t *p_this )
  62 {
  63     filter_t *p_filter = (filter_t*)p_this;
  64
  65     /* It only supports YUVP to YUVA/RGBA without scaling
  66      * (if scaling is required another filter can do it) */
  67     if( p_filter->fmt_in.video.i_chroma != VLC_CODEC_YUVP ||
  68         ( p_filter->fmt_out.video.i_chroma != VLC_CODEC_YUVA &&
  69           p_filter->fmt_out.video.i_chroma != VLC_CODEC_RGBA ) ||
  70         p_filter->fmt_in.video.i_width  != p_filter->fmt_out.video.i_width ||
  71         p_filter->fmt_in.video.i_height != p_filter->fmt_out.video.i_height )
  72     {
  73         return VLC_EGENERIC;
  74     }
  75
  76     p_filter->pf_video_filter = Filter;
  77
  78     msg_Dbg( p_filter, "YUVP to %4.4s converter",
  79              (const char*)&p_filter->fmt_out.video.i_chroma );
  80
  81     return VLC_SUCCESS;
  82 }
  83
  84 /*****************************************************************************
  85  * Close: clean up the filter
  86  *****************************************************************************/
  87 static void Close( vlc_object_t *p_this )
  88 {
  89     VLC_UNUSED(p_this );
  90 }
  91
  92 /****************************************************************************
  93  * Filter: the whole thing
  94  ****************************************************************************/
  95 static picture_t *Filter( filter_t *p_filter, picture_t *p_pic )
  96 {
  97     picture_t *p_out;
  98
  99     if( !p_pic )
 100         return NULL;
 101
 102     const video_palette_t *p_yuvp = p_filter->fmt_in.video.p_palette;
 103
 104     assert( p_yuvp != NULL );
 105     assert( p_filter->fmt_in.video.i_chroma == VLC_CODEC_YUVP );
 106     assert( p_filter->fmt_in.video.i_width == p_filter->fmt_out.video.i_width );
 107     assert( p_filter->fmt_in.video.i_height == p_filter->fmt_out.video.i_height );
 108
 109     /* Request output picture */
 110     p_out = filter_NewPicture( p_filter );
 111     if( !p_out )
 112     {
 113         picture_Release( p_pic );
 114         return NULL;
 115     }
 116
 117     if( p_filter->fmt_out.video.i_chroma == VLC_CODEC_YUVA )
 118     {
 119         for( unsigned int y = 0; y < p_filter->fmt_in.video.i_height; y++ )
 120         {
 121             const uint8_t *p_line = &p_pic->p->p_pixels[y*p_pic->p->i_pitch];
 122             uint8_t *p_y = &p_out->Y_PIXELS[y*p_out->Y_PITCH];
 123             uint8_t *p_u = &p_out->U_PIXELS[y*p_out->U_PITCH];
 124             uint8_t *p_v = &p_out->V_PIXELS[y*p_out->V_PITCH];
 125             uint8_t *p_a = &p_out->A_PIXELS[y*p_out->A_PITCH];
 126
 127             for( unsigned int x = 0; x < p_filter->fmt_in.video.i_width; x++ )
 128             {
 129                 const int v = p_line[x];
 130
 131                 if( v > p_yuvp->i_entries )  /* maybe assert ? */
 132                     continue;
 133
 134                 p_y[x] = p_yuvp->palette[v][0];
 135                 p_u[x] = p_yuvp->palette[v][1];
 136                 p_v[x] = p_yuvp->palette[v][2];
 137                 p_a[x] = p_yuvp->palette[v][3];
 138             }
 139         }
 140     }
 141     else
 142     {
 143         assert( p_filter->fmt_out.video.i_chroma == VLC_CODEC_RGBA );
 144
 145         /* Create a RGBA palette */
 146         video_palette_t rgbp;
 147         rgbp.i_entries = p_yuvp->i_entries;
 148         for( int i = 0; i < p_yuvp->i_entries; i++ )
 149         {
 150             Yuv2Rgb( &rgbp.palette[i][0], &rgbp.palette[i][1], &rgbp.palette[i][2],
 151                      p_yuvp->palette[i][0], p_yuvp->palette[i][1], p_yuvp->palette[i][2] );
 152             rgbp.palette[i][3] = p_yuvp->palette[i][3];
 153         }
 154
 155         /* */
 156         for( unsigned int y = 0; y < p_filter->fmt_in.video.i_height; y++ )
 157         {
 158             const uint8_t *p_line = &p_pic->p->p_pixels[y*p_pic->p->i_pitch];
 159             uint8_t *p_rgba = &p_out->p->p_pixels[y*p_out->p->i_pitch];
 160
 161             for( unsigned int x = 0; x < p_filter->fmt_in.video.i_width; x++ )
 162             {
 163                 const int v = p_line[x];
 164
 165                 if( v > rgbp.i_entries )  /* maybe assert ? */
 166                     continue;
 167
 168                 p_rgba[4*x+0] = rgbp.palette[v][0];
 169                 p_rgba[4*x+1] = rgbp.palette[v][1];
 170                 p_rgba[4*x+2] = rgbp.palette[v][2];
 171                 p_rgba[4*x+3] = rgbp.palette[v][3];
 172             }
 173         }
 174     }
 175
 176     picture_CopyProperties( p_out, p_pic );
 177     picture_Release( p_pic );
 178     return p_out;
 179 }
 180
 181 /* FIXME copied from blend.c */
 182 static inline uint8_t vlc_uint8( int v )
 183 {
 184     if( v > 255 )
 185         return 255;
 186     else if( v < 0 )
 187         return 0;
 188     return v;
 189 }
 190 static void Yuv2Rgb( uint8_t *r, uint8_t *g, uint8_t *b, int y1, int u1, int v1 )
 191 {
 192     /* macros used for YUV pixel conversions */
 193 #   define SCALEBITS 10
 194 #   define ONE_HALF  (1 << (SCALEBITS - 1))
 195 #   define FIX(x)    ((int) ((x) * (1<<SCALEBITS) + 0.5))
 196
 197     int y, cb, cr, r_add, g_add, b_add;
 198
 199     cb = u1 - 128;
 200     cr = v1 - 128;
 201     r_add = FIX(1.40200*255.0/224.0) * cr + ONE_HALF;
 202     g_add = - FIX(0.34414*255.0/224.0) * cb
 203             - FIX(0.71414*255.0/224.0) * cr + ONE_HALF;
 204     b_add = FIX(1.77200*255.0/224.0) * cb + ONE_HALF;
 205     y = (y1 - 16) * FIX(255.0/219.0);
 206     *r = vlc_uint8( (y + r_add) >> SCALEBITS );
 207     *g = vlc_uint8( (y + g_add) >> SCALEBITS );
 208     *b = vlc_uint8( (y + b_add) >> SCALEBITS );
 209 #undef FIX
 210 }