git.sesse.net Git - vlc/blob - modules/codec/avcodec/avcodec.c

   1 /*****************************************************************************
   2  * avcodec.c: video and audio decoder and encoder using libavcodec
   3  *****************************************************************************
   4  * Copyright (C) 1999-2008 the VideoLAN team
   5  * $Id$
   6  *
   7  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
   8  *          Gildas Bazin <gbazin@videolan.org>
   9  *
  10  * This program is free software; you can redistribute it and/or modify
  11  * it under the terms of the GNU General Public License as published by
  12  * the Free Software Foundation; either version 2 of the License, or
  13  * (at your option) any later version.
  14  *
  15  * This program is distributed in the hope that it will be useful,
  16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  18  * GNU General Public License for more details.
  19  *
  20  * You should have received a copy of the GNU General Public License
  21  * along with this program; if not, write to the Free Software
  22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
  23  *****************************************************************************/
  24
  25 /*****************************************************************************
  26  * Preamble
  27  *****************************************************************************/
  28 #ifdef HAVE_CONFIG_H
  29 # include "config.h"
  30 #endif
  31
  32 #include <vlc_common.h>
  33 #include <vlc_plugin.h>
  34 #include <vlc_codec.h>
  35 #include <vlc_avcodec.h>
  36
  37 /* ffmpeg header */
  38 #define HAVE_MMX 1
  39 #ifdef HAVE_LIBAVCODEC_AVCODEC_H
  40 #   include <libavcodec/avcodec.h>
  41 #elif defined(HAVE_FFMPEG_AVCODEC_H)
  42 #   include <ffmpeg/avcodec.h>
  43 #else
  44 #   include <avcodec.h>
  45 #endif
  46
  47 #if LIBAVCODEC_VERSION_INT < AV_VERSION_INT( 51, 48, 0 )
  48 #   error You must update libavcodec to a version >= 51.48.0
  49 #elif LIBAVCODEC_VERSION_INT < AV_VERSION_INT( 52, 25, 0 )
  50 #   warning You should update libavcodec to get subtitle support
  51 #endif
  52
  53
  54 #include "avcodec.h"
  55 #include "avutil.h"
  56
  57 /*****************************************************************************
  58  * decoder_sys_t: decoder descriptor
  59  *****************************************************************************/
  60 struct decoder_sys_t
  61 {
  62     /* Common part between video and audio decoder */
  63     FFMPEG_COMMON_MEMBERS
  64 };
  65
  66 /****************************************************************************
  67  * Local prototypes
  68  ****************************************************************************/
  69 static int OpenDecoder( vlc_object_t * );
  70 static void CloseDecoder( vlc_object_t * );
  71
  72 static const int  nloopf_list[] = { 0, 1, 2, 3, 4 };
  73 static const char *const nloopf_list_text[] =
  74   { N_("None"), N_("Non-ref"), N_("Bidir"), N_("Non-key"), N_("All") };
  75
  76 #ifdef ENABLE_SOUT
  77 static const char *const enc_hq_list[] = { "rd", "bits", "simple" };
  78 static const char *const enc_hq_list_text[] = {
  79     N_("rd"), N_("bits"), N_("simple") };
  80 #endif
  81
  82 /*****************************************************************************
  83  * Module descriptor
  84  *****************************************************************************/
  85 #define MODULE_DESCRIPTION N_( "Various audio and video decoders/encoders" \
  86         "delivered by the FFmpeg library. This includes (MS)MPEG4, DivX, SV1,"\
  87         "H261, H263, H264, WMV, WMA, AAC, AMR, DV, MJPEG and other codecs")
  88
  89 vlc_module_begin ()
  90     set_shortname( "FFmpeg")
  91     add_shortcut( "ffmpeg" )
  92     set_category( CAT_INPUT )
  93     set_subcategory( SUBCAT_INPUT_SCODEC )
  94     /* decoder main module */
  95 #if defined(MODULE_NAME_is_ffmpegaltivec) \
  96      || (defined(CAN_COMPILE_ALTIVEC) && !defined(NO_ALTIVEC_IN_FFMPEG))
  97     set_description( N_("AltiVec FFmpeg audio/video decoder ((MS)MPEG4,SVQ1,H263,WMV,WMA)") )
  98     /*add_requirement( ALTIVEC )*/
  99     set_capability( "decoder", 71 )
 100 #else
 101     set_description( N_("FFmpeg audio/video decoder") )
 102     set_help( MODULE_DESCRIPTION )
 103     set_capability( "decoder", 70 )
 104 #endif
 105     set_section( N_("Decoding") , NULL )
 106     set_callbacks( OpenDecoder, CloseDecoder )
 107
 108
 109     add_bool( "ffmpeg-dr", 1, NULL, DR_TEXT, DR_TEXT, true )
 110     add_integer ( "ffmpeg-error-resilience", 1, NULL, ERROR_TEXT,
 111         ERROR_LONGTEXT, true )
 112     add_integer ( "ffmpeg-workaround-bugs", 1, NULL, BUGS_TEXT, BUGS_LONGTEXT,
 113         false )
 114     add_bool( "ffmpeg-hurry-up", 1, NULL, HURRYUP_TEXT, HURRYUP_LONGTEXT,
 115         false )
 116     add_integer( "ffmpeg-skip-frame", 0, NULL, SKIP_FRAME_TEXT,
 117         SKIP_FRAME_LONGTEXT, true )
 118         change_integer_range( -1, 4 )
 119     add_integer( "ffmpeg-skip-idct", 0, NULL, SKIP_IDCT_TEXT,
 120         SKIP_IDCT_LONGTEXT, true )
 121         change_integer_range( -1, 4 )
 122     add_integer ( "ffmpeg-vismv", 0, NULL, VISMV_TEXT, VISMV_LONGTEXT,
 123         true )
 124     add_integer ( "ffmpeg-lowres", 0, NULL, LOWRES_TEXT, LOWRES_LONGTEXT,
 125         true )
 126         change_integer_range( 0, 2 )
 127     add_bool( "ffmpeg-fast", 0, NULL, FAST_TEXT, FAST_LONGTEXT, true )
 128     add_integer ( "ffmpeg-skiploopfilter", 0, NULL, SKIPLOOPF_TEXT,
 129                   SKIPLOOPF_LONGTEXT, true )
 130         change_safe ()
 131         change_integer_list( nloopf_list, nloopf_list_text, NULL )
 132
 133     add_integer( "ffmpeg-debug", 0, NULL, DEBUG_TEXT, DEBUG_LONGTEXT,
 134                  true )
 135 #ifdef HAVE_AVCODEC_VAAPI
 136     add_bool( "ffmpeg-hw", true, NULL, HW_TEXT, HW_LONGTEXT, true )
 137 #endif
 138
 139 #ifdef ENABLE_SOUT
 140     /* encoder submodule */
 141     add_submodule ()
 142     add_shortcut( "ffmpeg" )
 143     set_section( N_("Encoding") , NULL )
 144     set_description( N_("FFmpeg audio/video encoder") )
 145     set_capability( "encoder", 100 )
 146     set_callbacks( OpenEncoder, CloseEncoder )
 147
 148     add_string( ENC_CFG_PREFIX "hq", "simple", NULL, ENC_HQ_TEXT,
 149                 ENC_HQ_LONGTEXT, false )
 150         change_string_list( enc_hq_list, enc_hq_list_text, 0 )
 151     add_integer( ENC_CFG_PREFIX "keyint", 0, NULL, ENC_KEYINT_TEXT,
 152                  ENC_KEYINT_LONGTEXT, false )
 153     add_integer( ENC_CFG_PREFIX "bframes", 0, NULL, ENC_BFRAMES_TEXT,
 154                  ENC_BFRAMES_LONGTEXT, false )
 155     add_bool( ENC_CFG_PREFIX "hurry-up", 0, NULL, ENC_HURRYUP_TEXT,
 156               ENC_HURRYUP_LONGTEXT, false )
 157     add_bool( ENC_CFG_PREFIX "interlace", 0, NULL, ENC_INTERLACE_TEXT,
 158               ENC_INTERLACE_LONGTEXT, true )
 159     add_bool( ENC_CFG_PREFIX "interlace-me", 1, NULL, ENC_INTERLACE_ME_TEXT,
 160               ENC_INTERLACE_ME_LONGTEXT, true )
 161     add_integer( ENC_CFG_PREFIX "vt", 0, NULL, ENC_VT_TEXT,
 162                  ENC_VT_LONGTEXT, true )
 163     add_bool( ENC_CFG_PREFIX "pre-me", 0, NULL, ENC_PRE_ME_TEXT,
 164               ENC_PRE_ME_LONGTEXT, true )
 165     add_integer( ENC_CFG_PREFIX "rc-buffer-size", 224*1024*8, NULL,
 166                  ENC_RC_BUF_TEXT, ENC_RC_BUF_LONGTEXT, true )
 167     add_float( ENC_CFG_PREFIX "rc-buffer-aggressivity", 1.0, NULL,
 168                ENC_RC_BUF_AGGR_TEXT, ENC_RC_BUF_AGGR_LONGTEXT, true )
 169     add_float( ENC_CFG_PREFIX "i-quant-factor", 0, NULL,
 170                ENC_IQUANT_FACTOR_TEXT, ENC_IQUANT_FACTOR_LONGTEXT, true )
 171     add_integer( ENC_CFG_PREFIX "noise-reduction", 0, NULL,
 172                  ENC_NOISE_RED_TEXT, ENC_NOISE_RED_LONGTEXT, true )
 173     add_bool( ENC_CFG_PREFIX "mpeg4-matrix", 0, NULL,
 174               ENC_MPEG4_MATRIX_TEXT, ENC_MPEG4_MATRIX_LONGTEXT, true )
 175     add_integer( ENC_CFG_PREFIX "qmin", 0, NULL,
 176                  ENC_QMIN_TEXT, ENC_QMIN_LONGTEXT, true )
 177     add_integer( ENC_CFG_PREFIX "qmax", 0, NULL,
 178                  ENC_QMAX_TEXT, ENC_QMAX_LONGTEXT, true )
 179     add_bool( ENC_CFG_PREFIX "trellis", 0, NULL,
 180               ENC_TRELLIS_TEXT, ENC_TRELLIS_LONGTEXT, true )
 181     add_float( ENC_CFG_PREFIX "qscale", 0, NULL,
 182                ENC_QSCALE_TEXT, ENC_QSCALE_LONGTEXT, true )
 183     add_integer( ENC_CFG_PREFIX "strict", 0, NULL,
 184                  ENC_STRICT_TEXT, ENC_STRICT_LONGTEXT, true )
 185     add_float( ENC_CFG_PREFIX "lumi-masking", 0.0, NULL,
 186                ENC_LUMI_MASKING_TEXT, ENC_LUMI_MASKING_LONGTEXT, true )
 187     add_float( ENC_CFG_PREFIX "dark-masking", 0.0, NULL,
 188                ENC_DARK_MASKING_TEXT, ENC_DARK_MASKING_LONGTEXT, true )
 189     add_float( ENC_CFG_PREFIX "p-masking", 0.0, NULL,
 190                ENC_P_MASKING_TEXT, ENC_P_MASKING_LONGTEXT, true )
 191     add_float( ENC_CFG_PREFIX "border-masking", 0.0, NULL,
 192                ENC_BORDER_MASKING_TEXT, ENC_BORDER_MASKING_LONGTEXT, true )
 193     add_integer( ENC_CFG_PREFIX "luma-elim-threshold", 0, NULL,
 194                  ENC_LUMA_ELIM_TEXT, ENC_LUMA_ELIM_LONGTEXT, true )
 195     add_integer( ENC_CFG_PREFIX "chroma-elim-threshold", 0, NULL,
 196                  ENC_CHROMA_ELIM_TEXT, ENC_CHROMA_ELIM_LONGTEXT, true )
 197
 198     /* Audio AAC encoder profile */
 199     add_string( ENC_CFG_PREFIX "aac-profile", "low", NULL,
 200                 ENC_PROFILE_TEXT, ENC_PROFILE_LONGTEXT, true )
 201 #endif /* ENABLE_SOUT */
 202
 203     /* video filter submodule */
 204     add_submodule ()
 205     set_capability( "video filter2", 0 )
 206     set_callbacks( OpenDeinterlace, CloseDeinterlace )
 207     set_description( N_("FFmpeg deinterlace video filter") )
 208     add_shortcut( "ffmpeg-deinterlace" )
 209
 210 vlc_module_end ()
 211
 212 /*****************************************************************************
 213  * OpenDecoder: probe the decoder and return score
 214  *****************************************************************************/
 215 static int OpenDecoder( vlc_object_t *p_this )
 216 {
 217     decoder_t *p_dec = (decoder_t*) p_this;
 218     int i_cat, i_codec_id, i_result;
 219     const char *psz_namecodec;
 220
 221     AVCodecContext *p_context = NULL;
 222     AVCodec        *p_codec = NULL;
 223
 224     /* *** determine codec type *** */
 225     if( !GetFfmpegCodec( p_dec->fmt_in.i_codec, &i_cat, &i_codec_id,
 226                              &psz_namecodec ) )
 227     {
 228         return VLC_EGENERIC;
 229     }
 230
 231     /* Initialization must be done before avcodec_find_decoder() */
 232     InitLibavcodec(p_this);
 233
 234     /* *** ask ffmpeg for a decoder *** */
 235     p_codec = avcodec_find_decoder( i_codec_id );
 236     if( !p_codec )
 237     {
 238         msg_Dbg( p_dec, "codec not found (%s)", psz_namecodec );
 239         return VLC_EGENERIC;
 240     }
 241
 242     /* *** get a p_context *** */
 243     p_context = avcodec_alloc_context();
 244     if( !p_context )
 245         return VLC_ENOMEM;
 246     p_context->debug = config_GetInt( p_dec, "ffmpeg-debug" );
 247     p_context->opaque = (void *)p_this;
 248
 249     /* Set CPU capabilities */
 250     unsigned i_cpu = vlc_CPU();
 251     p_context->dsp_mask = 0;
 252     if( !(i_cpu & CPU_CAPABILITY_MMX) )
 253     {
 254         p_context->dsp_mask |= FF_MM_MMX;
 255     }
 256     if( !(i_cpu & CPU_CAPABILITY_MMXEXT) )
 257     {
 258         p_context->dsp_mask |= FF_MM_MMXEXT;
 259     }
 260     if( !(i_cpu & CPU_CAPABILITY_3DNOW) )
 261     {
 262         p_context->dsp_mask |= FF_MM_3DNOW;
 263     }
 264     if( !(i_cpu & CPU_CAPABILITY_SSE) )
 265     {
 266         p_context->dsp_mask |= FF_MM_SSE;
 267     }
 268     if( !(i_cpu & CPU_CAPABILITY_SSE2) )
 269     {
 270         p_context->dsp_mask |= FF_MM_SSE2;
 271     }
 272
 273     p_dec->b_need_packetized = true;
 274     switch( i_cat )
 275     {
 276     case VIDEO_ES:
 277         p_dec->pf_decode_video = DecodeVideo;
 278         i_result =  InitVideoDec ( p_dec, p_context, p_codec,
 279                                        i_codec_id, psz_namecodec );
 280         break;
 281     case AUDIO_ES:
 282         p_dec->pf_decode_audio = DecodeAudio;
 283         i_result =  InitAudioDec ( p_dec, p_context, p_codec,
 284                                        i_codec_id, psz_namecodec );
 285         break;
 286 #if LIBAVCODEC_VERSION_INT >= AV_VERSION_INT( 52, 25, 0 )
 287     case SPU_ES:
 288         p_dec->pf_decode_sub = DecodeSubtitle;
 289         i_result =  InitSubtitleDec( p_dec, p_context, p_codec,
 290                                      i_codec_id, psz_namecodec );
 291         break;
 292 #endif
 293     default:
 294         i_result = VLC_EGENERIC;
 295     }
 296
 297     if( i_result == VLC_SUCCESS ) p_dec->p_sys->i_cat = i_cat;
 298
 299     return i_result;
 300 }
 301
 302 /*****************************************************************************
 303  * CloseDecoder: decoder destruction
 304  *****************************************************************************/
 305 static void CloseDecoder( vlc_object_t *p_this )
 306 {
 307     decoder_t *p_dec = (decoder_t *)p_this;
 308     decoder_sys_t *p_sys = p_dec->p_sys;
 309
 310     switch( p_sys->i_cat )
 311     {
 312     case AUDIO_ES:
 313          EndAudioDec ( p_dec );
 314         break;
 315     case VIDEO_ES:
 316          EndVideoDec ( p_dec );
 317         break;
 318     case SPU_ES:
 319          EndSubtitleDec( p_dec );
 320         break;
 321     }
 322
 323     if( p_sys->p_context )
 324     {
 325         free( p_sys->p_context->extradata );
 326         p_sys->p_context->extradata = NULL;
 327
 328         if( !p_sys->b_delayed_open )
 329         {
 330             vlc_avcodec_lock();
 331             avcodec_close( p_sys->p_context );
 332             vlc_avcodec_unlock();
 333         }
 334         msg_Dbg( p_dec, "ffmpeg codec (%s) stopped", p_sys->psz_namecodec );
 335         av_free( p_sys->p_context );
 336     }
 337
 338     free( p_sys );
 339 }
 340
 341 void InitLibavcodec( vlc_object_t *p_object )
 342 {
 343     static bool b_ffmpeginit = false;
 344
 345     vlc_avcodec_lock();
 346
 347     /* *** init ffmpeg library (libavcodec) *** */
 348     if( !b_ffmpeginit )
 349     {
 350         avcodec_init();
 351         avcodec_register_all();
 352         av_log_set_callback( LibavutilCallback );
 353         b_ffmpeginit = true;
 354
 355         msg_Dbg( p_object, "libavcodec initialized (interface 0x%x)",
 356                  LIBAVCODEC_VERSION_INT );
 357     }
 358     else
 359     {
 360         msg_Dbg( p_object, "libavcodec already initialized" );
 361     }
 362
 363     vlc_avcodec_unlock();
 364 }