git.sesse.net Git - vlc/blob - modules/codec/avcodec/avcodec.c

   1 /*****************************************************************************
   2  * avcodec.c: video and audio decoder and encoder using libavcodec
   3  *****************************************************************************
   4  * Copyright (C) 1999-2008 the VideoLAN team
   5  * $Id$
   6  *
   7  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
   8  *          Gildas Bazin <gbazin@videolan.org>
   9  *
  10  * This program is free software; you can redistribute it and/or modify
  11  * it under the terms of the GNU General Public License as published by
  12  * the Free Software Foundation; either version 2 of the License, or
  13  * (at your option) any later version.
  14  *
  15  * This program is distributed in the hope that it will be useful,
  16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  18  * GNU General Public License for more details.
  19  *
  20  * You should have received a copy of the GNU General Public License
  21  * along with this program; if not, write to the Free Software
  22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
  23  *****************************************************************************/
  24
  25 /*****************************************************************************
  26  * Preamble
  27  *****************************************************************************/
  28 #ifdef HAVE_CONFIG_H
  29 # include "config.h"
  30 #endif
  31
  32 #include <vlc_common.h>
  33 #include <vlc_plugin.h>
  34 #include <vlc_codec.h>
  35 #include <vlc_avcodec.h>
  36 #include <vlc_cpu.h>
  37
  38 /* ffmpeg header */
  39 #define HAVE_MMX 1
  40 #ifdef HAVE_LIBAVCODEC_AVCODEC_H
  41 #   include <libavcodec/avcodec.h>
  42 #elif defined(HAVE_FFMPEG_AVCODEC_H)
  43 #   include <ffmpeg/avcodec.h>
  44 #else
  45 #   include <avcodec.h>
  46 #endif
  47
  48 #include "avcodec.h"
  49 #include "avutil.h"
  50
  51 #if LIBAVCODEC_VERSION_INT < AV_VERSION_INT( 52, 25, 0 )
  52 #   error You must update libavcodec to a version >= 52.25.0
  53 #endif
  54
  55 /*****************************************************************************
  56  * decoder_sys_t: decoder descriptor
  57  *****************************************************************************/
  58 struct decoder_sys_t
  59 {
  60     /* Common part between video and audio decoder */
  61     FFMPEG_COMMON_MEMBERS
  62 };
  63
  64 /****************************************************************************
  65  * Local prototypes
  66  ****************************************************************************/
  67 static int OpenDecoder( vlc_object_t * );
  68 static void CloseDecoder( vlc_object_t * );
  69
  70 static const int  nloopf_list[] = { 0, 1, 2, 3, 4 };
  71 static const char *const nloopf_list_text[] =
  72   { N_("None"), N_("Non-ref"), N_("Bidir"), N_("Non-key"), N_("All") };
  73
  74 #ifdef ENABLE_SOUT
  75 static const char *const enc_hq_list[] = { "rd", "bits", "simple" };
  76 static const char *const enc_hq_list_text[] = {
  77     N_("rd"), N_("bits"), N_("simple") };
  78 #endif
  79
  80 #ifdef MERGE_FFMPEG
  81 # include "../../demux/avformat/avformat.h"
  82 # include "../../access/avio.h"
  83 #endif
  84
  85 /*****************************************************************************
  86  * Module descriptor
  87  *****************************************************************************/
  88 #define MODULE_DESCRIPTION N_( "Various audio and video decoders/encoders " \
  89         "delivered by the FFmpeg library. This includes (MS)MPEG4, DivX, SV1,"\
  90         "H261, H263, H264, WMV, WMA, AAC, AMR, DV, MJPEG and other codecs")
  91
  92 vlc_module_begin ()
  93     set_shortname( "FFmpeg")
  94     add_shortcut( "ffmpeg" )
  95     set_category( CAT_INPUT )
  96     set_subcategory( SUBCAT_INPUT_VCODEC )
  97     /* decoder main module */
  98 #if defined(MODULE_NAME_is_ffmpegaltivec) \
  99      || (defined(CAN_COMPILE_ALTIVEC) && !defined(NO_ALTIVEC_IN_FFMPEG))
 100     set_description( N_("AltiVec FFmpeg audio/video decoder ((MS)MPEG4,SVQ1,H263,WMV,WMA)") )
 101     /*add_requirement( ALTIVEC )*/
 102     set_capability( "decoder", 71 )
 103 #else
 104     set_description( N_("FFmpeg audio/video decoder") )
 105     set_help( MODULE_DESCRIPTION )
 106     set_capability( "decoder", 70 )
 107 #endif
 108     set_section( N_("Decoding") , NULL )
 109     set_callbacks( OpenDecoder, CloseDecoder )
 110
 111
 112     add_bool( "ffmpeg-dr", true, NULL, DR_TEXT, DR_TEXT, true )
 113     add_integer ( "ffmpeg-error-resilience", 1, NULL, ERROR_TEXT,
 114         ERROR_LONGTEXT, true )
 115     add_integer ( "ffmpeg-workaround-bugs", 1, NULL, BUGS_TEXT, BUGS_LONGTEXT,
 116         false )
 117     add_bool( "ffmpeg-hurry-up", true, NULL, HURRYUP_TEXT, HURRYUP_LONGTEXT,
 118         false )
 119     add_integer( "ffmpeg-skip-frame", 0, NULL, SKIP_FRAME_TEXT,
 120         SKIP_FRAME_LONGTEXT, true )
 121         change_integer_range( -1, 4 )
 122     add_integer( "ffmpeg-skip-idct", 0, NULL, SKIP_IDCT_TEXT,
 123         SKIP_IDCT_LONGTEXT, true )
 124         change_integer_range( -1, 4 )
 125     add_integer ( "ffmpeg-vismv", 0, NULL, VISMV_TEXT, VISMV_LONGTEXT,
 126         true )
 127     add_integer ( "ffmpeg-lowres", 0, NULL, LOWRES_TEXT, LOWRES_LONGTEXT,
 128         true )
 129         change_integer_range( 0, 2 )
 130     add_bool( "ffmpeg-fast", false, NULL, FAST_TEXT, FAST_LONGTEXT, true )
 131     add_integer ( "ffmpeg-skiploopfilter", 0, NULL, SKIPLOOPF_TEXT,
 132                   SKIPLOOPF_LONGTEXT, true )
 133         change_safe ()
 134         change_integer_list( nloopf_list, nloopf_list_text, NULL )
 135
 136     add_integer( "ffmpeg-debug", 0, NULL, DEBUG_TEXT, DEBUG_LONGTEXT,
 137                  true )
 138 #if defined(HAVE_AVCODEC_VAAPI) || defined(HAVE_AVCODEC_DXVA2)
 139     add_bool( "ffmpeg-hw", false, NULL, HW_TEXT, HW_LONGTEXT, true )
 140 #endif
 141 #if defined(FF_THREAD_FRAME)
 142     add_integer( "ffmpeg-threads", 0, NULL, THREADS_TEXT, THREADS_LONGTEXT, true );
 143 #endif
 144
 145
 146 #ifdef ENABLE_SOUT
 147     /* encoder submodule */
 148     add_submodule ()
 149     add_shortcut( "ffmpeg" )
 150     set_section( N_("Encoding") , NULL )
 151     set_description( N_("FFmpeg audio/video encoder") )
 152     set_capability( "encoder", 100 )
 153     set_callbacks( OpenEncoder, CloseEncoder )
 154
 155     add_string( ENC_CFG_PREFIX "hq", "simple", NULL, ENC_HQ_TEXT,
 156                 ENC_HQ_LONGTEXT, false )
 157         change_string_list( enc_hq_list, enc_hq_list_text, 0 )
 158     add_integer( ENC_CFG_PREFIX "keyint", 0, NULL, ENC_KEYINT_TEXT,
 159                  ENC_KEYINT_LONGTEXT, false )
 160     add_integer( ENC_CFG_PREFIX "bframes", 0, NULL, ENC_BFRAMES_TEXT,
 161                  ENC_BFRAMES_LONGTEXT, false )
 162     add_bool( ENC_CFG_PREFIX "hurry-up", false, NULL, ENC_HURRYUP_TEXT,
 163               ENC_HURRYUP_LONGTEXT, false )
 164     add_bool( ENC_CFG_PREFIX "interlace", false, NULL, ENC_INTERLACE_TEXT,
 165               ENC_INTERLACE_LONGTEXT, true )
 166     add_bool( ENC_CFG_PREFIX "interlace-me", true, NULL, ENC_INTERLACE_ME_TEXT,
 167               ENC_INTERLACE_ME_LONGTEXT, true )
 168     add_integer( ENC_CFG_PREFIX "vt", 0, NULL, ENC_VT_TEXT,
 169                  ENC_VT_LONGTEXT, true )
 170     add_bool( ENC_CFG_PREFIX "pre-me", false, NULL, ENC_PRE_ME_TEXT,
 171               ENC_PRE_ME_LONGTEXT, true )
 172     add_integer( ENC_CFG_PREFIX "rc-buffer-size", 224*1024*8, NULL,
 173                  ENC_RC_BUF_TEXT, ENC_RC_BUF_LONGTEXT, true )
 174     add_float( ENC_CFG_PREFIX "rc-buffer-aggressivity", 1.0, NULL,
 175                ENC_RC_BUF_AGGR_TEXT, ENC_RC_BUF_AGGR_LONGTEXT, true )
 176     add_float( ENC_CFG_PREFIX "i-quant-factor", 0, NULL,
 177                ENC_IQUANT_FACTOR_TEXT, ENC_IQUANT_FACTOR_LONGTEXT, true )
 178     add_integer( ENC_CFG_PREFIX "noise-reduction", 0, NULL,
 179                  ENC_NOISE_RED_TEXT, ENC_NOISE_RED_LONGTEXT, true )
 180     add_bool( ENC_CFG_PREFIX "mpeg4-matrix", false, NULL,
 181               ENC_MPEG4_MATRIX_TEXT, ENC_MPEG4_MATRIX_LONGTEXT, true )
 182     add_integer( ENC_CFG_PREFIX "qmin", 0, NULL,
 183                  ENC_QMIN_TEXT, ENC_QMIN_LONGTEXT, true )
 184     add_integer( ENC_CFG_PREFIX "qmax", 0, NULL,
 185                  ENC_QMAX_TEXT, ENC_QMAX_LONGTEXT, true )
 186     add_bool( ENC_CFG_PREFIX "trellis", false, NULL,
 187               ENC_TRELLIS_TEXT, ENC_TRELLIS_LONGTEXT, true )
 188     add_float( ENC_CFG_PREFIX "qscale", 0, NULL,
 189                ENC_QSCALE_TEXT, ENC_QSCALE_LONGTEXT, true )
 190     add_integer( ENC_CFG_PREFIX "strict", 0, NULL,
 191                  ENC_STRICT_TEXT, ENC_STRICT_LONGTEXT, true )
 192     add_float( ENC_CFG_PREFIX "lumi-masking", 0.0, NULL,
 193                ENC_LUMI_MASKING_TEXT, ENC_LUMI_MASKING_LONGTEXT, true )
 194     add_float( ENC_CFG_PREFIX "dark-masking", 0.0, NULL,
 195                ENC_DARK_MASKING_TEXT, ENC_DARK_MASKING_LONGTEXT, true )
 196     add_float( ENC_CFG_PREFIX "p-masking", 0.0, NULL,
 197                ENC_P_MASKING_TEXT, ENC_P_MASKING_LONGTEXT, true )
 198     add_float( ENC_CFG_PREFIX "border-masking", 0.0, NULL,
 199                ENC_BORDER_MASKING_TEXT, ENC_BORDER_MASKING_LONGTEXT, true )
 200     add_integer( ENC_CFG_PREFIX "luma-elim-threshold", 0, NULL,
 201                  ENC_LUMA_ELIM_TEXT, ENC_LUMA_ELIM_LONGTEXT, true )
 202     add_integer( ENC_CFG_PREFIX "chroma-elim-threshold", 0, NULL,
 203                  ENC_CHROMA_ELIM_TEXT, ENC_CHROMA_ELIM_LONGTEXT, true )
 204
 205     /* Audio AAC encoder profile */
 206     add_string( ENC_CFG_PREFIX "aac-profile", "low", NULL,
 207                 ENC_PROFILE_TEXT, ENC_PROFILE_LONGTEXT, true )
 208 #endif /* ENABLE_SOUT */
 209
 210     /* video filter submodule */
 211     add_submodule ()
 212     set_capability( "video filter2", 0 )
 213     set_callbacks( OpenDeinterlace, CloseDeinterlace )
 214     set_description( N_("FFmpeg deinterlace video filter") )
 215     add_shortcut( "ffmpeg-deinterlace" )
 216
 217 #ifdef MERGE_FFMPEG
 218     add_submodule ()
 219 #   include "../../demux/avformat/avformat.c"
 220     add_submodule ()
 221         AVIO_MODULE
 222 #endif
 223 vlc_module_end ()
 224
 225 /*****************************************************************************
 226  * OpenDecoder: probe the decoder and return score
 227  *****************************************************************************/
 228 static int OpenDecoder( vlc_object_t *p_this )
 229 {
 230     decoder_t *p_dec = (decoder_t*) p_this;
 231     int i_cat, i_codec_id, i_result;
 232     const char *psz_namecodec;
 233
 234     AVCodecContext *p_context = NULL;
 235     AVCodec        *p_codec = NULL;
 236
 237     /* *** determine codec type *** */
 238     if( !GetFfmpegCodec( p_dec->fmt_in.i_codec, &i_cat, &i_codec_id,
 239                              &psz_namecodec ) )
 240     {
 241         return VLC_EGENERIC;
 242     }
 243
 244     /* Initialization must be done before avcodec_find_decoder() */
 245     InitLibavcodec(p_this);
 246
 247     /* *** ask ffmpeg for a decoder *** */
 248     p_codec = avcodec_find_decoder( i_codec_id );
 249     if( !p_codec )
 250     {
 251         msg_Dbg( p_dec, "codec not found (%s)", psz_namecodec );
 252         return VLC_EGENERIC;
 253     }
 254
 255     /* *** get a p_context *** */
 256     p_context = avcodec_alloc_context();
 257     if( !p_context )
 258         return VLC_ENOMEM;
 259     p_context->debug = var_InheritInteger( p_dec, "ffmpeg-debug" );
 260     p_context->opaque = (void *)p_this;
 261
 262     /* Set CPU capabilities */
 263     unsigned i_cpu = vlc_CPU();
 264     p_context->dsp_mask = 0;
 265     if( !(i_cpu & CPU_CAPABILITY_MMX) )
 266     {
 267         p_context->dsp_mask |= FF_MM_MMX;
 268     }
 269     if( !(i_cpu & CPU_CAPABILITY_MMXEXT) )
 270     {
 271         p_context->dsp_mask |= FF_MM_MMXEXT;
 272     }
 273     if( !(i_cpu & CPU_CAPABILITY_3DNOW) )
 274     {
 275         p_context->dsp_mask |= FF_MM_3DNOW;
 276     }
 277     if( !(i_cpu & CPU_CAPABILITY_SSE) )
 278     {
 279         p_context->dsp_mask |= FF_MM_SSE;
 280     }
 281     if( !(i_cpu & CPU_CAPABILITY_SSE2) )
 282     {
 283         p_context->dsp_mask |= FF_MM_SSE2;
 284     }
 285 #ifdef FF_MM_SSE3
 286     if( !(i_cpu & CPU_CAPABILITY_SSE3) )
 287         p_context->dsp_mask |= FF_MM_SSE3;
 288 #endif
 289 #ifdef FF_MM_SSSE3
 290     if( !(i_cpu & CPU_CAPABILITY_SSSE3) )
 291         p_context->dsp_mask |= FF_MM_SSSE3;
 292 #endif
 293 #ifdef FF_MM_SSE4
 294     if( !(i_cpu & CPU_CAPABILITY_SSE4_1) )
 295         p_context->dsp_mask |= FF_MM_SSE4;
 296 #endif
 297 #ifdef FF_MM_SSE42
 298     if( !(i_cpu & CPU_CAPABILITY_SSE4_2) )
 299         p_context->dsp_mask |= FF_MM_SSE42;
 300 #endif
 301
 302     p_dec->b_need_packetized = true;
 303     switch( i_cat )
 304     {
 305     case VIDEO_ES:
 306         p_dec->pf_decode_video = DecodeVideo;
 307         i_result =  InitVideoDec ( p_dec, p_context, p_codec,
 308                                        i_codec_id, psz_namecodec );
 309         break;
 310     case AUDIO_ES:
 311         p_dec->pf_decode_audio = DecodeAudio;
 312         i_result =  InitAudioDec ( p_dec, p_context, p_codec,
 313                                        i_codec_id, psz_namecodec );
 314         break;
 315     case SPU_ES:
 316         p_dec->pf_decode_sub = DecodeSubtitle;
 317         i_result =  InitSubtitleDec( p_dec, p_context, p_codec,
 318                                      i_codec_id, psz_namecodec );
 319         break;
 320     default:
 321         i_result = VLC_EGENERIC;
 322     }
 323
 324     if( i_result == VLC_SUCCESS )
 325     {
 326         p_dec->p_sys->i_cat = i_cat;
 327         if( p_context->profile != FF_PROFILE_UNKNOWN)
 328             p_dec->fmt_in.i_profile = p_context->profile;
 329         if( p_context->level != FF_LEVEL_UNKNOWN)
 330             p_dec->fmt_in.i_level = p_context->level;
 331     }
 332
 333     return i_result;
 334 }
 335
 336 /*****************************************************************************
 337  * CloseDecoder: decoder destruction
 338  *****************************************************************************/
 339 static void CloseDecoder( vlc_object_t *p_this )
 340 {
 341     decoder_t *p_dec = (decoder_t *)p_this;
 342     decoder_sys_t *p_sys = p_dec->p_sys;
 343
 344     switch( p_sys->i_cat )
 345     {
 346     case AUDIO_ES:
 347          EndAudioDec ( p_dec );
 348         break;
 349     case VIDEO_ES:
 350          EndVideoDec ( p_dec );
 351         break;
 352     case SPU_ES:
 353          EndSubtitleDec( p_dec );
 354         break;
 355     }
 356
 357     if( p_sys->p_context )
 358     {
 359         free( p_sys->p_context->extradata );
 360         p_sys->p_context->extradata = NULL;
 361
 362         if( !p_sys->b_delayed_open )
 363         {
 364             vlc_avcodec_lock();
 365             avcodec_close( p_sys->p_context );
 366             vlc_avcodec_unlock();
 367         }
 368         msg_Dbg( p_dec, "ffmpeg codec (%s) stopped", p_sys->psz_namecodec );
 369         av_free( p_sys->p_context );
 370     }
 371
 372     free( p_sys );
 373 }
 374
 375 void InitLibavcodec( vlc_object_t *p_object )
 376 {
 377     static bool b_ffmpeginit = false;
 378
 379     vlc_avcodec_lock();
 380
 381     /* *** init ffmpeg library (libavcodec) *** */
 382     if( !b_ffmpeginit )
 383     {
 384         avcodec_init();
 385         avcodec_register_all();
 386         av_log_set_callback( LibavutilCallback );
 387         b_ffmpeginit = true;
 388
 389         msg_Dbg( p_object, "libavcodec initialized (interface 0x%x)",
 390                  LIBAVCODEC_VERSION_INT );
 391     }
 392     else
 393     {
 394         msg_Dbg( p_object, "libavcodec already initialized" );
 395     }
 396
 397     vlc_avcodec_unlock();
 398 }