git.sesse.net Git - vlc/blob - modules/codec/avcodec/audio.c

   1 /*****************************************************************************
   2  * audio.c: audio decoder using ffmpeg library
   3  *****************************************************************************
   4  * Copyright (C) 1999-2003 the VideoLAN team
   5  * $Id$
   6  *
   7  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
   8  *          Gildas Bazin <gbazin@videolan.org>
   9  *
  10  * This program is free software; you can redistribute it and/or modify
  11  * it under the terms of the GNU General Public License as published by
  12  * the Free Software Foundation; either version 2 of the License, or
  13  * (at your option) any later version.
  14  *
  15  * This program is distributed in the hope that it will be useful,
  16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  18  * GNU General Public License for more details.
  19  *
  20  * You should have received a copy of the GNU General Public License
  21  * along with this program; if not, write to the Free Software
  22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
  23  *****************************************************************************/
  24
  25 /*****************************************************************************
  26  * Preamble
  27  *****************************************************************************/
  28 #ifdef HAVE_CONFIG_H
  29 # include "config.h"
  30 #endif
  31
  32 #include <vlc_common.h>
  33 #include <vlc_aout.h>
  34 #include <vlc_codec.h>
  35 #include <vlc_avcodec.h>
  36
  37 /* ffmpeg header */
  38 #ifdef HAVE_LIBAVCODEC_AVCODEC_H
  39 #   include <libavcodec/avcodec.h>
  40 #elif defined(HAVE_FFMPEG_AVCODEC_H)
  41 #   include <ffmpeg/avcodec.h>
  42 #else
  43 #   include <avcodec.h>
  44 #endif
  45
  46 #include "avcodec.h"
  47
  48 /*****************************************************************************
  49  * decoder_sys_t : decoder descriptor
  50  *****************************************************************************/
  51 struct decoder_sys_t
  52 {
  53     FFMPEG_COMMON_MEMBERS
  54
  55     /* Temporary buffer for libavcodec */
  56     int     i_output_max;
  57     uint8_t *p_output;
  58
  59     /*
  60      * Output properties
  61      */
  62     audio_sample_format_t aout_format;
  63     audio_date_t          end_date;
  64
  65     /*
  66      *
  67      */
  68     uint8_t *p_samples;
  69     int     i_samples;
  70
  71     /* */
  72     int     i_reject_count;
  73
  74     /* */
  75     bool    b_extract;
  76     int     pi_extraction[AOUT_CHAN_MAX];
  77     int     i_previous_channels;
  78     int64_t i_previous_layout;
  79 };
  80
  81 static void SetupOutputFormat( decoder_t *p_dec, bool b_trust );
  82
  83 /*****************************************************************************
  84  * InitAudioDec: initialize audio decoder
  85  *****************************************************************************
  86  * The ffmpeg codec will be opened, some memory allocated.
  87  *****************************************************************************/
  88 int InitAudioDec( decoder_t *p_dec, AVCodecContext *p_context,
  89                       AVCodec *p_codec, int i_codec_id, const char *psz_namecodec )
  90 {
  91     decoder_sys_t *p_sys;
  92
  93     /* Allocate the memory needed to store the decoder's structure */
  94     if( ( p_dec->p_sys = p_sys = malloc(sizeof(*p_sys)) ) == NULL )
  95     {
  96         return VLC_ENOMEM;
  97     }
  98
  99     p_sys->p_context = p_context;
 100     p_sys->p_codec = p_codec;
 101     p_sys->i_codec_id = i_codec_id;
 102     p_sys->psz_namecodec = psz_namecodec;
 103     p_sys->b_delayed_open = false;
 104
 105     /* ***** Fill p_context with init values ***** */
 106     p_sys->p_context->sample_rate = p_dec->fmt_in.audio.i_rate;
 107     p_sys->p_context->channels = p_dec->fmt_in.audio.i_channels;
 108
 109     p_sys->p_context->block_align = p_dec->fmt_in.audio.i_blockalign;
 110     p_sys->p_context->bit_rate = p_dec->fmt_in.i_bitrate;
 111 #if LIBAVCODEC_VERSION_INT < ((52<<16)+(0<<8)+0)
 112     p_sys->p_context->bits_per_sample = p_dec->fmt_in.audio.i_bitspersample;
 113 #else
 114     p_sys->p_context->bits_per_coded_sample = p_dec->fmt_in.audio.i_bitspersample;
 115 #endif
 116
 117     if( p_dec->fmt_in.i_extra > 0 )
 118     {
 119         const uint8_t * const p_src = p_dec->fmt_in.p_extra;
 120         int i_offset;
 121         int i_size;
 122
 123         if( p_dec->fmt_in.i_codec == VLC_CODEC_FLAC )
 124         {
 125             i_offset = 8;
 126             i_size = p_dec->fmt_in.i_extra - 8;
 127         }
 128         else if( p_dec->fmt_in.i_codec == VLC_CODEC_ALAC )
 129         {
 130             static const uint8_t p_pattern[] = { 0, 0, 0, 36, 'a', 'l', 'a', 'c' };
 131             /* Find alac atom XXX it is a bit ugly */
 132             for( i_offset = 0; i_offset < p_dec->fmt_in.i_extra - sizeof(p_pattern); i_offset++ )
 133             {
 134                 if( !memcmp( &p_src[i_offset], p_pattern, sizeof(p_pattern) ) )
 135                     break;
 136             }
 137             i_size = __MIN( p_dec->fmt_in.i_extra - i_offset, 36 );
 138             if( i_size < 36 )
 139                 i_size = 0;
 140         }
 141         else
 142         {
 143             i_offset = 0;
 144             i_size = p_dec->fmt_in.i_extra;
 145         }
 146
 147         if( i_size > 0 )
 148         {
 149             p_sys->p_context->extradata =
 150                 malloc( i_size + FF_INPUT_BUFFER_PADDING_SIZE );
 151             if( p_sys->p_context->extradata )
 152             {
 153                 uint8_t *p_dst = p_sys->p_context->extradata;
 154
 155                 p_sys->p_context->extradata_size = i_size;
 156
 157                 memcpy( &p_dst[0],            &p_src[i_offset], i_size );
 158                 memset( &p_dst[i_size], 0, FF_INPUT_BUFFER_PADDING_SIZE );
 159             }
 160         }
 161     }
 162     else
 163     {
 164         p_sys->p_context->extradata_size = 0;
 165         p_sys->p_context->extradata = NULL;
 166     }
 167
 168     /* ***** Open the codec ***** */
 169     int ret;
 170     vlc_avcodec_lock();
 171     ret = avcodec_open( p_sys->p_context, p_sys->p_codec );
 172     vlc_avcodec_unlock();
 173     if( ret < 0 )
 174     {
 175         msg_Err( p_dec, "cannot open codec (%s)", p_sys->psz_namecodec );
 176         free( p_sys->p_context->extradata );
 177         free( p_sys );
 178         return VLC_EGENERIC;
 179     }
 180
 181     msg_Dbg( p_dec, "ffmpeg codec (%s) started", p_sys->psz_namecodec );
 182
 183     switch( i_codec_id )
 184     {
 185 #if LIBAVCODEC_VERSION_INT >= AV_VERSION_INT( 51, 16, 0 )
 186     case CODEC_ID_WAVPACK:
 187         p_sys->i_output_max = 8 * sizeof(int32_t) * 131072;
 188         break;
 189 #endif
 190 #if LIBAVCODEC_VERSION_INT >= AV_VERSION_INT( 51, 4, 0 )
 191     case CODEC_ID_TTA:
 192         p_sys->i_output_max = p_sys->p_context->channels * sizeof(int32_t) * p_sys->p_context->sample_rate * 2;
 193         break;
 194 #endif
 195     case CODEC_ID_FLAC:
 196         p_sys->i_output_max = 8 * sizeof(int32_t) * 65535;
 197         break;
 198     default:
 199         p_sys->i_output_max = 0;
 200         break;
 201     }
 202     if( p_sys->i_output_max < AVCODEC_MAX_AUDIO_FRAME_SIZE )
 203         p_sys->i_output_max = AVCODEC_MAX_AUDIO_FRAME_SIZE;
 204     msg_Dbg( p_dec, "Using %d bytes output buffer", p_sys->i_output_max );
 205     p_sys->p_output = av_malloc( p_sys->i_output_max );
 206
 207     p_sys->p_samples = NULL;
 208     p_sys->i_samples = 0;
 209     p_sys->i_reject_count = 0;
 210     p_sys->b_extract = false;
 211     p_sys->i_previous_channels = 0;
 212     p_sys->i_previous_layout = 0;
 213
 214     aout_DateSet( &p_sys->end_date, 0 );
 215     if( p_dec->fmt_in.audio.i_rate )
 216         aout_DateInit( &p_sys->end_date, p_dec->fmt_in.audio.i_rate );
 217
 218     /* */
 219     p_dec->fmt_out.i_cat = AUDIO_ES;
 220     /* Try to set as much informations as possible but do not trust it */
 221     SetupOutputFormat( p_dec, false );
 222
 223     return VLC_SUCCESS;
 224 }
 225
 226 /*****************************************************************************
 227  * SplitBuffer: Needed because aout really doesn't like big audio chunk and
 228  * wma produces easily > 30000 samples...
 229  *****************************************************************************/
 230 static aout_buffer_t *SplitBuffer( decoder_t *p_dec )
 231 {
 232     decoder_sys_t *p_sys = p_dec->p_sys;
 233     int i_samples = __MIN( p_sys->i_samples, 4096 );
 234     aout_buffer_t *p_buffer;
 235
 236     if( i_samples == 0 ) return NULL;
 237
 238     if( ( p_buffer = decoder_NewAudioBuffer( p_dec, i_samples ) ) == NULL )
 239         return NULL;
 240
 241     p_buffer->start_date = aout_DateGet( &p_sys->end_date );
 242     p_buffer->end_date = aout_DateIncrement( &p_sys->end_date, i_samples );
 243
 244     if( p_sys->b_extract )
 245         aout_ChannelExtract( p_buffer->p_buffer, p_dec->fmt_out.audio.i_channels,
 246                              p_sys->p_samples, p_sys->p_context->channels, i_samples,
 247                              p_sys->pi_extraction, p_dec->fmt_out.audio.i_bitspersample );
 248     else
 249         memcpy( p_buffer->p_buffer, p_sys->p_samples, p_buffer->i_nb_bytes );
 250
 251     p_sys->p_samples += i_samples * p_sys->p_context->channels * ( p_dec->fmt_out.audio.i_bitspersample / 8 );
 252     p_sys->i_samples -= i_samples;
 253
 254     return p_buffer;
 255 }
 256
 257 /*****************************************************************************
 258  * DecodeAudio: Called to decode one frame
 259  *****************************************************************************/
 260 aout_buffer_t * DecodeAudio ( decoder_t *p_dec, block_t **pp_block )
 261 {
 262     decoder_sys_t *p_sys = p_dec->p_sys;
 263     int i_used, i_output;
 264     aout_buffer_t *p_buffer;
 265     block_t *p_block;
 266
 267     if( !pp_block || !*pp_block ) return NULL;
 268
 269     p_block = *pp_block;
 270
 271     if( p_block->i_flags & (BLOCK_FLAG_DISCONTINUITY|BLOCK_FLAG_CORRUPTED) )
 272     {
 273         block_Release( p_block );
 274         avcodec_flush_buffers( p_sys->p_context );
 275         p_sys->i_samples = 0;
 276         aout_DateSet( &p_sys->end_date, 0 );
 277
 278         if( p_sys->i_codec_id == CODEC_ID_MP2 || p_sys->i_codec_id == CODEC_ID_MP3 )
 279             p_sys->i_reject_count = 3;
 280         return NULL;
 281     }
 282
 283     if( p_sys->i_samples > 0 )
 284     {
 285         /* More data */
 286         p_buffer = SplitBuffer( p_dec );
 287         if( !p_buffer ) block_Release( p_block );
 288         return p_buffer;
 289     }
 290
 291     if( !aout_DateGet( &p_sys->end_date ) && !p_block->i_pts )
 292     {
 293         /* We've just started the stream, wait for the first PTS. */
 294         block_Release( p_block );
 295         return NULL;
 296     }
 297
 298     if( p_block->i_buffer <= 0 )
 299     {
 300         block_Release( p_block );
 301         return NULL;
 302     }
 303
 304     i_output = __MAX( p_block->i_buffer, p_sys->i_output_max );
 305     if( i_output > p_sys->i_output_max )
 306     {
 307         /* Grow output buffer if necessary (eg. for PCM data) */
 308         p_sys->p_output = av_realloc( p_sys->p_output, i_output );
 309     }
 310
 311     *pp_block = p_block = block_Realloc( p_block, 0, p_block->i_buffer + FF_INPUT_BUFFER_PADDING_SIZE );
 312     if( !p_block )
 313         return NULL;
 314     p_block->i_buffer -= FF_INPUT_BUFFER_PADDING_SIZE;
 315     memset( &p_block->p_buffer[p_block->i_buffer], 0, FF_INPUT_BUFFER_PADDING_SIZE );
 316
 317 #if LIBAVCODEC_VERSION_INT >= ((52<<16)+(0<<8)+0)
 318     i_used = avcodec_decode_audio2( p_sys->p_context,
 319                                    (int16_t*)p_sys->p_output, &i_output,
 320                                    p_block->p_buffer, p_block->i_buffer );
 321 #else
 322     i_used = avcodec_decode_audio( p_sys->p_context,
 323                                    (int16_t*)p_sys->p_output, &i_output,
 324                                    p_block->p_buffer, p_block->i_buffer );
 325 #endif
 326
 327     if( i_used < 0 || i_output < 0 )
 328     {
 329         if( i_used < 0 )
 330             msg_Warn( p_dec, "cannot decode one frame (%zu bytes)",
 331                       p_block->i_buffer );
 332
 333         block_Release( p_block );
 334         return NULL;
 335     }
 336     else if( (size_t)i_used > p_block->i_buffer )
 337     {
 338         i_used = p_block->i_buffer;
 339     }
 340
 341     p_block->i_buffer -= i_used;
 342     p_block->p_buffer += i_used;
 343
 344     if( p_sys->p_context->channels <= 0 || p_sys->p_context->channels > 8 ||
 345         p_sys->p_context->sample_rate <= 0 )
 346     {
 347         msg_Warn( p_dec, "invalid audio properties channels count %d, sample rate %d",
 348                   p_sys->p_context->channels, p_sys->p_context->sample_rate );
 349         block_Release( p_block );
 350         return NULL;
 351     }
 352
 353     if( p_dec->fmt_out.audio.i_rate != (unsigned int)p_sys->p_context->sample_rate )
 354     {
 355         aout_DateInit( &p_sys->end_date, p_sys->p_context->sample_rate );
 356         aout_DateSet( &p_sys->end_date, p_block->i_pts );
 357     }
 358
 359     /* **** Set audio output parameters **** */
 360     SetupOutputFormat( p_dec, true );
 361
 362     if( p_block->i_pts != 0 &&
 363         p_block->i_pts != aout_DateGet( &p_sys->end_date ) )
 364     {
 365         aout_DateSet( &p_sys->end_date, p_block->i_pts );
 366     }
 367     p_block->i_pts = 0;
 368
 369     /* **** Now we can output these samples **** */
 370     p_sys->i_samples = i_output / (p_dec->fmt_out.audio.i_bitspersample / 8) / p_sys->p_context->channels;
 371     p_sys->p_samples = p_sys->p_output;
 372
 373     /* Silent unwanted samples */
 374     if( p_sys->i_reject_count > 0 )
 375     {
 376         memset( p_sys->p_output, 0, i_output );
 377         p_sys->i_reject_count--;
 378     }
 379
 380     p_buffer = SplitBuffer( p_dec );
 381     if( !p_buffer ) block_Release( p_block );
 382     return p_buffer;
 383 }
 384
 385 /*****************************************************************************
 386  * EndAudioDec: audio decoder destruction
 387  *****************************************************************************/
 388 void EndAudioDec( decoder_t *p_dec )
 389 {
 390     decoder_sys_t *p_sys = p_dec->p_sys;
 391
 392     av_free( p_sys->p_output );
 393 }
 394
 395 /*****************************************************************************
 396  *
 397  *****************************************************************************/
 398 #if LIBAVCODEC_VERSION_INT >= AV_VERSION_INT( 52, 2, 0 )
 399 #   define LIBAVCODEC_AUDIO_LAYOUT
 400 #else
 401 #   warning "Audio channel layout is unsupported by your avcodec version."
 402 #endif
 403
 404 #if defined(LIBAVCODEC_AUDIO_LAYOUT)
 405 static const uint64_t pi_channels_map[][2] =
 406 {
 407     { CH_FRONT_LEFT,        AOUT_CHAN_LEFT },
 408     { CH_FRONT_RIGHT,       AOUT_CHAN_RIGHT },
 409     { CH_FRONT_CENTER,      AOUT_CHAN_CENTER },
 410     { CH_LOW_FREQUENCY,     AOUT_CHAN_LFE },
 411     { CH_BACK_LEFT,         AOUT_CHAN_REARLEFT },
 412     { CH_BACK_RIGHT,        AOUT_CHAN_REARRIGHT },
 413     { CH_FRONT_LEFT_OF_CENTER, 0 },
 414     { CH_FRONT_RIGHT_OF_CENTER, 0 },
 415     { CH_BACK_CENTER,       AOUT_CHAN_REARCENTER },
 416     { CH_SIDE_LEFT,         AOUT_CHAN_MIDDLELEFT },
 417     { CH_SIDE_RIGHT,        AOUT_CHAN_MIDDLERIGHT },
 418     { CH_TOP_CENTER,        0 },
 419     { CH_TOP_FRONT_LEFT,    0 },
 420     { CH_TOP_FRONT_CENTER,  0 },
 421     { CH_TOP_FRONT_RIGHT,   0 },
 422     { CH_TOP_BACK_LEFT,     0 },
 423     { CH_TOP_BACK_CENTER,   0 },
 424     { CH_TOP_BACK_RIGHT,    0 },
 425     { CH_STEREO_LEFT,       0 },
 426     { CH_STEREO_RIGHT,      0 },
 427 };
 428 #else
 429 static const uint64_t pi_channels_map[][2] =
 430 {
 431     { 0, AOUT_CHAN_LEFT },
 432     { 0, AOUT_CHAN_RIGHT },
 433     { 0, AOUT_CHAN_CENTER },
 434     { 0, AOUT_CHAN_LFE },
 435     { 0, AOUT_CHAN_REARLEFT },
 436     { 0, AOUT_CHAN_REARRIGHT },
 437     { 0, 0 },
 438     { 0, 0 },
 439     { 0, AOUT_CHAN_REARCENTER },
 440     { 0, AOUT_CHAN_MIDDLELEFT },
 441     { 0, AOUT_CHAN_MIDDLERIGHT },
 442     { 0, 0 },
 443     { 0, 0 },
 444     { 0, 0 },
 445     { 0, 0 },
 446     { 0, 0 },
 447     { 0, 0 },
 448     { 0, 0 },
 449     { 0, 0 },
 450     { 0, 0 },
 451 };
 452 #endif
 453
 454 static void SetupOutputFormat( decoder_t *p_dec, bool b_trust )
 455 {
 456     decoder_sys_t *p_sys = p_dec->p_sys;
 457
 458 #if LIBAVCODEC_VERSION_INT >= AV_VERSION_INT( 51, 65, 0 )
 459     switch( p_sys->p_context->sample_fmt )
 460     {
 461     case SAMPLE_FMT_U8:
 462         p_dec->fmt_out.i_codec = VLC_CODEC_U8;
 463         p_dec->fmt_out.audio.i_bitspersample = 8;
 464         break;
 465     case SAMPLE_FMT_S32:
 466         p_dec->fmt_out.i_codec = VLC_CODEC_S32N;
 467         p_dec->fmt_out.audio.i_bitspersample = 32;
 468         break;
 469     case SAMPLE_FMT_FLT:
 470         p_dec->fmt_out.i_codec = VLC_CODEC_FL32;
 471         p_dec->fmt_out.audio.i_bitspersample = 32;
 472         break;
 473     case SAMPLE_FMT_DBL:
 474         p_dec->fmt_out.i_codec = VLC_CODEC_FL64;
 475         p_dec->fmt_out.audio.i_bitspersample = 64;
 476         break;
 477
 478     case SAMPLE_FMT_S16:
 479     default:
 480         p_dec->fmt_out.i_codec = VLC_CODEC_S16N;
 481         p_dec->fmt_out.audio.i_bitspersample = 16;
 482         break;
 483     }
 484 #else
 485     p_dec->fmt_out.i_codec = VLC_CODEC_S16N;
 486     p_dec->fmt_out.audio.i_bitspersample = 16;
 487 #endif
 488     p_dec->fmt_out.audio.i_rate     = p_sys->p_context->sample_rate;
 489
 490     /* */
 491 #if defined(LIBAVCODEC_AUDIO_LAYOUT)
 492     if( p_sys->i_previous_channels == p_sys->p_context->channels &&
 493         p_sys->i_previous_layout == p_sys->p_context->channel_layout )
 494         return;
 495 #else
 496     if( p_sys->i_previous_channels == p_sys->p_context->channels )
 497         return;
 498 #endif
 499     if( b_trust )
 500     {
 501         p_sys->i_previous_channels = p_sys->p_context->channels;
 502 #if defined(LIBAVCODEC_AUDIO_LAYOUT)
 503         p_sys->i_previous_layout = p_sys->p_context->channel_layout;
 504 #endif
 505     }
 506
 507     /* Specified order
 508      * FIXME should we use fmt_in.audio.i_physical_channels or not ?
 509      */
 510 #if defined(LIBAVCODEC_AUDIO_LAYOUT)
 511     const unsigned i_order_max = 8 * sizeof(p_sys->p_context->channel_layout);
 512 #else
 513     const unsigned i_order_max = 64;
 514 #endif
 515     uint32_t pi_order_src[i_order_max];
 516     int i_channels_src = 0;
 517
 518 #if defined(LIBAVCODEC_AUDIO_LAYOUT)
 519     if( p_sys->p_context->channel_layout )
 520     {
 521         for( unsigned i = 0; i < sizeof(pi_channels_map)/sizeof(*pi_channels_map); i++ )
 522         {
 523             if( p_sys->p_context->channel_layout & pi_channels_map[i][0] )
 524                 pi_order_src[i_channels_src++] = pi_channels_map[i][1];
 525         }
 526     }
 527     else
 528 #endif
 529     {
 530         /* Create default order  */
 531         if( b_trust )
 532             msg_Warn( p_dec, "Physical channel configuration not set : guessing" );
 533         for( unsigned int i = 0; i < __MIN( i_order_max, (unsigned)p_sys->p_context->channels ); i++ )
 534         {
 535             if( i < sizeof(pi_channels_map)/sizeof(*pi_channels_map) )
 536                 pi_order_src[i_channels_src++] = pi_channels_map[i][1];
 537         }
 538     }
 539     if( i_channels_src != p_sys->p_context->channels && b_trust )
 540         msg_Err( p_dec, "Channel layout not understood" );
 541
 542     uint32_t i_layout_dst;
 543     int      i_channels_dst;
 544     p_sys->b_extract = aout_CheckChannelExtraction( p_sys->pi_extraction,
 545                                                     &i_layout_dst, &i_channels_dst,
 546                                                     NULL, pi_order_src, i_channels_src );
 547     if( i_channels_dst != i_channels_src && b_trust )
 548         msg_Warn( p_dec, "%d channels are dropped", i_channels_src - i_channels_dst );
 549
 550     p_dec->fmt_out.audio.i_physical_channels =
 551     p_dec->fmt_out.audio.i_original_channels = i_layout_dst;
 552     p_dec->fmt_out.audio.i_channels = i_channels_dst;
 553 }
 554