]> git.sesse.net Git - vlc/blob - modules/demux/wav.c
wav: fix integer underflow
[vlc] / modules / demux / wav.c
1 /*****************************************************************************
2  * wav.c : wav file input module for vlc
3  *****************************************************************************
4  * Copyright (C) 2001-2008 the VideoLAN team
5  * $Id$
6  *
7  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
22  *****************************************************************************/
23
24 /*****************************************************************************
25  * Preamble
26  *****************************************************************************/
27
28 #ifdef HAVE_CONFIG_H
29 # include "config.h"
30 #endif
31
32 #include <vlc_common.h>
33 #include <vlc_plugin.h>
34 #include <vlc_demux.h>
35 #include <vlc_aout.h>
36 #include <vlc_codecs.h>
37
38 /*****************************************************************************
39  * Module descriptor
40  *****************************************************************************/
41 static int  Open ( vlc_object_t * );
42 static void Close( vlc_object_t * );
43
44 vlc_module_begin();
45     set_description( N_("WAV demuxer") );
46     set_category( CAT_INPUT );
47     set_subcategory( SUBCAT_INPUT_DEMUX );
48     set_capability( "demux", 142 );
49     set_callbacks( Open, Close );
50 vlc_module_end();
51
52 /*****************************************************************************
53  * Local prototypes
54  *****************************************************************************/
55 static int Demux  ( demux_t * );
56 static int Control( demux_t *, int i_query, va_list args );
57
58 struct demux_sys_t
59 {
60     es_format_t     fmt;
61     es_out_id_t     *p_es;
62
63     int64_t         i_data_pos;
64     unsigned int    i_data_size;
65
66     unsigned int    i_frame_size;
67     int             i_frame_samples;
68
69     date_t          pts;
70
71     uint32_t i_channel_mask;
72     bool b_chan_reorder;              /* do we need channel reordering */
73     int pi_chan_table[AOUT_CHAN_MAX];
74 };
75
76 #define __EVEN( x ) (((x) + 1) & ~1)
77
78 static int ChunkFind( demux_t *, const char *, unsigned int * );
79
80 static void FrameInfo_IMA_ADPCM( demux_t *, unsigned int *, int * );
81 static void FrameInfo_MS_ADPCM ( demux_t *, unsigned int *, int * );
82 static void FrameInfo_PCM      ( demux_t *, unsigned int *, int * );
83
84 static const uint32_t pi_channels_src[] =
85     { WAVE_SPEAKER_FRONT_LEFT, WAVE_SPEAKER_FRONT_RIGHT,
86       WAVE_SPEAKER_FRONT_CENTER, WAVE_SPEAKER_LOW_FREQUENCY,
87       WAVE_SPEAKER_BACK_LEFT, WAVE_SPEAKER_BACK_RIGHT,
88       WAVE_SPEAKER_SIDE_LEFT, WAVE_SPEAKER_SIDE_RIGHT, 0 };
89 static const uint32_t pi_channels_in[] =
90     { AOUT_CHAN_LEFT, AOUT_CHAN_RIGHT,
91       AOUT_CHAN_CENTER, AOUT_CHAN_LFE,
92       AOUT_CHAN_REARLEFT, AOUT_CHAN_REARRIGHT,
93       AOUT_CHAN_MIDDLELEFT, AOUT_CHAN_MIDDLERIGHT, 0 };
94 static const uint32_t pi_channels_out[] =
95     { AOUT_CHAN_LEFT, AOUT_CHAN_RIGHT,
96       AOUT_CHAN_MIDDLELEFT, AOUT_CHAN_MIDDLERIGHT,
97       AOUT_CHAN_REARLEFT, AOUT_CHAN_REARRIGHT,
98       AOUT_CHAN_CENTER, AOUT_CHAN_LFE, 0 };
99
100 /*****************************************************************************
101  * Open: check file and initializes structures
102  *****************************************************************************/
103 static int Open( vlc_object_t * p_this )
104 {
105     demux_t     *p_demux = (demux_t*)p_this;
106     demux_sys_t *p_sys;
107
108     const uint8_t *p_peek;
109     uint32_t     i_size;
110     unsigned int i_extended;
111     const char        *psz_name;
112
113     WAVEFORMATEXTENSIBLE *p_wf_ext = NULL;
114     WAVEFORMATEX         *p_wf = NULL;
115
116     /* Is it a wav file ? */
117     if( stream_Peek( p_demux->s, &p_peek, 12 ) < 12 ) return VLC_EGENERIC;
118
119     if( memcmp( p_peek, "RIFF", 4 ) || memcmp( &p_peek[8], "WAVE", 4 ) )
120     {
121         return VLC_EGENERIC;
122     }
123
124     p_demux->pf_demux   = Demux;
125     p_demux->pf_control = Control;
126     p_demux->p_sys      = p_sys = malloc( sizeof( demux_sys_t ) );
127     if( p_sys == NULL )
128         return VLC_ENOMEM;
129
130     p_sys->p_es         = NULL;
131     p_sys->b_chan_reorder = 0;
132     p_sys->i_channel_mask = 0;
133
134     /* skip riff header */
135     stream_Read( p_demux->s, NULL, 12 );  /* cannot fail as peek succeed */
136
137     /* search fmt chunk */
138     if( ChunkFind( p_demux, "fmt ", &i_size ) )
139     {
140         msg_Err( p_demux, "cannot find 'fmt ' chunk" );
141         goto error;
142     }
143     i_size += 2;
144     if( i_size < sizeof( WAVEFORMATEX ) )
145     {
146         msg_Err( p_demux, "invalid 'fmt ' chunk" );
147         goto error;
148     }
149     stream_Read( p_demux->s, NULL, 8 );   /* Cannot fail */
150
151     /* load waveformatex */
152     p_wf_ext = malloc( i_size );
153     if( p_wf_ext == NULL )
154          goto error;
155
156     p_wf = (WAVEFORMATEX *)p_wf_ext;
157     p_wf->cbSize = 0;
158     i_size -= 2;
159     if( stream_Read( p_demux->s, p_wf, i_size ) != (int)i_size
160      || ( ( i_size & 1 ) && stream_Read( p_demux->s, NULL, 1 ) != 1 ) )
161     {
162         msg_Err( p_demux, "cannot load 'fmt ' chunk" );
163         goto error;
164     }
165
166     es_format_Init( &p_sys->fmt, AUDIO_ES, 0 );
167     wf_tag_to_fourcc( GetWLE( &p_wf->wFormatTag ), &p_sys->fmt.i_codec,
168                       &psz_name );
169     p_sys->fmt.audio.i_channels = GetWLE ( &p_wf->nChannels );
170     p_sys->fmt.audio.i_rate = GetDWLE( &p_wf->nSamplesPerSec );
171     p_sys->fmt.audio.i_blockalign = GetWLE( &p_wf->nBlockAlign );
172     p_sys->fmt.i_bitrate = GetDWLE( &p_wf->nAvgBytesPerSec ) * 8;
173     p_sys->fmt.audio.i_bitspersample = GetWLE( &p_wf->wBitsPerSample );
174     p_sys->fmt.i_extra = GetWLE( &p_wf->cbSize );
175     i_extended = 0;
176
177     /* Handle new WAVE_FORMAT_EXTENSIBLE wav files */
178     /* see the following link for more information:
179      * http://www.microsoft.com/whdc/device/audio/multichaud.mspx#EFAA */
180     if( GetWLE( &p_wf->wFormatTag ) == WAVE_FORMAT_EXTENSIBLE &&
181         i_size >= sizeof( WAVEFORMATEXTENSIBLE ) &&
182         ( p_sys->fmt.i_extra + sizeof( WAVEFORMATEX )
183             >= sizeof( WAVEFORMATEXTENSIBLE ) ) )
184     {
185         unsigned i, i_channel_mask;
186         GUID guid_subformat;
187
188         guid_subformat = p_wf_ext->SubFormat;
189         guid_subformat.Data1 = GetDWLE( &p_wf_ext->SubFormat.Data1 );
190         guid_subformat.Data2 = GetWLE( &p_wf_ext->SubFormat.Data2 );
191         guid_subformat.Data3 = GetWLE( &p_wf_ext->SubFormat.Data3 );
192
193         sf_tag_to_fourcc( &guid_subformat, &p_sys->fmt.i_codec, &psz_name );
194
195         i_extended = sizeof( WAVEFORMATEXTENSIBLE ) - sizeof( WAVEFORMATEX );
196         p_sys->fmt.i_extra -= i_extended;
197
198         i_channel_mask = GetDWLE( &p_wf_ext->dwChannelMask );
199         if( i_channel_mask )
200         {
201             for( i = 0; i < sizeof(pi_channels_src)/sizeof(uint32_t); i++ )
202             {
203                 if( i_channel_mask & pi_channels_src[i] )
204                     p_sys->i_channel_mask |= pi_channels_in[i];
205             }
206
207             if( p_sys->fmt.i_codec == VLC_FOURCC('a','r','a','w') ||
208                 p_sys->fmt.i_codec == VLC_FOURCC('p','c','m',' ') ||
209                 p_sys->fmt.i_codec == VLC_FOURCC('a','f','l','t') )
210
211             p_sys->b_chan_reorder =
212                 aout_CheckChannelReorder( pi_channels_in, pi_channels_out,
213                                           p_sys->i_channel_mask,
214                                           p_sys->fmt.audio.i_channels,
215                                           p_sys->pi_chan_table );
216
217             msg_Dbg( p_demux, "channel mask: %x, reordering: %i",
218                      p_sys->i_channel_mask, (int)p_sys->b_chan_reorder );
219         }
220         p_sys->fmt.audio.i_physical_channels =
221             p_sys->fmt.audio.i_original_channels =
222                 p_sys->i_channel_mask;
223     }
224
225     if( p_sys->fmt.i_extra > 0 )
226     {
227         p_sys->fmt.p_extra = malloc( p_sys->fmt.i_extra );
228         memcpy( p_sys->fmt.p_extra, ((uint8_t *)p_wf) + i_extended,
229                 p_sys->fmt.i_extra );
230     }
231
232     msg_Dbg( p_demux, "format: 0x%4.4x, fourcc: %4.4s, channels: %d, "
233              "freq: %u Hz, bitrate: %uKo/s, blockalign: %d, bits/samples: %d, "
234              "extra size: %d",
235              GetWLE( &p_wf->wFormatTag ), (char *)&p_sys->fmt.i_codec,
236              p_sys->fmt.audio.i_channels, p_sys->fmt.audio.i_rate,
237              p_sys->fmt.i_bitrate / 8 / 1024, p_sys->fmt.audio.i_blockalign,
238              p_sys->fmt.audio.i_bitspersample, p_sys->fmt.i_extra );
239
240     free( p_wf );
241     p_wf = NULL;
242
243     switch( p_sys->fmt.i_codec )
244     {
245     case VLC_FOURCC( 'a', 'r', 'a', 'w' ):
246     case VLC_FOURCC( 'a', 'f', 'l', 't' ):
247     case VLC_FOURCC( 'u', 'l', 'a', 'w' ):
248     case VLC_FOURCC( 'a', 'l', 'a', 'w' ):
249     case VLC_FOURCC( 'm', 'l', 'a', 'w' ):
250     case VLC_FOURCC( 'p', 'c', 'm', ' ' ):
251         FrameInfo_PCM( p_demux, &p_sys->i_frame_size,
252                        &p_sys->i_frame_samples );
253         break;
254     case VLC_FOURCC( 'm', 's', 0x00, 0x02 ):
255         FrameInfo_MS_ADPCM( p_demux, &p_sys->i_frame_size,
256                             &p_sys->i_frame_samples );
257         break;
258     case VLC_FOURCC( 'm', 's', 0x00, 0x11 ):
259         FrameInfo_IMA_ADPCM( p_demux, &p_sys->i_frame_size,
260                              &p_sys->i_frame_samples );
261         break;
262     case VLC_FOURCC( 'm', 's', 0x00, 0x61 ):
263     case VLC_FOURCC( 'm', 's', 0x00, 0x62 ):
264         /* FIXME not sure at all FIXME */
265         FrameInfo_MS_ADPCM( p_demux, &p_sys->i_frame_size,
266                             &p_sys->i_frame_samples );
267         break;
268     case VLC_FOURCC( 'm', 'p', 'g', 'a' ):
269     case VLC_FOURCC( 'a', '5', '2', ' ' ):
270         /* FIXME set end of area FIXME */
271         goto error;
272     default:
273         msg_Err( p_demux, "unsupported codec (%4.4s)",
274                  (char*)&p_sys->fmt.i_codec );
275         goto error;
276     }
277
278     msg_Dbg( p_demux, "found %s audio format", psz_name );
279
280     if( ChunkFind( p_demux, "data", &p_sys->i_data_size ) )
281     {
282         msg_Err( p_demux, "cannot find 'data' chunk" );
283         goto error;
284     }
285     stream_Read( p_demux->s, NULL, 8 );   /* Cannot fail */
286     p_sys->i_data_pos = stream_Tell( p_demux->s );
287
288     if( p_sys->fmt.i_bitrate <= 0 )
289     {
290         p_sys->fmt.i_bitrate = (mtime_t)p_sys->i_frame_size *
291             p_sys->fmt.audio.i_rate * 8 / p_sys->i_frame_samples;
292     }
293
294     p_sys->p_es = es_out_Add( p_demux->out, &p_sys->fmt );
295
296     date_Init( &p_sys->pts, p_sys->fmt.audio.i_rate, 1 );
297     date_Set( &p_sys->pts, 1 );
298
299     return VLC_SUCCESS;
300
301 error:
302     free( p_wf );
303     free( p_sys );
304     return VLC_EGENERIC;
305 }
306
307 /*****************************************************************************
308  * Demux: read packet and send them to decoders
309  *****************************************************************************
310  * Returns -1 in case of error, 0 in case of EOF, 1 otherwise
311  *****************************************************************************/
312 static int Demux( demux_t *p_demux )
313 {
314     demux_sys_t *p_sys = p_demux->p_sys;
315     int64_t     i_pos;
316     block_t     *p_block;
317
318     i_pos = stream_Tell( p_demux->s );
319
320     if( p_sys->i_data_size > 0 &&
321         i_pos >= p_sys->i_data_pos + p_sys->i_data_size )
322     {
323         /* EOF */
324         return 0;
325     }
326
327     if( ( p_block = stream_Block( p_demux->s, p_sys->i_frame_size ) ) == NULL )
328     {
329         msg_Warn( p_demux, "cannot read data" );
330         return 0;
331     }
332
333     p_block->i_dts = p_block->i_pts =
334         date_Increment( &p_sys->pts, p_sys->i_frame_samples );
335
336     /* set PCR */
337     es_out_Control( p_demux->out, ES_OUT_SET_PCR, p_block->i_pts );
338
339     /* Do the channel reordering */
340     if( p_sys->b_chan_reorder )
341         aout_ChannelReorder( p_block->p_buffer, p_block->i_buffer,
342                              p_sys->fmt.audio.i_channels,
343                              p_sys->pi_chan_table,
344                              p_sys->fmt.audio.i_bitspersample );
345
346     es_out_Send( p_demux->out, p_sys->p_es, p_block );
347
348     return 1;
349 }
350
351 /*****************************************************************************
352  * Close: frees unused data
353  *****************************************************************************/
354 static void Close ( vlc_object_t * p_this )
355 {
356     demux_t     *p_demux = (demux_t*)p_this;
357     demux_sys_t *p_sys  = p_demux->p_sys;
358
359     free( p_sys );
360 }
361
362 /*****************************************************************************
363  * Control:
364  *****************************************************************************/
365 static int Control( demux_t *p_demux, int i_query, va_list args )
366 {
367     demux_sys_t *p_sys  = p_demux->p_sys;
368     int64_t i_end = -1;
369
370     if( p_sys->i_data_size > 0 )
371     {
372         i_end = p_sys->i_data_pos + p_sys->i_data_size;
373     }
374
375     return demux_vaControlHelper( p_demux->s, p_sys->i_data_pos, i_end,
376                                    p_sys->fmt.i_bitrate,
377                                    p_sys->fmt.audio.i_blockalign,
378                                    i_query, args );
379 }
380
381 /*****************************************************************************
382  * Local functions
383  *****************************************************************************/
384 static int ChunkFind( demux_t *p_demux, const char *fcc, unsigned int *pi_size )
385 {
386     const uint8_t *p_peek;
387
388     for( ;; )
389     {
390         uint32_t i_size;
391
392         if( stream_Peek( p_demux->s, &p_peek, 8 ) < 8 )
393         {
394             msg_Err( p_demux, "cannot peek" );
395             return VLC_EGENERIC;
396         }
397
398         i_size = GetDWLE( p_peek + 4 );
399
400         msg_Dbg( p_demux, "chunk: fcc=`%4.4s` size=%"PRIu32, p_peek, i_size );
401
402         if( !memcmp( p_peek, fcc, 4 ) )
403         {
404             if( pi_size )
405             {
406                 *pi_size = i_size;
407             }
408             return VLC_SUCCESS;
409         }
410
411         /* Skip chunk */
412         if( stream_Read( p_demux->s, NULL, 8 ) != 8
413          || stream_Read( p_demux->s, NULL, i_size ) != i_size
414          || ((i_size & 1) && stream_Read( p_demux->s, NULL, 1 ) != 1 ))
415             return VLC_EGENERIC;
416     }
417 }
418
419 static void FrameInfo_PCM( demux_t *p_demux, unsigned int *pi_size,
420                            int *pi_samples )
421 {
422     demux_sys_t *p_sys = p_demux->p_sys;
423     int i_bytes, i_modulo;
424
425     /* read samples for 50ms of */
426     *pi_samples = __MAX( p_sys->fmt.audio.i_rate / 20, 1 );
427
428     i_bytes = *pi_samples * p_sys->fmt.audio.i_channels *
429         ( (p_sys->fmt.audio.i_bitspersample + 7) / 8 );
430
431     if( p_sys->fmt.audio.i_blockalign > 0 )
432     {
433         if( ( i_modulo = i_bytes % p_sys->fmt.audio.i_blockalign ) != 0 )
434         {
435             i_bytes += p_sys->fmt.audio.i_blockalign - i_modulo;
436         }
437     }
438
439     *pi_size = i_bytes;
440 }
441
442 static void FrameInfo_MS_ADPCM( demux_t *p_demux, unsigned int *pi_size,
443                                 int *pi_samples )
444 {
445     demux_sys_t *p_sys = p_demux->p_sys;
446
447     *pi_samples = 2 + 2 * ( p_sys->fmt.audio.i_blockalign -
448         7 * p_sys->fmt.audio.i_channels ) / p_sys->fmt.audio.i_channels;
449
450     *pi_size = p_sys->fmt.audio.i_blockalign;
451 }
452
453 static void FrameInfo_IMA_ADPCM( demux_t *p_demux, unsigned int *pi_size,
454                                  int *pi_samples )
455 {
456     demux_sys_t *p_sys = p_demux->p_sys;
457
458     *pi_samples = 2 * ( p_sys->fmt.audio.i_blockalign -
459         4 * p_sys->fmt.audio.i_channels ) / p_sys->fmt.audio.i_channels;
460
461     *pi_size = p_sys->fmt.audio.i_blockalign;
462 }