]> git.sesse.net Git - ffmpeg/blob - libavcodec/pcm.c
100l qprd fix 2nd try
[ffmpeg] / libavcodec / pcm.c
1 /*
2  * PCM codecs
3  * Copyright (c) 2001 Fabrice Bellard.
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file pcm.c
24  * PCM codecs
25  */
26
27 #include "avcodec.h"
28 #include "bitstream.h" // for ff_reverse
29
30 /* from g711.c by SUN microsystems (unrestricted use) */
31
32 #define         SIGN_BIT        (0x80)      /* Sign bit for a A-law byte. */
33 #define         QUANT_MASK      (0xf)       /* Quantization field mask. */
34 #define         NSEGS           (8)         /* Number of A-law segments. */
35 #define         SEG_SHIFT       (4)         /* Left shift for segment number. */
36 #define         SEG_MASK        (0x70)      /* Segment field mask. */
37
38 #define         BIAS            (0x84)      /* Bias for linear code. */
39
40 /*
41  * alaw2linear() - Convert an A-law value to 16-bit linear PCM
42  *
43  */
44 static int alaw2linear(unsigned char a_val)
45 {
46         int t;
47         int seg;
48
49         a_val ^= 0x55;
50
51         t = a_val & QUANT_MASK;
52         seg = ((unsigned)a_val & SEG_MASK) >> SEG_SHIFT;
53         if(seg) t= (t + t + 1 + 32) << (seg + 2);
54         else    t= (t + t + 1     ) << 3;
55
56         return ((a_val & SIGN_BIT) ? t : -t);
57 }
58
59 static int ulaw2linear(unsigned char u_val)
60 {
61         int t;
62
63         /* Complement to obtain normal u-law value. */
64         u_val = ~u_val;
65
66         /*
67          * Extract and bias the quantization bits. Then
68          * shift up by the segment number and subtract out the bias.
69          */
70         t = ((u_val & QUANT_MASK) << 3) + BIAS;
71         t <<= ((unsigned)u_val & SEG_MASK) >> SEG_SHIFT;
72
73         return ((u_val & SIGN_BIT) ? (BIAS - t) : (t - BIAS));
74 }
75
76 /* 16384 entries per table */
77 static uint8_t *linear_to_alaw = NULL;
78 static int linear_to_alaw_ref = 0;
79
80 static uint8_t *linear_to_ulaw = NULL;
81 static int linear_to_ulaw_ref = 0;
82
83 static void build_xlaw_table(uint8_t *linear_to_xlaw,
84                              int (*xlaw2linear)(unsigned char),
85                              int mask)
86 {
87     int i, j, v, v1, v2;
88
89     j = 0;
90     for(i=0;i<128;i++) {
91         if (i != 127) {
92             v1 = xlaw2linear(i ^ mask);
93             v2 = xlaw2linear((i + 1) ^ mask);
94             v = (v1 + v2 + 4) >> 3;
95         } else {
96             v = 8192;
97         }
98         for(;j<v;j++) {
99             linear_to_xlaw[8192 + j] = (i ^ mask);
100             if (j > 0)
101                 linear_to_xlaw[8192 - j] = (i ^ (mask ^ 0x80));
102         }
103     }
104     linear_to_xlaw[0] = linear_to_xlaw[1];
105 }
106
107 static int pcm_encode_init(AVCodecContext *avctx)
108 {
109     avctx->frame_size = 1;
110     switch(avctx->codec->id) {
111     case CODEC_ID_PCM_ALAW:
112         if (linear_to_alaw_ref == 0) {
113             linear_to_alaw = av_malloc(16384);
114             if (!linear_to_alaw)
115                 return -1;
116             build_xlaw_table(linear_to_alaw, alaw2linear, 0xd5);
117         }
118         linear_to_alaw_ref++;
119         break;
120     case CODEC_ID_PCM_MULAW:
121         if (linear_to_ulaw_ref == 0) {
122             linear_to_ulaw = av_malloc(16384);
123             if (!linear_to_ulaw)
124                 return -1;
125             build_xlaw_table(linear_to_ulaw, ulaw2linear, 0xff);
126         }
127         linear_to_ulaw_ref++;
128         break;
129     default:
130         break;
131     }
132
133     switch(avctx->codec->id) {
134     case CODEC_ID_PCM_S32LE:
135     case CODEC_ID_PCM_S32BE:
136     case CODEC_ID_PCM_U32LE:
137     case CODEC_ID_PCM_U32BE:
138         avctx->block_align = 4 * avctx->channels;
139         break;
140     case CODEC_ID_PCM_S24LE:
141     case CODEC_ID_PCM_S24BE:
142     case CODEC_ID_PCM_U24LE:
143     case CODEC_ID_PCM_U24BE:
144     case CODEC_ID_PCM_S24DAUD:
145         avctx->block_align = 3 * avctx->channels;
146         break;
147     case CODEC_ID_PCM_S16LE:
148     case CODEC_ID_PCM_S16BE:
149     case CODEC_ID_PCM_U16LE:
150     case CODEC_ID_PCM_U16BE:
151         avctx->block_align = 2 * avctx->channels;
152         break;
153     case CODEC_ID_PCM_S8:
154     case CODEC_ID_PCM_U8:
155     case CODEC_ID_PCM_MULAW:
156     case CODEC_ID_PCM_ALAW:
157         avctx->block_align = avctx->channels;
158         break;
159     default:
160         break;
161     }
162
163     avctx->coded_frame= avcodec_alloc_frame();
164     avctx->coded_frame->key_frame= 1;
165
166     return 0;
167 }
168
169 static int pcm_encode_close(AVCodecContext *avctx)
170 {
171     av_freep(&avctx->coded_frame);
172
173     switch(avctx->codec->id) {
174     case CODEC_ID_PCM_ALAW:
175         if (--linear_to_alaw_ref == 0)
176             av_free(linear_to_alaw);
177         break;
178     case CODEC_ID_PCM_MULAW:
179         if (--linear_to_ulaw_ref == 0)
180             av_free(linear_to_ulaw);
181         break;
182     default:
183         /* nothing to free */
184         break;
185     }
186     return 0;
187 }
188
189 /**
190  * \brief convert samples from 16 bit
191  * \param bps byte per sample for the destination format, must be >= 2
192  * \param le 0 for big-, 1 for little-endian
193  * \param us 0 for signed, 1 for unsigned output
194  * \param samples input samples
195  * \param dst output samples
196  * \param n number of samples in samples buffer.
197  */
198 static inline void encode_from16(int bps, int le, int us,
199                                short **samples, uint8_t **dst, int n) {
200     if (bps > 2)
201         memset(*dst, 0, n * bps);
202     if (le) *dst += bps - 2;
203     for(;n>0;n--) {
204         register int v = *(*samples)++;
205         if (us) v += 0x8000;
206         (*dst)[le] = v >> 8;
207         (*dst)[1 - le] = v;
208         *dst += bps;
209     }
210     if (le) *dst -= bps - 2;
211 }
212
213 static int pcm_encode_frame(AVCodecContext *avctx,
214                             unsigned char *frame, int buf_size, void *data)
215 {
216     int n, sample_size, v;
217     short *samples;
218     unsigned char *dst;
219
220     switch(avctx->codec->id) {
221     case CODEC_ID_PCM_S32LE:
222     case CODEC_ID_PCM_S32BE:
223     case CODEC_ID_PCM_U32LE:
224     case CODEC_ID_PCM_U32BE:
225         sample_size = 4;
226         break;
227     case CODEC_ID_PCM_S24LE:
228     case CODEC_ID_PCM_S24BE:
229     case CODEC_ID_PCM_U24LE:
230     case CODEC_ID_PCM_U24BE:
231     case CODEC_ID_PCM_S24DAUD:
232         sample_size = 3;
233         break;
234     case CODEC_ID_PCM_S16LE:
235     case CODEC_ID_PCM_S16BE:
236     case CODEC_ID_PCM_U16LE:
237     case CODEC_ID_PCM_U16BE:
238         sample_size = 2;
239         break;
240     default:
241         sample_size = 1;
242         break;
243     }
244     n = buf_size / sample_size;
245     samples = data;
246     dst = frame;
247
248     switch(avctx->codec->id) {
249     case CODEC_ID_PCM_S32LE:
250         encode_from16(4, 1, 0, &samples, &dst, n);
251         break;
252     case CODEC_ID_PCM_S32BE:
253         encode_from16(4, 0, 0, &samples, &dst, n);
254         break;
255     case CODEC_ID_PCM_U32LE:
256         encode_from16(4, 1, 1, &samples, &dst, n);
257         break;
258     case CODEC_ID_PCM_U32BE:
259         encode_from16(4, 0, 1, &samples, &dst, n);
260         break;
261     case CODEC_ID_PCM_S24LE:
262         encode_from16(3, 1, 0, &samples, &dst, n);
263         break;
264     case CODEC_ID_PCM_S24BE:
265         encode_from16(3, 0, 0, &samples, &dst, n);
266         break;
267     case CODEC_ID_PCM_U24LE:
268         encode_from16(3, 1, 1, &samples, &dst, n);
269         break;
270     case CODEC_ID_PCM_U24BE:
271         encode_from16(3, 0, 1, &samples, &dst, n);
272         break;
273     case CODEC_ID_PCM_S24DAUD:
274         for(;n>0;n--) {
275             uint32_t tmp = ff_reverse[*samples >> 8] +
276                            (ff_reverse[*samples & 0xff] << 8);
277             tmp <<= 4; // sync flags would go here
278             dst[2] = tmp & 0xff;
279             tmp >>= 8;
280             dst[1] = tmp & 0xff;
281             dst[0] = tmp >> 8;
282             samples++;
283             dst += 3;
284         }
285         break;
286     case CODEC_ID_PCM_S16LE:
287         for(;n>0;n--) {
288             v = *samples++;
289             dst[0] = v & 0xff;
290             dst[1] = v >> 8;
291             dst += 2;
292         }
293         break;
294     case CODEC_ID_PCM_S16BE:
295         for(;n>0;n--) {
296             v = *samples++;
297             dst[0] = v >> 8;
298             dst[1] = v;
299             dst += 2;
300         }
301         break;
302     case CODEC_ID_PCM_U16LE:
303         for(;n>0;n--) {
304             v = *samples++;
305             v += 0x8000;
306             dst[0] = v & 0xff;
307             dst[1] = v >> 8;
308             dst += 2;
309         }
310         break;
311     case CODEC_ID_PCM_U16BE:
312         for(;n>0;n--) {
313             v = *samples++;
314             v += 0x8000;
315             dst[0] = v >> 8;
316             dst[1] = v;
317             dst += 2;
318         }
319         break;
320     case CODEC_ID_PCM_S8:
321         for(;n>0;n--) {
322             v = *samples++;
323             dst[0] = v >> 8;
324             dst++;
325         }
326         break;
327     case CODEC_ID_PCM_U8:
328         for(;n>0;n--) {
329             v = *samples++;
330             dst[0] = (v >> 8) + 128;
331             dst++;
332         }
333         break;
334     case CODEC_ID_PCM_ALAW:
335         for(;n>0;n--) {
336             v = *samples++;
337             dst[0] = linear_to_alaw[(v + 32768) >> 2];
338             dst++;
339         }
340         break;
341     case CODEC_ID_PCM_MULAW:
342         for(;n>0;n--) {
343             v = *samples++;
344             dst[0] = linear_to_ulaw[(v + 32768) >> 2];
345             dst++;
346         }
347         break;
348     default:
349         return -1;
350     }
351     //avctx->frame_size = (dst - frame) / (sample_size * avctx->channels);
352
353     return dst - frame;
354 }
355
356 typedef struct PCMDecode {
357     short table[256];
358 } PCMDecode;
359
360 static int pcm_decode_init(AVCodecContext * avctx)
361 {
362     PCMDecode *s = avctx->priv_data;
363     int i;
364
365     switch(avctx->codec->id) {
366     case CODEC_ID_PCM_ALAW:
367         for(i=0;i<256;i++)
368             s->table[i] = alaw2linear(i);
369         break;
370     case CODEC_ID_PCM_MULAW:
371         for(i=0;i<256;i++)
372             s->table[i] = ulaw2linear(i);
373         break;
374     default:
375         break;
376     }
377     return 0;
378 }
379
380 /**
381  * \brief convert samples to 16 bit
382  * \param bps byte per sample for the source format, must be >= 2
383  * \param le 0 for big-, 1 for little-endian
384  * \param us 0 for signed, 1 for unsigned input
385  * \param src input samples
386  * \param samples output samples
387  * \param src_len number of bytes in src
388  */
389 static inline void decode_to16(int bps, int le, int us,
390                                uint8_t **src, short **samples, int src_len)
391 {
392     register int n = src_len / bps;
393     if (le) *src += bps - 2;
394     for(;n>0;n--) {
395         *(*samples)++ = ((*src)[le] << 8 | (*src)[1 - le]) - (us?0x8000:0);
396         *src += bps;
397     }
398     if (le) *src -= bps - 2;
399 }
400
401 static int pcm_decode_frame(AVCodecContext *avctx,
402                             void *data, int *data_size,
403                             uint8_t *buf, int buf_size)
404 {
405     PCMDecode *s = avctx->priv_data;
406     int n;
407     short *samples;
408     uint8_t *src;
409
410     samples = data;
411     src = buf;
412
413     if(buf_size > AVCODEC_MAX_AUDIO_FRAME_SIZE/2)
414         buf_size = AVCODEC_MAX_AUDIO_FRAME_SIZE/2;
415
416     switch(avctx->codec->id) {
417     case CODEC_ID_PCM_S32LE:
418         decode_to16(4, 1, 0, &src, &samples, buf_size);
419         break;
420     case CODEC_ID_PCM_S32BE:
421         decode_to16(4, 0, 0, &src, &samples, buf_size);
422         break;
423     case CODEC_ID_PCM_U32LE:
424         decode_to16(4, 1, 1, &src, &samples, buf_size);
425         break;
426     case CODEC_ID_PCM_U32BE:
427         decode_to16(4, 0, 1, &src, &samples, buf_size);
428         break;
429     case CODEC_ID_PCM_S24LE:
430         decode_to16(3, 1, 0, &src, &samples, buf_size);
431         break;
432     case CODEC_ID_PCM_S24BE:
433         decode_to16(3, 0, 0, &src, &samples, buf_size);
434         break;
435     case CODEC_ID_PCM_U24LE:
436         decode_to16(3, 1, 1, &src, &samples, buf_size);
437         break;
438     case CODEC_ID_PCM_U24BE:
439         decode_to16(3, 0, 1, &src, &samples, buf_size);
440         break;
441     case CODEC_ID_PCM_S24DAUD:
442         n = buf_size / 3;
443         for(;n>0;n--) {
444           uint32_t v = src[0] << 16 | src[1] << 8 | src[2];
445           v >>= 4; // sync flags are here
446           *samples++ = ff_reverse[(v >> 8) & 0xff] +
447                        (ff_reverse[v & 0xff] << 8);
448           src += 3;
449         }
450         break;
451     case CODEC_ID_PCM_S16LE:
452         n = buf_size >> 1;
453         for(;n>0;n--) {
454             *samples++ = src[0] | (src[1] << 8);
455             src += 2;
456         }
457         break;
458     case CODEC_ID_PCM_S16BE:
459         n = buf_size >> 1;
460         for(;n>0;n--) {
461             *samples++ = (src[0] << 8) | src[1];
462             src += 2;
463         }
464         break;
465     case CODEC_ID_PCM_U16LE:
466         n = buf_size >> 1;
467         for(;n>0;n--) {
468             *samples++ = (src[0] | (src[1] << 8)) - 0x8000;
469             src += 2;
470         }
471         break;
472     case CODEC_ID_PCM_U16BE:
473         n = buf_size >> 1;
474         for(;n>0;n--) {
475             *samples++ = ((src[0] << 8) | src[1]) - 0x8000;
476             src += 2;
477         }
478         break;
479     case CODEC_ID_PCM_S8:
480         n = buf_size;
481         for(;n>0;n--) {
482             *samples++ = src[0] << 8;
483             src++;
484         }
485         break;
486     case CODEC_ID_PCM_U8:
487         n = buf_size;
488         for(;n>0;n--) {
489             *samples++ = ((int)src[0] - 128) << 8;
490             src++;
491         }
492         break;
493     case CODEC_ID_PCM_ALAW:
494     case CODEC_ID_PCM_MULAW:
495         n = buf_size;
496         for(;n>0;n--) {
497             *samples++ = s->table[src[0]];
498             src++;
499         }
500         break;
501     default:
502         return -1;
503     }
504     *data_size = (uint8_t *)samples - (uint8_t *)data;
505     return src - buf;
506 }
507
508 #define PCM_CODEC(id, name)                     \
509 AVCodec name ## _encoder = {                    \
510     #name,                                      \
511     CODEC_TYPE_AUDIO,                           \
512     id,                                         \
513     0,                                          \
514     pcm_encode_init,                            \
515     pcm_encode_frame,                           \
516     pcm_encode_close,                           \
517     NULL,                                       \
518 };                                              \
519 AVCodec name ## _decoder = {                    \
520     #name,                                      \
521     CODEC_TYPE_AUDIO,                           \
522     id,                                         \
523     sizeof(PCMDecode),                          \
524     pcm_decode_init,                            \
525     NULL,                                       \
526     NULL,                                       \
527     pcm_decode_frame,                           \
528 }
529
530 PCM_CODEC(CODEC_ID_PCM_S32LE, pcm_s32le);
531 PCM_CODEC(CODEC_ID_PCM_S32BE, pcm_s32be);
532 PCM_CODEC(CODEC_ID_PCM_U32LE, pcm_u32le);
533 PCM_CODEC(CODEC_ID_PCM_U32BE, pcm_u32be);
534 PCM_CODEC(CODEC_ID_PCM_S24LE, pcm_s24le);
535 PCM_CODEC(CODEC_ID_PCM_S24BE, pcm_s24be);
536 PCM_CODEC(CODEC_ID_PCM_U24LE, pcm_u24le);
537 PCM_CODEC(CODEC_ID_PCM_U24BE, pcm_u24be);
538 PCM_CODEC(CODEC_ID_PCM_S24DAUD, pcm_s24daud);
539 PCM_CODEC(CODEC_ID_PCM_S16LE, pcm_s16le);
540 PCM_CODEC(CODEC_ID_PCM_S16BE, pcm_s16be);
541 PCM_CODEC(CODEC_ID_PCM_U16LE, pcm_u16le);
542 PCM_CODEC(CODEC_ID_PCM_U16BE, pcm_u16be);
543 PCM_CODEC(CODEC_ID_PCM_S8, pcm_s8);
544 PCM_CODEC(CODEC_ID_PCM_U8, pcm_u8);
545 PCM_CODEC(CODEC_ID_PCM_ALAW, pcm_alaw);
546 PCM_CODEC(CODEC_ID_PCM_MULAW, pcm_mulaw);
547
548 #undef PCM_CODEC