git.sesse.net Git - vlc/blob - modules/audio_filter/converter/fixed32tos16.c

   1 /*****************************************************************************
   2  * fixed32tos16.c : converter from fixed32 to signed 16 bits integer
   3  *****************************************************************************
   4  * Copyright (C) 2002 VideoLAN
   5  * $Id: fixed32tos16.c,v 1.8 2002/11/20 16:43:32 sam Exp $
   6  *
   7  * Authors: Jean-Paul Saman <jpsaman@wxs.nl>
   8  *
   9  * This program is free software; you can redistribute it and/or modify
  10  * it under the terms of the GNU General Public License as published by
  11  * the Free Software Foundation; either version 2 of the License, or
  12  * (at your option) any later version.
  13  *
  14  * This program is distributed in the hope that it will be useful,
  15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17  * GNU General Public License for more details.
  18  *
  19  * You should have received a copy of the GNU General Public License
  20  * along with this program; if not, write to the Free Software
  21  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA  02111, USA.
  22  *****************************************************************************/
  23
  24 /*****************************************************************************
  25  * Preamble
  26  *****************************************************************************/
  27 #include <stdlib.h>                                      /* malloc(), free() */
  28 #include <string.h>
  29
  30 #include <vlc/vlc.h>
  31 #include "audio_output.h"
  32 #include "aout_internal.h"
  33
  34 /*****************************************************************************
  35  * Local prototypes
  36  *****************************************************************************/
  37 static int  Create    ( vlc_object_t * );
  38
  39 static void DoWork    ( aout_instance_t *, aout_filter_t *, aout_buffer_t *,
  40                         aout_buffer_t * );
  41
  42 /*****************************************************************************
  43  * Module descriptor
  44  *****************************************************************************/
  45 vlc_module_begin();
  46     set_description( _("audio filter for fixed32->s16 conversion") );
  47     set_capability( "audio filter", 10 );
  48     set_callbacks( Create, NULL );
  49 vlc_module_end();
  50
  51 /*****************************************************************************
  52  * Create: allocate trivial mixer
  53  *****************************************************************************
  54  * This function allocates and initializes a Crop vout method.
  55  *****************************************************************************/
  56 static int Create( vlc_object_t *p_this )
  57 {
  58     aout_filter_t * p_filter = (aout_filter_t *)p_this;
  59
  60     if ( p_filter->input.i_format != VLC_FOURCC('f','i','3','2')
  61           || p_filter->output.i_format != AOUT_FMT_S16_NE )
  62     {
  63         return -1;
  64     }
  65
  66     if ( !AOUT_FMTS_SIMILAR( &p_filter->input, &p_filter->output ) )
  67     {
  68         return -1;
  69     }
  70
  71     p_filter->pf_do_work = DoWork;
  72     p_filter->b_in_place = 1;
  73
  74     return 0;
  75 }
  76
  77 /*****************************************************************************
  78  * support routines borrowed from mpg321 (file: mad.c), which is distributed
  79  * under GPL license
  80  *
  81  * mpg321 was written by Joe Drew <drew@debian.org>, and based upon 'plaympeg'
  82  * from the smpeg sources, which was written by various people from Loki Software
  83  * (http://www.lokigames.com).
  84  *
  85  * It also incorporates some source from mad, written by Robert Leslie
  86  *****************************************************************************/
  87
  88 /* The following two routines and data structure are from the ever-brilliant
  89      Rob Leslie.
  90 */
  91
  92 #define VLC_F_FRACBITS  28
  93
  94 # if VLC_F_FRACBITS == 28
  95 #  define VLC_F(x)              ((vlc_fixed_t) (x##L))
  96 # endif
  97
  98 # define VLC_F_ONE              VLC_F(0x10000000)
  99
 100 struct audio_dither {
 101     vlc_fixed_t error[3];
 102     vlc_fixed_t random;
 103 };
 104
 105 /********************************************************************
 106  * NAME:                prng()
 107  * DESCRIPTION: 32-bit pseudo-random number generator
 108  ********************************************************************/
 109 static inline unsigned long prng(unsigned long state)
 110 {
 111     return (state * 0x0019660dL + 0x3c6ef35fL) & 0xffffffffL;
 112 }
 113
 114 /********************************************************************
 115  * NAME:        mpg321_s24_to_s16_pcm()
 116  * DESCRIPTION: generic linear sample quantize and dither routine
 117  ********************************************************************/
 118 static inline s16 mpg321_s24_to_s16_pcm(unsigned int bits, vlc_fixed_t sample,
 119                                     struct audio_dither *dither)
 120 {
 121     unsigned int scalebits;
 122     vlc_fixed_t output, mask, random;
 123
 124     enum {
 125         MIN = -VLC_F_ONE,
 126         MAX = VLC_F_ONE - 1
 127     };
 128
 129     /* noise shape */
 130     sample += dither->error[0] - dither->error[1] + dither->error[2];
 131
 132     dither->error[2] = dither->error[1];
 133     dither->error[1] = dither->error[0] / 2;
 134
 135     /* bias */
 136     output = sample + (1L << (VLC_F_FRACBITS + 1 - bits - 1));
 137
 138     scalebits = VLC_F_FRACBITS + 1 - bits;
 139     mask = (1L << scalebits) - 1;
 140
 141     /* dither */
 142     random    = prng(dither->random);
 143     output += (random & mask) - (dither->random & mask);
 144
 145     dither->random = random;
 146
 147     /* clip */
 148     if (output > MAX) {
 149         output = MAX;
 150
 151         if (sample > MAX)
 152             sample = MAX;
 153     }
 154     else if (output < MIN) {
 155         output = MIN;
 156
 157         if (sample < MIN)
 158             sample = MIN;
 159     }
 160
 161     /* quantize */
 162     output &= ~mask;
 163
 164     /* error feedback */
 165     dither->error[0] = sample - output;
 166
 167     /* scale */
 168     return output >> scalebits;
 169 }
 170
 171 /*****************************************************************************
 172  * s24_to_s16_pcm: Scale a 24 bit pcm sample to a 16 bit pcm sample.
 173  *****************************************************************************/
 174 static inline s16 s24_to_s16_pcm(vlc_fixed_t sample)
 175 {
 176   /* round */
 177   sample += (1L << (VLC_F_FRACBITS - 16));
 178
 179   /* clip */
 180   if (sample >= VLC_F_ONE)
 181     sample = VLC_F_ONE - 1;
 182   else if (sample < -VLC_F_ONE)
 183     sample = -VLC_F_ONE;
 184
 185   /* quantize */
 186   return (sample >> (VLC_F_FRACBITS + 1 - 16));
 187 }
 188
 189 /*****************************************************************************
 190  * DoWork: convert a buffer
 191  *****************************************************************************/
 192 static void DoWork( aout_instance_t * p_aout, aout_filter_t * p_filter,
 193                     aout_buffer_t * p_in_buf, aout_buffer_t * p_out_buf )
 194 {
 195     int i;
 196     vlc_fixed_t * p_in = (vlc_fixed_t *)p_in_buf->p_buffer;
 197     s16 * p_out = (s16 *)p_out_buf->p_buffer;
 198     s16 sample;
 199 //    static struct audio_dither dither;
 200
 201     for ( i = p_in_buf->i_nb_samples
 202                * aout_FormatNbChannels( &p_filter->input ) ; i-- ; )
 203     {
 204         /* Accurate scaling */
 205 //        p_out = mpg321_s24_to_s16_pcm(16, *p_in++, &dither);
 206         /* Fast Scaling */
 207         sample = s24_to_s16_pcm(*p_in++);
 208
 209 #ifndef WORDS_BIGENDIAN
 210         *p_out++ = (s16) (sample >> 0);
 211         *p_out++ = (s16) (sample >> 8);
 212 #else
 213         *p_out++ = (s16) (sample >> 8);
 214         *p_out++ = (s16) (sample >> 0);
 215 #endif
 216 //        p_in++; p_out++;
 217     }
 218     p_out_buf->i_nb_samples = p_in_buf->i_nb_samples;
 219     p_out_buf->i_nb_bytes = p_in_buf->i_nb_bytes / 2;
 220 }