git.sesse.net Git - ffmpeg/blob - libavutil/softfloat.h

   1 /*
   2  * Copyright (c) 2006 Michael Niedermayer <michaelni@gmx.at>
   3  *
   4  * This file is part of FFmpeg.
   5  *
   6  * FFmpeg is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * FFmpeg is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with FFmpeg; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  19  *
  20  */
  21
  22 #define MIN_EXP -126
  23 #define MAX_EXP  126
  24 #define ONE_BITS 29
  25
  26 typedef struct SoftFloat{
  27     int32_t  exp;
  28     int32_t mant;
  29 }SoftFloat;
  30
  31 static SoftFloat av_normalize_sf(SoftFloat a){
  32     if(a.mant){
  33 #if 1
  34         while((a.mant + 0x20000000U)<0x40000000U){
  35             a.mant += a.mant;
  36             a.exp  -= 1;
  37         }
  38 #else
  39         int s=ONE_BITS + 1 - av_log2(a.mant ^ (a.mant<<1));
  40         a.exp   -= s;
  41         a.mant <<= s;
  42 #endif
  43         if(a.exp < MIN_EXP){
  44             a.exp = MIN_EXP;
  45             a.mant= 0;
  46         }
  47     }else{
  48         a.exp= MIN_EXP;
  49     }
  50     return a;
  51 }
  52
  53 static inline SoftFloat av_normalize1_sf(SoftFloat a){
  54 #if 1
  55     if(a.mant + 0x40000000 < 0){
  56         a.exp++;
  57         a.mant>>=1;
  58     }
  59     return a;
  60 #elif 1
  61     int t= a.mant + 0x40000000 < 0;
  62     return (SoftFloat){a.exp+t, a.mant>>t};
  63 #else
  64     int t= (a.mant + 0x40000000U)>>31;
  65     return (SoftFloat){a.exp+t, a.mant>>t};
  66 #endif
  67 }
  68
  69 /**
  70  *
  71  * @return will not be more denormalized then a+b, so if either input is
  72  *         normalized then the output wont be worse then the other input
  73  *         if both are normalized then the output will be normalized
  74  */
  75 static inline SoftFloat av_mul_sf(SoftFloat a, SoftFloat b){
  76     a.exp += b.exp;
  77     a.mant = (a.mant * (int64_t)b.mant) >> ONE_BITS;
  78     return av_normalize1_sf(a);
  79 }
  80
  81 /**
  82  *
  83  * b has to be normalized and not zero
  84  * @return will not be more denormalized then a
  85  */
  86 static SoftFloat av_div_sf(SoftFloat a, SoftFloat b){
  87     a.exp -= b.exp+1;
  88     a.mant = ((int64_t)a.mant<<(ONE_BITS+1)) / b.mant;
  89     return av_normalize1_sf(a);
  90 }
  91
  92 static inline int av_cmp_sf(SoftFloat a, SoftFloat b){
  93     int t= a.exp - b.exp;
  94     if(t<0) return (a.mant >> (-t)) -  b.mant      ;
  95     else    return  a.mant          - (b.mant >> t);
  96 }
  97
  98 static inline SoftFloat av_add_sf(SoftFloat a, SoftFloat b){
  99     int t= a.exp - b.exp;
 100     if(t<0) return av_normalize1_sf((SoftFloat){b.exp, b.mant + (a.mant >> (-t))});
 101     else    return av_normalize1_sf((SoftFloat){a.exp, a.mant + (b.mant >>   t )});
 102 }
 103
 104 static inline SoftFloat av_sub_sf(SoftFloat a, SoftFloat b){
 105     return av_add_sf(a, (SoftFloat){b.exp, -b.mant});
 106 }
 107
 108 //FIXME sqrt, log, exp, pow, sin, cos
 109
 110 static inline SoftFloat av_int2sf(int v, int frac_bits){
 111     return av_normalize_sf((SoftFloat){ONE_BITS-frac_bits, v});
 112 }
 113
 114 /**
 115  *
 116  * rounding is to -inf
 117  */
 118 static inline int av_sf2int(SoftFloat v, int frac_bits){
 119     v.exp += frac_bits - ONE_BITS;
 120     if(v.exp >= 0) return v.mant <<  v.exp ;
 121     else           return v.mant >>(-v.exp);
 122 }