git.sesse.net Git - ffmpeg/blob - libavcodec/h263.h

   1 /*
   2  * H263 internal header
   3  *
   4  * This file is part of Libav.
   5  *
   6  * Libav is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * Libav is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with Libav; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  19  */
  20 #ifndef AVCODEC_H263_H
  21 #define AVCODEC_H263_H
  22
  23 #include <stdint.h>
  24 #include "libavutil/rational.h"
  25 #include "get_bits.h"
  26 #include "mpegvideo.h"
  27 #include "rl.h"
  28
  29 #if !FF_API_ASPECT_EXTENDED
  30 #define FF_ASPECT_EXTENDED 15
  31 #endif
  32 #define INT_BIT (CHAR_BIT * sizeof(int))
  33
  34 // The defines below define the number of bits that are read at once for
  35 // reading vlc values. Changing these may improve speed and data cache needs
  36 // be aware though that decreasing them may need the number of stages that is
  37 // passed to get_vlc* to be increased.
  38 #define INTRA_MCBPC_VLC_BITS 6
  39 #define INTER_MCBPC_VLC_BITS 7
  40 #define CBPY_VLC_BITS 6
  41 #define TEX_VLC_BITS 9
  42
  43 #define H263_GOB_HEIGHT(h) ((h) <= 400 ? 1 : (h) <= 800 ? 2 : 4)
  44
  45 extern const AVRational ff_h263_pixel_aspect[16];
  46 extern const uint8_t ff_h263_cbpy_tab[16][2];
  47
  48 extern const uint8_t ff_cbpc_b_tab[4][2];
  49
  50 extern const uint8_t ff_mvtab[33][2];
  51
  52 extern const uint8_t ff_h263_intra_MCBPC_code[9];
  53 extern const uint8_t ff_h263_intra_MCBPC_bits[9];
  54
  55 extern const uint8_t ff_h263_inter_MCBPC_code[28];
  56 extern const uint8_t ff_h263_inter_MCBPC_bits[28];
  57 extern const uint8_t ff_h263_mbtype_b_tab[15][2];
  58
  59 extern VLC ff_h263_intra_MCBPC_vlc;
  60 extern VLC ff_h263_inter_MCBPC_vlc;
  61 extern VLC ff_h263_cbpy_vlc;
  62
  63 extern const uint16_t ff_inter_vlc[103][2];
  64 extern const int8_t ff_inter_level[102];
  65 extern const int8_t ff_inter_run[102];
  66
  67 extern RLTable ff_h263_rl_inter;
  68
  69 extern RLTable ff_rl_intra_aic;
  70
  71 extern const uint16_t ff_h263_format[8][2];
  72 extern const uint8_t ff_modified_quant_tab[2][32];
  73 extern uint16_t ff_mba_max[6];
  74 extern uint8_t ff_mba_length[7];
  75
  76 extern uint8_t ff_h263_static_rl_table_store[2][2][2*MAX_RUN + MAX_LEVEL + 3];
  77
  78 extern const enum AVPixelFormat ff_h263_hwaccel_pixfmt_list_420[];
  79
  80
  81 int ff_h263_decode_motion(MpegEncContext * s, int pred, int f_code);
  82 av_const int ff_h263_aspect_to_info(AVRational aspect);
  83 int ff_h263_decode_init(AVCodecContext *avctx);
  84 int ff_h263_decode_frame(AVCodecContext *avctx,
  85                              void *data, int *got_frame,
  86                              AVPacket *avpkt);
  87 int ff_h263_decode_end(AVCodecContext *avctx);
  88 void ff_h263_encode_mb(MpegEncContext *s,
  89                        int16_t block[6][64],
  90                        int motion_x, int motion_y);
  91 void ff_h263_encode_picture_header(MpegEncContext *s, int picture_number);
  92 void ff_h263_encode_gob_header(MpegEncContext * s, int mb_line);
  93 int16_t *ff_h263_pred_motion(MpegEncContext * s, int block, int dir,
  94                              int *px, int *py);
  95 void ff_h263_encode_init(MpegEncContext *s);
  96 void ff_h263_decode_init_vlc(void);
  97 int ff_h263_decode_picture_header(MpegEncContext *s);
  98 int ff_h263_decode_gob_header(MpegEncContext *s);
  99 void ff_h263_update_motion_val(MpegEncContext * s);
 100 void ff_h263_loop_filter(MpegEncContext * s);
 101 int ff_h263_decode_mba(MpegEncContext *s);
 102 void ff_h263_encode_mba(MpegEncContext *s);
 103 void ff_init_qscale_tab(MpegEncContext *s);
 104 int ff_h263_pred_dc(MpegEncContext * s, int n, int16_t **dc_val_ptr);
 105 void ff_h263_pred_acdc(MpegEncContext * s, int16_t *block, int n);
 106
 107
 108 /**
 109  * Print picture info if FF_DEBUG_PICT_INFO is set.
 110  */
 111 void ff_h263_show_pict_info(MpegEncContext *s);
 112
 113 int ff_intel_h263_decode_picture_header(MpegEncContext *s);
 114 int ff_h263_decode_mb(MpegEncContext *s,
 115                       int16_t block[6][64]);
 116
 117 /**
 118  * Return the value of the 3bit "source format" syntax element.
 119  * This represents some standard picture dimensions or indicates that
 120  * width&height are explicitly stored later.
 121  */
 122 int av_const h263_get_picture_format(int width, int height);
 123
 124 void ff_clean_h263_qscales(MpegEncContext *s);
 125 int ff_h263_resync(MpegEncContext *s);
 126 const uint8_t *ff_h263_find_resync_marker(const uint8_t *p, const uint8_t *end);
 127 void ff_h263_encode_motion(MpegEncContext * s, int val, int f_code);
 128
 129
 130 static inline int h263_get_motion_length(MpegEncContext * s, int val, int f_code){
 131     int l, bit_size, code;
 132
 133     if (val == 0) {
 134         return ff_mvtab[0][1];
 135     } else {
 136         bit_size = f_code - 1;
 137         /* modulo encoding */
 138         l= INT_BIT - 6 - bit_size;
 139         val = (val<<l)>>l;
 140         val--;
 141         code = (val >> bit_size) + 1;
 142
 143         return ff_mvtab[code][1] + 1 + bit_size;
 144     }
 145 }
 146
 147 static inline void ff_h263_encode_motion_vector(MpegEncContext * s, int x, int y, int f_code){
 148     if (s->avctx->flags2 & CODEC_FLAG2_NO_OUTPUT) {
 149         skip_put_bits(&s->pb,
 150             h263_get_motion_length(s, x, f_code)
 151            +h263_get_motion_length(s, y, f_code));
 152     }else{
 153         ff_h263_encode_motion(s, x, f_code);
 154         ff_h263_encode_motion(s, y, f_code);
 155     }
 156 }
 157
 158 static inline int get_p_cbp(MpegEncContext * s,
 159                       int16_t block[6][64],
 160                       int motion_x, int motion_y){
 161     int cbp, i;
 162
 163     if (s->mpv_flags & FF_MPV_FLAG_CBP_RD) {
 164         int best_cbpy_score= INT_MAX;
 165         int best_cbpc_score= INT_MAX;
 166         int cbpc = (-1), cbpy= (-1);
 167         const int offset= (s->mv_type==MV_TYPE_16X16 ? 0 : 16) + (s->dquant ? 8 : 0);
 168         const int lambda= s->lambda2 >> (FF_LAMBDA_SHIFT - 6);
 169
 170         for(i=0; i<4; i++){
 171             int score= ff_h263_inter_MCBPC_bits[i + offset] * lambda;
 172             if(i&1) score += s->coded_score[5];
 173             if(i&2) score += s->coded_score[4];
 174
 175             if(score < best_cbpc_score){
 176                 best_cbpc_score= score;
 177                 cbpc= i;
 178             }
 179         }
 180
 181         for(i=0; i<16; i++){
 182             int score= ff_h263_cbpy_tab[i ^ 0xF][1] * lambda;
 183             if(i&1) score += s->coded_score[3];
 184             if(i&2) score += s->coded_score[2];
 185             if(i&4) score += s->coded_score[1];
 186             if(i&8) score += s->coded_score[0];
 187
 188             if(score < best_cbpy_score){
 189                 best_cbpy_score= score;
 190                 cbpy= i;
 191             }
 192         }
 193         cbp= cbpc + 4*cbpy;
 194         if ((motion_x | motion_y | s->dquant) == 0 && s->mv_type==MV_TYPE_16X16){
 195             if(best_cbpy_score + best_cbpc_score + 2*lambda >= 0)
 196                 cbp= 0;
 197         }
 198
 199         for (i = 0; i < 6; i++) {
 200             if (s->block_last_index[i] >= 0 && ((cbp >> (5 - i))&1)==0 ){
 201                 s->block_last_index[i]= -1;
 202                 s->bdsp.clear_block(s->block[i]);
 203             }
 204         }
 205     }else{
 206         cbp= 0;
 207         for (i = 0; i < 6; i++) {
 208             if (s->block_last_index[i] >= 0)
 209                 cbp |= 1 << (5 - i);
 210         }
 211     }
 212     return cbp;
 213 }
 214
 215 #endif /* AVCODEC_H263_H */