git.sesse.net Git - ffmpeg/blob - libavcodec/eatgq.c

   1 /*
   2  * Electronic Arts TGQ Video Decoder
   3  * Copyright (c) 2007-2008 Peter Ross <pross@xvid.org>
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
  20  */
  21
  22 /**
  23  * @file
  24  * Electronic Arts TGQ Video Decoder
  25  * @author Peter Ross <pross@xvid.org>
  26  *
  27  * Technical details here:
  28  * http://wiki.multimedia.cx/index.php?title=Electronic_Arts_TGQ
  29  */
  30
  31 #include "avcodec.h"
  32 #define BITSTREAM_READER_LE
  33 #include "get_bits.h"
  34 #include "bytestream.h"
  35 #include "dsputil.h"
  36 #include "aandcttab.h"
  37 #include "eaidct.h"
  38
  39 typedef struct TgqContext {
  40     AVCodecContext *avctx;
  41     AVFrame frame;
  42     int width,height;
  43     ScanTable scantable;
  44     int qtable[64];
  45     DECLARE_ALIGNED(16, DCTELEM, block)[6][64];
  46     GetByteContext gb;
  47 } TgqContext;
  48
  49 static av_cold int tgq_decode_init(AVCodecContext *avctx){
  50     TgqContext *s = avctx->priv_data;
  51     uint8_t idct_permutation[64];
  52     s->avctx = avctx;
  53     ff_init_scantable_permutation(idct_permutation, FF_NO_IDCT_PERM);
  54     ff_init_scantable(idct_permutation, &s->scantable, ff_zigzag_direct);
  55     avctx->time_base = (AVRational){1, 15};
  56     avctx->pix_fmt = AV_PIX_FMT_YUV420P;
  57     return 0;
  58 }
  59
  60 static void tgq_decode_block(TgqContext *s, DCTELEM block[64], GetBitContext *gb){
  61     uint8_t *perm = s->scantable.permutated;
  62     int i,j,value;
  63     block[0] = get_sbits(gb,8) * s->qtable[0];
  64     for(i=1; i<64; ) {
  65         switch(show_bits(gb,3)) {
  66         case 4:
  67             block[perm[i++]] = 0;
  68         case 0:
  69             block[perm[i++]] = 0;
  70             skip_bits(gb,3);
  71             break;
  72         case 5:
  73         case 1:
  74             skip_bits(gb,2);
  75             value = get_bits(gb,6);
  76             for(j=0; j<value; j++)
  77                 block[perm[i++]] = 0;
  78             break;
  79         case 6:
  80             skip_bits(gb,3);
  81             block[perm[i]] = -s->qtable[perm[i]];
  82             i++;
  83             break;
  84         case 2:
  85             skip_bits(gb,3);
  86             block[perm[i]] = s->qtable[perm[i]];
  87             i++;
  88             break;
  89         case 7: // 111b
  90         case 3: // 011b
  91             skip_bits(gb,2);
  92             if (show_bits(gb,6)==0x3F) {
  93                 skip_bits(gb, 6);
  94                 block[perm[i]] = get_sbits(gb,8)*s->qtable[perm[i]];
  95             }else{
  96                 block[perm[i]] = get_sbits(gb,6)*s->qtable[perm[i]];
  97             }
  98             i++;
  99             break;
 100         }
 101     }
 102     block[0] += 128<<4;
 103 }
 104
 105 static void tgq_idct_put_mb(TgqContext *s, DCTELEM (*block)[64], int mb_x, int mb_y){
 106     int linesize= s->frame.linesize[0];
 107     uint8_t *dest_y  = s->frame.data[0] + (mb_y * 16* linesize            ) + mb_x * 16;
 108     uint8_t *dest_cb = s->frame.data[1] + (mb_y * 8 * s->frame.linesize[1]) + mb_x * 8;
 109     uint8_t *dest_cr = s->frame.data[2] + (mb_y * 8 * s->frame.linesize[2]) + mb_x * 8;
 110
 111     ff_ea_idct_put_c(dest_y                 , linesize, block[0]);
 112     ff_ea_idct_put_c(dest_y              + 8, linesize, block[1]);
 113     ff_ea_idct_put_c(dest_y + 8*linesize    , linesize, block[2]);
 114     ff_ea_idct_put_c(dest_y + 8*linesize + 8, linesize, block[3]);
 115     if(!(s->avctx->flags&CODEC_FLAG_GRAY)){
 116          ff_ea_idct_put_c(dest_cb, s->frame.linesize[1], block[4]);
 117          ff_ea_idct_put_c(dest_cr, s->frame.linesize[2], block[5]);
 118     }
 119 }
 120
 121 static inline void tgq_dconly(TgqContext *s, unsigned char *dst, int dst_stride, int dc){
 122     int level = av_clip_uint8((dc*s->qtable[0] + 2056)>>4);
 123     int j;
 124     for(j=0;j<8;j++)
 125         memset(dst+j*dst_stride, level, 8);
 126 }
 127
 128 static void tgq_idct_put_mb_dconly(TgqContext *s, int mb_x, int mb_y, const int8_t *dc)
 129 {
 130     int linesize= s->frame.linesize[0];
 131     uint8_t *dest_y  = s->frame.data[0] + (mb_y * 16* linesize            ) + mb_x * 16;
 132     uint8_t *dest_cb = s->frame.data[1] + (mb_y * 8 * s->frame.linesize[1]) + mb_x * 8;
 133     uint8_t *dest_cr = s->frame.data[2] + (mb_y * 8 * s->frame.linesize[2]) + mb_x * 8;
 134     tgq_dconly(s,dest_y                 , linesize, dc[0]);
 135     tgq_dconly(s,dest_y              + 8, linesize, dc[1]);
 136     tgq_dconly(s,dest_y + 8*linesize    , linesize, dc[2]);
 137     tgq_dconly(s,dest_y + 8*linesize + 8, linesize, dc[3]);
 138     if(!(s->avctx->flags&CODEC_FLAG_GRAY)) {
 139         tgq_dconly(s,dest_cb, s->frame.linesize[1], dc[4]);
 140         tgq_dconly(s,dest_cr, s->frame.linesize[2], dc[5]);
 141     }
 142 }
 143
 144 /**
 145  * @return <0 on error
 146  */
 147 static int tgq_decode_mb(TgqContext *s, int mb_y, int mb_x){
 148     int mode;
 149     int i;
 150     int8_t dc[6];
 151
 152     mode = bytestream2_get_byte(&s->gb);
 153     if (mode>12) {
 154         GetBitContext gb;
 155         init_get_bits(&gb, s->gb.buffer, FFMIN(bytestream2_get_bytes_left(&s->gb), mode) * 8);
 156         for(i=0; i<6; i++)
 157             tgq_decode_block(s, s->block[i], &gb);
 158         tgq_idct_put_mb(s, s->block, mb_x, mb_y);
 159         bytestream2_skip(&s->gb, mode);
 160     }else{
 161         if (mode==3) {
 162             memset(dc, bytestream2_get_byte(&s->gb), 4);
 163             dc[4] = bytestream2_get_byte(&s->gb);
 164             dc[5] = bytestream2_get_byte(&s->gb);
 165         }else if (mode==6) {
 166             bytestream2_get_buffer(&s->gb, dc, 6);
 167         }else if (mode==12) {
 168             for (i = 0; i < 6; i++) {
 169                 dc[i] = bytestream2_get_byte(&s->gb);
 170                 bytestream2_skip(&s->gb, 1);
 171             }
 172         }else{
 173             av_log(s->avctx, AV_LOG_ERROR, "unsupported mb mode %i\n", mode);
 174             return -1;
 175         }
 176         tgq_idct_put_mb_dconly(s, mb_x, mb_y, dc);
 177     }
 178     return 0;
 179 }
 180
 181 static void tgq_calculate_qtable(TgqContext *s, int quant){
 182     int i,j;
 183     const int a = (14*(100-quant))/100 + 1;
 184     const int b = (11*(100-quant))/100 + 4;
 185     for(j=0;j<8;j++)
 186     for(i=0;i<8;i++)
 187         s->qtable[j*8+i] = ((a*(j+i)/(7+7) + b)*ff_inv_aanscales[j*8+i])>>(14-4);
 188 }
 189
 190 static int tgq_decode_frame(AVCodecContext *avctx,
 191                             void *data, int *data_size,
 192                             AVPacket *avpkt){
 193     const uint8_t *buf = avpkt->data;
 194     int buf_size = avpkt->size;
 195     TgqContext *s = avctx->priv_data;
 196     int x,y;
 197     int big_endian;
 198
 199     if (buf_size < 16) {
 200         av_log(avctx, AV_LOG_WARNING, "truncated header\n");
 201         return -1;
 202     }
 203     big_endian = AV_RL32(&buf[4]) > 0x000FFFFF;
 204     bytestream2_init(&s->gb, buf + 8, buf_size - 8);
 205     if (big_endian) {
 206         s->width  = bytestream2_get_be16u(&s->gb);
 207         s->height = bytestream2_get_be16u(&s->gb);
 208     } else {
 209         s->width  = bytestream2_get_le16u(&s->gb);
 210         s->height = bytestream2_get_le16u(&s->gb);
 211     }
 212
 213     if (s->avctx->width!=s->width || s->avctx->height!=s->height) {
 214         avcodec_set_dimensions(s->avctx, s->width, s->height);
 215         if (s->frame.data[0])
 216             avctx->release_buffer(avctx, &s->frame);
 217     }
 218     tgq_calculate_qtable(s, bytestream2_get_byteu(&s->gb));
 219     bytestream2_skip(&s->gb, 3);
 220
 221     if (!s->frame.data[0]) {
 222         s->frame.key_frame = 1;
 223         s->frame.pict_type = AV_PICTURE_TYPE_I;
 224         s->frame.buffer_hints = FF_BUFFER_HINTS_VALID;
 225         if (avctx->get_buffer(avctx, &s->frame)) {
 226             av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
 227             return -1;
 228         }
 229     }
 230
 231     for (y = 0; y < FFALIGN(avctx->height, 16) >> 4; y++)
 232         for (x = 0; x < FFALIGN(avctx->width, 16) >> 4; x++)
 233             if (tgq_decode_mb(s, y, x) < 0)
 234                 return AVERROR_INVALIDDATA;
 235
 236     *data_size = sizeof(AVFrame);
 237     *(AVFrame*)data = s->frame;
 238
 239     return avpkt->size;
 240 }
 241
 242 static av_cold int tgq_decode_end(AVCodecContext *avctx){
 243     TgqContext *s = avctx->priv_data;
 244     if (s->frame.data[0])
 245         s->avctx->release_buffer(avctx, &s->frame);
 246     return 0;
 247 }
 248
 249 AVCodec ff_eatgq_decoder = {
 250     .name           = "eatgq",
 251     .type           = AVMEDIA_TYPE_VIDEO,
 252     .id             = AV_CODEC_ID_TGQ,
 253     .priv_data_size = sizeof(TgqContext),
 254     .init           = tgq_decode_init,
 255     .close          = tgq_decode_end,
 256     .decode         = tgq_decode_frame,
 257     .capabilities   = CODEC_CAP_DR1,
 258     .long_name      = NULL_IF_CONFIG_SMALL("Electronic Arts TGQ video"),
 259 };