git.sesse.net Git - ffmpeg/blob - libavcodec/qpeg.c

   1 /*
   2  * QPEG codec
   3  * Copyright (c) 2004 Konstantin Shishkov
   4  *
   5  * This file is part of Libav.
   6  *
   7  * Libav is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * Libav is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with Libav; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 /**
  23  * @file
  24  * QPEG codec.
  25  */
  26
  27 #include "avcodec.h"
  28
  29 typedef struct QpegContext{
  30     AVCodecContext *avctx;
  31     AVFrame pic;
  32     uint8_t *refdata;
  33     uint32_t pal[256];
  34 } QpegContext;
  35
  36 static void qpeg_decode_intra(const uint8_t *src, uint8_t *dst, int size,
  37                             int stride, int width, int height)
  38 {
  39     int i;
  40     int code;
  41     int c0, c1;
  42     int run, copy;
  43     int filled = 0;
  44     int rows_to_go;
  45
  46     rows_to_go = height;
  47     height--;
  48     dst = dst + height * stride;
  49
  50     while((size > 0) && (rows_to_go > 0)) {
  51         code = *src++;
  52         size--;
  53         run = copy = 0;
  54         if(code == 0xFC) /* end-of-picture code */
  55             break;
  56         if(code >= 0xF8) { /* very long run */
  57             c0 = *src++;
  58             c1 = *src++;
  59             size -= 2;
  60             run = ((code & 0x7) << 16) + (c0 << 8) + c1 + 2;
  61         } else if (code >= 0xF0) { /* long run */
  62             c0 = *src++;
  63             size--;
  64             run = ((code & 0xF) << 8) + c0 + 2;
  65         } else if (code >= 0xE0) { /* short run */
  66             run = (code & 0x1F) + 2;
  67         } else if (code >= 0xC0) { /* very long copy */
  68             c0 = *src++;
  69             c1 = *src++;
  70             size -= 2;
  71             copy = ((code & 0x3F) << 16) + (c0 << 8) + c1 + 1;
  72         } else if (code >= 0x80) { /* long copy */
  73             c0 = *src++;
  74             size--;
  75             copy = ((code & 0x7F) << 8) + c0 + 1;
  76         } else { /* short copy */
  77             copy = code + 1;
  78         }
  79
  80         /* perform actual run or copy */
  81         if(run) {
  82             int p;
  83
  84             p = *src++;
  85             size--;
  86             for(i = 0; i < run; i++) {
  87                 dst[filled++] = p;
  88                 if (filled >= width) {
  89                     filled = 0;
  90                     dst -= stride;
  91                     rows_to_go--;
  92                     if(rows_to_go <= 0)
  93                         break;
  94                 }
  95             }
  96         } else {
  97             size -= copy;
  98             for(i = 0; i < copy; i++) {
  99                 dst[filled++] = *src++;
 100                 if (filled >= width) {
 101                     filled = 0;
 102                     dst -= stride;
 103                     rows_to_go--;
 104                     if(rows_to_go <= 0)
 105                         break;
 106                 }
 107             }
 108         }
 109     }
 110 }
 111
 112 static const int qpeg_table_h[16] =
 113  { 0x00, 0x20, 0x20, 0x20, 0x18, 0x10, 0x10, 0x20, 0x10, 0x08, 0x18, 0x08, 0x08, 0x18, 0x10, 0x04};
 114 static const int qpeg_table_w[16] =
 115  { 0x00, 0x20, 0x18, 0x08, 0x18, 0x10, 0x20, 0x10, 0x08, 0x10, 0x20, 0x20, 0x08, 0x10, 0x18, 0x04};
 116
 117 /* Decodes delta frames */
 118 static void qpeg_decode_inter(const uint8_t *src, uint8_t *dst, int size,
 119                             int stride, int width, int height,
 120                             int delta, const uint8_t *ctable, uint8_t *refdata)
 121 {
 122     int i, j;
 123     int code;
 124     int filled = 0;
 125     int orig_height;
 126
 127     /* copy prev frame */
 128     for(i = 0; i < height; i++)
 129         memcpy(refdata + (i * width), dst + (i * stride), width);
 130
 131     orig_height = height;
 132     height--;
 133     dst = dst + height * stride;
 134
 135     while((size > 0) && (height >= 0)) {
 136         code = *src++;
 137         size--;
 138
 139         if(delta) {
 140             /* motion compensation */
 141             while((code & 0xF0) == 0xF0) {
 142                 if(delta == 1) {
 143                     int me_idx;
 144                     int me_w, me_h, me_x, me_y;
 145                     uint8_t *me_plane;
 146                     int corr, val;
 147
 148                     /* get block size by index */
 149                     me_idx = code & 0xF;
 150                     me_w = qpeg_table_w[me_idx];
 151                     me_h = qpeg_table_h[me_idx];
 152
 153                     /* extract motion vector */
 154                     corr = *src++;
 155                     size--;
 156
 157                     val = corr >> 4;
 158                     if(val > 7)
 159                         val -= 16;
 160                     me_x = val;
 161
 162                     val = corr & 0xF;
 163                     if(val > 7)
 164                         val -= 16;
 165                     me_y = val;
 166
 167                     /* check motion vector */
 168                     if ((me_x + filled < 0) || (me_x + me_w + filled > width) ||
 169                        (height - me_y - me_h < 0) || (height - me_y > orig_height) ||
 170                        (filled + me_w > width) || (height - me_h < 0))
 171                         av_log(NULL, AV_LOG_ERROR, "Bogus motion vector (%i,%i), block size %ix%i at %i,%i\n",
 172                                me_x, me_y, me_w, me_h, filled, height);
 173                     else {
 174                         /* do motion compensation */
 175                         me_plane = refdata + (filled + me_x) + (height - me_y) * width;
 176                         for(j = 0; j < me_h; j++) {
 177                             for(i = 0; i < me_w; i++)
 178                                 dst[filled + i - (j * stride)] = me_plane[i - (j * width)];
 179                         }
 180                     }
 181                 }
 182                 code = *src++;
 183                 size--;
 184             }
 185         }
 186
 187         if(code == 0xE0) /* end-of-picture code */
 188             break;
 189         if(code > 0xE0) { /* run code: 0xE1..0xFF */
 190             int p;
 191
 192             code &= 0x1F;
 193             p = *src++;
 194             size--;
 195             for(i = 0; i <= code; i++) {
 196                 dst[filled++] = p;
 197                 if(filled >= width) {
 198                     filled = 0;
 199                     dst -= stride;
 200                     height--;
 201                 }
 202             }
 203         } else if(code >= 0xC0) { /* copy code: 0xC0..0xDF */
 204             code &= 0x1F;
 205
 206             for(i = 0; i <= code; i++) {
 207                 dst[filled++] = *src++;
 208                 if(filled >= width) {
 209                     filled = 0;
 210                     dst -= stride;
 211                     height--;
 212                 }
 213             }
 214             size -= code + 1;
 215         } else if(code >= 0x80) { /* skip code: 0x80..0xBF */
 216             int skip;
 217
 218             code &= 0x3F;
 219             /* codes 0x80 and 0x81 are actually escape codes,
 220                skip value minus constant is in the next byte */
 221             if(!code)
 222                 skip = (*src++) + 64;
 223             else if(code == 1)
 224                 skip = (*src++) + 320;
 225             else
 226                 skip = code;
 227             filled += skip;
 228             while( filled >= width) {
 229                 filled -= width;
 230                 dst -= stride;
 231                 height--;
 232                 if(height < 0)
 233                     break;
 234             }
 235         } else {
 236             /* zero code treated as one-pixel skip */
 237             if(code)
 238                 dst[filled++] = ctable[code & 0x7F];
 239             else
 240                 filled++;
 241             if(filled >= width) {
 242                 filled = 0;
 243                 dst -= stride;
 244                 height--;
 245             }
 246         }
 247     }
 248 }
 249
 250 static int decode_frame(AVCodecContext *avctx,
 251                         void *data, int *data_size,
 252                         AVPacket *avpkt)
 253 {
 254     const uint8_t *buf = avpkt->data;
 255     int buf_size = avpkt->size;
 256     QpegContext * const a = avctx->priv_data;
 257     AVFrame * const p= (AVFrame*)&a->pic;
 258     uint8_t* outdata;
 259     int delta;
 260     const uint8_t *pal = av_packet_get_side_data(avpkt, AV_PKT_DATA_PALETTE, NULL);
 261
 262     p->reference = 3;
 263     if (avctx->reget_buffer(avctx, p) < 0) {
 264         av_log(avctx, AV_LOG_ERROR, "reget_buffer() failed\n");
 265         return -1;
 266     }
 267     outdata = a->pic.data[0];
 268     if(buf[0x85] == 0x10) {
 269         qpeg_decode_intra(buf+0x86, outdata, buf_size - 0x86, a->pic.linesize[0], avctx->width, avctx->height);
 270     } else {
 271         delta = buf[0x85];
 272         qpeg_decode_inter(buf+0x86, outdata, buf_size - 0x86, a->pic.linesize[0], avctx->width, avctx->height, delta, buf + 4, a->refdata);
 273     }
 274
 275     /* make the palette available on the way out */
 276     if (pal) {
 277         a->pic.palette_has_changed = 1;
 278         memcpy(a->pal, pal, AVPALETTE_SIZE);
 279     }
 280     memcpy(a->pic.data[1], a->pal, AVPALETTE_SIZE);
 281
 282     *data_size = sizeof(AVFrame);
 283     *(AVFrame*)data = a->pic;
 284
 285     return buf_size;
 286 }
 287
 288 static av_cold int decode_init(AVCodecContext *avctx){
 289     QpegContext * const a = avctx->priv_data;
 290
 291     a->avctx = avctx;
 292     avctx->pix_fmt= PIX_FMT_PAL8;
 293     a->refdata = av_malloc(avctx->width * avctx->height);
 294
 295     return 0;
 296 }
 297
 298 static av_cold int decode_end(AVCodecContext *avctx){
 299     QpegContext * const a = avctx->priv_data;
 300     AVFrame * const p= (AVFrame*)&a->pic;
 301
 302     if(p->data[0])
 303         avctx->release_buffer(avctx, p);
 304
 305     av_free(a->refdata);
 306     return 0;
 307 }
 308
 309 AVCodec ff_qpeg_decoder = {
 310     .name           = "qpeg",
 311     .type           = AVMEDIA_TYPE_VIDEO,
 312     .id             = CODEC_ID_QPEG,
 313     .priv_data_size = sizeof(QpegContext),
 314     .init           = decode_init,
 315     .close          = decode_end,
 316     .decode         = decode_frame,
 317     .capabilities   = CODEC_CAP_DR1,
 318     .long_name = NULL_IF_CONFIG_SMALL("Q-team QPEG"),
 319 };