git.sesse.net Git - ffmpeg/blob - libavcodec/bmvvideo.c

   1 /*
   2  * Discworld II BMV video decoder
   3  * Copyright (c) 2011 Konstantin Shishkov
   4  *
   5  * This file is part of Libav.
   6  *
   7  * Libav is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * Libav is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with Libav; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "libavutil/common.h"
  23
  24 #include "avcodec.h"
  25 #include "bytestream.h"
  26 #include "internal.h"
  27
  28 enum BMVFlags{
  29     BMV_NOP = 0,
  30     BMV_END,
  31     BMV_DELTA,
  32     BMV_INTRA,
  33
  34     BMV_SCROLL  = 0x04,
  35     BMV_PALETTE = 0x08,
  36     BMV_COMMAND = 0x10,
  37     BMV_AUDIO   = 0x20,
  38     BMV_EXT     = 0x40,
  39     BMV_PRINT   = 0x80
  40 };
  41
  42 #define SCREEN_WIDE 640
  43 #define SCREEN_HIGH 429
  44
  45 typedef struct BMVDecContext {
  46     AVCodecContext *avctx;
  47
  48     uint8_t *frame, frame_base[SCREEN_WIDE * (SCREEN_HIGH + 1)];
  49     uint32_t pal[256];
  50     const uint8_t *stream;
  51 } BMVDecContext;
  52
  53 #define NEXT_BYTE(v) v = forward ? v + 1 : v - 1;
  54
  55 static int decode_bmv_frame(const uint8_t *source, int src_len, uint8_t *frame, int frame_off)
  56 {
  57     unsigned val, saved_val = 0;
  58     int tmplen = src_len;
  59     const uint8_t *src, *source_end = source + src_len;
  60     uint8_t *frame_end = frame + SCREEN_WIDE * SCREEN_HIGH;
  61     uint8_t *dst, *dst_end;
  62     int len, mask;
  63     int forward = (frame_off <= -SCREEN_WIDE) || (frame_off >= 0);
  64     int read_two_nibbles, flag;
  65     int advance_mode;
  66     int mode = 0;
  67     int i;
  68
  69     if (src_len <= 0)
  70         return AVERROR_INVALIDDATA;
  71
  72     if (forward) {
  73         src = source;
  74         dst = frame;
  75         dst_end = frame_end;
  76     } else {
  77         src = source + src_len - 1;
  78         dst = frame_end - 1;
  79         dst_end = frame - 1;
  80     }
  81     for (;;) {
  82         int shift = 0;
  83         flag = 0;
  84
  85         /* The mode/len decoding is a bit strange:
  86          * values are coded as variable-length codes with nibble units,
  87          * code end is signalled by two top bits in the nibble being nonzero.
  88          * And since data is bytepacked and we read two nibbles at a time,
  89          * we may get a nibble belonging to the next code.
  90          * Hence this convoluted loop.
  91          */
  92         if (!mode || (tmplen == 4)) {
  93             if (src < source || src >= source_end)
  94                 return AVERROR_INVALIDDATA;
  95             val = *src;
  96             read_two_nibbles = 1;
  97         } else {
  98             val = saved_val;
  99             read_two_nibbles = 0;
 100         }
 101         if (!(val & 0xC)) {
 102             for (;;) {
 103                 if (!read_two_nibbles) {
 104                     if (src < source || src >= source_end)
 105                         return AVERROR_INVALIDDATA;
 106                     shift += 2;
 107                     val |= *src << shift;
 108                     if (*src & 0xC)
 109                         break;
 110                 }
 111                 // two upper bits of the nibble is zero,
 112                 // so shift top nibble value down into their place
 113                 read_two_nibbles = 0;
 114                 shift += 2;
 115                 mask = (1 << shift) - 1;
 116                 val = ((val >> 2) & ~mask) | (val & mask);
 117                 NEXT_BYTE(src);
 118                 if ((val & (0xC << shift))) {
 119                     flag = 1;
 120                     break;
 121                 }
 122             }
 123         } else if (mode) {
 124             flag = tmplen != 4;
 125         }
 126         if (flag) {
 127             tmplen = 4;
 128         } else {
 129             saved_val = val >> (4 + shift);
 130             tmplen = 0;
 131             val &= (1 << (shift + 4)) - 1;
 132             NEXT_BYTE(src);
 133         }
 134         advance_mode = val & 1;
 135         len = (val >> 1) - 1;
 136         mode += 1 + advance_mode;
 137         if (mode >= 4)
 138             mode -= 3;
 139         if (len <= 0 || FFABS(dst_end - dst) < len)
 140             return AVERROR_INVALIDDATA;
 141         switch (mode) {
 142         case 1:
 143             if (forward) {
 144                 if (dst - frame + SCREEN_WIDE < frame_off ||
 145                         dst - frame + SCREEN_WIDE + frame_off < 0 ||
 146                         frame_end - dst < frame_off + len ||
 147                         frame_end - dst < len)
 148                     return AVERROR_INVALIDDATA;
 149                 for (i = 0; i < len; i++)
 150                     dst[i] = dst[frame_off + i];
 151                 dst += len;
 152             } else {
 153                 dst -= len;
 154                 if (dst - frame + SCREEN_WIDE < frame_off ||
 155                         dst - frame + SCREEN_WIDE + frame_off < 0 ||
 156                         frame_end - dst < frame_off + len ||
 157                         frame_end - dst < len)
 158                     return AVERROR_INVALIDDATA;
 159                 for (i = len - 1; i >= 0; i--)
 160                     dst[i] = dst[frame_off + i];
 161             }
 162             break;
 163         case 2:
 164             if (forward) {
 165                 if (source + src_len - src < len)
 166                     return AVERROR_INVALIDDATA;
 167                 memcpy(dst, src, len);
 168                 dst += len;
 169                 src += len;
 170             } else {
 171                 if (src - source < len)
 172                     return AVERROR_INVALIDDATA;
 173                 dst -= len;
 174                 src -= len;
 175                 memcpy(dst, src, len);
 176             }
 177             break;
 178         case 3:
 179             val = forward ? dst[-1] : dst[1];
 180             if (forward) {
 181                 memset(dst, val, len);
 182                 dst += len;
 183             } else {
 184                 dst -= len;
 185                 memset(dst, val, len);
 186             }
 187             break;
 188         default:
 189             break;
 190         }
 191         if (dst == dst_end)
 192             return 0;
 193     }
 194 }
 195
 196 static int decode_frame(AVCodecContext *avctx, void *data, int *got_frame,
 197                         AVPacket *pkt)
 198 {
 199     BMVDecContext * const c = avctx->priv_data;
 200     AVFrame *frame = data;
 201     int type, scr_off;
 202     int i, ret;
 203     uint8_t *srcptr, *outptr;
 204
 205     c->stream = pkt->data;
 206     type = bytestream_get_byte(&c->stream);
 207     if (type & BMV_AUDIO) {
 208         int blobs = bytestream_get_byte(&c->stream);
 209         if (pkt->size < blobs * 65 + 2) {
 210             av_log(avctx, AV_LOG_ERROR, "Audio data doesn't fit in frame\n");
 211             return AVERROR_INVALIDDATA;
 212         }
 213         c->stream += blobs * 65;
 214     }
 215     if (type & BMV_COMMAND) {
 216         int command_size = (type & BMV_PRINT) ? 8 : 10;
 217         if (c->stream - pkt->data + command_size > pkt->size) {
 218             av_log(avctx, AV_LOG_ERROR, "Command data doesn't fit in frame\n");
 219             return AVERROR_INVALIDDATA;
 220         }
 221         c->stream += command_size;
 222     }
 223     if (type & BMV_PALETTE) {
 224         if (c->stream - pkt->data > pkt->size - 768) {
 225             av_log(avctx, AV_LOG_ERROR, "Palette data doesn't fit in frame\n");
 226             return AVERROR_INVALIDDATA;
 227         }
 228         for (i = 0; i < 256; i++)
 229             c->pal[i] = bytestream_get_be24(&c->stream);
 230     }
 231     if (type & BMV_SCROLL) {
 232         if (c->stream - pkt->data > pkt->size - 2) {
 233             av_log(avctx, AV_LOG_ERROR, "Screen offset data doesn't fit in frame\n");
 234             return AVERROR_INVALIDDATA;
 235         }
 236         scr_off = (int16_t)bytestream_get_le16(&c->stream);
 237     } else if ((type & BMV_INTRA) == BMV_INTRA) {
 238         scr_off = -640;
 239     } else {
 240         scr_off = 0;
 241     }
 242
 243     if ((ret = ff_get_buffer(avctx, frame, 0)) < 0) {
 244         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
 245         return ret;
 246     }
 247
 248     if (decode_bmv_frame(c->stream, pkt->size - (c->stream - pkt->data), c->frame, scr_off)) {
 249         av_log(avctx, AV_LOG_ERROR, "Error decoding frame data\n");
 250         return AVERROR_INVALIDDATA;
 251     }
 252
 253     memcpy(frame->data[1], c->pal, AVPALETTE_SIZE);
 254     frame->palette_has_changed = type & BMV_PALETTE;
 255
 256     outptr = frame->data[0];
 257     srcptr = c->frame;
 258
 259     for (i = 0; i < avctx->height; i++) {
 260         memcpy(outptr, srcptr, avctx->width);
 261         srcptr += avctx->width;
 262         outptr += frame->linesize[0];
 263     }
 264
 265     *got_frame = 1;
 266
 267     /* always report that the buffer was completely consumed */
 268     return pkt->size;
 269 }
 270
 271 static av_cold int decode_init(AVCodecContext *avctx)
 272 {
 273     BMVDecContext * const c = avctx->priv_data;
 274
 275     c->avctx = avctx;
 276     avctx->pix_fmt = AV_PIX_FMT_PAL8;
 277
 278     c->frame = c->frame_base + 640;
 279
 280     return 0;
 281 }
 282
 283 AVCodec ff_bmv_video_decoder = {
 284     .name           = "bmv_video",
 285     .long_name      = NULL_IF_CONFIG_SMALL("Discworld II BMV video"),
 286     .type           = AVMEDIA_TYPE_VIDEO,
 287     .id             = AV_CODEC_ID_BMV_VIDEO,
 288     .priv_data_size = sizeof(BMVDecContext),
 289     .init           = decode_init,
 290     .decode         = decode_frame,
 291     .capabilities   = AV_CODEC_CAP_DR1,
 292 };