git.sesse.net Git - ffmpeg/blob - libavcodec/targa.c

   1 /*
   2  * Targa (.tga) image decoder
   3  * Copyright (c) 2006 Konstantin Shishkov
   4  *
   5  * This file is part of Libav.
   6  *
   7  * Libav is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * Libav is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with Libav; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "libavutil/intreadwrite.h"
  23 #include "libavutil/imgutils.h"
  24 #include "avcodec.h"
  25 #include "bytestream.h"
  26 #include "targa.h"
  27
  28 typedef struct TargaContext {
  29     AVFrame picture;
  30     GetByteContext gb;
  31
  32     int color_type;
  33     int compression_type;
  34 } TargaContext;
  35
  36 static int targa_decode_rle(AVCodecContext *avctx, TargaContext *s,
  37                             uint8_t *dst, int w, int h, int stride, int bpp)
  38 {
  39     int x, y;
  40     int depth = (bpp + 1) >> 3;
  41     int type, count;
  42     int diff;
  43
  44     diff = stride - w * depth;
  45     x = y = 0;
  46     while (y < h) {
  47         if (bytestream2_get_bytes_left(&s->gb) <= 0) {
  48             av_log(avctx, AV_LOG_ERROR,
  49                    "Ran ouf of data before end-of-image\n");
  50             return AVERROR_INVALIDDATA;
  51         }
  52         type  = bytestream2_get_byteu(&s->gb);
  53         count = (type & 0x7F) + 1;
  54         type &= 0x80;
  55         if (x + count > w && x + count + 1 > (h - y) * w) {
  56             av_log(avctx, AV_LOG_ERROR,
  57                    "Packet went out of bounds: position (%i,%i) size %i\n",
  58                    x, y, count);
  59             return AVERROR_INVALIDDATA;
  60         }
  61         if (!type) {
  62             do {
  63                 int n  = FFMIN(count, w - x);
  64                 bytestream2_get_buffer(&s->gb, dst, n * depth);
  65                 count -= n;
  66                 dst   += n * depth;
  67                 x     += n;
  68                 if (x == w) {
  69                     x    = 0;
  70                     y++;
  71                     dst += diff;
  72                 }
  73             } while (count > 0);
  74         } else {
  75             uint8_t tmp[4];
  76             bytestream2_get_buffer(&s->gb, tmp, depth);
  77             do {
  78                 int n  = FFMIN(count, w - x);
  79                 count -= n;
  80                 x     += n;
  81                 do {
  82                     memcpy(dst, tmp, depth);
  83                     dst += depth;
  84                 } while (--n);
  85                 if (x == w) {
  86                     x    = 0;
  87                     y++;
  88                     dst += diff;
  89                 }
  90             } while (count > 0);
  91         }
  92     }
  93     return 0;
  94 }
  95
  96 static int decode_frame(AVCodecContext *avctx,
  97                         void *data, int *data_size,
  98                         AVPacket *avpkt)
  99 {
 100     TargaContext * const s = avctx->priv_data;
 101     AVFrame *picture = data;
 102     AVFrame * const p = &s->picture;
 103     uint8_t *dst;
 104     int stride;
 105     int idlen, compr, y, w, h, bpp, flags;
 106     int first_clr, colors, csize;
 107
 108     bytestream2_init(&s->gb, avpkt->data, avpkt->size);
 109
 110     /* parse image header */
 111     idlen     = bytestream2_get_byte(&s->gb);
 112     bytestream2_skip(&s->gb, 1); /* pal */
 113     compr     = bytestream2_get_byte(&s->gb);
 114     first_clr = bytestream2_get_le16(&s->gb);
 115     colors    = bytestream2_get_le16(&s->gb);
 116     csize     = bytestream2_get_byte(&s->gb);
 117     bytestream2_skip(&s->gb, 4); /* 2: x, 2: y */
 118     w         = bytestream2_get_le16(&s->gb);
 119     h         = bytestream2_get_le16(&s->gb);
 120     bpp       = bytestream2_get_byte(&s->gb);
 121     flags     = bytestream2_get_byte(&s->gb);
 122     // skip identifier if any
 123     bytestream2_skip(&s->gb, idlen);
 124
 125     switch(bpp){
 126     case 8:
 127         avctx->pix_fmt = ((compr & (~TGA_RLE)) == TGA_BW) ? PIX_FMT_GRAY8 : PIX_FMT_PAL8;
 128         break;
 129     case 15:
 130         avctx->pix_fmt = PIX_FMT_RGB555LE;
 131         break;
 132     case 16:
 133         avctx->pix_fmt = PIX_FMT_RGB555LE;
 134         break;
 135     case 24:
 136         avctx->pix_fmt = PIX_FMT_BGR24;
 137         break;
 138     case 32:
 139         avctx->pix_fmt = PIX_FMT_BGRA;
 140         break;
 141     default:
 142         av_log(avctx, AV_LOG_ERROR, "Bit depth %i is not supported\n", bpp);
 143         return -1;
 144     }
 145
 146     if(s->picture.data[0])
 147         avctx->release_buffer(avctx, &s->picture);
 148
 149     if(av_image_check_size(w, h, 0, avctx))
 150         return -1;
 151     if(w != avctx->width || h != avctx->height)
 152         avcodec_set_dimensions(avctx, w, h);
 153     if(avctx->get_buffer(avctx, p) < 0){
 154         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
 155         return -1;
 156     }
 157     if(flags & 0x20){
 158         dst = p->data[0];
 159         stride = p->linesize[0];
 160     }else{ //image is upside-down
 161         dst = p->data[0] + p->linesize[0] * (h - 1);
 162         stride = -p->linesize[0];
 163     }
 164
 165     if(colors){
 166         int pal_size, pal_sample_size;
 167         if((colors + first_clr) > 256){
 168             av_log(avctx, AV_LOG_ERROR, "Incorrect palette: %i colors with offset %i\n", colors, first_clr);
 169             return -1;
 170         }
 171         switch (csize) {
 172         case 24: pal_sample_size = 3; break;
 173         case 16:
 174         case 15: pal_sample_size = 2; break;
 175         default:
 176             av_log(avctx, AV_LOG_ERROR, "Palette entry size %i bits is not supported\n", csize);
 177             return -1;
 178         }
 179         pal_size = colors * pal_sample_size;
 180         if(avctx->pix_fmt != PIX_FMT_PAL8)//should not occur but skip palette anyway
 181             bytestream2_skip(&s->gb, pal_size);
 182         else{
 183             int t;
 184             uint32_t *pal = ((uint32_t *)p->data[1]) + first_clr;
 185
 186             if (bytestream2_get_bytes_left(&s->gb) < pal_size) {
 187                 av_log(avctx, AV_LOG_ERROR,
 188                        "Not enough data to read palette\n");
 189                 return AVERROR_INVALIDDATA;
 190             }
 191             switch (pal_sample_size) {
 192             case 3:
 193                 /* RGB24 */
 194                 for (t = 0; t < colors; t++)
 195                     *pal++ = bytestream2_get_le24u(&s->gb);
 196                 break;
 197             case 2:
 198                 /* RGB555 */
 199                 for (t = 0; t < colors; t++) {
 200                     uint32_t v = bytestream2_get_le16u(&s->gb);
 201                     v = ((v & 0x7C00) <<  9) |
 202                         ((v & 0x03E0) <<  6) |
 203                         ((v & 0x001F) <<  3);
 204                     /* left bit replication */
 205                     v |= (v & 0xE0E0E0U) >> 5;
 206                     *pal++ = v;
 207                 }
 208                 break;
 209             }
 210             p->palette_has_changed = 1;
 211         }
 212     }
 213     if ((compr & (~TGA_RLE)) == TGA_NODATA) {
 214         memset(p->data[0], 0, p->linesize[0] * h);
 215     } else {
 216         if(compr & TGA_RLE){
 217             int res = targa_decode_rle(avctx, s, dst, w, h, stride, bpp);
 218             if (res < 0)
 219                 return res;
 220         } else {
 221             size_t img_size = w * ((bpp + 1) >> 3);
 222             if (bytestream2_get_bytes_left(&s->gb) < img_size * h) {
 223                 av_log(avctx, AV_LOG_ERROR,
 224                        "Not enough data available for image\n");
 225                 return AVERROR_INVALIDDATA;
 226             }
 227             for (y = 0; y < h; y++) {
 228                 bytestream2_get_bufferu(&s->gb, dst, img_size);
 229                 dst += stride;
 230             }
 231         }
 232     }
 233
 234     *picture   = s->picture;
 235     *data_size = sizeof(AVPicture);
 236
 237     return avpkt->size;
 238 }
 239
 240 static av_cold int targa_init(AVCodecContext *avctx){
 241     TargaContext *s = avctx->priv_data;
 242
 243     avcodec_get_frame_defaults(&s->picture);
 244     avctx->coded_frame = &s->picture;
 245
 246     return 0;
 247 }
 248
 249 static av_cold int targa_end(AVCodecContext *avctx){
 250     TargaContext *s = avctx->priv_data;
 251
 252     if(s->picture.data[0])
 253         avctx->release_buffer(avctx, &s->picture);
 254
 255     return 0;
 256 }
 257
 258 AVCodec ff_targa_decoder = {
 259     .name           = "targa",
 260     .type           = AVMEDIA_TYPE_VIDEO,
 261     .id             = CODEC_ID_TARGA,
 262     .priv_data_size = sizeof(TargaContext),
 263     .init           = targa_init,
 264     .close          = targa_end,
 265     .decode         = decode_frame,
 266     .capabilities   = CODEC_CAP_DR1,
 267     .long_name      = NULL_IF_CONFIG_SMALL("Truevision Targa image"),
 268 };