git.sesse.net Git - ffmpeg/blob - libavcodec/tiff.c

   1 /*
   2  * Copyright (c) 2006 Konstantin Shishkov
   3  *
   4  * This file is part of FFmpeg.
   5  *
   6  * FFmpeg is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * FFmpeg is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with FFmpeg; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  19  */
  20
  21 /**
  22  * @file
  23  * TIFF image decoder
  24  * @author Konstantin Shishkov
  25  */
  26
  27 #include "avcodec.h"
  28 #include "bytestream.h"
  29 #include "config.h"
  30 #if CONFIG_ZLIB
  31 #include <zlib.h>
  32 #endif
  33 #include "lzw.h"
  34 #include "tiff.h"
  35 #include "tiff_data.h"
  36 #include "faxcompr.h"
  37 #include "internal.h"
  38 #include "mathops.h"
  39 #include "libavutil/attributes.h"
  40 #include "libavutil/intreadwrite.h"
  41 #include "libavutil/imgutils.h"
  42 #include "libavutil/avstring.h"
  43
  44 typedef struct TiffContext {
  45     AVCodecContext *avctx;
  46     AVFrame picture;
  47     GetByteContext gb;
  48
  49     int width, height;
  50     unsigned int bpp, bppcount;
  51     uint32_t palette[256];
  52     int palette_is_set;
  53     int le;
  54     enum TiffCompr compr;
  55     int invert;
  56     int fax_opts;
  57     int predictor;
  58     int fill_order;
  59
  60     int strips, rps, sstype;
  61     int sot;
  62     int stripsizesoff, stripsize, stripoff, strippos;
  63     LZWState *lzw;
  64
  65     int geotag_count;
  66     TiffGeoTag *geotags;
  67 } TiffContext;
  68
  69 static unsigned tget_short(GetByteContext *gb, int le)
  70 {
  71     unsigned v = le ? bytestream2_get_le16(gb) : bytestream2_get_be16(gb);
  72     return v;
  73 }
  74
  75 static unsigned tget_long(GetByteContext *gb, int le)
  76 {
  77     unsigned v = le ? bytestream2_get_le32(gb) : bytestream2_get_be32(gb);
  78     return v;
  79 }
  80
  81 static double tget_double(GetByteContext *gb, int le)
  82 {
  83     av_alias64 i = { .u64 = le ? bytestream2_get_le64(gb) : bytestream2_get_be64(gb)};
  84     return i.f64;
  85 }
  86
  87 static unsigned tget(GetByteContext *gb, int type, int le)
  88 {
  89     switch (type) {
  90     case TIFF_BYTE : return bytestream2_get_byte(gb);
  91     case TIFF_SHORT: return tget_short(gb, le);
  92     case TIFF_LONG : return tget_long(gb, le);
  93     default        : return UINT_MAX;
  94     }
  95 }
  96
  97 static void free_geotags(TiffContext *const s)
  98 {
  99     int i;
 100     for (i = 0; i < s->geotag_count; i++) {
 101         if (s->geotags[i].val)
 102             av_freep(&s->geotags[i].val);
 103     }
 104     av_freep(&s->geotags);
 105 }
 106
 107 #define RET_GEOKEY(TYPE, array, element)\
 108     if (key >= TIFF_##TYPE##_KEY_ID_OFFSET &&\
 109         key - TIFF_##TYPE##_KEY_ID_OFFSET < FF_ARRAY_ELEMS(ff_tiff_##array##_name_type_map))\
 110         return ff_tiff_##array##_name_type_map[key - TIFF_##TYPE##_KEY_ID_OFFSET].element;
 111
 112 static const char *get_geokey_name(int key)
 113 {
 114     RET_GEOKEY(VERT, vert, name);
 115     RET_GEOKEY(PROJ, proj, name);
 116     RET_GEOKEY(GEOG, geog, name);
 117     RET_GEOKEY(CONF, conf, name);
 118
 119     return NULL;
 120 }
 121
 122 static int get_geokey_type(int key)
 123 {
 124     RET_GEOKEY(VERT, vert, type);
 125     RET_GEOKEY(PROJ, proj, type);
 126     RET_GEOKEY(GEOG, geog, type);
 127     RET_GEOKEY(CONF, conf, type);
 128
 129     return AVERROR_INVALIDDATA;
 130 }
 131
 132 static int cmp_id_key(const void *id, const void *k)
 133 {
 134     return *(const int*)id - ((const TiffGeoTagKeyName*)k)->key;
 135 }
 136
 137 static const char *search_keyval(const TiffGeoTagKeyName *keys, int n, int id)
 138 {
 139     return ((TiffGeoTagKeyName*)bsearch(&id, keys, n, sizeof(keys[0]), cmp_id_key))->name;
 140 }
 141
 142 static char *get_geokey_val(int key, int val)
 143 {
 144     char *ap;
 145
 146     if (val == TIFF_GEO_KEY_UNDEFINED)
 147         return av_strdup("undefined");
 148     if (val == TIFF_GEO_KEY_USER_DEFINED)
 149         return av_strdup("User-Defined");
 150
 151 #define RET_GEOKEY_VAL(TYPE, array)\
 152     if (val >= TIFF_##TYPE##_OFFSET &&\
 153         val - TIFF_##TYPE##_OFFSET < FF_ARRAY_ELEMS(ff_tiff_##array##_codes))\
 154         return av_strdup(ff_tiff_##array##_codes[val - TIFF_##TYPE##_OFFSET]);
 155
 156     switch (key) {
 157     case TIFF_GT_MODEL_TYPE_GEOKEY:
 158         RET_GEOKEY_VAL(GT_MODEL_TYPE, gt_model_type);
 159         break;
 160     case TIFF_GT_RASTER_TYPE_GEOKEY:
 161         RET_GEOKEY_VAL(GT_RASTER_TYPE, gt_raster_type);
 162         break;
 163     case TIFF_GEOG_LINEAR_UNITS_GEOKEY:
 164     case TIFF_PROJ_LINEAR_UNITS_GEOKEY:
 165     case TIFF_VERTICAL_UNITS_GEOKEY:
 166         RET_GEOKEY_VAL(LINEAR_UNIT, linear_unit);
 167         break;
 168     case TIFF_GEOG_ANGULAR_UNITS_GEOKEY:
 169     case TIFF_GEOG_AZIMUTH_UNITS_GEOKEY:
 170         RET_GEOKEY_VAL(ANGULAR_UNIT, angular_unit);
 171         break;
 172     case TIFF_GEOGRAPHIC_TYPE_GEOKEY:
 173         RET_GEOKEY_VAL(GCS_TYPE, gcs_type);
 174         RET_GEOKEY_VAL(GCSE_TYPE, gcse_type);
 175         break;
 176     case TIFF_GEOG_GEODETIC_DATUM_GEOKEY:
 177         RET_GEOKEY_VAL(GEODETIC_DATUM, geodetic_datum);
 178         RET_GEOKEY_VAL(GEODETIC_DATUM_E, geodetic_datum_e);
 179         break;
 180     case TIFF_GEOG_ELLIPSOID_GEOKEY:
 181         RET_GEOKEY_VAL(ELLIPSOID, ellipsoid);
 182         break;
 183     case TIFF_GEOG_PRIME_MERIDIAN_GEOKEY:
 184         RET_GEOKEY_VAL(PRIME_MERIDIAN, prime_meridian);
 185         break;
 186     case TIFF_PROJECTED_CS_TYPE_GEOKEY:
 187         return av_strdup(search_keyval(ff_tiff_proj_cs_type_codes, FF_ARRAY_ELEMS(ff_tiff_proj_cs_type_codes), val));
 188         break;
 189     case TIFF_PROJECTION_GEOKEY:
 190         return av_strdup(search_keyval(ff_tiff_projection_codes, FF_ARRAY_ELEMS(ff_tiff_projection_codes), val));
 191         break;
 192     case TIFF_PROJ_COORD_TRANS_GEOKEY:
 193         RET_GEOKEY_VAL(COORD_TRANS, coord_trans);
 194         break;
 195     case TIFF_VERTICAL_CS_TYPE_GEOKEY:
 196         RET_GEOKEY_VAL(VERT_CS, vert_cs);
 197         RET_GEOKEY_VAL(ORTHO_VERT_CS, ortho_vert_cs);
 198         break;
 199
 200     }
 201
 202     ap = av_malloc(14);
 203     if (ap)
 204         snprintf(ap, 14, "Unknown-%d", val);
 205     return ap;
 206 }
 207
 208 static char *doubles2str(double *dp, int count, const char *sep)
 209 {
 210     int i;
 211     char *ap, *ap0;
 212     int component_len;
 213     if (!sep) sep = ", ";
 214     component_len = 15 + strlen(sep);
 215     ap = av_malloc(component_len * count);
 216     if (!ap)
 217         return NULL;
 218     ap0   = ap;
 219     ap[0] = '\0';
 220     for (i = 0; i < count; i++) {
 221         unsigned l = snprintf(ap, component_len, "%f%s", dp[i], sep);
 222         if(l >= component_len) {
 223             av_free(ap0);
 224             return NULL;
 225         }
 226         ap += l;
 227     }
 228     ap0[strlen(ap0) - strlen(sep)] = '\0';
 229     return ap0;
 230 }
 231
 232 static char *shorts2str(int16_t *sp, int count, const char *sep)
 233 {
 234     int i;
 235     char *ap, *ap0;
 236     if (!sep) sep = ", ";
 237     ap = av_malloc((5 + strlen(sep)) * count);
 238     if (!ap)
 239         return NULL;
 240     ap0   = ap;
 241     ap[0] = '\0';
 242     for (i = 0; i < count; i++) {
 243         int l = snprintf(ap, 5 + strlen(sep), "%d%s", sp[i], sep);
 244         ap += l;
 245     }
 246     ap0[strlen(ap0) - strlen(sep)] = '\0';
 247     return ap0;
 248 }
 249
 250 static int add_doubles_metadata(int count,
 251                                 const char *name, const char *sep,
 252                                 TiffContext *s)
 253 {
 254     char *ap;
 255     int i;
 256     double *dp;
 257
 258     if (count >= INT_MAX / sizeof(int64_t) || count <= 0)
 259         return AVERROR_INVALIDDATA;
 260     if (bytestream2_get_bytes_left(&s->gb) < count * sizeof(int64_t))
 261         return AVERROR_INVALIDDATA;
 262
 263     dp = av_malloc(count * sizeof(double));
 264     if (!dp)
 265         return AVERROR(ENOMEM);
 266
 267     for (i = 0; i < count; i++)
 268         dp[i] = tget_double(&s->gb, s->le);
 269     ap = doubles2str(dp, count, sep);
 270     av_freep(&dp);
 271     if (!ap)
 272         return AVERROR(ENOMEM);
 273     av_dict_set(&s->picture.metadata, name, ap, AV_DICT_DONT_STRDUP_VAL);
 274     return 0;
 275 }
 276
 277 static int add_shorts_metadata(int count, const char *name,
 278                                const char *sep, TiffContext *s)
 279 {
 280     char *ap;
 281     int i;
 282     int16_t *sp;
 283
 284     if (count >= INT_MAX / sizeof(int16_t) || count <= 0)
 285         return AVERROR_INVALIDDATA;
 286     if (bytestream2_get_bytes_left(&s->gb) < count * sizeof(int16_t))
 287         return AVERROR_INVALIDDATA;
 288
 289     sp = av_malloc(count * sizeof(int16_t));
 290     if (!sp)
 291         return AVERROR(ENOMEM);
 292
 293     for (i = 0; i < count; i++)
 294         sp[i] = tget_short(&s->gb, s->le);
 295     ap = shorts2str(sp, count, sep);
 296     av_freep(&sp);
 297     if (!ap)
 298         return AVERROR(ENOMEM);
 299     av_dict_set(&s->picture.metadata, name, ap, AV_DICT_DONT_STRDUP_VAL);
 300     return 0;
 301 }
 302
 303 static int add_string_metadata(int count, const char *name,
 304                                TiffContext *s)
 305 {
 306     char *value;
 307
 308     if (bytestream2_get_bytes_left(&s->gb) < count)
 309         return AVERROR_INVALIDDATA;
 310
 311     value = av_malloc(count + 1);
 312     if (!value)
 313         return AVERROR(ENOMEM);
 314
 315     bytestream2_get_bufferu(&s->gb, value, count);
 316     value[count] = 0;
 317
 318     av_dict_set(&s->picture.metadata, name, value, AV_DICT_DONT_STRDUP_VAL);
 319     return 0;
 320 }
 321
 322 static int add_metadata(int count, int type,
 323                         const char *name, const char *sep, TiffContext *s)
 324 {
 325     switch(type) {
 326     case TIFF_DOUBLE: return add_doubles_metadata(count, name, sep, s);
 327     case TIFF_SHORT : return add_shorts_metadata(count, name, sep, s);
 328     case TIFF_STRING: return add_string_metadata(count, name, s);
 329     default         : return AVERROR_INVALIDDATA;
 330     };
 331 }
 332
 333 #if CONFIG_ZLIB
 334 static int tiff_uncompress(uint8_t *dst, unsigned long *len, const uint8_t *src,
 335                            int size)
 336 {
 337     z_stream zstream = { 0 };
 338     int zret;
 339
 340     zstream.next_in = (uint8_t *)src;
 341     zstream.avail_in = size;
 342     zstream.next_out = dst;
 343     zstream.avail_out = *len;
 344     zret = inflateInit(&zstream);
 345     if (zret != Z_OK) {
 346         av_log(NULL, AV_LOG_ERROR, "Inflate init error: %d\n", zret);
 347         return zret;
 348     }
 349     zret = inflate(&zstream, Z_SYNC_FLUSH);
 350     inflateEnd(&zstream);
 351     *len = zstream.total_out;
 352     return zret == Z_STREAM_END ? Z_OK : zret;
 353 }
 354 #endif
 355
 356 static void av_always_inline horizontal_fill(unsigned int bpp, uint8_t* dst,
 357                                              int usePtr, const uint8_t *src,
 358                                              uint8_t c, int width, int offset)
 359 {
 360     switch (bpp) {
 361     case 1:
 362         while (--width >= 0) {
 363             dst[(width+offset)*8+7] = (usePtr ? src[width] : c)      & 0x1;
 364             dst[(width+offset)*8+6] = (usePtr ? src[width] : c) >> 1 & 0x1;
 365             dst[(width+offset)*8+5] = (usePtr ? src[width] : c) >> 2 & 0x1;
 366             dst[(width+offset)*8+4] = (usePtr ? src[width] : c) >> 3 & 0x1;
 367             dst[(width+offset)*8+3] = (usePtr ? src[width] : c) >> 4 & 0x1;
 368             dst[(width+offset)*8+2] = (usePtr ? src[width] : c) >> 5 & 0x1;
 369             dst[(width+offset)*8+1] = (usePtr ? src[width] : c) >> 6 & 0x1;
 370             dst[(width+offset)*8+0] = (usePtr ? src[width] : c) >> 7;
 371         }
 372         break;
 373     case 2:
 374         while (--width >= 0) {
 375             dst[(width+offset)*4+3] = (usePtr ? src[width] : c) & 0x3;
 376             dst[(width+offset)*4+2] = (usePtr ? src[width] : c) >> 2 & 0x3;
 377             dst[(width+offset)*4+1] = (usePtr ? src[width] : c) >> 4 & 0x3;
 378             dst[(width+offset)*4+0] = (usePtr ? src[width] : c) >> 6;
 379         }
 380         break;
 381     case 4:
 382         while (--width >= 0) {
 383             dst[(width+offset)*2+1] = (usePtr ? src[width] : c) & 0xF;
 384             dst[(width+offset)*2+0] = (usePtr ? src[width] : c) >> 4;
 385         }
 386         break;
 387     default:
 388         if (usePtr) {
 389             memcpy(dst + offset, src, width);
 390         } else {
 391             memset(dst + offset, c, width);
 392         }
 393     }
 394 }
 395
 396 static int tiff_unpack_strip(TiffContext *s, uint8_t *dst, int stride,
 397                              const uint8_t *src, int size, int lines)
 398 {
 399     int c, line, pixels, code;
 400     const uint8_t *ssrc = src;
 401     int width = ((s->width * s->bpp) + 7) >> 3;
 402
 403     if (size <= 0)
 404         return AVERROR_INVALIDDATA;
 405
 406 #if CONFIG_ZLIB
 407     if (s->compr == TIFF_DEFLATE || s->compr == TIFF_ADOBE_DEFLATE) {
 408         uint8_t *zbuf;
 409         unsigned long outlen;
 410         int ret;
 411         outlen = width * lines;
 412         zbuf = av_malloc(outlen);
 413         if (!zbuf)
 414             return AVERROR(ENOMEM);
 415         ret = tiff_uncompress(zbuf, &outlen, src, size);
 416         if (ret != Z_OK) {
 417             av_log(s->avctx, AV_LOG_ERROR,
 418                    "Uncompressing failed (%lu of %lu) with error %d\n", outlen,
 419                    (unsigned long)width * lines, ret);
 420             av_free(zbuf);
 421             return -1;
 422         }
 423         src = zbuf;
 424         for (line = 0; line < lines; line++) {
 425             if(s->bpp < 8 && s->avctx->pix_fmt == AV_PIX_FMT_PAL8){
 426                 horizontal_fill(s->bpp, dst, 1, src, 0, width, 0);
 427             }else{
 428                 memcpy(dst, src, width);
 429             }
 430             dst += stride;
 431             src += width;
 432         }
 433         av_free(zbuf);
 434         return 0;
 435     }
 436 #endif
 437     if (s->compr == TIFF_LZW) {
 438         if (ff_lzw_decode_init(s->lzw, 8, src, size, FF_LZW_TIFF) < 0) {
 439             av_log(s->avctx, AV_LOG_ERROR, "Error initializing LZW decoder\n");
 440             return -1;
 441         }
 442     }
 443     if (s->compr == TIFF_CCITT_RLE || s->compr == TIFF_G3
 444         || s->compr == TIFF_G4) {
 445         int i, ret = 0;
 446         uint8_t *src2 = av_malloc((unsigned)size +
 447                                   FF_INPUT_BUFFER_PADDING_SIZE);
 448
 449         if (!src2) {
 450             av_log(s->avctx, AV_LOG_ERROR,
 451                    "Error allocating temporary buffer\n");
 452             return AVERROR(ENOMEM);
 453         }
 454         if (s->fax_opts & 2) {
 455             av_log(s->avctx, AV_LOG_ERROR,
 456                    "Uncompressed fax mode is not supported (yet)\n");
 457             av_free(src2);
 458             return -1;
 459         }
 460         if (!s->fill_order) {
 461             memcpy(src2, src, size);
 462         } else {
 463             for (i = 0; i < size; i++)
 464                 src2[i] = ff_reverse[src[i]];
 465         }
 466         memset(src2 + size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
 467         switch (s->compr) {
 468         case TIFF_CCITT_RLE:
 469         case TIFF_G3:
 470         case TIFF_G4:
 471             ret = ff_ccitt_unpack(s->avctx, src2, size, dst, lines, stride,
 472                                   s->compr, s->fax_opts);
 473             break;
 474         }
 475         if (s->bpp < 8 && s->avctx->pix_fmt == AV_PIX_FMT_PAL8)
 476             for (line = 0; line < lines; line++) {
 477                 horizontal_fill(s->bpp, dst, 1, dst, 0, width, 0);
 478                 dst += stride;
 479             }
 480         av_free(src2);
 481         return ret;
 482     }
 483     for (line = 0; line < lines; line++) {
 484         if (src - ssrc > size) {
 485             av_log(s->avctx, AV_LOG_ERROR, "Source data overread\n");
 486             return -1;
 487         }
 488         switch (s->compr) {
 489         case TIFF_RAW:
 490             if (ssrc + size - src < width)
 491                 return AVERROR_INVALIDDATA;
 492             if (!s->fill_order) {
 493                 horizontal_fill(s->bpp * (s->avctx->pix_fmt == AV_PIX_FMT_PAL8),
 494                                 dst, 1, src, 0, width, 0);
 495             } else {
 496                 int i;
 497                 for (i = 0; i < width; i++)
 498                     dst[i] = ff_reverse[src[i]];
 499             }
 500             src += width;
 501             break;
 502         case TIFF_PACKBITS:
 503             for (pixels = 0; pixels < width;) {
 504                 if (ssrc + size - src < 2) {
 505                     av_log(s->avctx, AV_LOG_ERROR, "Read went out of bounds\n");
 506                     return AVERROR_INVALIDDATA;
 507                 }
 508                 code = (int8_t) * src++;
 509                 if (code >= 0) {
 510                     code++;
 511                     if (pixels + code > width) {
 512                         av_log(s->avctx, AV_LOG_ERROR,
 513                                "Copy went out of bounds\n");
 514                         return -1;
 515                     }
 516                     if (ssrc + size - src < code) {
 517                         av_log(s->avctx, AV_LOG_ERROR, "Read went out of bounds\n");
 518                         return AVERROR_INVALIDDATA;
 519                     }
 520                     horizontal_fill(s->bpp * (s->avctx->pix_fmt == AV_PIX_FMT_PAL8),
 521                                     dst, 1, src, 0, code, pixels);
 522                     src += code;
 523                     pixels += code;
 524                 } else if (code != -128) { // -127..-1
 525                     code = (-code) + 1;
 526                     if (pixels + code > width) {
 527                         av_log(s->avctx, AV_LOG_ERROR,
 528                                "Run went out of bounds\n");
 529                         return -1;
 530                     }
 531                     c = *src++;
 532                     horizontal_fill(s->bpp * (s->avctx->pix_fmt == AV_PIX_FMT_PAL8),
 533                                     dst, 0, NULL, c, code, pixels);
 534                     pixels += code;
 535                 }
 536             }
 537             break;
 538         case TIFF_LZW:
 539             pixels = ff_lzw_decode(s->lzw, dst, width);
 540             if (pixels < width) {
 541                 av_log(s->avctx, AV_LOG_ERROR, "Decoded only %i bytes of %i\n",
 542                        pixels, width);
 543                 return -1;
 544             }
 545             if (s->bpp < 8 && s->avctx->pix_fmt == AV_PIX_FMT_PAL8)
 546                 horizontal_fill(s->bpp, dst, 1, dst, 0, width, 0);
 547             break;
 548         }
 549         dst += stride;
 550     }
 551     return 0;
 552 }
 553
 554 static int init_image(TiffContext *s)
 555 {
 556     int i, ret;
 557     uint32_t *pal;
 558
 559     switch (s->bpp * 10 + s->bppcount) {
 560     case 11:
 561         if (!s->palette_is_set) {
 562             s->avctx->pix_fmt = AV_PIX_FMT_MONOBLACK;
 563             break;
 564         }
 565     case 21:
 566     case 41:
 567     case 81:
 568         s->avctx->pix_fmt = AV_PIX_FMT_PAL8;
 569         break;
 570     case 243:
 571         s->avctx->pix_fmt = AV_PIX_FMT_RGB24;
 572         break;
 573     case 161:
 574         s->avctx->pix_fmt = s->le ? AV_PIX_FMT_GRAY16LE : AV_PIX_FMT_GRAY16BE;
 575         break;
 576     case 162:
 577         s->avctx->pix_fmt = AV_PIX_FMT_GRAY8A;
 578         break;
 579     case 324:
 580         s->avctx->pix_fmt = AV_PIX_FMT_RGBA;
 581         break;
 582     case 483:
 583         s->avctx->pix_fmt = s->le ? AV_PIX_FMT_RGB48LE : AV_PIX_FMT_RGB48BE;
 584         break;
 585     case 644:
 586         s->avctx->pix_fmt = s->le ? AV_PIX_FMT_RGBA64LE : AV_PIX_FMT_RGBA64BE;
 587         break;
 588     default:
 589         av_log(s->avctx, AV_LOG_ERROR,
 590                "This format is not supported (bpp=%d, bppcount=%d)\n",
 591                s->bpp, s->bppcount);
 592         return AVERROR_INVALIDDATA;
 593     }
 594     if (s->width != s->avctx->width || s->height != s->avctx->height) {
 595         if ((ret = av_image_check_size(s->width, s->height, 0, s->avctx)) < 0)
 596             return ret;
 597         avcodec_set_dimensions(s->avctx, s->width, s->height);
 598     }
 599     if (s->picture.data[0])
 600         s->avctx->release_buffer(s->avctx, &s->picture);
 601     if ((ret = ff_get_buffer(s->avctx, &s->picture)) < 0) {
 602         av_log(s->avctx, AV_LOG_ERROR, "get_buffer() failed\n");
 603         return ret;
 604     }
 605     if (s->avctx->pix_fmt == AV_PIX_FMT_PAL8) {
 606         if (s->palette_is_set) {
 607             memcpy(s->picture.data[1], s->palette, sizeof(s->palette));
 608         } else {
 609             /* make default grayscale pal */
 610             pal = (uint32_t *) s->picture.data[1];
 611             for (i = 0; i < 1<<s->bpp; i++)
 612                 pal[i] = 0xFFU << 24 | i * 255 / ((1<<s->bpp) - 1) * 0x010101;
 613         }
 614     }
 615     return 0;
 616 }
 617
 618 static int tiff_decode_tag(TiffContext *s)
 619 {
 620     unsigned tag, type, count, off, value = 0;
 621     int i, j, k, pos, start;
 622     int ret;
 623     uint32_t *pal;
 624     double *dp;
 625
 626     tag   = tget_short(&s->gb, s->le);
 627     type  = tget_short(&s->gb, s->le);
 628     count = tget_long(&s->gb, s->le);
 629     off   = tget_long(&s->gb, s->le);
 630     start = bytestream2_tell(&s->gb);
 631
 632     if (type == 0 || type >= FF_ARRAY_ELEMS(type_sizes)) {
 633         av_log(s->avctx, AV_LOG_DEBUG, "Unknown tiff type (%u) encountered\n",
 634                type);
 635         return 0;
 636     }
 637
 638     if (count == 1) {
 639         switch (type) {
 640         case TIFF_BYTE:
 641         case TIFF_SHORT:
 642             bytestream2_seek(&s->gb, -4, SEEK_CUR);
 643             value = tget(&s->gb, type, s->le);
 644             break;
 645         case TIFF_LONG:
 646             value = off;
 647             break;
 648         case TIFF_STRING:
 649             if (count <= 4) {
 650                 bytestream2_seek(&s->gb, -4, SEEK_CUR);
 651                 break;
 652             }
 653         default:
 654             value = UINT_MAX;
 655             bytestream2_seek(&s->gb, off, SEEK_SET);
 656         }
 657     } else {
 658         if (count <= 4 && type_sizes[type] * count <= 4) {
 659             bytestream2_seek(&s->gb, -4, SEEK_CUR);
 660         } else {
 661             bytestream2_seek(&s->gb, off, SEEK_SET);
 662         }
 663     }
 664
 665     switch (tag) {
 666     case TIFF_WIDTH:
 667         s->width = value;
 668         break;
 669     case TIFF_HEIGHT:
 670         s->height = value;
 671         break;
 672     case TIFF_BPP:
 673         s->bppcount = count;
 674         if (count > 4) {
 675             av_log(s->avctx, AV_LOG_ERROR,
 676                    "This format is not supported (bpp=%d, %d components)\n",
 677                    s->bpp, count);
 678             return -1;
 679         }
 680         if (count == 1)
 681             s->bpp = value;
 682         else {
 683             switch (type) {
 684             case TIFF_BYTE:
 685                 s->bpp = (off & 0xFF) + ((off >> 8) & 0xFF) +
 686                          ((off >> 16) & 0xFF) + ((off >> 24) & 0xFF);
 687                 break;
 688             case TIFF_SHORT:
 689             case TIFF_LONG:
 690                 s->bpp = 0;
 691                 if (bytestream2_get_bytes_left(&s->gb) < type_sizes[type] * count)
 692                     return -1;
 693                 for (i = 0; i < count; i++)
 694                     s->bpp += tget(&s->gb, type, s->le);
 695                 break;
 696             default:
 697                 s->bpp = -1;
 698             }
 699         }
 700         break;
 701     case TIFF_SAMPLES_PER_PIXEL:
 702         if (count != 1) {
 703             av_log(s->avctx, AV_LOG_ERROR,
 704                    "Samples per pixel requires a single value, many provided\n");
 705             return AVERROR_INVALIDDATA;
 706         }
 707         if (s->bppcount == 1)
 708             s->bpp *= value;
 709         s->bppcount = value;
 710         break;
 711     case TIFF_COMPR:
 712         s->compr = value;
 713         s->predictor = 0;
 714         switch (s->compr) {
 715         case TIFF_RAW:
 716         case TIFF_PACKBITS:
 717         case TIFF_LZW:
 718         case TIFF_CCITT_RLE:
 719             break;
 720         case TIFF_G3:
 721         case TIFF_G4:
 722             s->fax_opts = 0;
 723             break;
 724         case TIFF_DEFLATE:
 725         case TIFF_ADOBE_DEFLATE:
 726 #if CONFIG_ZLIB
 727             break;
 728 #else
 729             av_log(s->avctx, AV_LOG_ERROR, "Deflate: ZLib not compiled in\n");
 730             return -1;
 731 #endif
 732         case TIFF_JPEG:
 733         case TIFF_NEWJPEG:
 734             av_log(s->avctx, AV_LOG_ERROR,
 735                    "JPEG compression is not supported\n");
 736             return -1;
 737         default:
 738             av_log(s->avctx, AV_LOG_ERROR, "Unknown compression method %i\n",
 739                    s->compr);
 740             return -1;
 741         }
 742         break;
 743     case TIFF_ROWSPERSTRIP:
 744         if (type == TIFF_LONG && value == UINT_MAX)
 745             value = s->avctx->height;
 746         if (value < 1) {
 747             av_log(s->avctx, AV_LOG_ERROR,
 748                    "Incorrect value of rows per strip\n");
 749             return -1;
 750         }
 751         s->rps = value;
 752         break;
 753     case TIFF_STRIP_OFFS:
 754         if (count == 1) {
 755             s->strippos = 0;
 756             s->stripoff = value;
 757         } else
 758             s->strippos = off;
 759         s->strips = count;
 760         if (s->strips == 1)
 761             s->rps = s->height;
 762         s->sot = type;
 763         if (s->strippos > bytestream2_size(&s->gb)) {
 764             av_log(s->avctx, AV_LOG_ERROR,
 765                    "Tag referencing position outside the image\n");
 766             return -1;
 767         }
 768         break;
 769     case TIFF_STRIP_SIZE:
 770         if (count == 1) {
 771             s->stripsizesoff = 0;
 772             s->stripsize = value;
 773             s->strips = 1;
 774         } else {
 775             s->stripsizesoff = off;
 776         }
 777         s->strips = count;
 778         s->sstype = type;
 779         if (s->stripsizesoff > bytestream2_size(&s->gb)) {
 780             av_log(s->avctx, AV_LOG_ERROR,
 781                    "Tag referencing position outside the image\n");
 782             return -1;
 783         }
 784         break;
 785     case TIFF_TILE_BYTE_COUNTS:
 786     case TIFF_TILE_LENGTH:
 787     case TIFF_TILE_OFFSETS:
 788     case TIFF_TILE_WIDTH:
 789         av_log(s->avctx, AV_LOG_ERROR, "Tiled images are not supported\n");
 790         return AVERROR_PATCHWELCOME;
 791         break;
 792     case TIFF_PREDICTOR:
 793         s->predictor = value;
 794         break;
 795     case TIFF_INVERT:
 796         switch (value) {
 797         case 0:
 798             s->invert = 1;
 799             break;
 800         case 1:
 801             s->invert = 0;
 802             break;
 803         case 2:
 804         case 3:
 805             break;
 806         default:
 807             av_log(s->avctx, AV_LOG_ERROR, "Color mode %d is not supported\n",
 808                    value);
 809             return -1;
 810         }
 811         break;
 812     case TIFF_FILL_ORDER:
 813         if (value < 1 || value > 2) {
 814             av_log(s->avctx, AV_LOG_ERROR,
 815                    "Unknown FillOrder value %d, trying default one\n", value);
 816             value = 1;
 817         }
 818         s->fill_order = value - 1;
 819         break;
 820     case TIFF_PAL:
 821         pal = (uint32_t *) s->palette;
 822         off = type_sizes[type];
 823         if (count / 3 > 256 || bytestream2_get_bytes_left(&s->gb) < count / 3 * off * 3)
 824             return -1;
 825         off = (type_sizes[type] - 1) << 3;
 826         for (k = 2; k >= 0; k--) {
 827             for (i = 0; i < count / 3; i++) {
 828                 if (k == 2)
 829                     pal[i] = 0xFFU << 24;
 830                 j =  (tget(&s->gb, type, s->le) >> off) << (k * 8);
 831                 pal[i] |= j;
 832             }
 833         }
 834         s->palette_is_set = 1;
 835         break;
 836     case TIFF_PLANAR:
 837         if (value == 2) {
 838             av_log(s->avctx, AV_LOG_ERROR, "Planar format is not supported\n");
 839             return -1;
 840         }
 841         break;
 842     case TIFF_T4OPTIONS:
 843         if (s->compr == TIFF_G3)
 844             s->fax_opts = value;
 845         break;
 846     case TIFF_T6OPTIONS:
 847         if (s->compr == TIFF_G4)
 848             s->fax_opts = value;
 849         break;
 850 #define ADD_METADATA(count, name, sep)\
 851     if (ret = add_metadata(count, type, name, sep, s) < 0) {\
 852         av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");\
 853         return ret;\
 854     }
 855     case TIFF_MODEL_PIXEL_SCALE:
 856         ADD_METADATA(count, "ModelPixelScaleTag", NULL);
 857         break;
 858     case TIFF_MODEL_TRANSFORMATION:
 859         ADD_METADATA(count, "ModelTransformationTag", NULL);
 860         break;
 861     case TIFF_MODEL_TIEPOINT:
 862         ADD_METADATA(count, "ModelTiepointTag", NULL);
 863         break;
 864     case TIFF_GEO_KEY_DIRECTORY:
 865         ADD_METADATA(1, "GeoTIFF_Version", NULL);
 866         ADD_METADATA(2, "GeoTIFF_Key_Revision", ".");
 867         s->geotag_count   = tget_short(&s->gb, s->le);
 868         if (s->geotag_count > count / 4 - 1) {
 869             s->geotag_count = count / 4 - 1;
 870             av_log(s->avctx, AV_LOG_WARNING, "GeoTIFF key directory buffer shorter than specified\n");
 871         }
 872         if (bytestream2_get_bytes_left(&s->gb) < s->geotag_count * sizeof(int16_t) * 4)
 873             return -1;
 874         s->geotags = av_mallocz(sizeof(TiffGeoTag) * s->geotag_count);
 875         if (!s->geotags) {
 876             av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");
 877             return AVERROR(ENOMEM);
 878         }
 879         for (i = 0; i < s->geotag_count; i++) {
 880             s->geotags[i].key    = tget_short(&s->gb, s->le);
 881             s->geotags[i].type   = tget_short(&s->gb, s->le);
 882             s->geotags[i].count  = tget_short(&s->gb, s->le);
 883
 884             if (!s->geotags[i].type)
 885                 s->geotags[i].val  = get_geokey_val(s->geotags[i].key, tget_short(&s->gb, s->le));
 886             else
 887                 s->geotags[i].offset = tget_short(&s->gb, s->le);
 888         }
 889         break;
 890     case TIFF_GEO_DOUBLE_PARAMS:
 891         if (count >= INT_MAX / sizeof(int64_t))
 892             return AVERROR_INVALIDDATA;
 893         if (bytestream2_get_bytes_left(&s->gb) < count * sizeof(int64_t))
 894             return AVERROR_INVALIDDATA;
 895         dp = av_malloc(count * sizeof(double));
 896         if (!dp) {
 897             av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");
 898             return AVERROR(ENOMEM);
 899         }
 900         for (i = 0; i < count; i++)
 901             dp[i] = tget_double(&s->gb, s->le);
 902         for (i = 0; i < s->geotag_count; i++) {
 903             if (s->geotags[i].type == TIFF_GEO_DOUBLE_PARAMS) {
 904                 if (s->geotags[i].count == 0
 905                     || s->geotags[i].offset + s->geotags[i].count > count) {
 906                     av_log(s->avctx, AV_LOG_WARNING, "Invalid GeoTIFF key %d\n", s->geotags[i].key);
 907                 } else {
 908                     char *ap = doubles2str(&dp[s->geotags[i].offset], s->geotags[i].count, ", ");
 909                     if (!ap) {
 910                         av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");
 911                         av_freep(&dp);
 912                         return AVERROR(ENOMEM);
 913                     }
 914                     s->geotags[i].val = ap;
 915                 }
 916             }
 917         }
 918         av_freep(&dp);
 919         break;
 920     case TIFF_GEO_ASCII_PARAMS:
 921         pos = bytestream2_tell(&s->gb);
 922         for (i = 0; i < s->geotag_count; i++) {
 923             if (s->geotags[i].type == TIFF_GEO_ASCII_PARAMS) {
 924                 if (s->geotags[i].count == 0
 925                     || s->geotags[i].offset +  s->geotags[i].count > count) {
 926                     av_log(s->avctx, AV_LOG_WARNING, "Invalid GeoTIFF key %d\n", s->geotags[i].key);
 927                 } else {
 928                     char *ap;
 929
 930                     bytestream2_seek(&s->gb, pos + s->geotags[i].offset, SEEK_SET);
 931                     if (bytestream2_get_bytes_left(&s->gb) < s->geotags[i].count)
 932                         return -1;
 933                     ap = av_malloc(s->geotags[i].count);
 934                     if (!ap) {
 935                         av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");
 936                         return AVERROR(ENOMEM);
 937                     }
 938                     bytestream2_get_bufferu(&s->gb, ap, s->geotags[i].count);
 939                     ap[s->geotags[i].count - 1] = '\0'; //replace the "|" delimiter with a 0 byte
 940                     s->geotags[i].val = ap;
 941                 }
 942             }
 943         }
 944         break;
 945     case TIFF_ARTIST:
 946         ADD_METADATA(count, "artist", NULL);
 947         break;
 948     case TIFF_COPYRIGHT:
 949         ADD_METADATA(count, "copyright", NULL);
 950         break;
 951     case TIFF_DATE:
 952         ADD_METADATA(count, "date", NULL);
 953         break;
 954     case TIFF_DOCUMENT_NAME:
 955         ADD_METADATA(count, "document_name", NULL);
 956         break;
 957     case TIFF_HOST_COMPUTER:
 958         ADD_METADATA(count, "computer", NULL);
 959         break;
 960     case TIFF_IMAGE_DESCRIPTION:
 961         ADD_METADATA(count, "description", NULL);
 962         break;
 963     case TIFF_MAKE:
 964         ADD_METADATA(count, "make", NULL);
 965         break;
 966     case TIFF_MODEL:
 967         ADD_METADATA(count, "model", NULL);
 968         break;
 969     case TIFF_PAGE_NAME:
 970         ADD_METADATA(count, "page_name", NULL);
 971         break;
 972     case TIFF_PAGE_NUMBER:
 973         ADD_METADATA(count, "page_number", " / ");
 974         break;
 975     case TIFF_SOFTWARE_NAME:
 976         ADD_METADATA(count, "software", NULL);
 977         break;
 978     default:
 979         av_log(s->avctx, AV_LOG_DEBUG, "Unknown or unsupported tag %d/0X%0X\n",
 980                tag, tag);
 981     }
 982     bytestream2_seek(&s->gb, start, SEEK_SET);
 983     return 0;
 984 }
 985
 986 static int decode_frame(AVCodecContext *avctx,
 987                         void *data, int *got_frame, AVPacket *avpkt)
 988 {
 989     TiffContext *const s = avctx->priv_data;
 990     AVFrame *picture = data;
 991     AVFrame *const p = &s->picture;
 992     unsigned off;
 993     int id, le, ret;
 994     int i, j, entries;
 995     int stride;
 996     unsigned soff, ssize;
 997     uint8_t *dst;
 998     GetByteContext stripsizes;
 999     GetByteContext stripdata;
1000
1001     bytestream2_init(&s->gb, avpkt->data, avpkt->size);
1002
1003     //parse image header
1004     if (avpkt->size < 8)
1005         return AVERROR_INVALIDDATA;
1006     id = bytestream2_get_le16u(&s->gb);
1007     if (id == 0x4949)
1008         le = 1;
1009     else if (id == 0x4D4D)
1010         le = 0;
1011     else {
1012         av_log(avctx, AV_LOG_ERROR, "TIFF header not found\n");
1013         return -1;
1014     }
1015     s->le = le;
1016     // TIFF_BPP is not a required tag and defaults to 1
1017     s->bppcount = s->bpp = 1;
1018     s->invert = 0;
1019     s->compr = TIFF_RAW;
1020     s->fill_order = 0;
1021     free_geotags(s);
1022     /* metadata has been destroyed from lavc internals, that pointer is not
1023      * valid anymore */
1024     s->picture.metadata = NULL;
1025
1026     // As TIFF 6.0 specification puts it "An arbitrary but carefully chosen number
1027     // that further identifies the file as a TIFF file"
1028     if (tget_short(&s->gb, le) != 42) {
1029         av_log(avctx, AV_LOG_ERROR,
1030                "The answer to life, universe and everything is not correct!\n");
1031         return -1;
1032     }
1033     // Reset these offsets so we can tell if they were set this frame
1034     s->stripsizesoff = s->strippos = 0;
1035     /* parse image file directory */
1036     off = tget_long(&s->gb, le);
1037     if (off >= UINT_MAX - 14 || avpkt->size < off + 14) {
1038         av_log(avctx, AV_LOG_ERROR, "IFD offset is greater than image size\n");
1039         return AVERROR_INVALIDDATA;
1040     }
1041     bytestream2_seek(&s->gb, off, SEEK_SET);
1042     entries = tget_short(&s->gb, le);
1043     if (bytestream2_get_bytes_left(&s->gb) < entries * 12)
1044         return AVERROR_INVALIDDATA;
1045     for (i = 0; i < entries; i++) {
1046         if (tiff_decode_tag(s) < 0)
1047             return -1;
1048     }
1049
1050     for (i = 0; i<s->geotag_count; i++) {
1051         const char *keyname = get_geokey_name(s->geotags[i].key);
1052         if (!keyname) {
1053             av_log(avctx, AV_LOG_WARNING, "Unknown or unsupported GeoTIFF key %d\n", s->geotags[i].key);
1054             continue;
1055         }
1056         if (get_geokey_type(s->geotags[i].key) != s->geotags[i].type) {
1057             av_log(avctx, AV_LOG_WARNING, "Type of GeoTIFF key %d is wrong\n", s->geotags[i].key);
1058             continue;
1059         }
1060         ret = av_dict_set(&s->picture.metadata, keyname, s->geotags[i].val, 0);
1061         if (ret<0) {
1062             av_log(avctx, AV_LOG_ERROR, "Writing metadata with key '%s' failed\n", keyname);
1063             return ret;
1064         }
1065     }
1066
1067     if (!s->strippos && !s->stripoff) {
1068         av_log(avctx, AV_LOG_ERROR, "Image data is missing\n");
1069         return -1;
1070     }
1071     /* now we have the data and may start decoding */
1072     if ((ret = init_image(s)) < 0)
1073         return ret;
1074
1075     if (s->strips == 1 && !s->stripsize) {
1076         av_log(avctx, AV_LOG_WARNING, "Image data size missing\n");
1077         s->stripsize = avpkt->size - s->stripoff;
1078     }
1079     stride = p->linesize[0];
1080     dst = p->data[0];
1081
1082     if (s->stripsizesoff) {
1083         if (s->stripsizesoff >= (unsigned)avpkt->size)
1084             return AVERROR_INVALIDDATA;
1085         bytestream2_init(&stripsizes, avpkt->data + s->stripsizesoff, avpkt->size - s->stripsizesoff);
1086     }
1087     if (s->strippos) {
1088         if (s->strippos >= (unsigned)avpkt->size)
1089             return AVERROR_INVALIDDATA;
1090         bytestream2_init(&stripdata, avpkt->data + s->strippos, avpkt->size - s->strippos);
1091     }
1092
1093     if (s->rps <= 0) {
1094         av_log(avctx, AV_LOG_ERROR, "rps %d invalid\n", s->rps);
1095         return AVERROR_INVALIDDATA;
1096     }
1097
1098     for (i = 0; i < s->height; i += s->rps) {
1099         if (s->stripsizesoff)
1100             ssize = tget(&stripsizes, s->sstype, s->le);
1101         else
1102             ssize = s->stripsize;
1103
1104         if (s->strippos)
1105             soff = tget(&stripdata, s->sot, s->le);
1106         else
1107             soff = s->stripoff;
1108
1109         if (soff > avpkt->size || ssize > avpkt->size - soff) {
1110             av_log(avctx, AV_LOG_ERROR, "Invalid strip size/offset\n");
1111             return -1;
1112         }
1113         if (tiff_unpack_strip(s, dst, stride, avpkt->data + soff, ssize,
1114                               FFMIN(s->rps, s->height - i)) < 0)
1115             break;
1116         dst += s->rps * stride;
1117     }
1118     if (s->predictor == 2) {
1119         dst = p->data[0];
1120         soff = s->bpp >> 3;
1121         ssize = s->width * soff;
1122         if (s->avctx->pix_fmt == AV_PIX_FMT_RGB48LE ||
1123             s->avctx->pix_fmt == AV_PIX_FMT_RGBA64LE) {
1124             for (i = 0; i < s->height; i++) {
1125                 for (j = soff; j < ssize; j += 2)
1126                     AV_WL16(dst + j, AV_RL16(dst + j) + AV_RL16(dst + j - soff));
1127                 dst += stride;
1128             }
1129         } else if (s->avctx->pix_fmt == AV_PIX_FMT_RGB48BE ||
1130                    s->avctx->pix_fmt == AV_PIX_FMT_RGBA64BE) {
1131             for (i = 0; i < s->height; i++) {
1132                 for (j = soff; j < ssize; j += 2)
1133                     AV_WB16(dst + j, AV_RB16(dst + j) + AV_RB16(dst + j - soff));
1134                 dst += stride;
1135             }
1136         } else {
1137             for (i = 0; i < s->height; i++) {
1138                 for (j = soff; j < ssize; j++)
1139                     dst[j] += dst[j - soff];
1140                 dst += stride;
1141             }
1142         }
1143     }
1144
1145     if (s->invert) {
1146         dst = s->picture.data[0];
1147         for (i = 0; i < s->height; i++) {
1148             for (j = 0; j < s->picture.linesize[0]; j++)
1149                 dst[j] = (s->avctx->pix_fmt == AV_PIX_FMT_PAL8 ? (1<<s->bpp) - 1 : 255) - dst[j];
1150             dst += s->picture.linesize[0];
1151         }
1152     }
1153     *picture   = s->picture;
1154     *got_frame = 1;
1155
1156     return avpkt->size;
1157 }
1158
1159 static av_cold int tiff_init(AVCodecContext *avctx)
1160 {
1161     TiffContext *s = avctx->priv_data;
1162
1163     s->width = 0;
1164     s->height = 0;
1165     s->avctx = avctx;
1166     avcodec_get_frame_defaults(&s->picture);
1167     avctx->coded_frame = &s->picture;
1168     ff_lzw_decode_open(&s->lzw);
1169     ff_ccitt_unpack_init();
1170
1171     return 0;
1172 }
1173
1174 static av_cold int tiff_end(AVCodecContext *avctx)
1175 {
1176     TiffContext *const s = avctx->priv_data;
1177
1178     free_geotags(s);
1179
1180     ff_lzw_decode_close(&s->lzw);
1181     if (s->picture.data[0])
1182         avctx->release_buffer(avctx, &s->picture);
1183     return 0;
1184 }
1185
1186 AVCodec ff_tiff_decoder = {
1187     .name           = "tiff",
1188     .type           = AVMEDIA_TYPE_VIDEO,
1189     .id             = AV_CODEC_ID_TIFF,
1190     .priv_data_size = sizeof(TiffContext),
1191     .init           = tiff_init,
1192     .close          = tiff_end,
1193     .decode         = decode_frame,
1194     .capabilities   = CODEC_CAP_DR1,
1195     .long_name      = NULL_IF_CONFIG_SMALL("TIFF image"),
1196 };