git.sesse.net Git - ffmpeg/blob - libavcodec/tiff.c

   1 /*
   2  * Copyright (c) 2006 Konstantin Shishkov
   3  *
   4  * This file is part of FFmpeg.
   5  *
   6  * FFmpeg is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * FFmpeg is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with FFmpeg; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  19  */
  20
  21 /**
  22  * @file
  23  * TIFF image decoder
  24  * @author Konstantin Shishkov
  25  */
  26
  27 #include "avcodec.h"
  28 #include "bytestream.h"
  29 #include "config.h"
  30 #if CONFIG_ZLIB
  31 #include <zlib.h>
  32 #endif
  33 #include "lzw.h"
  34 #include "tiff.h"
  35 #include "tiff_data.h"
  36 #include "faxcompr.h"
  37 #include "mathops.h"
  38 #include "libavutil/attributes.h"
  39 #include "libavutil/intreadwrite.h"
  40 #include "libavutil/imgutils.h"
  41 #include "libavutil/avstring.h"
  42
  43 typedef struct TiffContext {
  44     AVCodecContext *avctx;
  45     AVFrame picture;
  46     GetByteContext gb;
  47
  48     int width, height;
  49     unsigned int bpp, bppcount;
  50     uint32_t palette[256];
  51     int palette_is_set;
  52     int le;
  53     enum TiffCompr compr;
  54     int invert;
  55     int fax_opts;
  56     int predictor;
  57     int fill_order;
  58
  59     int strips, rps, sstype;
  60     int sot;
  61     int stripsizesoff, stripsize, stripoff, strippos;
  62     LZWState *lzw;
  63
  64     int geotag_count;
  65     TiffGeoTag *geotags;
  66 } TiffContext;
  67
  68 static unsigned tget_short(GetByteContext *gb, int le)
  69 {
  70     unsigned v = le ? bytestream2_get_le16(gb) : bytestream2_get_be16(gb);
  71     return v;
  72 }
  73
  74 static unsigned tget_long(GetByteContext *gb, int le)
  75 {
  76     unsigned v = le ? bytestream2_get_le32(gb) : bytestream2_get_be32(gb);
  77     return v;
  78 }
  79
  80 static double tget_double(GetByteContext *gb, int le)
  81 {
  82     av_alias64 i = { .u64 = le ? bytestream2_get_le64(gb) : bytestream2_get_be64(gb)};
  83     return i.f64;
  84 }
  85
  86 static unsigned tget(GetByteContext *gb, int type, int le)
  87 {
  88     switch (type) {
  89     case TIFF_BYTE : return bytestream2_get_byte(gb);
  90     case TIFF_SHORT: return tget_short(gb, le);
  91     case TIFF_LONG : return tget_long(gb, le);
  92     default        : return UINT_MAX;
  93     }
  94 }
  95
  96 static void free_geotags(TiffContext *const s)
  97 {
  98     int i;
  99     for (i = 0; i < s->geotag_count; i++) {
 100         if (s->geotags[i].val)
 101             av_freep(&s->geotags[i].val);
 102     }
 103     av_freep(&s->geotags);
 104 }
 105
 106 #define RET_GEOKEY(TYPE, array, element)\
 107     if (key >= TIFF_##TYPE##_KEY_ID_OFFSET &&\
 108         key - TIFF_##TYPE##_KEY_ID_OFFSET < FF_ARRAY_ELEMS(ff_tiff_##array##_name_type_map))\
 109         return ff_tiff_##array##_name_type_map[key - TIFF_##TYPE##_KEY_ID_OFFSET].element;
 110
 111 static const char *get_geokey_name(int key)
 112 {
 113     RET_GEOKEY(VERT, vert, name);
 114     RET_GEOKEY(PROJ, proj, name);
 115     RET_GEOKEY(GEOG, geog, name);
 116     RET_GEOKEY(CONF, conf, name);
 117
 118     return NULL;
 119 }
 120
 121 static int get_geokey_type(int key)
 122 {
 123     RET_GEOKEY(VERT, vert, type);
 124     RET_GEOKEY(PROJ, proj, type);
 125     RET_GEOKEY(GEOG, geog, type);
 126     RET_GEOKEY(CONF, conf, type);
 127
 128     return AVERROR_INVALIDDATA;
 129 }
 130
 131 static int cmp_id_key(const void *id, const void *k)
 132 {
 133     return *(const int*)id - ((const TiffGeoTagKeyName*)k)->key;
 134 }
 135
 136 static const char *search_keyval(const TiffGeoTagKeyName *keys, int n, int id)
 137 {
 138     return ((TiffGeoTagKeyName*)bsearch(&id, keys, n, sizeof(keys[0]), cmp_id_key))->name;
 139 }
 140
 141 static char *get_geokey_val(int key, int val)
 142 {
 143     char *ap;
 144
 145     if (val == TIFF_GEO_KEY_UNDEFINED)
 146         return av_strdup("undefined");
 147     if (val == TIFF_GEO_KEY_USER_DEFINED)
 148         return av_strdup("User-Defined");
 149
 150 #define RET_GEOKEY_VAL(TYPE, array)\
 151     if (val >= TIFF_##TYPE##_OFFSET &&\
 152         val - TIFF_##TYPE##_OFFSET < FF_ARRAY_ELEMS(ff_tiff_##array##_codes))\
 153         return av_strdup(ff_tiff_##array##_codes[val - TIFF_##TYPE##_OFFSET]);
 154
 155     switch (key) {
 156     case TIFF_GT_MODEL_TYPE_GEOKEY:
 157         RET_GEOKEY_VAL(GT_MODEL_TYPE, gt_model_type);
 158         break;
 159     case TIFF_GT_RASTER_TYPE_GEOKEY:
 160         RET_GEOKEY_VAL(GT_RASTER_TYPE, gt_raster_type);
 161         break;
 162     case TIFF_GEOG_LINEAR_UNITS_GEOKEY:
 163     case TIFF_PROJ_LINEAR_UNITS_GEOKEY:
 164     case TIFF_VERTICAL_UNITS_GEOKEY:
 165         RET_GEOKEY_VAL(LINEAR_UNIT, linear_unit);
 166         break;
 167     case TIFF_GEOG_ANGULAR_UNITS_GEOKEY:
 168     case TIFF_GEOG_AZIMUTH_UNITS_GEOKEY:
 169         RET_GEOKEY_VAL(ANGULAR_UNIT, angular_unit);
 170         break;
 171     case TIFF_GEOGRAPHIC_TYPE_GEOKEY:
 172         RET_GEOKEY_VAL(GCS_TYPE, gcs_type);
 173         RET_GEOKEY_VAL(GCSE_TYPE, gcse_type);
 174         break;
 175     case TIFF_GEOG_GEODETIC_DATUM_GEOKEY:
 176         RET_GEOKEY_VAL(GEODETIC_DATUM, geodetic_datum);
 177         RET_GEOKEY_VAL(GEODETIC_DATUM_E, geodetic_datum_e);
 178         break;
 179     case TIFF_GEOG_ELLIPSOID_GEOKEY:
 180         RET_GEOKEY_VAL(ELLIPSOID, ellipsoid);
 181         break;
 182     case TIFF_GEOG_PRIME_MERIDIAN_GEOKEY:
 183         RET_GEOKEY_VAL(PRIME_MERIDIAN, prime_meridian);
 184         break;
 185     case TIFF_PROJECTED_CS_TYPE_GEOKEY:
 186         return av_strdup(search_keyval(ff_tiff_proj_cs_type_codes, FF_ARRAY_ELEMS(ff_tiff_proj_cs_type_codes), val));
 187         break;
 188     case TIFF_PROJECTION_GEOKEY:
 189         return av_strdup(search_keyval(ff_tiff_projection_codes, FF_ARRAY_ELEMS(ff_tiff_projection_codes), val));
 190         break;
 191     case TIFF_PROJ_COORD_TRANS_GEOKEY:
 192         RET_GEOKEY_VAL(COORD_TRANS, coord_trans);
 193         break;
 194     case TIFF_VERTICAL_CS_TYPE_GEOKEY:
 195         RET_GEOKEY_VAL(VERT_CS, vert_cs);
 196         RET_GEOKEY_VAL(ORTHO_VERT_CS, ortho_vert_cs);
 197         break;
 198
 199     }
 200
 201     ap = av_malloc(14);
 202     if (ap)
 203         snprintf(ap, 14, "Unknown-%d", val);
 204     return ap;
 205 }
 206
 207 static char *doubles2str(double *dp, int count, const char *sep)
 208 {
 209     int i;
 210     char *ap, *ap0;
 211     int component_len;
 212     if (!sep) sep = ", ";
 213     component_len = 15 + strlen(sep);
 214     ap = av_malloc(component_len * count);
 215     if (!ap)
 216         return NULL;
 217     ap0   = ap;
 218     ap[0] = '\0';
 219     for (i = 0; i < count; i++) {
 220         unsigned l = snprintf(ap, component_len, "%f%s", dp[i], sep);
 221         if(l >= component_len) {
 222             av_free(ap0);
 223             return NULL;
 224         }
 225         ap += l;
 226     }
 227     ap0[strlen(ap0) - strlen(sep)] = '\0';
 228     return ap0;
 229 }
 230
 231 static char *shorts2str(int16_t *sp, int count, const char *sep)
 232 {
 233     int i;
 234     char *ap, *ap0;
 235     if (!sep) sep = ", ";
 236     ap = av_malloc((5 + strlen(sep)) * count);
 237     if (!ap)
 238         return NULL;
 239     ap0   = ap;
 240     ap[0] = '\0';
 241     for (i = 0; i < count; i++) {
 242         int l = snprintf(ap, 5 + strlen(sep), "%d%s", sp[i], sep);
 243         ap += l;
 244     }
 245     ap0[strlen(ap0) - strlen(sep)] = '\0';
 246     return ap0;
 247 }
 248
 249 static int add_doubles_metadata(int count,
 250                                 const char *name, const char *sep,
 251                                 TiffContext *s)
 252 {
 253     char *ap;
 254     int i;
 255     double *dp;
 256
 257     if (count >= INT_MAX / sizeof(int64_t) || count <= 0)
 258         return AVERROR_INVALIDDATA;
 259     if (bytestream2_get_bytes_left(&s->gb) < count * sizeof(int64_t))
 260         return AVERROR_INVALIDDATA;
 261
 262     dp = av_malloc(count * sizeof(double));
 263     if (!dp)
 264         return AVERROR(ENOMEM);
 265
 266     for (i = 0; i < count; i++)
 267         dp[i] = tget_double(&s->gb, s->le);
 268     ap = doubles2str(dp, count, sep);
 269     av_freep(&dp);
 270     if (!ap)
 271         return AVERROR(ENOMEM);
 272     av_dict_set(&s->picture.metadata, name, ap, AV_DICT_DONT_STRDUP_VAL);
 273     return 0;
 274 }
 275
 276 static int add_shorts_metadata(int count, const char *name,
 277                                const char *sep, TiffContext *s)
 278 {
 279     char *ap;
 280     int i;
 281     int16_t *sp;
 282
 283     if (count >= INT_MAX / sizeof(int16_t) || count <= 0)
 284         return AVERROR_INVALIDDATA;
 285     if (bytestream2_get_bytes_left(&s->gb) < count * sizeof(int16_t))
 286         return AVERROR_INVALIDDATA;
 287
 288     sp = av_malloc(count * sizeof(int16_t));
 289     if (!sp)
 290         return AVERROR(ENOMEM);
 291
 292     for (i = 0; i < count; i++)
 293         sp[i] = tget_short(&s->gb, s->le);
 294     ap = shorts2str(sp, count, sep);
 295     av_freep(&sp);
 296     if (!ap)
 297         return AVERROR(ENOMEM);
 298     av_dict_set(&s->picture.metadata, name, ap, AV_DICT_DONT_STRDUP_VAL);
 299     return 0;
 300 }
 301
 302 static int add_string_metadata(int count, const char *name,
 303                                TiffContext *s)
 304 {
 305     char *value;
 306
 307     if (bytestream2_get_bytes_left(&s->gb) < count)
 308         return AVERROR_INVALIDDATA;
 309
 310     value = av_malloc(count + 1);
 311     if (!value)
 312         return AVERROR(ENOMEM);
 313
 314     bytestream2_get_bufferu(&s->gb, value, count);
 315     value[count] = 0;
 316
 317     av_dict_set(&s->picture.metadata, name, value, AV_DICT_DONT_STRDUP_VAL);
 318     return 0;
 319 }
 320
 321 static int add_metadata(int count, int type,
 322                         const char *name, const char *sep, TiffContext *s)
 323 {
 324     switch(type) {
 325     case TIFF_DOUBLE: return add_doubles_metadata(count, name, sep, s);
 326     case TIFF_SHORT : return add_shorts_metadata(count, name, sep, s);
 327     case TIFF_STRING: return add_string_metadata(count, name, s);
 328     default         : return AVERROR_INVALIDDATA;
 329     };
 330 }
 331
 332 #if CONFIG_ZLIB
 333 static int tiff_uncompress(uint8_t *dst, unsigned long *len, const uint8_t *src,
 334                            int size)
 335 {
 336     z_stream zstream = { 0 };
 337     int zret;
 338
 339     zstream.next_in = (uint8_t *)src;
 340     zstream.avail_in = size;
 341     zstream.next_out = dst;
 342     zstream.avail_out = *len;
 343     zret = inflateInit(&zstream);
 344     if (zret != Z_OK) {
 345         av_log(NULL, AV_LOG_ERROR, "Inflate init error: %d\n", zret);
 346         return zret;
 347     }
 348     zret = inflate(&zstream, Z_SYNC_FLUSH);
 349     inflateEnd(&zstream);
 350     *len = zstream.total_out;
 351     return zret == Z_STREAM_END ? Z_OK : zret;
 352 }
 353 #endif
 354
 355 static void av_always_inline horizontal_fill(unsigned int bpp, uint8_t* dst,
 356                                              int usePtr, const uint8_t *src,
 357                                              uint8_t c, int width, int offset)
 358 {
 359     switch (bpp) {
 360     case 1:
 361         while (--width >= 0) {
 362             dst[(width+offset)*8+7] = (usePtr ? src[width] : c)      & 0x1;
 363             dst[(width+offset)*8+6] = (usePtr ? src[width] : c) >> 1 & 0x1;
 364             dst[(width+offset)*8+5] = (usePtr ? src[width] : c) >> 2 & 0x1;
 365             dst[(width+offset)*8+4] = (usePtr ? src[width] : c) >> 3 & 0x1;
 366             dst[(width+offset)*8+3] = (usePtr ? src[width] : c) >> 4 & 0x1;
 367             dst[(width+offset)*8+2] = (usePtr ? src[width] : c) >> 5 & 0x1;
 368             dst[(width+offset)*8+1] = (usePtr ? src[width] : c) >> 6 & 0x1;
 369             dst[(width+offset)*8+0] = (usePtr ? src[width] : c) >> 7;
 370         }
 371         break;
 372     case 2:
 373         while (--width >= 0) {
 374             dst[(width+offset)*4+3] = (usePtr ? src[width] : c) & 0x3;
 375             dst[(width+offset)*4+2] = (usePtr ? src[width] : c) >> 2 & 0x3;
 376             dst[(width+offset)*4+1] = (usePtr ? src[width] : c) >> 4 & 0x3;
 377             dst[(width+offset)*4+0] = (usePtr ? src[width] : c) >> 6;
 378         }
 379         break;
 380     case 4:
 381         while (--width >= 0) {
 382             dst[(width+offset)*2+1] = (usePtr ? src[width] : c) & 0xF;
 383             dst[(width+offset)*2+0] = (usePtr ? src[width] : c) >> 4;
 384         }
 385         break;
 386     default:
 387         if (usePtr) {
 388             memcpy(dst + offset, src, width);
 389         } else {
 390             memset(dst + offset, c, width);
 391         }
 392     }
 393 }
 394
 395 static int tiff_unpack_strip(TiffContext *s, uint8_t *dst, int stride,
 396                              const uint8_t *src, int size, int lines)
 397 {
 398     int c, line, pixels, code;
 399     const uint8_t *ssrc = src;
 400     int width = ((s->width * s->bpp) + 7) >> 3;
 401
 402     if (size <= 0)
 403         return AVERROR_INVALIDDATA;
 404
 405 #if CONFIG_ZLIB
 406     if (s->compr == TIFF_DEFLATE || s->compr == TIFF_ADOBE_DEFLATE) {
 407         uint8_t *zbuf;
 408         unsigned long outlen;
 409         int ret;
 410         outlen = width * lines;
 411         zbuf = av_malloc(outlen);
 412         if (!zbuf)
 413             return AVERROR(ENOMEM);
 414         ret = tiff_uncompress(zbuf, &outlen, src, size);
 415         if (ret != Z_OK) {
 416             av_log(s->avctx, AV_LOG_ERROR,
 417                    "Uncompressing failed (%lu of %lu) with error %d\n", outlen,
 418                    (unsigned long)width * lines, ret);
 419             av_free(zbuf);
 420             return -1;
 421         }
 422         src = zbuf;
 423         for (line = 0; line < lines; line++) {
 424             if(s->bpp < 8 && s->avctx->pix_fmt == AV_PIX_FMT_PAL8){
 425                 horizontal_fill(s->bpp, dst, 1, src, 0, width, 0);
 426             }else{
 427                 memcpy(dst, src, width);
 428             }
 429             dst += stride;
 430             src += width;
 431         }
 432         av_free(zbuf);
 433         return 0;
 434     }
 435 #endif
 436     if (s->compr == TIFF_LZW) {
 437         if (ff_lzw_decode_init(s->lzw, 8, src, size, FF_LZW_TIFF) < 0) {
 438             av_log(s->avctx, AV_LOG_ERROR, "Error initializing LZW decoder\n");
 439             return -1;
 440         }
 441     }
 442     if (s->compr == TIFF_CCITT_RLE || s->compr == TIFF_G3
 443         || s->compr == TIFF_G4) {
 444         int i, ret = 0;
 445         uint8_t *src2 = av_malloc((unsigned)size +
 446                                   FF_INPUT_BUFFER_PADDING_SIZE);
 447
 448         if (!src2) {
 449             av_log(s->avctx, AV_LOG_ERROR,
 450                    "Error allocating temporary buffer\n");
 451             return AVERROR(ENOMEM);
 452         }
 453         if (s->fax_opts & 2) {
 454             av_log(s->avctx, AV_LOG_ERROR,
 455                    "Uncompressed fax mode is not supported (yet)\n");
 456             av_free(src2);
 457             return -1;
 458         }
 459         if (!s->fill_order) {
 460             memcpy(src2, src, size);
 461         } else {
 462             for (i = 0; i < size; i++)
 463                 src2[i] = ff_reverse[src[i]];
 464         }
 465         memset(src2 + size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
 466         switch (s->compr) {
 467         case TIFF_CCITT_RLE:
 468         case TIFF_G3:
 469         case TIFF_G4:
 470             ret = ff_ccitt_unpack(s->avctx, src2, size, dst, lines, stride,
 471                                   s->compr, s->fax_opts);
 472             break;
 473         }
 474         if (s->bpp < 8 && s->avctx->pix_fmt == AV_PIX_FMT_PAL8)
 475             for (line = 0; line < lines; line++) {
 476                 horizontal_fill(s->bpp, dst, 1, dst, 0, width, 0);
 477                 dst += stride;
 478             }
 479         av_free(src2);
 480         return ret;
 481     }
 482     for (line = 0; line < lines; line++) {
 483         if (src - ssrc > size) {
 484             av_log(s->avctx, AV_LOG_ERROR, "Source data overread\n");
 485             return -1;
 486         }
 487         switch (s->compr) {
 488         case TIFF_RAW:
 489             if (ssrc + size - src < width)
 490                 return AVERROR_INVALIDDATA;
 491             if (!s->fill_order) {
 492                 horizontal_fill(s->bpp * (s->avctx->pix_fmt == AV_PIX_FMT_PAL8),
 493                                 dst, 1, src, 0, width, 0);
 494             } else {
 495                 int i;
 496                 for (i = 0; i < width; i++)
 497                     dst[i] = ff_reverse[src[i]];
 498             }
 499             src += width;
 500             break;
 501         case TIFF_PACKBITS:
 502             for (pixels = 0; pixels < width;) {
 503                 if (ssrc + size - src < 2) {
 504                     av_log(s->avctx, AV_LOG_ERROR, "Read went out of bounds\n");
 505                     return AVERROR_INVALIDDATA;
 506                 }
 507                 code = (int8_t) * src++;
 508                 if (code >= 0) {
 509                     code++;
 510                     if (pixels + code > width) {
 511                         av_log(s->avctx, AV_LOG_ERROR,
 512                                "Copy went out of bounds\n");
 513                         return -1;
 514                     }
 515                     if (ssrc + size - src < code) {
 516                         av_log(s->avctx, AV_LOG_ERROR, "Read went out of bounds\n");
 517                         return AVERROR_INVALIDDATA;
 518                     }
 519                     horizontal_fill(s->bpp * (s->avctx->pix_fmt == AV_PIX_FMT_PAL8),
 520                                     dst, 1, src, 0, code, pixels);
 521                     src += code;
 522                     pixels += code;
 523                 } else if (code != -128) { // -127..-1
 524                     code = (-code) + 1;
 525                     if (pixels + code > width) {
 526                         av_log(s->avctx, AV_LOG_ERROR,
 527                                "Run went out of bounds\n");
 528                         return -1;
 529                     }
 530                     c = *src++;
 531                     horizontal_fill(s->bpp * (s->avctx->pix_fmt == AV_PIX_FMT_PAL8),
 532                                     dst, 0, NULL, c, code, pixels);
 533                     pixels += code;
 534                 }
 535             }
 536             break;
 537         case TIFF_LZW:
 538             pixels = ff_lzw_decode(s->lzw, dst, width);
 539             if (pixels < width) {
 540                 av_log(s->avctx, AV_LOG_ERROR, "Decoded only %i bytes of %i\n",
 541                        pixels, width);
 542                 return -1;
 543             }
 544             if (s->bpp < 8 && s->avctx->pix_fmt == AV_PIX_FMT_PAL8)
 545                 horizontal_fill(s->bpp, dst, 1, dst, 0, width, 0);
 546             break;
 547         }
 548         dst += stride;
 549     }
 550     return 0;
 551 }
 552
 553 static int init_image(TiffContext *s)
 554 {
 555     int i, ret;
 556     uint32_t *pal;
 557
 558     switch (s->bpp * 10 + s->bppcount) {
 559     case 11:
 560         if (!s->palette_is_set) {
 561             s->avctx->pix_fmt = AV_PIX_FMT_MONOBLACK;
 562             break;
 563         }
 564     case 21:
 565     case 41:
 566     case 81:
 567         s->avctx->pix_fmt = AV_PIX_FMT_PAL8;
 568         break;
 569     case 243:
 570         s->avctx->pix_fmt = AV_PIX_FMT_RGB24;
 571         break;
 572     case 161:
 573         s->avctx->pix_fmt = s->le ? AV_PIX_FMT_GRAY16LE : AV_PIX_FMT_GRAY16BE;
 574         break;
 575     case 162:
 576         s->avctx->pix_fmt = AV_PIX_FMT_GRAY8A;
 577         break;
 578     case 324:
 579         s->avctx->pix_fmt = AV_PIX_FMT_RGBA;
 580         break;
 581     case 483:
 582         s->avctx->pix_fmt = s->le ? AV_PIX_FMT_RGB48LE : AV_PIX_FMT_RGB48BE;
 583         break;
 584     case 644:
 585         s->avctx->pix_fmt = s->le ? AV_PIX_FMT_RGBA64LE : AV_PIX_FMT_RGBA64BE;
 586         break;
 587     default:
 588         av_log(s->avctx, AV_LOG_ERROR,
 589                "This format is not supported (bpp=%d, bppcount=%d)\n",
 590                s->bpp, s->bppcount);
 591         return AVERROR_INVALIDDATA;
 592     }
 593     if (s->width != s->avctx->width || s->height != s->avctx->height) {
 594         if ((ret = av_image_check_size(s->width, s->height, 0, s->avctx)) < 0)
 595             return ret;
 596         avcodec_set_dimensions(s->avctx, s->width, s->height);
 597     }
 598     if (s->picture.data[0])
 599         s->avctx->release_buffer(s->avctx, &s->picture);
 600     if ((ret = s->avctx->get_buffer(s->avctx, &s->picture)) < 0) {
 601         av_log(s->avctx, AV_LOG_ERROR, "get_buffer() failed\n");
 602         return ret;
 603     }
 604     if (s->avctx->pix_fmt == AV_PIX_FMT_PAL8) {
 605         if (s->palette_is_set) {
 606             memcpy(s->picture.data[1], s->palette, sizeof(s->palette));
 607         } else {
 608             /* make default grayscale pal */
 609             pal = (uint32_t *) s->picture.data[1];
 610             for (i = 0; i < 1<<s->bpp; i++)
 611                 pal[i] = 0xFFU << 24 | i * 255 / ((1<<s->bpp) - 1) * 0x010101;
 612         }
 613     }
 614     return 0;
 615 }
 616
 617 static int tiff_decode_tag(TiffContext *s)
 618 {
 619     unsigned tag, type, count, off, value = 0;
 620     int i, j, k, pos, start;
 621     int ret;
 622     uint32_t *pal;
 623     double *dp;
 624
 625     tag   = tget_short(&s->gb, s->le);
 626     type  = tget_short(&s->gb, s->le);
 627     count = tget_long(&s->gb, s->le);
 628     off   = tget_long(&s->gb, s->le);
 629     start = bytestream2_tell(&s->gb);
 630
 631     if (type == 0 || type >= FF_ARRAY_ELEMS(type_sizes)) {
 632         av_log(s->avctx, AV_LOG_DEBUG, "Unknown tiff type (%u) encountered\n",
 633                type);
 634         return 0;
 635     }
 636
 637     if (count == 1) {
 638         switch (type) {
 639         case TIFF_BYTE:
 640         case TIFF_SHORT:
 641             bytestream2_seek(&s->gb, -4, SEEK_CUR);
 642             value = tget(&s->gb, type, s->le);
 643             break;
 644         case TIFF_LONG:
 645             value = off;
 646             break;
 647         case TIFF_STRING:
 648             if (count <= 4) {
 649                 bytestream2_seek(&s->gb, -4, SEEK_CUR);
 650                 break;
 651             }
 652         default:
 653             value = UINT_MAX;
 654             bytestream2_seek(&s->gb, off, SEEK_SET);
 655         }
 656     } else {
 657         if (count <= 4 && type_sizes[type] * count <= 4) {
 658             bytestream2_seek(&s->gb, -4, SEEK_CUR);
 659         } else {
 660             bytestream2_seek(&s->gb, off, SEEK_SET);
 661         }
 662     }
 663
 664     switch (tag) {
 665     case TIFF_WIDTH:
 666         s->width = value;
 667         break;
 668     case TIFF_HEIGHT:
 669         s->height = value;
 670         break;
 671     case TIFF_BPP:
 672         s->bppcount = count;
 673         if (count > 4) {
 674             av_log(s->avctx, AV_LOG_ERROR,
 675                    "This format is not supported (bpp=%d, %d components)\n",
 676                    s->bpp, count);
 677             return -1;
 678         }
 679         if (count == 1)
 680             s->bpp = value;
 681         else {
 682             switch (type) {
 683             case TIFF_BYTE:
 684                 s->bpp = (off & 0xFF) + ((off >> 8) & 0xFF) +
 685                          ((off >> 16) & 0xFF) + ((off >> 24) & 0xFF);
 686                 break;
 687             case TIFF_SHORT:
 688             case TIFF_LONG:
 689                 s->bpp = 0;
 690                 if (bytestream2_get_bytes_left(&s->gb) < type_sizes[type] * count)
 691                     return -1;
 692                 for (i = 0; i < count; i++)
 693                     s->bpp += tget(&s->gb, type, s->le);
 694                 break;
 695             default:
 696                 s->bpp = -1;
 697             }
 698         }
 699         break;
 700     case TIFF_SAMPLES_PER_PIXEL:
 701         if (count != 1) {
 702             av_log(s->avctx, AV_LOG_ERROR,
 703                    "Samples per pixel requires a single value, many provided\n");
 704             return AVERROR_INVALIDDATA;
 705         }
 706         if (s->bppcount == 1)
 707             s->bpp *= value;
 708         s->bppcount = value;
 709         break;
 710     case TIFF_COMPR:
 711         s->compr = value;
 712         s->predictor = 0;
 713         switch (s->compr) {
 714         case TIFF_RAW:
 715         case TIFF_PACKBITS:
 716         case TIFF_LZW:
 717         case TIFF_CCITT_RLE:
 718             break;
 719         case TIFF_G3:
 720         case TIFF_G4:
 721             s->fax_opts = 0;
 722             break;
 723         case TIFF_DEFLATE:
 724         case TIFF_ADOBE_DEFLATE:
 725 #if CONFIG_ZLIB
 726             break;
 727 #else
 728             av_log(s->avctx, AV_LOG_ERROR, "Deflate: ZLib not compiled in\n");
 729             return -1;
 730 #endif
 731         case TIFF_JPEG:
 732         case TIFF_NEWJPEG:
 733             av_log(s->avctx, AV_LOG_ERROR,
 734                    "JPEG compression is not supported\n");
 735             return -1;
 736         default:
 737             av_log(s->avctx, AV_LOG_ERROR, "Unknown compression method %i\n",
 738                    s->compr);
 739             return -1;
 740         }
 741         break;
 742     case TIFF_ROWSPERSTRIP:
 743         if (type == TIFF_LONG && value == UINT_MAX)
 744             value = s->avctx->height;
 745         if (value < 1) {
 746             av_log(s->avctx, AV_LOG_ERROR,
 747                    "Incorrect value of rows per strip\n");
 748             return -1;
 749         }
 750         s->rps = value;
 751         break;
 752     case TIFF_STRIP_OFFS:
 753         if (count == 1) {
 754             s->strippos = 0;
 755             s->stripoff = value;
 756         } else
 757             s->strippos = off;
 758         s->strips = count;
 759         if (s->strips == 1)
 760             s->rps = s->height;
 761         s->sot = type;
 762         if (s->strippos > bytestream2_size(&s->gb)) {
 763             av_log(s->avctx, AV_LOG_ERROR,
 764                    "Tag referencing position outside the image\n");
 765             return -1;
 766         }
 767         break;
 768     case TIFF_STRIP_SIZE:
 769         if (count == 1) {
 770             s->stripsizesoff = 0;
 771             s->stripsize = value;
 772             s->strips = 1;
 773         } else {
 774             s->stripsizesoff = off;
 775         }
 776         s->strips = count;
 777         s->sstype = type;
 778         if (s->stripsizesoff > bytestream2_size(&s->gb)) {
 779             av_log(s->avctx, AV_LOG_ERROR,
 780                    "Tag referencing position outside the image\n");
 781             return -1;
 782         }
 783         break;
 784     case TIFF_TILE_BYTE_COUNTS:
 785     case TIFF_TILE_LENGTH:
 786     case TIFF_TILE_OFFSETS:
 787     case TIFF_TILE_WIDTH:
 788         av_log(s->avctx, AV_LOG_ERROR, "Tiled images are not supported\n");
 789         return AVERROR_PATCHWELCOME;
 790         break;
 791     case TIFF_PREDICTOR:
 792         s->predictor = value;
 793         break;
 794     case TIFF_INVERT:
 795         switch (value) {
 796         case 0:
 797             s->invert = 1;
 798             break;
 799         case 1:
 800             s->invert = 0;
 801             break;
 802         case 2:
 803         case 3:
 804             break;
 805         default:
 806             av_log(s->avctx, AV_LOG_ERROR, "Color mode %d is not supported\n",
 807                    value);
 808             return -1;
 809         }
 810         break;
 811     case TIFF_FILL_ORDER:
 812         if (value < 1 || value > 2) {
 813             av_log(s->avctx, AV_LOG_ERROR,
 814                    "Unknown FillOrder value %d, trying default one\n", value);
 815             value = 1;
 816         }
 817         s->fill_order = value - 1;
 818         break;
 819     case TIFF_PAL:
 820         pal = (uint32_t *) s->palette;
 821         off = type_sizes[type];
 822         if (count / 3 > 256 || bytestream2_get_bytes_left(&s->gb) < count / 3 * off * 3)
 823             return -1;
 824         off = (type_sizes[type] - 1) << 3;
 825         for (k = 2; k >= 0; k--) {
 826             for (i = 0; i < count / 3; i++) {
 827                 if (k == 2)
 828                     pal[i] = 0xFFU << 24;
 829                 j =  (tget(&s->gb, type, s->le) >> off) << (k * 8);
 830                 pal[i] |= j;
 831             }
 832         }
 833         s->palette_is_set = 1;
 834         break;
 835     case TIFF_PLANAR:
 836         if (value == 2) {
 837             av_log(s->avctx, AV_LOG_ERROR, "Planar format is not supported\n");
 838             return -1;
 839         }
 840         break;
 841     case TIFF_T4OPTIONS:
 842         if (s->compr == TIFF_G3)
 843             s->fax_opts = value;
 844         break;
 845     case TIFF_T6OPTIONS:
 846         if (s->compr == TIFF_G4)
 847             s->fax_opts = value;
 848         break;
 849 #define ADD_METADATA(count, name, sep)\
 850     if (ret = add_metadata(count, type, name, sep, s) < 0) {\
 851         av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");\
 852         return ret;\
 853     }
 854     case TIFF_MODEL_PIXEL_SCALE:
 855         ADD_METADATA(count, "ModelPixelScaleTag", NULL);
 856         break;
 857     case TIFF_MODEL_TRANSFORMATION:
 858         ADD_METADATA(count, "ModelTransformationTag", NULL);
 859         break;
 860     case TIFF_MODEL_TIEPOINT:
 861         ADD_METADATA(count, "ModelTiepointTag", NULL);
 862         break;
 863     case TIFF_GEO_KEY_DIRECTORY:
 864         ADD_METADATA(1, "GeoTIFF_Version", NULL);
 865         ADD_METADATA(2, "GeoTIFF_Key_Revision", ".");
 866         s->geotag_count   = tget_short(&s->gb, s->le);
 867         if (s->geotag_count > count / 4 - 1) {
 868             s->geotag_count = count / 4 - 1;
 869             av_log(s->avctx, AV_LOG_WARNING, "GeoTIFF key directory buffer shorter than specified\n");
 870         }
 871         if (bytestream2_get_bytes_left(&s->gb) < s->geotag_count * sizeof(int16_t) * 4)
 872             return -1;
 873         s->geotags = av_mallocz(sizeof(TiffGeoTag) * s->geotag_count);
 874         if (!s->geotags) {
 875             av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");
 876             return AVERROR(ENOMEM);
 877         }
 878         for (i = 0; i < s->geotag_count; i++) {
 879             s->geotags[i].key    = tget_short(&s->gb, s->le);
 880             s->geotags[i].type   = tget_short(&s->gb, s->le);
 881             s->geotags[i].count  = tget_short(&s->gb, s->le);
 882
 883             if (!s->geotags[i].type)
 884                 s->geotags[i].val  = get_geokey_val(s->geotags[i].key, tget_short(&s->gb, s->le));
 885             else
 886                 s->geotags[i].offset = tget_short(&s->gb, s->le);
 887         }
 888         break;
 889     case TIFF_GEO_DOUBLE_PARAMS:
 890         if (count >= INT_MAX / sizeof(int64_t))
 891             return AVERROR_INVALIDDATA;
 892         if (bytestream2_get_bytes_left(&s->gb) < count * sizeof(int64_t))
 893             return AVERROR_INVALIDDATA;
 894         dp = av_malloc(count * sizeof(double));
 895         if (!dp) {
 896             av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");
 897             return AVERROR(ENOMEM);
 898         }
 899         for (i = 0; i < count; i++)
 900             dp[i] = tget_double(&s->gb, s->le);
 901         for (i = 0; i < s->geotag_count; i++) {
 902             if (s->geotags[i].type == TIFF_GEO_DOUBLE_PARAMS) {
 903                 if (s->geotags[i].count == 0
 904                     || s->geotags[i].offset + s->geotags[i].count > count) {
 905                     av_log(s->avctx, AV_LOG_WARNING, "Invalid GeoTIFF key %d\n", s->geotags[i].key);
 906                 } else {
 907                     char *ap = doubles2str(&dp[s->geotags[i].offset], s->geotags[i].count, ", ");
 908                     if (!ap) {
 909                         av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");
 910                         av_freep(&dp);
 911                         return AVERROR(ENOMEM);
 912                     }
 913                     s->geotags[i].val = ap;
 914                 }
 915             }
 916         }
 917         av_freep(&dp);
 918         break;
 919     case TIFF_GEO_ASCII_PARAMS:
 920         pos = bytestream2_tell(&s->gb);
 921         for (i = 0; i < s->geotag_count; i++) {
 922             if (s->geotags[i].type == TIFF_GEO_ASCII_PARAMS) {
 923                 if (s->geotags[i].count == 0
 924                     || s->geotags[i].offset +  s->geotags[i].count > count) {
 925                     av_log(s->avctx, AV_LOG_WARNING, "Invalid GeoTIFF key %d\n", s->geotags[i].key);
 926                 } else {
 927                     char *ap;
 928
 929                     bytestream2_seek(&s->gb, pos + s->geotags[i].offset, SEEK_SET);
 930                     if (bytestream2_get_bytes_left(&s->gb) < s->geotags[i].count)
 931                         return -1;
 932                     ap = av_malloc(s->geotags[i].count);
 933                     if (!ap) {
 934                         av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");
 935                         return AVERROR(ENOMEM);
 936                     }
 937                     bytestream2_get_bufferu(&s->gb, ap, s->geotags[i].count);
 938                     ap[s->geotags[i].count - 1] = '\0'; //replace the "|" delimiter with a 0 byte
 939                     s->geotags[i].val = ap;
 940                 }
 941             }
 942         }
 943         break;
 944     case TIFF_ARTIST:
 945         ADD_METADATA(count, "artist", NULL);
 946         break;
 947     case TIFF_COPYRIGHT:
 948         ADD_METADATA(count, "copyright", NULL);
 949         break;
 950     case TIFF_DATE:
 951         ADD_METADATA(count, "date", NULL);
 952         break;
 953     case TIFF_DOCUMENT_NAME:
 954         ADD_METADATA(count, "document_name", NULL);
 955         break;
 956     case TIFF_HOST_COMPUTER:
 957         ADD_METADATA(count, "computer", NULL);
 958         break;
 959     case TIFF_IMAGE_DESCRIPTION:
 960         ADD_METADATA(count, "description", NULL);
 961         break;
 962     case TIFF_MAKE:
 963         ADD_METADATA(count, "make", NULL);
 964         break;
 965     case TIFF_MODEL:
 966         ADD_METADATA(count, "model", NULL);
 967         break;
 968     case TIFF_PAGE_NAME:
 969         ADD_METADATA(count, "page_name", NULL);
 970         break;
 971     case TIFF_PAGE_NUMBER:
 972         ADD_METADATA(count, "page_number", " / ");
 973         break;
 974     case TIFF_SOFTWARE_NAME:
 975         ADD_METADATA(count, "software", NULL);
 976         break;
 977     default:
 978         av_log(s->avctx, AV_LOG_DEBUG, "Unknown or unsupported tag %d/0X%0X\n",
 979                tag, tag);
 980     }
 981     bytestream2_seek(&s->gb, start, SEEK_SET);
 982     return 0;
 983 }
 984
 985 static int decode_frame(AVCodecContext *avctx,
 986                         void *data, int *data_size, AVPacket *avpkt)
 987 {
 988     TiffContext *const s = avctx->priv_data;
 989     AVFrame *picture = data;
 990     AVFrame *const p = &s->picture;
 991     unsigned off;
 992     int id, le, ret;
 993     int i, j, entries;
 994     int stride;
 995     unsigned soff, ssize;
 996     uint8_t *dst;
 997     GetByteContext stripsizes;
 998     GetByteContext stripdata;
 999
1000     bytestream2_init(&s->gb, avpkt->data, avpkt->size);
1001
1002     //parse image header
1003     if (avpkt->size < 8)
1004         return AVERROR_INVALIDDATA;
1005     id = bytestream2_get_le16u(&s->gb);
1006     if (id == 0x4949)
1007         le = 1;
1008     else if (id == 0x4D4D)
1009         le = 0;
1010     else {
1011         av_log(avctx, AV_LOG_ERROR, "TIFF header not found\n");
1012         return -1;
1013     }
1014     s->le = le;
1015     // TIFF_BPP is not a required tag and defaults to 1
1016     s->bppcount = s->bpp = 1;
1017     s->invert = 0;
1018     s->compr = TIFF_RAW;
1019     s->fill_order = 0;
1020     free_geotags(s);
1021     /* metadata has been destroyed from lavc internals, that pointer is not
1022      * valid anymore */
1023     s->picture.metadata = NULL;
1024
1025     // As TIFF 6.0 specification puts it "An arbitrary but carefully chosen number
1026     // that further identifies the file as a TIFF file"
1027     if (tget_short(&s->gb, le) != 42) {
1028         av_log(avctx, AV_LOG_ERROR,
1029                "The answer to life, universe and everything is not correct!\n");
1030         return -1;
1031     }
1032     // Reset these offsets so we can tell if they were set this frame
1033     s->stripsizesoff = s->strippos = 0;
1034     /* parse image file directory */
1035     off = tget_long(&s->gb, le);
1036     if (off >= UINT_MAX - 14 || avpkt->size < off + 14) {
1037         av_log(avctx, AV_LOG_ERROR, "IFD offset is greater than image size\n");
1038         return AVERROR_INVALIDDATA;
1039     }
1040     bytestream2_seek(&s->gb, off, SEEK_SET);
1041     entries = tget_short(&s->gb, le);
1042     if (bytestream2_get_bytes_left(&s->gb) < entries * 12)
1043         return AVERROR_INVALIDDATA;
1044     for (i = 0; i < entries; i++) {
1045         if (tiff_decode_tag(s) < 0)
1046             return -1;
1047     }
1048
1049     for (i = 0; i<s->geotag_count; i++) {
1050         const char *keyname = get_geokey_name(s->geotags[i].key);
1051         if (!keyname) {
1052             av_log(avctx, AV_LOG_WARNING, "Unknown or unsupported GeoTIFF key %d\n", s->geotags[i].key);
1053             continue;
1054         }
1055         if (get_geokey_type(s->geotags[i].key) != s->geotags[i].type) {
1056             av_log(avctx, AV_LOG_WARNING, "Type of GeoTIFF key %d is wrong\n", s->geotags[i].key);
1057             continue;
1058         }
1059         ret = av_dict_set(&s->picture.metadata, keyname, s->geotags[i].val, 0);
1060         if (ret<0) {
1061             av_log(avctx, AV_LOG_ERROR, "Writing metadata with key '%s' failed\n", keyname);
1062             return ret;
1063         }
1064     }
1065
1066     if (!s->strippos && !s->stripoff) {
1067         av_log(avctx, AV_LOG_ERROR, "Image data is missing\n");
1068         return -1;
1069     }
1070     /* now we have the data and may start decoding */
1071     if ((ret = init_image(s)) < 0)
1072         return ret;
1073
1074     if (s->strips == 1 && !s->stripsize) {
1075         av_log(avctx, AV_LOG_WARNING, "Image data size missing\n");
1076         s->stripsize = avpkt->size - s->stripoff;
1077     }
1078     stride = p->linesize[0];
1079     dst = p->data[0];
1080
1081     if (s->stripsizesoff) {
1082         if (s->stripsizesoff >= (unsigned)avpkt->size)
1083             return AVERROR_INVALIDDATA;
1084         bytestream2_init(&stripsizes, avpkt->data + s->stripsizesoff, avpkt->size - s->stripsizesoff);
1085     }
1086     if (s->strippos) {
1087         if (s->strippos >= (unsigned)avpkt->size)
1088             return AVERROR_INVALIDDATA;
1089         bytestream2_init(&stripdata, avpkt->data + s->strippos, avpkt->size - s->strippos);
1090     }
1091
1092     if (s->rps <= 0) {
1093         av_log(avctx, AV_LOG_ERROR, "rps %d invalid\n", s->rps);
1094         return AVERROR_INVALIDDATA;
1095     }
1096
1097     for (i = 0; i < s->height; i += s->rps) {
1098         if (s->stripsizesoff)
1099             ssize = tget(&stripsizes, s->sstype, s->le);
1100         else
1101             ssize = s->stripsize;
1102
1103         if (s->strippos)
1104             soff = tget(&stripdata, s->sot, s->le);
1105         else
1106             soff = s->stripoff;
1107
1108         if (soff > avpkt->size || ssize > avpkt->size - soff) {
1109             av_log(avctx, AV_LOG_ERROR, "Invalid strip size/offset\n");
1110             return -1;
1111         }
1112         if (tiff_unpack_strip(s, dst, stride, avpkt->data + soff, ssize,
1113                               FFMIN(s->rps, s->height - i)) < 0)
1114             break;
1115         dst += s->rps * stride;
1116     }
1117     if (s->predictor == 2) {
1118         dst = p->data[0];
1119         soff = s->bpp >> 3;
1120         ssize = s->width * soff;
1121         if (s->avctx->pix_fmt == AV_PIX_FMT_RGB48LE ||
1122             s->avctx->pix_fmt == AV_PIX_FMT_RGBA64LE) {
1123             for (i = 0; i < s->height; i++) {
1124                 for (j = soff; j < ssize; j += 2)
1125                     AV_WL16(dst + j, AV_RL16(dst + j) + AV_RL16(dst + j - soff));
1126                 dst += stride;
1127             }
1128         } else if (s->avctx->pix_fmt == AV_PIX_FMT_RGB48BE ||
1129                    s->avctx->pix_fmt == AV_PIX_FMT_RGBA64BE) {
1130             for (i = 0; i < s->height; i++) {
1131                 for (j = soff; j < ssize; j += 2)
1132                     AV_WB16(dst + j, AV_RB16(dst + j) + AV_RB16(dst + j - soff));
1133                 dst += stride;
1134             }
1135         } else {
1136             for (i = 0; i < s->height; i++) {
1137                 for (j = soff; j < ssize; j++)
1138                     dst[j] += dst[j - soff];
1139                 dst += stride;
1140             }
1141         }
1142     }
1143
1144     if (s->invert) {
1145         dst = s->picture.data[0];
1146         for (i = 0; i < s->height; i++) {
1147             for (j = 0; j < s->picture.linesize[0]; j++)
1148                 dst[j] = (s->avctx->pix_fmt == AV_PIX_FMT_PAL8 ? (1<<s->bpp) - 1 : 255) - dst[j];
1149             dst += s->picture.linesize[0];
1150         }
1151     }
1152     *picture   = s->picture;
1153     *data_size = sizeof(AVPicture);
1154
1155     return avpkt->size;
1156 }
1157
1158 static av_cold int tiff_init(AVCodecContext *avctx)
1159 {
1160     TiffContext *s = avctx->priv_data;
1161
1162     s->width = 0;
1163     s->height = 0;
1164     s->avctx = avctx;
1165     avcodec_get_frame_defaults(&s->picture);
1166     avctx->coded_frame = &s->picture;
1167     ff_lzw_decode_open(&s->lzw);
1168     ff_ccitt_unpack_init();
1169
1170     return 0;
1171 }
1172
1173 static av_cold int tiff_end(AVCodecContext *avctx)
1174 {
1175     TiffContext *const s = avctx->priv_data;
1176
1177     free_geotags(s);
1178
1179     ff_lzw_decode_close(&s->lzw);
1180     if (s->picture.data[0])
1181         avctx->release_buffer(avctx, &s->picture);
1182     return 0;
1183 }
1184
1185 AVCodec ff_tiff_decoder = {
1186     .name           = "tiff",
1187     .type           = AVMEDIA_TYPE_VIDEO,
1188     .id             = AV_CODEC_ID_TIFF,
1189     .priv_data_size = sizeof(TiffContext),
1190     .init           = tiff_init,
1191     .close          = tiff_end,
1192     .decode         = decode_frame,
1193     .capabilities   = CODEC_CAP_DR1,
1194     .long_name      = NULL_IF_CONFIG_SMALL("TIFF image"),
1195 };