git.sesse.net Git - ffmpeg/blob - libavcodec/tiff.c

   1 /*
   2  * Copyright (c) 2006 Konstantin Shishkov
   3  *
   4  * This file is part of FFmpeg.
   5  *
   6  * FFmpeg is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * FFmpeg is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with FFmpeg; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  19  */
  20
  21 /**
  22  * @file
  23  * TIFF image decoder
  24  * @author Konstantin Shishkov
  25  */
  26
  27 #include "avcodec.h"
  28 #include "bytestream.h"
  29 #if CONFIG_ZLIB
  30 #include <zlib.h>
  31 #endif
  32 #include "lzw.h"
  33 #include "tiff.h"
  34 #include "tiff_data.h"
  35 #include "faxcompr.h"
  36 #include "libavutil/common.h"
  37 #include "libavutil/intreadwrite.h"
  38 #include "libavutil/imgutils.h"
  39 #include "libavutil/avstring.h"
  40
  41 typedef struct TiffContext {
  42     AVCodecContext *avctx;
  43     AVFrame picture;
  44     GetByteContext gb;
  45
  46     int width, height;
  47     unsigned int bpp, bppcount;
  48     uint32_t palette[256];
  49     int palette_is_set;
  50     int le;
  51     enum TiffCompr compr;
  52     int invert;
  53     int fax_opts;
  54     int predictor;
  55     int fill_order;
  56
  57     int strips, rps, sstype;
  58     int sot;
  59     int stripsizesoff, stripsize, stripoff, strippos;
  60     LZWState *lzw;
  61
  62     int geotag_count;
  63     TiffGeoTag *geotags;
  64 } TiffContext;
  65
  66 static unsigned tget_short(GetByteContext *gb, int le)
  67 {
  68     unsigned v = le ? bytestream2_get_le16u(gb) : bytestream2_get_be16u(gb);
  69     return v;
  70 }
  71
  72 static unsigned tget_long(GetByteContext *gb, int le)
  73 {
  74     unsigned v = le ? bytestream2_get_le32u(gb) : bytestream2_get_be32u(gb);
  75     return v;
  76 }
  77
  78 static double tget_double(GetByteContext *gb, int le)
  79 {
  80     av_alias64 i = { .u64 = le ? bytestream2_get_le64u(gb) : bytestream2_get_be64u(gb)};
  81     return i.f64;
  82 }
  83
  84 static unsigned tget(GetByteContext *gb, int type, int le)
  85 {
  86     switch (type) {
  87     case TIFF_BYTE : return bytestream2_get_byteu(gb);
  88     case TIFF_SHORT: return tget_short(gb, le);
  89     case TIFF_LONG : return tget_long(gb, le);
  90     default        : return UINT_MAX;
  91     }
  92 }
  93
  94 static void free_geotags(TiffContext *const s)
  95 {
  96     int i;
  97     for (i = 0; i < s->geotag_count; i++) {
  98         if (s->geotags[i].val)
  99             av_freep(&s->geotags[i].val);
 100     }
 101     av_freep(&s->geotags);
 102 }
 103
 104 #define RET_GEOKEY(TYPE, array, element)\
 105     if (key >= TIFF_##TYPE##_KEY_ID_OFFSET &&\
 106         key - TIFF_##TYPE##_KEY_ID_OFFSET < FF_ARRAY_ELEMS(ff_tiff_##array##_name_type_map))\
 107         return ff_tiff_##array##_name_type_map[key - TIFF_##TYPE##_KEY_ID_OFFSET].element;
 108
 109 static const char *get_geokey_name(int key)
 110 {
 111     RET_GEOKEY(VERT, vert, name);
 112     RET_GEOKEY(PROJ, proj, name);
 113     RET_GEOKEY(GEOG, geog, name);
 114     RET_GEOKEY(CONF, conf, name);
 115
 116     return NULL;
 117 }
 118
 119 static int get_geokey_type(int key)
 120 {
 121     RET_GEOKEY(VERT, vert, type);
 122     RET_GEOKEY(PROJ, proj, type);
 123     RET_GEOKEY(GEOG, geog, type);
 124     RET_GEOKEY(CONF, conf, type);
 125
 126     return AVERROR_INVALIDDATA;
 127 }
 128
 129 static int cmp_id_key(const void *id, const void *k)
 130 {
 131     return *(const int*)id - ((const TiffGeoTagKeyName*)k)->key;
 132 }
 133
 134 static const char *search_keyval(const TiffGeoTagKeyName *keys, int n, int id)
 135 {
 136     return ((TiffGeoTagKeyName*)bsearch(&id, keys, n, sizeof(keys[0]), cmp_id_key))->name;
 137 }
 138
 139 static char *get_geokey_val(int key, int val)
 140 {
 141     char *ap;
 142
 143     if (val == TIFF_GEO_KEY_UNDEFINED)
 144         return av_strdup("undefined");
 145     if (val == TIFF_GEO_KEY_USER_DEFINED)
 146         return av_strdup("User-Defined");
 147
 148 #define RET_GEOKEY_VAL(TYPE, array)\
 149     if (val >= TIFF_##TYPE##_OFFSET &&\
 150         val - TIFF_##TYPE##_OFFSET < FF_ARRAY_ELEMS(ff_tiff_##array##_codes))\
 151         return av_strdup(ff_tiff_##array##_codes[val - TIFF_##TYPE##_OFFSET]);
 152
 153     switch (key) {
 154     case TIFF_GT_MODEL_TYPE_GEOKEY:
 155         RET_GEOKEY_VAL(GT_MODEL_TYPE, gt_model_type);
 156         break;
 157     case TIFF_GT_RASTER_TYPE_GEOKEY:
 158         RET_GEOKEY_VAL(GT_RASTER_TYPE, gt_raster_type);
 159         break;
 160     case TIFF_GEOG_LINEAR_UNITS_GEOKEY:
 161     case TIFF_PROJ_LINEAR_UNITS_GEOKEY:
 162     case TIFF_VERTICAL_UNITS_GEOKEY:
 163         RET_GEOKEY_VAL(LINEAR_UNIT, linear_unit);
 164         break;
 165     case TIFF_GEOG_ANGULAR_UNITS_GEOKEY:
 166     case TIFF_GEOG_AZIMUTH_UNITS_GEOKEY:
 167         RET_GEOKEY_VAL(ANGULAR_UNIT, angular_unit);
 168         break;
 169     case TIFF_GEOGRAPHIC_TYPE_GEOKEY:
 170         RET_GEOKEY_VAL(GCS_TYPE, gcs_type);
 171         RET_GEOKEY_VAL(GCSE_TYPE, gcse_type);
 172         break;
 173     case TIFF_GEOG_GEODETIC_DATUM_GEOKEY:
 174         RET_GEOKEY_VAL(GEODETIC_DATUM, geodetic_datum);
 175         RET_GEOKEY_VAL(GEODETIC_DATUM_E, geodetic_datum_e);
 176         break;
 177     case TIFF_GEOG_ELLIPSOID_GEOKEY:
 178         RET_GEOKEY_VAL(ELLIPSOID, ellipsoid);
 179         break;
 180     case TIFF_GEOG_PRIME_MERIDIAN_GEOKEY:
 181         RET_GEOKEY_VAL(PRIME_MERIDIAN, prime_meridian);
 182         break;
 183     case TIFF_PROJECTED_CS_TYPE_GEOKEY:
 184         return av_strdup(search_keyval(ff_tiff_proj_cs_type_codes, FF_ARRAY_ELEMS(ff_tiff_proj_cs_type_codes), val));
 185         break;
 186     case TIFF_PROJECTION_GEOKEY:
 187         return av_strdup(search_keyval(ff_tiff_projection_codes, FF_ARRAY_ELEMS(ff_tiff_projection_codes), val));
 188         break;
 189     case TIFF_PROJ_COORD_TRANS_GEOKEY:
 190         RET_GEOKEY_VAL(COORD_TRANS, coord_trans);
 191         break;
 192     case TIFF_VERTICAL_CS_TYPE_GEOKEY:
 193         RET_GEOKEY_VAL(VERT_CS, vert_cs);
 194         RET_GEOKEY_VAL(ORTHO_VERT_CS, ortho_vert_cs);
 195         break;
 196
 197     }
 198
 199     ap = av_malloc(14);
 200     if (ap)
 201         snprintf(ap, 14, "Unknown-%d", val);
 202     return ap;
 203 }
 204
 205 static char *doubles2str(double *dp, int count, const char *sep)
 206 {
 207     int i;
 208     char *ap, *ap0;
 209     if (!sep) sep = ", ";
 210     ap = av_malloc((15 + strlen(sep)) * count);
 211     if (!ap)
 212         return NULL;
 213     ap0   = ap;
 214     ap[0] = '\0';
 215     for (i = 0; i < count; i++) {
 216         int l = snprintf(ap, 15 + strlen(sep), "%f%s", dp[i], sep);
 217         ap += l;
 218     }
 219     ap0[strlen(ap0) - strlen(sep)] = '\0';
 220     return ap0;
 221 }
 222
 223 static char *shorts2str(int16_t *sp, int count, const char *sep)
 224 {
 225     int i;
 226     char *ap, *ap0;
 227     if (!sep) sep = ", ";
 228     ap = av_malloc((5 + strlen(sep)) * count);
 229     if (!ap)
 230         return NULL;
 231     ap0   = ap;
 232     ap[0] = '\0';
 233     for (i = 0; i < count; i++) {
 234         int l = snprintf(ap, 5 + strlen(sep), "%d%s", sp[i], sep);
 235         ap += l;
 236     }
 237     ap0[strlen(ap0) - strlen(sep)] = '\0';
 238     return ap0;
 239 }
 240
 241 static int add_doubles_metadata(int count,
 242                                 const char *name, const char *sep,
 243                                 TiffContext *s)
 244 {
 245     char *ap;
 246     int i;
 247     double *dp;
 248
 249     if (count >= INT_MAX / sizeof(int64_t))
 250         return AVERROR_INVALIDDATA;
 251     if (bytestream2_get_bytes_left(&s->gb) < count * sizeof(int64_t))
 252         return AVERROR_INVALIDDATA;
 253
 254     dp = av_malloc(count * sizeof(double));
 255     if (!dp)
 256         return AVERROR(ENOMEM);
 257
 258     for (i = 0; i < count; i++)
 259         dp[i] = tget_double(&s->gb, s->le);
 260     ap = doubles2str(dp, count, sep);
 261     av_freep(&dp);
 262     if (!ap)
 263         return AVERROR(ENOMEM);
 264     av_dict_set(&s->picture.metadata, name, ap, AV_DICT_DONT_STRDUP_VAL);
 265     return 0;
 266 }
 267
 268 static int add_shorts_metadata(int count, const char *name,
 269                                const char *sep, TiffContext *s)
 270 {
 271     char *ap;
 272     int i;
 273     int16_t *sp;
 274
 275     if (count >= INT_MAX / sizeof(int16_t))
 276         return AVERROR_INVALIDDATA;
 277     if (bytestream2_get_bytes_left(&s->gb) < count * sizeof(int16_t))
 278         return AVERROR_INVALIDDATA;
 279
 280     sp = av_malloc(count * sizeof(int16_t));
 281     if (!sp)
 282         return AVERROR(ENOMEM);
 283
 284     for (i = 0; i < count; i++)
 285         sp[i] = tget_short(&s->gb, s->le);
 286     ap = shorts2str(sp, count, sep);
 287     av_freep(&sp);
 288     if (!ap)
 289         return AVERROR(ENOMEM);
 290     av_dict_set(&s->picture.metadata, name, ap, AV_DICT_DONT_STRDUP_VAL);
 291     return 0;
 292 }
 293
 294 static int add_string_metadata(int count, const char *name,
 295                                TiffContext *s)
 296 {
 297     char *value;
 298
 299     if (bytestream2_get_bytes_left(&s->gb) < count)
 300         return AVERROR_INVALIDDATA;
 301
 302     value = av_malloc(count + 1);
 303     if (!value)
 304         return AVERROR(ENOMEM);
 305
 306     bytestream2_get_bufferu(&s->gb, value, count);
 307     value[count] = 0;
 308
 309     av_dict_set(&s->picture.metadata, name, value, AV_DICT_DONT_STRDUP_VAL);
 310     return 0;
 311 }
 312
 313 static int add_metadata(int count, int type,
 314                         const char *name, const char *sep, TiffContext *s)
 315 {
 316     switch(type) {
 317     case TIFF_DOUBLE: return add_doubles_metadata(count, name, sep, s);
 318     case TIFF_SHORT : return add_shorts_metadata(count, name, sep, s);
 319     case TIFF_STRING: return add_string_metadata(count, name, s);
 320     default         : return AVERROR_INVALIDDATA;
 321     };
 322 }
 323
 324 #if CONFIG_ZLIB
 325 static int tiff_uncompress(uint8_t *dst, unsigned long *len, const uint8_t *src,
 326                            int size)
 327 {
 328     z_stream zstream = { 0 };
 329     int zret;
 330
 331     zstream.next_in = src;
 332     zstream.avail_in = size;
 333     zstream.next_out = dst;
 334     zstream.avail_out = *len;
 335     zret = inflateInit(&zstream);
 336     if (zret != Z_OK) {
 337         av_log(NULL, AV_LOG_ERROR, "Inflate init error: %d\n", zret);
 338         return zret;
 339     }
 340     zret = inflate(&zstream, Z_SYNC_FLUSH);
 341     inflateEnd(&zstream);
 342     *len = zstream.total_out;
 343     return zret == Z_STREAM_END ? Z_OK : zret;
 344 }
 345 #endif
 346
 347 static void av_always_inline horizontal_fill(unsigned int bpp, uint8_t* dst,
 348                                              int usePtr, const uint8_t *src,
 349                                              uint8_t c, int width, int offset)
 350 {
 351     switch (bpp) {
 352     case 1:
 353         while (--width >= 0) {
 354             dst[(width+offset)*8+7] = (usePtr ? src[width] : c)      & 0x1;
 355             dst[(width+offset)*8+6] = (usePtr ? src[width] : c) >> 1 & 0x1;
 356             dst[(width+offset)*8+5] = (usePtr ? src[width] : c) >> 2 & 0x1;
 357             dst[(width+offset)*8+4] = (usePtr ? src[width] : c) >> 3 & 0x1;
 358             dst[(width+offset)*8+3] = (usePtr ? src[width] : c) >> 4 & 0x1;
 359             dst[(width+offset)*8+2] = (usePtr ? src[width] : c) >> 5 & 0x1;
 360             dst[(width+offset)*8+1] = (usePtr ? src[width] : c) >> 6 & 0x1;
 361             dst[(width+offset)*8+0] = (usePtr ? src[width] : c) >> 7;
 362         }
 363         break;
 364     case 2:
 365         while (--width >= 0) {
 366             dst[(width+offset)*4+3] = (usePtr ? src[width] : c) & 0x3;
 367             dst[(width+offset)*4+2] = (usePtr ? src[width] : c) >> 2 & 0x3;
 368             dst[(width+offset)*4+1] = (usePtr ? src[width] : c) >> 4 & 0x3;
 369             dst[(width+offset)*4+0] = (usePtr ? src[width] : c) >> 6;
 370         }
 371         break;
 372     case 4:
 373         while (--width >= 0) {
 374             dst[(width+offset)*2+1] = (usePtr ? src[width] : c) & 0xF;
 375             dst[(width+offset)*2+0] = (usePtr ? src[width] : c) >> 4;
 376         }
 377         break;
 378     default:
 379         if (usePtr) {
 380             memcpy(dst + offset, src, width);
 381         } else {
 382             memset(dst + offset, c, width);
 383         }
 384     }
 385 }
 386
 387 static int tiff_unpack_strip(TiffContext *s, uint8_t *dst, int stride,
 388                              const uint8_t *src, int size, int lines)
 389 {
 390     int c, line, pixels, code;
 391     const uint8_t *ssrc = src;
 392     int width = ((s->width * s->bpp) + 7) >> 3;
 393
 394     if (size <= 0)
 395         return AVERROR_INVALIDDATA;
 396
 397 #if CONFIG_ZLIB
 398     if (s->compr == TIFF_DEFLATE || s->compr == TIFF_ADOBE_DEFLATE) {
 399         uint8_t *zbuf;
 400         unsigned long outlen;
 401         int ret;
 402         outlen = width * lines;
 403         zbuf = av_malloc(outlen);
 404         if (!zbuf)
 405             return AVERROR(ENOMEM);
 406         ret = tiff_uncompress(zbuf, &outlen, src, size);
 407         if (ret != Z_OK) {
 408             av_log(s->avctx, AV_LOG_ERROR,
 409                    "Uncompressing failed (%lu of %lu) with error %d\n", outlen,
 410                    (unsigned long)width * lines, ret);
 411             av_free(zbuf);
 412             return -1;
 413         }
 414         src = zbuf;
 415         for (line = 0; line < lines; line++) {
 416             if(s->bpp < 8 && s->avctx->pix_fmt == PIX_FMT_PAL8){
 417                 horizontal_fill(s->bpp, dst, 1, src, 0, width, 0);
 418             }else{
 419                 memcpy(dst, src, width);
 420             }
 421             dst += stride;
 422             src += width;
 423         }
 424         av_free(zbuf);
 425         return 0;
 426     }
 427 #endif
 428     if (s->compr == TIFF_LZW) {
 429         if (ff_lzw_decode_init(s->lzw, 8, src, size, FF_LZW_TIFF) < 0) {
 430             av_log(s->avctx, AV_LOG_ERROR, "Error initializing LZW decoder\n");
 431             return -1;
 432         }
 433     }
 434     if (s->compr == TIFF_CCITT_RLE || s->compr == TIFF_G3
 435         || s->compr == TIFF_G4) {
 436         int i, ret = 0;
 437         uint8_t *src2 = av_malloc((unsigned)size +
 438                                   FF_INPUT_BUFFER_PADDING_SIZE);
 439
 440         if (!src2) {
 441             av_log(s->avctx, AV_LOG_ERROR,
 442                    "Error allocating temporary buffer\n");
 443             return AVERROR(ENOMEM);
 444         }
 445         if (s->fax_opts & 2) {
 446             av_log(s->avctx, AV_LOG_ERROR,
 447                    "Uncompressed fax mode is not supported (yet)\n");
 448             av_free(src2);
 449             return -1;
 450         }
 451         if (!s->fill_order) {
 452             memcpy(src2, src, size);
 453         } else {
 454             for (i = 0; i < size; i++)
 455                 src2[i] = av_reverse[src[i]];
 456         }
 457         memset(src2 + size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
 458         switch (s->compr) {
 459         case TIFF_CCITT_RLE:
 460         case TIFF_G3:
 461         case TIFF_G4:
 462             ret = ff_ccitt_unpack(s->avctx, src2, size, dst, lines, stride,
 463                                   s->compr, s->fax_opts);
 464             break;
 465         }
 466         if (s->bpp < 8 && s->avctx->pix_fmt == PIX_FMT_PAL8)
 467             for (line = 0; line < lines; line++) {
 468                 horizontal_fill(s->bpp, dst, 1, dst, 0, width, 0);
 469                 dst += stride;
 470             }
 471         av_free(src2);
 472         return ret;
 473     }
 474     for (line = 0; line < lines; line++) {
 475         if (src - ssrc > size) {
 476             av_log(s->avctx, AV_LOG_ERROR, "Source data overread\n");
 477             return -1;
 478         }
 479         switch (s->compr) {
 480         case TIFF_RAW:
 481             if (ssrc + size - src < width)
 482                 return AVERROR_INVALIDDATA;
 483             if (!s->fill_order) {
 484                 horizontal_fill(s->bpp * (s->avctx->pix_fmt == PIX_FMT_PAL8),
 485                                 dst, 1, src, 0, width, 0);
 486             } else {
 487                 int i;
 488                 for (i = 0; i < width; i++)
 489                     dst[i] = av_reverse[src[i]];
 490             }
 491             src += width;
 492             break;
 493         case TIFF_PACKBITS:
 494             for (pixels = 0; pixels < width;) {
 495                 if (ssrc + size - src < 2) {
 496                     av_log(s->avctx, AV_LOG_ERROR, "Read went out of bounds\n");
 497                     return AVERROR_INVALIDDATA;
 498                 }
 499                 code = (int8_t) * src++;
 500                 if (code >= 0) {
 501                     code++;
 502                     if (pixels + code > width) {
 503                         av_log(s->avctx, AV_LOG_ERROR,
 504                                "Copy went out of bounds\n");
 505                         return -1;
 506                     }
 507                     if (ssrc + size - src < code) {
 508                         av_log(s->avctx, AV_LOG_ERROR, "Read went out of bounds\n");
 509                         return AVERROR_INVALIDDATA;
 510                     }
 511                     horizontal_fill(s->bpp * (s->avctx->pix_fmt == PIX_FMT_PAL8),
 512                                     dst, 1, src, 0, code, pixels);
 513                     src += code;
 514                     pixels += code;
 515                 } else if (code != -128) { // -127..-1
 516                     code = (-code) + 1;
 517                     if (pixels + code > width) {
 518                         av_log(s->avctx, AV_LOG_ERROR,
 519                                "Run went out of bounds\n");
 520                         return -1;
 521                     }
 522                     c = *src++;
 523                     horizontal_fill(s->bpp * (s->avctx->pix_fmt == PIX_FMT_PAL8),
 524                                     dst, 0, NULL, c, code, pixels);
 525                     pixels += code;
 526                 }
 527             }
 528             break;
 529         case TIFF_LZW:
 530             pixels = ff_lzw_decode(s->lzw, dst, width);
 531             if (pixels < width) {
 532                 av_log(s->avctx, AV_LOG_ERROR, "Decoded only %i bytes of %i\n",
 533                        pixels, width);
 534                 return -1;
 535             }
 536             if (s->bpp < 8 && s->avctx->pix_fmt == PIX_FMT_PAL8)
 537                 horizontal_fill(s->bpp, dst, 1, dst, 0, width, 0);
 538             break;
 539         }
 540         dst += stride;
 541     }
 542     return 0;
 543 }
 544
 545 static int init_image(TiffContext *s)
 546 {
 547     int i, ret;
 548     uint32_t *pal;
 549
 550     switch (s->bpp * 10 + s->bppcount) {
 551     case 11:
 552         if (!s->palette_is_set) {
 553             s->avctx->pix_fmt = PIX_FMT_MONOBLACK;
 554             break;
 555         }
 556     case 21:
 557     case 41:
 558     case 81:
 559         s->avctx->pix_fmt = PIX_FMT_PAL8;
 560         break;
 561     case 243:
 562         s->avctx->pix_fmt = PIX_FMT_RGB24;
 563         break;
 564     case 161:
 565         s->avctx->pix_fmt = s->le ? PIX_FMT_GRAY16LE : PIX_FMT_GRAY16BE;
 566         break;
 567     case 162:
 568         s->avctx->pix_fmt = PIX_FMT_GRAY8A;
 569         break;
 570     case 324:
 571         s->avctx->pix_fmt = PIX_FMT_RGBA;
 572         break;
 573     case 483:
 574         s->avctx->pix_fmt = s->le ? PIX_FMT_RGB48LE : PIX_FMT_RGB48BE;
 575         break;
 576     case 644:
 577         s->avctx->pix_fmt = s->le ? PIX_FMT_RGBA64LE : PIX_FMT_RGBA64BE;
 578         break;
 579     default:
 580         av_log(s->avctx, AV_LOG_ERROR,
 581                "This format is not supported (bpp=%d, bppcount=%d)\n",
 582                s->bpp, s->bppcount);
 583         return AVERROR_INVALIDDATA;
 584     }
 585     if (s->width != s->avctx->width || s->height != s->avctx->height) {
 586         if ((ret = av_image_check_size(s->width, s->height, 0, s->avctx)) < 0)
 587             return ret;
 588         avcodec_set_dimensions(s->avctx, s->width, s->height);
 589     }
 590     if (s->picture.data[0])
 591         s->avctx->release_buffer(s->avctx, &s->picture);
 592     if ((ret = s->avctx->get_buffer(s->avctx, &s->picture)) < 0) {
 593         av_log(s->avctx, AV_LOG_ERROR, "get_buffer() failed\n");
 594         return ret;
 595     }
 596     if (s->avctx->pix_fmt == PIX_FMT_PAL8) {
 597         if (s->palette_is_set) {
 598             memcpy(s->picture.data[1], s->palette, sizeof(s->palette));
 599         } else {
 600             /* make default grayscale pal */
 601             pal = (uint32_t *) s->picture.data[1];
 602             for (i = 0; i < 1<<s->bpp; i++)
 603                 pal[i] = 0xFF << 24 | i * 255 / ((1<<s->bpp) - 1) * 0x010101;
 604         }
 605     }
 606     return 0;
 607 }
 608
 609 static int tiff_decode_tag(TiffContext *s)
 610 {
 611     unsigned tag, type, count, off, value = 0;
 612     int i, j, k, pos, start;
 613     int ret;
 614     uint32_t *pal;
 615     double *dp;
 616
 617     tag   = tget_short(&s->gb, s->le);
 618     type  = tget_short(&s->gb, s->le);
 619     count = tget_long(&s->gb, s->le);
 620     off   = tget_long(&s->gb, s->le);
 621     start = bytestream2_tell(&s->gb);
 622
 623     if (type == 0 || type >= FF_ARRAY_ELEMS(type_sizes)) {
 624         av_log(s->avctx, AV_LOG_DEBUG, "Unknown tiff type (%u) encountered\n",
 625                type);
 626         return 0;
 627     }
 628
 629     if (count == 1) {
 630         switch (type) {
 631         case TIFF_BYTE:
 632         case TIFF_SHORT:
 633             bytestream2_seek(&s->gb, -4, SEEK_CUR);
 634             value = tget(&s->gb, type, s->le);
 635             break;
 636         case TIFF_LONG:
 637             value = off;
 638             break;
 639         case TIFF_STRING:
 640             if (count <= 4) {
 641                 bytestream2_seek(&s->gb, -4, SEEK_CUR);
 642                 break;
 643             }
 644         default:
 645             value = UINT_MAX;
 646             bytestream2_seek(&s->gb, off, SEEK_SET);
 647         }
 648     } else {
 649         if (count <= 4 && type_sizes[type] * count <= 4) {
 650             bytestream2_seek(&s->gb, -4, SEEK_CUR);
 651         } else {
 652             bytestream2_seek(&s->gb, off, SEEK_SET);
 653         }
 654     }
 655
 656     switch (tag) {
 657     case TIFF_WIDTH:
 658         s->width = value;
 659         break;
 660     case TIFF_HEIGHT:
 661         s->height = value;
 662         break;
 663     case TIFF_BPP:
 664         s->bppcount = count;
 665         if (count > 4) {
 666             av_log(s->avctx, AV_LOG_ERROR,
 667                    "This format is not supported (bpp=%d, %d components)\n",
 668                    s->bpp, count);
 669             return -1;
 670         }
 671         if (count == 1)
 672             s->bpp = value;
 673         else {
 674             switch (type) {
 675             case TIFF_BYTE:
 676                 s->bpp = (off & 0xFF) + ((off >> 8) & 0xFF) +
 677                          ((off >> 16) & 0xFF) + ((off >> 24) & 0xFF);
 678                 break;
 679             case TIFF_SHORT:
 680             case TIFF_LONG:
 681                 s->bpp = 0;
 682                 if (bytestream2_get_bytes_left(&s->gb) < type_sizes[type] * count)
 683                     return -1;
 684                 for (i = 0; i < count; i++)
 685                     s->bpp += tget(&s->gb, type, s->le);
 686                 break;
 687             default:
 688                 s->bpp = -1;
 689             }
 690         }
 691         break;
 692     case TIFF_SAMPLES_PER_PIXEL:
 693         if (count != 1) {
 694             av_log(s->avctx, AV_LOG_ERROR,
 695                    "Samples per pixel requires a single value, many provided\n");
 696             return AVERROR_INVALIDDATA;
 697         }
 698         if (s->bppcount == 1)
 699             s->bpp *= value;
 700         s->bppcount = value;
 701         break;
 702     case TIFF_COMPR:
 703         s->compr = value;
 704         s->predictor = 0;
 705         switch (s->compr) {
 706         case TIFF_RAW:
 707         case TIFF_PACKBITS:
 708         case TIFF_LZW:
 709         case TIFF_CCITT_RLE:
 710             break;
 711         case TIFF_G3:
 712         case TIFF_G4:
 713             s->fax_opts = 0;
 714             break;
 715         case TIFF_DEFLATE:
 716         case TIFF_ADOBE_DEFLATE:
 717 #if CONFIG_ZLIB
 718             break;
 719 #else
 720             av_log(s->avctx, AV_LOG_ERROR, "Deflate: ZLib not compiled in\n");
 721             return -1;
 722 #endif
 723         case TIFF_JPEG:
 724         case TIFF_NEWJPEG:
 725             av_log(s->avctx, AV_LOG_ERROR,
 726                    "JPEG compression is not supported\n");
 727             return -1;
 728         default:
 729             av_log(s->avctx, AV_LOG_ERROR, "Unknown compression method %i\n",
 730                    s->compr);
 731             return -1;
 732         }
 733         break;
 734     case TIFF_ROWSPERSTRIP:
 735         if (type == TIFF_LONG && value == UINT_MAX)
 736             value = s->avctx->height;
 737         if (value < 1) {
 738             av_log(s->avctx, AV_LOG_ERROR,
 739                    "Incorrect value of rows per strip\n");
 740             return -1;
 741         }
 742         s->rps = value;
 743         break;
 744     case TIFF_STRIP_OFFS:
 745         if (count == 1) {
 746             s->strippos = 0;
 747             s->stripoff = value;
 748         } else
 749             s->strippos = off;
 750         s->strips = count;
 751         if (s->strips == 1)
 752             s->rps = s->height;
 753         s->sot = type;
 754         if (s->strippos > bytestream2_size(&s->gb)) {
 755             av_log(s->avctx, AV_LOG_ERROR,
 756                    "Tag referencing position outside the image\n");
 757             return -1;
 758         }
 759         break;
 760     case TIFF_STRIP_SIZE:
 761         if (count == 1) {
 762             s->stripsizesoff = 0;
 763             s->stripsize = value;
 764             s->strips = 1;
 765         } else {
 766             s->stripsizesoff = off;
 767         }
 768         s->strips = count;
 769         s->sstype = type;
 770         if (s->stripsizesoff > bytestream2_size(&s->gb)) {
 771             av_log(s->avctx, AV_LOG_ERROR,
 772                    "Tag referencing position outside the image\n");
 773             return -1;
 774         }
 775         break;
 776     case TIFF_TILE_BYTE_COUNTS:
 777     case TIFF_TILE_LENGTH:
 778     case TIFF_TILE_OFFSETS:
 779     case TIFF_TILE_WIDTH:
 780         av_log(s->avctx, AV_LOG_ERROR, "Tiled images are not supported\n");
 781         return AVERROR_PATCHWELCOME;
 782         break;
 783     case TIFF_PREDICTOR:
 784         s->predictor = value;
 785         break;
 786     case TIFF_INVERT:
 787         switch (value) {
 788         case 0:
 789             s->invert = 1;
 790             break;
 791         case 1:
 792             s->invert = 0;
 793             break;
 794         case 2:
 795         case 3:
 796             break;
 797         default:
 798             av_log(s->avctx, AV_LOG_ERROR, "Color mode %d is not supported\n",
 799                    value);
 800             return -1;
 801         }
 802         break;
 803     case TIFF_FILL_ORDER:
 804         if (value < 1 || value > 2) {
 805             av_log(s->avctx, AV_LOG_ERROR,
 806                    "Unknown FillOrder value %d, trying default one\n", value);
 807             value = 1;
 808         }
 809         s->fill_order = value - 1;
 810         break;
 811     case TIFF_PAL:
 812         pal = (uint32_t *) s->palette;
 813         off = type_sizes[type];
 814         if (count / 3 > 256 || bytestream2_get_bytes_left(&s->gb) < count / 3 * off * 3)
 815             return -1;
 816         off = (type_sizes[type] - 1) << 3;
 817         for (k = 2; k >= 0; k--) {
 818             for (i = 0; i < count / 3; i++) {
 819                 if (k == 2)
 820                     pal[i] = 0xff << 24;
 821                 j =  (tget(&s->gb, type, s->le) >> off) << (k * 8);
 822                 pal[i] |= j;
 823             }
 824         }
 825         s->palette_is_set = 1;
 826         break;
 827     case TIFF_PLANAR:
 828         if (value == 2) {
 829             av_log(s->avctx, AV_LOG_ERROR, "Planar format is not supported\n");
 830             return -1;
 831         }
 832         break;
 833     case TIFF_T4OPTIONS:
 834         if (s->compr == TIFF_G3)
 835             s->fax_opts = value;
 836         break;
 837     case TIFF_T6OPTIONS:
 838         if (s->compr == TIFF_G4)
 839             s->fax_opts = value;
 840         break;
 841 #define ADD_METADATA(count, name, sep)\
 842     if (ret = add_metadata(count, type, name, sep, s) < 0) {\
 843         av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");\
 844         return ret;\
 845     }
 846     case TIFF_MODEL_PIXEL_SCALE:
 847         ADD_METADATA(count, "ModelPixelScaleTag", NULL);
 848         break;
 849     case TIFF_MODEL_TRANSFORMATION:
 850         ADD_METADATA(count, "ModelTransformationTag", NULL);
 851         break;
 852     case TIFF_MODEL_TIEPOINT:
 853         ADD_METADATA(count, "ModelTiepointTag", NULL);
 854         break;
 855     case TIFF_GEO_KEY_DIRECTORY:
 856         ADD_METADATA(1, "GeoTIFF_Version", NULL);
 857         ADD_METADATA(2, "GeoTIFF_Key_Revision", ".");
 858         s->geotag_count   = tget_short(&s->gb, s->le);
 859         if (s->geotag_count > count / 4 - 1) {
 860             s->geotag_count = count / 4 - 1;
 861             av_log(s->avctx, AV_LOG_WARNING, "GeoTIFF key directory buffer shorter than specified\n");
 862         }
 863         if (bytestream2_get_bytes_left(&s->gb) < s->geotag_count * sizeof(int16_t) * 4)
 864             return -1;
 865         s->geotags = av_mallocz(sizeof(TiffGeoTag) * s->geotag_count);
 866         if (!s->geotags) {
 867             av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");
 868             return AVERROR(ENOMEM);
 869         }
 870         for (i = 0; i < s->geotag_count; i++) {
 871             s->geotags[i].key    = tget_short(&s->gb, s->le);
 872             s->geotags[i].type   = tget_short(&s->gb, s->le);
 873             s->geotags[i].count  = tget_short(&s->gb, s->le);
 874
 875             if (!s->geotags[i].type)
 876                 s->geotags[i].val  = get_geokey_val(s->geotags[i].key, tget_short(&s->gb, s->le));
 877             else
 878                 s->geotags[i].offset = tget_short(&s->gb, s->le);
 879         }
 880         break;
 881     case TIFF_GEO_DOUBLE_PARAMS:
 882         if (count >= INT_MAX / sizeof(int64_t))
 883             return AVERROR_INVALIDDATA;
 884         if (bytestream2_get_bytes_left(&s->gb) < count * sizeof(int64_t))
 885             return AVERROR_INVALIDDATA;
 886         dp = av_malloc(count * sizeof(double));
 887         if (!dp) {
 888             av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");
 889             return AVERROR(ENOMEM);
 890         }
 891         for (i = 0; i < count; i++)
 892             dp[i] = tget_double(&s->gb, s->le);
 893         for (i = 0; i < s->geotag_count; i++) {
 894             if (s->geotags[i].type == TIFF_GEO_DOUBLE_PARAMS) {
 895                 if (s->geotags[i].count == 0
 896                     || s->geotags[i].offset + s->geotags[i].count > count) {
 897                     av_log(s->avctx, AV_LOG_WARNING, "Invalid GeoTIFF key %d\n", s->geotags[i].key);
 898                 } else {
 899                     char *ap = doubles2str(&dp[s->geotags[i].offset], s->geotags[i].count, ", ");
 900                     if (!ap) {
 901                         av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");
 902                         av_freep(&dp);
 903                         return AVERROR(ENOMEM);
 904                     }
 905                     s->geotags[i].val = ap;
 906                 }
 907             }
 908         }
 909         av_freep(&dp);
 910         break;
 911     case TIFF_GEO_ASCII_PARAMS:
 912         pos = bytestream2_tell(&s->gb);
 913         for (i = 0; i < s->geotag_count; i++) {
 914             if (s->geotags[i].type == TIFF_GEO_ASCII_PARAMS) {
 915                 if (s->geotags[i].count == 0
 916                     || s->geotags[i].offset +  s->geotags[i].count > count) {
 917                     av_log(s->avctx, AV_LOG_WARNING, "Invalid GeoTIFF key %d\n", s->geotags[i].key);
 918                 } else {
 919                     char *ap;
 920
 921                     bytestream2_seek(&s->gb, pos + s->geotags[i].offset, SEEK_SET);
 922                     if (bytestream2_get_bytes_left(&s->gb) < s->geotags[i].count)
 923                         return -1;
 924                     ap = av_malloc(s->geotags[i].count);
 925                     if (!ap) {
 926                         av_log(s->avctx, AV_LOG_ERROR, "Error allocating temporary buffer\n");
 927                         return AVERROR(ENOMEM);
 928                     }
 929                     bytestream2_get_bufferu(&s->gb, ap, s->geotags[i].count);
 930                     ap[s->geotags[i].count - 1] = '\0'; //replace the "|" delimiter with a 0 byte
 931                     s->geotags[i].val = ap;
 932                 }
 933             }
 934         }
 935         break;
 936     case TIFF_ARTIST:
 937         ADD_METADATA(count, "artist", NULL);
 938         break;
 939     case TIFF_COPYRIGHT:
 940         ADD_METADATA(count, "copyright", NULL);
 941         break;
 942     case TIFF_DATE:
 943         ADD_METADATA(count, "date", NULL);
 944         break;
 945     case TIFF_DOCUMENT_NAME:
 946         ADD_METADATA(count, "document_name", NULL);
 947         break;
 948     case TIFF_HOST_COMPUTER:
 949         ADD_METADATA(count, "computer", NULL);
 950         break;
 951     case TIFF_IMAGE_DESCRIPTION:
 952         ADD_METADATA(count, "description", NULL);
 953         break;
 954     case TIFF_MAKE:
 955         ADD_METADATA(count, "make", NULL);
 956         break;
 957     case TIFF_MODEL:
 958         ADD_METADATA(count, "model", NULL);
 959         break;
 960     case TIFF_PAGE_NAME:
 961         ADD_METADATA(count, "page_name", NULL);
 962         break;
 963     case TIFF_PAGE_NUMBER:
 964         ADD_METADATA(count, "page_number", " / ");
 965         break;
 966     case TIFF_SOFTWARE_NAME:
 967         ADD_METADATA(count, "software", NULL);
 968         break;
 969     default:
 970         av_log(s->avctx, AV_LOG_DEBUG, "Unknown or unsupported tag %d/0X%0X\n",
 971                tag, tag);
 972     }
 973     bytestream2_seek(&s->gb, start, SEEK_SET);
 974     return 0;
 975 }
 976
 977 static int decode_frame(AVCodecContext *avctx,
 978                         void *data, int *data_size, AVPacket *avpkt)
 979 {
 980     TiffContext *const s = avctx->priv_data;
 981     AVFrame *picture = data;
 982     AVFrame *const p = &s->picture;
 983     unsigned off;
 984     int id, le, ret;
 985     int i, j, entries;
 986     int stride;
 987     unsigned soff, ssize;
 988     uint8_t *dst;
 989     GetByteContext stripsizes;
 990     GetByteContext stripdata;
 991
 992     bytestream2_init(&s->gb, avpkt->data, avpkt->size);
 993
 994     //parse image header
 995     if (avpkt->size < 8)
 996         return AVERROR_INVALIDDATA;
 997     id = bytestream2_get_le16u(&s->gb);
 998     if (id == 0x4949)
 999         le = 1;
1000     else if (id == 0x4D4D)
1001         le = 0;
1002     else {
1003         av_log(avctx, AV_LOG_ERROR, "TIFF header not found\n");
1004         return -1;
1005     }
1006     s->le = le;
1007     s->invert = 0;
1008     s->compr = TIFF_RAW;
1009     s->fill_order = 0;
1010     free_geotags(s);
1011     /* free existing metadata */
1012     av_dict_free(&s->picture.metadata);
1013
1014     // As TIFF 6.0 specification puts it "An arbitrary but carefully chosen number
1015     // that further identifies the file as a TIFF file"
1016     if (tget_short(&s->gb, le) != 42) {
1017         av_log(avctx, AV_LOG_ERROR,
1018                "The answer to life, universe and everything is not correct!\n");
1019         return -1;
1020     }
1021     // Reset these offsets so we can tell if they were set this frame
1022     s->stripsizesoff = s->strippos = 0;
1023     /* parse image file directory */
1024     off = tget_long(&s->gb, le);
1025     if (off >= UINT_MAX - 14 || avpkt->size < off + 14) {
1026         av_log(avctx, AV_LOG_ERROR, "IFD offset is greater than image size\n");
1027         return AVERROR_INVALIDDATA;
1028     }
1029     bytestream2_seek(&s->gb, off, SEEK_SET);
1030     entries = tget_short(&s->gb, le);
1031     if (bytestream2_get_bytes_left(&s->gb) < entries * 12)
1032         return AVERROR_INVALIDDATA;
1033     for (i = 0; i < entries; i++) {
1034         if (tiff_decode_tag(s) < 0)
1035             return -1;
1036     }
1037
1038     for (i = 0; i<s->geotag_count; i++) {
1039         const char *keyname = get_geokey_name(s->geotags[i].key);
1040         if (!keyname) {
1041             av_log(avctx, AV_LOG_WARNING, "Unknown or unsupported GeoTIFF key %d\n", s->geotags[i].key);
1042             continue;
1043         }
1044         if (get_geokey_type(s->geotags[i].key) != s->geotags[i].type) {
1045             av_log(avctx, AV_LOG_WARNING, "Type of GeoTIFF key %d is wrong\n", s->geotags[i].key);
1046             continue;
1047         }
1048         ret = av_dict_set(&s->picture.metadata, keyname, s->geotags[i].val, 0);
1049         if (ret<0) {
1050             av_log(avctx, AV_LOG_ERROR, "Writing metadata with key '%s' failed\n", keyname);
1051             return ret;
1052         }
1053     }
1054
1055     if (!s->strippos && !s->stripoff) {
1056         av_log(avctx, AV_LOG_ERROR, "Image data is missing\n");
1057         return -1;
1058     }
1059     /* now we have the data and may start decoding */
1060     if ((ret = init_image(s)) < 0)
1061         return ret;
1062
1063     if (s->strips == 1 && !s->stripsize) {
1064         av_log(avctx, AV_LOG_WARNING, "Image data size missing\n");
1065         s->stripsize = avpkt->size - s->stripoff;
1066     }
1067     stride = p->linesize[0];
1068     dst = p->data[0];
1069
1070     if (s->stripsizesoff) {
1071         if (s->stripsizesoff >= avpkt->size)
1072             return AVERROR_INVALIDDATA;
1073         bytestream2_init(&stripsizes, avpkt->data + s->stripsizesoff, avpkt->size - s->stripsizesoff);
1074     }
1075     if (s->strippos) {
1076         if (s->strippos >= avpkt->size)
1077             return AVERROR_INVALIDDATA;
1078         bytestream2_init(&stripdata, avpkt->data + s->strippos, avpkt->size - s->strippos);
1079     }
1080
1081     for (i = 0; i < s->height; i += s->rps) {
1082         if (s->stripsizesoff)
1083             ssize = tget(&stripsizes, s->sstype, s->le);
1084         else
1085             ssize = s->stripsize;
1086
1087         if (s->strippos)
1088             soff = tget(&stripdata, s->sot, s->le);
1089         else
1090             soff = s->stripoff;
1091
1092         if (soff > avpkt->size || ssize > avpkt->size - soff) {
1093             av_log(avctx, AV_LOG_ERROR, "Invalid strip size/offset\n");
1094             return -1;
1095         }
1096         if (tiff_unpack_strip(s, dst, stride, avpkt->data + soff, ssize,
1097                               FFMIN(s->rps, s->height - i)) < 0)
1098             break;
1099         dst += s->rps * stride;
1100     }
1101     if (s->predictor == 2) {
1102         dst = p->data[0];
1103         soff = s->bpp >> 3;
1104         ssize = s->width * soff;
1105         if (s->avctx->pix_fmt == PIX_FMT_RGB48LE ||
1106             s->avctx->pix_fmt == PIX_FMT_RGBA64LE) {
1107             for (i = 0; i < s->height; i++) {
1108                 for (j = soff; j < ssize; j += 2)
1109                     AV_WL16(dst + j, AV_RL16(dst + j) + AV_RL16(dst + j - soff));
1110                 dst += stride;
1111             }
1112         } else if (s->avctx->pix_fmt == PIX_FMT_RGB48BE ||
1113                    s->avctx->pix_fmt == PIX_FMT_RGBA64BE) {
1114             for (i = 0; i < s->height; i++) {
1115                 for (j = soff; j < ssize; j += 2)
1116                     AV_WB16(dst + j, AV_RB16(dst + j) + AV_RB16(dst + j - soff));
1117                 dst += stride;
1118             }
1119         } else {
1120             for (i = 0; i < s->height; i++) {
1121                 for (j = soff; j < ssize; j++)
1122                     dst[j] += dst[j - soff];
1123                 dst += stride;
1124             }
1125         }
1126     }
1127
1128     if (s->invert) {
1129         dst = s->picture.data[0];
1130         for (i = 0; i < s->height; i++) {
1131             for (j = 0; j < s->picture.linesize[0]; j++)
1132                 dst[j] = (s->avctx->pix_fmt == PIX_FMT_PAL8 ? (1<<s->bpp) - 1 : 255) - dst[j];
1133             dst += s->picture.linesize[0];
1134         }
1135     }
1136     *picture   = s->picture;
1137     *data_size = sizeof(AVPicture);
1138
1139     return avpkt->size;
1140 }
1141
1142 static av_cold int tiff_init(AVCodecContext *avctx)
1143 {
1144     TiffContext *s = avctx->priv_data;
1145
1146     s->width = 0;
1147     s->height = 0;
1148     s->avctx = avctx;
1149     avcodec_get_frame_defaults(&s->picture);
1150     avctx->coded_frame = &s->picture;
1151     ff_lzw_decode_open(&s->lzw);
1152     ff_ccitt_unpack_init();
1153
1154     return 0;
1155 }
1156
1157 static av_cold int tiff_end(AVCodecContext *avctx)
1158 {
1159     TiffContext *const s = avctx->priv_data;
1160
1161     free_geotags(s);
1162     if (avctx->coded_frame && avctx->coded_frame->metadata)
1163         av_dict_free(&avctx->coded_frame->metadata);
1164
1165     ff_lzw_decode_close(&s->lzw);
1166     if (s->picture.data[0])
1167         avctx->release_buffer(avctx, &s->picture);
1168     return 0;
1169 }
1170
1171 AVCodec ff_tiff_decoder = {
1172     .name           = "tiff",
1173     .type           = AVMEDIA_TYPE_VIDEO,
1174     .id             = AV_CODEC_ID_TIFF,
1175     .priv_data_size = sizeof(TiffContext),
1176     .init           = tiff_init,
1177     .close          = tiff_end,
1178     .decode         = decode_frame,
1179     .capabilities   = CODEC_CAP_DR1,
1180     .long_name      = NULL_IF_CONFIG_SMALL("TIFF image"),
1181 };