git.sesse.net Git - ffmpeg/blob - libavcodec/tiff.c

   1 /*
   2  * TIFF image decoder
   3  * Copyright (c) 2006 Konstantin Shishkov
   4  *
   5  * This file is part of Libav.
   6  *
   7  * Libav is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * Libav is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with Libav; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 /**
  23  * @file
  24  * TIFF image decoder
  25  * @author Konstantin Shishkov
  26  */
  27
  28 #include "config.h"
  29 #if CONFIG_ZLIB
  30 #include <zlib.h>
  31 #endif
  32
  33 #include "libavutil/attributes.h"
  34 #include "libavutil/intreadwrite.h"
  35 #include "libavutil/imgutils.h"
  36 #include "avcodec.h"
  37 #include "bytestream.h"
  38 #include "faxcompr.h"
  39 #include "internal.h"
  40 #include "lzw.h"
  41 #include "mathops.h"
  42 #include "tiff.h"
  43
  44 typedef struct TiffContext {
  45     AVCodecContext *avctx;
  46     GetByteContext gb;
  47
  48     int width, height;
  49     unsigned int bpp, bppcount;
  50     uint32_t palette[256];
  51     int palette_is_set;
  52     int le;
  53     enum TiffCompr compr;
  54     enum TiffPhotometric photometric;
  55     int planar;
  56     int fax_opts;
  57     int predictor;
  58     int fill_order;
  59
  60     int strips, rps, sstype;
  61     int sot;
  62     int stripsizesoff, stripsize, stripoff, strippos;
  63     LZWState *lzw;
  64 } TiffContext;
  65
  66 static unsigned tget_short(GetByteContext *gb, int le)
  67 {
  68     return le ? bytestream2_get_le16(gb) : bytestream2_get_be16(gb);
  69 }
  70
  71 static unsigned tget_long(GetByteContext *gb, int le)
  72 {
  73     return le ? bytestream2_get_le32(gb) : bytestream2_get_be32(gb);
  74 }
  75
  76 static unsigned tget(GetByteContext *gb, int type, int le)
  77 {
  78     switch (type) {
  79     case TIFF_BYTE:  return bytestream2_get_byte(gb);
  80     case TIFF_SHORT: return tget_short(gb, le);
  81     case TIFF_LONG:  return tget_long(gb, le);
  82     default:         return UINT_MAX;
  83     }
  84 }
  85
  86 #if CONFIG_ZLIB
  87 static int tiff_uncompress(uint8_t *dst, unsigned long *len, const uint8_t *src,
  88                            int size)
  89 {
  90     z_stream zstream = { 0 };
  91     int zret;
  92
  93     zstream.next_in   = src;
  94     zstream.avail_in  = size;
  95     zstream.next_out  = dst;
  96     zstream.avail_out = *len;
  97     zret              = inflateInit(&zstream);
  98     if (zret != Z_OK) {
  99         av_log(NULL, AV_LOG_ERROR, "Inflate init error: %d\n", zret);
 100         return zret;
 101     }
 102     zret = inflate(&zstream, Z_SYNC_FLUSH);
 103     inflateEnd(&zstream);
 104     *len = zstream.total_out;
 105     return zret == Z_STREAM_END ? Z_OK : zret;
 106 }
 107
 108 static int tiff_unpack_zlib(TiffContext *s, uint8_t *dst, int stride,
 109                             const uint8_t *src, int size,
 110                             int width, int lines)
 111 {
 112     uint8_t *zbuf;
 113     unsigned long outlen;
 114     int ret, line;
 115     outlen = width * lines;
 116     zbuf   = av_malloc(outlen);
 117     if (!zbuf)
 118         return AVERROR(ENOMEM);
 119     ret = tiff_uncompress(zbuf, &outlen, src, size);
 120     if (ret != Z_OK) {
 121         av_log(s->avctx, AV_LOG_ERROR,
 122                "Uncompressing failed (%lu of %lu) with error %d\n", outlen,
 123                (unsigned long)width * lines, ret);
 124         av_free(zbuf);
 125         return AVERROR_UNKNOWN;
 126     }
 127     src = zbuf;
 128     for (line = 0; line < lines; line++) {
 129         memcpy(dst, src, width);
 130         dst += stride;
 131         src += width;
 132     }
 133     av_free(zbuf);
 134     return 0;
 135 }
 136 #endif
 137
 138
 139 static int tiff_unpack_fax(TiffContext *s, uint8_t *dst, int stride,
 140                            const uint8_t *src, int size, int lines)
 141 {
 142     int i, ret = 0;
 143     uint8_t *src2 = av_malloc((unsigned)size +
 144                               AV_INPUT_BUFFER_PADDING_SIZE);
 145
 146     if (!src2) {
 147         av_log(s->avctx, AV_LOG_ERROR,
 148                "Error allocating temporary buffer\n");
 149         return AVERROR(ENOMEM);
 150     }
 151     if (s->fax_opts & 2) {
 152         avpriv_request_sample(s->avctx, "Uncompressed fax mode");
 153         av_free(src2);
 154         return AVERROR_PATCHWELCOME;
 155     }
 156     if (!s->fill_order) {
 157         memcpy(src2, src, size);
 158     } else {
 159         for (i = 0; i < size; i++)
 160             src2[i] = ff_reverse[src[i]];
 161     }
 162     memset(src2 + size, 0, AV_INPUT_BUFFER_PADDING_SIZE);
 163     ret = ff_ccitt_unpack(s->avctx, src2, size, dst, lines, stride,
 164                           s->compr, s->fax_opts);
 165     av_free(src2);
 166     return ret;
 167 }
 168
 169 static int tiff_unpack_strip(TiffContext *s, uint8_t *dst, int stride,
 170                              const uint8_t *src, int size, int lines)
 171 {
 172     PutByteContext pb;
 173     int c, line, pixels, code, ret;
 174     int width = ((s->width * s->bpp) + 7) >> 3;
 175
 176     if (s->planar)
 177         width /= s->bppcount;
 178
 179     if (size <= 0)
 180         return AVERROR_INVALIDDATA;
 181
 182     if (s->compr == TIFF_DEFLATE || s->compr == TIFF_ADOBE_DEFLATE) {
 183 #if CONFIG_ZLIB
 184         return tiff_unpack_zlib(s, dst, stride, src, size, width, lines);
 185 #else
 186         av_log(s->avctx, AV_LOG_ERROR,
 187                "zlib support not enabled, "
 188                "deflate compression not supported\n");
 189         return AVERROR(ENOSYS);
 190 #endif
 191     }
 192     if (s->compr == TIFF_LZW) {
 193         if ((ret = ff_lzw_decode_init(s->lzw, 8, src, size, FF_LZW_TIFF)) < 0) {
 194             av_log(s->avctx, AV_LOG_ERROR, "Error initializing LZW decoder\n");
 195             return ret;
 196         }
 197         for (line = 0; line < lines; line++) {
 198             pixels = ff_lzw_decode(s->lzw, dst, width);
 199             if (pixels < width) {
 200                 av_log(s->avctx, AV_LOG_ERROR, "Decoded only %i bytes of %i\n",
 201                        pixels, width);
 202                 return AVERROR_INVALIDDATA;
 203             }
 204             dst += stride;
 205         }
 206         return 0;
 207     }
 208     if (s->compr == TIFF_CCITT_RLE ||
 209         s->compr == TIFF_G3        ||
 210         s->compr == TIFF_G4) {
 211         return tiff_unpack_fax(s, dst, stride, src, size, lines);
 212     }
 213
 214     bytestream2_init(&s->gb, src, size);
 215     bytestream2_init_writer(&pb, dst, stride * lines);
 216
 217     for (line = 0; line < lines; line++) {
 218         if (bytestream2_get_bytes_left(&s->gb) == 0 || bytestream2_get_eof(&pb))
 219             break;
 220         bytestream2_seek_p(&pb, stride * line, SEEK_SET);
 221         switch (s->compr) {
 222         case TIFF_RAW:
 223             if (!s->fill_order) {
 224                 bytestream2_copy_buffer(&pb, &s->gb, width);
 225             } else {
 226                 int i;
 227                 for (i = 0; i < width; i++)
 228                     bytestream2_put_byte(&pb, ff_reverse[bytestream2_get_byte(&s->gb)]);
 229             }
 230             break;
 231         case TIFF_PACKBITS:
 232             for (pixels = 0; pixels < width;) {
 233                 code = ff_u8_to_s8(bytestream2_get_byte(&s->gb));
 234                 if (code >= 0) {
 235                     code++;
 236                     bytestream2_copy_buffer(&pb, &s->gb, code);
 237                     pixels += code;
 238                 } else if (code != -128) { // -127..-1
 239                     code = (-code) + 1;
 240                     c    = bytestream2_get_byte(&s->gb);
 241                     bytestream2_set_buffer(&pb, c, code);
 242                     pixels += code;
 243                 }
 244             }
 245             break;
 246         }
 247     }
 248     return 0;
 249 }
 250
 251 static int init_image(TiffContext *s, AVFrame *frame)
 252 {
 253     int ret;
 254
 255     // make sure there is no aliasing in the following switch
 256     if (s->bpp >= 100 || s->bppcount >= 10) {
 257         av_log(s->avctx, AV_LOG_ERROR,
 258                "Unsupported image parameters: bpp=%d, bppcount=%d\n",
 259                s->bpp, s->bppcount);
 260         return AVERROR_INVALIDDATA;
 261     }
 262
 263     switch (s->planar * 1000 + s->bpp * 10 + s->bppcount) {
 264     case 11:
 265         s->avctx->pix_fmt = AV_PIX_FMT_MONOBLACK;
 266         break;
 267     case 81:
 268         s->avctx->pix_fmt = s->palette_is_set ? AV_PIX_FMT_PAL8 : AV_PIX_FMT_GRAY8;
 269         break;
 270     case 243:
 271         s->avctx->pix_fmt = AV_PIX_FMT_RGB24;
 272         break;
 273     case 161:
 274         s->avctx->pix_fmt = s->le ? AV_PIX_FMT_GRAY16LE : AV_PIX_FMT_GRAY16BE;
 275         break;
 276     case 162:
 277         s->avctx->pix_fmt = AV_PIX_FMT_YA8;
 278         break;
 279     case 322:
 280         s->avctx->pix_fmt = s->le ? AV_PIX_FMT_YA16LE : AV_PIX_FMT_YA16BE;
 281         break;
 282     case 324:
 283         s->avctx->pix_fmt = AV_PIX_FMT_RGBA;
 284         break;
 285     case 483:
 286         s->avctx->pix_fmt = s->le ? AV_PIX_FMT_RGB48LE : AV_PIX_FMT_RGB48BE;
 287         break;
 288     case 644:
 289         s->avctx->pix_fmt = s->le ? AV_PIX_FMT_RGBA64LE : AV_PIX_FMT_RGBA64BE;
 290         break;
 291     case 1243:
 292         s->avctx->pix_fmt = AV_PIX_FMT_GBRP;
 293         break;
 294     case 1324:
 295         s->avctx->pix_fmt = AV_PIX_FMT_GBRAP;
 296         break;
 297     case 1483:
 298         s->avctx->pix_fmt = s->le ? AV_PIX_FMT_GBRP16LE : AV_PIX_FMT_GBRP16BE;
 299         break;
 300     case 1644:
 301         s->avctx->pix_fmt = s->le ? AV_PIX_FMT_GBRAP16LE : AV_PIX_FMT_GBRAP16BE;
 302         break;
 303     default:
 304         av_log(s->avctx, AV_LOG_ERROR,
 305                "This format is not supported (bpp=%d, bppcount=%d)\n",
 306                s->bpp, s->bppcount);
 307         return AVERROR_INVALIDDATA;
 308     }
 309     if (s->width != s->avctx->width || s->height != s->avctx->height) {
 310         ret = ff_set_dimensions(s->avctx, s->width, s->height);
 311         if (ret < 0)
 312             return ret;
 313     }
 314     if ((ret = ff_get_buffer(s->avctx, frame, 0)) < 0) {
 315         av_log(s->avctx, AV_LOG_ERROR, "get_buffer() failed\n");
 316         return ret;
 317     }
 318     if (s->avctx->pix_fmt == AV_PIX_FMT_PAL8) {
 319         memcpy(frame->data[1], s->palette, sizeof(s->palette));
 320     }
 321     return 0;
 322 }
 323
 324 static int tiff_decode_tag(TiffContext *s)
 325 {
 326     unsigned tag, type, count, off, value = 0;
 327     int i, start;
 328
 329     if (bytestream2_get_bytes_left(&s->gb) < 12)
 330         return AVERROR_INVALIDDATA;
 331     tag   = tget_short(&s->gb, s->le);
 332     type  = tget_short(&s->gb, s->le);
 333     count = tget_long(&s->gb, s->le);
 334     off   = tget_long(&s->gb, s->le);
 335     start = bytestream2_tell(&s->gb);
 336
 337     if (type == 0 || type >= FF_ARRAY_ELEMS(type_sizes)) {
 338         av_log(s->avctx, AV_LOG_DEBUG, "Unknown tiff type (%u) encountered\n",
 339                type);
 340         return 0;
 341     }
 342
 343     if (count == 1) {
 344         switch (type) {
 345         case TIFF_BYTE:
 346         case TIFF_SHORT:
 347             bytestream2_seek(&s->gb, -4, SEEK_CUR);
 348             value = tget(&s->gb, type, s->le);
 349             break;
 350         case TIFF_LONG:
 351             value = off;
 352             break;
 353         case TIFF_STRING:
 354             if (count <= 4) {
 355                 bytestream2_seek(&s->gb, -4, SEEK_CUR);
 356                 break;
 357             }
 358         default:
 359             value = UINT_MAX;
 360             bytestream2_seek(&s->gb, off, SEEK_SET);
 361         }
 362     } else {
 363         if (count <= 4 && type_sizes[type] * count <= 4)
 364             bytestream2_seek(&s->gb, -4, SEEK_CUR);
 365         else
 366             bytestream2_seek(&s->gb, off, SEEK_SET);
 367     }
 368
 369     switch (tag) {
 370     case TIFF_WIDTH:
 371         s->width = value;
 372         break;
 373     case TIFF_HEIGHT:
 374         s->height = value;
 375         break;
 376     case TIFF_BPP:
 377         s->bppcount = count;
 378         if (count > 4) {
 379             av_log(s->avctx, AV_LOG_ERROR,
 380                    "This format is not supported (bpp=%d, %d components)\n",
 381                    s->bpp, count);
 382             return AVERROR_INVALIDDATA;
 383         }
 384         if (count == 1)
 385             s->bpp = value;
 386         else {
 387             switch (type) {
 388             case TIFF_BYTE:
 389                 s->bpp = (off & 0xFF) + ((off >> 8) & 0xFF) +
 390                          ((off >> 16) & 0xFF) + ((off >> 24) & 0xFF);
 391                 break;
 392             case TIFF_SHORT:
 393             case TIFF_LONG:
 394                 s->bpp = 0;
 395                 for (i = 0; i < count; i++)
 396                     s->bpp += tget(&s->gb, type, s->le);
 397                 break;
 398             default:
 399                 s->bpp = -1;
 400             }
 401         }
 402         break;
 403     case TIFF_SAMPLES_PER_PIXEL:
 404         if (count != 1) {
 405             av_log(s->avctx, AV_LOG_ERROR,
 406                    "Samples per pixel requires a single value, many provided\n");
 407             return AVERROR_INVALIDDATA;
 408         }
 409         if (s->bppcount == 1)
 410             s->bpp *= value;
 411         s->bppcount = value;
 412         break;
 413     case TIFF_COMPR:
 414         s->compr     = value;
 415         s->predictor = 0;
 416         switch (s->compr) {
 417         case TIFF_RAW:
 418         case TIFF_PACKBITS:
 419         case TIFF_LZW:
 420         case TIFF_CCITT_RLE:
 421             break;
 422         case TIFF_G3:
 423         case TIFF_G4:
 424             s->fax_opts = 0;
 425             break;
 426         case TIFF_DEFLATE:
 427         case TIFF_ADOBE_DEFLATE:
 428 #if CONFIG_ZLIB
 429             break;
 430 #else
 431             av_log(s->avctx, AV_LOG_ERROR, "Deflate: ZLib not compiled in\n");
 432             return AVERROR(ENOSYS);
 433 #endif
 434         case TIFF_JPEG:
 435         case TIFF_NEWJPEG:
 436             avpriv_report_missing_feature(s->avctx, "JPEG compression");
 437             return AVERROR_PATCHWELCOME;
 438         case TIFF_LZMA:
 439             avpriv_report_missing_feature(s->avctx, "LZMA compression");
 440             return AVERROR_PATCHWELCOME;
 441         default:
 442             av_log(s->avctx, AV_LOG_ERROR, "Unknown compression method %i\n",
 443                    s->compr);
 444             return AVERROR_INVALIDDATA;
 445         }
 446         break;
 447     case TIFF_ROWSPERSTRIP:
 448         if (!value || (type == TIFF_LONG && value == UINT_MAX))
 449             value = s->height;
 450         s->rps = FFMIN(value, s->height);
 451         break;
 452     case TIFF_STRIP_OFFS:
 453         if (count == 1) {
 454             s->strippos = 0;
 455             s->stripoff = value;
 456         } else
 457             s->strippos = off;
 458         s->strips = count;
 459         if (s->strips == 1)
 460             s->rps = s->height;
 461         s->sot = type;
 462         break;
 463     case TIFF_STRIP_SIZE:
 464         if (count == 1) {
 465             s->stripsizesoff = 0;
 466             s->stripsize     = value;
 467             s->strips        = 1;
 468         } else {
 469             s->stripsizesoff = off;
 470         }
 471         s->strips = count;
 472         s->sstype = type;
 473         break;
 474     case TIFF_PREDICTOR:
 475         s->predictor = value;
 476         break;
 477     case TIFF_PHOTOMETRIC:
 478         switch (value) {
 479         case TIFF_PHOTOMETRIC_WHITE_IS_ZERO:
 480         case TIFF_PHOTOMETRIC_BLACK_IS_ZERO:
 481         case TIFF_PHOTOMETRIC_RGB:
 482         case TIFF_PHOTOMETRIC_PALETTE:
 483             s->photometric = value;
 484             break;
 485         case TIFF_PHOTOMETRIC_ALPHA_MASK:
 486         case TIFF_PHOTOMETRIC_SEPARATED:
 487         case TIFF_PHOTOMETRIC_YCBCR:
 488         case TIFF_PHOTOMETRIC_CIE_LAB:
 489         case TIFF_PHOTOMETRIC_ICC_LAB:
 490         case TIFF_PHOTOMETRIC_ITU_LAB:
 491         case TIFF_PHOTOMETRIC_CFA:
 492         case TIFF_PHOTOMETRIC_LOG_L:
 493         case TIFF_PHOTOMETRIC_LOG_LUV:
 494         case TIFF_PHOTOMETRIC_LINEAR_RAW:
 495             avpriv_report_missing_feature(s->avctx,
 496                                           "PhotometricInterpretation 0x%04X",
 497                                           value);
 498             return AVERROR_PATCHWELCOME;
 499         default:
 500             av_log(s->avctx, AV_LOG_ERROR, "PhotometricInterpretation %u is "
 501                    "unknown\n", value);
 502             return AVERROR_INVALIDDATA;
 503         }
 504         break;
 505     case TIFF_FILL_ORDER:
 506         if (value < 1 || value > 2) {
 507             av_log(s->avctx, AV_LOG_ERROR,
 508                    "Unknown FillOrder value %d, trying default one\n", value);
 509             value = 1;
 510         }
 511         s->fill_order = value - 1;
 512         break;
 513     case TIFF_PAL: {
 514         GetByteContext pal_gb[3];
 515         off = type_sizes[type];
 516         if (count / 3 > 256 ||
 517             bytestream2_get_bytes_left(&s->gb) < count / 3 * off * 3)
 518             return AVERROR_INVALIDDATA;
 519         pal_gb[0] = pal_gb[1] = pal_gb[2] = s->gb;
 520         bytestream2_skip(&pal_gb[1], count / 3 * off);
 521         bytestream2_skip(&pal_gb[2], count / 3 * off * 2);
 522         off = (type_sizes[type] - 1) << 3;
 523         for (i = 0; i < count / 3; i++) {
 524             uint32_t p = 0xFF000000;
 525             p |= (tget(&pal_gb[0], type, s->le) >> off) << 16;
 526             p |= (tget(&pal_gb[1], type, s->le) >> off) << 8;
 527             p |=  tget(&pal_gb[2], type, s->le) >> off;
 528             s->palette[i] = p;
 529         }
 530         s->palette_is_set = 1;
 531         break;
 532     }
 533     case TIFF_PLANAR:
 534         s->planar = value == 2;
 535         break;
 536     case TIFF_T4OPTIONS:
 537         if (s->compr == TIFF_G3)
 538             s->fax_opts = value;
 539         break;
 540     case TIFF_T6OPTIONS:
 541         if (s->compr == TIFF_G4)
 542             s->fax_opts = value;
 543         break;
 544     default:
 545         if (s->avctx->err_recognition & AV_EF_EXPLODE) {
 546             av_log(s->avctx, AV_LOG_ERROR,
 547                    "Unknown or unsupported tag %d/0X%0X\n",
 548                    tag, tag);
 549             return AVERROR_INVALIDDATA;
 550         }
 551     }
 552     bytestream2_seek(&s->gb, start, SEEK_SET);
 553     return 0;
 554 }
 555
 556 static int decode_frame(AVCodecContext *avctx,
 557                         void *data, int *got_frame, AVPacket *avpkt)
 558 {
 559     TiffContext *const s = avctx->priv_data;
 560     AVFrame *const p = data;
 561     unsigned off;
 562     int id, le, ret, plane, planes;
 563     int i, j, entries, stride;
 564     unsigned soff, ssize;
 565     uint8_t *dst;
 566     GetByteContext stripsizes;
 567     GetByteContext stripdata;
 568
 569     bytestream2_init(&s->gb, avpkt->data, avpkt->size);
 570
 571     // parse image header
 572     if (avpkt->size < 8)
 573         return AVERROR_INVALIDDATA;
 574     id = bytestream2_get_le16(&s->gb);
 575     if (id == 0x4949)
 576         le = 1;
 577     else if (id == 0x4D4D)
 578         le = 0;
 579     else {
 580         av_log(avctx, AV_LOG_ERROR, "TIFF header not found\n");
 581         return AVERROR_INVALIDDATA;
 582     }
 583     s->le          = le;
 584     s->photometric = TIFF_PHOTOMETRIC_NONE;
 585     s->compr       = TIFF_RAW;
 586     s->fill_order  = 0;
 587     // As TIFF 6.0 specification puts it "An arbitrary but carefully chosen number
 588     // that further identifies the file as a TIFF file"
 589     if (tget_short(&s->gb, le) != 42) {
 590         av_log(avctx, AV_LOG_ERROR,
 591                "The answer to life, universe and everything is not correct!\n");
 592         return AVERROR_INVALIDDATA;
 593     }
 594     // Reset these offsets so we can tell if they were set this frame
 595     s->stripsizesoff = s->strippos = 0;
 596     /* parse image file directory */
 597     off = tget_long(&s->gb, le);
 598     if (off >= UINT_MAX - 14 || avpkt->size < off + 14) {
 599         av_log(avctx, AV_LOG_ERROR, "IFD offset is greater than image size\n");
 600         return AVERROR_INVALIDDATA;
 601     }
 602     bytestream2_seek(&s->gb, off, SEEK_SET);
 603     entries = tget_short(&s->gb, le);
 604     for (i = 0; i < entries; i++) {
 605         if ((ret = tiff_decode_tag(s)) < 0)
 606             return ret;
 607     }
 608     if (!s->strippos && !s->stripoff) {
 609         av_log(avctx, AV_LOG_ERROR, "Image data is missing\n");
 610         return AVERROR_INVALIDDATA;
 611     }
 612     /* now we have the data and may start decoding */
 613     if ((ret = init_image(s, p)) < 0)
 614         return ret;
 615
 616     if (s->strips == 1 && !s->stripsize) {
 617         av_log(avctx, AV_LOG_WARNING, "Image data size missing\n");
 618         s->stripsize = avpkt->size - s->stripoff;
 619     }
 620
 621     if (s->stripsizesoff) {
 622         if (s->stripsizesoff >= avpkt->size)
 623             return AVERROR_INVALIDDATA;
 624         bytestream2_init(&stripsizes, avpkt->data + s->stripsizesoff,
 625                          avpkt->size - s->stripsizesoff);
 626     }
 627     if (s->strippos) {
 628         if (s->strippos >= avpkt->size)
 629             return AVERROR_INVALIDDATA;
 630         bytestream2_init(&stripdata, avpkt->data + s->strippos,
 631                          avpkt->size - s->strippos);
 632     }
 633
 634     planes = s->planar ? s->bppcount : 1;
 635     for (plane = 0; plane < planes; plane++) {
 636         stride = p->linesize[plane];
 637         dst = p->data[plane];
 638         for (i = 0; i < s->height; i += s->rps) {
 639             if (s->stripsizesoff)
 640                 ssize = tget(&stripsizes, s->sstype, le);
 641             else
 642                 ssize = s->stripsize;
 643
 644             if (s->strippos)
 645                 soff = tget(&stripdata, s->sot, le);
 646             else
 647                 soff = s->stripoff;
 648
 649             if (soff > avpkt->size || ssize > avpkt->size - soff) {
 650                 av_log(avctx, AV_LOG_ERROR, "Invalid strip size/offset\n");
 651                 return AVERROR_INVALIDDATA;
 652             }
 653             if ((ret = tiff_unpack_strip(s, dst, stride, avpkt->data + soff, ssize,
 654                                          FFMIN(s->rps, s->height - i))) < 0) {
 655                 if (avctx->err_recognition & AV_EF_EXPLODE)
 656                     return ret;
 657                 break;
 658             }
 659             dst += s->rps * stride;
 660         }
 661         if (s->predictor == 2) {
 662             dst   = p->data[plane];
 663             soff  = s->bpp >> 3;
 664             ssize = s->width * soff;
 665             if (s->avctx->pix_fmt == AV_PIX_FMT_RGB48LE ||
 666                 s->avctx->pix_fmt == AV_PIX_FMT_RGBA64LE) {
 667                 for (i = 0; i < s->height; i++) {
 668                     for (j = soff; j < ssize; j += 2)
 669                         AV_WL16(dst + j, AV_RL16(dst + j) + AV_RL16(dst + j - soff));
 670                     dst += stride;
 671                 }
 672             } else if (s->avctx->pix_fmt == AV_PIX_FMT_RGB48BE ||
 673                        s->avctx->pix_fmt == AV_PIX_FMT_RGBA64BE) {
 674                 for (i = 0; i < s->height; i++) {
 675                     for (j = soff; j < ssize; j += 2)
 676                         AV_WB16(dst + j, AV_RB16(dst + j) + AV_RB16(dst + j - soff));
 677                     dst += stride;
 678                 }
 679             } else {
 680                 for (i = 0; i < s->height; i++) {
 681                     for (j = soff; j < ssize; j++)
 682                         dst[j] += dst[j - soff];
 683                     dst += stride;
 684                 }
 685             }
 686         }
 687
 688         if (s->photometric == TIFF_PHOTOMETRIC_WHITE_IS_ZERO) {
 689             dst = p->data[plane];
 690             for (i = 0; i < s->height; i++) {
 691                 for (j = 0; j < stride; j++)
 692                     dst[j] = 255 - dst[j];
 693                 dst += stride;
 694             }
 695         }
 696     }
 697
 698     if (s->planar && s->bppcount > 2) {
 699         FFSWAP(uint8_t*, p->data[0],     p->data[2]);
 700         FFSWAP(int,      p->linesize[0], p->linesize[2]);
 701         FFSWAP(uint8_t*, p->data[0],     p->data[1]);
 702         FFSWAP(int,      p->linesize[0], p->linesize[1]);
 703     }
 704
 705     *got_frame = 1;
 706
 707     return avpkt->size;
 708 }
 709
 710 static av_cold int tiff_init(AVCodecContext *avctx)
 711 {
 712     TiffContext *s = avctx->priv_data;
 713
 714     s->width  = 0;
 715     s->height = 0;
 716     s->avctx  = avctx;
 717     ff_lzw_decode_open(&s->lzw);
 718     ff_ccitt_unpack_init();
 719
 720     return 0;
 721 }
 722
 723 static av_cold int tiff_end(AVCodecContext *avctx)
 724 {
 725     TiffContext *const s = avctx->priv_data;
 726
 727     ff_lzw_decode_close(&s->lzw);
 728     return 0;
 729 }
 730
 731 AVCodec ff_tiff_decoder = {
 732     .name           = "tiff",
 733     .long_name      = NULL_IF_CONFIG_SMALL("TIFF image"),
 734     .type           = AVMEDIA_TYPE_VIDEO,
 735     .id             = AV_CODEC_ID_TIFF,
 736     .priv_data_size = sizeof(TiffContext),
 737     .init           = tiff_init,
 738     .close          = tiff_end,
 739     .decode         = decode_frame,
 740     .capabilities   = AV_CODEC_CAP_DR1,
 741 };