git.sesse.net Git - ffmpeg/blob - libavcodec/pixlet.c

   1 /*
   2  * Apple Pixlet decoder
   3  * Copyright (c) 2016 Paul B Mahol
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include <stdint.h>
  23
  24 #include "libavutil/imgutils.h"
  25 #include "libavutil/intmath.h"
  26 #include "libavutil/opt.h"
  27
  28 #include "avcodec.h"
  29 #include "bytestream.h"
  30 #include "get_bits.h"
  31 #include "unary.h"
  32 #include "internal.h"
  33 #include "thread.h"
  34
  35 #define NB_LEVELS 4
  36
  37 #define H 0
  38 #define V 1
  39
  40 typedef struct SubBand {
  41     unsigned width, height;
  42     unsigned size;
  43     unsigned x, y;
  44 } SubBand;
  45
  46 typedef struct PixletContext {
  47     AVClass *class;
  48
  49     GetByteContext gb;
  50     GetBitContext gbit;
  51
  52     int levels;
  53     int depth;
  54     int h, w;
  55
  56     int16_t *filter[2];
  57     int16_t *prediction;
  58     int64_t scaling[4][2][NB_LEVELS];
  59     SubBand band[4][NB_LEVELS * 3 + 1];
  60 } PixletContext;
  61
  62 static int init_decoder(AVCodecContext *avctx)
  63 {
  64     PixletContext *ctx = avctx->priv_data;
  65     int i, plane;
  66
  67     ctx->filter[0]  = av_malloc_array(ctx->h, sizeof(int16_t));
  68     ctx->filter[1]  = av_malloc_array(FFMAX(ctx->h, ctx->w) + 16, sizeof(int16_t));
  69     ctx->prediction = av_malloc_array((ctx->w >> NB_LEVELS), sizeof(int16_t));
  70     if (!ctx->filter[0] || !ctx->filter[1] || !ctx->prediction)
  71         return AVERROR(ENOMEM);
  72
  73     for (plane = 0; plane < 3; plane++) {
  74         unsigned shift = plane > 0;
  75         unsigned w = ctx->w >> shift;
  76         unsigned h = ctx->h >> shift;
  77
  78         ctx->band[plane][0].width  = w >> NB_LEVELS;
  79         ctx->band[plane][0].height = h >> NB_LEVELS;
  80         ctx->band[plane][0].size = (w >> NB_LEVELS) * (h >> NB_LEVELS);
  81
  82         for (i = 0; i < NB_LEVELS * 3; i++) {
  83             unsigned scale = ctx->levels - (i / 3);
  84
  85             ctx->band[plane][i + 1].width  = w >> scale;
  86             ctx->band[plane][i + 1].height = h >> scale;
  87             ctx->band[plane][i + 1].size = (w >> scale) * (h >> scale);
  88
  89             ctx->band[plane][i + 1].x = (w >> scale) * (((i + 1) % 3) != 2);
  90             ctx->band[plane][i + 1].y = (h >> scale) * (((i + 1) % 3) != 1);
  91         }
  92     }
  93
  94     return 0;
  95 }
  96
  97 static void free_buffers(AVCodecContext *avctx)
  98 {
  99     PixletContext *ctx = avctx->priv_data;
 100
 101     av_freep(&ctx->filter[0]);
 102     av_freep(&ctx->filter[1]);
 103     av_freep(&ctx->prediction);
 104 }
 105
 106 static av_cold int pixlet_close(AVCodecContext *avctx)
 107 {
 108     PixletContext *ctx = avctx->priv_data;
 109     free_buffers(avctx);
 110     ctx->w = 0;
 111     ctx->h = 0;
 112     return 0;
 113 }
 114
 115 static av_cold int pixlet_init(AVCodecContext *avctx)
 116 {
 117     avctx->pix_fmt = AV_PIX_FMT_YUV420P16;
 118     avctx->color_range = AVCOL_RANGE_JPEG;
 119     return 0;
 120 }
 121
 122 static int read_low_coeffs(AVCodecContext *avctx, int16_t *dst, int size, int width, ptrdiff_t stride)
 123 {
 124     PixletContext *ctx = avctx->priv_data;
 125     GetBitContext *b = &ctx->gbit;
 126     unsigned cnt1, nbits, k, j = 0, i = 0;
 127     int64_t value, state = 3;
 128     int rlen, escape, flag = 0;
 129
 130     while (i < size) {
 131         nbits = FFMIN(ff_clz((state >> 8) + 3) ^ 0x1F, 14);
 132
 133         cnt1 = get_unary(b, 0, 8);
 134         if (cnt1 < 8) {
 135             value = show_bits(b, nbits);
 136             if (value <= 1) {
 137                 skip_bits(b, nbits - 1);
 138                 escape = ((1 << nbits) - 1) * cnt1;
 139             } else {
 140                 skip_bits(b, nbits);
 141                 escape = value + ((1 << nbits) - 1) * cnt1 - 1;
 142             }
 143         } else {
 144             escape = get_bits(b, 16);
 145         }
 146
 147         value = -((escape + flag) & 1) | 1;
 148         dst[j++] = value * ((escape + flag + 1) >> 1);
 149         i++;
 150         if (j == width) {
 151             j = 0;
 152             dst += stride;
 153         }
 154         state = 120 * (escape + flag) + state - (120 * state >> 8);
 155         flag = 0;
 156
 157         if (state * 4ULL > 0xFF || i >= size)
 158             continue;
 159
 160         nbits = ((state + 8) >> 5) + (state ? ff_clz(state) : 32) - 24;
 161         escape = av_mod_uintp2(16383, nbits);
 162         cnt1 = get_unary(b, 0, 8);
 163         if (cnt1 > 7) {
 164             rlen = get_bits(b, 16);
 165         } else {
 166             value = show_bits(b, nbits);
 167             if (value > 1) {
 168                 skip_bits(b, nbits);
 169                 rlen = value + escape * cnt1 - 1;
 170             } else {
 171                 skip_bits(b, nbits - 1);
 172                 rlen = escape * cnt1;
 173             }
 174         }
 175
 176         if (rlen > size - i)
 177             return AVERROR_INVALIDDATA;
 178         i += rlen;
 179
 180         for (k = 0; k < rlen; k++) {
 181             dst[j++] = 0;
 182             if (j == width) {
 183                 j = 0;
 184                 dst += stride;
 185             }
 186         }
 187
 188         state = 0;
 189         flag = rlen < 0xFFFF ? 1 : 0;
 190     }
 191
 192     align_get_bits(b);
 193     return get_bits_count(b) >> 3;
 194 }
 195
 196 static int read_high_coeffs(AVCodecContext *avctx, uint8_t *src, int16_t *dst, int size,
 197                             int c, int a, int d,
 198                             int width, ptrdiff_t stride)
 199 {
 200     PixletContext *ctx = avctx->priv_data;
 201     GetBitContext *b = &ctx->gbit;
 202     unsigned cnt1, shbits, rlen, nbits, length, i = 0, j = 0, k;
 203     int ret, escape, pfx, value, yflag, xflag, flag = 0;
 204     int64_t state = 3, tmp;
 205
 206     if ((ret = init_get_bits8(b, src, bytestream2_get_bytes_left(&ctx->gb))) < 0)
 207       return ret;
 208
 209     if (a ^ (a >> 31)) {
 210         nbits = 33 - ff_clz(a ^ (a >> 31));
 211         if (nbits > 16)
 212             return AVERROR_INVALIDDATA;
 213     } else {
 214         nbits = 1;
 215     }
 216
 217     length = 25 - nbits;
 218
 219     while (i < size) {
 220         if (state >> 8 != -3) {
 221             value = ff_clz((state >> 8) + 3) ^ 0x1F;
 222         } else {
 223             value = -1;
 224         }
 225
 226         cnt1 = get_unary(b, 0, length);
 227
 228         if (cnt1 >= length) {
 229             cnt1 = get_bits(b, nbits);
 230         } else {
 231             pfx = 14 + ((((uint64_t)(value - 14)) >> 32) & (value - 14));
 232             if (pfx < 1 || pfx > 25)
 233                 return AVERROR_INVALIDDATA;
 234             cnt1 *= (1 << pfx) - 1;
 235             shbits = show_bits(b, pfx);
 236             if (shbits <= 1) {
 237                 skip_bits(b, pfx - 1);
 238             } else {
 239                 skip_bits(b, pfx);
 240                 cnt1 += shbits - 1;
 241             }
 242         }
 243
 244         xflag = flag + cnt1;
 245         yflag = xflag;
 246
 247         if (flag + cnt1 == 0) {
 248             value = 0;
 249         } else {
 250             xflag &= 1u;
 251             tmp = (int64_t)c * ((yflag + 1) >> 1) + (c >> 1);
 252             value = xflag + (tmp ^ -xflag);
 253         }
 254
 255         i++;
 256         dst[j++] = value;
 257         if (j == width) {
 258             j = 0;
 259             dst += stride;
 260         }
 261         state += (int64_t)d * (uint64_t)yflag - ((int64_t)(d * (uint64_t)state) >> 8);
 262
 263         flag = 0;
 264
 265         if ((uint64_t)state > 0xFF / 4 || i >= size)
 266             continue;
 267
 268         pfx = ((state + 8) >> 5) + (state ? ff_clz(state): 32) - 24;
 269         escape = av_mod_uintp2(16383, pfx);
 270         cnt1 = get_unary(b, 0, 8);
 271         if (cnt1 < 8) {
 272             if (pfx < 1 || pfx > 25)
 273                 return AVERROR_INVALIDDATA;
 274             value = show_bits(b, pfx);
 275             if (value > 1) {
 276                 skip_bits(b, pfx);
 277                 rlen = value + escape * cnt1 - 1;
 278             } else {
 279                 skip_bits(b, pfx - 1);
 280                 rlen = escape * cnt1;
 281             }
 282         } else {
 283             if (get_bits1(b))
 284                 value = get_bits(b, 16);
 285             else
 286                 value = get_bits(b, 8);
 287
 288             rlen = value + 8 * escape;
 289         }
 290
 291         if (rlen > 0xFFFF || i + rlen > size)
 292             return AVERROR_INVALIDDATA;
 293         i += rlen;
 294
 295         for (k = 0; k < rlen; k++) {
 296             dst[j++] = 0;
 297             if (j == width) {
 298                 j = 0;
 299                 dst += stride;
 300             }
 301         }
 302
 303         state = 0;
 304         flag = rlen < 0xFFFF ? 1 : 0;
 305     }
 306
 307     align_get_bits(b);
 308     return get_bits_count(b) >> 3;
 309 }
 310
 311 static int read_highpass(AVCodecContext *avctx, uint8_t *ptr, int plane, AVFrame *frame)
 312 {
 313     PixletContext *ctx = avctx->priv_data;
 314     ptrdiff_t stride = frame->linesize[plane] / 2;
 315     int i, ret;
 316
 317     for (i = 0; i < ctx->levels * 3; i++) {
 318         int32_t a = bytestream2_get_be32(&ctx->gb);
 319         int32_t b = bytestream2_get_be32(&ctx->gb);
 320         int32_t c = bytestream2_get_be32(&ctx->gb);
 321         int32_t d = bytestream2_get_be32(&ctx->gb);
 322         int16_t *dest = (int16_t *)frame->data[plane] + ctx->band[plane][i + 1].x +
 323                                                stride * ctx->band[plane][i + 1].y;
 324         unsigned size = ctx->band[plane][i + 1].size;
 325         uint32_t magic;
 326
 327         magic = bytestream2_get_be32(&ctx->gb);
 328         if (magic != 0xDEADBEEF) {
 329             av_log(avctx, AV_LOG_ERROR, "wrong magic number: 0x%08"PRIX32
 330                    " for plane %d, band %d\n", magic, plane, i);
 331             return AVERROR_INVALIDDATA;
 332         }
 333
 334         if (a == INT32_MIN)
 335             return AVERROR_INVALIDDATA;
 336
 337         ret = read_high_coeffs(avctx, ptr + bytestream2_tell(&ctx->gb), dest, size,
 338                                c, (b >= FFABS(a)) ? b : a, d,
 339                                ctx->band[plane][i + 1].width, stride);
 340         if (ret < 0) {
 341             av_log(avctx, AV_LOG_ERROR, "error in highpass coefficients for plane %d, band %d\n", plane, i);
 342             return ret;
 343         }
 344         bytestream2_skip(&ctx->gb, ret);
 345     }
 346
 347     return 0;
 348 }
 349
 350 static void lowpass_prediction(int16_t *dst, int16_t *pred, int width, int height, ptrdiff_t stride)
 351 {
 352     int16_t val;
 353     int i, j;
 354
 355     memset(pred, 0, width * sizeof(*pred));
 356
 357     for (i = 0; i < height; i++) {
 358         val    = pred[0] + dst[0];
 359         dst[0] = pred[0] = val;
 360         for (j = 1; j < width; j++) {
 361             val     = pred[j] + dst[j];
 362             dst[j]  = pred[j] = val;
 363             dst[j] += dst[j-1];
 364         }
 365         dst += stride;
 366     }
 367 }
 368
 369 static void filterfn(int16_t *dest, int16_t *tmp, unsigned size, int64_t scale)
 370 {
 371     int16_t *low, *high, *ll, *lh, *hl, *hh;
 372     int hsize, i, j;
 373     int64_t value;
 374
 375     hsize = size >> 1;
 376     low = tmp + 4;
 377     high = &low[hsize + 8];
 378
 379     memcpy(low, dest, size);
 380     memcpy(high, dest + hsize, size);
 381
 382     ll = &low[hsize];
 383     lh = &low[hsize];
 384     hl = &high[hsize];
 385     hh = hl;
 386     for (i = 4, j = 2; i; i--, j++, ll--, hh++, lh++, hl--) {
 387         low[i - 5]  = low[j - 1];
 388         lh[0]       = ll[-1];
 389         high[i - 5] = high[j - 2];
 390         hh[0]       = hl[-2];
 391     }
 392
 393     for (i = 0; i < hsize; i++) {
 394         value = (int64_t) low [i + 1] * -INT64_C(325392907)  +
 395                 (int64_t) low [i + 0] *  INT64_C(3687786320) +
 396                 (int64_t) low [i - 1] * -INT64_C(325392907)  +
 397                 (int64_t) high[i + 0] *  INT64_C(1518500249) +
 398                 (int64_t) high[i - 1] *  INT64_C(1518500249);
 399         dest[i * 2] = av_clip_int16(((value >> 32) * scale) >> 32);
 400     }
 401
 402     for (i = 0; i < hsize; i++) {
 403         value = (int64_t) low [i + 2] * -INT64_C(65078576)   +
 404                 (int64_t) low [i + 1] *  INT64_C(1583578880) +
 405                 (int64_t) low [i + 0] *  INT64_C(1583578880) +
 406                 (int64_t) low [i - 1] * -INT64_C(65078576)   +
 407                 (int64_t) high[i + 1] *  INT64_C(303700064)  +
 408                 (int64_t) high[i + 0] * -INT64_C(3644400640) +
 409                 (int64_t) high[i - 1] *  INT64_C(303700064);
 410         dest[i * 2 + 1] = av_clip_int16(((value >> 32) * scale) >> 32);
 411     }
 412 }
 413
 414 static void reconstruction(AVCodecContext *avctx,
 415                            int16_t *dest, unsigned width, unsigned height, ptrdiff_t stride, int nb_levels,
 416                            int64_t *scaling_H, int64_t *scaling_V)
 417 {
 418     PixletContext *ctx = avctx->priv_data;
 419     unsigned scaled_width, scaled_height;
 420     int64_t scale_H, scale_V;
 421     int16_t *ptr, *tmp;
 422     int i, j, k;
 423
 424     scaled_height = height >> nb_levels;
 425     scaled_width  = width  >> nb_levels;
 426     tmp = ctx->filter[0];
 427
 428     for (i = 0; i < nb_levels; i++) {
 429         scaled_width  <<= 1;
 430         scaled_height <<= 1;
 431         scale_H = scaling_H[i];
 432         scale_V = scaling_V[i];
 433
 434         ptr = dest;
 435         for (j = 0; j < scaled_height; j++) {
 436             filterfn(ptr, ctx->filter[1], scaled_width, scale_V);
 437             ptr += stride;
 438         }
 439
 440         for (j = 0; j < scaled_width; j++) {
 441             ptr = dest + j;
 442             for (k = 0; k < scaled_height; k++) {
 443                 tmp[k] = *ptr;
 444                 ptr += stride;
 445             }
 446
 447             filterfn(tmp, ctx->filter[1], scaled_height, scale_H);
 448
 449             ptr = dest + j;
 450             for (k = 0; k < scaled_height; k++) {
 451                 *ptr = tmp[k];
 452                 ptr += stride;
 453             }
 454         }
 455     }
 456 }
 457
 458 static void postprocess_luma(AVFrame *frame, int w, int h, int depth)
 459 {
 460     uint16_t *dsty = (uint16_t *)frame->data[0];
 461     int16_t *srcy  = (int16_t *)frame->data[0];
 462     ptrdiff_t stridey = frame->linesize[0] / 2;
 463     int i, j;
 464
 465     for (j = 0; j < h; j++) {
 466         for (i = 0; i < w; i++) {
 467             if (srcy[i] <= 0)
 468                 dsty[i] = 0;
 469             else if (srcy[i] > ((1 << depth) - 1))
 470                 dsty[i] = 65535;
 471             else
 472                 dsty[i] = ((int64_t) srcy[i] * srcy[i] * 65535) /
 473                           ((1 << depth) - 1) / ((1 << depth) - 1);
 474         }
 475         dsty += stridey;
 476         srcy += stridey;
 477     }
 478 }
 479
 480 static void postprocess_chroma(AVFrame *frame, int w, int h, int depth)
 481 {
 482     uint16_t *dstu = (uint16_t *)frame->data[1];
 483     uint16_t *dstv = (uint16_t *)frame->data[2];
 484     int16_t *srcu  = (int16_t *)frame->data[1];
 485     int16_t *srcv  = (int16_t *)frame->data[2];
 486     ptrdiff_t strideu = frame->linesize[1] / 2;
 487     ptrdiff_t stridev = frame->linesize[2] / 2;
 488     const unsigned add = 1 << (depth - 1);
 489     const unsigned shift = 16 - depth;
 490     int i, j;
 491
 492     for (j = 0; j < h; j++) {
 493         for (i = 0; i < w; i++) {
 494             dstu[i] = av_clip_uintp2_c(add + srcu[i], depth) << shift;
 495             dstv[i] = av_clip_uintp2_c(add + srcv[i], depth) << shift;
 496         }
 497         dstu += strideu;
 498         dstv += stridev;
 499         srcu += strideu;
 500         srcv += stridev;
 501     }
 502 }
 503
 504 static int decode_plane(AVCodecContext *avctx, int plane, AVPacket *avpkt, AVFrame *frame)
 505 {
 506     PixletContext *ctx = avctx->priv_data;
 507     ptrdiff_t stride = frame->linesize[plane] / 2;
 508     unsigned shift = plane > 0;
 509     int16_t *dst;
 510     int i, ret;
 511
 512     for (i = ctx->levels - 1; i >= 0; i--) {
 513         int32_t h = sign_extend(bytestream2_get_be32(&ctx->gb), 32);
 514         int32_t v = sign_extend(bytestream2_get_be32(&ctx->gb), 32);
 515
 516         if (!h || !v)
 517             return AVERROR_INVALIDDATA;
 518
 519         ctx->scaling[plane][H][i] = (1000000ULL << 32) / h;
 520         ctx->scaling[plane][V][i] = (1000000ULL << 32) / v;
 521     }
 522
 523     bytestream2_skip(&ctx->gb, 4);
 524
 525     dst = (int16_t *)frame->data[plane];
 526     dst[0] = sign_extend(bytestream2_get_be16(&ctx->gb), 16);
 527
 528     if ((ret = init_get_bits8(&ctx->gbit, avpkt->data + bytestream2_tell(&ctx->gb),
 529                               bytestream2_get_bytes_left(&ctx->gb))) < 0)
 530         return ret;
 531
 532     ret = read_low_coeffs(avctx, dst + 1, ctx->band[plane][0].width - 1, ctx->band[plane][0].width - 1, 0);
 533     if (ret < 0) {
 534         av_log(avctx, AV_LOG_ERROR, "error in lowpass coefficients for plane %d, top row\n", plane);
 535         return ret;
 536     }
 537
 538     ret = read_low_coeffs(avctx, dst + stride, ctx->band[plane][0].height - 1, 1, stride);
 539     if (ret < 0) {
 540         av_log(avctx, AV_LOG_ERROR, "error in lowpass coefficients for plane %d, left column\n", plane);
 541         return ret;
 542     }
 543
 544     ret = read_low_coeffs(avctx, dst + stride + 1,
 545                           (ctx->band[plane][0].width - 1) * (ctx->band[plane][0].height - 1),
 546                           ctx->band[plane][0].width - 1, stride);
 547     if (ret < 0) {
 548         av_log(avctx, AV_LOG_ERROR, "error in lowpass coefficients for plane %d, rest\n", plane);
 549         return ret;
 550     }
 551
 552     bytestream2_skip(&ctx->gb, ret);
 553     if (bytestream2_get_bytes_left(&ctx->gb) <= 0) {
 554         av_log(avctx, AV_LOG_ERROR, "no bytes left\n");
 555         return AVERROR_INVALIDDATA;
 556     }
 557
 558     ret = read_highpass(avctx, avpkt->data, plane, frame);
 559     if (ret < 0)
 560         return ret;
 561
 562     lowpass_prediction(dst, ctx->prediction,
 563                        ctx->band[plane][0].width, ctx->band[plane][0].height, stride);
 564
 565     reconstruction(avctx, (int16_t *)frame->data[plane], ctx->w >> shift, ctx->h >> shift,
 566                    stride, NB_LEVELS, ctx->scaling[plane][H], ctx->scaling[plane][V]);
 567
 568     return 0;
 569 }
 570
 571 static int pixlet_decode_frame(AVCodecContext *avctx, void *data,
 572                                int *got_frame, AVPacket *avpkt)
 573 {
 574     PixletContext *ctx = avctx->priv_data;
 575     int i, w, h, width, height, ret, version;
 576     AVFrame *p = data;
 577     ThreadFrame frame = { .f = data };
 578     uint32_t pktsize;
 579
 580     bytestream2_init(&ctx->gb, avpkt->data, avpkt->size);
 581
 582     pktsize = bytestream2_get_be32(&ctx->gb);
 583     if (pktsize <= 44 || pktsize - 4 > bytestream2_get_bytes_left(&ctx->gb)) {
 584         av_log(avctx, AV_LOG_ERROR, "Invalid packet size %"PRIu32"\n", pktsize);
 585         return AVERROR_INVALIDDATA;
 586     }
 587
 588     version = bytestream2_get_le32(&ctx->gb);
 589     if (version != 1)
 590         avpriv_request_sample(avctx, "Version %d", version);
 591
 592     bytestream2_skip(&ctx->gb, 4);
 593     if (bytestream2_get_be32(&ctx->gb) != 1)
 594         return AVERROR_INVALIDDATA;
 595     bytestream2_skip(&ctx->gb, 4);
 596
 597     width  = bytestream2_get_be32(&ctx->gb);
 598     height = bytestream2_get_be32(&ctx->gb);
 599
 600     if (    width > INT_MAX - (1U << (NB_LEVELS + 1))
 601         || height > INT_MAX - (1U << (NB_LEVELS + 1)))
 602         return AVERROR_INVALIDDATA;
 603
 604     w = FFALIGN(width,  1 << (NB_LEVELS + 1));
 605     h = FFALIGN(height, 1 << (NB_LEVELS + 1));
 606
 607     ctx->levels = bytestream2_get_be32(&ctx->gb);
 608     if (ctx->levels != NB_LEVELS)
 609         return AVERROR_INVALIDDATA;
 610     ctx->depth = bytestream2_get_be32(&ctx->gb);
 611     if (ctx->depth < 8 || ctx->depth > 15) {
 612         avpriv_request_sample(avctx, "Depth %d", ctx->depth);
 613         return AVERROR_INVALIDDATA;
 614     }
 615
 616     ret = ff_set_dimensions(avctx, w, h);
 617     if (ret < 0)
 618         return ret;
 619     avctx->width  = width;
 620     avctx->height = height;
 621
 622     if (ctx->w != w || ctx->h != h) {
 623         free_buffers(avctx);
 624         ctx->w = w;
 625         ctx->h = h;
 626
 627         ret = init_decoder(avctx);
 628         if (ret < 0) {
 629             free_buffers(avctx);
 630             ctx->w = 0;
 631             ctx->h = 0;
 632             return ret;
 633         }
 634     }
 635
 636     bytestream2_skip(&ctx->gb, 8);
 637
 638     p->pict_type = AV_PICTURE_TYPE_I;
 639     p->key_frame = 1;
 640     p->color_range = AVCOL_RANGE_JPEG;
 641
 642     ret = ff_thread_get_buffer(avctx, &frame, 0);
 643     if (ret < 0)
 644         return ret;
 645
 646     for (i = 0; i < 3; i++) {
 647         ret = decode_plane(avctx, i, avpkt, frame.f);
 648         if (ret < 0)
 649             return ret;
 650         if (avctx->flags & AV_CODEC_FLAG_GRAY)
 651             break;
 652     }
 653
 654     postprocess_luma(frame.f, ctx->w, ctx->h, ctx->depth);
 655     postprocess_chroma(frame.f, ctx->w >> 1, ctx->h >> 1, ctx->depth);
 656
 657     *got_frame = 1;
 658
 659     return pktsize;
 660 }
 661
 662 #if HAVE_THREADS
 663 static int pixlet_init_thread_copy(AVCodecContext *avctx)
 664 {
 665     PixletContext *ctx = avctx->priv_data;
 666
 667     ctx->filter[0] = NULL;
 668     ctx->filter[1] = NULL;
 669     ctx->prediction = NULL;
 670     ctx->w = ctx->h = 0;
 671
 672     return 0;
 673 }
 674 #endif
 675
 676 AVCodec ff_pixlet_decoder = {
 677     .name             = "pixlet",
 678     .long_name        = NULL_IF_CONFIG_SMALL("Apple Pixlet"),
 679     .type             = AVMEDIA_TYPE_VIDEO,
 680     .id               = AV_CODEC_ID_PIXLET,
 681     .init             = pixlet_init,
 682     .init_thread_copy = ONLY_IF_THREADS_ENABLED(pixlet_init_thread_copy),
 683     .close            = pixlet_close,
 684     .decode           = pixlet_decode_frame,
 685     .priv_data_size   = sizeof(PixletContext),
 686     .capabilities     = AV_CODEC_CAP_DR1 |
 687                         AV_CODEC_CAP_FRAME_THREADS,
 688     .caps_internal    = FF_CODEC_CAP_INIT_THREADSAFE |
 689                         FF_CODEC_CAP_INIT_CLEANUP,
 690 };