git.sesse.net Git - ffmpeg/blob - libavcodec/mjpegdec.c

   1 /*
   2  * MJPEG decoder
   3  * Copyright (c) 2000, 2001 Fabrice Bellard
   4  * Copyright (c) 2003 Alex Beregszaszi
   5  * Copyright (c) 2003-2004 Michael Niedermayer
   6  *
   7  * Support for external huffman table, various fixes (AVID workaround),
   8  * aspecting, new decode_frame mechanism and apple mjpeg-b support
   9  *                                  by Alex Beregszaszi
  10  *
  11  * This file is part of FFmpeg.
  12  *
  13  * FFmpeg is free software; you can redistribute it and/or
  14  * modify it under the terms of the GNU Lesser General Public
  15  * License as published by the Free Software Foundation; either
  16  * version 2.1 of the License, or (at your option) any later version.
  17  *
  18  * FFmpeg is distributed in the hope that it will be useful,
  19  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  20  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  21  * Lesser General Public License for more details.
  22  *
  23  * You should have received a copy of the GNU Lesser General Public
  24  * License along with FFmpeg; if not, write to the Free Software
  25  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  26  */
  27
  28 /**
  29  * @file
  30  * MJPEG decoder.
  31  */
  32
  33 #include "libavutil/imgutils.h"
  34 #include "libavutil/avassert.h"
  35 #include "libavutil/opt.h"
  36 #include "avcodec.h"
  37 #include "blockdsp.h"
  38 #include "copy_block.h"
  39 #include "idctdsp.h"
  40 #include "internal.h"
  41 #include "mjpeg.h"
  42 #include "mjpegdec.h"
  43 #include "jpeglsdec.h"
  44 #include "put_bits.h"
  45 #include "tiff.h"
  46 #include "exif.h"
  47 #include "bytestream.h"
  48
  49
  50 static int build_vlc(VLC *vlc, const uint8_t *bits_table,
  51                      const uint8_t *val_table, int nb_codes,
  52                      int use_static, int is_ac)
  53 {
  54     uint8_t huff_size[256] = { 0 };
  55     uint16_t huff_code[256];
  56     uint16_t huff_sym[256];
  57     int i;
  58
  59     av_assert0(nb_codes <= 256);
  60
  61     ff_mjpeg_build_huffman_codes(huff_size, huff_code, bits_table, val_table);
  62
  63     for (i = 0; i < 256; i++)
  64         huff_sym[i] = i + 16 * is_ac;
  65
  66     if (is_ac)
  67         huff_sym[0] = 16 * 256;
  68
  69     return ff_init_vlc_sparse(vlc, 9, nb_codes, huff_size, 1, 1,
  70                               huff_code, 2, 2, huff_sym, 2, 2, use_static);
  71 }
  72
  73 static void build_basic_mjpeg_vlc(MJpegDecodeContext *s)
  74 {
  75     build_vlc(&s->vlcs[0][0], avpriv_mjpeg_bits_dc_luminance,
  76               avpriv_mjpeg_val_dc, 12, 0, 0);
  77     build_vlc(&s->vlcs[0][1], avpriv_mjpeg_bits_dc_chrominance,
  78               avpriv_mjpeg_val_dc, 12, 0, 0);
  79     build_vlc(&s->vlcs[1][0], avpriv_mjpeg_bits_ac_luminance,
  80               avpriv_mjpeg_val_ac_luminance, 251, 0, 1);
  81     build_vlc(&s->vlcs[1][1], avpriv_mjpeg_bits_ac_chrominance,
  82               avpriv_mjpeg_val_ac_chrominance, 251, 0, 1);
  83     build_vlc(&s->vlcs[2][0], avpriv_mjpeg_bits_ac_luminance,
  84               avpriv_mjpeg_val_ac_luminance, 251, 0, 0);
  85     build_vlc(&s->vlcs[2][1], avpriv_mjpeg_bits_ac_chrominance,
  86               avpriv_mjpeg_val_ac_chrominance, 251, 0, 0);
  87 }
  88
  89 static void parse_avid(MJpegDecodeContext *s, uint8_t *buf, int len)
  90 {
  91     s->buggy_avid = 1;
  92     if (len > 14 && buf[12] == 1) /* 1 - NTSC */
  93         s->interlace_polarity = 1;
  94     if (len > 14 && buf[12] == 2) /* 2 - PAL */
  95         s->interlace_polarity = 0;
  96     if (s->avctx->debug & FF_DEBUG_PICT_INFO)
  97         av_log(s->avctx, AV_LOG_INFO, "AVID: len:%d %d\n", len, len > 14 ? buf[12] : -1);
  98 }
  99
 100 av_cold int ff_mjpeg_decode_init(AVCodecContext *avctx)
 101 {
 102     MJpegDecodeContext *s = avctx->priv_data;
 103
 104     if (!s->picture_ptr) {
 105         s->picture = av_frame_alloc();
 106         if (!s->picture)
 107             return AVERROR(ENOMEM);
 108         s->picture_ptr = s->picture;
 109     }
 110
 111     s->avctx = avctx;
 112     ff_blockdsp_init(&s->bdsp, avctx);
 113     ff_hpeldsp_init(&s->hdsp, avctx->flags);
 114     ff_idctdsp_init(&s->idsp, avctx);
 115     ff_init_scantable(s->idsp.idct_permutation, &s->scantable,
 116                       ff_zigzag_direct);
 117     s->buffer_size   = 0;
 118     s->buffer        = NULL;
 119     s->start_code    = -1;
 120     s->first_picture = 1;
 121     s->got_picture   = 0;
 122     s->org_height    = avctx->coded_height;
 123     avctx->chroma_sample_location = AVCHROMA_LOC_CENTER;
 124     avctx->colorspace = AVCOL_SPC_BT470BG;
 125
 126     build_basic_mjpeg_vlc(s);
 127
 128     if (s->extern_huff) {
 129         av_log(avctx, AV_LOG_INFO, "using external huffman table\n");
 130         init_get_bits(&s->gb, avctx->extradata, avctx->extradata_size * 8);
 131         if (ff_mjpeg_decode_dht(s)) {
 132             av_log(avctx, AV_LOG_ERROR,
 133                    "error using external huffman table, switching back to internal\n");
 134             build_basic_mjpeg_vlc(s);
 135         }
 136     }
 137     if (avctx->field_order == AV_FIELD_BB) { /* quicktime icefloe 019 */
 138         s->interlace_polarity = 1;           /* bottom field first */
 139         av_log(avctx, AV_LOG_DEBUG, "bottom field first\n");
 140     } else if (avctx->field_order == AV_FIELD_UNKNOWN) {
 141         if (avctx->codec_tag == AV_RL32("MJPG"))
 142             s->interlace_polarity = 1;
 143     }
 144
 145     if (   avctx->extradata_size > 8
 146         && AV_RL32(avctx->extradata) == 0x2C
 147         && AV_RL32(avctx->extradata+4) == 0x18) {
 148         parse_avid(s, avctx->extradata, avctx->extradata_size);
 149     }
 150
 151     if (avctx->codec->id == AV_CODEC_ID_AMV)
 152         s->flipped = 1;
 153
 154     return 0;
 155 }
 156
 157
 158 /* quantize tables */
 159 int ff_mjpeg_decode_dqt(MJpegDecodeContext *s)
 160 {
 161     int len, index, i, j;
 162
 163     len = get_bits(&s->gb, 16) - 2;
 164
 165     while (len >= 65) {
 166         int pr = get_bits(&s->gb, 4);
 167         if (pr > 1) {
 168             av_log(s->avctx, AV_LOG_ERROR, "dqt: invalid precision\n");
 169             return AVERROR_INVALIDDATA;
 170         }
 171         index = get_bits(&s->gb, 4);
 172         if (index >= 4)
 173             return -1;
 174         av_log(s->avctx, AV_LOG_DEBUG, "index=%d\n", index);
 175         /* read quant table */
 176         for (i = 0; i < 64; i++) {
 177             j = s->scantable.permutated[i];
 178             s->quant_matrixes[index][j] = get_bits(&s->gb, pr ? 16 : 8);
 179         }
 180
 181         // XXX FIXME finetune, and perhaps add dc too
 182         s->qscale[index] = FFMAX(s->quant_matrixes[index][s->scantable.permutated[1]],
 183                                  s->quant_matrixes[index][s->scantable.permutated[8]]) >> 1;
 184         av_log(s->avctx, AV_LOG_DEBUG, "qscale[%d]: %d\n",
 185                index, s->qscale[index]);
 186         len -= 65;
 187     }
 188     return 0;
 189 }
 190
 191 /* decode huffman tables and build VLC decoders */
 192 int ff_mjpeg_decode_dht(MJpegDecodeContext *s)
 193 {
 194     int len, index, i, class, n, v, code_max;
 195     uint8_t bits_table[17];
 196     uint8_t val_table[256];
 197     int ret = 0;
 198
 199     len = get_bits(&s->gb, 16) - 2;
 200
 201     while (len > 0) {
 202         if (len < 17)
 203             return AVERROR_INVALIDDATA;
 204         class = get_bits(&s->gb, 4);
 205         if (class >= 2)
 206             return AVERROR_INVALIDDATA;
 207         index = get_bits(&s->gb, 4);
 208         if (index >= 4)
 209             return AVERROR_INVALIDDATA;
 210         n = 0;
 211         for (i = 1; i <= 16; i++) {
 212             bits_table[i] = get_bits(&s->gb, 8);
 213             n += bits_table[i];
 214         }
 215         len -= 17;
 216         if (len < n || n > 256)
 217             return AVERROR_INVALIDDATA;
 218
 219         code_max = 0;
 220         for (i = 0; i < n; i++) {
 221             v = get_bits(&s->gb, 8);
 222             if (v > code_max)
 223                 code_max = v;
 224             val_table[i] = v;
 225         }
 226         len -= n;
 227
 228         /* build VLC and flush previous vlc if present */
 229         ff_free_vlc(&s->vlcs[class][index]);
 230         av_log(s->avctx, AV_LOG_DEBUG, "class=%d index=%d nb_codes=%d\n",
 231                class, index, code_max + 1);
 232         if ((ret = build_vlc(&s->vlcs[class][index], bits_table, val_table,
 233                              code_max + 1, 0, class > 0)) < 0)
 234             return ret;
 235
 236         if (class > 0) {
 237             ff_free_vlc(&s->vlcs[2][index]);
 238             if ((ret = build_vlc(&s->vlcs[2][index], bits_table, val_table,
 239                                  code_max + 1, 0, 0)) < 0)
 240                 return ret;
 241         }
 242     }
 243     return 0;
 244 }
 245
 246 int ff_mjpeg_decode_sof(MJpegDecodeContext *s)
 247 {
 248     int len, nb_components, i, width, height, bits, ret;
 249     unsigned pix_fmt_id;
 250     int h_count[MAX_COMPONENTS] = { 0 };
 251     int v_count[MAX_COMPONENTS] = { 0 };
 252
 253     s->cur_scan = 0;
 254     memset(s->upscale_h, 0, sizeof(s->upscale_h));
 255     memset(s->upscale_v, 0, sizeof(s->upscale_v));
 256
 257     /* XXX: verify len field validity */
 258     len     = get_bits(&s->gb, 16);
 259     s->avctx->bits_per_raw_sample =
 260     bits    = get_bits(&s->gb, 8);
 261
 262     if (bits > 16 || bits < 1) {
 263         av_log(s->avctx, AV_LOG_ERROR, "bits %d is invalid\n", bits);
 264         return AVERROR_INVALIDDATA;
 265     }
 266
 267     if (s->pegasus_rct)
 268         bits = 9;
 269     if (bits == 9 && !s->pegasus_rct)
 270         s->rct  = 1;    // FIXME ugly
 271
 272     if(s->lossless && s->avctx->lowres){
 273         av_log(s->avctx, AV_LOG_ERROR, "lowres is not possible with lossless jpeg\n");
 274         return -1;
 275     }
 276
 277     height = get_bits(&s->gb, 16);
 278     width  = get_bits(&s->gb, 16);
 279
 280     if (s->avctx->codec_id == AV_CODEC_ID_AMV && (height&15))
 281         avpriv_request_sample(s->avctx, "non mod 16 height AMV\n");
 282
 283     // HACK for odd_height.mov
 284     if (s->interlaced && s->width == width && s->height == height + 1)
 285         height= s->height;
 286
 287     av_log(s->avctx, AV_LOG_DEBUG, "sof0: picture: %dx%d\n", width, height);
 288     if (av_image_check_size(width, height, 0, s->avctx))
 289         return AVERROR_INVALIDDATA;
 290
 291     nb_components = get_bits(&s->gb, 8);
 292     if (nb_components <= 0 ||
 293         nb_components > MAX_COMPONENTS)
 294         return -1;
 295     if (s->interlaced && (s->bottom_field == !s->interlace_polarity)) {
 296         if (nb_components != s->nb_components) {
 297             av_log(s->avctx, AV_LOG_ERROR,
 298                    "nb_components changing in interlaced picture\n");
 299             return AVERROR_INVALIDDATA;
 300         }
 301     }
 302     if (s->ls && !(bits <= 8 || nb_components == 1)) {
 303         avpriv_report_missing_feature(s->avctx,
 304                                       "JPEG-LS that is not <= 8 "
 305                                       "bits/component or 16-bit gray");
 306         return AVERROR_PATCHWELCOME;
 307     }
 308     s->nb_components = nb_components;
 309     s->h_max         = 1;
 310     s->v_max         = 1;
 311     for (i = 0; i < nb_components; i++) {
 312         /* component id */
 313         s->component_id[i] = get_bits(&s->gb, 8) - 1;
 314         h_count[i]         = get_bits(&s->gb, 4);
 315         v_count[i]         = get_bits(&s->gb, 4);
 316         /* compute hmax and vmax (only used in interleaved case) */
 317         if (h_count[i] > s->h_max)
 318             s->h_max = h_count[i];
 319         if (v_count[i] > s->v_max)
 320             s->v_max = v_count[i];
 321         s->quant_index[i] = get_bits(&s->gb, 8);
 322         if (s->quant_index[i] >= 4) {
 323             av_log(s->avctx, AV_LOG_ERROR, "quant_index is invalid\n");
 324             return AVERROR_INVALIDDATA;
 325         }
 326         if (!h_count[i] || !v_count[i]) {
 327             av_log(s->avctx, AV_LOG_ERROR,
 328                    "Invalid sampling factor in component %d %d:%d\n",
 329                    i, h_count[i], v_count[i]);
 330             return AVERROR_INVALIDDATA;
 331         }
 332
 333         av_log(s->avctx, AV_LOG_DEBUG, "component %d %d:%d id: %d quant:%d\n",
 334                i, h_count[i], v_count[i],
 335                s->component_id[i], s->quant_index[i]);
 336     }
 337
 338     if (s->ls && (s->h_max > 1 || s->v_max > 1)) {
 339         avpriv_report_missing_feature(s->avctx, "Subsampling in JPEG-LS");
 340         return AVERROR_PATCHWELCOME;
 341     }
 342
 343
 344     /* if different size, realloc/alloc picture */
 345     if (width != s->width || height != s->height || bits != s->bits ||
 346         memcmp(s->h_count, h_count, sizeof(h_count))                ||
 347         memcmp(s->v_count, v_count, sizeof(v_count))) {
 348
 349         s->width      = width;
 350         s->height     = height;
 351         s->bits       = bits;
 352         memcpy(s->h_count, h_count, sizeof(h_count));
 353         memcpy(s->v_count, v_count, sizeof(v_count));
 354         s->interlaced = 0;
 355         s->got_picture = 0;
 356
 357         /* test interlaced mode */
 358         if (s->first_picture   &&
 359             s->org_height != 0 &&
 360             s->height < ((s->org_height * 3) / 4)) {
 361             s->interlaced                    = 1;
 362             s->bottom_field                  = s->interlace_polarity;
 363             s->picture_ptr->interlaced_frame = 1;
 364             s->picture_ptr->top_field_first  = !s->interlace_polarity;
 365             height *= 2;
 366         }
 367
 368         ret = ff_set_dimensions(s->avctx, width, height);
 369         if (ret < 0)
 370             return ret;
 371
 372         s->first_picture = 0;
 373     }
 374
 375     if (s->got_picture && s->interlaced && (s->bottom_field == !s->interlace_polarity)) {
 376         if (s->progressive) {
 377             avpriv_request_sample(s->avctx, "progressively coded interlaced picture");
 378             return AVERROR_INVALIDDATA;
 379         }
 380     } else{
 381         if (s->v_max == 1 && s->h_max == 1 && s->lossless==1 && (nb_components==3 || nb_components==4))
 382             s->rgb = 1;
 383         else if (!s->lossless)
 384             s->rgb = 0;
 385     /* XXX: not complete test ! */
 386     pix_fmt_id = ((unsigned)s->h_count[0] << 28) | (s->v_count[0] << 24) |
 387                  (s->h_count[1] << 20) | (s->v_count[1] << 16) |
 388                  (s->h_count[2] << 12) | (s->v_count[2] <<  8) |
 389                  (s->h_count[3] <<  4) |  s->v_count[3];
 390     av_log(s->avctx, AV_LOG_DEBUG, "pix fmt id %x\n", pix_fmt_id);
 391     /* NOTE we do not allocate pictures large enough for the possible
 392      * padding of h/v_count being 4 */
 393     if (!(pix_fmt_id & 0xD0D0D0D0))
 394         pix_fmt_id -= (pix_fmt_id & 0xF0F0F0F0) >> 1;
 395     if (!(pix_fmt_id & 0x0D0D0D0D))
 396         pix_fmt_id -= (pix_fmt_id & 0x0F0F0F0F) >> 1;
 397
 398     for (i = 0; i < 8; i++) {
 399         int j = 6 + (i&1) - (i&6);
 400         int is = (pix_fmt_id >> (4*i)) & 0xF;
 401         int js = (pix_fmt_id >> (4*j)) & 0xF;
 402
 403         if (is == 1 && js != 2 && (i < 2 || i > 5))
 404             js = (pix_fmt_id >> ( 8 + 4*(i&1))) & 0xF;
 405         if (is == 1 && js != 2 && (i < 2 || i > 5))
 406             js = (pix_fmt_id >> (16 + 4*(i&1))) & 0xF;
 407
 408         if (is == 1 && js == 2) {
 409             if (i & 1) s->upscale_h[j/2] = 1;
 410             else       s->upscale_v[j/2] = 1;
 411         }
 412     }
 413
 414     switch (pix_fmt_id) {
 415     case 0x11111100:
 416         if (s->rgb)
 417             s->avctx->pix_fmt = s->bits <= 9 ? AV_PIX_FMT_BGR24 : AV_PIX_FMT_BGR48;
 418         else {
 419             if (s->component_id[0] == 'Q' && s->component_id[1] == 'F' && s->component_id[2] == 'A') {
 420                 s->avctx->pix_fmt = s->bits <= 8 ? AV_PIX_FMT_GBRP : AV_PIX_FMT_GBRP16;
 421             } else {
 422                 if (s->bits <= 8) s->avctx->pix_fmt = s->cs_itu601 ? AV_PIX_FMT_YUV444P : AV_PIX_FMT_YUVJ444P;
 423                 else              s->avctx->pix_fmt = AV_PIX_FMT_YUV444P16;
 424             s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
 425             }
 426         }
 427         av_assert0(s->nb_components == 3);
 428         break;
 429     case 0x11111111:
 430         if (s->rgb)
 431             s->avctx->pix_fmt = s->bits <= 9 ? AV_PIX_FMT_ABGR : AV_PIX_FMT_RGBA64;
 432         else {
 433             if (s->adobe_transform == 0 && s->bits <= 8) {
 434                 s->avctx->pix_fmt = AV_PIX_FMT_GBRAP;
 435             } else {
 436                 s->avctx->pix_fmt = s->bits <= 8 ? AV_PIX_FMT_YUVA444P : AV_PIX_FMT_YUVA444P16;
 437                 s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
 438             }
 439         }
 440         av_assert0(s->nb_components == 4);
 441         break;
 442     case 0x22111122:
 443     case 0x22111111:
 444         if (s->adobe_transform == 0 && s->bits <= 8) {
 445             s->avctx->pix_fmt = AV_PIX_FMT_GBRAP;
 446             s->upscale_v[1] = s->upscale_v[2] = 1;
 447             s->upscale_h[1] = s->upscale_h[2] = 1;
 448         } else if (s->adobe_transform == 2 && s->bits <= 8) {
 449             s->avctx->pix_fmt = AV_PIX_FMT_YUVA444P;
 450             s->upscale_v[1] = s->upscale_v[2] = 1;
 451             s->upscale_h[1] = s->upscale_h[2] = 1;
 452             s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
 453         } else {
 454             if (s->bits <= 8) s->avctx->pix_fmt = AV_PIX_FMT_YUVA420P;
 455             else              s->avctx->pix_fmt = AV_PIX_FMT_YUVA420P16;
 456             s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
 457         }
 458         av_assert0(s->nb_components == 4);
 459         break;
 460     case 0x12121100:
 461     case 0x22122100:
 462     case 0x21211100:
 463     case 0x22211200:
 464         if (s->bits <= 8) s->avctx->pix_fmt = s->cs_itu601 ? AV_PIX_FMT_YUV444P : AV_PIX_FMT_YUVJ444P;
 465         else
 466             goto unk_pixfmt;
 467         s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
 468         break;
 469     case 0x22221100:
 470     case 0x22112200:
 471     case 0x11222200:
 472         if (s->bits <= 8) s->avctx->pix_fmt = s->cs_itu601 ? AV_PIX_FMT_YUV444P : AV_PIX_FMT_YUVJ444P;
 473         else
 474             goto unk_pixfmt;
 475         s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
 476         break;
 477     case 0x11000000:
 478     case 0x13000000:
 479     case 0x14000000:
 480     case 0x31000000:
 481     case 0x33000000:
 482     case 0x34000000:
 483     case 0x41000000:
 484     case 0x43000000:
 485     case 0x44000000:
 486         if(s->bits <= 8)
 487             s->avctx->pix_fmt = AV_PIX_FMT_GRAY8;
 488         else
 489             s->avctx->pix_fmt = AV_PIX_FMT_GRAY16;
 490         break;
 491     case 0x12111100:
 492     case 0x14121200:
 493     case 0x14111100:
 494     case 0x22211100:
 495     case 0x22112100:
 496         if (s->component_id[0] == 'Q' && s->component_id[1] == 'F' && s->component_id[2] == 'A') {
 497             if (s->bits <= 8) s->avctx->pix_fmt = AV_PIX_FMT_GBRP;
 498             else
 499                 goto unk_pixfmt;
 500             s->upscale_v[0] = s->upscale_v[1] = 1;
 501         } else {
 502             if (pix_fmt_id == 0x14111100)
 503                 s->upscale_v[1] = s->upscale_v[2] = 1;
 504             if (s->bits <= 8) s->avctx->pix_fmt = s->cs_itu601 ? AV_PIX_FMT_YUV440P : AV_PIX_FMT_YUVJ440P;
 505             else
 506                 goto unk_pixfmt;
 507             s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
 508         }
 509         break;
 510     case 0x21111100:
 511         if (s->component_id[0] == 'Q' && s->component_id[1] == 'F' && s->component_id[2] == 'A') {
 512             if (s->bits <= 8) s->avctx->pix_fmt = AV_PIX_FMT_GBRP;
 513             else
 514                 goto unk_pixfmt;
 515             s->upscale_h[0] = s->upscale_h[1] = 1;
 516         } else {
 517             if (s->bits <= 8) s->avctx->pix_fmt = s->cs_itu601 ? AV_PIX_FMT_YUV422P : AV_PIX_FMT_YUVJ422P;
 518             else              s->avctx->pix_fmt = AV_PIX_FMT_YUV422P16;
 519             s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
 520         }
 521         break;
 522     case 0x31111100:
 523         if (s->bits > 8)
 524             goto unk_pixfmt;
 525         s->avctx->pix_fmt = s->cs_itu601 ? AV_PIX_FMT_YUV444P : AV_PIX_FMT_YUVJ444P;
 526         s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
 527         s->upscale_h[1] = s->upscale_h[2] = 2;
 528         break;
 529     case 0x22121100:
 530     case 0x22111200:
 531         if (s->bits <= 8) s->avctx->pix_fmt = s->cs_itu601 ? AV_PIX_FMT_YUV422P : AV_PIX_FMT_YUVJ422P;
 532         else
 533             goto unk_pixfmt;
 534         s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
 535         break;
 536     case 0x22111100:
 537     case 0x42111100:
 538     case 0x24111100:
 539         if (s->bits <= 8) s->avctx->pix_fmt = s->cs_itu601 ? AV_PIX_FMT_YUV420P : AV_PIX_FMT_YUVJ420P;
 540         else              s->avctx->pix_fmt = AV_PIX_FMT_YUV420P16;
 541         s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
 542         if (pix_fmt_id == 0x42111100) {
 543             if (s->bits > 8)
 544                 goto unk_pixfmt;
 545             s->upscale_h[1] = s->upscale_h[2] = 1;
 546         } else if (pix_fmt_id == 0x24111100) {
 547             if (s->bits > 8)
 548                 goto unk_pixfmt;
 549             s->upscale_v[1] = s->upscale_v[2] = 1;
 550         }
 551         break;
 552     case 0x41111100:
 553         if (s->bits <= 8) s->avctx->pix_fmt = s->cs_itu601 ? AV_PIX_FMT_YUV411P : AV_PIX_FMT_YUVJ411P;
 554         else
 555             goto unk_pixfmt;
 556         s->avctx->color_range = s->cs_itu601 ? AVCOL_RANGE_MPEG : AVCOL_RANGE_JPEG;
 557         break;
 558     default:
 559 unk_pixfmt:
 560         av_log(s->avctx, AV_LOG_ERROR, "Unhandled pixel format 0x%x bits:%d\n", pix_fmt_id, s->bits);
 561         memset(s->upscale_h, 0, sizeof(s->upscale_h));
 562         memset(s->upscale_v, 0, sizeof(s->upscale_v));
 563         return AVERROR_PATCHWELCOME;
 564     }
 565     if ((AV_RB32(s->upscale_h) || AV_RB32(s->upscale_v)) && s->avctx->lowres) {
 566         av_log(s->avctx, AV_LOG_ERROR, "lowres not supported for weird subsampling\n");
 567         return AVERROR_PATCHWELCOME;
 568     }
 569     if (s->ls) {
 570         memset(s->upscale_h, 0, sizeof(s->upscale_h));
 571         memset(s->upscale_v, 0, sizeof(s->upscale_v));
 572         if (s->nb_components == 3) {
 573             s->avctx->pix_fmt = AV_PIX_FMT_RGB24;
 574         } else if (s->nb_components != 1) {
 575             av_log(s->avctx, AV_LOG_ERROR, "Unsupported number of components %d\n", s->nb_components);
 576             return AVERROR_PATCHWELCOME;
 577         } else if (s->palette_index && s->bits <= 8)
 578             s->avctx->pix_fmt = AV_PIX_FMT_PAL8;
 579         else if (s->bits <= 8)
 580             s->avctx->pix_fmt = AV_PIX_FMT_GRAY8;
 581         else
 582             s->avctx->pix_fmt = AV_PIX_FMT_GRAY16;
 583     }
 584
 585     s->pix_desc = av_pix_fmt_desc_get(s->avctx->pix_fmt);
 586     if (!s->pix_desc) {
 587         av_log(s->avctx, AV_LOG_ERROR, "Could not get a pixel format descriptor.\n");
 588         return AVERROR_BUG;
 589     }
 590
 591     av_frame_unref(s->picture_ptr);
 592     if (ff_get_buffer(s->avctx, s->picture_ptr, AV_GET_BUFFER_FLAG_REF) < 0)
 593         return -1;
 594     s->picture_ptr->pict_type = AV_PICTURE_TYPE_I;
 595     s->picture_ptr->key_frame = 1;
 596     s->got_picture            = 1;
 597
 598     for (i = 0; i < 4; i++)
 599         s->linesize[i] = s->picture_ptr->linesize[i] << s->interlaced;
 600
 601     av_dlog(s->avctx, "%d %d %d %d %d %d\n",
 602             s->width, s->height, s->linesize[0], s->linesize[1],
 603             s->interlaced, s->avctx->height);
 604
 605     if (len != (8 + (3 * nb_components)))
 606         av_log(s->avctx, AV_LOG_DEBUG, "decode_sof0: error, len(%d) mismatch\n", len);
 607     }
 608
 609     if (s->rgb && !s->lossless && !s->ls) {
 610         av_log(s->avctx, AV_LOG_ERROR, "Unsupported coding and pixel format combination\n");
 611         return AVERROR_PATCHWELCOME;
 612     }
 613
 614     /* totally blank picture as progressive JPEG will only add details to it */
 615     if (s->progressive) {
 616         int bw = (width  + s->h_max * 8 - 1) / (s->h_max * 8);
 617         int bh = (height + s->v_max * 8 - 1) / (s->v_max * 8);
 618         for (i = 0; i < s->nb_components; i++) {
 619             int size = bw * bh * s->h_count[i] * s->v_count[i];
 620             av_freep(&s->blocks[i]);
 621             av_freep(&s->last_nnz[i]);
 622             s->blocks[i]       = av_mallocz_array(size, sizeof(**s->blocks));
 623             s->last_nnz[i]     = av_mallocz_array(size, sizeof(**s->last_nnz));
 624             if (!s->blocks[i] || !s->last_nnz[i])
 625                 return AVERROR(ENOMEM);
 626             s->block_stride[i] = bw * s->h_count[i];
 627         }
 628         memset(s->coefs_finished, 0, sizeof(s->coefs_finished));
 629     }
 630     return 0;
 631 }
 632
 633 static inline int mjpeg_decode_dc(MJpegDecodeContext *s, int dc_index)
 634 {
 635     int code;
 636     code = get_vlc2(&s->gb, s->vlcs[0][dc_index].table, 9, 2);
 637     if (code < 0 || code > 16) {
 638         av_log(s->avctx, AV_LOG_WARNING,
 639                "mjpeg_decode_dc: bad vlc: %d:%d (%p)\n",
 640                0, dc_index, &s->vlcs[0][dc_index]);
 641         return 0xfffff;
 642     }
 643
 644     if (code)
 645         return get_xbits(&s->gb, code);
 646     else
 647         return 0;
 648 }
 649
 650 /* decode block and dequantize */
 651 static int decode_block(MJpegDecodeContext *s, int16_t *block, int component,
 652                         int dc_index, int ac_index, int16_t *quant_matrix)
 653 {
 654     int code, i, j, level, val;
 655
 656     /* DC coef */
 657     val = mjpeg_decode_dc(s, dc_index);
 658     if (val == 0xfffff) {
 659         av_log(s->avctx, AV_LOG_ERROR, "error dc\n");
 660         return AVERROR_INVALIDDATA;
 661     }
 662     val = val * quant_matrix[0] + s->last_dc[component];
 663     s->last_dc[component] = val;
 664     block[0] = val;
 665     /* AC coefs */
 666     i = 0;
 667     {OPEN_READER(re, &s->gb);
 668     do {
 669         UPDATE_CACHE(re, &s->gb);
 670         GET_VLC(code, re, &s->gb, s->vlcs[1][ac_index].table, 9, 2);
 671
 672         i += ((unsigned)code) >> 4;
 673             code &= 0xf;
 674         if (code) {
 675             if (code > MIN_CACHE_BITS - 16)
 676                 UPDATE_CACHE(re, &s->gb);
 677
 678             {
 679                 int cache = GET_CACHE(re, &s->gb);
 680                 int sign  = (~cache) >> 31;
 681                 level     = (NEG_USR32(sign ^ cache,code) ^ sign) - sign;
 682             }
 683
 684             LAST_SKIP_BITS(re, &s->gb, code);
 685
 686             if (i > 63) {
 687                 av_log(s->avctx, AV_LOG_ERROR, "error count: %d\n", i);
 688                 return AVERROR_INVALIDDATA;
 689             }
 690             j        = s->scantable.permutated[i];
 691             block[j] = level * quant_matrix[j];
 692         }
 693     } while (i < 63);
 694     CLOSE_READER(re, &s->gb);}
 695
 696     return 0;
 697 }
 698
 699 static int decode_dc_progressive(MJpegDecodeContext *s, int16_t *block,
 700                                  int component, int dc_index,
 701                                  int16_t *quant_matrix, int Al)
 702 {
 703     int val;
 704     s->bdsp.clear_block(block);
 705     val = mjpeg_decode_dc(s, dc_index);
 706     if (val == 0xfffff) {
 707         av_log(s->avctx, AV_LOG_ERROR, "error dc\n");
 708         return AVERROR_INVALIDDATA;
 709     }
 710     val = (val * quant_matrix[0] << Al) + s->last_dc[component];
 711     s->last_dc[component] = val;
 712     block[0] = val;
 713     return 0;
 714 }
 715
 716 /* decode block and dequantize - progressive JPEG version */
 717 static int decode_block_progressive(MJpegDecodeContext *s, int16_t *block,
 718                                     uint8_t *last_nnz, int ac_index,
 719                                     int16_t *quant_matrix,
 720                                     int ss, int se, int Al, int *EOBRUN)
 721 {
 722     int code, i, j, level, val, run;
 723
 724     if (*EOBRUN) {
 725         (*EOBRUN)--;
 726         return 0;
 727     }
 728
 729     {
 730         OPEN_READER(re, &s->gb);
 731         for (i = ss; ; i++) {
 732             UPDATE_CACHE(re, &s->gb);
 733             GET_VLC(code, re, &s->gb, s->vlcs[2][ac_index].table, 9, 2);
 734
 735             run = ((unsigned) code) >> 4;
 736             code &= 0xF;
 737             if (code) {
 738                 i += run;
 739                 if (code > MIN_CACHE_BITS - 16)
 740                     UPDATE_CACHE(re, &s->gb);
 741
 742                 {
 743                     int cache = GET_CACHE(re, &s->gb);
 744                     int sign  = (~cache) >> 31;
 745                     level     = (NEG_USR32(sign ^ cache,code) ^ sign) - sign;
 746                 }
 747
 748                 LAST_SKIP_BITS(re, &s->gb, code);
 749
 750                 if (i >= se) {
 751                     if (i == se) {
 752                         j = s->scantable.permutated[se];
 753                         block[j] = level * quant_matrix[j] << Al;
 754                         break;
 755                     }
 756                     av_log(s->avctx, AV_LOG_ERROR, "error count: %d\n", i);
 757                     return AVERROR_INVALIDDATA;
 758                 }
 759                 j = s->scantable.permutated[i];
 760                 block[j] = level * quant_matrix[j] << Al;
 761             } else {
 762                 if (run == 0xF) {// ZRL - skip 15 coefficients
 763                     i += 15;
 764                     if (i >= se) {
 765                         av_log(s->avctx, AV_LOG_ERROR, "ZRL overflow: %d\n", i);
 766                         return AVERROR_INVALIDDATA;
 767                     }
 768                 } else {
 769                     val = (1 << run);
 770                     if (run) {
 771                         UPDATE_CACHE(re, &s->gb);
 772                         val += NEG_USR32(GET_CACHE(re, &s->gb), run);
 773                         LAST_SKIP_BITS(re, &s->gb, run);
 774                     }
 775                     *EOBRUN = val - 1;
 776                     break;
 777                 }
 778             }
 779         }
 780         CLOSE_READER(re, &s->gb);
 781     }
 782
 783     if (i > *last_nnz)
 784         *last_nnz = i;
 785
 786     return 0;
 787 }
 788
 789 #define REFINE_BIT(j) {                                             \
 790     UPDATE_CACHE(re, &s->gb);                                       \
 791     sign = block[j] >> 15;                                          \
 792     block[j] += SHOW_UBITS(re, &s->gb, 1) *                         \
 793                 ((quant_matrix[j] ^ sign) - sign) << Al;            \
 794     LAST_SKIP_BITS(re, &s->gb, 1);                                  \
 795 }
 796
 797 #define ZERO_RUN                                                    \
 798 for (; ; i++) {                                                     \
 799     if (i > last) {                                                 \
 800         i += run;                                                   \
 801         if (i > se) {                                               \
 802             av_log(s->avctx, AV_LOG_ERROR, "error count: %d\n", i); \
 803             return -1;                                              \
 804         }                                                           \
 805         break;                                                      \
 806     }                                                               \
 807     j = s->scantable.permutated[i];                                 \
 808     if (block[j])                                                   \
 809         REFINE_BIT(j)                                               \
 810     else if (run-- == 0)                                            \
 811         break;                                                      \
 812 }
 813
 814 /* decode block and dequantize - progressive JPEG refinement pass */
 815 static int decode_block_refinement(MJpegDecodeContext *s, int16_t *block,
 816                                    uint8_t *last_nnz,
 817                                    int ac_index, int16_t *quant_matrix,
 818                                    int ss, int se, int Al, int *EOBRUN)
 819 {
 820     int code, i = ss, j, sign, val, run;
 821     int last    = FFMIN(se, *last_nnz);
 822
 823     OPEN_READER(re, &s->gb);
 824     if (*EOBRUN) {
 825         (*EOBRUN)--;
 826     } else {
 827         for (; ; i++) {
 828             UPDATE_CACHE(re, &s->gb);
 829             GET_VLC(code, re, &s->gb, s->vlcs[2][ac_index].table, 9, 2);
 830
 831             if (code & 0xF) {
 832                 run = ((unsigned) code) >> 4;
 833                 UPDATE_CACHE(re, &s->gb);
 834                 val = SHOW_UBITS(re, &s->gb, 1);
 835                 LAST_SKIP_BITS(re, &s->gb, 1);
 836                 ZERO_RUN;
 837                 j = s->scantable.permutated[i];
 838                 val--;
 839                 block[j] = ((quant_matrix[j]^val) - val) << Al;
 840                 if (i == se) {
 841                     if (i > *last_nnz)
 842                         *last_nnz = i;
 843                     CLOSE_READER(re, &s->gb);
 844                     return 0;
 845                 }
 846             } else {
 847                 run = ((unsigned) code) >> 4;
 848                 if (run == 0xF) {
 849                     ZERO_RUN;
 850                 } else {
 851                     val = run;
 852                     run = (1 << run);
 853                     if (val) {
 854                         UPDATE_CACHE(re, &s->gb);
 855                         run += SHOW_UBITS(re, &s->gb, val);
 856                         LAST_SKIP_BITS(re, &s->gb, val);
 857                     }
 858                     *EOBRUN = run - 1;
 859                     break;
 860                 }
 861             }
 862         }
 863
 864         if (i > *last_nnz)
 865             *last_nnz = i;
 866     }
 867
 868     for (; i <= last; i++) {
 869         j = s->scantable.permutated[i];
 870         if (block[j])
 871             REFINE_BIT(j)
 872     }
 873     CLOSE_READER(re, &s->gb);
 874
 875     return 0;
 876 }
 877 #undef REFINE_BIT
 878 #undef ZERO_RUN
 879
 880 static int handle_rstn(MJpegDecodeContext *s, int nb_components)
 881 {
 882     int i;
 883     int reset = 0;
 884
 885     if (s->restart_interval) {
 886         s->restart_count--;
 887         if(s->restart_count == 0 && s->avctx->codec_id == AV_CODEC_ID_THP){
 888             align_get_bits(&s->gb);
 889             for (i = 0; i < nb_components; i++) /* reset dc */
 890                 s->last_dc[i] = (4 << s->bits);
 891         }
 892
 893         i = 8 + ((-get_bits_count(&s->gb)) & 7);
 894         /* skip RSTn */
 895         if (s->restart_count == 0) {
 896             if(   show_bits(&s->gb, i) == (1 << i) - 1
 897                || show_bits(&s->gb, i) == 0xFF) {
 898                 int pos = get_bits_count(&s->gb);
 899                 align_get_bits(&s->gb);
 900                 while (get_bits_left(&s->gb) >= 8 && show_bits(&s->gb, 8) == 0xFF)
 901                     skip_bits(&s->gb, 8);
 902                 if (get_bits_left(&s->gb) >= 8 && (get_bits(&s->gb, 8) & 0xF8) == 0xD0) {
 903                     for (i = 0; i < nb_components; i++) /* reset dc */
 904                         s->last_dc[i] = (4 << s->bits);
 905                     reset = 1;
 906                 } else
 907                     skip_bits_long(&s->gb, pos - get_bits_count(&s->gb));
 908             }
 909         }
 910     }
 911     return reset;
 912 }
 913
 914 static int ljpeg_decode_rgb_scan(MJpegDecodeContext *s, int nb_components, int predictor, int point_transform)
 915 {
 916     int i, mb_x, mb_y;
 917     uint16_t (*buffer)[4];
 918     int left[4], top[4], topleft[4];
 919     const int linesize = s->linesize[0];
 920     const int mask     = ((1 << s->bits) - 1) << point_transform;
 921     int resync_mb_y = 0;
 922     int resync_mb_x = 0;
 923
 924     if (s->nb_components != 3 && s->nb_components != 4)
 925         return AVERROR_INVALIDDATA;
 926     if (s->v_max != 1 || s->h_max != 1 || !s->lossless)
 927         return AVERROR_INVALIDDATA;
 928
 929
 930     s->restart_count = s->restart_interval;
 931
 932     av_fast_malloc(&s->ljpeg_buffer, &s->ljpeg_buffer_size,
 933                    (unsigned)s->mb_width * 4 * sizeof(s->ljpeg_buffer[0][0]));
 934     buffer = s->ljpeg_buffer;
 935
 936     for (i = 0; i < 4; i++)
 937         buffer[0][i] = 1 << (s->bits - 1);
 938
 939     for (mb_y = 0; mb_y < s->mb_height; mb_y++) {
 940         uint8_t *ptr = s->picture_ptr->data[0] + (linesize * mb_y);
 941
 942         if (s->interlaced && s->bottom_field)
 943             ptr += linesize >> 1;
 944
 945         for (i = 0; i < 4; i++)
 946             top[i] = left[i] = topleft[i] = buffer[0][i];
 947
 948         for (mb_x = 0; mb_x < s->mb_width; mb_x++) {
 949             int modified_predictor = predictor;
 950
 951             if (s->restart_interval && !s->restart_count){
 952                 s->restart_count = s->restart_interval;
 953                 resync_mb_x = mb_x;
 954                 resync_mb_y = mb_y;
 955                 for(i=0; i<4; i++)
 956                     top[i] = left[i]= topleft[i]= 1 << (s->bits - 1);
 957             }
 958             if (mb_y == resync_mb_y || mb_y == resync_mb_y+1 && mb_x < resync_mb_x || !mb_x)
 959                 modified_predictor = 1;
 960
 961             for (i=0;i<nb_components;i++) {
 962                 int pred, dc;
 963
 964                 topleft[i] = top[i];
 965                 top[i]     = buffer[mb_x][i];
 966
 967                 PREDICT(pred, topleft[i], top[i], left[i], modified_predictor);
 968
 969                 dc = mjpeg_decode_dc(s, s->dc_index[i]);
 970                 if(dc == 0xFFFFF)
 971                     return -1;
 972
 973                 left[i] = buffer[mb_x][i] =
 974                     mask & (pred + (dc << point_transform));
 975             }
 976
 977             if (s->restart_interval && !--s->restart_count) {
 978                 align_get_bits(&s->gb);
 979                 skip_bits(&s->gb, 16); /* skip RSTn */
 980             }
 981         }
 982         if (s->nb_components == 4) {
 983             for(i=0; i<nb_components; i++) {
 984                 int c= s->comp_index[i];
 985                 if (s->bits <= 8) {
 986                     for(mb_x = 0; mb_x < s->mb_width; mb_x++) {
 987                         ptr[4*mb_x+3-c] = buffer[mb_x][i];
 988                     }
 989                 } else if(s->bits == 9) {
 990                     return AVERROR_PATCHWELCOME;
 991                 } else {
 992                     for(mb_x = 0; mb_x < s->mb_width; mb_x++) {
 993                         ((uint16_t*)ptr)[4*mb_x+c] = buffer[mb_x][i];
 994                     }
 995                 }
 996             }
 997         } else if (s->rct) {
 998             for (mb_x = 0; mb_x < s->mb_width; mb_x++) {
 999                 ptr[3*mb_x + 1] = buffer[mb_x][0] - ((buffer[mb_x][1] + buffer[mb_x][2] - 0x200) >> 2);
1000                 ptr[3*mb_x + 0] = buffer[mb_x][1] + ptr[3*mb_x + 1];
1001                 ptr[3*mb_x + 2] = buffer[mb_x][2] + ptr[3*mb_x + 1];
1002             }
1003         } else if (s->pegasus_rct) {
1004             for (mb_x = 0; mb_x < s->mb_width; mb_x++) {
1005                 ptr[3*mb_x + 1] = buffer[mb_x][0] - ((buffer[mb_x][1] + buffer[mb_x][2]) >> 2);
1006                 ptr[3*mb_x + 0] = buffer[mb_x][1] + ptr[3*mb_x + 1];
1007                 ptr[3*mb_x + 2] = buffer[mb_x][2] + ptr[3*mb_x + 1];
1008             }
1009         } else {
1010             for(i=0; i<nb_components; i++) {
1011                 int c= s->comp_index[i];
1012                 if (s->bits <= 8) {
1013                     for(mb_x = 0; mb_x < s->mb_width; mb_x++) {
1014                         ptr[3*mb_x+2-c] = buffer[mb_x][i];
1015                     }
1016                 } else if(s->bits == 9) {
1017                     return AVERROR_PATCHWELCOME;
1018                 } else {
1019                     for(mb_x = 0; mb_x < s->mb_width; mb_x++) {
1020                         ((uint16_t*)ptr)[3*mb_x+2-c] = buffer[mb_x][i];
1021                     }
1022                 }
1023             }
1024         }
1025     }
1026     return 0;
1027 }
1028
1029 static int ljpeg_decode_yuv_scan(MJpegDecodeContext *s, int predictor,
1030                                  int point_transform, int nb_components)
1031 {
1032     int i, mb_x, mb_y, mask;
1033     int bits= (s->bits+7)&~7;
1034     int resync_mb_y = 0;
1035     int resync_mb_x = 0;
1036
1037     point_transform += bits - s->bits;
1038     mask = ((1 << s->bits) - 1) << point_transform;
1039
1040     av_assert0(nb_components>=1 && nb_components<=4);
1041
1042     for (mb_y = 0; mb_y < s->mb_height; mb_y++) {
1043         for (mb_x = 0; mb_x < s->mb_width; mb_x++) {
1044             if (s->restart_interval && !s->restart_count){
1045                 s->restart_count = s->restart_interval;
1046                 resync_mb_x = mb_x;
1047                 resync_mb_y = mb_y;
1048             }
1049
1050             if(!mb_x || mb_y == resync_mb_y || mb_y == resync_mb_y+1 && mb_x < resync_mb_x || s->interlaced){
1051                 int toprow  = mb_y == resync_mb_y || mb_y == resync_mb_y+1 && mb_x < resync_mb_x;
1052                 int leftcol = !mb_x || mb_y == resync_mb_y && mb_x == resync_mb_x;
1053                 for (i = 0; i < nb_components; i++) {
1054                     uint8_t *ptr;
1055                     uint16_t *ptr16;
1056                     int n, h, v, x, y, c, j, linesize;
1057                     n = s->nb_blocks[i];
1058                     c = s->comp_index[i];
1059                     h = s->h_scount[i];
1060                     v = s->v_scount[i];
1061                     x = 0;
1062                     y = 0;
1063                     linesize= s->linesize[c];
1064
1065                     if(bits>8) linesize /= 2;
1066
1067                     for(j=0; j<n; j++) {
1068                         int pred, dc;
1069
1070                         dc = mjpeg_decode_dc(s, s->dc_index[i]);
1071                         if(dc == 0xFFFFF)
1072                             return -1;
1073                         if(bits<=8){
1074                         ptr = s->picture_ptr->data[c] + (linesize * (v * mb_y + y)) + (h * mb_x + x); //FIXME optimize this crap
1075                         if(y==0 && toprow){
1076                             if(x==0 && leftcol){
1077                                 pred= 1 << (bits - 1);
1078                             }else{
1079                                 pred= ptr[-1];
1080                             }
1081                         }else{
1082                             if(x==0 && leftcol){
1083                                 pred= ptr[-linesize];
1084                             }else{
1085                                 PREDICT(pred, ptr[-linesize-1], ptr[-linesize], ptr[-1], predictor);
1086                             }
1087                         }
1088
1089                         if (s->interlaced && s->bottom_field)
1090                             ptr += linesize >> 1;
1091                         pred &= mask;
1092                         *ptr= pred + (dc << point_transform);
1093                         }else{
1094                             ptr16 = (uint16_t*)(s->picture_ptr->data[c] + 2*(linesize * (v * mb_y + y)) + 2*(h * mb_x + x)); //FIXME optimize this crap
1095                             if(y==0 && toprow){
1096                                 if(x==0 && leftcol){
1097                                     pred= 1 << (bits - 1);
1098                                 }else{
1099                                     pred= ptr16[-1];
1100                                 }
1101                             }else{
1102                                 if(x==0 && leftcol){
1103                                     pred= ptr16[-linesize];
1104                                 }else{
1105                                     PREDICT(pred, ptr16[-linesize-1], ptr16[-linesize], ptr16[-1], predictor);
1106                                 }
1107                             }
1108
1109                             if (s->interlaced && s->bottom_field)
1110                                 ptr16 += linesize >> 1;
1111                             pred &= mask;
1112                             *ptr16= pred + (dc << point_transform);
1113                         }
1114                         if (++x == h) {
1115                             x = 0;
1116                             y++;
1117                         }
1118                     }
1119                 }
1120             } else {
1121                 for (i = 0; i < nb_components; i++) {
1122                     uint8_t *ptr;
1123                     uint16_t *ptr16;
1124                     int n, h, v, x, y, c, j, linesize, dc;
1125                     n        = s->nb_blocks[i];
1126                     c        = s->comp_index[i];
1127                     h        = s->h_scount[i];
1128                     v        = s->v_scount[i];
1129                     x        = 0;
1130                     y        = 0;
1131                     linesize = s->linesize[c];
1132
1133                     if(bits>8) linesize /= 2;
1134
1135                     for (j = 0; j < n; j++) {
1136                         int pred;
1137
1138                         dc = mjpeg_decode_dc(s, s->dc_index[i]);
1139                         if(dc == 0xFFFFF)
1140                             return -1;
1141                         if(bits<=8){
1142                             ptr = s->picture_ptr->data[c] +
1143                               (linesize * (v * mb_y + y)) +
1144                               (h * mb_x + x); //FIXME optimize this crap
1145                             PREDICT(pred, ptr[-linesize-1], ptr[-linesize], ptr[-1], predictor);
1146
1147                             pred &= mask;
1148                             *ptr = pred + (dc << point_transform);
1149                         }else{
1150                             ptr16 = (uint16_t*)(s->picture_ptr->data[c] + 2*(linesize * (v * mb_y + y)) + 2*(h * mb_x + x)); //FIXME optimize this crap
1151                             PREDICT(pred, ptr16[-linesize-1], ptr16[-linesize], ptr16[-1], predictor);
1152
1153                             pred &= mask;
1154                             *ptr16= pred + (dc << point_transform);
1155                         }
1156
1157                         if (++x == h) {
1158                             x = 0;
1159                             y++;
1160                         }
1161                     }
1162                 }
1163             }
1164             if (s->restart_interval && !--s->restart_count) {
1165                 align_get_bits(&s->gb);
1166                 skip_bits(&s->gb, 16); /* skip RSTn */
1167             }
1168         }
1169     }
1170     return 0;
1171 }
1172
1173 static av_always_inline void mjpeg_copy_block(MJpegDecodeContext *s,
1174                                               uint8_t *dst, const uint8_t *src,
1175                                               int linesize, int lowres)
1176 {
1177     switch (lowres) {
1178     case 0: s->hdsp.put_pixels_tab[1][0](dst, src, linesize, 8);
1179         break;
1180     case 1: copy_block4(dst, src, linesize, linesize, 4);
1181         break;
1182     case 2: copy_block2(dst, src, linesize, linesize, 2);
1183         break;
1184     case 3: *dst = *src;
1185         break;
1186     }
1187 }
1188
1189 static void shift_output(MJpegDecodeContext *s, uint8_t *ptr, int linesize)
1190 {
1191     int block_x, block_y;
1192     int size = 8 >> s->avctx->lowres;
1193     if (s->bits > 8) {
1194         for (block_y=0; block_y<size; block_y++)
1195             for (block_x=0; block_x<size; block_x++)
1196                 *(uint16_t*)(ptr + 2*block_x + block_y*linesize) <<= 16 - s->bits;
1197     } else {
1198         for (block_y=0; block_y<size; block_y++)
1199             for (block_x=0; block_x<size; block_x++)
1200                 *(ptr + block_x + block_y*linesize) <<= 8 - s->bits;
1201     }
1202 }
1203
1204 static int mjpeg_decode_scan(MJpegDecodeContext *s, int nb_components, int Ah,
1205                              int Al, const uint8_t *mb_bitmask,
1206                              int mb_bitmask_size,
1207                              const AVFrame *reference)
1208 {
1209     int i, mb_x, mb_y;
1210     uint8_t *data[MAX_COMPONENTS];
1211     const uint8_t *reference_data[MAX_COMPONENTS];
1212     int linesize[MAX_COMPONENTS];
1213     GetBitContext mb_bitmask_gb = {0}; // initialize to silence gcc warning
1214     int bytes_per_pixel = 1 + (s->bits > 8);
1215
1216     if (mb_bitmask) {
1217         if (mb_bitmask_size != (s->mb_width * s->mb_height + 7)>>3) {
1218             av_log(s->avctx, AV_LOG_ERROR, "mb_bitmask_size mismatches\n");
1219             return AVERROR_INVALIDDATA;
1220         }
1221         init_get_bits(&mb_bitmask_gb, mb_bitmask, s->mb_width * s->mb_height);
1222     }
1223
1224     s->restart_count = 0;
1225
1226     for (i = 0; i < nb_components; i++) {
1227         int c   = s->comp_index[i];
1228         data[c] = s->picture_ptr->data[c];
1229         reference_data[c] = reference ? reference->data[c] : NULL;
1230         linesize[c] = s->linesize[c];
1231         s->coefs_finished[c] |= 1;
1232     }
1233
1234     for (mb_y = 0; mb_y < s->mb_height; mb_y++) {
1235         for (mb_x = 0; mb_x < s->mb_width; mb_x++) {
1236             const int copy_mb = mb_bitmask && !get_bits1(&mb_bitmask_gb);
1237
1238             if (s->restart_interval && !s->restart_count)
1239                 s->restart_count = s->restart_interval;
1240
1241             if (get_bits_left(&s->gb) < 0) {
1242                 av_log(s->avctx, AV_LOG_ERROR, "overread %d\n",
1243                        -get_bits_left(&s->gb));
1244                 return AVERROR_INVALIDDATA;
1245             }
1246             for (i = 0; i < nb_components; i++) {
1247                 uint8_t *ptr;
1248                 int n, h, v, x, y, c, j;
1249                 int block_offset;
1250                 n = s->nb_blocks[i];
1251                 c = s->comp_index[i];
1252                 h = s->h_scount[i];
1253                 v = s->v_scount[i];
1254                 x = 0;
1255                 y = 0;
1256                 for (j = 0; j < n; j++) {
1257                     block_offset = (((linesize[c] * (v * mb_y + y) * 8) +
1258                                      (h * mb_x + x) * 8 * bytes_per_pixel) >> s->avctx->lowres);
1259
1260                     if (s->interlaced && s->bottom_field)
1261                         block_offset += linesize[c] >> 1;
1262                     if (   8*(h * mb_x + x) < s->width
1263                         && 8*(v * mb_y + y) < s->height) {
1264                         ptr = data[c] + block_offset;
1265                     } else
1266                         ptr = NULL;
1267                     if (!s->progressive) {
1268                         if (copy_mb) {
1269                             if (ptr)
1270                                 mjpeg_copy_block(s, ptr, reference_data[c] + block_offset,
1271                                                 linesize[c], s->avctx->lowres);
1272
1273                         } else {
1274                             s->bdsp.clear_block(s->block);
1275                             if (decode_block(s, s->block, i,
1276                                              s->dc_index[i], s->ac_index[i],
1277                                              s->quant_matrixes[s->quant_sindex[i]]) < 0) {
1278                                 av_log(s->avctx, AV_LOG_ERROR,
1279                                        "error y=%d x=%d\n", mb_y, mb_x);
1280                                 return AVERROR_INVALIDDATA;
1281                             }
1282                             if (ptr) {
1283                                 s->idsp.idct_put(ptr, linesize[c], s->block);
1284                                 if (s->bits & 7)
1285                                     shift_output(s, ptr, linesize[c]);
1286                             }
1287                         }
1288                     } else {
1289                         int block_idx  = s->block_stride[c] * (v * mb_y + y) +
1290                                          (h * mb_x + x);
1291                         int16_t *block = s->blocks[c][block_idx];
1292                         if (Ah)
1293                             block[0] += get_bits1(&s->gb) *
1294                                         s->quant_matrixes[s->quant_sindex[i]][0] << Al;
1295                         else if (decode_dc_progressive(s, block, i, s->dc_index[i],
1296                                                        s->quant_matrixes[s->quant_sindex[i]],
1297                                                        Al) < 0) {
1298                             av_log(s->avctx, AV_LOG_ERROR,
1299                                    "error y=%d x=%d\n", mb_y, mb_x);
1300                             return AVERROR_INVALIDDATA;
1301                         }
1302                     }
1303                     av_dlog(s->avctx, "mb: %d %d processed\n", mb_y, mb_x);
1304                     av_dlog(s->avctx, "%d %d %d %d %d %d %d %d \n",
1305                             mb_x, mb_y, x, y, c, s->bottom_field,
1306                             (v * mb_y + y) * 8, (h * mb_x + x) * 8);
1307                     if (++x == h) {
1308                         x = 0;
1309                         y++;
1310                     }
1311                 }
1312             }
1313
1314             handle_rstn(s, nb_components);
1315         }
1316     }
1317     return 0;
1318 }
1319
1320 static int mjpeg_decode_scan_progressive_ac(MJpegDecodeContext *s, int ss,
1321                                             int se, int Ah, int Al)
1322 {
1323     int mb_x, mb_y;
1324     int EOBRUN = 0;
1325     int c = s->comp_index[0];
1326     uint8_t *data = s->picture_ptr->data[c];
1327     int linesize  = s->linesize[c];
1328     int last_scan = 0;
1329     int16_t *quant_matrix = s->quant_matrixes[s->quant_sindex[0]];
1330     int bytes_per_pixel = 1 + (s->bits > 8);
1331
1332     av_assert0(ss>=0 && Ah>=0 && Al>=0);
1333     if (se < ss || se > 63) {
1334         av_log(s->avctx, AV_LOG_ERROR, "SS/SE %d/%d is invalid\n", ss, se);
1335         return AVERROR_INVALIDDATA;
1336     }
1337
1338     if (!Al) {
1339         // s->coefs_finished is a bitmask for coefficients coded
1340         // ss and se are parameters telling start and end coefficients
1341         s->coefs_finished[c] |= (2ULL << se) - (1ULL << ss);
1342         last_scan = !~s->coefs_finished[c];
1343     }
1344
1345     if (s->interlaced && s->bottom_field)
1346         data += linesize >> 1;
1347
1348     s->restart_count = 0;
1349
1350     for (mb_y = 0; mb_y < s->mb_height; mb_y++) {
1351         uint8_t *ptr     = data + (mb_y * linesize * 8 >> s->avctx->lowres);
1352         int block_idx    = mb_y * s->block_stride[c];
1353         int16_t (*block)[64] = &s->blocks[c][block_idx];
1354         uint8_t *last_nnz    = &s->last_nnz[c][block_idx];
1355         for (mb_x = 0; mb_x < s->mb_width; mb_x++, block++, last_nnz++) {
1356                 int ret;
1357                 if (s->restart_interval && !s->restart_count)
1358                     s->restart_count = s->restart_interval;
1359
1360                 if (Ah)
1361                     ret = decode_block_refinement(s, *block, last_nnz, s->ac_index[0],
1362                                                   quant_matrix, ss, se, Al, &EOBRUN);
1363                 else
1364                     ret = decode_block_progressive(s, *block, last_nnz, s->ac_index[0],
1365                                                    quant_matrix, ss, se, Al, &EOBRUN);
1366                 if (ret < 0) {
1367                     av_log(s->avctx, AV_LOG_ERROR,
1368                            "error y=%d x=%d\n", mb_y, mb_x);
1369                     return AVERROR_INVALIDDATA;
1370                 }
1371
1372             if (last_scan) {
1373                     s->idsp.idct_put(ptr, linesize, *block);
1374                     if (s->bits & 7)
1375                         shift_output(s, ptr, linesize);
1376                     ptr += bytes_per_pixel*8 >> s->avctx->lowres;
1377             }
1378             if (handle_rstn(s, 0))
1379                 EOBRUN = 0;
1380         }
1381     }
1382     return 0;
1383 }
1384
1385 int ff_mjpeg_decode_sos(MJpegDecodeContext *s, const uint8_t *mb_bitmask,
1386                         int mb_bitmask_size, const AVFrame *reference)
1387 {
1388     int len, nb_components, i, h, v, predictor, point_transform;
1389     int index, id, ret;
1390     const int block_size = s->lossless ? 1 : 8;
1391     int ilv, prev_shift;
1392
1393     if (!s->got_picture) {
1394         av_log(s->avctx, AV_LOG_WARNING,
1395                 "Can not process SOS before SOF, skipping\n");
1396         return -1;
1397     }
1398
1399     av_assert0(s->picture_ptr->data[0]);
1400     /* XXX: verify len field validity */
1401     len = get_bits(&s->gb, 16);
1402     nb_components = get_bits(&s->gb, 8);
1403     if (nb_components == 0 || nb_components > MAX_COMPONENTS) {
1404         av_log(s->avctx, AV_LOG_ERROR,
1405                "decode_sos: nb_components (%d) unsupported\n", nb_components);
1406         return AVERROR_PATCHWELCOME;
1407     }
1408     if (len != 6 + 2 * nb_components) {
1409         av_log(s->avctx, AV_LOG_ERROR, "decode_sos: invalid len (%d)\n", len);
1410         return AVERROR_INVALIDDATA;
1411     }
1412     for (i = 0; i < nb_components; i++) {
1413         id = get_bits(&s->gb, 8) - 1;
1414         av_log(s->avctx, AV_LOG_DEBUG, "component: %d\n", id);
1415         /* find component index */
1416         for (index = 0; index < s->nb_components; index++)
1417             if (id == s->component_id[index])
1418                 break;
1419         if (index == s->nb_components) {
1420             av_log(s->avctx, AV_LOG_ERROR,
1421                    "decode_sos: index(%d) out of components\n", index);
1422             return AVERROR_INVALIDDATA;
1423         }
1424         /* Metasoft MJPEG codec has Cb and Cr swapped */
1425         if (s->avctx->codec_tag == MKTAG('M', 'T', 'S', 'J')
1426             && nb_components == 3 && s->nb_components == 3 && i)
1427             index = 3 - i;
1428
1429         s->quant_sindex[i] = s->quant_index[index];
1430         s->nb_blocks[i] = s->h_count[index] * s->v_count[index];
1431         s->h_scount[i]  = s->h_count[index];
1432         s->v_scount[i]  = s->v_count[index];
1433
1434         if(nb_components == 3 && s->nb_components == 3 && s->avctx->pix_fmt == AV_PIX_FMT_GBR24P)
1435             index = (i+2)%3;
1436         if(nb_components == 1 && s->nb_components == 3 && s->avctx->pix_fmt == AV_PIX_FMT_GBR24P)
1437             index = (index+2)%3;
1438
1439         s->comp_index[i] = index;
1440
1441         s->dc_index[i] = get_bits(&s->gb, 4);
1442         s->ac_index[i] = get_bits(&s->gb, 4);
1443
1444         if (s->dc_index[i] <  0 || s->ac_index[i] < 0 ||
1445             s->dc_index[i] >= 4 || s->ac_index[i] >= 4)
1446             goto out_of_range;
1447         if (!s->vlcs[0][s->dc_index[i]].table || !(s->progressive ? s->vlcs[2][s->ac_index[0]].table : s->vlcs[1][s->ac_index[i]].table))
1448             goto out_of_range;
1449     }
1450
1451     predictor = get_bits(&s->gb, 8);       /* JPEG Ss / lossless JPEG predictor /JPEG-LS NEAR */
1452     ilv = get_bits(&s->gb, 8);             /* JPEG Se / JPEG-LS ILV */
1453     if(s->avctx->codec_tag != AV_RL32("CJPG")){
1454         prev_shift      = get_bits(&s->gb, 4); /* Ah */
1455         point_transform = get_bits(&s->gb, 4); /* Al */
1456     }else
1457         prev_shift = point_transform = 0;
1458
1459     if (nb_components > 1) {
1460         /* interleaved stream */
1461         s->mb_width  = (s->width  + s->h_max * block_size - 1) / (s->h_max * block_size);
1462         s->mb_height = (s->height + s->v_max * block_size - 1) / (s->v_max * block_size);
1463     } else if (!s->ls) { /* skip this for JPEG-LS */
1464         h = s->h_max / s->h_scount[0];
1465         v = s->v_max / s->v_scount[0];
1466         s->mb_width     = (s->width  + h * block_size - 1) / (h * block_size);
1467         s->mb_height    = (s->height + v * block_size - 1) / (v * block_size);
1468         s->nb_blocks[0] = 1;
1469         s->h_scount[0]  = 1;
1470         s->v_scount[0]  = 1;
1471     }
1472
1473     if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1474         av_log(s->avctx, AV_LOG_DEBUG, "%s %s p:%d >>:%d ilv:%d bits:%d skip:%d %s comp:%d\n",
1475                s->lossless ? "lossless" : "sequential DCT", s->rgb ? "RGB" : "",
1476                predictor, point_transform, ilv, s->bits, s->mjpb_skiptosod,
1477                s->pegasus_rct ? "PRCT" : (s->rct ? "RCT" : ""), nb_components);
1478
1479
1480     /* mjpeg-b can have padding bytes between sos and image data, skip them */
1481     for (i = s->mjpb_skiptosod; i > 0; i--)
1482         skip_bits(&s->gb, 8);
1483
1484 next_field:
1485     for (i = 0; i < nb_components; i++)
1486         s->last_dc[i] = (4 << s->bits);
1487
1488     if (s->lossless) {
1489         av_assert0(s->picture_ptr == s->picture);
1490         if (CONFIG_JPEGLS_DECODER && s->ls) {
1491 //            for () {
1492 //            reset_ls_coding_parameters(s, 0);
1493
1494             if ((ret = ff_jpegls_decode_picture(s, predictor,
1495                                                 point_transform, ilv)) < 0)
1496                 return ret;
1497         } else {
1498             if (s->rgb) {
1499                 if ((ret = ljpeg_decode_rgb_scan(s, nb_components, predictor, point_transform)) < 0)
1500                     return ret;
1501             } else {
1502                 if ((ret = ljpeg_decode_yuv_scan(s, predictor,
1503                                                  point_transform,
1504                                                  nb_components)) < 0)
1505                     return ret;
1506             }
1507         }
1508     } else {
1509         if (s->progressive && predictor) {
1510             av_assert0(s->picture_ptr == s->picture);
1511             if ((ret = mjpeg_decode_scan_progressive_ac(s, predictor,
1512                                                         ilv, prev_shift,
1513                                                         point_transform)) < 0)
1514                 return ret;
1515         } else {
1516             if ((ret = mjpeg_decode_scan(s, nb_components,
1517                                          prev_shift, point_transform,
1518                                          mb_bitmask, mb_bitmask_size, reference)) < 0)
1519                 return ret;
1520         }
1521     }
1522
1523     if (s->interlaced &&
1524         get_bits_left(&s->gb) > 32 &&
1525         show_bits(&s->gb, 8) == 0xFF) {
1526         GetBitContext bak = s->gb;
1527         align_get_bits(&bak);
1528         if (show_bits(&bak, 16) == 0xFFD1) {
1529             av_log(s->avctx, AV_LOG_DEBUG, "AVRn interlaced picture marker found\n");
1530             s->gb = bak;
1531             skip_bits(&s->gb, 16);
1532             s->bottom_field ^= 1;
1533
1534             goto next_field;
1535         }
1536     }
1537
1538     emms_c();
1539     return 0;
1540  out_of_range:
1541     av_log(s->avctx, AV_LOG_ERROR, "decode_sos: ac/dc index out of range\n");
1542     return AVERROR_INVALIDDATA;
1543 }
1544
1545 static int mjpeg_decode_dri(MJpegDecodeContext *s)
1546 {
1547     if (get_bits(&s->gb, 16) != 4)
1548         return AVERROR_INVALIDDATA;
1549     s->restart_interval = get_bits(&s->gb, 16);
1550     s->restart_count    = 0;
1551     av_log(s->avctx, AV_LOG_DEBUG, "restart interval: %d\n",
1552            s->restart_interval);
1553
1554     return 0;
1555 }
1556
1557 static int mjpeg_decode_app(MJpegDecodeContext *s)
1558 {
1559     int len, id, i;
1560
1561     len = get_bits(&s->gb, 16);
1562     if (len < 6)
1563         return AVERROR_INVALIDDATA;
1564     if (8 * len > get_bits_left(&s->gb))
1565         return AVERROR_INVALIDDATA;
1566
1567     id   = get_bits_long(&s->gb, 32);
1568     len -= 6;
1569
1570     if (s->avctx->debug & FF_DEBUG_STARTCODE) {
1571         char id_str[32];
1572         av_get_codec_tag_string(id_str, sizeof(id_str), av_bswap32(id));
1573         av_log(s->avctx, AV_LOG_DEBUG, "APPx (%s / %8X) len=%d\n", id_str, id, len);
1574     }
1575
1576     /* Buggy AVID, it puts EOI only at every 10th frame. */
1577     /* Also, this fourcc is used by non-avid files too, it holds some
1578        information, but it's always present in AVID-created files. */
1579     if (id == AV_RB32("AVI1")) {
1580         /* structure:
1581             4bytes      AVI1
1582             1bytes      polarity
1583             1bytes      always zero
1584             4bytes      field_size
1585             4bytes      field_size_less_padding
1586         */
1587             s->buggy_avid = 1;
1588         i = get_bits(&s->gb, 8); len--;
1589         av_log(s->avctx, AV_LOG_DEBUG, "polarity %d\n", i);
1590 #if 0
1591         skip_bits(&s->gb, 8);
1592         skip_bits(&s->gb, 32);
1593         skip_bits(&s->gb, 32);
1594         len -= 10;
1595 #endif
1596         goto out;
1597     }
1598
1599 //    len -= 2;
1600
1601     if (id == AV_RB32("JFIF")) {
1602         int t_w, t_h, v1, v2;
1603         skip_bits(&s->gb, 8); /* the trailing zero-byte */
1604         v1 = get_bits(&s->gb, 8);
1605         v2 = get_bits(&s->gb, 8);
1606         skip_bits(&s->gb, 8);
1607
1608         s->avctx->sample_aspect_ratio.num = get_bits(&s->gb, 16);
1609         s->avctx->sample_aspect_ratio.den = get_bits(&s->gb, 16);
1610         ff_set_sar(s->avctx, s->avctx->sample_aspect_ratio);
1611
1612         if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1613             av_log(s->avctx, AV_LOG_INFO,
1614                    "mjpeg: JFIF header found (version: %x.%x) SAR=%d/%d\n",
1615                    v1, v2,
1616                    s->avctx->sample_aspect_ratio.num,
1617                    s->avctx->sample_aspect_ratio.den);
1618
1619         t_w = get_bits(&s->gb, 8);
1620         t_h = get_bits(&s->gb, 8);
1621         if (t_w && t_h) {
1622             /* skip thumbnail */
1623             if (len -10 - (t_w * t_h * 3) > 0)
1624                 len -= t_w * t_h * 3;
1625         }
1626         len -= 10;
1627         goto out;
1628     }
1629
1630     if (id == AV_RB32("Adob") && (get_bits(&s->gb, 8) == 'e')) {
1631         skip_bits(&s->gb, 16); /* version */
1632         skip_bits(&s->gb, 16); /* flags0 */
1633         skip_bits(&s->gb, 16); /* flags1 */
1634         s->adobe_transform = get_bits(&s->gb,  8);
1635         if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1636             av_log(s->avctx, AV_LOG_INFO, "mjpeg: Adobe header found, transform=%d\n", s->adobe_transform);
1637         len -= 7;
1638         goto out;
1639     }
1640
1641     if (id == AV_RB32("LJIF")) {
1642         int rgb = s->rgb;
1643         int pegasus_rct = s->pegasus_rct;
1644         if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1645             av_log(s->avctx, AV_LOG_INFO,
1646                    "Pegasus lossless jpeg header found\n");
1647         skip_bits(&s->gb, 16); /* version ? */
1648         skip_bits(&s->gb, 16); /* unknown always 0? */
1649         skip_bits(&s->gb, 16); /* unknown always 0? */
1650         skip_bits(&s->gb, 16); /* unknown always 0? */
1651         switch (i=get_bits(&s->gb, 8)) {
1652         case 1:
1653             rgb         = 1;
1654             pegasus_rct = 0;
1655             break;
1656         case 2:
1657             rgb         = 1;
1658             pegasus_rct = 1;
1659             break;
1660         default:
1661             av_log(s->avctx, AV_LOG_ERROR, "unknown colorspace %d\n", i);
1662         }
1663
1664         len -= 9;
1665         if (s->got_picture)
1666             if (rgb != s->rgb || pegasus_rct != s->pegasus_rct) {
1667                 av_log(s->avctx, AV_LOG_WARNING, "Mismatching LJIF tag\n");
1668                 goto out;
1669             }
1670
1671         s->rgb = rgb;
1672         s->pegasus_rct = pegasus_rct;
1673
1674         goto out;
1675     }
1676     if (id == AV_RL32("colr") && len > 0) {
1677         s->colr = get_bits(&s->gb, 8);
1678         if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1679             av_log(s->avctx, AV_LOG_INFO, "COLR %d\n", s->colr);
1680         len --;
1681         goto out;
1682     }
1683     if (id == AV_RL32("xfrm") && len > 0) {
1684         s->xfrm = get_bits(&s->gb, 8);
1685         if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1686             av_log(s->avctx, AV_LOG_INFO, "XFRM %d\n", s->xfrm);
1687         len --;
1688         goto out;
1689     }
1690
1691     /* JPS extension by VRex */
1692     if (s->start_code == APP3 && id == AV_RB32("_JPS") && len >= 10) {
1693         int flags, layout, type;
1694         if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1695             av_log(s->avctx, AV_LOG_INFO, "_JPSJPS_\n");
1696
1697         skip_bits(&s->gb, 32); len -= 4;  /* JPS_ */
1698         skip_bits(&s->gb, 16); len -= 2;  /* block length */
1699         skip_bits(&s->gb, 8);             /* reserved */
1700         flags  = get_bits(&s->gb, 8);
1701         layout = get_bits(&s->gb, 8);
1702         type   = get_bits(&s->gb, 8);
1703         len -= 4;
1704
1705         s->stereo3d = av_stereo3d_alloc();
1706         if (!s->stereo3d) {
1707             goto out;
1708         }
1709         if (type == 0) {
1710             s->stereo3d->type = AV_STEREO3D_2D;
1711         } else if (type == 1) {
1712             switch (layout) {
1713             case 0x01:
1714                 s->stereo3d->type = AV_STEREO3D_LINES;
1715                 break;
1716             case 0x02:
1717                 s->stereo3d->type = AV_STEREO3D_SIDEBYSIDE;
1718                 break;
1719             case 0x03:
1720                 s->stereo3d->type = AV_STEREO3D_TOPBOTTOM;
1721                 break;
1722             }
1723             if (!(flags & 0x04)) {
1724                 s->stereo3d->flags = AV_STEREO3D_FLAG_INVERT;
1725             }
1726         }
1727         goto out;
1728     }
1729
1730     /* EXIF metadata */
1731     if (s->start_code == APP1 && id == AV_RB32("Exif") && len >= 2) {
1732         GetByteContext gbytes;
1733         int ret, le, ifd_offset, bytes_read;
1734         const uint8_t *aligned;
1735
1736         skip_bits(&s->gb, 16); // skip padding
1737         len -= 2;
1738
1739         // init byte wise reading
1740         aligned = align_get_bits(&s->gb);
1741         bytestream2_init(&gbytes, aligned, len);
1742
1743         // read TIFF header
1744         ret = ff_tdecode_header(&gbytes, &le, &ifd_offset);
1745         if (ret) {
1746             av_log(s->avctx, AV_LOG_ERROR, "mjpeg: invalid TIFF header in EXIF data\n");
1747         } else {
1748             bytestream2_seek(&gbytes, ifd_offset, SEEK_SET);
1749
1750             // read 0th IFD and store the metadata
1751             // (return values > 0 indicate the presence of subimage metadata)
1752             ret = avpriv_exif_decode_ifd(s->avctx, &gbytes, le, 0, &s->exif_metadata);
1753             if (ret < 0) {
1754                 av_log(s->avctx, AV_LOG_ERROR, "mjpeg: error decoding EXIF data\n");
1755             }
1756         }
1757
1758         bytes_read = bytestream2_tell(&gbytes);
1759         skip_bits(&s->gb, bytes_read << 3);
1760         len -= bytes_read;
1761
1762         goto out;
1763     }
1764
1765     /* Apple MJPEG-A */
1766     if ((s->start_code == APP1) && (len > (0x28 - 8))) {
1767         id   = get_bits_long(&s->gb, 32);
1768         len -= 4;
1769         /* Apple MJPEG-A */
1770         if (id == AV_RB32("mjpg")) {
1771 #if 0
1772             skip_bits(&s->gb, 32); /* field size */
1773             skip_bits(&s->gb, 32); /* pad field size */
1774             skip_bits(&s->gb, 32); /* next off */
1775             skip_bits(&s->gb, 32); /* quant off */
1776             skip_bits(&s->gb, 32); /* huff off */
1777             skip_bits(&s->gb, 32); /* image off */
1778             skip_bits(&s->gb, 32); /* scan off */
1779             skip_bits(&s->gb, 32); /* data off */
1780 #endif
1781             if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1782                 av_log(s->avctx, AV_LOG_INFO, "mjpeg: Apple MJPEG-A header found\n");
1783         }
1784     }
1785
1786 out:
1787     /* slow but needed for extreme adobe jpegs */
1788     if (len < 0)
1789         av_log(s->avctx, AV_LOG_ERROR,
1790                "mjpeg: error, decode_app parser read over the end\n");
1791     while (--len > 0)
1792         skip_bits(&s->gb, 8);
1793
1794     return 0;
1795 }
1796
1797 static int mjpeg_decode_com(MJpegDecodeContext *s)
1798 {
1799     int len = get_bits(&s->gb, 16);
1800     if (len >= 2 && 8 * len - 16 <= get_bits_left(&s->gb)) {
1801         char *cbuf = av_malloc(len - 1);
1802         if (cbuf) {
1803             int i;
1804             for (i = 0; i < len - 2; i++)
1805                 cbuf[i] = get_bits(&s->gb, 8);
1806             if (i > 0 && cbuf[i - 1] == '\n')
1807                 cbuf[i - 1] = 0;
1808             else
1809                 cbuf[i] = 0;
1810
1811             if (s->avctx->debug & FF_DEBUG_PICT_INFO)
1812                 av_log(s->avctx, AV_LOG_INFO, "comment: '%s'\n", cbuf);
1813
1814             /* buggy avid, it puts EOI only at every 10th frame */
1815             if (!strncmp(cbuf, "AVID", 4)) {
1816                 parse_avid(s, cbuf, len);
1817             } else if (!strcmp(cbuf, "CS=ITU601"))
1818                 s->cs_itu601 = 1;
1819             else if ((!strncmp(cbuf, "Intel(R) JPEG Library, version 1", 32) && s->avctx->codec_tag) ||
1820                      (!strncmp(cbuf, "Metasoft MJPEG Codec", 20)))
1821                 s->flipped = 1;
1822
1823             av_free(cbuf);
1824         }
1825     }
1826
1827     return 0;
1828 }
1829
1830 /* return the 8 bit start code value and update the search
1831    state. Return -1 if no start code found */
1832 static int find_marker(const uint8_t **pbuf_ptr, const uint8_t *buf_end)
1833 {
1834     const uint8_t *buf_ptr;
1835     unsigned int v, v2;
1836     int val;
1837     int skipped = 0;
1838
1839     buf_ptr = *pbuf_ptr;
1840     while (buf_end - buf_ptr > 1) {
1841         v  = *buf_ptr++;
1842         v2 = *buf_ptr;
1843         if ((v == 0xff) && (v2 >= 0xc0) && (v2 <= 0xfe) && buf_ptr < buf_end) {
1844             val = *buf_ptr++;
1845             goto found;
1846         }
1847         skipped++;
1848     }
1849     buf_ptr = buf_end;
1850     val = -1;
1851 found:
1852     av_dlog(NULL, "find_marker skipped %d bytes\n", skipped);
1853     *pbuf_ptr = buf_ptr;
1854     return val;
1855 }
1856
1857 int ff_mjpeg_find_marker(MJpegDecodeContext *s,
1858                          const uint8_t **buf_ptr, const uint8_t *buf_end,
1859                          const uint8_t **unescaped_buf_ptr,
1860                          int *unescaped_buf_size)
1861 {
1862     int start_code;
1863     start_code = find_marker(buf_ptr, buf_end);
1864
1865     av_fast_padded_malloc(&s->buffer, &s->buffer_size, buf_end - *buf_ptr);
1866     if (!s->buffer)
1867         return AVERROR(ENOMEM);
1868
1869     /* unescape buffer of SOS, use special treatment for JPEG-LS */
1870     if (start_code == SOS && !s->ls) {
1871         const uint8_t *src = *buf_ptr;
1872         uint8_t *dst = s->buffer;
1873
1874         while (src < buf_end) {
1875             uint8_t x = *(src++);
1876
1877             *(dst++) = x;
1878             if (s->avctx->codec_id != AV_CODEC_ID_THP) {
1879                 if (x == 0xff) {
1880                     while (src < buf_end && x == 0xff)
1881                         x = *(src++);
1882
1883                     if (x >= 0xd0 && x <= 0xd7)
1884                         *(dst++) = x;
1885                     else if (x)
1886                         break;
1887                 }
1888             }
1889         }
1890         *unescaped_buf_ptr  = s->buffer;
1891         *unescaped_buf_size = dst - s->buffer;
1892         memset(s->buffer + *unescaped_buf_size, 0,
1893                FF_INPUT_BUFFER_PADDING_SIZE);
1894
1895         av_log(s->avctx, AV_LOG_DEBUG, "escaping removed %"PTRDIFF_SPECIFIER" bytes\n",
1896                (buf_end - *buf_ptr) - (dst - s->buffer));
1897     } else if (start_code == SOS && s->ls) {
1898         const uint8_t *src = *buf_ptr;
1899         uint8_t *dst  = s->buffer;
1900         int bit_count = 0;
1901         int t = 0, b = 0;
1902         PutBitContext pb;
1903
1904         /* find marker */
1905         while (src + t < buf_end) {
1906             uint8_t x = src[t++];
1907             if (x == 0xff) {
1908                 while ((src + t < buf_end) && x == 0xff)
1909                     x = src[t++];
1910                 if (x & 0x80) {
1911                     t -= FFMIN(2, t);
1912                     break;
1913                 }
1914             }
1915         }
1916         bit_count = t * 8;
1917         init_put_bits(&pb, dst, t);
1918
1919         /* unescape bitstream */
1920         while (b < t) {
1921             uint8_t x = src[b++];
1922             put_bits(&pb, 8, x);
1923             if (x == 0xFF) {
1924                 x = src[b++];
1925                 if (x & 0x80) {
1926                     av_log(s->avctx, AV_LOG_WARNING, "Invalid escape sequence\n");
1927                     x &= 0x7f;
1928                 }
1929                 put_bits(&pb, 7, x);
1930                 bit_count--;
1931             }
1932         }
1933         flush_put_bits(&pb);
1934
1935         *unescaped_buf_ptr  = dst;
1936         *unescaped_buf_size = (bit_count + 7) >> 3;
1937         memset(s->buffer + *unescaped_buf_size, 0,
1938                FF_INPUT_BUFFER_PADDING_SIZE);
1939     } else {
1940         *unescaped_buf_ptr  = *buf_ptr;
1941         *unescaped_buf_size = buf_end - *buf_ptr;
1942     }
1943
1944     return start_code;
1945 }
1946
1947 int ff_mjpeg_decode_frame(AVCodecContext *avctx, void *data, int *got_frame,
1948                           AVPacket *avpkt)
1949 {
1950     AVFrame     *frame = data;
1951     const uint8_t *buf = avpkt->data;
1952     int buf_size       = avpkt->size;
1953     MJpegDecodeContext *s = avctx->priv_data;
1954     const uint8_t *buf_end, *buf_ptr;
1955     const uint8_t *unescaped_buf_ptr;
1956     int hshift, vshift;
1957     int unescaped_buf_size;
1958     int start_code;
1959     int i, index;
1960     int ret = 0;
1961     int is16bit;
1962
1963     av_dict_free(&s->exif_metadata);
1964     av_freep(&s->stereo3d);
1965     s->adobe_transform = -1;
1966
1967     buf_ptr = buf;
1968     buf_end = buf + buf_size;
1969     while (buf_ptr < buf_end) {
1970         /* find start next marker */
1971         start_code = ff_mjpeg_find_marker(s, &buf_ptr, buf_end,
1972                                           &unescaped_buf_ptr,
1973                                           &unescaped_buf_size);
1974         /* EOF */
1975         if (start_code < 0) {
1976             break;
1977         } else if (unescaped_buf_size > INT_MAX / 8) {
1978             av_log(avctx, AV_LOG_ERROR,
1979                    "MJPEG packet 0x%x too big (%d/%d), corrupt data?\n",
1980                    start_code, unescaped_buf_size, buf_size);
1981             return AVERROR_INVALIDDATA;
1982         }
1983         av_log(avctx, AV_LOG_DEBUG, "marker=%x avail_size_in_buf=%"PTRDIFF_SPECIFIER"\n",
1984                start_code, buf_end - buf_ptr);
1985
1986         ret = init_get_bits8(&s->gb, unescaped_buf_ptr, unescaped_buf_size);
1987
1988         if (ret < 0) {
1989             av_log(avctx, AV_LOG_ERROR, "invalid buffer\n");
1990             goto fail;
1991         }
1992
1993         s->start_code = start_code;
1994         if (s->avctx->debug & FF_DEBUG_STARTCODE)
1995             av_log(avctx, AV_LOG_DEBUG, "startcode: %X\n", start_code);
1996
1997         /* process markers */
1998         if (start_code >= 0xd0 && start_code <= 0xd7)
1999             av_log(avctx, AV_LOG_DEBUG,
2000                    "restart marker: %d\n", start_code & 0x0f);
2001             /* APP fields */
2002         else if (start_code >= APP0 && start_code <= APP15)
2003             mjpeg_decode_app(s);
2004             /* Comment */
2005         else if (start_code == COM)
2006             mjpeg_decode_com(s);
2007
2008         ret = -1;
2009
2010         if (!CONFIG_JPEGLS_DECODER &&
2011             (start_code == SOF48 || start_code == LSE)) {
2012             av_log(avctx, AV_LOG_ERROR, "JPEG-LS support not enabled.\n");
2013             return AVERROR(ENOSYS);
2014         }
2015
2016         switch (start_code) {
2017         case SOI:
2018             s->restart_interval = 0;
2019             s->restart_count    = 0;
2020             /* nothing to do on SOI */
2021             break;
2022         case DQT:
2023             ff_mjpeg_decode_dqt(s);
2024             break;
2025         case DHT:
2026             if ((ret = ff_mjpeg_decode_dht(s)) < 0) {
2027                 av_log(avctx, AV_LOG_ERROR, "huffman table decode error\n");
2028                 goto fail;
2029             }
2030             break;
2031         case SOF0:
2032         case SOF1:
2033             s->lossless    = 0;
2034             s->ls          = 0;
2035             s->progressive = 0;
2036             if ((ret = ff_mjpeg_decode_sof(s)) < 0)
2037                 goto fail;
2038             break;
2039         case SOF2:
2040             s->lossless    = 0;
2041             s->ls          = 0;
2042             s->progressive = 1;
2043             if ((ret = ff_mjpeg_decode_sof(s)) < 0)
2044                 goto fail;
2045             break;
2046         case SOF3:
2047             s->lossless    = 1;
2048             s->ls          = 0;
2049             s->progressive = 0;
2050             if ((ret = ff_mjpeg_decode_sof(s)) < 0)
2051                 goto fail;
2052             break;
2053         case SOF48:
2054             s->lossless    = 1;
2055             s->ls          = 1;
2056             s->progressive = 0;
2057             if ((ret = ff_mjpeg_decode_sof(s)) < 0)
2058                 goto fail;
2059             break;
2060         case LSE:
2061             if (!CONFIG_JPEGLS_DECODER ||
2062                 (ret = ff_jpegls_decode_lse(s)) < 0)
2063                 goto fail;
2064             break;
2065         case EOI:
2066 eoi_parser:
2067             s->cur_scan = 0;
2068             if (!s->got_picture) {
2069                 av_log(avctx, AV_LOG_WARNING,
2070                        "Found EOI before any SOF, ignoring\n");
2071                 break;
2072             }
2073             if (s->interlaced) {
2074                 s->bottom_field ^= 1;
2075                 /* if not bottom field, do not output image yet */
2076                 if (s->bottom_field == !s->interlace_polarity)
2077                     break;
2078             }
2079             if ((ret = av_frame_ref(frame, s->picture_ptr)) < 0)
2080                 return ret;
2081             *got_frame = 1;
2082             s->got_picture = 0;
2083
2084             if (!s->lossless) {
2085                 int qp = FFMAX3(s->qscale[0],
2086                                 s->qscale[1],
2087                                 s->qscale[2]);
2088                 int qpw = (s->width + 15) / 16;
2089                 AVBufferRef *qp_table_buf = av_buffer_alloc(qpw);
2090                 if (qp_table_buf) {
2091                     memset(qp_table_buf->data, qp, qpw);
2092                     av_frame_set_qp_table(data, qp_table_buf, 0, FF_QSCALE_TYPE_MPEG1);
2093                 }
2094
2095                 if(avctx->debug & FF_DEBUG_QP)
2096                     av_log(avctx, AV_LOG_DEBUG, "QP: %d\n", qp);
2097             }
2098
2099             goto the_end;
2100         case SOS:
2101             s->cur_scan++;
2102             if ((ret = ff_mjpeg_decode_sos(s, NULL, 0, NULL)) < 0 &&
2103                 (avctx->err_recognition & AV_EF_EXPLODE))
2104                 goto fail;
2105             break;
2106         case DRI:
2107             mjpeg_decode_dri(s);
2108             break;
2109         case SOF5:
2110         case SOF6:
2111         case SOF7:
2112         case SOF9:
2113         case SOF10:
2114         case SOF11:
2115         case SOF13:
2116         case SOF14:
2117         case SOF15:
2118         case JPG:
2119             av_log(avctx, AV_LOG_ERROR,
2120                    "mjpeg: unsupported coding type (%x)\n", start_code);
2121             break;
2122         }
2123
2124         /* eof process start code */
2125         buf_ptr += (get_bits_count(&s->gb) + 7) / 8;
2126         av_log(avctx, AV_LOG_DEBUG,
2127                "marker parser used %d bytes (%d bits)\n",
2128                (get_bits_count(&s->gb) + 7) / 8, get_bits_count(&s->gb));
2129     }
2130     if (s->got_picture && s->cur_scan) {
2131         av_log(avctx, AV_LOG_WARNING, "EOI missing, emulating\n");
2132         goto eoi_parser;
2133     }
2134     av_log(avctx, AV_LOG_FATAL, "No JPEG data found in image\n");
2135     return AVERROR_INVALIDDATA;
2136 fail:
2137     s->got_picture = 0;
2138     return ret;
2139 the_end:
2140
2141     is16bit = av_pix_fmt_desc_get(s->avctx->pix_fmt)->comp[0].step_minus1;
2142
2143     if (AV_RB32(s->upscale_h)) {
2144         int p;
2145         av_assert0(avctx->pix_fmt == AV_PIX_FMT_YUVJ444P ||
2146                    avctx->pix_fmt == AV_PIX_FMT_YUV444P  ||
2147                    avctx->pix_fmt == AV_PIX_FMT_YUVJ440P ||
2148                    avctx->pix_fmt == AV_PIX_FMT_YUV440P  ||
2149                    avctx->pix_fmt == AV_PIX_FMT_YUVA444P ||
2150                    avctx->pix_fmt == AV_PIX_FMT_YUVJ420P ||
2151                    avctx->pix_fmt == AV_PIX_FMT_YUV420P  ||
2152                    avctx->pix_fmt == AV_PIX_FMT_YUV420P16||
2153                    avctx->pix_fmt == AV_PIX_FMT_YUVA420P  ||
2154                    avctx->pix_fmt == AV_PIX_FMT_YUVA420P16||
2155                    avctx->pix_fmt == AV_PIX_FMT_GBRP     ||
2156                    avctx->pix_fmt == AV_PIX_FMT_GBRAP
2157                   );
2158         avcodec_get_chroma_sub_sample(s->avctx->pix_fmt, &hshift, &vshift);
2159         for (p = 0; p<4; p++) {
2160             uint8_t *line = s->picture_ptr->data[p];
2161             int w = s->width;
2162             int h = s->height;
2163             if (!s->upscale_h[p])
2164                 continue;
2165             if (p==1 || p==2) {
2166                 w = FF_CEIL_RSHIFT(w, hshift);
2167                 h = FF_CEIL_RSHIFT(h, vshift);
2168             }
2169             if (s->upscale_v[p])
2170                 h = (h+1)>>1;
2171             av_assert0(w > 0);
2172             for (i = 0; i < h; i++) {
2173                 if (s->upscale_h[p] == 1) {
2174                     if (is16bit) ((uint16_t*)line)[w - 1] = ((uint16_t*)line)[(w - 1) / 2];
2175                     else                      line[w - 1] = line[(w - 1) / 2];
2176                     for (index = w - 2; index > 0; index--) {
2177                         if (is16bit)
2178                             ((uint16_t*)line)[index] = (((uint16_t*)line)[index / 2] + ((uint16_t*)line)[(index + 1) / 2]) >> 1;
2179                         else
2180                             line[index] = (line[index / 2] + line[(index + 1) / 2]) >> 1;
2181                     }
2182                 } else if (s->upscale_h[p] == 2) {
2183                     if (is16bit) {
2184                         ((uint16_t*)line)[w - 1] =
2185                         ((uint16_t*)line)[w - 2] = ((uint16_t*)line)[(w - 1) / 3];
2186                     } else {
2187                         line[w - 1] =
2188                         line[w - 2] = line[(w - 1) / 3];
2189                     }
2190                     for (index = w - 3; index > 0; index--) {
2191                         line[index] = (line[index / 3] + line[(index + 1) / 3] + line[(index + 2) / 3] + 1) / 3;
2192                     }
2193                 }
2194                 line += s->linesize[p];
2195             }
2196         }
2197     }
2198     if (AV_RB32(s->upscale_v)) {
2199         int p;
2200         av_assert0(avctx->pix_fmt == AV_PIX_FMT_YUVJ444P ||
2201                    avctx->pix_fmt == AV_PIX_FMT_YUV444P  ||
2202                    avctx->pix_fmt == AV_PIX_FMT_YUVJ422P ||
2203                    avctx->pix_fmt == AV_PIX_FMT_YUV422P  ||
2204                    avctx->pix_fmt == AV_PIX_FMT_YUVJ420P ||
2205                    avctx->pix_fmt == AV_PIX_FMT_YUV420P  ||
2206                    avctx->pix_fmt == AV_PIX_FMT_YUV440P  ||
2207                    avctx->pix_fmt == AV_PIX_FMT_YUVJ440P ||
2208                    avctx->pix_fmt == AV_PIX_FMT_YUVA444P ||
2209                    avctx->pix_fmt == AV_PIX_FMT_YUVA420P  ||
2210                    avctx->pix_fmt == AV_PIX_FMT_YUVA420P16||
2211                    avctx->pix_fmt == AV_PIX_FMT_GBRP     ||
2212                    avctx->pix_fmt == AV_PIX_FMT_GBRAP
2213                    );
2214         avcodec_get_chroma_sub_sample(s->avctx->pix_fmt, &hshift, &vshift);
2215         for (p = 0; p < 4; p++) {
2216             uint8_t *dst;
2217             int w = s->width;
2218             int h = s->height;
2219             if (!s->upscale_v[p])
2220                 continue;
2221             if (p==1 || p==2) {
2222                 w = FF_CEIL_RSHIFT(w, hshift);
2223                 h = FF_CEIL_RSHIFT(h, vshift);
2224             }
2225             dst = &((uint8_t *)s->picture_ptr->data[p])[(h - 1) * s->linesize[p]];
2226             for (i = h - 1; i; i--) {
2227                 uint8_t *src1 = &((uint8_t *)s->picture_ptr->data[p])[i / 2 * s->linesize[p]];
2228                 uint8_t *src2 = &((uint8_t *)s->picture_ptr->data[p])[(i + 1) / 2 * s->linesize[p]];
2229                 if (src1 == src2 || i == h - 1) {
2230                     memcpy(dst, src1, w);
2231                 } else {
2232                     for (index = 0; index < w; index++)
2233                         dst[index] = (src1[index] + src2[index]) >> 1;
2234                 }
2235                 dst -= s->linesize[p];
2236             }
2237         }
2238     }
2239     if (s->flipped) {
2240         int j;
2241         avcodec_get_chroma_sub_sample(s->avctx->pix_fmt, &hshift, &vshift);
2242         for (index=0; index<4; index++) {
2243             uint8_t *dst = s->picture_ptr->data[index];
2244             int w = s->picture_ptr->width;
2245             int h = s->picture_ptr->height;
2246             if(index && index<3){
2247                 w = FF_CEIL_RSHIFT(w, hshift);
2248                 h = FF_CEIL_RSHIFT(h, vshift);
2249             }
2250             if(dst){
2251                 uint8_t *dst2 = dst + s->picture_ptr->linesize[index]*(h-1);
2252                 for (i=0; i<h/2; i++) {
2253                     for (j=0; j<w; j++)
2254                         FFSWAP(int, dst[j], dst2[j]);
2255                     dst  += s->picture_ptr->linesize[index];
2256                     dst2 -= s->picture_ptr->linesize[index];
2257                 }
2258             }
2259         }
2260     }
2261     if (s->adobe_transform == 0 && s->avctx->pix_fmt == AV_PIX_FMT_GBRAP) {
2262         int w = s->picture_ptr->width;
2263         int h = s->picture_ptr->height;
2264         for (i=0; i<h; i++) {
2265             int j;
2266             uint8_t *dst[4];
2267             for (index=0; index<4; index++) {
2268                 dst[index] =   s->picture_ptr->data[index]
2269                              + s->picture_ptr->linesize[index]*i;
2270             }
2271             for (j=0; j<w; j++) {
2272                 int k = dst[3][j];
2273                 int r = dst[0][j] * k;
2274                 int g = dst[1][j] * k;
2275                 int b = dst[2][j] * k;
2276                 dst[0][j] = g*257 >> 16;
2277                 dst[1][j] = b*257 >> 16;
2278                 dst[2][j] = r*257 >> 16;
2279                 dst[3][j] = 255;
2280             }
2281         }
2282     }
2283     if (s->adobe_transform == 2 && s->avctx->pix_fmt == AV_PIX_FMT_YUVA444P) {
2284         int w = s->picture_ptr->width;
2285         int h = s->picture_ptr->height;
2286         for (i=0; i<h; i++) {
2287             int j;
2288             uint8_t *dst[4];
2289             for (index=0; index<4; index++) {
2290                 dst[index] =   s->picture_ptr->data[index]
2291                              + s->picture_ptr->linesize[index]*i;
2292             }
2293             for (j=0; j<w; j++) {
2294                 int k = dst[3][j];
2295                 int r = (255 - dst[0][j]) * k;
2296                 int g = (128 - dst[1][j]) * k;
2297                 int b = (128 - dst[2][j]) * k;
2298                 dst[0][j] = r*257 >> 16;
2299                 dst[1][j] = (g*257 >> 16) + 128;
2300                 dst[2][j] = (b*257 >> 16) + 128;
2301                 dst[3][j] = 255;
2302             }
2303         }
2304     }
2305
2306     if (s->stereo3d) {
2307         AVStereo3D *stereo = av_stereo3d_create_side_data(data);
2308         if (stereo) {
2309             stereo->type  = s->stereo3d->type;
2310             stereo->flags = s->stereo3d->flags;
2311         }
2312         av_freep(&s->stereo3d);
2313     }
2314
2315     av_dict_copy(avpriv_frame_get_metadatap(data), s->exif_metadata, 0);
2316     av_dict_free(&s->exif_metadata);
2317
2318     av_log(avctx, AV_LOG_DEBUG, "decode frame unused %"PTRDIFF_SPECIFIER" bytes\n",
2319            buf_end - buf_ptr);
2320 //  return buf_end - buf_ptr;
2321     return buf_ptr - buf;
2322 }
2323
2324 av_cold int ff_mjpeg_decode_end(AVCodecContext *avctx)
2325 {
2326     MJpegDecodeContext *s = avctx->priv_data;
2327     int i, j;
2328
2329     if (s->interlaced && s->bottom_field == !s->interlace_polarity && s->got_picture && !avctx->frame_number) {
2330         av_log(avctx, AV_LOG_INFO, "Single field\n");
2331     }
2332
2333     if (s->picture) {
2334         av_frame_free(&s->picture);
2335         s->picture_ptr = NULL;
2336     } else if (s->picture_ptr)
2337         av_frame_unref(s->picture_ptr);
2338
2339     av_freep(&s->buffer);
2340     av_freep(&s->stereo3d);
2341     av_freep(&s->ljpeg_buffer);
2342     s->ljpeg_buffer_size = 0;
2343
2344     for (i = 0; i < 3; i++) {
2345         for (j = 0; j < 4; j++)
2346             ff_free_vlc(&s->vlcs[i][j]);
2347     }
2348     for (i = 0; i < MAX_COMPONENTS; i++) {
2349         av_freep(&s->blocks[i]);
2350         av_freep(&s->last_nnz[i]);
2351     }
2352     av_dict_free(&s->exif_metadata);
2353     return 0;
2354 }
2355
2356 static void decode_flush(AVCodecContext *avctx)
2357 {
2358     MJpegDecodeContext *s = avctx->priv_data;
2359     s->got_picture = 0;
2360 }
2361
2362 #if CONFIG_MJPEG_DECODER
2363 #define OFFSET(x) offsetof(MJpegDecodeContext, x)
2364 #define VD AV_OPT_FLAG_VIDEO_PARAM | AV_OPT_FLAG_DECODING_PARAM
2365 static const AVOption options[] = {
2366     { "extern_huff", "Use external huffman table.",
2367       OFFSET(extern_huff), AV_OPT_TYPE_INT, { .i64 = 0 }, 0, 1, VD },
2368     { NULL },
2369 };
2370
2371 static const AVClass mjpegdec_class = {
2372     .class_name = "MJPEG decoder",
2373     .item_name  = av_default_item_name,
2374     .option     = options,
2375     .version    = LIBAVUTIL_VERSION_INT,
2376 };
2377
2378 AVCodec ff_mjpeg_decoder = {
2379     .name           = "mjpeg",
2380     .long_name      = NULL_IF_CONFIG_SMALL("MJPEG (Motion JPEG)"),
2381     .type           = AVMEDIA_TYPE_VIDEO,
2382     .id             = AV_CODEC_ID_MJPEG,
2383     .priv_data_size = sizeof(MJpegDecodeContext),
2384     .init           = ff_mjpeg_decode_init,
2385     .close          = ff_mjpeg_decode_end,
2386     .decode         = ff_mjpeg_decode_frame,
2387     .flush          = decode_flush,
2388     .capabilities   = CODEC_CAP_DR1,
2389     .max_lowres     = 3,
2390     .priv_class     = &mjpegdec_class,
2391     .caps_internal  = FF_CODEC_CAP_INIT_THREADSAFE,
2392 };
2393 #endif
2394 #if CONFIG_THP_DECODER
2395 AVCodec ff_thp_decoder = {
2396     .name           = "thp",
2397     .long_name      = NULL_IF_CONFIG_SMALL("Nintendo Gamecube THP video"),
2398     .type           = AVMEDIA_TYPE_VIDEO,
2399     .id             = AV_CODEC_ID_THP,
2400     .priv_data_size = sizeof(MJpegDecodeContext),
2401     .init           = ff_mjpeg_decode_init,
2402     .close          = ff_mjpeg_decode_end,
2403     .decode         = ff_mjpeg_decode_frame,
2404     .flush          = decode_flush,
2405     .capabilities   = CODEC_CAP_DR1,
2406     .max_lowres     = 3,
2407     .caps_internal  = FF_CODEC_CAP_INIT_THREADSAFE,
2408 };
2409 #endif