]> git.sesse.net Git - ffmpeg/blob - libavcodec/pngdec.c
pngdec/filter: dont access out of array elements at the end
[ffmpeg] / libavcodec / pngdec.c
1 /*
2  * PNG image format
3  * Copyright (c) 2003 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 //#define DEBUG
23
24 #include "libavutil/bprint.h"
25 #include "libavutil/imgutils.h"
26 #include "avcodec.h"
27 #include "bytestream.h"
28 #include "internal.h"
29 #include "png.h"
30 #include "pngdsp.h"
31
32 /* TODO:
33  * - add 16 bit depth support
34  */
35
36 #include <zlib.h>
37
38 //#define DEBUG
39
40 typedef struct PNGDecContext {
41     PNGDSPContext dsp;
42     AVCodecContext *avctx;
43
44     GetByteContext gb;
45     AVFrame picture1, picture2;
46     AVFrame *current_picture, *last_picture;
47
48     int state;
49     int width, height;
50     int bit_depth;
51     int color_type;
52     int compression_type;
53     int interlace_type;
54     int filter_type;
55     int channels;
56     int bits_per_pixel;
57     int bpp;
58
59     uint8_t *image_buf;
60     int image_linesize;
61     uint32_t palette[256];
62     uint8_t *crow_buf;
63     uint8_t *last_row;
64     uint8_t *tmp_row;
65     int pass;
66     int crow_size; /* compressed row size (include filter type) */
67     int row_size; /* decompressed row size */
68     int pass_row_size; /* decompress row size of the current pass */
69     int y;
70     z_stream zstream;
71 } PNGDecContext;
72
73 /* Mask to determine which pixels are valid in a pass */
74 static const uint8_t png_pass_mask[NB_PASSES] = {
75     0x01, 0x01, 0x11, 0x11, 0x55, 0x55, 0xff,
76 };
77
78 /* Mask to determine which y pixels can be written in a pass */
79 static const uint8_t png_pass_dsp_ymask[NB_PASSES] = {
80     0xff, 0xff, 0x0f, 0xff, 0x33, 0xff, 0x55,
81 };
82
83 /* Mask to determine which pixels to overwrite while displaying */
84 static const uint8_t png_pass_dsp_mask[NB_PASSES] = {
85     0xff, 0x0f, 0xff, 0x33, 0xff, 0x55, 0xff
86 };
87
88 /* NOTE: we try to construct a good looking image at each pass. width
89    is the original image width. We also do pixel format conversion at
90    this stage */
91 static void png_put_interlaced_row(uint8_t *dst, int width,
92                                    int bits_per_pixel, int pass,
93                                    int color_type, const uint8_t *src)
94 {
95     int x, mask, dsp_mask, j, src_x, b, bpp;
96     uint8_t *d;
97     const uint8_t *s;
98
99     mask     = png_pass_mask[pass];
100     dsp_mask = png_pass_dsp_mask[pass];
101
102     switch (bits_per_pixel) {
103     case 1:
104         src_x = 0;
105         for (x = 0; x < width; x++) {
106             j = (x & 7);
107             if ((dsp_mask << j) & 0x80) {
108                 b = (src[src_x >> 3] >> (7 - (src_x & 7))) & 1;
109                 dst[x >> 3] &= 0xFF7F>>j;
110                 dst[x >> 3] |= b << (7 - j);
111             }
112             if ((mask << j) & 0x80)
113                 src_x++;
114         }
115         break;
116     case 2:
117         src_x = 0;
118         for (x = 0; x < width; x++) {
119             int j2 = 2 * (x & 3);
120             j = (x & 7);
121             if ((dsp_mask << j) & 0x80) {
122                 b = (src[src_x >> 2] >> (6 - 2*(src_x & 3))) & 3;
123                 dst[x >> 2] &= 0xFF3F>>j2;
124                 dst[x >> 2] |= b << (6 - j2);
125             }
126             if ((mask << j) & 0x80)
127                 src_x++;
128         }
129         break;
130     case 4:
131         src_x = 0;
132         for (x = 0; x < width; x++) {
133             int j2 = 4*(x&1);
134             j = (x & 7);
135             if ((dsp_mask << j) & 0x80) {
136                 b = (src[src_x >> 1] >> (4 - 4*(src_x & 1))) & 15;
137                 dst[x >> 1] &= 0xFF0F>>j2;
138                 dst[x >> 1] |= b << (4 - j2);
139             }
140             if ((mask << j) & 0x80)
141                 src_x++;
142         }
143         break;
144     default:
145         bpp = bits_per_pixel >> 3;
146         d   = dst;
147         s   = src;
148             for (x = 0; x < width; x++) {
149                 j = x & 7;
150                 if ((dsp_mask << j) & 0x80) {
151                     memcpy(d, s, bpp);
152                 }
153                 d += bpp;
154                 if ((mask << j) & 0x80)
155                     s += bpp;
156             }
157         break;
158     }
159 }
160
161 void ff_add_png_paeth_prediction(uint8_t *dst, uint8_t *src, uint8_t *top, int w, int bpp)
162 {
163     int i;
164     for (i = 0; i < w; i++) {
165         int a, b, c, p, pa, pb, pc;
166
167         a = dst[i - bpp];
168         b = top[i];
169         c = top[i - bpp];
170
171         p  = b - c;
172         pc = a - c;
173
174         pa = abs(p);
175         pb = abs(pc);
176         pc = abs(p + pc);
177
178         if (pa <= pb && pa <= pc)
179             p = a;
180         else if (pb <= pc)
181             p = b;
182         else
183             p = c;
184         dst[i] = p + src[i];
185     }
186 }
187
188 #define UNROLL1(bpp, op) {\
189                  r = dst[0];\
190     if(bpp >= 2) g = dst[1];\
191     if(bpp >= 3) b = dst[2];\
192     if(bpp >= 4) a = dst[3];\
193     for(; i <= size - bpp; i+=bpp) {\
194         dst[i+0] = r = op(r, src[i+0], last[i+0]);\
195         if(bpp == 1) continue;\
196         dst[i+1] = g = op(g, src[i+1], last[i+1]);\
197         if(bpp == 2) continue;\
198         dst[i+2] = b = op(b, src[i+2], last[i+2]);\
199         if(bpp == 3) continue;\
200         dst[i+3] = a = op(a, src[i+3], last[i+3]);\
201     }\
202 }
203
204 #define UNROLL_FILTER(op)\
205          if(bpp == 1) UNROLL1(1, op)\
206     else if(bpp == 2) UNROLL1(2, op)\
207     else if(bpp == 3) UNROLL1(3, op)\
208     else if(bpp == 4) UNROLL1(4, op)\
209     for (; i < size; i++) {\
210         dst[i] = op(dst[i-bpp], src[i], last[i]);\
211     }\
212
213 /* NOTE: 'dst' can be equal to 'last' */
214 static void png_filter_row(PNGDSPContext *dsp, uint8_t *dst, int filter_type,
215                            uint8_t *src, uint8_t *last, int size, int bpp)
216 {
217     int i, p, r, g, b, a;
218
219     switch (filter_type) {
220     case PNG_FILTER_VALUE_NONE:
221         memcpy(dst, src, size);
222         break;
223     case PNG_FILTER_VALUE_SUB:
224         for (i = 0; i < bpp; i++) {
225             dst[i] = src[i];
226         }
227         if (bpp == 4) {
228             p = *(int*)dst;
229             for (; i < size; i += bpp) {
230                 int s = *(int*)(src + i);
231                 p = ((s & 0x7f7f7f7f) + (p & 0x7f7f7f7f)) ^ ((s ^ p) & 0x80808080);
232                 *(int*)(dst + i) = p;
233             }
234         } else {
235 #define OP_SUB(x,s,l) x+s
236             UNROLL_FILTER(OP_SUB);
237         }
238         break;
239     case PNG_FILTER_VALUE_UP:
240         dsp->add_bytes_l2(dst, src, last, size);
241         break;
242     case PNG_FILTER_VALUE_AVG:
243         for (i = 0; i < bpp; i++) {
244             p = (last[i] >> 1);
245             dst[i] = p + src[i];
246         }
247 #define OP_AVG(x,s,l) (((x + l) >> 1) + s) & 0xff
248         UNROLL_FILTER(OP_AVG);
249         break;
250     case PNG_FILTER_VALUE_PAETH:
251         for (i = 0; i < bpp; i++) {
252             p = last[i];
253             dst[i] = p + src[i];
254         }
255         if (bpp > 2 && size > 4) {
256             // would write off the end of the array if we let it process the last pixel with bpp=3
257             int w = bpp == 4 ? size : size - 3;
258             dsp->add_paeth_prediction(dst + i, src + i, last + i, w - i, bpp);
259             i = w;
260         }
261         ff_add_png_paeth_prediction(dst + i, src + i, last + i, size - i, bpp);
262         break;
263     }
264 }
265
266 /* This used to be called "deloco" in FFmpeg
267  * and is actually an inverse reversible colorspace transformation */
268 #define YUV2RGB(NAME, TYPE) \
269 static void deloco_ ## NAME(TYPE *dst, int size, int alpha) \
270 { \
271     int i; \
272     for (i = 0; i < size; i += 3 + alpha) { \
273         int g = dst [i+1]; \
274         dst[i+0] += g; \
275         dst[i+2] += g; \
276     } \
277 }
278
279 YUV2RGB(rgb8, uint8_t)
280 YUV2RGB(rgb16, uint16_t)
281
282 /* process exactly one decompressed row */
283 static void png_handle_row(PNGDecContext *s)
284 {
285     uint8_t *ptr, *last_row;
286     int got_line;
287
288     if (!s->interlace_type) {
289         ptr = s->image_buf + s->image_linesize * s->y;
290             if (s->y == 0)
291                 last_row = s->last_row;
292             else
293                 last_row = ptr - s->image_linesize;
294
295             png_filter_row(&s->dsp, ptr, s->crow_buf[0], s->crow_buf + 1,
296                            last_row, s->row_size, s->bpp);
297         /* loco lags by 1 row so that it doesn't interfere with top prediction */
298         if (s->filter_type == PNG_FILTER_TYPE_LOCO && s->y > 0) {
299             if (s->bit_depth == 16) {
300                 deloco_rgb16((uint16_t *)(ptr - s->image_linesize), s->row_size / 2,
301                              s->color_type == PNG_COLOR_TYPE_RGB_ALPHA);
302             } else {
303                 deloco_rgb8(ptr - s->image_linesize, s->row_size,
304                             s->color_type == PNG_COLOR_TYPE_RGB_ALPHA);
305             }
306         }
307         s->y++;
308         if (s->y == s->height) {
309             s->state |= PNG_ALLIMAGE;
310             if (s->filter_type == PNG_FILTER_TYPE_LOCO) {
311                 if (s->bit_depth == 16) {
312                     deloco_rgb16((uint16_t *)ptr, s->row_size / 2,
313                                  s->color_type == PNG_COLOR_TYPE_RGB_ALPHA);
314                 } else {
315                     deloco_rgb8(ptr, s->row_size,
316                                 s->color_type == PNG_COLOR_TYPE_RGB_ALPHA);
317                 }
318             }
319         }
320     } else {
321         got_line = 0;
322         for (;;) {
323             ptr = s->image_buf + s->image_linesize * s->y;
324             if ((ff_png_pass_ymask[s->pass] << (s->y & 7)) & 0x80) {
325                 /* if we already read one row, it is time to stop to
326                    wait for the next one */
327                 if (got_line)
328                     break;
329                 png_filter_row(&s->dsp, s->tmp_row, s->crow_buf[0], s->crow_buf + 1,
330                                s->last_row, s->pass_row_size, s->bpp);
331                 FFSWAP(uint8_t*, s->last_row, s->tmp_row);
332                 got_line = 1;
333             }
334             if ((png_pass_dsp_ymask[s->pass] << (s->y & 7)) & 0x80) {
335                 png_put_interlaced_row(ptr, s->width, s->bits_per_pixel, s->pass,
336                                        s->color_type, s->last_row);
337             }
338             s->y++;
339             if (s->y == s->height) {
340                 memset(s->last_row, 0, s->row_size);
341                 for (;;) {
342                     if (s->pass == NB_PASSES - 1) {
343                         s->state |= PNG_ALLIMAGE;
344                         goto the_end;
345                     } else {
346                         s->pass++;
347                         s->y = 0;
348                         s->pass_row_size = ff_png_pass_row_size(s->pass,
349                                                              s->bits_per_pixel,
350                                                              s->width);
351                         s->crow_size = s->pass_row_size + 1;
352                         if (s->pass_row_size != 0)
353                             break;
354                         /* skip pass if empty row */
355                     }
356                 }
357             }
358         }
359     the_end: ;
360     }
361 }
362
363 static int png_decode_idat(PNGDecContext *s, int length)
364 {
365     int ret;
366     s->zstream.avail_in = FFMIN(length, bytestream2_get_bytes_left(&s->gb));
367     s->zstream.next_in  = (unsigned char *)s->gb.buffer;
368     bytestream2_skip(&s->gb, length);
369
370     /* decode one line if possible */
371     while (s->zstream.avail_in > 0) {
372         ret = inflate(&s->zstream, Z_PARTIAL_FLUSH);
373         if (ret != Z_OK && ret != Z_STREAM_END) {
374             av_log(s->avctx, AV_LOG_ERROR, "inflate returned %d\n", ret);
375             return -1;
376         }
377         if (s->zstream.avail_out == 0) {
378             if (!(s->state & PNG_ALLIMAGE)) {
379                 png_handle_row(s);
380             }
381             s->zstream.avail_out = s->crow_size;
382             s->zstream.next_out  = s->crow_buf;
383         }
384     }
385     return 0;
386 }
387
388 static int decode_zbuf(AVBPrint *bp, const uint8_t *data,
389                        const uint8_t *data_end)
390 {
391     z_stream zstream;
392     unsigned char *buf;
393     unsigned buf_size;
394     int ret;
395
396     zstream.zalloc = ff_png_zalloc;
397     zstream.zfree  = ff_png_zfree;
398     zstream.opaque = NULL;
399     if (inflateInit(&zstream) != Z_OK)
400         return AVERROR_EXTERNAL;
401     zstream.next_in  = (unsigned char *)data;
402     zstream.avail_in = data_end - data;
403     av_bprint_init(bp, 0, -1);
404
405     while (zstream.avail_in > 0) {
406         av_bprint_get_buffer(bp, 1, &buf, &buf_size);
407         if (!buf_size) {
408             ret = AVERROR(ENOMEM);
409             goto fail;
410         }
411         zstream.next_out  = buf;
412         zstream.avail_out = buf_size;
413         ret = inflate(&zstream, Z_PARTIAL_FLUSH);
414         if (ret != Z_OK && ret != Z_STREAM_END) {
415             ret = AVERROR_EXTERNAL;
416             goto fail;
417         }
418         bp->len += zstream.next_out - buf;
419         if (ret == Z_STREAM_END)
420             break;
421     }
422     inflateEnd(&zstream);
423     bp->str[bp->len] = 0;
424     return 0;
425
426 fail:
427     inflateEnd(&zstream);
428     av_bprint_finalize(bp, NULL);
429     return ret;
430 }
431
432 static uint8_t *iso88591_to_utf8(const uint8_t *in, size_t size_in)
433 {
434     size_t extra = 0, i;
435     uint8_t *out, *q;
436
437     for (i = 0; i < size_in; i++)
438         extra += in[i] >= 0x80;
439     if (size_in == SIZE_MAX || extra > SIZE_MAX - size_in - 1)
440         return NULL;
441     q = out = av_malloc(size_in + extra + 1);
442     if (!out)
443         return NULL;
444     for (i = 0; i < size_in; i++) {
445         if (in[i] >= 0x80) {
446             *(q++) = 0xC0 | (in[i] >> 6);
447             *(q++) = 0x80 | (in[i] & 0x3F);
448         } else {
449             *(q++) = in[i];
450         }
451     }
452     *(q++) = 0;
453     return out;
454 }
455
456 static int decode_text_chunk(PNGDecContext *s, uint32_t length, int compressed,
457                              AVDictionary **dict)
458 {
459     int ret, method;
460     const uint8_t *data        = s->gb.buffer;
461     const uint8_t *data_end    = data + length;
462     const uint8_t *keyword     = data;
463     const uint8_t *keyword_end = memchr(keyword, 0, data_end - keyword);
464     uint8_t *kw_utf8 = NULL, *text, *txt_utf8 = NULL;
465     unsigned text_len;
466     AVBPrint bp;
467
468     if (!keyword_end)
469         return AVERROR_INVALIDDATA;
470     data = keyword_end + 1;
471
472     if (compressed) {
473         if (data == data_end)
474             return AVERROR_INVALIDDATA;
475         method = *(data++);
476         if (method)
477             return AVERROR_INVALIDDATA;
478         if ((ret = decode_zbuf(&bp, data, data_end)) < 0)
479             return ret;
480         text_len = bp.len;
481         av_bprint_finalize(&bp, (char **)&text);
482         if (!text)
483             return AVERROR(ENOMEM);
484     } else {
485         text = (uint8_t *)data;
486         text_len = data_end - text;
487     }
488
489     kw_utf8  = iso88591_to_utf8(keyword, keyword_end - keyword);
490     txt_utf8 = iso88591_to_utf8(text, text_len);
491     if (text != data)
492         av_free(text);
493     if (!(kw_utf8 && txt_utf8)) {
494         av_free(kw_utf8);
495         av_free(txt_utf8);
496         return AVERROR(ENOMEM);
497     }
498
499     av_dict_set(dict, kw_utf8, txt_utf8,
500                 AV_DICT_DONT_STRDUP_KEY | AV_DICT_DONT_STRDUP_VAL);
501     return 0;
502 }
503
504 static int decode_frame(AVCodecContext *avctx,
505                         void *data, int *got_frame,
506                         AVPacket *avpkt)
507 {
508     PNGDecContext * const s = avctx->priv_data;
509     const uint8_t *buf      = avpkt->data;
510     int buf_size            = avpkt->size;
511     AVFrame *picture        = data;
512     AVDictionary *metadata  = NULL;
513     uint8_t *crow_buf_base  = NULL;
514     AVFrame *p;
515     uint32_t tag, length;
516     int64_t sig;
517     int ret;
518
519     FFSWAP(AVFrame *, s->current_picture, s->last_picture);
520     avctx->coded_frame = s->current_picture;
521     p = s->current_picture;
522
523     bytestream2_init(&s->gb, buf, buf_size);
524
525     /* check signature */
526     sig = bytestream2_get_be64(&s->gb);
527     if (sig != PNGSIG &&
528         sig != MNGSIG) {
529         av_log(avctx, AV_LOG_ERROR, "Missing png signature\n");
530         return -1;
531     }
532
533     s->y = s->state = 0;
534
535     /* init the zlib */
536     s->zstream.zalloc = ff_png_zalloc;
537     s->zstream.zfree  = ff_png_zfree;
538     s->zstream.opaque = NULL;
539     ret = inflateInit(&s->zstream);
540     if (ret != Z_OK) {
541         av_log(avctx, AV_LOG_ERROR, "inflateInit returned %d\n", ret);
542         return -1;
543     }
544     for (;;) {
545         if (bytestream2_get_bytes_left(&s->gb) <= 0) {
546             av_log(avctx, AV_LOG_ERROR, "No bytes left\n");
547             goto fail;
548         }
549
550         length = bytestream2_get_be32(&s->gb);
551         if (length > 0x7fffffff || length > bytestream2_get_bytes_left(&s->gb))  {
552             av_log(avctx, AV_LOG_ERROR, "chunk too big\n");
553             goto fail;
554         }
555         tag = bytestream2_get_le32(&s->gb);
556         if (avctx->debug & FF_DEBUG_STARTCODE)
557             av_log(avctx, AV_LOG_DEBUG, "png: tag=%c%c%c%c length=%u\n",
558                 (tag & 0xff),
559                 ((tag >> 8) & 0xff),
560                 ((tag >> 16) & 0xff),
561                 ((tag >> 24) & 0xff), length);
562         switch (tag) {
563         case MKTAG('I', 'H', 'D', 'R'):
564             if (length != 13)
565                 goto fail;
566             s->width  = bytestream2_get_be32(&s->gb);
567             s->height = bytestream2_get_be32(&s->gb);
568             if (av_image_check_size(s->width, s->height, 0, avctx)) {
569                 s->width = s->height = 0;
570                 av_log(avctx, AV_LOG_ERROR, "Invalid image size\n");
571                 goto fail;
572             }
573             s->bit_depth        = bytestream2_get_byte(&s->gb);
574             s->color_type       = bytestream2_get_byte(&s->gb);
575             s->compression_type = bytestream2_get_byte(&s->gb);
576             s->filter_type      = bytestream2_get_byte(&s->gb);
577             s->interlace_type   = bytestream2_get_byte(&s->gb);
578             bytestream2_skip(&s->gb, 4); /* crc */
579             s->state |= PNG_IHDR;
580             if (avctx->debug & FF_DEBUG_PICT_INFO)
581                 av_log(avctx, AV_LOG_DEBUG, "width=%d height=%d depth=%d color_type=%d "
582                     "compression_type=%d filter_type=%d interlace_type=%d\n",
583                     s->width, s->height, s->bit_depth, s->color_type,
584                     s->compression_type, s->filter_type, s->interlace_type);
585             break;
586         case MKTAG('p', 'H', 'Y', 's'):
587             if (s->state & PNG_IDAT) {
588                 av_log(avctx, AV_LOG_ERROR, "pHYs after IDAT\n");
589                 goto fail;
590             }
591             avctx->sample_aspect_ratio.num = bytestream2_get_be32(&s->gb);
592             avctx->sample_aspect_ratio.den = bytestream2_get_be32(&s->gb);
593             if (avctx->sample_aspect_ratio.num < 0 || avctx->sample_aspect_ratio.den < 0)
594                 avctx->sample_aspect_ratio = (AVRational){ 0, 1 };
595             bytestream2_skip(&s->gb, 1); /* unit specifier */
596             bytestream2_skip(&s->gb, 4); /* crc */
597             break;
598         case MKTAG('I', 'D', 'A', 'T'):
599             if (!(s->state & PNG_IHDR)) {
600                 av_log(avctx, AV_LOG_ERROR, "IDAT without IHDR\n");
601                 goto fail;
602             }
603             if (!(s->state & PNG_IDAT)) {
604                 /* init image info */
605                 avctx->width  = s->width;
606                 avctx->height = s->height;
607
608                 s->channels       = ff_png_get_nb_channels(s->color_type);
609                 s->bits_per_pixel = s->bit_depth * s->channels;
610                 s->bpp            = (s->bits_per_pixel + 7) >> 3;
611                 s->row_size       = (avctx->width * s->bits_per_pixel + 7) >> 3;
612
613                 if ((s->bit_depth == 2 || s->bit_depth == 4 || s->bit_depth == 8) &&
614                     s->color_type == PNG_COLOR_TYPE_RGB) {
615                     avctx->pix_fmt = AV_PIX_FMT_RGB24;
616                 } else if ((s->bit_depth == 2 || s->bit_depth == 4 || s->bit_depth == 8) &&
617                            s->color_type == PNG_COLOR_TYPE_RGB_ALPHA) {
618                     avctx->pix_fmt = AV_PIX_FMT_RGBA;
619                 } else if ((s->bit_depth == 2 || s->bit_depth == 4 || s->bit_depth == 8) &&
620                            s->color_type == PNG_COLOR_TYPE_GRAY) {
621                     avctx->pix_fmt = AV_PIX_FMT_GRAY8;
622                 } else if (s->bit_depth == 16 &&
623                            s->color_type == PNG_COLOR_TYPE_GRAY) {
624                     avctx->pix_fmt = AV_PIX_FMT_GRAY16BE;
625                 } else if (s->bit_depth == 16 &&
626                            s->color_type == PNG_COLOR_TYPE_RGB) {
627                     avctx->pix_fmt = AV_PIX_FMT_RGB48BE;
628                 } else if (s->bit_depth == 16 &&
629                            s->color_type == PNG_COLOR_TYPE_RGB_ALPHA) {
630                     avctx->pix_fmt = AV_PIX_FMT_RGBA64BE;
631                 } else if ((s->bits_per_pixel == 1 || s->bits_per_pixel == 2 || s->bits_per_pixel == 4 || s->bits_per_pixel == 8) &&
632                            s->color_type == PNG_COLOR_TYPE_PALETTE) {
633                     avctx->pix_fmt = AV_PIX_FMT_PAL8;
634                 } else if (s->bit_depth == 1) {
635                     avctx->pix_fmt = AV_PIX_FMT_MONOBLACK;
636                 } else if (s->bit_depth == 8 &&
637                            s->color_type == PNG_COLOR_TYPE_GRAY_ALPHA) {
638                     avctx->pix_fmt = AV_PIX_FMT_Y400A;
639                 } else {
640                     av_log(avctx, AV_LOG_ERROR, "unsupported bit depth %d "
641                                                 "and color type %d\n",
642                                                  s->bit_depth, s->color_type);
643                     goto fail;
644                 }
645                 if (p->data[0])
646                     avctx->release_buffer(avctx, p);
647
648                 p->reference = 3;
649                 if (ff_get_buffer(avctx, p) < 0) {
650                     av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
651                     goto fail;
652                 }
653                 p->pict_type        = AV_PICTURE_TYPE_I;
654                 p->key_frame        = 1;
655                 p->interlaced_frame = !!s->interlace_type;
656
657                 /* compute the compressed row size */
658                 if (!s->interlace_type) {
659                     s->crow_size = s->row_size + 1;
660                 } else {
661                     s->pass = 0;
662                     s->pass_row_size = ff_png_pass_row_size(s->pass,
663                                                          s->bits_per_pixel,
664                                                          s->width);
665                     s->crow_size = s->pass_row_size + 1;
666                 }
667                 av_dlog(avctx, "row_size=%d crow_size =%d\n",
668                         s->row_size, s->crow_size);
669                 s->image_buf      = p->data[0];
670                 s->image_linesize = p->linesize[0];
671                 /* copy the palette if needed */
672                 if (avctx->pix_fmt == AV_PIX_FMT_PAL8)
673                     memcpy(p->data[1], s->palette, 256 * sizeof(uint32_t));
674                 /* empty row is used if differencing to the first row */
675                 s->last_row = av_mallocz(s->row_size);
676                 if (!s->last_row)
677                     goto fail;
678                 if (s->interlace_type ||
679                     s->color_type == PNG_COLOR_TYPE_RGB_ALPHA) {
680                     s->tmp_row = av_malloc(s->row_size);
681                     if (!s->tmp_row)
682                         goto fail;
683                 }
684                 /* compressed row */
685                 crow_buf_base = av_malloc(s->row_size + 16);
686                 if (!crow_buf_base)
687                     goto fail;
688
689                 /* we want crow_buf+1 to be 16-byte aligned */
690                 s->crow_buf          = crow_buf_base + 15;
691                 s->zstream.avail_out = s->crow_size;
692                 s->zstream.next_out  = s->crow_buf;
693             }
694             s->state |= PNG_IDAT;
695             if (png_decode_idat(s, length) < 0)
696                 goto fail;
697             bytestream2_skip(&s->gb, 4); /* crc */
698             break;
699         case MKTAG('P', 'L', 'T', 'E'):
700             {
701                 int n, i, r, g, b;
702
703                 if ((length % 3) != 0 || length > 256 * 3)
704                     goto skip_tag;
705                 /* read the palette */
706                 n = length / 3;
707                 for (i = 0; i < n; i++) {
708                     r = bytestream2_get_byte(&s->gb);
709                     g = bytestream2_get_byte(&s->gb);
710                     b = bytestream2_get_byte(&s->gb);
711                     s->palette[i] = (0xFFU << 24) | (r << 16) | (g << 8) | b;
712                 }
713                 for (; i < 256; i++) {
714                     s->palette[i] = (0xFFU << 24);
715                 }
716                 s->state |= PNG_PLTE;
717                 bytestream2_skip(&s->gb, 4); /* crc */
718             }
719             break;
720         case MKTAG('t', 'R', 'N', 'S'):
721             {
722                 int v, i;
723
724                 /* read the transparency. XXX: Only palette mode supported */
725                 if (s->color_type != PNG_COLOR_TYPE_PALETTE ||
726                     length > 256 ||
727                     !(s->state & PNG_PLTE))
728                     goto skip_tag;
729                 for (i = 0; i < length; i++) {
730                     v = bytestream2_get_byte(&s->gb);
731                     s->palette[i] = (s->palette[i] & 0x00ffffff) | (v << 24);
732                 }
733                 bytestream2_skip(&s->gb, 4); /* crc */
734             }
735             break;
736         case MKTAG('t', 'E', 'X', 't'):
737             if (decode_text_chunk(s, length, 0, &metadata) < 0)
738                 av_log(avctx, AV_LOG_WARNING, "Broken tEXt chunk\n");
739             bytestream2_skip(&s->gb, length + 4);
740             break;
741         case MKTAG('z', 'T', 'X', 't'):
742             if (decode_text_chunk(s, length, 1, &metadata) < 0)
743                 av_log(avctx, AV_LOG_WARNING, "Broken zTXt chunk\n");
744             bytestream2_skip(&s->gb, length + 4);
745             break;
746         case MKTAG('I', 'E', 'N', 'D'):
747             if (!(s->state & PNG_ALLIMAGE))
748                 av_log(avctx, AV_LOG_ERROR, "IEND without all image\n");
749             if (!(s->state & (PNG_ALLIMAGE|PNG_IDAT))) {
750                 goto fail;
751             }
752             bytestream2_skip(&s->gb, 4); /* crc */
753             goto exit_loop;
754         default:
755             /* skip tag */
756         skip_tag:
757             bytestream2_skip(&s->gb, length + 4);
758             break;
759         }
760     }
761  exit_loop:
762
763     if (s->bits_per_pixel == 1 && s->color_type == PNG_COLOR_TYPE_PALETTE){
764         int i, j, k;
765         uint8_t *pd = s->current_picture->data[0];
766         for (j = 0; j < s->height; j++) {
767             i = s->width / 8;
768             for (k = 7; k >= 1; k--)
769                 if ((s->width&7) >= k)
770                     pd[8*i + k - 1] = (pd[i]>>8-k) & 1;
771             for (i--; i >= 0; i--) {
772                 pd[8*i + 7]=  pd[i]     & 1;
773                 pd[8*i + 6]= (pd[i]>>1) & 1;
774                 pd[8*i + 5]= (pd[i]>>2) & 1;
775                 pd[8*i + 4]= (pd[i]>>3) & 1;
776                 pd[8*i + 3]= (pd[i]>>4) & 1;
777                 pd[8*i + 2]= (pd[i]>>5) & 1;
778                 pd[8*i + 1]= (pd[i]>>6) & 1;
779                 pd[8*i + 0]=  pd[i]>>7;
780             }
781             pd += s->image_linesize;
782         }
783     }
784     if (s->bits_per_pixel == 2){
785         int i, j;
786         uint8_t *pd = s->current_picture->data[0];
787         for (j = 0; j < s->height; j++) {
788             i = s->width / 4;
789             if (s->color_type == PNG_COLOR_TYPE_PALETTE){
790                 if ((s->width&3) >= 3) pd[4*i + 2]= (pd[i] >> 2) & 3;
791                 if ((s->width&3) >= 2) pd[4*i + 1]= (pd[i] >> 4) & 3;
792                 if ((s->width&3) >= 1) pd[4*i + 0]=  pd[i] >> 6;
793                 for (i--; i >= 0; i--) {
794                     pd[4*i + 3]=  pd[i]     & 3;
795                     pd[4*i + 2]= (pd[i]>>2) & 3;
796                     pd[4*i + 1]= (pd[i]>>4) & 3;
797                     pd[4*i + 0]=  pd[i]>>6;
798                 }
799             } else {
800                 if ((s->width&3) >= 3) pd[4*i + 2]= ((pd[i]>>2) & 3)*0x55;
801                 if ((s->width&3) >= 2) pd[4*i + 1]= ((pd[i]>>4) & 3)*0x55;
802                 if ((s->width&3) >= 1) pd[4*i + 0]= ( pd[i]>>6     )*0x55;
803                 for (i--; i >= 0; i--) {
804                     pd[4*i + 3]= ( pd[i]     & 3)*0x55;
805                     pd[4*i + 2]= ((pd[i]>>2) & 3)*0x55;
806                     pd[4*i + 1]= ((pd[i]>>4) & 3)*0x55;
807                     pd[4*i + 0]= ( pd[i]>>6     )*0x55;
808                 }
809             }
810             pd += s->image_linesize;
811         }
812     }
813     if (s->bits_per_pixel == 4){
814         int i, j;
815         uint8_t *pd = s->current_picture->data[0];
816         for (j = 0; j < s->height; j++) {
817             i = s->width/2;
818             if (s->color_type == PNG_COLOR_TYPE_PALETTE){
819                 if (s->width&1) pd[2*i+0]= pd[i]>>4;
820                 for (i--; i >= 0; i--) {
821                 pd[2*i + 1] = pd[i] & 15;
822                 pd[2*i + 0] = pd[i] >> 4;
823             }
824             } else {
825                 if (s->width & 1) pd[2*i + 0]= (pd[i] >> 4) * 0x11;
826                 for (i--; i >= 0; i--) {
827                     pd[2*i + 1] = (pd[i] & 15) * 0x11;
828                     pd[2*i + 0] = (pd[i] >> 4) * 0x11;
829                 }
830             }
831             pd += s->image_linesize;
832         }
833     }
834
835      /* handle p-frames only if a predecessor frame is available */
836      if (s->last_picture->data[0] != NULL) {
837          if (   !(avpkt->flags & AV_PKT_FLAG_KEY)
838             && s->last_picture->width == s->current_picture->width
839             && s->last_picture->height== s->current_picture->height
840             && s->last_picture->format== s->current_picture->format
841          ) {
842             int i, j;
843             uint8_t *pd      = s->current_picture->data[0];
844             uint8_t *pd_last = s->last_picture->data[0];
845
846             for (j = 0; j < s->height; j++) {
847                 for (i = 0; i < s->width * s->bpp; i++) {
848                     pd[i] += pd_last[i];
849                 }
850                 pd      += s->image_linesize;
851                 pd_last += s->image_linesize;
852             }
853         }
854     }
855
856     s->current_picture->metadata = metadata;
857     metadata   = NULL;
858     *picture   = *s->current_picture;
859     *got_frame = 1;
860
861     ret = bytestream2_tell(&s->gb);
862  the_end:
863     inflateEnd(&s->zstream);
864     av_free(crow_buf_base);
865     s->crow_buf = NULL;
866     av_freep(&s->last_row);
867     av_freep(&s->tmp_row);
868     return ret;
869  fail:
870     av_dict_free(&metadata);
871     ret = -1;
872     goto the_end;
873 }
874
875 static av_cold int png_dec_init(AVCodecContext *avctx)
876 {
877     PNGDecContext *s = avctx->priv_data;
878
879     s->current_picture = &s->picture1;
880     s->last_picture    = &s->picture2;
881     avcodec_get_frame_defaults(&s->picture1);
882     avcodec_get_frame_defaults(&s->picture2);
883
884     ff_pngdsp_init(&s->dsp);
885
886     s->avctx = avctx;
887
888     return 0;
889 }
890
891 static av_cold int png_dec_end(AVCodecContext *avctx)
892 {
893     PNGDecContext *s = avctx->priv_data;
894
895     if (s->picture1.data[0])
896         avctx->release_buffer(avctx, &s->picture1);
897     if (s->picture2.data[0])
898         avctx->release_buffer(avctx, &s->picture2);
899
900     return 0;
901 }
902
903 AVCodec ff_png_decoder = {
904     .name           = "png",
905     .type           = AVMEDIA_TYPE_VIDEO,
906     .id             = AV_CODEC_ID_PNG,
907     .priv_data_size = sizeof(PNGDecContext),
908     .init           = png_dec_init,
909     .close          = png_dec_end,
910     .decode         = decode_frame,
911     .capabilities   = CODEC_CAP_DR1 /*| CODEC_CAP_DRAW_HORIZ_BAND*/,
912     .long_name      = NULL_IF_CONFIG_SMALL("PNG (Portable Network Graphics) image"),
913 };