]> git.sesse.net Git - ffmpeg/blob - libavcodec/zerocodec.c
mpegvideo_parser: fix buffer access beyond end
[ffmpeg] / libavcodec / zerocodec.c
1 /*
2  * ZeroCodec Decoder
3  *
4  * Copyright (c) 2012, Derek Buitenhuis
5  *
6  * Permission to use, copy, modify, and/or distribute this software for any
7  * purpose with or without fee is hereby granted, provided that the above
8  * copyright notice and this permission notice appear in all copies.
9  *
10  * THE SOFTWARE IS PROVIDED "AS IS" AND THE AUTHOR DISCLAIMS ALL WARRANTIES
11  * WITH REGARD TO THIS SOFTWARE INCLUDING ALL IMPLIED WARRANTIES OF
12  * MERCHANTABILITY AND FITNESS. IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR
13  * ANY SPECIAL, DIRECT, INDIRECT, OR CONSEQUENTIAL DAMAGES OR ANY DAMAGES
14  * WHATSOEVER RESULTING FROM LOSS OF USE, DATA OR PROFITS, WHETHER IN AN
15  * ACTION OF CONTRACT, NEGLIGENCE OR OTHER TORTIOUS ACTION, ARISING OUT OF
16  * OR IN CONNECTION WITH THE USE OR PERFORMANCE OF THIS SOFTWARE.
17  */
18
19 #include <zlib.h>
20
21 #include "avcodec.h"
22 #include "internal.h"
23 #include "libavutil/common.h"
24
25 typedef struct {
26     AVFrame  previous_frame;
27     z_stream zstream;
28     int      size;
29 } ZeroCodecContext;
30
31 static int zerocodec_decode_frame(AVCodecContext *avctx, void *data,
32                                   int *got_frame, AVPacket *avpkt)
33 {
34     ZeroCodecContext *zc = avctx->priv_data;
35     AVFrame *pic         = avctx->coded_frame;
36     AVFrame *prev_pic    = &zc->previous_frame;
37     z_stream *zstream    = &zc->zstream;
38     uint8_t *prev        = prev_pic->data[0];
39     uint8_t *dst;
40     int i, j, zret;
41
42     pic->reference = 3;
43
44     if (avpkt->flags & AV_PKT_FLAG_KEY) {
45         pic->key_frame = 1;
46         pic->pict_type = AV_PICTURE_TYPE_I;
47     } else {
48         if (!prev) {
49             av_log(avctx, AV_LOG_ERROR, "Missing reference frame.\n");
50             return AVERROR_INVALIDDATA;
51         }
52         pic->key_frame = 0;
53         pic->pict_type = AV_PICTURE_TYPE_P;
54     }
55
56     zret = inflateReset(zstream);
57     if (zret != Z_OK) {
58         av_log(avctx, AV_LOG_ERROR, "Could not reset inflate: %d.\n", zret);
59         return AVERROR_INVALIDDATA;
60     }
61
62     if (ff_get_buffer(avctx, pic) < 0) {
63         av_log(avctx, AV_LOG_ERROR, "Could not allocate buffer.\n");
64         return AVERROR(ENOMEM);
65     }
66
67     zstream->next_in  = avpkt->data;
68     zstream->avail_in = avpkt->size;
69
70     dst = pic->data[0];
71
72     /**
73      * ZeroCodec has very simple interframe compression. If a value
74      * is the same as the previous frame, set it to 0.
75      */
76
77     for (i = 0; i < avctx->height; i++) {
78         zstream->next_out  = dst;
79         zstream->avail_out = avctx->width << 1;
80
81         zret = inflate(zstream, Z_SYNC_FLUSH);
82         if (zret != Z_OK && zret != Z_STREAM_END) {
83             avctx->release_buffer(avctx, pic);
84             av_log(avctx, AV_LOG_ERROR,
85                    "Inflate failed with return code: %d.\n", zret);
86             return AVERROR_INVALIDDATA;
87         }
88
89         if (!(avpkt->flags & AV_PKT_FLAG_KEY))
90             for (j = 0; j < avctx->width << 1; j++)
91                 dst[j] += prev[j] & -!dst[j];
92
93         prev += prev_pic->linesize[0];
94         dst  += pic->linesize[0];
95     }
96
97     /* Release the previous buffer if need be */
98     if (prev_pic->data[0])
99         avctx->release_buffer(avctx, prev_pic);
100
101     *got_frame = 1;
102     *(AVFrame *)data = *pic;
103
104     /* Store the previous frame for use later.
105      * FFSWAP ensures that e.g. pic->data is NULLed. */
106     FFSWAP(AVFrame, *pic, *prev_pic);
107
108     return avpkt->size;
109 }
110
111 static av_cold int zerocodec_decode_close(AVCodecContext *avctx)
112 {
113     ZeroCodecContext *zc = avctx->priv_data;
114     AVFrame *prev_pic    = &zc->previous_frame;
115
116     inflateEnd(&zc->zstream);
117
118     /* Release last frame */
119     if (prev_pic->data[0])
120         avctx->release_buffer(avctx, prev_pic);
121
122     av_freep(&avctx->coded_frame);
123
124     return 0;
125 }
126
127 static av_cold int zerocodec_decode_init(AVCodecContext *avctx)
128 {
129     ZeroCodecContext *zc = avctx->priv_data;
130     z_stream *zstream    = &zc->zstream;
131     int zret;
132
133     avctx->pix_fmt             = AV_PIX_FMT_UYVY422;
134     avctx->bits_per_raw_sample = 8;
135
136     zc->size = avpicture_get_size(avctx->pix_fmt,
137                                   avctx->width, avctx->height);
138
139     zstream->zalloc = Z_NULL;
140     zstream->zfree  = Z_NULL;
141     zstream->opaque = Z_NULL;
142
143     zret = inflateInit(zstream);
144     if (zret != Z_OK) {
145         av_log(avctx, AV_LOG_ERROR, "Could not initialize inflate: %d.\n", zret);
146         return AVERROR(ENOMEM);
147     }
148
149     avctx->coded_frame = avcodec_alloc_frame();
150     if (!avctx->coded_frame) {
151         av_log(avctx, AV_LOG_ERROR, "Could not allocate frame buffer.\n");
152         zerocodec_decode_close(avctx);
153         return AVERROR(ENOMEM);
154     }
155
156     return 0;
157 }
158
159 AVCodec ff_zerocodec_decoder = {
160     .type           = AVMEDIA_TYPE_VIDEO,
161     .name           = "zerocodec",
162     .id             = AV_CODEC_ID_ZEROCODEC,
163     .priv_data_size = sizeof(ZeroCodecContext),
164     .init           = zerocodec_decode_init,
165     .decode         = zerocodec_decode_frame,
166     .close          = zerocodec_decode_close,
167     .capabilities   = CODEC_CAP_DR1,
168     .long_name      = NULL_IF_CONFIG_SMALL("ZeroCodec Lossless Video"),
169 };