]> git.sesse.net Git - ffmpeg/blob - libavcodec/v210dec.c
Fixes avpicture_layout to not write past buffer end.
[ffmpeg] / libavcodec / v210dec.c
1 /*
2  * V210 decoder
3  *
4  * Copyright (C) 2009 Michael Niedermayer <michaelni@gmx.at>
5  * Copyright (c) 2009 Baptiste Coudurier <baptiste dot coudurier at gmail dot com>
6  *
7  * This file is part of FFmpeg.
8  *
9  * FFmpeg is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * FFmpeg is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with FFmpeg; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24 #include "avcodec.h"
25 #include "v210dec.h"
26 #include "libavutil/bswap.h"
27 #include "libavutil/x86/timer.h"
28
29 #define READ_PIXELS(a, b, c)         \
30     do {                             \
31         val  = av_le2ne32(*src++);   \
32         *a++ =  val & 0x3FF;         \
33         *b++ = (val >> 10) & 0x3FF;  \
34         *c++ = (val >> 20) & 0x3FF;  \
35     } while (0)
36
37 static void v210_planar_unpack_c(const uint32_t *src, uint16_t *y, uint16_t *u, uint16_t *v, int width)
38 {
39     uint32_t val;
40     int i;
41
42     for( i = 0; i < width-5; i += 6 ){
43         READ_PIXELS(u, y, v);
44         READ_PIXELS(y, u, y);
45         READ_PIXELS(v, y, u);
46         READ_PIXELS(y, v, y);
47     }
48 }
49
50 static av_cold int decode_init(AVCodecContext *avctx)
51 {
52     V210DecContext *s = avctx->priv_data;
53
54     if (avctx->width & 1) {
55         av_log(avctx, AV_LOG_ERROR, "v210 needs even width\n");
56         return -1;
57     }
58     avctx->pix_fmt             = PIX_FMT_YUV422P10;
59     avctx->bits_per_raw_sample = 10;
60
61     avctx->coded_frame         = avcodec_alloc_frame();
62
63     s->unpack_frame            = v210_planar_unpack_c;
64
65     if (HAVE_MMX)
66         v210_x86_init(s);
67
68     return 0;
69 }
70
71 static int decode_frame(AVCodecContext *avctx, void *data, int *data_size,
72                         AVPacket *avpkt)
73 {
74     V210DecContext *s = avctx->priv_data;
75
76     int h, w, stride, aligned_input;
77     AVFrame *pic = avctx->coded_frame;
78     const uint8_t *psrc = avpkt->data;
79     uint16_t *y, *u, *v;
80
81     if (s->custom_stride )
82         stride = s->custom_stride;
83     else {
84         int aligned_width = ((avctx->width + 47) / 48) * 48;
85         stride = aligned_width * 8 / 3;
86     }
87
88     aligned_input = !((uintptr_t)psrc & 0xf) && !(stride & 0xf);
89     if (aligned_input != s->aligned_input) {
90         s->aligned_input = aligned_input;
91         if (HAVE_MMX)
92             v210_x86_init(s);
93     }
94
95     if (pic->data[0])
96         avctx->release_buffer(avctx, pic);
97
98     if (avpkt->size < stride * avctx->height) {
99         av_log(avctx, AV_LOG_ERROR, "packet too small\n");
100         return -1;
101     }
102
103     pic->reference = 0;
104     if (avctx->get_buffer(avctx, pic) < 0)
105         return -1;
106
107     y = (uint16_t*)pic->data[0];
108     u = (uint16_t*)pic->data[1];
109     v = (uint16_t*)pic->data[2];
110     pic->pict_type = AV_PICTURE_TYPE_I;
111     pic->key_frame = 1;
112
113     for (h = 0; h < avctx->height; h++) {
114         const uint32_t *src = (const uint32_t*)psrc;
115         uint32_t val;
116
117         w = (avctx->width / 6) * 6;
118         s->unpack_frame(src, y, u, v, w);
119
120         y += w;
121         u += w >> 1;
122         v += w >> 1;
123         src += (w << 1) / 3;
124
125         if (w < avctx->width - 1) {
126             READ_PIXELS(u, y, v);
127
128             val  = av_le2ne32(*src++);
129             *y++ =  val & 0x3FF;
130         }
131         if (w < avctx->width - 3) {
132             *u++ = (val >> 10) & 0x3FF;
133             *y++ = (val >> 20) & 0x3FF;
134
135             val  = av_le2ne32(*src++);
136             *v++ =  val & 0x3FF;
137             *y++ = (val >> 10) & 0x3FF;
138         }
139
140         psrc += stride;
141         y += pic->linesize[0] / 2 - avctx->width;
142         u += pic->linesize[1] / 2 - avctx->width / 2;
143         v += pic->linesize[2] / 2 - avctx->width / 2;
144     }
145
146     *data_size = sizeof(AVFrame);
147     *(AVFrame*)data = *avctx->coded_frame;
148
149     return avpkt->size;
150 }
151
152 static av_cold int decode_close(AVCodecContext *avctx)
153 {
154     AVFrame *pic = avctx->coded_frame;
155     if (pic->data[0])
156         avctx->release_buffer(avctx, pic);
157     av_freep(&avctx->coded_frame);
158
159     return 0;
160 }
161
162 #define V210DEC_FLAGS AV_OPT_FLAG_ENCODING_PARAM | AV_OPT_FLAG_VIDEO_PARAM
163 static const AVOption v210dec_options[] = {
164     {"custom_stride", "Custom V210 stride", offsetof(V210DecContext, custom_stride), FF_OPT_TYPE_INT,
165      {.dbl = 0}, INT_MIN, INT_MAX, V210DEC_FLAGS},
166     {NULL}
167 };
168
169 static const AVClass v210dec_class = {
170     "V210 Decoder",
171     av_default_item_name,
172     v210dec_options,
173     LIBAVUTIL_VERSION_INT,
174 };
175
176 AVCodec ff_v210_decoder = {
177     .name           = "v210",
178     .type           = AVMEDIA_TYPE_VIDEO,
179     .id             = CODEC_ID_V210,
180     .priv_data_size = sizeof(V210DecContext),
181     .init           = decode_init,
182     .close          = decode_close,
183     .decode         = decode_frame,
184     .capabilities   = CODEC_CAP_DR1,
185     .long_name = NULL_IF_CONFIG_SMALL("Uncompressed 4:2:2 10-bit"),
186     .priv_class     = &v210dec_class,
187 };