]> git.sesse.net Git - ffmpeg/blob - libavcodec/v210dec.c
cook: Make constants passed to AV_BE2NE32C() unsigned to avoid signed overflow.
[ffmpeg] / libavcodec / v210dec.c
1 /*
2  * V210 decoder
3  *
4  * Copyright (C) 2009 Michael Niedermayer <michaelni@gmx.at>
5  * Copyright (c) 2009 Baptiste Coudurier <baptiste dot coudurier at gmail dot com>
6  *
7  * This file is part of Libav.
8  *
9  * Libav is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * Libav is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with Libav; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24 #include "avcodec.h"
25 #include "libavutil/bswap.h"
26
27 static av_cold int decode_init(AVCodecContext *avctx)
28 {
29     if (avctx->width & 1) {
30         av_log(avctx, AV_LOG_ERROR, "v210 needs even width\n");
31         return -1;
32     }
33     avctx->pix_fmt             = PIX_FMT_YUV422P10;
34     avctx->bits_per_raw_sample = 10;
35
36     avctx->coded_frame         = avcodec_alloc_frame();
37     if (!avctx->coded_frame)
38         return AVERROR(ENOMEM);
39
40     return 0;
41 }
42
43 static int decode_frame(AVCodecContext *avctx, void *data, int *data_size,
44                         AVPacket *avpkt)
45 {
46     int h, w;
47     AVFrame *pic = avctx->coded_frame;
48     const uint8_t *psrc = avpkt->data;
49     uint16_t *y, *u, *v;
50     int aligned_width = ((avctx->width + 47) / 48) * 48;
51     int stride = aligned_width * 8 / 3;
52
53     if (pic->data[0])
54         avctx->release_buffer(avctx, pic);
55
56     if (avpkt->size < stride * avctx->height) {
57         av_log(avctx, AV_LOG_ERROR, "packet too small\n");
58         return -1;
59     }
60
61     pic->reference = 0;
62     if (avctx->get_buffer(avctx, pic) < 0)
63         return -1;
64
65     y = (uint16_t*)pic->data[0];
66     u = (uint16_t*)pic->data[1];
67     v = (uint16_t*)pic->data[2];
68     pic->pict_type = AV_PICTURE_TYPE_I;
69     pic->key_frame = 1;
70
71 #define READ_PIXELS(a, b, c)         \
72     do {                             \
73         val  = av_le2ne32(*src++);   \
74         *a++ =  val & 0x3FF;         \
75         *b++ = (val >> 10) & 0x3FF;  \
76         *c++ = (val >> 20) & 0x3FF;  \
77     } while (0)
78
79     for (h = 0; h < avctx->height; h++) {
80         const uint32_t *src = (const uint32_t*)psrc;
81         uint32_t val;
82         for (w = 0; w < avctx->width - 5; w += 6) {
83             READ_PIXELS(u, y, v);
84             READ_PIXELS(y, u, y);
85             READ_PIXELS(v, y, u);
86             READ_PIXELS(y, v, y);
87         }
88         if (w < avctx->width - 1) {
89             READ_PIXELS(u, y, v);
90
91             val  = av_le2ne32(*src++);
92             *y++ =  val & 0x3FF;
93         }
94         if (w < avctx->width - 3) {
95             *u++ = (val >> 10) & 0x3FF;
96             *y++ = (val >> 20) & 0x3FF;
97
98             val  = av_le2ne32(*src++);
99             *v++ =  val & 0x3FF;
100             *y++ = (val >> 10) & 0x3FF;
101         }
102
103         psrc += stride;
104         y += pic->linesize[0] / 2 - avctx->width;
105         u += pic->linesize[1] / 2 - avctx->width / 2;
106         v += pic->linesize[2] / 2 - avctx->width / 2;
107     }
108
109     *data_size = sizeof(AVFrame);
110     *(AVFrame*)data = *avctx->coded_frame;
111
112     return avpkt->size;
113 }
114
115 static av_cold int decode_close(AVCodecContext *avctx)
116 {
117     AVFrame *pic = avctx->coded_frame;
118     if (pic->data[0])
119         avctx->release_buffer(avctx, pic);
120     av_freep(&avctx->coded_frame);
121
122     return 0;
123 }
124
125 AVCodec ff_v210_decoder = {
126     .name           = "v210",
127     .type           = AVMEDIA_TYPE_VIDEO,
128     .id             = CODEC_ID_V210,
129     .init           = decode_init,
130     .close          = decode_close,
131     .decode         = decode_frame,
132     .capabilities   = CODEC_CAP_DR1,
133     .long_name      = NULL_IF_CONFIG_SMALL("Uncompressed 4:2:2 10-bit"),
134 };