]> git.sesse.net Git - ffmpeg/blob - libavcodec/r210dec.c
avcodec/r210: use correct pixel format
[ffmpeg] / libavcodec / r210dec.c
1 /*
2  * R210 decoder
3  *
4  * Copyright (c) 2009 Reimar Doeffinger <Reimar.Doeffinger@gmx.de>
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "avcodec.h"
24 #include "internal.h"
25 #include "libavutil/bswap.h"
26 #include "libavutil/common.h"
27
28 static av_cold int decode_init(AVCodecContext *avctx)
29 {
30     avctx->pix_fmt = AV_PIX_FMT_GBRP10;
31     avctx->bits_per_raw_sample = 10;
32
33     return 0;
34 }
35
36 static int decode_frame(AVCodecContext *avctx, void *data, int *got_frame,
37                         AVPacket *avpkt)
38 {
39     int h, w, ret;
40     AVFrame *pic = data;
41     const uint32_t *src = (const uint32_t *)avpkt->data;
42     int aligned_width = FFALIGN(avctx->width,
43                                 avctx->codec_id == AV_CODEC_ID_R10K ? 1 : 64);
44     uint8_t *g_line, *b_line, *r_line;
45     int r10 = (avctx->codec_tag & 0xFFFFFF) == MKTAG('r', '1', '0', 0);
46     int le = avctx->codec_tag == MKTAG('R', '1', '0', 'k') &&
47              avctx->extradata_size >= 12 && !memcmp(&avctx->extradata[4], "DpxE", 4) &&
48              !avctx->extradata[11];
49
50     if (avpkt->size < 4 * aligned_width * avctx->height) {
51         av_log(avctx, AV_LOG_ERROR, "packet too small\n");
52         return AVERROR_INVALIDDATA;
53     }
54
55     if ((ret = ff_get_buffer(avctx, pic, 0)) < 0)
56         return ret;
57
58     pic->pict_type = AV_PICTURE_TYPE_I;
59     pic->key_frame = 1;
60     g_line = pic->data[0];
61     b_line = pic->data[1];
62     r_line = pic->data[2];
63
64     for (h = 0; h < avctx->height; h++) {
65         uint16_t *dstg = (uint16_t *)g_line;
66         uint16_t *dstb = (uint16_t *)b_line;
67         uint16_t *dstr = (uint16_t *)r_line;
68         for (w = 0; w < avctx->width; w++) {
69             uint32_t pixel;
70             uint16_t r, g, b;
71             if (avctx->codec_id == AV_CODEC_ID_AVRP || r10 || le) {
72                 pixel = av_le2ne32(*src++);
73             } else {
74                 pixel = av_be2ne32(*src++);
75             }
76             if (avctx->codec_id == AV_CODEC_ID_R210 || r10) {
77                 b =  pixel & 0x3ff;
78                 g = (pixel >> 10) & 0x3ff;
79                 r = (pixel >> 20) & 0x3ff;
80             } else {
81                 b = (pixel >>  2) & 0x3ff;
82                 g = (pixel >> 12) & 0x3ff;
83                 r = (pixel >> 22) & 0x3ff;
84             }
85             *dstr++ = r;
86             *dstg++ = g;
87             *dstb++ = b;
88         }
89         src += aligned_width - avctx->width;
90         g_line += pic->linesize[0];
91         b_line += pic->linesize[1];
92         r_line += pic->linesize[2];
93     }
94
95     *got_frame      = 1;
96
97     return avpkt->size;
98 }
99
100 #if CONFIG_R210_DECODER
101 AVCodec ff_r210_decoder = {
102     .name           = "r210",
103     .long_name      = NULL_IF_CONFIG_SMALL("Uncompressed RGB 10-bit"),
104     .type           = AVMEDIA_TYPE_VIDEO,
105     .id             = AV_CODEC_ID_R210,
106     .init           = decode_init,
107     .decode         = decode_frame,
108     .capabilities   = AV_CODEC_CAP_DR1,
109     .caps_internal  = FF_CODEC_CAP_INIT_THREADSAFE,
110 };
111 #endif
112 #if CONFIG_R10K_DECODER
113 AVCodec ff_r10k_decoder = {
114     .name           = "r10k",
115     .long_name      = NULL_IF_CONFIG_SMALL("AJA Kona 10-bit RGB Codec"),
116     .type           = AVMEDIA_TYPE_VIDEO,
117     .id             = AV_CODEC_ID_R10K,
118     .init           = decode_init,
119     .decode         = decode_frame,
120     .capabilities   = AV_CODEC_CAP_DR1,
121     .caps_internal  = FF_CODEC_CAP_INIT_THREADSAFE,
122 };
123 #endif
124 #if CONFIG_AVRP_DECODER
125 AVCodec ff_avrp_decoder = {
126     .name           = "avrp",
127     .long_name      = NULL_IF_CONFIG_SMALL("Avid 1:1 10-bit RGB Packer"),
128     .type           = AVMEDIA_TYPE_VIDEO,
129     .id             = AV_CODEC_ID_AVRP,
130     .init           = decode_init,
131     .decode         = decode_frame,
132     .capabilities   = AV_CODEC_CAP_DR1,
133     .caps_internal  = FF_CODEC_CAP_INIT_THREADSAFE,
134 };
135 #endif