]> git.sesse.net Git - ffmpeg/blob - libavcodec/r210enc.c
proresdec: Fix read via negative index in a global array.
[ffmpeg] / libavcodec / r210enc.c
1 /*
2  * R210 encoder
3  *
4  * Copyright (c) 2012 Paul B Mahol
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "avcodec.h"
24 #include "bytestream.h"
25
26 static av_cold int encode_init(AVCodecContext *avctx)
27 {
28     avctx->coded_frame = avcodec_alloc_frame();
29
30     if (!avctx->coded_frame)
31         return AVERROR(ENOMEM);
32
33     return 0;
34 }
35
36 static int encode_frame(AVCodecContext *avctx, uint8_t *buf,
37                         int buf_size, void *data)
38 {
39     AVFrame *pic = data;
40     int i, j;
41     int aligned_width = FFALIGN(avctx->width, 64);
42     int pad = (aligned_width - avctx->width) * 4;
43     uint8_t *src_line;
44     uint8_t *dst = buf;
45
46     if (buf_size < 4 * aligned_width * avctx->height) {
47         av_log(avctx, AV_LOG_ERROR, "output buffer too small\n");
48         return AVERROR(ENOMEM);
49     }
50
51     avctx->coded_frame->reference = 0;
52     avctx->coded_frame->key_frame = 1;
53     avctx->coded_frame->pict_type = AV_PICTURE_TYPE_I;
54     src_line = pic->data[0];
55
56     for (i = 0; i < avctx->height; i++) {
57         uint16_t *src = (uint16_t *)src_line;
58         for (j = 0; j < avctx->width; j++) {
59             uint32_t pixel;
60             uint16_t r = *src++ >> 6;
61             uint16_t g = *src++ >> 6;
62             uint16_t b = *src++ >> 4;
63             if (avctx->codec_id == CODEC_ID_R210)
64                 pixel = (r << 20) | (g << 10) | b >> 2;
65             else
66                 pixel = (r << 22) | (g << 12) | b;
67             if (avctx->codec_id == CODEC_ID_AVRP)
68                 bytestream_put_le32(&dst, pixel);
69             else
70                 bytestream_put_be32(&dst, pixel);
71         }
72         memset(dst, 0, pad);
73         dst += pad;
74         src_line += pic->linesize[0];
75     }
76
77     return 4 * aligned_width * avctx->height;
78 }
79
80 static av_cold int encode_close(AVCodecContext *avctx)
81 {
82     av_freep(&avctx->coded_frame);
83
84     return 0;
85 }
86
87 #if CONFIG_R210_ENCODER
88 AVCodec ff_r210_encoder = {
89     .name           = "r210",
90     .type           = AVMEDIA_TYPE_VIDEO,
91     .id             = CODEC_ID_R210,
92     .init           = encode_init,
93     .encode         = encode_frame,
94     .close          = encode_close,
95     .pix_fmts       = (const enum PixelFormat[]) { PIX_FMT_RGB48, PIX_FMT_NONE },
96     .long_name      = NULL_IF_CONFIG_SMALL("Uncompressed RGB 10-bit"),
97 };
98 #endif
99 #if CONFIG_R10K_ENCODER
100 AVCodec ff_r10k_encoder = {
101     .name           = "r10k",
102     .type           = AVMEDIA_TYPE_VIDEO,
103     .id             = CODEC_ID_R10K,
104     .init           = encode_init,
105     .encode         = encode_frame,
106     .close          = encode_close,
107     .pix_fmts       = (const enum PixelFormat[]) { PIX_FMT_RGB48, PIX_FMT_NONE },
108     .long_name      = NULL_IF_CONFIG_SMALL("AJA Kona 10-bit RGB Codec"),
109 };
110 #endif
111 #if CONFIG_AVRP_ENCODER
112 AVCodec ff_avrp_encoder = {
113     .name           = "avrp",
114     .type           = AVMEDIA_TYPE_VIDEO,
115     .id             = CODEC_ID_AVRP,
116     .init           = encode_init,
117     .encode         = encode_frame,
118     .close          = encode_close,
119     .pix_fmts       = (const enum PixelFormat[]) { PIX_FMT_RGB48, PIX_FMT_NONE },
120     .long_name      = NULL_IF_CONFIG_SMALL("Avid 1:1 10-bit RGB Packer"),
121 };
122 #endif