]> git.sesse.net Git - ffmpeg/blob - libavcodec/libutvideoenc.cpp
Merge commit '09f4822e4eaf61513b9092414450f3ae920ccd9d'
[ffmpeg] / libavcodec / libutvideoenc.cpp
1 /*
2  * Copyright (c) 2012 Derek Buitenhuis
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU General Public
8  * License as published by the Free Software Foundation;
9  * version 2 of the License.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 /**
22  * @file
23  * Known FOURCCs:
24  *     'ULY0' (YCbCr 4:2:0), 'ULY2' (YCbCr 4:2:2), 'ULRG' (RGB), 'ULRA' (RGBA),
25  *     'ULH0' (YCbCr 4:2:0 BT.709), 'ULH2' (YCbCr 4:2:2 BT.709)
26  */
27
28 extern "C" {
29 #include "libavutil/avassert.h"
30 #include "libavutil/imgutils.h"
31 #include "avcodec.h"
32 #include "internal.h"
33 }
34
35 #include "libutvideo.h"
36 #include "put_bits.h"
37
38 static av_cold int utvideo_encode_init(AVCodecContext *avctx)
39 {
40     UtVideoContext *utv = (UtVideoContext *)avctx->priv_data;
41     UtVideoExtra *info;
42     uint32_t flags, in_format;
43     int ret;
44
45     switch (avctx->pix_fmt) {
46     case AV_PIX_FMT_YUV420P:
47         in_format = UTVF_YV12;
48         avctx->bits_per_coded_sample = 12;
49         if (avctx->colorspace == AVCOL_SPC_BT709)
50             avctx->codec_tag = MKTAG('U', 'L', 'H', '0');
51         else
52             avctx->codec_tag = MKTAG('U', 'L', 'Y', '0');
53         break;
54     case AV_PIX_FMT_YUYV422:
55         in_format = UTVF_YUYV;
56         avctx->bits_per_coded_sample = 16;
57         if (avctx->colorspace == AVCOL_SPC_BT709)
58             avctx->codec_tag = MKTAG('U', 'L', 'H', '2');
59         else
60             avctx->codec_tag = MKTAG('U', 'L', 'Y', '2');
61         break;
62     case AV_PIX_FMT_BGR24:
63         in_format = UTVF_NFCC_BGR_BU;
64         avctx->bits_per_coded_sample = 24;
65         avctx->codec_tag = MKTAG('U', 'L', 'R', 'G');
66         break;
67     case AV_PIX_FMT_RGB32:
68         in_format = UTVF_NFCC_BGRA_BU;
69         avctx->bits_per_coded_sample = 32;
70         avctx->codec_tag = MKTAG('U', 'L', 'R', 'A');
71         break;
72     default:
73         return AVERROR(EINVAL);
74     }
75
76     /* Check before we alloc anything */
77     if (avctx->prediction_method != 0 && avctx->prediction_method != 2) {
78         av_log(avctx, AV_LOG_ERROR, "Invalid prediction method.\n");
79         return AVERROR(EINVAL);
80     }
81
82     flags = ((avctx->prediction_method + 1) << 8) | (avctx->thread_count - 1);
83
84     avctx->priv_data = utv;
85
86     /* Alloc extradata buffer */
87     info = (UtVideoExtra *)av_malloc(sizeof(*info));
88
89     if (!info) {
90         av_log(avctx, AV_LOG_ERROR, "Could not allocate extradata buffer.\n");
91         return AVERROR(ENOMEM);
92     }
93
94     /*
95      * We use this buffer to hold the data that Ut Video returns,
96      * since we cannot decode planes separately with it.
97      */
98     ret = av_image_get_buffer_size(avctx->pix_fmt, avctx->width, avctx->height, 1);
99     if (ret < 0) {
100         av_free(info);
101         return ret;
102     }
103     utv->buf_size = ret;
104
105     utv->buffer = (uint8_t *)av_malloc(utv->buf_size);
106
107     if (utv->buffer == NULL) {
108         av_log(avctx, AV_LOG_ERROR, "Could not allocate output buffer.\n");
109         av_free(info);
110         return AVERROR(ENOMEM);
111     }
112
113     /*
114      * Create a Ut Video instance. Since the function wants
115      * an "interface name" string, pass it the name of the lib.
116      */
117     utv->codec = CCodec::CreateInstance(UNFCC(avctx->codec_tag), "libavcodec");
118
119     /* Initialize encoder */
120     utv->codec->EncodeBegin(in_format, avctx->width, avctx->height,
121                             CBGROSSWIDTH_WINDOWS);
122
123     /* Get extradata from encoder */
124     avctx->extradata_size = utv->codec->EncodeGetExtraDataSize();
125     utv->codec->EncodeGetExtraData(info, avctx->extradata_size, in_format,
126                                    avctx->width, avctx->height,
127                                    CBGROSSWIDTH_WINDOWS);
128     avctx->extradata = (uint8_t *)info;
129
130     /* Set flags */
131     utv->codec->SetState(&flags, sizeof(flags));
132
133     return 0;
134 }
135
136 static int utvideo_encode_frame(AVCodecContext *avctx, AVPacket *pkt,
137                                 const AVFrame *pic, int *got_packet)
138 {
139     UtVideoContext *utv = (UtVideoContext *)avctx->priv_data;
140     int w = avctx->width, h = avctx->height;
141     int ret, rgb_size, i;
142     bool keyframe;
143     uint8_t *y, *u, *v;
144     uint8_t *dst;
145
146     /* Alloc buffer */
147     if ((ret = ff_alloc_packet2(avctx, pkt, utv->buf_size, 0)) < 0)
148         return ret;
149
150     dst = pkt->data;
151
152     /* Move input if needed data into Ut Video friendly buffer */
153     switch (avctx->pix_fmt) {
154     case AV_PIX_FMT_YUV420P:
155         y = utv->buffer;
156         u = y + w * h;
157         v = u + w * h / 4;
158         for (i = 0; i < h; i++) {
159             memcpy(y, pic->data[0] + i * pic->linesize[0], w);
160             y += w;
161         }
162         for (i = 0; i < h / 2; i++) {
163             memcpy(u, pic->data[2] + i * pic->linesize[2], w >> 1);
164             memcpy(v, pic->data[1] + i * pic->linesize[1], w >> 1);
165             u += w >> 1;
166             v += w >> 1;
167         }
168         break;
169     case AV_PIX_FMT_YUYV422:
170         for (i = 0; i < h; i++)
171             memcpy(utv->buffer + i * (w << 1),
172                    pic->data[0] + i * pic->linesize[0], w << 1);
173         break;
174     case AV_PIX_FMT_BGR24:
175     case AV_PIX_FMT_RGB32:
176         /* Ut Video takes bottom-up BGR */
177         rgb_size = avctx->pix_fmt == AV_PIX_FMT_BGR24 ? 3 : 4;
178         for (i = 0; i < h; i++)
179             memcpy(utv->buffer + (h - i - 1) * w * rgb_size,
180                    pic->data[0] + i * pic->linesize[0],
181                    w * rgb_size);
182         break;
183     default:
184         return AVERROR(EINVAL);
185     }
186
187     /* Encode frame */
188     pkt->size = utv->codec->EncodeFrame(dst, &keyframe, utv->buffer);
189
190     if (!pkt->size) {
191         av_log(avctx, AV_LOG_ERROR, "EncodeFrame failed!\n");
192         return AVERROR_INVALIDDATA;
193     }
194
195     /*
196      * Ut Video is intra-only and every frame is a keyframe,
197      * and the API always returns true. In case something
198      * durastic changes in the future, such as inter support,
199      * assert that this is true.
200      */
201     av_assert2(keyframe == true);
202
203     pkt->flags |= AV_PKT_FLAG_KEY;
204     *got_packet = 1;
205     return 0;
206 }
207
208 static av_cold int utvideo_encode_close(AVCodecContext *avctx)
209 {
210     UtVideoContext *utv = (UtVideoContext *)avctx->priv_data;
211
212     av_freep(&avctx->extradata);
213     av_freep(&utv->buffer);
214
215     utv->codec->EncodeEnd();
216     CCodec::DeleteInstance(utv->codec);
217
218     return 0;
219 }
220
221 AVCodec ff_libutvideo_encoder = {
222     "libutvideo",
223     NULL_IF_CONFIG_SMALL("Ut Video"),
224     AVMEDIA_TYPE_VIDEO,
225     AV_CODEC_ID_UTVIDEO,
226     AV_CODEC_CAP_AUTO_THREADS | AV_CODEC_CAP_LOSSLESS | AV_CODEC_CAP_INTRA_ONLY,
227     NULL, /* supported_framerates */
228     (const enum AVPixelFormat[]) {
229         AV_PIX_FMT_YUV420P, AV_PIX_FMT_YUYV422, AV_PIX_FMT_BGR24,
230         AV_PIX_FMT_RGB32, AV_PIX_FMT_NONE
231     },
232     NULL, /* supported_samplerates */
233     NULL, /* sample_fmts */
234     NULL, /* channel_layouts */
235     0,    /* max_lowres */
236     NULL, /* priv_class */
237     NULL, /* profiles */
238     sizeof(UtVideoContext),
239     NULL, /* next */
240     NULL, /* init_thread_copy */
241     NULL, /* update_thread_context */
242     NULL, /* defaults */
243     NULL, /* init_static_data */
244     utvideo_encode_init,
245     NULL, /* encode */
246     utvideo_encode_frame,
247     NULL, /* decode */
248     utvideo_encode_close,
249     NULL, /* flush */
250 };