]> git.sesse.net Git - vlc/blob - modules/codec/x265.c
x265: update to API 4
[vlc] / modules / codec / x265.c
1 /*****************************************************************************
2  * x265.c: HEVC/H.265 video encoder
3  *****************************************************************************
4  * Copyright (C) 2013 Rafaël Carré
5  *
6  * Authors: Rafaël Carré <funman@videolanorg>
7  *
8  * This program is free software; you can redistribute it and/or modify
9  * it under the terms of the GNU General Public License as published by
10  * the Free Software Foundation; either version 2 of the License, or
11  * (at your option) any later version.
12  *
13  * This program is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
16  * GNU General Public License for more details.
17  *
18  * You should have received a copy of the GNU General Public License
19  * along with this program; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
21  *****************************************************************************/
22
23 /*****************************************************************************
24  * Preamble
25  *****************************************************************************/
26 #ifdef HAVE_CONFIG_H
27 # include "config.h"
28 #endif
29
30 #include <vlc_common.h>
31 #include <vlc_plugin.h>
32 #include <vlc_threads.h>
33 #include <vlc_sout.h>
34 #include <vlc_codec.h>
35
36 #include <x265.h>
37
38 /*****************************************************************************
39  * Module descriptor
40  *****************************************************************************/
41 static int  Open (vlc_object_t *);
42 static void Close(vlc_object_t *);
43
44 vlc_module_begin ()
45     set_description(N_("H.265/HEVC encoder (x265)"))
46     set_capability("encoder", 200)
47     set_callbacks(Open, Close)
48     set_category(CAT_INPUT)
49     set_subcategory(SUBCAT_INPUT_VCODEC)
50 vlc_module_end ()
51
52 struct encoder_sys_t
53 {
54     x265_encoder    *h;
55     x265_param      param;
56
57     bool            write_headers;
58
59     mtime_t         i_initial_delay;
60
61     mtime_t         dts;
62     mtime_t         initial_date;
63 #ifndef NDEBUG
64     mtime_t         start;
65 #endif
66 };
67
68 static block_t *Encode(encoder_t *p_enc, picture_t *p_pict)
69 {
70     encoder_sys_t *p_sys = p_enc->p_sys;
71     x265_picture pic;
72
73     x265_picture_init(&p_sys->param, &pic);
74
75     if (likely(p_pict)) {
76         if (unlikely(p_sys->initial_date == 0)) {
77             p_sys->initial_date = p_pict->date;
78 #ifndef NDEBUG
79             p_sys->start = mdate();
80 #endif
81         }
82
83         for (int i = 0; i < p_pict->i_planes; i++) {
84             pic.planes[i] = p_pict->p[i].p_pixels;
85             pic.stride[i] = p_pict->p[i].i_pitch;
86         }
87     }
88
89     x265_nal *nal;
90     uint32_t i_nal = 0;
91     x265_encoder_encode(p_sys->h, &nal, &i_nal,
92             likely(p_pict) ? &pic : NULL, &pic);
93
94     if (!i_nal)
95         return NULL;
96
97     int i_out = 0;
98     for (uint32_t i = 0; i < i_nal; i++)
99         i_out += nal[i].sizeBytes;
100
101     int i_extra = 0;
102     if (unlikely(p_sys->write_headers)) {
103         i_extra = p_enc->fmt_out.i_extra;
104         p_sys->write_headers = false;
105     }
106
107     block_t *p_block = block_Alloc(i_extra + i_out);
108     if (!p_block)
109         return NULL;
110
111     if (unlikely(i_extra))
112        memcpy(p_block->p_buffer, p_enc->fmt_out.p_extra, i_extra);
113
114     /* all payloads are sequentially laid out in memory */
115     memcpy(p_block->p_buffer + i_extra, nal[0].payload, i_out);
116
117     /* This isn't really valid for streams with B-frames */
118     p_block->i_length = CLOCK_FREQ *
119         p_enc->fmt_in.video.i_frame_rate_base /
120             p_enc->fmt_in.video.i_frame_rate;
121
122     p_block->i_pts = p_sys->initial_date + pic.poc * p_block->i_length;
123     p_block->i_dts = p_sys->initial_date + p_sys->dts++ * p_block->i_length;
124
125     switch (pic.sliceType)
126     {
127     case X265_TYPE_I:
128         p_block->i_flags |= BLOCK_FLAG_TYPE_I;
129         break;
130     case X265_TYPE_P:
131         p_block->i_flags |= BLOCK_FLAG_TYPE_P;
132         break;
133     case X265_TYPE_B:
134         p_block->i_flags |= BLOCK_FLAG_TYPE_B;
135         break;
136     }
137
138 #ifndef NDEBUG
139     msg_Dbg(p_enc, "%zu bytes (frame %"PRId64", %.2ffps)", p_block->i_buffer,
140         p_sys->dts, (float)p_sys->dts * CLOCK_FREQ / (mdate() - p_sys->start));
141 #endif
142
143     return p_block;
144 }
145
146 static int  Open (vlc_object_t *p_this)
147 {
148     encoder_t     *p_enc = (encoder_t *)p_this;
149     encoder_sys_t *p_sys;
150
151     if (p_enc->fmt_out.i_codec != VLC_CODEC_HEVC && !p_enc->b_force)
152         return VLC_EGENERIC;
153
154     p_enc->fmt_out.i_cat = VIDEO_ES;
155     p_enc->fmt_out.i_codec = VLC_CODEC_HEVC;
156     p_enc->p_sys = p_sys = malloc(sizeof(encoder_sys_t));
157     if (!p_sys)
158         return VLC_ENOMEM;
159
160     p_enc->fmt_in.i_codec = VLC_CODEC_I420;
161
162     x265_param *param = &p_sys->param;
163     x265_param_default(param);
164
165     param->frameNumThreads = vlc_GetCPUCount();
166     param->bEnableWavefront = 0; // buggy in x265, use frame threading for now
167     param->maxCUSize = 16; /* use smaller macroblock */
168
169     param->frameRate = p_enc->fmt_in.video.i_frame_rate /
170             p_enc->fmt_in.video.i_frame_rate_base;
171     param->sourceWidth = p_enc->fmt_in.video.i_visible_width;
172     param->sourceHeight = p_enc->fmt_in.video.i_visible_height;
173
174     if (param->sourceWidth & (param->maxCUSize - 1)) {
175         msg_Err(p_enc, "Width (%d) must be a multiple of %d",
176             param->sourceWidth, param->maxCUSize);
177         free(p_sys);
178         return VLC_EGENERIC;
179     }
180     if (param->sourceHeight & 7) {
181         msg_Err(p_enc, "Height (%d) must be a multiple of 8", param->sourceHeight);
182         free(p_sys);
183         return VLC_EGENERIC;
184     }
185
186     if (p_enc->fmt_out.i_bitrate > 0) {
187         param->rc.bitrate = p_enc->fmt_out.i_bitrate / 1000;
188         param->rc.rateControlMode = X265_RC_ABR;
189     }
190
191     p_sys->h = x265_encoder_open(param);
192     if (p_sys->h == NULL) {
193         msg_Err(p_enc, "cannot open x265 encoder");
194         free(p_sys);
195         return VLC_EGENERIC;
196     }
197
198     x265_nal *nal;
199     uint32_t i_nal;
200     if (x265_encoder_headers(p_sys->h, &nal, &i_nal)) {
201         msg_Err(p_enc, "cannot get x265 headers");
202         Close(VLC_OBJECT(p_enc));
203         return VLC_EGENERIC;
204     }
205
206     size_t i_extra = 0;
207     for (uint32_t i = 0; i < i_nal; i++)
208         i_extra += nal[i].sizeBytes;
209
210     p_enc->fmt_out.i_extra = i_extra;
211
212     uint8_t *p_extra = p_enc->fmt_out.p_extra = malloc(i_extra);
213     if (!p_extra) {
214         Close(VLC_OBJECT(p_enc));
215         return VLC_ENOMEM;
216     }
217
218     for (uint32_t i = 0; i < i_nal; i++) {
219         memcpy(p_extra, nal[i].payload, nal[i].sizeBytes);
220         p_extra += nal[i].sizeBytes;
221     }
222
223     p_sys->dts = 0;
224     p_sys->initial_date = 0;
225     p_sys->i_initial_delay = 0;
226     p_sys->write_headers = true;
227
228     p_enc->pf_encode_video = Encode;
229     p_enc->pf_encode_audio = NULL;
230
231     return VLC_SUCCESS;
232 }
233
234 static void Close(vlc_object_t *p_this)
235 {
236     encoder_t     *p_enc = (encoder_t *)p_this;
237     encoder_sys_t *p_sys = p_enc->p_sys;
238
239     x265_encoder_close(p_sys->h);
240
241     free(p_sys);
242 }