]> git.sesse.net Git - ffmpeg/blob - libavcodec/qsvenc.h
lavc/qsvenc: add VDENC support for H264
[ffmpeg] / libavcodec / qsvenc.h
1 /*
2  * Intel MediaSDK QSV encoder utility functions
3  *
4  * copyright (c) 2013 Yukinori Yamazoe
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #ifndef AVCODEC_QSVENC_H
24 #define AVCODEC_QSVENC_H
25
26 #include <stdint.h>
27 #include <sys/types.h>
28
29 #include <mfx/mfxvideo.h>
30
31 #include "libavutil/avutil.h"
32 #include "libavutil/fifo.h"
33
34 #include "avcodec.h"
35 #include "qsv_internal.h"
36
37 #define QSV_HAVE_CO2 QSV_VERSION_ATLEAST(1, 6)
38 #define QSV_HAVE_CO3 QSV_VERSION_ATLEAST(1, 11)
39
40 #define QSV_HAVE_TRELLIS QSV_VERSION_ATLEAST(1, 8)
41 #define QSV_HAVE_MAX_SLICE_SIZE QSV_VERSION_ATLEAST(1, 9)
42 #define QSV_HAVE_BREF_TYPE      QSV_VERSION_ATLEAST(1, 8)
43
44 #define QSV_HAVE_LA     QSV_VERSION_ATLEAST(1, 7)
45 #define QSV_HAVE_LA_DS  QSV_VERSION_ATLEAST(1, 8)
46 #define QSV_HAVE_LA_HRD QSV_VERSION_ATLEAST(1, 11)
47 #define QSV_HAVE_VDENC  QSV_VERSION_ATLEAST(1, 15)
48
49 #if defined(_WIN32) || defined(__CYGWIN__)
50 #define QSV_HAVE_AVBR   QSV_VERSION_ATLEAST(1, 3)
51 #define QSV_HAVE_ICQ    QSV_VERSION_ATLEAST(1, 8)
52 #define QSV_HAVE_VCM    QSV_VERSION_ATLEAST(1, 8)
53 #define QSV_HAVE_QVBR   QSV_VERSION_ATLEAST(1, 11)
54 #define QSV_HAVE_MF     0
55 #else
56 #define QSV_HAVE_AVBR   0
57 #define QSV_HAVE_ICQ    QSV_VERSION_ATLEAST(1, 28)
58 #define QSV_HAVE_VCM    0
59 #define QSV_HAVE_QVBR   0
60 #define QSV_HAVE_MF     QSV_VERSION_ATLEAST(1, 25)
61 #endif
62
63 #if !QSV_HAVE_LA_DS
64 #define MFX_LOOKAHEAD_DS_UNKNOWN 0
65 #define MFX_LOOKAHEAD_DS_OFF 0
66 #define MFX_LOOKAHEAD_DS_2x 0
67 #define MFX_LOOKAHEAD_DS_4x 0
68 #endif
69
70 #define QSV_COMMON_OPTS \
71 { "async_depth", "Maximum processing parallelism", OFFSET(qsv.async_depth), AV_OPT_TYPE_INT, { .i64 = ASYNC_DEPTH_DEFAULT }, 1, INT_MAX, VE },                          \
72 { "avbr_accuracy",    "Accuracy of the AVBR ratecontrol",    OFFSET(qsv.avbr_accuracy),    AV_OPT_TYPE_INT, { .i64 = 0 }, 0, INT_MAX, VE },                             \
73 { "avbr_convergence", "Convergence of the AVBR ratecontrol", OFFSET(qsv.avbr_convergence), AV_OPT_TYPE_INT, { .i64 = 0 }, 0, INT_MAX, VE },                             \
74 { "preset", NULL, OFFSET(qsv.preset), AV_OPT_TYPE_INT, { .i64 = MFX_TARGETUSAGE_BALANCED }, MFX_TARGETUSAGE_BEST_QUALITY, MFX_TARGETUSAGE_BEST_SPEED,   VE, "preset" }, \
75 { "veryfast",    NULL, 0, AV_OPT_TYPE_CONST, { .i64 = MFX_TARGETUSAGE_BEST_SPEED  },   INT_MIN, INT_MAX, VE, "preset" },                                                \
76 { "faster",      NULL, 0, AV_OPT_TYPE_CONST, { .i64 = MFX_TARGETUSAGE_6  },            INT_MIN, INT_MAX, VE, "preset" },                                                \
77 { "fast",        NULL, 0, AV_OPT_TYPE_CONST, { .i64 = MFX_TARGETUSAGE_5  },            INT_MIN, INT_MAX, VE, "preset" },                                                \
78 { "medium",      NULL, 0, AV_OPT_TYPE_CONST, { .i64 = MFX_TARGETUSAGE_BALANCED  },     INT_MIN, INT_MAX, VE, "preset" },                                                \
79 { "slow",        NULL, 0, AV_OPT_TYPE_CONST, { .i64 = MFX_TARGETUSAGE_3  },            INT_MIN, INT_MAX, VE, "preset" },                                                \
80 { "slower",      NULL, 0, AV_OPT_TYPE_CONST, { .i64 = MFX_TARGETUSAGE_2  },            INT_MIN, INT_MAX, VE, "preset" },                                                \
81 { "veryslow",    NULL, 0, AV_OPT_TYPE_CONST, { .i64 = MFX_TARGETUSAGE_BEST_QUALITY  }, INT_MIN, INT_MAX, VE, "preset" },                                                \
82 { "rdo",            "Enable rate distortion optimization",    OFFSET(qsv.rdo),            AV_OPT_TYPE_INT, { .i64 = -1 }, -1,          1, VE },                         \
83 { "max_frame_size", "Maximum encoded frame size in bytes",    OFFSET(qsv.max_frame_size), AV_OPT_TYPE_INT, { .i64 = -1 }, -1, UINT16_MAX, VE },                         \
84 { "max_slice_size", "Maximum encoded slice size in bytes",    OFFSET(qsv.max_slice_size), AV_OPT_TYPE_INT, { .i64 = -1 }, -1, UINT16_MAX, VE },                         \
85 { "bitrate_limit",  "Toggle bitrate limitations",             OFFSET(qsv.bitrate_limit),  AV_OPT_TYPE_INT, { .i64 = -1 }, -1,          1, VE },                         \
86 { "mbbrc",          "MB level bitrate control",               OFFSET(qsv.mbbrc),          AV_OPT_TYPE_INT, { .i64 = -1 }, -1,          1, VE },                         \
87 { "extbrc",         "Extended bitrate control",               OFFSET(qsv.extbrc),         AV_OPT_TYPE_INT, { .i64 = -1 }, -1,          1, VE },                         \
88 { "adaptive_i",     "Adaptive I-frame placement",             OFFSET(qsv.adaptive_i),     AV_OPT_TYPE_INT, { .i64 = -1 }, -1,          1, VE },                         \
89 { "adaptive_b",     "Adaptive B-frame placement",             OFFSET(qsv.adaptive_b),     AV_OPT_TYPE_INT, { .i64 = -1 }, -1,          1, VE },                         \
90 { "b_strategy",     "Strategy to choose between I/P/B-frames", OFFSET(qsv.b_strategy),    AV_OPT_TYPE_INT, { .i64 = -1 }, -1,          1, VE },                         \
91 { "forced_idr",     "Forcing I frames as IDR frames",         OFFSET(qsv.forced_idr),     AV_OPT_TYPE_BOOL,{ .i64 = 0  },  0,          1, VE },                         \
92
93 typedef int SetEncodeCtrlCB (AVCodecContext *avctx,
94                              const AVFrame *frame, mfxEncodeCtrl* enc_ctrl);
95 typedef struct QSVEncContext {
96     AVCodecContext *avctx;
97
98     QSVFrame *work_frames;
99
100     mfxSession session;
101     mfxSession internal_session;
102
103     int packet_size;
104     int width_align;
105     int height_align;
106
107     mfxVideoParam param;
108     mfxFrameAllocRequest req;
109
110     mfxExtCodingOption  extco;
111 #if QSV_HAVE_CO2
112     mfxExtCodingOption2 extco2;
113 #endif
114 #if QSV_HAVE_MF
115     mfxExtMultiFrameParam   extmfp;
116     mfxExtMultiFrameControl extmfc;
117 #endif
118     mfxExtOpaqueSurfaceAlloc opaque_alloc;
119     mfxFrameSurface1       **opaque_surfaces;
120     AVBufferRef             *opaque_alloc_buf;
121
122     mfxExtBuffer  *extparam_internal[2 + QSV_HAVE_CO2 + (QSV_HAVE_MF * 2)];
123     int         nb_extparam_internal;
124
125     mfxExtBuffer **extparam;
126
127     AVFifoBuffer *async_fifo;
128
129     QSVFramesContext frames_ctx;
130
131     // options set by the caller
132     int async_depth;
133     int idr_interval;
134     int profile;
135     int preset;
136     int avbr_accuracy;
137     int avbr_convergence;
138     int pic_timing_sei;
139     int look_ahead;
140     int look_ahead_depth;
141     int look_ahead_downsampling;
142     int vcm;
143     int rdo;
144     int max_frame_size;
145     int max_slice_size;
146
147     int aud;
148
149     int single_sei_nal_unit;
150     int max_dec_frame_buffering;
151     int trellis;
152
153     int bitrate_limit;
154     int mbbrc;
155     int extbrc;
156     int adaptive_i;
157     int adaptive_b;
158     int b_strategy;
159     int cavlc;
160
161     int int_ref_type;
162     int int_ref_cycle_size;
163     int int_ref_qp_delta;
164     int recovery_point_sei;
165
166     int repeat_pps;
167     int low_power;
168
169     int a53_cc;
170
171 #if QSV_HAVE_MF
172     int mfmode;
173 #endif
174     char *load_plugins;
175     SetEncodeCtrlCB *set_encode_ctrl_cb;
176     int forced_idr;
177 } QSVEncContext;
178
179 int ff_qsv_enc_init(AVCodecContext *avctx, QSVEncContext *q);
180
181 int ff_qsv_encode(AVCodecContext *avctx, QSVEncContext *q,
182                   AVPacket *pkt, const AVFrame *frame, int *got_packet);
183
184 int ff_qsv_enc_close(AVCodecContext *avctx, QSVEncContext *q);
185
186 #endif /* AVCODEC_QSVENC_H */