]> git.sesse.net Git - ffmpeg/blob - libavcodec/internal.h
lavc: replace AVCodecInternal.allocate_progress with an internal cap
[ffmpeg] / libavcodec / internal.h
1 /*
2  * This file is part of FFmpeg.
3  *
4  * FFmpeg is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * FFmpeg is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with FFmpeg; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 /**
20  * @file
21  * common internal api header.
22  */
23
24 #ifndef AVCODEC_INTERNAL_H
25 #define AVCODEC_INTERNAL_H
26
27 #include <stdint.h>
28
29 #include "libavutil/buffer.h"
30 #include "libavutil/channel_layout.h"
31 #include "libavutil/mathematics.h"
32 #include "libavutil/pixfmt.h"
33 #include "avcodec.h"
34 #include "config.h"
35
36 /**
37  * The codec does not modify any global variables in the init function,
38  * allowing to call the init function without locking any global mutexes.
39  */
40 #define FF_CODEC_CAP_INIT_THREADSAFE        (1 << 0)
41 /**
42  * The codec allows calling the close function for deallocation even if
43  * the init function returned a failure. Without this capability flag, a
44  * codec does such cleanup internally when returning failures from the
45  * init function and does not expect the close function to be called at
46  * all.
47  */
48 #define FF_CODEC_CAP_INIT_CLEANUP           (1 << 1)
49 /**
50  * Decoders marked with FF_CODEC_CAP_SETS_PKT_DTS want to set
51  * AVFrame.pkt_dts manually. If the flag is set, decode.c won't overwrite
52  * this field. If it's unset, decode.c tries to guess the pkt_dts field
53  * from the input AVPacket.
54  */
55 #define FF_CODEC_CAP_SETS_PKT_DTS           (1 << 2)
56 /**
57  * The decoder extracts and fills its parameters even if the frame is
58  * skipped due to the skip_frame setting.
59  */
60 #define FF_CODEC_CAP_SKIP_FRAME_FILL_PARAM  (1 << 3)
61 /**
62  * The decoder sets the cropping fields in the output frames manually.
63  * If this cap is set, the generic code will initialize output frame
64  * dimensions to coded rather than display values.
65  */
66 #define FF_CODEC_CAP_EXPORTS_CROPPING       (1 << 4)
67 /**
68  * Codec initializes slice-based threading with a main function
69  */
70 #define FF_CODEC_CAP_SLICE_THREAD_HAS_MF    (1 << 5)
71 /*
72  * The codec supports frame threading and has inter-frame dependencies, so it
73  * uses ff_thread_report/await_progress().
74  */
75 #define FF_CODEC_CAP_ALLOCATE_PROGRESS      (1 << 6)
76
77 /**
78  * AVCodec.codec_tags termination value
79  */
80 #define FF_CODEC_TAGS_END -1
81
82
83 #ifdef TRACE
84 #   define ff_tlog(ctx, ...) av_log(ctx, AV_LOG_TRACE, __VA_ARGS__)
85 #else
86 #   define ff_tlog(ctx, ...) do { } while(0)
87 #endif
88
89
90 #define FF_DEFAULT_QUANT_BIAS 999999
91
92 #define FF_QSCALE_TYPE_MPEG1 0
93 #define FF_QSCALE_TYPE_MPEG2 1
94 #define FF_QSCALE_TYPE_H264  2
95 #define FF_QSCALE_TYPE_VP56  3
96
97 #define FF_SANE_NB_CHANNELS 512U
98
99 #define FF_SIGNBIT(x) ((x) >> CHAR_BIT * sizeof(x) - 1)
100
101 #if HAVE_SIMD_ALIGN_64
102 #   define STRIDE_ALIGN 64 /* AVX-512 */
103 #elif HAVE_SIMD_ALIGN_32
104 #   define STRIDE_ALIGN 32
105 #elif HAVE_SIMD_ALIGN_16
106 #   define STRIDE_ALIGN 16
107 #else
108 #   define STRIDE_ALIGN 8
109 #endif
110
111 typedef struct FramePool {
112     /**
113      * Pools for each data plane. For audio all the planes have the same size,
114      * so only pools[0] is used.
115      */
116     AVBufferPool *pools[4];
117
118     /*
119      * Pool parameters
120      */
121     int format;
122     int width, height;
123     int stride_align[AV_NUM_DATA_POINTERS];
124     int linesize[4];
125     int planes;
126     int channels;
127     int samples;
128 } FramePool;
129
130 typedef struct DecodeSimpleContext {
131     AVPacket *in_pkt;
132     AVFrame  *out_frame;
133 } DecodeSimpleContext;
134
135 typedef struct DecodeFilterContext {
136     AVBSFContext **bsfs;
137     int         nb_bsfs;
138 } DecodeFilterContext;
139
140 typedef struct AVCodecInternal {
141     /**
142      * Whether the parent AVCodecContext is a copy of the context which had
143      * init() called on it.
144      * This is used by multithreading - shared tables and picture pointers
145      * should be freed from the original context only.
146      */
147     int is_copy;
148
149     /**
150      * An audio frame with less than required samples has been submitted and
151      * padded with silence. Reject all subsequent frames.
152      */
153     int last_audio_frame;
154
155     AVFrame *to_free;
156
157     FramePool *pool;
158
159     void *thread_ctx;
160
161     DecodeSimpleContext ds;
162     DecodeFilterContext filter;
163
164     /**
165      * Properties (timestamps+side data) extracted from the last packet passed
166      * for decoding.
167      */
168     AVPacket *last_pkt_props;
169
170     /**
171      * temporary buffer used for encoders to store their bitstream
172      */
173     uint8_t *byte_buffer;
174     unsigned int byte_buffer_size;
175
176     void *frame_thread_encoder;
177
178     /**
179      * Number of audio samples to skip at the start of the next decoded frame
180      */
181     int skip_samples;
182
183     /**
184      * hwaccel-specific private data
185      */
186     void *hwaccel_priv_data;
187
188     /**
189      * checks API usage: after codec draining, flush is required to resume operation
190      */
191     int draining;
192
193     /**
194      * buffers for using new encode/decode API through legacy API
195      */
196     AVPacket *buffer_pkt;
197     int buffer_pkt_valid; // encoding: packet without data can be valid
198     AVFrame *buffer_frame;
199     int draining_done;
200     /* set to 1 when the caller is using the old decoding API */
201     int compat_decode;
202     int compat_decode_warned;
203     /* this variable is set by the decoder internals to signal to the old
204      * API compat wrappers the amount of data consumed from the last packet */
205     size_t compat_decode_consumed;
206     /* when a partial packet has been consumed, this stores the remaining size
207      * of the packet (that should be submitted in the next decode call */
208     size_t compat_decode_partial_size;
209     AVFrame *compat_decode_frame;
210
211     int showed_multi_packet_warning;
212
213     int skip_samples_multiplier;
214
215     /* to prevent infinite loop on errors when draining */
216     int nb_draining_errors;
217
218     /* used when avctx flag AV_CODEC_FLAG_DROPCHANGED is set */
219     int changed_frames_dropped;
220     int initial_format;
221     int initial_width, initial_height;
222     int initial_sample_rate;
223     int initial_channels;
224     uint64_t initial_channel_layout;
225 } AVCodecInternal;
226
227 struct AVCodecDefault {
228     const uint8_t *key;
229     const uint8_t *value;
230 };
231
232 extern const uint8_t ff_log2_run[41];
233
234 /**
235  * Return the index into tab at which {a,b} match elements {[0],[1]} of tab.
236  * If there is no such matching pair then size is returned.
237  */
238 int ff_match_2uint16(const uint16_t (*tab)[2], int size, int a, int b);
239
240 unsigned int avpriv_toupper4(unsigned int x);
241
242 void ff_color_frame(AVFrame *frame, const int color[4]);
243
244 /**
245  * Maximum size in bytes of extradata.
246  * This value was chosen such that every bit of the buffer is
247  * addressable by a 32-bit signed integer as used by get_bits.
248  */
249 #define FF_MAX_EXTRADATA_SIZE ((1 << 28) - AV_INPUT_BUFFER_PADDING_SIZE)
250
251 /**
252  * Check AVPacket size and/or allocate data.
253  *
254  * Encoders supporting AVCodec.encode2() can use this as a convenience to
255  * ensure the output packet data is large enough, whether provided by the user
256  * or allocated in this function.
257  *
258  * @param avctx   the AVCodecContext of the encoder
259  * @param avpkt   the AVPacket
260  *                If avpkt->data is already set, avpkt->size is checked
261  *                to ensure it is large enough.
262  *                If avpkt->data is NULL, a new buffer is allocated.
263  *                avpkt->size is set to the specified size.
264  *                All other AVPacket fields will be reset with av_init_packet().
265  * @param size    the minimum required packet size
266  * @param min_size This is a hint to the allocation algorithm, which indicates
267  *                to what minimal size the caller might later shrink the packet
268  *                to. Encoders often allocate packets which are larger than the
269  *                amount of data that is written into them as the exact amount is
270  *                not known at the time of allocation. min_size represents the
271  *                size a packet might be shrunk to by the caller. Can be set to
272  *                0. setting this roughly correctly allows the allocation code
273  *                to choose between several allocation strategies to improve
274  *                speed slightly.
275  * @return        non negative on success, negative error code on failure
276  */
277 int ff_alloc_packet2(AVCodecContext *avctx, AVPacket *avpkt, int64_t size, int64_t min_size);
278
279 attribute_deprecated int ff_alloc_packet(AVPacket *avpkt, int size);
280
281 /**
282  * Rescale from sample rate to AVCodecContext.time_base.
283  */
284 static av_always_inline int64_t ff_samples_to_time_base(AVCodecContext *avctx,
285                                                         int64_t samples)
286 {
287     if(samples == AV_NOPTS_VALUE)
288         return AV_NOPTS_VALUE;
289     return av_rescale_q(samples, (AVRational){ 1, avctx->sample_rate },
290                         avctx->time_base);
291 }
292
293 /**
294  * 2^(x) for integer x
295  * @return correctly rounded float
296  */
297 static av_always_inline float ff_exp2fi(int x) {
298     /* Normal range */
299     if (-126 <= x && x <= 128)
300         return av_int2float((x+127) << 23);
301     /* Too large */
302     else if (x > 128)
303         return INFINITY;
304     /* Subnormal numbers */
305     else if (x > -150)
306         return av_int2float(1 << (x+149));
307     /* Negligibly small */
308     else
309         return 0;
310 }
311
312 /**
313  * Get a buffer for a frame. This is a wrapper around
314  * AVCodecContext.get_buffer() and should be used instead calling get_buffer()
315  * directly.
316  */
317 int ff_get_buffer(AVCodecContext *avctx, AVFrame *frame, int flags);
318
319 #define FF_REGET_BUFFER_FLAG_READONLY 1 ///< the returned buffer does not need to be writable
320 /**
321  * Identical in function to ff_get_buffer(), except it reuses the existing buffer
322  * if available.
323  */
324 int ff_reget_buffer(AVCodecContext *avctx, AVFrame *frame, int flags);
325
326 int ff_thread_can_start_frame(AVCodecContext *avctx);
327
328 int avpriv_h264_has_num_reorder_frames(AVCodecContext *avctx);
329
330 /**
331  * Call avcodec_open2 recursively by decrementing counter, unlocking mutex,
332  * calling the function and then restoring again. Assumes the mutex is
333  * already locked
334  */
335 int ff_codec_open2_recursive(AVCodecContext *avctx, const AVCodec *codec, AVDictionary **options);
336
337 /**
338  * Finalize buf into extradata and set its size appropriately.
339  */
340 int avpriv_bprint_to_extradata(AVCodecContext *avctx, struct AVBPrint *buf);
341
342 const uint8_t *avpriv_find_start_code(const uint8_t *p,
343                                       const uint8_t *end,
344                                       uint32_t *state);
345
346 int avpriv_codec_get_cap_skip_frame_fill_param(const AVCodec *codec);
347
348 /**
349  * Check that the provided frame dimensions are valid and set them on the codec
350  * context.
351  */
352 int ff_set_dimensions(AVCodecContext *s, int width, int height);
353
354 /**
355  * Check that the provided sample aspect ratio is valid and set it on the codec
356  * context.
357  */
358 int ff_set_sar(AVCodecContext *avctx, AVRational sar);
359
360 /**
361  * Add or update AV_FRAME_DATA_MATRIXENCODING side data.
362  */
363 int ff_side_data_update_matrix_encoding(AVFrame *frame,
364                                         enum AVMatrixEncoding matrix_encoding);
365
366 /**
367  * Select the (possibly hardware accelerated) pixel format.
368  * This is a wrapper around AVCodecContext.get_format() and should be used
369  * instead of calling get_format() directly.
370  *
371  * The list of pixel formats must contain at least one valid entry, and is
372  * terminated with AV_PIX_FMT_NONE.  If it is possible to decode to software,
373  * the last entry in the list must be the most accurate software format.
374  * If it is not possible to decode to software, AVCodecContext.sw_pix_fmt
375  * must be set before calling this function.
376  */
377 int ff_get_format(AVCodecContext *avctx, const enum AVPixelFormat *fmt);
378
379 /**
380  * Set various frame properties from the codec context / packet data.
381  */
382 int ff_decode_frame_props(AVCodecContext *avctx, AVFrame *frame);
383
384 /**
385  * Add a CPB properties side data to an encoding context.
386  */
387 AVCPBProperties *ff_add_cpb_side_data(AVCodecContext *avctx);
388
389 int ff_side_data_set_encoder_stats(AVPacket *pkt, int quality, int64_t *error, int error_count, int pict_type);
390
391 int ff_side_data_set_prft(AVPacket *pkt, int64_t timestamp);
392
393 /**
394  * Check AVFrame for A53 side data and allocate and fill SEI message with A53 info
395  *
396  * @param frame      Raw frame to get A53 side data from
397  * @param prefix_len Number of bytes to allocate before SEI message
398  * @param data       Pointer to a variable to store allocated memory
399  *                   Upon return the variable will hold NULL on error or if frame has no A53 info.
400  *                   Otherwise it will point to prefix_len uninitialized bytes followed by
401  *                   *sei_size SEI message
402  * @param sei_size   Pointer to a variable to store generated SEI message length
403  * @return           Zero on success, negative error code on failure
404  */
405 int ff_alloc_a53_sei(const AVFrame *frame, size_t prefix_len,
406                      void **data, size_t *sei_size);
407
408 /**
409  * Get an estimated video bitrate based on frame size, frame rate and coded
410  * bits per pixel.
411  */
412 int64_t ff_guess_coded_bitrate(AVCodecContext *avctx);
413
414 /**
415  * Check if a value is in the list. If not, return the default value
416  *
417  * @param ctx                Context for the log msg
418  * @param val_name           Name of the checked value, for log msg
419  * @param array_valid_values Array of valid int, ended with INT_MAX
420  * @param default_value      Value return if checked value is not in the array
421  * @return                   Value or default_value.
422  */
423 int ff_int_from_list_or_default(void *ctx, const char * val_name, int val,
424                                 const int * array_valid_values, int default_value);
425
426 void ff_dvdsub_parse_palette(uint32_t *palette, const char *p);
427
428 #if defined(_WIN32) && CONFIG_SHARED && !defined(BUILDING_avcodec)
429 #    define av_export_avcodec __declspec(dllimport)
430 #else
431 #    define av_export_avcodec
432 #endif
433
434 #endif /* AVCODEC_INTERNAL_H */