]> git.sesse.net Git - ffmpeg/blob - libavcodec/dnxhdenc.h
avcodec/h264, videotoolbox: return AVERROR_INVALIDDATA when no frames are produced
[ffmpeg] / libavcodec / dnxhdenc.h
1 /*
2  * VC3/DNxHD encoder structure definitions and prototypes
3  * Copyright (c) 2007 Baptiste Coudurier <baptiste dot coudurier at smartjog dot com>
4  *
5  * VC-3 encoder funded by the British Broadcasting Corporation
6  *
7  * This file is part of FFmpeg.
8  *
9  * FFmpeg is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * FFmpeg is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with FFmpeg; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24 #ifndef AVCODEC_DNXHDENC_H
25 #define AVCODEC_DNXHDENC_H
26
27 #include <stdint.h>
28
29 #include "config.h"
30
31 #include "mpegvideo.h"
32 #include "dnxhddata.h"
33
34 typedef struct RCCMPEntry {
35     uint16_t mb;
36     int value;
37 } RCCMPEntry;
38
39 typedef struct RCEntry {
40     int ssd;
41     int bits;
42 } RCEntry;
43
44 typedef struct DNXHDEncContext {
45     AVClass *class;
46     BlockDSPContext bdsp;
47     MpegEncContext m; ///< Used for quantization dsp functions
48
49     int cid;
50     int profile;
51     int bit_depth;
52     int is_444;
53     const CIDEntry *cid_table;
54     uint8_t *msip; ///< Macroblock Scan Indexes Payload
55     uint32_t *slice_size;
56     uint32_t *slice_offs;
57
58     struct DNXHDEncContext *thread[MAX_THREADS];
59
60     // Because our samples are either 8 or 16 bits for 8-bit and 10-bit
61     // encoding respectively, these refer either to bytes or to two-byte words.
62     unsigned dct_y_offset;
63     unsigned dct_uv_offset;
64     unsigned block_width_l2;
65
66     int frame_size;
67     int coding_unit_size;
68     int data_offset;
69
70     int interlaced;
71     int cur_field;
72
73     int nitris_compat;
74     unsigned min_padding;
75     int intra_quant_bias;
76
77     DECLARE_ALIGNED(32, int16_t, blocks)[12][64];
78     DECLARE_ALIGNED(16, uint8_t, edge_buf_y)[512]; // has to hold 16x16 uint16 when depth=10
79     DECLARE_ALIGNED(16, uint8_t, edge_buf_uv)[2][512]; // has to hold 16x16 uint16_t when depth=10
80
81     int      (*qmatrix_c)     [64];
82     int      (*qmatrix_l)     [64];
83     uint16_t (*qmatrix_l16)[2][64];
84     uint16_t (*qmatrix_c16)[2][64];
85
86     unsigned frame_bits;
87     uint8_t *src[3];
88
89     uint32_t *vlc_codes;
90     uint8_t  *vlc_bits;
91     uint16_t *run_codes;
92     uint8_t  *run_bits;
93
94     /** Rate control */
95     unsigned slice_bits;
96     unsigned qscale;
97     unsigned lambda;
98
99     uint16_t *mb_bits;
100     uint8_t  *mb_qscale;
101
102     RCCMPEntry *mb_cmp;
103     RCCMPEntry *mb_cmp_tmp;
104     RCEntry    *mb_rc;
105
106     void (*get_pixels_8x4_sym)(int16_t *av_restrict /* align 16 */ block,
107                                const uint8_t *pixels, ptrdiff_t line_size);
108 } DNXHDEncContext;
109
110 void ff_dnxhdenc_init_x86(DNXHDEncContext *ctx);
111
112 #endif /* AVCODEC_DNXHDENC_H */