]> git.sesse.net Git - ffmpeg/blob - libavcodec/h264_redundant_pps_bsf.c
avcodec/dvbsubdec: prefer to use variable instead of type for sizeof
[ffmpeg] / libavcodec / h264_redundant_pps_bsf.c
1 /*
2  * This file is part of FFmpeg.
3  *
4  * FFmpeg is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * FFmpeg is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with FFmpeg; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include <string.h>
20
21 #include "libavutil/common.h"
22 #include "libavutil/mem.h"
23
24 #include "bsf.h"
25 #include "bsf_internal.h"
26 #include "cbs.h"
27 #include "cbs_h264.h"
28 #include "h264.h"
29
30
31 typedef struct H264RedundantPPSContext {
32     CodedBitstreamContext *input;
33     CodedBitstreamContext *output;
34
35     CodedBitstreamFragment access_unit;
36
37     int global_pic_init_qp;
38     int current_pic_init_qp;
39     int extradata_pic_init_qp;
40 } H264RedundantPPSContext;
41
42
43 static int h264_redundant_pps_fixup_pps(H264RedundantPPSContext *ctx,
44                                         H264RawPPS *pps)
45 {
46     // Record the current value of pic_init_qp in order to fix up
47     // following slices, then overwrite with the global value.
48     ctx->current_pic_init_qp = pps->pic_init_qp_minus26 + 26;
49     pps->pic_init_qp_minus26 = ctx->global_pic_init_qp - 26;
50
51     // Some PPSs have this set, so it must be set in all of them.
52     // (Slices which do not use such a PPS on input will still have
53     // *_weight_l*flag as zero and therefore write equivalently.)
54     pps->weighted_pred_flag = 1;
55
56     return 0;
57 }
58
59 static int h264_redundant_pps_fixup_slice(H264RedundantPPSContext *ctx,
60                                           H264RawSliceHeader *slice)
61 {
62     int qp;
63
64     qp = ctx->current_pic_init_qp + slice->slice_qp_delta;
65     slice->slice_qp_delta = qp - ctx->global_pic_init_qp;
66
67     return 0;
68 }
69
70 static int h264_redundant_pps_filter(AVBSFContext *bsf, AVPacket *pkt)
71 {
72     H264RedundantPPSContext *ctx = bsf->priv_data;
73     CodedBitstreamFragment *au = &ctx->access_unit;
74     int au_has_sps;
75     int err, i;
76
77     err = ff_bsf_get_packet_ref(bsf, pkt);
78     if (err < 0)
79         return err;
80
81     err = ff_cbs_read_packet(ctx->input, au, pkt);
82     if (err < 0)
83         goto fail;
84
85     au_has_sps = 0;
86     for (i = 0; i < au->nb_units; i++) {
87         CodedBitstreamUnit *nal = &au->units[i];
88
89         if (nal->type == H264_NAL_SPS)
90             au_has_sps = 1;
91         if (nal->type == H264_NAL_PPS) {
92             err = h264_redundant_pps_fixup_pps(ctx, nal->content);
93             if (err < 0)
94                 goto fail;
95             if (!au_has_sps) {
96                 av_log(bsf, AV_LOG_VERBOSE, "Deleting redundant PPS "
97                        "at %"PRId64".\n", pkt->pts);
98                 ff_cbs_delete_unit(au, i);
99                 i--;
100                 continue;
101             }
102         }
103         if (nal->type == H264_NAL_SLICE ||
104             nal->type == H264_NAL_IDR_SLICE) {
105             H264RawSlice *slice = nal->content;
106             h264_redundant_pps_fixup_slice(ctx, &slice->header);
107         }
108     }
109
110     err = ff_cbs_write_packet(ctx->output, pkt, au);
111     if (err < 0)
112         goto fail;
113
114     err = 0;
115 fail:
116     ff_cbs_fragment_reset(au);
117     if (err < 0)
118         av_packet_unref(pkt);
119
120     return err;
121 }
122
123 static int h264_redundant_pps_init(AVBSFContext *bsf)
124 {
125     H264RedundantPPSContext *ctx = bsf->priv_data;
126     CodedBitstreamFragment *au = &ctx->access_unit;
127     int err, i;
128
129     err = ff_cbs_init(&ctx->input, AV_CODEC_ID_H264, bsf);
130     if (err < 0)
131         return err;
132
133     err = ff_cbs_init(&ctx->output, AV_CODEC_ID_H264, bsf);
134     if (err < 0)
135         return err;
136
137     ctx->global_pic_init_qp = 26;
138
139     if (bsf->par_in->extradata) {
140         err = ff_cbs_read_extradata(ctx->input, au, bsf->par_in);
141         if (err < 0) {
142             av_log(bsf, AV_LOG_ERROR, "Failed to read extradata.\n");
143             goto fail;
144         }
145
146         for (i = 0; i < au->nb_units; i++) {
147             if (au->units[i].type == H264_NAL_PPS) {
148                 err = h264_redundant_pps_fixup_pps(ctx, au->units[i].content);
149                 if (err < 0)
150                     goto fail;
151             }
152         }
153
154         ctx->extradata_pic_init_qp = ctx->current_pic_init_qp;
155         err = ff_cbs_write_extradata(ctx->output, bsf->par_out, au);
156         if (err < 0) {
157             av_log(bsf, AV_LOG_ERROR, "Failed to write extradata.\n");
158             goto fail;
159         }
160     }
161
162     err = 0;
163 fail:
164     ff_cbs_fragment_reset(au);
165     return err;
166 }
167
168 static void h264_redundant_pps_flush(AVBSFContext *bsf)
169 {
170     H264RedundantPPSContext *ctx = bsf->priv_data;
171     ctx->current_pic_init_qp = ctx->extradata_pic_init_qp;
172 }
173
174 static void h264_redundant_pps_close(AVBSFContext *bsf)
175 {
176     H264RedundantPPSContext *ctx = bsf->priv_data;
177
178     ff_cbs_fragment_free(&ctx->access_unit);
179     ff_cbs_close(&ctx->input);
180     ff_cbs_close(&ctx->output);
181 }
182
183 static const enum AVCodecID h264_redundant_pps_codec_ids[] = {
184     AV_CODEC_ID_H264, AV_CODEC_ID_NONE,
185 };
186
187 const AVBitStreamFilter ff_h264_redundant_pps_bsf = {
188     .name           = "h264_redundant_pps",
189     .priv_data_size = sizeof(H264RedundantPPSContext),
190     .init           = &h264_redundant_pps_init,
191     .flush          = &h264_redundant_pps_flush,
192     .close          = &h264_redundant_pps_close,
193     .filter         = &h264_redundant_pps_filter,
194     .codec_ids      = h264_redundant_pps_codec_ids,
195 };