]> git.sesse.net Git - ffmpeg/blob - libavcodec/cbs_h2645.c
avutil/cuda_check: Make sure this passes make fate-source
[ffmpeg] / libavcodec / cbs_h2645.c
1 /*
2  * This file is part of FFmpeg.
3  *
4  * FFmpeg is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * FFmpeg is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with FFmpeg; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include "libavutil/attributes.h"
20 #include "libavutil/avassert.h"
21
22 #include "bytestream.h"
23 #include "cbs.h"
24 #include "cbs_internal.h"
25 #include "cbs_h264.h"
26 #include "cbs_h265.h"
27 #include "golomb.h"
28 #include "h264.h"
29 #include "h264_sei.h"
30 #include "h2645_parse.h"
31 #include "hevc.h"
32 #include "hevc_sei.h"
33
34
35 static int cbs_read_ue_golomb(CodedBitstreamContext *ctx, GetBitContext *gbc,
36                               const char *name, const int *subscripts,
37                               uint32_t *write_to,
38                               uint32_t range_min, uint32_t range_max)
39 {
40     uint32_t value;
41     int position, i, j;
42     unsigned int k;
43     char bits[65];
44
45     position = get_bits_count(gbc);
46
47     for (i = 0; i < 32; i++) {
48         if (get_bits_left(gbc) < i + 1) {
49             av_log(ctx->log_ctx, AV_LOG_ERROR, "Invalid ue-golomb code at "
50                    "%s: bitstream ended.\n", name);
51             return AVERROR_INVALIDDATA;
52         }
53         k = get_bits1(gbc);
54         bits[i] = k ? '1' : '0';
55         if (k)
56             break;
57     }
58     if (i >= 32) {
59         av_log(ctx->log_ctx, AV_LOG_ERROR, "Invalid ue-golomb code at "
60                "%s: more than 31 zeroes.\n", name);
61         return AVERROR_INVALIDDATA;
62     }
63     value = 1;
64     for (j = 0; j < i; j++) {
65         k = get_bits1(gbc);
66         bits[i + j + 1] = k ? '1' : '0';
67         value = value << 1 | k;
68     }
69     bits[i + j + 1] = 0;
70     --value;
71
72     if (ctx->trace_enable)
73         ff_cbs_trace_syntax_element(ctx, position, name, subscripts,
74                                     bits, value);
75
76     if (value < range_min || value > range_max) {
77         av_log(ctx->log_ctx, AV_LOG_ERROR, "%s out of range: "
78                "%"PRIu32", but must be in [%"PRIu32",%"PRIu32"].\n",
79                name, value, range_min, range_max);
80         return AVERROR_INVALIDDATA;
81     }
82
83     *write_to = value;
84     return 0;
85 }
86
87 static int cbs_read_se_golomb(CodedBitstreamContext *ctx, GetBitContext *gbc,
88                               const char *name, const int *subscripts,
89                               int32_t *write_to,
90                               int32_t range_min, int32_t range_max)
91 {
92     int32_t value;
93     int position, i, j;
94     unsigned int k;
95     uint32_t v;
96     char bits[65];
97
98     position = get_bits_count(gbc);
99
100     for (i = 0; i < 32; i++) {
101         if (get_bits_left(gbc) < i + 1) {
102             av_log(ctx->log_ctx, AV_LOG_ERROR, "Invalid se-golomb code at "
103                    "%s: bitstream ended.\n", name);
104             return AVERROR_INVALIDDATA;
105         }
106         k = get_bits1(gbc);
107         bits[i] = k ? '1' : '0';
108         if (k)
109             break;
110     }
111     if (i >= 32) {
112         av_log(ctx->log_ctx, AV_LOG_ERROR, "Invalid se-golomb code at "
113                "%s: more than 31 zeroes.\n", name);
114         return AVERROR_INVALIDDATA;
115     }
116     v = 1;
117     for (j = 0; j < i; j++) {
118         k = get_bits1(gbc);
119         bits[i + j + 1] = k ? '1' : '0';
120         v = v << 1 | k;
121     }
122     bits[i + j + 1] = 0;
123     if (v & 1)
124         value = -(int32_t)(v / 2);
125     else
126         value = v / 2;
127
128     if (ctx->trace_enable)
129         ff_cbs_trace_syntax_element(ctx, position, name, subscripts,
130                                     bits, value);
131
132     if (value < range_min || value > range_max) {
133         av_log(ctx->log_ctx, AV_LOG_ERROR, "%s out of range: "
134                "%"PRId32", but must be in [%"PRId32",%"PRId32"].\n",
135                name, value, range_min, range_max);
136         return AVERROR_INVALIDDATA;
137     }
138
139     *write_to = value;
140     return 0;
141 }
142
143 static int cbs_write_ue_golomb(CodedBitstreamContext *ctx, PutBitContext *pbc,
144                                const char *name, const int *subscripts,
145                                uint32_t value,
146                                uint32_t range_min, uint32_t range_max)
147 {
148     int len;
149
150     if (value < range_min || value > range_max) {
151         av_log(ctx->log_ctx, AV_LOG_ERROR, "%s out of range: "
152                "%"PRIu32", but must be in [%"PRIu32",%"PRIu32"].\n",
153                name, value, range_min, range_max);
154         return AVERROR_INVALIDDATA;
155     }
156     av_assert0(value != UINT32_MAX);
157
158     len = av_log2(value + 1);
159     if (put_bits_left(pbc) < 2 * len + 1)
160         return AVERROR(ENOSPC);
161
162     if (ctx->trace_enable) {
163         char bits[65];
164         int i;
165
166         for (i = 0; i < len; i++)
167             bits[i] = '0';
168         bits[len] = '1';
169         for (i = 0; i < len; i++)
170             bits[len + i + 1] = (value + 1) >> (len - i - 1) & 1 ? '1' : '0';
171         bits[len + len + 1] = 0;
172
173         ff_cbs_trace_syntax_element(ctx, put_bits_count(pbc),
174                                     name, subscripts, bits, value);
175     }
176
177     put_bits(pbc, len, 0);
178     if (len + 1 < 32)
179         put_bits(pbc, len + 1, value + 1);
180     else
181         put_bits32(pbc, value + 1);
182
183     return 0;
184 }
185
186 static int cbs_write_se_golomb(CodedBitstreamContext *ctx, PutBitContext *pbc,
187                                const char *name, const int *subscripts,
188                                int32_t value,
189                                int32_t range_min, int32_t range_max)
190 {
191     int len;
192     uint32_t uvalue;
193
194     if (value < range_min || value > range_max) {
195         av_log(ctx->log_ctx, AV_LOG_ERROR, "%s out of range: "
196                "%"PRId32", but must be in [%"PRId32",%"PRId32"].\n",
197                name, value, range_min, range_max);
198         return AVERROR_INVALIDDATA;
199     }
200     av_assert0(value != INT32_MIN);
201
202     if (value == 0)
203         uvalue = 0;
204     else if (value > 0)
205         uvalue = 2 * (uint32_t)value - 1;
206     else
207         uvalue = 2 * (uint32_t)-value;
208
209     len = av_log2(uvalue + 1);
210     if (put_bits_left(pbc) < 2 * len + 1)
211         return AVERROR(ENOSPC);
212
213     if (ctx->trace_enable) {
214         char bits[65];
215         int i;
216
217         for (i = 0; i < len; i++)
218             bits[i] = '0';
219         bits[len] = '1';
220         for (i = 0; i < len; i++)
221             bits[len + i + 1] = (uvalue + 1) >> (len - i - 1) & 1 ? '1' : '0';
222         bits[len + len + 1] = 0;
223
224         ff_cbs_trace_syntax_element(ctx, put_bits_count(pbc),
225                                     name, subscripts, bits, value);
226     }
227
228     put_bits(pbc, len, 0);
229     if (len + 1 < 32)
230         put_bits(pbc, len + 1, uvalue + 1);
231     else
232         put_bits32(pbc, uvalue + 1);
233
234     return 0;
235 }
236
237 #define HEADER(name) do { \
238         ff_cbs_trace_header(ctx, name); \
239     } while (0)
240
241 #define CHECK(call) do { \
242         err = (call); \
243         if (err < 0) \
244             return err; \
245     } while (0)
246
247 #define FUNC_NAME(rw, codec, name) cbs_ ## codec ## _ ## rw ## _ ## name
248 #define FUNC_H264(rw, name) FUNC_NAME(rw, h264, name)
249 #define FUNC_H265(rw, name) FUNC_NAME(rw, h265, name)
250
251 #define SUBSCRIPTS(subs, ...) (subs > 0 ? ((int[subs + 1]){ subs, __VA_ARGS__ }) : NULL)
252
253 #define u(width, name, range_min, range_max) \
254         xu(width, name, current->name, range_min, range_max, 0)
255 #define flag(name) u(1, name, 0, 1)
256 #define ue(name, range_min, range_max) \
257         xue(name, current->name, range_min, range_max, 0)
258 #define se(name, range_min, range_max) \
259         xse(name, current->name, range_min, range_max, 0)
260
261 #define us(width, name, range_min, range_max, subs, ...) \
262         xu(width, name, current->name, range_min, range_max, subs, __VA_ARGS__)
263 #define flags(name, subs, ...) \
264         xu(1, name, current->name, 0, 1, subs, __VA_ARGS__)
265 #define ues(name, range_min, range_max, subs, ...) \
266         xue(name, current->name, range_min, range_max, subs, __VA_ARGS__)
267 #define ses(name, range_min, range_max, subs, ...) \
268         xse(name, current->name, range_min, range_max, subs, __VA_ARGS__)
269
270 #define fixed(width, name, value) do { \
271         av_unused uint32_t fixed_value = value; \
272         xu(width, name, fixed_value, value, value, 0); \
273     } while (0)
274
275
276 #define READ
277 #define READWRITE read
278 #define RWContext GetBitContext
279
280 #define xu(width, name, var, range_min, range_max, subs, ...) do { \
281         uint32_t value = range_min; \
282         CHECK(ff_cbs_read_unsigned(ctx, rw, width, #name, \
283                                    SUBSCRIPTS(subs, __VA_ARGS__), \
284                                    &value, range_min, range_max)); \
285         var = value; \
286     } while (0)
287 #define xue(name, var, range_min, range_max, subs, ...) do { \
288         uint32_t value = range_min; \
289         CHECK(cbs_read_ue_golomb(ctx, rw, #name, \
290                                  SUBSCRIPTS(subs, __VA_ARGS__), \
291                                  &value, range_min, range_max)); \
292         var = value; \
293     } while (0)
294 #define xse(name, var, range_min, range_max, subs, ...) do { \
295         int32_t value = range_min; \
296         CHECK(cbs_read_se_golomb(ctx, rw, #name, \
297                                  SUBSCRIPTS(subs, __VA_ARGS__), \
298                                  &value, range_min, range_max)); \
299         var = value; \
300     } while (0)
301
302
303 #define infer(name, value) do { \
304         current->name = value; \
305     } while (0)
306
307 static int cbs_h2645_read_more_rbsp_data(GetBitContext *gbc)
308 {
309     int bits_left = get_bits_left(gbc);
310     if (bits_left > 8)
311         return 1;
312     if (show_bits(gbc, bits_left) == 1 << (bits_left - 1))
313         return 0;
314     return 1;
315 }
316
317 #define more_rbsp_data(var) ((var) = cbs_h2645_read_more_rbsp_data(rw))
318
319 #define byte_alignment(rw) (get_bits_count(rw) % 8)
320
321 #define allocate(name, size) do { \
322         name ## _ref = av_buffer_allocz(size + \
323                                         AV_INPUT_BUFFER_PADDING_SIZE); \
324         if (!name ## _ref) \
325             return AVERROR(ENOMEM); \
326         name = name ## _ref->data; \
327     } while (0)
328
329 #define FUNC(name) FUNC_H264(READWRITE, name)
330 #include "cbs_h264_syntax_template.c"
331 #undef FUNC
332
333 #define FUNC(name) FUNC_H265(READWRITE, name)
334 #include "cbs_h265_syntax_template.c"
335 #undef FUNC
336
337 #undef READ
338 #undef READWRITE
339 #undef RWContext
340 #undef xu
341 #undef xue
342 #undef xse
343 #undef infer
344 #undef more_rbsp_data
345 #undef byte_alignment
346 #undef allocate
347
348
349 #define WRITE
350 #define READWRITE write
351 #define RWContext PutBitContext
352
353 #define xu(width, name, var, range_min, range_max, subs, ...) do { \
354         uint32_t value = var; \
355         CHECK(ff_cbs_write_unsigned(ctx, rw, width, #name, \
356                                     SUBSCRIPTS(subs, __VA_ARGS__), \
357                                     value, range_min, range_max)); \
358     } while (0)
359 #define xue(name, var, range_min, range_max, subs, ...) do { \
360         uint32_t value = var; \
361         CHECK(cbs_write_ue_golomb(ctx, rw, #name, \
362                                   SUBSCRIPTS(subs, __VA_ARGS__), \
363                                   value, range_min, range_max)); \
364     } while (0)
365 #define xse(name, var, range_min, range_max, subs, ...) do { \
366         int32_t value = var; \
367         CHECK(cbs_write_se_golomb(ctx, rw, #name, \
368                                   SUBSCRIPTS(subs, __VA_ARGS__), \
369                                   value, range_min, range_max)); \
370     } while (0)
371
372 #define infer(name, value) do { \
373         if (current->name != (value)) { \
374             av_log(ctx->log_ctx, AV_LOG_WARNING, "Warning: " \
375                    "%s does not match inferred value: " \
376                    "%"PRId64", but should be %"PRId64".\n", \
377                    #name, (int64_t)current->name, (int64_t)(value)); \
378         } \
379     } while (0)
380
381 #define more_rbsp_data(var) (var)
382
383 #define byte_alignment(rw) (put_bits_count(rw) % 8)
384
385 #define allocate(name, size) do { \
386         if (!name) { \
387             av_log(ctx->log_ctx, AV_LOG_ERROR, "%s must be set " \
388                    "for writing.\n", #name); \
389             return AVERROR_INVALIDDATA; \
390         } \
391     } while (0)
392
393 #define FUNC(name) FUNC_H264(READWRITE, name)
394 #include "cbs_h264_syntax_template.c"
395 #undef FUNC
396
397 #define FUNC(name) FUNC_H265(READWRITE, name)
398 #include "cbs_h265_syntax_template.c"
399 #undef FUNC
400
401 #undef WRITE
402 #undef READWRITE
403 #undef RWContext
404 #undef xu
405 #undef xue
406 #undef xse
407 #undef u
408 #undef flag
409 #undef ue
410 #undef se
411 #undef infer
412 #undef more_rbsp_data
413 #undef byte_alignment
414 #undef allocate
415
416
417 static void cbs_h264_free_pps(void *unit, uint8_t *content)
418 {
419     H264RawPPS *pps = (H264RawPPS*)content;
420     av_buffer_unref(&pps->slice_group_id_ref);
421     av_freep(&content);
422 }
423
424 static void cbs_h264_free_sei_payload(H264RawSEIPayload *payload)
425 {
426     switch (payload->payload_type) {
427     case H264_SEI_TYPE_BUFFERING_PERIOD:
428     case H264_SEI_TYPE_PIC_TIMING:
429     case H264_SEI_TYPE_PAN_SCAN_RECT:
430     case H264_SEI_TYPE_RECOVERY_POINT:
431     case H264_SEI_TYPE_DISPLAY_ORIENTATION:
432     case H264_SEI_TYPE_MASTERING_DISPLAY_COLOUR_VOLUME:
433         break;
434     case H264_SEI_TYPE_USER_DATA_REGISTERED:
435         av_buffer_unref(&payload->payload.user_data_registered.data_ref);
436         break;
437     case H264_SEI_TYPE_USER_DATA_UNREGISTERED:
438         av_buffer_unref(&payload->payload.user_data_unregistered.data_ref);
439         break;
440     default:
441         av_buffer_unref(&payload->payload.other.data_ref);
442         break;
443     }
444 }
445
446 static void cbs_h264_free_sei(void *unit, uint8_t *content)
447 {
448     H264RawSEI *sei = (H264RawSEI*)content;
449     int i;
450     for (i = 0; i < sei->payload_count; i++)
451         cbs_h264_free_sei_payload(&sei->payload[i]);
452     av_freep(&content);
453 }
454
455 static void cbs_h264_free_slice(void *unit, uint8_t *content)
456 {
457     H264RawSlice *slice = (H264RawSlice*)content;
458     av_buffer_unref(&slice->data_ref);
459     av_freep(&content);
460 }
461
462 static void cbs_h265_free_vps(void *unit, uint8_t *content)
463 {
464     H265RawVPS *vps = (H265RawVPS*)content;
465     av_buffer_unref(&vps->extension_data.data_ref);
466     av_freep(&content);
467 }
468
469 static void cbs_h265_free_sps(void *unit, uint8_t *content)
470 {
471     H265RawSPS *sps = (H265RawSPS*)content;
472     av_buffer_unref(&sps->extension_data.data_ref);
473     av_freep(&content);
474 }
475
476 static void cbs_h265_free_pps(void *unit, uint8_t *content)
477 {
478     H265RawPPS *pps = (H265RawPPS*)content;
479     av_buffer_unref(&pps->extension_data.data_ref);
480     av_freep(&content);
481 }
482
483 static void cbs_h265_free_slice(void *unit, uint8_t *content)
484 {
485     H265RawSlice *slice = (H265RawSlice*)content;
486     av_buffer_unref(&slice->data_ref);
487     av_freep(&content);
488 }
489
490 static void cbs_h265_free_sei_payload(H265RawSEIPayload *payload)
491 {
492     switch (payload->payload_type) {
493     case HEVC_SEI_TYPE_MASTERING_DISPLAY_INFO:
494     case HEVC_SEI_TYPE_CONTENT_LIGHT_LEVEL_INFO:
495         break;
496     default:
497         av_buffer_unref(&payload->payload.other.data_ref);
498         break;
499     }
500 }
501
502 static void cbs_h265_free_sei(void *unit, uint8_t *content)
503 {
504     H265RawSEI *sei = (H265RawSEI*)content;
505     int i;
506     for (i = 0; i < sei->payload_count; i++)
507         cbs_h265_free_sei_payload(&sei->payload[i]);
508     av_freep(&content);
509 }
510
511 static int cbs_h2645_fragment_add_nals(CodedBitstreamContext *ctx,
512                                        CodedBitstreamFragment *frag,
513                                        const H2645Packet *packet)
514 {
515     int err, i;
516
517     for (i = 0; i < packet->nb_nals; i++) {
518         const H2645NAL *nal = &packet->nals[i];
519         size_t size = nal->size;
520         uint8_t *data;
521
522         // Remove trailing zeroes.
523         while (size > 0 && nal->data[size - 1] == 0)
524             --size;
525         av_assert0(size > 0);
526
527         data = av_malloc(size + AV_INPUT_BUFFER_PADDING_SIZE);
528         if (!data)
529             return AVERROR(ENOMEM);
530         memcpy(data, nal->data, size);
531         memset(data + size, 0, AV_INPUT_BUFFER_PADDING_SIZE);
532
533         err = ff_cbs_insert_unit_data(ctx, frag, -1, nal->type,
534                                       data, size, NULL);
535         if (err < 0) {
536             av_freep(&data);
537             return err;
538         }
539     }
540
541     return 0;
542 }
543
544 static int cbs_h2645_split_fragment(CodedBitstreamContext *ctx,
545                                     CodedBitstreamFragment *frag,
546                                     int header)
547 {
548     enum AVCodecID codec_id = ctx->codec->codec_id;
549     CodedBitstreamH2645Context *priv = ctx->priv_data;
550     GetByteContext gbc;
551     int err;
552
553     av_assert0(frag->data && frag->nb_units == 0);
554     if (frag->data_size == 0)
555         return 0;
556
557     if (header && frag->data[0] && codec_id == AV_CODEC_ID_H264) {
558         // AVCC header.
559         size_t size, start, end;
560         int i, count, version;
561
562         priv->mp4 = 1;
563
564         bytestream2_init(&gbc, frag->data, frag->data_size);
565
566         if (bytestream2_get_bytes_left(&gbc) < 6)
567             return AVERROR_INVALIDDATA;
568
569         version = bytestream2_get_byte(&gbc);
570         if (version != 1) {
571             av_log(ctx->log_ctx, AV_LOG_ERROR, "Invalid AVCC header: "
572                    "first byte %u.", version);
573             return AVERROR_INVALIDDATA;
574         }
575
576         bytestream2_skip(&gbc, 3);
577         priv->nal_length_size = (bytestream2_get_byte(&gbc) & 3) + 1;
578
579         // SPS array.
580         count = bytestream2_get_byte(&gbc) & 0x1f;
581         start = bytestream2_tell(&gbc);
582         for (i = 0; i < count; i++) {
583             if (bytestream2_get_bytes_left(&gbc) < 2 * (count - i))
584                 return AVERROR_INVALIDDATA;
585             size = bytestream2_get_be16(&gbc);
586             if (bytestream2_get_bytes_left(&gbc) < size)
587                 return AVERROR_INVALIDDATA;
588             bytestream2_skip(&gbc, size);
589         }
590         end = bytestream2_tell(&gbc);
591
592         err = ff_h2645_packet_split(&priv->read_packet,
593                                     frag->data + start, end - start,
594                                     ctx->log_ctx, 1, 2, AV_CODEC_ID_H264, 1);
595         if (err < 0) {
596             av_log(ctx->log_ctx, AV_LOG_ERROR, "Failed to split AVCC SPS array.\n");
597             return err;
598         }
599         err = cbs_h2645_fragment_add_nals(ctx, frag, &priv->read_packet);
600         if (err < 0)
601             return err;
602
603         // PPS array.
604         count = bytestream2_get_byte(&gbc);
605         start = bytestream2_tell(&gbc);
606         for (i = 0; i < count; i++) {
607             if (bytestream2_get_bytes_left(&gbc) < 2 * (count - i))
608                 return AVERROR_INVALIDDATA;
609             size = bytestream2_get_be16(&gbc);
610             if (bytestream2_get_bytes_left(&gbc) < size)
611                 return AVERROR_INVALIDDATA;
612             bytestream2_skip(&gbc, size);
613         }
614         end = bytestream2_tell(&gbc);
615
616         err = ff_h2645_packet_split(&priv->read_packet,
617                                     frag->data + start, end - start,
618                                     ctx->log_ctx, 1, 2, AV_CODEC_ID_H264, 1);
619         if (err < 0) {
620             av_log(ctx->log_ctx, AV_LOG_ERROR, "Failed to split AVCC PPS array.\n");
621             return err;
622         }
623         err = cbs_h2645_fragment_add_nals(ctx, frag, &priv->read_packet);
624         if (err < 0)
625             return err;
626
627         if (bytestream2_get_bytes_left(&gbc) > 0) {
628             av_log(ctx->log_ctx, AV_LOG_WARNING, "%u bytes left at end of AVCC "
629                    "header.\n", bytestream2_get_bytes_left(&gbc));
630         }
631
632     } else if (header && frag->data[0] && codec_id == AV_CODEC_ID_HEVC) {
633         // HVCC header.
634         size_t size, start, end;
635         int i, j, nb_arrays, nal_unit_type, nb_nals, version;
636
637         priv->mp4 = 1;
638
639         bytestream2_init(&gbc, frag->data, frag->data_size);
640
641         if (bytestream2_get_bytes_left(&gbc) < 23)
642             return AVERROR_INVALIDDATA;
643
644         version = bytestream2_get_byte(&gbc);
645         if (version != 1) {
646             av_log(ctx->log_ctx, AV_LOG_ERROR, "Invalid HVCC header: "
647                    "first byte %u.", version);
648             return AVERROR_INVALIDDATA;
649         }
650
651         bytestream2_skip(&gbc, 20);
652         priv->nal_length_size = (bytestream2_get_byte(&gbc) & 3) + 1;
653
654         nb_arrays = bytestream2_get_byte(&gbc);
655         for (i = 0; i < nb_arrays; i++) {
656             nal_unit_type = bytestream2_get_byte(&gbc) & 0x3f;
657             nb_nals = bytestream2_get_be16(&gbc);
658
659             start = bytestream2_tell(&gbc);
660             for (j = 0; j < nb_nals; j++) {
661                 if (bytestream2_get_bytes_left(&gbc) < 2)
662                     return AVERROR_INVALIDDATA;
663                 size = bytestream2_get_be16(&gbc);
664                 if (bytestream2_get_bytes_left(&gbc) < size)
665                     return AVERROR_INVALIDDATA;
666                 bytestream2_skip(&gbc, size);
667             }
668             end = bytestream2_tell(&gbc);
669
670             err = ff_h2645_packet_split(&priv->read_packet,
671                                         frag->data + start, end - start,
672                                         ctx->log_ctx, 1, 2, AV_CODEC_ID_HEVC, 1);
673             if (err < 0) {
674                 av_log(ctx->log_ctx, AV_LOG_ERROR, "Failed to split "
675                        "HVCC array %d (%d NAL units of type %d).\n",
676                        i, nb_nals, nal_unit_type);
677                 return err;
678             }
679             err = cbs_h2645_fragment_add_nals(ctx, frag, &priv->read_packet);
680             if (err < 0)
681                 return err;
682         }
683
684     } else {
685         // Annex B, or later MP4 with already-known parameters.
686
687         err = ff_h2645_packet_split(&priv->read_packet,
688                                     frag->data, frag->data_size,
689                                     ctx->log_ctx,
690                                     priv->mp4, priv->nal_length_size,
691                                     codec_id, 1);
692         if (err < 0)
693             return err;
694
695         err = cbs_h2645_fragment_add_nals(ctx, frag, &priv->read_packet);
696         if (err < 0)
697             return err;
698     }
699
700     return 0;
701 }
702
703 #define cbs_h2645_replace_ps(h26n, ps_name, ps_var, id_element) \
704 static int cbs_h26 ## h26n ## _replace_ ## ps_var(CodedBitstreamContext *ctx, \
705                                                   CodedBitstreamUnit *unit)  \
706 { \
707     CodedBitstreamH26 ## h26n ## Context *priv = ctx->priv_data; \
708     H26 ## h26n ## Raw ## ps_name *ps_var = unit->content; \
709     unsigned int id = ps_var->id_element; \
710     if (id > FF_ARRAY_ELEMS(priv->ps_var)) { \
711         av_log(ctx->log_ctx, AV_LOG_ERROR, "Invalid " #ps_name \
712                " id : %d.\n", id); \
713         return AVERROR_INVALIDDATA; \
714     } \
715     if (priv->ps_var[id] == priv->active_ ## ps_var) \
716         priv->active_ ## ps_var = NULL ; \
717     av_buffer_unref(&priv->ps_var ## _ref[id]); \
718     if (unit->content_ref) \
719         priv->ps_var ## _ref[id] = av_buffer_ref(unit->content_ref); \
720     else \
721         priv->ps_var ## _ref[id] = av_buffer_alloc(sizeof(*ps_var)); \
722     if (!priv->ps_var ## _ref[id]) \
723         return AVERROR(ENOMEM); \
724     priv->ps_var[id] = (H26 ## h26n ## Raw ## ps_name *)priv->ps_var ## _ref[id]->data; \
725     if (!unit->content_ref) \
726         memcpy(priv->ps_var[id], ps_var, sizeof(*ps_var)); \
727     return 0; \
728 }
729
730 cbs_h2645_replace_ps(4, SPS, sps, seq_parameter_set_id)
731 cbs_h2645_replace_ps(4, PPS, pps, pic_parameter_set_id)
732 cbs_h2645_replace_ps(5, VPS, vps, vps_video_parameter_set_id)
733 cbs_h2645_replace_ps(5, SPS, sps, sps_seq_parameter_set_id)
734 cbs_h2645_replace_ps(5, PPS, pps, pps_pic_parameter_set_id)
735
736 static int cbs_h264_read_nal_unit(CodedBitstreamContext *ctx,
737                                   CodedBitstreamUnit *unit)
738 {
739     GetBitContext gbc;
740     int err;
741
742     err = init_get_bits(&gbc, unit->data, 8 * unit->data_size);
743     if (err < 0)
744         return err;
745
746     switch (unit->type) {
747     case H264_NAL_SPS:
748         {
749             H264RawSPS *sps;
750
751             err = ff_cbs_alloc_unit_content(ctx, unit, sizeof(*sps), NULL);
752             if (err < 0)
753                 return err;
754             sps = unit->content;
755
756             err = cbs_h264_read_sps(ctx, &gbc, sps);
757             if (err < 0)
758                 return err;
759
760             err = cbs_h264_replace_sps(ctx, unit);
761             if (err < 0)
762                 return err;
763         }
764         break;
765
766     case H264_NAL_SPS_EXT:
767         {
768             err = ff_cbs_alloc_unit_content(ctx, unit,
769                                             sizeof(H264RawSPSExtension),
770                                             NULL);
771             if (err < 0)
772                 return err;
773
774             err = cbs_h264_read_sps_extension(ctx, &gbc, unit->content);
775             if (err < 0)
776                 return err;
777         }
778         break;
779
780     case H264_NAL_PPS:
781         {
782             H264RawPPS *pps;
783
784             err = ff_cbs_alloc_unit_content(ctx, unit, sizeof(*pps),
785                                             &cbs_h264_free_pps);
786             if (err < 0)
787                 return err;
788             pps = unit->content;
789
790             err = cbs_h264_read_pps(ctx, &gbc, pps);
791             if (err < 0)
792                 return err;
793
794             err = cbs_h264_replace_pps(ctx, unit);
795             if (err < 0)
796                 return err;
797         }
798         break;
799
800     case H264_NAL_SLICE:
801     case H264_NAL_IDR_SLICE:
802     case H264_NAL_AUXILIARY_SLICE:
803         {
804             H264RawSlice *slice;
805             int pos, len;
806
807             err = ff_cbs_alloc_unit_content(ctx, unit, sizeof(*slice),
808                                             &cbs_h264_free_slice);
809             if (err < 0)
810                 return err;
811             slice = unit->content;
812
813             err = cbs_h264_read_slice_header(ctx, &gbc, &slice->header);
814             if (err < 0)
815                 return err;
816
817             pos = get_bits_count(&gbc);
818             len = unit->data_size;
819             if (!unit->data[len - 1]) {
820                 int z;
821                 for (z = 0; z < len && !unit->data[len - z - 1]; z++);
822                 av_log(ctx->log_ctx, AV_LOG_DEBUG, "Deleted %d trailing zeroes "
823                        "from slice data.\n", z);
824                 len -= z;
825             }
826
827             slice->data_size = len - pos / 8;
828             slice->data_ref  = av_buffer_ref(unit->data_ref);
829             if (!slice->data_ref)
830                 return AVERROR(ENOMEM);
831             slice->data = unit->data + pos / 8;
832             slice->data_bit_start = pos % 8;
833         }
834         break;
835
836     case H264_NAL_AUD:
837         {
838             err = ff_cbs_alloc_unit_content(ctx, unit,
839                                             sizeof(H264RawAUD), NULL);
840             if (err < 0)
841                 return err;
842
843             err = cbs_h264_read_aud(ctx, &gbc, unit->content);
844             if (err < 0)
845                 return err;
846         }
847         break;
848
849     case H264_NAL_SEI:
850         {
851             err = ff_cbs_alloc_unit_content(ctx, unit, sizeof(H264RawSEI),
852                                             &cbs_h264_free_sei);
853             if (err < 0)
854                 return err;
855
856             err = cbs_h264_read_sei(ctx, &gbc, unit->content);
857             if (err < 0)
858                 return err;
859         }
860         break;
861
862     case H264_NAL_FILLER_DATA:
863         {
864             err = ff_cbs_alloc_unit_content(ctx, unit,
865                                             sizeof(H264RawFiller), NULL);
866             if (err < 0)
867                 return err;
868
869             err = cbs_h264_read_filler(ctx, &gbc, unit->content);
870             if (err < 0)
871                 return err;
872         }
873         break;
874
875     case H264_NAL_END_SEQUENCE:
876     case H264_NAL_END_STREAM:
877         {
878             err = ff_cbs_alloc_unit_content(ctx, unit,
879                                             sizeof(H264RawNALUnitHeader),
880                                             NULL);
881             if (err < 0)
882                 return err;
883
884             err = (unit->type == H264_NAL_END_SEQUENCE ?
885                    cbs_h264_read_end_of_sequence :
886                    cbs_h264_read_end_of_stream)(ctx, &gbc, unit->content);
887             if (err < 0)
888                 return err;
889         }
890         break;
891
892     default:
893         return AVERROR(ENOSYS);
894     }
895
896     return 0;
897 }
898
899 static int cbs_h265_read_nal_unit(CodedBitstreamContext *ctx,
900                                   CodedBitstreamUnit *unit)
901 {
902     GetBitContext gbc;
903     int err;
904
905     err = init_get_bits(&gbc, unit->data, 8 * unit->data_size);
906     if (err < 0)
907         return err;
908
909     switch (unit->type) {
910     case HEVC_NAL_VPS:
911         {
912             H265RawVPS *vps;
913
914             err = ff_cbs_alloc_unit_content(ctx, unit, sizeof(*vps),
915                                             &cbs_h265_free_vps);
916             if (err < 0)
917                 return err;
918             vps = unit->content;
919
920             err = cbs_h265_read_vps(ctx, &gbc, vps);
921             if (err < 0)
922                 return err;
923
924             err = cbs_h265_replace_vps(ctx, unit);
925             if (err < 0)
926                 return err;
927         }
928         break;
929     case HEVC_NAL_SPS:
930         {
931             H265RawSPS *sps;
932
933             err = ff_cbs_alloc_unit_content(ctx, unit, sizeof(*sps),
934                                             &cbs_h265_free_sps);
935             if (err < 0)
936                 return err;
937             sps = unit->content;
938
939             err = cbs_h265_read_sps(ctx, &gbc, sps);
940             if (err < 0)
941                 return err;
942
943             err = cbs_h265_replace_sps(ctx, unit);
944             if (err < 0)
945                 return err;
946         }
947         break;
948
949     case HEVC_NAL_PPS:
950         {
951             H265RawPPS *pps;
952
953             err = ff_cbs_alloc_unit_content(ctx, unit, sizeof(*pps),
954                                             &cbs_h265_free_pps);
955             if (err < 0)
956                 return err;
957             pps = unit->content;
958
959             err = cbs_h265_read_pps(ctx, &gbc, pps);
960             if (err < 0)
961                 return err;
962
963             err = cbs_h265_replace_pps(ctx, unit);
964             if (err < 0)
965                 return err;
966         }
967         break;
968
969     case HEVC_NAL_TRAIL_N:
970     case HEVC_NAL_TRAIL_R:
971     case HEVC_NAL_TSA_N:
972     case HEVC_NAL_TSA_R:
973     case HEVC_NAL_STSA_N:
974     case HEVC_NAL_STSA_R:
975     case HEVC_NAL_RADL_N:
976     case HEVC_NAL_RADL_R:
977     case HEVC_NAL_RASL_N:
978     case HEVC_NAL_RASL_R:
979     case HEVC_NAL_BLA_W_LP:
980     case HEVC_NAL_BLA_W_RADL:
981     case HEVC_NAL_BLA_N_LP:
982     case HEVC_NAL_IDR_W_RADL:
983     case HEVC_NAL_IDR_N_LP:
984     case HEVC_NAL_CRA_NUT:
985         {
986             H265RawSlice *slice;
987             int pos, len;
988
989             err = ff_cbs_alloc_unit_content(ctx, unit, sizeof(*slice),
990                                             &cbs_h265_free_slice);
991             if (err < 0)
992                 return err;
993             slice = unit->content;
994
995             err = cbs_h265_read_slice_segment_header(ctx, &gbc, &slice->header);
996             if (err < 0)
997                 return err;
998
999             pos = get_bits_count(&gbc);
1000             len = unit->data_size;
1001             if (!unit->data[len - 1]) {
1002                 int z;
1003                 for (z = 0; z < len && !unit->data[len - z - 1]; z++);
1004                 av_log(ctx->log_ctx, AV_LOG_DEBUG, "Deleted %d trailing zeroes "
1005                        "from slice data.\n", z);
1006                 len -= z;
1007             }
1008
1009             slice->data_size = len - pos / 8;
1010             slice->data_ref  = av_buffer_ref(unit->data_ref);
1011             if (!slice->data_ref)
1012                 return AVERROR(ENOMEM);
1013             slice->data = unit->data + pos / 8;
1014             slice->data_bit_start = pos % 8;
1015         }
1016         break;
1017
1018     case HEVC_NAL_AUD:
1019         {
1020             err = ff_cbs_alloc_unit_content(ctx, unit,
1021                                             sizeof(H265RawAUD), NULL);
1022             if (err < 0)
1023                 return err;
1024
1025             err = cbs_h265_read_aud(ctx, &gbc, unit->content);
1026             if (err < 0)
1027                 return err;
1028         }
1029         break;
1030
1031     case HEVC_NAL_SEI_PREFIX:
1032         {
1033             err = ff_cbs_alloc_unit_content(ctx, unit, sizeof(H265RawSEI),
1034                                             &cbs_h265_free_sei);
1035
1036             if (err < 0)
1037                 return err;
1038
1039             err = cbs_h265_read_sei(ctx, &gbc, unit->content);
1040
1041             if (err < 0)
1042                 return err;
1043         }
1044         break;
1045
1046     default:
1047         return AVERROR(ENOSYS);
1048     }
1049
1050     return 0;
1051 }
1052
1053 static int cbs_h2645_write_slice_data(CodedBitstreamContext *ctx,
1054                                       PutBitContext *pbc, const uint8_t *data,
1055                                       size_t data_size, int data_bit_start)
1056 {
1057     size_t rest  = data_size - (data_bit_start + 7) / 8;
1058     const uint8_t *pos = data + data_bit_start / 8;
1059
1060     av_assert0(data_bit_start >= 0 &&
1061                8 * data_size > data_bit_start);
1062
1063     if (data_size * 8 + 8 > put_bits_left(pbc))
1064         return AVERROR(ENOSPC);
1065
1066     if (!rest)
1067         goto rbsp_stop_one_bit;
1068
1069     // First copy the remaining bits of the first byte
1070     // The above check ensures that we do not accidentally
1071     // copy beyond the rbsp_stop_one_bit.
1072     if (data_bit_start % 8)
1073         put_bits(pbc, 8 - data_bit_start % 8,
1074                  *pos++ & MAX_UINT_BITS(8 - data_bit_start % 8));
1075
1076     if (put_bits_count(pbc) % 8 == 0) {
1077         // If the writer is aligned at this point,
1078         // memcpy can be used to improve performance.
1079         // This happens normally for CABAC.
1080         flush_put_bits(pbc);
1081         memcpy(put_bits_ptr(pbc), pos, rest);
1082         skip_put_bytes(pbc, rest);
1083     } else {
1084         // If not, we have to copy manually.
1085         // rbsp_stop_one_bit forces us to special-case
1086         // the last byte.
1087         uint8_t temp;
1088         int i;
1089
1090         for (; rest > 4; rest -= 4, pos += 4)
1091             put_bits32(pbc, AV_RB32(pos));
1092
1093         for (; rest > 1; rest--, pos++)
1094             put_bits(pbc, 8, *pos);
1095
1096     rbsp_stop_one_bit:
1097         temp = rest ? *pos : *pos & MAX_UINT_BITS(8 - data_bit_start % 8);
1098
1099         av_assert0(temp);
1100         i = ff_ctz(*pos);
1101         temp = temp >> i;
1102         i = rest ? (8 - i) : (8 - i - data_bit_start % 8);
1103         put_bits(pbc, i, temp);
1104         if (put_bits_count(pbc) % 8)
1105             put_bits(pbc, 8 - put_bits_count(pbc) % 8, 0);
1106     }
1107
1108     return 0;
1109 }
1110
1111 static int cbs_h264_write_nal_unit(CodedBitstreamContext *ctx,
1112                                    CodedBitstreamUnit *unit,
1113                                    PutBitContext *pbc)
1114 {
1115     int err;
1116
1117     switch (unit->type) {
1118     case H264_NAL_SPS:
1119         {
1120             H264RawSPS *sps = unit->content;
1121
1122             err = cbs_h264_write_sps(ctx, pbc, sps);
1123             if (err < 0)
1124                 return err;
1125
1126             err = cbs_h264_replace_sps(ctx, unit);
1127             if (err < 0)
1128                 return err;
1129         }
1130         break;
1131
1132     case H264_NAL_SPS_EXT:
1133         {
1134             H264RawSPSExtension *sps_ext = unit->content;
1135
1136             err = cbs_h264_write_sps_extension(ctx, pbc, sps_ext);
1137             if (err < 0)
1138                 return err;
1139         }
1140         break;
1141
1142     case H264_NAL_PPS:
1143         {
1144             H264RawPPS *pps = unit->content;
1145
1146             err = cbs_h264_write_pps(ctx, pbc, pps);
1147             if (err < 0)
1148                 return err;
1149
1150             err = cbs_h264_replace_pps(ctx, unit);
1151             if (err < 0)
1152                 return err;
1153         }
1154         break;
1155
1156     case H264_NAL_SLICE:
1157     case H264_NAL_IDR_SLICE:
1158     case H264_NAL_AUXILIARY_SLICE:
1159         {
1160             H264RawSlice *slice = unit->content;
1161
1162             err = cbs_h264_write_slice_header(ctx, pbc, &slice->header);
1163             if (err < 0)
1164                 return err;
1165
1166             if (slice->data) {
1167                 err = cbs_h2645_write_slice_data(ctx, pbc, slice->data,
1168                                                  slice->data_size,
1169                                                  slice->data_bit_start);
1170                 if (err < 0)
1171                     return err;
1172             } else {
1173                 // No slice data - that was just the header.
1174                 // (Bitstream may be unaligned!)
1175             }
1176         }
1177         break;
1178
1179     case H264_NAL_AUD:
1180         {
1181             err = cbs_h264_write_aud(ctx, pbc, unit->content);
1182             if (err < 0)
1183                 return err;
1184         }
1185         break;
1186
1187     case H264_NAL_SEI:
1188         {
1189             err = cbs_h264_write_sei(ctx, pbc, unit->content);
1190             if (err < 0)
1191                 return err;
1192         }
1193         break;
1194
1195     case H264_NAL_FILLER_DATA:
1196         {
1197             err = cbs_h264_write_filler(ctx, pbc, unit->content);
1198             if (err < 0)
1199                 return err;
1200         }
1201         break;
1202
1203     case H264_NAL_END_SEQUENCE:
1204         {
1205             err = cbs_h264_write_end_of_sequence(ctx, pbc, unit->content);
1206             if (err < 0)
1207                 return err;
1208         }
1209         break;
1210
1211     case H264_NAL_END_STREAM:
1212         {
1213             err = cbs_h264_write_end_of_stream(ctx, pbc, unit->content);
1214             if (err < 0)
1215                 return err;
1216         }
1217         break;
1218
1219     default:
1220         av_log(ctx->log_ctx, AV_LOG_ERROR, "Write unimplemented for "
1221                "NAL unit type %"PRIu32".\n", unit->type);
1222         return AVERROR_PATCHWELCOME;
1223     }
1224
1225     return 0;
1226 }
1227
1228 static int cbs_h265_write_nal_unit(CodedBitstreamContext *ctx,
1229                                    CodedBitstreamUnit *unit,
1230                                    PutBitContext *pbc)
1231 {
1232     int err;
1233
1234     switch (unit->type) {
1235     case HEVC_NAL_VPS:
1236         {
1237             H265RawVPS *vps = unit->content;
1238
1239             err = cbs_h265_write_vps(ctx, pbc, vps);
1240             if (err < 0)
1241                 return err;
1242
1243             err = cbs_h265_replace_vps(ctx, unit);
1244             if (err < 0)
1245                 return err;
1246         }
1247         break;
1248
1249     case HEVC_NAL_SPS:
1250         {
1251             H265RawSPS *sps = unit->content;
1252
1253             err = cbs_h265_write_sps(ctx, pbc, sps);
1254             if (err < 0)
1255                 return err;
1256
1257             err = cbs_h265_replace_sps(ctx, unit);
1258             if (err < 0)
1259                 return err;
1260         }
1261         break;
1262
1263     case HEVC_NAL_PPS:
1264         {
1265             H265RawPPS *pps = unit->content;
1266
1267             err = cbs_h265_write_pps(ctx, pbc, pps);
1268             if (err < 0)
1269                 return err;
1270
1271             err = cbs_h265_replace_pps(ctx, unit);
1272             if (err < 0)
1273                 return err;
1274         }
1275         break;
1276
1277     case HEVC_NAL_TRAIL_N:
1278     case HEVC_NAL_TRAIL_R:
1279     case HEVC_NAL_TSA_N:
1280     case HEVC_NAL_TSA_R:
1281     case HEVC_NAL_STSA_N:
1282     case HEVC_NAL_STSA_R:
1283     case HEVC_NAL_RADL_N:
1284     case HEVC_NAL_RADL_R:
1285     case HEVC_NAL_RASL_N:
1286     case HEVC_NAL_RASL_R:
1287     case HEVC_NAL_BLA_W_LP:
1288     case HEVC_NAL_BLA_W_RADL:
1289     case HEVC_NAL_BLA_N_LP:
1290     case HEVC_NAL_IDR_W_RADL:
1291     case HEVC_NAL_IDR_N_LP:
1292     case HEVC_NAL_CRA_NUT:
1293         {
1294             H265RawSlice *slice = unit->content;
1295
1296             err = cbs_h265_write_slice_segment_header(ctx, pbc, &slice->header);
1297             if (err < 0)
1298                 return err;
1299
1300             if (slice->data) {
1301                 err = cbs_h2645_write_slice_data(ctx, pbc, slice->data,
1302                                                  slice->data_size,
1303                                                  slice->data_bit_start);
1304                 if (err < 0)
1305                     return err;
1306             } else {
1307                 // No slice data - that was just the header.
1308             }
1309         }
1310         break;
1311
1312     case HEVC_NAL_AUD:
1313         {
1314             err = cbs_h265_write_aud(ctx, pbc, unit->content);
1315             if (err < 0)
1316                 return err;
1317         }
1318         break;
1319
1320     case HEVC_NAL_SEI_PREFIX:
1321         {
1322             err = cbs_h265_write_sei(ctx, pbc, unit->content);
1323
1324             if (err < 0)
1325                 return err;
1326         }
1327         break;
1328
1329     default:
1330         av_log(ctx->log_ctx, AV_LOG_ERROR, "Write unimplemented for "
1331                "NAL unit type %"PRIu32".\n", unit->type);
1332         return AVERROR_PATCHWELCOME;
1333     }
1334
1335     return 0;
1336 }
1337
1338 static int cbs_h2645_write_nal_unit(CodedBitstreamContext *ctx,
1339                                     CodedBitstreamUnit *unit)
1340 {
1341     CodedBitstreamH2645Context *priv = ctx->priv_data;
1342     enum AVCodecID codec_id = ctx->codec->codec_id;
1343     PutBitContext pbc;
1344     int err;
1345
1346     if (!priv->write_buffer) {
1347         // Initial write buffer size is 1MB.
1348         priv->write_buffer_size = 1024 * 1024;
1349
1350     reallocate_and_try_again:
1351         err = av_reallocp(&priv->write_buffer, priv->write_buffer_size);
1352         if (err < 0) {
1353             av_log(ctx->log_ctx, AV_LOG_ERROR, "Unable to allocate a "
1354                    "sufficiently large write buffer (last attempt "
1355                    "%"SIZE_SPECIFIER" bytes).\n", priv->write_buffer_size);
1356             return err;
1357         }
1358     }
1359
1360     init_put_bits(&pbc, priv->write_buffer, priv->write_buffer_size);
1361
1362     if (codec_id == AV_CODEC_ID_H264)
1363         err = cbs_h264_write_nal_unit(ctx, unit, &pbc);
1364     else
1365         err = cbs_h265_write_nal_unit(ctx, unit, &pbc);
1366
1367     if (err == AVERROR(ENOSPC)) {
1368         // Overflow.
1369         priv->write_buffer_size *= 2;
1370         goto reallocate_and_try_again;
1371     }
1372     // Overflow but we didn't notice.
1373     av_assert0(put_bits_count(&pbc) <= 8 * priv->write_buffer_size);
1374
1375     if (err < 0) {
1376         // Write failed for some other reason.
1377         return err;
1378     }
1379
1380     if (put_bits_count(&pbc) % 8)
1381         unit->data_bit_padding = 8 - put_bits_count(&pbc) % 8;
1382     else
1383         unit->data_bit_padding = 0;
1384
1385     unit->data_size = (put_bits_count(&pbc) + 7) / 8;
1386     flush_put_bits(&pbc);
1387
1388     err = ff_cbs_alloc_unit_data(ctx, unit, unit->data_size);
1389     if (err < 0)
1390         return err;
1391
1392     memcpy(unit->data, priv->write_buffer, unit->data_size);
1393
1394     return 0;
1395 }
1396
1397 static int cbs_h2645_assemble_fragment(CodedBitstreamContext *ctx,
1398                                        CodedBitstreamFragment *frag)
1399 {
1400     uint8_t *data;
1401     size_t max_size, dp, sp;
1402     int err, i, zero_run;
1403
1404     for (i = 0; i < frag->nb_units; i++) {
1405         // Data should already all have been written when we get here.
1406         av_assert0(frag->units[i].data);
1407     }
1408
1409     max_size = 0;
1410     for (i = 0; i < frag->nb_units; i++) {
1411         // Start code + content with worst-case emulation prevention.
1412         max_size += 3 + frag->units[i].data_size * 3 / 2;
1413     }
1414
1415     data = av_malloc(max_size + AV_INPUT_BUFFER_PADDING_SIZE);
1416     if (!data)
1417         return AVERROR(ENOMEM);
1418
1419     dp = 0;
1420     for (i = 0; i < frag->nb_units; i++) {
1421         CodedBitstreamUnit *unit = &frag->units[i];
1422
1423         if (unit->data_bit_padding > 0) {
1424             if (i < frag->nb_units - 1)
1425                 av_log(ctx->log_ctx, AV_LOG_WARNING, "Probably invalid "
1426                        "unaligned padding on non-final NAL unit.\n");
1427             else
1428                 frag->data_bit_padding = unit->data_bit_padding;
1429         }
1430
1431         if ((ctx->codec->codec_id == AV_CODEC_ID_H264 &&
1432              (unit->type == H264_NAL_SPS ||
1433               unit->type == H264_NAL_PPS)) ||
1434             (ctx->codec->codec_id == AV_CODEC_ID_HEVC &&
1435              (unit->type == HEVC_NAL_VPS ||
1436               unit->type == HEVC_NAL_SPS ||
1437               unit->type == HEVC_NAL_PPS)) ||
1438             i == 0 /* (Assume this is the start of an access unit.) */) {
1439             // zero_byte
1440             data[dp++] = 0;
1441         }
1442         // start_code_prefix_one_3bytes
1443         data[dp++] = 0;
1444         data[dp++] = 0;
1445         data[dp++] = 1;
1446
1447         zero_run = 0;
1448         for (sp = 0; sp < unit->data_size; sp++) {
1449             if (zero_run < 2) {
1450                 if (unit->data[sp] == 0)
1451                     ++zero_run;
1452                 else
1453                     zero_run = 0;
1454             } else {
1455                 if ((unit->data[sp] & ~3) == 0) {
1456                     // emulation_prevention_three_byte
1457                     data[dp++] = 3;
1458                 }
1459                 zero_run = unit->data[sp] == 0;
1460             }
1461             data[dp++] = unit->data[sp];
1462         }
1463     }
1464
1465     av_assert0(dp <= max_size);
1466     err = av_reallocp(&data, dp + AV_INPUT_BUFFER_PADDING_SIZE);
1467     if (err)
1468         return err;
1469     memset(data + dp, 0, AV_INPUT_BUFFER_PADDING_SIZE);
1470
1471     frag->data_ref = av_buffer_create(data, dp + AV_INPUT_BUFFER_PADDING_SIZE,
1472                                       NULL, NULL, 0);
1473     if (!frag->data_ref) {
1474         av_freep(&data);
1475         return AVERROR(ENOMEM);
1476     }
1477
1478     frag->data = data;
1479     frag->data_size = dp;
1480
1481     return 0;
1482 }
1483
1484 static void cbs_h264_close(CodedBitstreamContext *ctx)
1485 {
1486     CodedBitstreamH264Context *h264 = ctx->priv_data;
1487     int i;
1488
1489     ff_h2645_packet_uninit(&h264->common.read_packet);
1490
1491     av_freep(&h264->common.write_buffer);
1492
1493     for (i = 0; i < FF_ARRAY_ELEMS(h264->sps); i++)
1494         av_buffer_unref(&h264->sps_ref[i]);
1495     for (i = 0; i < FF_ARRAY_ELEMS(h264->pps); i++)
1496         av_buffer_unref(&h264->pps_ref[i]);
1497 }
1498
1499 static void cbs_h265_close(CodedBitstreamContext *ctx)
1500 {
1501     CodedBitstreamH265Context *h265 = ctx->priv_data;
1502     int i;
1503
1504     ff_h2645_packet_uninit(&h265->common.read_packet);
1505
1506     av_freep(&h265->common.write_buffer);
1507
1508     for (i = 0; i < FF_ARRAY_ELEMS(h265->vps); i++)
1509         av_buffer_unref(&h265->vps_ref[i]);
1510     for (i = 0; i < FF_ARRAY_ELEMS(h265->sps); i++)
1511         av_buffer_unref(&h265->sps_ref[i]);
1512     for (i = 0; i < FF_ARRAY_ELEMS(h265->pps); i++)
1513         av_buffer_unref(&h265->pps_ref[i]);
1514 }
1515
1516 const CodedBitstreamType ff_cbs_type_h264 = {
1517     .codec_id          = AV_CODEC_ID_H264,
1518
1519     .priv_data_size    = sizeof(CodedBitstreamH264Context),
1520
1521     .split_fragment    = &cbs_h2645_split_fragment,
1522     .read_unit         = &cbs_h264_read_nal_unit,
1523     .write_unit        = &cbs_h2645_write_nal_unit,
1524     .assemble_fragment = &cbs_h2645_assemble_fragment,
1525
1526     .close             = &cbs_h264_close,
1527 };
1528
1529 const CodedBitstreamType ff_cbs_type_h265 = {
1530     .codec_id          = AV_CODEC_ID_HEVC,
1531
1532     .priv_data_size    = sizeof(CodedBitstreamH265Context),
1533
1534     .split_fragment    = &cbs_h2645_split_fragment,
1535     .read_unit         = &cbs_h265_read_nal_unit,
1536     .write_unit        = &cbs_h2645_write_nal_unit,
1537     .assemble_fragment = &cbs_h2645_assemble_fragment,
1538
1539     .close             = &cbs_h265_close,
1540 };
1541
1542 int ff_cbs_h264_add_sei_message(CodedBitstreamContext *ctx,
1543                                 CodedBitstreamFragment *au,
1544                                 const H264RawSEIPayload *payload)
1545 {
1546     H264RawSEI *sei;
1547     CodedBitstreamUnit *nal = NULL;
1548     int err, i;
1549
1550     // Find an existing SEI NAL unit to add to.
1551     for (i = 0; i < au->nb_units; i++) {
1552         if (au->units[i].type == H264_NAL_SEI) {
1553             nal = &au->units[i];
1554             break;
1555         }
1556     }
1557     if (nal) {
1558         sei = nal->content;
1559
1560     } else {
1561         // Need to make a new SEI NAL unit.  Insert it before the first
1562         // slice data NAL unit; if no slice data, add at the end.
1563         AVBufferRef *sei_ref;
1564
1565         sei = av_mallocz(sizeof(*sei));
1566         if (!sei)
1567             return AVERROR(ENOMEM);
1568
1569         sei->nal_unit_header.nal_unit_type = H264_NAL_SEI;
1570         sei->nal_unit_header.nal_ref_idc   = 0;
1571
1572         sei_ref = av_buffer_create((uint8_t*)sei, sizeof(*sei),
1573                                    &cbs_h264_free_sei, ctx, 0);
1574         if (!sei_ref) {
1575             av_freep(&sei);
1576             return AVERROR(ENOMEM);
1577         }
1578
1579         for (i = 0; i < au->nb_units; i++) {
1580             if (au->units[i].type == H264_NAL_SLICE ||
1581                 au->units[i].type == H264_NAL_IDR_SLICE)
1582                 break;
1583         }
1584
1585         err = ff_cbs_insert_unit_content(ctx, au, i, H264_NAL_SEI,
1586                                          sei, sei_ref);
1587         av_buffer_unref(&sei_ref);
1588         if (err < 0)
1589             return err;
1590     }
1591
1592     if (sei->payload_count >= H264_MAX_SEI_PAYLOADS) {
1593         av_log(ctx->log_ctx, AV_LOG_ERROR, "Too many payloads in "
1594                "SEI NAL unit.\n");
1595         return AVERROR(EINVAL);
1596     }
1597
1598     memcpy(&sei->payload[sei->payload_count], payload, sizeof(*payload));
1599     ++sei->payload_count;
1600
1601     return 0;
1602 }
1603
1604 int ff_cbs_h264_delete_sei_message(CodedBitstreamContext *ctx,
1605                                    CodedBitstreamFragment *au,
1606                                    CodedBitstreamUnit *nal,
1607                                    int position)
1608 {
1609     H264RawSEI *sei = nal->content;
1610
1611     av_assert0(nal->type == H264_NAL_SEI);
1612     av_assert0(position >= 0 && position < sei->payload_count);
1613
1614     if (position == 0 && sei->payload_count == 1) {
1615         // Deleting NAL unit entirely.
1616         int i;
1617
1618         for (i = 0; i < au->nb_units; i++) {
1619             if (&au->units[i] == nal)
1620                 break;
1621         }
1622         av_assert0(i < au->nb_units && "NAL unit not in access unit.");
1623
1624         return ff_cbs_delete_unit(ctx, au, i);
1625     } else {
1626         cbs_h264_free_sei_payload(&sei->payload[position]);
1627
1628         --sei->payload_count;
1629         memmove(sei->payload + position,
1630                 sei->payload + position + 1,
1631                 (sei->payload_count - position) * sizeof(*sei->payload));
1632
1633         return 0;
1634     }
1635 }