]> git.sesse.net Git - ffmpeg/blob - libavformat/rtpenc_chain.c
compute_pkt_fields: fix harmless integer overflow
[ffmpeg] / libavformat / rtpenc_chain.c
1 /*
2  * RTP muxer chaining code
3  * Copyright (c) 2010 Martin Storsjo
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "avformat.h"
23 #include "avio_internal.h"
24 #include "rtpenc_chain.h"
25 #include "avio_internal.h"
26 #include "libavutil/opt.h"
27
28 int ff_rtp_chain_mux_open(AVFormatContext **out, AVFormatContext *s,
29                           AVStream *st, URLContext *handle, int packet_size)
30 {
31     AVFormatContext *rtpctx = NULL;
32     int ret;
33     AVOutputFormat *rtp_format = av_guess_format("rtp", NULL, NULL);
34     uint8_t *rtpflags;
35     AVDictionary *opts = NULL;
36
37     if (!rtp_format) {
38         ret = AVERROR(ENOSYS);
39         goto fail;
40     }
41
42     /* Allocate an AVFormatContext for each output stream */
43     rtpctx = avformat_alloc_context();
44     if (!rtpctx) {
45         ret = AVERROR(ENOMEM);
46         goto fail;
47     }
48
49     rtpctx->oformat = rtp_format;
50     if (!avformat_new_stream(rtpctx, NULL)) {
51         ret = AVERROR(ENOMEM);
52         goto fail;
53     }
54     /* Pass the interrupt callback on */
55     rtpctx->interrupt_callback = s->interrupt_callback;
56     /* Copy the max delay setting; the rtp muxer reads this. */
57     rtpctx->max_delay = s->max_delay;
58     /* Copy other stream parameters. */
59     rtpctx->streams[0]->sample_aspect_ratio = st->sample_aspect_ratio;
60     rtpctx->flags |= s->flags & AVFMT_FLAG_MP4A_LATM;
61
62     if (av_opt_get(s, "rtpflags", AV_OPT_SEARCH_CHILDREN, &rtpflags) >= 0)
63         av_dict_set(&opts, "rtpflags", rtpflags, AV_DICT_DONT_STRDUP_VAL);
64
65     /* Set the synchronized start time. */
66     rtpctx->start_time_realtime = s->start_time_realtime;
67
68     avcodec_copy_context(rtpctx->streams[0]->codec, st->codec);
69
70     if (handle) {
71         ffio_fdopen(&rtpctx->pb, handle);
72     } else
73         ffio_open_dyn_packet_buf(&rtpctx->pb, packet_size);
74     ret = avformat_write_header(rtpctx, &opts);
75     av_dict_free(&opts);
76
77     if (ret) {
78         if (handle) {
79             avio_close(rtpctx->pb);
80         } else {
81             uint8_t *ptr;
82             avio_close_dyn_buf(rtpctx->pb, &ptr);
83             av_free(ptr);
84         }
85         avformat_free_context(rtpctx);
86         return ret;
87     }
88
89     *out = rtpctx;
90     return 0;
91
92 fail:
93     av_free(rtpctx);
94     if (handle)
95         ffurl_close(handle);
96     return ret;
97 }