git.sesse.net Git - ffmpeg/blob - libavfilter/af_amerge.c

   1 /*
   2  * Copyright (c) 2011 Nicolas George <nicolas.george@normalesup.org>
   3  *
   4  * This file is part of FFmpeg.
   5  *
   6  * FFmpeg is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * FFmpeg is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  14  * GNU General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with FFmpeg; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  19  */
  20
  21 /**
  22  * @file
  23  * Audio merging filter
  24  */
  25
  26 #include "libswresample/swresample.h" // only for SWR_CH_MAX
  27 #include "avfilter.h"
  28 #include "audio.h"
  29 #include "internal.h"
  30
  31 #define QUEUE_SIZE 16
  32
  33 typedef struct {
  34     int nb_in_ch[2];       /**< number of channels for each input */
  35     int route[SWR_CH_MAX]; /**< channels routing, see copy_samples */
  36     int bps;
  37     struct amerge_queue {
  38         AVFilterBufferRef *buf[QUEUE_SIZE];
  39         int nb_buf, nb_samples, pos;
  40     } queue[2];
  41 } AMergeContext;
  42
  43 static av_cold void uninit(AVFilterContext *ctx)
  44 {
  45     AMergeContext *am = ctx->priv;
  46     int i, j;
  47
  48     for (i = 0; i < 2; i++)
  49         for (j = 0; j < am->queue[i].nb_buf; j++)
  50             avfilter_unref_buffer(am->queue[i].buf[j]);
  51 }
  52
  53 static int query_formats(AVFilterContext *ctx)
  54 {
  55     AMergeContext *am = ctx->priv;
  56     int64_t inlayout[2], outlayout;
  57     const int packing_fmts[] = { AVFILTER_PACKED, -1 };
  58     AVFilterFormats *formats;
  59     int i;
  60
  61     for (i = 0; i < 2; i++) {
  62         if (!ctx->inputs[i]->in_chlayouts ||
  63             !ctx->inputs[i]->in_chlayouts->format_count) {
  64             av_log(ctx, AV_LOG_ERROR,
  65                    "No channel layout for input %d\n", i + 1);
  66             return AVERROR(EINVAL);
  67         }
  68         inlayout[i] = ctx->inputs[i]->in_chlayouts->formats[0];
  69         if (ctx->inputs[i]->in_chlayouts->format_count > 1) {
  70             char buf[256];
  71             av_get_channel_layout_string(buf, sizeof(buf), 0, inlayout[i]);
  72             av_log(ctx, AV_LOG_INFO, "Using \"%s\" for input %d\n", buf, i + 1);
  73         }
  74         am->nb_in_ch[i] = av_get_channel_layout_nb_channels(inlayout[i]);
  75     }
  76     if (am->nb_in_ch[0] + am->nb_in_ch[1] > SWR_CH_MAX) {
  77         av_log(ctx, AV_LOG_ERROR, "Too many channels (max %d)\n", SWR_CH_MAX);
  78         return AVERROR(EINVAL);
  79     }
  80     if (inlayout[0] & inlayout[1]) {
  81         av_log(ctx, AV_LOG_WARNING,
  82                "Inputs overlap: output layout will be meaningless\n");
  83         for (i = 0; i < am->nb_in_ch[0] + am->nb_in_ch[1]; i++)
  84             am->route[i] = i;
  85         outlayout = av_get_default_channel_layout(am->nb_in_ch[0] +
  86                                                   am->nb_in_ch[1]);
  87         if (!outlayout)
  88             outlayout = ((int64_t)1 << (am->nb_in_ch[0] + am->nb_in_ch[1])) - 1;
  89     } else {
  90         int *route[2] = { am->route, am->route + am->nb_in_ch[0] };
  91         int c, out_ch_number = 0;
  92
  93         outlayout = inlayout[0] | inlayout[1];
  94         for (c = 0; c < 64; c++)
  95             for (i = 0; i < 2; i++)
  96                 if ((inlayout[i] >> c) & 1)
  97                     *(route[i]++) = out_ch_number++;
  98     }
  99     formats = avfilter_make_all_formats(AVMEDIA_TYPE_AUDIO);
 100     avfilter_set_common_sample_formats(ctx, formats);
 101     formats = avfilter_make_format_list(packing_fmts);
 102     avfilter_set_common_packing_formats(ctx, formats);
 103     for (i = 0; i < 2; i++) {
 104         formats = NULL;
 105         avfilter_add_format(&formats, inlayout[i]);
 106         avfilter_formats_ref(formats, &ctx->inputs[i]->out_chlayouts);
 107     }
 108     formats = NULL;
 109     avfilter_add_format(&formats, outlayout);
 110     avfilter_formats_ref(formats, &ctx->outputs[0]->in_chlayouts);
 111     return 0;
 112 }
 113
 114 static int config_output(AVFilterLink *outlink)
 115 {
 116     AVFilterContext *ctx = outlink->src;
 117     AMergeContext *am = ctx->priv;
 118     int64_t layout;
 119     char name[3][256];
 120     int i;
 121
 122     if (ctx->inputs[0]->sample_rate != ctx->inputs[1]->sample_rate) {
 123         av_log(ctx, AV_LOG_ERROR,
 124                "Inputs must have the same sample rate "
 125                "(%"PRIi64" vs %"PRIi64")\n",
 126                ctx->inputs[0]->sample_rate, ctx->inputs[1]->sample_rate);
 127         return AVERROR(EINVAL);
 128     }
 129     am->bps = av_get_bytes_per_sample(ctx->outputs[0]->format);
 130     outlink->sample_rate = ctx->inputs[0]->sample_rate;
 131     outlink->time_base   = ctx->inputs[0]->time_base;
 132     for (i = 0; i < 3; i++) {
 133         layout = (i < 2 ? ctx->inputs[i] : ctx->outputs[0])->channel_layout;
 134         av_get_channel_layout_string(name[i], sizeof(name[i]), -1, layout);
 135     }
 136     av_log(ctx, AV_LOG_INFO,
 137            "in1:%s + in2:%s -> out:%s\n", name[0], name[1], name[2]);
 138     return 0;
 139 }
 140
 141 static int request_frame(AVFilterLink *outlink)
 142 {
 143     AVFilterContext *ctx = outlink->src;
 144     AMergeContext *am = ctx->priv;
 145     int i, ret;
 146
 147     for (i = 0; i < 2; i++)
 148         if (!am->queue[i].nb_samples)
 149             if ((ret = avfilter_request_frame(ctx->inputs[i])) < 0)
 150                 return ret;
 151     return 0;
 152 }
 153
 154 /**
 155  * Copy samples from two input streams to one output stream.
 156  * @param nb_in_ch  number of channels in each input stream
 157  * @param route     routing values;
 158  *                  input channel i goes to output channel route[i];
 159  *                  i <  nb_in_ch[0] are the channels from the first output;
 160  *                  i >= nb_in_ch[0] are the channels from the second output
 161  * @param ins       pointer to the samples of each inputs, in packed format;
 162  *                  will be left at the end of the copied samples
 163  * @param outs      pointer to the samples of the output, in packet format;
 164  *                  must point to a buffer big enough;
 165  *                  will be left at the end of the copied samples
 166  * @param ns        number of samples to copy
 167  * @param bps       bytes per sample
 168  */
 169 static inline void copy_samples(int nb_in_ch[2], int *route, uint8_t *ins[2],
 170                                 uint8_t **outs, int ns, int bps)
 171 {
 172     int *route_cur;
 173     int i, c;
 174
 175     while (ns--) {
 176         route_cur = route;
 177         for (i = 0; i < 2; i++) {
 178             for (c = 0; c < nb_in_ch[i]; c++) {
 179                 memcpy((*outs) + bps * *(route_cur++), ins[i], bps);
 180                 ins[i] += bps;
 181             }
 182         }
 183         *outs += (nb_in_ch[0] + nb_in_ch[1]) * bps;
 184     }
 185 }
 186
 187 static void filter_samples(AVFilterLink *inlink, AVFilterBufferRef *insamples)
 188 {
 189     AVFilterContext *ctx = inlink->dst;
 190     AMergeContext *am = ctx->priv;
 191     AVFilterLink *const outlink = ctx->outputs[0];
 192     int input_number = inlink == ctx->inputs[1];
 193     struct amerge_queue *inq = &am->queue[input_number];
 194     int nb_samples, ns, i;
 195     AVFilterBufferRef *outbuf, **inbuf[2];
 196     uint8_t *ins[2], *outs;
 197
 198     if (inq->nb_buf == QUEUE_SIZE) {
 199         av_log(ctx, AV_LOG_ERROR, "Packet queue overflow; dropped\n");
 200         avfilter_unref_buffer(insamples);
 201         return;
 202     }
 203     inq->buf[inq->nb_buf++] = avfilter_ref_buffer(insamples, AV_PERM_READ |
 204                                                              AV_PERM_PRESERVE);
 205     inq->nb_samples += insamples->audio->nb_samples;
 206     avfilter_unref_buffer(insamples);
 207     if (!am->queue[!input_number].nb_samples)
 208         return;
 209
 210     nb_samples = FFMIN(am->queue[0].nb_samples,
 211                        am->queue[1].nb_samples);
 212     outbuf = ff_get_audio_buffer(ctx->outputs[0], AV_PERM_WRITE,
 213                                        nb_samples);
 214     outs = outbuf->data[0];
 215     for (i = 0; i < 2; i++) {
 216         inbuf[i] = am->queue[i].buf;
 217         ins[i] = (*inbuf[i])->data[0] +
 218                  am->queue[i].pos * am->nb_in_ch[i] * am->bps;
 219     }
 220
 221     avfilter_copy_buffer_ref_props(outbuf, *inbuf[0]);
 222     outbuf->audio->nb_samples     = nb_samples;
 223     outbuf->audio->channel_layout = outlink->channel_layout;
 224     outbuf->audio->planar         = outlink->planar;
 225
 226     while (nb_samples) {
 227         ns = nb_samples;
 228         for (i = 0; i < 2; i++)
 229             ns = FFMIN(ns, (*inbuf[i])->audio->nb_samples - am->queue[i].pos);
 230         /* Unroll the most common sample formats: speed +~350% for the loop,
 231            +~13% overall (including two common decoders) */
 232         switch (am->bps) {
 233             case 1:
 234                 copy_samples(am->nb_in_ch, am->route, ins, &outs, ns, 1);
 235                 break;
 236             case 2:
 237                 copy_samples(am->nb_in_ch, am->route, ins, &outs, ns, 2);
 238                 break;
 239             case 4:
 240                 copy_samples(am->nb_in_ch, am->route, ins, &outs, ns, 4);
 241                 break;
 242             default:
 243                 copy_samples(am->nb_in_ch, am->route, ins, &outs, ns, am->bps);
 244                 break;
 245         }
 246
 247         nb_samples -= ns;
 248         for (i = 0; i < 2; i++) {
 249             am->queue[i].nb_samples -= ns;
 250             am->queue[i].pos += ns;
 251             if (am->queue[i].pos == (*inbuf[i])->audio->nb_samples) {
 252                 am->queue[i].pos = 0;
 253                 avfilter_unref_buffer(*inbuf[i]);
 254                 *inbuf[i] = NULL;
 255                 inbuf[i]++;
 256                 ins[i] = *inbuf[i] ? (*inbuf[i])->data[0] : NULL;
 257             }
 258         }
 259     }
 260     for (i = 0; i < 2; i++) {
 261         int nbufused = inbuf[i] - am->queue[i].buf;
 262         if (nbufused) {
 263             am->queue[i].nb_buf -= nbufused;
 264             memmove(am->queue[i].buf, inbuf[i],
 265                     am->queue[i].nb_buf * sizeof(**inbuf));
 266         }
 267     }
 268     ff_filter_samples(ctx->outputs[0], outbuf);
 269 }
 270
 271 AVFilter avfilter_af_amerge = {
 272     .name          = "amerge",
 273     .description   = NULL_IF_CONFIG_SMALL("Merge two audio streams into "
 274                                           "a single multi-channel stream."),
 275     .priv_size     = sizeof(AMergeContext),
 276     .uninit        = uninit,
 277     .query_formats = query_formats,
 278
 279     .inputs    = (const AVFilterPad[]) {
 280         { .name             = "in1",
 281           .type             = AVMEDIA_TYPE_AUDIO,
 282           .filter_samples   = filter_samples,
 283           .min_perms        = AV_PERM_READ, },
 284         { .name             = "in2",
 285           .type             = AVMEDIA_TYPE_AUDIO,
 286           .filter_samples   = filter_samples,
 287           .min_perms        = AV_PERM_READ, },
 288         { .name = NULL }
 289     },
 290     .outputs   = (const AVFilterPad[]) {
 291         { .name             = "default",
 292           .type             = AVMEDIA_TYPE_AUDIO,
 293           .config_props     = config_output,
 294           .request_frame    = request_frame, },
 295         { .name = NULL }
 296     },
 297 };