git.sesse.net Git - ffmpeg/blob - libavfilter/vf_shuffleplanes.c

   1 /*
   2  * This file is part of FFmpeg.
   3  *
   4  * FFmpeg is free software; you can redistribute it and/or
   5  * modify it under the terms of the GNU Lesser General Public
   6  * License as published by the Free Software Foundation; either
   7  * version 2.1 of the License, or (at your option) any later version.
   8  *
   9  * FFmpeg is distributed in the hope that it will be useful,
  10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  12  * Lesser General Public License for more details.
  13  *
  14  * You should have received a copy of the GNU Lesser General Public
  15  * License along with FFmpeg; if not, write to the Free Software
  16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  17  */
  18
  19 #include "libavutil/avstring.h"
  20 #include "libavutil/common.h"
  21 #include "libavutil/internal.h"
  22 #include "libavutil/opt.h"
  23 #include "libavutil/pixdesc.h"
  24 #include "libavutil/pixfmt.h"
  25
  26 #include "avfilter.h"
  27 #include "internal.h"
  28 #include "video.h"
  29
  30 typedef struct ShufflePlanesContext {
  31     const AVClass *class;
  32
  33     /* number of planes in the selected pixel format */
  34     int planes;
  35
  36     /* mapping indices */
  37     int map[4];
  38
  39     /* set to 1 if some plane is used more than once, so we need to make a copy */
  40     int copy;
  41 } ShufflePlanesContext;
  42
  43 static int query_formats(AVFilterContext *ctx)
  44 {
  45     AVFilterFormats *formats = NULL;
  46     ShufflePlanesContext *s = ctx->priv;
  47     int fmt, ret, i;
  48
  49     for (fmt = 0; av_pix_fmt_desc_get(fmt); fmt++) {
  50         const AVPixFmtDescriptor *desc = av_pix_fmt_desc_get(fmt);
  51         int planes = av_pix_fmt_count_planes(fmt);
  52
  53         if (!(desc->flags & AV_PIX_FMT_FLAG_PAL) &&
  54             !(desc->flags & AV_PIX_FMT_FLAG_HWACCEL)) {
  55             for (i = 0; i < 4; i++) {
  56                 if (s->map[i] >= planes)
  57                     break;
  58
  59                 if ((desc->log2_chroma_h || desc->log2_chroma_w) &&
  60                     (i == 1 || i == 2) != (s->map[i] == 1 || s->map[i] == 2))
  61                     break;
  62             }
  63
  64             if (i != 4)
  65                 continue;
  66             if ((ret = ff_add_format(&formats, fmt)) < 0) {
  67                 ff_formats_unref(&formats);
  68                 return ret;
  69             }
  70         }
  71     }
  72
  73     return ff_set_common_formats(ctx, formats);
  74 }
  75
  76 static av_cold int shuffleplanes_config_input(AVFilterLink *inlink)
  77 {
  78     AVFilterContext    *ctx = inlink->dst;
  79     ShufflePlanesContext *s = ctx->priv;
  80     int used[4] = { 0 };
  81     int i;
  82
  83     s->copy   = 0;
  84     s->planes = av_pix_fmt_count_planes(inlink->format);
  85
  86     for (i = 0; i < s->planes; i++) {
  87         if (used[s->map[i]])
  88             s->copy = 1;
  89         used[s->map[i]]++;
  90     }
  91
  92     return 0;
  93 }
  94
  95 static int shuffleplanes_filter_frame(AVFilterLink *inlink, AVFrame *frame)
  96 {
  97     AVFilterContext          *ctx = inlink->dst;
  98     ShufflePlanesContext       *s = ctx->priv;
  99     uint8_t *shuffled_data[4]     = { NULL };
 100     int      shuffled_linesize[4] = { 0 };
 101     int i, ret;
 102
 103     for (i = 0; i < s->planes; i++) {
 104         shuffled_data[i]     = frame->data[s->map[i]];
 105         shuffled_linesize[i] = frame->linesize[s->map[i]];
 106     }
 107     memcpy(frame->data,     shuffled_data,     sizeof(shuffled_data));
 108     memcpy(frame->linesize, shuffled_linesize, sizeof(shuffled_linesize));
 109
 110     if (s->copy) {
 111         AVFrame *copy = ff_get_video_buffer(ctx->outputs[0], frame->width, frame->height);
 112
 113         if (!copy) {
 114             ret = AVERROR(ENOMEM);
 115             goto fail;
 116         }
 117
 118         av_frame_copy(copy, frame);
 119
 120         ret = av_frame_copy_props(copy, frame);
 121         if (ret < 0) {
 122             av_frame_free(&copy);
 123             goto fail;
 124         }
 125
 126         av_frame_free(&frame);
 127         frame = copy;
 128     }
 129
 130     return ff_filter_frame(ctx->outputs[0], frame);
 131 fail:
 132     av_frame_free(&frame);
 133     return ret;
 134 }
 135
 136 #define OFFSET(x) offsetof(ShufflePlanesContext, x)
 137 #define FLAGS (AV_OPT_FLAG_FILTERING_PARAM | AV_OPT_FLAG_VIDEO_PARAM)
 138 static const AVOption shuffleplanes_options[] = {
 139     { "map0", "Index of the input plane to be used as the first output plane ",  OFFSET(map[0]), AV_OPT_TYPE_INT, { .i64 = 0 }, 0, 3, FLAGS },
 140     { "map1", "Index of the input plane to be used as the second output plane ", OFFSET(map[1]), AV_OPT_TYPE_INT, { .i64 = 1 }, 0, 3, FLAGS },
 141     { "map2", "Index of the input plane to be used as the third output plane ",  OFFSET(map[2]), AV_OPT_TYPE_INT, { .i64 = 2 }, 0, 3, FLAGS },
 142     { "map3", "Index of the input plane to be used as the fourth output plane ", OFFSET(map[3]), AV_OPT_TYPE_INT, { .i64 = 3 }, 0, 3, FLAGS },
 143     { NULL },
 144 };
 145
 146 AVFILTER_DEFINE_CLASS(shuffleplanes);
 147
 148 static const AVFilterPad shuffleplanes_inputs[] = {
 149     {
 150         .name             = "default",
 151         .type             = AVMEDIA_TYPE_VIDEO,
 152         .config_props     = shuffleplanes_config_input,
 153         .filter_frame     = shuffleplanes_filter_frame,
 154     },
 155     { NULL },
 156 };
 157
 158 static const AVFilterPad shuffleplanes_outputs[] = {
 159     {
 160         .name = "default",
 161         .type = AVMEDIA_TYPE_VIDEO,
 162     },
 163     { NULL },
 164 };
 165
 166 AVFilter ff_vf_shuffleplanes = {
 167     .name         = "shuffleplanes",
 168     .description  = NULL_IF_CONFIG_SMALL("Shuffle video planes."),
 169     .priv_size    = sizeof(ShufflePlanesContext),
 170     .priv_class   = &shuffleplanes_class,
 171     .query_formats = query_formats,
 172     .inputs       = shuffleplanes_inputs,
 173     .outputs      = shuffleplanes_outputs,
 174     .flags        = AVFILTER_FLAG_SUPPORT_TIMELINE_GENERIC,
 175 };