git.sesse.net Git - ffmpeg/blob - libavfilter/vf_histogram.c

   1 /*
   2  * Copyright (c) 2012-2013 Paul B Mahol
   3  *
   4  * This file is part of FFmpeg.
   5  *
   6  * FFmpeg is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * FFmpeg is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with FFmpeg; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  19  */
  20
  21 #include "libavutil/avassert.h"
  22 #include "libavutil/opt.h"
  23 #include "libavutil/parseutils.h"
  24 #include "libavutil/pixdesc.h"
  25 #include "avfilter.h"
  26 #include "formats.h"
  27 #include "internal.h"
  28 #include "video.h"
  29
  30 enum HistogramMode {
  31     MODE_LEVELS,
  32     MODE_WAVEFORM,
  33     MODE_COLOR,
  34     MODE_COLOR2,
  35     MODE_NB
  36 };
  37
  38 typedef struct HistogramContext {
  39     const AVClass *class;               ///< AVClass context for log and options purpose
  40     int mode;                           ///< HistogramMode
  41     unsigned       histogram[256];
  42     int            ncomp;
  43     const uint8_t  *bg_color;
  44     const uint8_t  *fg_color;
  45     int            level_height;
  46     int            scale_height;
  47     int            step;
  48     int            waveform_mode;
  49     int            waveform_mirror;
  50     int            display_mode;
  51     int            levels_mode;
  52     const AVPixFmtDescriptor *desc;
  53 } HistogramContext;
  54
  55 #define OFFSET(x) offsetof(HistogramContext, x)
  56 #define FLAGS AV_OPT_FLAG_FILTERING_PARAM|AV_OPT_FLAG_VIDEO_PARAM
  57
  58 static const AVOption histogram_options[] = {
  59     { "mode", "set histogram mode", OFFSET(mode), AV_OPT_TYPE_INT, {.i64=MODE_LEVELS}, 0, MODE_NB-1, FLAGS, "mode"},
  60     { "levels", "standard histogram", 0, AV_OPT_TYPE_CONST, {.i64=MODE_LEVELS}, 0, 0, FLAGS, "mode" },
  61     { "waveform", "per row/column luminance graph", 0, AV_OPT_TYPE_CONST, {.i64=MODE_WAVEFORM}, 0, 0, FLAGS, "mode" },
  62     { "color", "chroma values in vectorscope", 0, AV_OPT_TYPE_CONST, {.i64=MODE_COLOR}, 0, 0, FLAGS, "mode" },
  63     { "color2", "chroma values in vectorscope", 0, AV_OPT_TYPE_CONST, {.i64=MODE_COLOR2}, 0, 0, FLAGS, "mode" },
  64     { "level_height", "set level height", OFFSET(level_height), AV_OPT_TYPE_INT, {.i64=200}, 50, 2048, FLAGS},
  65     { "scale_height", "set scale height", OFFSET(scale_height), AV_OPT_TYPE_INT, {.i64=12}, 0, 40, FLAGS},
  66     { "step", "set waveform step value", OFFSET(step), AV_OPT_TYPE_INT, {.i64=10}, 1, 255, FLAGS},
  67     { "waveform_mode", "set waveform mode", OFFSET(waveform_mode), AV_OPT_TYPE_INT, {.i64=0}, 0, 1, FLAGS, "waveform_mode"},
  68     { "row",   NULL, 0, AV_OPT_TYPE_CONST, {.i64=0}, 0, 0, FLAGS, "waveform_mode" },
  69     { "column", NULL, 0, AV_OPT_TYPE_CONST, {.i64=1}, 0, 0, FLAGS, "waveform_mode" },
  70     { "waveform_mirror", "set waveform mirroring", OFFSET(waveform_mirror), AV_OPT_TYPE_INT, {.i64=0}, 0, 1, FLAGS, "waveform_mirror"},
  71     { "display_mode", "set display mode", OFFSET(display_mode), AV_OPT_TYPE_INT, {.i64=1}, 0, 1, FLAGS, "display_mode"},
  72     { "parade",  NULL, 0, AV_OPT_TYPE_CONST, {.i64=1}, 0, 0, FLAGS, "display_mode" },
  73     { "overlay", NULL, 0, AV_OPT_TYPE_CONST, {.i64=0}, 0, 0, FLAGS, "display_mode" },
  74     { "levels_mode", "set levels mode", OFFSET(levels_mode), AV_OPT_TYPE_INT, {.i64=0}, 0, 1, FLAGS, "levels_mode"},
  75     { "linear",      NULL, 0, AV_OPT_TYPE_CONST, {.i64=0}, 0, 0, FLAGS, "levels_mode" },
  76     { "logarithmic", NULL, 0, AV_OPT_TYPE_CONST, {.i64=1}, 0, 0, FLAGS, "levels_mode" },
  77     { NULL }
  78 };
  79
  80 AVFILTER_DEFINE_CLASS(histogram);
  81
  82 static const enum AVPixelFormat color_pix_fmts[] = {
  83     AV_PIX_FMT_YUV444P, AV_PIX_FMT_YUVA444P, AV_PIX_FMT_YUVJ444P,
  84     AV_PIX_FMT_NONE
  85 };
  86
  87 static const enum AVPixelFormat levels_pix_fmts[] = {
  88     AV_PIX_FMT_YUV444P, AV_PIX_FMT_YUVA444P, AV_PIX_FMT_YUVJ444P,
  89     AV_PIX_FMT_GRAY8, AV_PIX_FMT_GBRP, AV_PIX_FMT_GBRAP, AV_PIX_FMT_NONE
  90 };
  91
  92 static const enum AVPixelFormat waveform_pix_fmts[] = {
  93      AV_PIX_FMT_GBRP,     AV_PIX_FMT_GBRAP,
  94      AV_PIX_FMT_YUV422P,  AV_PIX_FMT_YUV420P,
  95      AV_PIX_FMT_YUV444P,  AV_PIX_FMT_YUV440P,
  96      AV_PIX_FMT_YUV411P,  AV_PIX_FMT_YUV410P,
  97      AV_PIX_FMT_YUVJ440P, AV_PIX_FMT_YUVJ411P, AV_PIX_FMT_YUVJ420P,
  98      AV_PIX_FMT_YUVJ422P, AV_PIX_FMT_YUVJ444P,
  99      AV_PIX_FMT_YUVA444P, AV_PIX_FMT_YUVA422P, AV_PIX_FMT_YUVA420P,
 100      AV_PIX_FMT_GRAY8,
 101      AV_PIX_FMT_NONE
 102 };
 103
 104 static int query_formats(AVFilterContext *ctx)
 105 {
 106     HistogramContext *h = ctx->priv;
 107     const enum AVPixelFormat *pix_fmts;
 108     AVFilterFormats *fmts_list;
 109
 110     switch (h->mode) {
 111     case MODE_WAVEFORM:
 112         pix_fmts = waveform_pix_fmts;
 113         break;
 114     case MODE_LEVELS:
 115         pix_fmts = levels_pix_fmts;
 116         break;
 117     case MODE_COLOR:
 118     case MODE_COLOR2:
 119         pix_fmts = color_pix_fmts;
 120         break;
 121     default:
 122         av_assert0(0);
 123     }
 124
 125     fmts_list = ff_make_format_list(pix_fmts);
 126     if (!fmts_list)
 127         return AVERROR(ENOMEM);
 128     return ff_set_common_formats(ctx, fmts_list);
 129 }
 130
 131 static const uint8_t black_yuva_color[4] = { 0, 127, 127, 255 };
 132 static const uint8_t black_gbrp_color[4] = { 0, 0, 0, 255 };
 133 static const uint8_t white_yuva_color[4] = { 255, 127, 127, 255 };
 134 static const uint8_t white_gbrp_color[4] = { 255, 255, 255, 255 };
 135
 136 static int config_input(AVFilterLink *inlink)
 137 {
 138     HistogramContext *h = inlink->dst->priv;
 139
 140     h->desc  = av_pix_fmt_desc_get(inlink->format);
 141     h->ncomp = h->desc->nb_components;
 142
 143     switch (inlink->format) {
 144     case AV_PIX_FMT_GBRAP:
 145     case AV_PIX_FMT_GBRP:
 146         h->bg_color = black_gbrp_color;
 147         h->fg_color = white_gbrp_color;
 148         break;
 149     default:
 150         h->bg_color = black_yuva_color;
 151         h->fg_color = white_yuva_color;
 152     }
 153
 154     return 0;
 155 }
 156
 157 static int config_output(AVFilterLink *outlink)
 158 {
 159     AVFilterContext *ctx = outlink->src;
 160     HistogramContext *h = ctx->priv;
 161
 162     switch (h->mode) {
 163     case MODE_LEVELS:
 164         outlink->w = 256;
 165         outlink->h = (h->level_height + h->scale_height) * FFMAX(h->ncomp * h->display_mode, 1);
 166         break;
 167     case MODE_WAVEFORM:
 168         if (h->waveform_mode)
 169             outlink->h = 256 * FFMAX(h->ncomp * h->display_mode, 1);
 170         else
 171             outlink->w = 256 * FFMAX(h->ncomp * h->display_mode, 1);
 172         break;
 173     case MODE_COLOR:
 174     case MODE_COLOR2:
 175         outlink->h = outlink->w = 256;
 176         break;
 177     default:
 178         av_assert0(0);
 179     }
 180
 181     outlink->sample_aspect_ratio = (AVRational){1,1};
 182
 183     return 0;
 184 }
 185
 186 static void gen_waveform(HistogramContext *h, AVFrame *inpicref, AVFrame *outpicref,
 187                          int component, int intensity, int offset, int col_mode)
 188 {
 189     const int plane = h->desc->comp[component].plane;
 190     const int mirror = h->waveform_mirror;
 191     const int is_chroma = (component == 1 || component == 2);
 192     const int shift_w = (is_chroma ? h->desc->log2_chroma_w : 0);
 193     const int shift_h = (is_chroma ? h->desc->log2_chroma_h : 0);
 194     const int src_linesize = inpicref->linesize[plane];
 195     const int dst_linesize = outpicref->linesize[plane];
 196     const int dst_signed_linesize = dst_linesize * (mirror == 1 ? -1 : 1);
 197     uint8_t *src_data = inpicref->data[plane];
 198     uint8_t *dst_data = outpicref->data[plane] + (col_mode ? (offset >> shift_h) * dst_linesize : offset >> shift_w);
 199     uint8_t * const dst_bottom_line = dst_data + dst_linesize * ((256 >> shift_h) - 1);
 200     uint8_t * const dst_line = (mirror ? dst_bottom_line : dst_data);
 201     const uint8_t max = 255 - intensity;
 202     const int src_h = FF_CEIL_RSHIFT(inpicref->height, shift_h);
 203     const int src_w = FF_CEIL_RSHIFT(inpicref->width, shift_w);
 204     uint8_t *dst, *p;
 205     int y;
 206
 207     if (!col_mode && mirror)
 208         dst_data += 256 >> shift_w;
 209     for (y = 0; y < src_h; y++) {
 210         const uint8_t *src_data_end = src_data + src_w;
 211         dst = dst_line;
 212         for (p = src_data; p < src_data_end; p++) {
 213             uint8_t *target;
 214             if (col_mode) {
 215                 target = dst++ + dst_signed_linesize * (*p >> shift_h);
 216             } else {
 217                 if (mirror)
 218                     target = dst_data - (*p >> shift_w);
 219                 else
 220                     target = dst_data + (*p >> shift_w);
 221             }
 222             if (*target <= max)
 223                 *target += intensity;
 224             else
 225                 *target = 255;
 226         }
 227         src_data += src_linesize;
 228         dst_data += dst_linesize;
 229     }
 230 }
 231
 232
 233 static int filter_frame(AVFilterLink *inlink, AVFrame *in)
 234 {
 235     HistogramContext *h   = inlink->dst->priv;
 236     AVFilterContext *ctx  = inlink->dst;
 237     AVFilterLink *outlink = ctx->outputs[0];
 238     AVFrame *out;
 239     const uint8_t *src;
 240     uint8_t *dst;
 241     int i, j, k, l;
 242
 243     out = ff_get_video_buffer(outlink, outlink->w, outlink->h);
 244     if (!out) {
 245         av_frame_free(&in);
 246         return AVERROR(ENOMEM);
 247     }
 248
 249     out->pts = in->pts;
 250
 251     for (k = 0; k < h->ncomp; k++) {
 252         const int is_chroma = (k == 1 || k == 2);
 253         const int dst_h = FF_CEIL_RSHIFT(outlink->h, (is_chroma ? h->desc->log2_chroma_h : 0));
 254         const int dst_w = FF_CEIL_RSHIFT(outlink->w, (is_chroma ? h->desc->log2_chroma_w : 0));
 255         for (i = 0; i < dst_h ; i++)
 256             memset(out->data[h->desc->comp[k].plane] +
 257                    i * out->linesize[h->desc->comp[k].plane],
 258                    h->bg_color[k], dst_w);
 259     }
 260
 261     switch (h->mode) {
 262     case MODE_LEVELS:
 263         for (k = 0; k < h->ncomp; k++) {
 264             const int p = h->desc->comp[k].plane;
 265             const int start = k * (h->level_height + h->scale_height) * h->display_mode;
 266             double max_hval_log;
 267             unsigned max_hval = 0;
 268
 269             for (i = 0; i < in->height; i++) {
 270                 src = in->data[p] + i * in->linesize[p];
 271                 for (j = 0; j < in->width; j++)
 272                     h->histogram[src[j]]++;
 273             }
 274
 275             for (i = 0; i < 256; i++)
 276                 max_hval = FFMAX(max_hval, h->histogram[i]);
 277             max_hval_log = log2(max_hval + 1);
 278
 279             for (i = 0; i < outlink->w; i++) {
 280                 int col_height;
 281
 282                 if (h->levels_mode)
 283                     col_height = round(h->level_height * (1. - (log2(h->histogram[i] + 1) / max_hval_log)));
 284                 else
 285                     col_height = h->level_height - (h->histogram[i] * (int64_t)h->level_height + max_hval - 1) / max_hval;
 286
 287                 for (j = h->level_height - 1; j >= col_height; j--) {
 288                     if (h->display_mode) {
 289                         for (l = 0; l < h->ncomp; l++)
 290                             out->data[l][(j + start) * out->linesize[l] + i] = h->fg_color[l];
 291                     } else {
 292                         out->data[p][(j + start) * out->linesize[p] + i] = 255;
 293                     }
 294                 }
 295                 for (j = h->level_height + h->scale_height - 1; j >= h->level_height; j--)
 296                     out->data[p][(j + start) * out->linesize[p] + i] = i;
 297             }
 298
 299             memset(h->histogram, 0, 256 * sizeof(unsigned));
 300         }
 301         break;
 302     case MODE_WAVEFORM:
 303         for (k = 0; k < h->ncomp; k++) {
 304             const int offset = k * 256 * h->display_mode;
 305             gen_waveform(h, in, out, k, h->step, offset, h->waveform_mode);
 306         }
 307         break;
 308     case MODE_COLOR:
 309         for (i = 0; i < inlink->h; i++) {
 310             const int iw1 = i * in->linesize[1];
 311             const int iw2 = i * in->linesize[2];
 312             for (j = 0; j < inlink->w; j++) {
 313                 const int pos = in->data[1][iw1 + j] * out->linesize[0] + in->data[2][iw2 + j];
 314                 if (out->data[0][pos] < 255)
 315                     out->data[0][pos]++;
 316             }
 317         }
 318         for (i = 0; i < 256; i++) {
 319             dst = out->data[0] + i * out->linesize[0];
 320             for (j = 0; j < 256; j++) {
 321                 if (!dst[j]) {
 322                     out->data[1][i * out->linesize[0] + j] = i;
 323                     out->data[2][i * out->linesize[0] + j] = j;
 324                 }
 325             }
 326         }
 327         break;
 328     case MODE_COLOR2:
 329         for (i = 0; i < inlink->h; i++) {
 330             const int iw1 = i * in->linesize[1];
 331             const int iw2 = i * in->linesize[2];
 332             for (j = 0; j < inlink->w; j++) {
 333                 const int u = in->data[1][iw1 + j];
 334                 const int v = in->data[2][iw2 + j];
 335                 const int pos = u * out->linesize[0] + v;
 336                 if (!out->data[0][pos])
 337                     out->data[0][pos] = FFABS(128 - u) + FFABS(128 - v);
 338                 out->data[1][pos] = u;
 339                 out->data[2][pos] = v;
 340             }
 341         }
 342         break;
 343     default:
 344         av_assert0(0);
 345     }
 346
 347     av_frame_free(&in);
 348     return ff_filter_frame(outlink, out);
 349 }
 350
 351 static const AVFilterPad inputs[] = {
 352     {
 353         .name         = "default",
 354         .type         = AVMEDIA_TYPE_VIDEO,
 355         .filter_frame = filter_frame,
 356         .config_props = config_input,
 357     },
 358     { NULL }
 359 };
 360
 361 static const AVFilterPad outputs[] = {
 362     {
 363         .name         = "default",
 364         .type         = AVMEDIA_TYPE_VIDEO,
 365         .config_props = config_output,
 366     },
 367     { NULL }
 368 };
 369
 370 AVFilter ff_vf_histogram = {
 371     .name          = "histogram",
 372     .description   = NULL_IF_CONFIG_SMALL("Compute and draw a histogram."),
 373     .priv_size     = sizeof(HistogramContext),
 374     .query_formats = query_formats,
 375     .inputs        = inputs,
 376     .outputs       = outputs,
 377     .priv_class    = &histogram_class,
 378 };