git.sesse.net Git - ffmpeg/blob - libavfilter/vf_super2xsai.c

   1 /*
   2  * Copyright (c) 2010 Niel van der Westhuizen <nielkie@gmail.com>
   3  * Copyright (c) 2002 A'rpi
   4  * Copyright (c) 1997-2001 ZSNES Team ( zsknight@zsnes.com / _demo_@zsnes.com )
   5  *
   6  * This file is part of FFmpeg.
   7  *
   8  * FFmpeg is free software; you can redistribute it and/or modify
   9  * it under the terms of the GNU General Public License as published by
  10  * the Free Software Foundation; either version 2 of the License, or
  11  * (at your option) any later version.
  12  *
  13  * FFmpeg is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  16  * GNU General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU General Public License along
  19  * with FFmpeg; if not, write to the Free Software Foundation, Inc.,
  20  * 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA.
  21  */
  22
  23 /**
  24  * @file
  25  * Super 2xSaI video filter
  26  * Ported from MPlayer libmpcodecs/vf_2xsai.c.
  27  */
  28
  29 #include "libavutil/pixdesc.h"
  30 #include "libavutil/intreadwrite.h"
  31 #include "avfilter.h"
  32
  33 typedef struct {
  34     /* masks used for two pixels interpolation */
  35     uint32_t hi_pixel_mask;
  36     uint32_t lo_pixel_mask;
  37
  38     /* masks used for four pixels interpolation */
  39     uint32_t q_hi_pixel_mask;
  40     uint32_t q_lo_pixel_mask;
  41
  42     int bpp; ///< bytes per pixel, pixel stride for each (packed) pixel
  43 } Super2xSaIContext;
  44
  45 #define GET_RESULT(A, B, C, D) ((A != C || A != D) - (B != C || B != D))
  46
  47 #define INTERPOLATE(A, B) (((A & hi_pixel_mask) >> 1) + ((B & hi_pixel_mask) >> 1) + (A & B & lo_pixel_mask))
  48
  49 #define Q_INTERPOLATE(A, B, C, D) ((A & q_hi_pixel_mask) >> 2) + ((B & q_hi_pixel_mask) >> 2) + ((C & q_hi_pixel_mask) >> 2) + ((D & q_hi_pixel_mask) >> 2) \
  50     + ((((A & q_lo_pixel_mask) + (B & q_lo_pixel_mask) + (C & q_lo_pixel_mask) + (D & q_lo_pixel_mask)) >> 2) & q_lo_pixel_mask)
  51
  52 static void super2xsai(AVFilterContext *ctx,
  53                        uint8_t *src, int src_linesize,
  54                        uint8_t *dst, int dst_linesize,
  55                        int width, int height)
  56 {
  57     Super2xSaIContext *sai = ctx->priv;
  58     unsigned int x, y;
  59     uint32_t color[4][4];
  60     unsigned char *src_line[4];
  61     const int bpp = sai->bpp;
  62     const uint32_t hi_pixel_mask = sai->hi_pixel_mask;
  63     const uint32_t lo_pixel_mask = sai->lo_pixel_mask;
  64     const uint32_t q_hi_pixel_mask = sai->q_hi_pixel_mask;
  65     const uint32_t q_lo_pixel_mask = sai->q_lo_pixel_mask;
  66
  67     /* Point to the first 4 lines, first line is duplicated */
  68     src_line[0] = src;
  69     src_line[1] = src;
  70     src_line[2] = src + src_linesize*FFMIN(1, height-1);
  71     src_line[3] = src + src_linesize*FFMIN(2, height-1);
  72
  73 #define READ_COLOR4(dst, src_line, off) dst = *((const uint32_t *)src_line + off)
  74 #define READ_COLOR3(dst, src_line, off) dst = AV_RL24 (src_line + 3*off)
  75 #define READ_COLOR2(dst, src_line, off) dst = *((const uint16_t *)src_line + off)
  76
  77     /* Initialise the color matrix for this row. */
  78     switch (bpp) {
  79     case 4:
  80         READ_COLOR4(color[0][0], src_line[0], 0); color[0][1] = color[0][0]; READ_COLOR4(color[0][2], src_line[0], 1); READ_COLOR4(color[0][3], src_line[0], 2);
  81         READ_COLOR4(color[1][0], src_line[1], 0); color[1][1] = color[1][0]; READ_COLOR4(color[1][2], src_line[1], 1); READ_COLOR4(color[1][3], src_line[1], 2);
  82         READ_COLOR4(color[2][0], src_line[2], 0); color[2][1] = color[2][0]; READ_COLOR4(color[2][2], src_line[2], 1); READ_COLOR4(color[2][3], src_line[2], 2);
  83         READ_COLOR4(color[3][0], src_line[3], 0); color[3][1] = color[3][0]; READ_COLOR4(color[3][2], src_line[3], 1); READ_COLOR4(color[3][3], src_line[3], 2);
  84         break;
  85     case 3:
  86         READ_COLOR3(color[0][0], src_line[0], 0); color[0][1] = color[0][0]; READ_COLOR3(color[0][2], src_line[0], 1); READ_COLOR3(color[0][3], src_line[0], 2);
  87         READ_COLOR3(color[1][0], src_line[1], 0); color[1][1] = color[1][0]; READ_COLOR3(color[1][2], src_line[1], 1); READ_COLOR3(color[1][3], src_line[1], 2);
  88         READ_COLOR3(color[2][0], src_line[2], 0); color[2][1] = color[2][0]; READ_COLOR3(color[2][2], src_line[2], 1); READ_COLOR3(color[2][3], src_line[2], 2);
  89         READ_COLOR3(color[3][0], src_line[3], 0); color[3][1] = color[3][0]; READ_COLOR3(color[3][2], src_line[3], 1); READ_COLOR3(color[3][3], src_line[3], 2);
  90         break;
  91     default:
  92         READ_COLOR2(color[0][0], src_line[0], 0); color[0][1] = color[0][0]; READ_COLOR2(color[0][2], src_line[0], 1); READ_COLOR2(color[0][3], src_line[0], 2);
  93         READ_COLOR2(color[1][0], src_line[1], 0); color[1][1] = color[1][0]; READ_COLOR2(color[1][2], src_line[1], 1); READ_COLOR2(color[1][3], src_line[1], 2);
  94         READ_COLOR2(color[2][0], src_line[2], 0); color[2][1] = color[2][0]; READ_COLOR2(color[2][2], src_line[2], 1); READ_COLOR2(color[2][3], src_line[2], 2);
  95         READ_COLOR2(color[3][0], src_line[3], 0); color[3][1] = color[3][0]; READ_COLOR2(color[3][2], src_line[3], 1); READ_COLOR2(color[3][3], src_line[3], 2);
  96     }
  97
  98     for (y = 0; y < height; y++) {
  99         uint8_t *dst_line[2];
 100
 101         dst_line[0] = dst + dst_linesize*2*y;
 102         dst_line[1] = dst + dst_linesize*(2*y+1);
 103
 104         for (x = 0; x < width; x++) {
 105             uint32_t product1a, product1b, product2a, product2b;
 106
 107 //---------------------------------------  B0 B1 B2 B3    0  1  2  3
 108 //                                         4  5* 6  S2 -> 4  5* 6  7
 109 //                                         1  2  3  S1    8  9 10 11
 110 //                                         A0 A1 A2 A3   12 13 14 15
 111 //--------------------------------------
 112             if (color[2][1] == color[1][2] && color[1][1] != color[2][2]) {
 113                 product2b = color[2][1];
 114                 product1b = product2b;
 115             } else if (color[1][1] == color[2][2] && color[2][1] != color[1][2]) {
 116                 product2b = color[1][1];
 117                 product1b = product2b;
 118             } else if (color[1][1] == color[2][2] && color[2][1] == color[1][2]) {
 119                 int r = 0;
 120
 121                 r += GET_RESULT(color[1][2], color[1][1], color[1][0], color[3][1]);
 122                 r += GET_RESULT(color[1][2], color[1][1], color[2][0], color[0][1]);
 123                 r += GET_RESULT(color[1][2], color[1][1], color[3][2], color[2][3]);
 124                 r += GET_RESULT(color[1][2], color[1][1], color[0][2], color[1][3]);
 125
 126                 if (r > 0)
 127                     product1b = color[1][2];
 128                 else if (r < 0)
 129                     product1b = color[1][1];
 130                 else
 131                     product1b = INTERPOLATE(color[1][1], color[1][2]);
 132
 133                 product2b = product1b;
 134             } else {
 135                 if (color[1][2] == color[2][2] && color[2][2] == color[3][1] && color[2][1] != color[3][2] && color[2][2] != color[3][0])
 136                     product2b = Q_INTERPOLATE(color[2][2], color[2][2], color[2][2], color[2][1]);
 137                 else if (color[1][1] == color[2][1] && color[2][1] == color[3][2] && color[3][1] != color[2][2] && color[2][1] != color[3][3])
 138                     product2b = Q_INTERPOLATE(color[2][1], color[2][1], color[2][1], color[2][2]);
 139                 else
 140                     product2b = INTERPOLATE(color[2][1], color[2][2]);
 141
 142                 if (color[1][2] == color[2][2] && color[1][2] == color[0][1] && color[1][1] != color[0][2] && color[1][2] != color[0][0])
 143                     product1b = Q_INTERPOLATE(color[1][2], color[1][2], color[1][2], color[1][1]);
 144                 else if (color[1][1] == color[2][1] && color[1][1] == color[0][2] && color[0][1] != color[1][2] && color[1][1] != color[0][3])
 145                     product1b = Q_INTERPOLATE(color[1][2], color[1][1], color[1][1], color[1][1]);
 146                 else
 147                     product1b = INTERPOLATE(color[1][1], color[1][2]);
 148             }
 149
 150             if (color[1][1] == color[2][2] && color[2][1] != color[1][2] && color[1][0] == color[1][1] && color[1][1] != color[3][2])
 151                 product2a = INTERPOLATE(color[2][1], color[1][1]);
 152             else if (color[1][1] == color[2][0] && color[1][2] == color[1][1] && color[1][0] != color[2][1] && color[1][1] != color[3][0])
 153                 product2a = INTERPOLATE(color[2][1], color[1][1]);
 154             else
 155                 product2a = color[2][1];
 156
 157             if (color[2][1] == color[1][2] && color[1][1] != color[2][2] && color[2][0] == color[2][1] && color[2][1] != color[0][2])
 158                 product1a = INTERPOLATE(color[2][1], color[1][1]);
 159             else if (color[1][0] == color[2][1] && color[2][2] == color[2][1] && color[2][0] != color[1][1] && color[2][1] != color[0][0])
 160                 product1a = INTERPOLATE(color[2][1], color[1][1]);
 161             else
 162                 product1a = color[1][1];
 163
 164             /* Set the calculated pixels */
 165             switch (bpp) {
 166             case 4:
 167                 AV_WN32A(dst_line[0] + x * 8,     product1a);
 168                 AV_WN32A(dst_line[0] + x * 8 + 4, product1b);
 169                 AV_WN32A(dst_line[1] + x * 8,     product2a);
 170                 AV_WN32A(dst_line[1] + x * 8 + 4, product2b);
 171                 break;
 172             case 3:
 173                 AV_WL24(dst_line[0] + x * 6,     product1a);
 174                 AV_WL24(dst_line[0] + x * 6 + 3, product1b);
 175                 AV_WL24(dst_line[1] + x * 6,     product2a);
 176                 AV_WL24(dst_line[1] + x * 6 + 3, product2b);
 177                 break;
 178             default: // bpp = 2
 179                 AV_WN32A(dst_line[0] + x * 4, product1a | (product1b << 16));
 180                 AV_WN32A(dst_line[1] + x * 4, product2a | (product2b << 16));
 181             }
 182
 183             /* Move color matrix forward */
 184             color[0][0] = color[0][1]; color[0][1] = color[0][2]; color[0][2] = color[0][3];
 185             color[1][0] = color[1][1]; color[1][1] = color[1][2]; color[1][2] = color[1][3];
 186             color[2][0] = color[2][1]; color[2][1] = color[2][2]; color[2][2] = color[2][3];
 187             color[3][0] = color[3][1]; color[3][1] = color[3][2]; color[3][2] = color[3][3];
 188
 189             if (x < width - 3) {
 190                 x += 3;
 191                 switch (bpp) {
 192                 case 4:
 193                     READ_COLOR4(color[0][3], src_line[0], x);
 194                     READ_COLOR4(color[1][3], src_line[1], x);
 195                     READ_COLOR4(color[2][3], src_line[2], x);
 196                     READ_COLOR4(color[3][3], src_line[3], x);
 197                     break;
 198                 case 3:
 199                     READ_COLOR3(color[0][3], src_line[0], x);
 200                     READ_COLOR3(color[1][3], src_line[1], x);
 201                     READ_COLOR3(color[2][3], src_line[2], x);
 202                     READ_COLOR3(color[3][3], src_line[3], x);
 203                     break;
 204                 default:        /* case 2 */
 205                     READ_COLOR2(color[0][3], src_line[0], x);
 206                     READ_COLOR2(color[1][3], src_line[1], x);
 207                     READ_COLOR2(color[2][3], src_line[2], x);
 208                     READ_COLOR2(color[3][3], src_line[3], x);
 209                 }
 210                 x -= 3;
 211             }
 212         }
 213
 214         /* We're done with one line, so we shift the source lines up */
 215         src_line[0] = src_line[1];
 216         src_line[1] = src_line[2];
 217         src_line[2] = src_line[3];
 218
 219         /* Read next line */
 220         src_line[3] = src_line[2];
 221         if (y < height - 3)
 222             src_line[3] += src_linesize;
 223
 224         switch (bpp) {
 225         case 4:
 226             READ_COLOR4(color[0][0], src_line[0], 0); color[0][1] = color[0][0]; READ_COLOR4(color[0][2], src_line[0], 1); READ_COLOR4(color[0][3], src_line[0], 2);
 227             READ_COLOR4(color[1][0], src_line[1], 0); color[1][1] = color[1][0]; READ_COLOR4(color[1][2], src_line[1], 1); READ_COLOR4(color[1][3], src_line[1], 2);
 228             READ_COLOR4(color[2][0], src_line[2], 0); color[2][1] = color[2][1]; READ_COLOR4(color[2][2], src_line[2], 1); READ_COLOR4(color[2][3], src_line[2], 2);
 229             READ_COLOR4(color[3][0], src_line[3], 0); color[3][1] = color[3][0]; READ_COLOR4(color[3][2], src_line[3], 1); READ_COLOR4(color[3][3], src_line[3], 2);
 230             break;
 231         case 3:
 232             READ_COLOR3(color[0][0], src_line[0], 0); color[0][1] = color[0][0]; READ_COLOR3(color[0][2], src_line[0], 1); READ_COLOR3(color[0][3], src_line[0], 2);
 233             READ_COLOR3(color[1][0], src_line[1], 0); color[1][1] = color[1][0]; READ_COLOR3(color[1][2], src_line[1], 1); READ_COLOR3(color[1][3], src_line[1], 2);
 234             READ_COLOR3(color[2][0], src_line[2], 0); color[2][1] = color[2][1]; READ_COLOR3(color[2][2], src_line[2], 1); READ_COLOR3(color[2][3], src_line[2], 2);
 235             READ_COLOR3(color[3][0], src_line[3], 0); color[3][1] = color[3][0]; READ_COLOR3(color[3][2], src_line[3], 1); READ_COLOR3(color[3][3], src_line[3], 2);
 236             break;
 237         default:
 238             READ_COLOR2(color[0][0], src_line[0], 0); color[0][1] = color[0][0]; READ_COLOR2(color[0][2], src_line[0], 1); READ_COLOR2(color[0][3], src_line[0], 2);
 239             READ_COLOR2(color[1][0], src_line[1], 0); color[1][1] = color[1][0]; READ_COLOR2(color[1][2], src_line[1], 1); READ_COLOR2(color[1][3], src_line[1], 2);
 240             READ_COLOR2(color[2][0], src_line[2], 0); color[2][1] = color[2][1]; READ_COLOR2(color[2][2], src_line[2], 1); READ_COLOR2(color[2][3], src_line[2], 2);
 241             READ_COLOR2(color[3][0], src_line[3], 0); color[3][1] = color[3][0]; READ_COLOR2(color[3][2], src_line[3], 1); READ_COLOR2(color[3][3], src_line[3], 2);
 242         }
 243     } // y loop
 244 }
 245
 246 static int query_formats(AVFilterContext *ctx)
 247 {
 248     static const enum PixelFormat pix_fmts[] = {
 249         PIX_FMT_RGBA, PIX_FMT_BGRA, PIX_FMT_ARGB, PIX_FMT_ABGR,
 250         PIX_FMT_RGB24, PIX_FMT_BGR24,
 251         PIX_FMT_RGB565, PIX_FMT_BGR565, PIX_FMT_RGB555, PIX_FMT_BGR555,
 252         PIX_FMT_NONE
 253     };
 254
 255     avfilter_set_common_pixel_formats(ctx, avfilter_make_format_list(pix_fmts));
 256     return 0;
 257 }
 258
 259 static int config_input(AVFilterLink *inlink)
 260 {
 261     Super2xSaIContext *sai = inlink->dst->priv;
 262
 263     sai->hi_pixel_mask   = 0xFEFEFEFE;
 264     sai->lo_pixel_mask   = 0x01010101;
 265     sai->q_hi_pixel_mask = 0xFCFCFCFC;
 266     sai->q_lo_pixel_mask = 0x03030303;
 267     sai->bpp  = 4;
 268
 269     switch (inlink->format) {
 270     case PIX_FMT_RGB24:
 271     case PIX_FMT_BGR24:
 272         sai->bpp = 3;
 273         break;
 274
 275     case PIX_FMT_RGB565:
 276     case PIX_FMT_BGR565:
 277         sai->hi_pixel_mask   = 0xF7DEF7DE;
 278         sai->lo_pixel_mask   = 0x08210821;
 279         sai->q_hi_pixel_mask = 0xE79CE79C;
 280         sai->q_lo_pixel_mask = 0x18631863;
 281         sai->bpp = 2;
 282         break;
 283
 284     case PIX_FMT_BGR555:
 285     case PIX_FMT_RGB555:
 286         sai->hi_pixel_mask   = 0x7BDE7BDE;
 287         sai->lo_pixel_mask   = 0x04210421;
 288         sai->q_hi_pixel_mask = 0x739C739C;
 289         sai->q_lo_pixel_mask = 0x0C630C63;
 290         sai->bpp = 2;
 291         break;
 292     }
 293
 294     return 0;
 295 }
 296
 297 static int config_output(AVFilterLink *outlink)
 298 {
 299     AVFilterLink *inlink = outlink->src->inputs[0];
 300
 301     outlink->w = inlink->w*2;
 302     outlink->h = inlink->h*2;
 303
 304     av_log(inlink->dst, AV_LOG_INFO, "fmt:%s size:%dx%d -> size:%dx%d\n",
 305            av_get_pix_fmt_name(inlink->format),
 306            inlink->w, inlink->h, outlink->w, outlink->h);
 307
 308     return 0;
 309 }
 310
 311 static void null_draw_slice(AVFilterLink *inlink, int y, int h, int slice_dir) { }
 312
 313 static void end_frame(AVFilterLink *inlink)
 314 {
 315     AVFilterLink *outlink = inlink->dst->outputs[0];
 316     AVFilterBufferRef  *inpicref =  inlink->cur_buf;
 317     AVFilterBufferRef *outpicref = outlink->out_buf;
 318
 319     super2xsai(inlink->dst, inpicref->data[0], inpicref->linesize[0],
 320                outpicref->data[0], outpicref->linesize[0],
 321                inlink->w, inlink->h);
 322
 323     avfilter_unref_buffer(inpicref);
 324     avfilter_draw_slice(outlink, 0, outlink->h, 1);
 325     avfilter_end_frame(outlink);
 326     avfilter_unref_buffer(outpicref);
 327 }
 328
 329 AVFilter avfilter_vf_super2xsai = {
 330     .name        = "super2xsai",
 331     .description = NULL_IF_CONFIG_SMALL("Scale the input by 2x using the Super2xSaI pixel art algorithm."),
 332     .priv_size   = sizeof(Super2xSaIContext),
 333     .query_formats = query_formats,
 334
 335     .inputs = (const AVFilterPad[]) {
 336         { .name             = "default",
 337           .type             = AVMEDIA_TYPE_VIDEO,
 338           .config_props     = config_input,
 339           .draw_slice       = null_draw_slice,
 340           .end_frame        = end_frame,
 341           .min_perms        = AV_PERM_READ },
 342         { .name = NULL }
 343     },
 344     .outputs = (const AVFilterPad[]) {
 345         { .name             = "default",
 346           .type             = AVMEDIA_TYPE_VIDEO,
 347           .config_props     = config_output },
 348         { .name = NULL }
 349     },
 350 };