git.sesse.net Git - mlt/blob - src/modules/plus/filter_charcoal.c

   1 /*
   2  * filter_charcoal.c -- charcoal filter
   3  * Copyright (C) 2003-2004 Ushodaya Enterprises Limited
   4  * Author: Charles Yates <charles.yates@pandora.be>
   5  *
   6  * This library is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * This library is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with this library; if not, write to the Free Software
  18  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  19  */
  20
  21 #include "filter_charcoal.h"
  22
  23 #include <framework/mlt_frame.h>
  24
  25 #include <stdio.h>
  26 #include <stdlib.h>
  27 #include <math.h>
  28
  29 static inline int get_Y( uint8_t *pixels, int width, int height, int x, int y )
  30 {
  31         if ( x < 0 || x >= width || y < 0 || y >= height )
  32         {
  33                 return 235;
  34         }
  35         else
  36         {
  37                 uint8_t *pixel = pixels + y * ( width << 1 ) + ( x << 1 );
  38                 return *pixel;
  39         }
  40 }
  41
  42 static inline int sqrti( int n )
  43 {
  44         int p = 0;
  45         int q = 1;
  46         int r = n;
  47         int h = 0;
  48
  49         while( q <= n )
  50                 q = q << 2;
  51
  52         while( q != 1 )
  53         {
  54                 q = q >> 2;
  55                 h = p + q;
  56                 p = p >> 1;
  57                 if ( r >= h )
  58                 {
  59                         p = p + q;
  60                         r = r - h;
  61                 }
  62         }
  63
  64         return p;
  65 }
  66
  67 /** Do it :-).
  68 */
  69
  70 static int filter_get_image( mlt_frame this, uint8_t **image, mlt_image_format *format, int *width, int *height, int writable )
  71 {
  72         // Get the filter
  73         mlt_filter filter = mlt_frame_pop_service( this );
  74
  75         // Get the image
  76         int error = mlt_frame_get_image( this, image, format, width, height, 1 );
  77
  78         // Only process if we have no error and a valid colour space
  79         if ( error == 0 && *format == mlt_image_yuv422 )
  80         {
  81                 // Get the charcoal scatter value
  82                 int x_scatter = mlt_properties_get_double( MLT_FILTER_PROPERTIES( filter ), "x_scatter" );
  83                 int y_scatter = mlt_properties_get_double( MLT_FILTER_PROPERTIES( filter ), "y_scatter" );
  84                 float scale = mlt_properties_get_double( MLT_FILTER_PROPERTIES( filter ), "scale" );
  85                 float mix = mlt_properties_get_double( MLT_FILTER_PROPERTIES( filter ), "mix" );
  86                 int invert = mlt_properties_get_int( MLT_FILTER_PROPERTIES( filter ), "invert" );
  87
  88                 // We'll process pixel by pixel
  89                 int x = 0;
  90                 int y = 0;
  91
  92                 // We need to create a new frame as this effect modifies the input
  93                 uint8_t *temp = mlt_pool_alloc( *width * *height * 2 );
  94                 uint8_t *p = temp;
  95                 uint8_t *q = *image;
  96
  97                 // Calculations are carried out on a 3x3 matrix
  98                 int matrix[ 3 ][ 3 ];
  99
 100                 // Used to carry out the matrix calculations
 101                 int sum1;
 102                 int sum2;
 103                 float sum;
 104                 int val;
 105
 106                 // Loop for each row
 107                 for ( y = 0; y < *height; y ++ )
 108                 {
 109                         // Loop for each pixel
 110                         for ( x = 0; x < *width; x ++ )
 111                         {
 112                                 // Populate the matrix
 113                                 matrix[ 0 ][ 0 ] = get_Y( *image, *width, *height, x - x_scatter, y - y_scatter );
 114                                 matrix[ 0 ][ 1 ] = get_Y( *image, *width, *height, x            , y - y_scatter );
 115                                 matrix[ 0 ][ 2 ] = get_Y( *image, *width, *height, x + x_scatter, y - y_scatter );
 116                                 matrix[ 1 ][ 0 ] = get_Y( *image, *width, *height, x - x_scatter, y             );
 117                                 matrix[ 1 ][ 2 ] = get_Y( *image, *width, *height, x + x_scatter, y             );
 118                                 matrix[ 2 ][ 0 ] = get_Y( *image, *width, *height, x - x_scatter, y + y_scatter );
 119                                 matrix[ 2 ][ 1 ] = get_Y( *image, *width, *height, x            , y + y_scatter );
 120                                 matrix[ 2 ][ 2 ] = get_Y( *image, *width, *height, x + x_scatter, y + y_scatter );
 121
 122                                 // Do calculations
 123                                 sum1 = (matrix[2][0] - matrix[0][0]) + ( (matrix[2][1] - matrix[0][1]) << 1 ) + (matrix[2][2] - matrix[2][0]);
 124                                 sum2 = (matrix[0][2] - matrix[0][0]) + ( (matrix[1][2] - matrix[1][0]) << 1 ) + (matrix[2][2] - matrix[2][0]);
 125                                 sum = scale * sqrti( sum1 * sum1 + sum2 * sum2 );
 126
 127                                 // Assign value
 128                                 *p ++ = !invert ? ( sum >= 16 && sum <= 235 ? 251 - sum : sum < 16 ? 235 : 16 ) :
 129                                                                   ( sum >= 16 && sum <= 235 ? sum : sum < 16 ? 16 : 235 );
 130                                 q ++;
 131                                 val = 128 + mix * ( *q ++ - 128 );
 132                                 val = val < 16 ? 16 : val > 240 ? 240 : val;
 133                                 *p ++ = val;
 134                         }
 135                 }
 136
 137                 // Return the created image
 138                 *image = temp;
 139
 140                 // Store new and destroy old
 141                 mlt_properties_set_data( MLT_FRAME_PROPERTIES( this ), "image", *image, *width * *height * 2, mlt_pool_release, NULL );
 142         }
 143
 144         return error;
 145 }
 146
 147 /** Filter processing.
 148 */
 149
 150 static mlt_frame filter_process( mlt_filter this, mlt_frame frame )
 151 {
 152         // Push the frame filter
 153         mlt_frame_push_service( frame, this );
 154         mlt_frame_push_get_image( frame, filter_get_image );
 155
 156         return frame;
 157 }
 158
 159 /** Constructor for the filter.
 160 */
 161
 162 mlt_filter filter_charcoal_init( char *arg )
 163 {
 164         mlt_filter this = mlt_filter_new( );
 165         if ( this != NULL )
 166         {
 167                 this->process = filter_process;
 168                 mlt_properties_set( MLT_FILTER_PROPERTIES( this ), "x_scatter", "1" );
 169                 mlt_properties_set( MLT_FILTER_PROPERTIES( this ), "y_scatter", "1" );
 170                 mlt_properties_set( MLT_FILTER_PROPERTIES( this ), "scale", "1.5" );
 171                 mlt_properties_set( MLT_FILTER_PROPERTIES( this ), "mix", "0" );
 172         }
 173         return this;
 174 }
 175