]> git.sesse.net Git - movit/blob - deconvolution_sharpen_effect.h
Put the resample alpha handling on the right effect.
[movit] / deconvolution_sharpen_effect.h
1 #ifndef _MOVIT_DECONVOLUTION_SHARPEN_EFFECT_H
2 #define _MOVIT_DECONVOLUTION_SHARPEN_EFFECT_H 1
3
4 // DeconvolutionSharpenEffect is an effect that sharpens by way of deconvolution
5 // (i.e., trying to reverse the blur kernel, as opposed to just boosting high
6 // frequencies), more specifically by FIR Wiener filters. It is the same
7 // algorithm as used by the (now largely abandoned) Refocus plug-in for GIMP,
8 // and I suspect the same as in Photoshop's “Smart Sharpen” filter.
9 // The implementation is, however, distinct from either.
10 //
11 // The effect gives generally better results than unsharp masking, but can be very
12 // GPU intensive, and requires a fair bit of tweaking to get good results without
13 // ringing and/or excessive noise. It should be mentioned that for the larger
14 // convolutions (e.g. R approaching 10), we should probably move to FFT-based
15 // convolution algorithms, especially as Mesa's shader compiler starts having
16 // problems compiling our shader.
17 //
18 // We follow the same book as Refocus was implemented from, namely
19 //
20 //   Jain, Anil K.: “Fundamentals of Digital Image Processing”, Prentice Hall, 1988.
21
22 #include <GL/glew.h>
23 #include <Eigen/Dense>
24 #include <string>
25
26 #include "effect.h"
27
28 class DeconvolutionSharpenEffect : public Effect {
29 public:
30         DeconvolutionSharpenEffect();
31         virtual std::string effect_type_id() const { return "DeconvolutionSharpenEffect"; }
32         std::string output_fragment_shader();
33
34         // Samples a lot of times from its input.
35         virtual bool needs_texture_bounce() const { return true; }
36
37         virtual void inform_input_size(unsigned input_num, unsigned width, unsigned height)
38         {
39                 this->width = width;
40                 this->height = height;
41         }
42
43         void set_gl_state(GLuint glsl_program_num, const std::string &prefix, unsigned *sampler_num);
44         virtual AlphaHandling alpha_handling() const { return INPUT_PREMULTIPLIED_ALPHA_KEEP_BLANK; }
45
46 private:
47         // Input size.
48         unsigned width, height;
49
50         // The maximum radius of the (de)convolution kernel.
51         // Note that since this extends both ways, and we also have a center element,
52         // the actual convolution matrix will be (2R + 1) x (2R + 1).
53         //
54         // Must match the definition in the shader, and as such, cannot be set once
55         // the chain has been finalized.
56         int R;
57
58         // The parameters. Typical OK values are circle_radius = 2, gaussian_radius = 0
59         // (ie., blur is assumed to be a 2px circle), correlation = 0.95, and noise = 0.01.
60         // Note that once the radius starts going too far past R, you will get nonsensical results.
61         float circle_radius, gaussian_radius, correlation, noise;
62
63         // The deconvolution kernel, and the parameters last time we did an update.
64         Eigen::MatrixXf g;
65         int last_R;
66         float last_circle_radius, last_gaussian_radius, last_correlation, last_noise;
67         
68         void update_deconvolution_kernel();
69 };
70
71 #endif // !defined(_MOVIT_DECONVOLUTION_SHARPEN_EFFECT_H)