]> git.sesse.net Git - ffmpeg/blob - postproc/postprocess.h
better deblocking filter
[ffmpeg] / postproc / postprocess.h
1 /*
2     Copyright (C) 2001-2002 Michael Niedermayer (michaelni@gmx.at)
3
4     This program is free software; you can redistribute it and/or modify
5     it under the terms of the GNU General Public License as published by
6     the Free Software Foundation; either version 2 of the License, or
7     (at your option) any later version.
8
9     This program is distributed in the hope that it will be useful,
10     but WITHOUT ANY WARRANTY; without even the implied warranty of
11     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12     GNU General Public License for more details.
13
14     You should have received a copy of the GNU General Public License
15     along with this program; if not, write to the Free Software
16     Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
17 */
18
19 // POSTPROCESS_H is defined by opendivx's postprocess.h
20 #ifndef NEWPOSTPROCESS_H
21 #define NEWPOSTPROCESS_H
22
23 #define V_DEBLOCK       0x01
24 #define H_DEBLOCK       0x02
25 #define DERING          0x04
26 #define LEVEL_FIX       0x08 /* Brightness & Contrast */
27
28 #define LUM_V_DEBLOCK   V_DEBLOCK               //   1
29 #define LUM_H_DEBLOCK   H_DEBLOCK               //   2
30 #define CHROM_V_DEBLOCK (V_DEBLOCK<<4)          //  16
31 #define CHROM_H_DEBLOCK (H_DEBLOCK<<4)          //  32
32 #define LUM_DERING      DERING                  //   4
33 #define CHROM_DERING    (DERING<<4)             //  64
34 #define LUM_LEVEL_FIX   LEVEL_FIX               //   8
35 #define CHROM_LEVEL_FIX (LEVEL_FIX<<4)          // 128 (not implemented yet)
36
37 // Experimental vertical filters
38 #define V_X1_FILTER     0x0200                  // 512
39
40 // Experimental horizontal filters
41 #define H_X1_FILTER     0x2000                  // 8192
42
43 // select between full y range (255-0) or standart one (234-16)
44 #define FULL_Y_RANGE    0x8000                  // 32768
45
46 //Deinterlacing Filters
47 #define LINEAR_IPOL_DEINT_FILTER        0x10000 // 65536
48 #define LINEAR_BLEND_DEINT_FILTER       0x20000 // 131072
49 #define CUBIC_BLEND_DEINT_FILTER        0x8000  // (not implemented yet)
50 #define CUBIC_IPOL_DEINT_FILTER         0x40000 // 262144
51 #define MEDIAN_DEINT_FILTER             0x80000 // 524288
52 #define FFMPEG_DEINT_FILTER             0x400000
53
54 #define TEMP_NOISE_FILTER               0x100000
55 #define FORCE_QUANT                     0x200000
56
57 #define GET_PP_QUALITY_MAX 6
58
59 //use if u want a faster postprocessing code
60 //cant differentiate between chroma & luma filters (both on or both off)
61 //obviosly the -pp option at the commandline has no effect except turning the here selected
62 //filters on
63 //#define COMPILE_TIME_MODE 0x77
64
65 #define QP_STORE_T int
66
67 char *postproc_help;
68
69 typedef struct PPMode{
70         int lumMode; //acivates filters for luminance
71         int chromMode; //acivates filters for chrominance
72         int error; // non zero on error
73
74         int minAllowedY; // for brigtness correction
75         int maxAllowedY; // for brihtness correction
76
77         int maxTmpNoise[3]; // for Temporal Noise Reducing filter (Maximal sum of abs differences)
78
79         int baseDcDiff;
80         int flatnessThreshold;
81
82         int forcedQuant; // quantizer if FORCE_QUANT is used
83 } PPMode;
84
85 void  postprocess(uint8_t * src[3], int srcStride[3],
86                  uint8_t * dst[3], int dstStride[3],
87                  int horizontalSize, int verticalSize,
88                  QP_STORE_T *QP_store,  int QP_stride,
89                  PPMode *mode, void *ppContext, int pict_type);
90
91 // name is the stuff after "-pp" on the command line
92 PPMode getPPModeByNameAndQuality(char *name, int quality);
93
94 void *getPPContext(int width, int height);
95 void freePPContext(void *ppContext);
96
97 int readPPOpt(void *conf, char *arg);
98
99 #endif