]> git.sesse.net Git - x264/blob - encoder/me.h
Save some memory on mv cost arrays
[x264] / encoder / me.h
1 /*****************************************************************************
2  * me.h: h264 encoder library (Motion Estimation)
3  *****************************************************************************
4  * Copyright (C) 2003-2008 x264 project
5  *
6  * Authors: Loren Merritt <lorenm@u.washington.edu>
7  *          Laurent Aimar <fenrir@via.ecp.fr>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA  02111, USA.
22  *****************************************************************************/
23
24 #ifndef X264_ME_H
25 #define X264_ME_H
26
27 #define COST_MAX (1<<28)
28 #define COST_MAX64 (1ULL<<60)
29
30 typedef struct
31 {
32     /* input */
33     int      i_pixel;   /* PIXEL_WxH */
34     int16_t *p_cost_mv; /* lambda * nbits for each possible mv */
35     int      i_ref_cost;
36     int      i_ref;
37
38     uint8_t *p_fref[6];
39     uint8_t *p_fenc[3];
40     uint16_t *integral;
41     int      i_stride[2];
42
43     DECLARE_ALIGNED_4( int16_t mvp[2] );
44
45     /* output */
46     int cost_mv;        /* lambda * nbits for the chosen mv */
47     int cost;           /* satd + lambda * nbits */
48     DECLARE_ALIGNED_4( int16_t mv[2] );
49 } DECLARE_ALIGNED_16( x264_me_t );
50
51 typedef struct {
52     int sad;
53     int16_t mx, my;
54 } mvsad_t;
55
56 void x264_me_search_ref( x264_t *h, x264_me_t *m, int16_t (*mvc)[2], int i_mvc, int *p_fullpel_thresh );
57 static inline void x264_me_search( x264_t *h, x264_me_t *m, int16_t (*mvc)[2], int i_mvc )
58     { x264_me_search_ref( h, m, mvc, i_mvc, NULL ); }
59
60 void x264_me_refine_qpel( x264_t *h, x264_me_t *m );
61 void x264_me_refine_qpel_rd( x264_t *h, x264_me_t *m, int i_lambda2, int i4, int i_list );
62 void x264_me_refine_bidir_rd( x264_t *h, x264_me_t *m0, x264_me_t *m1, int i_weight, int i8, int i_lambda2 );
63 void x264_me_refine_bidir_satd( x264_t *h, x264_me_t *m0, x264_me_t *m1, int i_weight );
64 uint64_t x264_rd_cost_part( x264_t *h, int i_lambda2, int i8, int i_pixel );
65
66 extern uint16_t *x264_cost_mv_fpel[92][4];
67
68 #define COPY1_IF_LT(x,y)\
69 if((y)<(x))\
70     (x)=(y);
71
72 #define COPY2_IF_LT(x,y,a,b)\
73 if((y)<(x))\
74 {\
75     (x)=(y);\
76     (a)=(b);\
77 }
78
79 #define COPY3_IF_LT(x,y,a,b,c,d)\
80 if((y)<(x))\
81 {\
82     (x)=(y);\
83     (a)=(b);\
84     (c)=(d);\
85 }
86
87 #define COPY4_IF_LT(x,y,a,b,c,d,f,e)\
88 if((y)<(x))\
89 {\
90     (x)=(y);\
91     (a)=(b);\
92     (c)=(d);\
93     (f)=(e);\
94 }
95
96 #endif