git.sesse.net Git - ffmpeg/blob - libavfilter/libmpcodecs/vf_filmdint.c

   1 /*
   2  * This file is part of MPlayer.
   3  *
   4  * MPlayer is free software; you can redistribute it and/or modify
   5  * it under the terms of the GNU General Public License as published by
   6  * the Free Software Foundation; either version 2 of the License, or
   7  * (at your option) any later version.
   8  *
   9  * MPlayer is distributed in the hope that it will be useful,
  10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12  * GNU General Public License for more details.
  13  *
  14  * You should have received a copy of the GNU General Public License along
  15  * with MPlayer; if not, write to the Free Software Foundation, Inc.,
  16  * 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA.
  17  */
  18
  19 #include <stdio.h>
  20 #include <stdlib.h>
  21 #include <string.h>
  22 #include <sys/time.h>
  23
  24 #include "config.h"
  25 #include "mp_msg.h"
  26 #include "cpudetect.h"
  27
  28 #include "img_format.h"
  29 #include "mp_image.h"
  30 #include "vd.h"
  31 #include "vf.h"
  32 #include "cmmx.h"
  33
  34 #include "libvo/fastmemcpy.h"
  35
  36 #define NUM_STORED 4
  37
  38 enum pu_field_type_t {
  39     PU_1ST_OF_3,
  40     PU_2ND_OF_3,
  41     PU_3RD_OF_3,
  42     PU_1ST_OF_2,
  43     PU_2ND_OF_2,
  44     PU_INTERLACED
  45 };
  46
  47 struct metrics {
  48     /* This struct maps to a packed word 64-bit MMX register */
  49     unsigned short int even;
  50     unsigned short int odd;
  51     unsigned short int noise;
  52     unsigned short int temp;
  53 } __attribute__ ((aligned (8)));
  54
  55 struct frame_stats {
  56     struct metrics tiny, low, high, bigger, twox, max;
  57     struct { unsigned int even, odd, noise, temp; } sad;
  58     unsigned short interlaced_high;
  59     unsigned short interlaced_low;
  60     unsigned short num_blocks;
  61 };
  62
  63 struct vf_priv_s {
  64     unsigned long inframes;
  65     unsigned long outframes;
  66     enum pu_field_type_t prev_type;
  67     unsigned swapped, chroma_swapped;
  68     unsigned luma_only;
  69     unsigned verbose;
  70     unsigned fast;
  71     unsigned long w, h, cw, ch, stride, chroma_stride, nplanes;
  72     unsigned long sad_thres;
  73     unsigned long dint_thres;
  74     unsigned char *memory_allocated;
  75     unsigned char *planes[2*NUM_STORED][4];
  76     unsigned char **old_planes;
  77     unsigned long static_idx;
  78     unsigned long temp_idx;
  79     unsigned long crop_x, crop_y, crop_cx, crop_cy;
  80     unsigned long export_count, merge_count;
  81     unsigned long num_breaks;
  82     unsigned long num_copies;
  83     long in_inc, out_dec, iosync;
  84     long num_fields;
  85     long prev_fields;
  86     long notout;
  87     long mmx2;
  88     unsigned small_bytes[2];
  89     unsigned mmx_temp[2];
  90     struct frame_stats stats[2];
  91     struct metrics thres;
  92     char chflag;
  93     double diff_time, merge_time, decode_time, vo_time, filter_time;
  94 };
  95
  96 #define PPZ { 2000, 2000, 0, 2000 }
  97 #define PPR { 2000, 2000, 0, 2000 }
  98 static const struct frame_stats ppzs = {PPZ,PPZ,PPZ,PPZ,PPZ,PPZ,PPZ,0,0,9999};
  99 static const struct frame_stats pprs = {PPR,PPR,PPR,PPR,PPR,PPR,PPR,0,0,9999};
 100
 101 #ifndef MIN
 102 #define        MIN(a,b) (((a)<(b))?(a):(b))
 103 #endif
 104 #ifndef MAX
 105 #define        MAX(a,b) (((a)>(b))?(a):(b))
 106 #endif
 107
 108 #define PDIFFUB(X,Y,T) "movq "    #X "," #T "\n\t" \
 109                        "psubusb " #Y "," #T "\n\t" \
 110                        "psubusb " #X "," #Y "\n\t" \
 111                        "paddusb " #Y "," #T "\n\t"
 112
 113 #define PDIFFUBT(X,Y,T) "movq "    #X "," #T "\n\t" \
 114                         "psubusb " #Y "," #T "\n\t" \
 115                         "psubusb " #X "," #Y "\n\t" \
 116                         "paddusb " #T "," #Y "\n\t"
 117
 118 #define PSUMBW(X,T,Z)        "movq " #X "," #T "\n\t" \
 119                         "punpcklbw " #Z "," #X "\n\t" \
 120                         "punpckhbw " #Z "," #T "\n\t" \
 121                         "paddw " #T "," #X "\n\t" \
 122                         "movq " #X "," #T "\n\t" \
 123                         "psllq $32, " #T "\n\t" \
 124                         "paddw " #T "," #X "\n\t" \
 125                         "movq " #X "," #T "\n\t" \
 126                         "psllq $16, " #T "\n\t" \
 127                         "paddw " #T "," #X "\n\t" \
 128                         "psrlq $48, " #X "\n\t"
 129
 130 #define PSADBW(X,Y,T,Z)        PDIFFUBT(X,Y,T) PSUMBW(Y,T,Z)
 131
 132 #define PMAXUB(X,Y) "psubusb " #X "," #Y "\n\tpaddusb " #X "," #Y "\n\t"
 133 #define PMAXUW(X,Y) "psubusw " #X "," #Y "\n\tpaddusw " #X "," #Y "\n\t"
 134 #define PMINUBT(X,Y,T)        "movq " #Y "," #T "\n\t" \
 135                         "psubusb " #X "," #T "\n\t" \
 136                         "psubusb " #T "," #Y "\n\t"
 137 #define PAVGB(X,Y)        "pavgusb " #X "," #Y "\n\t"
 138
 139 static inline void
 140 get_metrics_c(unsigned char *a, unsigned char *b, int as, int bs, int lines,
 141               struct metrics *m)
 142 {
 143     a -= as;
 144     b -= bs;
 145     do {
 146         cmmx_t old_po = *(cmmx_t*)(a      );
 147         cmmx_t     po = *(cmmx_t*)(b      );
 148         cmmx_t      e = *(cmmx_t*)(b +   bs);
 149         cmmx_t  old_o = *(cmmx_t*)(a + 2*as);
 150         cmmx_t      o = *(cmmx_t*)(b + 2*bs);
 151         cmmx_t     ne = *(cmmx_t*)(b + 3*bs);
 152         cmmx_t old_no = *(cmmx_t*)(a + 4*as);
 153         cmmx_t     no = *(cmmx_t*)(b + 4*bs);
 154
 155         cmmx_t   qup_old_odd = p31avgb(old_o, old_po);
 156         cmmx_t       qup_odd = p31avgb(    o,     po);
 157         cmmx_t qdown_old_odd = p31avgb(old_o, old_no);
 158         cmmx_t     qdown_odd = p31avgb(    o,     no);
 159
 160         cmmx_t   qup_even = p31avgb(ne, e);
 161         cmmx_t qdown_even = p31avgb(e, ne);
 162
 163         cmmx_t    temp_up_diff = pdiffub(qdown_even, qup_old_odd);
 164         cmmx_t   noise_up_diff = pdiffub(qdown_even, qup_odd);
 165         cmmx_t  temp_down_diff = pdiffub(qup_even, qdown_old_odd);
 166         cmmx_t noise_down_diff = pdiffub(qup_even, qdown_odd);
 167
 168         cmmx_t odd_diff = pdiffub(o, old_o);
 169         m->odd  += psumbw(odd_diff);
 170         m->even += psadbw(e, *(cmmx_t*)(a+as));
 171
 172         temp_up_diff  = pminub(temp_up_diff, temp_down_diff);
 173         temp_up_diff  = pminub(temp_up_diff, odd_diff);
 174         m->temp  += psumbw(temp_up_diff);
 175         noise_up_diff = pminub(noise_up_diff, odd_diff);
 176         noise_up_diff = pminub(noise_up_diff, noise_down_diff);
 177
 178         m->noise += psumbw(noise_up_diff);
 179         a += 2*as;
 180         b += 2*bs;
 181     } while (--lines);
 182 }
 183
 184 static inline void
 185 get_metrics_fast_c(unsigned char *a, unsigned char *b, int as, int bs,
 186                    int lines, struct metrics *m)
 187 {
 188     a -= as;
 189     b -= bs;
 190     do {
 191         cmmx_t old_po = (*(cmmx_t*)(a       ) >> 1) & ~SIGN_BITS;
 192         cmmx_t     po = (*(cmmx_t*)(b       ) >> 1) & ~SIGN_BITS;
 193         cmmx_t  old_e = (*(cmmx_t*)(a +   as) >> 1) & ~SIGN_BITS;
 194         cmmx_t      e = (*(cmmx_t*)(b +   bs) >> 1) & ~SIGN_BITS;
 195         cmmx_t  old_o = (*(cmmx_t*)(a + 2*as) >> 1) & ~SIGN_BITS;
 196         cmmx_t      o = (*(cmmx_t*)(b + 2*bs) >> 1) & ~SIGN_BITS;
 197         cmmx_t     ne = (*(cmmx_t*)(b + 3*bs) >> 1) & ~SIGN_BITS;
 198         cmmx_t old_no = (*(cmmx_t*)(a + 4*as) >> 1) & ~SIGN_BITS;
 199         cmmx_t     no = (*(cmmx_t*)(b + 4*bs) >> 1) & ~SIGN_BITS;
 200
 201         cmmx_t   qup_old_odd = p31avgb_s(old_o, old_po);
 202         cmmx_t       qup_odd = p31avgb_s(    o,     po);
 203         cmmx_t qdown_old_odd = p31avgb_s(old_o, old_no);
 204         cmmx_t     qdown_odd = p31avgb_s(    o,     no);
 205
 206         cmmx_t   qup_even = p31avgb_s(ne, e);
 207         cmmx_t qdown_even = p31avgb_s(e, ne);
 208
 209         cmmx_t    temp_up_diff = pdiffub_s(qdown_even, qup_old_odd);
 210         cmmx_t   noise_up_diff = pdiffub_s(qdown_even, qup_odd);
 211         cmmx_t  temp_down_diff = pdiffub_s(qup_even, qdown_old_odd);
 212         cmmx_t noise_down_diff = pdiffub_s(qup_even, qdown_odd);
 213
 214         cmmx_t odd_diff = pdiffub_s(o, old_o);
 215         m->odd  += psumbw_s(odd_diff) << 1;
 216         m->even += psadbw_s(e, old_e) << 1;
 217
 218         temp_up_diff  = pminub_s(temp_up_diff, temp_down_diff);
 219         temp_up_diff  = pminub_s(temp_up_diff, odd_diff);
 220         m->temp      += psumbw_s(temp_up_diff) << 1;
 221         noise_up_diff = pminub_s(noise_up_diff, odd_diff);
 222         noise_up_diff = pminub_s(noise_up_diff, noise_down_diff);
 223
 224         m->noise += psumbw_s(noise_up_diff) << 1;
 225         a += 2*as;
 226         b += 2*bs;
 227     } while (--lines);
 228 }
 229
 230 static inline void
 231 get_metrics_faster_c(unsigned char *a, unsigned char *b, int as, int bs,
 232                    int lines, struct metrics *m)
 233 {
 234     a -= as;
 235     b -= bs;
 236     do {
 237         cmmx_t old_po = (*(cmmx_t*)(a       )>>1) & ~SIGN_BITS;
 238         cmmx_t     po = (*(cmmx_t*)(b       )>>1) & ~SIGN_BITS;
 239         cmmx_t  old_e = (*(cmmx_t*)(a +   as)>>1) & ~SIGN_BITS;
 240         cmmx_t      e = (*(cmmx_t*)(b +   bs)>>1) & ~SIGN_BITS;
 241         cmmx_t  old_o = (*(cmmx_t*)(a + 2*as)>>1) & ~SIGN_BITS;
 242         cmmx_t      o = (*(cmmx_t*)(b + 2*bs)>>1) & ~SIGN_BITS;
 243         cmmx_t     ne = (*(cmmx_t*)(b + 3*bs)>>1) & ~SIGN_BITS;
 244
 245         cmmx_t  down_even = p31avgb_s(e, ne);
 246         cmmx_t     up_odd = p31avgb_s(o, po);
 247         cmmx_t up_old_odd = p31avgb_s(old_o, old_po);
 248
 249         cmmx_t   odd_diff = pdiffub_s(o, old_o);
 250         cmmx_t  temp_diff = pdiffub_s(down_even, up_old_odd);
 251         cmmx_t noise_diff = pdiffub_s(down_even, up_odd);
 252
 253         m->even += psadbw_s(e, old_e) << 1;
 254         m->odd  += psumbw_s(odd_diff) << 1;
 255
 256         temp_diff  = pminub_s(temp_diff, odd_diff);
 257         noise_diff = pminub_s(noise_diff, odd_diff);
 258
 259         m->noise += psumbw_s(noise_diff) << 1;
 260         m->temp  += psumbw_s(temp_diff) << 1;
 261         a += 2*as;
 262         b += 2*bs;
 263     } while (--lines);
 264
 265 }
 266
 267 static inline void
 268 get_block_stats(struct metrics *m, struct vf_priv_s *p, struct frame_stats *s)
 269 {
 270     unsigned two_e = m->even  + MAX(m->even , p->thres.even );
 271     unsigned two_o = m->odd   + MAX(m->odd  , p->thres.odd  );
 272     unsigned two_n = m->noise + MAX(m->noise, p->thres.noise);
 273     unsigned two_t = m->temp  + MAX(m->temp , p->thres.temp );
 274
 275     unsigned e_big   = m->even  >= (m->odd   + two_o + 1)/2;
 276     unsigned o_big   = m->odd   >= (m->even  + two_e + 1)/2;
 277     unsigned n_big   = m->noise >= (m->temp  + two_t + 1)/2;
 278     unsigned t_big   = m->temp  >= (m->noise + two_n + 1)/2;
 279
 280     unsigned e2x     = m->even  >= two_o;
 281     unsigned o2x     = m->odd   >= two_e;
 282     unsigned n2x     = m->noise >= two_t;
 283     unsigned t2x     = m->temp  >= two_n;
 284
 285     unsigned ntiny_e = m->even  > p->thres.even ;
 286     unsigned ntiny_o = m->odd   > p->thres.odd  ;
 287     unsigned ntiny_n = m->noise > p->thres.noise;
 288     unsigned ntiny_t = m->temp  > p->thres.temp ;
 289
 290     unsigned nlow_e  = m->even  > 2*p->thres.even ;
 291     unsigned nlow_o  = m->odd   > 2*p->thres.odd  ;
 292     unsigned nlow_n  = m->noise > 2*p->thres.noise;
 293     unsigned nlow_t  = m->temp  > 2*p->thres.temp ;
 294
 295     unsigned high_e  = m->even  > 4*p->thres.even ;
 296     unsigned high_o  = m->odd   > 4*p->thres.odd  ;
 297     unsigned high_n  = m->noise > 4*p->thres.noise;
 298     unsigned high_t  = m->temp  > 4*p->thres.temp ;
 299
 300     unsigned low_il  = !n_big && !t_big && ntiny_n && ntiny_t;
 301     unsigned high_il = !n_big && !t_big && nlow_n  && nlow_t;
 302
 303     if (low_il | high_il) {
 304         s->interlaced_low  += low_il;
 305         s->interlaced_high += high_il;
 306     } else {
 307         s->tiny.even  += ntiny_e;
 308         s->tiny.odd   += ntiny_o;
 309         s->tiny.noise += ntiny_n;
 310         s->tiny.temp  += ntiny_t;
 311
 312         s->low .even  += nlow_e ;
 313         s->low .odd   += nlow_o ;
 314         s->low .noise += nlow_n ;
 315         s->low .temp  += nlow_t ;
 316
 317         s->high.even  += high_e ;
 318         s->high.odd   += high_o ;
 319         s->high.noise += high_n ;
 320         s->high.temp  += high_t ;
 321
 322         if (m->even  >=        p->sad_thres) s->sad.even  += m->even ;
 323         if (m->odd   >=        p->sad_thres) s->sad.odd   += m->odd  ;
 324         if (m->noise >=        p->sad_thres) s->sad.noise += m->noise;
 325         if (m->temp  >=        p->sad_thres) s->sad.temp  += m->temp ;
 326     }
 327     s->num_blocks++;
 328     s->max.even  = MAX(s->max.even , m->even );
 329     s->max.odd   = MAX(s->max.odd  , m->odd  );
 330     s->max.noise = MAX(s->max.noise, m->noise);
 331     s->max.temp  = MAX(s->max.temp , m->temp );
 332
 333     s->bigger.even  += e_big  ;
 334     s->bigger.odd   += o_big  ;
 335     s->bigger.noise += n_big  ;
 336     s->bigger.temp  += t_big  ;
 337
 338     s->twox.even  += e2x    ;
 339     s->twox.odd   += o2x    ;
 340     s->twox.noise += n2x    ;
 341     s->twox.temp  += t2x    ;
 342
 343 }
 344
 345 static inline struct metrics
 346 block_metrics_c(unsigned char *a, unsigned char *b, int as, int bs,
 347                 int lines, struct vf_priv_s *p, struct frame_stats *s)
 348 {
 349     struct metrics tm;
 350     tm.even = tm.odd = tm.noise = tm.temp = 0;
 351     get_metrics_c(a, b, as, bs, lines, &tm);
 352     if (sizeof(cmmx_t) < 8)
 353         get_metrics_c(a+4, b+4, as, bs, lines, &tm);
 354     get_block_stats(&tm, p, s);
 355     return tm;
 356 }
 357
 358 static inline struct metrics
 359 block_metrics_fast_c(unsigned char *a, unsigned char *b, int as, int bs,
 360                 int lines, struct vf_priv_s *p, struct frame_stats *s)
 361 {
 362     struct metrics tm;
 363     tm.even = tm.odd = tm.noise = tm.temp = 0;
 364     get_metrics_fast_c(a, b, as, bs, lines, &tm);
 365     if (sizeof(cmmx_t) < 8)
 366         get_metrics_fast_c(a+4, b+4, as, bs, lines, &tm);
 367     get_block_stats(&tm, p, s);
 368     return tm;
 369 }
 370
 371 static inline struct metrics
 372 block_metrics_faster_c(unsigned char *a, unsigned char *b, int as, int bs,
 373                 int lines, struct vf_priv_s *p, struct frame_stats *s)
 374 {
 375     struct metrics tm;
 376     tm.even = tm.odd = tm.noise = tm.temp = 0;
 377     get_metrics_faster_c(a, b, as, bs, lines, &tm);
 378     if (sizeof(cmmx_t) < 8)
 379         get_metrics_faster_c(a+4, b+4, as, bs, lines, &tm);
 380     get_block_stats(&tm, p, s);
 381     return tm;
 382 }
 383
 384 #define MEQ(X,Y) ((X).even == (Y).even && (X).odd == (Y).odd && (X).temp == (Y).temp && (X).noise == (Y).noise)
 385
 386 #define BLOCK_METRICS_TEMPLATE() \
 387     __asm__ volatile("pxor %mm7, %mm7\n\t"   /* The result is colleted in mm7 */ \
 388                  "pxor %mm6, %mm6\n\t"   /* Temp to stay at 0 */             \
 389         );                                                                     \
 390     a -= as;                                                                     \
 391     b -= bs;                                                                     \
 392     do {                                                                     \
 393         __asm__ volatile(                                                     \
 394             "movq (%0,%2), %%mm0\n\t"                                             \
 395             "movq (%1,%3), %%mm1\n\t"   /* mm1 = even */                     \
 396             PSADBW(%%mm1, %%mm0, %%mm4, %%mm6)                                     \
 397             "paddusw %%mm0, %%mm7\n\t"  /* even diff */                             \
 398             "movq (%0,%2,2), %%mm0\n\t" /* mm0 = old odd */                     \
 399             "movq (%1,%3,2), %%mm2\n\t" /* mm2 = odd */                             \
 400             "movq (%0), %%mm3\n\t"                                             \
 401             "psubusb %4, %%mm3\n\t"                                             \
 402             PAVGB(%%mm0, %%mm3)                                                     \
 403             PAVGB(%%mm0, %%mm3)    /* mm3 = qup old odd */                     \
 404             "movq %%mm0, %%mm5\n\t"                                             \
 405             PSADBW(%%mm2, %%mm0, %%mm4, %%mm6)                                     \
 406             "psllq $16, %%mm0\n\t"                                             \
 407             "paddusw %%mm0, %%mm7\n\t"                                             \
 408             "movq (%1), %%mm4\n\t"                                             \
 409             "lea (%0,%2,2), %0\n\t"                                             \
 410             "lea (%1,%3,2), %1\n\t"                                             \
 411             "psubusb %4, %%mm4\n\t"                                             \
 412             PAVGB(%%mm2, %%mm4)                                                     \
 413             PAVGB(%%mm2, %%mm4)    /* mm4 = qup odd */                             \
 414             PDIFFUBT(%%mm5, %%mm2, %%mm0) /* mm2 =abs(oldodd-odd) */             \
 415             "movq (%1,%3), %%mm5\n\t"                                             \
 416             "psubusb %4, %%mm5\n\t"                                             \
 417             PAVGB(%%mm1, %%mm5)                                                     \
 418             PAVGB(%%mm5, %%mm1)    /* mm1 = qdown even */                     \
 419             PAVGB((%1,%3), %%mm5)  /* mm5 = qup next even */                     \
 420             PDIFFUBT(%%mm1, %%mm3, %%mm0) /* mm3 = abs(qupoldo-qde) */             \
 421             PDIFFUBT(%%mm1, %%mm4, %%mm0) /* mm4 = abs(qupodd-qde) */             \
 422             PMINUBT(%%mm2, %%mm3, %%mm0)  /* limit temp to odd diff */             \
 423             PMINUBT(%%mm2, %%mm4, %%mm0)  /* limit noise to odd diff */             \
 424             "movq (%1,%3,2), %%mm2\n\t"                                             \
 425             "psubusb %4, %%mm2\n\t"                                             \
 426             PAVGB((%1), %%mm2)                                                     \
 427             PAVGB((%1), %%mm2)    /* mm2 = qdown odd */                             \
 428             "movq (%0,%2,2), %%mm1\n\t"                                             \
 429             "psubusb %4, %%mm1\n\t"                                             \
 430             PAVGB((%0), %%mm1)                                                     \
 431             PAVGB((%0), %%mm1)  /* mm1 = qdown old odd */                     \
 432             PDIFFUBT(%%mm5, %%mm2, %%mm0) /* mm2 = abs(qdo-qune) */             \
 433             PDIFFUBT(%%mm5, %%mm1, %%mm0) /* mm1 = abs(qdoo-qune) */             \
 434             PMINUBT(%%mm4, %%mm2, %%mm0)  /* current */                             \
 435             PMINUBT(%%mm3, %%mm1, %%mm0)  /* old */                             \
 436             PSUMBW(%%mm2, %%mm0, %%mm6)                                             \
 437             PSUMBW(%%mm1, %%mm0, %%mm6)                                             \
 438             "psllq $32, %%mm2\n\t"                                             \
 439             "psllq $48, %%mm1\n\t"                                             \
 440             "paddusw %%mm2, %%mm7\n\t"                                             \
 441             "paddusw %%mm1, %%mm7\n\t"                                             \
 442             : "=r" (a), "=r" (b)                                             \
 443             : "r"((x86_reg)as), "r"((x86_reg)bs), "m" (ones), "0"(a), "1"(b), "X"(*a), "X"(*b) \
 444             );                                                                     \
 445     } while (--lines);
 446
 447 static inline struct metrics
 448 block_metrics_3dnow(unsigned char *a, unsigned char *b, int as, int bs,
 449                     int lines, struct vf_priv_s *p, struct frame_stats *s)
 450 {
 451     struct metrics tm;
 452 #if !HAVE_AMD3DNOW
 453     mp_msg(MSGT_VFILTER, MSGL_FATAL, "block_metrics_3dnow: internal error\n");
 454 #else
 455     static const unsigned long long ones = 0x0101010101010101ull;
 456
 457     BLOCK_METRICS_TEMPLATE();
 458     __asm__ volatile("movq %%mm7, %0\n\temms" : "=m" (tm));
 459     get_block_stats(&tm, p, s);
 460 #endif
 461     return tm;
 462 }
 463
 464 #undef PSUMBW
 465 #undef PSADBW
 466 #undef PMAXUB
 467 #undef PMINUBT
 468 #undef PAVGB
 469
 470 #define PSUMBW(X,T,Z)        "psadbw " #Z "," #X "\n\t"
 471 #define PSADBW(X,Y,T,Z) "psadbw " #X "," #Y "\n\t"
 472 #define PMAXUB(X,Y)        "pmaxub " #X "," #Y "\n\t"
 473 #define PMINUBT(X,Y,T)        "pminub " #X "," #Y "\n\t"
 474 #define PAVGB(X,Y)        "pavgb "  #X "," #Y "\n\t"
 475
 476 static inline struct metrics
 477 block_metrics_mmx2(unsigned char *a, unsigned char *b, int as, int bs,
 478                    int lines, struct vf_priv_s *p, struct frame_stats *s)
 479 {
 480     struct metrics tm;
 481 #if !HAVE_MMX
 482     mp_msg(MSGT_VFILTER, MSGL_FATAL, "block_metrics_mmx2: internal error\n");
 483 #else
 484     static const unsigned long long ones = 0x0101010101010101ull;
 485     x86_reg interlaced;
 486     x86_reg prefetch_line = (((long)a>>3) & 7) + 10;
 487 #ifdef DEBUG
 488     struct frame_stats ts = *s;
 489 #endif
 490     __asm__ volatile("prefetcht0 (%0,%2)\n\t"
 491                  "prefetcht0 (%1,%3)\n\t" :
 492                  : "r" (a), "r" (b),
 493                  "r" (prefetch_line * as), "r" (prefetch_line * bs));
 494
 495     BLOCK_METRICS_TEMPLATE();
 496
 497     s->num_blocks++;
 498     __asm__ volatile(
 499         "movq %3, %%mm0\n\t"
 500         "movq %%mm7, %%mm1\n\t"
 501         "psubusw %%mm0, %%mm1\n\t"
 502         "movq %%mm1, %%mm2\n\t"
 503         "paddusw %%mm0, %%mm2\n\t"
 504         "paddusw %%mm7, %%mm2\n\t"
 505         "pshufw $0xb1, %%mm2, %%mm3\n\t"
 506         "pavgw %%mm7, %%mm2\n\t"
 507         "pshufw $0xb1, %%mm2, %%mm2\n\t"
 508         "psubusw %%mm7, %%mm2\n\t"
 509         "pcmpeqw %%mm6, %%mm2\n\t" /* 1 if >= 1.5x */
 510         "psubusw %%mm7, %%mm3\n\t"
 511         "pcmpeqw %%mm6, %%mm3\n\t" /* 1 if >= 2x */
 512         "movq %1, %%mm4\n\t"
 513         "movq %2, %%mm5\n\t"
 514         "psubw %%mm2, %%mm4\n\t"
 515         "psubw %%mm3, %%mm5\n\t"
 516         "movq %%mm4, %1\n\t"
 517         "movq %%mm5, %2\n\t"
 518         "pxor %%mm4, %%mm4\n\t"
 519         "pcmpeqw %%mm1, %%mm4\n\t" /* 1 if <= t */
 520         "psubusw %%mm0, %%mm1\n\t"
 521         "pxor %%mm5, %%mm5\n\t"
 522         "pcmpeqw %%mm1, %%mm5\n\t" /* 1 if <= 2t */
 523         "psubusw %%mm0, %%mm1\n\t"
 524         "psubusw %%mm0, %%mm1\n\t"
 525         "pcmpeqw %%mm6, %%mm1\n\t" /* 1 if <= 4t */
 526         "pshufw $0xb1, %%mm2, %%mm0\n\t"
 527         "por %%mm2, %%mm0\n\t"     /* 1 if not close */
 528         "punpckhdq %%mm0, %%mm0\n\t"
 529         "movq %%mm4, %%mm2\n\t"      /* tttt */
 530         "punpckhdq %%mm5, %%mm2\n\t" /* ttll */
 531         "por %%mm2, %%mm0\n\t"
 532         "pcmpeqd %%mm6, %%mm0\n\t" /* close && big */
 533         "psrlq $16, %%mm0\n\t"
 534         "psrlw $15, %%mm0\n\t"
 535         "movd %%mm0, %0\n\t"
 536         : "=r" (interlaced), "=m" (s->bigger), "=m" (s->twox)
 537         : "m" (p->thres)
 538         );
 539
 540     if (interlaced) {
 541         s->interlaced_high += interlaced >> 16;
 542         s->interlaced_low += interlaced;
 543     } else {
 544         __asm__ volatile(
 545             "pcmpeqw %%mm0, %%mm0\n\t" /* -1 */
 546             "psubw         %%mm0, %%mm4\n\t"
 547             "psubw         %%mm0, %%mm5\n\t"
 548             "psubw         %%mm0, %%mm1\n\t"
 549             "paddw %0, %%mm4\n\t"
 550             "paddw %1, %%mm5\n\t"
 551             "paddw %2, %%mm1\n\t"
 552             "movq %%mm4, %0\n\t"
 553             "movq %%mm5, %1\n\t"
 554             "movq %%mm1, %2\n\t"
 555             : "=m" (s->tiny), "=m" (s->low), "=m" (s->high)
 556             );
 557
 558         __asm__ volatile(
 559             "pshufw $0, %2, %%mm0\n\t"
 560             "psubusw %%mm7, %%mm0\n\t"
 561             "pcmpeqw %%mm6, %%mm0\n\t"   /* 0 if below sad_thres */
 562             "pand %%mm7, %%mm0\n\t"
 563             "movq %%mm0, %%mm1\n\t"
 564             "punpcklwd %%mm6, %%mm0\n\t" /* sad even, odd */
 565             "punpckhwd %%mm6, %%mm1\n\t" /* sad noise, temp */
 566             "paddd %0, %%mm0\n\t"
 567             "paddd %1, %%mm1\n\t"
 568             "movq %%mm0, %0\n\t"
 569             "movq %%mm1, %1\n\t"
 570             : "=m" (s->sad.even), "=m" (s->sad.noise)
 571             : "m" (p->sad_thres)
 572             );
 573     }
 574
 575     __asm__ volatile(
 576         "movq %%mm7, (%1)\n\t"
 577         PMAXUW((%0), %%mm7)
 578         "movq %%mm7, (%0)\n\t"
 579         "emms"
 580         : : "r" (&s->max), "r" (&tm), "X" (s->max)
 581         : "memory"
 582         );
 583 #ifdef DEBUG
 584     if (1) {
 585         struct metrics cm;
 586         a -= 7*as;
 587         b -= 7*bs;
 588         cm = block_metrics_c(a, b, as, bs, 4, p, &ts);
 589         if (!MEQ(tm, cm))
 590             mp_msg(MSGT_VFILTER, MSGL_WARN, "Bad metrics\n");
 591         if (s) {
 592 #           define CHECK(X) if (!MEQ(s->X, ts.X)) \
 593                 mp_msg(MSGT_VFILTER, MSGL_WARN, "Bad " #X "\n");
 594             CHECK(tiny);
 595             CHECK(low);
 596             CHECK(high);
 597             CHECK(sad);
 598             CHECK(max);
 599         }
 600     }
 601 #endif
 602 #endif
 603     return tm;
 604 }
 605
 606 static inline int
 607 dint_copy_line_mmx2(unsigned char *dst, unsigned char *a, long bos,
 608                     long cos, int ds, int ss, int w, int t)
 609 {
 610 #if !HAVE_MMX
 611     mp_msg(MSGT_VFILTER, MSGL_FATAL, "dint_copy_line_mmx2: internal error\n");
 612     return 0;
 613 #else
 614     unsigned long len = (w+7) >> 3;
 615     int ret;
 616     __asm__ volatile (
 617         "pxor %%mm6, %%mm6 \n\t"       /* deinterlaced pixel counter */
 618         "movd %0, %%mm7 \n\t"
 619         "punpcklbw %%mm7, %%mm7 \n\t"
 620         "punpcklwd %%mm7, %%mm7 \n\t"
 621         "punpckldq %%mm7, %%mm7 \n\t"  /* mm7 = threshold */
 622         : /* no output */
 623         : "rm" (t)
 624         );
 625     do {
 626         __asm__ volatile (
 627             "movq (%0), %%mm0\n\t"
 628             "movq (%0,%3,2), %%mm1\n\t"
 629             "movq %%mm0, (%2)\n\t"
 630             "pmaxub %%mm1, %%mm0\n\t"
 631             "pavgb (%0), %%mm1\n\t"
 632             "psubusb %%mm1, %%mm0\n\t"
 633             "paddusb %%mm7, %%mm0\n\t"  /* mm0 = max-avg+thr */
 634             "movq (%0,%1), %%mm2\n\t"
 635             "movq (%0,%5), %%mm3\n\t"
 636             "movq %%mm2, %%mm4\n\t"
 637             PDIFFUBT(%%mm1, %%mm2, %%mm5)
 638             PDIFFUBT(%%mm1, %%mm3, %%mm5)
 639             "pminub %%mm2, %%mm3\n\t"
 640             "pcmpeqb %%mm3, %%mm2\n\t"  /* b = min */
 641             "pand %%mm2, %%mm4\n\t"
 642             "pandn (%0,%5), %%mm2\n\t"
 643             "por %%mm4, %%mm2\n\t"
 644             "pminub %%mm0, %%mm3\n\t"
 645             "pcmpeqb %%mm0, %%mm3\n\t"  /* set to 1s if >= threshold */
 646             "psubb %%mm3, %%mm6\n\t"    /* count pixels above thr. */
 647             "pand %%mm3, %%mm1 \n\t"
 648             "pandn %%mm2, %%mm3 \n\t"
 649             "por %%mm3, %%mm1 \n\t"     /* avg if >= threshold */
 650             "movq %%mm1, (%2,%4) \n\t"
 651             : /* no output */
 652             : "r" (a), "r" ((x86_reg)bos), "r" ((x86_reg)dst), "r" ((x86_reg)ss), "r" ((x86_reg)ds), "r" ((x86_reg)cos)
 653             );
 654         a += 8;
 655         dst += 8;
 656     } while (--len);
 657
 658     __asm__ volatile ("pxor %%mm7, %%mm7 \n\t"
 659                   "psadbw %%mm6, %%mm7 \n\t"
 660                   "movd %%mm7, %0 \n\t"
 661                   "emms \n\t"
 662                   : "=r" (ret)
 663         );
 664     return ret;
 665 #endif
 666 }
 667
 668 static inline int
 669 dint_copy_line(unsigned char *dst, unsigned char *a, long bos,
 670                long cos, int ds, int ss, int w, int t)
 671 {
 672     unsigned long len = ((unsigned long)w+sizeof(cmmx_t)-1) / sizeof(cmmx_t);
 673     cmmx_t dint_count = 0;
 674     cmmx_t thr;
 675     t |= t <<  8;
 676     thr = t | (t << 16);
 677     if (sizeof(cmmx_t) > 4)
 678         thr |= thr << (sizeof(cmmx_t)*4);
 679     do {
 680         cmmx_t e = *(cmmx_t*)a;
 681         cmmx_t ne = *(cmmx_t*)(a+2*ss);
 682         cmmx_t o = *(cmmx_t*)(a+bos);
 683         cmmx_t oo = *(cmmx_t*)(a+cos);
 684         cmmx_t maxe = pmaxub(e, ne);
 685         cmmx_t avge = pavgb(e, ne);
 686         cmmx_t max_diff = maxe - avge + thr; /* 0<=max-avg<128, thr<128 */
 687         cmmx_t diffo  = pdiffub(avge, o);
 688         cmmx_t diffoo = pdiffub(avge, oo);
 689         cmmx_t diffcmp = pcmpgtub(diffo, diffoo);
 690         cmmx_t bo = ((oo ^ o) & diffcmp) ^ o;
 691         cmmx_t diffbo = ((diffoo ^ diffo) & diffcmp) ^ diffo;
 692         cmmx_t above_thr = ~pcmpgtub(max_diff, diffbo);
 693         cmmx_t bo_or_avg = ((avge ^ bo) & above_thr) ^ bo;
 694         dint_count += above_thr & ONE_BYTES;
 695         *(cmmx_t*)(dst) = e;
 696         *(cmmx_t*)(dst+ds) = bo_or_avg;
 697         a += sizeof(cmmx_t);
 698         dst += sizeof(cmmx_t);
 699     } while (--len);
 700     return psumbw(dint_count);
 701 }
 702
 703 static int
 704 dint_copy_plane(unsigned char *d, unsigned char *a, unsigned char *b,
 705                 unsigned char *c, unsigned long w, unsigned long h,
 706                 unsigned long ds, unsigned long ss, unsigned long threshold,
 707                 long field, long mmx2)
 708 {
 709     unsigned long ret = 0;
 710     long bos = b - a;
 711     long cos = c - a;
 712     if (field) {
 713         fast_memcpy(d, b, w);
 714         h--;
 715         d += ds;
 716         a += ss;
 717     }
 718     bos += ss;
 719     cos += ss;
 720     while (h > 2) {
 721         if (threshold >= 128) {
 722             fast_memcpy(d, a, w);
 723             fast_memcpy(d+ds, a+bos, w);
 724         } else if (mmx2 == 1) {
 725             ret += dint_copy_line_mmx2(d, a, bos, cos, ds, ss, w, threshold);
 726         } else
 727             ret += dint_copy_line(d, a, bos, cos, ds, ss, w, threshold);
 728         h -= 2;
 729         d += 2*ds;
 730         a += 2*ss;
 731     }
 732     fast_memcpy(d, a, w);
 733     if (h == 2)
 734         fast_memcpy(d+ds, a+bos, w);
 735     return ret;
 736 }
 737
 738 static void
 739 copy_merge_fields(struct vf_priv_s *p, mp_image_t *dmpi,
 740                   unsigned char **old, unsigned char **new, unsigned long show)
 741 {
 742     unsigned long threshold = 256;
 743     unsigned long field = p->swapped;
 744     unsigned long dint_pixels = 0;
 745     unsigned char **other = old;
 746     if (show >= 12 || !(show & 3))
 747         show >>= 2, other = new, new = old;
 748     if (show <= 2) {  /* Single field: de-interlace */
 749         threshold = p->dint_thres;
 750         field ^= show & 1;
 751         old = new;
 752     } else if (show == 3)
 753         old = new;
 754     else
 755         field ^= 1;
 756     dint_pixels +=dint_copy_plane(dmpi->planes[0], old[0], new[0],
 757                                   other[0], p->w, p->h, dmpi->stride[0],
 758                                   p->stride, threshold, field, p->mmx2);
 759     if (dmpi->flags & MP_IMGFLAG_PLANAR) {
 760         if (p->luma_only)
 761             old = new, other = new;
 762         else
 763             threshold = threshold/2 + 1;
 764         field ^= p->chroma_swapped;
 765         dint_copy_plane(dmpi->planes[1], old[1], new[1],
 766                         other[1], p->cw, p->ch,        dmpi->stride[1],
 767                         p->chroma_stride, threshold, field, p->mmx2);
 768         dint_copy_plane(dmpi->planes[2], old[2], new[2],
 769                         other[2], p->cw, p->ch, dmpi->stride[2],
 770                         p->chroma_stride, threshold, field, p->mmx2);
 771     }
 772     if (dint_pixels > 0 && p->verbose)
 773         mp_msg(MSGT_VFILTER,MSGL_INFO,"Deinterlaced %lu pixels\n",dint_pixels);
 774 }
 775
 776 static void diff_planes(struct vf_priv_s *p, struct frame_stats *s,
 777                         unsigned char *of, unsigned char *nf,
 778                         int w, int h, int os, int ns, int swapped)
 779 {
 780     int i, y;
 781     int align = -(long)nf & 7;
 782     of += align;
 783     nf += align;
 784     w -= align;
 785     if (swapped)
 786         of -= os, nf -= ns;
 787     i = (h*3 >> 7) & ~1;
 788     of += i*os + 8;
 789     nf += i*ns + 8;
 790     h -= i;
 791     w -= 16;
 792
 793     memset(s, 0, sizeof(*s));
 794
 795     for (y = (h-8) >> 3; y; y--) {
 796         if (p->mmx2 == 1) {
 797             for (i = 0; i < w; i += 8)
 798                 block_metrics_mmx2(of+i, nf+i, os, ns, 4, p, s);
 799         } else if (p->mmx2 == 2) {
 800             for (i = 0; i < w; i += 8)
 801                 block_metrics_3dnow(of+i, nf+i, os, ns, 4, p, s);
 802         } else if (p->fast > 3) {
 803             for (i = 0; i < w; i += 8)
 804                 block_metrics_faster_c(of+i, nf+i, os, ns, 4, p, s);
 805         } else if (p->fast > 1) {
 806             for (i = 0; i < w; i += 8)
 807                 block_metrics_fast_c(of+i, nf+i, os, ns, 4, p, s);
 808         } else {
 809             for (i = 0; i < w; i += 8)
 810                 block_metrics_c(of+i, nf+i, os, ns, 4, p, s);
 811         }
 812         of += 8*os;
 813         nf += 8*ns;
 814     }
 815 }
 816
 817 #define METRICS(X) (X).even, (X).odd, (X).noise, (X).temp
 818
 819 static void diff_fields(struct vf_priv_s *p, struct frame_stats *s,
 820                         unsigned char **old, unsigned char **new)
 821 {
 822     diff_planes(p, s, old[0], new[0], p->w, p->h,
 823                 p->stride, p->stride, p->swapped);
 824     s->sad.even  = (s->sad.even  * 16ul) / s->num_blocks;
 825     s->sad.odd   = (s->sad.odd   * 16ul) / s->num_blocks;
 826     s->sad.noise = (s->sad.noise * 16ul) / s->num_blocks;
 827     s->sad.temp  = (s->sad.temp  * 16ul) / s->num_blocks;
 828     if (p->verbose)
 829         mp_msg(MSGT_VFILTER, MSGL_INFO, "%lu%c M:%d/%d/%d/%d - %d, "
 830                "t:%d/%d/%d/%d, l:%d/%d/%d/%d, h:%d/%d/%d/%d, bg:%d/%d/%d/%d, "
 831                "2x:%d/%d/%d/%d, sad:%d/%d/%d/%d, lil:%d, hil:%d, ios:%.1f\n",
 832                p->inframes, p->chflag, METRICS(s->max), s->num_blocks,
 833                METRICS(s->tiny), METRICS(s->low), METRICS(s->high),
 834                METRICS(s->bigger), METRICS(s->twox), METRICS(s->sad),
 835                s->interlaced_low, s->interlaced_high,
 836                p->iosync / (double) p->in_inc);
 837 }
 838
 839 static const char *parse_args(struct vf_priv_s *p, const char *args)
 840 {
 841     args--;
 842     while (args && *++args &&
 843            (sscanf(args, "io=%lu:%lu", &p->out_dec, &p->in_inc) == 2 ||
 844             sscanf(args, "diff_thres=%hu", &p->thres.even ) == 1 ||
 845             sscanf(args, "comb_thres=%hu", &p->thres.noise) == 1 ||
 846             sscanf(args, "sad_thres=%lu",  &p->sad_thres  ) == 1 ||
 847             sscanf(args, "dint_thres=%lu", &p->dint_thres ) == 1 ||
 848             sscanf(args, "fast=%u",        &p->fast       ) == 1 ||
 849             sscanf(args, "mmx2=%lu",       &p->mmx2       ) == 1 ||
 850             sscanf(args, "luma_only=%u",   &p->luma_only  ) == 1 ||
 851             sscanf(args, "verbose=%u",     &p->verbose    ) == 1 ||
 852             sscanf(args, "crop=%lu:%lu:%lu:%lu", &p->w,
 853                    &p->h, &p->crop_x, &p->crop_y) == 4))
 854         args = strchr(args, '/');
 855     return args;
 856 }
 857
 858 static unsigned long gcd(unsigned long x, unsigned long y)
 859 {
 860     unsigned long t;
 861     if (x > y)
 862         t = x, x = y, y = t;
 863
 864     while (x) {
 865         t = y % x;
 866         y = x;
 867         x = t;
 868     }
 869     return y;
 870 }
 871
 872 static void init(struct vf_priv_s *p, mp_image_t *mpi)
 873 {
 874     unsigned long i;
 875     unsigned long plane_size, chroma_plane_size;
 876     unsigned char *plane;
 877     unsigned long cos, los;
 878     p->crop_cx = p->crop_x >> mpi->chroma_x_shift;
 879     p->crop_cy = p->crop_y >> mpi->chroma_y_shift;
 880     if (mpi->flags & MP_IMGFLAG_ACCEPT_STRIDE) {
 881         p->stride = (mpi->w + 15) & ~15;
 882         p->chroma_stride = p->stride >> mpi->chroma_x_shift;
 883     } else {
 884         p->stride = mpi->width;
 885         p->chroma_stride = mpi->chroma_width;
 886     }
 887     p->cw = p->w >> mpi->chroma_x_shift;
 888     p->ch = p->h >> mpi->chroma_y_shift;
 889     p->nplanes = 1;
 890     p->static_idx = 0;
 891     p->temp_idx = 0;
 892     p->old_planes = p->planes[0];
 893     plane_size = mpi->h * p->stride;
 894     chroma_plane_size = mpi->flags & MP_IMGFLAG_PLANAR ?
 895         mpi->chroma_height * p->chroma_stride : 0;
 896     p->memory_allocated =
 897         malloc(NUM_STORED * (plane_size+2*chroma_plane_size) +
 898                8*p->chroma_stride + 4096);
 899     /* align to page boundary */
 900     plane = p->memory_allocated + (-(long)p->memory_allocated & 4095);
 901     memset(plane, 0, NUM_STORED * plane_size);
 902     los = p->crop_x  + p->crop_y  * p->stride;
 903     cos = p->crop_cx + p->crop_cy * p->chroma_stride;
 904     for (i = 0; i != NUM_STORED; i++, plane += plane_size) {
 905         p->planes[i][0] = plane;
 906         p->planes[NUM_STORED + i][0] = plane + los;
 907     }
 908     if (mpi->flags & MP_IMGFLAG_PLANAR) {
 909         p->nplanes = 3;
 910         memset(plane, 0x80, NUM_STORED * 2 * chroma_plane_size);
 911         for (i = 0; i != NUM_STORED; i++) {
 912             p->planes[i][1] = plane;
 913             p->planes[NUM_STORED + i][1] = plane + cos;
 914             plane += chroma_plane_size;
 915             p->planes[i][2] = plane;
 916             p->planes[NUM_STORED + i][2] = plane + cos;
 917             plane += chroma_plane_size;
 918         }
 919     }
 920     p->out_dec <<= 2;
 921     i = gcd(p->in_inc, p->out_dec);
 922     p->in_inc /= i;
 923     p->out_dec /= i;
 924     p->iosync = 0;
 925     p->num_fields = 3;
 926 }
 927
 928 static inline double get_time(void)
 929 {
 930     struct timeval tv;
 931     gettimeofday(&tv, 0);
 932     return tv.tv_sec + tv.tv_usec * 1e-6;
 933 }
 934
 935 static void get_image(struct vf_instance *vf, mp_image_t *mpi)
 936 {
 937     struct vf_priv_s *p = vf->priv;
 938     static unsigned char **planes, planes_idx;
 939
 940     if (mpi->type == MP_IMGTYPE_STATIC) return;
 941
 942     if (!p->planes[0][0]) init(p, mpi);
 943
 944     if (mpi->type == MP_IMGTYPE_TEMP ||
 945         (mpi->type == MP_IMGTYPE_IPB && !(mpi->flags & MP_IMGFLAG_READABLE)))
 946         planes_idx = NUM_STORED/2 + (++p->temp_idx % (NUM_STORED/2));
 947     else
 948         planes_idx = ++p->static_idx % (NUM_STORED/2);
 949     planes = p->planes[planes_idx];
 950     mpi->priv = p->planes[NUM_STORED + planes_idx];
 951     if (mpi->priv == p->old_planes) {
 952         unsigned char **old_planes =
 953             p->planes[NUM_STORED + 2 + (++p->temp_idx & 1)];
 954         my_memcpy_pic(old_planes[0], p->old_planes[0],
 955                       p->w, p->h, p->stride, p->stride);
 956         if (mpi->flags & MP_IMGFLAG_PLANAR) {
 957             my_memcpy_pic(old_planes[1], p->old_planes[1],
 958                           p->cw, p->ch, p->chroma_stride, p->chroma_stride);
 959             my_memcpy_pic(old_planes[2], p->old_planes[2],
 960                           p->cw, p->ch, p->chroma_stride, p->chroma_stride);
 961         }
 962         p->old_planes = old_planes;
 963         p->num_copies++;
 964     }
 965     mpi->planes[0] = planes[0];
 966     mpi->stride[0] = p->stride;
 967     if (mpi->flags & MP_IMGFLAG_PLANAR) {
 968         mpi->planes[1] = planes[1];
 969         mpi->planes[2] = planes[2];
 970         mpi->stride[1] = mpi->stride[2] = p->chroma_stride;
 971     }
 972     mpi->width = p->stride;
 973
 974     mpi->flags |= MP_IMGFLAG_DIRECT;
 975     mpi->flags &= ~MP_IMGFLAG_DRAW_CALLBACK;
 976 }
 977
 978 static inline long
 979 cmpe(unsigned long x, unsigned long y, unsigned long err, unsigned long e)
 980 {
 981     long diff = x-y;
 982     long unit = ((x+y+err) >> e);
 983     long ret = (diff > unit) - (diff < -unit);
 984     unit >>= 1;
 985     return ret + (diff > unit) - (diff < -unit);
 986 }
 987
 988 static unsigned long
 989 find_breaks(struct vf_priv_s *p, struct frame_stats *s)
 990 {
 991     struct frame_stats *ps = &p->stats[(p->inframes-1) & 1];
 992     long notfilm = 5*p->in_inc - p->out_dec;
 993     unsigned long n = s->num_blocks >> 8;
 994     unsigned long sad_comb_cmp = cmpe(s->sad.temp, s->sad.noise, 512, 1);
 995     unsigned long ret = 8;
 996
 997     if (cmpe(s->sad.temp, s->sad.even, 512, 1) > 0)
 998         mp_msg(MSGT_VFILTER, MSGL_WARN,
 999                "@@@@@@@@ Bottom-first field??? @@@@@@@@\n");
1000     if (s->sad.temp > 1000 && s->sad.noise > 1000)
1001         return 3;
1002     if (s->interlaced_high >= 2*n && s->sad.temp > 256 && s->sad.noise > 256)
1003         return 3;
1004     if (s->high.noise > s->num_blocks/4 && s->sad.noise > 10000 &&
1005         s->sad.noise > 2*s->sad.even && s->sad.noise > 2*ps->sad.odd) {
1006         // Mid-frame scene change
1007         if (s->tiny.temp + s->interlaced_low  < n   ||
1008             s->low.temp  + s->interlaced_high < n/4 ||
1009             s->high.temp + s->interlaced_high < n/8 ||
1010             s->sad.temp < 160)
1011             return 1;
1012         return 3;
1013     }
1014     if (s->high.temp > s->num_blocks/4 && s->sad.temp > 10000 &&
1015         s->sad.temp > 2*ps->sad.odd && s->sad.temp > 2*ps->sad.even) {
1016         // Start frame scene change
1017         if (s->tiny.noise + s->interlaced_low  < n   ||
1018             s->low.noise  + s->interlaced_high < n/4 ||
1019             s->high.noise + s->interlaced_high < n/8 ||
1020             s->sad.noise < 160)
1021             return 2;
1022         return 3;
1023     }
1024     if (sad_comb_cmp == 2)
1025         return 2;
1026     if (sad_comb_cmp == -2)
1027         return 1;
1028
1029     if (s->tiny.odd > 3*MAX(n,s->tiny.even) + s->interlaced_low)
1030         return 1;
1031     if (s->tiny.even > 3*MAX(n,s->tiny.odd)+s->interlaced_low &&
1032         (!sad_comb_cmp || (s->low.noise <= n/4 && s->low.temp <= n/4)))
1033         return 4;
1034
1035     if (s->sad.noise < 64 && s->sad.temp < 64 &&
1036         s->low.noise <= n/2 && s->high.noise <= n/4 &&
1037         s->low.temp  <= n/2 && s->high.temp  <= n/4)
1038         goto still;
1039
1040     if (s->tiny.temp > 3*MAX(n,s->tiny.noise) + s->interlaced_low)
1041         return 2;
1042     if (s->tiny.noise > 3*MAX(n,s->tiny.temp) + s->interlaced_low)
1043         return 1;
1044
1045     if (s->low.odd > 3*MAX(n/4,s->low.even) + s->interlaced_high)
1046         return 1;
1047     if (s->low.even > 3*MAX(n/4,s->low.odd)+s->interlaced_high &&
1048         s->sad.even > 2*s->sad.odd &&
1049         (!sad_comb_cmp || (s->low.noise <= n/4 && s->low.temp <= n/4)))
1050         return 4;
1051
1052     if (s->low.temp > 3*MAX(n/4,s->low.noise) + s->interlaced_high)
1053         return 2;
1054     if (s->low.noise > 3*MAX(n/4,s->low.temp) + s->interlaced_high)
1055         return 1;
1056
1057     if (sad_comb_cmp == 1 && s->sad.noise < 64)
1058         return 2;
1059     if (sad_comb_cmp == -1 && s->sad.temp < 64)
1060         return 1;
1061
1062     if (s->tiny.odd <= n || (s->tiny.noise <= n/2 && s->tiny.temp <= n/2)) {
1063         if (s->interlaced_low <= n) {
1064             if (p->num_fields == 1)
1065                 goto still;
1066             if (s->tiny.even <= n || ps->tiny.noise <= n/2)
1067                 /* Still frame */
1068                 goto still;
1069             if (s->bigger.even >= 2*MAX(n,s->bigger.odd) + s->interlaced_low)
1070                 return 4;
1071             if (s->low.even >= 2*n + s->interlaced_low)
1072                 return 4;
1073             goto still;
1074         }
1075     }
1076     if (s->low.odd <= n/4) {
1077         if (s->interlaced_high <= n/4) {
1078             if (p->num_fields == 1)
1079                 goto still;
1080             if (s->low.even <= n/4)
1081                 /* Still frame */
1082                 goto still;
1083             if (s->bigger.even >= 2*MAX(n/4,s->bigger.odd)+s->interlaced_high)
1084                 return 4;
1085             if (s->low.even >= n/2 + s->interlaced_high)
1086                 return 4;
1087             goto still;
1088         }
1089     }
1090     if (s->bigger.temp > 2*MAX(n,s->bigger.noise) + s->interlaced_low)
1091         return 2;
1092     if (s->bigger.noise > 2*MAX(n,s->bigger.temp) + s->interlaced_low)
1093         return 1;
1094     if (s->bigger.temp > 2*MAX(n,s->bigger.noise) + s->interlaced_high)
1095         return 2;
1096     if (s->bigger.noise > 2*MAX(n,s->bigger.temp) + s->interlaced_high)
1097         return 1;
1098     if (s->twox.temp > 2*MAX(n,s->twox.noise) + s->interlaced_high)
1099         return 2;
1100     if (s->twox.noise > 2*MAX(n,s->twox.temp) + s->interlaced_high)
1101         return 1;
1102     if (s->bigger.even > 2*MAX(n,s->bigger.odd) + s->interlaced_low &&
1103         s->bigger.temp < n && s->bigger.noise < n)
1104         return 4;
1105     if (s->interlaced_low > MIN(2*n, s->tiny.odd))
1106         return 3;
1107     ret = 8 + (1 << (s->sad.temp > s->sad.noise));
1108   still:
1109     if (p->num_fields == 1 && p->prev_fields == 3 && notfilm >= 0 &&
1110         (s->tiny.temp <= s->tiny.noise || s->sad.temp < s->sad.noise+16))
1111         return 1;
1112     if (p->notout < p->num_fields && p->iosync > 2*p->in_inc && notfilm < 0)
1113         notfilm = 0;
1114     if (p->num_fields < 2 ||
1115         (p->num_fields == 2 && p->prev_fields == 2 && notfilm < 0))
1116         return ret;
1117     if (!notfilm && (p->prev_fields&~1) == 2) {
1118         if (p->prev_fields + p->num_fields == 5) {
1119             if (s->tiny.noise <= s->tiny.temp ||
1120                 s->low.noise == 0 || s->low.noise < s->low.temp ||
1121                 s->sad.noise < s->sad.temp+16)
1122                 return 2;
1123         }
1124         if (p->prev_fields + p->num_fields == 4) {
1125             if (s->tiny.temp <= s->tiny.noise ||
1126                 s->low.temp == 0 || s->low.temp < s->low.noise ||
1127                 s->sad.temp < s->sad.noise+16)
1128                 return 1;
1129         }
1130     }
1131     if (p->num_fields > 2 &&
1132         ps->sad.noise > s->sad.noise && ps->sad.noise > s->sad.temp)
1133         return 4;
1134     return 2 >> (s->sad.noise > s->sad.temp);
1135 }
1136
1137 #define ITOC(X) (!(X) ? ' ' : (X) + ((X)>9 ? 'a'-10 : '0'))
1138
1139 static int put_image(struct vf_instance *vf, mp_image_t *mpi, double pts)
1140 {
1141     mp_image_t *dmpi;
1142     struct vf_priv_s *p = vf->priv;
1143     unsigned char **planes, **old_planes;
1144     struct frame_stats *s  = &p->stats[p->inframes & 1];
1145     struct frame_stats *ps = &p->stats[(p->inframes-1) & 1];
1146     int swapped = 0;
1147     const int flags = mpi->fields;
1148     int breaks, prev;
1149     int show_fields = 0;
1150     int dropped_fields = 0;
1151     double start_time, diff_time;
1152     char prev_chflag = p->chflag;
1153     int keep_rate;
1154
1155     if (!p->planes[0][0]) init(p, mpi);
1156
1157     old_planes = p->old_planes;
1158
1159     if ((mpi->flags & MP_IMGFLAG_DIRECT) && mpi->priv) {
1160         planes = mpi->priv;
1161         mpi->priv = 0;
1162     } else {
1163         planes = p->planes[2 + (++p->temp_idx & 1)];
1164         my_memcpy_pic(planes[0],
1165                       mpi->planes[0] + p->crop_x + p->crop_y * mpi->stride[0],
1166                       p->w, p->h, p->stride, mpi->stride[0]);
1167         if (mpi->flags & MP_IMGFLAG_PLANAR) {
1168             my_memcpy_pic(planes[1],
1169                           mpi->planes[1] + p->crop_cx + p->crop_cy * mpi->stride[1],
1170                           p->cw, p->ch, p->chroma_stride, mpi->stride[1]);
1171             my_memcpy_pic(planes[2],
1172                           mpi->planes[2] + p->crop_cx + p->crop_cy * mpi->stride[2],
1173                           p->cw, p->ch, p->chroma_stride, mpi->stride[2]);
1174             p->num_copies++;
1175         }
1176     }
1177
1178     p->old_planes = planes;
1179     p->chflag = ';';
1180     if (flags & MP_IMGFIELD_ORDERED) {
1181         swapped = !(flags & MP_IMGFIELD_TOP_FIRST);
1182         p->chflag = (flags & MP_IMGFIELD_REPEAT_FIRST ? '|' :
1183                      flags & MP_IMGFIELD_TOP_FIRST ? ':' : '.');
1184     }
1185     p->swapped = swapped;
1186
1187     start_time = get_time();
1188     if (p->chflag == '|') {
1189         *s = ppzs;
1190         p->iosync += p->in_inc;
1191     } else if ((p->fast & 1) && prev_chflag == '|')
1192         *s = pprs;
1193     else
1194         diff_fields(p, s, old_planes, planes);
1195     diff_time = get_time();
1196     p->diff_time += diff_time - start_time;
1197     breaks = p->inframes ? find_breaks(p, s) : 2;
1198     p->inframes++;
1199     keep_rate = 4*p->in_inc == p->out_dec;
1200
1201     switch (breaks) {
1202       case 0:
1203       case 8:
1204       case 9:
1205       case 10:
1206         if (!keep_rate && p->notout < p->num_fields && p->iosync < 2*p->in_inc)
1207             break;
1208         if (p->notout < p->num_fields)
1209             dropped_fields = -2;
1210       case 4:
1211         if (keep_rate || p->iosync >= -2*p->in_inc)
1212             show_fields = (4<<p->num_fields)-1;
1213         break;
1214       case 3:
1215         if (keep_rate)
1216             show_fields = 2;
1217         else if (p->iosync > 0) {
1218             if (p->notout >= p->num_fields && p->iosync > 2*p->in_inc) {
1219                 show_fields = 4; /* prev odd only */
1220                 if (p->num_fields > 1)
1221                     show_fields |= 8; /* + prev even */
1222             } else {
1223                 show_fields = 2; /* even only */
1224                 if (p->notout >= p->num_fields)
1225                     dropped_fields += p->num_fields;
1226             }
1227         }
1228         break;
1229       case 2:
1230         if (p->iosync <= -3*p->in_inc) {
1231             if (p->notout >= p->num_fields)
1232                 dropped_fields = p->num_fields;
1233             break;
1234         }
1235         if (p->num_fields == 1) {
1236             int prevbreak = ps->sad.noise >= 128;
1237             if (p->iosync < 4*p->in_inc) {
1238                 show_fields = 3;
1239                 dropped_fields = prevbreak;
1240             } else {
1241                 show_fields = 4 | (!prevbreak << 3);
1242                 if (p->notout < 1 + p->prev_fields)
1243                     dropped_fields = -!prevbreak;
1244             }
1245             break;
1246         }
1247       default:
1248         if (keep_rate)
1249             show_fields = 3 << (breaks & 1);
1250         else if (p->notout >= p->num_fields &&
1251             p->iosync >= (breaks == 1 ? -p->in_inc :
1252                           p->in_inc << (p->num_fields == 1))) {
1253             show_fields = (1 << (2 + p->num_fields)) - (1<<breaks);
1254         } else {
1255             if (p->notout >= p->num_fields)
1256                 dropped_fields += p->num_fields + 2 - breaks;
1257             if (breaks == 1) {
1258                 if (p->iosync >= 4*p->in_inc)
1259                     show_fields = 6;
1260             } else if (p->iosync > -3*p->in_inc)
1261                 show_fields = 3;  /* odd+even */
1262         }
1263         break;
1264     }
1265
1266     show_fields &= 15;
1267     prev = p->prev_fields;
1268     if (breaks < 8) {
1269         if (p->num_fields == 1)
1270             breaks &= ~4;
1271         if (breaks)
1272             p->num_breaks++;
1273         if (breaks == 3)
1274             p->prev_fields = p->num_fields = 1;
1275         else if (breaks) {
1276             p->prev_fields = p->num_fields + (breaks==1) - (breaks==4);
1277             p->num_fields = breaks - (breaks == 4) + (p->chflag == '|');
1278         } else
1279             p->num_fields += 2;
1280     } else
1281         p->num_fields += 2;
1282
1283     p->iosync += 4 * p->in_inc;
1284     if (p->chflag == '|')
1285         p->iosync += p->in_inc;
1286
1287     if (show_fields) {
1288         p->iosync -= p->out_dec;
1289         p->notout = !(show_fields & 1) + !(show_fields & 3);
1290         if (((show_fields &  3) ==  3 &&
1291              (s->low.noise + s->interlaced_low < (s->num_blocks>>8) ||
1292               s->sad.noise < 160)) ||
1293             ((show_fields & 12) == 12 &&
1294              (ps->low.noise + ps->interlaced_low < (s->num_blocks>>8) ||
1295               ps->sad.noise < 160))) {
1296             p->export_count++;
1297             dmpi = vf_get_image(vf->next, mpi->imgfmt, MP_IMGTYPE_EXPORT,
1298                                 MP_IMGFLAG_PRESERVE|MP_IMGFLAG_READABLE,
1299                                 p->w, p->h);
1300             if ((show_fields & 3) != 3) planes = old_planes;
1301             dmpi->planes[0] = planes[0];
1302             dmpi->stride[0] = p->stride;
1303             dmpi->width = mpi->width;
1304             if (mpi->flags & MP_IMGFLAG_PLANAR) {
1305                 dmpi->planes[1] = planes[1];
1306                 dmpi->planes[2] = planes[2];
1307                 dmpi->stride[1] = p->chroma_stride;
1308                 dmpi->stride[2] = p->chroma_stride;
1309             }
1310         } else {
1311             p->merge_count++;
1312             dmpi = vf_get_image(vf->next, mpi->imgfmt,
1313                                 MP_IMGTYPE_TEMP, MP_IMGFLAG_ACCEPT_STRIDE,
1314                                 p->w, p->h);
1315             copy_merge_fields(p, dmpi, old_planes, planes, show_fields);
1316         }
1317         p->outframes++;
1318     } else
1319         p->notout += 2;
1320
1321     if (p->verbose)
1322         mp_msg(MSGT_VFILTER, MSGL_INFO, "%lu %lu: %x %c %c %lu%s%s%c%s\n",
1323                p->inframes, p->outframes,
1324                breaks, breaks<8 && breaks>0 ? (int) p->prev_fields+'0' : ' ',
1325                ITOC(show_fields),
1326                p->num_breaks, 5*p->in_inc == p->out_dec && breaks<8 &&
1327                breaks>0 && ((prev&~1)!=2 || prev+p->prev_fields!=5) ?
1328                " ######## bad telecine ########" : "",
1329                dropped_fields ? " ======== dropped ":"", ITOC(dropped_fields),
1330                !show_fields || (show_fields & (show_fields-1)) ?
1331                "" : " @@@@@@@@@@@@@@@@@");
1332
1333     p->merge_time += get_time() - diff_time;
1334     return show_fields ? vf_next_put_image(vf, dmpi, MP_NOPTS_VALUE) : 0;
1335 }
1336
1337 static int query_format(struct vf_instance *vf, unsigned int fmt)
1338 {
1339     /* FIXME - support more formats */
1340     switch (fmt) {
1341       case IMGFMT_YV12:
1342       case IMGFMT_IYUV:
1343       case IMGFMT_I420:
1344       case IMGFMT_411P:
1345       case IMGFMT_422P:
1346       case IMGFMT_444P:
1347         return vf_next_query_format(vf, fmt);
1348     }
1349     return 0;
1350 }
1351
1352 static int config(struct vf_instance *vf,
1353                   int width, int height, int d_width, int d_height,
1354                   unsigned int flags, unsigned int outfmt)
1355 {
1356     unsigned long cxm = 0;
1357     unsigned long cym = 0;
1358     struct vf_priv_s *p = vf->priv;
1359     // rounding:
1360     if(!IMGFMT_IS_RGB(outfmt) && !IMGFMT_IS_BGR(outfmt)){
1361         switch(outfmt){
1362           case IMGFMT_444P:
1363           case IMGFMT_Y800:
1364           case IMGFMT_Y8:
1365             break;
1366           case IMGFMT_YVU9:
1367           case IMGFMT_IF09:
1368             cym = 3;
1369           case IMGFMT_411P:
1370             cxm = 3;
1371             break;
1372           case IMGFMT_YV12:
1373           case IMGFMT_I420:
1374           case IMGFMT_IYUV:
1375             cym = 1;
1376           default:
1377             cxm = 1;
1378         }
1379     }
1380     p->chroma_swapped = !!(p->crop_y & (cym+1));
1381     if (p->w) p->w += p->crop_x & cxm;
1382     if (p->h) p->h += p->crop_y & cym;
1383     p->crop_x &= ~cxm;
1384     p->crop_y &= ~cym;
1385     if (!p->w || p->w > width ) p->w = width;
1386     if (!p->h || p->h > height) p->h = height;
1387     if (p->crop_x + p->w > width ) p->crop_x = 0;
1388     if (p->crop_y + p->h > height) p->crop_y = 0;
1389
1390     if(!opt_screen_size_x && !opt_screen_size_y){
1391         d_width = d_width * p->w/width;
1392         d_height = d_height * p->h/height;
1393     }
1394     return vf_next_config(vf, p->w, p->h, d_width, d_height, flags, outfmt);
1395 }
1396
1397 static void uninit(struct vf_instance *vf)
1398 {
1399     struct vf_priv_s *p = vf->priv;
1400     mp_msg(MSGT_VFILTER, MSGL_INFO, "diff_time: %.3f, merge_time: %.3f, "
1401            "export: %lu, merge: %lu, copy: %lu\n", p->diff_time, p->merge_time,
1402            p->export_count, p->merge_count, p->num_copies);
1403     free(p->memory_allocated);
1404     free(p);
1405 }
1406
1407 static int vf_open(vf_instance_t *vf, char *args)
1408 {
1409     struct vf_priv_s *p;
1410     vf->get_image = get_image;
1411     vf->put_image = put_image;
1412     vf->config = config;
1413     vf->query_format = query_format;
1414     vf->uninit = uninit;
1415     vf->default_reqs = VFCAP_ACCEPT_STRIDE;
1416     vf->priv = p = calloc(1, sizeof(struct vf_priv_s));
1417     p->out_dec = 5;
1418     p->in_inc = 4;
1419     p->thres.noise = 128;
1420     p->thres.even  = 128;
1421     p->sad_thres = 64;
1422     p->dint_thres = 4;
1423     p->luma_only = 0;
1424     p->fast = 3;
1425     p->mmx2 = gCpuCaps.hasMMX2 ? 1 : gCpuCaps.has3DNow ? 2 : 0;
1426     if (args) {
1427         const char *args_remain = parse_args(p, args);
1428         if (args_remain) {
1429             mp_msg(MSGT_VFILTER, MSGL_FATAL,
1430                    "filmdint: unknown suboption: %s\n", args_remain);
1431             return 0;
1432         }
1433         if (p->out_dec < p->in_inc) {
1434             mp_msg(MSGT_VFILTER, MSGL_FATAL,
1435                    "filmdint: increasing the frame rate is not supported\n");
1436             return 0;
1437         }
1438     }
1439     if (p->mmx2 > 2)
1440         p->mmx2 = 0;
1441 #if !HAVE_MMX
1442     p->mmx2 = 0;
1443 #endif
1444 #if !HAVE_AMD3DNOW
1445     p->mmx2 &= 1;
1446 #endif
1447     p->thres.odd  = p->thres.even;
1448     p->thres.temp = p->thres.noise;
1449     p->diff_time = 0;
1450     p->merge_time = 0;
1451     return 1;
1452 }
1453
1454 const vf_info_t vf_info_filmdint = {
1455     "Advanced inverse telecine filer",
1456     "filmdint",
1457     "Zoltan Hidvegi",
1458     "",
1459     vf_open,
1460     NULL
1461 };