git.sesse.net Git - ffmpeg/blob - libavcodec/x86/lossless_videodsp_init.c

   1 /*
   2  * Lossless video DSP utils
   3  *
   4  * This file is part of FFmpeg.
   5  *
   6  * FFmpeg is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * FFmpeg is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with FFmpeg; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  19  */
  20
  21 #include "config.h"
  22 #include "libavutil/x86/asm.h"
  23 #include "../lossless_videodsp.h"
  24 #include "libavutil/x86/cpu.h"
  25
  26 void ff_add_bytes_mmx(uint8_t *dst, uint8_t *src, ptrdiff_t w);
  27 void ff_add_bytes_sse2(uint8_t *dst, uint8_t *src, ptrdiff_t w);
  28 void ff_add_bytes_avx2(uint8_t *dst, uint8_t *src, ptrdiff_t w);
  29
  30 void ff_add_median_pred_mmxext(uint8_t *dst, const uint8_t *top,
  31                                const uint8_t *diff, ptrdiff_t w,
  32                                int *left, int *left_top);
  33 void ff_add_median_pred_sse2(uint8_t *dst, const uint8_t *top,
  34                              const uint8_t *diff, ptrdiff_t w,
  35                              int *left, int *left_top);
  36
  37 int  ff_add_left_pred_ssse3(uint8_t *dst, const uint8_t *src,
  38                             ptrdiff_t w, int left);
  39 int  ff_add_left_pred_unaligned_ssse3(uint8_t *dst, const uint8_t *src,
  40                                       ptrdiff_t w, int left);
  41
  42 int ff_add_left_pred_int16_ssse3(uint16_t *dst, const uint16_t *src, unsigned mask, ptrdiff_t w, unsigned acc);
  43 int ff_add_left_pred_int16_sse4(uint16_t *dst, const uint16_t *src, unsigned mask, ptrdiff_t w, unsigned acc);
  44
  45 #if HAVE_INLINE_ASM && HAVE_7REGS && ARCH_X86_32
  46 static void add_median_pred_cmov(uint8_t *dst, const uint8_t *top,
  47                                  const uint8_t *diff, ptrdiff_t w,
  48                                  int *left, int *left_top)
  49 {
  50     x86_reg w2 = -w;
  51     x86_reg x;
  52     int l  = *left     & 0xff;
  53     int tl = *left_top & 0xff;
  54     int t;
  55     __asm__ volatile (
  56         "mov          %7, %3            \n"
  57         "1:                             \n"
  58         "movzbl (%3, %4), %2            \n"
  59         "mov          %2, %k3           \n"
  60         "sub         %b1, %b3           \n"
  61         "add         %b0, %b3           \n"
  62         "mov          %2, %1            \n"
  63         "cmp          %0, %2            \n"
  64         "cmovg        %0, %2            \n"
  65         "cmovg        %1, %0            \n"
  66         "cmp         %k3, %0            \n"
  67         "cmovg       %k3, %0            \n"
  68         "mov          %7, %3            \n"
  69         "cmp          %2, %0            \n"
  70         "cmovl        %2, %0            \n"
  71         "add    (%6, %4), %b0           \n"
  72         "mov         %b0, (%5, %4)      \n"
  73         "inc          %4                \n"
  74         "jl           1b                \n"
  75         : "+&q"(l), "+&q"(tl), "=&r"(t), "=&q"(x), "+&r"(w2)
  76         : "r"(dst + w), "r"(diff + w), "rm"(top + w)
  77     );
  78     *left     = l;
  79     *left_top = tl;
  80 }
  81 #endif
  82
  83 void ff_llviddsp_init_x86(LLVidDSPContext *c)
  84 {
  85     int cpu_flags = av_get_cpu_flags();
  86
  87 #if HAVE_INLINE_ASM && HAVE_7REGS && ARCH_X86_32
  88     if (cpu_flags & AV_CPU_FLAG_CMOV)
  89         c->add_median_pred = add_median_pred_cmov;
  90 #endif
  91
  92     if (ARCH_X86_32 && EXTERNAL_MMX(cpu_flags)) {
  93         c->add_bytes = ff_add_bytes_mmx;
  94     }
  95
  96     if (ARCH_X86_32 && EXTERNAL_MMXEXT(cpu_flags)) {
  97         /* slower than cmov version on AMD */
  98         if (!(cpu_flags & AV_CPU_FLAG_3DNOW))
  99             c->add_median_pred = ff_add_median_pred_mmxext;
 100     }
 101
 102     if (EXTERNAL_SSE2(cpu_flags)) {
 103         c->add_bytes       = ff_add_bytes_sse2;
 104         c->add_median_pred = ff_add_median_pred_sse2;
 105     }
 106
 107     if (EXTERNAL_SSSE3(cpu_flags)) {
 108         c->add_left_pred = ff_add_left_pred_ssse3;
 109         c->add_left_pred_int16 = ff_add_left_pred_int16_ssse3;
 110     }
 111
 112     if (EXTERNAL_SSSE3_FAST(cpu_flags)) {
 113         c->add_left_pred = ff_add_left_pred_unaligned_ssse3;
 114     }
 115
 116     if (EXTERNAL_SSE4(cpu_flags)) {
 117         c->add_left_pred_int16 = ff_add_left_pred_int16_sse4;
 118     }
 119     if (EXTERNAL_AVX2_FAST(cpu_flags)) {
 120         c->add_bytes       = ff_add_bytes_avx2;
 121     }
 122 }