git.sesse.net Git - ffmpeg/blob - libavcodec/x86/h264_intrapred_init.c

   1 /*
   2  * Copyright (c) 2010 Jason Garrett-Glaser
   3  *
   4  * This file is part of FFmpeg.
   5  *
   6  * FFmpeg is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * FFmpeg is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with FFmpeg; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  19  */
  20
  21 #include "libavutil/cpu.h"
  22 #include "libavcodec/h264pred.h"
  23
  24 void ff_pred16x16_vertical_mmx     (uint8_t *src, int stride);
  25 void ff_pred16x16_vertical_sse     (uint8_t *src, int stride);
  26 void ff_pred16x16_horizontal_mmx   (uint8_t *src, int stride);
  27 void ff_pred16x16_horizontal_mmxext(uint8_t *src, int stride);
  28 void ff_pred16x16_horizontal_ssse3 (uint8_t *src, int stride);
  29 void ff_pred16x16_dc_mmxext        (uint8_t *src, int stride);
  30 void ff_pred16x16_dc_sse2          (uint8_t *src, int stride);
  31 void ff_pred16x16_dc_ssse3         (uint8_t *src, int stride);
  32 void ff_pred16x16_plane_h264_mmx   (uint8_t *src, int stride);
  33 void ff_pred16x16_plane_h264_mmx2  (uint8_t *src, int stride);
  34 void ff_pred16x16_plane_h264_sse2  (uint8_t *src, int stride);
  35 void ff_pred16x16_plane_h264_ssse3 (uint8_t *src, int stride);
  36 void ff_pred16x16_plane_rv40_mmx   (uint8_t *src, int stride);
  37 void ff_pred16x16_plane_rv40_mmx2  (uint8_t *src, int stride);
  38 void ff_pred16x16_plane_rv40_sse2  (uint8_t *src, int stride);
  39 void ff_pred16x16_plane_rv40_ssse3 (uint8_t *src, int stride);
  40 void ff_pred16x16_plane_svq3_mmx   (uint8_t *src, int stride);
  41 void ff_pred16x16_plane_svq3_mmx2  (uint8_t *src, int stride);
  42 void ff_pred16x16_plane_svq3_sse2  (uint8_t *src, int stride);
  43 void ff_pred16x16_plane_svq3_ssse3 (uint8_t *src, int stride);
  44 void ff_pred16x16_tm_vp8_mmx       (uint8_t *src, int stride);
  45 void ff_pred16x16_tm_vp8_mmxext    (uint8_t *src, int stride);
  46 void ff_pred16x16_tm_vp8_sse2      (uint8_t *src, int stride);
  47 void ff_pred8x8_top_dc_mmxext      (uint8_t *src, int stride);
  48 void ff_pred8x8_dc_rv40_mmxext     (uint8_t *src, int stride);
  49 void ff_pred8x8_dc_mmxext          (uint8_t *src, int stride);
  50 void ff_pred8x8_vertical_mmx       (uint8_t *src, int stride);
  51 void ff_pred8x8_horizontal_mmx     (uint8_t *src, int stride);
  52 void ff_pred8x8_horizontal_mmxext  (uint8_t *src, int stride);
  53 void ff_pred8x8_horizontal_ssse3   (uint8_t *src, int stride);
  54 void ff_pred8x8_plane_mmx          (uint8_t *src, int stride);
  55 void ff_pred8x8_plane_mmx2         (uint8_t *src, int stride);
  56 void ff_pred8x8_plane_sse2         (uint8_t *src, int stride);
  57 void ff_pred8x8_plane_ssse3        (uint8_t *src, int stride);
  58 void ff_pred8x8_tm_vp8_mmx         (uint8_t *src, int stride);
  59 void ff_pred8x8_tm_vp8_mmxext      (uint8_t *src, int stride);
  60 void ff_pred8x8_tm_vp8_sse2        (uint8_t *src, int stride);
  61 void ff_pred8x8_tm_vp8_ssse3       (uint8_t *src, int stride);
  62 void ff_pred8x8l_top_dc_mmxext     (uint8_t *src, int has_topleft, int has_topright, int stride);
  63 void ff_pred8x8l_top_dc_ssse3      (uint8_t *src, int has_topleft, int has_topright, int stride);
  64 void ff_pred8x8l_dc_mmxext         (uint8_t *src, int has_topleft, int has_topright, int stride);
  65 void ff_pred8x8l_dc_ssse3          (uint8_t *src, int has_topleft, int has_topright, int stride);
  66 void ff_pred8x8l_horizontal_mmxext (uint8_t *src, int has_topleft, int has_topright, int stride);
  67 void ff_pred8x8l_horizontal_ssse3  (uint8_t *src, int has_topleft, int has_topright, int stride);
  68 void ff_pred8x8l_vertical_mmxext   (uint8_t *src, int has_topleft, int has_topright, int stride);
  69 void ff_pred8x8l_vertical_ssse3    (uint8_t *src, int has_topleft, int has_topright, int stride);
  70 void ff_pred8x8l_down_left_mmxext  (uint8_t *src, int has_topleft, int has_topright, int stride);
  71 void ff_pred8x8l_down_left_sse2    (uint8_t *src, int has_topleft, int has_topright, int stride);
  72 void ff_pred8x8l_down_left_ssse3   (uint8_t *src, int has_topleft, int has_topright, int stride);
  73 void ff_pred8x8l_down_right_mmxext (uint8_t *src, int has_topleft, int has_topright, int stride);
  74 void ff_pred8x8l_down_right_sse2   (uint8_t *src, int has_topleft, int has_topright, int stride);
  75 void ff_pred8x8l_down_right_ssse3  (uint8_t *src, int has_topleft, int has_topright, int stride);
  76 void ff_pred8x8l_vertical_right_mmxext(uint8_t *src, int has_topleft, int has_topright, int stride);
  77 void ff_pred8x8l_vertical_right_sse2(uint8_t *src, int has_topleft, int has_topright, int stride);
  78 void ff_pred8x8l_vertical_right_ssse3(uint8_t *src, int has_topleft, int has_topright, int stride);
  79 void ff_pred8x8l_vertical_left_sse2(uint8_t *src, int has_topleft, int has_topright, int stride);
  80 void ff_pred8x8l_vertical_left_ssse3(uint8_t *src, int has_topleft, int has_topright, int stride);
  81 void ff_pred8x8l_horizontal_up_mmxext(uint8_t *src, int has_topleft, int has_topright, int stride);
  82 void ff_pred8x8l_horizontal_up_ssse3(uint8_t *src, int has_topleft, int has_topright, int stride);
  83 void ff_pred8x8l_horizontal_down_mmxext(uint8_t *src, int has_topleft, int has_topright, int stride);
  84 void ff_pred8x8l_horizontal_down_sse2(uint8_t *src, int has_topleft, int has_topright, int stride);
  85 void ff_pred8x8l_horizontal_down_ssse3(uint8_t *src, int has_topleft, int has_topright, int stride);
  86 void ff_pred4x4_dc_mmxext          (uint8_t *src, const uint8_t *topright, int stride);
  87 void ff_pred4x4_down_left_mmxext   (uint8_t *src, const uint8_t *topright, int stride);
  88 void ff_pred4x4_down_right_mmxext  (uint8_t *src, const uint8_t *topright, int stride);
  89 void ff_pred4x4_vertical_left_mmxext(uint8_t *src, const uint8_t *topright, int stride);
  90 void ff_pred4x4_vertical_right_mmxext(uint8_t *src, const uint8_t *topright, int stride);
  91 void ff_pred4x4_horizontal_up_mmxext(uint8_t *src, const uint8_t *topright, int stride);
  92 void ff_pred4x4_horizontal_down_mmxext(uint8_t *src, const uint8_t *topright, int stride);
  93 void ff_pred4x4_tm_vp8_mmx         (uint8_t *src, const uint8_t *topright, int stride);
  94 void ff_pred4x4_tm_vp8_mmxext      (uint8_t *src, const uint8_t *topright, int stride);
  95 void ff_pred4x4_tm_vp8_ssse3       (uint8_t *src, const uint8_t *topright, int stride);
  96 void ff_pred4x4_vertical_vp8_mmxext(uint8_t *src, const uint8_t *topright, int stride);
  97
  98 void ff_h264_pred_init_x86(H264PredContext *h, int codec_id, const int bit_depth)
  99 {
 100     int mm_flags = av_get_cpu_flags();
 101     const int high_depth = bit_depth > 8;
 102
 103     if (high_depth)
 104         return;
 105
 106 #if HAVE_YASM
 107     if (mm_flags & AV_CPU_FLAG_MMX) {
 108         h->pred16x16[VERT_PRED8x8] = ff_pred16x16_vertical_mmx;
 109         h->pred16x16[HOR_PRED8x8 ] = ff_pred16x16_horizontal_mmx;
 110         h->pred8x8  [VERT_PRED8x8] = ff_pred8x8_vertical_mmx;
 111         h->pred8x8  [HOR_PRED8x8 ] = ff_pred8x8_horizontal_mmx;
 112         if (codec_id == CODEC_ID_VP8) {
 113             h->pred16x16[PLANE_PRED8x8] = ff_pred16x16_tm_vp8_mmx;
 114             h->pred8x8  [PLANE_PRED8x8] = ff_pred8x8_tm_vp8_mmx;
 115             h->pred4x4  [TM_VP8_PRED  ] = ff_pred4x4_tm_vp8_mmx;
 116         } else {
 117             h->pred8x8  [PLANE_PRED8x8] = ff_pred8x8_plane_mmx;
 118             if (codec_id == CODEC_ID_SVQ3) {
 119                 h->pred16x16[PLANE_PRED8x8] = ff_pred16x16_plane_svq3_mmx;
 120             } else if (codec_id == CODEC_ID_RV40) {
 121                 h->pred16x16[PLANE_PRED8x8] = ff_pred16x16_plane_rv40_mmx;
 122             } else {
 123                 h->pred16x16[PLANE_PRED8x8] = ff_pred16x16_plane_h264_mmx;
 124             }
 125         }
 126     }
 127
 128     if (mm_flags & AV_CPU_FLAG_MMX2) {
 129         h->pred16x16[HOR_PRED8x8 ] = ff_pred16x16_horizontal_mmxext;
 130         h->pred16x16[DC_PRED8x8  ] = ff_pred16x16_dc_mmxext;
 131         h->pred8x8  [HOR_PRED8x8 ] = ff_pred8x8_horizontal_mmxext;
 132 #if CONFIG_GPL
 133         h->pred8x8l [TOP_DC_PRED ] = ff_pred8x8l_top_dc_mmxext;
 134         h->pred8x8l [DC_PRED     ] = ff_pred8x8l_dc_mmxext;
 135         h->pred8x8l [HOR_PRED    ] = ff_pred8x8l_horizontal_mmxext;
 136         h->pred8x8l [VERT_PRED   ] = ff_pred8x8l_vertical_mmxext;
 137         h->pred8x8l [DIAG_DOWN_RIGHT_PRED] = ff_pred8x8l_down_right_mmxext;
 138         h->pred8x8l [VERT_RIGHT_PRED     ] = ff_pred8x8l_vertical_right_mmxext;
 139         h->pred8x8l [HOR_UP_PRED         ] = ff_pred8x8l_horizontal_up_mmxext;
 140         h->pred8x8l [DIAG_DOWN_LEFT_PRED ] = ff_pred8x8l_down_left_mmxext;
 141         h->pred8x8l [HOR_DOWN_PRED       ] = ff_pred8x8l_horizontal_down_mmxext;
 142         h->pred4x4  [DIAG_DOWN_RIGHT_PRED] = ff_pred4x4_down_right_mmxext;
 143         h->pred4x4  [VERT_RIGHT_PRED     ] = ff_pred4x4_vertical_right_mmxext;
 144         h->pred4x4  [HOR_DOWN_PRED       ] = ff_pred4x4_horizontal_down_mmxext;
 145 #endif
 146         h->pred4x4  [DC_PRED     ] = ff_pred4x4_dc_mmxext;
 147 #if CONFIG_GPL
 148         if (codec_id == CODEC_ID_VP8 || codec_id == CODEC_ID_H264)
 149             h->pred4x4  [DIAG_DOWN_LEFT_PRED ] = ff_pred4x4_down_left_mmxext;
 150         if (codec_id == CODEC_ID_SVQ3 || codec_id == CODEC_ID_H264)
 151             h->pred4x4  [VERT_LEFT_PRED      ] = ff_pred4x4_vertical_left_mmxext;
 152         if (codec_id != CODEC_ID_RV40) {
 153             h->pred4x4  [HOR_UP_PRED         ] = ff_pred4x4_horizontal_up_mmxext;
 154         }
 155         if (codec_id == CODEC_ID_SVQ3 || codec_id == CODEC_ID_H264) {
 156             h->pred8x8  [TOP_DC_PRED8x8      ] = ff_pred8x8_top_dc_mmxext;
 157             h->pred8x8  [DC_PRED8x8          ] = ff_pred8x8_dc_mmxext;
 158         }
 159 #endif
 160         if (codec_id == CODEC_ID_VP8) {
 161             h->pred16x16[PLANE_PRED8x8] = ff_pred16x16_tm_vp8_mmxext;
 162             h->pred8x8  [DC_PRED8x8   ] = ff_pred8x8_dc_rv40_mmxext;
 163             h->pred8x8  [PLANE_PRED8x8] = ff_pred8x8_tm_vp8_mmxext;
 164             h->pred4x4  [TM_VP8_PRED  ] = ff_pred4x4_tm_vp8_mmxext;
 165             h->pred4x4  [VERT_PRED    ] = ff_pred4x4_vertical_vp8_mmxext;
 166         } else {
 167             h->pred8x8  [PLANE_PRED8x8] = ff_pred8x8_plane_mmx2;
 168             if (codec_id == CODEC_ID_SVQ3) {
 169                 h->pred16x16[PLANE_PRED8x8] = ff_pred16x16_plane_svq3_mmx2;
 170             } else if (codec_id == CODEC_ID_RV40) {
 171                 h->pred16x16[PLANE_PRED8x8] = ff_pred16x16_plane_rv40_mmx2;
 172             } else {
 173                 h->pred16x16[PLANE_PRED8x8] = ff_pred16x16_plane_h264_mmx2;
 174             }
 175         }
 176     }
 177
 178     if (mm_flags & AV_CPU_FLAG_SSE) {
 179         h->pred16x16[VERT_PRED8x8] = ff_pred16x16_vertical_sse;
 180     }
 181
 182     if (mm_flags & AV_CPU_FLAG_SSE2) {
 183         h->pred16x16[DC_PRED8x8  ] = ff_pred16x16_dc_sse2;
 184 #if CONFIG_GPL
 185         h->pred8x8l [DIAG_DOWN_LEFT_PRED ] = ff_pred8x8l_down_left_sse2;
 186         h->pred8x8l [DIAG_DOWN_RIGHT_PRED] = ff_pred8x8l_down_right_sse2;
 187         h->pred8x8l [VERT_RIGHT_PRED     ] = ff_pred8x8l_vertical_right_sse2;
 188         h->pred8x8l [VERT_LEFT_PRED      ] = ff_pred8x8l_vertical_left_sse2;
 189         h->pred8x8l [HOR_DOWN_PRED       ] = ff_pred8x8l_horizontal_down_sse2;
 190 #endif
 191         if (codec_id == CODEC_ID_VP8) {
 192             h->pred16x16[PLANE_PRED8x8] = ff_pred16x16_tm_vp8_sse2;
 193             h->pred8x8  [PLANE_PRED8x8] = ff_pred8x8_tm_vp8_sse2;
 194         } else {
 195             h->pred8x8  [PLANE_PRED8x8] = ff_pred8x8_plane_sse2;
 196             if (codec_id == CODEC_ID_SVQ3) {
 197                 h->pred16x16[PLANE_PRED8x8] = ff_pred16x16_plane_svq3_sse2;
 198             } else if (codec_id == CODEC_ID_RV40) {
 199                 h->pred16x16[PLANE_PRED8x8] = ff_pred16x16_plane_rv40_sse2;
 200             } else {
 201                 h->pred16x16[PLANE_PRED8x8] = ff_pred16x16_plane_h264_sse2;
 202             }
 203         }
 204     }
 205
 206     if (mm_flags & AV_CPU_FLAG_SSSE3) {
 207         h->pred16x16[HOR_PRED8x8 ] = ff_pred16x16_horizontal_ssse3;
 208         h->pred16x16[DC_PRED8x8  ] = ff_pred16x16_dc_ssse3;
 209         h->pred8x8  [HOR_PRED8x8 ] = ff_pred8x8_horizontal_ssse3;
 210 #if CONFIG_GPL
 211         h->pred8x8l [TOP_DC_PRED ] = ff_pred8x8l_top_dc_ssse3;
 212         h->pred8x8l [DC_PRED     ] = ff_pred8x8l_dc_ssse3;
 213         h->pred8x8l [HOR_PRED    ] = ff_pred8x8l_horizontal_ssse3;
 214         h->pred8x8l [VERT_PRED   ] = ff_pred8x8l_vertical_ssse3;
 215         h->pred8x8l [DIAG_DOWN_LEFT_PRED ] = ff_pred8x8l_down_left_ssse3;
 216         h->pred8x8l [DIAG_DOWN_RIGHT_PRED] = ff_pred8x8l_down_right_ssse3;
 217         h->pred8x8l [VERT_RIGHT_PRED     ] = ff_pred8x8l_vertical_right_ssse3;
 218         h->pred8x8l [VERT_LEFT_PRED      ] = ff_pred8x8l_vertical_left_ssse3;
 219         h->pred8x8l [HOR_UP_PRED         ] = ff_pred8x8l_horizontal_up_ssse3;
 220         h->pred8x8l [HOR_DOWN_PRED       ] = ff_pred8x8l_horizontal_down_ssse3;
 221 #endif
 222         if (codec_id == CODEC_ID_VP8) {
 223             h->pred8x8  [PLANE_PRED8x8] = ff_pred8x8_tm_vp8_ssse3;
 224             h->pred4x4  [TM_VP8_PRED  ] = ff_pred4x4_tm_vp8_ssse3;
 225         } else {
 226             h->pred8x8  [PLANE_PRED8x8] = ff_pred8x8_plane_ssse3;
 227             if (codec_id == CODEC_ID_SVQ3) {
 228                 h->pred16x16[PLANE_PRED8x8] = ff_pred16x16_plane_svq3_ssse3;
 229             } else if (codec_id == CODEC_ID_RV40) {
 230                 h->pred16x16[PLANE_PRED8x8] = ff_pred16x16_plane_rv40_ssse3;
 231             } else {
 232                 h->pred16x16[PLANE_PRED8x8] = ff_pred16x16_plane_h264_ssse3;
 233             }
 234         }
 235     }
 236 #endif
 237 }