git.sesse.net Git - vlc/blob - modules/video_chroma/i420_yuy2.h

   1 /*****************************************************************************
   2  * i420_yuy2.h : YUV to YUV conversion module for vlc
   3  *****************************************************************************
   4  * Copyright (C) 2000, 2001 the VideoLAN team
   5  * $Id$
   6  *
   7  * Authors: Samuel Hocevar <sam@zoy.org>
   8  *          Damien Fouilleul <damien@videolan.org>
   9  *
  10  * This program is free software; you can redistribute it and/or modify
  11  * it under the terms of the GNU General Public License as published by
  12  * the Free Software Foundation; either version 2 of the License, or
  13  * (at your option) any later version.
  14  *
  15  * This program is distributed in the hope that it will be useful,
  16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  18  * GNU General Public License for more details.
  19  *
  20  * You should have received a copy of the GNU General Public License
  21  * along with this program; if not, write to the Free Software
  22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
  23  *****************************************************************************/
  24
  25 #ifdef MODULE_NAME_IS_i420_yuy2_mmx
  26
  27 #define MMX_CALL(MMX_INSTRUCTIONS)                                          \
  28     do {                                                                    \
  29     __asm__ __volatile__(                                                   \
  30         ".p2align 3 \n\t"                                                   \
  31         MMX_INSTRUCTIONS                                                    \
  32         :                                                                   \
  33         : "r" (p_line1),  "r" (p_line2),  "r" (p_y1),  "r" (p_y2),          \
  34           "r" (p_u), "r" (p_v) );                                           \
  35     p_line1 += 16; p_line2 += 16; p_y1 += 8; p_y2 += 8; p_u += 4; p_v += 4; \
  36     } while(0)
  37
  38 #define MMX_YUV420_YUYV "                                                 \n\
  39 movd       (%4), %%mm1  # Load 4 Cb           00 00 00 00 u3 u2 u1 u0     \n\
  40 movd       (%5), %%mm2  # Load 4 Cr           00 00 00 00 v3 v2 v1 v0     \n\
  41 movq       (%2), %%mm0  # Load 8 Y            y7 y6 y5 y4 y3 y2 y1 y0     \n\
  42 movq       (%3), %%mm3  # Load 8 Y            Y7 Y6 Y5 Y4 Y3 Y2 Y1 Y0     \n\
  43 punpcklbw %%mm2, %%mm1  #                     v3 u3 v2 u2 v1 u1 v0 u0     \n\
  44 movq      %%mm0, %%mm2  #                     y7 y6 y5 y4 y3 y2 y1 y0     \n\
  45 punpcklbw %%mm1, %%mm2  #                     v1 y3 u1 y2 v0 y1 u0 y0     \n\
  46 movq      %%mm2, (%0)   # Store low YUYV                                  \n\
  47 punpckhbw %%mm1, %%mm0  #                     v3 y7 u3 y6 v2 y5 u2 y4     \n\
  48 movq      %%mm0, 8(%0)  # Store high YUYV                                 \n\
  49 movq      %%mm3, %%mm4  #                     Y7 Y6 Y5 Y4 Y3 Y2 Y1 Y0     \n\
  50 punpcklbw %%mm1, %%mm4  #                     v1 Y3 u1 Y2 v0 Y1 u0 Y0     \n\
  51 movq      %%mm4, (%1)   # Store low YUYV                                  \n\
  52 punpckhbw %%mm1, %%mm3  #                     v3 Y7 u3 Y6 v2 Y5 u2 Y4     \n\
  53 movq      %%mm3, 8(%1)  # Store high YUYV                                 \n\
  54 "
  55
  56 #define MMX_YUV420_YVYU "                                                 \n\
  57 movd       (%4), %%mm2  # Load 4 Cb           00 00 00 00 u3 u2 u1 u0     \n\
  58 movd       (%5), %%mm1  # Load 4 Cr           00 00 00 00 v3 v2 v1 v0     \n\
  59 movq       (%2), %%mm0  # Load 8 Y            y7 y6 y5 y4 y3 y2 y1 y0     \n\
  60 movq       (%3), %%mm3  # Load 8 Y            Y7 Y6 Y5 Y4 Y3 Y2 Y1 Y0     \n\
  61 punpcklbw %%mm2, %%mm1  #                     u3 v3 u2 v2 u1 v1 u0 v0     \n\
  62 movq      %%mm0, %%mm2  #                     y7 y6 y5 y4 y3 y2 y1 y0     \n\
  63 punpcklbw %%mm1, %%mm2  #                     u1 y3 v1 y2 u0 y1 v0 y0     \n\
  64 movq      %%mm2, (%0)   # Store low YUYV                                  \n\
  65 punpckhbw %%mm1, %%mm0  #                     u3 y7 v3 y6 u2 y5 v2 y4     \n\
  66 movq      %%mm0, 8(%0)  # Store high YUYV                                 \n\
  67 movq      %%mm3, %%mm4  #                     Y7 Y6 Y5 Y4 Y3 Y2 Y1 Y0     \n\
  68 punpcklbw %%mm1, %%mm4  #                     u1 Y3 v1 Y2 u0 Y1 v0 Y0     \n\
  69 movq      %%mm4, (%1)   # Store low YUYV                                  \n\
  70 punpckhbw %%mm1, %%mm3  #                     u3 Y7 v3 Y6 u2 Y5 v2 Y4     \n\
  71 movq      %%mm3, 8(%1)  # Store high YUYV                                 \n\
  72 "
  73
  74 #define MMX_YUV420_UYVY "                                                 \n\
  75 movd       (%4), %%mm1  # Load 4 Cb           00 00 00 00 u3 u2 u1 u0     \n\
  76 movd       (%5), %%mm2  # Load 4 Cr           00 00 00 00 v3 v2 v1 v0     \n\
  77 movq       (%2), %%mm0  # Load 8 Y            y7 y6 y5 y4 y3 y2 y1 y0     \n\
  78 movq       (%3), %%mm3  # Load 8 Y            Y7 Y6 Y5 Y4 Y3 Y2 Y1 Y0     \n\
  79 punpcklbw %%mm2, %%mm1  #                     v3 u3 v2 u2 v1 u1 v0 u0     \n\
  80 movq      %%mm1, %%mm2  #                     v3 u3 v2 u2 v1 u1 v0 u0     \n\
  81 punpcklbw %%mm0, %%mm2  #                     y3 v1 y2 u1 y1 v0 y0 u0     \n\
  82 movq      %%mm2, (%0)   # Store low UYVY                                  \n\
  83 movq      %%mm1, %%mm2  #                     u3 v3 u2 v2 u1 v1 u0 v0     \n\
  84 punpckhbw %%mm0, %%mm2  #                     y3 v1 y2 u1 y1 v0 y0 u0     \n\
  85 movq      %%mm2, 8(%0)  # Store high UYVY                                 \n\
  86 movq      %%mm1, %%mm4  #                     u3 v3 u2 v2 u1 v1 u0 v0     \n\
  87 punpcklbw %%mm3, %%mm4  #                     Y3 v1 Y2 u1 Y1 v0 Y0 u0     \n\
  88 movq      %%mm4, (%1)   # Store low UYVY                                  \n\
  89 punpckhbw %%mm3, %%mm1  #                     Y7 v3 Y6 u3 Y5 v2 Y4 u2     \n\
  90 movq      %%mm1, 8(%1)  # Store high UYVY                                 \n\
  91 "
  92
  93 /* FIXME: this code does not work ! Chroma seems to be wrong. */
  94 #define MMX_YUV420_Y211 "                                                 \n\
  95 movq       (%2), %%mm0  # Load 8 Y            y7 y6 y5 y4 y3 y2 y1 y0     \n\
  96 movq       (%3), %%mm1  # Load 8 Y            Y7 Y6 Y5 Y4 Y3 Y2 Y1 Y0     \n\
  97 movd       (%4), %%mm2  # Load 4 Cb           00 00 00 00 u3 u2 u1 u0     \n\
  98 movd       (%5), %%mm3  # Load 4 Cr           00 00 00 00 v3 v2 v1 v0     \n\
  99 pand    i_00ffw, %%mm0  # get Y even          00 Y6 00 Y4 00 Y2 00 Y0     \n\
 100 packuswb  %%mm0, %%mm0  # pack Y              y6 y4 y2 y0 y6 y4 y2 y0     \n\
 101 pand    i_00ffw, %%mm2  # get U even          00 u6 00 u4 00 u2 00 u0     \n\
 102 packuswb  %%mm2, %%mm2  # pack U              00 00 u2 u0 00 00 u2 u0     \n\
 103 pand    i_00ffw, %%mm3  # get V even          00 v6 00 v4 00 v2 00 v0     \n\
 104 packuswb  %%mm3, %%mm3  # pack V              00 00 v2 v0 00 00 v2 v0     \n\
 105 punpcklbw %%mm3, %%mm2  #                     00 00 00 00 v2 u2 v0 u0     \n\
 106 psubsw    i_80w, %%mm2  # U,V -= 128                                      \n\
 107 punpcklbw %%mm2, %%mm0  #                     v2 y6 u2 y4 v0 y2 u0 y0     \n\
 108 movq      %%mm0, (%0)   # Store YUYV                                      \n\
 109 pand    i_00ffw, %%mm1  # get Y even          00 Y6 00 Y4 00 Y2 00 Y0     \n\
 110 packuswb  %%mm1, %%mm1  # pack Y              Y6 Y4 Y2 Y0 Y6 Y4 Y2 Y0     \n\
 111 punpcklbw %%mm2, %%mm1  #                     v2 Y6 u2 Y4 v0 Y2 u0 Y0     \n\
 112 movq      %%mm1, (%1)   # Store YUYV                                      \n\
 113 "
 114
 115 #elif defined( MODULE_NAME_IS_i420_yuy2_sse2 )
 116
 117 /* SSE2 */
 118
 119 #define SSE2_CALL(SSE2_INSTRUCTIONS)   \
 120     do {                                                                    \
 121     __asm__ __volatile__(                                                   \
 122         ".p2align 3 \n\t"                                                   \
 123         SSE2_INSTRUCTIONS                                                   \
 124         :                                                                   \
 125         : "r" (p_line1),  "r" (p_line2),  "r" (p_y1),  "r" (p_y2),          \
 126           "r" (p_u), "r" (p_v) );                                           \
 127         p_line1 += 32; p_line2 += 32; p_y1 += 16; p_y2 += 16;               \
 128         p_u += 8; p_v += 8;                                                 \
 129     } while(0)
 130
 131 #define SSE2_YUV420_YUYV_ALIGNED "                                        \n\
 132 movq        (%4), %%xmm1  # Load 8 Cb         u7 u6 u5 u4 u3 u2 u1 u0     \n\
 133 movq        (%5), %%xmm2  # Load 8 Cr         v7 06 v5 v4 v3 v2 v1 v0     \n\
 134 movdqa      (%2), %%xmm0  # Load 16 Y         y15 y14 y13 .. y2 y1 y0     \n\
 135 movdqa      (%3), %%xmm3  # Load 16 Y         Y7 Y6 Y5 Y4 Y3 Y2 Y1 Y0     \n\
 136 punpcklbw %%xmm2, %%xmm1  #                   v7 u7 v6 u6 .. u1 v0 u0     \n\
 137 movdqa    %%xmm0, %%xmm2  #                   y15 y14 y13 .. y2 y1 y0     \n\
 138 punpcklbw %%xmm1, %%xmm2  #                   v3 y7 u3 .. v0 y1 u0 y0     \n\
 139 movdqa    %%xmm2, (%0)    # Store low YUYV                                \n\
 140 punpckhbw %%xmm1, %%xmm0  #                   v3 y7 u3 y6 v2 y5 u2 y4     \n\
 141 movdqa    %%xmm0, 16(%0)  # Store high YUYV                               \n\
 142 movdqa    %%xmm3, %%xmm4  #                   Y7 Y6 Y5 Y4 Y3 Y2 Y1 Y0     \n\
 143 punpcklbw %%xmm1, %%xmm4  #                   v1 Y3 u1 Y2 v0 Y1 u0 Y0     \n\
 144 movdqa    %%xmm4, (%1)    # Store low YUYV                                \n\
 145 punpckhbw %%xmm1, %%xmm3  #                   v3 Y7 u3 Y6 v2 Y5 u2 Y4     \n\
 146 movdqa    %%xmm3, 16(%1)  # Store high YUYV                               \n\
 147 "
 148
 149 #define SSE2_YUV420_YUYV_UNALIGNED "                                      \n\
 150 movq        (%4), %%xmm1  # Load 8 Cb         00 00 00 00 u3 u2 u1 u0     \n\
 151 movq        (%5), %%xmm2  # Load 8 Cr         00 00 00 00 v3 v2 v1 v0     \n\
 152 movdqu      (%2), %%xmm0  # Load 16 Y         y7 y6 y5 y4 y3 y2 y1 y0     \n\
 153 movdqu      (%3), %%xmm3  # Load 16 Y         Y7 Y6 Y5 Y4 Y3 Y2 Y1 Y0     \n\
 154 punpcklbw %%xmm2, %%xmm1  #                   v3 u3 v2 u2 v1 u1 v0 u0     \n\
 155 movdqa    %%xmm0, %%xmm2  #                   y7 y6 y5 y4 y3 y2 y1 y0     \n\
 156 punpcklbw %%xmm1, %%xmm2  #                   v1 y3 u1 y2 v0 y1 u0 y0     \n\
 157 movdqu    %%xmm2, (%0)    # Store low YUYV                                \n\
 158 punpckhbw %%xmm1, %%xmm0  #                   v3 y7 u3 y6 v2 y5 u2 y4     \n\
 159 movdqu    %%xmm0, 16(%0)  # Store high YUYV                               \n\
 160 movdqa    %%xmm3, %%xmm4  #                   Y7 Y6 Y5 Y4 Y3 Y2 Y1 Y0     \n\
 161 punpcklbw %%xmm1, %%xmm4  #                   v1 Y3 u1 Y2 v0 Y1 u0 Y0     \n\
 162 movdqu    %%xmm4, (%1)    # Store low YUYV                                \n\
 163 punpckhbw %%xmm1, %%xmm3  #                   v3 Y7 u3 Y6 v2 Y5 u2 Y4     \n\
 164 movdqu    %%xmm3, 16(%1)  # Store high YUYV                               \n\
 165 "
 166
 167 #define SSE2_YUV420_YVYU_ALIGNED "                                          \n\
 168 movq        (%4), %%xmm2  # Load 8 Cb           00 00 00 00 u3 u2 u1 u0     \n\
 169 movq        (%5), %%xmm1  # Load 8 Cr           00 00 00 00 v3 v2 v1 v0     \n\
 170 movdqa      (%2), %%xmm0  # Load 16 Y           y7 y6 y5 y4 y3 y2 y1 y0     \n\
 171 movdqa      (%3), %%xmm3  # Load 16 Y           Y7 Y6 Y5 Y4 Y3 Y2 Y1 Y0     \n\
 172 punpcklbw %%xmm2, %%xmm1  #                     u3 v3 u2 v2 u1 v1 u0 v0     \n\
 173 movdqa    %%xmm0, %%xmm2  #                     y7 y6 y5 y4 y3 y2 y1 y0     \n\
 174 punpcklbw %%xmm1, %%xmm2  #                     u1 y3 v1 y2 u0 y1 v0 y0     \n\
 175 movdqa    %%xmm2, (%0)    # Store low YUYV                                  \n\
 176 punpckhbw %%xmm1, %%xmm0  #                     u3 y7 v3 y6 u2 y5 v2 y4     \n\
 177 movdqa    %%xmm0, 16(%0)  # Store high YUYV                                 \n\
 178 movdqa    %%xmm3, %%xmm4  #                     Y7 Y6 Y5 Y4 Y3 Y2 Y1 Y0     \n\
 179 punpcklbw %%xmm1, %%xmm4  #                     u1 Y3 v1 Y2 u0 Y1 v0 Y0     \n\
 180 movdqa    %%xmm4, (%1)    # Store low YUYV                                  \n\
 181 punpckhbw %%xmm1, %%xmm3  #                     u3 Y7 v3 Y6 u2 Y5 v2 Y4     \n\
 182 movdqa    %%xmm3, 16(%1)  # Store high YUYV                                 \n\
 183 "
 184
 185 #define SSE2_YUV420_YVYU_UNALIGNED "                                        \n\
 186 movq        (%4), %%xmm2  # Load 8 Cb           00 00 00 00 u3 u2 u1 u0     \n\
 187 movq        (%5), %%xmm1  # Load 8 Cr           00 00 00 00 v3 v2 v1 v0     \n\
 188 movdqu      (%2), %%xmm0  # Load 16 Y           y7 y6 y5 y4 y3 y2 y1 y0     \n\
 189 movdqu      (%3), %%xmm3  # Load 16 Y           Y7 Y6 Y5 Y4 Y3 Y2 Y1 Y0     \n\
 190 punpcklbw %%xmm2, %%xmm1  #                     u3 v3 u2 v2 u1 v1 u0 v0     \n\
 191 movdqu    %%xmm0, %%xmm2  #                     y7 y6 y5 y4 y3 y2 y1 y0     \n\
 192 punpcklbw %%xmm1, %%xmm2  #                     u1 y3 v1 y2 u0 y1 v0 y0     \n\
 193 movdqu    %%xmm2, (%0)    # Store low YUYV                                  \n\
 194 punpckhbw %%xmm1, %%xmm0  #                     u3 y7 v3 y6 u2 y5 v2 y4     \n\
 195 movdqu    %%xmm0, 16(%0)  # Store high YUYV                                 \n\
 196 movdqu    %%xmm3, %%xmm4  #                     Y7 Y6 Y5 Y4 Y3 Y2 Y1 Y0     \n\
 197 punpcklbw %%xmm1, %%xmm4  #                     u1 Y3 v1 Y2 u0 Y1 v0 Y0     \n\
 198 movdqu    %%xmm4, (%1)    # Store low YUYV                                  \n\
 199 punpckhbw %%xmm1, %%xmm3  #                     u3 Y7 v3 Y6 u2 Y5 v2 Y4     \n\
 200 movdqu    %%xmm3, 16(%1)  # Store high YUYV                                 \n\
 201 "
 202
 203 #define SSE2_YUV420_UYVY_ALIGNED "                                          \n\
 204 movq        (%4), %%xmm1  # Load 8 Cb           00 00 00 00 u3 u2 u1 u0     \n\
 205 movq        (%5), %%xmm2  # Load 8 Cr           00 00 00 00 v3 v2 v1 v0     \n\
 206 movdqa      (%2), %%xmm0  # Load 16 Y           y7 y6 y5 y4 y3 y2 y1 y0     \n\
 207 movdqa      (%3), %%xmm3  # Load 16 Y           Y7 Y6 Y5 Y4 Y3 Y2 Y1 Y0     \n\
 208 punpcklbw %%xmm2, %%xmm1  #                     v3 u3 v2 u2 v1 u1 v0 u0     \n\
 209 movdqa    %%xmm1, %%xmm2  #                     v3 u3 v2 u2 v1 u1 v0 u0     \n\
 210 punpcklbw %%xmm0, %%xmm2  #                     y3 v1 y2 u1 y1 v0 y0 u0     \n\
 211 movdqa    %%xmm2, (%0)    # Store low UYVY                                  \n\
 212 movdqa    %%xmm1, %%xmm2  #                     u3 v3 u2 v2 u1 v1 u0 v0     \n\
 213 punpckhbw %%xmm0, %%xmm2  #                     y3 v1 y2 u1 y1 v0 y0 u0     \n\
 214 movdqa    %%xmm2, 16(%0)  # Store high UYVY                                 \n\
 215 movdqa    %%xmm1, %%xmm4  #                     u3 v3 u2 v2 u1 v1 u0 v0     \n\
 216 punpcklbw %%xmm3, %%xmm4  #                     Y3 v1 Y2 u1 Y1 v0 Y0 u0     \n\
 217 movdqa    %%xmm4, (%1)    # Store low UYVY                                  \n\
 218 punpckhbw %%xmm3, %%xmm1  #                     Y7 v3 Y6 u3 Y5 v2 Y4 u2     \n\
 219 movdqa    %%xmm1, 16(%1)  # Store high UYVY                                 \n\
 220 "
 221
 222 #define SSE2_YUV420_UYVY_UNALIGNED "                                        \n\
 223 movq        (%4), %%xmm1  # Load 8 Cb           00 00 00 00 u3 u2 u1 u0     \n\
 224 movq        (%5), %%xmm2  # Load 8 Cr           00 00 00 00 v3 v2 v1 v0     \n\
 225 movdqu      (%2), %%xmm0  # Load 16 Y           y7 y6 y5 y4 y3 y2 y1 y0     \n\
 226 movdqu      (%3), %%xmm3  # Load 16 Y           Y7 Y6 Y5 Y4 Y3 Y2 Y1 Y0     \n\
 227 punpcklbw %%xmm2, %%xmm1  #                     v3 u3 v2 u2 v1 u1 v0 u0     \n\
 228 movdqu    %%xmm1, %%xmm2  #                     v3 u3 v2 u2 v1 u1 v0 u0     \n\
 229 punpcklbw %%xmm0, %%xmm2  #                     y3 v1 y2 u1 y1 v0 y0 u0     \n\
 230 movdqu    %%xmm2, (%0)    # Store low UYVY                                  \n\
 231 movdqu    %%xmm1, %%xmm2  #                     u3 v3 u2 v2 u1 v1 u0 v0     \n\
 232 punpckhbw %%xmm0, %%xmm2  #                     y3 v1 y2 u1 y1 v0 y0 u0     \n\
 233 movdqu    %%xmm2, 16(%0)  # Store high UYVY                                 \n\
 234 movdqu    %%xmm1, %%xmm4  #                     u3 v3 u2 v2 u1 v1 u0 v0     \n\
 235 punpcklbw %%xmm3, %%xmm4  #                     Y3 v1 Y2 u1 Y1 v0 Y0 u0     \n\
 236 movdqu    %%xmm4, (%1)    # Store low UYVY                                  \n\
 237 punpckhbw %%xmm3, %%xmm1  #                     Y7 v3 Y6 u3 Y5 v2 Y4 u2     \n\
 238 movdqu    %%xmm1, 16(%1)  # Store high UYVY                                 \n\
 239 "
 240
 241 #endif
 242
 243 /* Used in both accelerated and C modules */
 244
 245 #define C_YUV420_YVYU( )                                                    \
 246     *(p_line1)++ = *(p_y1)++; *(p_line2)++ = *(p_y2)++;                     \
 247     *(p_line1)++ =            *(p_line2)++ = *(p_v)++;                      \
 248     *(p_line1)++ = *(p_y1)++; *(p_line2)++ = *(p_y2)++;                     \
 249     *(p_line1)++ =            *(p_line2)++ = *(p_u)++;                      \
 250
 251 #define C_YUV420_Y211( )                                                    \
 252     *(p_line1)++ = *(p_y1); p_y1 += 2;                                      \
 253     *(p_line2)++ = *(p_y2); p_y2 += 2;                                      \
 254     *(p_line1)++ = *(p_line2)++ = *(p_u) - 0x80; p_u += 2;                  \
 255     *(p_line1)++ = *(p_y1); p_y1 += 2;                                      \
 256     *(p_line2)++ = *(p_y2); p_y2 += 2;                                      \
 257     *(p_line1)++ = *(p_line2)++ = *(p_v) - 0x80; p_v += 2;                  \
 258
 259
 260 #define C_YUV420_YUYV( )                                                    \
 261     *(p_line1)++ = *(p_y1)++; *(p_line2)++ = *(p_y2)++;                     \
 262     *(p_line1)++ =            *(p_line2)++ = *(p_u)++;                      \
 263     *(p_line1)++ = *(p_y1)++; *(p_line2)++ = *(p_y2)++;                     \
 264     *(p_line1)++ =            *(p_line2)++ = *(p_v)++;                      \
 265
 266 #define C_YUV420_UYVY( )                                                    \
 267     *(p_line1)++ =            *(p_line2)++ = *(p_u)++;                      \
 268     *(p_line1)++ = *(p_y1)++; *(p_line2)++ = *(p_y2)++;                     \
 269     *(p_line1)++ =            *(p_line2)++ = *(p_v)++;                      \
 270     *(p_line1)++ = *(p_y1)++; *(p_line2)++ = *(p_y2)++;                     \
 271