git.sesse.net Git - vlc/blob - plugins/chroma/i420_rgb_c.h

   1 /*****************************************************************************
   2  * chroma_common.h: YUV transformation functions
   3  * Provides functions to perform the YUV conversion. The functions provided here
   4  * are a complete and portable C implementation, and may be replaced in certain
   5  * case by optimized functions.
   6  *****************************************************************************
   7  * Copyright (C) 1999, 2000 VideoLAN
   8  * $Id: i420_rgb_c.h,v 1.1 2002/01/04 14:01:34 sam Exp $
   9  *
  10  * Authors: Vincent Seguin <seguin@via.ecp.fr>
  11  *
  12  * This program is free software; you can redistribute it and/or modify
  13  * it under the terms of the GNU General Public License as published by
  14  * the Free Software Foundation; either version 2 of the License, or
  15  * (at your option) any later version.
  16  *
  17  * This program is distributed in the hope that it will be useful,
  18  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  19  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  20  * General Public License for more details.
  21  *
  22  * You should have received a copy of the GNU General Public
  23  * License along with this program; if not, write to the
  24  * Free Software Foundation, Inc., 59 Temple Place - Suite 330,
  25  * Boston, MA 02111-1307, USA.
  26  *****************************************************************************/
  27
  28 /*****************************************************************************
  29  * Constants
  30  *****************************************************************************/
  31
  32 /* Margins and offsets in conversion tables - Margins are used in case a RGB
  33  * RGB conversion would give a value outside the 0-255 range. Offsets have been
  34  * calculated to avoid using the same cache line for 2 tables. conversion tables
  35  * are 2*MARGIN + 256 long and stores pixels.*/
  36 #define RED_MARGIN      178
  37 #define GREEN_MARGIN    135
  38 #define BLUE_MARGIN     224
  39 #define RED_OFFSET      1501                                 /* 1323 to 1935 */
  40 #define GREEN_OFFSET    135                                      /* 0 to 526 */
  41 #define BLUE_OFFSET     818                                   /* 594 to 1298 */
  42 #define RGB_TABLE_SIZE  1935                             /* total table size */
  43
  44 #define GRAY_MARGIN     384
  45 #define GRAY_TABLE_SIZE 1024                             /* total table size */
  46
  47 #define PALETTE_TABLE_SIZE 2176          /* YUV -> 8bpp palette lookup table */
  48
  49 /* macros used for YUV pixel conversions */
  50 #define SHIFT 20
  51 #define U_GREEN_COEF    ((int)(-0.391 * (1<<SHIFT) / 1.164))
  52 #define U_BLUE_COEF     ((int)(2.018 * (1<<SHIFT) / 1.164))
  53 #define V_RED_COEF      ((int)(1.596 * (1<<SHIFT) / 1.164))
  54 #define V_GREEN_COEF    ((int)(-0.813 * (1<<SHIFT) / 1.164))
  55