git.sesse.net Git - vlc/blob - modules/codec/avcodec/chroma.c

   1 /*****************************************************************************
   2  * chroma.c: libavutil <-> libvlc conversion routines
   3  *****************************************************************************
   4  * Copyright (C) 1999-2008 the VideoLAN team
   5  * $Id$
   6  *
   7  * Authors: Laurent Aimar <fenrir@via.ecp.fr>
   8  *          Gildas Bazin <gbazin@videolan.org>
   9  *
  10  * This program is free software; you can redistribute it and/or modify
  11  * it under the terms of the GNU General Public License as published by
  12  * the Free Software Foundation; either version 2 of the License, or
  13  * (at your option) any later version.
  14  *
  15  * This program is distributed in the hope that it will be useful,
  16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  18  * GNU General Public License for more details.
  19  *
  20  * You should have received a copy of the GNU General Public License
  21  * along with this program; if not, write to the Free Software
  22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 021100301, USA.
  23  *****************************************************************************/
  24
  25 #ifdef HAVE_CONFIG_H
  26 # include <config.h>
  27 #endif
  28
  29 #include <vlc_common.h>
  30 #include <vlc_codec.h>
  31
  32 #ifdef HAVE_LIBAVCODEC_AVCODEC_H
  33 #   include <libavcodec/avcodec.h>
  34 #elif defined(HAVE_FFMPEG_AVCODEC_H)
  35 #   include <ffmpeg/avcodec.h>
  36 #else
  37 #   include <avcodec.h>
  38 #endif
  39 #include "avcodec.h"
  40
  41 /*****************************************************************************
  42  * Chroma fourcc -> ffmpeg_id mapping
  43  *****************************************************************************/
  44 #if defined(WORDS_BIGENDIAN)
  45 #   define VLC_RGB_ES( fcc, leid, beid ) \
  46     { fcc, beid, 0, 0, 0 },
  47 #else
  48 #   define VLC_RGB_ES( fcc, leid, beid ) \
  49     { fcc, leid, 0, 0, 0 },
  50 #endif
  51
  52 #define VLC_RGB( fcc, leid, beid, rmask, gmask, bmask ) \
  53     { fcc, leid, rmask, gmask, bmask }, \
  54     { fcc, beid, bmask, gmask, rmask }, \
  55     VLC_RGB_ES( fcc, leid, beid )
  56
  57
  58 static const struct
  59 {
  60     vlc_fourcc_t  i_chroma;
  61     int           i_chroma_id;
  62     uint32_t      i_rmask;
  63     uint32_t      i_gmask;
  64     uint32_t      i_bmask;
  65
  66 } chroma_table[] =
  67 {
  68     /* Planar YUV formats */
  69     {VLC_FOURCC('I','4','4','4'), PIX_FMT_YUV444P, 0, 0, 0 },
  70     {VLC_FOURCC('J','4','4','4'), PIX_FMT_YUVJ444P, 0, 0, 0 },
  71
  72 #if LIBAVUTIL_VERSION_INT >= ((49<<16)+(5<<8)+0)
  73     {VLC_FOURCC('I','4','4','0'), PIX_FMT_YUV440P, 0, 0, 0 },
  74     {VLC_FOURCC('J','4','4','0'), PIX_FMT_YUVJ440P, 0, 0, 0 },
  75 #endif
  76
  77     {VLC_FOURCC('I','4','2','2'), PIX_FMT_YUV422P, 0, 0, 0 },
  78     {VLC_FOURCC('J','4','2','2'), PIX_FMT_YUVJ422P, 0, 0, 0 },
  79
  80     {VLC_FOURCC('I','4','2','0'), PIX_FMT_YUV420P, 0, 0, 0 },
  81     {VLC_FOURCC('Y','V','1','2'), PIX_FMT_YUV420P, 0, 0, 0 },
  82     {VLC_FOURCC('I','Y','U','V'), PIX_FMT_YUV420P, 0, 0, 0 },
  83     {VLC_FOURCC('J','4','2','0'), PIX_FMT_YUVJ420P, 0, 0, 0 },
  84     {VLC_FOURCC('I','4','1','1'), PIX_FMT_YUV411P, 0, 0, 0 },
  85     {VLC_FOURCC('I','4','1','0'), PIX_FMT_YUV410P, 0, 0, 0 },
  86     {VLC_FOURCC('Y','V','U','9'), PIX_FMT_YUV410P, 0, 0, 0 },
  87
  88     {VLC_FOURCC('N','V','1','2'), PIX_FMT_NV12, 0, 0, 0 },
  89     {VLC_FOURCC('N','V','2','1'), PIX_FMT_NV21, 0, 0, 0 },
  90
  91     /* Packed YUV formats */
  92     {VLC_FOURCC('Y','U','Y','2'), PIX_FMT_YUYV422, 0, 0, 0 },
  93     {VLC_FOURCC('Y','U','Y','V'), PIX_FMT_YUYV422, 0, 0, 0 },
  94     {VLC_FOURCC('U','Y','V','Y'), PIX_FMT_UYVY422, 0, 0, 0 },
  95     {VLC_FOURCC('Y','4','1','1'), PIX_FMT_UYYVYY411, 0, 0, 0 },
  96
  97     /* Packed RGB formats */
  98     VLC_RGB( VLC_FOURCC('R','G','B','4'), PIX_FMT_RGB4, PIX_FMT_BGR4, 0x10, 0x06, 0x01 )
  99     VLC_RGB( VLC_FOURCC('R','G','B','8'), PIX_FMT_RGB8, PIX_FMT_BGR8, 0xC0, 0x38, 0x07 )
 100
 101     VLC_RGB( VLC_FOURCC('R','V','1','5'), PIX_FMT_BGR555, PIX_FMT_RGB555, 0x7c00, 0x03e0, 0x001f )
 102     VLC_RGB( VLC_FOURCC('R','V','1','6'), PIX_FMT_BGR565, PIX_FMT_RGB565, 0xf800, 0x07e0, 0x001f )
 103     VLC_RGB( VLC_FOURCC('R','V','2','4'), PIX_FMT_BGR24, PIX_FMT_RGB24, 0xff0000, 0x00ff00, 0x0000ff )
 104
 105     VLC_RGB( VLC_FOURCC('R','V','3','2'), PIX_FMT_RGB32, PIX_FMT_BGR32, 0x00ff0000, 0x0000ff00, 0x000000ff )
 106     VLC_RGB( VLC_FOURCC('R','V','3','2'), PIX_FMT_RGB32_1, PIX_FMT_BGR32_1, 0xff000000, 0x00ff0000, 0x0000ff00 )
 107
 108 #if defined(PIX_FMT_RGBA)
 109     {VLC_FOURCC('R','G','B','A'), PIX_FMT_RGBA, 0xff000000, 0x00ff0000, 0x0000ff00},
 110 #endif
 111     {VLC_FOURCC('G','R','E','Y'), PIX_FMT_GRAY8, 0, 0, 0},
 112
 113      /* Paletized RGB */
 114     {VLC_FOURCC('R','G','B','P'), PIX_FMT_PAL8, 0, 0, 0},
 115
 116
 117     { 0, 0, 0, 0, 0 }
 118 };
 119
 120 int TestFfmpegChroma( const int i_ffmpeg_id, const vlc_fourcc_t i_vlc_fourcc )
 121 {
 122     for( int i = 0; chroma_table[i].i_chroma != 0; i++ )
 123     {
 124         if( chroma_table[i].i_chroma == i_vlc_fourcc || chroma_table[i].i_chroma_id == i_ffmpeg_id )
 125             return VLC_SUCCESS;
 126     }
 127     return VLC_EGENERIC;
 128 }
 129
 130 /* FIXME special case the RGB formats */
 131 int GetFfmpegChroma( int *i_ffmpeg_chroma, const video_format_t fmt )
 132 {
 133     for( int i = 0; chroma_table[i].i_chroma != 0; i++ )
 134     {
 135         if( chroma_table[i].i_chroma == fmt.i_chroma )
 136         {
 137             if( chroma_table[i].i_rmask == fmt.i_rmask &&
 138                 chroma_table[i].i_gmask == fmt.i_gmask &&
 139                 chroma_table[i].i_bmask == fmt.i_bmask )
 140             {
 141                 *i_ffmpeg_chroma = chroma_table[i].i_chroma_id;
 142                 return VLC_SUCCESS;
 143             }
 144         }
 145     }
 146     return VLC_EGENERIC;
 147 }
 148
 149 int GetVlcChroma( video_format_t *fmt, const int i_ffmpeg_chroma )
 150 {
 151     /* TODO FIXME for rgb format we HAVE to set rgb mask/shift */
 152     for( int i = 0; chroma_table[i].i_chroma != 0; i++ )
 153     {
 154         if( chroma_table[i].i_chroma_id == i_ffmpeg_chroma )
 155         {
 156             fmt->i_rmask = chroma_table[i].i_rmask;
 157             fmt->i_gmask = chroma_table[i].i_gmask;
 158             fmt->i_bmask = chroma_table[i].i_bmask;
 159             fmt->i_chroma = chroma_table[i].i_chroma;
 160             return VLC_SUCCESS;
 161         }
 162     }
 163     return VLC_EGENERIC;
 164 }