git.sesse.net Git - ffmpeg/blob - libavfilter/libmpcodecs/vf_palette.c

   1 /*
   2  * This file is part of MPlayer.
   3  *
   4  * MPlayer is free software; you can redistribute it and/or modify
   5  * it under the terms of the GNU General Public License as published by
   6  * the Free Software Foundation; either version 2 of the License, or
   7  * (at your option) any later version.
   8  *
   9  * MPlayer is distributed in the hope that it will be useful,
  10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12  * GNU General Public License for more details.
  13  *
  14  * You should have received a copy of the GNU General Public License along
  15  * with MPlayer; if not, write to the Free Software Foundation, Inc.,
  16  * 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA.
  17  */
  18
  19 #define _BSD_SOURCE //strcasecmp
  20 #include <stdio.h>
  21 #include <stdlib.h>
  22 #include <string.h>
  23 #include <inttypes.h>
  24
  25 #include "config.h"
  26 #include "mp_msg.h"
  27 #include "help_mp.h"
  28
  29 #include "img_format.h"
  30 #include "mp_image.h"
  31 #include "vf.h"
  32 #include "mpbswap.h"
  33
  34 #include "libswscale/swscale.h"
  35
  36 //===========================================================================//
  37
  38 // commented out 16 and 15 bit output support, because the conversion
  39 // routines are incorrrect.  they assume the palette to be of the same
  40 // depth as the output, which is incorrect. --Joey
  41
  42 static const unsigned int bgr_list[]={
  43     IMGFMT_BGR32,
  44     IMGFMT_BGR24,
  45 //    IMGFMT_BGR16,
  46 //    IMGFMT_BGR15,
  47     0
  48 };
  49 static const unsigned int rgb_list[]={
  50     IMGFMT_RGB32,
  51     IMGFMT_RGB24,
  52 //    IMGFMT_RGB16,
  53 //    IMGFMT_RGB15,
  54     0
  55 };
  56
  57 /**
  58  * Palette is assumed to contain BGR16, see rgb32to16 to convert the palette.
  59  */
  60 static void palette8torgb16(const uint8_t *src, uint8_t *dst, long num_pixels, const uint8_t *palette)
  61 {
  62     long i;
  63     for (i=0; i<num_pixels; i++)
  64         ((uint16_t *)dst)[i] = ((const uint16_t *)palette)[src[i]];
  65 }
  66
  67 static void palette8tobgr16(const uint8_t *src, uint8_t *dst, long num_pixels, const uint8_t *palette)
  68 {
  69     long i;
  70     for (i=0; i<num_pixels; i++)
  71         ((uint16_t *)dst)[i] = bswap_16(((const uint16_t *)palette)[src[i]]);
  72 }
  73
  74 static unsigned int gray_pal[256];
  75
  76 static unsigned int find_best(struct vf_instance *vf, unsigned int fmt){
  77     unsigned int best=0;
  78     int ret;
  79     const unsigned int* p;
  80     if(fmt==IMGFMT_BGR8) p=bgr_list;
  81     else if(fmt==IMGFMT_RGB8) p=rgb_list;
  82     else return 0;
  83     while(*p){
  84         ret=vf->next->query_format(vf->next,*p);
  85         mp_msg(MSGT_VFILTER,MSGL_DBG2,"[%s] query(%s) -> %d\n",vf->info->name,vo_format_name(*p),ret&3);
  86         if(ret&VFCAP_CSP_SUPPORTED_BY_HW){ best=*p; break;} // no conversion -> bingo!
  87         if(ret&VFCAP_CSP_SUPPORTED && !best) best=*p; // best with conversion
  88         ++p;
  89     }
  90     return best;
  91 }
  92
  93 //===========================================================================//
  94
  95 struct vf_priv_s {
  96     unsigned int fmt;
  97     int pal_msg;
  98 };
  99
 100 static int config(struct vf_instance *vf,
 101         int width, int height, int d_width, int d_height,
 102         unsigned int flags, unsigned int outfmt){
 103     if (!vf->priv->fmt)
 104         vf->priv->fmt=find_best(vf,outfmt);
 105     if(!vf->priv->fmt){
 106         // no matching fmt, so force one...
 107         if(outfmt==IMGFMT_RGB8) vf->priv->fmt=IMGFMT_RGB32;
 108         else if(outfmt==IMGFMT_BGR8) vf->priv->fmt=IMGFMT_BGR32;
 109         else return 0;
 110     }
 111     return vf_next_config(vf,width,height,d_width,d_height,flags,vf->priv->fmt);
 112 }
 113
 114 static int put_image(struct vf_instance *vf, mp_image_t *mpi, double pts){
 115     mp_image_t *dmpi;
 116     uint8_t *old_palette = mpi->planes[1];
 117
 118     // hope we'll get DR buffer:
 119     dmpi=vf_get_image(vf->next,vf->priv->fmt,
 120         MP_IMGTYPE_TEMP, MP_IMGFLAG_ACCEPT_STRIDE,
 121         mpi->w, mpi->h);
 122
 123     if (!mpi->planes[1])
 124     {
 125         if(!vf->priv->pal_msg){
 126             mp_msg(MSGT_VFILTER,MSGL_V,"[%s] no palette given, assuming builtin grayscale one\n",vf->info->name);
 127             vf->priv->pal_msg=1;
 128         }
 129         mpi->planes[1] = (unsigned char*)gray_pal;
 130     }
 131
 132     if(mpi->w==mpi->stride[0] && dmpi->w*(dmpi->bpp>>3)==dmpi->stride[0]){
 133         // no stride conversion needed
 134         switch(IMGFMT_RGB_DEPTH(dmpi->imgfmt)){
 135         case 15:
 136         case 16:
 137             if (IMGFMT_IS_BGR(dmpi->imgfmt))
 138                 palette8tobgr16(mpi->planes[0],dmpi->planes[0],mpi->h*mpi->w,mpi->planes[1]);
 139             else
 140                 palette8torgb16(mpi->planes[0],dmpi->planes[0],mpi->h*mpi->w,mpi->planes[1]);
 141             break;
 142         case 24:
 143             if (IMGFMT_IS_BGR(dmpi->imgfmt))
 144                 sws_convertPalette8ToPacked24(mpi->planes[0],dmpi->planes[0],mpi->h*mpi->w,mpi->planes[1]);
 145             else
 146                 sws_convertPalette8ToPacked24(mpi->planes[0],dmpi->planes[0],mpi->h*mpi->w,mpi->planes[1]);
 147             break;
 148         case 32:
 149             if (IMGFMT_IS_BGR(dmpi->imgfmt))
 150                 sws_convertPalette8ToPacked32(mpi->planes[0],dmpi->planes[0],mpi->h*mpi->w,mpi->planes[1]);
 151             else
 152                 sws_convertPalette8ToPacked32(mpi->planes[0],dmpi->planes[0],mpi->h*mpi->w,mpi->planes[1]);
 153             break;
 154         }
 155     } else {
 156         int y;
 157         for(y=0;y<mpi->h;y++){
 158             unsigned char* src=mpi->planes[0]+y*mpi->stride[0];
 159             unsigned char* dst=dmpi->planes[0]+y*dmpi->stride[0];
 160             switch(IMGFMT_RGB_DEPTH(dmpi->imgfmt)){
 161             case 15:
 162             case 16:
 163                 if (IMGFMT_IS_BGR(dmpi->imgfmt))
 164                     palette8tobgr16(src,dst,mpi->w,mpi->planes[1]);
 165                 else
 166                     palette8torgb16(src,dst,mpi->w,mpi->planes[1]);
 167                 break;
 168             case 24:
 169                 if (IMGFMT_IS_BGR(dmpi->imgfmt))
 170                     sws_convertPalette8ToPacked24(src,dst,mpi->w,mpi->planes[1]);
 171                 else
 172                     sws_convertPalette8ToPacked24(src,dst,mpi->w,mpi->planes[1]);
 173                 break;
 174             case 32:
 175                 if (IMGFMT_IS_BGR(dmpi->imgfmt))
 176                     sws_convertPalette8ToPacked32(src,dst,mpi->w,mpi->planes[1]);
 177                 else
 178                     sws_convertPalette8ToPacked32(src,dst,mpi->w,mpi->planes[1]);
 179                 break;
 180             }
 181         }
 182     }
 183     mpi->planes[1] = old_palette;
 184
 185     return vf_next_put_image(vf,dmpi, pts);
 186 }
 187
 188 //===========================================================================//
 189
 190 static int query_format(struct vf_instance *vf, unsigned int fmt){
 191     int best=find_best(vf,fmt);
 192     if(!best) return 0; // no match
 193     return vf->next->query_format(vf->next,best);
 194 }
 195
 196 static void uninit(vf_instance_t *vf) {
 197   free(vf->priv);
 198 }
 199
 200 static int vf_open(vf_instance_t *vf, char *args){
 201     unsigned int i;
 202     vf->config=config;
 203     vf->uninit=uninit;
 204     vf->put_image=put_image;
 205     vf->query_format=query_format;
 206     vf->priv=malloc(sizeof(struct vf_priv_s));
 207     memset(vf->priv, 0, sizeof(struct vf_priv_s));
 208     for(i=0;i<256;i++) gray_pal[i]=0x01010101*i;
 209     if (args)
 210     {
 211         if (!strcasecmp(args,"rgb15")) vf->priv->fmt=IMGFMT_RGB15; else
 212         if (!strcasecmp(args,"rgb16")) vf->priv->fmt=IMGFMT_RGB16; else
 213         if (!strcasecmp(args,"rgb24")) vf->priv->fmt=IMGFMT_RGB24; else
 214         if (!strcasecmp(args,"rgb32")) vf->priv->fmt=IMGFMT_RGB32; else
 215         if (!strcasecmp(args,"bgr15")) vf->priv->fmt=IMGFMT_BGR15; else
 216         if (!strcasecmp(args,"bgr16")) vf->priv->fmt=IMGFMT_BGR16; else
 217         if (!strcasecmp(args,"bgr24")) vf->priv->fmt=IMGFMT_BGR24; else
 218         if (!strcasecmp(args,"bgr32")) vf->priv->fmt=IMGFMT_BGR32; else
 219         {
 220             mp_msg(MSGT_VFILTER, MSGL_WARN, MSGTR_MPCODECS_UnknownFormatName, args);
 221             return 0;
 222         }
 223     }
 224     return 1;
 225 }
 226
 227 const vf_info_t vf_info_palette = {
 228     "8bpp indexed (using palette) -> BGR 15/16/24/32 conversion",
 229     "palette",
 230     "A'rpi & Alex",
 231     "",
 232     vf_open,
 233     NULL
 234 };
 235
 236 //===========================================================================//