git.sesse.net Git - vlc/blob - modules/codec/avcodec/deinterlace.c

   1 /*****************************************************************************
   2  * video filter: video filter doing chroma conversion and resizing
   3  *               using the ffmpeg library
   4  *****************************************************************************
   5  * Copyright (C) 1999-2001 the VideoLAN team
   6  * $Id$
   7  *
   8  * Authors: Gildas Bazin <gbazin@videolan.org>
   9  *
  10  * This program is free software; you can redistribute it and/or modify
  11  * it under the terms of the GNU General Public License as published by
  12  * the Free Software Foundation; either version 2 of the License, or
  13  * (at your option) any later version.
  14  *
  15  * This program is distributed in the hope that it will be useful,
  16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  18  * GNU General Public License for more details.
  19  *
  20  * You should have received a copy of the GNU General Public License
  21  * along with this program; if not, write to the Free Software
  22  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
  23  *****************************************************************************/
  24
  25 /*****************************************************************************
  26  * Preamble
  27  *****************************************************************************/
  28 #ifdef HAVE_CONFIG_H
  29 # include "config.h"
  30 #endif
  31
  32 #include <vlc_common.h>
  33 #include <vlc_codec.h>
  34 #include <vlc_vout.h>
  35 #include <vlc_filter.h>
  36
  37 /* ffmpeg header */
  38 #ifdef HAVE_LIBAVCODEC_AVCODEC_H
  39 #   include <libavcodec/avcodec.h>
  40 #elif defined(HAVE_FFMPEG_AVCODEC_H)
  41 #   include <ffmpeg/avcodec.h>
  42 #else
  43 #   include <avcodec.h>
  44 #endif
  45
  46 #include "avcodec.h"
  47
  48 static picture_t *Deinterlace( filter_t *p_filter, picture_t *p_pic );
  49
  50 /*****************************************************************************
  51  * filter_sys_t : filter descriptor
  52  *****************************************************************************/
  53 struct filter_sys_t
  54 {
  55     bool b_resize;
  56     bool b_convert;
  57     bool b_resize_first;
  58     bool b_enable_croppadd;
  59
  60     es_format_t fmt_in;
  61     int i_src_ffmpeg_chroma;
  62     es_format_t fmt_out;
  63     int i_dst_ffmpeg_chroma;
  64
  65     AVPicture tmp_pic;
  66 };
  67
  68 /*****************************************************************************
  69  * OpenDeinterlace: probe the filter and return score
  70  *****************************************************************************/
  71 int OpenDeinterlace( vlc_object_t *p_this )
  72 {
  73     filter_t *p_filter = (filter_t*)p_this;
  74     filter_sys_t *p_sys;
  75
  76     /* Check if we can handle that formats */
  77     if( TestFfmpegChroma( -1, p_filter->fmt_in.i_codec  ) != VLC_SUCCESS )
  78     {
  79         msg_Err( p_filter, "Failed to match chroma type" );
  80         return VLC_EGENERIC;
  81     }
  82
  83     /* Allocate the memory needed to store the decoder's structure */
  84     if( ( p_filter->p_sys = p_sys =
  85           (filter_sys_t *)malloc(sizeof(filter_sys_t)) ) == NULL )
  86     {
  87         return VLC_EGENERIC;
  88     }
  89
  90     /* Misc init */
  91     p_filter->fmt_in.video.i_chroma = p_filter->fmt_in.i_codec;
  92     if( GetFfmpegChroma( &p_sys->i_src_ffmpeg_chroma, p_filter->fmt_in.video ) != VLC_SUCCESS )
  93     {
  94         msg_Err( p_filter, "Failed to match chroma type" );
  95         return VLC_EGENERIC;
  96     }
  97     p_filter->pf_video_filter = Deinterlace;
  98
  99     msg_Dbg( p_filter, "deinterlacing" );
 100
 101     /* libavcodec needs to be initialized for some chroma conversions */
 102     InitLibavcodec(p_this);
 103
 104     return VLC_SUCCESS;
 105 }
 106
 107 /*****************************************************************************
 108  * CloseDeinterlace: clean up the filter
 109  *****************************************************************************/
 110 void CloseDeinterlace( vlc_object_t *p_this )
 111 {
 112     filter_t *p_filter = (filter_t*)p_this;
 113     filter_sys_t *p_sys = p_filter->p_sys;
 114
 115     free( p_sys );
 116 }
 117
 118 /*****************************************************************************
 119  * Do the processing here
 120  *****************************************************************************/
 121 static picture_t *Deinterlace( filter_t *p_filter, picture_t *p_pic )
 122 {
 123     filter_sys_t *p_sys = p_filter->p_sys;
 124     AVPicture src_pic, dest_pic;
 125     picture_t *p_pic_dst;
 126     int i, i_res = -1;
 127
 128     /* Request output picture */
 129     p_pic_dst = filter_NewPicture( p_filter );
 130     if( !p_pic_dst )
 131     {
 132         picture_Release( p_pic );
 133         return NULL;
 134     }
 135
 136     /* Prepare the AVPictures for the conversion */
 137     for( i = 0; i < p_pic->i_planes; i++ )
 138     {
 139         src_pic.data[i] = p_pic->p[i].p_pixels;
 140         src_pic.linesize[i] = p_pic->p[i].i_pitch;
 141     }
 142     for( i = 0; i < p_pic_dst->i_planes; i++ )
 143     {
 144         dest_pic.data[i] = p_pic_dst->p[i].p_pixels;
 145         dest_pic.linesize[i] = p_pic_dst->p[i].i_pitch;
 146     }
 147
 148     i_res = avpicture_deinterlace( &dest_pic, &src_pic, p_sys->i_src_ffmpeg_chroma,
 149                                    p_filter->fmt_in.video.i_width,
 150                                    p_filter->fmt_in.video.i_height );
 151     if( i_res == -1 )
 152     {
 153         msg_Err( p_filter, "deinterlacing picture failed" );
 154         filter_DeletePicture( p_filter, p_pic_dst );
 155         picture_Release( p_pic );
 156         return NULL;
 157     }
 158
 159     picture_CopyProperties( p_pic_dst, p_pic );
 160     p_pic_dst->b_progressive = true;
 161     picture_Release( p_pic );
 162     return p_pic_dst;
 163 }