git.sesse.net Git - vlc/blob - modules/codec/dmo/dmo.c

   1 /*****************************************************************************
   2  * dmo.c : DirectMedia Object decoder module for vlc
   3  *****************************************************************************
   4  * Copyright (C) 2002, 2003 the VideoLAN team
   5  * $Id$
   6  *
   7  * Author: Gildas Bazin <gbazin@videolan.org>
   8  *
   9  * This program is free software; you can redistribute it and/or modify
  10  * it under the terms of the GNU General Public License as published by
  11  * the Free Software Foundation; either version 2 of the License, or
  12  * (at your option) any later version.
  13  *
  14  * This program is distributed in the hope that it will be useful,
  15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17  * GNU General Public License for more details.
  18  *
  19  * You should have received a copy of the GNU General Public License
  20  * along with this program; if not, write to the Free Software
  21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
  22  *****************************************************************************/
  23
  24 /*****************************************************************************
  25  * Preamble
  26  *****************************************************************************/
  27
  28 #ifdef HAVE_CONFIG_H
  29 # include "config.h"
  30 #endif
  31
  32 #include <vlc_common.h>
  33 #include <vlc_plugin.h>
  34 #include <vlc_codec.h>
  35 #include <vlc_aout.h>
  36
  37 #ifndef WIN32
  38 #    define LOADER
  39 #else
  40 #   include <objbase.h>
  41 #endif
  42
  43 #ifdef LOADER
  44 /* Need the w32dll loader from mplayer */
  45 #   include <wine/winerror.h>
  46 #   include <ldt_keeper.h>
  47 #   include <wine/windef.h>
  48 #endif
  49
  50 #include <vlc_codecs.h>
  51 #include "dmo.h"
  52
  53 //#define DMO_DEBUG 1
  54
  55 #ifdef LOADER
  56 /* Not Needed */
  57 long CoInitialize( void *pvReserved ) { VLC_UNUSED(pvReserved); return -1; }
  58 void CoUninitialize( void ) { }
  59
  60 /* A few prototypes */
  61 HMODULE WINAPI LoadLibraryA(LPCSTR);
  62 #define LoadLibrary LoadLibraryA
  63 FARPROC WINAPI GetProcAddress(HMODULE,LPCSTR);
  64 int     WINAPI FreeLibrary(HMODULE);
  65 #endif /* LOADER */
  66
  67 typedef long (STDCALL *GETCLASS) ( const GUID*, const GUID*, void** );
  68
  69 static const int pi_channels_maps[7] =
  70 {
  71     0,
  72     AOUT_CHAN_CENTER,
  73     AOUT_CHAN_LEFT | AOUT_CHAN_RIGHT,
  74     AOUT_CHAN_CENTER | AOUT_CHAN_LEFT | AOUT_CHAN_RIGHT,
  75     AOUT_CHAN_LEFT | AOUT_CHAN_RIGHT | AOUT_CHAN_REARLEFT
  76      | AOUT_CHAN_REARRIGHT,
  77     AOUT_CHAN_LEFT | AOUT_CHAN_RIGHT | AOUT_CHAN_CENTER
  78      | AOUT_CHAN_REARLEFT | AOUT_CHAN_REARRIGHT,
  79     AOUT_CHAN_LEFT | AOUT_CHAN_RIGHT | AOUT_CHAN_CENTER
  80      | AOUT_CHAN_REARLEFT | AOUT_CHAN_REARRIGHT | AOUT_CHAN_LFE
  81 };
  82
  83 /*****************************************************************************
  84  * Module descriptor
  85  *****************************************************************************/
  86 static int  DecoderOpen  ( vlc_object_t * );
  87 static void DecoderClose ( vlc_object_t * );
  88 static void *DecodeBlock ( decoder_t *, block_t ** );
  89 static void *DecoderThread( void * );
  90 static int  EncoderOpen  ( vlc_object_t * );
  91 static void EncoderClose ( vlc_object_t * );
  92 static block_t *EncodeBlock( encoder_t *, void * );
  93
  94 static int  EncOpen  ( vlc_object_t * );
  95
  96 static int LoadDMO( vlc_object_t *, HINSTANCE *, IMediaObject **,
  97                     es_format_t *, bool );
  98 static void CopyPicture( picture_t *, uint8_t * );
  99
 100 vlc_module_begin ()
 101     set_description( N_("DirectMedia Object decoder") )
 102     add_shortcut( "dmo" )
 103     set_capability( "decoder", 1 )
 104     set_callbacks( DecoderOpen, DecoderClose )
 105     set_category( CAT_INPUT )
 106     set_subcategory( SUBCAT_INPUT_VCODEC )
 107
 108 #   define ENC_CFG_PREFIX "sout-dmo-"
 109     add_submodule ()
 110     set_description( N_("DirectMedia Object encoder") )
 111     add_shortcut( "dmo" )
 112     set_capability( "encoder", 10 )
 113     set_callbacks( EncoderOpen, EncoderClose )
 114
 115 vlc_module_end ()
 116
 117 /*****************************************************************************
 118  * Local prototypes
 119  *****************************************************************************/
 120
 121 /****************************************************************************
 122  * Decoder descriptor declaration
 123  ****************************************************************************/
 124 struct decoder_sys_t
 125 {
 126     HINSTANCE hmsdmo_dll;
 127     IMediaObject *p_dmo;
 128
 129     int i_min_output;
 130     uint8_t *p_buffer;
 131
 132     date_t end_date;
 133
 134 #ifdef LOADER
 135     ldt_fs_t    *ldt_fs;
 136 #endif
 137
 138     vlc_thread_t thread;
 139     vlc_mutex_t  lock;
 140     vlc_cond_t   wait_input, wait_output;
 141     bool         b_ready, b_works;
 142     block_t    **pp_input;
 143
 144     int          i_output;
 145     void       **pp_output;
 146 };
 147
 148 const GUID IID_IWMCodecPrivateData = {0x73f0be8e, 0x57f7, 0x4f01, {0xaa, 0x66, 0x9f, 0x57, 0x34, 0xc, 0xfe, 0xe}};
 149 const GUID IID_IMediaObject = {0xd8ad0f58, 0x5494, 0x4102, {0x97, 0xc5, 0xec, 0x79, 0x8e, 0x59, 0xbc, 0xf4}};
 150 const GUID IID_IMediaBuffer = {0x59eff8b9, 0x938c, 0x4a26, {0x82, 0xf2, 0x95, 0xcb, 0x84, 0xcd, 0xc8, 0x37}};
 151 const GUID MEDIATYPE_Video = {0x73646976, 0x0000, 0x0010, {0x80, 0x00, 0x00, 0xaa, 0x00, 0x38, 0x9b, 0x71}};
 152 const GUID MEDIATYPE_Audio = {0x73647561, 0x0000, 0x0010, {0x80, 0x00, 0x00, 0xaa, 0x00, 0x38, 0x9b, 0x71}};
 153 const GUID MEDIASUBTYPE_PCM = {0x00000001, 0x0000, 0x0010, {0x80, 0x00, 0x00, 0xaa, 0x00, 0x38, 0x9b, 0x71}};
 154 const GUID FORMAT_VideoInfo = {0x05589f80, 0xc356, 0x11ce, {0xbf, 0x01, 0x00, 0xaa, 0x00, 0x55, 0x59, 0x5a}};
 155 const GUID FORMAT_WaveFormatEx = {0x05589f81, 0xc356, 0x11ce, {0xbf, 0x01, 0x00, 0xaa, 0x00, 0x55, 0x59, 0x5a}};
 156 const GUID GUID_NULL = {0x0000, 0x0000, 0x0000, {0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00}};
 157 const GUID MEDIASUBTYPE_I420 = {0x30323449, 0x0000, 0x0010, {0x80, 0x00, 0x00, 0xaa, 0x00, 0x38, 0x9b, 0x71}};
 158 const GUID MEDIASUBTYPE_YV12 = {0x32315659, 0x0000, 0x0010, {0x80, 0x00, 0x00, 0xaa, 0x00, 0x38, 0x9b, 0x71}};
 159 const GUID MEDIASUBTYPE_RGB24 = {0xe436eb7d, 0x524f, 0x11ce, {0x9f, 0x53, 0x00, 0x20, 0xaf, 0x0b, 0xa7, 0x70}};
 160 const GUID MEDIASUBTYPE_RGB565 = {0xe436eb7b, 0x524f, 0x11ce, {0x9f, 0x53, 0x00, 0x20, 0xaf, 0x0b, 0xa7, 0x70}};
 161
 162
 163 static const GUID guid_wvc1 = { 0xc9bfbccf, 0xe60e, 0x4588, { 0xa3, 0xdf, 0x5a, 0x03, 0xb1, 0xfd, 0x95, 0x85 } };
 164 static const GUID guid_wmv9 = { 0x724bb6a4, 0xe526, 0x450f, { 0xaf, 0xfa, 0xab, 0x9b, 0x45, 0x12, 0x91, 0x11 } };
 165
 166 static const GUID guid_wmv = { 0x82d353df, 0x90bd, 0x4382, { 0x8b, 0xc2, 0x3f, 0x61, 0x92, 0xb7, 0x6e, 0x34 } };
 167 static const GUID guid_wms = { 0x7bafb3b1, 0xd8f4, 0x4279, { 0x92, 0x53, 0x27, 0xda, 0x42, 0x31, 0x08, 0xde } };
 168 static const GUID guid_wmva ={ 0x03be3ac4, 0x84b7, 0x4e0e, { 0xa7, 0x8d, 0xd3, 0x52, 0x4e, 0x60, 0x39, 0x5a } };
 169
 170 static const GUID guid_wma = { 0x874131cb, 0x4ecc, 0x443b, { 0x89, 0x48, 0x74, 0x6b, 0x89, 0x59, 0x5d, 0x20 } };
 171 static const GUID guid_wma9 = { 0x27ca0808, 0x01f5, 0x4e7a, { 0x8b, 0x05, 0x87, 0xf8, 0x07, 0xa2, 0x33, 0xd1 } };
 172
 173 static const GUID guid_wmv_enc = { 0x3181343b, 0x94a2, 0x4feb, { 0xad, 0xef, 0x30, 0xa1, 0xdd, 0xe6, 0x17, 0xb4 } };
 174 static const GUID guid_wmv_enc2 = { 0x96b57cdd, 0x8966, 0x410c,{ 0xbb, 0x1f, 0xc9, 0x7e, 0xea, 0x76, 0x5c, 0x04 } };
 175 static const GUID guid_wma_enc = { 0x70f598e9, 0xf4ab, 0x495a, { 0x99, 0xe2, 0xa7, 0xc4, 0xd3, 0xd8, 0x9a, 0xbf } };
 176
 177 typedef struct
 178 {
 179     vlc_fourcc_t i_fourcc;
 180     const char   *psz_dll;
 181     const GUID   *p_guid;
 182
 183 } codec_dll;
 184
 185 static const codec_dll decoders_table[] =
 186 {
 187     /* WVC1 */
 188     { VLC_CODEC_VC1,    "wvc1dmod.dll", &guid_wvc1 },
 189     /* WMV3 */
 190     { VLC_CODEC_WMV3,   "wmv9dmod.dll", &guid_wmv9 },
 191     /* WMV2 */
 192     { VLC_CODEC_WMV2,   "wmvdmod.dll", &guid_wmv },
 193     /* WMV1 */
 194     { VLC_CODEC_WMV1,   "wmvdmod.dll", &guid_wmv },
 195     /* Screen codecs */
 196     { VLC_FOURCC('M','S','S','2'), "wmsdmod.dll", &guid_wms },
 197     { VLC_FOURCC('m','s','s','2'), "wmsdmod.dll", &guid_wms },
 198     { VLC_FOURCC('M','S','S','1'), "wmsdmod.dll", &guid_wms },
 199     { VLC_FOURCC('m','s','s','1'), "wmsdmod.dll", &guid_wms },
 200     /* Windows Media Video Adv */
 201     { VLC_CODEC_WMVA,   "wmvadvd.dll", &guid_wmva },
 202
 203     /* WMA 3 */
 204     { VLC_CODEC_WMAP,   "wma9dmod.dll", &guid_wma9 },
 205     { VLC_CODEC_WMAL,   "wma9dmod.dll", &guid_wma9 },
 206
 207     /* WMA 2 */
 208     { VLC_CODEC_WMA2,   "wma9dmod.dll", &guid_wma9 },
 209
 210     /* WMA Speech */
 211     { VLC_CODEC_WMAS,   "wmspdmod.dll", &guid_wma },
 212
 213     /* */
 214     { 0, NULL, NULL }
 215 };
 216
 217 static const codec_dll encoders_table[] =
 218 {
 219     /* WMV3 */
 220     { VLC_CODEC_WMV3, "wmvdmoe2.dll", &guid_wmv_enc2 },
 221     /* WMV2 */
 222     { VLC_CODEC_WMV2, "wmvdmoe2.dll", &guid_wmv_enc2 },
 223     /* WMV1 */
 224     { VLC_CODEC_WMV1, "wmvdmoe2.dll", &guid_wmv_enc2 },
 225
 226     /* WMA 3 */
 227     { VLC_CODEC_WMAP, "wmadmoe.dll", &guid_wma_enc },
 228     /* WMA 2 */
 229     { VLC_CODEC_WMA2, "wmadmoe.dll", &guid_wma_enc },
 230
 231     /* */
 232     { 0, NULL, NULL }
 233 };
 234
 235 static void WINAPI DMOFreeMediaType( DMO_MEDIA_TYPE *mt )
 236 {
 237     if( mt->cbFormat != 0 ) CoTaskMemFree( (PVOID)mt->pbFormat );
 238     if( mt->pUnk != NULL ) mt->pUnk->vt->Release( (IUnknown *)mt->pUnk );
 239     mt->cbFormat = 0;
 240     mt->pbFormat = NULL;
 241     mt->pUnk = NULL;
 242 }
 243
 244 /*****************************************************************************
 245  * DecoderOpen: open dmo codec
 246  *****************************************************************************/
 247 static int DecoderOpen( vlc_object_t *p_this )
 248 {
 249     decoder_t *p_dec = (decoder_t*)p_this;
 250     decoder_sys_t *p_sys;
 251
 252     /* We can't open it now, because of ldt_keeper or something
 253      * Open/Decode/Close has to be done in the same thread */
 254
 255     /* Probe if we support it */
 256     for( unsigned i = 0; decoders_table[i].i_fourcc != 0; i++ )
 257     {
 258         if( decoders_table[i].i_fourcc == p_dec->fmt_in.i_codec )
 259         {
 260             msg_Dbg( p_dec, "DMO codec for %4.4s may work with dll=%s",
 261                      (char*)&p_dec->fmt_in.i_codec,
 262                      decoders_table[i].psz_dll );
 263             goto found;
 264         }
 265     }
 266     return VLC_EGENERIC;
 267
 268 found:
 269     p_sys = p_dec->p_sys = malloc(sizeof(*p_sys));
 270     if( !p_sys )
 271         return VLC_ENOMEM;
 272
 273     /* Set callbacks */
 274     p_dec->pf_decode_video = (picture_t *(*)(decoder_t *, block_t **))
 275         DecodeBlock;
 276     p_dec->pf_decode_audio = (aout_buffer_t *(*)(decoder_t *, block_t **))
 277         DecodeBlock;
 278
 279     vlc_mutex_init( &p_sys->lock );
 280     vlc_cond_init( &p_sys->wait_input );
 281     vlc_cond_init( &p_sys->wait_output );
 282     p_sys->b_works =
 283     p_sys->b_ready = false;
 284     p_sys->pp_input = NULL;
 285     TAB_INIT( p_sys->i_output, p_sys->pp_output );
 286
 287     if( vlc_clone( &p_sys->thread, DecoderThread, p_dec,
 288                    VLC_THREAD_PRIORITY_INPUT ) )
 289         goto error;
 290
 291     vlc_mutex_lock( &p_sys->lock );
 292     while( !p_sys->b_ready )
 293         vlc_cond_wait( &p_sys->wait_output, &p_sys->lock );
 294     vlc_mutex_unlock( &p_sys->lock );
 295
 296     if( p_sys->b_works )
 297         return VLC_SUCCESS;
 298
 299     vlc_join( p_sys->thread, NULL );
 300 error:
 301     vlc_cond_destroy( &p_sys->wait_input );
 302     vlc_cond_destroy( &p_sys->wait_output );
 303     vlc_mutex_destroy( &p_sys->lock );
 304     free( p_sys );
 305     return VLC_ENOMEM;
 306 }
 307
 308 /*****************************************************************************
 309  * DecoderClose: close codec
 310  *****************************************************************************/
 311 static void DecoderClose( vlc_object_t *p_this )
 312 {
 313     decoder_t *p_dec = (decoder_t*)p_this;
 314     decoder_sys_t *p_sys = p_dec->p_sys;
 315
 316     vlc_mutex_lock( &p_sys->lock );
 317     p_sys->b_ready = false;
 318     vlc_cond_signal( &p_sys->wait_input );
 319     vlc_mutex_unlock( &p_sys->lock );
 320
 321     vlc_join( p_sys->thread, NULL );
 322     TAB_CLEAN( p_sys->i_output, p_sys->pp_output );
 323     vlc_cond_destroy( &p_sys->wait_input );
 324     vlc_cond_destroy( &p_sys->wait_output );
 325     vlc_mutex_destroy( &p_sys->lock );
 326     free( p_sys );
 327 }
 328
 329 static void *DecodeBlock( decoder_t *p_dec, block_t **pp_block )
 330 {
 331     decoder_sys_t *p_sys = p_dec->p_sys;
 332     void *p_ret;
 333
 334     vlc_mutex_lock( &p_sys->lock );
 335     if( p_sys->i_output <= 0 )
 336     {
 337         p_sys->pp_input = pp_block;
 338         vlc_cond_signal( &p_sys->wait_input );
 339
 340         while( p_sys->pp_input )
 341             vlc_cond_wait( &p_sys->wait_output, &p_sys->lock );
 342     }
 343
 344     p_ret = NULL;
 345     if( p_sys->i_output > 0 )
 346     {
 347         p_ret = p_sys->pp_output[0];
 348         TAB_REMOVE( p_sys->i_output, p_sys->pp_output, p_ret );
 349     }
 350
 351     vlc_mutex_unlock( &p_sys->lock );
 352
 353     return p_ret;
 354 }
 355
 356 /*****************************************************************************
 357  * DecOpen: open dmo codec
 358  *****************************************************************************/
 359 static int DecOpen( decoder_t *p_dec )
 360 {
 361     decoder_sys_t *p_sys = p_dec->p_sys;
 362
 363     DMO_MEDIA_TYPE dmo_input_type, dmo_output_type;
 364     IMediaObject *p_dmo = NULL;
 365     HINSTANCE hmsdmo_dll = NULL;
 366
 367     VIDEOINFOHEADER *p_vih = NULL;
 368     WAVEFORMATEX *p_wf = NULL;
 369
 370 #ifdef LOADER
 371     ldt_fs_t *ldt_fs = Setup_LDT_Keeper();
 372 #else
 373     /* Initialize OLE/COM */
 374     CoInitialize( 0 );
 375 #endif /* LOADER */
 376
 377     if( LoadDMO( VLC_OBJECT(p_dec), &hmsdmo_dll, &p_dmo, &p_dec->fmt_in, false )
 378         != VLC_SUCCESS )
 379     {
 380         hmsdmo_dll = 0;
 381         p_dmo = 0;
 382         goto error;
 383     }
 384
 385     /* Setup input format */
 386     memset( &dmo_input_type, 0, sizeof(dmo_input_type) );
 387     dmo_input_type.pUnk = 0;
 388
 389     if( p_dec->fmt_in.i_cat == AUDIO_ES )
 390     {
 391         uint16_t i_tag;
 392         int i_size = sizeof(WAVEFORMATEX) + p_dec->fmt_in.i_extra;
 393         p_wf = malloc( i_size );
 394
 395         memset( p_wf, 0, sizeof(WAVEFORMATEX) );
 396         if( p_dec->fmt_in.i_extra )
 397             memcpy( &p_wf[1], p_dec->fmt_in.p_extra, p_dec->fmt_in.i_extra );
 398
 399         dmo_input_type.majortype  = MEDIATYPE_Audio;
 400         dmo_input_type.subtype    = dmo_input_type.majortype;
 401         dmo_input_type.subtype.Data1 = p_dec->fmt_in.i_original_fourcc ?: p_dec->fmt_in.i_codec;
 402         fourcc_to_wf_tag( p_dec->fmt_in.i_codec, &i_tag );
 403         if( i_tag ) dmo_input_type.subtype.Data1 = i_tag;
 404
 405         p_wf->wFormatTag = dmo_input_type.subtype.Data1;
 406         p_wf->nSamplesPerSec = p_dec->fmt_in.audio.i_rate;
 407         p_wf->nChannels = p_dec->fmt_in.audio.i_channels;
 408         p_wf->wBitsPerSample = p_dec->fmt_in.audio.i_bitspersample;
 409         p_wf->nBlockAlign = p_dec->fmt_in.audio.i_blockalign;
 410         p_wf->nAvgBytesPerSec = p_dec->fmt_in.i_bitrate / 8;
 411         p_wf->cbSize = p_dec->fmt_in.i_extra;
 412
 413         dmo_input_type.formattype = FORMAT_WaveFormatEx;
 414         dmo_input_type.cbFormat   = i_size;
 415         dmo_input_type.pbFormat   = (char *)p_wf;
 416         dmo_input_type.bFixedSizeSamples = 1;
 417         dmo_input_type.bTemporalCompression = 0;
 418         dmo_input_type.lSampleSize = p_wf->nBlockAlign;
 419     }
 420     else
 421     {
 422         BITMAPINFOHEADER *p_bih;
 423
 424         int i_size = sizeof(VIDEOINFOHEADER) + p_dec->fmt_in.i_extra;
 425         p_vih = malloc( i_size );
 426
 427         memset( p_vih, 0, sizeof(VIDEOINFOHEADER) );
 428         if( p_dec->fmt_in.i_extra )
 429             memcpy( &p_vih[1], p_dec->fmt_in.p_extra, p_dec->fmt_in.i_extra );
 430
 431         p_bih = &p_vih->bmiHeader;
 432         p_bih->biCompression = p_dec->fmt_in.i_original_fourcc ?: p_dec->fmt_in.i_codec;
 433         p_bih->biWidth = p_dec->fmt_in.video.i_width;
 434         p_bih->biHeight = p_dec->fmt_in.video.i_height;
 435         p_bih->biBitCount = p_dec->fmt_in.video.i_bits_per_pixel;
 436         p_bih->biPlanes = 1;
 437         p_bih->biSize = i_size - sizeof(VIDEOINFOHEADER) +
 438             sizeof(BITMAPINFOHEADER);
 439
 440         p_vih->rcSource.left = p_vih->rcSource.top = 0;
 441         p_vih->rcSource.right = p_dec->fmt_in.video.i_width;
 442         p_vih->rcSource.bottom = p_dec->fmt_in.video.i_height;
 443         p_vih->rcTarget = p_vih->rcSource;
 444
 445         dmo_input_type.majortype  = MEDIATYPE_Video;
 446         dmo_input_type.subtype    = dmo_input_type.majortype;
 447         dmo_input_type.subtype.Data1 = p_dec->fmt_in.i_original_fourcc ?: p_dec->fmt_in.i_codec;
 448         dmo_input_type.formattype = FORMAT_VideoInfo;
 449         dmo_input_type.bFixedSizeSamples = 0;
 450         dmo_input_type.bTemporalCompression = 1;
 451         dmo_input_type.cbFormat = i_size;
 452         dmo_input_type.pbFormat = (char *)p_vih;
 453     }
 454
 455     if( p_dmo->vt->SetInputType( p_dmo, 0, &dmo_input_type, 0 ) )
 456     {
 457         msg_Err( p_dec, "can't set DMO input type" );
 458         goto error;
 459     }
 460     msg_Dbg( p_dec, "DMO input type set" );
 461
 462     /* Setup output format */
 463     memset( &dmo_output_type, 0, sizeof(dmo_output_type) );
 464     dmo_output_type.pUnk = 0;
 465
 466     if( p_dec->fmt_in.i_cat == AUDIO_ES )
 467     {
 468         /* Setup the format */
 469         p_dec->fmt_out.i_codec = VLC_CODEC_S16N;
 470         p_dec->fmt_out.audio.i_rate     = p_dec->fmt_in.audio.i_rate;
 471         p_dec->fmt_out.audio.i_channels = p_dec->fmt_in.audio.i_channels;
 472         p_dec->fmt_out.audio.i_bitspersample = 16;//p_dec->fmt_in.audio.i_bitspersample; We request 16
 473         p_dec->fmt_out.audio.i_physical_channels =
 474             p_dec->fmt_out.audio.i_original_channels =
 475                 pi_channels_maps[p_dec->fmt_out.audio.i_channels];
 476
 477         p_wf->wFormatTag = WAVE_FORMAT_PCM;
 478         p_wf->nSamplesPerSec = p_dec->fmt_out.audio.i_rate;
 479         p_wf->nChannels = p_dec->fmt_out.audio.i_channels;
 480         p_wf->wBitsPerSample = p_dec->fmt_out.audio.i_bitspersample;
 481         p_wf->nBlockAlign =
 482             p_wf->wBitsPerSample / 8 * p_wf->nChannels;
 483         p_wf->nAvgBytesPerSec =
 484             p_wf->nSamplesPerSec * p_wf->nBlockAlign;
 485         p_wf->cbSize = 0;
 486
 487         dmo_output_type.majortype  = MEDIATYPE_Audio;
 488         dmo_output_type.formattype = FORMAT_WaveFormatEx;
 489         dmo_output_type.subtype    = MEDIASUBTYPE_PCM;
 490         dmo_output_type.cbFormat   = sizeof(WAVEFORMATEX);
 491         dmo_output_type.pbFormat   = (char *)p_wf;
 492         dmo_output_type.bFixedSizeSamples = 1;
 493         dmo_output_type.bTemporalCompression = 0;
 494         dmo_output_type.lSampleSize = p_wf->nBlockAlign;
 495     }
 496     else
 497     {
 498         BITMAPINFOHEADER *p_bih;
 499         DMO_MEDIA_TYPE mt;
 500         unsigned i_chroma = VLC_CODEC_YUYV;
 501         int i_planes = 1, i_bpp = 16;
 502         int i = 0;
 503
 504         /* Find out which chroma to use */
 505         while( !p_dmo->vt->GetOutputType( p_dmo, 0, i++, &mt ) )
 506         {
 507             if( mt.subtype.Data1 == VLC_CODEC_YV12 )
 508             {
 509                 i_chroma = mt.subtype.Data1;
 510                 i_planes = 3; i_bpp = 12;
 511             }
 512
 513             DMOFreeMediaType( &mt );
 514         }
 515
 516         p_dec->fmt_out.i_codec = i_chroma == VLC_CODEC_YV12 ?
 517             VLC_CODEC_I420 : i_chroma;
 518         p_dec->fmt_out.video.i_width = p_dec->fmt_in.video.i_width;
 519         p_dec->fmt_out.video.i_height = p_dec->fmt_in.video.i_height;
 520         p_dec->fmt_out.video.i_bits_per_pixel = i_bpp;
 521
 522         /* If an aspect-ratio was specified in the input format then force it */
 523         if( p_dec->fmt_in.video.i_sar_num > 0 &&
 524             p_dec->fmt_in.video.i_sar_den > 0 )
 525         {
 526             p_dec->fmt_out.video.i_sar_num = p_dec->fmt_in.video.i_sar_num;
 527             p_dec->fmt_out.video.i_sar_den = p_dec->fmt_in.video.i_sar_den;
 528         }
 529         else
 530         {
 531             p_dec->fmt_out.video.i_sar_num = 1;
 532             p_dec->fmt_out.video.i_sar_den = 1;
 533         }
 534
 535         p_bih = &p_vih->bmiHeader;
 536         p_bih->biCompression = i_chroma;
 537         p_bih->biHeight *= -1;
 538         p_bih->biBitCount = p_dec->fmt_out.video.i_bits_per_pixel;
 539         p_bih->biSizeImage = p_dec->fmt_in.video.i_width *
 540             p_dec->fmt_in.video.i_height *
 541             (p_dec->fmt_in.video.i_bits_per_pixel + 7) / 8;
 542
 543         p_bih->biPlanes = i_planes;
 544         p_bih->biSize = sizeof(BITMAPINFOHEADER);
 545
 546         dmo_output_type.majortype = MEDIATYPE_Video;
 547         dmo_output_type.formattype = FORMAT_VideoInfo;
 548         dmo_output_type.subtype = dmo_output_type.majortype;
 549         dmo_output_type.subtype.Data1 = p_bih->biCompression;
 550         dmo_output_type.bFixedSizeSamples = true;
 551         dmo_output_type.bTemporalCompression = 0;
 552         dmo_output_type.lSampleSize = p_bih->biSizeImage;
 553         dmo_output_type.cbFormat = sizeof(VIDEOINFOHEADER);
 554         dmo_output_type.pbFormat = (char *)p_vih;
 555     }
 556
 557 #ifdef DMO_DEBUG
 558     /* Enumerate output types */
 559     if( p_dec->fmt_in.i_cat == VIDEO_ES )
 560     {
 561         int i = 0;
 562         DMO_MEDIA_TYPE mt;
 563
 564         while( !p_dmo->vt->GetOutputType( p_dmo, 0, i++, &mt ) )
 565         {
 566             msg_Dbg( p_dec, "available output chroma: %4.4s",
 567                      (char *)&mt.subtype.Data1 );
 568             DMOFreeMediaType( &mt );
 569         }
 570     }
 571 #endif
 572
 573     if( p_dmo->vt->SetOutputType( p_dmo, 0, &dmo_output_type, 0 ) )
 574     {
 575         msg_Err( p_dec, "can't set DMO output type" );
 576         goto error;
 577     }
 578     msg_Dbg( p_dec, "DMO output type set" );
 579
 580     /* Allocate the memory needed to store the decoder's structure */
 581     p_sys->hmsdmo_dll = hmsdmo_dll;
 582     p_sys->p_dmo = p_dmo;
 583 #ifdef LOADER
 584     p_sys->ldt_fs = ldt_fs;
 585 #endif
 586
 587     /* Find out some properties of the output */
 588     {
 589         uint32_t i_size, i_align;
 590
 591         p_sys->i_min_output = 0;
 592         if( p_dmo->vt->GetOutputSizeInfo( p_dmo, 0, &i_size, &i_align ) )
 593         {
 594             msg_Err( p_dec, "GetOutputSizeInfo() failed" );
 595             goto error;
 596         }
 597         else
 598         {
 599             msg_Dbg( p_dec, "GetOutputSizeInfo(): bytes %i, align %i",
 600                      i_size, i_align );
 601             p_sys->i_min_output = i_size;
 602             p_sys->p_buffer = malloc( i_size );
 603             if( !p_sys->p_buffer ) goto error;
 604         }
 605     }
 606
 607     /* Set output properties */
 608     p_dec->fmt_out.i_cat = p_dec->fmt_in.i_cat;
 609     if( p_dec->fmt_out.i_cat == AUDIO_ES )
 610         date_Init( &p_sys->end_date, p_dec->fmt_in.audio.i_rate, 1 );
 611     else
 612         date_Init( &p_sys->end_date, 25 /* FIXME */, 1 );
 613
 614     free( p_vih );
 615     free( p_wf );
 616
 617     vlc_mutex_lock( &p_sys->lock );
 618     p_sys->b_ready =
 619     p_sys->b_works = true;
 620     vlc_cond_signal( &p_sys->wait_output );
 621     vlc_mutex_unlock( &p_sys->lock );
 622
 623     return VLC_SUCCESS;
 624
 625  error:
 626
 627     if( p_dmo ) p_dmo->vt->Release( (IUnknown *)p_dmo );
 628     if( hmsdmo_dll ) FreeLibrary( hmsdmo_dll );
 629
 630 #ifdef LOADER
 631     Restore_LDT_Keeper( ldt_fs );
 632 #else
 633     /* Uninitialize OLE/COM */
 634     CoUninitialize();
 635 #endif /* LOADER */
 636
 637     free( p_vih );
 638     free( p_wf );
 639
 640     vlc_mutex_lock( &p_sys->lock );
 641     p_sys->b_ready = true;
 642     vlc_cond_signal( &p_sys->wait_output );
 643     vlc_mutex_unlock( &p_sys->lock );
 644     return VLC_EGENERIC;
 645 }
 646
 647 /*****************************************************************************
 648  * LoadDMO: Load the DMO object
 649  *****************************************************************************/
 650 static int LoadDMO( vlc_object_t *p_this, HINSTANCE *p_hmsdmo_dll,
 651                     IMediaObject **pp_dmo, es_format_t *p_fmt,
 652                     bool b_out )
 653 {
 654     DMO_PARTIAL_MEDIATYPE dmo_partial_type;
 655     int i_err;
 656
 657 #ifndef LOADER
 658     long (STDCALL *OurDMOEnum)( const GUID *, uint32_t, uint32_t,
 659                                const DMO_PARTIAL_MEDIATYPE *,
 660                                uint32_t, const DMO_PARTIAL_MEDIATYPE *,
 661                                IEnumDMO ** );
 662
 663     IEnumDMO *p_enum_dmo = NULL;
 664     WCHAR *psz_dmo_name;
 665     GUID clsid_dmo;
 666     uint32_t i_dummy;
 667 #endif
 668
 669     GETCLASS GetClass;
 670     IClassFactory *cFactory = NULL;
 671     IUnknown *cObject = NULL;
 672     const codec_dll *codecs_table = b_out ? encoders_table : decoders_table;
 673     int i_codec;
 674
 675     /* Look for a DMO which can handle the requested codec */
 676     if( p_fmt->i_cat == AUDIO_ES )
 677     {
 678         uint16_t i_tag;
 679         dmo_partial_type.type = MEDIATYPE_Audio;
 680         dmo_partial_type.subtype = dmo_partial_type.type;
 681         dmo_partial_type.subtype.Data1 = p_fmt->i_original_fourcc ?: p_fmt->i_codec;
 682         fourcc_to_wf_tag( p_fmt->i_codec, &i_tag );
 683         if( i_tag ) dmo_partial_type.subtype.Data1 = i_tag;
 684     }
 685     else
 686     {
 687         dmo_partial_type.type = MEDIATYPE_Video;
 688         dmo_partial_type.subtype = dmo_partial_type.type;
 689         dmo_partial_type.subtype.Data1 = p_fmt->i_original_fourcc ?: p_fmt->i_codec;
 690     }
 691
 692 #ifndef LOADER
 693     /* Load msdmo DLL */
 694     *p_hmsdmo_dll = LoadLibrary( "msdmo.dll" );
 695     if( *p_hmsdmo_dll == NULL )
 696     {
 697         msg_Dbg( p_this, "failed loading msdmo.dll" );
 698         return VLC_EGENERIC;
 699     }
 700     OurDMOEnum = (void *)GetProcAddress( *p_hmsdmo_dll, "DMOEnum" );
 701     if( OurDMOEnum == NULL )
 702     {
 703         msg_Dbg( p_this, "GetProcAddress failed to find DMOEnum()" );
 704         FreeLibrary( *p_hmsdmo_dll );
 705         return VLC_EGENERIC;
 706     }
 707
 708     if( !b_out )
 709     {
 710         i_err = OurDMOEnum( &GUID_NULL, 1 /*DMO_ENUMF_INCLUDE_KEYED*/,
 711                             1, &dmo_partial_type, 0, NULL, &p_enum_dmo );
 712     }
 713     else
 714     {
 715         i_err = OurDMOEnum( &GUID_NULL, 1 /*DMO_ENUMF_INCLUDE_KEYED*/,
 716                             0, NULL, 1, &dmo_partial_type, &p_enum_dmo );
 717     }
 718     if( i_err )
 719     {
 720         FreeLibrary( *p_hmsdmo_dll );
 721         /* return VLC_EGENERIC; */
 722         /* Try loading the dll directly */
 723         goto loader;
 724     }
 725
 726     /* Pickup the first available codec */
 727     *pp_dmo = 0;
 728     while( ( S_OK == p_enum_dmo->vt->Next( p_enum_dmo, 1, &clsid_dmo,
 729                      &psz_dmo_name, &i_dummy /* NULL doesn't work */ ) ) )
 730     {
 731         char psz_temp[MAX_PATH];
 732         wcstombs( psz_temp, psz_dmo_name, MAX_PATH );
 733         msg_Dbg( p_this, "found DMO: %s", psz_temp );
 734         CoTaskMemFree( psz_dmo_name );
 735
 736         /* Create DMO */
 737         if( CoCreateInstance( &clsid_dmo, NULL, CLSCTX_INPROC,
 738                               &IID_IMediaObject, (void **)pp_dmo ) )
 739         {
 740             msg_Warn( p_this, "can't create DMO: %s", psz_temp );
 741             *pp_dmo = 0;
 742         }
 743         else break;
 744     }
 745
 746     p_enum_dmo->vt->Release( (IUnknown *)p_enum_dmo );
 747
 748     if( !*pp_dmo )
 749     {
 750         FreeLibrary( *p_hmsdmo_dll );
 751         /* return VLC_EGENERIC; */
 752         /* Try loading the dll directly */
 753         goto loader;
 754     }
 755
 756     return VLC_SUCCESS;
 757
 758 loader:
 759 #endif   /* LOADER */
 760
 761     for( i_codec = 0; codecs_table[i_codec].i_fourcc != 0; i_codec++ )
 762     {
 763         if( codecs_table[i_codec].i_fourcc == p_fmt->i_codec )
 764             break;
 765     }
 766     if( codecs_table[i_codec].i_fourcc == 0 )
 767         return VLC_EGENERIC;    /* Can't happen */
 768
 769     *p_hmsdmo_dll = LoadLibrary( codecs_table[i_codec].psz_dll );
 770     if( *p_hmsdmo_dll == NULL )
 771     {
 772         msg_Dbg( p_this, "failed loading '%s'",
 773                  codecs_table[i_codec].psz_dll );
 774         return VLC_EGENERIC;
 775     }
 776
 777     GetClass = (GETCLASS)GetProcAddress( *p_hmsdmo_dll, "DllGetClassObject" );
 778     if (!GetClass)
 779     {
 780         msg_Dbg( p_this, "GetProcAddress failed to find DllGetClassObject()" );
 781         FreeLibrary( *p_hmsdmo_dll );
 782         return VLC_EGENERIC;
 783     }
 784
 785     i_err = GetClass( codecs_table[i_codec].p_guid, &IID_IClassFactory,
 786                       &cFactory );
 787     if( i_err || cFactory == NULL )
 788     {
 789         msg_Dbg( p_this, "no such class object" );
 790         FreeLibrary( *p_hmsdmo_dll );
 791         return VLC_EGENERIC;
 792     }
 793
 794     i_err = cFactory->vt->CreateInstance( cFactory, 0, &IID_IUnknown,
 795                                           &cObject );
 796     cFactory->vt->Release( (IUnknown*)cFactory );
 797     if( i_err || !cObject )
 798     {
 799         msg_Dbg( p_this, "class factory failure" );
 800         FreeLibrary( *p_hmsdmo_dll );
 801         return VLC_EGENERIC;
 802     }
 803     i_err = cObject->vt->QueryInterface( cObject, &IID_IMediaObject,
 804                                         pp_dmo );
 805     cObject->vt->Release( (IUnknown*)cObject );
 806     if( i_err || !*pp_dmo )
 807     {
 808         msg_Dbg( p_this, "QueryInterface failure" );
 809         FreeLibrary( *p_hmsdmo_dll );
 810         return VLC_EGENERIC;
 811     }
 812
 813     return VLC_SUCCESS;
 814 }
 815
 816 static void DecClose( decoder_t *p_dec )
 817 {
 818     decoder_sys_t *p_sys = p_dec->p_sys;
 819
 820     if( p_sys->p_dmo ) p_sys->p_dmo->vt->Release( (IUnknown *)p_sys->p_dmo );
 821     FreeLibrary( p_sys->hmsdmo_dll );
 822
 823 #ifdef LOADER
 824 #if 0
 825     Restore_LDT_Keeper( p_sys->ldt_fs );
 826 #endif
 827 #else
 828     /* Uninitialize OLE/COM */
 829     CoUninitialize();
 830 #endif
 831
 832     free( p_sys->p_buffer );
 833 }
 834
 835 /****************************************************************************
 836  * DecodeBlock: the whole thing
 837  ****************************************************************************
 838  * This function must be fed with packets.
 839  ****************************************************************************/
 840 static void *DecBlock( decoder_t *p_dec, block_t **pp_block )
 841 {
 842     decoder_sys_t *p_sys = p_dec->p_sys;
 843     block_t *p_block;
 844     int i_result;
 845
 846     DMO_OUTPUT_DATA_BUFFER db;
 847     CMediaBuffer *p_out;
 848     block_t block_out;
 849     uint32_t i_status;
 850
 851     if( !pp_block ) return NULL;
 852
 853     p_block = *pp_block;
 854
 855     /* Won't work with streams with B-frames, but do we have any ? */
 856     if( p_block && p_block->i_pts <= VLC_TS_INVALID )
 857         p_block->i_pts = p_block->i_dts;
 858
 859     /* Date management */
 860     if( p_block && p_block->i_pts > VLC_TS_INVALID &&
 861         p_block->i_pts != date_Get( &p_sys->end_date ) )
 862     {
 863         date_Set( &p_sys->end_date, p_block->i_pts );
 864     }
 865
 866 #if 0 /* Breaks the video decoding */
 867     if( !date_Get( &p_sys->end_date ) )
 868     {
 869         /* We've just started the stream, wait for the first PTS. */
 870         if( p_block ) block_Release( p_block );
 871         return NULL;
 872     }
 873 #endif
 874
 875     /* Feed input to the DMO */
 876     if( p_block && p_block->i_buffer )
 877     {
 878         CMediaBuffer *p_in;
 879
 880         p_in = CMediaBufferCreate( p_block, p_block->i_buffer, true );
 881
 882         i_result = p_sys->p_dmo->vt->ProcessInput( p_sys->p_dmo, 0,
 883                        (IMediaBuffer *)p_in, DMO_INPUT_DATA_BUFFERF_SYNCPOINT,
 884                        0, 0 );
 885
 886         p_in->vt->Release( (IUnknown *)p_in );
 887
 888         if( i_result == S_FALSE )
 889         {
 890             /* No output generated */
 891 #ifdef DMO_DEBUG
 892             msg_Dbg( p_dec, "ProcessInput(): no output generated" );
 893 #endif
 894             return NULL;
 895         }
 896         else if( i_result == (int)DMO_E_NOTACCEPTING )
 897         {
 898             /* Need to call ProcessOutput */
 899             msg_Dbg( p_dec, "ProcessInput(): not accepting" );
 900         }
 901         else if( i_result != S_OK )
 902         {
 903             msg_Dbg( p_dec, "ProcessInput(): failed" );
 904             return NULL;
 905         }
 906         else
 907         {
 908 #ifdef DMO_DEBUG
 909             msg_Dbg( p_dec, "ProcessInput(): successful" );
 910 #endif
 911             *pp_block = NULL;
 912         }
 913     }
 914     else if( p_block && !p_block->i_buffer )
 915     {
 916         block_Release( p_block );
 917         *pp_block = NULL;
 918     }
 919
 920     /* Get output from the DMO */
 921     block_out.p_buffer = p_sys->p_buffer;
 922     block_out.i_buffer = 0;
 923
 924     p_out = CMediaBufferCreate( &block_out, p_sys->i_min_output, false );
 925     memset( &db, 0, sizeof(db) );
 926     db.pBuffer = (IMediaBuffer *)p_out;
 927
 928     i_result = p_sys->p_dmo->vt->ProcessOutput( p_sys->p_dmo,
 929                    DMO_PROCESS_OUTPUT_DISCARD_WHEN_NO_BUFFER,
 930                    1, &db, &i_status );
 931
 932     if( i_result != S_OK )
 933     {
 934         if( i_result != S_FALSE )
 935             msg_Dbg( p_dec, "ProcessOutput(): failed" );
 936 #ifdef DMO_DEBUG
 937         else
 938             msg_Dbg( p_dec, "ProcessOutput(): no output" );
 939 #endif
 940
 941         p_out->vt->Release( (IUnknown *)p_out );
 942         return NULL;
 943     }
 944
 945 #ifdef DMO_DEBUG
 946     msg_Dbg( p_dec, "ProcessOutput(): success" );
 947 #endif
 948
 949     if( !block_out.i_buffer )
 950     {
 951 #ifdef DMO_DEBUG
 952         msg_Dbg( p_dec, "ProcessOutput(): no output (i_buffer_out == 0)" );
 953 #endif
 954         p_out->vt->Release( (IUnknown *)p_out );
 955         return NULL;
 956     }
 957
 958     if( p_dec->fmt_out.i_cat == VIDEO_ES )
 959     {
 960         /* Get a new picture */
 961         picture_t *p_pic = decoder_NewPicture( p_dec );
 962         if( !p_pic ) return NULL;
 963
 964         CopyPicture( p_pic, block_out.p_buffer );
 965
 966         /* Date management */
 967         p_pic->date = date_Get( &p_sys->end_date );
 968         date_Increment( &p_sys->end_date, 1 );
 969
 970         p_out->vt->Release( (IUnknown *)p_out );
 971
 972         return p_pic;
 973     }
 974     else
 975     {
 976         aout_buffer_t *p_aout_buffer;
 977         int i_samples = block_out.i_buffer /
 978             ( p_dec->fmt_out.audio.i_bitspersample *
 979               p_dec->fmt_out.audio.i_channels / 8 );
 980
 981         p_aout_buffer = decoder_NewAudioBuffer( p_dec, i_samples );
 982         if( p_aout_buffer )
 983         {
 984             memcpy( p_aout_buffer->p_buffer,
 985                     block_out.p_buffer, block_out.i_buffer );
 986             /* Date management */
 987             p_aout_buffer->i_pts = date_Get( &p_sys->end_date );
 988             p_aout_buffer->i_length =
 989                 date_Increment( &p_sys->end_date, i_samples )
 990                 - p_aout_buffer->i_pts;
 991         }
 992         p_out->vt->Release( (IUnknown *)p_out );
 993
 994         return p_aout_buffer;
 995     }
 996
 997     return NULL;
 998 }
 999
1000 static void CopyPicture( picture_t *p_pic, uint8_t *p_in )
1001 {
1002     int i_plane, i_line, i_width, i_dst_stride;
1003     uint8_t *p_dst, *p_src = p_in;
1004
1005     p_dst = p_pic->p[1].p_pixels;
1006     p_pic->p[1].p_pixels = p_pic->p[2].p_pixels;
1007     p_pic->p[2].p_pixels = p_dst;
1008
1009     for( i_plane = 0; i_plane < p_pic->i_planes; i_plane++ )
1010     {
1011         p_dst = p_pic->p[i_plane].p_pixels;
1012         i_width = p_pic->p[i_plane].i_visible_pitch;
1013         i_dst_stride  = p_pic->p[i_plane].i_pitch;
1014
1015         for( i_line = 0; i_line < p_pic->p[i_plane].i_visible_lines; i_line++ )
1016         {
1017             vlc_memcpy( p_dst, p_src, i_width );
1018             p_src += i_width;
1019             p_dst += i_dst_stride;
1020         }
1021     }
1022
1023     p_dst = p_pic->p[1].p_pixels;
1024     p_pic->p[1].p_pixels = p_pic->p[2].p_pixels;
1025     p_pic->p[2].p_pixels = p_dst;
1026 }
1027
1028 static void *DecoderThread( void *data )
1029 {
1030     decoder_t *p_dec = data;
1031     decoder_sys_t *p_sys = p_dec->p_sys;
1032
1033     if( DecOpen( p_dec ) )
1034         return NULL; /* failed */
1035
1036     vlc_mutex_lock( &p_sys->lock );
1037     for( ;; )
1038     {
1039         while( p_sys->b_ready && !p_sys->pp_input )
1040             vlc_cond_wait( &p_sys->wait_input, &p_sys->lock );
1041         if( !p_sys->b_ready )
1042             break;
1043
1044         for( ;; )
1045         {
1046             void *p_output = DecBlock( p_dec, p_sys->pp_input );
1047             if( !p_output )
1048                 break;
1049             TAB_APPEND( p_sys->i_output, p_sys->pp_output, p_output );
1050         }
1051         p_sys->pp_input = NULL;
1052         vlc_cond_signal( &p_sys->wait_output );
1053     }
1054     vlc_mutex_unlock( &p_sys->lock );
1055
1056     DecClose( p_dec );
1057     return NULL;
1058 }
1059
1060
1061 /****************************************************************************
1062  * Encoder descriptor declaration
1063  ****************************************************************************/
1064 struct encoder_sys_t
1065 {
1066     HINSTANCE hmsdmo_dll;
1067     IMediaObject *p_dmo;
1068
1069     int i_min_output;
1070
1071     date_t end_date;
1072
1073 #ifdef LOADER
1074     ldt_fs_t    *ldt_fs;
1075 #endif
1076 };
1077
1078 /*****************************************************************************
1079  * EncoderOpen: open dmo codec
1080  *****************************************************************************/
1081 static int EncoderOpen( vlc_object_t *p_this )
1082 {
1083     encoder_t *p_enc = (encoder_t*)p_this;
1084
1085     int i_ret = EncOpen( p_this );
1086     if( i_ret != VLC_SUCCESS ) return i_ret;
1087
1088     /* Set callbacks */
1089     p_enc->pf_encode_video = (block_t *(*)(encoder_t *, picture_t *))
1090         EncodeBlock;
1091     p_enc->pf_encode_audio = (block_t *(*)(encoder_t *, aout_buffer_t *))
1092         EncodeBlock;
1093
1094     return VLC_SUCCESS;
1095 }
1096
1097 /*****************************************************************************
1098  * EncoderSetVideoType: configures the input and output types of the dmo
1099  *****************************************************************************/
1100 static int EncoderSetVideoType( encoder_t *p_enc, IMediaObject *p_dmo )
1101 {
1102     int i, i_selected, i_err;
1103     DMO_MEDIA_TYPE dmo_type;
1104     VIDEOINFOHEADER vih, *p_vih;
1105     BITMAPINFOHEADER *p_bih;
1106
1107     /* FIXME */
1108     p_enc->fmt_in.video.i_bits_per_pixel =
1109         p_enc->fmt_out.video.i_bits_per_pixel = 12;
1110
1111     /* Enumerate input format (for debug output) */
1112     i = 0;
1113     while( !p_dmo->vt->GetInputType( p_dmo, 0, i++, &dmo_type ) )
1114     {
1115         p_vih = (VIDEOINFOHEADER *)dmo_type.pbFormat;
1116
1117         msg_Dbg( p_enc, "available input chroma: %4.4s",
1118                  (char *)&dmo_type.subtype.Data1 );
1119         if( !memcmp( &dmo_type.subtype, &MEDIASUBTYPE_RGB565, 16 ) )
1120             msg_Dbg( p_enc, "-> MEDIASUBTYPE_RGB565" );
1121         if( !memcmp( &dmo_type.subtype, &MEDIASUBTYPE_RGB24, 16 ) )
1122             msg_Dbg( p_enc, "-> MEDIASUBTYPE_RGB24" );
1123
1124         DMOFreeMediaType( &dmo_type );
1125     }
1126
1127     /* Setup input format */
1128     memset( &dmo_type, 0, sizeof(dmo_type) );
1129     memset( &vih, 0, sizeof(VIDEOINFOHEADER) );
1130
1131     p_bih = &vih.bmiHeader;
1132     p_bih->biCompression = VLC_CODEC_I420;
1133     p_bih->biWidth = p_enc->fmt_in.video.i_width;
1134     p_bih->biHeight = p_enc->fmt_in.video.i_height;
1135     p_bih->biBitCount = p_enc->fmt_in.video.i_bits_per_pixel;
1136     p_bih->biSizeImage = p_enc->fmt_in.video.i_width *
1137         p_enc->fmt_in.video.i_height * p_enc->fmt_in.video.i_bits_per_pixel /8;
1138     p_bih->biPlanes = 3;
1139     p_bih->biSize = sizeof(BITMAPINFOHEADER);
1140
1141     vih.rcSource.left = vih.rcSource.top = 0;
1142     vih.rcSource.right = p_enc->fmt_in.video.i_width;
1143     vih.rcSource.bottom = p_enc->fmt_in.video.i_height;
1144     vih.rcTarget = vih.rcSource;
1145
1146     vih.AvgTimePerFrame = INT64_C(10000000) / 25; //FIXME
1147
1148     dmo_type.majortype = MEDIATYPE_Video;
1149     //dmo_type.subtype = MEDIASUBTYPE_RGB24;
1150     dmo_type.subtype = MEDIASUBTYPE_I420;
1151     //dmo_type.subtype.Data1 = p_bih->biCompression;
1152     dmo_type.formattype = FORMAT_VideoInfo;
1153     dmo_type.bFixedSizeSamples = TRUE;
1154     dmo_type.bTemporalCompression = FALSE;
1155     dmo_type.lSampleSize = p_bih->biSizeImage;
1156     dmo_type.cbFormat = sizeof(VIDEOINFOHEADER);
1157     dmo_type.pbFormat = (char *)&vih;
1158
1159     if( ( i_err = p_dmo->vt->SetInputType( p_dmo, 0, &dmo_type, 0 ) ) )
1160     {
1161         msg_Err( p_enc, "can't set DMO input type: %x", i_err );
1162         return VLC_EGENERIC;
1163     }
1164
1165     msg_Dbg( p_enc, "successfully set input type" );
1166
1167     /* Setup output format */
1168     memset( &dmo_type, 0, sizeof(dmo_type) );
1169     dmo_type.pUnk = 0;
1170
1171     /* Enumerate output types */
1172     i = 0, i_selected = -1;
1173     while( !p_dmo->vt->GetOutputType( p_dmo, 0, i++, &dmo_type ) )
1174     {
1175         p_vih = (VIDEOINFOHEADER *)dmo_type.pbFormat;
1176
1177         msg_Dbg( p_enc, "available output codec: %4.4s",
1178                  (char *)&dmo_type.subtype.Data1 );
1179
1180         if( p_vih->bmiHeader.biCompression == p_enc->fmt_out.i_codec )
1181             i_selected = i - 1;
1182
1183         DMOFreeMediaType( &dmo_type );
1184     }
1185
1186     if( i_selected < 0 )
1187     {
1188         msg_Err( p_enc, "couldn't find codec: %4.4s",
1189                  (char *)&p_enc->fmt_out.i_codec );
1190         return VLC_EGENERIC;
1191     }
1192
1193     p_dmo->vt->GetOutputType( p_dmo, 0, i_selected, &dmo_type );
1194     ((VIDEOINFOHEADER *)dmo_type.pbFormat)->dwBitRate =
1195         p_enc->fmt_out.i_bitrate;
1196
1197     /* Get the private data for the codec */
1198     while( 1 )
1199     {
1200         IWMCodecPrivateData *p_privdata;
1201         VIDEOINFOHEADER *p_vih;
1202         uint8_t *p_data = 0;
1203         uint32_t i_data = 0, i_vih;
1204
1205         i_err = p_dmo->vt->QueryInterface( (IUnknown *)p_dmo,
1206                                            &IID_IWMCodecPrivateData,
1207                                            &p_privdata );
1208         if( i_err ) break;
1209
1210         i_err = p_privdata->vt->SetPartialOutputType( p_privdata, &dmo_type );
1211         if( i_err )
1212         {
1213             msg_Err( p_enc, "SetPartialOutputType() failed" );
1214             p_privdata->vt->Release( (IUnknown *)p_privdata );
1215             break;
1216         }
1217
1218         i_err = p_privdata->vt->GetPrivateData( p_privdata, NULL, &i_data );
1219         if( i_err )
1220         {
1221             msg_Err( p_enc, "GetPrivateData() failed" );
1222             p_privdata->vt->Release( (IUnknown *)p_privdata );
1223             break;
1224         }
1225
1226         p_data = malloc( i_data );
1227         i_err = p_privdata->vt->GetPrivateData( p_privdata, p_data, &i_data );
1228
1229         /* Update the media type with the private data */
1230         i_vih = dmo_type.cbFormat + i_data;
1231         p_vih = CoTaskMemAlloc( i_vih );
1232         memcpy( p_vih, dmo_type.pbFormat, dmo_type.cbFormat );
1233         memcpy( ((uint8_t *)p_vih) + dmo_type.cbFormat, p_data, i_data );
1234         DMOFreeMediaType( &dmo_type );
1235         dmo_type.pbFormat = (char*)p_vih;
1236         dmo_type.cbFormat = i_vih;
1237
1238         msg_Dbg( p_enc, "found extra data: %i", i_data );
1239         p_enc->fmt_out.i_extra = i_data;
1240         p_enc->fmt_out.p_extra = p_data;
1241         break;
1242     }
1243
1244     i_err = p_dmo->vt->SetOutputType( p_dmo, 0, &dmo_type, 0 );
1245
1246     p_vih = (VIDEOINFOHEADER *)dmo_type.pbFormat;
1247     p_enc->fmt_in.i_codec = VLC_CODEC_I420;
1248
1249     DMOFreeMediaType( &dmo_type );
1250     if( i_err )
1251     {
1252         msg_Err( p_enc, "can't set DMO output type: %i", i_err );
1253         return VLC_EGENERIC;
1254     }
1255
1256     msg_Dbg( p_enc, "successfully set output type" );
1257     return VLC_SUCCESS;
1258 }
1259
1260 /*****************************************************************************
1261  * EncoderSetAudioType: configures the input and output types of the dmo
1262  *****************************************************************************/
1263 static int EncoderSetAudioType( encoder_t *p_enc, IMediaObject *p_dmo )
1264 {
1265     int i, i_selected, i_err;
1266     unsigned int i_last_byterate;
1267     uint16_t i_tag;
1268     DMO_MEDIA_TYPE dmo_type;
1269     WAVEFORMATEX *p_wf;
1270
1271     /* Setup the format structure */
1272     fourcc_to_wf_tag( p_enc->fmt_out.i_codec, &i_tag );
1273     if( i_tag == 0 ) return VLC_EGENERIC;
1274
1275     p_enc->fmt_in.i_codec = VLC_CODEC_S16N;
1276     p_enc->fmt_in.audio.i_bitspersample = 16;
1277
1278     /* We first need to choose an output type from the predefined
1279      * list of choices (we cycle through the list to select the best match) */
1280     i = 0; i_selected = -1; i_last_byterate = 0;
1281     while( !p_dmo->vt->GetOutputType( p_dmo, 0, i++, &dmo_type ) )
1282     {
1283         p_wf = (WAVEFORMATEX *)dmo_type.pbFormat;
1284         msg_Dbg( p_enc, "available format :%i, sample rate: %i, channels: %i, "
1285                  "bits per sample: %i, bitrate: %i, blockalign: %i",
1286                  (int) p_wf->wFormatTag, (int)p_wf->nSamplesPerSec,
1287                  (int)p_wf->nChannels, (int)p_wf->wBitsPerSample,
1288                  (int)p_wf->nAvgBytesPerSec * 8, (int)p_wf->nBlockAlign );
1289
1290         if( p_wf->wFormatTag == i_tag &&
1291             p_wf->nSamplesPerSec == p_enc->fmt_in.audio.i_rate &&
1292             p_wf->nChannels == p_enc->fmt_in.audio.i_channels &&
1293             p_wf->wBitsPerSample == p_enc->fmt_in.audio.i_bitspersample )
1294         {
1295             if( p_wf->nAvgBytesPerSec <
1296                 p_enc->fmt_out.i_bitrate * 110 / 800 /* + 10% */ &&
1297                 p_wf->nAvgBytesPerSec > i_last_byterate )
1298             {
1299                 i_selected = i - 1;
1300                 i_last_byterate = p_wf->nAvgBytesPerSec;
1301                 msg_Dbg( p_enc, "selected entry %i (bitrate: %i)",
1302                          i_selected, p_wf->nAvgBytesPerSec * 8 );
1303             }
1304         }
1305
1306         DMOFreeMediaType( &dmo_type );
1307     }
1308
1309     if( i_selected < 0 )
1310     {
1311         msg_Err( p_enc, "couldn't find a matching output" );
1312         return VLC_EGENERIC;
1313     }
1314
1315     p_dmo->vt->GetOutputType( p_dmo, 0, i_selected, &dmo_type );
1316     p_wf = (WAVEFORMATEX *)dmo_type.pbFormat;
1317
1318     msg_Dbg( p_enc, "selected format: %i, sample rate:%i, "
1319              "channels: %i, bits per sample: %i, bitrate: %i, blockalign: %i",
1320              (int)p_wf->wFormatTag, (int)p_wf->nSamplesPerSec,
1321              (int)p_wf->nChannels, (int)p_wf->wBitsPerSample,
1322              (int)p_wf->nAvgBytesPerSec * 8, (int)p_wf->nBlockAlign );
1323
1324     p_enc->fmt_out.audio.i_rate = p_wf->nSamplesPerSec;
1325     p_enc->fmt_out.audio.i_channels = p_wf->nChannels;
1326     p_enc->fmt_out.audio.i_bitspersample = p_wf->wBitsPerSample;
1327     p_enc->fmt_out.audio.i_blockalign = p_wf->nBlockAlign;
1328     p_enc->fmt_out.i_bitrate = p_wf->nAvgBytesPerSec * 8;
1329
1330     if( p_wf->cbSize )
1331     {
1332         msg_Dbg( p_enc, "found cbSize: %i", p_wf->cbSize );
1333         p_enc->fmt_out.i_extra = p_wf->cbSize;
1334         p_enc->fmt_out.p_extra = malloc( p_enc->fmt_out.i_extra );
1335         memcpy( p_enc->fmt_out.p_extra, &p_wf[1], p_enc->fmt_out.i_extra );
1336     }
1337
1338     i_err = p_dmo->vt->SetOutputType( p_dmo, 0, &dmo_type, 0 );
1339     DMOFreeMediaType( &dmo_type );
1340
1341     if( i_err )
1342     {
1343         msg_Err( p_enc, "can't set DMO output type: %i", i_err );
1344         return VLC_EGENERIC;
1345     }
1346
1347     msg_Dbg( p_enc, "successfully set output type" );
1348
1349     /* Setup the input type */
1350     i = 0; i_selected = -1;
1351     while( !p_dmo->vt->GetInputType( p_dmo, 0, i++, &dmo_type ) )
1352     {
1353         p_wf = (WAVEFORMATEX *)dmo_type.pbFormat;
1354         msg_Dbg( p_enc, "available format :%i, sample rate: %i, channels: %i, "
1355                  "bits per sample: %i, bitrate: %i, blockalign: %i",
1356                  (int) p_wf->wFormatTag, (int)p_wf->nSamplesPerSec,
1357                  (int)p_wf->nChannels, (int)p_wf->wBitsPerSample,
1358                  (int)p_wf->nAvgBytesPerSec * 8, (int)p_wf->nBlockAlign );
1359
1360         if( p_wf->wFormatTag == WAVE_FORMAT_PCM &&
1361             p_wf->nSamplesPerSec == p_enc->fmt_in.audio.i_rate &&
1362             p_wf->nChannels == p_enc->fmt_in.audio.i_channels &&
1363             p_wf->wBitsPerSample == p_enc->fmt_in.audio.i_bitspersample )
1364         {
1365             i_selected = i - 1;
1366         }
1367
1368         DMOFreeMediaType( &dmo_type );
1369     }
1370
1371     if( i_selected < 0 )
1372     {
1373         msg_Err( p_enc, "couldn't find a matching input" );
1374         return VLC_EGENERIC;
1375     }
1376
1377     p_dmo->vt->GetInputType( p_dmo, 0, i_selected, &dmo_type );
1378     i_err = p_dmo->vt->SetInputType( p_dmo, 0, &dmo_type, 0 );
1379     DMOFreeMediaType( &dmo_type );
1380     if( i_err )
1381     {
1382         msg_Err( p_enc, "can't set DMO input type: %x", i_err );
1383         return VLC_EGENERIC;
1384     }
1385     msg_Dbg( p_enc, "successfully set input type" );
1386
1387     return VLC_SUCCESS;
1388 }
1389
1390 /*****************************************************************************
1391  * EncOpen: open dmo codec
1392  *****************************************************************************/
1393 static int EncOpen( vlc_object_t *p_this )
1394 {
1395     encoder_t *p_enc = (encoder_t*)p_this;
1396     encoder_sys_t *p_sys = NULL;
1397     IMediaObject *p_dmo = NULL;
1398     HINSTANCE hmsdmo_dll = NULL;
1399
1400 #ifdef LOADER
1401     ldt_fs_t *ldt_fs = Setup_LDT_Keeper();
1402 #else
1403     /* Initialize OLE/COM */
1404     CoInitialize( 0 );
1405 #endif /* LOADER */
1406
1407     if( LoadDMO( p_this, &hmsdmo_dll, &p_dmo, &p_enc->fmt_out, true )
1408         != VLC_SUCCESS )
1409     {
1410         hmsdmo_dll = 0;
1411         p_dmo = 0;
1412         goto error;
1413     }
1414
1415     if( p_enc->fmt_in.i_cat == VIDEO_ES )
1416     {
1417         if( EncoderSetVideoType( p_enc, p_dmo ) != VLC_SUCCESS ) goto error;
1418     }
1419     else
1420     {
1421         if( EncoderSetAudioType( p_enc, p_dmo ) != VLC_SUCCESS ) goto error;
1422     }
1423
1424     /* Allocate the memory needed to store the decoder's structure */
1425     if( ( p_enc->p_sys = p_sys = malloc(sizeof(*p_sys)) ) == NULL )
1426     {
1427         goto error;
1428     }
1429
1430     p_sys->hmsdmo_dll = hmsdmo_dll;
1431     p_sys->p_dmo = p_dmo;
1432 #ifdef LOADER
1433     p_sys->ldt_fs = ldt_fs;
1434 #endif
1435
1436     /* Find out some properties of the inputput */
1437     {
1438         uint32_t i_size, i_align, dum;
1439
1440         if( p_dmo->vt->GetInputSizeInfo( p_dmo, 0, &i_size, &i_align, &dum ) )
1441             msg_Err( p_enc, "GetInputSizeInfo() failed" );
1442         else
1443             msg_Dbg( p_enc, "GetInputSizeInfo(): bytes %i, align %i, %i",
1444                      i_size, i_align, dum );
1445     }
1446
1447     /* Find out some properties of the output */
1448     {
1449         uint32_t i_size, i_align;
1450
1451         p_sys->i_min_output = 0;
1452         if( p_dmo->vt->GetOutputSizeInfo( p_dmo, 0, &i_size, &i_align ) )
1453         {
1454             msg_Err( p_enc, "GetOutputSizeInfo() failed" );
1455             goto error;
1456         }
1457         else
1458         {
1459             msg_Dbg( p_enc, "GetOutputSizeInfo(): bytes %i, align %i",
1460                      i_size, i_align );
1461             p_sys->i_min_output = i_size;
1462         }
1463     }
1464
1465     /* Set output properties */
1466     p_enc->fmt_out.i_cat = p_enc->fmt_out.i_cat;
1467     if( p_enc->fmt_out.i_cat == AUDIO_ES )
1468         date_Init( &p_sys->end_date, p_enc->fmt_out.audio.i_rate, 1 );
1469     else
1470         date_Init( &p_sys->end_date, 25 /* FIXME */, 1 );
1471
1472     return VLC_SUCCESS;
1473
1474  error:
1475
1476     if( p_dmo ) p_dmo->vt->Release( (IUnknown *)p_dmo );
1477     if( hmsdmo_dll ) FreeLibrary( hmsdmo_dll );
1478
1479 #ifdef LOADER
1480     Restore_LDT_Keeper( ldt_fs );
1481 #else
1482     /* Uninitialize OLE/COM */
1483     CoUninitialize();
1484 #endif /* LOADER */
1485
1486     free( p_sys );
1487
1488     return VLC_EGENERIC;
1489 }
1490
1491 /****************************************************************************
1492  * Encode: the whole thing
1493  ****************************************************************************/
1494 static block_t *EncodeBlock( encoder_t *p_enc, void *p_data )
1495 {
1496     encoder_sys_t *p_sys = p_enc->p_sys;
1497     CMediaBuffer *p_in;
1498     block_t *p_chain = NULL;
1499     block_t *p_block_in;
1500     uint32_t i_status;
1501     int i_result;
1502     mtime_t i_pts;
1503
1504     if( !p_data ) return NULL;
1505
1506     if( p_enc->fmt_out.i_cat == VIDEO_ES )
1507     {
1508         /* Get picture data */
1509         int i_plane, i_line, i_width, i_src_stride;
1510         picture_t *p_pic = (picture_t *)p_data;
1511         uint8_t *p_dst;
1512
1513         int i_buffer = p_enc->fmt_in.video.i_width *
1514             p_enc->fmt_in.video.i_height *
1515             p_enc->fmt_in.video.i_bits_per_pixel / 8;
1516
1517         p_block_in = block_New( p_enc, i_buffer );
1518
1519         /* Copy picture stride by stride */
1520         p_dst = p_block_in->p_buffer;
1521         for( i_plane = 0; i_plane < p_pic->i_planes; i_plane++ )
1522         {
1523             uint8_t *p_src = p_pic->p[i_plane].p_pixels;
1524             i_width = p_pic->p[i_plane].i_visible_pitch;
1525             i_src_stride = p_pic->p[i_plane].i_pitch;
1526
1527             for( i_line = 0; i_line < p_pic->p[i_plane].i_visible_lines;
1528                  i_line++ )
1529             {
1530                 vlc_memcpy( p_dst, p_src, i_width );
1531                 p_dst += i_width;
1532                 p_src += i_src_stride;
1533             }
1534         }
1535
1536         i_pts = p_pic->date;
1537     }
1538     else
1539     {
1540         aout_buffer_t *p_aout_buffer = (aout_buffer_t *)p_data;
1541         p_block_in = block_New( p_enc, p_aout_buffer->i_buffer );
1542         memcpy( p_block_in->p_buffer, p_aout_buffer->p_buffer,
1543                 p_block_in->i_buffer );
1544
1545         i_pts = p_aout_buffer->i_pts;
1546     }
1547
1548     /* Feed input to the DMO */
1549     p_in = CMediaBufferCreate( p_block_in, p_block_in->i_buffer, true );
1550     i_result = p_sys->p_dmo->vt->ProcessInput( p_sys->p_dmo, 0,
1551        (IMediaBuffer *)p_in, DMO_INPUT_DATA_BUFFERF_TIME, i_pts * 10, 0 );
1552
1553     p_in->vt->Release( (IUnknown *)p_in );
1554     if( i_result == S_FALSE )
1555     {
1556         /* No output generated */
1557 #ifdef DMO_DEBUG
1558         msg_Dbg( p_enc, "ProcessInput(): no output generated %"PRId64, i_pts );
1559 #endif
1560         return NULL;
1561     }
1562     else if( i_result == (int)DMO_E_NOTACCEPTING )
1563     {
1564         /* Need to call ProcessOutput */
1565         msg_Dbg( p_enc, "ProcessInput(): not accepting" );
1566     }
1567     else if( i_result != S_OK )
1568     {
1569         msg_Dbg( p_enc, "ProcessInput(): failed: %x", i_result );
1570         return NULL;
1571     }
1572
1573 #ifdef DMO_DEBUG
1574     msg_Dbg( p_enc, "ProcessInput(): success" );
1575 #endif
1576
1577     /* Get output from the DMO */
1578     while( 1 )
1579     {
1580         DMO_OUTPUT_DATA_BUFFER db;
1581         block_t *p_block_out;
1582         CMediaBuffer *p_out;
1583
1584         p_block_out = block_New( p_enc, p_sys->i_min_output );
1585         p_block_out->i_buffer = 0;
1586         p_out = CMediaBufferCreate(p_block_out, p_sys->i_min_output, false);
1587         memset( &db, 0, sizeof(db) );
1588         db.pBuffer = (IMediaBuffer *)p_out;
1589
1590         i_result = p_sys->p_dmo->vt->ProcessOutput( p_sys->p_dmo,
1591                                                     0, 1, &db, &i_status );
1592
1593         if( i_result != S_OK )
1594         {
1595             if( i_result != S_FALSE )
1596                 msg_Dbg( p_enc, "ProcessOutput(): failed: %x", i_result );
1597 #ifdef DMO_DEBUG
1598             else
1599                 msg_Dbg( p_enc, "ProcessOutput(): no output" );
1600 #endif
1601
1602             p_out->vt->Release( (IUnknown *)p_out );
1603             block_Release( p_block_out );
1604             return p_chain;
1605         }
1606
1607         if( !p_block_out->i_buffer )
1608         {
1609 #ifdef DMO_DEBUG
1610             msg_Dbg( p_enc, "ProcessOutput(): no output (i_buffer_out == 0)" );
1611 #endif
1612             p_out->vt->Release( (IUnknown *)p_out );
1613             block_Release( p_block_out );
1614             return p_chain;
1615         }
1616
1617         if( db.dwStatus & DMO_OUTPUT_DATA_BUFFERF_TIME )
1618         {
1619 #ifdef DMO_DEBUG
1620             msg_Dbg( p_enc, "ProcessOutput(): pts: %"PRId64", %"PRId64,
1621                      i_pts, db.rtTimestamp / 10 );
1622 #endif
1623             i_pts = db.rtTimestamp / 10;
1624         }
1625
1626         if( db.dwStatus & DMO_OUTPUT_DATA_BUFFERF_TIMELENGTH )
1627         {
1628             p_block_out->i_length = db.rtTimelength / 10;
1629 #ifdef DMO_DEBUG
1630             msg_Dbg( p_enc, "ProcessOutput(): length: %"PRId64,
1631                      p_block_out->i_length );
1632 #endif
1633         }
1634
1635         if( p_enc->fmt_out.i_cat == VIDEO_ES )
1636         {
1637             if( db.dwStatus & DMO_OUTPUT_DATA_BUFFERF_SYNCPOINT )
1638                 p_block_out->i_flags |= BLOCK_FLAG_TYPE_I;
1639             else
1640                 p_block_out->i_flags |= BLOCK_FLAG_TYPE_P;
1641         }
1642
1643         p_block_out->i_dts = p_block_out->i_pts = i_pts;
1644         block_ChainAppend( &p_chain, p_block_out );
1645     }
1646 }
1647
1648 /*****************************************************************************
1649  * EncoderClose: close codec
1650  *****************************************************************************/
1651 void EncoderClose( vlc_object_t *p_this )
1652 {
1653     encoder_t *p_enc = (encoder_t*)p_this;
1654     encoder_sys_t *p_sys = p_enc->p_sys;
1655
1656     if( !p_sys ) return;
1657
1658     if( p_sys->p_dmo ) p_sys->p_dmo->vt->Release( (IUnknown *)p_sys->p_dmo );
1659     FreeLibrary( p_sys->hmsdmo_dll );
1660
1661 #ifdef LOADER
1662 #if 0
1663     Restore_LDT_Keeper( p_sys->ldt_fs );
1664 #endif
1665 #else
1666     /* Uninitialize OLE/COM */
1667     CoUninitialize();
1668 #endif
1669
1670     free( p_sys );
1671 }