git.sesse.net Git - mlt/blob - src/framework/mlt_frame.c

   1 /*
   2  * mlt_frame.c -- interface for all frame classes
   3  * Copyright (C) 2003-2004 Ushodaya Enterprises Limited
   4  * Author: Charles Yates <charles.yates@pandora.be>
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License as published by
   8  * the Free Software Foundation; either version 2 of the License, or
   9  * (at your option) any later version.
  10  *
  11  * This program is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  14  * GNU General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * along with this program; if not, write to the Free Software Foundation,
  18  * Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.
  19  */
  20
  21 #include "config.h"
  22 #include "mlt_frame.h"
  23 #include "mlt_producer.h"
  24 #include "mlt_factory.h"
  25 #include <stdio.h>
  26 #include <stdlib.h>
  27 #include <string.h>
  28 #include <math.h>
  29
  30 /** Constructor for a frame.
  31 */
  32
  33 mlt_frame mlt_frame_init( )
  34 {
  35         // Allocate a frame
  36         mlt_frame this = calloc( sizeof( struct mlt_frame_s ), 1 );
  37
  38         if ( this != NULL )
  39         {
  40                 // Get the normalisation
  41                 char *normalisation = mlt_environment( "MLT_NORMALISATION" );
  42
  43                 // Initialise the properties
  44                 mlt_properties properties = &this->parent;
  45                 mlt_properties_init( properties, this );
  46
  47                 // Set default properties on the frame
  48                 mlt_properties_set_position( properties, "_position", 0.0 );
  49                 mlt_properties_set_data( properties, "image", NULL, 0, NULL, NULL );
  50
  51                 if ( normalisation == NULL || strcmp( normalisation, "NTSC" ) )
  52                 {
  53                         mlt_properties_set_int( properties, "width", 720 );
  54                         mlt_properties_set_int( properties, "height", 576 );
  55                         mlt_properties_set_int( properties, "normalised_width", 720 );
  56                         mlt_properties_set_int( properties, "normalised_height", 576 );
  57                         mlt_properties_set_double( properties, "aspect_ratio", 59.0/54.0 );
  58                 }
  59                 else
  60                 {
  61                         mlt_properties_set_int( properties, "width", 720 );
  62                         mlt_properties_set_int( properties, "height", 480 );
  63                         mlt_properties_set_int( properties, "normalised_width", 720 );
  64                         mlt_properties_set_int( properties, "normalised_height", 480 );
  65                         mlt_properties_set_double( properties, "aspect_ratio", 10.0/11.0 );
  66                 }
  67
  68                 mlt_properties_set_data( properties, "audio", NULL, 0, NULL, NULL );
  69                 mlt_properties_set_data( properties, "alpha", NULL, 0, NULL, NULL );
  70
  71                 // Construct stacks for frames and methods
  72                 this->stack_image = mlt_deque_init( );
  73                 this->stack_audio = mlt_deque_init( );
  74                 this->stack_service = mlt_deque_init( );
  75         }
  76
  77         return this;
  78 }
  79
  80 /** Fetch the frames properties.
  81 */
  82
  83 mlt_properties mlt_frame_properties( mlt_frame this )
  84 {
  85         return this != NULL ? &this->parent : NULL;
  86 }
  87
  88 /** Check if we have a way to derive something other than a test card.
  89 */
  90
  91 int mlt_frame_is_test_card( mlt_frame this )
  92 {
  93         return mlt_deque_count( this->stack_image ) == 0 || mlt_properties_get_int( MLT_FRAME_PROPERTIES( this ), "test_image" );
  94 }
  95
  96 /** Check if we have a way to derive something other than test audio.
  97 */
  98
  99 int mlt_frame_is_test_audio( mlt_frame this )
 100 {
 101         return mlt_deque_count( this->stack_audio ) == 0 || mlt_properties_get_int( MLT_FRAME_PROPERTIES( this ), "test_audio" );
 102 }
 103
 104 /** Get the aspect ratio of the frame.
 105 */
 106
 107 double mlt_frame_get_aspect_ratio( mlt_frame this )
 108 {
 109         return mlt_properties_get_double( MLT_FRAME_PROPERTIES( this ), "aspect_ratio" );
 110 }
 111
 112 /** Set the aspect ratio of the frame.
 113 */
 114
 115 int mlt_frame_set_aspect_ratio( mlt_frame this, double value )
 116 {
 117         return mlt_properties_set_double( MLT_FRAME_PROPERTIES( this ), "aspect_ratio", value );
 118 }
 119
 120 /** Get the position of this frame.
 121 */
 122
 123 mlt_position mlt_frame_get_position( mlt_frame this )
 124 {
 125         int pos = mlt_properties_get_position( MLT_FRAME_PROPERTIES( this ), "_position" );
 126         return pos < 0 ? 0 : pos;
 127 }
 128
 129 /** Set the position of this frame.
 130 */
 131
 132 int mlt_frame_set_position( mlt_frame this, mlt_position value )
 133 {
 134         return mlt_properties_set_position( MLT_FRAME_PROPERTIES( this ), "_position", value );
 135 }
 136
 137 /** Stack a get_image callback.
 138 */
 139
 140 int mlt_frame_push_get_image( mlt_frame this, mlt_get_image get_image )
 141 {
 142         return mlt_deque_push_back( this->stack_image, get_image );
 143 }
 144
 145 /** Pop a get_image callback.
 146 */
 147
 148 mlt_get_image mlt_frame_pop_get_image( mlt_frame this )
 149 {
 150         return mlt_deque_pop_back( this->stack_image );
 151 }
 152
 153 /** Push a frame.
 154 */
 155
 156 int mlt_frame_push_frame( mlt_frame this, mlt_frame that )
 157 {
 158         return mlt_deque_push_back( this->stack_image, that );
 159 }
 160
 161 /** Pop a frame.
 162 */
 163
 164 mlt_frame mlt_frame_pop_frame( mlt_frame this )
 165 {
 166         return mlt_deque_pop_back( this->stack_image );
 167 }
 168
 169 /** Push a service.
 170 */
 171
 172 int mlt_frame_push_service( mlt_frame this, void *that )
 173 {
 174         return mlt_deque_push_back( this->stack_image, that );
 175 }
 176
 177 /** Pop a service.
 178 */
 179
 180 void *mlt_frame_pop_service( mlt_frame this )
 181 {
 182         return mlt_deque_pop_back( this->stack_image );
 183 }
 184
 185 /** Push a service.
 186 */
 187
 188 int mlt_frame_push_service_int( mlt_frame this, int that )
 189 {
 190         return mlt_deque_push_back_int( this->stack_image, that );
 191 }
 192
 193 /** Pop a service.
 194 */
 195
 196 int mlt_frame_pop_service_int( mlt_frame this )
 197 {
 198         return mlt_deque_pop_back_int( this->stack_image );
 199 }
 200
 201 /** Push an audio item on the stack.
 202 */
 203
 204 int mlt_frame_push_audio( mlt_frame this, void *that )
 205 {
 206         return mlt_deque_push_back( this->stack_audio, that );
 207 }
 208
 209 /** Pop an audio item from the stack
 210 */
 211
 212 void *mlt_frame_pop_audio( mlt_frame this )
 213 {
 214         return mlt_deque_pop_back( this->stack_audio );
 215 }
 216
 217 /** Return the service stack
 218 */
 219
 220 mlt_deque mlt_frame_service_stack( mlt_frame this )
 221 {
 222         return this->stack_service;
 223 }
 224
 225 /** Replace image stack with the information provided.
 226
 227         This might prove to be unreliable and restrictive - the idea is that a transition
 228         which normally uses two images may decide to only use the b frame (ie: in the case
 229         of a composite where the b frame completely obscures the a frame).
 230
 231         The image must be writable and the destructor for the image itself must be taken
 232         care of on another frame and that frame cannot have a replace applied to it...
 233         Further it assumes that no alpha mask is in use.
 234
 235         For these reasons, it can only be used in a specific situation - when you have
 236         multiple tracks each with their own transition and these transitions are applied
 237         in a strictly reversed order (ie: highest numbered [lowest track] is processed
 238         first).
 239
 240         More reliable approach - the cases should be detected during the process phase
 241         and the upper tracks should simply not be invited to stack...
 242 */
 243
 244 void mlt_frame_replace_image( mlt_frame this, uint8_t *image, mlt_image_format format, int width, int height )
 245 {
 246         // Remove all items from the stack
 247         while( mlt_deque_pop_back( this->stack_image ) ) ;
 248
 249         // Update the information
 250         mlt_properties_set_data( MLT_FRAME_PROPERTIES( this ), "image", image, 0, NULL, NULL );
 251         mlt_properties_set_int( MLT_FRAME_PROPERTIES( this ), "width", width );
 252         mlt_properties_set_int( MLT_FRAME_PROPERTIES( this ), "height", height );
 253         mlt_properties_set_int( MLT_FRAME_PROPERTIES( this ), "format", format );
 254         this->get_alpha_mask = NULL;
 255 }
 256
 257 /** Get the image associated to the frame.
 258 */
 259
 260 int mlt_frame_get_image( mlt_frame this, uint8_t **buffer, mlt_image_format *format, int *width, int *height, int writable )
 261 {
 262         mlt_properties properties = MLT_FRAME_PROPERTIES( this );
 263         mlt_get_image get_image = mlt_frame_pop_get_image( this );
 264         mlt_producer producer = mlt_properties_get_data( properties, "test_card_producer", NULL );
 265         int error = 0;
 266
 267         if ( get_image != NULL )
 268         {
 269                 mlt_properties_set_int( properties, "image_count", mlt_properties_get_int( properties, "image_count" ) - 1 );
 270                 mlt_position position = mlt_frame_get_position( this );
 271                 error = get_image( this, buffer, format, width, height, writable );
 272                 mlt_properties_set_int( properties, "width", *width );
 273                 mlt_properties_set_int( properties, "height", *height );
 274                 mlt_properties_set_int( properties, "format", *format );
 275                 mlt_frame_set_position( this, position );
 276         }
 277         else if ( mlt_properties_get_data( properties, "image", NULL ) != NULL )
 278         {
 279                 *format = mlt_properties_get_int( properties, "format" );
 280                 *buffer = mlt_properties_get_data( properties, "image", NULL );
 281                 *width = mlt_properties_get_int( properties, "width" );
 282                 *height = mlt_properties_get_int( properties, "height" );
 283         }
 284         else if ( producer != NULL )
 285         {
 286                 mlt_frame test_frame = NULL;
 287                 mlt_service_get_frame( MLT_PRODUCER_SERVICE( producer ), &test_frame, 0 );
 288                 if ( test_frame != NULL )
 289                 {
 290                         mlt_properties test_properties = MLT_FRAME_PROPERTIES( test_frame );
 291                         mlt_properties_set_double( test_properties, "consumer_aspect_ratio", mlt_properties_get_double( properties, "consumer_aspect_ratio" ) );
 292                         mlt_properties_set( test_properties, "rescale.interp", mlt_properties_get( properties, "rescale.interp" ) );
 293                         mlt_frame_get_image( test_frame, buffer, format, width, height, writable );
 294                         mlt_properties_set_data( properties, "test_card_frame", test_frame, 0, ( mlt_destructor )mlt_frame_close, NULL );
 295                         mlt_properties_set_data( properties, "image", *buffer, *width * *height * 2, NULL, NULL );
 296                         mlt_properties_set_int( properties, "width", *width );
 297                         mlt_properties_set_int( properties, "height", *height );
 298                         mlt_properties_set_int( properties, "format", *format );
 299                         mlt_properties_set_double( properties, "aspect_ratio", mlt_frame_get_aspect_ratio( test_frame ) );
 300                 }
 301                 else
 302                 {
 303                         mlt_properties_set_data( properties, "test_card_producer", NULL, 0, NULL, NULL );
 304                         mlt_frame_get_image( this, buffer, format, width, height, writable );
 305                 }
 306         }
 307         else
 308         {
 309                 register uint8_t *p;
 310                 register uint8_t *q;
 311                 int size = 0;
 312
 313                 *width = *width == 0 ? 720 : *width;
 314                 *height = *height == 0 ? 576 : *height;
 315                 size = *width * *height;
 316
 317                 mlt_properties_set_int( properties, "format", *format );
 318                 mlt_properties_set_int( properties, "width", *width );
 319                 mlt_properties_set_int( properties, "height", *height );
 320                 mlt_properties_set_int( properties, "aspect_ratio", 0 );
 321
 322                 switch( *format )
 323                 {
 324                         case mlt_image_none:
 325                                 size = 0;
 326                                 *buffer = NULL;
 327                                 break;
 328                         case mlt_image_rgb24:
 329                                 size *= 3;
 330                                 size += *width * 3;
 331                                 *buffer = mlt_pool_alloc( size );
 332                                 if ( *buffer )
 333                                         memset( *buffer, 255, size );
 334                                 break;
 335                         case mlt_image_rgb24a:
 336                         case mlt_image_opengl:
 337                                 size *= 4;
 338                                 size += *width * 4;
 339                                 *buffer = mlt_pool_alloc( size );
 340                                 if ( *buffer )
 341                                         memset( *buffer, 255, size );
 342                                 break;
 343                         case mlt_image_yuv422:
 344                                 size *= 2;
 345                                 size += *width * 2;
 346                                 *buffer = mlt_pool_alloc( size );
 347                                 p = *buffer;
 348                                 q = p + size;
 349                                 while ( p != NULL && p != q )
 350                                 {
 351                                         *p ++ = 235;
 352                                         *p ++ = 128;
 353                                 }
 354                                 break;
 355                         case mlt_image_yuv420p:
 356                                 size = size * 3 / 2;
 357                                 *buffer = mlt_pool_alloc( size );
 358                                 if ( *buffer )
 359                                         memset( *buffer, 255, size );
 360                                 break;
 361                 }
 362
 363                 mlt_properties_set_data( properties, "image", *buffer, size, ( mlt_destructor )mlt_pool_release, NULL );
 364                 mlt_properties_set_int( properties, "test_image", 1 );
 365         }
 366
 367         mlt_properties_set_int( properties, "scaled_width", *width );
 368         mlt_properties_set_int( properties, "scaled_height", *height );
 369
 370         return error;
 371 }
 372
 373 uint8_t *mlt_frame_get_alpha_mask( mlt_frame this )
 374 {
 375         uint8_t *alpha = NULL;
 376         if ( this != NULL )
 377         {
 378                 if ( this->get_alpha_mask != NULL )
 379                         alpha = this->get_alpha_mask( this );
 380                 if ( alpha == NULL )
 381                         alpha = mlt_properties_get_data( &this->parent, "alpha", NULL );
 382                 if ( alpha == NULL )
 383                 {
 384                         int size = mlt_properties_get_int( &this->parent, "scaled_width" ) * mlt_properties_get_int( &this->parent, "scaled_height" );
 385                         alpha = mlt_pool_alloc( size );
 386                         memset( alpha, 255, size );
 387                         mlt_properties_set_data( &this->parent, "alpha", alpha, size, mlt_pool_release, NULL );
 388                 }
 389         }
 390         return alpha;
 391 }
 392
 393 int mlt_frame_get_audio( mlt_frame this, int16_t **buffer, mlt_audio_format *format, int *frequency, int *channels, int *samples )
 394 {
 395         mlt_get_audio get_audio = mlt_frame_pop_audio( this );
 396         mlt_properties properties = MLT_FRAME_PROPERTIES( this );
 397         int hide = mlt_properties_get_int( properties, "test_audio" );
 398
 399         if ( hide == 0 && get_audio != NULL )
 400         {
 401                 mlt_position position = mlt_frame_get_position( this );
 402                 get_audio( this, buffer, format, frequency, channels, samples );
 403                 mlt_frame_set_position( this, position );
 404         }
 405         else if ( mlt_properties_get_data( properties, "audio", NULL ) )
 406         {
 407                 *buffer = mlt_properties_get_data( properties, "audio", NULL );
 408                 *frequency = mlt_properties_get_int( properties, "audio_frequency" );
 409                 *channels = mlt_properties_get_int( properties, "audio_channels" );
 410                 *samples = mlt_properties_get_int( properties, "audio_samples" );
 411         }
 412         else
 413         {
 414                 int size = 0;
 415                 *samples = *samples <= 0 ? 1920 : *samples;
 416                 *channels = *channels <= 0 ? 2 : *channels;
 417                 *frequency = *frequency <= 0 ? 48000 : *frequency;
 418                 size = *samples * *channels * sizeof( int16_t );
 419                 *buffer = mlt_pool_alloc( size );
 420                 if ( *buffer != NULL )
 421                         memset( *buffer, 0, size );
 422                 mlt_properties_set_data( properties, "audio", *buffer, size, ( mlt_destructor )mlt_pool_release, NULL );
 423                 mlt_properties_set_int( properties, "test_audio", 1 );
 424         }
 425
 426         mlt_properties_set_int( properties, "audio_frequency", *frequency );
 427         mlt_properties_set_int( properties, "audio_channels", *channels );
 428         mlt_properties_set_int( properties, "audio_samples", *samples );
 429
 430         if ( mlt_properties_get( properties, "meta.volume" ) )
 431         {
 432                 double value = mlt_properties_get_double( properties, "meta.volume" );
 433
 434                 if ( value == 0.0 )
 435                 {
 436                         memset( *buffer, 0, *samples * *channels * 2 );
 437                 }
 438                 else if ( value != 1.0 )
 439                 {
 440                         int total = *samples * *channels;
 441                         int16_t *p = *buffer;
 442                         while ( total -- )
 443                         {
 444                                 *p = *p * value;
 445                                 p ++;
 446                         }
 447                 }
 448
 449                 mlt_properties_set( properties, "meta.volume", NULL );
 450         }
 451
 452         return 0;
 453 }
 454
 455 unsigned char *mlt_frame_get_waveform( mlt_frame this, int w, int h )
 456 {
 457         int16_t *pcm = NULL;
 458         mlt_properties properties = MLT_FRAME_PROPERTIES( this );
 459         mlt_audio_format format = mlt_audio_pcm;
 460         int frequency = 32000; // lower frequency available?
 461         int channels = 2;
 462         double fps = mlt_properties_get_double( properties, "fps" );
 463         int samples = mlt_sample_calculator( fps, frequency, mlt_frame_get_position( this ) );
 464
 465         // Get the pcm data
 466         mlt_frame_get_audio( this, &pcm, &format, &frequency, &channels, &samples );
 467
 468         // Make an 8-bit buffer large enough to hold rendering
 469         int size = w * h;
 470         unsigned char *bitmap = ( unsigned char* )mlt_pool_alloc( size );
 471         if ( bitmap != NULL )
 472                 memset( bitmap, 0, size );
 473         mlt_properties_set_data( properties, "waveform", bitmap, size, ( mlt_destructor )mlt_pool_release, NULL );
 474
 475         // Render vertical lines
 476         int16_t *ubound = pcm + samples * channels;
 477         int skip = samples / w - 1;
 478         int i, j, k;
 479
 480         // Iterate sample stream and along x coordinate
 481         for ( i = 0; i < w && pcm < ubound; i++ )
 482         {
 483                 // pcm data has channels interleaved
 484                 for ( j = 0; j < channels; j++ )
 485                 {
 486                         // Determine sample's magnitude from 2s complement;
 487                         int pcm_magnitude = *pcm < 0 ? ~(*pcm) + 1 : *pcm;
 488                         // The height of a line is the ratio of the magnitude multiplied by
 489                         // half the vertical resolution
 490                         int height = ( int )( ( double )( pcm_magnitude ) / 32768 * h / 2 );
 491                         // Determine the starting y coordinate - left channel above center,
 492                         // right channel below - currently assumes 2 channels
 493                         int displacement = ( h / 2 ) - ( 1 - j ) * height;
 494                         // Position buffer pointer using y coordinate, stride, and x coordinate
 495                         unsigned char *p = &bitmap[ i + displacement * w ];
 496
 497                         // Draw vertical line
 498                         for ( k = 0; k < height; k++ )
 499                                 p[ w * k ] = 0xFF;
 500
 501                         pcm++;
 502                 }
 503                 pcm += skip * channels;
 504         }
 505
 506         return bitmap;
 507 }
 508
 509 mlt_producer mlt_frame_get_original_producer( mlt_frame this )
 510 {
 511         if ( this != NULL )
 512                 return mlt_properties_get_data( MLT_FRAME_PROPERTIES( this ), "_producer", NULL );
 513         return NULL;
 514 }
 515
 516 void mlt_frame_close( mlt_frame this )
 517 {
 518         if ( this != NULL && mlt_properties_dec_ref( MLT_FRAME_PROPERTIES( this ) ) <= 0 )
 519         {
 520                 mlt_deque_close( this->stack_image );
 521                 mlt_deque_close( this->stack_audio );
 522                 while( mlt_deque_peek_back( this->stack_service ) )
 523                         mlt_service_close( mlt_deque_pop_back( this->stack_service ) );
 524                 mlt_deque_close( this->stack_service );
 525                 mlt_properties_close( &this->parent );
 526                 free( this );
 527         }
 528 }
 529
 530 /***** convenience functions *****/
 531
 532 int mlt_convert_rgb24a_to_yuv422( uint8_t *rgba, int width, int height, int stride, uint8_t *yuv, uint8_t *alpha )
 533 {
 534         int ret = 0;
 535         register int y0, y1, u0, u1, v0, v1;
 536         register int r, g, b;
 537         register uint8_t *d = yuv;
 538         register int i, j;
 539
 540         for ( i = 0; i < height; i++ )
 541         {
 542                 register uint8_t *s = rgba + ( stride * i );
 543                 for ( j = 0; j < ( width / 2 ); j++ )
 544                 {
 545                         r = *s++;
 546                         g = *s++;
 547                         b = *s++;
 548                         *alpha++ = *s++;
 549                         RGB2YUV (r, g, b, y0, u0 , v0);
 550                         r = *s++;
 551                         g = *s++;
 552                         b = *s++;
 553                         *alpha++ = *s++;
 554                         RGB2YUV (r, g, b, y1, u1 , v1);
 555                         *d++ = y0;
 556                         *d++ = (u0+u1) >> 1;
 557                         *d++ = y1;
 558                         *d++ = (v0+v1) >> 1;
 559                 }
 560                 if ( width % 2 )
 561                 {
 562                         r = *s++;
 563                         g = *s++;
 564                         b = *s++;
 565                         *alpha++ = *s++;
 566                         RGB2YUV (r, g, b, y0, u0 , v0);
 567                         *d++ = y0;
 568                         *d++ = u0;
 569                 }
 570         }
 571         return ret;
 572 }
 573
 574 int mlt_convert_rgb24_to_yuv422( uint8_t *rgb, int width, int height, int stride, uint8_t *yuv )
 575 {
 576         int ret = 0;
 577         register int y0, y1, u0, u1, v0, v1;
 578         register int r, g, b;
 579         register uint8_t *d = yuv;
 580         register int i, j;
 581
 582         for ( i = 0; i < height; i++ )
 583         {
 584                 register uint8_t *s = rgb + ( stride * i );
 585                 for ( j = 0; j < ( width / 2 ); j++ )
 586                 {
 587                         r = *s++;
 588                         g = *s++;
 589                         b = *s++;
 590                         RGB2YUV (r, g, b, y0, u0 , v0);
 591                         r = *s++;
 592                         g = *s++;
 593                         b = *s++;
 594                         RGB2YUV (r, g, b, y1, u1 , v1);
 595                         *d++ = y0;
 596                         *d++ = (u0+u1) >> 1;
 597                         *d++ = y1;
 598                         *d++ = (v0+v1) >> 1;
 599                 }
 600                 if ( width % 2 )
 601                 {
 602                         r = *s++;
 603                         g = *s++;
 604                         b = *s++;
 605                         RGB2YUV (r, g, b, y0, u0 , v0);
 606                         *d++ = y0;
 607                         *d++ = u0;
 608                 }
 609         }
 610         return ret;
 611 }
 612
 613 int mlt_convert_yuv420p_to_yuv422( uint8_t *yuv420p, int width, int height, int stride, uint8_t *yuv )
 614 {
 615         int ret = 0;
 616         register int i, j;
 617
 618         int half = width >> 1;
 619
 620         uint8_t *Y = yuv420p;
 621         uint8_t *U = Y + width * height;
 622         uint8_t *V = U + width * height / 4;
 623
 624         register uint8_t *d = yuv;
 625
 626         for ( i = 0; i < height; i++ )
 627         {
 628                 register uint8_t *u = U + ( i / 2 ) * ( half );
 629                 register uint8_t *v = V + ( i / 2 ) * ( half );
 630
 631                 for ( j = 0; j < half; j++ )
 632                 {
 633                         *d ++ = *Y ++;
 634                         *d ++ = *u ++;
 635                         *d ++ = *Y ++;
 636                         *d ++ = *v ++;
 637                 }
 638         }
 639         return ret;
 640 }
 641
 642 uint8_t *mlt_resize_alpha( uint8_t *input, int owidth, int oheight, int iwidth, int iheight, uint8_t alpha_value )
 643 {
 644         uint8_t *output = NULL;
 645
 646         if ( input != NULL && ( iwidth != owidth || iheight != oheight ) && ( owidth > 6 && oheight > 6 ) )
 647         {
 648                 uint8_t *out_line;
 649                 int offset_x = ( owidth - iwidth ) / 2;
 650                 int offset_y = ( oheight - iheight ) / 2;
 651                 int iused = iwidth;
 652
 653                 output = mlt_pool_alloc( owidth * oheight );
 654                 memset( output, alpha_value, owidth * oheight );
 655
 656                 offset_x -= offset_x % 2;
 657
 658                 out_line = output + offset_y * owidth;
 659                 out_line += offset_x;
 660
 661                 // Loop for the entirety of our output height.
 662                 while ( iheight -- )
 663                 {
 664                         // We're in the input range for this row.
 665                         memcpy( out_line, input, iused );
 666
 667                         // Move to next input line
 668                         input += iwidth;
 669
 670                 // Move to next output line
 671                 out_line += owidth;
 672                 }
 673         }
 674
 675         return output;
 676 }
 677
 678 void mlt_resize_yuv422( uint8_t *output, int owidth, int oheight, uint8_t *input, int iwidth, int iheight )
 679 {
 680         // Calculate strides
 681         int istride = iwidth * 2;
 682         int ostride = owidth * 2;
 683         int offset_x = ( owidth - iwidth );
 684         int offset_y = ( oheight - iheight ) / 2;
 685         uint8_t *in_line = input;
 686         uint8_t *out_line;
 687         int size = owidth * oheight;
 688         uint8_t *p = output;
 689
 690         // Optimisation point
 691         if ( output == NULL || input == NULL || ( owidth <= 6 || oheight <= 6 || iwidth <= 6 || oheight <= 6 ) )
 692         {
 693                 return;
 694         }
 695         else if ( iwidth == owidth && iheight == oheight )
 696         {
 697                 memcpy( output, input, iheight * istride );
 698                 return;
 699         }
 700
 701         while( size -- )
 702         {
 703                 *p ++ = 16;
 704                 *p ++ = 128;
 705         }
 706
 707         offset_x -= offset_x % 4;
 708
 709         out_line = output + offset_y * ostride;
 710         out_line += offset_x;
 711
 712         // Loop for the entirety of our output height.
 713         while ( iheight -- )
 714         {
 715                 // We're in the input range for this row.
 716                 memcpy( out_line, in_line, iwidth * 2 );
 717
 718                 // Move to next input line
 719                 in_line += istride;
 720
 721                 // Move to next output line
 722                 out_line += ostride;
 723         }
 724 }
 725
 726 /** A resizing function for yuv422 frames - this does not rescale, but simply
 727         resizes. It assumes yuv422 images available on the frame so use with care.
 728 */
 729
 730 uint8_t *mlt_frame_resize_yuv422( mlt_frame this, int owidth, int oheight )
 731 {
 732         // Get properties
 733         mlt_properties properties = MLT_FRAME_PROPERTIES( this );
 734
 735         // Get the input image, width and height
 736         uint8_t *input = mlt_properties_get_data( properties, "image", NULL );
 737         uint8_t *alpha = mlt_frame_get_alpha_mask( this );
 738
 739         int iwidth = mlt_properties_get_int( properties, "width" );
 740         int iheight = mlt_properties_get_int( properties, "height" );
 741
 742         // If width and height are correct, don't do anything
 743         if ( iwidth != owidth || iheight != oheight )
 744         {
 745                 uint8_t alpha_value = mlt_properties_get_int( properties, "resize_alpha" );
 746
 747                 // Create the output image
 748                 uint8_t *output = mlt_pool_alloc( owidth * ( oheight + 1 ) * 2 );
 749
 750                 // Call the generic resize
 751                 mlt_resize_yuv422( output, owidth, oheight, input, iwidth, iheight );
 752
 753                 // Now update the frame
 754                 mlt_properties_set_data( properties, "image", output, owidth * ( oheight + 1 ) * 2, ( mlt_destructor )mlt_pool_release, NULL );
 755                 mlt_properties_set_int( properties, "width", owidth );
 756                 mlt_properties_set_int( properties, "height", oheight );
 757
 758                 // We should resize the alpha too
 759                 alpha = mlt_resize_alpha( alpha, owidth, oheight, iwidth, iheight, alpha_value );
 760                 if ( alpha != NULL )
 761                 {
 762                         mlt_properties_set_data( properties, "alpha", alpha, owidth * oheight, ( mlt_destructor )mlt_pool_release, NULL );
 763                         this->get_alpha_mask = NULL;
 764                 }
 765
 766                 // Return the output
 767                 return output;
 768         }
 769         // No change, return input
 770         return input;
 771 }
 772
 773 /** A rescaling function for yuv422 frames - low quality, and provided for testing
 774         only. It assumes yuv422 images available on the frame so use with care.
 775 */
 776
 777 uint8_t *mlt_frame_rescale_yuv422( mlt_frame this, int owidth, int oheight )
 778 {
 779         // Get properties
 780         mlt_properties properties = MLT_FRAME_PROPERTIES( this );
 781
 782         // Get the input image, width and height
 783         uint8_t *input = mlt_properties_get_data( properties, "image", NULL );
 784         int iwidth = mlt_properties_get_int( properties, "width" );
 785         int iheight = mlt_properties_get_int( properties, "height" );
 786
 787         // If width and height are correct, don't do anything
 788         if ( iwidth != owidth || iheight != oheight )
 789         {
 790                 // Create the output image
 791                 uint8_t *output = mlt_pool_alloc( owidth * ( oheight + 1 ) * 2 );
 792
 793                 // Calculate strides
 794                 int istride = iwidth * 2;
 795                 int ostride = owidth * 2;
 796
 797                 iwidth = iwidth - ( iwidth % 4 );
 798
 799                 // Derived coordinates
 800                 int dy, dx;
 801
 802         // Calculate ranges
 803         int out_x_range = owidth / 2;
 804         int out_y_range = oheight / 2;
 805         int in_x_range = iwidth / 2;
 806         int in_y_range = iheight / 2;
 807
 808         // Output pointers
 809         register uint8_t *out_line = output;
 810         register uint8_t *out_ptr;
 811
 812         // Calculate a middle pointer
 813         uint8_t *in_middle = input + istride * in_y_range + in_x_range * 2;
 814         uint8_t *in_line;
 815
 816                 // Generate the affine transform scaling values
 817                 register int scale_width = ( iwidth << 16 ) / owidth;
 818                 register int scale_height = ( iheight << 16 ) / oheight;
 819                 register int base = 0;
 820
 821                 int outer = out_x_range * scale_width;
 822                 int bottom = out_y_range * scale_height;
 823
 824         // Loop for the entirety of our output height.
 825         for ( dy = - bottom; dy < bottom; dy += scale_height )
 826         {
 827                 // Start at the beginning of the line
 828                 out_ptr = out_line;
 829
 830                 // Pointer to the middle of the input line
 831                 in_line = in_middle + ( dy >> 16 ) * istride;
 832
 833                 // Loop for the entirety of our output row.
 834                 for ( dx = - outer; dx < outer; dx += scale_width )
 835                 {
 836                                 base = dx >> 15;
 837                                 base &= 0xfffffffe;
 838                                 *out_ptr ++ = *( in_line + base );
 839                                 base &= 0xfffffffc;
 840                                 *out_ptr ++ = *( in_line + base + 1 );
 841                                 dx += scale_width;
 842                                 base = dx >> 15;
 843                                 base &= 0xfffffffe;
 844                                 *out_ptr ++ = *( in_line + base );
 845                                 base &= 0xfffffffc;
 846                                 *out_ptr ++ = *( in_line + base + 3 );
 847                 }
 848
 849                 // Move to next output line
 850                 out_line += ostride;
 851         }
 852
 853                 // Now update the frame
 854                 mlt_properties_set_data( properties, "image", output, owidth * ( oheight + 1 ) * 2, ( mlt_destructor )mlt_pool_release, NULL );
 855                 mlt_properties_set_int( properties, "width", owidth );
 856                 mlt_properties_set_int( properties, "height", oheight );
 857
 858                 // Return the output
 859                 return output;
 860         }
 861
 862         // No change, return input
 863         return input;
 864 }
 865
 866 int mlt_frame_mix_audio( mlt_frame this, mlt_frame that, float weight_start, float weight_end, int16_t **buffer, mlt_audio_format *format, int *frequency, int *channels, int *samples )
 867 {
 868         int ret = 0;
 869         int16_t *src, *dest;
 870         int frequency_src = *frequency, frequency_dest = *frequency;
 871         int channels_src = *channels, channels_dest = *channels;
 872         int samples_src = *samples, samples_dest = *samples;
 873         int i, j;
 874         double d = 0, s = 0;
 875
 876         mlt_frame_get_audio( that, &src, format, &frequency_src, &channels_src, &samples_src );
 877         mlt_frame_get_audio( this, &dest, format, &frequency_dest, &channels_dest, &samples_dest );
 878
 879         int silent = mlt_properties_get_int( MLT_FRAME_PROPERTIES( this ), "silent_audio" );
 880         mlt_properties_set_int( MLT_FRAME_PROPERTIES( this ), "silent_audio", 0 );
 881         if ( silent )
 882                 memset( dest, 0, samples_dest * channels_dest * sizeof( int16_t ) );
 883
 884         silent = mlt_properties_get_int( MLT_FRAME_PROPERTIES( that ), "silent_audio" );
 885         mlt_properties_set_int( MLT_FRAME_PROPERTIES( that ), "silent_audio", 0 );
 886         if ( silent )
 887                 memset( src, 0, samples_src * channels_src * sizeof( int16_t ) );
 888
 889         if ( channels_src > 6 )
 890                 channels_src = 0;
 891         if ( channels_dest > 6 )
 892                 channels_dest = 0;
 893         if ( samples_src > 4000 )
 894                 samples_src = 0;
 895         if ( samples_dest > 4000 )
 896                 samples_dest = 0;
 897
 898         // determine number of samples to process
 899         *samples = samples_src < samples_dest ? samples_src : samples_dest;
 900         *channels = channels_src < channels_dest ? channels_src : channels_dest;
 901         *buffer = dest;
 902         *frequency = frequency_dest;
 903
 904         // Compute a smooth ramp over start to end
 905         float weight = weight_start;
 906         float weight_step = ( weight_end - weight_start ) / *samples;
 907
 908         if ( src == dest )
 909         {
 910                 *samples = samples_src;
 911                 *channels = channels_src;
 912                 *buffer = src;
 913                 *frequency = frequency_src;
 914                 return ret;
 915         }
 916
 917         // Mixdown
 918         for ( i = 0; i < *samples; i++ )
 919         {
 920                 for ( j = 0; j < *channels; j++ )
 921                 {
 922                         if ( j < channels_dest )
 923                                 d = (double) dest[ i * channels_dest + j ];
 924                         if ( j < channels_src )
 925                                 s = (double) src[ i * channels_src + j ];
 926                         dest[ i * channels_dest + j ] = s * weight + d * ( 1.0 - weight );
 927                 }
 928                 weight += weight_step;
 929         }
 930
 931         return ret;
 932 }
 933
 934 // Replacement for broken mlt_frame_audio_mix - this filter uses an inline low pass filter
 935 // to allow mixing without volume hacking
 936 int mlt_frame_combine_audio( mlt_frame this, mlt_frame that, int16_t **buffer, mlt_audio_format *format, int *frequency, int *channels, int *samples )
 937 {
 938         int ret = 0;
 939         int16_t *src, *dest;
 940         int frequency_src = *frequency, frequency_dest = *frequency;
 941         int channels_src = *channels, channels_dest = *channels;
 942         int samples_src = *samples, samples_dest = *samples;
 943         int i, j;
 944         double vp[ 6 ];
 945         double b_weight = 1.0;
 946
 947         if ( mlt_properties_get_int( MLT_FRAME_PROPERTIES( this ), "meta.mixdown" ) )
 948                 b_weight = 1.0 - mlt_properties_get_double( MLT_FRAME_PROPERTIES( this ), "meta.volume" );
 949
 950         mlt_frame_get_audio( that, &src, format, &frequency_src, &channels_src, &samples_src );
 951         mlt_frame_get_audio( this, &dest, format, &frequency_dest, &channels_dest, &samples_dest );
 952
 953         int silent = mlt_properties_get_int( MLT_FRAME_PROPERTIES( this ), "silent_audio" );
 954         mlt_properties_set_int( MLT_FRAME_PROPERTIES( this ), "silent_audio", 0 );
 955         if ( silent )
 956                 memset( dest, 0, samples_dest * channels_dest * sizeof( int16_t ) );
 957
 958         silent = mlt_properties_get_int( MLT_FRAME_PROPERTIES( that ), "silent_audio" );
 959         mlt_properties_set_int( MLT_FRAME_PROPERTIES( that ), "silent_audio", 0 );
 960         if ( silent )
 961                 memset( src, 0, samples_src * channels_src * sizeof( int16_t ) );
 962
 963         if ( src == dest )
 964         {
 965                 *samples = samples_src;
 966                 *channels = channels_src;
 967                 *buffer = src;
 968                 *frequency = frequency_src;
 969                 return ret;
 970         }
 971
 972         // determine number of samples to process
 973         *samples = samples_src < samples_dest ? samples_src : samples_dest;
 974         *channels = channels_src < channels_dest ? channels_src : channels_dest;
 975         *buffer = dest;
 976         *frequency = frequency_dest;
 977
 978         for ( j = 0; j < *channels; j++ )
 979                 vp[ j ] = ( double )dest[ j ];
 980
 981         double Fc = 0.5;
 982         double B = exp(-2.0 * M_PI * Fc);
 983         double A = 1.0 - B;
 984         double v;
 985
 986         for ( i = 0; i < *samples; i++ )
 987         {
 988                 for ( j = 0; j < *channels; j++ )
 989                 {
 990                         v = ( double )( b_weight * dest[ i * channels_dest + j ] + src[ i * channels_src + j ] );
 991                         v = v < -32767 ? -32767 : v > 32768 ? 32768 : v;
 992                         vp[ j ] = dest[ i * channels_dest + j ] = ( int16_t )( v * A + vp[ j ] * B );
 993                 }
 994         }
 995
 996         return ret;
 997 }
 998
 999 /* Will this break when mlt_position is converted to double? -Zach */
1000 int mlt_sample_calculator( float fps, int frequency, int64_t position )
1001 {
1002         int samples = 0;
1003
1004         if ( ( int )( fps * 100 ) == 2997 )
1005         {
1006                 samples = frequency / 30;
1007
1008                 switch ( frequency )
1009                 {
1010                         case 48000:
1011                                 if ( position % 5 != 0 )
1012                                         samples += 2;
1013                                 break;
1014                         case 44100:
1015                                 if ( position % 300 == 0 )
1016                                         samples = 1471;
1017                                 else if ( position % 30 == 0 )
1018                                         samples = 1470;
1019                                 else if ( position % 2 == 0 )
1020                                         samples = 1472;
1021                                 else
1022                                         samples = 1471;
1023                                 break;
1024                         case 32000:
1025                                 if ( position % 30 == 0 )
1026                                         samples = 1068;
1027                                 else if ( position % 29 == 0 )
1028                                         samples = 1067;
1029                                 else if ( position % 4 == 2 )
1030                                         samples = 1067;
1031                                 else
1032                                         samples = 1068;
1033                                 break;
1034                         default:
1035                                 samples = 0;
1036                 }
1037         }
1038         else if ( fps != 0 )
1039         {
1040                 samples = frequency / fps;
1041         }
1042
1043         return samples;
1044 }
1045
1046 int64_t mlt_sample_calculator_to_now( float fps, int frequency, int64_t frame )
1047 {
1048         int64_t samples = 0;
1049
1050         // TODO: Correct rules for NTSC and drop the * 100 hack
1051         if ( ( int )( fps * 100 ) == 2997 )
1052         {
1053                 samples = ( ( double )( frame * frequency ) / 30 );
1054                 switch( frequency )
1055                 {
1056                         case 48000:
1057                                 samples += 2 * ( frame / 5 );
1058                                 break;
1059                         case 44100:
1060                                 samples += frame + ( frame / 2 ) - ( frame / 30 ) + ( frame / 300 );
1061                                 break;
1062                         case 32000:
1063                                 samples += ( 2 * frame ) - ( frame / 4 ) - ( frame / 29 );
1064                                 break;
1065                 }
1066         }
1067         else if ( fps != 0 )
1068         {
1069                 samples = ( ( frame * frequency ) / ( int )fps );
1070         }
1071
1072         return samples;
1073 }