git.sesse.net Git - mlt/blob - src/framework/mlt_frame.c

   1 /*
   2  * mlt_frame.c -- interface for all frame classes
   3  * Copyright (C) 2003-2004 Ushodaya Enterprises Limited
   4  * Author: Charles Yates <charles.yates@pandora.be>
   5  *
   6  * This library is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * This library is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with this library; if not, write to the Free Software
  18  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  19  */
  20
  21 #include "config.h"
  22 #include "mlt_frame.h"
  23 #include "mlt_producer.h"
  24 #include "mlt_factory.h"
  25 #include <stdio.h>
  26 #include <stdlib.h>
  27 #include <string.h>
  28 #include <math.h>
  29
  30 /** Constructor for a frame.
  31 */
  32
  33 mlt_frame mlt_frame_init( )
  34 {
  35         // Allocate a frame
  36         mlt_frame this = calloc( sizeof( struct mlt_frame_s ), 1 );
  37
  38         if ( this != NULL )
  39         {
  40                 // Get the normalisation
  41                 char *normalisation = mlt_environment( "MLT_NORMALISATION" );
  42
  43                 // Initialise the properties
  44                 mlt_properties properties = &this->parent;
  45                 mlt_properties_init( properties, this );
  46
  47                 // Set default properties on the frame
  48                 mlt_properties_set_position( properties, "_position", 0.0 );
  49                 mlt_properties_set_data( properties, "image", NULL, 0, NULL, NULL );
  50
  51                 if ( normalisation == NULL || strcmp( normalisation, "NTSC" ) )
  52                 {
  53                         mlt_properties_set_int( properties, "width", 720 );
  54                         mlt_properties_set_int( properties, "height", 576 );
  55                         mlt_properties_set_int( properties, "normalised_width", 720 );
  56                         mlt_properties_set_int( properties, "normalised_height", 576 );
  57                         mlt_properties_set_double( properties, "aspect_ratio", 59.0/54.0 );
  58                 }
  59                 else
  60                 {
  61                         mlt_properties_set_int( properties, "width", 720 );
  62                         mlt_properties_set_int( properties, "height", 480 );
  63                         mlt_properties_set_int( properties, "normalised_width", 720 );
  64                         mlt_properties_set_int( properties, "normalised_height", 480 );
  65                         mlt_properties_set_double( properties, "aspect_ratio", 10.0/11.0 );
  66                 }
  67
  68                 mlt_properties_set_data( properties, "audio", NULL, 0, NULL, NULL );
  69                 mlt_properties_set_data( properties, "alpha", NULL, 0, NULL, NULL );
  70
  71                 // Construct stacks for frames and methods
  72                 this->stack_image = mlt_deque_init( );
  73                 this->stack_audio = mlt_deque_init( );
  74                 this->stack_service = mlt_deque_init( );
  75         }
  76
  77         return this;
  78 }
  79
  80 /** Fetch the frames properties.
  81 */
  82
  83 mlt_properties mlt_frame_properties( mlt_frame this )
  84 {
  85         return this != NULL ? &this->parent : NULL;
  86 }
  87
  88 /** Check if we have a way to derive something other than a test card.
  89 */
  90
  91 int mlt_frame_is_test_card( mlt_frame this )
  92 {
  93         return mlt_deque_count( this->stack_image ) == 0 || mlt_properties_get_int( MLT_FRAME_PROPERTIES( this ), "test_image" );
  94 }
  95
  96 /** Check if we have a way to derive something other than test audio.
  97 */
  98
  99 int mlt_frame_is_test_audio( mlt_frame this )
 100 {
 101         return mlt_deque_count( this->stack_audio ) == 0 || mlt_properties_get_int( MLT_FRAME_PROPERTIES( this ), "test_audio" );
 102 }
 103
 104 /** Get the aspect ratio of the frame.
 105 */
 106
 107 double mlt_frame_get_aspect_ratio( mlt_frame this )
 108 {
 109         return mlt_properties_get_double( MLT_FRAME_PROPERTIES( this ), "aspect_ratio" );
 110 }
 111
 112 /** Set the aspect ratio of the frame.
 113 */
 114
 115 int mlt_frame_set_aspect_ratio( mlt_frame this, double value )
 116 {
 117         return mlt_properties_set_double( MLT_FRAME_PROPERTIES( this ), "aspect_ratio", value );
 118 }
 119
 120 /** Get the position of this frame.
 121 */
 122
 123 mlt_position mlt_frame_get_position( mlt_frame this )
 124 {
 125         int pos = mlt_properties_get_position( MLT_FRAME_PROPERTIES( this ), "_position" );
 126         return pos < 0 ? 0 : pos;
 127 }
 128
 129 /** Set the position of this frame.
 130 */
 131
 132 int mlt_frame_set_position( mlt_frame this, mlt_position value )
 133 {
 134         return mlt_properties_set_position( MLT_FRAME_PROPERTIES( this ), "_position", value );
 135 }
 136
 137 /** Stack a get_image callback.
 138 */
 139
 140 int mlt_frame_push_get_image( mlt_frame this, mlt_get_image get_image )
 141 {
 142         return mlt_deque_push_back( this->stack_image, get_image );
 143 }
 144
 145 /** Pop a get_image callback.
 146 */
 147
 148 mlt_get_image mlt_frame_pop_get_image( mlt_frame this )
 149 {
 150         return mlt_deque_pop_back( this->stack_image );
 151 }
 152
 153 /** Push a frame.
 154 */
 155
 156 int mlt_frame_push_frame( mlt_frame this, mlt_frame that )
 157 {
 158         return mlt_deque_push_back( this->stack_image, that );
 159 }
 160
 161 /** Pop a frame.
 162 */
 163
 164 mlt_frame mlt_frame_pop_frame( mlt_frame this )
 165 {
 166         return mlt_deque_pop_back( this->stack_image );
 167 }
 168
 169 /** Push a service.
 170 */
 171
 172 int mlt_frame_push_service( mlt_frame this, void *that )
 173 {
 174         return mlt_deque_push_back( this->stack_image, that );
 175 }
 176
 177 /** Pop a service.
 178 */
 179
 180 void *mlt_frame_pop_service( mlt_frame this )
 181 {
 182         return mlt_deque_pop_back( this->stack_image );
 183 }
 184
 185 /** Push a service.
 186 */
 187
 188 int mlt_frame_push_service_int( mlt_frame this, int that )
 189 {
 190         return mlt_deque_push_back_int( this->stack_image, that );
 191 }
 192
 193 /** Pop a service.
 194 */
 195
 196 int mlt_frame_pop_service_int( mlt_frame this )
 197 {
 198         return mlt_deque_pop_back_int( this->stack_image );
 199 }
 200
 201 /** Push an audio item on the stack.
 202 */
 203
 204 int mlt_frame_push_audio( mlt_frame this, void *that )
 205 {
 206         return mlt_deque_push_back( this->stack_audio, that );
 207 }
 208
 209 /** Pop an audio item from the stack
 210 */
 211
 212 void *mlt_frame_pop_audio( mlt_frame this )
 213 {
 214         return mlt_deque_pop_back( this->stack_audio );
 215 }
 216
 217 /** Return the service stack
 218 */
 219
 220 mlt_deque mlt_frame_service_stack( mlt_frame this )
 221 {
 222         return this->stack_service;
 223 }
 224
 225 /** Replace image stack with the information provided.
 226
 227         This might prove to be unreliable and restrictive - the idea is that a transition
 228         which normally uses two images may decide to only use the b frame (ie: in the case
 229         of a composite where the b frame completely obscures the a frame).
 230
 231         The image must be writable and the destructor for the image itself must be taken
 232         care of on another frame and that frame cannot have a replace applied to it...
 233         Further it assumes that no alpha mask is in use.
 234
 235         For these reasons, it can only be used in a specific situation - when you have
 236         multiple tracks each with their own transition and these transitions are applied
 237         in a strictly reversed order (ie: highest numbered [lowest track] is processed
 238         first).
 239
 240         More reliable approach - the cases should be detected during the process phase
 241         and the upper tracks should simply not be invited to stack...
 242 */
 243
 244 void mlt_frame_replace_image( mlt_frame this, uint8_t *image, mlt_image_format format, int width, int height )
 245 {
 246         // Remove all items from the stack
 247         while( mlt_deque_pop_back( this->stack_image ) ) ;
 248
 249         // Update the information
 250         mlt_properties_set_data( MLT_FRAME_PROPERTIES( this ), "image", image, 0, NULL, NULL );
 251         mlt_properties_set_int( MLT_FRAME_PROPERTIES( this ), "width", width );
 252         mlt_properties_set_int( MLT_FRAME_PROPERTIES( this ), "height", height );
 253         mlt_properties_set_int( MLT_FRAME_PROPERTIES( this ), "format", format );
 254         this->get_alpha_mask = NULL;
 255 }
 256
 257 /** Get the image associated to the frame.
 258 */
 259
 260 int mlt_frame_get_image( mlt_frame this, uint8_t **buffer, mlt_image_format *format, int *width, int *height, int writable )
 261 {
 262         mlt_properties properties = MLT_FRAME_PROPERTIES( this );
 263         mlt_get_image get_image = mlt_frame_pop_get_image( this );
 264         mlt_producer producer = mlt_properties_get_data( properties, "test_card_producer", NULL );
 265         int error = 0;
 266
 267         if ( get_image != NULL )
 268         {
 269                 mlt_properties_set_int( properties, "image_count", mlt_properties_get_int( properties, "image_count" ) - 1 );
 270                 mlt_position position = mlt_frame_get_position( this );
 271                 error = get_image( this, buffer, format, width, height, writable );
 272                 mlt_properties_set_int( properties, "width", *width );
 273                 mlt_properties_set_int( properties, "height", *height );
 274                 mlt_properties_set_int( properties, "format", *format );
 275                 mlt_frame_set_position( this, position );
 276         }
 277         else if ( mlt_properties_get_data( properties, "image", NULL ) != NULL )
 278         {
 279                 *format = mlt_properties_get_int( properties, "format" );
 280                 *buffer = mlt_properties_get_data( properties, "image", NULL );
 281                 *width = mlt_properties_get_int( properties, "width" );
 282                 *height = mlt_properties_get_int( properties, "height" );
 283         }
 284         else if ( producer != NULL )
 285         {
 286                 mlt_frame test_frame = NULL;
 287                 mlt_service_get_frame( MLT_PRODUCER_SERVICE( producer ), &test_frame, 0 );
 288                 if ( test_frame != NULL )
 289                 {
 290                         mlt_properties test_properties = MLT_FRAME_PROPERTIES( test_frame );
 291                         mlt_properties_set_double( test_properties, "consumer_aspect_ratio", mlt_properties_get_double( properties, "consumer_aspect_ratio" ) );
 292                         mlt_properties_set( test_properties, "rescale.interp", mlt_properties_get( properties, "rescale.interp" ) );
 293                         mlt_frame_get_image( test_frame, buffer, format, width, height, writable );
 294                         mlt_properties_set_data( properties, "test_card_frame", test_frame, 0, ( mlt_destructor )mlt_frame_close, NULL );
 295                         mlt_properties_set_data( properties, "image", *buffer, *width * *height * 2, NULL, NULL );
 296                         mlt_properties_set_int( properties, "width", *width );
 297                         mlt_properties_set_int( properties, "height", *height );
 298                         mlt_properties_set_int( properties, "format", *format );
 299                         mlt_properties_set_double( properties, "aspect_ratio", mlt_frame_get_aspect_ratio( test_frame ) );
 300                 }
 301                 else
 302                 {
 303                         mlt_properties_set_data( properties, "test_card_producer", NULL, 0, NULL, NULL );
 304                         mlt_frame_get_image( this, buffer, format, width, height, writable );
 305                 }
 306         }
 307         else
 308         {
 309                 register uint8_t *p;
 310                 register uint8_t *q;
 311                 int size = 0;
 312
 313                 *width = *width == 0 ? 720 : *width;
 314                 *height = *height == 0 ? 576 : *height;
 315                 size = *width * *height;
 316
 317                 mlt_properties_set_int( properties, "format", *format );
 318                 mlt_properties_set_int( properties, "width", *width );
 319                 mlt_properties_set_int( properties, "height", *height );
 320                 mlt_properties_set_int( properties, "aspect_ratio", 0 );
 321
 322                 switch( *format )
 323                 {
 324                         case mlt_image_none:
 325                                 size = 0;
 326                                 *buffer = NULL;
 327                                 break;
 328                         case mlt_image_rgb24:
 329                                 size *= 3;
 330                                 size += *width * 3;
 331                                 *buffer = mlt_pool_alloc( size );
 332                                 if ( *buffer )
 333                                         memset( *buffer, 255, size );
 334                                 break;
 335                         case mlt_image_rgb24a:
 336                         case mlt_image_opengl:
 337                                 size *= 4;
 338                                 size += *width * 4;
 339                                 *buffer = mlt_pool_alloc( size );
 340                                 if ( *buffer )
 341                                         memset( *buffer, 255, size );
 342                                 break;
 343                         case mlt_image_yuv422:
 344                                 size *= 2;
 345                                 size += *width * 2;
 346                                 *buffer = mlt_pool_alloc( size );
 347                                 p = *buffer;
 348                                 q = p + size;
 349                                 while ( p != NULL && p != q )
 350                                 {
 351                                         *p ++ = 235;
 352                                         *p ++ = 128;
 353                                 }
 354                                 break;
 355                         case mlt_image_yuv420p:
 356                                 size = size * 3 / 2;
 357                                 *buffer = mlt_pool_alloc( size );
 358                                 if ( *buffer )
 359                                         memset( *buffer, 255, size );
 360                                 break;
 361                 }
 362
 363                 mlt_properties_set_data( properties, "image", *buffer, size, ( mlt_destructor )mlt_pool_release, NULL );
 364                 mlt_properties_set_int( properties, "test_image", 1 );
 365         }
 366
 367         mlt_properties_set_int( properties, "scaled_width", *width );
 368         mlt_properties_set_int( properties, "scaled_height", *height );
 369
 370         return error;
 371 }
 372
 373 uint8_t *mlt_frame_get_alpha_mask( mlt_frame this )
 374 {
 375         uint8_t *alpha = NULL;
 376         if ( this != NULL )
 377         {
 378                 if ( this->get_alpha_mask != NULL )
 379                         alpha = this->get_alpha_mask( this );
 380                 if ( alpha == NULL )
 381                         alpha = mlt_properties_get_data( &this->parent, "alpha", NULL );
 382                 if ( alpha == NULL )
 383                 {
 384                         int size = mlt_properties_get_int( &this->parent, "scaled_width" ) * mlt_properties_get_int( &this->parent, "scaled_height" );
 385                         alpha = mlt_pool_alloc( size );
 386                         memset( alpha, 255, size );
 387                         mlt_properties_set_data( &this->parent, "alpha", alpha, size, mlt_pool_release, NULL );
 388                 }
 389         }
 390         return alpha;
 391 }
 392
 393 int mlt_frame_get_audio( mlt_frame this, int16_t **buffer, mlt_audio_format *format, int *frequency, int *channels, int *samples )
 394 {
 395         mlt_get_audio get_audio = mlt_frame_pop_audio( this );
 396         mlt_properties properties = MLT_FRAME_PROPERTIES( this );
 397         int hide = mlt_properties_get_int( properties, "test_audio" );
 398
 399         if ( hide == 0 && get_audio != NULL )
 400         {
 401                 mlt_position position = mlt_frame_get_position( this );
 402                 get_audio( this, buffer, format, frequency, channels, samples );
 403                 mlt_frame_set_position( this, position );
 404         }
 405         else if ( mlt_properties_get_data( properties, "audio", NULL ) )
 406         {
 407                 *buffer = mlt_properties_get_data( properties, "audio", NULL );
 408                 *frequency = mlt_properties_get_int( properties, "audio_frequency" );
 409                 *channels = mlt_properties_get_int( properties, "audio_channels" );
 410                 *samples = mlt_properties_get_int( properties, "audio_samples" );
 411         }
 412         else
 413         {
 414                 int size = 0;
 415                 *samples = *samples <= 0 ? 1920 : *samples;
 416                 *channels = *channels <= 0 ? 2 : *channels;
 417                 *frequency = *frequency <= 0 ? 48000 : *frequency;
 418                 size = *samples * *channels * sizeof( int16_t );
 419                 *buffer = mlt_pool_alloc( size );
 420                 if ( *buffer != NULL )
 421                         memset( *buffer, 0, size );
 422                 mlt_properties_set_data( properties, "audio", *buffer, size, ( mlt_destructor )mlt_pool_release, NULL );
 423                 mlt_properties_set_int( properties, "test_audio", 1 );
 424         }
 425
 426         mlt_properties_set_int( properties, "audio_frequency", *frequency );
 427         mlt_properties_set_int( properties, "audio_channels", *channels );
 428         mlt_properties_set_int( properties, "audio_samples", *samples );
 429
 430         if ( mlt_properties_get( properties, "meta.volume" ) )
 431         {
 432                 double value = mlt_properties_get_double( properties, "meta.volume" );
 433
 434                 if ( value == 0.0 )
 435                 {
 436                         memset( *buffer, 0, *samples * *channels * 2 );
 437                 }
 438                 else if ( value != 1.0 )
 439                 {
 440                         int total = *samples * *channels;
 441                         int16_t *p = *buffer;
 442                         while ( total -- )
 443                         {
 444                                 *p = *p * value;
 445                                 p ++;
 446                         }
 447                 }
 448
 449                 mlt_properties_set( properties, "meta.volume", NULL );
 450         }
 451
 452         return 0;
 453 }
 454
 455 unsigned char *mlt_frame_get_waveform( mlt_frame this, int w, int h )
 456 {
 457         int16_t *pcm = NULL;
 458         mlt_properties properties = MLT_FRAME_PROPERTIES( this );
 459         mlt_audio_format format = mlt_audio_pcm;
 460         int frequency = 32000; // lower frequency available?
 461         int channels = 2;
 462         double fps = mlt_properties_get_double( properties, "fps" );
 463         int samples = mlt_sample_calculator( fps, frequency, mlt_frame_get_position( this ) );
 464
 465         // Get the pcm data
 466         mlt_frame_get_audio( this, &pcm, &format, &frequency, &channels, &samples );
 467
 468         // Make an 8-bit buffer large enough to hold rendering
 469         int size = w * h;
 470         unsigned char *bitmap = ( unsigned char* )mlt_pool_alloc( size );
 471         if ( bitmap != NULL )
 472                 memset( bitmap, 0, size );
 473         mlt_properties_set_data( properties, "waveform", bitmap, size, ( mlt_destructor )mlt_pool_release, NULL );
 474
 475         // Render vertical lines
 476         int16_t *ubound = pcm + samples * channels;
 477         int skip = samples / w - 1;
 478         int i, j, k;
 479
 480         // Iterate sample stream and along x coordinate
 481         for ( i = 0; i < w && pcm < ubound; i++ )
 482         {
 483                 // pcm data has channels interleaved
 484                 for ( j = 0; j < channels; j++ )
 485                 {
 486                         // Determine sample's magnitude from 2s complement;
 487                         int pcm_magnitude = *pcm < 0 ? ~(*pcm) + 1 : *pcm;
 488                         // The height of a line is the ratio of the magnitude multiplied by
 489                         // half the vertical resolution
 490                         int height = ( int )( ( double )( pcm_magnitude ) / 32768 * h / 2 );
 491                         // Determine the starting y coordinate - left channel above center,
 492                         // right channel below - currently assumes 2 channels
 493                         int displacement = ( h / 2 ) - ( 1 - j ) * height;
 494                         // Position buffer pointer using y coordinate, stride, and x coordinate
 495                         unsigned char *p = &bitmap[ i + displacement * w ];
 496
 497                         // Draw vertical line
 498                         for ( k = 0; k < height; k++ )
 499                                 p[ w * k ] = 0xFF;
 500
 501                         pcm++;
 502                 }
 503                 pcm += skip * channels;
 504         }
 505
 506         return bitmap;
 507 }
 508
 509 mlt_producer mlt_frame_get_original_producer( mlt_frame this )
 510 {
 511         if ( this != NULL )
 512                 return mlt_properties_get_data( MLT_FRAME_PROPERTIES( this ), "_producer", NULL );
 513         return NULL;
 514 }
 515
 516 void mlt_frame_close( mlt_frame this )
 517 {
 518         if ( this != NULL && mlt_properties_dec_ref( MLT_FRAME_PROPERTIES( this ) ) <= 0 )
 519         {
 520                 mlt_deque_close( this->stack_image );
 521                 mlt_deque_close( this->stack_audio );
 522                 while( mlt_deque_peek_back( this->stack_service ) )
 523                         mlt_service_close( mlt_deque_pop_back( this->stack_service ) );
 524                 mlt_deque_close( this->stack_service );
 525                 mlt_properties_close( &this->parent );
 526                 free( this );
 527         }
 528 }
 529
 530 /***** convenience functions *****/
 531
 532 int mlt_convert_yuv422_to_rgb24a( uint8_t *yuv, uint8_t *rgba, unsigned int total )
 533 {
 534         int ret = 0;
 535         int yy, uu, vv;
 536         int r,g,b;
 537         total /= 2;
 538         while (total--)
 539         {
 540                 yy = yuv[0];
 541                 uu = yuv[1];
 542                 vv = yuv[3];
 543                 YUV2RGB(yy, uu, vv, r, g, b);
 544                 rgba[0] = r;
 545                 rgba[1] = g;
 546                 rgba[2] = b;
 547                 rgba[3] = 255;
 548                 yy = yuv[2];
 549                 YUV2RGB(yy, uu, vv, r, g, b);
 550                 rgba[4] = r;
 551                 rgba[5] = g;
 552                 rgba[6] = b;
 553                 rgba[7] = 255;
 554                 yuv += 4;
 555                 rgba += 8;
 556         }
 557         return ret;
 558 }
 559
 560 int mlt_convert_rgb24a_to_yuv422( uint8_t *rgba, int width, int height, int stride, uint8_t *yuv, uint8_t *alpha )
 561 {
 562         int ret = 0;
 563         register int y0, y1, u0, u1, v0, v1;
 564         register int r, g, b;
 565         register uint8_t *d = yuv;
 566         register int i, j;
 567
 568         for ( i = 0; i < height; i++ )
 569         {
 570                 register uint8_t *s = rgba + ( stride * i );
 571                 for ( j = 0; j < ( width / 2 ); j++ )
 572                 {
 573                         r = *s++;
 574                         g = *s++;
 575                         b = *s++;
 576                         *alpha++ = *s++;
 577                         RGB2YUV (r, g, b, y0, u0 , v0);
 578                         r = *s++;
 579                         g = *s++;
 580                         b = *s++;
 581                         *alpha++ = *s++;
 582                         RGB2YUV (r, g, b, y1, u1 , v1);
 583                         *d++ = y0;
 584                         *d++ = (u0+u1) >> 1;
 585                         *d++ = y1;
 586                         *d++ = (v0+v1) >> 1;
 587                 }
 588                 if ( width % 2 )
 589                 {
 590                         r = *s++;
 591                         g = *s++;
 592                         b = *s++;
 593                         *alpha++ = *s++;
 594                         RGB2YUV (r, g, b, y0, u0 , v0);
 595                         *d++ = y0;
 596                         *d++ = u0;
 597                 }
 598         }
 599         return ret;
 600 }
 601
 602 int mlt_convert_rgb24_to_yuv422( uint8_t *rgb, int width, int height, int stride, uint8_t *yuv )
 603 {
 604         int ret = 0;
 605         register int y0, y1, u0, u1, v0, v1;
 606         register int r, g, b;
 607         register uint8_t *d = yuv;
 608         register int i, j;
 609
 610         for ( i = 0; i < height; i++ )
 611         {
 612                 register uint8_t *s = rgb + ( stride * i );
 613                 for ( j = 0; j < ( width / 2 ); j++ )
 614                 {
 615                         r = *s++;
 616                         g = *s++;
 617                         b = *s++;
 618                         RGB2YUV (r, g, b, y0, u0 , v0);
 619                         r = *s++;
 620                         g = *s++;
 621                         b = *s++;
 622                         RGB2YUV (r, g, b, y1, u1 , v1);
 623                         *d++ = y0;
 624                         *d++ = (u0+u1) >> 1;
 625                         *d++ = y1;
 626                         *d++ = (v0+v1) >> 1;
 627                 }
 628                 if ( width % 2 )
 629                 {
 630                         r = *s++;
 631                         g = *s++;
 632                         b = *s++;
 633                         RGB2YUV (r, g, b, y0, u0 , v0);
 634                         *d++ = y0;
 635                         *d++ = u0;
 636                 }
 637         }
 638         return ret;
 639 }
 640
 641 int mlt_convert_bgr24a_to_yuv422( uint8_t *rgba, int width, int height, int stride, uint8_t *yuv, uint8_t *alpha )
 642 {
 643         int ret = 0;
 644         register int y0, y1, u0, u1, v0, v1;
 645         register int r, g, b;
 646         register uint8_t *d = yuv;
 647         register int i, j;
 648
 649         for ( i = 0; i < height; i++ )
 650         {
 651                 register uint8_t *s = rgba + ( stride * i );
 652                 for ( j = 0; j < ( width / 2 ); j++ )
 653                 {
 654                         b = *s++;
 655                         g = *s++;
 656                         r = *s++;
 657                         *alpha++ = *s++;
 658                         RGB2YUV (r, g, b, y0, u0 , v0);
 659                         b = *s++;
 660                         g = *s++;
 661                         r = *s++;
 662                         *alpha++ = *s++;
 663                         RGB2YUV (r, g, b, y1, u1 , v1);
 664                         *d++ = y0;
 665                         *d++ = (u0+u1) >> 1;
 666                         *d++ = y1;
 667                         *d++ = (v0+v1) >> 1;
 668                 }
 669                 if ( width % 2 )
 670                 {
 671                         b = *s++;
 672                         g = *s++;
 673                         r = *s++;
 674                         *alpha++ = *s++;
 675                         RGB2YUV (r, g, b, y0, u0 , v0);
 676                         *d++ = y0;
 677                         *d++ = u0;
 678                 }
 679         }
 680         return ret;
 681 }
 682
 683 int mlt_convert_bgr24_to_yuv422( uint8_t *rgb, int width, int height, int stride, uint8_t *yuv )
 684 {
 685         int ret = 0;
 686         register int y0, y1, u0, u1, v0, v1;
 687         register int r, g, b;
 688         register uint8_t *d = yuv;
 689         register int i, j;
 690
 691         for ( i = 0; i < height; i++ )
 692         {
 693                 register uint8_t *s = rgb + ( stride * i );
 694                 for ( j = 0; j < ( width / 2 ); j++ )
 695                 {
 696                         b = *s++;
 697                         g = *s++;
 698                         r = *s++;
 699                         RGB2YUV (r, g, b, y0, u0 , v0);
 700                         b = *s++;
 701                         g = *s++;
 702                         r = *s++;
 703                         RGB2YUV (r, g, b, y1, u1 , v1);
 704                         *d++ = y0;
 705                         *d++ = (u0+u1) >> 1;
 706                         *d++ = y1;
 707                         *d++ = (v0+v1) >> 1;
 708                 }
 709                 if ( width % 2 )
 710                 {
 711                         b = *s++;
 712                         g = *s++;
 713                         r = *s++;
 714                         RGB2YUV (r, g, b, y0, u0 , v0);
 715                         *d++ = y0;
 716                         *d++ = u0;
 717                 }
 718         }
 719         return ret;
 720 }
 721
 722 int mlt_convert_argb_to_yuv422( uint8_t *rgba, int width, int height, int stride, uint8_t *yuv, uint8_t *alpha )
 723 {
 724         int ret = 0;
 725         register int y0, y1, u0, u1, v0, v1;
 726         register int r, g, b;
 727         register uint8_t *d = yuv;
 728         register int i, j;
 729
 730         for ( i = 0; i < height; i++ )
 731         {
 732                 register uint8_t *s = rgba + ( stride * i );
 733                 for ( j = 0; j < ( width / 2 ); j++ )
 734                 {
 735                         *alpha++ = *s++;
 736                         r = *s++;
 737                         g = *s++;
 738                         b = *s++;
 739                         RGB2YUV (r, g, b, y0, u0 , v0);
 740                         *alpha++ = *s++;
 741                         r = *s++;
 742                         g = *s++;
 743                         b = *s++;
 744                         RGB2YUV (r, g, b, y1, u1 , v1);
 745                         *d++ = y0;
 746                         *d++ = (u0+u1) >> 1;
 747                         *d++ = y1;
 748                         *d++ = (v0+v1) >> 1;
 749                 }
 750                 if ( width % 2 )
 751                 {
 752                         *alpha++ = *s++;
 753                         r = *s++;
 754                         g = *s++;
 755                         b = *s++;
 756                         RGB2YUV (r, g, b, y0, u0 , v0);
 757                         *d++ = y0;
 758                         *d++ = u0;
 759                 }
 760         }
 761         return ret;
 762 }
 763
 764 int mlt_convert_yuv420p_to_yuv422( uint8_t *yuv420p, int width, int height, int stride, uint8_t *yuv )
 765 {
 766         int ret = 0;
 767         register int i, j;
 768
 769         int half = width >> 1;
 770
 771         uint8_t *Y = yuv420p;
 772         uint8_t *U = Y + width * height;
 773         uint8_t *V = U + width * height / 4;
 774
 775         register uint8_t *d = yuv;
 776
 777         for ( i = 0; i < height; i++ )
 778         {
 779                 register uint8_t *u = U + ( i / 2 ) * ( half );
 780                 register uint8_t *v = V + ( i / 2 ) * ( half );
 781
 782                 for ( j = 0; j < half; j++ )
 783                 {
 784                         *d ++ = *Y ++;
 785                         *d ++ = *u ++;
 786                         *d ++ = *Y ++;
 787                         *d ++ = *v ++;
 788                 }
 789         }
 790         return ret;
 791 }
 792
 793 uint8_t *mlt_resize_alpha( uint8_t *input, int owidth, int oheight, int iwidth, int iheight, uint8_t alpha_value )
 794 {
 795         uint8_t *output = NULL;
 796
 797         if ( input != NULL && ( iwidth != owidth || iheight != oheight ) && ( owidth > 6 && oheight > 6 ) )
 798         {
 799                 uint8_t *out_line;
 800                 int offset_x = ( owidth - iwidth ) / 2;
 801                 int offset_y = ( oheight - iheight ) / 2;
 802                 int iused = iwidth;
 803
 804                 output = mlt_pool_alloc( owidth * oheight );
 805                 memset( output, alpha_value, owidth * oheight );
 806
 807                 offset_x -= offset_x % 2;
 808
 809                 out_line = output + offset_y * owidth;
 810                 out_line += offset_x;
 811
 812                 // Loop for the entirety of our output height.
 813                 while ( iheight -- )
 814                 {
 815                         // We're in the input range for this row.
 816                         memcpy( out_line, input, iused );
 817
 818                         // Move to next input line
 819                         input += iwidth;
 820
 821                 // Move to next output line
 822                 out_line += owidth;
 823                 }
 824         }
 825
 826         return output;
 827 }
 828
 829 void mlt_resize_yuv422( uint8_t *output, int owidth, int oheight, uint8_t *input, int iwidth, int iheight )
 830 {
 831         // Calculate strides
 832         int istride = iwidth * 2;
 833         int ostride = owidth * 2;
 834         int offset_x = ( owidth - iwidth );
 835         int offset_y = ( oheight - iheight ) / 2;
 836         uint8_t *in_line = input;
 837         uint8_t *out_line;
 838         int size = owidth * oheight;
 839         uint8_t *p = output;
 840
 841         // Optimisation point
 842         if ( output == NULL || input == NULL || ( owidth <= 6 || oheight <= 6 || iwidth <= 6 || oheight <= 6 ) )
 843         {
 844                 return;
 845         }
 846         else if ( iwidth == owidth && iheight == oheight )
 847         {
 848                 memcpy( output, input, iheight * istride );
 849                 return;
 850         }
 851
 852         while( size -- )
 853         {
 854                 *p ++ = 16;
 855                 *p ++ = 128;
 856         }
 857
 858         offset_x -= offset_x % 4;
 859
 860         out_line = output + offset_y * ostride;
 861         out_line += offset_x;
 862
 863         // Loop for the entirety of our output height.
 864         while ( iheight -- )
 865         {
 866                 // We're in the input range for this row.
 867                 memcpy( out_line, in_line, iwidth * 2 );
 868
 869                 // Move to next input line
 870                 in_line += istride;
 871
 872                 // Move to next output line
 873                 out_line += ostride;
 874         }
 875 }
 876
 877 /** A resizing function for yuv422 frames - this does not rescale, but simply
 878         resizes. It assumes yuv422 images available on the frame so use with care.
 879 */
 880
 881 uint8_t *mlt_frame_resize_yuv422( mlt_frame this, int owidth, int oheight )
 882 {
 883         // Get properties
 884         mlt_properties properties = MLT_FRAME_PROPERTIES( this );
 885
 886         // Get the input image, width and height
 887         uint8_t *input = mlt_properties_get_data( properties, "image", NULL );
 888         uint8_t *alpha = mlt_frame_get_alpha_mask( this );
 889
 890         int iwidth = mlt_properties_get_int( properties, "width" );
 891         int iheight = mlt_properties_get_int( properties, "height" );
 892
 893         // If width and height are correct, don't do anything
 894         if ( iwidth != owidth || iheight != oheight )
 895         {
 896                 uint8_t alpha_value = mlt_properties_get_int( properties, "resize_alpha" );
 897
 898                 // Create the output image
 899                 uint8_t *output = mlt_pool_alloc( owidth * ( oheight + 1 ) * 2 );
 900
 901                 // Call the generic resize
 902                 mlt_resize_yuv422( output, owidth, oheight, input, iwidth, iheight );
 903
 904                 // Now update the frame
 905                 mlt_properties_set_data( properties, "image", output, owidth * ( oheight + 1 ) * 2, ( mlt_destructor )mlt_pool_release, NULL );
 906                 mlt_properties_set_int( properties, "width", owidth );
 907                 mlt_properties_set_int( properties, "height", oheight );
 908
 909                 // We should resize the alpha too
 910                 alpha = mlt_resize_alpha( alpha, owidth, oheight, iwidth, iheight, alpha_value );
 911                 if ( alpha != NULL )
 912                 {
 913                         mlt_properties_set_data( properties, "alpha", alpha, owidth * oheight, ( mlt_destructor )mlt_pool_release, NULL );
 914                         this->get_alpha_mask = NULL;
 915                 }
 916
 917                 // Return the output
 918                 return output;
 919         }
 920         // No change, return input
 921         return input;
 922 }
 923
 924 /** A rescaling function for yuv422 frames - low quality, and provided for testing
 925         only. It assumes yuv422 images available on the frame so use with care.
 926 */
 927
 928 uint8_t *mlt_frame_rescale_yuv422( mlt_frame this, int owidth, int oheight )
 929 {
 930         // Get properties
 931         mlt_properties properties = MLT_FRAME_PROPERTIES( this );
 932
 933         // Get the input image, width and height
 934         uint8_t *input = mlt_properties_get_data( properties, "image", NULL );
 935         int iwidth = mlt_properties_get_int( properties, "width" );
 936         int iheight = mlt_properties_get_int( properties, "height" );
 937
 938         // If width and height are correct, don't do anything
 939         if ( iwidth != owidth || iheight != oheight )
 940         {
 941                 // Create the output image
 942                 uint8_t *output = mlt_pool_alloc( owidth * ( oheight + 1 ) * 2 );
 943
 944                 // Calculate strides
 945                 int istride = iwidth * 2;
 946                 int ostride = owidth * 2;
 947
 948                 iwidth = iwidth - ( iwidth % 4 );
 949
 950                 // Derived coordinates
 951                 int dy, dx;
 952
 953         // Calculate ranges
 954         int out_x_range = owidth / 2;
 955         int out_y_range = oheight / 2;
 956         int in_x_range = iwidth / 2;
 957         int in_y_range = iheight / 2;
 958
 959         // Output pointers
 960         register uint8_t *out_line = output;
 961         register uint8_t *out_ptr;
 962
 963         // Calculate a middle pointer
 964         uint8_t *in_middle = input + istride * in_y_range + in_x_range * 2;
 965         uint8_t *in_line;
 966
 967                 // Generate the affine transform scaling values
 968                 register int scale_width = ( iwidth << 16 ) / owidth;
 969                 register int scale_height = ( iheight << 16 ) / oheight;
 970                 register int base = 0;
 971
 972                 int outer = out_x_range * scale_width;
 973                 int bottom = out_y_range * scale_height;
 974
 975         // Loop for the entirety of our output height.
 976         for ( dy = - bottom; dy < bottom; dy += scale_height )
 977         {
 978                 // Start at the beginning of the line
 979                 out_ptr = out_line;
 980
 981                 // Pointer to the middle of the input line
 982                 in_line = in_middle + ( dy >> 16 ) * istride;
 983
 984                 // Loop for the entirety of our output row.
 985                 for ( dx = - outer; dx < outer; dx += scale_width )
 986                 {
 987                                 base = dx >> 15;
 988                                 base &= 0xfffffffe;
 989                                 *out_ptr ++ = *( in_line + base );
 990                                 base &= 0xfffffffc;
 991                                 *out_ptr ++ = *( in_line + base + 1 );
 992                                 dx += scale_width;
 993                                 base = dx >> 15;
 994                                 base &= 0xfffffffe;
 995                                 *out_ptr ++ = *( in_line + base );
 996                                 base &= 0xfffffffc;
 997                                 *out_ptr ++ = *( in_line + base + 3 );
 998                 }
 999
1000                 // Move to next output line
1001                 out_line += ostride;
1002         }
1003
1004                 // Now update the frame
1005                 mlt_properties_set_data( properties, "image", output, owidth * ( oheight + 1 ) * 2, ( mlt_destructor )mlt_pool_release, NULL );
1006                 mlt_properties_set_int( properties, "width", owidth );
1007                 mlt_properties_set_int( properties, "height", oheight );
1008
1009                 // Return the output
1010                 return output;
1011         }
1012
1013         // No change, return input
1014         return input;
1015 }
1016
1017 int mlt_frame_mix_audio( mlt_frame this, mlt_frame that, float weight_start, float weight_end, int16_t **buffer, mlt_audio_format *format, int *frequency, int *channels, int *samples )
1018 {
1019         int ret = 0;
1020         int16_t *src, *dest;
1021         int frequency_src = *frequency, frequency_dest = *frequency;
1022         int channels_src = *channels, channels_dest = *channels;
1023         int samples_src = *samples, samples_dest = *samples;
1024         int i, j;
1025         double d = 0, s = 0;
1026
1027         mlt_frame_get_audio( that, &src, format, &frequency_src, &channels_src, &samples_src );
1028         mlt_frame_get_audio( this, &dest, format, &frequency_dest, &channels_dest, &samples_dest );
1029
1030         int silent = mlt_properties_get_int( MLT_FRAME_PROPERTIES( this ), "silent_audio" );
1031         mlt_properties_set_int( MLT_FRAME_PROPERTIES( this ), "silent_audio", 0 );
1032         if ( silent )
1033                 memset( dest, 0, samples_dest * channels_dest * sizeof( int16_t ) );
1034
1035         silent = mlt_properties_get_int( MLT_FRAME_PROPERTIES( that ), "silent_audio" );
1036         mlt_properties_set_int( MLT_FRAME_PROPERTIES( that ), "silent_audio", 0 );
1037         if ( silent )
1038                 memset( src, 0, samples_src * channels_src * sizeof( int16_t ) );
1039
1040         if ( channels_src > 6 )
1041                 channels_src = 0;
1042         if ( channels_dest > 6 )
1043                 channels_dest = 0;
1044         if ( samples_src > 4000 )
1045                 samples_src = 0;
1046         if ( samples_dest > 4000 )
1047                 samples_dest = 0;
1048
1049         // determine number of samples to process
1050         *samples = samples_src < samples_dest ? samples_src : samples_dest;
1051         *channels = channels_src < channels_dest ? channels_src : channels_dest;
1052         *buffer = dest;
1053         *frequency = frequency_dest;
1054
1055         // Compute a smooth ramp over start to end
1056         float weight = weight_start;
1057         float weight_step = ( weight_end - weight_start ) / *samples;
1058
1059         if ( src == dest )
1060         {
1061                 *samples = samples_src;
1062                 *channels = channels_src;
1063                 *buffer = src;
1064                 *frequency = frequency_src;
1065                 return ret;
1066         }
1067
1068         // Mixdown
1069         for ( i = 0; i < *samples; i++ )
1070         {
1071                 for ( j = 0; j < *channels; j++ )
1072                 {
1073                         if ( j < channels_dest )
1074                                 d = (double) dest[ i * channels_dest + j ];
1075                         if ( j < channels_src )
1076                                 s = (double) src[ i * channels_src + j ];
1077                         dest[ i * channels_dest + j ] = s * weight + d * ( 1.0 - weight );
1078                 }
1079                 weight += weight_step;
1080         }
1081
1082         return ret;
1083 }
1084
1085 // Replacement for broken mlt_frame_audio_mix - this filter uses an inline low pass filter
1086 // to allow mixing without volume hacking
1087 int mlt_frame_combine_audio( mlt_frame this, mlt_frame that, int16_t **buffer, mlt_audio_format *format, int *frequency, int *channels, int *samples )
1088 {
1089         int ret = 0;
1090         int16_t *src, *dest;
1091         int frequency_src = *frequency, frequency_dest = *frequency;
1092         int channels_src = *channels, channels_dest = *channels;
1093         int samples_src = *samples, samples_dest = *samples;
1094         int i, j;
1095         double vp[ 6 ];
1096         double b_weight = 1.0;
1097
1098         if ( mlt_properties_get_int( MLT_FRAME_PROPERTIES( this ), "meta.mixdown" ) )
1099                 b_weight = 1.0 - mlt_properties_get_double( MLT_FRAME_PROPERTIES( this ), "meta.volume" );
1100
1101         mlt_frame_get_audio( that, &src, format, &frequency_src, &channels_src, &samples_src );
1102         mlt_frame_get_audio( this, &dest, format, &frequency_dest, &channels_dest, &samples_dest );
1103
1104         int silent = mlt_properties_get_int( MLT_FRAME_PROPERTIES( this ), "silent_audio" );
1105         mlt_properties_set_int( MLT_FRAME_PROPERTIES( this ), "silent_audio", 0 );
1106         if ( silent )
1107                 memset( dest, 0, samples_dest * channels_dest * sizeof( int16_t ) );
1108
1109         silent = mlt_properties_get_int( MLT_FRAME_PROPERTIES( that ), "silent_audio" );
1110         mlt_properties_set_int( MLT_FRAME_PROPERTIES( that ), "silent_audio", 0 );
1111         if ( silent )
1112                 memset( src, 0, samples_src * channels_src * sizeof( int16_t ) );
1113
1114         if ( src == dest )
1115         {
1116                 *samples = samples_src;
1117                 *channels = channels_src;
1118                 *buffer = src;
1119                 *frequency = frequency_src;
1120                 return ret;
1121         }
1122
1123         // determine number of samples to process
1124         *samples = samples_src < samples_dest ? samples_src : samples_dest;
1125         *channels = channels_src < channels_dest ? channels_src : channels_dest;
1126         *buffer = dest;
1127         *frequency = frequency_dest;
1128
1129         for ( j = 0; j < *channels; j++ )
1130                 vp[ j ] = ( double )dest[ j ];
1131
1132         double Fc = 0.5;
1133         double B = exp(-2.0 * M_PI * Fc);
1134         double A = 1.0 - B;
1135         double v;
1136
1137         for ( i = 0; i < *samples; i++ )
1138         {
1139                 for ( j = 0; j < *channels; j++ )
1140                 {
1141                         v = ( double )( b_weight * dest[ i * channels_dest + j ] + src[ i * channels_src + j ] );
1142                         v = v < -32767 ? -32767 : v > 32768 ? 32768 : v;
1143                         vp[ j ] = dest[ i * channels_dest + j ] = ( int16_t )( v * A + vp[ j ] * B );
1144                 }
1145         }
1146
1147         return ret;
1148 }
1149
1150 /* Will this break when mlt_position is converted to double? -Zach */
1151 int mlt_sample_calculator( float fps, int frequency, int64_t position )
1152 {
1153         int samples = 0;
1154
1155         if ( ( int )( fps * 100 ) == 2997 )
1156         {
1157                 samples = frequency / 30;
1158
1159                 switch ( frequency )
1160                 {
1161                         case 48000:
1162                                 if ( position % 5 != 0 )
1163                                         samples += 2;
1164                                 break;
1165                         case 44100:
1166                                 if ( position % 300 == 0 )
1167                                         samples = 1471;
1168                                 else if ( position % 30 == 0 )
1169                                         samples = 1470;
1170                                 else if ( position % 2 == 0 )
1171                                         samples = 1472;
1172                                 else
1173                                         samples = 1471;
1174                                 break;
1175                         case 32000:
1176                                 if ( position % 30 == 0 )
1177                                         samples = 1068;
1178                                 else if ( position % 29 == 0 )
1179                                         samples = 1067;
1180                                 else if ( position % 4 == 2 )
1181                                         samples = 1067;
1182                                 else
1183                                         samples = 1068;
1184                                 break;
1185                         default:
1186                                 samples = 0;
1187                 }
1188         }
1189         else if ( fps != 0 )
1190         {
1191                 samples = frequency / fps;
1192         }
1193
1194         return samples;
1195 }
1196
1197 int64_t mlt_sample_calculator_to_now( float fps, int frequency, int64_t frame )
1198 {
1199         int64_t samples = 0;
1200
1201         // TODO: Correct rules for NTSC and drop the * 100 hack
1202         if ( ( int )( fps * 100 ) == 2997 )
1203         {
1204                 samples = ( ( double )( frame * frequency ) / 30 );
1205                 switch( frequency )
1206                 {
1207                         case 48000:
1208                                 samples += 2 * ( frame / 5 );
1209                                 break;
1210                         case 44100:
1211                                 samples += frame + ( frame / 2 ) - ( frame / 30 ) + ( frame / 300 );
1212                                 break;
1213                         case 32000:
1214                                 samples += ( 2 * frame ) - ( frame / 4 ) - ( frame / 29 );
1215                                 break;
1216                 }
1217         }
1218         else if ( fps != 0 )
1219         {
1220                 samples = ( ( frame * frequency ) / ( int )fps );
1221         }
1222
1223         return samples;
1224 }