git.sesse.net Git - mlt/blob - src/framework/mlt_frame.c

   1 /*
   2  * mlt_frame.c -- interface for all frame classes
   3  * Copyright (C) 2003-2004 Ushodaya Enterprises Limited
   4  * Author: Charles Yates <charles.yates@pandora.be>
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License as published by
   8  * the Free Software Foundation; either version 2 of the License, or
   9  * (at your option) any later version.
  10  *
  11  * This program is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  14  * GNU General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * along with this program; if not, write to the Free Software Foundation,
  18  * Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.
  19  */
  20
  21 #include "config.h"
  22 #include "mlt_frame.h"
  23 #include "mlt_producer.h"
  24 #include "mlt_factory.h"
  25 #include <stdio.h>
  26 #include <stdlib.h>
  27 #include <string.h>
  28 #include <math.h>
  29
  30 /** Constructor for a frame.
  31 */
  32
  33 mlt_frame mlt_frame_init( )
  34 {
  35         // Allocate a frame
  36         mlt_frame this = calloc( sizeof( struct mlt_frame_s ), 1 );
  37
  38         if ( this != NULL )
  39         {
  40                 // Get the normalisation
  41                 char *normalisation = mlt_environment( "MLT_NORMALISATION" );
  42
  43                 // Initialise the properties
  44                 mlt_properties properties = &this->parent;
  45                 mlt_properties_init( properties, this );
  46
  47                 // Set default properties on the frame
  48                 mlt_properties_set_position( properties, "_position", 0.0 );
  49                 mlt_properties_set_data( properties, "image", NULL, 0, NULL, NULL );
  50
  51                 if ( normalisation == NULL || strcmp( normalisation, "NTSC" ) )
  52                 {
  53                         mlt_properties_set_int( properties, "width", 720 );
  54                         mlt_properties_set_int( properties, "height", 576 );
  55                         mlt_properties_set_int( properties, "normalised_width", 720 );
  56                         mlt_properties_set_int( properties, "normalised_height", 576 );
  57                         mlt_properties_set_double( properties, "aspect_ratio", 59.0/54.0 );
  58                 }
  59                 else
  60                 {
  61                         mlt_properties_set_int( properties, "width", 720 );
  62                         mlt_properties_set_int( properties, "height", 480 );
  63                         mlt_properties_set_int( properties, "normalised_width", 720 );
  64                         mlt_properties_set_int( properties, "normalised_height", 480 );
  65                         mlt_properties_set_double( properties, "aspect_ratio", 10.0/11.0 );
  66                 }
  67
  68                 mlt_properties_set_data( properties, "audio", NULL, 0, NULL, NULL );
  69                 mlt_properties_set_data( properties, "alpha", NULL, 0, NULL, NULL );
  70
  71                 // Construct stacks for frames and methods
  72                 this->stack_image = mlt_deque_init( );
  73                 this->stack_audio = mlt_deque_init( );
  74                 this->stack_service = mlt_deque_init( );
  75         }
  76
  77         return this;
  78 }
  79
  80 /** Fetch the frames properties.
  81 */
  82
  83 mlt_properties mlt_frame_properties( mlt_frame this )
  84 {
  85         return this != NULL ? &this->parent : NULL;
  86 }
  87
  88 /** Check if we have a way to derive something other than a test card.
  89 */
  90
  91 int mlt_frame_is_test_card( mlt_frame this )
  92 {
  93         return mlt_deque_count( this->stack_image ) == 0 || mlt_properties_get_int( MLT_FRAME_PROPERTIES( this ), "test_image" );
  94 }
  95
  96 /** Check if we have a way to derive something other than test audio.
  97 */
  98
  99 int mlt_frame_is_test_audio( mlt_frame this )
 100 {
 101         return mlt_deque_count( this->stack_audio ) == 0 || mlt_properties_get_int( MLT_FRAME_PROPERTIES( this ), "test_audio" );
 102 }
 103
 104 /** Get the aspect ratio of the frame.
 105 */
 106
 107 double mlt_frame_get_aspect_ratio( mlt_frame this )
 108 {
 109         return mlt_properties_get_double( MLT_FRAME_PROPERTIES( this ), "aspect_ratio" );
 110 }
 111
 112 /** Set the aspect ratio of the frame.
 113 */
 114
 115 int mlt_frame_set_aspect_ratio( mlt_frame this, double value )
 116 {
 117         return mlt_properties_set_double( MLT_FRAME_PROPERTIES( this ), "aspect_ratio", value );
 118 }
 119
 120 /** Get the position of this frame.
 121 */
 122
 123 mlt_position mlt_frame_get_position( mlt_frame this )
 124 {
 125         int pos = mlt_properties_get_position( MLT_FRAME_PROPERTIES( this ), "_position" );
 126         return pos < 0 ? 0 : pos;
 127 }
 128
 129 /** Set the position of this frame.
 130 */
 131
 132 int mlt_frame_set_position( mlt_frame this, mlt_position value )
 133 {
 134         return mlt_properties_set_position( MLT_FRAME_PROPERTIES( this ), "_position", value );
 135 }
 136
 137 /** Stack a get_image callback.
 138 */
 139
 140 int mlt_frame_push_get_image( mlt_frame this, mlt_get_image get_image )
 141 {
 142         return mlt_deque_push_back( this->stack_image, get_image );
 143 }
 144
 145 /** Pop a get_image callback.
 146 */
 147
 148 mlt_get_image mlt_frame_pop_get_image( mlt_frame this )
 149 {
 150         return mlt_deque_pop_back( this->stack_image );
 151 }
 152
 153 /** Push a frame.
 154 */
 155
 156 int mlt_frame_push_frame( mlt_frame this, mlt_frame that )
 157 {
 158         return mlt_deque_push_back( this->stack_image, that );
 159 }
 160
 161 /** Pop a frame.
 162 */
 163
 164 mlt_frame mlt_frame_pop_frame( mlt_frame this )
 165 {
 166         return mlt_deque_pop_back( this->stack_image );
 167 }
 168
 169 /** Push a service.
 170 */
 171
 172 int mlt_frame_push_service( mlt_frame this, void *that )
 173 {
 174         return mlt_deque_push_back( this->stack_image, that );
 175 }
 176
 177 /** Pop a service.
 178 */
 179
 180 void *mlt_frame_pop_service( mlt_frame this )
 181 {
 182         return mlt_deque_pop_back( this->stack_image );
 183 }
 184
 185 /** Push a service.
 186 */
 187
 188 int mlt_frame_push_service_int( mlt_frame this, int that )
 189 {
 190         return mlt_deque_push_back_int( this->stack_image, that );
 191 }
 192
 193 /** Pop a service.
 194 */
 195
 196 int mlt_frame_pop_service_int( mlt_frame this )
 197 {
 198         return mlt_deque_pop_back_int( this->stack_image );
 199 }
 200
 201 /** Push an audio item on the stack.
 202 */
 203
 204 int mlt_frame_push_audio( mlt_frame this, void *that )
 205 {
 206         return mlt_deque_push_back( this->stack_audio, that );
 207 }
 208
 209 /** Pop an audio item from the stack
 210 */
 211
 212 void *mlt_frame_pop_audio( mlt_frame this )
 213 {
 214         return mlt_deque_pop_back( this->stack_audio );
 215 }
 216
 217 /** Return the service stack
 218 */
 219
 220 mlt_deque mlt_frame_service_stack( mlt_frame this )
 221 {
 222         return this->stack_service;
 223 }
 224
 225 /** Replace image stack with the information provided.
 226
 227         This might prove to be unreliable and restrictive - the idea is that a transition
 228         which normally uses two images may decide to only use the b frame (ie: in the case
 229         of a composite where the b frame completely obscures the a frame).
 230
 231         The image must be writable and the destructor for the image itself must be taken
 232         care of on another frame and that frame cannot have a replace applied to it...
 233         Further it assumes that no alpha mask is in use.
 234
 235         For these reasons, it can only be used in a specific situation - when you have
 236         multiple tracks each with their own transition and these transitions are applied
 237         in a strictly reversed order (ie: highest numbered [lowest track] is processed
 238         first).
 239
 240         More reliable approach - the cases should be detected during the process phase
 241         and the upper tracks should simply not be invited to stack...
 242 */
 243
 244 void mlt_frame_replace_image( mlt_frame this, uint8_t *image, mlt_image_format format, int width, int height )
 245 {
 246         // Remove all items from the stack
 247         while( mlt_deque_pop_back( this->stack_image ) ) ;
 248
 249         // Update the information
 250         mlt_properties_set_data( MLT_FRAME_PROPERTIES( this ), "image", image, 0, NULL, NULL );
 251         mlt_properties_set_int( MLT_FRAME_PROPERTIES( this ), "width", width );
 252         mlt_properties_set_int( MLT_FRAME_PROPERTIES( this ), "height", height );
 253         mlt_properties_set_int( MLT_FRAME_PROPERTIES( this ), "format", format );
 254         this->get_alpha_mask = NULL;
 255 }
 256
 257 /** Get the image associated to the frame.
 258 */
 259
 260 int mlt_frame_get_image( mlt_frame this, uint8_t **buffer, mlt_image_format *format, int *width, int *height, int writable )
 261 {
 262         mlt_properties properties = MLT_FRAME_PROPERTIES( this );
 263         mlt_get_image get_image = mlt_frame_pop_get_image( this );
 264         mlt_producer producer = mlt_properties_get_data( properties, "test_card_producer", NULL );
 265         int error = 0;
 266
 267         if ( get_image != NULL )
 268         {
 269                 mlt_properties_set_int( properties, "image_count", mlt_properties_get_int( properties, "image_count" ) - 1 );
 270                 mlt_position position = mlt_frame_get_position( this );
 271                 error = get_image( this, buffer, format, width, height, writable );
 272                 mlt_properties_set_int( properties, "width", *width );
 273                 mlt_properties_set_int( properties, "height", *height );
 274                 mlt_properties_set_int( properties, "format", *format );
 275                 mlt_frame_set_position( this, position );
 276         }
 277         else if ( mlt_properties_get_data( properties, "image", NULL ) != NULL )
 278         {
 279                 *format = mlt_properties_get_int( properties, "format" );
 280                 *buffer = mlt_properties_get_data( properties, "image", NULL );
 281                 *width = mlt_properties_get_int( properties, "width" );
 282                 *height = mlt_properties_get_int( properties, "height" );
 283         }
 284         else if ( producer != NULL )
 285         {
 286                 mlt_frame test_frame = NULL;
 287                 mlt_service_get_frame( MLT_PRODUCER_SERVICE( producer ), &test_frame, 0 );
 288                 if ( test_frame != NULL )
 289                 {
 290                         mlt_properties test_properties = MLT_FRAME_PROPERTIES( test_frame );
 291                         mlt_properties_set_double( test_properties, "consumer_aspect_ratio", mlt_properties_get_double( properties, "consumer_aspect_ratio" ) );
 292                         mlt_properties_set( test_properties, "rescale.interp", mlt_properties_get( properties, "rescale.interp" ) );
 293                         mlt_frame_get_image( test_frame, buffer, format, width, height, writable );
 294                         mlt_properties_set_data( properties, "test_card_frame", test_frame, 0, ( mlt_destructor )mlt_frame_close, NULL );
 295                         mlt_properties_set_data( properties, "image", *buffer, *width * *height * 2, NULL, NULL );
 296                         mlt_properties_set_int( properties, "width", *width );
 297                         mlt_properties_set_int( properties, "height", *height );
 298                         mlt_properties_set_int( properties, "format", *format );
 299                         mlt_properties_set_double( properties, "aspect_ratio", mlt_frame_get_aspect_ratio( test_frame ) );
 300                 }
 301                 else
 302                 {
 303                         mlt_properties_set_data( properties, "test_card_producer", NULL, 0, NULL, NULL );
 304                         mlt_frame_get_image( this, buffer, format, width, height, writable );
 305                 }
 306         }
 307         else
 308         {
 309                 register uint8_t *p;
 310                 register uint8_t *q;
 311                 int size = 0;
 312
 313                 *width = *width == 0 ? 720 : *width;
 314                 *height = *height == 0 ? 576 : *height;
 315                 size = *width * *height;
 316
 317                 mlt_properties_set_int( properties, "format", *format );
 318                 mlt_properties_set_int( properties, "width", *width );
 319                 mlt_properties_set_int( properties, "height", *height );
 320                 mlt_properties_set_int( properties, "aspect_ratio", 0 );
 321
 322                 switch( *format )
 323                 {
 324                         case mlt_image_none:
 325                                 size = 0;
 326                                 *buffer = NULL;
 327                                 break;
 328                         case mlt_image_rgb24:
 329                                 size *= 3;
 330                                 size += *width * 3;
 331                                 *buffer = mlt_pool_alloc( size );
 332                                 if ( *buffer )
 333                                         memset( *buffer, 255, size );
 334                                 break;
 335                         case mlt_image_rgb24a:
 336                         case mlt_image_opengl:
 337                                 size *= 4;
 338                                 size += *width * 4;
 339                                 *buffer = mlt_pool_alloc( size );
 340                                 if ( *buffer )
 341                                         memset( *buffer, 255, size );
 342                                 break;
 343                         case mlt_image_yuv422:
 344                                 size *= 2;
 345                                 size += *width * 2;
 346                                 *buffer = mlt_pool_alloc( size );
 347                                 p = *buffer;
 348                                 q = p + size;
 349                                 while ( p != NULL && p != q )
 350                                 {
 351                                         *p ++ = 235;
 352                                         *p ++ = 128;
 353                                 }
 354                                 break;
 355                         case mlt_image_yuv420p:
 356                                 size = size * 3 / 2;
 357                                 *buffer = mlt_pool_alloc( size );
 358                                 if ( *buffer )
 359                                         memset( *buffer, 255, size );
 360                                 break;
 361                 }
 362
 363                 mlt_properties_set_data( properties, "image", *buffer, size, ( mlt_destructor )mlt_pool_release, NULL );
 364                 mlt_properties_set_int( properties, "test_image", 1 );
 365         }
 366
 367         mlt_properties_set_int( properties, "scaled_width", *width );
 368         mlt_properties_set_int( properties, "scaled_height", *height );
 369
 370         return error;
 371 }
 372
 373 uint8_t *mlt_frame_get_alpha_mask( mlt_frame this )
 374 {
 375         uint8_t *alpha = NULL;
 376         if ( this != NULL )
 377         {
 378                 if ( this->get_alpha_mask != NULL )
 379                         alpha = this->get_alpha_mask( this );
 380                 if ( alpha == NULL )
 381                         alpha = mlt_properties_get_data( &this->parent, "alpha", NULL );
 382                 if ( alpha == NULL )
 383                 {
 384                         int size = mlt_properties_get_int( &this->parent, "scaled_width" ) * mlt_properties_get_int( &this->parent, "scaled_height" );
 385                         alpha = mlt_pool_alloc( size );
 386                         memset( alpha, 255, size );
 387                         mlt_properties_set_data( &this->parent, "alpha", alpha, size, mlt_pool_release, NULL );
 388                 }
 389         }
 390         return alpha;
 391 }
 392
 393 int mlt_frame_get_audio( mlt_frame this, int16_t **buffer, mlt_audio_format *format, int *frequency, int *channels, int *samples )
 394 {
 395         mlt_get_audio get_audio = mlt_frame_pop_audio( this );
 396         mlt_properties properties = MLT_FRAME_PROPERTIES( this );
 397         int hide = mlt_properties_get_int( properties, "test_audio" );
 398
 399         if ( hide == 0 && get_audio != NULL )
 400         {
 401                 mlt_position position = mlt_frame_get_position( this );
 402                 get_audio( this, buffer, format, frequency, channels, samples );
 403                 mlt_frame_set_position( this, position );
 404         }
 405         else if ( mlt_properties_get_data( properties, "audio", NULL ) )
 406         {
 407                 *buffer = mlt_properties_get_data( properties, "audio", NULL );
 408                 *frequency = mlt_properties_get_int( properties, "audio_frequency" );
 409                 *channels = mlt_properties_get_int( properties, "audio_channels" );
 410                 *samples = mlt_properties_get_int( properties, "audio_samples" );
 411         }
 412         else
 413         {
 414                 int size = 0;
 415                 *samples = *samples <= 0 ? 1920 : *samples;
 416                 *channels = *channels <= 0 ? 2 : *channels;
 417                 *frequency = *frequency <= 0 ? 48000 : *frequency;
 418                 size = *samples * *channels * sizeof( int16_t );
 419                 *buffer = mlt_pool_alloc( size );
 420                 if ( *buffer != NULL )
 421                         memset( *buffer, 0, size );
 422                 mlt_properties_set_data( properties, "audio", *buffer, size, ( mlt_destructor )mlt_pool_release, NULL );
 423                 mlt_properties_set_int( properties, "test_audio", 1 );
 424         }
 425
 426         mlt_properties_set_int( properties, "audio_frequency", *frequency );
 427         mlt_properties_set_int( properties, "audio_channels", *channels );
 428         mlt_properties_set_int( properties, "audio_samples", *samples );
 429
 430         if ( mlt_properties_get( properties, "meta.volume" ) )
 431         {
 432                 double value = mlt_properties_get_double( properties, "meta.volume" );
 433
 434                 if ( value == 0.0 )
 435                 {
 436                         memset( *buffer, 0, *samples * *channels * 2 );
 437                 }
 438                 else if ( value != 1.0 )
 439                 {
 440                         int total = *samples * *channels;
 441                         int16_t *p = *buffer;
 442                         while ( total -- )
 443                         {
 444                                 *p = *p * value;
 445                                 p ++;
 446                         }
 447                 }
 448
 449                 mlt_properties_set( properties, "meta.volume", NULL );
 450         }
 451
 452         return 0;
 453 }
 454
 455 unsigned char *mlt_frame_get_waveform( mlt_frame this, int w, int h )
 456 {
 457         int16_t *pcm = NULL;
 458         mlt_properties properties = MLT_FRAME_PROPERTIES( this );
 459         mlt_audio_format format = mlt_audio_pcm;
 460         int frequency = 32000; // lower frequency available?
 461         int channels = 2;
 462         double fps = mlt_properties_get_double( properties, "fps" );
 463         int samples = mlt_sample_calculator( fps, frequency, mlt_frame_get_position( this ) );
 464
 465         // Get the pcm data
 466         mlt_frame_get_audio( this, &pcm, &format, &frequency, &channels, &samples );
 467
 468         // Make an 8-bit buffer large enough to hold rendering
 469         int size = w * h;
 470         unsigned char *bitmap = ( unsigned char* )mlt_pool_alloc( size );
 471         if ( bitmap != NULL )
 472                 memset( bitmap, 0, size );
 473         mlt_properties_set_data( properties, "waveform", bitmap, size, ( mlt_destructor )mlt_pool_release, NULL );
 474
 475         // Render vertical lines
 476         int16_t *ubound = pcm + samples * channels;
 477         int skip = samples / w - 1;
 478         int i, j, k;
 479
 480         // Iterate sample stream and along x coordinate
 481         for ( i = 0; i < w && pcm < ubound; i++ )
 482         {
 483                 // pcm data has channels interleaved
 484                 for ( j = 0; j < channels; j++ )
 485                 {
 486                         // Determine sample's magnitude from 2s complement;
 487                         int pcm_magnitude = *pcm < 0 ? ~(*pcm) + 1 : *pcm;
 488                         // The height of a line is the ratio of the magnitude multiplied by
 489                         // half the vertical resolution
 490                         int height = ( int )( ( double )( pcm_magnitude ) / 32768 * h / 2 );
 491                         // Determine the starting y coordinate - left channel above center,
 492                         // right channel below - currently assumes 2 channels
 493                         int displacement = ( h / 2 ) - ( 1 - j ) * height;
 494                         // Position buffer pointer using y coordinate, stride, and x coordinate
 495                         unsigned char *p = &bitmap[ i + displacement * w ];
 496
 497                         // Draw vertical line
 498                         for ( k = 0; k < height; k++ )
 499                                 p[ w * k ] = 0xFF;
 500
 501                         pcm++;
 502                 }
 503                 pcm += skip * channels;
 504         }
 505
 506         return bitmap;
 507 }
 508
 509 mlt_producer mlt_frame_get_original_producer( mlt_frame this )
 510 {
 511         if ( this != NULL )
 512                 return mlt_properties_get_data( MLT_FRAME_PROPERTIES( this ), "_producer", NULL );
 513         return NULL;
 514 }
 515
 516 void mlt_frame_close( mlt_frame this )
 517 {
 518         if ( this != NULL && mlt_properties_dec_ref( MLT_FRAME_PROPERTIES( this ) ) <= 0 )
 519         {
 520                 mlt_deque_close( this->stack_image );
 521                 mlt_deque_close( this->stack_audio );
 522                 while( mlt_deque_peek_back( this->stack_service ) )
 523                         mlt_service_close( mlt_deque_pop_back( this->stack_service ) );
 524                 mlt_deque_close( this->stack_service );
 525                 mlt_properties_close( &this->parent );
 526                 free( this );
 527         }
 528 }
 529
 530 /***** convenience functions *****/
 531
 532 int mlt_convert_rgb24a_to_yuv422( uint8_t *rgba, int width, int height, int stride, uint8_t *yuv, uint8_t *alpha )
 533 {
 534         int ret = 0;
 535         register int y0, y1, u0, u1, v0, v1;
 536         register int r, g, b;
 537         register uint8_t *d = yuv;
 538         register int i, j;
 539
 540         for ( i = 0; i < height; i++ )
 541         {
 542                 register uint8_t *s = rgba + ( stride * i );
 543                 for ( j = 0; j < ( width / 2 ); j++ )
 544                 {
 545                         r = *s++;
 546                         g = *s++;
 547                         b = *s++;
 548                         *alpha++ = *s++;
 549                         RGB2YUV (r, g, b, y0, u0 , v0);
 550                         r = *s++;
 551                         g = *s++;
 552                         b = *s++;
 553                         *alpha++ = *s++;
 554                         RGB2YUV (r, g, b, y1, u1 , v1);
 555                         *d++ = y0;
 556                         *d++ = (u0+u1) >> 1;
 557                         *d++ = y1;
 558                         *d++ = (v0+v1) >> 1;
 559                 }
 560                 if ( width % 2 )
 561                 {
 562                         r = *s++;
 563                         g = *s++;
 564                         b = *s++;
 565                         *alpha++ = *s++;
 566                         RGB2YUV (r, g, b, y0, u0 , v0);
 567                         *d++ = y0;
 568                         *d++ = u0;
 569                 }
 570         }
 571         return ret;
 572 }
 573
 574 int mlt_convert_rgb24_to_yuv422( uint8_t *rgb, int width, int height, int stride, uint8_t *yuv )
 575 {
 576         int ret = 0;
 577         register int y0, y1, u0, u1, v0, v1;
 578         register int r, g, b;
 579         register uint8_t *d = yuv;
 580         register int i, j;
 581
 582         for ( i = 0; i < height; i++ )
 583         {
 584                 register uint8_t *s = rgb + ( stride * i );
 585                 for ( j = 0; j < ( width / 2 ); j++ )
 586                 {
 587                         r = *s++;
 588                         g = *s++;
 589                         b = *s++;
 590                         RGB2YUV (r, g, b, y0, u0 , v0);
 591                         r = *s++;
 592                         g = *s++;
 593                         b = *s++;
 594                         RGB2YUV (r, g, b, y1, u1 , v1);
 595                         *d++ = y0;
 596                         *d++ = (u0+u1) >> 1;
 597                         *d++ = y1;
 598                         *d++ = (v0+v1) >> 1;
 599                 }
 600                 if ( width % 2 )
 601                 {
 602                         r = *s++;
 603                         g = *s++;
 604                         b = *s++;
 605                         RGB2YUV (r, g, b, y0, u0 , v0);
 606                         *d++ = y0;
 607                         *d++ = u0;
 608                 }
 609         }
 610         return ret;
 611 }
 612
 613 int mlt_convert_bgr24a_to_yuv422( uint8_t *rgba, int width, int height, int stride, uint8_t *yuv, uint8_t *alpha )
 614 {
 615         int ret = 0;
 616         register int y0, y1, u0, u1, v0, v1;
 617         register int r, g, b;
 618         register uint8_t *d = yuv;
 619         register int i, j;
 620
 621         for ( i = 0; i < height; i++ )
 622         {
 623                 register uint8_t *s = rgba + ( stride * i );
 624                 for ( j = 0; j < ( width / 2 ); j++ )
 625                 {
 626                         b = *s++;
 627                         g = *s++;
 628                         r = *s++;
 629                         *alpha++ = *s++;
 630                         RGB2YUV (r, g, b, y0, u0 , v0);
 631                         b = *s++;
 632                         g = *s++;
 633                         r = *s++;
 634                         *alpha++ = *s++;
 635                         RGB2YUV (r, g, b, y1, u1 , v1);
 636                         *d++ = y0;
 637                         *d++ = (u0+u1) >> 1;
 638                         *d++ = y1;
 639                         *d++ = (v0+v1) >> 1;
 640                 }
 641                 if ( width % 2 )
 642                 {
 643                         b = *s++;
 644                         g = *s++;
 645                         r = *s++;
 646                         *alpha++ = *s++;
 647                         RGB2YUV (r, g, b, y0, u0 , v0);
 648                         *d++ = y0;
 649                         *d++ = u0;
 650                 }
 651         }
 652         return ret;
 653 }
 654
 655 int mlt_convert_bgr24_to_yuv422( uint8_t *rgb, int width, int height, int stride, uint8_t *yuv )
 656 {
 657         int ret = 0;
 658         register int y0, y1, u0, u1, v0, v1;
 659         register int r, g, b;
 660         register uint8_t *d = yuv;
 661         register int i, j;
 662
 663         for ( i = 0; i < height; i++ )
 664         {
 665                 register uint8_t *s = rgb + ( stride * i );
 666                 for ( j = 0; j < ( width / 2 ); j++ )
 667                 {
 668                         b = *s++;
 669                         g = *s++;
 670                         r = *s++;
 671                         RGB2YUV (r, g, b, y0, u0 , v0);
 672                         b = *s++;
 673                         g = *s++;
 674                         r = *s++;
 675                         RGB2YUV (r, g, b, y1, u1 , v1);
 676                         *d++ = y0;
 677                         *d++ = (u0+u1) >> 1;
 678                         *d++ = y1;
 679                         *d++ = (v0+v1) >> 1;
 680                 }
 681                 if ( width % 2 )
 682                 {
 683                         b = *s++;
 684                         g = *s++;
 685                         r = *s++;
 686                         RGB2YUV (r, g, b, y0, u0 , v0);
 687                         *d++ = y0;
 688                         *d++ = u0;
 689                 }
 690         }
 691         return ret;
 692 }
 693
 694 int mlt_convert_yuv420p_to_yuv422( uint8_t *yuv420p, int width, int height, int stride, uint8_t *yuv )
 695 {
 696         int ret = 0;
 697         register int i, j;
 698
 699         int half = width >> 1;
 700
 701         uint8_t *Y = yuv420p;
 702         uint8_t *U = Y + width * height;
 703         uint8_t *V = U + width * height / 4;
 704
 705         register uint8_t *d = yuv;
 706
 707         for ( i = 0; i < height; i++ )
 708         {
 709                 register uint8_t *u = U + ( i / 2 ) * ( half );
 710                 register uint8_t *v = V + ( i / 2 ) * ( half );
 711
 712                 for ( j = 0; j < half; j++ )
 713                 {
 714                         *d ++ = *Y ++;
 715                         *d ++ = *u ++;
 716                         *d ++ = *Y ++;
 717                         *d ++ = *v ++;
 718                 }
 719         }
 720         return ret;
 721 }
 722
 723 uint8_t *mlt_resize_alpha( uint8_t *input, int owidth, int oheight, int iwidth, int iheight, uint8_t alpha_value )
 724 {
 725         uint8_t *output = NULL;
 726
 727         if ( input != NULL && ( iwidth != owidth || iheight != oheight ) && ( owidth > 6 && oheight > 6 ) )
 728         {
 729                 uint8_t *out_line;
 730                 int offset_x = ( owidth - iwidth ) / 2;
 731                 int offset_y = ( oheight - iheight ) / 2;
 732                 int iused = iwidth;
 733
 734                 output = mlt_pool_alloc( owidth * oheight );
 735                 memset( output, alpha_value, owidth * oheight );
 736
 737                 offset_x -= offset_x % 2;
 738
 739                 out_line = output + offset_y * owidth;
 740                 out_line += offset_x;
 741
 742                 // Loop for the entirety of our output height.
 743                 while ( iheight -- )
 744                 {
 745                         // We're in the input range for this row.
 746                         memcpy( out_line, input, iused );
 747
 748                         // Move to next input line
 749                         input += iwidth;
 750
 751                 // Move to next output line
 752                 out_line += owidth;
 753                 }
 754         }
 755
 756         return output;
 757 }
 758
 759 void mlt_resize_yuv422( uint8_t *output, int owidth, int oheight, uint8_t *input, int iwidth, int iheight )
 760 {
 761         // Calculate strides
 762         int istride = iwidth * 2;
 763         int ostride = owidth * 2;
 764         int offset_x = ( owidth - iwidth );
 765         int offset_y = ( oheight - iheight ) / 2;
 766         uint8_t *in_line = input;
 767         uint8_t *out_line;
 768         int size = owidth * oheight;
 769         uint8_t *p = output;
 770
 771         // Optimisation point
 772         if ( output == NULL || input == NULL || ( owidth <= 6 || oheight <= 6 || iwidth <= 6 || oheight <= 6 ) )
 773         {
 774                 return;
 775         }
 776         else if ( iwidth == owidth && iheight == oheight )
 777         {
 778                 memcpy( output, input, iheight * istride );
 779                 return;
 780         }
 781
 782         while( size -- )
 783         {
 784                 *p ++ = 16;
 785                 *p ++ = 128;
 786         }
 787
 788         offset_x -= offset_x % 4;
 789
 790         out_line = output + offset_y * ostride;
 791         out_line += offset_x;
 792
 793         // Loop for the entirety of our output height.
 794         while ( iheight -- )
 795         {
 796                 // We're in the input range for this row.
 797                 memcpy( out_line, in_line, iwidth * 2 );
 798
 799                 // Move to next input line
 800                 in_line += istride;
 801
 802                 // Move to next output line
 803                 out_line += ostride;
 804         }
 805 }
 806
 807 /** A resizing function for yuv422 frames - this does not rescale, but simply
 808         resizes. It assumes yuv422 images available on the frame so use with care.
 809 */
 810
 811 uint8_t *mlt_frame_resize_yuv422( mlt_frame this, int owidth, int oheight )
 812 {
 813         // Get properties
 814         mlt_properties properties = MLT_FRAME_PROPERTIES( this );
 815
 816         // Get the input image, width and height
 817         uint8_t *input = mlt_properties_get_data( properties, "image", NULL );
 818         uint8_t *alpha = mlt_frame_get_alpha_mask( this );
 819
 820         int iwidth = mlt_properties_get_int( properties, "width" );
 821         int iheight = mlt_properties_get_int( properties, "height" );
 822
 823         // If width and height are correct, don't do anything
 824         if ( iwidth != owidth || iheight != oheight )
 825         {
 826                 uint8_t alpha_value = mlt_properties_get_int( properties, "resize_alpha" );
 827
 828                 // Create the output image
 829                 uint8_t *output = mlt_pool_alloc( owidth * ( oheight + 1 ) * 2 );
 830
 831                 // Call the generic resize
 832                 mlt_resize_yuv422( output, owidth, oheight, input, iwidth, iheight );
 833
 834                 // Now update the frame
 835                 mlt_properties_set_data( properties, "image", output, owidth * ( oheight + 1 ) * 2, ( mlt_destructor )mlt_pool_release, NULL );
 836                 mlt_properties_set_int( properties, "width", owidth );
 837                 mlt_properties_set_int( properties, "height", oheight );
 838
 839                 // We should resize the alpha too
 840                 alpha = mlt_resize_alpha( alpha, owidth, oheight, iwidth, iheight, alpha_value );
 841                 if ( alpha != NULL )
 842                 {
 843                         mlt_properties_set_data( properties, "alpha", alpha, owidth * oheight, ( mlt_destructor )mlt_pool_release, NULL );
 844                         this->get_alpha_mask = NULL;
 845                 }
 846
 847                 // Return the output
 848                 return output;
 849         }
 850         // No change, return input
 851         return input;
 852 }
 853
 854 /** A rescaling function for yuv422 frames - low quality, and provided for testing
 855         only. It assumes yuv422 images available on the frame so use with care.
 856 */
 857
 858 uint8_t *mlt_frame_rescale_yuv422( mlt_frame this, int owidth, int oheight )
 859 {
 860         // Get properties
 861         mlt_properties properties = MLT_FRAME_PROPERTIES( this );
 862
 863         // Get the input image, width and height
 864         uint8_t *input = mlt_properties_get_data( properties, "image", NULL );
 865         int iwidth = mlt_properties_get_int( properties, "width" );
 866         int iheight = mlt_properties_get_int( properties, "height" );
 867
 868         // If width and height are correct, don't do anything
 869         if ( iwidth != owidth || iheight != oheight )
 870         {
 871                 // Create the output image
 872                 uint8_t *output = mlt_pool_alloc( owidth * ( oheight + 1 ) * 2 );
 873
 874                 // Calculate strides
 875                 int istride = iwidth * 2;
 876                 int ostride = owidth * 2;
 877
 878                 iwidth = iwidth - ( iwidth % 4 );
 879
 880                 // Derived coordinates
 881                 int dy, dx;
 882
 883         // Calculate ranges
 884         int out_x_range = owidth / 2;
 885         int out_y_range = oheight / 2;
 886         int in_x_range = iwidth / 2;
 887         int in_y_range = iheight / 2;
 888
 889         // Output pointers
 890         register uint8_t *out_line = output;
 891         register uint8_t *out_ptr;
 892
 893         // Calculate a middle pointer
 894         uint8_t *in_middle = input + istride * in_y_range + in_x_range * 2;
 895         uint8_t *in_line;
 896
 897                 // Generate the affine transform scaling values
 898                 register int scale_width = ( iwidth << 16 ) / owidth;
 899                 register int scale_height = ( iheight << 16 ) / oheight;
 900                 register int base = 0;
 901
 902                 int outer = out_x_range * scale_width;
 903                 int bottom = out_y_range * scale_height;
 904
 905         // Loop for the entirety of our output height.
 906         for ( dy = - bottom; dy < bottom; dy += scale_height )
 907         {
 908                 // Start at the beginning of the line
 909                 out_ptr = out_line;
 910
 911                 // Pointer to the middle of the input line
 912                 in_line = in_middle + ( dy >> 16 ) * istride;
 913
 914                 // Loop for the entirety of our output row.
 915                 for ( dx = - outer; dx < outer; dx += scale_width )
 916                 {
 917                                 base = dx >> 15;
 918                                 base &= 0xfffffffe;
 919                                 *out_ptr ++ = *( in_line + base );
 920                                 base &= 0xfffffffc;
 921                                 *out_ptr ++ = *( in_line + base + 1 );
 922                                 dx += scale_width;
 923                                 base = dx >> 15;
 924                                 base &= 0xfffffffe;
 925                                 *out_ptr ++ = *( in_line + base );
 926                                 base &= 0xfffffffc;
 927                                 *out_ptr ++ = *( in_line + base + 3 );
 928                 }
 929
 930                 // Move to next output line
 931                 out_line += ostride;
 932         }
 933
 934                 // Now update the frame
 935                 mlt_properties_set_data( properties, "image", output, owidth * ( oheight + 1 ) * 2, ( mlt_destructor )mlt_pool_release, NULL );
 936                 mlt_properties_set_int( properties, "width", owidth );
 937                 mlt_properties_set_int( properties, "height", oheight );
 938
 939                 // Return the output
 940                 return output;
 941         }
 942
 943         // No change, return input
 944         return input;
 945 }
 946
 947 int mlt_frame_mix_audio( mlt_frame this, mlt_frame that, float weight_start, float weight_end, int16_t **buffer, mlt_audio_format *format, int *frequency, int *channels, int *samples )
 948 {
 949         int ret = 0;
 950         int16_t *src, *dest;
 951         int frequency_src = *frequency, frequency_dest = *frequency;
 952         int channels_src = *channels, channels_dest = *channels;
 953         int samples_src = *samples, samples_dest = *samples;
 954         int i, j;
 955         double d = 0, s = 0;
 956
 957         mlt_frame_get_audio( that, &src, format, &frequency_src, &channels_src, &samples_src );
 958         mlt_frame_get_audio( this, &dest, format, &frequency_dest, &channels_dest, &samples_dest );
 959
 960         int silent = mlt_properties_get_int( MLT_FRAME_PROPERTIES( this ), "silent_audio" );
 961         mlt_properties_set_int( MLT_FRAME_PROPERTIES( this ), "silent_audio", 0 );
 962         if ( silent )
 963                 memset( dest, 0, samples_dest * channels_dest * sizeof( int16_t ) );
 964
 965         silent = mlt_properties_get_int( MLT_FRAME_PROPERTIES( that ), "silent_audio" );
 966         mlt_properties_set_int( MLT_FRAME_PROPERTIES( that ), "silent_audio", 0 );
 967         if ( silent )
 968                 memset( src, 0, samples_src * channels_src * sizeof( int16_t ) );
 969
 970         if ( channels_src > 6 )
 971                 channels_src = 0;
 972         if ( channels_dest > 6 )
 973                 channels_dest = 0;
 974         if ( samples_src > 4000 )
 975                 samples_src = 0;
 976         if ( samples_dest > 4000 )
 977                 samples_dest = 0;
 978
 979         // determine number of samples to process
 980         *samples = samples_src < samples_dest ? samples_src : samples_dest;
 981         *channels = channels_src < channels_dest ? channels_src : channels_dest;
 982         *buffer = dest;
 983         *frequency = frequency_dest;
 984
 985         // Compute a smooth ramp over start to end
 986         float weight = weight_start;
 987         float weight_step = ( weight_end - weight_start ) / *samples;
 988
 989         if ( src == dest )
 990         {
 991                 *samples = samples_src;
 992                 *channels = channels_src;
 993                 *buffer = src;
 994                 *frequency = frequency_src;
 995                 return ret;
 996         }
 997
 998         // Mixdown
 999         for ( i = 0; i < *samples; i++ )
1000         {
1001                 for ( j = 0; j < *channels; j++ )
1002                 {
1003                         if ( j < channels_dest )
1004                                 d = (double) dest[ i * channels_dest + j ];
1005                         if ( j < channels_src )
1006                                 s = (double) src[ i * channels_src + j ];
1007                         dest[ i * channels_dest + j ] = s * weight + d * ( 1.0 - weight );
1008                 }
1009                 weight += weight_step;
1010         }
1011
1012         return ret;
1013 }
1014
1015 // Replacement for broken mlt_frame_audio_mix - this filter uses an inline low pass filter
1016 // to allow mixing without volume hacking
1017 int mlt_frame_combine_audio( mlt_frame this, mlt_frame that, int16_t **buffer, mlt_audio_format *format, int *frequency, int *channels, int *samples )
1018 {
1019         int ret = 0;
1020         int16_t *src, *dest;
1021         int frequency_src = *frequency, frequency_dest = *frequency;
1022         int channels_src = *channels, channels_dest = *channels;
1023         int samples_src = *samples, samples_dest = *samples;
1024         int i, j;
1025         double vp[ 6 ];
1026         double b_weight = 1.0;
1027
1028         if ( mlt_properties_get_int( MLT_FRAME_PROPERTIES( this ), "meta.mixdown" ) )
1029                 b_weight = 1.0 - mlt_properties_get_double( MLT_FRAME_PROPERTIES( this ), "meta.volume" );
1030
1031         mlt_frame_get_audio( that, &src, format, &frequency_src, &channels_src, &samples_src );
1032         mlt_frame_get_audio( this, &dest, format, &frequency_dest, &channels_dest, &samples_dest );
1033
1034         int silent = mlt_properties_get_int( MLT_FRAME_PROPERTIES( this ), "silent_audio" );
1035         mlt_properties_set_int( MLT_FRAME_PROPERTIES( this ), "silent_audio", 0 );
1036         if ( silent )
1037                 memset( dest, 0, samples_dest * channels_dest * sizeof( int16_t ) );
1038
1039         silent = mlt_properties_get_int( MLT_FRAME_PROPERTIES( that ), "silent_audio" );
1040         mlt_properties_set_int( MLT_FRAME_PROPERTIES( that ), "silent_audio", 0 );
1041         if ( silent )
1042                 memset( src, 0, samples_src * channels_src * sizeof( int16_t ) );
1043
1044         if ( src == dest )
1045         {
1046                 *samples = samples_src;
1047                 *channels = channels_src;
1048                 *buffer = src;
1049                 *frequency = frequency_src;
1050                 return ret;
1051         }
1052
1053         // determine number of samples to process
1054         *samples = samples_src < samples_dest ? samples_src : samples_dest;
1055         *channels = channels_src < channels_dest ? channels_src : channels_dest;
1056         *buffer = dest;
1057         *frequency = frequency_dest;
1058
1059         for ( j = 0; j < *channels; j++ )
1060                 vp[ j ] = ( double )dest[ j ];
1061
1062         double Fc = 0.5;
1063         double B = exp(-2.0 * M_PI * Fc);
1064         double A = 1.0 - B;
1065         double v;
1066
1067         for ( i = 0; i < *samples; i++ )
1068         {
1069                 for ( j = 0; j < *channels; j++ )
1070                 {
1071                         v = ( double )( b_weight * dest[ i * channels_dest + j ] + src[ i * channels_src + j ] );
1072                         v = v < -32767 ? -32767 : v > 32768 ? 32768 : v;
1073                         vp[ j ] = dest[ i * channels_dest + j ] = ( int16_t )( v * A + vp[ j ] * B );
1074                 }
1075         }
1076
1077         return ret;
1078 }
1079
1080 /* Will this break when mlt_position is converted to double? -Zach */
1081 int mlt_sample_calculator( float fps, int frequency, int64_t position )
1082 {
1083         int samples = 0;
1084
1085         if ( ( int )( fps * 100 ) == 2997 )
1086         {
1087                 samples = frequency / 30;
1088
1089                 switch ( frequency )
1090                 {
1091                         case 48000:
1092                                 if ( position % 5 != 0 )
1093                                         samples += 2;
1094                                 break;
1095                         case 44100:
1096                                 if ( position % 300 == 0 )
1097                                         samples = 1471;
1098                                 else if ( position % 30 == 0 )
1099                                         samples = 1470;
1100                                 else if ( position % 2 == 0 )
1101                                         samples = 1472;
1102                                 else
1103                                         samples = 1471;
1104                                 break;
1105                         case 32000:
1106                                 if ( position % 30 == 0 )
1107                                         samples = 1068;
1108                                 else if ( position % 29 == 0 )
1109                                         samples = 1067;
1110                                 else if ( position % 4 == 2 )
1111                                         samples = 1067;
1112                                 else
1113                                         samples = 1068;
1114                                 break;
1115                         default:
1116                                 samples = 0;
1117                 }
1118         }
1119         else if ( fps != 0 )
1120         {
1121                 samples = frequency / fps;
1122         }
1123
1124         return samples;
1125 }
1126
1127 int64_t mlt_sample_calculator_to_now( float fps, int frequency, int64_t frame )
1128 {
1129         int64_t samples = 0;
1130
1131         // TODO: Correct rules for NTSC and drop the * 100 hack
1132         if ( ( int )( fps * 100 ) == 2997 )
1133         {
1134                 samples = ( ( double )( frame * frequency ) / 30 );
1135                 switch( frequency )
1136                 {
1137                         case 48000:
1138                                 samples += 2 * ( frame / 5 );
1139                                 break;
1140                         case 44100:
1141                                 samples += frame + ( frame / 2 ) - ( frame / 30 ) + ( frame / 300 );
1142                                 break;
1143                         case 32000:
1144                                 samples += ( 2 * frame ) - ( frame / 4 ) - ( frame / 29 );
1145                                 break;
1146                 }
1147         }
1148         else if ( fps != 0 )
1149         {
1150                 samples = ( ( frame * frequency ) / ( int )fps );
1151         }
1152
1153         return samples;
1154 }