]> git.sesse.net Git - mlt/blob - src/modules/core/transition_region.c
let mlt_frame_set_alpha clear the get_alpha_mask function pointer
[mlt] / src / modules / core / transition_region.c
1 /*
2  * transition_region.c -- region transition
3  * Copyright (C) 2003-2004 Ushodaya Enterprises Limited
4  * Author: Charles Yates <charles.yates@pandora.be>
5  *
6  * This library is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * This library is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with this library; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
19  */
20
21 #include "transition_region.h"
22 #include "transition_composite.h"
23
24 #include <framework/mlt.h>
25
26 #include <stdio.h>
27 #include <stdlib.h>
28 #include <string.h>
29
30 static int create_instance( mlt_transition this, char *name, char *value, int count )
31 {
32         // Return from this function
33         int error = 0;
34
35         // Duplicate the value
36         char *type = strdup( value );
37
38         // Pointer to filter argument
39         char *arg = type == NULL ? NULL : strchr( type, ':' );
40
41         // New filter being created
42         mlt_filter filter = NULL;
43
44         // Cleanup type and arg
45         if ( arg != NULL )
46                 *arg ++ = '\0';
47
48         // Create the filter
49         mlt_profile profile = mlt_service_profile( MLT_TRANSITION_SERVICE( this ) );
50         filter = mlt_factory_filter( profile, type, arg );
51
52         // If we have a filter, then initialise and store it
53         if ( filter != NULL )
54         {
55                 // Properties of this
56                 mlt_properties properties = MLT_TRANSITION_PROPERTIES( this );
57
58                 // String to hold the property name
59                 char id[ 256 ];
60
61                 // String to hold the passdown key
62                 char key[ 256 ];
63
64                 // Construct id
65                 sprintf( id, "_filter_%d", count );
66
67                 // Counstruct key
68                 sprintf( key, "%s.", name );
69
70                 // Just in case, let's assume that the filter here has a composite
71                 //mlt_properties_set( MLT_FILTER_PROPERTIES( filter ), "composite.geometry", "0%/0%:100%x100%" );
72                 //mlt_properties_set_int( MLT_FILTER_PROPERTIES( filter ), "composite.fill", 1 );
73
74                 // Pass all the key properties on the filter down
75                 mlt_properties_pass( MLT_FILTER_PROPERTIES( filter ), properties, key );
76
77                 // Ensure that filter is assigned
78                 mlt_properties_set_data( properties, id, filter, 0, ( mlt_destructor )mlt_filter_close, NULL );
79         }
80         else
81         {
82                 // Indicate that an error has occurred
83                 error = 1;
84         }
85
86         // Cleanup
87         free( type );
88
89         // Return error condition
90         return error;
91 }
92
93 static uint8_t *filter_get_alpha_mask( mlt_frame this )
94 {
95         uint8_t *alpha = NULL;
96
97         // Obtain properties of frame
98         mlt_properties properties = MLT_FRAME_PROPERTIES( this );
99
100         // Get the shape frame
101         mlt_frame shape_frame = mlt_properties_get_data( properties, "shape_frame", NULL );
102
103         // Get the width and height of the image
104         int region_width = mlt_properties_get_int( MLT_FRAME_PROPERTIES( this ), "width" );
105         int region_height = mlt_properties_get_int( MLT_FRAME_PROPERTIES( this ), "height" );
106         uint8_t *image = NULL;
107         mlt_image_format format = mlt_image_yuv422;
108                                         
109         // Get the shape image to trigger alpha creation
110         mlt_properties_set_int( MLT_FRAME_PROPERTIES( shape_frame ), "distort", 1 );
111         mlt_frame_get_image( shape_frame, &image, &format, &region_width, &region_height, 0 );
112
113         alpha = mlt_frame_get_alpha_mask( shape_frame );
114
115         // Generate from the Y component of the image if no alpha available
116         if ( alpha == NULL )
117         {
118                 int size = region_width * region_height;
119                 uint8_t *p = mlt_pool_alloc( size );
120                 alpha = p;
121                 while ( size -- )
122                 {
123                         *p ++ = ( int )( ( ( *image ++ - 16 ) * 299 ) / 255 );
124                         image ++;
125                 }
126                 mlt_frame_set_alpha( this, alpha, region_width * region_height, mlt_pool_release );
127         }
128         else
129         {
130                 mlt_frame_set_alpha( this, alpha, region_width * region_height, NULL );
131         }
132
133         return alpha;
134 }
135
136 /** Do it :-).
137 */
138
139 static int transition_get_image( mlt_frame frame, uint8_t **image, mlt_image_format *format, int *width, int *height, int writable )
140 {
141         // Error we will return
142         int error = 0;
143
144         // We will get the 'b frame' from the frame stack
145         mlt_frame b_frame = mlt_frame_pop_frame( frame );
146
147         // Get the watermark transition object
148         mlt_transition this = mlt_frame_pop_service( frame );
149
150         // Get the properties of the transition
151         mlt_properties properties = MLT_TRANSITION_PROPERTIES( this );
152
153         mlt_service_lock( MLT_TRANSITION_SERVICE( this ) );
154
155         // Get the composite from the transition
156         mlt_transition composite = mlt_properties_get_data( properties, "composite", NULL );
157
158         // Look for the first filter
159         mlt_filter filter = mlt_properties_get_data( properties, "_filter_0", NULL );
160
161         // Get the position
162         mlt_position position = mlt_transition_get_position( this, frame );
163
164         // Create a composite if we don't have one
165         if ( composite == NULL )
166         {
167                 // Create composite via the factory
168                 mlt_profile profile = mlt_service_profile( MLT_TRANSITION_SERVICE( this ) );
169                 composite = mlt_factory_transition( profile, "composite", NULL );
170
171                 // If we have one
172                 if ( composite != NULL )
173                 {
174                         // Get the properties
175                         mlt_properties composite_properties = MLT_TRANSITION_PROPERTIES( composite );
176
177                         // We want to ensure that we don't get a wobble...
178                         //mlt_properties_set_int( composite_properties, "distort", 1 );
179                         mlt_properties_set_int( composite_properties, "progressive", 1 );
180
181                         // Pass all the composite. properties on the transition down
182                         mlt_properties_pass( composite_properties, properties, "composite." );
183
184                         // Register the composite for reuse/destruction
185                         mlt_properties_set_data( properties, "composite", composite, 0, ( mlt_destructor )mlt_transition_close, NULL );
186                 }
187         }
188         else
189         {
190                 // Pass all current properties down
191                 mlt_properties composite_properties = MLT_TRANSITION_PROPERTIES( composite );
192                 mlt_properties_pass( composite_properties, properties, "composite." );
193         }
194
195         // Create filters
196         if ( filter == NULL )
197         {
198                 // Loop Variable
199                 int i = 0;
200
201                 // Number of filters created
202                 int count = 0;
203
204                 // Loop for all properties
205                 for ( i = 0; i < mlt_properties_count( properties ); i ++ )
206                 {
207                         // Get the name of this property
208                         char *name = mlt_properties_get_name( properties, i );
209
210                         // If the name does not contain a . and matches filter
211                         if ( strchr( name, '.' ) == NULL && !strncmp( name, "filter", 6 ) )
212                         {
213                                 // Get the filter constructor
214                                 char *value = mlt_properties_get_value( properties, i );
215
216                                 // Create an instance
217                                 if ( create_instance( this, name, value, count ) == 0 )
218                                         count ++;
219                         }
220                 }
221         
222                 // Look for the first filter again
223                 filter = mlt_properties_get_data( properties, "_filter_0", NULL );
224         }
225         else
226         {
227                 // Pass all properties down
228                 mlt_filter temp = NULL;
229
230                 // Loop Variable
231                 int i = 0;
232
233                 // Number of filters found
234                 int count = 0;
235
236                 // Loop for all properties
237                 for ( i = 0; i < mlt_properties_count( properties ); i ++ )
238                 {
239                         // Get the name of this property
240                         char *name = mlt_properties_get_name( properties, i );
241
242                         // If the name does not contain a . and matches filter
243                         if ( strchr( name, '.' ) == NULL && !strncmp( name, "filter", 6 ) )
244                         {
245                                 // Strings to hold the id and pass down key
246                                 char id[ 256 ];
247                                 char key[ 256 ];
248
249                                 // Construct id and key
250                                 sprintf( id, "_filter_%d", count );
251                                 sprintf( key, "%s.", name );
252
253                                 // Get the filter
254                                 temp = mlt_properties_get_data( properties, id, NULL );
255
256                                 if ( temp != NULL )
257                                 {
258                                         mlt_properties_pass( MLT_FILTER_PROPERTIES( temp ), properties, key );
259                                         count ++;
260                                 }
261                         }
262                 }
263         }
264
265         mlt_properties_set_int( MLT_FRAME_PROPERTIES( frame ), "width", *width );
266         mlt_properties_set_int( MLT_FRAME_PROPERTIES( frame ), "height", *height );
267
268         // Only continue if we have both filter and composite
269         if ( composite != NULL )
270         {
271                 // Get the resource of this filter (could be a shape [rectangle/circle] or an alpha provider of choice
272                 const char *resource =  mlt_properties_get( properties, "resource" );
273
274                 // Get the old resource in case it's changed
275                 char *old_resource =  mlt_properties_get( properties, "_old_resource" );
276
277                 // String to hold the filter to query on
278                 char id[ 256 ];
279
280                 // Index to hold the count
281                 int i = 0;
282
283                 // We will get the 'b frame' from the composite only if it's NULL (region filter)
284                 if ( b_frame == NULL )
285                 {
286                         // Copy the region
287                         b_frame = composite_copy_region( composite, frame, position );
288
289                         // Ensure a destructor
290                         char *name = mlt_properties_get( properties, "_unique_id" );
291                         mlt_properties_set_data( MLT_FRAME_PROPERTIES( frame ), name, b_frame, 0, ( mlt_destructor )mlt_frame_close, NULL );
292                 }
293
294                 // filter_only prevents copying the alpha channel of the shape to the output frame
295                 // by compositing filtered frame over itself
296                 if ( mlt_properties_get_int( properties, "filter_only" ) )
297                 {
298                         frame = composite_copy_region( composite, b_frame, position );
299                 }
300
301                 // Make sure the filter is in the correct position
302                 while ( filter != NULL )
303                 {
304                         // Stack this filter
305                         if ( mlt_properties_get_int( MLT_FILTER_PROPERTIES( filter ), "off" ) == 0 )
306                                 mlt_filter_process( filter, b_frame );
307
308                         // Generate the key for the next
309                         sprintf( id, "_filter_%d", ++ i );
310
311                         // Get the next filter
312                         filter = mlt_properties_get_data( properties, id, NULL );
313                 }
314
315                 // Allow filters to be attached to a region filter
316                 filter = mlt_properties_get_data( properties, "_region_filter", NULL );
317                 if ( filter != NULL )
318                         mlt_service_apply_filters( MLT_FILTER_SERVICE( filter ), b_frame, 0 );
319
320                 // Hmm - this is probably going to go wrong....
321                 mlt_frame_set_position( frame, position );
322
323                 // Get the b frame and process with composite if successful
324                 mlt_transition_process( composite, frame, b_frame );
325
326                 // If we have a shape producer copy the alpha mask from the shape frame to the b_frame
327                 if ( strcmp( resource, "rectangle" ) != 0 )
328                 {
329                         // Get the producer from the transition
330                         mlt_producer producer = mlt_properties_get_data( properties, "producer", NULL );
331
332                         // If We have no producer then create one
333                         if ( producer == NULL || ( old_resource != NULL && strcmp( resource, old_resource ) ) )
334                         {
335                                 // Get the factory producer service
336                                 char *factory = mlt_properties_get( properties, "factory" );
337
338                                 // Store the old resource
339                                 mlt_properties_set( properties, "_old_resource", resource );
340
341                                 // Special case circle resource
342                                 if ( strcmp( resource, "circle" ) == 0 )
343                                         resource = "pixbuf:<svg width='100' height='100'><circle cx='50' cy='50' r='50' fill='black'/></svg>";
344
345                                 // Create the producer
346                                 mlt_profile profile = mlt_service_profile( MLT_TRANSITION_SERVICE( this ) );
347                                 producer = mlt_factory_producer( profile, factory, resource );
348
349                                 // If we have one
350                                 if ( producer != NULL )
351                                 {
352                                         // Get the producer properties
353                                         mlt_properties producer_properties = MLT_PRODUCER_PROPERTIES( producer );
354
355                                         // Ensure that we loop
356                                         mlt_properties_set( producer_properties, "eof", "loop" );
357
358                                         // Now pass all producer. properties on the transition down
359                                         mlt_properties_pass( producer_properties, properties, "producer." );
360
361                                         // Register the producer for reuse/destruction
362                                         mlt_properties_set_data( properties, "producer", producer, 0, ( mlt_destructor )mlt_producer_close, NULL );
363                                 }
364                         }
365
366                         // Now use the shape producer
367                         if ( producer != NULL )
368                         {
369                                 // We will get the alpha frame from the producer
370                                 mlt_frame shape_frame = NULL;
371
372                                 // Make sure the producer is in the correct position
373                                 mlt_producer_seek( producer, position );
374
375                                 // Get the shape frame
376                                 if ( mlt_service_get_frame( MLT_PRODUCER_SERVICE( producer ), &shape_frame, 0 ) == 0 )
377                                 {
378                                         // Ensure that the shape frame will be closed
379                                         mlt_properties_set_data( MLT_FRAME_PROPERTIES( b_frame ), "shape_frame", shape_frame, 0, ( mlt_destructor )mlt_frame_close, NULL );
380
381                                         // Specify the callback for evaluation
382                                         b_frame->get_alpha_mask = filter_get_alpha_mask;
383                                 }
384                         }
385                 }
386
387                 // Get the image
388                 error = mlt_frame_get_image( frame, image, format, width, height, 0 );
389         }
390
391         mlt_service_unlock( MLT_TRANSITION_SERVICE( this ) );
392
393         return error;
394 }
395
396 /** Filter processing.
397 */
398
399 static mlt_frame transition_process( mlt_transition this, mlt_frame a_frame, mlt_frame b_frame )
400 {
401         // Push the transition on to the frame
402         mlt_frame_push_service( a_frame, this );
403
404         // Push the b_frame on to the stack
405         mlt_frame_push_frame( a_frame, b_frame );
406
407         // Push the transition method
408         mlt_frame_push_get_image( a_frame, transition_get_image );
409
410         // Return the frame
411         return a_frame;
412 }
413
414 /** Constructor for the transition.
415 */
416
417 mlt_transition transition_region_init( mlt_profile profile, mlt_service_type type, const char *id, char *arg )
418 {
419         // Create a new transition
420         mlt_transition this = mlt_transition_new( );
421
422         // Further initialisation
423         if ( this != NULL )
424         {
425                 // Get the properties from the transition
426                 mlt_properties properties = MLT_TRANSITION_PROPERTIES( this );
427
428                 // Assign the transition process method
429                 this->process = transition_process;
430
431                 // Default factory
432                 mlt_properties_set( properties, "factory", mlt_environment( "MLT_PRODUCER" ) );
433                 
434                 // Resource defines the shape of the region
435                 mlt_properties_set( properties, "resource", arg == NULL ? "rectangle" : arg );
436
437                 // Inform apps and framework that this is a video only transition
438                 mlt_properties_set_int( properties, "_transition_type", 1 );
439         }
440
441         // Return the transition
442         return this;
443 }
444