]> git.sesse.net Git - vlc/blob - modules/codec/libass.c
Libass: improve the fontcache display
[vlc] / modules / codec / libass.c
1 /*****************************************************************************
2  * SSA/ASS subtitle decoder using libass.
3  *****************************************************************************
4  * Copyright (C) 2008-2009 the VideoLAN team
5  * $Id$
6  *
7  * Authors: Laurent Aimar <fenrir@videolan.org>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
22  *****************************************************************************/
23
24 /*****************************************************************************
25  * Preamble
26  *****************************************************************************/
27
28 #ifdef HAVE_CONFIG_H
29 #   include "config.h"
30 #endif
31
32 #include <string.h>
33 #include <limits.h>
34 #include <assert.h>
35 #include <math.h>
36
37 #include <vlc_common.h>
38 #include <vlc_plugin.h>
39 #include <vlc_codec.h>
40 #include <vlc_input.h>
41 #include <vlc_dialog.h>
42
43 #include <ass/ass.h>
44
45 #if defined(WIN32)
46 #   include <vlc_charset.h>
47 #endif
48
49 /*****************************************************************************
50  * Module descriptor
51  *****************************************************************************/
52 static int  Create ( vlc_object_t * );
53 static void Destroy( vlc_object_t * );
54
55 vlc_module_begin ()
56     set_shortname( N_("Subtitles (advanced)"))
57     set_description( N_("Subtitle renderers using libass") )
58     set_capability( "decoder", 100 )
59     set_category( CAT_INPUT )
60     set_subcategory( SUBCAT_INPUT_SCODEC )
61     set_callbacks( Create, Destroy )
62 vlc_module_end ()
63
64 /*****************************************************************************
65  * Local prototypes
66  *****************************************************************************/
67 static subpicture_t *DecodeBlock( decoder_t *, block_t ** );
68
69 /* */
70 struct decoder_sys_t
71 {
72     mtime_t        i_max_stop;
73
74     /* The following fields of decoder_sys_t are shared between decoder and spu units */
75     vlc_mutex_t    lock;
76     int            i_refcount;
77
78     /* */
79     ASS_Library    *p_library;
80     ASS_Renderer   *p_renderer;
81     video_format_t fmt;
82
83     /* */
84     ASS_Track      *p_track;
85 };
86 static void DecSysRelease( decoder_sys_t *p_sys );
87 static void DecSysHold( decoder_sys_t *p_sys );
88
89 /* */
90 static int SubpictureValidate( subpicture_t *,
91                                bool, const video_format_t *,
92                                bool, const video_format_t *,
93                                mtime_t );
94 static void SubpictureUpdate( subpicture_t *,
95                               const video_format_t *,
96                               const video_format_t *,
97                               mtime_t );
98 static void SubpictureDestroy( subpicture_t * );
99
100 struct subpicture_updater_sys_t
101 {
102     decoder_sys_t *p_dec_sys;
103     void          *p_subs_data;
104     int           i_subs_len;
105     mtime_t       i_pts;
106
107     ASS_Image     *p_img;
108 };
109
110 typedef struct
111 {
112     int x0;
113     int y0;
114     int x1;
115     int y1;
116 } rectangle_t;
117
118 static int BuildRegions( rectangle_t *p_region, int i_max_region, ASS_Image *p_img_list, int i_width, int i_height );
119 static void RegionDraw( subpicture_region_t *p_region, ASS_Image *p_img );
120
121 //#define DEBUG_REGION
122
123 /*****************************************************************************
124  * Create: Open libass decoder.
125  *****************************************************************************/
126 static int Create( vlc_object_t *p_this )
127 {
128     decoder_t *p_dec = (decoder_t *)p_this;
129     decoder_sys_t *p_sys;
130
131     if( p_dec->fmt_in.i_codec != VLC_CODEC_SSA )
132         return VLC_EGENERIC;
133
134     p_dec->pf_decode_sub = DecodeBlock;
135
136     p_dec->p_sys = p_sys = malloc( sizeof( decoder_sys_t ) );
137     if( !p_sys )
138         return VLC_ENOMEM;
139
140     /* */
141     vlc_mutex_init( &p_sys->lock );
142     p_sys->i_refcount = 1;
143     memset( &p_sys->fmt, 0, sizeof(p_sys->fmt) );
144     p_sys->i_max_stop = VLC_TS_INVALID;
145     p_sys->p_library  = NULL;
146     p_sys->p_renderer = NULL;
147     p_sys->p_track    = NULL;
148
149     /* Create libass library */
150     ASS_Library *p_library = p_sys->p_library = ass_library_init();
151     if( !p_library )
152     {
153         msg_Warn( p_dec, "Libass library creation failed" );
154         DecSysRelease( p_sys );
155         return VLC_EGENERIC;
156     }
157
158     /* load attachments */
159     input_attachment_t  **pp_attachments;
160     int                   i_attachments;
161     if( decoder_GetInputAttachments( p_dec, &pp_attachments, &i_attachments ))
162     {
163         i_attachments = 0;
164         pp_attachments = NULL;
165     }
166     for( int k = 0; k < i_attachments; k++ )
167     {
168         input_attachment_t *p_attach = pp_attachments[k];
169
170         bool found = false;
171
172         /* Check mimetype*/
173         if( !strcasecmp( p_attach->psz_mime, "application/x-truetype-font" ) )
174             found = true;
175         /* Then extension */
176         else if( !found && strlen( p_attach->psz_name ) > 4 )
177         {
178             char *ext = p_attach->psz_name + strlen( p_attach->psz_name ) - 4;
179
180             if( !strcasecmp( ext, ".ttf" ) || !strcasecmp( ext, ".otf" ) || !strcasecmp( ext, ".ttc" ) )
181                 found = true;
182         }
183
184         if( found )
185         {
186             msg_Dbg( p_dec, "adding embedded font %s", p_attach->psz_name );
187
188             ass_add_font( p_sys->p_library, p_attach->psz_name, p_attach->p_data, p_attach->i_data );
189         }
190         vlc_input_attachment_Delete( p_attach );
191     }
192     free( pp_attachments );
193
194     ass_set_extract_fonts( p_library, true );
195     ass_set_style_overrides( p_library, NULL );
196
197     /* Create the renderer */
198     ASS_Renderer *p_renderer = p_sys->p_renderer = ass_renderer_init( p_library );
199     if( !p_renderer )
200     {
201         msg_Warn( p_dec, "Libass renderer creation failed" );
202         DecSysRelease( p_sys );
203         return VLC_EGENERIC;
204     }
205
206     ass_set_use_margins( p_renderer, false);
207     //if( false )
208     //    ass_set_margins( p_renderer, int t, int b, int l, int r);
209     ass_set_hinting( p_renderer, ASS_HINTING_LIGHT );
210     ass_set_font_scale( p_renderer, 1.0 );
211     ass_set_line_spacing( p_renderer, 0.0 );
212
213     const char *psz_font = NULL; /* We don't ship a default font with VLC */
214     const char *psz_family = "Arial"; /* Use Arial if we can't find anything more suitable */
215
216 #ifdef HAVE_FONTCONFIG
217 #if defined(WIN32)
218     dialog_progress_bar_t *p_dialog =
219         dialog_ProgressCreate( p_dec,
220                                _("Building font cache"),
221                                _( "Please wait while your font cache is rebuilt.\n"
222                                   "This should take less than a minute." ), NULL );
223 #endif
224     ass_set_fonts( p_renderer, psz_font, psz_family, true, NULL, 1 );  // setup default font/family
225 #ifdef WIN32
226     if( p_dialog )
227     {
228         dialog_ProgressSet( p_dialog, NULL, 1.0 );
229         dialog_ProgressDestroy( p_dialog );
230     }
231 #endif
232 #else
233     /* FIXME you HAVE to give him a font if no fontconfig */
234     ass_set_fonts( p_renderer, psz_font, psz_family, false, NULL, 1 );
235 #endif
236
237     /* Add a track */
238     ASS_Track *p_track = p_sys->p_track = ass_new_track( p_sys->p_library );
239     if( !p_track )
240     {
241         DecSysRelease( p_sys );
242         return VLC_EGENERIC;
243     }
244     ass_process_codec_private( p_track, p_dec->fmt_in.p_extra, p_dec->fmt_in.i_extra );
245
246     p_dec->fmt_out.i_cat = SPU_ES;
247     p_dec->fmt_out.i_codec = VLC_CODEC_RGBA;
248
249     return VLC_SUCCESS;
250 }
251
252 /*****************************************************************************
253  * Destroy: finish
254  *****************************************************************************/
255 static void Destroy( vlc_object_t *p_this )
256 {
257     decoder_t *p_dec = (decoder_t *)p_this;
258
259     DecSysRelease( p_dec->p_sys );
260 }
261
262 static void DecSysHold( decoder_sys_t *p_sys )
263 {
264     vlc_mutex_lock( &p_sys->lock );
265     p_sys->i_refcount++;
266     vlc_mutex_unlock( &p_sys->lock );
267 }
268 static void DecSysRelease( decoder_sys_t *p_sys )
269 {
270     /* */
271     vlc_mutex_lock( &p_sys->lock );
272     p_sys->i_refcount--;
273     if( p_sys->i_refcount > 0 )
274     {
275         vlc_mutex_unlock( &p_sys->lock );
276         return;
277     }
278     vlc_mutex_unlock( &p_sys->lock );
279     vlc_mutex_destroy( &p_sys->lock );
280
281     if( p_sys->p_track )
282         ass_free_track( p_sys->p_track );
283     if( p_sys->p_renderer )
284         ass_renderer_done( p_sys->p_renderer );
285     if( p_sys->p_library )
286         ass_library_done( p_sys->p_library );
287
288     free( p_sys );
289 }
290
291 /****************************************************************************
292  * DecodeBlock:
293  ****************************************************************************/
294 static subpicture_t *DecodeBlock( decoder_t *p_dec, block_t **pp_block )
295 {
296     decoder_sys_t *p_sys = p_dec->p_sys;
297
298     subpicture_t *p_spu = NULL;
299     block_t *p_block;
300
301     if( !pp_block || *pp_block == NULL )
302         return NULL;
303
304     p_block = *pp_block;
305     if( p_block->i_flags & (BLOCK_FLAG_DISCONTINUITY|BLOCK_FLAG_CORRUPTED) )
306     {
307         p_sys->i_max_stop = VLC_TS_INVALID;
308         block_Release( p_block );
309         return NULL;
310     }
311     *pp_block = NULL;
312
313     if( p_block->i_buffer == 0 || p_block->p_buffer[0] == '\0' )
314     {
315         block_Release( p_block );
316         return NULL;
317     }
318
319     subpicture_updater_sys_t *p_spu_sys = malloc( sizeof(*p_spu_sys) );
320     if( !p_spu_sys )
321     {
322         block_Release( p_block );
323         return NULL;
324     }
325
326     subpicture_updater_t updater = {
327         .pf_validate = SubpictureValidate,
328         .pf_update   = SubpictureUpdate,
329         .pf_destroy  = SubpictureDestroy,
330         .p_sys       = p_spu_sys,
331     };
332     p_spu = decoder_NewSubpicture( p_dec, &updater );
333     if( !p_spu )
334     {
335         msg_Warn( p_dec, "can't get spu buffer" );
336         free( p_spu_sys );
337         block_Release( p_block );
338         return NULL;
339     }
340
341     p_spu_sys->p_img = NULL;
342     p_spu_sys->p_dec_sys = p_sys;
343     p_spu_sys->i_subs_len = p_block->i_buffer;
344     p_spu_sys->p_subs_data = malloc( p_block->i_buffer );
345     p_spu_sys->i_pts = p_block->i_pts;
346     if( !p_spu_sys->p_subs_data )
347     {
348         decoder_DeleteSubpicture( p_dec, p_spu );
349         block_Release( p_block );
350         return NULL;
351     }
352     memcpy( p_spu_sys->p_subs_data, p_block->p_buffer,
353             p_block->i_buffer );
354
355     p_spu->i_start = p_block->i_pts;
356     p_spu->i_stop = __MAX( p_sys->i_max_stop, p_block->i_pts + p_block->i_length );
357     p_spu->b_ephemer = true;
358     p_spu->b_absolute = true;
359
360     p_sys->i_max_stop = p_spu->i_stop;
361
362     vlc_mutex_lock( &p_sys->lock );
363     if( p_sys->p_track )
364     {
365         ass_process_chunk( p_sys->p_track, p_spu_sys->p_subs_data, p_spu_sys->i_subs_len,
366                            p_block->i_pts / 1000, p_block->i_length / 1000 );
367     }
368     vlc_mutex_unlock( &p_sys->lock );
369
370     DecSysHold( p_sys ); /* Keep a reference for the returned subpicture */
371
372     block_Release( p_block );
373
374     return p_spu;
375 }
376
377 /****************************************************************************
378  *
379  ****************************************************************************/
380 static int SubpictureValidate( subpicture_t *p_subpic,
381                                bool b_fmt_src, const video_format_t *p_fmt_src,
382                                bool b_fmt_dst, const video_format_t *p_fmt_dst,
383                                mtime_t i_ts )
384 {
385     decoder_sys_t *p_sys = p_subpic->updater.p_sys->p_dec_sys;
386
387     vlc_mutex_lock( &p_sys->lock );
388
389     video_format_t fmt = *p_fmt_dst;
390     fmt.i_chroma         = VLC_CODEC_RGBA;
391     fmt.i_bits_per_pixel = 0;
392     fmt.i_visible_width  = fmt.i_width;
393     fmt.i_visible_height = fmt.i_height;
394     fmt.i_x_offset       = 0;
395     fmt.i_y_offset       = 0;
396     if( b_fmt_src || b_fmt_dst )
397     {
398         ass_set_frame_size( p_sys->p_renderer, fmt.i_width, fmt.i_height );
399         const double src_ratio = (double)p_fmt_src->i_width / p_fmt_src->i_height;
400         const double dst_ratio = (double)p_fmt_dst->i_width / p_fmt_dst->i_height;
401         ass_set_aspect_ratio( p_sys->p_renderer, dst_ratio / src_ratio, 1 );
402         p_sys->fmt = fmt;
403     }
404
405     /* */
406     const mtime_t i_stream_date = p_subpic->updater.p_sys->i_pts + (i_ts - p_subpic->i_start);
407     int i_changed;
408     ASS_Image *p_img = ass_render_frame( p_sys->p_renderer, p_sys->p_track,
409                                          i_stream_date/1000, &i_changed );
410
411     if( !i_changed && !b_fmt_src && !b_fmt_dst &&
412         (p_img != NULL) == (p_subpic->p_region != NULL) )
413     {
414         vlc_mutex_unlock( &p_sys->lock );
415         return VLC_SUCCESS;
416     }
417     p_subpic->updater.p_sys->p_img = p_img;
418
419     /* The lock is released by SubpictureUpdate */
420     return VLC_EGENERIC;
421 }
422
423 static void SubpictureUpdate( subpicture_t *p_subpic,
424                               const video_format_t *p_fmt_src,
425                               const video_format_t *p_fmt_dst,
426                               mtime_t i_ts )
427 {
428     VLC_UNUSED( p_fmt_src ); VLC_UNUSED( p_fmt_dst ); VLC_UNUSED( i_ts );
429
430     decoder_sys_t *p_sys = p_subpic->updater.p_sys->p_dec_sys;
431
432     video_format_t fmt = p_sys->fmt;
433     ASS_Image *p_img = p_subpic->updater.p_sys->p_img;
434
435     /* */
436     p_subpic->i_original_picture_height = fmt.i_height;
437     p_subpic->i_original_picture_width = fmt.i_width;
438
439     /* XXX to improve efficiency we merge regions that are close minimizing
440      * the lost surface.
441      * libass tends to create a lot of small regions and thus spu engine
442      * reinstanciate a lot the scaler, and as we do not support subpel blending
443      * it looks ugly (text unaligned).
444      */
445     const int i_max_region = 4;
446     rectangle_t region[i_max_region];
447     const int i_region = BuildRegions( region, i_max_region, p_img, fmt.i_width, fmt.i_height );
448
449     if( i_region <= 0 )
450     {
451         vlc_mutex_unlock( &p_sys->lock );
452         return;
453     }
454
455     /* Allocate the regions and draw them */
456     subpicture_region_t **pp_region_last = &p_subpic->p_region;
457
458     for( int i = 0; i < i_region; i++ )
459     {
460         subpicture_region_t *r;
461         video_format_t fmt_region;
462
463         /* */
464         fmt_region = fmt;
465         fmt_region.i_width =
466         fmt_region.i_visible_width  = region[i].x1 - region[i].x0;
467         fmt_region.i_height =
468         fmt_region.i_visible_height = region[i].y1 - region[i].y0;
469
470         r = subpicture_region_New( &fmt_region );
471         if( !r )
472             break;
473         r->i_x = region[i].x0;
474         r->i_y = region[i].y0;
475         r->i_align = SUBPICTURE_ALIGN_TOP | SUBPICTURE_ALIGN_LEFT;
476
477         /* */
478         RegionDraw( r, p_img );
479
480         /* */
481         *pp_region_last = r;
482         pp_region_last = &r->p_next;
483     }
484     vlc_mutex_unlock( &p_sys->lock );
485
486 }
487 static void SubpictureDestroy( subpicture_t *p_subpic )
488 {
489     subpicture_updater_sys_t *p_sys = p_subpic->updater.p_sys;
490
491     DecSysRelease( p_sys->p_dec_sys );
492     free( p_sys->p_subs_data );
493     free( p_sys );
494 }
495
496 static rectangle_t r_create( int x0, int y0, int x1, int y1 )
497 {
498     rectangle_t r = { x0, y0, x1, y1 };
499     return r;
500 }
501 static rectangle_t r_img( const ASS_Image *p_img )
502 {
503     return r_create( p_img->dst_x, p_img->dst_y, p_img->dst_x+p_img->w, p_img->dst_y+p_img->h );
504 }
505 static void r_add( rectangle_t *r, const rectangle_t *n )
506 {
507     r->x0 = __MIN( r->x0, n->x0 );
508     r->y0 = __MIN( r->y0, n->y0 );
509     r->x1 = __MAX( r->x1, n->x1 );
510     r->y1 = __MAX( r->y1, n->y1 );
511 }
512 static int r_surface( const rectangle_t *r )
513 {
514     return (r->x1-r->x0) * (r->y1-r->y0);
515 }
516 static bool r_overlap( const rectangle_t *a, const rectangle_t *b, int i_dx, int i_dy )
517 {
518     return  __MAX(a->x0-i_dx, b->x0) < __MIN( a->x1+i_dx, b->x1 ) &&
519             __MAX(a->y0-i_dy, b->y0) < __MIN( a->y1+i_dy, b->y1 );
520 }
521
522 static int BuildRegions( rectangle_t *p_region, int i_max_region, ASS_Image *p_img_list, int i_width, int i_height )
523 {
524     ASS_Image *p_tmp;
525     int i_count;
526
527 #ifdef DEBUG_REGION
528     int64_t i_ck_start = mdate();
529 #endif
530
531     for( p_tmp = p_img_list, i_count = 0; p_tmp != NULL; p_tmp = p_tmp->next )
532         if( p_tmp->w > 0 && p_tmp->h > 0 )
533             i_count++;
534     if( i_count <= 0 )
535         return 0;
536
537     ASS_Image **pp_img = calloc( i_count, sizeof(*pp_img) );
538     if( !pp_img )
539         return 0;
540
541     for( p_tmp = p_img_list, i_count = 0; p_tmp != NULL; p_tmp = p_tmp->next )
542         if( p_tmp->w > 0 && p_tmp->h > 0 )
543             pp_img[i_count++] = p_tmp;
544
545     /* */
546     const int i_w_inc = __MAX( ( i_width + 49 ) / 50, 32 );
547     const int i_h_inc = __MAX( ( i_height + 99 ) / 100, 32 );
548     int i_maxh = i_w_inc;
549     int i_maxw = i_h_inc;
550     int i_region;
551     rectangle_t region[i_max_region+1];
552
553     i_region = 0;
554     for( int i_used = 0; i_used < i_count; )
555     {
556         int n;
557         for( n = 0; n < i_count; n++ )
558         {
559             if( pp_img[n] )
560                 break;
561         }
562         assert( i_region < i_max_region + 1 );
563         region[i_region++] = r_img( pp_img[n] );
564         pp_img[n] = NULL; i_used++;
565
566         bool b_ok;
567         do {
568             b_ok = false;
569             for( n = 0; n < i_count; n++ )
570             {
571                 ASS_Image *p_img = pp_img[n];
572                 if( !p_img )
573                     continue;
574                 rectangle_t r = r_img( p_img );
575
576                 int k;
577                 int i_best = -1;
578                 int i_best_s = INT_MAX;
579                 for( k = 0; k < i_region; k++ )
580                 {
581                     if( !r_overlap( &region[k], &r, i_maxw, i_maxh ) )
582                         continue;
583                     int s = r_surface( &r );
584                     if( s < i_best_s )
585                     {
586                         i_best_s = s;
587                         i_best = k;
588                     }
589                 }
590                 if( i_best >= 0 )
591                 {
592                     r_add( &region[i_best], &r );
593                     pp_img[n] = NULL; i_used++;
594                     b_ok = true;
595                 }
596             }
597         } while( b_ok );
598
599         if( i_region > i_max_region )
600         {
601             int i_best_i = -1;
602             int i_best_j = -1;
603             int i_best_ds = INT_MAX;
604
605             /* merge best */
606             for( int i = 0; i < i_region; i++ )
607             {
608                 for( int j = i+1; j < i_region; j++ )
609                 {
610                     rectangle_t n = region[i];
611                     r_add( &n, &region[j] );
612                     int ds = r_surface( &n ) - r_surface( &region[i] ) - r_surface( &region[j] );
613
614                     if( ds < i_best_ds )
615                     {
616                         i_best_i = i;
617                         i_best_j = j;
618                         i_best_ds = ds;
619                     }
620                 }
621             }
622 #ifdef DEBUG_REGION
623             msg_Err( p_spu, "Merging %d and %d", i_best_i, i_best_j );
624 #endif
625             r_add( &region[i_best_i], &region[i_best_j] );
626
627             if( i_best_j+1 < i_region )
628                 memmove( &region[i_best_j], &region[i_best_j+1], sizeof(*region) * ( i_region - (i_best_j+1)  ) );
629             i_region--;
630         }
631     }
632
633     /* */
634     for( int n = 0; n < i_region; n++ )
635         p_region[n] = region[n];
636
637 #ifdef DEBUG_REGION
638     int64_t i_ck_time = mdate() - i_ck_start;
639     msg_Err( p_spu, "ASS: %d objects merged into %d region in %d micros", i_count, i_region, (int)(i_ck_time) );
640 #endif
641
642     free( pp_img );
643
644     return i_region;
645 }
646
647 static void RegionDraw( subpicture_region_t *p_region, ASS_Image *p_img )
648 {
649     const plane_t *p = &p_region->p_picture->p[0];
650     const int i_x = p_region->i_x;
651     const int i_y = p_region->i_y;
652     const int i_width  = p_region->fmt.i_width;
653     const int i_height = p_region->fmt.i_height;
654
655     memset( p->p_pixels, 0x00, p->i_pitch * p->i_lines );
656     for( ; p_img != NULL; p_img = p_img->next )
657     {
658         if( p_img->dst_x < i_x || p_img->dst_x + p_img->w > i_x + i_width ||
659             p_img->dst_y < i_y || p_img->dst_y + p_img->h > i_y + i_height )
660             continue;
661
662         const unsigned r = (p_img->color >> 24)&0xff;
663         const unsigned g = (p_img->color >> 16)&0xff;
664         const unsigned b = (p_img->color >>  8)&0xff;
665         const unsigned a = (p_img->color      )&0xff;
666         int x, y;
667
668         for( y = 0; y < p_img->h; y++ )
669         {
670             for( x = 0; x < p_img->w; x++ )
671             {
672                 const unsigned alpha = p_img->bitmap[y*p_img->stride+x];
673                 const unsigned an = (255 - a) * alpha / 255;
674
675                 uint8_t *p_rgba = &p->p_pixels[(y+p_img->dst_y-i_y) * p->i_pitch + 4 * (x+p_img->dst_x-i_x)];
676                 const unsigned ao = p_rgba[3];
677
678                 /* Native endianness, but RGBA ordering */
679                 if( ao == 0 )
680                 {
681                     /* Optimized but the else{} will produce the same result */
682                     p_rgba[0] = r;
683                     p_rgba[1] = g;
684                     p_rgba[2] = b;
685                     p_rgba[3] = an;
686                 }
687                 else
688                 {
689                     p_rgba[3] = 255 - ( 255 - p_rgba[3] ) * ( 255 - an ) / 255;
690                     if( p_rgba[3] != 0 )
691                     {
692                         p_rgba[0] = ( p_rgba[0] * ao * (255-an) / 255 + r * an ) / p_rgba[3];
693                         p_rgba[1] = ( p_rgba[1] * ao * (255-an) / 255 + g * an ) / p_rgba[3];
694                         p_rgba[2] = ( p_rgba[2] * ao * (255-an) / 255 + b * an ) / p_rgba[3];
695                     }
696                 }
697             }
698         }
699     }
700
701 #ifdef DEBUG_REGION
702     /* XXX Draw a box for debug */
703 #define P(x,y) ((uint32_t*)&p->p_pixels[(y)*p->i_pitch + 4*(x)])
704     for( int y = 0; y < p->i_lines; y++ )
705         *P(0,y) = *P(p->i_visible_pitch/4-1,y) = 0xff000000;
706     for( int x = 0; x < p->i_visible_pitch; x++ )
707         *P(x/4,0) = *P(x/4,p->i_visible_lines-1) = 0xff000000;
708 #undef P
709 #endif
710 }
711