git.sesse.net Git - vlc/blob - modules/codec/libass.c

   1 /*****************************************************************************
   2  * SSA/ASS subtitle decoder using libass.
   3  *****************************************************************************
   4  * Copyright (C) 2008-2009 the VideoLAN team
   5  * $Id$
   6  *
   7  * Authors: Laurent Aimar <fenrir@videolan.org>
   8  *
   9  * This program is free software; you can redistribute it and/or modify
  10  * it under the terms of the GNU General Public License as published by
  11  * the Free Software Foundation; either version 2 of the License, or
  12  * (at your option) any later version.
  13  *
  14  * This program is distributed in the hope that it will be useful,
  15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17  * GNU General Public License for more details.
  18  *
  19  * You should have received a copy of the GNU General Public License
  20  * along with this program; if not, write to the Free Software
  21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
  22  *****************************************************************************/
  23
  24 /*****************************************************************************
  25  * Preamble
  26  *****************************************************************************/
  27
  28 #ifdef HAVE_CONFIG_H
  29 #   include "config.h"
  30 #endif
  31
  32 #include <string.h>
  33 #include <limits.h>
  34 #include <assert.h>
  35 #include <math.h>
  36
  37 #include <vlc_common.h>
  38 #include <vlc_plugin.h>
  39 #include <vlc_codec.h>
  40 #include <vlc_input.h>
  41 #include <vlc_dialog.h>
  42
  43 #include <ass/ass.h>
  44
  45 #if defined(WIN32)
  46 #   include <vlc_charset.h>
  47 #endif
  48
  49 /*****************************************************************************
  50  * Module descriptor
  51  *****************************************************************************/
  52 static int  Create ( vlc_object_t * );
  53 static void Destroy( vlc_object_t * );
  54
  55 vlc_module_begin ()
  56     set_shortname( N_("Subtitles (advanced)"))
  57     set_description( N_("Subtitle renderers using libass") )
  58     set_capability( "decoder", 100 )
  59     set_category( CAT_INPUT )
  60     set_subcategory( SUBCAT_INPUT_SCODEC )
  61     set_callbacks( Create, Destroy )
  62 vlc_module_end ()
  63
  64 /*****************************************************************************
  65  * Local prototypes
  66  *****************************************************************************/
  67 static subpicture_t *DecodeBlock( decoder_t *, block_t ** );
  68
  69 /* Yes libass sux with threads */
  70 typedef struct
  71 {
  72     vlc_object_t   *p_libvlc;
  73
  74     int             i_refcount;
  75     ASS_Library     *p_library;
  76     ASS_Renderer    *p_renderer;
  77     video_format_t  fmt;
  78 } ass_handle_t;
  79 static ass_handle_t *AssHandleHold( decoder_t *p_dec );
  80 static void AssHandleRelease( ass_handle_t * );
  81
  82 /* */
  83 struct decoder_sys_t
  84 {
  85     mtime_t      i_max_stop;
  86
  87     /* decoder_sys_t is shared between decoder and spu units */
  88     vlc_mutex_t  lock;
  89     int          i_refcount;
  90
  91     /* */
  92     ass_handle_t *p_ass;
  93
  94     /* */
  95     ASS_Track    *p_track;
  96 };
  97 static void DecSysRelease( decoder_sys_t *p_sys );
  98 static void DecSysHold( decoder_sys_t *p_sys );
  99
 100 /* */
 101 static int SubpictureValidate( subpicture_t *,
 102                                bool, const video_format_t *,
 103                                bool, const video_format_t *,
 104                                mtime_t );
 105 static void SubpictureUpdate( subpicture_t *,
 106                               const video_format_t *,
 107                               const video_format_t *,
 108                               mtime_t );
 109 static void SubpictureDestroy( subpicture_t * );
 110
 111 struct subpicture_updater_sys_t
 112 {
 113     decoder_sys_t *p_dec_sys;
 114     void          *p_subs_data;
 115     int           i_subs_len;
 116     mtime_t       i_pts;
 117
 118     ASS_Image     *p_img;
 119 };
 120
 121 typedef struct
 122 {
 123     int x0;
 124     int y0;
 125     int x1;
 126     int y1;
 127 } rectangle_t;
 128
 129 static int BuildRegions( rectangle_t *p_region, int i_max_region, ASS_Image *p_img_list, int i_width, int i_height );
 130 static void RegionDraw( subpicture_region_t *p_region, ASS_Image *p_img );
 131
 132 static vlc_mutex_t libass_lock = VLC_STATIC_MUTEX;
 133
 134 //#define DEBUG_REGION
 135
 136 /*****************************************************************************
 137  * Create: Open libass decoder.
 138  *****************************************************************************/
 139 static int Create( vlc_object_t *p_this )
 140 {
 141     decoder_t *p_dec = (decoder_t *)p_this;
 142     decoder_sys_t *p_sys;
 143     ASS_Track *p_track;
 144
 145     if( p_dec->fmt_in.i_codec != VLC_CODEC_SSA )
 146         return VLC_EGENERIC;
 147
 148     p_dec->pf_decode_sub = DecodeBlock;
 149
 150     p_dec->p_sys = p_sys = malloc( sizeof( decoder_sys_t ) );
 151     if( !p_sys )
 152         return VLC_ENOMEM;
 153
 154     /* */
 155     p_sys->i_max_stop = VLC_TS_INVALID;
 156     p_sys->p_ass = AssHandleHold( p_dec );
 157     if( !p_sys->p_ass )
 158     {
 159         free( p_sys );
 160         return VLC_EGENERIC;
 161     }
 162     vlc_mutex_init( &p_sys->lock );
 163     p_sys->i_refcount = 1;
 164
 165     /* Add a track */
 166     vlc_mutex_lock( &libass_lock );
 167     p_sys->p_track = p_track = ass_new_track( p_sys->p_ass->p_library );
 168     if( !p_track )
 169     {
 170         vlc_mutex_unlock( &libass_lock );
 171         DecSysRelease( p_sys );
 172         return VLC_EGENERIC;
 173     }
 174     ass_process_codec_private( p_track, p_dec->fmt_in.p_extra, p_dec->fmt_in.i_extra );
 175     vlc_mutex_unlock( &libass_lock );
 176
 177     p_dec->fmt_out.i_cat = SPU_ES;
 178     p_dec->fmt_out.i_codec = VLC_CODEC_RGBA;
 179
 180     return VLC_SUCCESS;
 181 }
 182
 183 /*****************************************************************************
 184  * Destroy: finish
 185  *****************************************************************************/
 186 static void Destroy( vlc_object_t *p_this )
 187 {
 188     decoder_t *p_dec = (decoder_t *)p_this;
 189
 190     DecSysRelease( p_dec->p_sys );
 191 }
 192
 193 static void DecSysHold( decoder_sys_t *p_sys )
 194 {
 195     vlc_mutex_lock( &p_sys->lock );
 196     p_sys->i_refcount++;
 197     vlc_mutex_unlock( &p_sys->lock );
 198 }
 199 static void DecSysRelease( decoder_sys_t *p_sys )
 200 {
 201     /* */
 202     vlc_mutex_lock( &p_sys->lock );
 203     p_sys->i_refcount--;
 204     if( p_sys->i_refcount > 0 )
 205     {
 206         vlc_mutex_unlock( &p_sys->lock );
 207         return;
 208     }
 209     vlc_mutex_unlock( &p_sys->lock );
 210     vlc_mutex_destroy( &p_sys->lock );
 211
 212     vlc_mutex_lock( &libass_lock );
 213     if( p_sys->p_track )
 214         ass_free_track( p_sys->p_track );
 215     vlc_mutex_unlock( &libass_lock );
 216
 217     AssHandleRelease( p_sys->p_ass );
 218     free( p_sys );
 219 }
 220
 221 /****************************************************************************
 222  * DecodeBlock:
 223  ****************************************************************************/
 224 static subpicture_t *DecodeBlock( decoder_t *p_dec, block_t **pp_block )
 225 {
 226     decoder_sys_t *p_sys = p_dec->p_sys;
 227
 228     subpicture_t *p_spu = NULL;
 229     block_t *p_block;
 230
 231     if( !pp_block || *pp_block == NULL )
 232         return NULL;
 233
 234     p_block = *pp_block;
 235     if( p_block->i_flags & (BLOCK_FLAG_DISCONTINUITY|BLOCK_FLAG_CORRUPTED) )
 236     {
 237         p_sys->i_max_stop = VLC_TS_INVALID;
 238         block_Release( p_block );
 239         return NULL;
 240     }
 241     *pp_block = NULL;
 242
 243     if( p_block->i_buffer == 0 || p_block->p_buffer[0] == '\0' )
 244     {
 245         block_Release( p_block );
 246         return NULL;
 247     }
 248
 249     subpicture_updater_sys_t *p_spu_sys = malloc( sizeof(*p_spu_sys) );
 250     if( !p_spu_sys )
 251     {
 252         block_Release( p_block );
 253         return NULL;
 254     }
 255
 256     subpicture_updater_t updater = {
 257         .pf_validate = SubpictureValidate,
 258         .pf_update   = SubpictureUpdate,
 259         .pf_destroy  = SubpictureDestroy,
 260         .p_sys       = p_spu_sys,
 261     };
 262     p_spu = decoder_NewSubpicture( p_dec, &updater );
 263     if( !p_spu )
 264     {
 265         msg_Warn( p_dec, "can't get spu buffer" );
 266         free( p_spu_sys );
 267         block_Release( p_block );
 268         return NULL;
 269     }
 270
 271     p_spu_sys->p_img = NULL;
 272     p_spu_sys->p_dec_sys = p_sys;
 273     p_spu_sys->i_subs_len = p_block->i_buffer;
 274     p_spu_sys->p_subs_data = malloc( p_block->i_buffer );
 275     p_spu_sys->i_pts = p_block->i_pts;
 276     if( !p_spu_sys->p_subs_data )
 277     {
 278         decoder_DeleteSubpicture( p_dec, p_spu );
 279         block_Release( p_block );
 280         return NULL;
 281     }
 282     memcpy( p_spu_sys->p_subs_data, p_block->p_buffer,
 283             p_block->i_buffer );
 284
 285     p_spu->i_start = p_block->i_pts;
 286     p_spu->i_stop = __MAX( p_sys->i_max_stop, p_block->i_pts + p_block->i_length );
 287     p_spu->b_ephemer = true;
 288     p_spu->b_absolute = true;
 289
 290     p_sys->i_max_stop = p_spu->i_stop;
 291
 292     vlc_mutex_lock( &libass_lock );
 293     if( p_sys->p_track )
 294     {
 295         ass_process_chunk( p_sys->p_track, p_spu_sys->p_subs_data, p_spu_sys->i_subs_len,
 296                            p_block->i_pts / 1000, p_block->i_length / 1000 );
 297     }
 298     vlc_mutex_unlock( &libass_lock );
 299
 300     DecSysHold( p_sys ); /* Keep a reference for the returned subpicture */
 301
 302     block_Release( p_block );
 303
 304     return p_spu;
 305 }
 306
 307 /****************************************************************************
 308  *
 309  ****************************************************************************/
 310 static int SubpictureValidate( subpicture_t *p_subpic,
 311                                bool b_fmt_src, const video_format_t *p_fmt_src,
 312                                bool b_fmt_dst, const video_format_t *p_fmt_dst,
 313                                mtime_t i_ts )
 314 {
 315     decoder_sys_t *p_sys = p_subpic->updater.p_sys->p_dec_sys;
 316     ass_handle_t *p_ass = p_sys->p_ass;
 317
 318     vlc_mutex_lock( &libass_lock );
 319
 320     video_format_t fmt = *p_fmt_dst;
 321     fmt.i_chroma         = VLC_CODEC_RGBA;
 322     fmt.i_bits_per_pixel = 0;
 323     fmt.i_visible_width  = fmt.i_width;
 324     fmt.i_visible_height = fmt.i_height;
 325     fmt.i_x_offset       = 0;
 326     fmt.i_y_offset       = 0;
 327     if( b_fmt_src || b_fmt_dst )
 328     {
 329         ass_set_frame_size( p_ass->p_renderer, fmt.i_width, fmt.i_height );
 330         const double src_ratio = (double)p_fmt_src->i_width / p_fmt_src->i_height;
 331         const double dst_ratio = (double)p_fmt_dst->i_width / p_fmt_dst->i_height;
 332         ass_set_aspect_ratio( p_ass->p_renderer, dst_ratio / src_ratio, 1 );
 333         p_ass->fmt = fmt;
 334     }
 335
 336     /* */
 337     const mtime_t i_stream_date = p_subpic->updater.p_sys->i_pts + (i_ts - p_subpic->i_start);
 338     int i_changed;
 339     ASS_Image *p_img = ass_render_frame( p_ass->p_renderer, p_sys->p_track,
 340                                          i_stream_date/1000, &i_changed );
 341
 342     if( !i_changed && !b_fmt_src && !b_fmt_dst &&
 343         (p_img != NULL) == (p_subpic->p_region != NULL) )
 344     {
 345         vlc_mutex_unlock( &libass_lock );
 346         return VLC_SUCCESS;
 347     }
 348     p_subpic->updater.p_sys->p_img = p_img;
 349
 350     /* The lock is released by SubpictureUpdate */
 351     return VLC_EGENERIC;
 352 }
 353
 354 static void SubpictureUpdate( subpicture_t *p_subpic,
 355                               const video_format_t *p_fmt_src,
 356                               const video_format_t *p_fmt_dst,
 357                               mtime_t i_ts )
 358 {
 359     VLC_UNUSED( p_fmt_src ); VLC_UNUSED( p_fmt_dst ); VLC_UNUSED( i_ts );
 360
 361     decoder_sys_t *p_sys = p_subpic->updater.p_sys->p_dec_sys;
 362     ass_handle_t *p_ass = p_sys->p_ass;
 363
 364     video_format_t fmt = p_ass->fmt;
 365     ASS_Image *p_img = p_subpic->updater.p_sys->p_img;
 366     //vlc_assert_locked( &libass_lock );
 367
 368     /* */
 369     p_subpic->i_original_picture_height = fmt.i_height;
 370     p_subpic->i_original_picture_width = fmt.i_width;
 371
 372     /* XXX to improve efficiency we merge regions that are close minimizing
 373      * the lost surface.
 374      * libass tends to create a lot of small regions and thus spu engine
 375      * reinstanciate a lot the scaler, and as we do not support subpel blending
 376      * it looks ugly (text unaligned).
 377      */
 378     const int i_max_region = 4;
 379     rectangle_t region[i_max_region];
 380     const int i_region = BuildRegions( region, i_max_region, p_img, fmt.i_width, fmt.i_height );
 381
 382     if( i_region <= 0 )
 383     {
 384         vlc_mutex_unlock( &libass_lock );
 385         return;
 386     }
 387
 388     /* Allocate the regions and draw them */
 389     subpicture_region_t *pp_region[i_max_region];
 390     subpicture_region_t **pp_region_last = &p_subpic->p_region;
 391
 392     for( int i = 0; i < i_region; i++ )
 393     {
 394         subpicture_region_t *r;
 395         video_format_t fmt_region;
 396
 397         /* */
 398         fmt_region = fmt;
 399         fmt_region.i_width =
 400         fmt_region.i_visible_width  = region[i].x1 - region[i].x0;
 401         fmt_region.i_height =
 402         fmt_region.i_visible_height = region[i].y1 - region[i].y0;
 403
 404         pp_region[i] = r = subpicture_region_New( &fmt_region );
 405         if( !r )
 406             break;
 407         r->i_x = region[i].x0;
 408         r->i_y = region[i].y0;
 409         r->i_align = SUBPICTURE_ALIGN_TOP | SUBPICTURE_ALIGN_LEFT;
 410
 411         /* */
 412         RegionDraw( r, p_img );
 413
 414         /* */
 415         *pp_region_last = r;
 416         pp_region_last = &r->p_next;
 417     }
 418     vlc_mutex_unlock( &libass_lock );
 419
 420 }
 421 static void SubpictureDestroy( subpicture_t *p_subpic )
 422 {
 423     subpicture_updater_sys_t *p_sys = p_subpic->updater.p_sys;
 424
 425     DecSysRelease( p_sys->p_dec_sys );
 426     free( p_sys->p_subs_data );
 427     free( p_sys );
 428 }
 429
 430 static rectangle_t r_create( int x0, int y0, int x1, int y1 )
 431 {
 432     rectangle_t r = { x0, y0, x1, y1 };
 433     return r;
 434 }
 435 static rectangle_t r_img( const ASS_Image *p_img )
 436 {
 437     return r_create( p_img->dst_x, p_img->dst_y, p_img->dst_x+p_img->w, p_img->dst_y+p_img->h );
 438 }
 439 static void r_add( rectangle_t *r, const rectangle_t *n )
 440 {
 441     r->x0 = __MIN( r->x0, n->x0 );
 442     r->y0 = __MIN( r->y0, n->y0 );
 443     r->x1 = __MAX( r->x1, n->x1 );
 444     r->y1 = __MAX( r->y1, n->y1 );
 445 }
 446 static int r_surface( const rectangle_t *r )
 447 {
 448     return (r->x1-r->x0) * (r->y1-r->y0);
 449 }
 450 static bool r_overlap( const rectangle_t *a, const rectangle_t *b, int i_dx, int i_dy )
 451 {
 452     return  __MAX(a->x0-i_dx, b->x0) < __MIN( a->x1+i_dx, b->x1 ) &&
 453             __MAX(a->y0-i_dy, b->y0) < __MIN( a->y1+i_dy, b->y1 );
 454 }
 455
 456 static int BuildRegions( rectangle_t *p_region, int i_max_region, ASS_Image *p_img_list, int i_width, int i_height )
 457 {
 458     ASS_Image *p_tmp;
 459     int i_count;
 460
 461 #ifdef DEBUG_REGION
 462     int64_t i_ck_start = mdate();
 463 #endif
 464
 465     for( p_tmp = p_img_list, i_count = 0; p_tmp != NULL; p_tmp = p_tmp->next )
 466         if( p_tmp->w > 0 && p_tmp->h > 0 )
 467             i_count++;
 468     if( i_count <= 0 )
 469         return 0;
 470
 471     ASS_Image **pp_img = calloc( i_count, sizeof(*pp_img) );
 472     if( !pp_img )
 473         return 0;
 474
 475     for( p_tmp = p_img_list, i_count = 0; p_tmp != NULL; p_tmp = p_tmp->next )
 476         if( p_tmp->w > 0 && p_tmp->h > 0 )
 477             pp_img[i_count++] = p_tmp;
 478
 479     /* */
 480     const int i_w_inc = __MAX( ( i_width + 49 ) / 50, 32 );
 481     const int i_h_inc = __MAX( ( i_height + 99 ) / 100, 32 );
 482     int i_maxh = i_w_inc;
 483     int i_maxw = i_h_inc;
 484     int i_region;
 485     rectangle_t region[i_max_region+1];
 486
 487     i_region = 0;
 488     for( int i_used = 0; i_used < i_count; )
 489     {
 490         int n;
 491         for( n = 0; n < i_count; n++ )
 492         {
 493             if( pp_img[n] )
 494                 break;
 495         }
 496         assert( i_region < i_max_region + 1 );
 497         region[i_region++] = r_img( pp_img[n] );
 498         pp_img[n] = NULL; i_used++;
 499
 500         bool b_ok;
 501         do {
 502             b_ok = false;
 503             for( n = 0; n < i_count; n++ )
 504             {
 505                 ASS_Image *p_img = pp_img[n];
 506                 if( !p_img )
 507                     continue;
 508                 rectangle_t r = r_img( p_img );
 509
 510                 int k;
 511                 int i_best = -1;
 512                 int i_best_s = INT_MAX;
 513                 for( k = 0; k < i_region; k++ )
 514                 {
 515                     if( !r_overlap( &region[k], &r, i_maxw, i_maxh ) )
 516                         continue;
 517                     int s = r_surface( &r );
 518                     if( s < i_best_s )
 519                     {
 520                         i_best_s = s;
 521                         i_best = k;
 522                     }
 523                 }
 524                 if( i_best >= 0 )
 525                 {
 526                     r_add( &region[i_best], &r );
 527                     pp_img[n] = NULL; i_used++;
 528                     b_ok = true;
 529                 }
 530             }
 531         } while( b_ok );
 532
 533         if( i_region > i_max_region )
 534         {
 535             int i_best_i = -1;
 536             int i_best_j = -1;
 537             int i_best_ds = INT_MAX;
 538
 539             /* merge best */
 540             for( int i = 0; i < i_region; i++ )
 541             {
 542                 for( int j = i+1; j < i_region; j++ )
 543                 {
 544                     rectangle_t n = region[i];
 545                     r_add( &n, &region[j] );
 546                     int ds = r_surface( &n ) - r_surface( &region[i] ) - r_surface( &region[j] );
 547
 548                     if( ds < i_best_ds )
 549                     {
 550                         i_best_i = i;
 551                         i_best_j = j;
 552                         i_best_ds = ds;
 553                     }
 554                 }
 555             }
 556 #ifdef DEBUG_REGION
 557             msg_Err( p_spu, "Merging %d and %d", i_best_i, i_best_j );
 558 #endif
 559             r_add( &region[i_best_i], &region[i_best_j] );
 560
 561             if( i_best_j+1 < i_region )
 562                 memmove( &region[i_best_j], &region[i_best_j+1], sizeof(*region) * ( i_region - (i_best_j+1)  ) );
 563             i_region--;
 564         }
 565     }
 566
 567     /* */
 568     for( int n = 0; n < i_region; n++ )
 569         p_region[n] = region[n];
 570
 571 #ifdef DEBUG_REGION
 572     int64_t i_ck_time = mdate() - i_ck_start;
 573     msg_Err( p_spu, "ASS: %d objects merged into %d region in %d micros", i_count, i_region, (int)(i_ck_time) );
 574 #endif
 575
 576     free( pp_img );
 577
 578     return i_region;
 579 }
 580
 581 static void RegionDraw( subpicture_region_t *p_region, ASS_Image *p_img )
 582 {
 583     const plane_t *p = &p_region->p_picture->p[0];
 584     const int i_x = p_region->i_x;
 585     const int i_y = p_region->i_y;
 586     const int i_width  = p_region->fmt.i_width;
 587     const int i_height = p_region->fmt.i_height;
 588
 589     memset( p->p_pixels, 0x00, p->i_pitch * p->i_lines );
 590     for( ; p_img != NULL; p_img = p_img->next )
 591     {
 592         if( p_img->dst_x < i_x || p_img->dst_x + p_img->w > i_x + i_width ||
 593             p_img->dst_y < i_y || p_img->dst_y + p_img->h > i_y + i_height )
 594             continue;
 595
 596         const unsigned r = (p_img->color >> 24)&0xff;
 597         const unsigned g = (p_img->color >> 16)&0xff;
 598         const unsigned b = (p_img->color >>  8)&0xff;
 599         const unsigned a = (p_img->color      )&0xff;
 600         int x, y;
 601
 602         for( y = 0; y < p_img->h; y++ )
 603         {
 604             for( x = 0; x < p_img->w; x++ )
 605             {
 606                 const unsigned alpha = p_img->bitmap[y*p_img->stride+x];
 607                 const unsigned an = (255 - a) * alpha / 255;
 608
 609                 uint8_t *p_rgba = &p->p_pixels[(y+p_img->dst_y-i_y) * p->i_pitch + 4 * (x+p_img->dst_x-i_x)];
 610                 const unsigned ao = p_rgba[3];
 611
 612                 /* Native endianness, but RGBA ordering */
 613                 if( ao == 0 )
 614                 {
 615                     /* Optimized but the else{} will produce the same result */
 616                     p_rgba[0] = r;
 617                     p_rgba[1] = g;
 618                     p_rgba[2] = b;
 619                     p_rgba[3] = an;
 620                 }
 621                 else
 622                 {
 623                     p_rgba[3] = 255 - ( 255 - p_rgba[3] ) * ( 255 - an ) / 255;
 624                     if( p_rgba[3] != 0 )
 625                     {
 626                         p_rgba[0] = ( p_rgba[0] * ao * (255-an) / 255 + r * an ) / p_rgba[3];
 627                         p_rgba[1] = ( p_rgba[1] * ao * (255-an) / 255 + g * an ) / p_rgba[3];
 628                         p_rgba[2] = ( p_rgba[2] * ao * (255-an) / 255 + b * an ) / p_rgba[3];
 629                     }
 630                 }
 631             }
 632         }
 633     }
 634
 635 #ifdef DEBUG_REGION
 636     /* XXX Draw a box for debug */
 637 #define P(x,y) ((uint32_t*)&p->p_pixels[(y)*p->i_pitch + 4*(x)])
 638     for( int y = 0; y < p->i_lines; y++ )
 639         *P(0,y) = *P(p->i_visible_pitch/4-1,y) = 0xff000000;
 640     for( int x = 0; x < p->i_visible_pitch; x++ )
 641         *P(x/4,0) = *P(x/4,p->i_visible_lines-1) = 0xff000000;
 642 #undef P
 643 #endif
 644 }
 645
 646 /* */
 647 static ass_handle_t *AssHandleHold( decoder_t *p_dec )
 648 {
 649     vlc_mutex_lock( &libass_lock );
 650
 651     ass_handle_t *p_ass = NULL;
 652     ASS_Library *p_library = NULL;
 653     ASS_Renderer *p_renderer = NULL;
 654     vlc_value_t val;
 655
 656     var_Create( p_dec->p_libvlc, "libass-handle", VLC_VAR_ADDRESS );
 657     if( var_Get( p_dec->p_libvlc, "libass-handle", &val ) )
 658         val.p_address = NULL;
 659
 660     if( val.p_address )
 661     {
 662         p_ass = val.p_address;
 663
 664         p_ass->i_refcount++;
 665
 666         vlc_mutex_unlock( &libass_lock );
 667         return p_ass;
 668     }
 669
 670     /* */
 671     p_ass = malloc( sizeof(*p_ass) );
 672     if( !p_ass )
 673         goto error;
 674
 675     /* */
 676     p_ass->p_libvlc = VLC_OBJECT(p_dec->p_libvlc);
 677     p_ass->i_refcount = 1;
 678
 679     /* Create libass library */
 680     p_ass->p_library = p_library = ass_library_init();
 681     if( !p_library )
 682         goto error;
 683
 684     /* load attachments */
 685     input_attachment_t  **pp_attachments;
 686     int                   i_attachments;
 687
 688     if( decoder_GetInputAttachments( p_dec, &pp_attachments, &i_attachments ))
 689     {
 690         i_attachments = 0;
 691         pp_attachments = NULL;
 692     }
 693     for( int k = 0; k < i_attachments; k++ )
 694     {
 695         input_attachment_t *p_attach = pp_attachments[k];
 696
 697         if( !strcasecmp( p_attach->psz_mime, "application/x-truetype-font" ) )
 698         {
 699             msg_Dbg( p_dec, "adding embedded font %s", p_attach->psz_name );
 700
 701             ass_add_font( p_ass->p_library, p_attach->psz_name, p_attach->p_data, p_attach->i_data );
 702         }
 703         vlc_input_attachment_Delete( p_attach );
 704     }
 705     free( pp_attachments );
 706
 707     ass_set_extract_fonts( p_library, true );
 708     ass_set_style_overrides( p_library, NULL );
 709
 710     /* Create the renderer */
 711     p_ass->p_renderer = p_renderer = ass_renderer_init( p_library );
 712     if( !p_renderer )
 713         goto error;
 714
 715     ass_set_use_margins( p_renderer, false);
 716     //if( false )
 717     //    ass_set_margins( p_renderer, int t, int b, int l, int r);
 718     ass_set_hinting( p_renderer, ASS_HINTING_LIGHT );
 719     ass_set_font_scale( p_renderer, 1.0 );
 720     ass_set_line_spacing( p_renderer, 0.0 );
 721
 722     const char *psz_font = NULL; /* We don't ship a default font with VLC */
 723     const char *psz_family = "Arial"; /* Use Arial if we can't find anything more suitable */
 724
 725 #ifdef HAVE_FONTCONFIG
 726 #if defined(WIN32)
 727     dialog_progress_bar_t *p_dialog = dialog_ProgressCreate( p_dec,
 728         _("Building font cache"),
 729         _( "Please wait while your font cache is rebuilt.\n"
 730         "This should take less than a minute." ), NULL );
 731     if( p_dialog )
 732         dialog_ProgressSet( p_dialog, NULL, 0.2 );
 733 #endif
 734     ass_set_fonts( p_renderer, psz_font, psz_family, true, NULL, 1 );  // setup default font/family
 735 #ifdef WIN32
 736     if( p_dialog )
 737     {
 738         dialog_ProgressSet( p_dialog, NULL, 1.0 );
 739         dialog_ProgressDestroy( p_dialog );
 740         p_dialog = NULL;
 741     }
 742 #endif
 743 #else
 744     /* FIXME you HAVE to give him a font if no fontconfig */
 745     ass_set_fonts( p_renderer, psz_font, psz_family, false, NULL, 1 );
 746 #endif
 747     memset( &p_ass->fmt, 0, sizeof(p_ass->fmt) );
 748
 749     /* */
 750     val.p_address = p_ass;
 751     var_Set( p_dec->p_libvlc, "libass-handle", val );
 752
 753     /* */
 754     vlc_mutex_unlock( &libass_lock );
 755     return p_ass;
 756
 757 error:
 758     if( p_renderer )
 759         ass_renderer_done( p_renderer );
 760     if( p_library )
 761         ass_library_done( p_library );
 762
 763     msg_Warn( p_dec, "Libass creation failed" );
 764
 765     free( p_ass );
 766     vlc_mutex_unlock( &libass_lock );
 767     return NULL;
 768 }
 769 static void AssHandleRelease( ass_handle_t *p_ass )
 770 {
 771     vlc_mutex_lock( &libass_lock );
 772     p_ass->i_refcount--;
 773     if( p_ass->i_refcount > 0 )
 774     {
 775         vlc_mutex_unlock( &libass_lock );
 776         return;
 777     }
 778
 779     ass_renderer_done( p_ass->p_renderer );
 780     ass_library_done( p_ass->p_library );
 781
 782     vlc_value_t val;
 783     val.p_address = NULL;
 784     var_Set( p_ass->p_libvlc, "libass-handle", val );
 785
 786     vlc_mutex_unlock( &libass_lock );
 787     free( p_ass );
 788 }