git.sesse.net Git - vlc/blob - modules/codec/libass.c

   1 /*****************************************************************************
   2  * SSA/ASS subtitle decoder using libass.
   3  *****************************************************************************
   4  * Copyright (C) 2008-2009 the VideoLAN team
   5  * $Id$
   6  *
   7  * Authors: Laurent Aimar <fenrir@videolan.org>
   8  *
   9  * This program is free software; you can redistribute it and/or modify
  10  * it under the terms of the GNU General Public License as published by
  11  * the Free Software Foundation; either version 2 of the License, or
  12  * (at your option) any later version.
  13  *
  14  * This program is distributed in the hope that it will be useful,
  15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17  * GNU General Public License for more details.
  18  *
  19  * You should have received a copy of the GNU General Public License
  20  * along with this program; if not, write to the Free Software
  21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301, USA.
  22  *****************************************************************************/
  23
  24 /*****************************************************************************
  25  * Preamble
  26  *****************************************************************************/
  27
  28 #ifdef HAVE_CONFIG_H
  29 #   include "config.h"
  30 #endif
  31
  32 #include <string.h>
  33 #include <limits.h>
  34 #include <assert.h>
  35 #include <math.h>
  36
  37 #include <vlc_common.h>
  38 #include <vlc_plugin.h>
  39 #include <vlc_codec.h>
  40 #include <vlc_osd.h>
  41 #include <vlc_input.h>
  42 #include <vlc_dialog.h>
  43
  44 #include <ass/ass.h>
  45
  46 #if defined(WIN32)
  47 #   include <vlc_charset.h>
  48 #endif
  49
  50 /*****************************************************************************
  51  * Module descriptor
  52  *****************************************************************************/
  53 static int  Create ( vlc_object_t * );
  54 static void Destroy( vlc_object_t * );
  55
  56 vlc_module_begin ()
  57     set_shortname( N_("Subtitles (advanced)"))
  58     set_description( N_("Subtitle renderers using libass") )
  59     set_capability( "decoder", 100 )
  60     set_category( CAT_INPUT )
  61     set_subcategory( SUBCAT_INPUT_SCODEC )
  62     set_callbacks( Create, Destroy )
  63 vlc_module_end ()
  64
  65 /*****************************************************************************
  66  * Local prototypes
  67  *****************************************************************************/
  68 static subpicture_t *DecodeBlock( decoder_t *, block_t ** );
  69 static void DestroySubpicture( subpicture_t * );
  70 static void UpdateRegions( spu_t *,
  71                            subpicture_t *, const video_format_t *, mtime_t );
  72
  73 /* Yes libass sux with threads */
  74 typedef struct
  75 {
  76     vlc_object_t   *p_libvlc;
  77
  78     int             i_refcount;
  79     ass_library_t   *p_library;
  80     ass_renderer_t  *p_renderer;
  81     video_format_t  fmt;
  82 } ass_handle_t;
  83 static ass_handle_t *AssHandleHold( decoder_t *p_dec );
  84 static void AssHandleRelease( ass_handle_t * );
  85
  86 /* */
  87 struct decoder_sys_t
  88 {
  89     mtime_t      i_max_stop;
  90
  91     /* decoder_sys_t is shared between decoder and spu units */
  92     vlc_mutex_t  lock;
  93     int          i_refcount;
  94
  95     /* */
  96     ass_handle_t *p_ass;
  97
  98     /* */
  99     ass_track_t  *p_track;
 100 };
 101 static void DecSysRelease( decoder_sys_t *p_sys );
 102 static void DecSysHold( decoder_sys_t *p_sys );
 103
 104 struct subpicture_sys_t
 105 {
 106     decoder_sys_t *p_dec_sys;
 107     void          *p_subs_data;
 108     int           i_subs_len;
 109     mtime_t       i_pts;
 110 };
 111
 112 typedef struct
 113 {
 114     int x0;
 115     int y0;
 116     int x1;
 117     int y1;
 118 } rectangle_t;
 119
 120 static int BuildRegions( spu_t *p_spu, rectangle_t *p_region, int i_max_region, ass_image_t *p_img_list, int i_width, int i_height );
 121 static void SubpictureReleaseRegions( spu_t *p_spu, subpicture_t *p_subpic );
 122 static void RegionDraw( subpicture_region_t *p_region, ass_image_t *p_img );
 123
 124 static vlc_mutex_t libass_lock = VLC_STATIC_MUTEX;
 125
 126 //#define DEBUG_REGION
 127
 128 /*****************************************************************************
 129  * Create: Open libass decoder.
 130  *****************************************************************************/
 131 static int Create( vlc_object_t *p_this )
 132 {
 133     decoder_t *p_dec = (decoder_t *)p_this;
 134     decoder_sys_t *p_sys;
 135     ass_track_t *p_track;
 136
 137     if( p_dec->fmt_in.i_codec != VLC_CODEC_SSA )
 138         return VLC_EGENERIC;
 139
 140     p_dec->pf_decode_sub = DecodeBlock;
 141
 142     p_dec->p_sys = p_sys = malloc( sizeof( decoder_sys_t ) );
 143     if( !p_sys )
 144         return VLC_ENOMEM;
 145
 146     /* */
 147     p_sys->i_max_stop = VLC_TS_INVALID;
 148     p_sys->p_ass = AssHandleHold( p_dec );
 149     if( !p_sys->p_ass )
 150     {
 151         free( p_sys );
 152         return VLC_EGENERIC;
 153     }
 154     vlc_mutex_init( &p_sys->lock );
 155     p_sys->i_refcount = 1;
 156
 157     /* Add a track */
 158     vlc_mutex_lock( &libass_lock );
 159     p_sys->p_track = p_track = ass_new_track( p_sys->p_ass->p_library );
 160     if( !p_track )
 161     {
 162         vlc_mutex_unlock( &libass_lock );
 163         DecSysRelease( p_sys );
 164         return VLC_EGENERIC;
 165     }
 166     ass_process_codec_private( p_track, p_dec->fmt_in.p_extra, p_dec->fmt_in.i_extra );
 167     vlc_mutex_unlock( &libass_lock );
 168
 169     p_dec->fmt_out.i_cat = SPU_ES;
 170     p_dec->fmt_out.i_codec = VLC_CODEC_RGBA;
 171
 172     return VLC_SUCCESS;
 173 }
 174
 175 /*****************************************************************************
 176  * Destroy: finish
 177  *****************************************************************************/
 178 static void Destroy( vlc_object_t *p_this )
 179 {
 180     decoder_t *p_dec = (decoder_t *)p_this;
 181
 182     DecSysRelease( p_dec->p_sys );
 183 }
 184
 185 static void DecSysHold( decoder_sys_t *p_sys )
 186 {
 187     vlc_mutex_lock( &p_sys->lock );
 188     p_sys->i_refcount++;
 189     vlc_mutex_unlock( &p_sys->lock );
 190 }
 191 static void DecSysRelease( decoder_sys_t *p_sys )
 192 {
 193     /* */
 194     vlc_mutex_lock( &p_sys->lock );
 195     p_sys->i_refcount--;
 196     if( p_sys->i_refcount > 0 )
 197     {
 198         vlc_mutex_unlock( &p_sys->lock );
 199         return;
 200     }
 201     vlc_mutex_unlock( &p_sys->lock );
 202     vlc_mutex_destroy( &p_sys->lock );
 203
 204     vlc_mutex_lock( &libass_lock );
 205     if( p_sys->p_track )
 206         ass_free_track( p_sys->p_track );
 207     vlc_mutex_unlock( &libass_lock );
 208
 209     AssHandleRelease( p_sys->p_ass );
 210     free( p_sys );
 211 }
 212
 213 /****************************************************************************
 214  * DecodeBlock:
 215  ****************************************************************************/
 216 static subpicture_t *DecodeBlock( decoder_t *p_dec, block_t **pp_block )
 217 {
 218     decoder_sys_t *p_sys = p_dec->p_sys;
 219
 220     subpicture_t *p_spu = NULL;
 221     block_t *p_block;
 222
 223     if( !pp_block || *pp_block == NULL )
 224         return NULL;
 225
 226     p_block = *pp_block;
 227     if( p_block->i_flags & (BLOCK_FLAG_DISCONTINUITY|BLOCK_FLAG_CORRUPTED) )
 228     {
 229         p_sys->i_max_stop = VLC_TS_INVALID;
 230         block_Release( p_block );
 231         return NULL;
 232     }
 233     *pp_block = NULL;
 234
 235     if( p_block->i_buffer == 0 || p_block->p_buffer[0] == '\0' )
 236     {
 237         block_Release( p_block );
 238         return NULL;
 239     }
 240
 241     p_spu = decoder_NewSubpicture( p_dec );
 242     if( !p_spu )
 243     {
 244         msg_Warn( p_dec, "can't get spu buffer" );
 245         block_Release( p_block );
 246         return NULL;
 247     }
 248
 249     p_spu->p_sys = malloc( sizeof( subpicture_sys_t ));
 250     if( !p_spu->p_sys )
 251     {
 252         decoder_DeleteSubpicture( p_dec, p_spu );
 253         block_Release( p_block );
 254         return NULL;
 255     }
 256
 257     p_spu->p_sys->i_subs_len = p_block->i_buffer;
 258     p_spu->p_sys->p_subs_data = malloc( p_block->i_buffer );
 259     if( !p_spu->p_sys->p_subs_data )
 260     {
 261         free( p_spu->p_sys );
 262         decoder_DeleteSubpicture( p_dec, p_spu );
 263         block_Release( p_block );
 264         return NULL;
 265     }
 266     memcpy( p_spu->p_sys->p_subs_data, p_block->p_buffer,
 267             p_block->i_buffer );
 268     p_spu->p_sys->i_pts = p_block->i_pts;
 269
 270     p_spu->i_start = p_block->i_pts;
 271     p_spu->i_stop = __MAX( p_sys->i_max_stop, p_block->i_pts + p_block->i_length );
 272     p_spu->b_ephemer = true;
 273     p_spu->b_absolute = true;
 274
 275     p_sys->i_max_stop = p_spu->i_stop;
 276
 277     vlc_mutex_lock( &libass_lock );
 278     if( p_sys->p_track )
 279     {
 280         ass_process_chunk( p_sys->p_track, p_spu->p_sys->p_subs_data, p_spu->p_sys->i_subs_len,
 281                            p_block->i_pts / 1000, p_block->i_length / 1000 );
 282     }
 283     vlc_mutex_unlock( &libass_lock );
 284
 285     p_spu->pf_update_regions = UpdateRegions;
 286     p_spu->pf_destroy = DestroySubpicture;
 287     p_spu->p_sys->p_dec_sys = p_sys;
 288
 289     DecSysHold( p_sys );
 290
 291     block_Release( p_block );
 292
 293     return p_spu;
 294 }
 295
 296 /****************************************************************************
 297  *
 298  ****************************************************************************/
 299 static void DestroySubpicture( subpicture_t *p_subpic )
 300 {
 301     DecSysRelease( p_subpic->p_sys->p_dec_sys );
 302
 303     free( p_subpic->p_sys->p_subs_data );
 304     free( p_subpic->p_sys );
 305 }
 306
 307 static void UpdateRegions( spu_t *p_spu, subpicture_t *p_subpic,
 308                            const video_format_t *p_fmt, mtime_t i_ts )
 309 {
 310     decoder_sys_t *p_sys = p_subpic->p_sys->p_dec_sys;
 311     ass_handle_t *p_ass = p_sys->p_ass;
 312
 313     video_format_t fmt;
 314     bool b_fmt_changed;
 315
 316     vlc_mutex_lock( &libass_lock );
 317
 318     /* */
 319     fmt = *p_fmt;
 320     fmt.i_chroma = VLC_CODEC_RGBA;
 321     fmt.i_width = fmt.i_visible_width;
 322     fmt.i_height = fmt.i_visible_height;
 323     fmt.i_bits_per_pixel = 0;
 324     fmt.i_x_offset = fmt.i_y_offset = 0;
 325
 326     b_fmt_changed = memcmp( &fmt, &p_ass->fmt, sizeof(fmt) ) != 0;
 327     if( b_fmt_changed )
 328     {
 329         ass_set_frame_size( p_ass->p_renderer, fmt.i_width, fmt.i_height );
 330 #if defined( LIBASS_VERSION ) && LIBASS_VERSION >= 0x00907000
 331     ass_set_aspect_ratio( p_ass->p_renderer, 1.0, 1.0 ); // TODO ?
 332 #else
 333     ass_set_aspect_ratio( p_ass->p_renderer, 1.0 ); // TODO ?
 334 #endif
 335
 336         p_ass->fmt = fmt;
 337     }
 338
 339     /* */
 340     const mtime_t i_stream_date = p_subpic->p_sys->i_pts + (i_ts - p_subpic->i_start);
 341     int i_changed;
 342     ass_image_t *p_img = ass_render_frame( p_ass->p_renderer, p_sys->p_track,
 343                                            i_stream_date/1000, &i_changed );
 344
 345     if( !i_changed && !b_fmt_changed &&
 346         (p_img != NULL) == (p_subpic->p_region != NULL) )
 347     {
 348         vlc_mutex_unlock( &libass_lock );
 349         return;
 350     }
 351
 352     /* */
 353     p_subpic->i_original_picture_height = fmt.i_height;
 354     p_subpic->i_original_picture_width = fmt.i_width;
 355     SubpictureReleaseRegions( p_spu, p_subpic );
 356
 357     /* XXX to improve efficiency we merge regions that are close minimizing
 358      * the lost surface.
 359      * libass tends to create a lot of small regions and thus spu engine
 360      * reinstanciate a lot the scaler, and as we do not support subpel blending
 361      * it looks ugly (text unaligned).
 362      */
 363     const int i_max_region = 4;
 364     rectangle_t region[i_max_region];
 365     const int i_region = BuildRegions( p_spu, region, i_max_region, p_img, fmt.i_width, fmt.i_height );
 366
 367     if( i_region <= 0 )
 368     {
 369         vlc_mutex_unlock( &libass_lock );
 370         return;
 371     }
 372
 373     /* Allocate the regions and draw them */
 374     subpicture_region_t *pp_region[i_max_region];
 375     subpicture_region_t **pp_region_last = &p_subpic->p_region;
 376
 377     for( int i = 0; i < i_region; i++ )
 378     {
 379         subpicture_region_t *r;
 380         video_format_t fmt_region;
 381
 382         /* */
 383         fmt_region = fmt;
 384         fmt_region.i_width =
 385         fmt_region.i_visible_width  = region[i].x1 - region[i].x0;
 386         fmt_region.i_height =
 387         fmt_region.i_visible_height = region[i].y1 - region[i].y0;
 388
 389         pp_region[i] = r = subpicture_region_New( &fmt_region );
 390         if( !r )
 391             break;
 392         r->i_x = region[i].x0;
 393         r->i_y = region[i].y0;
 394         r->i_align = SUBPICTURE_ALIGN_TOP | SUBPICTURE_ALIGN_LEFT;
 395
 396         /* */
 397         RegionDraw( r, p_img );
 398
 399         /* */
 400         *pp_region_last = r;
 401         pp_region_last = &r->p_next;
 402     }
 403     vlc_mutex_unlock( &libass_lock );
 404 }
 405
 406 static rectangle_t r_create( int x0, int y0, int x1, int y1 )
 407 {
 408     rectangle_t r = { x0, y0, x1, y1 };
 409     return r;
 410 }
 411 static rectangle_t r_img( const ass_image_t *p_img )
 412 {
 413     return r_create( p_img->dst_x, p_img->dst_y, p_img->dst_x+p_img->w, p_img->dst_y+p_img->h );
 414 }
 415 static void r_add( rectangle_t *r, const rectangle_t *n )
 416 {
 417     r->x0 = __MIN( r->x0, n->x0 );
 418     r->y0 = __MIN( r->y0, n->y0 );
 419     r->x1 = __MAX( r->x1, n->x1 );
 420     r->y1 = __MAX( r->y1, n->y1 );
 421 }
 422 static int r_surface( const rectangle_t *r )
 423 {
 424     return (r->x1-r->x0) * (r->y1-r->y0);
 425 }
 426 static bool r_overlap( const rectangle_t *a, const rectangle_t *b, int i_dx, int i_dy )
 427 {
 428     return  __MAX(a->x0-i_dx, b->x0) < __MIN( a->x1+i_dx, b->x1 ) &&
 429             __MAX(a->y0-i_dy, b->y0) < __MIN( a->y1+i_dy, b->y1 );
 430 }
 431
 432 static int BuildRegions( spu_t *p_spu, rectangle_t *p_region, int i_max_region, ass_image_t *p_img_list, int i_width, int i_height )
 433 {
 434     ass_image_t *p_tmp;
 435     int i_count;
 436
 437     VLC_UNUSED(p_spu);
 438
 439 #ifdef DEBUG_REGION
 440     int64_t i_ck_start = mdate();
 441 #endif
 442
 443     for( p_tmp = p_img_list, i_count = 0; p_tmp != NULL; p_tmp = p_tmp->next )
 444         i_count++;
 445     if( i_count <= 0 )
 446         return 0;
 447
 448     ass_image_t **pp_img = calloc( i_count, sizeof(*pp_img) );
 449     if( !pp_img )
 450         return 0;
 451
 452     for( p_tmp = p_img_list, i_count = 0; p_tmp != NULL; p_tmp = p_tmp->next, i_count++ )
 453         pp_img[i_count] = p_tmp;
 454
 455     /* */
 456     const int i_w_inc = __MAX( ( i_width + 49 ) / 50, 32 );
 457     const int i_h_inc = __MAX( ( i_height + 99 ) / 100, 32 );
 458     int i_maxh = i_w_inc;
 459     int i_maxw = i_h_inc;
 460     int i_region;
 461     rectangle_t region[i_max_region+1];
 462
 463     i_region = 0;
 464     for( int i_used = 0; i_used < i_count; )
 465     {
 466         int n;
 467         for( n = 0; n < i_count; n++ )
 468         {
 469             if( pp_img[n] )
 470                 break;
 471         }
 472         assert( i_region < i_max_region + 1 );
 473         region[i_region++] = r_img( pp_img[n] );
 474         pp_img[n] = NULL; i_used++;
 475
 476         bool b_ok;
 477         do {
 478             b_ok = false;
 479             for( n = 0; n < i_count; n++ )
 480             {
 481                 ass_image_t *p_img = pp_img[n];
 482                 if( !p_img )
 483                     continue;
 484                 rectangle_t r = r_img( p_img );
 485
 486                 int k;
 487                 int i_best = -1;
 488                 int i_best_s = INT_MAX;
 489                 for( k = 0; k < i_region; k++ )
 490                 {
 491                     if( !r_overlap( &region[k], &r, i_maxw, i_maxh ) )
 492                         continue;
 493                     int s = r_surface( &r );
 494                     if( s < i_best_s )
 495                     {
 496                         i_best_s = s;
 497                         i_best = k;
 498                     }
 499                 }
 500                 if( i_best >= 0 )
 501                 {
 502                     r_add( &region[i_best], &r );
 503                     pp_img[n] = NULL; i_used++;
 504                     b_ok = true;
 505                 }
 506             }
 507         } while( b_ok );
 508
 509         if( i_region > i_max_region )
 510         {
 511             int i_best_i = -1;
 512             int i_best_j = -1;
 513             int i_best_ds = INT_MAX;
 514
 515             /* merge best */
 516             for( int i = 0; i < i_region; i++ )
 517             {
 518                 for( int j = i+1; j < i_region; j++ )
 519                 {
 520                     rectangle_t n = region[i];
 521                     r_add( &n, &region[j] );
 522                     int ds = r_surface( &n ) - r_surface( &region[i] ) - r_surface( &region[j] );
 523
 524                     if( ds < i_best_ds )
 525                     {
 526                         i_best_i = i;
 527                         i_best_j = j;
 528                         i_best_ds = ds;
 529                     }
 530                 }
 531             }
 532 #ifdef DEBUG_REGION
 533             msg_Err( p_spu, "Merging %d and %d", i_best_i, i_best_j );
 534 #endif
 535             r_add( &region[i_best_i], &region[i_best_j] );
 536
 537             if( i_best_j+1 < i_region )
 538                 memmove( &region[i_best_j], &region[i_best_j+1], sizeof(*region) * ( i_region - (i_best_j+1)  ) );
 539             i_region--;
 540         }
 541     }
 542
 543     /* */
 544     for( int n = 0; n < i_region; n++ )
 545         p_region[n] = region[n];
 546
 547 #ifdef DEBUG_REGION
 548     int64_t i_ck_time = mdate() - i_ck_start;
 549     msg_Err( p_spu, "ASS: %d objects merged into %d region in %d micros", i_count, i_region, (int)(i_ck_time) );
 550 #endif
 551
 552     free( pp_img );
 553
 554     return i_region;
 555 }
 556
 557 static void RegionDraw( subpicture_region_t *p_region, ass_image_t *p_img )
 558 {
 559     const plane_t *p = &p_region->p_picture->p[0];
 560     const int i_x = p_region->i_x;
 561     const int i_y = p_region->i_y;
 562     const int i_width  = p_region->fmt.i_width;
 563     const int i_height = p_region->fmt.i_height;
 564
 565     memset( p->p_pixels, 0x00, p->i_pitch * p->i_lines );
 566     for( ; p_img != NULL; p_img = p_img->next )
 567     {
 568         if( p_img->dst_x < i_x || p_img->dst_x + p_img->w > i_x + i_width ||
 569             p_img->dst_y < i_y || p_img->dst_y + p_img->h > i_y + i_height )
 570             continue;
 571
 572         const unsigned r = (p_img->color >> 24)&0xff;
 573         const unsigned g = (p_img->color >> 16)&0xff;
 574         const unsigned b = (p_img->color >>  8)&0xff;
 575         const unsigned a = (p_img->color      )&0xff;
 576         int x, y;
 577
 578         for( y = 0; y < p_img->h; y++ )
 579         {
 580             for( x = 0; x < p_img->w; x++ )
 581             {
 582                 const unsigned alpha = p_img->bitmap[y*p_img->stride+x];
 583                 const unsigned an = (255 - a) * alpha / 255;
 584
 585                 uint8_t *p_rgba = &p->p_pixels[(y+p_img->dst_y-i_y) * p->i_pitch + 4 * (x+p_img->dst_x-i_x)];
 586                 const unsigned ao = p_rgba[3];
 587
 588                 /* Native endianness, but RGBA ordering */
 589                 if( ao == 0 )
 590                 {
 591                     /* Optimized but the else{} will produce the same result */
 592                     p_rgba[0] = r;
 593                     p_rgba[1] = g;
 594                     p_rgba[2] = b;
 595                     p_rgba[3] = an;
 596                 }
 597                 else
 598                 {
 599                     p_rgba[3] = 255 - ( 255 - p_rgba[3] ) * ( 255 - an ) / 255;
 600                     if( p_rgba[3] != 0 )
 601                     {
 602                         p_rgba[0] = ( p_rgba[0] * ao * (255-an) / 255 + r * an ) / p_rgba[3];
 603                         p_rgba[1] = ( p_rgba[1] * ao * (255-an) / 255 + g * an ) / p_rgba[3];
 604                         p_rgba[2] = ( p_rgba[2] * ao * (255-an) / 255 + b * an ) / p_rgba[3];
 605                     }
 606                 }
 607             }
 608         }
 609     }
 610
 611 #ifdef DEBUG_REGION
 612     /* XXX Draw a box for debug */
 613 #define P(x,y) ((uint32_t*)&p->p_pixels[(y)*p->i_pitch + 4*(x)])
 614     for( int y = 0; y < p->i_lines; y++ )
 615         *P(0,y) = *P(p->i_visible_pitch/4-1,y) = 0xff000000;
 616     for( int x = 0; x < p->i_visible_pitch; x++ )
 617         *P(x/4,0) = *P(x/4,p->i_visible_lines-1) = 0xff000000;
 618 #undef P
 619 #endif
 620 }
 621
 622
 623 static void SubpictureReleaseRegions( spu_t *p_spu, subpicture_t *p_subpic )
 624 {
 625     VLC_UNUSED( p_spu );
 626     subpicture_region_ChainDelete( p_subpic->p_region );
 627     p_subpic->p_region = NULL;
 628 }
 629
 630 /* */
 631 static ass_handle_t *AssHandleHold( decoder_t *p_dec )
 632 {
 633     vlc_mutex_lock( &libass_lock );
 634
 635     ass_handle_t *p_ass = NULL;
 636     ass_library_t *p_library = NULL;
 637     ass_renderer_t *p_renderer = NULL;
 638     vlc_value_t val;
 639
 640     var_Create( p_dec->p_libvlc, "libass-handle", VLC_VAR_ADDRESS );
 641     if( var_Get( p_dec->p_libvlc, "libass-handle", &val ) )
 642         val.p_address = NULL;
 643
 644     if( val.p_address )
 645     {
 646         p_ass = val.p_address;
 647
 648         p_ass->i_refcount++;
 649
 650         vlc_mutex_unlock( &libass_lock );
 651         return p_ass;
 652     }
 653
 654     /* */
 655     p_ass = malloc( sizeof(*p_ass) );
 656     if( !p_ass )
 657         goto error;
 658
 659     /* */
 660     p_ass->p_libvlc = VLC_OBJECT(p_dec->p_libvlc);
 661     p_ass->i_refcount = 1;
 662
 663     /* Create libass library */
 664     p_ass->p_library = p_library = ass_library_init();
 665     if( !p_library )
 666         goto error;
 667
 668     /* load attachments */
 669     input_attachment_t  **pp_attachments;
 670     int                   i_attachments;
 671
 672     if( decoder_GetInputAttachments( p_dec, &pp_attachments, &i_attachments ))
 673     {
 674         i_attachments = 0;
 675         pp_attachments = NULL;
 676     }
 677     for( int k = 0; k < i_attachments; k++ )
 678     {
 679         input_attachment_t *p_attach = pp_attachments[k];
 680
 681         if( !strcasecmp( p_attach->psz_mime, "application/x-truetype-font" ) )
 682         {
 683             msg_Dbg( p_dec, "adding embedded font %s", p_attach->psz_name );
 684
 685             ass_add_font( p_ass->p_library, p_attach->psz_name, p_attach->p_data, p_attach->i_data );
 686         }
 687         vlc_input_attachment_Delete( p_attach );
 688     }
 689     free( pp_attachments );
 690
 691     char *psz_font_dir = NULL;
 692
 693
 694 #if defined(WIN32)
 695     dialog_progress_bar_t *p_dialog = dialog_ProgressCreate( p_dec,
 696         _("Building font cache"),
 697         _( "Please wait while your font cache is rebuilt.\n"
 698         "This should take less than a minute." ), NULL );
 699     /* This makes Windows build of VLC hang */
 700     const UINT uPath = GetSystemWindowsDirectoryW( NULL, 0 );
 701     if( uPath > 0 )
 702     {
 703         wchar_t *psw_path = calloc( uPath + 1, sizeof(wchar_t) );
 704         if( psw_path )
 705         {
 706             if( GetSystemWindowsDirectoryW( psw_path, uPath + 1 ) > 0 )
 707             {
 708                 char *psz_tmp = FromWide( psw_path );
 709                 if( psz_tmp &&
 710                     asprintf( &psz_font_dir, "%s\\Fonts", psz_tmp ) < 0 )
 711                     psz_font_dir = NULL;
 712                 free( psz_tmp );
 713             }
 714             free( psw_path );
 715         }
 716     }
 717 #endif
 718     if( !psz_font_dir )
 719         psz_font_dir = config_GetCacheDir();
 720
 721     if( !psz_font_dir )
 722         goto error;
 723     msg_Dbg( p_dec, "Setting libass fontdir: %s", psz_font_dir );
 724     ass_set_fonts_dir( p_library, psz_font_dir );
 725     free( psz_font_dir );
 726 #ifdef WIN32
 727     if( p_dialog )
 728         dialog_ProgressSet( p_dialog, NULL, 0.1 );
 729 #endif
 730
 731     ass_set_extract_fonts( p_library, true );
 732     ass_set_style_overrides( p_library, NULL );
 733
 734     /* Create the renderer */
 735     p_ass->p_renderer = p_renderer = ass_renderer_init( p_library );
 736     if( !p_renderer )
 737         goto error;
 738
 739     ass_set_use_margins( p_renderer, false);
 740     //if( false )
 741     //    ass_set_margins( p_renderer, int t, int b, int l, int r);
 742     ass_set_hinting( p_renderer, ASS_HINTING_LIGHT );
 743     ass_set_font_scale( p_renderer, 1.0 );
 744     ass_set_line_spacing( p_renderer, 0.0 );
 745
 746     const char *psz_font = NULL; /* We don't ship a default font with VLC */
 747     const char *psz_family = "Arial"; /* Use Arial if we can't find anything more suitable */
 748
 749 #ifdef HAVE_FONTCONFIG
 750 #ifdef WIN32
 751     if( p_dialog )
 752         dialog_ProgressSet( p_dialog, NULL, 0.2 );
 753 #endif
 754 #if defined( LIBASS_VERSION ) && LIBASS_VERSION >= 0x00907000
 755     ass_set_fonts( p_renderer, psz_font, psz_family, true, NULL, 1 );  // setup default font/family
 756 #else
 757     ass_set_fonts( p_renderer, psz_font, psz_family );  // setup default font/family
 758 #endif
 759 #ifdef WIN32
 760     if( p_dialog )
 761         dialog_ProgressSet( p_dialog, NULL, 1.0 );
 762 #endif
 763 #else
 764     /* FIXME you HAVE to give him a font if no fontconfig */
 765 #if defined( LIBASS_VERSION ) && LIBASS_VERSION >= 0x00907000
 766     ass_set_fonts( p_renderer, psz_font, psz_family, false, NULL, 1 );
 767 #else
 768     ass_set_fonts_nofc( p_renderer, psz_font, psz_family );
 769 #endif
 770 #endif
 771     memset( &p_ass->fmt, 0, sizeof(p_ass->fmt) );
 772
 773     /* */
 774     val.p_address = p_ass;
 775     var_Set( p_dec->p_libvlc, "libass-handle", val );
 776
 777     /* */
 778     vlc_mutex_unlock( &libass_lock );
 779 #ifdef WIN32
 780     if( p_dialog )
 781         dialog_ProgressDestroy( p_dialog );
 782 #endif
 783     return p_ass;
 784
 785 error:
 786     if( p_renderer )
 787         ass_renderer_done( p_renderer );
 788     if( p_library )
 789         ass_library_done( p_library );
 790
 791     msg_Warn( p_dec, "Libass creation failed" );
 792
 793     free( p_ass );
 794     vlc_mutex_unlock( &libass_lock );
 795     return NULL;
 796 }
 797 static void AssHandleRelease( ass_handle_t *p_ass )
 798 {
 799     vlc_mutex_lock( &libass_lock );
 800     p_ass->i_refcount--;
 801     if( p_ass->i_refcount > 0 )
 802     {
 803         vlc_mutex_unlock( &libass_lock );
 804         return;
 805     }
 806
 807     ass_renderer_done( p_ass->p_renderer );
 808     ass_library_done( p_ass->p_library );
 809
 810     vlc_value_t val;
 811     val.p_address = NULL;
 812     var_Set( p_ass->p_libvlc, "libass-handle", val );
 813
 814     vlc_mutex_unlock( &libass_lock );
 815     free( p_ass );
 816 }
 817