git.sesse.net Git - ffmpeg/blob - libavcodec/movtextdec.c

   1 /*
   2  * 3GPP TS 26.245 Timed Text decoder
   3  * Copyright (c) 2012  Philip Langdale <philipl@overt.org>
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "avcodec.h"
  23 #include "ass.h"
  24 #include "libavutil/avstring.h"
  25 #include "libavutil/common.h"
  26 #include "libavutil/bprint.h"
  27 #include "libavutil/intreadwrite.h"
  28 #include "libavutil/mem.h"
  29
  30 #define STYLE_FLAG_BOLD         (1<<0)
  31 #define STYLE_FLAG_ITALIC       (1<<1)
  32 #define STYLE_FLAG_UNDERLINE    (1<<2)
  33
  34 #define BOX_SIZE_INITIAL    40
  35
  36 #define STYL_BOX   (1<<0)
  37 #define HLIT_BOX   (1<<1)
  38 #define HCLR_BOX   (1<<2)
  39 #define TWRP_BOX   (1<<3)
  40
  41 #define BOTTOM_LEFT     1
  42 #define BOTTOM_CENTER   2
  43 #define BOTTOM_RIGHT    3
  44 #define MIDDLE_LEFT     4
  45 #define MIDDLE_CENTER   5
  46 #define MIDDLE_RIGHT    6
  47 #define TOP_LEFT        7
  48 #define TOP_CENTER      8
  49 #define TOP_RIGHT       9
  50
  51 #define RGB_TO_BGR(c) (((c) & 0xff) << 16 | ((c) & 0xff00) | (((c) >> 16) & 0xff))
  52
  53 typedef struct {
  54     uint16_t fontID;
  55     const char *font;
  56     uint8_t fontsize;
  57     int color;
  58     int back_color;
  59     uint8_t bold;
  60     uint8_t italic;
  61     uint8_t underline;
  62     int alignment;
  63 } MovTextDefault;
  64
  65 typedef struct {
  66     uint16_t fontID;
  67     char *font;
  68 } FontRecord;
  69
  70 typedef struct {
  71     uint16_t style_start;
  72     uint16_t style_end;
  73     uint8_t style_flag;
  74     uint8_t bold;
  75     uint8_t italic;
  76     uint8_t underline;
  77     uint8_t fontsize;
  78     uint16_t style_fontID;
  79 } StyleBox;
  80
  81 typedef struct {
  82     uint16_t hlit_start;
  83     uint16_t hlit_end;
  84 } HighlightBox;
  85
  86 typedef struct {
  87    uint8_t hlit_color[4];
  88 } HilightcolorBox;
  89
  90 typedef struct {
  91     uint8_t wrap_flag;
  92 } TextWrapBox;
  93
  94 typedef struct {
  95     StyleBox **s;
  96     StyleBox *s_temp;
  97     HighlightBox h;
  98     HilightcolorBox c;
  99     FontRecord **ftab;
 100     FontRecord *ftab_temp;
 101     TextWrapBox w;
 102     MovTextDefault d;
 103     uint8_t box_flags;
 104     uint16_t style_entries, ftab_entries;
 105     uint64_t tracksize;
 106     int size_var;
 107     int count_s, count_f;
 108     int readorder;
 109 } MovTextContext;
 110
 111 typedef struct {
 112     uint32_t type;
 113     size_t base_size;
 114     int (*decode)(const uint8_t *tsmb, MovTextContext *m, AVPacket *avpkt);
 115 } Box;
 116
 117 static void mov_text_cleanup(MovTextContext *m)
 118 {
 119     int i;
 120     if (m->box_flags & STYL_BOX) {
 121         for(i = 0; i < m->count_s; i++) {
 122             av_freep(&m->s[i]);
 123         }
 124         av_freep(&m->s);
 125         m->count_s = 0;
 126         m->style_entries = 0;
 127     }
 128 }
 129
 130 static void mov_text_cleanup_ftab(MovTextContext *m)
 131 {
 132     int i;
 133     if (m->ftab_temp)
 134         av_freep(&m->ftab_temp->font);
 135     av_freep(&m->ftab_temp);
 136     if (m->ftab) {
 137         for(i = 0; i < m->count_f; i++) {
 138             av_freep(&m->ftab[i]->font);
 139             av_freep(&m->ftab[i]);
 140         }
 141     }
 142     av_freep(&m->ftab);
 143 }
 144
 145 static int mov_text_tx3g(AVCodecContext *avctx, MovTextContext *m)
 146 {
 147     uint8_t *tx3g_ptr = avctx->extradata;
 148     int i, box_size, font_length;
 149     int8_t v_align, h_align;
 150     StyleBox s_default;
 151
 152     m->count_f = 0;
 153     m->ftab_entries = 0;
 154     box_size = BOX_SIZE_INITIAL; /* Size till ftab_entries */
 155     if (avctx->extradata_size < box_size)
 156         return -1;
 157
 158     // Display Flags
 159     tx3g_ptr += 4;
 160     // Alignment
 161     h_align = *tx3g_ptr++;
 162     v_align = *tx3g_ptr++;
 163     if (h_align == 0) {
 164         if (v_align == 0)
 165             m->d.alignment = TOP_LEFT;
 166         if (v_align == 1)
 167             m->d.alignment = MIDDLE_LEFT;
 168         if (v_align == -1)
 169             m->d.alignment = BOTTOM_LEFT;
 170     }
 171     if (h_align == 1) {
 172         if (v_align == 0)
 173             m->d.alignment = TOP_CENTER;
 174         if (v_align == 1)
 175             m->d.alignment = MIDDLE_CENTER;
 176         if (v_align == -1)
 177             m->d.alignment = BOTTOM_CENTER;
 178     }
 179     if (h_align == -1) {
 180         if (v_align == 0)
 181             m->d.alignment = TOP_RIGHT;
 182         if (v_align == 1)
 183             m->d.alignment = MIDDLE_RIGHT;
 184         if (v_align == -1)
 185             m->d.alignment = BOTTOM_RIGHT;
 186     }
 187     // Background Color
 188     m->d.back_color = AV_RB24(tx3g_ptr);
 189     tx3g_ptr += 4;
 190     // BoxRecord
 191     tx3g_ptr += 8;
 192     // StyleRecord
 193     tx3g_ptr += 4;
 194     // fontID
 195     m->d.fontID = AV_RB16(tx3g_ptr);
 196     tx3g_ptr += 2;
 197     // face-style-flags
 198     s_default.style_flag = *tx3g_ptr++;
 199     m->d.bold = !!(s_default.style_flag & STYLE_FLAG_BOLD);
 200     m->d.italic = !!(s_default.style_flag & STYLE_FLAG_ITALIC);
 201     m->d.underline = !!(s_default.style_flag & STYLE_FLAG_UNDERLINE);
 202     // fontsize
 203     m->d.fontsize = *tx3g_ptr++;
 204     // Primary color
 205     m->d.color = AV_RB24(tx3g_ptr);
 206     tx3g_ptr += 4;
 207     // FontRecord
 208     // FontRecord Size
 209     tx3g_ptr += 4;
 210     // ftab
 211     tx3g_ptr += 4;
 212
 213     m->ftab_entries = AV_RB16(tx3g_ptr);
 214     tx3g_ptr += 2;
 215
 216     for (i = 0; i < m->ftab_entries; i++) {
 217
 218         box_size += 3;
 219         if (avctx->extradata_size < box_size) {
 220             mov_text_cleanup_ftab(m);
 221             m->ftab_entries = 0;
 222             return -1;
 223         }
 224         m->ftab_temp = av_mallocz(sizeof(*m->ftab_temp));
 225         if (!m->ftab_temp) {
 226             mov_text_cleanup_ftab(m);
 227             return AVERROR(ENOMEM);
 228         }
 229         m->ftab_temp->fontID = AV_RB16(tx3g_ptr);
 230         tx3g_ptr += 2;
 231         font_length = *tx3g_ptr++;
 232
 233         box_size = box_size + font_length;
 234         if (avctx->extradata_size < box_size) {
 235             mov_text_cleanup_ftab(m);
 236             m->ftab_entries = 0;
 237             return -1;
 238         }
 239         m->ftab_temp->font = av_malloc(font_length + 1);
 240         if (!m->ftab_temp->font) {
 241             mov_text_cleanup_ftab(m);
 242             return AVERROR(ENOMEM);
 243         }
 244         memcpy(m->ftab_temp->font, tx3g_ptr, font_length);
 245         m->ftab_temp->font[font_length] = '\0';
 246         av_dynarray_add(&m->ftab, &m->count_f, m->ftab_temp);
 247         if (!m->ftab) {
 248             mov_text_cleanup_ftab(m);
 249             return AVERROR(ENOMEM);
 250         }
 251         m->ftab_temp = NULL;
 252         tx3g_ptr = tx3g_ptr + font_length;
 253     }
 254     // In case of broken header, init default font
 255     m->d.font = ASS_DEFAULT_FONT;
 256     for (i = 0; i < m->ftab_entries; i++) {
 257         if (m->d.fontID == m->ftab[i]->fontID)
 258             m->d.font = m->ftab[i]->font;
 259     }
 260     return 0;
 261 }
 262
 263 static int decode_twrp(const uint8_t *tsmb, MovTextContext *m, AVPacket *avpkt)
 264 {
 265     m->box_flags |= TWRP_BOX;
 266     m->w.wrap_flag = *tsmb++;
 267     return 0;
 268 }
 269
 270 static int decode_hlit(const uint8_t *tsmb, MovTextContext *m, AVPacket *avpkt)
 271 {
 272     m->box_flags |= HLIT_BOX;
 273     m->h.hlit_start = AV_RB16(tsmb);
 274     tsmb += 2;
 275     m->h.hlit_end = AV_RB16(tsmb);
 276     tsmb += 2;
 277     return 0;
 278 }
 279
 280 static int decode_hclr(const uint8_t *tsmb, MovTextContext *m, AVPacket *avpkt)
 281 {
 282     m->box_flags |= HCLR_BOX;
 283     memcpy(m->c.hlit_color, tsmb, 4);
 284     tsmb += 4;
 285     return 0;
 286 }
 287
 288 static int decode_styl(const uint8_t *tsmb, MovTextContext *m, AVPacket *avpkt)
 289 {
 290     int i;
 291     int style_entries = AV_RB16(tsmb);
 292     tsmb += 2;
 293     // A single style record is of length 12 bytes.
 294     if (m->tracksize + m->size_var + 2 + style_entries * 12 > avpkt->size)
 295         return -1;
 296
 297     m->style_entries = style_entries;
 298
 299     m->box_flags |= STYL_BOX;
 300     for(i = 0; i < m->style_entries; i++) {
 301         m->s_temp = av_malloc(sizeof(*m->s_temp));
 302         if (!m->s_temp) {
 303             mov_text_cleanup(m);
 304             return AVERROR(ENOMEM);
 305         }
 306         m->s_temp->style_start = AV_RB16(tsmb);
 307         tsmb += 2;
 308         m->s_temp->style_end = AV_RB16(tsmb);
 309
 310         if (   m->s_temp->style_end < m->s_temp->style_start
 311             || (m->count_s && m->s_temp->style_start < m->s[m->count_s - 1]->style_end)) {
 312             av_freep(&m->s_temp);
 313             mov_text_cleanup(m);
 314             return AVERROR(ENOMEM);
 315         }
 316
 317         tsmb += 2;
 318         m->s_temp->style_fontID = AV_RB16(tsmb);
 319         tsmb += 2;
 320         m->s_temp->style_flag = AV_RB8(tsmb);
 321         m->s_temp->bold = !!(m->s_temp->style_flag & STYLE_FLAG_BOLD);
 322         m->s_temp->italic = !!(m->s_temp->style_flag & STYLE_FLAG_ITALIC);
 323         m->s_temp->underline = !!(m->s_temp->style_flag & STYLE_FLAG_UNDERLINE);
 324         tsmb++;
 325         m->s_temp->fontsize = AV_RB8(tsmb);
 326         av_dynarray_add(&m->s, &m->count_s, m->s_temp);
 327         if(!m->s) {
 328             mov_text_cleanup(m);
 329             return AVERROR(ENOMEM);
 330         }
 331         tsmb++;
 332         // text-color-rgba
 333         tsmb += 4;
 334     }
 335     return 0;
 336 }
 337
 338 static const Box box_types[] = {
 339     { MKBETAG('s','t','y','l'), 2, decode_styl },
 340     { MKBETAG('h','l','i','t'), 4, decode_hlit },
 341     { MKBETAG('h','c','l','r'), 4, decode_hclr },
 342     { MKBETAG('t','w','r','p'), 1, decode_twrp }
 343 };
 344
 345 const static size_t box_count = FF_ARRAY_ELEMS(box_types);
 346
 347 // Return byte length of the UTF-8 sequence starting at text[0]. 0 on error.
 348 static int get_utf8_length_at(const char *text, const char *text_end)
 349 {
 350     const char *start = text;
 351     int err = 0;
 352     uint32_t c;
 353     GET_UTF8(c, text < text_end ? (uint8_t)*text++ : (err = 1, 0), goto error;);
 354     if (err)
 355         goto error;
 356     return text - start;
 357 error:
 358     return 0;
 359 }
 360
 361 static int text_to_ass(AVBPrint *buf, const char *text, const char *text_end,
 362                        AVCodecContext *avctx)
 363 {
 364     MovTextContext *m = avctx->priv_data;
 365     int i = 0;
 366     int text_pos = 0;
 367     int style_active = 0;
 368     int entry = 0;
 369
 370     if (text < text_end && m->box_flags & TWRP_BOX) {
 371         if (m->w.wrap_flag == 1) {
 372             av_bprintf(buf, "{\\q1}"); /* End of line wrap */
 373         } else {
 374             av_bprintf(buf, "{\\q2}"); /* No wrap */
 375         }
 376     }
 377
 378     while (text < text_end) {
 379         int len;
 380
 381         if ((m->box_flags & STYL_BOX) && entry < m->style_entries) {
 382             if (text_pos == m->s[entry]->style_start) {
 383                 style_active = 1;
 384                 if (m->s[entry]->bold ^ m->d.bold)
 385                     av_bprintf(buf, "{\\b%d}", m->s[entry]->bold);
 386                 if (m->s[entry]->italic ^ m->d.italic)
 387                     av_bprintf(buf, "{\\i%d}", m->s[entry]->italic);
 388                 if (m->s[entry]->underline ^ m->d.underline)
 389                     av_bprintf(buf, "{\\u%d}", m->s[entry]->underline);
 390                 if (m->s[entry]->fontsize != m->d.fontsize)
 391                     av_bprintf(buf, "{\\fs%d}", m->s[entry]->fontsize);
 392                 if (m->s[entry]->style_fontID != m->d.fontID)
 393                     for (i = 0; i < m->ftab_entries; i++) {
 394                         if (m->s[entry]->style_fontID == m->ftab[i]->fontID)
 395                             av_bprintf(buf, "{\\fn%s}", m->ftab[i]->font);
 396                     }
 397             }
 398             if (text_pos == m->s[entry]->style_end) {
 399                 if (style_active) {
 400                     av_bprintf(buf, "{\\r}");
 401                     style_active = 0;
 402                 }
 403                 entry++;
 404             }
 405         }
 406         if (m->box_flags & HLIT_BOX) {
 407             if (text_pos == m->h.hlit_start) {
 408                 /* If hclr box is present, set the secondary color to the color
 409                  * specified. Otherwise, set primary color to white and secondary
 410                  * color to black. These colors will come from TextSampleModifier
 411                  * boxes in future and inverse video technique for highlight will
 412                  * be implemented.
 413                  */
 414                 if (m->box_flags & HCLR_BOX) {
 415                     av_bprintf(buf, "{\\2c&H%02x%02x%02x&}", m->c.hlit_color[2],
 416                                 m->c.hlit_color[1], m->c.hlit_color[0]);
 417                 } else {
 418                     av_bprintf(buf, "{\\1c&H000000&}{\\2c&HFFFFFF&}");
 419                 }
 420             }
 421             if (text_pos == m->h.hlit_end) {
 422                 if (m->box_flags & HCLR_BOX) {
 423                     av_bprintf(buf, "{\\2c&H000000&}");
 424                 } else {
 425                     av_bprintf(buf, "{\\1c&HFFFFFF&}{\\2c&H000000&}");
 426                 }
 427             }
 428         }
 429
 430         len = get_utf8_length_at(text, text_end);
 431         if (len < 1) {
 432             av_log(avctx, AV_LOG_ERROR, "invalid UTF-8 byte in subtitle\n");
 433             len = 1;
 434         }
 435         for (i = 0; i < len; i++) {
 436             switch (*text) {
 437             case '\r':
 438                 break;
 439             case '\n':
 440                 av_bprintf(buf, "\\N");
 441                 break;
 442             default:
 443                 av_bprint_chars(buf, *text, 1);
 444                 break;
 445             }
 446             text++;
 447         }
 448         text_pos++;
 449     }
 450
 451     return 0;
 452 }
 453
 454 static int mov_text_init(AVCodecContext *avctx) {
 455     /*
 456      * TODO: Handle the default text style.
 457      * NB: Most players ignore styles completely, with the result that
 458      * it's very common to find files where the default style is broken
 459      * and respecting it results in a worse experience than ignoring it.
 460      */
 461     int ret;
 462     MovTextContext *m = avctx->priv_data;
 463     ret = mov_text_tx3g(avctx, m);
 464     if (ret == 0) {
 465         return ff_ass_subtitle_header(avctx, m->d.font, m->d.fontsize,
 466                     RGB_TO_BGR(m->d.color),
 467                     RGB_TO_BGR(m->d.back_color),
 468                     m->d.bold, m->d.italic, m->d.underline,
 469                     ASS_DEFAULT_BORDERSTYLE, m->d.alignment);
 470     } else
 471         return ff_ass_subtitle_header_default(avctx);
 472 }
 473
 474 static int mov_text_decode_frame(AVCodecContext *avctx,
 475                             void *data, int *got_sub_ptr, AVPacket *avpkt)
 476 {
 477     AVSubtitle *sub = data;
 478     MovTextContext *m = avctx->priv_data;
 479     int ret;
 480     AVBPrint buf;
 481     char *ptr = avpkt->data;
 482     char *end;
 483     int text_length, tsmb_type, ret_tsmb;
 484     uint64_t tsmb_size;
 485     const uint8_t *tsmb;
 486     size_t i;
 487
 488     if (!ptr || avpkt->size < 2)
 489         return AVERROR_INVALIDDATA;
 490
 491     /*
 492      * A packet of size two with value zero is an empty subtitle
 493      * used to mark the end of the previous non-empty subtitle.
 494      * We can just drop them here as we have duration information
 495      * already. If the value is non-zero, then it's technically a
 496      * bad packet.
 497      */
 498     if (avpkt->size == 2)
 499         return AV_RB16(ptr) == 0 ? 0 : AVERROR_INVALIDDATA;
 500
 501     /*
 502      * The first two bytes of the packet are the length of the text string
 503      * In complex cases, there are style descriptors appended to the string
 504      * so we can't just assume the packet size is the string size.
 505      */
 506     text_length = AV_RB16(ptr);
 507     end = ptr + FFMIN(2 + text_length, avpkt->size);
 508     ptr += 2;
 509
 510     mov_text_cleanup(m);
 511
 512     tsmb_size = 0;
 513     m->tracksize = 2 + text_length;
 514     m->style_entries = 0;
 515     m->box_flags = 0;
 516     m->count_s = 0;
 517     // Note that the spec recommends lines be no longer than 2048 characters.
 518     av_bprint_init(&buf, 0, AV_BPRINT_SIZE_UNLIMITED);
 519     if (text_length + 2 != avpkt->size) {
 520         while (m->tracksize + 8 <= avpkt->size) {
 521             // A box is a minimum of 8 bytes.
 522             tsmb = ptr + m->tracksize - 2;
 523             tsmb_size = AV_RB32(tsmb);
 524             tsmb += 4;
 525             tsmb_type = AV_RB32(tsmb);
 526             tsmb += 4;
 527
 528             if (tsmb_size == 1) {
 529                 if (m->tracksize + 16 > avpkt->size)
 530                     break;
 531                 tsmb_size = AV_RB64(tsmb);
 532                 tsmb += 8;
 533                 m->size_var = 16;
 534             } else
 535                 m->size_var = 8;
 536             //size_var is equal to 8 or 16 depending on the size of box
 537
 538             if (tsmb_size == 0) {
 539                 av_log(avctx, AV_LOG_ERROR, "tsmb_size is 0\n");
 540                 return AVERROR_INVALIDDATA;
 541             }
 542
 543             if (tsmb_size > avpkt->size - m->tracksize)
 544                 break;
 545
 546             for (i = 0; i < box_count; i++) {
 547                 if (tsmb_type == box_types[i].type) {
 548                     if (m->tracksize + m->size_var + box_types[i].base_size > avpkt->size)
 549                         break;
 550                     ret_tsmb = box_types[i].decode(tsmb, m, avpkt);
 551                     if (ret_tsmb == -1)
 552                         break;
 553                 }
 554             }
 555             m->tracksize = m->tracksize + tsmb_size;
 556         }
 557         text_to_ass(&buf, ptr, end, avctx);
 558         mov_text_cleanup(m);
 559     } else
 560         text_to_ass(&buf, ptr, end, avctx);
 561
 562     ret = ff_ass_add_rect(sub, buf.str, m->readorder++, 0, NULL, NULL);
 563     av_bprint_finalize(&buf, NULL);
 564     if (ret < 0)
 565         return ret;
 566     *got_sub_ptr = sub->num_rects > 0;
 567     return avpkt->size;
 568 }
 569
 570 static int mov_text_decode_close(AVCodecContext *avctx)
 571 {
 572     MovTextContext *m = avctx->priv_data;
 573     mov_text_cleanup_ftab(m);
 574     mov_text_cleanup(m);
 575     return 0;
 576 }
 577
 578 static void mov_text_flush(AVCodecContext *avctx)
 579 {
 580     MovTextContext *m = avctx->priv_data;
 581     if (!(avctx->flags2 & AV_CODEC_FLAG2_RO_FLUSH_NOOP))
 582         m->readorder = 0;
 583 }
 584
 585 AVCodec ff_movtext_decoder = {
 586     .name         = "mov_text",
 587     .long_name    = NULL_IF_CONFIG_SMALL("3GPP Timed Text subtitle"),
 588     .type         = AVMEDIA_TYPE_SUBTITLE,
 589     .id           = AV_CODEC_ID_MOV_TEXT,
 590     .priv_data_size = sizeof(MovTextContext),
 591     .init         = mov_text_init,
 592     .decode       = mov_text_decode_frame,
 593     .close        = mov_text_decode_close,
 594     .flush        = mov_text_flush,
 595 };