git.sesse.net Git - ffmpeg/blob - libavcodec/ccaption_dec.c

   1 /*
   2  * Closed Caption Decoding
   3  * Copyright (c) 2015 Anshul Maheshwari
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "avcodec.h"
  23 #include "ass.h"
  24 #include "libavutil/opt.h"
  25
  26 #define SCREEN_ROWS 15
  27 #define SCREEN_COLUMNS 32
  28
  29 #define SET_FLAG(var, val)   ( (var) |=   ( 1 << (val)) )
  30 #define UNSET_FLAG(var, val) ( (var) &=  ~( 1 << (val)) )
  31 #define CHECK_FLAG(var, val) ( (var) &    ( 1 << (val)) )
  32
  33 static const AVRational ms_tb = {1, 1000};
  34
  35 enum cc_mode {
  36     CCMODE_POPON,
  37     CCMODE_PAINTON,
  38     CCMODE_ROLLUP,
  39     CCMODE_TEXT,
  40 };
  41
  42 enum cc_color_code {
  43     CCCOL_WHITE,
  44     CCCOL_GREEN,
  45     CCCOL_BLUE,
  46     CCCOL_CYAN,
  47     CCCOL_RED,
  48     CCCOL_YELLOW,
  49     CCCOL_MAGENTA,
  50     CCCOL_USERDEFINED,
  51     CCCOL_BLACK,
  52     CCCOL_TRANSPARENT,
  53 };
  54
  55 enum cc_font {
  56     CCFONT_REGULAR,
  57     CCFONT_ITALICS,
  58     CCFONT_UNDERLINED,
  59     CCFONT_UNDERLINED_ITALICS,
  60 };
  61
  62 enum cc_charset {
  63     CCSET_BASIC_AMERICAN,
  64     CCSET_SPECIAL_AMERICAN,
  65     CCSET_EXTENDED_SPANISH_FRENCH_MISC,
  66     CCSET_EXTENDED_PORTUGUESE_GERMAN_DANISH,
  67 };
  68
  69 static const char *charset_overrides[4][128] =
  70 {
  71     [CCSET_BASIC_AMERICAN] = {
  72         [0x27] = "\u2019",
  73         [0x2a] = "\u00e1",
  74         [0x5c] = "\u00e9",
  75         [0x5e] = "\u00ed",
  76         [0x5f] = "\u00f3",
  77         [0x60] = "\u00fa",
  78         [0x7b] = "\u00e7",
  79         [0x7c] = "\u00f7",
  80         [0x7d] = "\u00d1",
  81         [0x7e] = "\u00f1",
  82         [0x7f] = "\u2588"
  83     },
  84     [CCSET_SPECIAL_AMERICAN] = {
  85         [0x30] = "\u00ae",
  86         [0x31] = "\u00b0",
  87         [0x32] = "\u00bd",
  88         [0x33] = "\u00bf",
  89         [0x34] = "\u2122",
  90         [0x35] = "\u00a2",
  91         [0x36] = "\u00a3",
  92         [0x37] = "\u266a",
  93         [0x38] = "\u00e0",
  94         [0x39] = "\u00A0",
  95         [0x3a] = "\u00e8",
  96         [0x3b] = "\u00e2",
  97         [0x3c] = "\u00ea",
  98         [0x3d] = "\u00ee",
  99         [0x3e] = "\u00f4",
 100         [0x3f] = "\u00fb",
 101     },
 102     [CCSET_EXTENDED_SPANISH_FRENCH_MISC] = {
 103         [0x20] = "\u00c1",
 104         [0x21] = "\u00c9",
 105         [0x22] = "\u00d3",
 106         [0x23] = "\u00da",
 107         [0x24] = "\u00dc",
 108         [0x25] = "\u00fc",
 109         [0x26] = "\u00b4",
 110         [0x27] = "\u00a1",
 111         [0x28] = "*",
 112         [0x29] = "\u2018",
 113         [0x2a] = "-",
 114         [0x2b] = "\u00a9",
 115         [0x2c] = "\u2120",
 116         [0x2d] = "\u00b7",
 117         [0x2e] = "\u201c",
 118         [0x2f] = "\u201d",
 119         [0x30] = "\u00c0",
 120         [0x31] = "\u00c2",
 121         [0x32] = "\u00c7",
 122         [0x33] = "\u00c8",
 123         [0x34] = "\u00ca",
 124         [0x35] = "\u00cb",
 125         [0x36] = "\u00eb",
 126         [0x37] = "\u00ce",
 127         [0x38] = "\u00cf",
 128         [0x39] = "\u00ef",
 129         [0x3a] = "\u00d4",
 130         [0x3b] = "\u00d9",
 131         [0x3c] = "\u00f9",
 132         [0x3d] = "\u00db",
 133         [0x3e] = "\u00ab",
 134         [0x3f] = "\u00bb",
 135     },
 136     [CCSET_EXTENDED_PORTUGUESE_GERMAN_DANISH] = {
 137         [0x20] = "\u00c3",
 138         [0x21] = "\u00e3",
 139         [0x22] = "\u00cd",
 140         [0x23] = "\u00cc",
 141         [0x24] = "\u00ec",
 142         [0x25] = "\u00d2",
 143         [0x26] = "\u00f2",
 144         [0x27] = "\u00d5",
 145         [0x28] = "\u00f5",
 146         [0x29] = "{",
 147         [0x2a] = "}",
 148         [0x2b] = "\\",
 149         [0x2c] = "^",
 150         [0x2d] = "_",
 151         [0x2e] = "|",
 152         [0x2f] = "~",
 153         [0x30] = "\u00c4",
 154         [0x31] = "\u00e4",
 155         [0x32] = "\u00d6",
 156         [0x33] = "\u00f6",
 157         [0x34] = "\u00df",
 158         [0x35] = "\u00a5",
 159         [0x36] = "\u00a4",
 160         [0x37] = "\u00a6",
 161         [0x38] = "\u00c5",
 162         [0x39] = "\u00e5",
 163         [0x3a] = "\u00d8",
 164         [0x3b] = "\u00f8",
 165         [0x3c] = "\u250c",
 166         [0x3d] = "\u2510",
 167         [0x3e] = "\u2514",
 168         [0x3f] = "\u2518",
 169     },
 170 };
 171
 172 static const unsigned char pac2_attribs[32][3] = // Color, font, ident
 173 {
 174     { CCCOL_WHITE,   CCFONT_REGULAR,            0 },  // 0x40 || 0x60
 175     { CCCOL_WHITE,   CCFONT_UNDERLINED,         0 },  // 0x41 || 0x61
 176     { CCCOL_GREEN,   CCFONT_REGULAR,            0 },  // 0x42 || 0x62
 177     { CCCOL_GREEN,   CCFONT_UNDERLINED,         0 },  // 0x43 || 0x63
 178     { CCCOL_BLUE,    CCFONT_REGULAR,            0 },  // 0x44 || 0x64
 179     { CCCOL_BLUE,    CCFONT_UNDERLINED,         0 },  // 0x45 || 0x65
 180     { CCCOL_CYAN,    CCFONT_REGULAR,            0 },  // 0x46 || 0x66
 181     { CCCOL_CYAN,    CCFONT_UNDERLINED,         0 },  // 0x47 || 0x67
 182     { CCCOL_RED,     CCFONT_REGULAR,            0 },  // 0x48 || 0x68
 183     { CCCOL_RED,     CCFONT_UNDERLINED,         0 },  // 0x49 || 0x69
 184     { CCCOL_YELLOW,  CCFONT_REGULAR,            0 },  // 0x4a || 0x6a
 185     { CCCOL_YELLOW,  CCFONT_UNDERLINED,         0 },  // 0x4b || 0x6b
 186     { CCCOL_MAGENTA, CCFONT_REGULAR,            0 },  // 0x4c || 0x6c
 187     { CCCOL_MAGENTA, CCFONT_UNDERLINED,         0 },  // 0x4d || 0x6d
 188     { CCCOL_WHITE,   CCFONT_ITALICS,            0 },  // 0x4e || 0x6e
 189     { CCCOL_WHITE,   CCFONT_UNDERLINED_ITALICS, 0 },  // 0x4f || 0x6f
 190     { CCCOL_WHITE,   CCFONT_REGULAR,            0 },  // 0x50 || 0x70
 191     { CCCOL_WHITE,   CCFONT_UNDERLINED,         0 },  // 0x51 || 0x71
 192     { CCCOL_WHITE,   CCFONT_REGULAR,            4 },  // 0x52 || 0x72
 193     { CCCOL_WHITE,   CCFONT_UNDERLINED,         4 },  // 0x53 || 0x73
 194     { CCCOL_WHITE,   CCFONT_REGULAR,            8 },  // 0x54 || 0x74
 195     { CCCOL_WHITE,   CCFONT_UNDERLINED,         8 },  // 0x55 || 0x75
 196     { CCCOL_WHITE,   CCFONT_REGULAR,           12 },  // 0x56 || 0x76
 197     { CCCOL_WHITE,   CCFONT_UNDERLINED,        12 },  // 0x57 || 0x77
 198     { CCCOL_WHITE,   CCFONT_REGULAR,           16 },  // 0x58 || 0x78
 199     { CCCOL_WHITE,   CCFONT_UNDERLINED,        16 },  // 0x59 || 0x79
 200     { CCCOL_WHITE,   CCFONT_REGULAR,           20 },  // 0x5a || 0x7a
 201     { CCCOL_WHITE,   CCFONT_UNDERLINED,        20 },  // 0x5b || 0x7b
 202     { CCCOL_WHITE,   CCFONT_REGULAR,           24 },  // 0x5c || 0x7c
 203     { CCCOL_WHITE,   CCFONT_UNDERLINED,        24 },  // 0x5d || 0x7d
 204     { CCCOL_WHITE,   CCFONT_REGULAR,           28 },  // 0x5e || 0x7e
 205     { CCCOL_WHITE,   CCFONT_UNDERLINED,        28 }   // 0x5f || 0x7f
 206     /* total 32 entries */
 207 };
 208
 209 struct Screen {
 210     /* +1 is used to compensate null character of string */
 211     uint8_t characters[SCREEN_ROWS+1][SCREEN_COLUMNS+1];
 212     uint8_t charsets[SCREEN_ROWS+1][SCREEN_COLUMNS+1];
 213     uint8_t colors[SCREEN_ROWS+1][SCREEN_COLUMNS+1];
 214     uint8_t fonts[SCREEN_ROWS+1][SCREEN_COLUMNS+1];
 215     /*
 216      * Bitmask of used rows; if a bit is not set, the
 217      * corresponding row is not used.
 218      * for setting row 1  use row | (1 << 0)
 219      * for setting row 15 use row | (1 << 14)
 220      */
 221     int16_t row_used;
 222 };
 223
 224 typedef struct CCaptionSubContext {
 225     AVClass *class;
 226     int real_time;
 227     int data_field;
 228     struct Screen screen[2];
 229     int active_screen;
 230     uint8_t cursor_row;
 231     uint8_t cursor_column;
 232     uint8_t cursor_color;
 233     uint8_t cursor_font;
 234     uint8_t cursor_charset;
 235     AVBPrint buffer[2];
 236     int buffer_index;
 237     int buffer_changed;
 238     int rollup;
 239     enum cc_mode mode;
 240     int64_t buffer_time[2];
 241     int screen_touched;
 242     int64_t last_real_time;
 243     char prev_cmd[2];
 244     int readorder;
 245 } CCaptionSubContext;
 246
 247 static av_cold int init_decoder(AVCodecContext *avctx)
 248 {
 249     int ret;
 250     CCaptionSubContext *ctx = avctx->priv_data;
 251
 252     av_bprint_init(&ctx->buffer[0], 0, AV_BPRINT_SIZE_UNLIMITED);
 253     av_bprint_init(&ctx->buffer[1], 0, AV_BPRINT_SIZE_UNLIMITED);
 254     /* taking by default roll up to 2 */
 255     ctx->mode = CCMODE_ROLLUP;
 256     ctx->rollup = 2;
 257     ctx->cursor_row = 10;
 258     ret = ff_ass_subtitle_header(avctx, "Monospace",
 259                                  ASS_DEFAULT_FONT_SIZE,
 260                                  ASS_DEFAULT_COLOR,
 261                                  ASS_DEFAULT_BACK_COLOR,
 262                                  ASS_DEFAULT_BOLD,
 263                                  ASS_DEFAULT_ITALIC,
 264                                  ASS_DEFAULT_UNDERLINE,
 265                                  3,
 266                                  ASS_DEFAULT_ALIGNMENT);
 267     if (ret < 0) {
 268         return ret;
 269     }
 270
 271     return ret;
 272 }
 273
 274 static av_cold int close_decoder(AVCodecContext *avctx)
 275 {
 276     CCaptionSubContext *ctx = avctx->priv_data;
 277     av_bprint_finalize(&ctx->buffer[0], NULL);
 278     av_bprint_finalize(&ctx->buffer[1], NULL);
 279     return 0;
 280 }
 281
 282 static void flush_decoder(AVCodecContext *avctx)
 283 {
 284     CCaptionSubContext *ctx = avctx->priv_data;
 285     ctx->screen[0].row_used = 0;
 286     ctx->screen[1].row_used = 0;
 287     ctx->prev_cmd[0] = 0;
 288     ctx->prev_cmd[1] = 0;
 289     ctx->mode = CCMODE_ROLLUP;
 290     ctx->rollup = 2;
 291     ctx->cursor_row = 10;
 292     ctx->cursor_column = 0;
 293     ctx->cursor_font = 0;
 294     ctx->cursor_color = 0;
 295     ctx->cursor_charset = 0;
 296     ctx->active_screen = 0;
 297     ctx->last_real_time = 0;
 298     ctx->screen_touched = 0;
 299     ctx->buffer_changed = 0;
 300     if (!(avctx->flags2 & AV_CODEC_FLAG2_RO_FLUSH_NOOP))
 301         ctx->readorder = 0;
 302     av_bprint_clear(&ctx->buffer[0]);
 303     av_bprint_clear(&ctx->buffer[1]);
 304 }
 305
 306 /**
 307  * @param ctx closed caption context just to print log
 308  */
 309 static void write_char(CCaptionSubContext *ctx, struct Screen *screen, char ch)
 310 {
 311     uint8_t col = ctx->cursor_column;
 312     char *row = screen->characters[ctx->cursor_row];
 313     char *font = screen->fonts[ctx->cursor_row];
 314     char *color = screen->colors[ctx->cursor_row];
 315     char *charset = screen->charsets[ctx->cursor_row];
 316
 317     if (col < SCREEN_COLUMNS) {
 318         row[col] = ch;
 319         font[col] = ctx->cursor_font;
 320         color[col] = ctx->cursor_color;
 321         charset[col] = ctx->cursor_charset;
 322         ctx->cursor_charset = CCSET_BASIC_AMERICAN;
 323         if (ch) ctx->cursor_column++;
 324         return;
 325     }
 326     /* We have extra space at end only for null character */
 327     else if (col == SCREEN_COLUMNS && ch == 0) {
 328         row[col] = ch;
 329         return;
 330     }
 331     else {
 332         av_log(ctx, AV_LOG_WARNING, "Data Ignored since exceeding screen width\n");
 333         return;
 334     }
 335 }
 336
 337 /**
 338  * This function after validating parity bit, also remove it from data pair.
 339  * The first byte doesn't pass parity, we replace it with a solid blank
 340  * and process the pair.
 341  * If the second byte doesn't pass parity, it returns INVALIDDATA
 342  * user can ignore the whole pair and pass the other pair.
 343  */
 344 static int validate_cc_data_pair(const uint8_t *cc_data_pair, uint8_t *hi)
 345 {
 346     uint8_t cc_valid = (*cc_data_pair & 4) >>2;
 347     uint8_t cc_type = *cc_data_pair & 3;
 348
 349     *hi = cc_data_pair[1];
 350
 351     if (!cc_valid)
 352         return AVERROR_INVALIDDATA;
 353
 354     // if EIA-608 data then verify parity.
 355     if (cc_type==0 || cc_type==1) {
 356         if (!av_parity(cc_data_pair[2])) {
 357             return AVERROR_INVALIDDATA;
 358         }
 359         if (!av_parity(cc_data_pair[1])) {
 360             *hi = 0x7F;
 361         }
 362     }
 363
 364     //Skip non-data
 365     if ((cc_data_pair[0] == 0xFA || cc_data_pair[0] == 0xFC || cc_data_pair[0] == 0xFD)
 366          && (cc_data_pair[1] & 0x7F) == 0 && (cc_data_pair[2] & 0x7F) == 0)
 367         return AVERROR_PATCHWELCOME;
 368
 369     //skip 708 data
 370     if (cc_type == 3 || cc_type == 2)
 371         return AVERROR_PATCHWELCOME;
 372
 373     return 0;
 374 }
 375
 376 static struct Screen *get_writing_screen(CCaptionSubContext *ctx)
 377 {
 378     switch (ctx->mode) {
 379     case CCMODE_POPON:
 380         // use Inactive screen
 381         return ctx->screen + !ctx->active_screen;
 382     case CCMODE_PAINTON:
 383     case CCMODE_ROLLUP:
 384     case CCMODE_TEXT:
 385         // use active screen
 386         return ctx->screen + ctx->active_screen;
 387     }
 388     /* It was never an option */
 389     return NULL;
 390 }
 391
 392 static void roll_up(CCaptionSubContext *ctx)
 393 {
 394     struct Screen *screen;
 395     int i, keep_lines;
 396
 397     if (ctx->mode == CCMODE_TEXT)
 398         return;
 399
 400     screen = get_writing_screen(ctx);
 401
 402     /* +1 signify cursor_row starts from 0
 403      * Can't keep lines less then row cursor pos
 404      */
 405     keep_lines = FFMIN(ctx->cursor_row + 1, ctx->rollup);
 406
 407     for (i = 0; i < SCREEN_ROWS; i++) {
 408         if (i > ctx->cursor_row - keep_lines && i <= ctx->cursor_row)
 409             continue;
 410         UNSET_FLAG(screen->row_used, i);
 411     }
 412
 413     for (i = 0; i < keep_lines && screen->row_used; i++) {
 414         const int i_row = ctx->cursor_row - keep_lines + i + 1;
 415
 416         memcpy(screen->characters[i_row], screen->characters[i_row+1], SCREEN_COLUMNS);
 417         memcpy(screen->colors[i_row], screen->colors[i_row+1], SCREEN_COLUMNS);
 418         memcpy(screen->fonts[i_row], screen->fonts[i_row+1], SCREEN_COLUMNS);
 419         memcpy(screen->charsets[i_row], screen->charsets[i_row+1], SCREEN_COLUMNS);
 420         if (CHECK_FLAG(screen->row_used, i_row + 1))
 421             SET_FLAG(screen->row_used, i_row);
 422     }
 423
 424     UNSET_FLAG(screen->row_used, ctx->cursor_row);
 425 }
 426
 427 static int capture_screen(CCaptionSubContext *ctx)
 428 {
 429     int i, j, tab = 0;
 430     struct Screen *screen = ctx->screen + ctx->active_screen;
 431     enum cc_font prev_font = CCFONT_REGULAR;
 432     enum cc_color_code prev_color = CCCOL_WHITE;
 433     const int bidx = ctx->buffer_index;
 434
 435     av_bprint_clear(&ctx->buffer[bidx]);
 436
 437     for (i = 0; screen->row_used && i < SCREEN_ROWS; i++)
 438     {
 439         if (CHECK_FLAG(screen->row_used, i)) {
 440             const char *row = screen->characters[i];
 441             const char *charset = screen->charsets[i];
 442             j = 0;
 443             while (row[j] == ' ' && charset[j] == CCSET_BASIC_AMERICAN)
 444                 j++;
 445             if (!tab || j < tab)
 446                 tab = j;
 447         }
 448     }
 449
 450     for (i = 0; screen->row_used && i < SCREEN_ROWS; i++)
 451     {
 452         if (CHECK_FLAG(screen->row_used, i)) {
 453             const char *row = screen->characters[i];
 454             const char *font = screen->fonts[i];
 455             const char *color = screen->colors[i];
 456             const char *charset = screen->charsets[i];
 457             const char *override;
 458             int x, y, seen_char = 0;
 459             j = 0;
 460
 461             /* skip leading space */
 462             while (row[j] == ' ' && charset[j] == CCSET_BASIC_AMERICAN && j < tab)
 463                 j++;
 464
 465             x = ASS_DEFAULT_PLAYRESX * (0.1 + 0.0250 * j);
 466             y = ASS_DEFAULT_PLAYRESY * (0.1 + 0.0533 * i);
 467             av_bprintf(&ctx->buffer[bidx], "{\\an7}{\\pos(%d,%d)}", x, y);
 468
 469             for (; j < SCREEN_COLUMNS; j++) {
 470                 const char *e_tag = "", *s_tag = "", *c_tag = "";
 471
 472                 if (row[j] == 0)
 473                     break;
 474
 475                 if (prev_font != font[j]) {
 476                     switch (prev_font) {
 477                     case CCFONT_ITALICS:
 478                         e_tag = "{\\i0}";
 479                         break;
 480                     case CCFONT_UNDERLINED:
 481                         e_tag = "{\\u0}";
 482                         break;
 483                     case CCFONT_UNDERLINED_ITALICS:
 484                         e_tag = "{\\u0}{\\i0}";
 485                         break;
 486                     }
 487                     switch (font[j]) {
 488                     case CCFONT_ITALICS:
 489                         s_tag = "{\\i1}";
 490                         break;
 491                     case CCFONT_UNDERLINED:
 492                         s_tag = "{\\u1}";
 493                         break;
 494                     case CCFONT_UNDERLINED_ITALICS:
 495                         s_tag = "{\\u1}{\\i1}";
 496                         break;
 497                     }
 498                 }
 499                 if (prev_color != color[j]) {
 500                     switch (color[j]) {
 501                     case CCCOL_WHITE:
 502                         c_tag = "{\\c&HFFFFFF&}";
 503                         break;
 504                     case CCCOL_GREEN:
 505                         c_tag = "{\\c&H00FF00&}";
 506                         break;
 507                     case CCCOL_BLUE:
 508                         c_tag = "{\\c&HFF0000&}";
 509                         break;
 510                     case CCCOL_CYAN:
 511                         c_tag = "{\\c&HFFFF00&}";
 512                         break;
 513                     case CCCOL_RED:
 514                         c_tag = "{\\c&H0000FF&}";
 515                         break;
 516                     case CCCOL_YELLOW:
 517                         c_tag = "{\\c&H00FFFF&}";
 518                         break;
 519                     case CCCOL_MAGENTA:
 520                         c_tag = "{\\c&HFF00FF&}";
 521                         break;
 522                     }
 523                 }
 524
 525                 prev_font = font[j];
 526                 prev_color = color[j];
 527                 override = charset_overrides[(int)charset[j]][(int)row[j]];
 528                 if (override) {
 529                     av_bprintf(&ctx->buffer[bidx], "%s%s%s%s", e_tag, s_tag, c_tag, override);
 530                     seen_char = 1;
 531                 } else if (row[j] == ' ' && !seen_char) {
 532                     av_bprintf(&ctx->buffer[bidx], "%s%s%s\\h", e_tag, s_tag, c_tag);
 533                 } else {
 534                     av_bprintf(&ctx->buffer[bidx], "%s%s%s%c", e_tag, s_tag, c_tag, row[j]);
 535                     seen_char = 1;
 536                 }
 537
 538             }
 539             av_bprintf(&ctx->buffer[bidx], "\\N");
 540         }
 541     }
 542     if (!av_bprint_is_complete(&ctx->buffer[bidx]))
 543         return AVERROR(ENOMEM);
 544     if (screen->row_used && ctx->buffer[bidx].len >= 2) {
 545         ctx->buffer[bidx].len -= 2;
 546         ctx->buffer[bidx].str[ctx->buffer[bidx].len] = 0;
 547     }
 548     ctx->buffer_changed = 1;
 549     return 0;
 550 }
 551
 552 static void update_time(CCaptionSubContext *ctx, int64_t pts)
 553 {
 554     ctx->buffer_time[0] = ctx->buffer_time[1];
 555     ctx->buffer_time[1] = pts;
 556 }
 557
 558 static void handle_textattr(CCaptionSubContext *ctx, uint8_t hi, uint8_t lo)
 559 {
 560     int i = lo - 0x20;
 561     struct Screen *screen = get_writing_screen(ctx);
 562
 563     if (i >= 32)
 564         return;
 565
 566     ctx->cursor_color = pac2_attribs[i][0];
 567     ctx->cursor_font = pac2_attribs[i][1];
 568
 569     SET_FLAG(screen->row_used, ctx->cursor_row);
 570     write_char(ctx, screen, ' ');
 571 }
 572
 573 static void handle_pac(CCaptionSubContext *ctx, uint8_t hi, uint8_t lo)
 574 {
 575     static const int8_t row_map[] = {
 576         11, -1, 1, 2, 3, 4, 12, 13, 14, 15, 5, 6, 7, 8, 9, 10
 577     };
 578     const int index = ( (hi<<1) & 0x0e) | ( (lo>>5) & 0x01 );
 579     struct Screen *screen = get_writing_screen(ctx);
 580     int indent, i;
 581
 582     if (row_map[index] <= 0) {
 583         av_log(ctx, AV_LOG_DEBUG, "Invalid pac index encountered\n");
 584         return;
 585     }
 586
 587     lo &= 0x1f;
 588
 589     ctx->cursor_row = row_map[index] - 1;
 590     ctx->cursor_color =  pac2_attribs[lo][0];
 591     ctx->cursor_font = pac2_attribs[lo][1];
 592     ctx->cursor_charset = CCSET_BASIC_AMERICAN;
 593     ctx->cursor_column = 0;
 594     indent = pac2_attribs[lo][2];
 595     for (i = 0; i < indent; i++) {
 596         write_char(ctx, screen, ' ');
 597     }
 598 }
 599
 600 static int handle_edm(CCaptionSubContext *ctx)
 601 {
 602     struct Screen *screen = ctx->screen + ctx->active_screen;
 603     int ret;
 604
 605     // In buffered mode, keep writing to screen until it is wiped.
 606     // Before wiping the display, capture contents to emit subtitle.
 607     if (!ctx->real_time)
 608         ret = capture_screen(ctx);
 609
 610     screen->row_used = 0;
 611
 612     // In realtime mode, emit an empty caption so the last one doesn't
 613     // stay on the screen.
 614     if (ctx->real_time)
 615         ret = capture_screen(ctx);
 616
 617     return ret;
 618 }
 619
 620 static int handle_eoc(CCaptionSubContext *ctx)
 621 {
 622     int ret;
 623
 624     ctx->active_screen = !ctx->active_screen;
 625
 626     // In buffered mode, we wait til the *next* EOC and
 627     // capture what was already on the screen since the last EOC.
 628     if (!ctx->real_time)
 629         ret = handle_edm(ctx);
 630
 631     ctx->cursor_column = 0;
 632
 633     // In realtime mode, we display the buffered contents (after
 634     // flipping the buffer to active above) as soon as EOC arrives.
 635     if (ctx->real_time)
 636         ret = capture_screen(ctx);
 637
 638     return ret;
 639 }
 640
 641 static void handle_delete_end_of_row(CCaptionSubContext *ctx)
 642 {
 643     struct Screen *screen = get_writing_screen(ctx);
 644     write_char(ctx, screen, 0);
 645 }
 646
 647 static void handle_char(CCaptionSubContext *ctx, char hi, char lo)
 648 {
 649     struct Screen *screen = get_writing_screen(ctx);
 650
 651     SET_FLAG(screen->row_used, ctx->cursor_row);
 652
 653     switch (hi) {
 654       case 0x11:
 655         ctx->cursor_charset = CCSET_SPECIAL_AMERICAN;
 656         break;
 657       case 0x12:
 658         if (ctx->cursor_column > 0)
 659             ctx->cursor_column -= 1;
 660         ctx->cursor_charset = CCSET_EXTENDED_SPANISH_FRENCH_MISC;
 661         break;
 662       case 0x13:
 663         if (ctx->cursor_column > 0)
 664             ctx->cursor_column -= 1;
 665         ctx->cursor_charset = CCSET_EXTENDED_PORTUGUESE_GERMAN_DANISH;
 666         break;
 667       default:
 668         ctx->cursor_charset = CCSET_BASIC_AMERICAN;
 669         write_char(ctx, screen, hi);
 670         break;
 671     }
 672
 673     if (lo) {
 674         write_char(ctx, screen, lo);
 675     }
 676     write_char(ctx, screen, 0);
 677
 678     if (ctx->mode != CCMODE_POPON)
 679         ctx->screen_touched = 1;
 680
 681     if (lo)
 682        ff_dlog(ctx, "(%c,%c)\n", hi, lo);
 683     else
 684        ff_dlog(ctx, "(%c)\n", hi);
 685 }
 686
 687 static int process_cc608(CCaptionSubContext *ctx, uint8_t hi, uint8_t lo)
 688 {
 689     int ret = 0;
 690
 691     if (hi == ctx->prev_cmd[0] && lo == ctx->prev_cmd[1]) {
 692         return 0;
 693     }
 694
 695     /* set prev command */
 696     ctx->prev_cmd[0] = hi;
 697     ctx->prev_cmd[1] = lo;
 698
 699     if ( (hi == 0x10 && (lo >= 0x40 && lo <= 0x5f)) ||
 700        ( (hi >= 0x11 && hi <= 0x17) && (lo >= 0x40 && lo <= 0x7f) ) ) {
 701         handle_pac(ctx, hi, lo);
 702     } else if ( ( hi == 0x11 && lo >= 0x20 && lo <= 0x2f ) ||
 703                 ( hi == 0x17 && lo >= 0x2e && lo <= 0x2f) ) {
 704         handle_textattr(ctx, hi, lo);
 705     } else if (hi == 0x14 || hi == 0x15 || hi == 0x1c) {
 706         switch (lo) {
 707         case 0x20:
 708             /* resume caption loading */
 709             ctx->mode = CCMODE_POPON;
 710             break;
 711         case 0x24:
 712             handle_delete_end_of_row(ctx);
 713             break;
 714         case 0x25:
 715         case 0x26:
 716         case 0x27:
 717             ctx->rollup = lo - 0x23;
 718             ctx->mode = CCMODE_ROLLUP;
 719             break;
 720         case 0x29:
 721             /* resume direct captioning */
 722             ctx->mode = CCMODE_PAINTON;
 723             break;
 724         case 0x2b:
 725             /* resume text display */
 726             ctx->mode = CCMODE_TEXT;
 727             break;
 728         case 0x2c:
 729             /* erase display memory */
 730             handle_edm(ctx);
 731             break;
 732         case 0x2d:
 733             /* carriage return */
 734             ff_dlog(ctx, "carriage return\n");
 735             if (!ctx->real_time)
 736                 ret = capture_screen(ctx);
 737             roll_up(ctx);
 738             ctx->cursor_column = 0;
 739             break;
 740         case 0x2e:
 741             /* erase buffered (non displayed) memory */
 742             // Only in realtime mode. In buffered mode, we re-use the inactive screen
 743             // for our own buffering.
 744             if (ctx->real_time) {
 745                 struct Screen *screen = ctx->screen + !ctx->active_screen;
 746                 screen->row_used = 0;
 747             }
 748             break;
 749         case 0x2f:
 750             /* end of caption */
 751             ff_dlog(ctx, "handle_eoc\n");
 752             ret = handle_eoc(ctx);
 753             break;
 754         default:
 755             ff_dlog(ctx, "Unknown command 0x%hhx 0x%hhx\n", hi, lo);
 756             break;
 757         }
 758     } else if (hi >= 0x11 && hi <= 0x13) {
 759         /* Special characters */
 760         handle_char(ctx, hi, lo);
 761     } else if (hi >= 0x20) {
 762         /* Standard characters (always in pairs) */
 763         handle_char(ctx, hi, lo);
 764         ctx->prev_cmd[0] = ctx->prev_cmd[1] = 0;
 765     } else if (hi == 0x17 && lo >= 0x21 && lo <= 0x23) {
 766         int i;
 767         /* Tab offsets (spacing) */
 768         for (i = 0; i < lo - 0x20; i++) {
 769             handle_char(ctx, ' ', 0);
 770         }
 771     } else {
 772         /* Ignoring all other non data code */
 773         ff_dlog(ctx, "Unknown command 0x%hhx 0x%hhx\n", hi, lo);
 774     }
 775
 776     return ret;
 777 }
 778
 779 static int decode(AVCodecContext *avctx, void *data, int *got_sub, AVPacket *avpkt)
 780 {
 781     CCaptionSubContext *ctx = avctx->priv_data;
 782     AVSubtitle *sub = data;
 783     int64_t in_time = sub->pts;
 784     int64_t start_time;
 785     int64_t end_time;
 786     int bidx = ctx->buffer_index;
 787     const uint8_t *bptr = avpkt->data;
 788     int len = avpkt->size;
 789     int ret = 0;
 790     int i;
 791
 792     for (i = 0; i < len; i += 3) {
 793         uint8_t hi, cc_type = bptr[i] & 1;
 794
 795         if (ctx->data_field < 0)
 796             ctx->data_field = cc_type;
 797
 798         if (validate_cc_data_pair(bptr + i, &hi))
 799             continue;
 800
 801         if (cc_type != ctx->data_field)
 802             continue;
 803
 804         ret = process_cc608(ctx, hi & 0x7f, bptr[i + 2] & 0x7f);
 805         if (ret < 0)
 806             return ret;
 807
 808         if (!ctx->buffer_changed)
 809             continue;
 810         ctx->buffer_changed = 0;
 811
 812         if (!ctx->real_time && ctx->mode == CCMODE_POPON)
 813             ctx->buffer_index = bidx = !ctx->buffer_index;
 814
 815         update_time(ctx, in_time);
 816
 817         if (ctx->buffer[bidx].str[0] || ctx->real_time) {
 818             ff_dlog(ctx, "cdp writing data (%s)\n", ctx->buffer[bidx].str);
 819             start_time = ctx->buffer_time[0];
 820             sub->pts = start_time;
 821             end_time = ctx->buffer_time[1];
 822             if (!ctx->real_time)
 823                 sub->end_display_time = av_rescale_q(end_time - start_time,
 824                                                      AV_TIME_BASE_Q, ms_tb);
 825             else
 826                 sub->end_display_time = -1;
 827             ret = ff_ass_add_rect(sub, ctx->buffer[bidx].str, ctx->readorder++, 0, NULL, NULL);
 828             if (ret < 0)
 829                 return ret;
 830             ctx->last_real_time = sub->pts;
 831             ctx->screen_touched = 0;
 832         }
 833     }
 834
 835     if (!bptr && !ctx->real_time && ctx->buffer[!ctx->buffer_index].str[0]) {
 836         bidx = !ctx->buffer_index;
 837         ret = ff_ass_add_rect(sub, ctx->buffer[bidx].str, ctx->readorder++, 0, NULL, NULL);
 838         if (ret < 0)
 839             return ret;
 840         sub->pts = ctx->buffer_time[1];
 841         sub->end_display_time = av_rescale_q(ctx->buffer_time[1] - ctx->buffer_time[0],
 842                                              AV_TIME_BASE_Q, ms_tb);
 843         if (sub->end_display_time == 0)
 844             sub->end_display_time = ctx->buffer[bidx].len * 20;
 845     }
 846
 847     if (ctx->real_time && ctx->screen_touched &&
 848         sub->pts > ctx->last_real_time + av_rescale_q(200, ms_tb, AV_TIME_BASE_Q)) {
 849         ctx->last_real_time = sub->pts;
 850         ctx->screen_touched = 0;
 851
 852         capture_screen(ctx);
 853         ctx->buffer_changed = 0;
 854
 855         ret = ff_ass_add_rect(sub, ctx->buffer[bidx].str, ctx->readorder++, 0, NULL, NULL);
 856         if (ret < 0)
 857             return ret;
 858         sub->end_display_time = -1;
 859     }
 860
 861     *got_sub = sub->num_rects > 0;
 862     return ret;
 863 }
 864
 865 #define OFFSET(x) offsetof(CCaptionSubContext, x)
 866 #define SD AV_OPT_FLAG_SUBTITLE_PARAM | AV_OPT_FLAG_DECODING_PARAM
 867 static const AVOption options[] = {
 868     { "real_time", "emit subtitle events as they are decoded for real-time display", OFFSET(real_time), AV_OPT_TYPE_BOOL, { .i64 = 0 }, 0, 1, SD },
 869     { "data_field", "select data field", OFFSET(data_field), AV_OPT_TYPE_INT, { .i64 = -1 }, -1, 1, SD, "data_field" },
 870     { "auto",   "pick first one that appears", 0, AV_OPT_TYPE_CONST, { .i64 =-1 }, 0, 0, SD, "data_field" },
 871     { "first",  NULL, 0, AV_OPT_TYPE_CONST, { .i64 = 0 }, 0, 0, SD, "data_field" },
 872     { "second", NULL, 0, AV_OPT_TYPE_CONST, { .i64 = 1 }, 0, 0, SD, "data_field" },
 873     {NULL}
 874 };
 875
 876 static const AVClass ccaption_dec_class = {
 877     .class_name = "Closed caption Decoder",
 878     .item_name  = av_default_item_name,
 879     .option     = options,
 880     .version    = LIBAVUTIL_VERSION_INT,
 881 };
 882
 883 AVCodec ff_ccaption_decoder = {
 884     .name           = "cc_dec",
 885     .long_name      = NULL_IF_CONFIG_SMALL("Closed Caption (EIA-608 / CEA-708)"),
 886     .type           = AVMEDIA_TYPE_SUBTITLE,
 887     .id             = AV_CODEC_ID_EIA_608,
 888     .priv_data_size = sizeof(CCaptionSubContext),
 889     .init           = init_decoder,
 890     .close          = close_decoder,
 891     .flush          = flush_decoder,
 892     .decode         = decode,
 893     .priv_class     = &ccaption_dec_class,
 894     .capabilities   = AV_CODEC_CAP_DELAY,
 895 };