]> git.sesse.net Git - ffmpeg/blob - libavcodec/dvbsubdec.c
avcodec/videotoolbox: remove unnecessary if statement
[ffmpeg] / libavcodec / dvbsubdec.c
1 /*
2  * DVB subtitle decoding
3  * Copyright (c) 2005 Ian Caulfield
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "avcodec.h"
23 #include "get_bits.h"
24 #include "bytestream.h"
25 #include "internal.h"
26 #include "libavutil/colorspace.h"
27 #include "libavutil/imgutils.h"
28 #include "libavutil/opt.h"
29
30 #define DVBSUB_PAGE_SEGMENT     0x10
31 #define DVBSUB_REGION_SEGMENT   0x11
32 #define DVBSUB_CLUT_SEGMENT     0x12
33 #define DVBSUB_OBJECT_SEGMENT   0x13
34 #define DVBSUB_DISPLAYDEFINITION_SEGMENT 0x14
35 #define DVBSUB_DISPLAY_SEGMENT  0x80
36
37 #define cm (ff_crop_tab + MAX_NEG_CROP)
38
39 #define RGBA(r,g,b,a) (((unsigned)(a) << 24) | ((r) << 16) | ((g) << 8) | (b))
40
41 typedef struct DVBSubCLUT {
42     int id;
43     int version;
44
45     uint32_t clut4[4];
46     uint32_t clut16[16];
47     uint32_t clut256[256];
48
49     struct DVBSubCLUT *next;
50 } DVBSubCLUT;
51
52 static DVBSubCLUT default_clut;
53
54 typedef struct DVBSubObjectDisplay {
55     int object_id;
56     int region_id;
57
58     int x_pos;
59     int y_pos;
60
61     int fgcolor;
62     int bgcolor;
63
64     struct DVBSubObjectDisplay *region_list_next;
65     struct DVBSubObjectDisplay *object_list_next;
66 } DVBSubObjectDisplay;
67
68 typedef struct DVBSubObject {
69     int id;
70     int version;
71
72     int type;
73
74     DVBSubObjectDisplay *display_list;
75
76     struct DVBSubObject *next;
77 } DVBSubObject;
78
79 typedef struct DVBSubRegionDisplay {
80     int region_id;
81
82     int x_pos;
83     int y_pos;
84
85     struct DVBSubRegionDisplay *next;
86 } DVBSubRegionDisplay;
87
88 typedef struct DVBSubRegion {
89     int id;
90     int version;
91
92     int width;
93     int height;
94     int depth;
95
96     int clut;
97     int bgcolor;
98
99     uint8_t *pbuf;
100     int buf_size;
101     int dirty;
102
103     DVBSubObjectDisplay *display_list;
104
105     struct DVBSubRegion *next;
106 } DVBSubRegion;
107
108 typedef struct DVBSubDisplayDefinition {
109     int version;
110
111     int x;
112     int y;
113     int width;
114     int height;
115 } DVBSubDisplayDefinition;
116
117 typedef struct DVBSubContext {
118     AVClass *class;
119     int composition_id;
120     int ancillary_id;
121
122     int version;
123     int time_out;
124     int compute_edt; /**< if 1 end display time calculated using pts
125                           if 0 (Default) calculated using time out */
126     int compute_clut;
127     int substream;
128     int64_t prev_start;
129     DVBSubRegion *region_list;
130     DVBSubCLUT   *clut_list;
131     DVBSubObject *object_list;
132
133     DVBSubRegionDisplay *display_list;
134     DVBSubDisplayDefinition *display_definition;
135 } DVBSubContext;
136
137
138 static DVBSubObject* get_object(DVBSubContext *ctx, int object_id)
139 {
140     DVBSubObject *ptr = ctx->object_list;
141
142     while (ptr && ptr->id != object_id) {
143         ptr = ptr->next;
144     }
145
146     return ptr;
147 }
148
149 static DVBSubCLUT* get_clut(DVBSubContext *ctx, int clut_id)
150 {
151     DVBSubCLUT *ptr = ctx->clut_list;
152
153     while (ptr && ptr->id != clut_id) {
154         ptr = ptr->next;
155     }
156
157     return ptr;
158 }
159
160 static DVBSubRegion* get_region(DVBSubContext *ctx, int region_id)
161 {
162     DVBSubRegion *ptr = ctx->region_list;
163
164     while (ptr && ptr->id != region_id) {
165         ptr = ptr->next;
166     }
167
168     return ptr;
169 }
170
171 static void delete_region_display_list(DVBSubContext *ctx, DVBSubRegion *region)
172 {
173     DVBSubObject *object, *obj2, **obj2_ptr;
174     DVBSubObjectDisplay *display, *obj_disp, **obj_disp_ptr;
175
176     while (region->display_list) {
177         display = region->display_list;
178
179         object = get_object(ctx, display->object_id);
180
181         if (object) {
182             obj_disp_ptr = &object->display_list;
183             obj_disp = *obj_disp_ptr;
184
185             while (obj_disp && obj_disp != display) {
186                 obj_disp_ptr = &obj_disp->object_list_next;
187                 obj_disp = *obj_disp_ptr;
188             }
189
190             if (obj_disp) {
191                 *obj_disp_ptr = obj_disp->object_list_next;
192
193                 if (!object->display_list) {
194                     obj2_ptr = &ctx->object_list;
195                     obj2 = *obj2_ptr;
196
197                     while (obj2 != object) {
198                         av_assert0(obj2);
199                         obj2_ptr = &obj2->next;
200                         obj2 = *obj2_ptr;
201                     }
202
203                     *obj2_ptr = obj2->next;
204
205                     av_freep(&obj2);
206                 }
207             }
208         }
209
210         region->display_list = display->region_list_next;
211
212         av_freep(&display);
213     }
214
215 }
216
217 static void delete_cluts(DVBSubContext *ctx)
218 {
219     while (ctx->clut_list) {
220         DVBSubCLUT *clut = ctx->clut_list;
221
222         ctx->clut_list = clut->next;
223
224         av_freep(&clut);
225     }
226 }
227
228 static void delete_objects(DVBSubContext *ctx)
229 {
230     while (ctx->object_list) {
231         DVBSubObject *object = ctx->object_list;
232
233         ctx->object_list = object->next;
234
235         av_freep(&object);
236     }
237 }
238
239 static void delete_regions(DVBSubContext *ctx)
240 {
241     while (ctx->region_list) {
242         DVBSubRegion *region = ctx->region_list;
243
244         ctx->region_list = region->next;
245
246         delete_region_display_list(ctx, region);
247
248         av_freep(&region->pbuf);
249         av_freep(&region);
250     }
251 }
252
253 static av_cold int dvbsub_init_decoder(AVCodecContext *avctx)
254 {
255     int i, r, g, b, a = 0;
256     DVBSubContext *ctx = avctx->priv_data;
257
258     if (ctx->substream < 0) {
259         ctx->composition_id = -1;
260         ctx->ancillary_id   = -1;
261     } else if (!avctx->extradata || (avctx->extradata_size < 4) || ((avctx->extradata_size % 5 != 0) && (avctx->extradata_size != 4))) {
262         av_log(avctx, AV_LOG_WARNING, "Invalid DVB subtitles stream extradata!\n");
263         ctx->composition_id = -1;
264         ctx->ancillary_id   = -1;
265     } else {
266         if (avctx->extradata_size > 5*ctx->substream + 2) {
267             ctx->composition_id = AV_RB16(avctx->extradata + 5*ctx->substream);
268             ctx->ancillary_id   = AV_RB16(avctx->extradata + 5*ctx->substream + 2);
269         } else {
270             av_log(avctx, AV_LOG_WARNING, "Selected DVB subtitles sub-stream %d is not available\n", ctx->substream);
271             ctx->composition_id = AV_RB16(avctx->extradata);
272             ctx->ancillary_id   = AV_RB16(avctx->extradata + 2);
273         }
274     }
275
276     ctx->version = -1;
277     ctx->prev_start = AV_NOPTS_VALUE;
278
279     default_clut.id = -1;
280     default_clut.next = NULL;
281
282     default_clut.clut4[0] = RGBA(  0,   0,   0,   0);
283     default_clut.clut4[1] = RGBA(255, 255, 255, 255);
284     default_clut.clut4[2] = RGBA(  0,   0,   0, 255);
285     default_clut.clut4[3] = RGBA(127, 127, 127, 255);
286
287     default_clut.clut16[0] = RGBA(  0,   0,   0,   0);
288     for (i = 1; i < 16; i++) {
289         if (i < 8) {
290             r = (i & 1) ? 255 : 0;
291             g = (i & 2) ? 255 : 0;
292             b = (i & 4) ? 255 : 0;
293         } else {
294             r = (i & 1) ? 127 : 0;
295             g = (i & 2) ? 127 : 0;
296             b = (i & 4) ? 127 : 0;
297         }
298         default_clut.clut16[i] = RGBA(r, g, b, 255);
299     }
300
301     default_clut.clut256[0] = RGBA(  0,   0,   0,   0);
302     for (i = 1; i < 256; i++) {
303         if (i < 8) {
304             r = (i & 1) ? 255 : 0;
305             g = (i & 2) ? 255 : 0;
306             b = (i & 4) ? 255 : 0;
307             a = 63;
308         } else {
309             switch (i & 0x88) {
310             case 0x00:
311                 r = ((i & 1) ? 85 : 0) + ((i & 0x10) ? 170 : 0);
312                 g = ((i & 2) ? 85 : 0) + ((i & 0x20) ? 170 : 0);
313                 b = ((i & 4) ? 85 : 0) + ((i & 0x40) ? 170 : 0);
314                 a = 255;
315                 break;
316             case 0x08:
317                 r = ((i & 1) ? 85 : 0) + ((i & 0x10) ? 170 : 0);
318                 g = ((i & 2) ? 85 : 0) + ((i & 0x20) ? 170 : 0);
319                 b = ((i & 4) ? 85 : 0) + ((i & 0x40) ? 170 : 0);
320                 a = 127;
321                 break;
322             case 0x80:
323                 r = 127 + ((i & 1) ? 43 : 0) + ((i & 0x10) ? 85 : 0);
324                 g = 127 + ((i & 2) ? 43 : 0) + ((i & 0x20) ? 85 : 0);
325                 b = 127 + ((i & 4) ? 43 : 0) + ((i & 0x40) ? 85 : 0);
326                 a = 255;
327                 break;
328             case 0x88:
329                 r = ((i & 1) ? 43 : 0) + ((i & 0x10) ? 85 : 0);
330                 g = ((i & 2) ? 43 : 0) + ((i & 0x20) ? 85 : 0);
331                 b = ((i & 4) ? 43 : 0) + ((i & 0x40) ? 85 : 0);
332                 a = 255;
333                 break;
334             }
335         }
336         default_clut.clut256[i] = RGBA(r, g, b, a);
337     }
338
339     return 0;
340 }
341
342 static av_cold int dvbsub_close_decoder(AVCodecContext *avctx)
343 {
344     DVBSubContext *ctx = avctx->priv_data;
345     DVBSubRegionDisplay *display;
346
347     delete_regions(ctx);
348
349     delete_objects(ctx);
350
351     delete_cluts(ctx);
352
353     av_freep(&ctx->display_definition);
354
355     while (ctx->display_list) {
356         display = ctx->display_list;
357         ctx->display_list = display->next;
358
359         av_freep(&display);
360     }
361
362     return 0;
363 }
364
365 static int dvbsub_read_2bit_string(AVCodecContext *avctx,
366                                    uint8_t *destbuf, int dbuf_len,
367                                    const uint8_t **srcbuf, int buf_size,
368                                    int non_mod, uint8_t *map_table, int x_pos)
369 {
370     GetBitContext gb;
371
372     int bits;
373     int run_length;
374     int pixels_read = x_pos;
375
376     init_get_bits(&gb, *srcbuf, buf_size << 3);
377
378     destbuf += x_pos;
379
380     while (get_bits_count(&gb) < buf_size << 3 && pixels_read < dbuf_len) {
381         bits = get_bits(&gb, 2);
382
383         if (bits) {
384             if (non_mod != 1 || bits != 1) {
385                 if (map_table)
386                     *destbuf++ = map_table[bits];
387                 else
388                     *destbuf++ = bits;
389             }
390             pixels_read++;
391         } else {
392             bits = get_bits1(&gb);
393             if (bits == 1) {
394                 run_length = get_bits(&gb, 3) + 3;
395                 bits = get_bits(&gb, 2);
396
397                 if (non_mod == 1 && bits == 1)
398                     pixels_read += run_length;
399                 else {
400                     if (map_table)
401                         bits = map_table[bits];
402                     while (run_length-- > 0 && pixels_read < dbuf_len) {
403                         *destbuf++ = bits;
404                         pixels_read++;
405                     }
406                 }
407             } else {
408                 bits = get_bits1(&gb);
409                 if (bits == 0) {
410                     bits = get_bits(&gb, 2);
411                     if (bits == 2) {
412                         run_length = get_bits(&gb, 4) + 12;
413                         bits = get_bits(&gb, 2);
414
415                         if (non_mod == 1 && bits == 1)
416                             pixels_read += run_length;
417                         else {
418                             if (map_table)
419                                 bits = map_table[bits];
420                             while (run_length-- > 0 && pixels_read < dbuf_len) {
421                                 *destbuf++ = bits;
422                                 pixels_read++;
423                             }
424                         }
425                     } else if (bits == 3) {
426                         run_length = get_bits(&gb, 8) + 29;
427                         bits = get_bits(&gb, 2);
428
429                         if (non_mod == 1 && bits == 1)
430                             pixels_read += run_length;
431                         else {
432                             if (map_table)
433                                 bits = map_table[bits];
434                             while (run_length-- > 0 && pixels_read < dbuf_len) {
435                                 *destbuf++ = bits;
436                                 pixels_read++;
437                             }
438                         }
439                     } else if (bits == 1) {
440                         if (map_table)
441                             bits = map_table[0];
442                         else
443                             bits = 0;
444                         run_length = 2;
445                         while (run_length-- > 0 && pixels_read < dbuf_len) {
446                             *destbuf++ = bits;
447                             pixels_read++;
448                         }
449                     } else {
450                         (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
451                         return pixels_read;
452                     }
453                 } else {
454                     if (map_table)
455                         bits = map_table[0];
456                     else
457                         bits = 0;
458                     *destbuf++ = bits;
459                     pixels_read++;
460                 }
461             }
462         }
463     }
464
465     if (get_bits(&gb, 6))
466         av_log(avctx, AV_LOG_ERROR, "line overflow\n");
467
468     (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
469
470     return pixels_read;
471 }
472
473 static int dvbsub_read_4bit_string(AVCodecContext *avctx, uint8_t *destbuf, int dbuf_len,
474                                    const uint8_t **srcbuf, int buf_size,
475                                    int non_mod, uint8_t *map_table, int x_pos)
476 {
477     GetBitContext gb;
478
479     int bits;
480     int run_length;
481     int pixels_read = x_pos;
482
483     init_get_bits(&gb, *srcbuf, buf_size << 3);
484
485     destbuf += x_pos;
486
487     while (get_bits_count(&gb) < buf_size << 3 && pixels_read < dbuf_len) {
488         bits = get_bits(&gb, 4);
489
490         if (bits) {
491             if (non_mod != 1 || bits != 1) {
492                 if (map_table)
493                     *destbuf++ = map_table[bits];
494                 else
495                     *destbuf++ = bits;
496             }
497             pixels_read++;
498         } else {
499             bits = get_bits1(&gb);
500             if (bits == 0) {
501                 run_length = get_bits(&gb, 3);
502
503                 if (run_length == 0) {
504                     (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
505                     return pixels_read;
506                 }
507
508                 run_length += 2;
509
510                 if (map_table)
511                     bits = map_table[0];
512                 else
513                     bits = 0;
514
515                 while (run_length-- > 0 && pixels_read < dbuf_len) {
516                     *destbuf++ = bits;
517                     pixels_read++;
518                 }
519             } else {
520                 bits = get_bits1(&gb);
521                 if (bits == 0) {
522                     run_length = get_bits(&gb, 2) + 4;
523                     bits = get_bits(&gb, 4);
524
525                     if (non_mod == 1 && bits == 1)
526                         pixels_read += run_length;
527                     else {
528                         if (map_table)
529                             bits = map_table[bits];
530                         while (run_length-- > 0 && pixels_read < dbuf_len) {
531                             *destbuf++ = bits;
532                             pixels_read++;
533                         }
534                     }
535                 } else {
536                     bits = get_bits(&gb, 2);
537                     if (bits == 2) {
538                         run_length = get_bits(&gb, 4) + 9;
539                         bits = get_bits(&gb, 4);
540
541                         if (non_mod == 1 && bits == 1)
542                             pixels_read += run_length;
543                         else {
544                             if (map_table)
545                                 bits = map_table[bits];
546                             while (run_length-- > 0 && pixels_read < dbuf_len) {
547                                 *destbuf++ = bits;
548                                 pixels_read++;
549                             }
550                         }
551                     } else if (bits == 3) {
552                         run_length = get_bits(&gb, 8) + 25;
553                         bits = get_bits(&gb, 4);
554
555                         if (non_mod == 1 && bits == 1)
556                             pixels_read += run_length;
557                         else {
558                             if (map_table)
559                                 bits = map_table[bits];
560                             while (run_length-- > 0 && pixels_read < dbuf_len) {
561                                 *destbuf++ = bits;
562                                 pixels_read++;
563                             }
564                         }
565                     } else if (bits == 1) {
566                         if (map_table)
567                             bits = map_table[0];
568                         else
569                             bits = 0;
570                         run_length = 2;
571                         while (run_length-- > 0 && pixels_read < dbuf_len) {
572                             *destbuf++ = bits;
573                             pixels_read++;
574                         }
575                     } else {
576                         if (map_table)
577                             bits = map_table[0];
578                         else
579                             bits = 0;
580                         *destbuf++ = bits;
581                         pixels_read ++;
582                     }
583                 }
584             }
585         }
586     }
587
588     if (get_bits(&gb, 8))
589         av_log(avctx, AV_LOG_ERROR, "line overflow\n");
590
591     (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
592
593     return pixels_read;
594 }
595
596 static int dvbsub_read_8bit_string(AVCodecContext *avctx,
597                                    uint8_t *destbuf, int dbuf_len,
598                                     const uint8_t **srcbuf, int buf_size,
599                                     int non_mod, uint8_t *map_table, int x_pos)
600 {
601     const uint8_t *sbuf_end = (*srcbuf) + buf_size;
602     int bits;
603     int run_length;
604     int pixels_read = x_pos;
605
606     destbuf += x_pos;
607
608     while (*srcbuf < sbuf_end && pixels_read < dbuf_len) {
609         bits = *(*srcbuf)++;
610
611         if (bits) {
612             if (non_mod != 1 || bits != 1) {
613                 if (map_table)
614                     *destbuf++ = map_table[bits];
615                 else
616                     *destbuf++ = bits;
617             }
618             pixels_read++;
619         } else {
620             bits = *(*srcbuf)++;
621             run_length = bits & 0x7f;
622             if ((bits & 0x80) == 0) {
623                 if (run_length == 0) {
624                     return pixels_read;
625                 }
626
627                 bits = 0;
628             } else {
629                 bits = *(*srcbuf)++;
630             }
631             if (non_mod == 1 && bits == 1)
632                 pixels_read += run_length;
633             else {
634                 if (map_table)
635                     bits = map_table[bits];
636                 while (run_length-- > 0 && pixels_read < dbuf_len) {
637                     *destbuf++ = bits;
638                     pixels_read++;
639                 }
640             }
641         }
642     }
643
644     if (*(*srcbuf)++)
645         av_log(avctx, AV_LOG_ERROR, "line overflow\n");
646
647     return pixels_read;
648 }
649
650 static void compute_default_clut(AVSubtitleRect *rect, int w, int h)
651 {
652     uint8_t list[256] = {0};
653     uint8_t list_inv[256];
654     int counttab[256] = {0};
655     int count, i, x, y;
656     ptrdiff_t stride = rect->linesize[0];
657 #define V(x,y) rect->data[0][(x) + (y)*stride]
658     for (y = 0; y<h; y++) {
659         for (x = 0; x<w; x++) {
660             int v = V(x,y) + 1;
661             int vl = x     ? V(x-1,y) + 1 : 0;
662             int vr = x+1<w ? V(x+1,y) + 1 : 0;
663             int vt = y     ? V(x,y-1) + 1 : 0;
664             int vb = y+1<h ? V(x,y+1) + 1 : 0;
665             counttab[v-1] += !!((v!=vl) + (v!=vr) + (v!=vt) + (v!=vb));
666         }
667     }
668 #define L(x,y) list[d[(x) + (y)*stride]]
669
670     for (i = 0; i<256; i++) {
671         int scoretab[256] = {0};
672         int bestscore = 0;
673         int bestv = 0;
674         for (y = 0; y<h; y++) {
675             for (x = 0; x<w; x++) {
676                 uint8_t *d = &rect->data[0][x + y*stride];
677                 int v = *d;
678                 int l_m = list[v];
679                 int l_l = x     ? L(-1, 0) : 1;
680                 int l_r = x+1<w ? L( 1, 0) : 1;
681                 int l_t = y     ? L( 0,-1) : 1;
682                 int l_b = y+1<h ? L( 0, 1) : 1;
683                 if (l_m)
684                     continue;
685                 scoretab[v] += l_l + l_r + l_t + l_b;
686             }
687         }
688         for (x = 0; x < 256; x++) {
689             if (scoretab[x]) {
690                 int score = 1024LL*scoretab[x] / counttab[x];
691                 if (score > bestscore) {
692                     bestscore = score;
693                     bestv = x;
694                 }
695             }
696         }
697         if (!bestscore)
698             break;
699         list    [ bestv ] = 1;
700         list_inv[     i ] = bestv;
701     }
702
703     count = FFMAX(i - 1, 1);
704     for (i--; i>=0; i--) {
705         int v = i*255/count;
706         AV_WN32(rect->data[1] + 4*list_inv[i], RGBA(v/2,v,v/2,v));
707     }
708 }
709
710
711 static int save_subtitle_set(AVCodecContext *avctx, AVSubtitle *sub, int *got_output)
712 {
713     DVBSubContext *ctx = avctx->priv_data;
714     DVBSubRegionDisplay *display;
715     DVBSubDisplayDefinition *display_def = ctx->display_definition;
716     DVBSubRegion *region;
717     AVSubtitleRect *rect;
718     DVBSubCLUT *clut;
719     uint32_t *clut_table;
720     int i;
721     int offset_x=0, offset_y=0;
722     int ret = 0;
723
724
725     if (display_def) {
726         offset_x = display_def->x;
727         offset_y = display_def->y;
728     }
729
730     /* Not touching AVSubtitles again*/
731     if(sub->num_rects) {
732         avpriv_request_sample(ctx, "Different Version of Segment asked Twice");
733         return AVERROR_PATCHWELCOME;
734     }
735     for (display = ctx->display_list; display; display = display->next) {
736         region = get_region(ctx, display->region_id);
737         if (region && region->dirty)
738             sub->num_rects++;
739     }
740
741     if(ctx->compute_edt == 0) {
742         sub->end_display_time = ctx->time_out * 1000;
743         *got_output = 1;
744     } else if (ctx->prev_start != AV_NOPTS_VALUE) {
745         sub->end_display_time = av_rescale_q((sub->pts - ctx->prev_start ), AV_TIME_BASE_Q, (AVRational){ 1, 1000 }) - 1;
746         *got_output = 1;
747     }
748     if (sub->num_rects > 0) {
749
750         sub->rects = av_mallocz_array(sizeof(*sub->rects), sub->num_rects);
751         if (!sub->rects) {
752             ret = AVERROR(ENOMEM);
753             goto fail;
754         }
755
756         for (i = 0; i < sub->num_rects; i++) {
757             sub->rects[i] = av_mallocz(sizeof(*sub->rects[i]));
758             if (!sub->rects[i]) {
759                 ret = AVERROR(ENOMEM);
760                 goto fail;
761             }
762         }
763
764         i = 0;
765
766         for (display = ctx->display_list; display; display = display->next) {
767             region = get_region(ctx, display->region_id);
768
769             if (!region)
770                 continue;
771
772             if (!region->dirty)
773                 continue;
774
775             rect = sub->rects[i];
776             rect->x = display->x_pos + offset_x;
777             rect->y = display->y_pos + offset_y;
778             rect->w = region->width;
779             rect->h = region->height;
780             rect->nb_colors = (1 << region->depth);
781             rect->type      = SUBTITLE_BITMAP;
782             rect->linesize[0] = region->width;
783
784             clut = get_clut(ctx, region->clut);
785
786             if (!clut)
787                 clut = &default_clut;
788
789             switch (region->depth) {
790             case 2:
791                 clut_table = clut->clut4;
792                 break;
793             case 8:
794                 clut_table = clut->clut256;
795                 break;
796             case 4:
797             default:
798                 clut_table = clut->clut16;
799                 break;
800             }
801
802             rect->data[1] = av_mallocz(AVPALETTE_SIZE);
803             if (!rect->data[1]) {
804                 ret = AVERROR(ENOMEM);
805                 goto fail;
806             }
807             memcpy(rect->data[1], clut_table, (1 << region->depth) * sizeof(uint32_t));
808
809             rect->data[0] = av_malloc(region->buf_size);
810             if (!rect->data[0]) {
811                 ret = AVERROR(ENOMEM);
812                 goto fail;
813             }
814
815             memcpy(rect->data[0], region->pbuf, region->buf_size);
816
817             if ((clut == &default_clut && ctx->compute_clut == -1) || ctx->compute_clut == 1)
818                 compute_default_clut(rect, rect->w, rect->h);
819
820 #if FF_API_AVPICTURE
821 FF_DISABLE_DEPRECATION_WARNINGS
822 {
823             int j;
824             for (j = 0; j < 4; j++) {
825                 rect->pict.data[j] = rect->data[j];
826                 rect->pict.linesize[j] = rect->linesize[j];
827             }
828 }
829 FF_ENABLE_DEPRECATION_WARNINGS
830 #endif
831
832             i++;
833         }
834     }
835
836     return 0;
837 fail:
838     if (sub->rects) {
839         for(i=0; i<sub->num_rects; i++) {
840             rect = sub->rects[i];
841             if (rect) {
842                 av_freep(&rect->data[0]);
843                 av_freep(&rect->data[1]);
844             }
845             av_freep(&sub->rects[i]);
846         }
847         av_freep(&sub->rects);
848     }
849     sub->num_rects = 0;
850     return ret;
851 }
852
853 static void dvbsub_parse_pixel_data_block(AVCodecContext *avctx, DVBSubObjectDisplay *display,
854                                           const uint8_t *buf, int buf_size, int top_bottom, int non_mod)
855 {
856     DVBSubContext *ctx = avctx->priv_data;
857
858     DVBSubRegion *region = get_region(ctx, display->region_id);
859     const uint8_t *buf_end = buf + buf_size;
860     uint8_t *pbuf;
861     int x_pos, y_pos;
862     int i;
863
864     uint8_t map2to4[] = { 0x0,  0x7,  0x8,  0xf};
865     uint8_t map2to8[] = {0x00, 0x77, 0x88, 0xff};
866     uint8_t map4to8[] = {0x00, 0x11, 0x22, 0x33, 0x44, 0x55, 0x66, 0x77,
867                          0x88, 0x99, 0xaa, 0xbb, 0xcc, 0xdd, 0xee, 0xff};
868     uint8_t *map_table;
869
870 #if 0
871     ff_dlog(avctx, "DVB pixel block size %d, %s field:\n", buf_size,
872             top_bottom ? "bottom" : "top");
873
874     for (i = 0; i < buf_size; i++) {
875         if (i % 16 == 0)
876             ff_dlog(avctx, "0x%8p: ", buf+i);
877
878         ff_dlog(avctx, "%02x ", buf[i]);
879         if (i % 16 == 15)
880             ff_dlog(avctx, "\n");
881     }
882
883     if (i % 16)
884         ff_dlog(avctx, "\n");
885 #endif
886
887     if (!region)
888         return;
889
890     pbuf = region->pbuf;
891     region->dirty = 1;
892
893     x_pos = display->x_pos;
894     y_pos = display->y_pos;
895
896     y_pos += top_bottom;
897
898     while (buf < buf_end) {
899         if ((*buf!=0xf0 && x_pos >= region->width) || y_pos >= region->height) {
900             av_log(avctx, AV_LOG_ERROR, "Invalid object location! %d-%d %d-%d %02x\n", x_pos, region->width, y_pos, region->height, *buf);
901             return;
902         }
903
904         switch (*buf++) {
905         case 0x10:
906             if (region->depth == 8)
907                 map_table = map2to8;
908             else if (region->depth == 4)
909                 map_table = map2to4;
910             else
911                 map_table = NULL;
912
913             x_pos = dvbsub_read_2bit_string(avctx, pbuf + (y_pos * region->width),
914                                             region->width, &buf, buf_end - buf,
915                                             non_mod, map_table, x_pos);
916             break;
917         case 0x11:
918             if (region->depth < 4) {
919                 av_log(avctx, AV_LOG_ERROR, "4-bit pixel string in %d-bit region!\n", region->depth);
920                 return;
921             }
922
923             if (region->depth == 8)
924                 map_table = map4to8;
925             else
926                 map_table = NULL;
927
928             x_pos = dvbsub_read_4bit_string(avctx, pbuf + (y_pos * region->width),
929                                             region->width, &buf, buf_end - buf,
930                                             non_mod, map_table, x_pos);
931             break;
932         case 0x12:
933             if (region->depth < 8) {
934                 av_log(avctx, AV_LOG_ERROR, "8-bit pixel string in %d-bit region!\n", region->depth);
935                 return;
936             }
937
938             x_pos = dvbsub_read_8bit_string(avctx, pbuf + (y_pos * region->width),
939                                             region->width, &buf, buf_end - buf,
940                                             non_mod, NULL, x_pos);
941             break;
942
943         case 0x20:
944             map2to4[0] = (*buf) >> 4;
945             map2to4[1] = (*buf++) & 0xf;
946             map2to4[2] = (*buf) >> 4;
947             map2to4[3] = (*buf++) & 0xf;
948             break;
949         case 0x21:
950             for (i = 0; i < 4; i++)
951                 map2to8[i] = *buf++;
952             break;
953         case 0x22:
954             for (i = 0; i < 16; i++)
955                 map4to8[i] = *buf++;
956             break;
957
958         case 0xf0:
959             x_pos = display->x_pos;
960             y_pos += 2;
961             break;
962         default:
963             av_log(avctx, AV_LOG_INFO, "Unknown/unsupported pixel block 0x%x\n", *(buf-1));
964         }
965     }
966
967 }
968
969 static int dvbsub_parse_object_segment(AVCodecContext *avctx,
970                                        const uint8_t *buf, int buf_size)
971 {
972     DVBSubContext *ctx = avctx->priv_data;
973
974     const uint8_t *buf_end = buf + buf_size;
975     int object_id;
976     DVBSubObject *object;
977     DVBSubObjectDisplay *display;
978     int top_field_len, bottom_field_len;
979
980     int coding_method, non_modifying_color;
981
982     object_id = AV_RB16(buf);
983     buf += 2;
984
985     object = get_object(ctx, object_id);
986
987     if (!object)
988         return AVERROR_INVALIDDATA;
989
990     coding_method = ((*buf) >> 2) & 3;
991     non_modifying_color = ((*buf++) >> 1) & 1;
992
993     if (coding_method == 0) {
994         top_field_len = AV_RB16(buf);
995         buf += 2;
996         bottom_field_len = AV_RB16(buf);
997         buf += 2;
998
999         if (buf + top_field_len + bottom_field_len > buf_end) {
1000             av_log(avctx, AV_LOG_ERROR, "Field data size %d+%d too large\n", top_field_len, bottom_field_len);
1001             return AVERROR_INVALIDDATA;
1002         }
1003
1004         for (display = object->display_list; display; display = display->object_list_next) {
1005             const uint8_t *block = buf;
1006             int bfl = bottom_field_len;
1007
1008             dvbsub_parse_pixel_data_block(avctx, display, block, top_field_len, 0,
1009                                             non_modifying_color);
1010
1011             if (bottom_field_len > 0)
1012                 block = buf + top_field_len;
1013             else
1014                 bfl = top_field_len;
1015
1016             dvbsub_parse_pixel_data_block(avctx, display, block, bfl, 1,
1017                                             non_modifying_color);
1018         }
1019
1020 /*  } else if (coding_method == 1) {*/
1021
1022     } else {
1023         av_log(avctx, AV_LOG_ERROR, "Unknown object coding %d\n", coding_method);
1024     }
1025
1026     return 0;
1027 }
1028
1029 static int dvbsub_parse_clut_segment(AVCodecContext *avctx,
1030                                      const uint8_t *buf, int buf_size)
1031 {
1032     DVBSubContext *ctx = avctx->priv_data;
1033
1034     const uint8_t *buf_end = buf + buf_size;
1035     int i, clut_id;
1036     int version;
1037     DVBSubCLUT *clut;
1038     int entry_id, depth , full_range;
1039     int y, cr, cb, alpha;
1040     int r, g, b, r_add, g_add, b_add;
1041
1042     ff_dlog(avctx, "DVB clut packet:\n");
1043
1044     for (i=0; i < buf_size; i++) {
1045         ff_dlog(avctx, "%02x ", buf[i]);
1046         if (i % 16 == 15)
1047             ff_dlog(avctx, "\n");
1048     }
1049
1050     if (i % 16)
1051         ff_dlog(avctx, "\n");
1052
1053     clut_id = *buf++;
1054     version = ((*buf)>>4)&15;
1055     buf += 1;
1056
1057     clut = get_clut(ctx, clut_id);
1058
1059     if (!clut) {
1060         clut = av_malloc(sizeof(DVBSubCLUT));
1061         if (!clut)
1062             return AVERROR(ENOMEM);
1063
1064         memcpy(clut, &default_clut, sizeof(DVBSubCLUT));
1065
1066         clut->id = clut_id;
1067         clut->version = -1;
1068
1069         clut->next = ctx->clut_list;
1070         ctx->clut_list = clut;
1071     }
1072
1073     if (clut->version != version) {
1074
1075     clut->version = version;
1076
1077     while (buf + 4 < buf_end) {
1078         entry_id = *buf++;
1079
1080         depth = (*buf) & 0xe0;
1081
1082         if (depth == 0) {
1083             av_log(avctx, AV_LOG_ERROR, "Invalid clut depth 0x%x!\n", *buf);
1084         }
1085
1086         full_range = (*buf++) & 1;
1087
1088         if (full_range) {
1089             y = *buf++;
1090             cr = *buf++;
1091             cb = *buf++;
1092             alpha = *buf++;
1093         } else {
1094             y = buf[0] & 0xfc;
1095             cr = (((buf[0] & 3) << 2) | ((buf[1] >> 6) & 3)) << 4;
1096             cb = (buf[1] << 2) & 0xf0;
1097             alpha = (buf[1] << 6) & 0xc0;
1098
1099             buf += 2;
1100         }
1101
1102         if (y == 0)
1103             alpha = 0xff;
1104
1105         YUV_TO_RGB1_CCIR(cb, cr);
1106         YUV_TO_RGB2_CCIR(r, g, b, y);
1107
1108         ff_dlog(avctx, "clut %d := (%d,%d,%d,%d)\n", entry_id, r, g, b, alpha);
1109         if (!!(depth & 0x80) + !!(depth & 0x40) + !!(depth & 0x20) > 1) {
1110             ff_dlog(avctx, "More than one bit level marked: %x\n", depth);
1111             if (avctx->strict_std_compliance > FF_COMPLIANCE_NORMAL)
1112                 return AVERROR_INVALIDDATA;
1113         }
1114
1115         if (depth & 0x80 && entry_id < 4)
1116             clut->clut4[entry_id] = RGBA(r,g,b,255 - alpha);
1117         else if (depth & 0x40 && entry_id < 16)
1118             clut->clut16[entry_id] = RGBA(r,g,b,255 - alpha);
1119         else if (depth & 0x20)
1120             clut->clut256[entry_id] = RGBA(r,g,b,255 - alpha);
1121     }
1122     }
1123
1124     return 0;
1125 }
1126
1127
1128 static int dvbsub_parse_region_segment(AVCodecContext *avctx,
1129                                        const uint8_t *buf, int buf_size)
1130 {
1131     DVBSubContext *ctx = avctx->priv_data;
1132
1133     const uint8_t *buf_end = buf + buf_size;
1134     int region_id, object_id;
1135     int av_unused version;
1136     DVBSubRegion *region;
1137     DVBSubObject *object;
1138     DVBSubObjectDisplay *display;
1139     int fill;
1140     int ret;
1141
1142     if (buf_size < 10)
1143         return AVERROR_INVALIDDATA;
1144
1145     region_id = *buf++;
1146
1147     region = get_region(ctx, region_id);
1148
1149     if (!region) {
1150         region = av_mallocz(sizeof(DVBSubRegion));
1151         if (!region)
1152             return AVERROR(ENOMEM);
1153
1154         region->id = region_id;
1155         region->version = -1;
1156
1157         region->next = ctx->region_list;
1158         ctx->region_list = region;
1159     }
1160
1161     version = ((*buf)>>4) & 15;
1162     fill = ((*buf++) >> 3) & 1;
1163
1164     region->width = AV_RB16(buf);
1165     buf += 2;
1166     region->height = AV_RB16(buf);
1167     buf += 2;
1168
1169     ret = av_image_check_size2(region->width, region->height, avctx->max_pixels, AV_PIX_FMT_PAL8, 0, avctx);
1170     if (ret >= 0 && region->width * region->height * 2 > 320 * 1024 * 8) {
1171         ret = AVERROR_INVALIDDATA;
1172         av_log(avctx, AV_LOG_ERROR, "Pixel buffer memory constraint violated\n");
1173     }
1174     if (ret < 0) {
1175         region->width= region->height= 0;
1176         return ret;
1177     }
1178
1179     if (region->width * region->height != region->buf_size) {
1180         av_free(region->pbuf);
1181
1182         region->buf_size = region->width * region->height;
1183
1184         region->pbuf = av_malloc(region->buf_size);
1185         if (!region->pbuf) {
1186             region->buf_size =
1187             region->width =
1188             region->height = 0;
1189             return AVERROR(ENOMEM);
1190         }
1191
1192         fill = 1;
1193         region->dirty = 0;
1194     }
1195
1196     region->depth = 1 << (((*buf++) >> 2) & 7);
1197     if(region->depth<2 || region->depth>8){
1198         av_log(avctx, AV_LOG_ERROR, "region depth %d is invalid\n", region->depth);
1199         region->depth= 4;
1200     }
1201     region->clut = *buf++;
1202
1203     if (region->depth == 8) {
1204         region->bgcolor = *buf++;
1205         buf += 1;
1206     } else {
1207         buf += 1;
1208
1209         if (region->depth == 4)
1210             region->bgcolor = (((*buf++) >> 4) & 15);
1211         else
1212             region->bgcolor = (((*buf++) >> 2) & 3);
1213     }
1214
1215     ff_dlog(avctx, "Region %d, (%dx%d)\n", region_id, region->width, region->height);
1216
1217     if (fill) {
1218         memset(region->pbuf, region->bgcolor, region->buf_size);
1219         ff_dlog(avctx, "Fill region (%d)\n", region->bgcolor);
1220     }
1221
1222     delete_region_display_list(ctx, region);
1223
1224     while (buf + 5 < buf_end) {
1225         object_id = AV_RB16(buf);
1226         buf += 2;
1227
1228         object = get_object(ctx, object_id);
1229
1230         if (!object) {
1231             object = av_mallocz(sizeof(DVBSubObject));
1232             if (!object)
1233                 return AVERROR(ENOMEM);
1234
1235             object->id = object_id;
1236             object->next = ctx->object_list;
1237             ctx->object_list = object;
1238         }
1239
1240         object->type = (*buf) >> 6;
1241
1242         display = av_mallocz(sizeof(DVBSubObjectDisplay));
1243         if (!display)
1244             return AVERROR(ENOMEM);
1245
1246         display->object_id = object_id;
1247         display->region_id = region_id;
1248
1249         display->x_pos = AV_RB16(buf) & 0xfff;
1250         buf += 2;
1251         display->y_pos = AV_RB16(buf) & 0xfff;
1252         buf += 2;
1253
1254         if ((object->type == 1 || object->type == 2) && buf+1 < buf_end) {
1255             display->fgcolor = *buf++;
1256             display->bgcolor = *buf++;
1257         }
1258
1259         display->region_list_next = region->display_list;
1260         region->display_list = display;
1261
1262         display->object_list_next = object->display_list;
1263         object->display_list = display;
1264     }
1265
1266     return 0;
1267 }
1268
1269 static int dvbsub_parse_page_segment(AVCodecContext *avctx,
1270                                      const uint8_t *buf, int buf_size, AVSubtitle *sub, int *got_output)
1271 {
1272     DVBSubContext *ctx = avctx->priv_data;
1273     DVBSubRegionDisplay *display;
1274     DVBSubRegionDisplay *tmp_display_list, **tmp_ptr;
1275
1276     const uint8_t *buf_end = buf + buf_size;
1277     int region_id;
1278     int page_state;
1279     int timeout;
1280     int version;
1281
1282     if (buf_size < 1)
1283         return AVERROR_INVALIDDATA;
1284
1285     timeout = *buf++;
1286     version = ((*buf)>>4) & 15;
1287     page_state = ((*buf++) >> 2) & 3;
1288
1289     if (ctx->version == version) {
1290         return 0;
1291     }
1292
1293     ctx->time_out = timeout;
1294     ctx->version = version;
1295
1296     ff_dlog(avctx, "Page time out %ds, state %d\n", ctx->time_out, page_state);
1297
1298     if(ctx->compute_edt == 1)
1299         save_subtitle_set(avctx, sub, got_output);
1300
1301     if (page_state == 1 || page_state == 2) {
1302         delete_regions(ctx);
1303         delete_objects(ctx);
1304         delete_cluts(ctx);
1305     }
1306
1307     tmp_display_list = ctx->display_list;
1308     ctx->display_list = NULL;
1309
1310     while (buf + 5 < buf_end) {
1311         region_id = *buf++;
1312         buf += 1;
1313
1314         display = ctx->display_list;
1315         while (display && display->region_id != region_id) {
1316             display = display->next;
1317         }
1318         if (display) {
1319             av_log(avctx, AV_LOG_ERROR, "duplicate region\n");
1320             break;
1321         }
1322
1323         display = tmp_display_list;
1324         tmp_ptr = &tmp_display_list;
1325
1326         while (display && display->region_id != region_id) {
1327             tmp_ptr = &display->next;
1328             display = display->next;
1329         }
1330
1331         if (!display) {
1332             display = av_mallocz(sizeof(DVBSubRegionDisplay));
1333             if (!display)
1334                 return AVERROR(ENOMEM);
1335         }
1336
1337         display->region_id = region_id;
1338
1339         display->x_pos = AV_RB16(buf);
1340         buf += 2;
1341         display->y_pos = AV_RB16(buf);
1342         buf += 2;
1343
1344         *tmp_ptr = display->next;
1345
1346         display->next = ctx->display_list;
1347         ctx->display_list = display;
1348
1349         ff_dlog(avctx, "Region %d, (%d,%d)\n", region_id, display->x_pos, display->y_pos);
1350     }
1351
1352     while (tmp_display_list) {
1353         display = tmp_display_list;
1354
1355         tmp_display_list = display->next;
1356
1357         av_freep(&display);
1358     }
1359
1360     return 0;
1361 }
1362
1363
1364 #ifdef DEBUG
1365 static void png_save(DVBSubContext *ctx, const char *filename, uint32_t *bitmap, int w, int h)
1366 {
1367     int x, y, v;
1368     FILE *f;
1369     char fname[40], fname2[40];
1370     char command[1024];
1371
1372     snprintf(fname, sizeof(fname), "%s.ppm", filename);
1373
1374     f = fopen(fname, "w");
1375     if (!f) {
1376         perror(fname);
1377         return;
1378     }
1379     fprintf(f, "P6\n"
1380             "%d %d\n"
1381             "%d\n",
1382             w, h, 255);
1383     for(y = 0; y < h; y++) {
1384         for(x = 0; x < w; x++) {
1385             v = bitmap[y * w + x];
1386             putc((v >> 16) & 0xff, f);
1387             putc((v >> 8) & 0xff, f);
1388             putc((v >> 0) & 0xff, f);
1389         }
1390     }
1391     fclose(f);
1392
1393
1394     snprintf(fname2, sizeof(fname2), "%s-a.pgm", filename);
1395
1396     f = fopen(fname2, "w");
1397     if (!f) {
1398         perror(fname2);
1399         return;
1400     }
1401     fprintf(f, "P5\n"
1402             "%d %d\n"
1403             "%d\n",
1404             w, h, 255);
1405     for(y = 0; y < h; y++) {
1406         for(x = 0; x < w; x++) {
1407             v = bitmap[y * w + x];
1408             putc((v >> 24) & 0xff, f);
1409         }
1410     }
1411     fclose(f);
1412
1413     snprintf(command, sizeof(command), "pnmtopng -alpha %s %s > %s.png 2> /dev/null", fname2, fname, filename);
1414     if (system(command) != 0) {
1415         av_log(ctx, AV_LOG_ERROR, "Error running pnmtopng\n");
1416         return;
1417     }
1418
1419     snprintf(command, sizeof(command), "rm %s %s", fname, fname2);
1420     if (system(command) != 0) {
1421         av_log(ctx, AV_LOG_ERROR, "Error removing %s and %s\n", fname, fname2);
1422         return;
1423     }
1424 }
1425
1426 static int save_display_set(DVBSubContext *ctx)
1427 {
1428     DVBSubRegion *region;
1429     DVBSubRegionDisplay *display;
1430     DVBSubCLUT *clut;
1431     uint32_t *clut_table;
1432     int x_pos, y_pos, width, height;
1433     int x, y, y_off, x_off;
1434     uint32_t *pbuf;
1435     char filename[32];
1436     static int fileno_index = 0;
1437
1438     x_pos = -1;
1439     y_pos = -1;
1440     width = 0;
1441     height = 0;
1442
1443     for (display = ctx->display_list; display; display = display->next) {
1444         region = get_region(ctx, display->region_id);
1445
1446         if (!region)
1447             return -1;
1448
1449         if (x_pos == -1) {
1450             x_pos = display->x_pos;
1451             y_pos = display->y_pos;
1452             width = region->width;
1453             height = region->height;
1454         } else {
1455             if (display->x_pos < x_pos) {
1456                 width += (x_pos - display->x_pos);
1457                 x_pos = display->x_pos;
1458             }
1459
1460             if (display->y_pos < y_pos) {
1461                 height += (y_pos - display->y_pos);
1462                 y_pos = display->y_pos;
1463             }
1464
1465             if (display->x_pos + region->width > x_pos + width) {
1466                 width = display->x_pos + region->width - x_pos;
1467             }
1468
1469             if (display->y_pos + region->height > y_pos + height) {
1470                 height = display->y_pos + region->height - y_pos;
1471             }
1472         }
1473     }
1474
1475     if (x_pos >= 0) {
1476
1477         pbuf = av_malloc(width * height * 4);
1478         if (!pbuf)
1479             return -1;
1480
1481         for (display = ctx->display_list; display; display = display->next) {
1482             region = get_region(ctx, display->region_id);
1483
1484             if (!region)
1485                 return -1;
1486
1487             x_off = display->x_pos - x_pos;
1488             y_off = display->y_pos - y_pos;
1489
1490             clut = get_clut(ctx, region->clut);
1491
1492             if (!clut)
1493                 clut = &default_clut;
1494
1495             switch (region->depth) {
1496             case 2:
1497                 clut_table = clut->clut4;
1498                 break;
1499             case 8:
1500                 clut_table = clut->clut256;
1501                 break;
1502             case 4:
1503             default:
1504                 clut_table = clut->clut16;
1505                 break;
1506             }
1507
1508             for (y = 0; y < region->height; y++) {
1509                 for (x = 0; x < region->width; x++) {
1510                     pbuf[((y + y_off) * width) + x_off + x] =
1511                         clut_table[region->pbuf[y * region->width + x]];
1512                 }
1513             }
1514
1515         }
1516
1517         snprintf(filename, sizeof(filename), "dvbs.%d", fileno_index);
1518
1519         png_save(ctx, filename, pbuf, width, height);
1520
1521         av_freep(&pbuf);
1522     }
1523
1524     fileno_index++;
1525     return 0;
1526 }
1527 #endif /* DEBUG */
1528
1529 static int dvbsub_parse_display_definition_segment(AVCodecContext *avctx,
1530                                                    const uint8_t *buf,
1531                                                    int buf_size)
1532 {
1533     DVBSubContext *ctx = avctx->priv_data;
1534     DVBSubDisplayDefinition *display_def = ctx->display_definition;
1535     int dds_version, info_byte;
1536
1537     if (buf_size < 5)
1538         return AVERROR_INVALIDDATA;
1539
1540     info_byte   = bytestream_get_byte(&buf);
1541     dds_version = info_byte >> 4;
1542     if (display_def && display_def->version == dds_version)
1543         return 0; // already have this display definition version
1544
1545     if (!display_def) {
1546         display_def             = av_mallocz(sizeof(*display_def));
1547         if (!display_def)
1548             return AVERROR(ENOMEM);
1549         ctx->display_definition = display_def;
1550     }
1551
1552     display_def->version = dds_version;
1553     display_def->x       = 0;
1554     display_def->y       = 0;
1555     display_def->width   = bytestream_get_be16(&buf) + 1;
1556     display_def->height  = bytestream_get_be16(&buf) + 1;
1557     if (!avctx->width || !avctx->height) {
1558         avctx->width  = display_def->width;
1559         avctx->height = display_def->height;
1560     }
1561
1562     if (info_byte & 1<<3) { // display_window_flag
1563         if (buf_size < 13)
1564             return AVERROR_INVALIDDATA;
1565
1566         display_def->x = bytestream_get_be16(&buf);
1567         display_def->width  = bytestream_get_be16(&buf) - display_def->x + 1;
1568         display_def->y = bytestream_get_be16(&buf);
1569         display_def->height = bytestream_get_be16(&buf) - display_def->y + 1;
1570     }
1571
1572     return 0;
1573 }
1574
1575 static int dvbsub_display_end_segment(AVCodecContext *avctx, const uint8_t *buf,
1576                                       int buf_size, AVSubtitle *sub,int *got_output)
1577 {
1578     DVBSubContext *ctx = avctx->priv_data;
1579
1580     if(ctx->compute_edt == 0)
1581         save_subtitle_set(avctx, sub, got_output);
1582 #ifdef DEBUG
1583     save_display_set(ctx);
1584 #endif
1585     return 0;
1586 }
1587
1588 static int dvbsub_decode(AVCodecContext *avctx,
1589                          void *data, int *data_size,
1590                          AVPacket *avpkt)
1591 {
1592     const uint8_t *buf = avpkt->data;
1593     int buf_size = avpkt->size;
1594     DVBSubContext *ctx = avctx->priv_data;
1595     AVSubtitle *sub = data;
1596     const uint8_t *p, *p_end;
1597     int segment_type;
1598     int page_id;
1599     int segment_length;
1600     int i;
1601     int ret = 0;
1602     int got_segment = 0;
1603     int got_dds = 0;
1604
1605     ff_dlog(avctx, "DVB sub packet:\n");
1606
1607     for (i=0; i < buf_size; i++) {
1608         ff_dlog(avctx, "%02x ", buf[i]);
1609         if (i % 16 == 15)
1610             ff_dlog(avctx, "\n");
1611     }
1612
1613     if (i % 16)
1614         ff_dlog(avctx, "\n");
1615
1616     if (buf_size <= 6 || *buf != 0x0f) {
1617         ff_dlog(avctx, "incomplete or broken packet");
1618         return AVERROR_INVALIDDATA;
1619     }
1620
1621     p = buf;
1622     p_end = buf + buf_size;
1623
1624     while (p_end - p >= 6 && *p == 0x0f) {
1625         p += 1;
1626         segment_type = *p++;
1627         page_id = AV_RB16(p);
1628         p += 2;
1629         segment_length = AV_RB16(p);
1630         p += 2;
1631
1632         if (avctx->debug & FF_DEBUG_STARTCODE) {
1633             av_log(avctx, AV_LOG_DEBUG, "segment_type:%d page_id:%d segment_length:%d\n", segment_type, page_id, segment_length);
1634         }
1635
1636         if (p_end - p < segment_length) {
1637             ff_dlog(avctx, "incomplete or broken packet");
1638             ret = -1;
1639             goto end;
1640         }
1641
1642         if (page_id == ctx->composition_id || page_id == ctx->ancillary_id ||
1643             ctx->composition_id == -1 || ctx->ancillary_id == -1) {
1644             int ret = 0;
1645             switch (segment_type) {
1646             case DVBSUB_PAGE_SEGMENT:
1647                 ret = dvbsub_parse_page_segment(avctx, p, segment_length, sub, data_size);
1648                 got_segment |= 1;
1649                 break;
1650             case DVBSUB_REGION_SEGMENT:
1651                 ret = dvbsub_parse_region_segment(avctx, p, segment_length);
1652                 got_segment |= 2;
1653                 break;
1654             case DVBSUB_CLUT_SEGMENT:
1655                 ret = dvbsub_parse_clut_segment(avctx, p, segment_length);
1656                 if (ret < 0) goto end;
1657                 got_segment |= 4;
1658                 break;
1659             case DVBSUB_OBJECT_SEGMENT:
1660                 ret = dvbsub_parse_object_segment(avctx, p, segment_length);
1661                 got_segment |= 8;
1662                 break;
1663             case DVBSUB_DISPLAYDEFINITION_SEGMENT:
1664                 ret = dvbsub_parse_display_definition_segment(avctx, p,
1665                                                               segment_length);
1666                 got_dds = 1;
1667                 break;
1668             case DVBSUB_DISPLAY_SEGMENT:
1669                 ret = dvbsub_display_end_segment(avctx, p, segment_length, sub, data_size);
1670                 if (got_segment == 15 && !got_dds && !avctx->width && !avctx->height) {
1671                     // Default from ETSI EN 300 743 V1.3.1 (7.2.1)
1672                     avctx->width  = 720;
1673                     avctx->height = 576;
1674                 }
1675                 got_segment |= 16;
1676                 break;
1677             default:
1678                 ff_dlog(avctx, "Subtitling segment type 0x%x, page id %d, length %d\n",
1679                         segment_type, page_id, segment_length);
1680                 break;
1681             }
1682             if (ret < 0)
1683                 goto end;
1684         }
1685
1686         p += segment_length;
1687     }
1688     // Some streams do not send a display segment but if we have all the other
1689     // segments then we need no further data.
1690     if (got_segment == 15) {
1691         av_log(avctx, AV_LOG_DEBUG, "Missing display_end_segment, emulating\n");
1692         dvbsub_display_end_segment(avctx, p, 0, sub, data_size);
1693     }
1694
1695 end:
1696     if(ret < 0) {
1697         *data_size = 0;
1698         avsubtitle_free(sub);
1699         return ret;
1700     } else {
1701         if(ctx->compute_edt == 1 )
1702             FFSWAP(int64_t, ctx->prev_start, sub->pts);
1703     }
1704
1705     return p - buf;
1706 }
1707
1708 #define DS AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_SUBTITLE_PARAM
1709 static const AVOption options[] = {
1710     {"compute_edt", "compute end of time using pts or timeout", offsetof(DVBSubContext, compute_edt), AV_OPT_TYPE_BOOL, {.i64 = 0}, 0, 1, DS},
1711     {"compute_clut", "compute clut when not available(-1) or always(1) or never(0)", offsetof(DVBSubContext, compute_clut), AV_OPT_TYPE_BOOL, {.i64 = -1}, -1, 1, DS},
1712     {"dvb_substream", "", offsetof(DVBSubContext, substream), AV_OPT_TYPE_INT, {.i64 = -1}, -1, 63, DS},
1713     {NULL}
1714 };
1715 static const AVClass dvbsubdec_class = {
1716     .class_name = "DVB Sub Decoder",
1717     .item_name  = av_default_item_name,
1718     .option     = options,
1719     .version    = LIBAVUTIL_VERSION_INT,
1720 };
1721
1722 AVCodec ff_dvbsub_decoder = {
1723     .name           = "dvbsub",
1724     .long_name      = NULL_IF_CONFIG_SMALL("DVB subtitles"),
1725     .type           = AVMEDIA_TYPE_SUBTITLE,
1726     .id             = AV_CODEC_ID_DVB_SUBTITLE,
1727     .priv_data_size = sizeof(DVBSubContext),
1728     .init           = dvbsub_init_decoder,
1729     .close          = dvbsub_close_decoder,
1730     .decode         = dvbsub_decode,
1731     .priv_class     = &dvbsubdec_class,
1732 };