]> git.sesse.net Git - ffmpeg/blob - libavcodec/dvbsubdec.c
Merge commit '5fd553d31272d5ed42a7a5a0ecaab7b3452da83a'
[ffmpeg] / libavcodec / dvbsubdec.c
1 /*
2  * DVB subtitle decoding
3  * Copyright (c) 2005 Ian Caulfield
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "avcodec.h"
23 #include "get_bits.h"
24 #include "bytestream.h"
25 #include "internal.h"
26 #include "libavutil/colorspace.h"
27 #include "libavutil/opt.h"
28
29 #define DVBSUB_PAGE_SEGMENT     0x10
30 #define DVBSUB_REGION_SEGMENT   0x11
31 #define DVBSUB_CLUT_SEGMENT     0x12
32 #define DVBSUB_OBJECT_SEGMENT   0x13
33 #define DVBSUB_DISPLAYDEFINITION_SEGMENT 0x14
34 #define DVBSUB_DISPLAY_SEGMENT  0x80
35
36 #define cm (ff_crop_tab + MAX_NEG_CROP)
37
38 #ifdef DEBUG
39 #if 0
40 static void png_save(const char *filename, uint8_t *bitmap, int w, int h,
41                      uint32_t *rgba_palette)
42 {
43     int x, y, v;
44     FILE *f;
45     char fname[40], fname2[40];
46     char command[1024];
47
48     snprintf(fname, 40, "%s.ppm", filename);
49
50     f = fopen(fname, "w");
51     if (!f) {
52         perror(fname);
53         return;
54     }
55     fprintf(f, "P6\n"
56             "%d %d\n"
57             "%d\n",
58             w, h, 255);
59     for(y = 0; y < h; y++) {
60         for(x = 0; x < w; x++) {
61             v = rgba_palette[bitmap[y * w + x]];
62             putc((v >> 16) & 0xff, f);
63             putc((v >> 8) & 0xff, f);
64             putc((v >> 0) & 0xff, f);
65         }
66     }
67     fclose(f);
68
69
70     snprintf(fname2, 40, "%s-a.pgm", filename);
71
72     f = fopen(fname2, "w");
73     if (!f) {
74         perror(fname2);
75         return;
76     }
77     fprintf(f, "P5\n"
78             "%d %d\n"
79             "%d\n",
80             w, h, 255);
81     for(y = 0; y < h; y++) {
82         for(x = 0; x < w; x++) {
83             v = rgba_palette[bitmap[y * w + x]];
84             putc((v >> 24) & 0xff, f);
85         }
86     }
87     fclose(f);
88
89     snprintf(command, 1024, "pnmtopng -alpha %s %s > %s.png 2> /dev/null", fname2, fname, filename);
90     system(command);
91
92     snprintf(command, 1024, "rm %s %s", fname, fname2);
93     system(command);
94 }
95 #endif
96
97 static void png_save2(const char *filename, uint32_t *bitmap, int w, int h)
98 {
99     int x, y, v;
100     FILE *f;
101     char fname[40], fname2[40];
102     char command[1024];
103
104     snprintf(fname, sizeof(fname), "%s.ppm", filename);
105
106     f = fopen(fname, "w");
107     if (!f) {
108         perror(fname);
109         return;
110     }
111     fprintf(f, "P6\n"
112             "%d %d\n"
113             "%d\n",
114             w, h, 255);
115     for(y = 0; y < h; y++) {
116         for(x = 0; x < w; x++) {
117             v = bitmap[y * w + x];
118             putc((v >> 16) & 0xff, f);
119             putc((v >> 8) & 0xff, f);
120             putc((v >> 0) & 0xff, f);
121         }
122     }
123     fclose(f);
124
125
126     snprintf(fname2, sizeof(fname2), "%s-a.pgm", filename);
127
128     f = fopen(fname2, "w");
129     if (!f) {
130         perror(fname2);
131         return;
132     }
133     fprintf(f, "P5\n"
134             "%d %d\n"
135             "%d\n",
136             w, h, 255);
137     for(y = 0; y < h; y++) {
138         for(x = 0; x < w; x++) {
139             v = bitmap[y * w + x];
140             putc((v >> 24) & 0xff, f);
141         }
142     }
143     fclose(f);
144
145     snprintf(command, sizeof(command), "pnmtopng -alpha %s %s > %s.png 2> /dev/null", fname2, fname, filename);
146     system(command);
147
148     snprintf(command, sizeof(command), "rm %s %s", fname, fname2);
149     system(command);
150 }
151 #endif
152
153 #define RGBA(r,g,b,a) (((unsigned)(a) << 24) | ((r) << 16) | ((g) << 8) | (b))
154
155 typedef struct DVBSubCLUT {
156     int id;
157     int version;
158
159     uint32_t clut4[4];
160     uint32_t clut16[16];
161     uint32_t clut256[256];
162
163     struct DVBSubCLUT *next;
164 } DVBSubCLUT;
165
166 static DVBSubCLUT default_clut;
167
168 typedef struct DVBSubObjectDisplay {
169     int object_id;
170     int region_id;
171
172     int x_pos;
173     int y_pos;
174
175     int fgcolor;
176     int bgcolor;
177
178     struct DVBSubObjectDisplay *region_list_next;
179     struct DVBSubObjectDisplay *object_list_next;
180 } DVBSubObjectDisplay;
181
182 typedef struct DVBSubObject {
183     int id;
184     int version;
185
186     int type;
187
188     DVBSubObjectDisplay *display_list;
189
190     struct DVBSubObject *next;
191 } DVBSubObject;
192
193 typedef struct DVBSubRegionDisplay {
194     int region_id;
195
196     int x_pos;
197     int y_pos;
198
199     struct DVBSubRegionDisplay *next;
200 } DVBSubRegionDisplay;
201
202 typedef struct DVBSubRegion {
203     int id;
204     int version;
205
206     int width;
207     int height;
208     int depth;
209
210     int clut;
211     int bgcolor;
212
213     uint8_t *pbuf;
214     int buf_size;
215     int dirty;
216
217     DVBSubObjectDisplay *display_list;
218
219     struct DVBSubRegion *next;
220 } DVBSubRegion;
221
222 typedef struct DVBSubDisplayDefinition {
223     int version;
224
225     int x;
226     int y;
227     int width;
228     int height;
229 } DVBSubDisplayDefinition;
230
231 typedef struct DVBSubContext {
232     AVClass *class;
233     int composition_id;
234     int ancillary_id;
235
236     int version;
237     int time_out;
238     int compute_edt; /**< if 1 end display time calculated using pts
239                           if 0 (Default) calculated using time out */
240     int64_t prev_start;
241     DVBSubRegion *region_list;
242     DVBSubCLUT   *clut_list;
243     DVBSubObject *object_list;
244
245     DVBSubRegionDisplay *display_list;
246     DVBSubDisplayDefinition *display_definition;
247 } DVBSubContext;
248
249
250 static DVBSubObject* get_object(DVBSubContext *ctx, int object_id)
251 {
252     DVBSubObject *ptr = ctx->object_list;
253
254     while (ptr && ptr->id != object_id) {
255         ptr = ptr->next;
256     }
257
258     return ptr;
259 }
260
261 static DVBSubCLUT* get_clut(DVBSubContext *ctx, int clut_id)
262 {
263     DVBSubCLUT *ptr = ctx->clut_list;
264
265     while (ptr && ptr->id != clut_id) {
266         ptr = ptr->next;
267     }
268
269     return ptr;
270 }
271
272 static DVBSubRegion* get_region(DVBSubContext *ctx, int region_id)
273 {
274     DVBSubRegion *ptr = ctx->region_list;
275
276     while (ptr && ptr->id != region_id) {
277         ptr = ptr->next;
278     }
279
280     return ptr;
281 }
282
283 static void delete_region_display_list(DVBSubContext *ctx, DVBSubRegion *region)
284 {
285     DVBSubObject *object, *obj2, **obj2_ptr;
286     DVBSubObjectDisplay *display, *obj_disp, **obj_disp_ptr;
287
288     while (region->display_list) {
289         display = region->display_list;
290
291         object = get_object(ctx, display->object_id);
292
293         if (object) {
294             obj_disp_ptr = &object->display_list;
295             obj_disp = *obj_disp_ptr;
296
297             while (obj_disp && obj_disp != display) {
298                 obj_disp_ptr = &obj_disp->object_list_next;
299                 obj_disp = *obj_disp_ptr;
300             }
301
302             if (obj_disp) {
303                 *obj_disp_ptr = obj_disp->object_list_next;
304
305                 if (!object->display_list) {
306                     obj2_ptr = &ctx->object_list;
307                     obj2 = *obj2_ptr;
308
309                     while (obj2 != object) {
310                         av_assert0(obj2);
311                         obj2_ptr = &obj2->next;
312                         obj2 = *obj2_ptr;
313                     }
314
315                     *obj2_ptr = obj2->next;
316
317                     av_freep(&obj2);
318                 }
319             }
320         }
321
322         region->display_list = display->region_list_next;
323
324         av_freep(&display);
325     }
326
327 }
328
329 static void delete_cluts(DVBSubContext *ctx)
330 {
331     while (ctx->clut_list) {
332         DVBSubCLUT *clut = ctx->clut_list;
333
334         ctx->clut_list = clut->next;
335
336         av_freep(&clut);
337     }
338 }
339
340 static void delete_objects(DVBSubContext *ctx)
341 {
342     while (ctx->object_list) {
343         DVBSubObject *object = ctx->object_list;
344
345         ctx->object_list = object->next;
346
347         av_freep(&object);
348     }
349 }
350
351 static void delete_regions(DVBSubContext *ctx)
352 {
353     while (ctx->region_list) {
354         DVBSubRegion *region = ctx->region_list;
355
356         ctx->region_list = region->next;
357
358         delete_region_display_list(ctx, region);
359
360         av_freep(&region->pbuf);
361         av_freep(&region);
362     }
363 }
364
365 static av_cold int dvbsub_init_decoder(AVCodecContext *avctx)
366 {
367     int i, r, g, b, a = 0;
368     DVBSubContext *ctx = avctx->priv_data;
369
370     if (!avctx->extradata || (avctx->extradata_size < 4) || ((avctx->extradata_size % 5 != 0) && (avctx->extradata_size != 4))) {
371         av_log(avctx, AV_LOG_WARNING, "Invalid DVB subtitles stream extradata!\n");
372         ctx->composition_id = -1;
373         ctx->ancillary_id   = -1;
374     } else {
375         if (avctx->extradata_size > 5) {
376             av_log(avctx, AV_LOG_WARNING, "Decoding first DVB subtitles sub-stream\n");
377         }
378
379         ctx->composition_id = AV_RB16(avctx->extradata);
380         ctx->ancillary_id   = AV_RB16(avctx->extradata + 2);
381     }
382
383     ctx->version = -1;
384     ctx->prev_start = AV_NOPTS_VALUE;
385
386     default_clut.id = -1;
387     default_clut.next = NULL;
388
389     default_clut.clut4[0] = RGBA(  0,   0,   0,   0);
390     default_clut.clut4[1] = RGBA(255, 255, 255, 255);
391     default_clut.clut4[2] = RGBA(  0,   0,   0, 255);
392     default_clut.clut4[3] = RGBA(127, 127, 127, 255);
393
394     default_clut.clut16[0] = RGBA(  0,   0,   0,   0);
395     for (i = 1; i < 16; i++) {
396         if (i < 8) {
397             r = (i & 1) ? 255 : 0;
398             g = (i & 2) ? 255 : 0;
399             b = (i & 4) ? 255 : 0;
400         } else {
401             r = (i & 1) ? 127 : 0;
402             g = (i & 2) ? 127 : 0;
403             b = (i & 4) ? 127 : 0;
404         }
405         default_clut.clut16[i] = RGBA(r, g, b, 255);
406     }
407
408     default_clut.clut256[0] = RGBA(  0,   0,   0,   0);
409     for (i = 1; i < 256; i++) {
410         if (i < 8) {
411             r = (i & 1) ? 255 : 0;
412             g = (i & 2) ? 255 : 0;
413             b = (i & 4) ? 255 : 0;
414             a = 63;
415         } else {
416             switch (i & 0x88) {
417             case 0x00:
418                 r = ((i & 1) ? 85 : 0) + ((i & 0x10) ? 170 : 0);
419                 g = ((i & 2) ? 85 : 0) + ((i & 0x20) ? 170 : 0);
420                 b = ((i & 4) ? 85 : 0) + ((i & 0x40) ? 170 : 0);
421                 a = 255;
422                 break;
423             case 0x08:
424                 r = ((i & 1) ? 85 : 0) + ((i & 0x10) ? 170 : 0);
425                 g = ((i & 2) ? 85 : 0) + ((i & 0x20) ? 170 : 0);
426                 b = ((i & 4) ? 85 : 0) + ((i & 0x40) ? 170 : 0);
427                 a = 127;
428                 break;
429             case 0x80:
430                 r = 127 + ((i & 1) ? 43 : 0) + ((i & 0x10) ? 85 : 0);
431                 g = 127 + ((i & 2) ? 43 : 0) + ((i & 0x20) ? 85 : 0);
432                 b = 127 + ((i & 4) ? 43 : 0) + ((i & 0x40) ? 85 : 0);
433                 a = 255;
434                 break;
435             case 0x88:
436                 r = ((i & 1) ? 43 : 0) + ((i & 0x10) ? 85 : 0);
437                 g = ((i & 2) ? 43 : 0) + ((i & 0x20) ? 85 : 0);
438                 b = ((i & 4) ? 43 : 0) + ((i & 0x40) ? 85 : 0);
439                 a = 255;
440                 break;
441             }
442         }
443         default_clut.clut256[i] = RGBA(r, g, b, a);
444     }
445
446     return 0;
447 }
448
449 static av_cold int dvbsub_close_decoder(AVCodecContext *avctx)
450 {
451     DVBSubContext *ctx = avctx->priv_data;
452     DVBSubRegionDisplay *display;
453
454     delete_regions(ctx);
455
456     delete_objects(ctx);
457
458     delete_cluts(ctx);
459
460     av_freep(&ctx->display_definition);
461
462     while (ctx->display_list) {
463         display = ctx->display_list;
464         ctx->display_list = display->next;
465
466         av_freep(&display);
467     }
468
469     return 0;
470 }
471
472 static int dvbsub_read_2bit_string(AVCodecContext *avctx,
473                                    uint8_t *destbuf, int dbuf_len,
474                                    const uint8_t **srcbuf, int buf_size,
475                                    int non_mod, uint8_t *map_table, int x_pos)
476 {
477     GetBitContext gb;
478
479     int bits;
480     int run_length;
481     int pixels_read = x_pos;
482
483     init_get_bits(&gb, *srcbuf, buf_size << 3);
484
485     destbuf += x_pos;
486
487     while (get_bits_count(&gb) < buf_size << 3 && pixels_read < dbuf_len) {
488         bits = get_bits(&gb, 2);
489
490         if (bits) {
491             if (non_mod != 1 || bits != 1) {
492                 if (map_table)
493                     *destbuf++ = map_table[bits];
494                 else
495                     *destbuf++ = bits;
496             }
497             pixels_read++;
498         } else {
499             bits = get_bits1(&gb);
500             if (bits == 1) {
501                 run_length = get_bits(&gb, 3) + 3;
502                 bits = get_bits(&gb, 2);
503
504                 if (non_mod == 1 && bits == 1)
505                     pixels_read += run_length;
506                 else {
507                     if (map_table)
508                         bits = map_table[bits];
509                     while (run_length-- > 0 && pixels_read < dbuf_len) {
510                         *destbuf++ = bits;
511                         pixels_read++;
512                     }
513                 }
514             } else {
515                 bits = get_bits1(&gb);
516                 if (bits == 0) {
517                     bits = get_bits(&gb, 2);
518                     if (bits == 2) {
519                         run_length = get_bits(&gb, 4) + 12;
520                         bits = get_bits(&gb, 2);
521
522                         if (non_mod == 1 && bits == 1)
523                             pixels_read += run_length;
524                         else {
525                             if (map_table)
526                                 bits = map_table[bits];
527                             while (run_length-- > 0 && pixels_read < dbuf_len) {
528                                 *destbuf++ = bits;
529                                 pixels_read++;
530                             }
531                         }
532                     } else if (bits == 3) {
533                         run_length = get_bits(&gb, 8) + 29;
534                         bits = get_bits(&gb, 2);
535
536                         if (non_mod == 1 && bits == 1)
537                             pixels_read += run_length;
538                         else {
539                             if (map_table)
540                                 bits = map_table[bits];
541                             while (run_length-- > 0 && pixels_read < dbuf_len) {
542                                 *destbuf++ = bits;
543                                 pixels_read++;
544                             }
545                         }
546                     } else if (bits == 1) {
547                         if (map_table)
548                             bits = map_table[0];
549                         else
550                             bits = 0;
551                         run_length = 2;
552                         while (run_length-- > 0 && pixels_read < dbuf_len) {
553                             *destbuf++ = bits;
554                             pixels_read++;
555                         }
556                     } else {
557                         (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
558                         return pixels_read;
559                     }
560                 } else {
561                     if (map_table)
562                         bits = map_table[0];
563                     else
564                         bits = 0;
565                     *destbuf++ = bits;
566                     pixels_read++;
567                 }
568             }
569         }
570     }
571
572     if (get_bits(&gb, 6))
573         av_log(avctx, AV_LOG_ERROR, "line overflow\n");
574
575     (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
576
577     return pixels_read;
578 }
579
580 static int dvbsub_read_4bit_string(AVCodecContext *avctx, uint8_t *destbuf, int dbuf_len,
581                                    const uint8_t **srcbuf, int buf_size,
582                                    int non_mod, uint8_t *map_table, int x_pos)
583 {
584     GetBitContext gb;
585
586     int bits;
587     int run_length;
588     int pixels_read = x_pos;
589
590     init_get_bits(&gb, *srcbuf, buf_size << 3);
591
592     destbuf += x_pos;
593
594     while (get_bits_count(&gb) < buf_size << 3 && pixels_read < dbuf_len) {
595         bits = get_bits(&gb, 4);
596
597         if (bits) {
598             if (non_mod != 1 || bits != 1) {
599                 if (map_table)
600                     *destbuf++ = map_table[bits];
601                 else
602                     *destbuf++ = bits;
603             }
604             pixels_read++;
605         } else {
606             bits = get_bits1(&gb);
607             if (bits == 0) {
608                 run_length = get_bits(&gb, 3);
609
610                 if (run_length == 0) {
611                     (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
612                     return pixels_read;
613                 }
614
615                 run_length += 2;
616
617                 if (map_table)
618                     bits = map_table[0];
619                 else
620                     bits = 0;
621
622                 while (run_length-- > 0 && pixels_read < dbuf_len) {
623                     *destbuf++ = bits;
624                     pixels_read++;
625                 }
626             } else {
627                 bits = get_bits1(&gb);
628                 if (bits == 0) {
629                     run_length = get_bits(&gb, 2) + 4;
630                     bits = get_bits(&gb, 4);
631
632                     if (non_mod == 1 && bits == 1)
633                         pixels_read += run_length;
634                     else {
635                         if (map_table)
636                             bits = map_table[bits];
637                         while (run_length-- > 0 && pixels_read < dbuf_len) {
638                             *destbuf++ = bits;
639                             pixels_read++;
640                         }
641                     }
642                 } else {
643                     bits = get_bits(&gb, 2);
644                     if (bits == 2) {
645                         run_length = get_bits(&gb, 4) + 9;
646                         bits = get_bits(&gb, 4);
647
648                         if (non_mod == 1 && bits == 1)
649                             pixels_read += run_length;
650                         else {
651                             if (map_table)
652                                 bits = map_table[bits];
653                             while (run_length-- > 0 && pixels_read < dbuf_len) {
654                                 *destbuf++ = bits;
655                                 pixels_read++;
656                             }
657                         }
658                     } else if (bits == 3) {
659                         run_length = get_bits(&gb, 8) + 25;
660                         bits = get_bits(&gb, 4);
661
662                         if (non_mod == 1 && bits == 1)
663                             pixels_read += run_length;
664                         else {
665                             if (map_table)
666                                 bits = map_table[bits];
667                             while (run_length-- > 0 && pixels_read < dbuf_len) {
668                                 *destbuf++ = bits;
669                                 pixels_read++;
670                             }
671                         }
672                     } else if (bits == 1) {
673                         if (map_table)
674                             bits = map_table[0];
675                         else
676                             bits = 0;
677                         run_length = 2;
678                         while (run_length-- > 0 && pixels_read < dbuf_len) {
679                             *destbuf++ = bits;
680                             pixels_read++;
681                         }
682                     } else {
683                         if (map_table)
684                             bits = map_table[0];
685                         else
686                             bits = 0;
687                         *destbuf++ = bits;
688                         pixels_read ++;
689                     }
690                 }
691             }
692         }
693     }
694
695     if (get_bits(&gb, 8))
696         av_log(avctx, AV_LOG_ERROR, "line overflow\n");
697
698     (*srcbuf) += (get_bits_count(&gb) + 7) >> 3;
699
700     return pixels_read;
701 }
702
703 static int dvbsub_read_8bit_string(AVCodecContext *avctx,
704                                    uint8_t *destbuf, int dbuf_len,
705                                     const uint8_t **srcbuf, int buf_size,
706                                     int non_mod, uint8_t *map_table, int x_pos)
707 {
708     const uint8_t *sbuf_end = (*srcbuf) + buf_size;
709     int bits;
710     int run_length;
711     int pixels_read = x_pos;
712
713     destbuf += x_pos;
714
715     while (*srcbuf < sbuf_end && pixels_read < dbuf_len) {
716         bits = *(*srcbuf)++;
717
718         if (bits) {
719             if (non_mod != 1 || bits != 1) {
720                 if (map_table)
721                     *destbuf++ = map_table[bits];
722                 else
723                     *destbuf++ = bits;
724             }
725             pixels_read++;
726         } else {
727             bits = *(*srcbuf)++;
728             run_length = bits & 0x7f;
729             if ((bits & 0x80) == 0) {
730                 if (run_length == 0) {
731                     return pixels_read;
732                 }
733
734                 bits = 0;
735             } else {
736                 bits = *(*srcbuf)++;
737             }
738             if (non_mod == 1 && bits == 1)
739                 pixels_read += run_length;
740             else {
741                 if (map_table)
742                     bits = map_table[bits];
743                 while (run_length-- > 0 && pixels_read < dbuf_len) {
744                     *destbuf++ = bits;
745                     pixels_read++;
746                 }
747             }
748         }
749     }
750
751     if (*(*srcbuf)++)
752         av_log(avctx, AV_LOG_ERROR, "line overflow\n");
753
754     return pixels_read;
755 }
756
757 static void compute_default_clut(AVPicture *frame, int w, int h)
758 {
759     uint8_t list[256] = {0};
760     uint8_t list_inv[256];
761     int counttab[256] = {0};
762     int count, i, x, y;
763
764 #define V(x,y) frame->data[0][(x) + (y)*frame->linesize[0]]
765     for (y = 0; y<h; y++) {
766         for (x = 0; x<w; x++) {
767             int v = V(x,y) + 1;
768             int vl = x     ? V(x-1,y) + 1 : 0;
769             int vr = x+1<w ? V(x+1,y) + 1 : 0;
770             int vt = y     ? V(x,y-1) + 1 : 0;
771             int vb = y+1<h ? V(x,y+1) + 1 : 0;
772             counttab[v-1] += !!((v!=vl) + (v!=vr) + (v!=vt) + (v!=vb));
773         }
774     }
775 #define L(x,y) list[ frame->data[0][(x) + (y)*frame->linesize[0]] ]
776
777     for (i = 0; i<256; i++) {
778         int scoretab[256] = {0};
779         int bestscore = 0;
780         int bestv = 0;
781         for (y = 0; y<h; y++) {
782             for (x = 0; x<w; x++) {
783                 int v = frame->data[0][x + y*frame->linesize[0]];
784                 int l_m = list[v];
785                 int l_l = x     ? L(x-1, y) : 1;
786                 int l_r = x+1<w ? L(x+1, y) : 1;
787                 int l_t = y     ? L(x, y-1) : 1;
788                 int l_b = y+1<h ? L(x, y+1) : 1;
789                 int score;
790                 if (l_m)
791                     continue;
792                 scoretab[v] += l_l + l_r + l_t + l_b;
793                 score = 1024LL*scoretab[v] / counttab[v];
794                 if (score > bestscore) {
795                     bestscore = score;
796                     bestv = v;
797                 }
798             }
799         }
800         if (!bestscore)
801             break;
802         list    [ bestv ] = 1;
803         list_inv[     i ] = bestv;
804     }
805
806     count = i - 1;
807     for (i--; i>=0; i--) {
808         int v = i*255/count;
809         AV_WN32(frame->data[1] + 4*list_inv[i], RGBA(v/2,v,v/2,v));
810     }
811 }
812
813
814 static int save_subtitle_set(AVCodecContext *avctx, AVSubtitle *sub, int *got_output)
815 {
816     DVBSubContext *ctx = avctx->priv_data;
817     DVBSubRegionDisplay *display;
818     DVBSubDisplayDefinition *display_def = ctx->display_definition;
819     DVBSubRegion *region;
820     AVSubtitleRect *rect;
821     DVBSubCLUT *clut;
822     uint32_t *clut_table;
823     int i;
824     int offset_x=0, offset_y=0;
825     int ret = 0;
826
827
828     if (display_def) {
829         offset_x = display_def->x;
830         offset_y = display_def->y;
831     }
832
833     /* Not touching AVSubtitles again*/
834     if(sub->num_rects) {
835         avpriv_request_sample(ctx, "Different Version of Segment asked Twice\n");
836         return AVERROR_PATCHWELCOME;
837     }
838     for (display = ctx->display_list; display; display = display->next) {
839         region = get_region(ctx, display->region_id);
840         if (region && region->dirty)
841             sub->num_rects++;
842     }
843
844     if(ctx->compute_edt == 0) {
845         sub->end_display_time = ctx->time_out * 1000;
846         *got_output = 1;
847     } else if (ctx->prev_start != AV_NOPTS_VALUE) {
848         sub->end_display_time = av_rescale_q((sub->pts - ctx->prev_start ), AV_TIME_BASE_Q, (AVRational){ 1, 1000 }) - 1;
849         *got_output = 1;
850     }
851     if (sub->num_rects > 0) {
852
853         sub->rects = av_mallocz_array(sizeof(*sub->rects), sub->num_rects);
854         if (!sub->rects) {
855             ret = AVERROR(ENOMEM);
856             goto fail;
857         }
858
859         for(i=0; i<sub->num_rects; i++)
860             sub->rects[i] = av_mallocz(sizeof(*sub->rects[i]));
861
862         i = 0;
863
864         for (display = ctx->display_list; display; display = display->next) {
865             region = get_region(ctx, display->region_id);
866
867             if (!region)
868                 continue;
869
870             if (!region->dirty)
871                 continue;
872
873             rect = sub->rects[i];
874             rect->x = display->x_pos + offset_x;
875             rect->y = display->y_pos + offset_y;
876             rect->w = region->width;
877             rect->h = region->height;
878             rect->nb_colors = (1 << region->depth);
879             rect->type      = SUBTITLE_BITMAP;
880             rect->pict.linesize[0] = region->width;
881
882             clut = get_clut(ctx, region->clut);
883
884             if (!clut)
885                 clut = &default_clut;
886
887             switch (region->depth) {
888             case 2:
889                 clut_table = clut->clut4;
890                 break;
891             case 8:
892                 clut_table = clut->clut256;
893                 break;
894             case 4:
895             default:
896                 clut_table = clut->clut16;
897                 break;
898             }
899
900             rect->pict.data[1] = av_mallocz(AVPALETTE_SIZE);
901             if (!rect->pict.data[1]) {
902                 ret = AVERROR(ENOMEM);
903                 goto fail;
904             }
905             memcpy(rect->pict.data[1], clut_table, (1 << region->depth) * sizeof(uint32_t));
906
907             rect->pict.data[0] = av_malloc(region->buf_size);
908             if (!rect->pict.data[0]) {
909                 ret = AVERROR(ENOMEM);
910                 goto fail;
911             }
912
913             memcpy(rect->pict.data[0], region->pbuf, region->buf_size);
914
915             if (clut == &default_clut)
916                 compute_default_clut(&rect->pict, rect->w, rect->h);
917
918             i++;
919         }
920     }
921
922     return 0;
923 fail:
924     if (sub->rects) {
925         for(i=0; i<sub->num_rects; i++) {
926             rect = sub->rects[i];
927             if (rect) {
928                 av_freep(&rect->pict.data[0]);
929                 av_freep(&rect->pict.data[1]);
930             }
931             av_freep(&sub->rects[i]);
932         }
933         av_freep(&sub->rects);
934     }
935     sub->num_rects = 0;
936     return ret;
937 }
938
939 static void dvbsub_parse_pixel_data_block(AVCodecContext *avctx, DVBSubObjectDisplay *display,
940                                           const uint8_t *buf, int buf_size, int top_bottom, int non_mod)
941 {
942     DVBSubContext *ctx = avctx->priv_data;
943
944     DVBSubRegion *region = get_region(ctx, display->region_id);
945     const uint8_t *buf_end = buf + buf_size;
946     uint8_t *pbuf;
947     int x_pos, y_pos;
948     int i;
949
950     uint8_t map2to4[] = { 0x0,  0x7,  0x8,  0xf};
951     uint8_t map2to8[] = {0x00, 0x77, 0x88, 0xff};
952     uint8_t map4to8[] = {0x00, 0x11, 0x22, 0x33, 0x44, 0x55, 0x66, 0x77,
953                          0x88, 0x99, 0xaa, 0xbb, 0xcc, 0xdd, 0xee, 0xff};
954     uint8_t *map_table;
955
956 #if 0
957     ff_dlog(avctx, "DVB pixel block size %d, %s field:\n", buf_size,
958             top_bottom ? "bottom" : "top");
959
960     for (i = 0; i < buf_size; i++) {
961         if (i % 16 == 0)
962             ff_dlog(avctx, "0x%8p: ", buf+i);
963
964         ff_dlog(avctx, "%02x ", buf[i]);
965         if (i % 16 == 15)
966             ff_dlog(avctx, "\n");
967     }
968
969     if (i % 16)
970         ff_dlog(avctx, "\n");
971 #endif
972
973     if (!region)
974         return;
975
976     pbuf = region->pbuf;
977     region->dirty = 1;
978
979     x_pos = display->x_pos;
980     y_pos = display->y_pos;
981
982     y_pos += top_bottom;
983
984     while (buf < buf_end) {
985         if ((*buf!=0xf0 && x_pos >= region->width) || y_pos >= region->height) {
986             av_log(avctx, AV_LOG_ERROR, "Invalid object location! %d-%d %d-%d %02x\n", x_pos, region->width, y_pos, region->height, *buf);
987             return;
988         }
989
990         switch (*buf++) {
991         case 0x10:
992             if (region->depth == 8)
993                 map_table = map2to8;
994             else if (region->depth == 4)
995                 map_table = map2to4;
996             else
997                 map_table = NULL;
998
999             x_pos = dvbsub_read_2bit_string(avctx, pbuf + (y_pos * region->width),
1000                                             region->width, &buf, buf_end - buf,
1001                                             non_mod, map_table, x_pos);
1002             break;
1003         case 0x11:
1004             if (region->depth < 4) {
1005                 av_log(avctx, AV_LOG_ERROR, "4-bit pixel string in %d-bit region!\n", region->depth);
1006                 return;
1007             }
1008
1009             if (region->depth == 8)
1010                 map_table = map4to8;
1011             else
1012                 map_table = NULL;
1013
1014             x_pos = dvbsub_read_4bit_string(avctx, pbuf + (y_pos * region->width),
1015                                             region->width, &buf, buf_end - buf,
1016                                             non_mod, map_table, x_pos);
1017             break;
1018         case 0x12:
1019             if (region->depth < 8) {
1020                 av_log(avctx, AV_LOG_ERROR, "8-bit pixel string in %d-bit region!\n", region->depth);
1021                 return;
1022             }
1023
1024             x_pos = dvbsub_read_8bit_string(avctx, pbuf + (y_pos * region->width),
1025                                             region->width, &buf, buf_end - buf,
1026                                             non_mod, NULL, x_pos);
1027             break;
1028
1029         case 0x20:
1030             map2to4[0] = (*buf) >> 4;
1031             map2to4[1] = (*buf++) & 0xf;
1032             map2to4[2] = (*buf) >> 4;
1033             map2to4[3] = (*buf++) & 0xf;
1034             break;
1035         case 0x21:
1036             for (i = 0; i < 4; i++)
1037                 map2to8[i] = *buf++;
1038             break;
1039         case 0x22:
1040             for (i = 0; i < 16; i++)
1041                 map4to8[i] = *buf++;
1042             break;
1043
1044         case 0xf0:
1045             x_pos = display->x_pos;
1046             y_pos += 2;
1047             break;
1048         default:
1049             av_log(avctx, AV_LOG_INFO, "Unknown/unsupported pixel block 0x%x\n", *(buf-1));
1050         }
1051     }
1052
1053 }
1054
1055 static int dvbsub_parse_object_segment(AVCodecContext *avctx,
1056                                        const uint8_t *buf, int buf_size)
1057 {
1058     DVBSubContext *ctx = avctx->priv_data;
1059
1060     const uint8_t *buf_end = buf + buf_size;
1061     int object_id;
1062     DVBSubObject *object;
1063     DVBSubObjectDisplay *display;
1064     int top_field_len, bottom_field_len;
1065
1066     int coding_method, non_modifying_color;
1067
1068     object_id = AV_RB16(buf);
1069     buf += 2;
1070
1071     object = get_object(ctx, object_id);
1072
1073     if (!object)
1074         return AVERROR_INVALIDDATA;
1075
1076     coding_method = ((*buf) >> 2) & 3;
1077     non_modifying_color = ((*buf++) >> 1) & 1;
1078
1079     if (coding_method == 0) {
1080         top_field_len = AV_RB16(buf);
1081         buf += 2;
1082         bottom_field_len = AV_RB16(buf);
1083         buf += 2;
1084
1085         if (buf + top_field_len + bottom_field_len > buf_end) {
1086             av_log(avctx, AV_LOG_ERROR, "Field data size too large\n");
1087             return AVERROR_INVALIDDATA;
1088         }
1089
1090         for (display = object->display_list; display; display = display->object_list_next) {
1091             const uint8_t *block = buf;
1092             int bfl = bottom_field_len;
1093
1094             dvbsub_parse_pixel_data_block(avctx, display, block, top_field_len, 0,
1095                                             non_modifying_color);
1096
1097             if (bottom_field_len > 0)
1098                 block = buf + top_field_len;
1099             else
1100                 bfl = top_field_len;
1101
1102             dvbsub_parse_pixel_data_block(avctx, display, block, bfl, 1,
1103                                             non_modifying_color);
1104         }
1105
1106 /*  } else if (coding_method == 1) {*/
1107
1108     } else {
1109         av_log(avctx, AV_LOG_ERROR, "Unknown object coding %d\n", coding_method);
1110     }
1111
1112     return 0;
1113 }
1114
1115 static int dvbsub_parse_clut_segment(AVCodecContext *avctx,
1116                                      const uint8_t *buf, int buf_size)
1117 {
1118     DVBSubContext *ctx = avctx->priv_data;
1119
1120     const uint8_t *buf_end = buf + buf_size;
1121     int i, clut_id;
1122     int version;
1123     DVBSubCLUT *clut;
1124     int entry_id, depth , full_range;
1125     int y, cr, cb, alpha;
1126     int r, g, b, r_add, g_add, b_add;
1127
1128     ff_dlog(avctx, "DVB clut packet:\n");
1129
1130     for (i=0; i < buf_size; i++) {
1131         ff_dlog(avctx, "%02x ", buf[i]);
1132         if (i % 16 == 15)
1133             ff_dlog(avctx, "\n");
1134     }
1135
1136     if (i % 16)
1137         ff_dlog(avctx, "\n");
1138
1139     clut_id = *buf++;
1140     version = ((*buf)>>4)&15;
1141     buf += 1;
1142
1143     clut = get_clut(ctx, clut_id);
1144
1145     if (!clut) {
1146         clut = av_malloc(sizeof(DVBSubCLUT));
1147         if (!clut)
1148             return AVERROR(ENOMEM);
1149
1150         memcpy(clut, &default_clut, sizeof(DVBSubCLUT));
1151
1152         clut->id = clut_id;
1153         clut->version = -1;
1154
1155         clut->next = ctx->clut_list;
1156         ctx->clut_list = clut;
1157     }
1158
1159     if (clut->version != version) {
1160
1161     clut->version = version;
1162
1163     while (buf + 4 < buf_end) {
1164         entry_id = *buf++;
1165
1166         depth = (*buf) & 0xe0;
1167
1168         if (depth == 0) {
1169             av_log(avctx, AV_LOG_ERROR, "Invalid clut depth 0x%x!\n", *buf);
1170             return AVERROR_INVALIDDATA;
1171         }
1172
1173         full_range = (*buf++) & 1;
1174
1175         if (full_range) {
1176             y = *buf++;
1177             cr = *buf++;
1178             cb = *buf++;
1179             alpha = *buf++;
1180         } else {
1181             y = buf[0] & 0xfc;
1182             cr = (((buf[0] & 3) << 2) | ((buf[1] >> 6) & 3)) << 4;
1183             cb = (buf[1] << 2) & 0xf0;
1184             alpha = (buf[1] << 6) & 0xc0;
1185
1186             buf += 2;
1187         }
1188
1189         if (y == 0)
1190             alpha = 0xff;
1191
1192         YUV_TO_RGB1_CCIR(cb, cr);
1193         YUV_TO_RGB2_CCIR(r, g, b, y);
1194
1195         ff_dlog(avctx, "clut %d := (%d,%d,%d,%d)\n", entry_id, r, g, b, alpha);
1196         if (!!(depth & 0x80) + !!(depth & 0x40) + !!(depth & 0x20) > 1) {
1197             ff_dlog(avctx, "More than one bit level marked: %x\n", depth);
1198             if (avctx->strict_std_compliance > FF_COMPLIANCE_NORMAL)
1199                 return AVERROR_INVALIDDATA;
1200         }
1201
1202         if (depth & 0x80)
1203             clut->clut4[entry_id] = RGBA(r,g,b,255 - alpha);
1204         else if (depth & 0x40)
1205             clut->clut16[entry_id] = RGBA(r,g,b,255 - alpha);
1206         else if (depth & 0x20)
1207             clut->clut256[entry_id] = RGBA(r,g,b,255 - alpha);
1208     }
1209     }
1210
1211     return 0;
1212 }
1213
1214
1215 static int dvbsub_parse_region_segment(AVCodecContext *avctx,
1216                                        const uint8_t *buf, int buf_size)
1217 {
1218     DVBSubContext *ctx = avctx->priv_data;
1219
1220     const uint8_t *buf_end = buf + buf_size;
1221     int region_id, object_id;
1222     int av_unused version;
1223     DVBSubRegion *region;
1224     DVBSubObject *object;
1225     DVBSubObjectDisplay *display;
1226     int fill;
1227
1228     if (buf_size < 10)
1229         return AVERROR_INVALIDDATA;
1230
1231     region_id = *buf++;
1232
1233     region = get_region(ctx, region_id);
1234
1235     if (!region) {
1236         region = av_mallocz(sizeof(DVBSubRegion));
1237         if (!region)
1238             return AVERROR(ENOMEM);
1239
1240         region->id = region_id;
1241         region->version = -1;
1242
1243         region->next = ctx->region_list;
1244         ctx->region_list = region;
1245     }
1246
1247     version = ((*buf)>>4) & 15;
1248     fill = ((*buf++) >> 3) & 1;
1249
1250     region->width = AV_RB16(buf);
1251     buf += 2;
1252     region->height = AV_RB16(buf);
1253     buf += 2;
1254
1255     if (region->width * region->height != region->buf_size) {
1256         av_free(region->pbuf);
1257
1258         region->buf_size = region->width * region->height;
1259
1260         region->pbuf = av_malloc(region->buf_size);
1261         if (!region->pbuf) {
1262             region->buf_size =
1263             region->width =
1264             region->height = 0;
1265             return AVERROR(ENOMEM);
1266         }
1267
1268         fill = 1;
1269         region->dirty = 0;
1270     }
1271
1272     region->depth = 1 << (((*buf++) >> 2) & 7);
1273     if(region->depth<2 || region->depth>8){
1274         av_log(avctx, AV_LOG_ERROR, "region depth %d is invalid\n", region->depth);
1275         region->depth= 4;
1276     }
1277     region->clut = *buf++;
1278
1279     if (region->depth == 8) {
1280         region->bgcolor = *buf++;
1281         buf += 1;
1282     } else {
1283         buf += 1;
1284
1285         if (region->depth == 4)
1286             region->bgcolor = (((*buf++) >> 4) & 15);
1287         else
1288             region->bgcolor = (((*buf++) >> 2) & 3);
1289     }
1290
1291     ff_dlog(avctx, "Region %d, (%dx%d)\n", region_id, region->width, region->height);
1292
1293     if (fill) {
1294         memset(region->pbuf, region->bgcolor, region->buf_size);
1295         ff_dlog(avctx, "Fill region (%d)\n", region->bgcolor);
1296     }
1297
1298     delete_region_display_list(ctx, region);
1299
1300     while (buf + 5 < buf_end) {
1301         object_id = AV_RB16(buf);
1302         buf += 2;
1303
1304         object = get_object(ctx, object_id);
1305
1306         if (!object) {
1307             object = av_mallocz(sizeof(DVBSubObject));
1308             if (!object)
1309                 return AVERROR(ENOMEM);
1310
1311             object->id = object_id;
1312             object->next = ctx->object_list;
1313             ctx->object_list = object;
1314         }
1315
1316         object->type = (*buf) >> 6;
1317
1318         display = av_mallocz(sizeof(DVBSubObjectDisplay));
1319         if (!display)
1320             return AVERROR(ENOMEM);
1321
1322         display->object_id = object_id;
1323         display->region_id = region_id;
1324
1325         display->x_pos = AV_RB16(buf) & 0xfff;
1326         buf += 2;
1327         display->y_pos = AV_RB16(buf) & 0xfff;
1328         buf += 2;
1329
1330         if ((object->type == 1 || object->type == 2) && buf+1 < buf_end) {
1331             display->fgcolor = *buf++;
1332             display->bgcolor = *buf++;
1333         }
1334
1335         display->region_list_next = region->display_list;
1336         region->display_list = display;
1337
1338         display->object_list_next = object->display_list;
1339         object->display_list = display;
1340     }
1341
1342     return 0;
1343 }
1344
1345 static int dvbsub_parse_page_segment(AVCodecContext *avctx,
1346                                      const uint8_t *buf, int buf_size, AVSubtitle *sub, int *got_output)
1347 {
1348     DVBSubContext *ctx = avctx->priv_data;
1349     DVBSubRegionDisplay *display;
1350     DVBSubRegionDisplay *tmp_display_list, **tmp_ptr;
1351
1352     const uint8_t *buf_end = buf + buf_size;
1353     int region_id;
1354     int page_state;
1355     int timeout;
1356     int version;
1357
1358     if (buf_size < 1)
1359         return AVERROR_INVALIDDATA;
1360
1361     timeout = *buf++;
1362     version = ((*buf)>>4) & 15;
1363     page_state = ((*buf++) >> 2) & 3;
1364
1365     if (ctx->version == version) {
1366         return 0;
1367     }
1368
1369     ctx->time_out = timeout;
1370     ctx->version = version;
1371
1372     ff_dlog(avctx, "Page time out %ds, state %d\n", ctx->time_out, page_state);
1373
1374     if(ctx->compute_edt == 1)
1375         save_subtitle_set(avctx, sub, got_output);
1376
1377     if (page_state == 1 || page_state == 2) {
1378         delete_regions(ctx);
1379         delete_objects(ctx);
1380         delete_cluts(ctx);
1381     }
1382
1383     tmp_display_list = ctx->display_list;
1384     ctx->display_list = NULL;
1385
1386     while (buf + 5 < buf_end) {
1387         region_id = *buf++;
1388         buf += 1;
1389
1390         display = tmp_display_list;
1391         tmp_ptr = &tmp_display_list;
1392
1393         while (display && display->region_id != region_id) {
1394             tmp_ptr = &display->next;
1395             display = display->next;
1396         }
1397
1398         if (!display) {
1399             display = av_mallocz(sizeof(DVBSubRegionDisplay));
1400             if (!display)
1401                 return AVERROR(ENOMEM);
1402         }
1403
1404         display->region_id = region_id;
1405
1406         display->x_pos = AV_RB16(buf);
1407         buf += 2;
1408         display->y_pos = AV_RB16(buf);
1409         buf += 2;
1410
1411         *tmp_ptr = display->next;
1412
1413         display->next = ctx->display_list;
1414         ctx->display_list = display;
1415
1416         ff_dlog(avctx, "Region %d, (%d,%d)\n", region_id, display->x_pos, display->y_pos);
1417     }
1418
1419     while (tmp_display_list) {
1420         display = tmp_display_list;
1421
1422         tmp_display_list = display->next;
1423
1424         av_freep(&display);
1425     }
1426
1427     return 0;
1428 }
1429
1430
1431 #ifdef DEBUG
1432 static void save_display_set(DVBSubContext *ctx)
1433 {
1434     DVBSubRegion *region;
1435     DVBSubRegionDisplay *display;
1436     DVBSubCLUT *clut;
1437     uint32_t *clut_table;
1438     int x_pos, y_pos, width, height;
1439     int x, y, y_off, x_off;
1440     uint32_t *pbuf;
1441     char filename[32];
1442     static int fileno_index = 0;
1443
1444     x_pos = -1;
1445     y_pos = -1;
1446     width = 0;
1447     height = 0;
1448
1449     for (display = ctx->display_list; display; display = display->next) {
1450         region = get_region(ctx, display->region_id);
1451
1452         if (!region)
1453             return;
1454
1455         if (x_pos == -1) {
1456             x_pos = display->x_pos;
1457             y_pos = display->y_pos;
1458             width = region->width;
1459             height = region->height;
1460         } else {
1461             if (display->x_pos < x_pos) {
1462                 width += (x_pos - display->x_pos);
1463                 x_pos = display->x_pos;
1464             }
1465
1466             if (display->y_pos < y_pos) {
1467                 height += (y_pos - display->y_pos);
1468                 y_pos = display->y_pos;
1469             }
1470
1471             if (display->x_pos + region->width > x_pos + width) {
1472                 width = display->x_pos + region->width - x_pos;
1473             }
1474
1475             if (display->y_pos + region->height > y_pos + height) {
1476                 height = display->y_pos + region->height - y_pos;
1477             }
1478         }
1479     }
1480
1481     if (x_pos >= 0) {
1482
1483         pbuf = av_malloc(width * height * 4);
1484         if (!pbuf)
1485             return;
1486
1487         for (display = ctx->display_list; display; display = display->next) {
1488             region = get_region(ctx, display->region_id);
1489
1490             if (!region)
1491                 return;
1492
1493             x_off = display->x_pos - x_pos;
1494             y_off = display->y_pos - y_pos;
1495
1496             clut = get_clut(ctx, region->clut);
1497
1498             if (!clut)
1499                 clut = &default_clut;
1500
1501             switch (region->depth) {
1502             case 2:
1503                 clut_table = clut->clut4;
1504                 break;
1505             case 8:
1506                 clut_table = clut->clut256;
1507                 break;
1508             case 4:
1509             default:
1510                 clut_table = clut->clut16;
1511                 break;
1512             }
1513
1514             for (y = 0; y < region->height; y++) {
1515                 for (x = 0; x < region->width; x++) {
1516                     pbuf[((y + y_off) * width) + x_off + x] =
1517                         clut_table[region->pbuf[y * region->width + x]];
1518                 }
1519             }
1520
1521         }
1522
1523         snprintf(filename, sizeof(filename), "dvbs.%d", fileno_index);
1524
1525         png_save2(filename, pbuf, width, height);
1526
1527         av_freep(&pbuf);
1528     }
1529
1530     fileno_index++;
1531 }
1532 #endif
1533
1534 static int dvbsub_parse_display_definition_segment(AVCodecContext *avctx,
1535                                                    const uint8_t *buf,
1536                                                    int buf_size)
1537 {
1538     DVBSubContext *ctx = avctx->priv_data;
1539     DVBSubDisplayDefinition *display_def = ctx->display_definition;
1540     int dds_version, info_byte;
1541
1542     if (buf_size < 5)
1543         return AVERROR_INVALIDDATA;
1544
1545     info_byte   = bytestream_get_byte(&buf);
1546     dds_version = info_byte >> 4;
1547     if (display_def && display_def->version == dds_version)
1548         return 0; // already have this display definition version
1549
1550     if (!display_def) {
1551         display_def             = av_mallocz(sizeof(*display_def));
1552         if (!display_def)
1553             return AVERROR(ENOMEM);
1554         ctx->display_definition = display_def;
1555     }
1556
1557     display_def->version = dds_version;
1558     display_def->x       = 0;
1559     display_def->y       = 0;
1560     display_def->width   = bytestream_get_be16(&buf) + 1;
1561     display_def->height  = bytestream_get_be16(&buf) + 1;
1562     if (!avctx->width || !avctx->height) {
1563         avctx->width  = display_def->width;
1564         avctx->height = display_def->height;
1565     }
1566
1567     if (info_byte & 1<<3) { // display_window_flag
1568         if (buf_size < 13)
1569             return AVERROR_INVALIDDATA;
1570
1571         display_def->x = bytestream_get_be16(&buf);
1572         display_def->width  = bytestream_get_be16(&buf) - display_def->x + 1;
1573         display_def->y = bytestream_get_be16(&buf);
1574         display_def->height = bytestream_get_be16(&buf) - display_def->y + 1;
1575     }
1576
1577     return 0;
1578 }
1579
1580 static int dvbsub_display_end_segment(AVCodecContext *avctx, const uint8_t *buf,
1581                                       int buf_size, AVSubtitle *sub,int *got_output)
1582 {
1583     DVBSubContext *ctx = avctx->priv_data;
1584
1585     if(ctx->compute_edt == 0)
1586         save_subtitle_set(avctx, sub, got_output);
1587 #ifdef DEBUG
1588     save_display_set(ctx);
1589 #endif
1590     return 0;
1591 }
1592
1593 static int dvbsub_decode(AVCodecContext *avctx,
1594                          void *data, int *data_size,
1595                          AVPacket *avpkt)
1596 {
1597     const uint8_t *buf = avpkt->data;
1598     int buf_size = avpkt->size;
1599     DVBSubContext *ctx = avctx->priv_data;
1600     AVSubtitle *sub = data;
1601     const uint8_t *p, *p_end;
1602     int segment_type;
1603     int page_id;
1604     int segment_length;
1605     int i;
1606     int ret = 0;
1607     int got_segment = 0;
1608
1609     ff_dlog(avctx, "DVB sub packet:\n");
1610
1611     for (i=0; i < buf_size; i++) {
1612         ff_dlog(avctx, "%02x ", buf[i]);
1613         if (i % 16 == 15)
1614             ff_dlog(avctx, "\n");
1615     }
1616
1617     if (i % 16)
1618         ff_dlog(avctx, "\n");
1619
1620     if (buf_size <= 6 || *buf != 0x0f) {
1621         ff_dlog(avctx, "incomplete or broken packet");
1622         return AVERROR_INVALIDDATA;
1623     }
1624
1625     p = buf;
1626     p_end = buf + buf_size;
1627
1628     while (p_end - p >= 6 && *p == 0x0f) {
1629         p += 1;
1630         segment_type = *p++;
1631         page_id = AV_RB16(p);
1632         p += 2;
1633         segment_length = AV_RB16(p);
1634         p += 2;
1635
1636         if (avctx->debug & FF_DEBUG_STARTCODE) {
1637             av_log(avctx, AV_LOG_DEBUG, "segment_type:%d page_id:%d segment_length:%d\n", segment_type, page_id, segment_length);
1638         }
1639
1640         if (p_end - p < segment_length) {
1641             ff_dlog(avctx, "incomplete or broken packet");
1642             ret = -1;
1643             goto end;
1644         }
1645
1646         if (page_id == ctx->composition_id || page_id == ctx->ancillary_id ||
1647             ctx->composition_id == -1 || ctx->ancillary_id == -1) {
1648             int ret = 0;
1649             switch (segment_type) {
1650             case DVBSUB_PAGE_SEGMENT:
1651                 ret = dvbsub_parse_page_segment(avctx, p, segment_length, sub, data_size);
1652                 got_segment |= 1;
1653                 break;
1654             case DVBSUB_REGION_SEGMENT:
1655                 ret = dvbsub_parse_region_segment(avctx, p, segment_length);
1656                 got_segment |= 2;
1657                 break;
1658             case DVBSUB_CLUT_SEGMENT:
1659                 ret = dvbsub_parse_clut_segment(avctx, p, segment_length);
1660                 if (ret < 0) goto end;
1661                 got_segment |= 4;
1662                 break;
1663             case DVBSUB_OBJECT_SEGMENT:
1664                 ret = dvbsub_parse_object_segment(avctx, p, segment_length);
1665                 got_segment |= 8;
1666                 break;
1667             case DVBSUB_DISPLAYDEFINITION_SEGMENT:
1668                 ret = dvbsub_parse_display_definition_segment(avctx, p,
1669                                                               segment_length);
1670                 break;
1671             case DVBSUB_DISPLAY_SEGMENT:
1672                 ret = dvbsub_display_end_segment(avctx, p, segment_length, sub, data_size);
1673                 got_segment |= 16;
1674                 break;
1675             default:
1676                 ff_dlog(avctx, "Subtitling segment type 0x%x, page id %d, length %d\n",
1677                         segment_type, page_id, segment_length);
1678                 break;
1679             }
1680             if (ret < 0)
1681                 goto end;
1682         }
1683
1684         p += segment_length;
1685     }
1686     // Some streams do not send a display segment but if we have all the other
1687     // segments then we need no further data.
1688     if (got_segment == 15) {
1689         av_log(avctx, AV_LOG_DEBUG, "Missing display_end_segment, emulating\n");
1690         dvbsub_display_end_segment(avctx, p, 0, sub, data_size);
1691     }
1692
1693 end:
1694     if(ret < 0) {
1695         *data_size = 0;
1696         avsubtitle_free(sub);
1697         return ret;
1698     } else {
1699         if(ctx->compute_edt == 1 )
1700             FFSWAP(int64_t, ctx->prev_start, sub->pts);
1701     }
1702
1703     return p - buf;
1704 }
1705
1706 #define DS AV_OPT_FLAG_DECODING_PARAM | AV_OPT_FLAG_SUBTITLE_PARAM
1707 static const AVOption options[] = {
1708     {"compute_edt", "compute end of time using pts or timeout", offsetof(DVBSubContext, compute_edt), FF_OPT_TYPE_INT, {.i64 = 0}, 0, 1, DS},
1709     {NULL}
1710 };
1711 static const AVClass dvbsubdec_class = {
1712     .class_name = "DVB Sub Decoder",
1713     .item_name  = av_default_item_name,
1714     .option     = options,
1715     .version    = LIBAVUTIL_VERSION_INT,
1716 };
1717
1718 AVCodec ff_dvbsub_decoder = {
1719     .name           = "dvbsub",
1720     .long_name      = NULL_IF_CONFIG_SMALL("DVB subtitles"),
1721     .type           = AVMEDIA_TYPE_SUBTITLE,
1722     .id             = AV_CODEC_ID_DVB_SUBTITLE,
1723     .priv_data_size = sizeof(DVBSubContext),
1724     .init           = dvbsub_init_decoder,
1725     .close          = dvbsub_close_decoder,
1726     .decode         = dvbsub_decode,
1727     .priv_class     = &dvbsubdec_class,
1728 };