]> git.sesse.net Git - ffmpeg/blob - libavformat/nutdec.c
avconv: get output pixel format from lavfi.
[ffmpeg] / libavformat / nutdec.c
1 /*
2  * "NUT" Container Format demuxer
3  * Copyright (c) 2004-2006 Michael Niedermayer
4  * Copyright (c) 2003 Alex Beregszaszi
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "libavutil/avstring.h"
24 #include "libavutil/bswap.h"
25 #include "libavutil/dict.h"
26 #include "libavutil/mathematics.h"
27 #include "libavutil/tree.h"
28 #include "avio_internal.h"
29 #include "nut.h"
30
31 #undef NDEBUG
32 #include <assert.h>
33
34 #define NUT_MAX_STREAMS 256    /* arbitrary sanity check value */
35
36 static int get_str(AVIOContext *bc, char *string, unsigned int maxlen)
37 {
38     unsigned int len = ffio_read_varlen(bc);
39
40     if (len && maxlen)
41         avio_read(bc, string, FFMIN(len, maxlen));
42     while (len > maxlen) {
43         avio_r8(bc);
44         len--;
45     }
46
47     if (maxlen)
48         string[FFMIN(len, maxlen - 1)] = 0;
49
50     if (maxlen == len)
51         return -1;
52     else
53         return 0;
54 }
55
56 static int64_t get_s(AVIOContext *bc)
57 {
58     int64_t v = ffio_read_varlen(bc) + 1;
59
60     if (v & 1)
61         return -(v >> 1);
62     else
63         return  (v >> 1);
64 }
65
66 static uint64_t get_fourcc(AVIOContext *bc)
67 {
68     unsigned int len = ffio_read_varlen(bc);
69
70     if (len == 2)
71         return avio_rl16(bc);
72     else if (len == 4)
73         return avio_rl32(bc);
74     else
75         return -1;
76 }
77
78 #ifdef TRACE
79 static inline uint64_t get_v_trace(AVIOContext *bc, char *file,
80                                    char *func, int line)
81 {
82     uint64_t v = ffio_read_varlen(bc);
83
84     av_log(NULL, AV_LOG_DEBUG, "get_v %5"PRId64" / %"PRIX64" in %s %s:%d\n",
85            v, v, file, func, line);
86     return v;
87 }
88
89 static inline int64_t get_s_trace(AVIOContext *bc, char *file,
90                                   char *func, int line)
91 {
92     int64_t v = get_s(bc);
93
94     av_log(NULL, AV_LOG_DEBUG, "get_s %5"PRId64" / %"PRIX64" in %s %s:%d\n",
95            v, v, file, func, line);
96     return v;
97 }
98
99 static inline uint64_t get_vb_trace(AVIOContext *bc, char *file,
100                                     char *func, int line)
101 {
102     uint64_t v = get_vb(bc);
103
104     av_log(NULL, AV_LOG_DEBUG, "get_vb %5"PRId64" / %"PRIX64" in %s %s:%d\n",
105            v, v, file, func, line);
106     return v;
107 }
108 #define ffio_read_varlen(bc) get_v_trace(bc,  __FILE__, __PRETTY_FUNCTION__, __LINE__)
109 #define get_s(bc)            get_s_trace(bc,  __FILE__, __PRETTY_FUNCTION__, __LINE__)
110 #define get_vb(bc)           get_vb_trace(bc, __FILE__, __PRETTY_FUNCTION__, __LINE__)
111 #endif
112
113 static int get_packetheader(NUTContext *nut, AVIOContext *bc,
114                             int calculate_checksum, uint64_t startcode)
115 {
116     int64_t size;
117 //    start = avio_tell(bc) - 8;
118
119     startcode = av_be2ne64(startcode);
120     startcode = ff_crc04C11DB7_update(0, (uint8_t*) &startcode, 8);
121
122     ffio_init_checksum(bc, ff_crc04C11DB7_update, startcode);
123     size = ffio_read_varlen(bc);
124     if (size > 4096)
125         avio_rb32(bc);
126     if (ffio_get_checksum(bc) && size > 4096)
127         return -1;
128
129     ffio_init_checksum(bc, calculate_checksum ? ff_crc04C11DB7_update : NULL, 0);
130
131     return size;
132 }
133
134 static uint64_t find_any_startcode(AVIOContext *bc, int64_t pos)
135 {
136     uint64_t state = 0;
137
138     if (pos >= 0)
139         /* Note, this may fail if the stream is not seekable, but that should
140          * not matter, as in this case we simply start where we currently are */
141         avio_seek(bc, pos, SEEK_SET);
142     while (!bc->eof_reached) {
143         state = (state << 8) | avio_r8(bc);
144         if ((state >> 56) != 'N')
145             continue;
146         switch (state) {
147         case MAIN_STARTCODE:
148         case STREAM_STARTCODE:
149         case SYNCPOINT_STARTCODE:
150         case INFO_STARTCODE:
151         case INDEX_STARTCODE:
152             return state;
153         }
154     }
155
156     return 0;
157 }
158
159 /**
160  * Find the given startcode.
161  * @param code the startcode
162  * @param pos the start position of the search, or -1 if the current position
163  * @return the position of the startcode or -1 if not found
164  */
165 static int64_t find_startcode(AVIOContext *bc, uint64_t code, int64_t pos)
166 {
167     for (;;) {
168         uint64_t startcode = find_any_startcode(bc, pos);
169         if (startcode == code)
170             return avio_tell(bc) - 8;
171         else if (startcode == 0)
172             return -1;
173         pos = -1;
174     }
175 }
176
177 static int nut_probe(AVProbeData *p)
178 {
179     int i;
180     uint64_t code = 0;
181
182     for (i = 0; i < p->buf_size; i++) {
183         code = (code << 8) | p->buf[i];
184         if (code == MAIN_STARTCODE)
185             return AVPROBE_SCORE_MAX;
186     }
187     return 0;
188 }
189
190 #define GET_V(dst, check)                                                 \
191     tmp = ffio_read_varlen(bc);                                           \
192     if (!(check)) {                                                       \
193         av_log(s, AV_LOG_ERROR, "Error " #dst " is (%"PRId64")\n", tmp);  \
194         return -1;                                                        \
195     }                                                                     \
196     dst = tmp;
197
198 static int skip_reserved(AVIOContext *bc, int64_t pos)
199 {
200     pos -= avio_tell(bc);
201     if (pos < 0) {
202         avio_seek(bc, pos, SEEK_CUR);
203         return -1;
204     } else {
205         while (pos--)
206             avio_r8(bc);
207         return 0;
208     }
209 }
210
211 static int decode_main_header(NUTContext *nut)
212 {
213     AVFormatContext *s = nut->avf;
214     AVIOContext *bc    = s->pb;
215     uint64_t tmp, end;
216     unsigned int stream_count;
217     int i, j, count;
218     int tmp_stream, tmp_mul, tmp_pts, tmp_size, tmp_res, tmp_head_idx;
219
220     end  = get_packetheader(nut, bc, 1, MAIN_STARTCODE);
221     end += avio_tell(bc);
222
223     GET_V(tmp, tmp >= 2 && tmp <= 3)
224     GET_V(stream_count, tmp > 0 && tmp <= NUT_MAX_STREAMS)
225
226     nut->max_distance = ffio_read_varlen(bc);
227     if (nut->max_distance > 65536) {
228         av_log(s, AV_LOG_DEBUG, "max_distance %d\n", nut->max_distance);
229         nut->max_distance = 65536;
230     }
231
232     GET_V(nut->time_base_count, tmp > 0 && tmp < INT_MAX / sizeof(AVRational))
233     nut->time_base = av_malloc(nut->time_base_count * sizeof(AVRational));
234
235     for (i = 0; i < nut->time_base_count; i++) {
236         GET_V(nut->time_base[i].num, tmp > 0 && tmp < (1ULL << 31))
237         GET_V(nut->time_base[i].den, tmp > 0 && tmp < (1ULL << 31))
238         if (av_gcd(nut->time_base[i].num, nut->time_base[i].den) != 1) {
239             av_log(s, AV_LOG_ERROR, "time base invalid\n");
240             return AVERROR_INVALIDDATA;
241         }
242     }
243     tmp_pts      = 0;
244     tmp_mul      = 1;
245     tmp_stream   = 0;
246     tmp_head_idx = 0;
247     for (i = 0; i < 256;) {
248         int tmp_flags  = ffio_read_varlen(bc);
249         int tmp_fields = ffio_read_varlen(bc);
250
251         if (tmp_fields > 0)
252             tmp_pts = get_s(bc);
253         if (tmp_fields > 1)
254             tmp_mul = ffio_read_varlen(bc);
255         if (tmp_fields > 2)
256             tmp_stream = ffio_read_varlen(bc);
257         if (tmp_fields > 3)
258             tmp_size = ffio_read_varlen(bc);
259         else
260             tmp_size = 0;
261         if (tmp_fields > 4)
262             tmp_res = ffio_read_varlen(bc);
263         else
264             tmp_res = 0;
265         if (tmp_fields > 5)
266             count = ffio_read_varlen(bc);
267         else
268             count = tmp_mul - tmp_size;
269         if (tmp_fields > 6)
270             get_s(bc);
271         if (tmp_fields > 7)
272             tmp_head_idx = ffio_read_varlen(bc);
273
274         while (tmp_fields-- > 8)
275             ffio_read_varlen(bc);
276
277         if (count == 0 || i + count > 256) {
278             av_log(s, AV_LOG_ERROR, "illegal count %d at %d\n", count, i);
279             return AVERROR_INVALIDDATA;
280         }
281         if (tmp_stream >= stream_count) {
282             av_log(s, AV_LOG_ERROR, "illegal stream number\n");
283             return AVERROR_INVALIDDATA;
284         }
285
286         for (j = 0; j < count; j++, i++) {
287             if (i == 'N') {
288                 nut->frame_code[i].flags = FLAG_INVALID;
289                 j--;
290                 continue;
291             }
292             nut->frame_code[i].flags          = tmp_flags;
293             nut->frame_code[i].pts_delta      = tmp_pts;
294             nut->frame_code[i].stream_id      = tmp_stream;
295             nut->frame_code[i].size_mul       = tmp_mul;
296             nut->frame_code[i].size_lsb       = tmp_size + j;
297             nut->frame_code[i].reserved_count = tmp_res;
298             nut->frame_code[i].header_idx     = tmp_head_idx;
299         }
300     }
301     assert(nut->frame_code['N'].flags == FLAG_INVALID);
302
303     if (end > avio_tell(bc) + 4) {
304         int rem = 1024;
305         GET_V(nut->header_count, tmp < 128U)
306         nut->header_count++;
307         for (i = 1; i < nut->header_count; i++) {
308             GET_V(nut->header_len[i], tmp > 0 && tmp < 256);
309             rem -= nut->header_len[i];
310             if (rem < 0) {
311                 av_log(s, AV_LOG_ERROR, "invalid elision header\n");
312                 return AVERROR_INVALIDDATA;
313             }
314             nut->header[i] = av_malloc(nut->header_len[i]);
315             avio_read(bc, nut->header[i], nut->header_len[i]);
316         }
317         assert(nut->header_len[0] == 0);
318     }
319
320     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
321         av_log(s, AV_LOG_ERROR, "main header checksum mismatch\n");
322         return AVERROR_INVALIDDATA;
323     }
324
325     nut->stream = av_mallocz(sizeof(StreamContext) * stream_count);
326     for (i = 0; i < stream_count; i++)
327         avformat_new_stream(s, NULL);
328
329     return 0;
330 }
331
332 static int decode_stream_header(NUTContext *nut)
333 {
334     AVFormatContext *s = nut->avf;
335     AVIOContext *bc    = s->pb;
336     StreamContext *stc;
337     int class, stream_id;
338     uint64_t tmp, end;
339     AVStream *st;
340
341     end  = get_packetheader(nut, bc, 1, STREAM_STARTCODE);
342     end += avio_tell(bc);
343
344     GET_V(stream_id, tmp < s->nb_streams && !nut->stream[tmp].time_base);
345     stc = &nut->stream[stream_id];
346     st  = s->streams[stream_id];
347     if (!st)
348         return AVERROR(ENOMEM);
349
350     class                = ffio_read_varlen(bc);
351     tmp                  = get_fourcc(bc);
352     st->codec->codec_tag = tmp;
353     switch (class) {
354     case 0:
355         st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
356         st->codec->codec_id   = av_codec_get_id((const AVCodecTag * const []) {
357                                                     ff_codec_bmp_tags,
358                                                     ff_nut_video_tags,
359                                                     0
360                                                 },
361                                                 tmp);
362         break;
363     case 1:
364         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
365         st->codec->codec_id   = ff_codec_get_id(ff_codec_wav_tags, tmp);
366         break;
367     case 2:
368         st->codec->codec_type = AVMEDIA_TYPE_SUBTITLE;
369         st->codec->codec_id   = ff_codec_get_id(ff_nut_subtitle_tags, tmp);
370         break;
371     case 3:
372         st->codec->codec_type = AVMEDIA_TYPE_DATA;
373         break;
374     default:
375         av_log(s, AV_LOG_ERROR, "unknown stream class (%d)\n", class);
376         return -1;
377     }
378     if (class < 3 && st->codec->codec_id == CODEC_ID_NONE)
379         av_log(s, AV_LOG_ERROR,
380                "Unknown codec tag '0x%04x' for stream number %d\n",
381                (unsigned int) tmp, stream_id);
382
383     GET_V(stc->time_base_id, tmp < nut->time_base_count);
384     GET_V(stc->msb_pts_shift, tmp < 16);
385     stc->max_pts_distance = ffio_read_varlen(bc);
386     GET_V(stc->decode_delay, tmp < 1000); // sanity limit, raise this if Moore's law is true
387     st->codec->has_b_frames = stc->decode_delay;
388     ffio_read_varlen(bc); // stream flags
389
390     GET_V(st->codec->extradata_size, tmp < (1 << 30));
391     if (st->codec->extradata_size) {
392         st->codec->extradata = av_mallocz(st->codec->extradata_size +
393                                           FF_INPUT_BUFFER_PADDING_SIZE);
394         avio_read(bc, st->codec->extradata, st->codec->extradata_size);
395     }
396
397     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
398         GET_V(st->codec->width,  tmp > 0)
399         GET_V(st->codec->height, tmp > 0)
400         st->sample_aspect_ratio.num = ffio_read_varlen(bc);
401         st->sample_aspect_ratio.den = ffio_read_varlen(bc);
402         if ((!st->sample_aspect_ratio.num) != (!st->sample_aspect_ratio.den)) {
403             av_log(s, AV_LOG_ERROR, "invalid aspect ratio %d/%d\n",
404                    st->sample_aspect_ratio.num, st->sample_aspect_ratio.den);
405             return -1;
406         }
407         ffio_read_varlen(bc); /* csp type */
408     } else if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
409         GET_V(st->codec->sample_rate, tmp > 0)
410         ffio_read_varlen(bc); // samplerate_den
411         GET_V(st->codec->channels, tmp > 0)
412     }
413     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
414         av_log(s, AV_LOG_ERROR,
415                "stream header %d checksum mismatch\n", stream_id);
416         return -1;
417     }
418     stc->time_base = &nut->time_base[stc->time_base_id];
419     avpriv_set_pts_info(s->streams[stream_id], 63, stc->time_base->num,
420                         stc->time_base->den);
421     return 0;
422 }
423
424 static void set_disposition_bits(AVFormatContext *avf, char *value,
425                                  int stream_id)
426 {
427     int flag = 0, i;
428
429     for (i = 0; ff_nut_dispositions[i].flag; ++i)
430         if (!strcmp(ff_nut_dispositions[i].str, value))
431             flag = ff_nut_dispositions[i].flag;
432     if (!flag)
433         av_log(avf, AV_LOG_INFO, "unknown disposition type '%s'\n", value);
434     for (i = 0; i < avf->nb_streams; ++i)
435         if (stream_id == i || stream_id == -1)
436             avf->streams[i]->disposition |= flag;
437 }
438
439 static int decode_info_header(NUTContext *nut)
440 {
441     AVFormatContext *s = nut->avf;
442     AVIOContext *bc    = s->pb;
443     uint64_t tmp, chapter_start, chapter_len;
444     unsigned int stream_id_plus1, count;
445     int chapter_id, i;
446     int64_t value, end;
447     char name[256], str_value[1024], type_str[256];
448     const char *type;
449     AVChapter *chapter      = NULL;
450     AVStream *st            = NULL;
451     AVDictionary **metadata = NULL;
452
453     end  = get_packetheader(nut, bc, 1, INFO_STARTCODE);
454     end += avio_tell(bc);
455
456     GET_V(stream_id_plus1, tmp <= s->nb_streams)
457     chapter_id    = get_s(bc);
458     chapter_start = ffio_read_varlen(bc);
459     chapter_len   = ffio_read_varlen(bc);
460     count         = ffio_read_varlen(bc);
461
462     if (chapter_id && !stream_id_plus1) {
463         int64_t start = chapter_start / nut->time_base_count;
464         chapter = avpriv_new_chapter(s, chapter_id,
465                                      nut->time_base[chapter_start %
466                                                     nut->time_base_count],
467                                      start, start + chapter_len, NULL);
468         metadata = &chapter->metadata;
469     } else if (stream_id_plus1) {
470         st       = s->streams[stream_id_plus1 - 1];
471         metadata = &st->metadata;
472     } else
473         metadata = &s->metadata;
474
475     for (i = 0; i < count; i++) {
476         get_str(bc, name, sizeof(name));
477         value = get_s(bc);
478         if (value == -1) {
479             type = "UTF-8";
480             get_str(bc, str_value, sizeof(str_value));
481         } else if (value == -2) {
482             get_str(bc, type_str, sizeof(type_str));
483             type = type_str;
484             get_str(bc, str_value, sizeof(str_value));
485         } else if (value == -3) {
486             type  = "s";
487             value = get_s(bc);
488         } else if (value == -4) {
489             type  = "t";
490             value = ffio_read_varlen(bc);
491         } else if (value < -4) {
492             type = "r";
493             get_s(bc);
494         } else {
495             type = "v";
496         }
497
498         if (stream_id_plus1 > s->nb_streams) {
499             av_log(s, AV_LOG_ERROR, "invalid stream id for info packet\n");
500             continue;
501         }
502
503         if (!strcmp(type, "UTF-8")) {
504             if (chapter_id == 0 && !strcmp(name, "Disposition")) {
505                 set_disposition_bits(s, str_value, stream_id_plus1 - 1);
506                 continue;
507             }
508             if (metadata && av_strcasecmp(name, "Uses") &&
509                 av_strcasecmp(name, "Depends") && av_strcasecmp(name, "Replaces"))
510                 av_dict_set(metadata, name, str_value, 0);
511         }
512     }
513
514     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
515         av_log(s, AV_LOG_ERROR, "info header checksum mismatch\n");
516         return -1;
517     }
518     return 0;
519 }
520
521 static int decode_syncpoint(NUTContext *nut, int64_t *ts, int64_t *back_ptr)
522 {
523     AVFormatContext *s = nut->avf;
524     AVIOContext *bc    = s->pb;
525     int64_t end, tmp;
526
527     nut->last_syncpoint_pos = avio_tell(bc) - 8;
528
529     end  = get_packetheader(nut, bc, 1, SYNCPOINT_STARTCODE);
530     end += avio_tell(bc);
531
532     tmp       = ffio_read_varlen(bc);
533     *back_ptr = nut->last_syncpoint_pos - 16 * ffio_read_varlen(bc);
534     if (*back_ptr < 0)
535         return -1;
536
537     ff_nut_reset_ts(nut, nut->time_base[tmp % nut->time_base_count],
538                     tmp / nut->time_base_count);
539
540     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
541         av_log(s, AV_LOG_ERROR, "sync point checksum mismatch\n");
542         return -1;
543     }
544
545     *ts = tmp / s->nb_streams *
546           av_q2d(nut->time_base[tmp % s->nb_streams]) * AV_TIME_BASE;
547     ff_nut_add_sp(nut, nut->last_syncpoint_pos, *back_ptr, *ts);
548
549     return 0;
550 }
551
552 static int find_and_decode_index(NUTContext *nut)
553 {
554     AVFormatContext *s = nut->avf;
555     AVIOContext *bc    = s->pb;
556     uint64_t tmp, end;
557     int i, j, syncpoint_count;
558     int64_t filesize = avio_size(bc);
559     int64_t *syncpoints;
560     int8_t *has_keyframe;
561     int ret = -1;
562
563     avio_seek(bc, filesize - 12, SEEK_SET);
564     avio_seek(bc, filesize - avio_rb64(bc), SEEK_SET);
565     if (avio_rb64(bc) != INDEX_STARTCODE) {
566         av_log(s, AV_LOG_ERROR, "no index at the end\n");
567         return -1;
568     }
569
570     end  = get_packetheader(nut, bc, 1, INDEX_STARTCODE);
571     end += avio_tell(bc);
572
573     ffio_read_varlen(bc); // max_pts
574     GET_V(syncpoint_count, tmp < INT_MAX / 8 && tmp > 0)
575     syncpoints   = av_malloc(sizeof(int64_t) *  syncpoint_count);
576     has_keyframe = av_malloc(sizeof(int8_t)  * (syncpoint_count + 1));
577     for (i = 0; i < syncpoint_count; i++) {
578         syncpoints[i] = ffio_read_varlen(bc);
579         if (syncpoints[i] <= 0)
580             goto fail;
581         if (i)
582             syncpoints[i] += syncpoints[i - 1];
583     }
584
585     for (i = 0; i < s->nb_streams; i++) {
586         int64_t last_pts = -1;
587         for (j = 0; j < syncpoint_count;) {
588             uint64_t x = ffio_read_varlen(bc);
589             int type   = x & 1;
590             int n      = j;
591             x >>= 1;
592             if (type) {
593                 int flag = x & 1;
594                 x >>= 1;
595                 if (n + x >= syncpoint_count + 1) {
596                     av_log(s, AV_LOG_ERROR, "index overflow A\n");
597                     goto fail;
598                 }
599                 while (x--)
600                     has_keyframe[n++] = flag;
601                 has_keyframe[n++] = !flag;
602             } else {
603                 while (x != 1) {
604                     if (n >= syncpoint_count + 1) {
605                         av_log(s, AV_LOG_ERROR, "index overflow B\n");
606                         goto fail;
607                     }
608                     has_keyframe[n++] = x & 1;
609                     x >>= 1;
610                 }
611             }
612             if (has_keyframe[0]) {
613                 av_log(s, AV_LOG_ERROR, "keyframe before first syncpoint in index\n");
614                 goto fail;
615             }
616             assert(n <= syncpoint_count + 1);
617             for (; j < n && j < syncpoint_count; j++) {
618                 if (has_keyframe[j]) {
619                     uint64_t B, A = ffio_read_varlen(bc);
620                     if (!A) {
621                         A = ffio_read_varlen(bc);
622                         B = ffio_read_varlen(bc);
623                         // eor_pts[j][i] = last_pts + A + B
624                     } else
625                         B = 0;
626                     av_add_index_entry(s->streams[i], 16 * syncpoints[j - 1],
627                                        last_pts + A, 0, 0, AVINDEX_KEYFRAME);
628                     last_pts += A + B;
629                 }
630             }
631         }
632     }
633
634     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
635         av_log(s, AV_LOG_ERROR, "index checksum mismatch\n");
636         goto fail;
637     }
638     ret = 0;
639
640 fail:
641     av_free(syncpoints);
642     av_free(has_keyframe);
643     return ret;
644 }
645
646 static int nut_read_header(AVFormatContext *s)
647 {
648     NUTContext *nut = s->priv_data;
649     AVIOContext *bc = s->pb;
650     int64_t pos;
651     int initialized_stream_count;
652
653     nut->avf = s;
654
655     /* main header */
656     pos = 0;
657     do {
658         pos = find_startcode(bc, MAIN_STARTCODE, pos) + 1;
659         if (pos < 0 + 1) {
660             av_log(s, AV_LOG_ERROR, "No main startcode found.\n");
661             return AVERROR_INVALIDDATA;
662         }
663     } while (decode_main_header(nut) < 0);
664
665     /* stream headers */
666     pos = 0;
667     for (initialized_stream_count = 0; initialized_stream_count < s->nb_streams;) {
668         pos = find_startcode(bc, STREAM_STARTCODE, pos) + 1;
669         if (pos < 0 + 1) {
670             av_log(s, AV_LOG_ERROR, "Not all stream headers found.\n");
671             return AVERROR_INVALIDDATA;
672         }
673         if (decode_stream_header(nut) >= 0)
674             initialized_stream_count++;
675     }
676
677     /* info headers */
678     pos = 0;
679     for (;;) {
680         uint64_t startcode = find_any_startcode(bc, pos);
681         pos = avio_tell(bc);
682
683         if (startcode == 0) {
684             av_log(s, AV_LOG_ERROR, "EOF before video frames\n");
685             return AVERROR_INVALIDDATA;
686         } else if (startcode == SYNCPOINT_STARTCODE) {
687             nut->next_startcode = startcode;
688             break;
689         } else if (startcode != INFO_STARTCODE) {
690             continue;
691         }
692
693         decode_info_header(nut);
694     }
695
696     s->data_offset = pos - 8;
697
698     if (bc->seekable) {
699         int64_t orig_pos = avio_tell(bc);
700         find_and_decode_index(nut);
701         avio_seek(bc, orig_pos, SEEK_SET);
702     }
703     assert(nut->next_startcode == SYNCPOINT_STARTCODE);
704
705     ff_metadata_conv_ctx(s, NULL, ff_nut_metadata_conv);
706
707     return 0;
708 }
709
710 static int decode_frame_header(NUTContext *nut, int64_t *pts, int *stream_id,
711                                uint8_t *header_idx, int frame_code)
712 {
713     AVFormatContext *s = nut->avf;
714     AVIOContext *bc    = s->pb;
715     StreamContext *stc;
716     int size, flags, size_mul, pts_delta, i, reserved_count;
717     uint64_t tmp;
718
719     if (avio_tell(bc) > nut->last_syncpoint_pos + nut->max_distance) {
720         av_log(s, AV_LOG_ERROR,
721                "Last frame must have been damaged %"PRId64" > %"PRId64" + %d\n",
722                avio_tell(bc), nut->last_syncpoint_pos, nut->max_distance);
723         return AVERROR_INVALIDDATA;
724     }
725
726     flags          = nut->frame_code[frame_code].flags;
727     size_mul       = nut->frame_code[frame_code].size_mul;
728     size           = nut->frame_code[frame_code].size_lsb;
729     *stream_id     = nut->frame_code[frame_code].stream_id;
730     pts_delta      = nut->frame_code[frame_code].pts_delta;
731     reserved_count = nut->frame_code[frame_code].reserved_count;
732     *header_idx    = nut->frame_code[frame_code].header_idx;
733
734     if (flags & FLAG_INVALID)
735         return AVERROR_INVALIDDATA;
736     if (flags & FLAG_CODED)
737         flags ^= ffio_read_varlen(bc);
738     if (flags & FLAG_STREAM_ID) {
739         GET_V(*stream_id, tmp < s->nb_streams)
740     }
741     stc = &nut->stream[*stream_id];
742     if (flags & FLAG_CODED_PTS) {
743         int coded_pts = ffio_read_varlen(bc);
744         // FIXME check last_pts validity?
745         if (coded_pts < (1 << stc->msb_pts_shift)) {
746             *pts = ff_lsb2full(stc, coded_pts);
747         } else
748             *pts = coded_pts - (1 << stc->msb_pts_shift);
749     } else
750         *pts = stc->last_pts + pts_delta;
751     if (flags & FLAG_SIZE_MSB)
752         size += size_mul * ffio_read_varlen(bc);
753     if (flags & FLAG_MATCH_TIME)
754         get_s(bc);
755     if (flags & FLAG_HEADER_IDX)
756         *header_idx = ffio_read_varlen(bc);
757     if (flags & FLAG_RESERVED)
758         reserved_count = ffio_read_varlen(bc);
759     for (i = 0; i < reserved_count; i++)
760         ffio_read_varlen(bc);
761
762     if (*header_idx >= (unsigned)nut->header_count) {
763         av_log(s, AV_LOG_ERROR, "header_idx invalid\n");
764         return AVERROR_INVALIDDATA;
765     }
766     if (size > 4096)
767         *header_idx = 0;
768     size -= nut->header_len[*header_idx];
769
770     if (flags & FLAG_CHECKSUM) {
771         avio_rb32(bc); // FIXME check this
772     } else if (size > 2 * nut->max_distance || FFABS(stc->last_pts - *pts) >
773                stc->max_pts_distance) {
774         av_log(s, AV_LOG_ERROR, "frame size > 2max_distance and no checksum\n");
775         return AVERROR_INVALIDDATA;
776     }
777
778     stc->last_pts   = *pts;
779     stc->last_flags = flags;
780
781     return size;
782 }
783
784 static int decode_frame(NUTContext *nut, AVPacket *pkt, int frame_code)
785 {
786     AVFormatContext *s = nut->avf;
787     AVIOContext *bc    = s->pb;
788     int size, stream_id, discard;
789     int64_t pts, last_IP_pts;
790     StreamContext *stc;
791     uint8_t header_idx;
792
793     size = decode_frame_header(nut, &pts, &stream_id, &header_idx, frame_code);
794     if (size < 0)
795         return size;
796
797     stc = &nut->stream[stream_id];
798
799     if (stc->last_flags & FLAG_KEY)
800         stc->skip_until_key_frame = 0;
801
802     discard     = s->streams[stream_id]->discard;
803     last_IP_pts = s->streams[stream_id]->last_IP_pts;
804     if ((discard >= AVDISCARD_NONKEY && !(stc->last_flags & FLAG_KEY)) ||
805         (discard >= AVDISCARD_BIDIR  && last_IP_pts != AV_NOPTS_VALUE &&
806          last_IP_pts > pts) ||
807         discard >= AVDISCARD_ALL ||
808         stc->skip_until_key_frame) {
809         avio_skip(bc, size);
810         return 1;
811     }
812
813     av_new_packet(pkt, size + nut->header_len[header_idx]);
814     memcpy(pkt->data, nut->header[header_idx], nut->header_len[header_idx]);
815     pkt->pos = avio_tell(bc); // FIXME
816     avio_read(bc, pkt->data + nut->header_len[header_idx], size);
817
818     pkt->stream_index = stream_id;
819     if (stc->last_flags & FLAG_KEY)
820         pkt->flags |= AV_PKT_FLAG_KEY;
821     pkt->pts = pts;
822
823     return 0;
824 }
825
826 static int nut_read_packet(AVFormatContext *s, AVPacket *pkt)
827 {
828     NUTContext *nut = s->priv_data;
829     AVIOContext *bc = s->pb;
830     int i, frame_code = 0, ret, skip;
831     int64_t ts, back_ptr;
832
833     for (;;) {
834         int64_t pos  = avio_tell(bc);
835         uint64_t tmp = nut->next_startcode;
836         nut->next_startcode = 0;
837
838         if (tmp) {
839             pos -= 8;
840         } else {
841             frame_code = avio_r8(bc);
842             if (bc->eof_reached)
843                 return -1;
844             if (frame_code == 'N') {
845                 tmp = frame_code;
846                 for (i = 1; i < 8; i++)
847                     tmp = (tmp << 8) + avio_r8(bc);
848             }
849         }
850         switch (tmp) {
851         case MAIN_STARTCODE:
852         case STREAM_STARTCODE:
853         case INDEX_STARTCODE:
854             skip = get_packetheader(nut, bc, 0, tmp);
855             avio_skip(bc, skip);
856             break;
857         case INFO_STARTCODE:
858             if (decode_info_header(nut) < 0)
859                 goto resync;
860             break;
861         case SYNCPOINT_STARTCODE:
862             if (decode_syncpoint(nut, &ts, &back_ptr) < 0)
863                 goto resync;
864             frame_code = avio_r8(bc);
865         case 0:
866             ret = decode_frame(nut, pkt, frame_code);
867             if (ret == 0)
868                 return 0;
869             else if (ret == 1) // OK but discard packet
870                 break;
871         default:
872 resync:
873             av_log(s, AV_LOG_DEBUG, "syncing from %"PRId64"\n", pos);
874             tmp = find_any_startcode(bc, nut->last_syncpoint_pos + 1);
875             if (tmp == 0)
876                 return AVERROR_INVALIDDATA;
877             av_log(s, AV_LOG_DEBUG, "sync\n");
878             nut->next_startcode = tmp;
879         }
880     }
881 }
882
883 static int64_t nut_read_timestamp(AVFormatContext *s, int stream_index,
884                                   int64_t *pos_arg, int64_t pos_limit)
885 {
886     NUTContext *nut = s->priv_data;
887     AVIOContext *bc = s->pb;
888     int64_t pos, pts, back_ptr;
889     av_log(s, AV_LOG_DEBUG, "read_timestamp(X,%d,%"PRId64",%"PRId64")\n",
890            stream_index, *pos_arg, pos_limit);
891
892     pos = *pos_arg;
893     do {
894         pos = find_startcode(bc, SYNCPOINT_STARTCODE, pos) + 1;
895         if (pos < 1) {
896             assert(nut->next_startcode == 0);
897             av_log(s, AV_LOG_ERROR, "read_timestamp failed.\n");
898             return AV_NOPTS_VALUE;
899         }
900     } while (decode_syncpoint(nut, &pts, &back_ptr) < 0);
901     *pos_arg = pos - 1;
902     assert(nut->last_syncpoint_pos == *pos_arg);
903
904     av_log(s, AV_LOG_DEBUG, "return %"PRId64" %"PRId64"\n", pts, back_ptr);
905     if (stream_index == -1)
906         return pts;
907     else if (stream_index == -2)
908         return back_ptr;
909
910     assert(0);
911 }
912
913 static int read_seek(AVFormatContext *s, int stream_index,
914                      int64_t pts, int flags)
915 {
916     NUTContext *nut    = s->priv_data;
917     AVStream *st       = s->streams[stream_index];
918     Syncpoint dummy    = { .ts = pts * av_q2d(st->time_base) * AV_TIME_BASE };
919     Syncpoint nopts_sp = { .ts = AV_NOPTS_VALUE, .back_ptr = AV_NOPTS_VALUE };
920     Syncpoint *sp, *next_node[2] = { &nopts_sp, &nopts_sp };
921     int64_t pos, pos2, ts;
922     int i;
923
924     if (st->index_entries) {
925         int index = av_index_search_timestamp(st, pts, flags);
926         if (index < 0)
927             return -1;
928
929         pos2 = st->index_entries[index].pos;
930         ts   = st->index_entries[index].timestamp;
931     } else {
932         av_tree_find(nut->syncpoints, &dummy, (void *) ff_nut_sp_pts_cmp,
933                      (void **) next_node);
934         av_log(s, AV_LOG_DEBUG, "%"PRIu64"-%"PRIu64" %"PRId64"-%"PRId64"\n",
935                next_node[0]->pos, next_node[1]->pos, next_node[0]->ts,
936                next_node[1]->ts);
937         pos = ff_gen_search(s, -1, dummy.ts, next_node[0]->pos,
938                             next_node[1]->pos, next_node[1]->pos,
939                             next_node[0]->ts, next_node[1]->ts,
940                             AVSEEK_FLAG_BACKWARD, &ts, nut_read_timestamp);
941
942         if (!(flags & AVSEEK_FLAG_BACKWARD)) {
943             dummy.pos    = pos + 16;
944             next_node[1] = &nopts_sp;
945             av_tree_find(nut->syncpoints, &dummy, (void *) ff_nut_sp_pos_cmp,
946                          (void **) next_node);
947             pos2 = ff_gen_search(s, -2, dummy.pos, next_node[0]->pos,
948                                  next_node[1]->pos, next_node[1]->pos,
949                                  next_node[0]->back_ptr, next_node[1]->back_ptr,
950                                  flags, &ts, nut_read_timestamp);
951             if (pos2 >= 0)
952                 pos = pos2;
953             // FIXME dir but I think it does not matter
954         }
955         dummy.pos = pos;
956         sp = av_tree_find(nut->syncpoints, &dummy, (void *) ff_nut_sp_pos_cmp,
957                           NULL);
958
959         assert(sp);
960         pos2 = sp->back_ptr - 15;
961     }
962     av_log(NULL, AV_LOG_DEBUG, "SEEKTO: %"PRId64"\n", pos2);
963     pos = find_startcode(s->pb, SYNCPOINT_STARTCODE, pos2);
964     avio_seek(s->pb, pos, SEEK_SET);
965     av_log(NULL, AV_LOG_DEBUG, "SP: %"PRId64"\n", pos);
966     if (pos2 > pos || pos2 + 15 < pos)
967         av_log(NULL, AV_LOG_ERROR, "no syncpoint at backptr pos\n");
968     for (i = 0; i < s->nb_streams; i++)
969         nut->stream[i].skip_until_key_frame = 1;
970
971     return 0;
972 }
973
974 static int nut_read_close(AVFormatContext *s)
975 {
976     NUTContext *nut = s->priv_data;
977     int i;
978
979     av_freep(&nut->time_base);
980     av_freep(&nut->stream);
981     ff_nut_free_sp(nut);
982     for (i = 1; i < nut->header_count; i++)
983         av_freep(&nut->header[i]);
984
985     return 0;
986 }
987
988 AVInputFormat ff_nut_demuxer = {
989     .name           = "nut",
990     .long_name      = NULL_IF_CONFIG_SMALL("NUT format"),
991     .priv_data_size = sizeof(NUTContext),
992     .read_probe     = nut_probe,
993     .read_header    = nut_read_header,
994     .read_packet    = nut_read_packet,
995     .read_close     = nut_read_close,
996     .read_seek      = read_seek,
997     .extensions     = "nut",
998     .codec_tag      = (const AVCodecTag * const []) {
999         ff_codec_bmp_tags, ff_nut_video_tags, ff_codec_wav_tags,
1000         ff_nut_subtitle_tags, 0
1001     },
1002 };