]> git.sesse.net Git - ffmpeg/blob - libavformat/nutdec.c
avidec: return 0, not packet size from read_packet().
[ffmpeg] / libavformat / nutdec.c
1 /*
2  * "NUT" Container Format demuxer
3  * Copyright (c) 2004-2006 Michael Niedermayer
4  * Copyright (c) 2003 Alex Beregszaszi
5  *
6  * This file is part of Libav.
7  *
8  * Libav is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * Libav is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with Libav; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #include "libavutil/avstring.h"
24 #include "libavutil/bswap.h"
25 #include "libavutil/dict.h"
26 #include "libavutil/mathematics.h"
27 #include "libavutil/tree.h"
28 #include "avio_internal.h"
29 #include "nut.h"
30
31 #undef NDEBUG
32 #include <assert.h>
33
34 #define NUT_MAX_STREAMS 256    /* arbitrary sanity check value */
35
36 static int get_str(AVIOContext *bc, char *string, unsigned int maxlen)
37 {
38     unsigned int len = ffio_read_varlen(bc);
39
40     if (len && maxlen)
41         avio_read(bc, string, FFMIN(len, maxlen));
42     while (len > maxlen) {
43         avio_r8(bc);
44         len--;
45     }
46
47     if (maxlen)
48         string[FFMIN(len, maxlen - 1)] = 0;
49
50     if (maxlen == len)
51         return -1;
52     else
53         return 0;
54 }
55
56 static int64_t get_s(AVIOContext *bc)
57 {
58     int64_t v = ffio_read_varlen(bc) + 1;
59
60     if (v & 1)
61         return -(v >> 1);
62     else
63         return  (v >> 1);
64 }
65
66 static uint64_t get_fourcc(AVIOContext *bc)
67 {
68     unsigned int len = ffio_read_varlen(bc);
69
70     if (len == 2)
71         return avio_rl16(bc);
72     else if (len == 4)
73         return avio_rl32(bc);
74     else
75         return -1;
76 }
77
78 #ifdef TRACE
79 static inline uint64_t get_v_trace(AVIOContext *bc, const char *file,
80                                    const char *func, int line)
81 {
82     uint64_t v = ffio_read_varlen(bc);
83
84     av_log(NULL, AV_LOG_DEBUG, "get_v %5"PRId64" / %"PRIX64" in %s %s:%d\n",
85            v, v, file, func, line);
86     return v;
87 }
88
89 static inline int64_t get_s_trace(AVIOContext *bc, const char *file,
90                                   const char *func, int line)
91 {
92     int64_t v = get_s(bc);
93
94     av_log(NULL, AV_LOG_DEBUG, "get_s %5"PRId64" / %"PRIX64" in %s %s:%d\n",
95            v, v, file, func, line);
96     return v;
97 }
98
99 #define ffio_read_varlen(bc) get_v_trace(bc,  __FILE__, __PRETTY_FUNCTION__, __LINE__)
100 #define get_s(bc)            get_s_trace(bc,  __FILE__, __PRETTY_FUNCTION__, __LINE__)
101 #endif
102
103 static int get_packetheader(NUTContext *nut, AVIOContext *bc,
104                             int calculate_checksum, uint64_t startcode)
105 {
106     int64_t size;
107 //    start = avio_tell(bc) - 8;
108
109     startcode = av_be2ne64(startcode);
110     startcode = ff_crc04C11DB7_update(0, (uint8_t*) &startcode, 8);
111
112     ffio_init_checksum(bc, ff_crc04C11DB7_update, startcode);
113     size = ffio_read_varlen(bc);
114     if (size > 4096)
115         avio_rb32(bc);
116     if (ffio_get_checksum(bc) && size > 4096)
117         return -1;
118
119     ffio_init_checksum(bc, calculate_checksum ? ff_crc04C11DB7_update : NULL, 0);
120
121     return size;
122 }
123
124 static uint64_t find_any_startcode(AVIOContext *bc, int64_t pos)
125 {
126     uint64_t state = 0;
127
128     if (pos >= 0)
129         /* Note, this may fail if the stream is not seekable, but that should
130          * not matter, as in this case we simply start where we currently are */
131         avio_seek(bc, pos, SEEK_SET);
132     while (!bc->eof_reached) {
133         state = (state << 8) | avio_r8(bc);
134         if ((state >> 56) != 'N')
135             continue;
136         switch (state) {
137         case MAIN_STARTCODE:
138         case STREAM_STARTCODE:
139         case SYNCPOINT_STARTCODE:
140         case INFO_STARTCODE:
141         case INDEX_STARTCODE:
142             return state;
143         }
144     }
145
146     return 0;
147 }
148
149 /**
150  * Find the given startcode.
151  * @param code the startcode
152  * @param pos the start position of the search, or -1 if the current position
153  * @return the position of the startcode or -1 if not found
154  */
155 static int64_t find_startcode(AVIOContext *bc, uint64_t code, int64_t pos)
156 {
157     for (;;) {
158         uint64_t startcode = find_any_startcode(bc, pos);
159         if (startcode == code)
160             return avio_tell(bc) - 8;
161         else if (startcode == 0)
162             return -1;
163         pos = -1;
164     }
165 }
166
167 static int nut_probe(AVProbeData *p)
168 {
169     int i;
170     uint64_t code = 0;
171
172     for (i = 0; i < p->buf_size; i++) {
173         code = (code << 8) | p->buf[i];
174         if (code == MAIN_STARTCODE)
175             return AVPROBE_SCORE_MAX;
176     }
177     return 0;
178 }
179
180 #define GET_V(dst, check)                                                 \
181     tmp = ffio_read_varlen(bc);                                           \
182     if (!(check)) {                                                       \
183         av_log(s, AV_LOG_ERROR, "Error " #dst " is (%"PRId64")\n", tmp);  \
184         return -1;                                                        \
185     }                                                                     \
186     dst = tmp;
187
188 static int skip_reserved(AVIOContext *bc, int64_t pos)
189 {
190     pos -= avio_tell(bc);
191     if (pos < 0) {
192         avio_seek(bc, pos, SEEK_CUR);
193         return -1;
194     } else {
195         while (pos--)
196             avio_r8(bc);
197         return 0;
198     }
199 }
200
201 static int decode_main_header(NUTContext *nut)
202 {
203     AVFormatContext *s = nut->avf;
204     AVIOContext *bc    = s->pb;
205     uint64_t tmp, end;
206     unsigned int stream_count;
207     int i, j, count;
208     int tmp_stream, tmp_mul, tmp_pts, tmp_size, tmp_res, tmp_head_idx;
209
210     end  = get_packetheader(nut, bc, 1, MAIN_STARTCODE);
211     end += avio_tell(bc);
212
213     GET_V(tmp, tmp >= 2 && tmp <= 3)
214     GET_V(stream_count, tmp > 0 && tmp <= NUT_MAX_STREAMS)
215
216     nut->max_distance = ffio_read_varlen(bc);
217     if (nut->max_distance > 65536) {
218         av_log(s, AV_LOG_DEBUG, "max_distance %d\n", nut->max_distance);
219         nut->max_distance = 65536;
220     }
221
222     GET_V(nut->time_base_count, tmp > 0 && tmp < INT_MAX / sizeof(AVRational))
223     nut->time_base = av_malloc(nut->time_base_count * sizeof(AVRational));
224
225     for (i = 0; i < nut->time_base_count; i++) {
226         GET_V(nut->time_base[i].num, tmp > 0 && tmp < (1ULL << 31))
227         GET_V(nut->time_base[i].den, tmp > 0 && tmp < (1ULL << 31))
228         if (av_gcd(nut->time_base[i].num, nut->time_base[i].den) != 1) {
229             av_log(s, AV_LOG_ERROR, "time base invalid\n");
230             return AVERROR_INVALIDDATA;
231         }
232     }
233     tmp_pts      = 0;
234     tmp_mul      = 1;
235     tmp_stream   = 0;
236     tmp_head_idx = 0;
237     for (i = 0; i < 256;) {
238         int tmp_flags  = ffio_read_varlen(bc);
239         int tmp_fields = ffio_read_varlen(bc);
240
241         if (tmp_fields > 0)
242             tmp_pts = get_s(bc);
243         if (tmp_fields > 1)
244             tmp_mul = ffio_read_varlen(bc);
245         if (tmp_fields > 2)
246             tmp_stream = ffio_read_varlen(bc);
247         if (tmp_fields > 3)
248             tmp_size = ffio_read_varlen(bc);
249         else
250             tmp_size = 0;
251         if (tmp_fields > 4)
252             tmp_res = ffio_read_varlen(bc);
253         else
254             tmp_res = 0;
255         if (tmp_fields > 5)
256             count = ffio_read_varlen(bc);
257         else
258             count = tmp_mul - tmp_size;
259         if (tmp_fields > 6)
260             get_s(bc);
261         if (tmp_fields > 7)
262             tmp_head_idx = ffio_read_varlen(bc);
263
264         while (tmp_fields-- > 8)
265             ffio_read_varlen(bc);
266
267         if (count == 0 || i + count > 256) {
268             av_log(s, AV_LOG_ERROR, "illegal count %d at %d\n", count, i);
269             return AVERROR_INVALIDDATA;
270         }
271         if (tmp_stream >= stream_count) {
272             av_log(s, AV_LOG_ERROR, "illegal stream number\n");
273             return AVERROR_INVALIDDATA;
274         }
275
276         for (j = 0; j < count; j++, i++) {
277             if (i == 'N') {
278                 nut->frame_code[i].flags = FLAG_INVALID;
279                 j--;
280                 continue;
281             }
282             nut->frame_code[i].flags          = tmp_flags;
283             nut->frame_code[i].pts_delta      = tmp_pts;
284             nut->frame_code[i].stream_id      = tmp_stream;
285             nut->frame_code[i].size_mul       = tmp_mul;
286             nut->frame_code[i].size_lsb       = tmp_size + j;
287             nut->frame_code[i].reserved_count = tmp_res;
288             nut->frame_code[i].header_idx     = tmp_head_idx;
289         }
290     }
291     assert(nut->frame_code['N'].flags == FLAG_INVALID);
292
293     if (end > avio_tell(bc) + 4) {
294         int rem = 1024;
295         GET_V(nut->header_count, tmp < 128U)
296         nut->header_count++;
297         for (i = 1; i < nut->header_count; i++) {
298             uint8_t *hdr;
299             GET_V(nut->header_len[i], tmp > 0 && tmp < 256);
300             rem -= nut->header_len[i];
301             if (rem < 0) {
302                 av_log(s, AV_LOG_ERROR, "invalid elision header\n");
303                 return AVERROR_INVALIDDATA;
304             }
305             hdr = av_malloc(nut->header_len[i]);
306             if (!hdr)
307                 return AVERROR(ENOMEM);
308             avio_read(bc, hdr, nut->header_len[i]);
309             nut->header[i] = hdr;
310         }
311         assert(nut->header_len[0] == 0);
312     }
313
314     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
315         av_log(s, AV_LOG_ERROR, "main header checksum mismatch\n");
316         return AVERROR_INVALIDDATA;
317     }
318
319     nut->stream = av_mallocz(sizeof(StreamContext) * stream_count);
320     for (i = 0; i < stream_count; i++)
321         avformat_new_stream(s, NULL);
322
323     return 0;
324 }
325
326 static int decode_stream_header(NUTContext *nut)
327 {
328     AVFormatContext *s = nut->avf;
329     AVIOContext *bc    = s->pb;
330     StreamContext *stc;
331     int class, stream_id;
332     uint64_t tmp, end;
333     AVStream *st;
334
335     end  = get_packetheader(nut, bc, 1, STREAM_STARTCODE);
336     end += avio_tell(bc);
337
338     GET_V(stream_id, tmp < s->nb_streams && !nut->stream[tmp].time_base);
339     stc = &nut->stream[stream_id];
340     st  = s->streams[stream_id];
341     if (!st)
342         return AVERROR(ENOMEM);
343
344     class                = ffio_read_varlen(bc);
345     tmp                  = get_fourcc(bc);
346     st->codec->codec_tag = tmp;
347     switch (class) {
348     case 0:
349         st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
350         st->codec->codec_id   = av_codec_get_id((const AVCodecTag * const []) {
351                                                     ff_codec_bmp_tags,
352                                                     ff_nut_video_tags,
353                                                     0
354                                                 },
355                                                 tmp);
356         break;
357     case 1:
358         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
359         st->codec->codec_id   = ff_codec_get_id(ff_codec_wav_tags, tmp);
360         break;
361     case 2:
362         st->codec->codec_type = AVMEDIA_TYPE_SUBTITLE;
363         st->codec->codec_id   = ff_codec_get_id(ff_nut_subtitle_tags, tmp);
364         break;
365     case 3:
366         st->codec->codec_type = AVMEDIA_TYPE_DATA;
367         break;
368     default:
369         av_log(s, AV_LOG_ERROR, "unknown stream class (%d)\n", class);
370         return -1;
371     }
372     if (class < 3 && st->codec->codec_id == AV_CODEC_ID_NONE)
373         av_log(s, AV_LOG_ERROR,
374                "Unknown codec tag '0x%04x' for stream number %d\n",
375                (unsigned int) tmp, stream_id);
376
377     GET_V(stc->time_base_id, tmp < nut->time_base_count);
378     GET_V(stc->msb_pts_shift, tmp < 16);
379     stc->max_pts_distance = ffio_read_varlen(bc);
380     GET_V(stc->decode_delay, tmp < 1000); // sanity limit, raise this if Moore's law is true
381     st->codec->has_b_frames = stc->decode_delay;
382     ffio_read_varlen(bc); // stream flags
383
384     GET_V(st->codec->extradata_size, tmp < (1 << 30));
385     if (st->codec->extradata_size) {
386         st->codec->extradata = av_mallocz(st->codec->extradata_size +
387                                           FF_INPUT_BUFFER_PADDING_SIZE);
388         avio_read(bc, st->codec->extradata, st->codec->extradata_size);
389     }
390
391     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
392         GET_V(st->codec->width,  tmp > 0)
393         GET_V(st->codec->height, tmp > 0)
394         st->sample_aspect_ratio.num = ffio_read_varlen(bc);
395         st->sample_aspect_ratio.den = ffio_read_varlen(bc);
396         if ((!st->sample_aspect_ratio.num) != (!st->sample_aspect_ratio.den)) {
397             av_log(s, AV_LOG_ERROR, "invalid aspect ratio %d/%d\n",
398                    st->sample_aspect_ratio.num, st->sample_aspect_ratio.den);
399             return -1;
400         }
401         ffio_read_varlen(bc); /* csp type */
402     } else if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
403         GET_V(st->codec->sample_rate, tmp > 0)
404         ffio_read_varlen(bc); // samplerate_den
405         GET_V(st->codec->channels, tmp > 0)
406     }
407     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
408         av_log(s, AV_LOG_ERROR,
409                "stream header %d checksum mismatch\n", stream_id);
410         return -1;
411     }
412     stc->time_base = &nut->time_base[stc->time_base_id];
413     avpriv_set_pts_info(s->streams[stream_id], 63, stc->time_base->num,
414                         stc->time_base->den);
415     return 0;
416 }
417
418 static void set_disposition_bits(AVFormatContext *avf, char *value,
419                                  int stream_id)
420 {
421     int flag = 0, i;
422
423     for (i = 0; ff_nut_dispositions[i].flag; ++i)
424         if (!strcmp(ff_nut_dispositions[i].str, value))
425             flag = ff_nut_dispositions[i].flag;
426     if (!flag)
427         av_log(avf, AV_LOG_INFO, "unknown disposition type '%s'\n", value);
428     for (i = 0; i < avf->nb_streams; ++i)
429         if (stream_id == i || stream_id == -1)
430             avf->streams[i]->disposition |= flag;
431 }
432
433 static int decode_info_header(NUTContext *nut)
434 {
435     AVFormatContext *s = nut->avf;
436     AVIOContext *bc    = s->pb;
437     uint64_t tmp, chapter_start, chapter_len;
438     unsigned int stream_id_plus1, count;
439     int chapter_id, i;
440     int64_t value, end;
441     char name[256], str_value[1024], type_str[256];
442     const char *type;
443     AVChapter *chapter      = NULL;
444     AVStream *st            = NULL;
445     AVDictionary **metadata = NULL;
446
447     end  = get_packetheader(nut, bc, 1, INFO_STARTCODE);
448     end += avio_tell(bc);
449
450     GET_V(stream_id_plus1, tmp <= s->nb_streams)
451     chapter_id    = get_s(bc);
452     chapter_start = ffio_read_varlen(bc);
453     chapter_len   = ffio_read_varlen(bc);
454     count         = ffio_read_varlen(bc);
455
456     if (chapter_id && !stream_id_plus1) {
457         int64_t start = chapter_start / nut->time_base_count;
458         chapter = avpriv_new_chapter(s, chapter_id,
459                                      nut->time_base[chapter_start %
460                                                     nut->time_base_count],
461                                      start, start + chapter_len, NULL);
462         metadata = &chapter->metadata;
463     } else if (stream_id_plus1) {
464         st       = s->streams[stream_id_plus1 - 1];
465         metadata = &st->metadata;
466     } else
467         metadata = &s->metadata;
468
469     for (i = 0; i < count; i++) {
470         get_str(bc, name, sizeof(name));
471         value = get_s(bc);
472         if (value == -1) {
473             type = "UTF-8";
474             get_str(bc, str_value, sizeof(str_value));
475         } else if (value == -2) {
476             get_str(bc, type_str, sizeof(type_str));
477             type = type_str;
478             get_str(bc, str_value, sizeof(str_value));
479         } else if (value == -3) {
480             type  = "s";
481             value = get_s(bc);
482         } else if (value == -4) {
483             type  = "t";
484             value = ffio_read_varlen(bc);
485         } else if (value < -4) {
486             type = "r";
487             get_s(bc);
488         } else {
489             type = "v";
490         }
491
492         if (stream_id_plus1 > s->nb_streams) {
493             av_log(s, AV_LOG_ERROR, "invalid stream id for info packet\n");
494             continue;
495         }
496
497         if (!strcmp(type, "UTF-8")) {
498             if (chapter_id == 0 && !strcmp(name, "Disposition")) {
499                 set_disposition_bits(s, str_value, stream_id_plus1 - 1);
500                 continue;
501             }
502             if (metadata && av_strcasecmp(name, "Uses") &&
503                 av_strcasecmp(name, "Depends") && av_strcasecmp(name, "Replaces"))
504                 av_dict_set(metadata, name, str_value, 0);
505         }
506     }
507
508     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
509         av_log(s, AV_LOG_ERROR, "info header checksum mismatch\n");
510         return -1;
511     }
512     return 0;
513 }
514
515 static int decode_syncpoint(NUTContext *nut, int64_t *ts, int64_t *back_ptr)
516 {
517     AVFormatContext *s = nut->avf;
518     AVIOContext *bc    = s->pb;
519     int64_t end, tmp;
520
521     nut->last_syncpoint_pos = avio_tell(bc) - 8;
522
523     end  = get_packetheader(nut, bc, 1, SYNCPOINT_STARTCODE);
524     end += avio_tell(bc);
525
526     tmp       = ffio_read_varlen(bc);
527     *back_ptr = nut->last_syncpoint_pos - 16 * ffio_read_varlen(bc);
528     if (*back_ptr < 0)
529         return -1;
530
531     ff_nut_reset_ts(nut, nut->time_base[tmp % nut->time_base_count],
532                     tmp / nut->time_base_count);
533
534     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
535         av_log(s, AV_LOG_ERROR, "sync point checksum mismatch\n");
536         return -1;
537     }
538
539     *ts = tmp / s->nb_streams *
540           av_q2d(nut->time_base[tmp % s->nb_streams]) * AV_TIME_BASE;
541     ff_nut_add_sp(nut, nut->last_syncpoint_pos, *back_ptr, *ts);
542
543     return 0;
544 }
545
546 static int find_and_decode_index(NUTContext *nut)
547 {
548     AVFormatContext *s = nut->avf;
549     AVIOContext *bc    = s->pb;
550     uint64_t tmp, end;
551     int i, j, syncpoint_count;
552     int64_t filesize = avio_size(bc);
553     int64_t *syncpoints;
554     int8_t *has_keyframe;
555     int ret = -1;
556
557     avio_seek(bc, filesize - 12, SEEK_SET);
558     avio_seek(bc, filesize - avio_rb64(bc), SEEK_SET);
559     if (avio_rb64(bc) != INDEX_STARTCODE) {
560         av_log(s, AV_LOG_ERROR, "no index at the end\n");
561         return -1;
562     }
563
564     end  = get_packetheader(nut, bc, 1, INDEX_STARTCODE);
565     end += avio_tell(bc);
566
567     ffio_read_varlen(bc); // max_pts
568     GET_V(syncpoint_count, tmp < INT_MAX / 8 && tmp > 0)
569     syncpoints   = av_malloc(sizeof(int64_t) *  syncpoint_count);
570     has_keyframe = av_malloc(sizeof(int8_t)  * (syncpoint_count + 1));
571     for (i = 0; i < syncpoint_count; i++) {
572         syncpoints[i] = ffio_read_varlen(bc);
573         if (syncpoints[i] <= 0)
574             goto fail;
575         if (i)
576             syncpoints[i] += syncpoints[i - 1];
577     }
578
579     for (i = 0; i < s->nb_streams; i++) {
580         int64_t last_pts = -1;
581         for (j = 0; j < syncpoint_count;) {
582             uint64_t x = ffio_read_varlen(bc);
583             int type   = x & 1;
584             int n      = j;
585             x >>= 1;
586             if (type) {
587                 int flag = x & 1;
588                 x >>= 1;
589                 if (n + x >= syncpoint_count + 1) {
590                     av_log(s, AV_LOG_ERROR, "index overflow A\n");
591                     goto fail;
592                 }
593                 while (x--)
594                     has_keyframe[n++] = flag;
595                 has_keyframe[n++] = !flag;
596             } else {
597                 while (x != 1) {
598                     if (n >= syncpoint_count + 1) {
599                         av_log(s, AV_LOG_ERROR, "index overflow B\n");
600                         goto fail;
601                     }
602                     has_keyframe[n++] = x & 1;
603                     x >>= 1;
604                 }
605             }
606             if (has_keyframe[0]) {
607                 av_log(s, AV_LOG_ERROR, "keyframe before first syncpoint in index\n");
608                 goto fail;
609             }
610             assert(n <= syncpoint_count + 1);
611             for (; j < n && j < syncpoint_count; j++) {
612                 if (has_keyframe[j]) {
613                     uint64_t B, A = ffio_read_varlen(bc);
614                     if (!A) {
615                         A = ffio_read_varlen(bc);
616                         B = ffio_read_varlen(bc);
617                         // eor_pts[j][i] = last_pts + A + B
618                     } else
619                         B = 0;
620                     av_add_index_entry(s->streams[i], 16 * syncpoints[j - 1],
621                                        last_pts + A, 0, 0, AVINDEX_KEYFRAME);
622                     last_pts += A + B;
623                 }
624             }
625         }
626     }
627
628     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
629         av_log(s, AV_LOG_ERROR, "index checksum mismatch\n");
630         goto fail;
631     }
632     ret = 0;
633
634 fail:
635     av_free(syncpoints);
636     av_free(has_keyframe);
637     return ret;
638 }
639
640 static int nut_read_header(AVFormatContext *s)
641 {
642     NUTContext *nut = s->priv_data;
643     AVIOContext *bc = s->pb;
644     int64_t pos;
645     int initialized_stream_count;
646
647     nut->avf = s;
648
649     /* main header */
650     pos = 0;
651     do {
652         pos = find_startcode(bc, MAIN_STARTCODE, pos) + 1;
653         if (pos < 0 + 1) {
654             av_log(s, AV_LOG_ERROR, "No main startcode found.\n");
655             return AVERROR_INVALIDDATA;
656         }
657     } while (decode_main_header(nut) < 0);
658
659     /* stream headers */
660     pos = 0;
661     for (initialized_stream_count = 0; initialized_stream_count < s->nb_streams;) {
662         pos = find_startcode(bc, STREAM_STARTCODE, pos) + 1;
663         if (pos < 0 + 1) {
664             av_log(s, AV_LOG_ERROR, "Not all stream headers found.\n");
665             return AVERROR_INVALIDDATA;
666         }
667         if (decode_stream_header(nut) >= 0)
668             initialized_stream_count++;
669     }
670
671     /* info headers */
672     pos = 0;
673     for (;;) {
674         uint64_t startcode = find_any_startcode(bc, pos);
675         pos = avio_tell(bc);
676
677         if (startcode == 0) {
678             av_log(s, AV_LOG_ERROR, "EOF before video frames\n");
679             return AVERROR_INVALIDDATA;
680         } else if (startcode == SYNCPOINT_STARTCODE) {
681             nut->next_startcode = startcode;
682             break;
683         } else if (startcode != INFO_STARTCODE) {
684             continue;
685         }
686
687         decode_info_header(nut);
688     }
689
690     s->data_offset = pos - 8;
691
692     if (bc->seekable) {
693         int64_t orig_pos = avio_tell(bc);
694         find_and_decode_index(nut);
695         avio_seek(bc, orig_pos, SEEK_SET);
696     }
697     assert(nut->next_startcode == SYNCPOINT_STARTCODE);
698
699     ff_metadata_conv_ctx(s, NULL, ff_nut_metadata_conv);
700
701     return 0;
702 }
703
704 static int decode_frame_header(NUTContext *nut, int64_t *pts, int *stream_id,
705                                uint8_t *header_idx, int frame_code)
706 {
707     AVFormatContext *s = nut->avf;
708     AVIOContext *bc    = s->pb;
709     StreamContext *stc;
710     int size, flags, size_mul, pts_delta, i, reserved_count;
711     uint64_t tmp;
712
713     if (avio_tell(bc) > nut->last_syncpoint_pos + nut->max_distance) {
714         av_log(s, AV_LOG_ERROR,
715                "Last frame must have been damaged %"PRId64" > %"PRId64" + %d\n",
716                avio_tell(bc), nut->last_syncpoint_pos, nut->max_distance);
717         return AVERROR_INVALIDDATA;
718     }
719
720     flags          = nut->frame_code[frame_code].flags;
721     size_mul       = nut->frame_code[frame_code].size_mul;
722     size           = nut->frame_code[frame_code].size_lsb;
723     *stream_id     = nut->frame_code[frame_code].stream_id;
724     pts_delta      = nut->frame_code[frame_code].pts_delta;
725     reserved_count = nut->frame_code[frame_code].reserved_count;
726     *header_idx    = nut->frame_code[frame_code].header_idx;
727
728     if (flags & FLAG_INVALID)
729         return AVERROR_INVALIDDATA;
730     if (flags & FLAG_CODED)
731         flags ^= ffio_read_varlen(bc);
732     if (flags & FLAG_STREAM_ID) {
733         GET_V(*stream_id, tmp < s->nb_streams)
734     }
735     stc = &nut->stream[*stream_id];
736     if (flags & FLAG_CODED_PTS) {
737         int coded_pts = ffio_read_varlen(bc);
738         // FIXME check last_pts validity?
739         if (coded_pts < (1 << stc->msb_pts_shift)) {
740             *pts = ff_lsb2full(stc, coded_pts);
741         } else
742             *pts = coded_pts - (1 << stc->msb_pts_shift);
743     } else
744         *pts = stc->last_pts + pts_delta;
745     if (flags & FLAG_SIZE_MSB)
746         size += size_mul * ffio_read_varlen(bc);
747     if (flags & FLAG_MATCH_TIME)
748         get_s(bc);
749     if (flags & FLAG_HEADER_IDX)
750         *header_idx = ffio_read_varlen(bc);
751     if (flags & FLAG_RESERVED)
752         reserved_count = ffio_read_varlen(bc);
753     for (i = 0; i < reserved_count; i++)
754         ffio_read_varlen(bc);
755
756     if (*header_idx >= (unsigned)nut->header_count) {
757         av_log(s, AV_LOG_ERROR, "header_idx invalid\n");
758         return AVERROR_INVALIDDATA;
759     }
760     if (size > 4096)
761         *header_idx = 0;
762     size -= nut->header_len[*header_idx];
763
764     if (flags & FLAG_CHECKSUM) {
765         avio_rb32(bc); // FIXME check this
766     } else if (size > 2 * nut->max_distance || FFABS(stc->last_pts - *pts) >
767                stc->max_pts_distance) {
768         av_log(s, AV_LOG_ERROR, "frame size > 2max_distance and no checksum\n");
769         return AVERROR_INVALIDDATA;
770     }
771
772     stc->last_pts   = *pts;
773     stc->last_flags = flags;
774
775     return size;
776 }
777
778 static int decode_frame(NUTContext *nut, AVPacket *pkt, int frame_code)
779 {
780     AVFormatContext *s = nut->avf;
781     AVIOContext *bc    = s->pb;
782     int size, stream_id, discard;
783     int64_t pts, last_IP_pts;
784     StreamContext *stc;
785     uint8_t header_idx;
786
787     size = decode_frame_header(nut, &pts, &stream_id, &header_idx, frame_code);
788     if (size < 0)
789         return size;
790
791     stc = &nut->stream[stream_id];
792
793     if (stc->last_flags & FLAG_KEY)
794         stc->skip_until_key_frame = 0;
795
796     discard     = s->streams[stream_id]->discard;
797     last_IP_pts = s->streams[stream_id]->last_IP_pts;
798     if ((discard >= AVDISCARD_NONKEY && !(stc->last_flags & FLAG_KEY)) ||
799         (discard >= AVDISCARD_BIDIR  && last_IP_pts != AV_NOPTS_VALUE &&
800          last_IP_pts > pts) ||
801         discard >= AVDISCARD_ALL ||
802         stc->skip_until_key_frame) {
803         avio_skip(bc, size);
804         return 1;
805     }
806
807     av_new_packet(pkt, size + nut->header_len[header_idx]);
808     memcpy(pkt->data, nut->header[header_idx], nut->header_len[header_idx]);
809     pkt->pos = avio_tell(bc); // FIXME
810     avio_read(bc, pkt->data + nut->header_len[header_idx], size);
811
812     pkt->stream_index = stream_id;
813     if (stc->last_flags & FLAG_KEY)
814         pkt->flags |= AV_PKT_FLAG_KEY;
815     pkt->pts = pts;
816
817     return 0;
818 }
819
820 static int nut_read_packet(AVFormatContext *s, AVPacket *pkt)
821 {
822     NUTContext *nut = s->priv_data;
823     AVIOContext *bc = s->pb;
824     int i, frame_code = 0, ret, skip;
825     int64_t ts, back_ptr;
826
827     for (;;) {
828         int64_t pos  = avio_tell(bc);
829         uint64_t tmp = nut->next_startcode;
830         nut->next_startcode = 0;
831
832         if (tmp) {
833             pos -= 8;
834         } else {
835             frame_code = avio_r8(bc);
836             if (bc->eof_reached)
837                 return -1;
838             if (frame_code == 'N') {
839                 tmp = frame_code;
840                 for (i = 1; i < 8; i++)
841                     tmp = (tmp << 8) + avio_r8(bc);
842             }
843         }
844         switch (tmp) {
845         case MAIN_STARTCODE:
846         case STREAM_STARTCODE:
847         case INDEX_STARTCODE:
848             skip = get_packetheader(nut, bc, 0, tmp);
849             avio_skip(bc, skip);
850             break;
851         case INFO_STARTCODE:
852             if (decode_info_header(nut) < 0)
853                 goto resync;
854             break;
855         case SYNCPOINT_STARTCODE:
856             if (decode_syncpoint(nut, &ts, &back_ptr) < 0)
857                 goto resync;
858             frame_code = avio_r8(bc);
859         case 0:
860             ret = decode_frame(nut, pkt, frame_code);
861             if (ret == 0)
862                 return 0;
863             else if (ret == 1) // OK but discard packet
864                 break;
865         default:
866 resync:
867             av_log(s, AV_LOG_DEBUG, "syncing from %"PRId64"\n", pos);
868             tmp = find_any_startcode(bc, nut->last_syncpoint_pos + 1);
869             if (tmp == 0)
870                 return AVERROR_INVALIDDATA;
871             av_log(s, AV_LOG_DEBUG, "sync\n");
872             nut->next_startcode = tmp;
873         }
874     }
875 }
876
877 static int64_t nut_read_timestamp(AVFormatContext *s, int stream_index,
878                                   int64_t *pos_arg, int64_t pos_limit)
879 {
880     NUTContext *nut = s->priv_data;
881     AVIOContext *bc = s->pb;
882     int64_t pos, pts, back_ptr;
883     av_log(s, AV_LOG_DEBUG, "read_timestamp(X,%d,%"PRId64",%"PRId64")\n",
884            stream_index, *pos_arg, pos_limit);
885
886     pos = *pos_arg;
887     do {
888         pos = find_startcode(bc, SYNCPOINT_STARTCODE, pos) + 1;
889         if (pos < 1) {
890             assert(nut->next_startcode == 0);
891             av_log(s, AV_LOG_ERROR, "read_timestamp failed.\n");
892             return AV_NOPTS_VALUE;
893         }
894     } while (decode_syncpoint(nut, &pts, &back_ptr) < 0);
895     *pos_arg = pos - 1;
896     assert(nut->last_syncpoint_pos == *pos_arg);
897
898     av_log(s, AV_LOG_DEBUG, "return %"PRId64" %"PRId64"\n", pts, back_ptr);
899     if (stream_index == -1)
900         return pts;
901     else if (stream_index == -2)
902         return back_ptr;
903
904     assert(0);
905 }
906
907 static int read_seek(AVFormatContext *s, int stream_index,
908                      int64_t pts, int flags)
909 {
910     NUTContext *nut    = s->priv_data;
911     AVStream *st       = s->streams[stream_index];
912     Syncpoint dummy    = { .ts = pts * av_q2d(st->time_base) * AV_TIME_BASE };
913     Syncpoint nopts_sp = { .ts = AV_NOPTS_VALUE, .back_ptr = AV_NOPTS_VALUE };
914     Syncpoint *sp, *next_node[2] = { &nopts_sp, &nopts_sp };
915     int64_t pos, pos2, ts;
916     int i;
917
918     if (st->index_entries) {
919         int index = av_index_search_timestamp(st, pts, flags);
920         if (index < 0)
921             return -1;
922
923         pos2 = st->index_entries[index].pos;
924         ts   = st->index_entries[index].timestamp;
925     } else {
926         av_tree_find(nut->syncpoints, &dummy, (void *) ff_nut_sp_pts_cmp,
927                      (void **) next_node);
928         av_log(s, AV_LOG_DEBUG, "%"PRIu64"-%"PRIu64" %"PRId64"-%"PRId64"\n",
929                next_node[0]->pos, next_node[1]->pos, next_node[0]->ts,
930                next_node[1]->ts);
931         pos = ff_gen_search(s, -1, dummy.ts, next_node[0]->pos,
932                             next_node[1]->pos, next_node[1]->pos,
933                             next_node[0]->ts, next_node[1]->ts,
934                             AVSEEK_FLAG_BACKWARD, &ts, nut_read_timestamp);
935
936         if (!(flags & AVSEEK_FLAG_BACKWARD)) {
937             dummy.pos    = pos + 16;
938             next_node[1] = &nopts_sp;
939             av_tree_find(nut->syncpoints, &dummy, (void *) ff_nut_sp_pos_cmp,
940                          (void **) next_node);
941             pos2 = ff_gen_search(s, -2, dummy.pos, next_node[0]->pos,
942                                  next_node[1]->pos, next_node[1]->pos,
943                                  next_node[0]->back_ptr, next_node[1]->back_ptr,
944                                  flags, &ts, nut_read_timestamp);
945             if (pos2 >= 0)
946                 pos = pos2;
947             // FIXME dir but I think it does not matter
948         }
949         dummy.pos = pos;
950         sp = av_tree_find(nut->syncpoints, &dummy, (void *) ff_nut_sp_pos_cmp,
951                           NULL);
952
953         assert(sp);
954         pos2 = sp->back_ptr - 15;
955     }
956     av_log(NULL, AV_LOG_DEBUG, "SEEKTO: %"PRId64"\n", pos2);
957     pos = find_startcode(s->pb, SYNCPOINT_STARTCODE, pos2);
958     avio_seek(s->pb, pos, SEEK_SET);
959     av_log(NULL, AV_LOG_DEBUG, "SP: %"PRId64"\n", pos);
960     if (pos2 > pos || pos2 + 15 < pos)
961         av_log(NULL, AV_LOG_ERROR, "no syncpoint at backptr pos\n");
962     for (i = 0; i < s->nb_streams; i++)
963         nut->stream[i].skip_until_key_frame = 1;
964
965     return 0;
966 }
967
968 static int nut_read_close(AVFormatContext *s)
969 {
970     NUTContext *nut = s->priv_data;
971     int i;
972
973     av_freep(&nut->time_base);
974     av_freep(&nut->stream);
975     ff_nut_free_sp(nut);
976     for (i = 1; i < nut->header_count; i++)
977         av_freep(&nut->header[i]);
978
979     return 0;
980 }
981
982 AVInputFormat ff_nut_demuxer = {
983     .name           = "nut",
984     .long_name      = NULL_IF_CONFIG_SMALL("NUT"),
985     .priv_data_size = sizeof(NUTContext),
986     .read_probe     = nut_probe,
987     .read_header    = nut_read_header,
988     .read_packet    = nut_read_packet,
989     .read_close     = nut_read_close,
990     .read_seek      = read_seek,
991     .extensions     = "nut",
992     .codec_tag      = (const AVCodecTag * const []) {
993         ff_codec_bmp_tags, ff_nut_video_tags, ff_codec_wav_tags,
994         ff_nut_subtitle_tags, 0
995     },
996 };