git.sesse.net Git - ffmpeg/blob - libavformat/nutdec.c

   1 /*
   2  * "NUT" Container Format demuxer
   3  * Copyright (c) 2004-2006 Michael Niedermayer
   4  * Copyright (c) 2003 Alex Beregszaszi
   5  *
   6  * This file is part of Libav.
   7  *
   8  * Libav is free software; you can redistribute it and/or
   9  * modify it under the terms of the GNU Lesser General Public
  10  * License as published by the Free Software Foundation; either
  11  * version 2.1 of the License, or (at your option) any later version.
  12  *
  13  * Libav is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  16  * Lesser General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU Lesser General Public
  19  * License along with Libav; if not, write to the Free Software
  20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  21  */
  22
  23 #include "libavutil/avstring.h"
  24 #include "libavutil/bswap.h"
  25 #include "libavutil/dict.h"
  26 #include "libavutil/mathematics.h"
  27 #include "libavutil/tree.h"
  28 #include "avio_internal.h"
  29 #include "nut.h"
  30 #include "riff.h"
  31
  32 #undef NDEBUG
  33 #include <assert.h>
  34
  35 #define NUT_MAX_STREAMS 256    /* arbitrary sanity check value */
  36
  37 static int get_str(AVIOContext *bc, char *string, unsigned int maxlen)
  38 {
  39     unsigned int len = ffio_read_varlen(bc);
  40
  41     if (len && maxlen)
  42         avio_read(bc, string, FFMIN(len, maxlen));
  43     while (len > maxlen) {
  44         avio_r8(bc);
  45         len--;
  46     }
  47
  48     if (maxlen)
  49         string[FFMIN(len, maxlen - 1)] = 0;
  50
  51     if (maxlen == len)
  52         return -1;
  53     else
  54         return 0;
  55 }
  56
  57 static int64_t get_s(AVIOContext *bc)
  58 {
  59     int64_t v = ffio_read_varlen(bc) + 1;
  60
  61     if (v & 1)
  62         return -(v >> 1);
  63     else
  64         return  (v >> 1);
  65 }
  66
  67 static uint64_t get_fourcc(AVIOContext *bc)
  68 {
  69     unsigned int len = ffio_read_varlen(bc);
  70
  71     if (len == 2)
  72         return avio_rl16(bc);
  73     else if (len == 4)
  74         return avio_rl32(bc);
  75     else
  76         return -1;
  77 }
  78
  79 #ifdef TRACE
  80 static inline uint64_t get_v_trace(AVIOContext *bc, const char *file,
  81                                    const char *func, int line)
  82 {
  83     uint64_t v = ffio_read_varlen(bc);
  84
  85     av_log(NULL, AV_LOG_DEBUG, "get_v %5"PRId64" / %"PRIX64" in %s %s:%d\n",
  86            v, v, file, func, line);
  87     return v;
  88 }
  89
  90 static inline int64_t get_s_trace(AVIOContext *bc, const char *file,
  91                                   const char *func, int line)
  92 {
  93     int64_t v = get_s(bc);
  94
  95     av_log(NULL, AV_LOG_DEBUG, "get_s %5"PRId64" / %"PRIX64" in %s %s:%d\n",
  96            v, v, file, func, line);
  97     return v;
  98 }
  99
 100 #define ffio_read_varlen(bc) get_v_trace(bc,  __FILE__, __PRETTY_FUNCTION__, __LINE__)
 101 #define get_s(bc)            get_s_trace(bc,  __FILE__, __PRETTY_FUNCTION__, __LINE__)
 102 #endif
 103
 104 static int get_packetheader(NUTContext *nut, AVIOContext *bc,
 105                             int calculate_checksum, uint64_t startcode)
 106 {
 107     int64_t size;
 108 //    start = avio_tell(bc) - 8;
 109
 110     startcode = av_be2ne64(startcode);
 111     startcode = ff_crc04C11DB7_update(0, (uint8_t*) &startcode, 8);
 112
 113     ffio_init_checksum(bc, ff_crc04C11DB7_update, startcode);
 114     size = ffio_read_varlen(bc);
 115     if (size > 4096)
 116         avio_rb32(bc);
 117     if (ffio_get_checksum(bc) && size > 4096)
 118         return -1;
 119
 120     ffio_init_checksum(bc, calculate_checksum ? ff_crc04C11DB7_update : NULL, 0);
 121
 122     return size;
 123 }
 124
 125 static uint64_t find_any_startcode(AVIOContext *bc, int64_t pos)
 126 {
 127     uint64_t state = 0;
 128
 129     if (pos >= 0)
 130         /* Note, this may fail if the stream is not seekable, but that should
 131          * not matter, as in this case we simply start where we currently are */
 132         avio_seek(bc, pos, SEEK_SET);
 133     while (!bc->eof_reached) {
 134         state = (state << 8) | avio_r8(bc);
 135         if ((state >> 56) != 'N')
 136             continue;
 137         switch (state) {
 138         case MAIN_STARTCODE:
 139         case STREAM_STARTCODE:
 140         case SYNCPOINT_STARTCODE:
 141         case INFO_STARTCODE:
 142         case INDEX_STARTCODE:
 143             return state;
 144         }
 145     }
 146
 147     return 0;
 148 }
 149
 150 /**
 151  * Find the given startcode.
 152  * @param code the startcode
 153  * @param pos the start position of the search, or -1 if the current position
 154  * @return the position of the startcode or -1 if not found
 155  */
 156 static int64_t find_startcode(AVIOContext *bc, uint64_t code, int64_t pos)
 157 {
 158     for (;;) {
 159         uint64_t startcode = find_any_startcode(bc, pos);
 160         if (startcode == code)
 161             return avio_tell(bc) - 8;
 162         else if (startcode == 0)
 163             return -1;
 164         pos = -1;
 165     }
 166 }
 167
 168 static int nut_probe(AVProbeData *p)
 169 {
 170     int i;
 171     uint64_t code = 0;
 172
 173     for (i = 0; i < p->buf_size; i++) {
 174         code = (code << 8) | p->buf[i];
 175         if (code == MAIN_STARTCODE)
 176             return AVPROBE_SCORE_MAX;
 177     }
 178     return 0;
 179 }
 180
 181 #define GET_V(dst, check)                                                     \
 182     do {                                                                      \
 183         tmp = ffio_read_varlen(bc);                                           \
 184         if (!(check)) {                                                       \
 185             av_log(s, AV_LOG_ERROR, "Error " #dst " is (%"PRId64")\n", tmp);  \
 186             return AVERROR_INVALIDDATA;                                       \
 187         }                                                                     \
 188         dst = tmp;                                                            \
 189     } while (0)
 190
 191 static int skip_reserved(AVIOContext *bc, int64_t pos)
 192 {
 193     pos -= avio_tell(bc);
 194     if (pos < 0) {
 195         avio_seek(bc, pos, SEEK_CUR);
 196         return AVERROR_INVALIDDATA;
 197     } else {
 198         while (pos--)
 199             avio_r8(bc);
 200         return 0;
 201     }
 202 }
 203
 204 static int decode_main_header(NUTContext *nut)
 205 {
 206     AVFormatContext *s = nut->avf;
 207     AVIOContext *bc    = s->pb;
 208     uint64_t tmp, end;
 209     unsigned int stream_count;
 210     int i, j, count;
 211     int tmp_stream, tmp_mul, tmp_pts, tmp_size, tmp_res, tmp_head_idx;
 212
 213     end  = get_packetheader(nut, bc, 1, MAIN_STARTCODE);
 214     end += avio_tell(bc);
 215
 216     nut->version = ffio_read_varlen(bc);
 217     if (nut->version < NUT_MIN_VERSION &&
 218         nut->version > NUT_MAX_VERSION) {
 219         av_log(s, AV_LOG_ERROR, "Version %d not supported.\n",
 220                nut->version);
 221         return AVERROR(ENOSYS);
 222     }
 223
 224     GET_V(stream_count, tmp > 0 && tmp <= NUT_MAX_STREAMS);
 225
 226     nut->max_distance = ffio_read_varlen(bc);
 227     if (nut->max_distance > 65536) {
 228         av_log(s, AV_LOG_DEBUG, "max_distance %d\n", nut->max_distance);
 229         nut->max_distance = 65536;
 230     }
 231
 232     GET_V(nut->time_base_count, tmp > 0 && tmp < INT_MAX / sizeof(AVRational));
 233     nut->time_base = av_malloc(nut->time_base_count * sizeof(AVRational));
 234     if (!nut->time_base)
 235         return AVERROR(ENOMEM);
 236
 237     for (i = 0; i < nut->time_base_count; i++) {
 238         GET_V(nut->time_base[i].num, tmp > 0 && tmp < (1ULL << 31));
 239         GET_V(nut->time_base[i].den, tmp > 0 && tmp < (1ULL << 31));
 240         if (av_gcd(nut->time_base[i].num, nut->time_base[i].den) != 1) {
 241             av_log(s, AV_LOG_ERROR, "time base invalid\n");
 242             return AVERROR_INVALIDDATA;
 243         }
 244     }
 245     tmp_pts      = 0;
 246     tmp_mul      = 1;
 247     tmp_stream   = 0;
 248     tmp_head_idx = 0;
 249     for (i = 0; i < 256;) {
 250         int tmp_flags  = ffio_read_varlen(bc);
 251         int tmp_fields = ffio_read_varlen(bc);
 252
 253         if (tmp_fields > 0)
 254             tmp_pts = get_s(bc);
 255         if (tmp_fields > 1)
 256             tmp_mul = ffio_read_varlen(bc);
 257         if (tmp_fields > 2)
 258             tmp_stream = ffio_read_varlen(bc);
 259         if (tmp_fields > 3)
 260             tmp_size = ffio_read_varlen(bc);
 261         else
 262             tmp_size = 0;
 263         if (tmp_fields > 4)
 264             tmp_res = ffio_read_varlen(bc);
 265         else
 266             tmp_res = 0;
 267         if (tmp_fields > 5)
 268             count = ffio_read_varlen(bc);
 269         else
 270             count = tmp_mul - tmp_size;
 271         if (tmp_fields > 6)
 272             get_s(bc);
 273         if (tmp_fields > 7)
 274             tmp_head_idx = ffio_read_varlen(bc);
 275
 276         while (tmp_fields-- > 8)
 277             ffio_read_varlen(bc);
 278
 279         if (count == 0 || i + count > 256) {
 280             av_log(s, AV_LOG_ERROR, "illegal count %d at %d\n", count, i);
 281             return AVERROR_INVALIDDATA;
 282         }
 283         if (tmp_stream >= stream_count) {
 284             av_log(s, AV_LOG_ERROR, "illegal stream number\n");
 285             return AVERROR_INVALIDDATA;
 286         }
 287
 288         for (j = 0; j < count; j++, i++) {
 289             if (i == 'N') {
 290                 nut->frame_code[i].flags = FLAG_INVALID;
 291                 j--;
 292                 continue;
 293             }
 294             nut->frame_code[i].flags          = tmp_flags;
 295             nut->frame_code[i].pts_delta      = tmp_pts;
 296             nut->frame_code[i].stream_id      = tmp_stream;
 297             nut->frame_code[i].size_mul       = tmp_mul;
 298             nut->frame_code[i].size_lsb       = tmp_size + j;
 299             nut->frame_code[i].reserved_count = tmp_res;
 300             nut->frame_code[i].header_idx     = tmp_head_idx;
 301         }
 302     }
 303     assert(nut->frame_code['N'].flags == FLAG_INVALID);
 304
 305     if (end > avio_tell(bc) + 4) {
 306         int rem = 1024;
 307         GET_V(nut->header_count, tmp < 128U);
 308         nut->header_count++;
 309         for (i = 1; i < nut->header_count; i++) {
 310             uint8_t *hdr;
 311             GET_V(nut->header_len[i], tmp > 0 && tmp < 256);
 312             rem -= nut->header_len[i];
 313             if (rem < 0) {
 314                 av_log(s, AV_LOG_ERROR, "invalid elision header\n");
 315                 return AVERROR_INVALIDDATA;
 316             }
 317             hdr = av_malloc(nut->header_len[i]);
 318             if (!hdr)
 319                 return AVERROR(ENOMEM);
 320             avio_read(bc, hdr, nut->header_len[i]);
 321             nut->header[i] = hdr;
 322         }
 323         assert(nut->header_len[0] == 0);
 324     }
 325
 326     // flags had been effectively introduced in version 4
 327     if (nut->version > NUT_STABLE_VERSION) {
 328         nut->flags = ffio_read_varlen(bc);
 329     }
 330
 331     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
 332         av_log(s, AV_LOG_ERROR, "main header checksum mismatch\n");
 333         return AVERROR_INVALIDDATA;
 334     }
 335
 336     nut->stream = av_mallocz(sizeof(StreamContext) * stream_count);
 337     if (!nut->stream)
 338         return AVERROR(ENOMEM);
 339     for (i = 0; i < stream_count; i++)
 340         avformat_new_stream(s, NULL);
 341
 342     return 0;
 343 }
 344
 345 static int decode_stream_header(NUTContext *nut)
 346 {
 347     AVFormatContext *s = nut->avf;
 348     AVIOContext *bc    = s->pb;
 349     StreamContext *stc;
 350     int class, stream_id;
 351     uint64_t tmp, end;
 352     AVStream *st;
 353
 354     end  = get_packetheader(nut, bc, 1, STREAM_STARTCODE);
 355     end += avio_tell(bc);
 356
 357     GET_V(stream_id, tmp < s->nb_streams && !nut->stream[tmp].time_base);
 358     stc = &nut->stream[stream_id];
 359     st  = s->streams[stream_id];
 360     if (!st)
 361         return AVERROR(ENOMEM);
 362
 363     class                = ffio_read_varlen(bc);
 364     tmp                  = get_fourcc(bc);
 365     st->codec->codec_tag = tmp;
 366     switch (class) {
 367     case 0:
 368         st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
 369         st->codec->codec_id   = av_codec_get_id((const AVCodecTag * const []) {
 370                                                     ff_nut_video_tags,
 371                                                     ff_codec_bmp_tags,
 372                                                     0
 373                                                 },
 374                                                 tmp);
 375         break;
 376     case 1:
 377         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
 378         st->codec->codec_id   = av_codec_get_id((const AVCodecTag * const []) {
 379                                                     ff_nut_audio_tags,
 380                                                     ff_codec_wav_tags,
 381                                                     0
 382                                                 },
 383                                                 tmp);
 384         break;
 385     case 2:
 386         st->codec->codec_type = AVMEDIA_TYPE_SUBTITLE;
 387         st->codec->codec_id   = ff_codec_get_id(ff_nut_subtitle_tags, tmp);
 388         break;
 389     case 3:
 390         st->codec->codec_type = AVMEDIA_TYPE_DATA;
 391         st->codec->codec_id   = ff_codec_get_id(ff_nut_data_tags, tmp);
 392         break;
 393     default:
 394         av_log(s, AV_LOG_ERROR, "unknown stream class (%d)\n", class);
 395         return AVERROR(ENOSYS);
 396     }
 397     if (class < 3 && st->codec->codec_id == AV_CODEC_ID_NONE)
 398         av_log(s, AV_LOG_ERROR,
 399                "Unknown codec tag '0x%04x' for stream number %d\n",
 400                (unsigned int) tmp, stream_id);
 401
 402     GET_V(stc->time_base_id, tmp < nut->time_base_count);
 403     GET_V(stc->msb_pts_shift, tmp < 16);
 404     stc->max_pts_distance = ffio_read_varlen(bc);
 405     GET_V(stc->decode_delay, tmp < 1000); // sanity limit, raise this if Moore's law is true
 406     ffio_read_varlen(bc); // stream flags
 407
 408     GET_V(st->codec->extradata_size, tmp < (1 << 30));
 409     if (st->codec->extradata_size) {
 410         st->codec->extradata = av_mallocz(st->codec->extradata_size +
 411                                           FF_INPUT_BUFFER_PADDING_SIZE);
 412         if (!st->codec->extradata)
 413             return AVERROR(ENOMEM);
 414         avio_read(bc, st->codec->extradata, st->codec->extradata_size);
 415     }
 416
 417     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
 418         GET_V(st->codec->width,  tmp > 0);
 419         GET_V(st->codec->height, tmp > 0);
 420         st->sample_aspect_ratio.num = ffio_read_varlen(bc);
 421         st->sample_aspect_ratio.den = ffio_read_varlen(bc);
 422         if ((!st->sample_aspect_ratio.num) != (!st->sample_aspect_ratio.den)) {
 423             av_log(s, AV_LOG_ERROR, "invalid aspect ratio %d/%d\n",
 424                    st->sample_aspect_ratio.num, st->sample_aspect_ratio.den);
 425             return AVERROR_INVALIDDATA;
 426         }
 427         ffio_read_varlen(bc); /* csp type */
 428     } else if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
 429         GET_V(st->codec->sample_rate, tmp > 0);
 430         ffio_read_varlen(bc); // samplerate_den
 431         GET_V(st->codec->channels, tmp > 0);
 432     }
 433     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
 434         av_log(s, AV_LOG_ERROR,
 435                "stream header %d checksum mismatch\n", stream_id);
 436         return AVERROR_INVALIDDATA;
 437     }
 438     stc->time_base = &nut->time_base[stc->time_base_id];
 439     avpriv_set_pts_info(s->streams[stream_id], 63, stc->time_base->num,
 440                         stc->time_base->den);
 441     return 0;
 442 }
 443
 444 static void set_disposition_bits(AVFormatContext *avf, char *value,
 445                                  int stream_id)
 446 {
 447     int flag = 0, i;
 448
 449     for (i = 0; ff_nut_dispositions[i].flag; ++i)
 450         if (!strcmp(ff_nut_dispositions[i].str, value))
 451             flag = ff_nut_dispositions[i].flag;
 452     if (!flag)
 453         av_log(avf, AV_LOG_INFO, "unknown disposition type '%s'\n", value);
 454     for (i = 0; i < avf->nb_streams; ++i)
 455         if (stream_id == i || stream_id == -1)
 456             avf->streams[i]->disposition |= flag;
 457 }
 458
 459 static int decode_info_header(NUTContext *nut)
 460 {
 461     AVFormatContext *s = nut->avf;
 462     AVIOContext *bc    = s->pb;
 463     uint64_t tmp, chapter_start, chapter_len;
 464     unsigned int stream_id_plus1, count;
 465     int chapter_id, i;
 466     int64_t value, end;
 467     char name[256], str_value[1024], type_str[256];
 468     const char *type;
 469     int *event_flags        = NULL;
 470     AVChapter *chapter      = NULL;
 471     AVStream *st            = NULL;
 472     AVDictionary **metadata = NULL;
 473     int metadata_flag       = 0;
 474
 475     end  = get_packetheader(nut, bc, 1, INFO_STARTCODE);
 476     end += avio_tell(bc);
 477
 478     GET_V(stream_id_plus1, tmp <= s->nb_streams);
 479     chapter_id    = get_s(bc);
 480     chapter_start = ffio_read_varlen(bc);
 481     chapter_len   = ffio_read_varlen(bc);
 482     count         = ffio_read_varlen(bc);
 483
 484     if (chapter_id && !stream_id_plus1) {
 485         int64_t start = chapter_start / nut->time_base_count;
 486         chapter = avpriv_new_chapter(s, chapter_id,
 487                                      nut->time_base[chapter_start %
 488                                                     nut->time_base_count],
 489                                      start, start + chapter_len, NULL);
 490         metadata = &chapter->metadata;
 491     } else if (stream_id_plus1) {
 492         st       = s->streams[stream_id_plus1 - 1];
 493         metadata = &st->metadata;
 494         event_flags = &st->event_flags;
 495         metadata_flag = AVSTREAM_EVENT_FLAG_METADATA_UPDATED;
 496     } else {
 497         metadata = &s->metadata;
 498         event_flags = &s->event_flags;
 499         metadata_flag = AVFMT_EVENT_FLAG_METADATA_UPDATED;
 500     }
 501
 502     for (i = 0; i < count; i++) {
 503         get_str(bc, name, sizeof(name));
 504         value = get_s(bc);
 505         if (value == -1) {
 506             type = "UTF-8";
 507             get_str(bc, str_value, sizeof(str_value));
 508         } else if (value == -2) {
 509             get_str(bc, type_str, sizeof(type_str));
 510             type = type_str;
 511             get_str(bc, str_value, sizeof(str_value));
 512         } else if (value == -3) {
 513             type  = "s";
 514             value = get_s(bc);
 515         } else if (value == -4) {
 516             type  = "t";
 517             value = ffio_read_varlen(bc);
 518         } else if (value < -4) {
 519             type = "r";
 520             get_s(bc);
 521         } else {
 522             type = "v";
 523         }
 524
 525         if (stream_id_plus1 > s->nb_streams) {
 526             av_log(s, AV_LOG_ERROR, "invalid stream id for info packet\n");
 527             continue;
 528         }
 529
 530         if (!strcmp(type, "UTF-8")) {
 531             if (chapter_id == 0 && !strcmp(name, "Disposition")) {
 532                 set_disposition_bits(s, str_value, stream_id_plus1 - 1);
 533                 continue;
 534             }
 535             if (metadata && av_strcasecmp(name, "Uses") &&
 536                 av_strcasecmp(name, "Depends") && av_strcasecmp(name, "Replaces")) {
 537                 if (event_flags)
 538                     *event_flags |= metadata_flag;
 539                 av_dict_set(metadata, name, str_value, 0);
 540             }
 541         }
 542     }
 543
 544     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
 545         av_log(s, AV_LOG_ERROR, "info header checksum mismatch\n");
 546         return AVERROR_INVALIDDATA;
 547     }
 548     return 0;
 549 }
 550
 551 static int decode_syncpoint(NUTContext *nut, int64_t *ts, int64_t *back_ptr)
 552 {
 553     AVFormatContext *s = nut->avf;
 554     AVIOContext *bc    = s->pb;
 555     int64_t end, tmp;
 556     int ret;
 557
 558     nut->last_syncpoint_pos = avio_tell(bc) - 8;
 559
 560     end  = get_packetheader(nut, bc, 1, SYNCPOINT_STARTCODE);
 561     end += avio_tell(bc);
 562
 563     tmp       = ffio_read_varlen(bc);
 564     *back_ptr = nut->last_syncpoint_pos - 16 * ffio_read_varlen(bc);
 565     if (*back_ptr < 0)
 566         return -1;
 567
 568     ff_nut_reset_ts(nut, nut->time_base[tmp % nut->time_base_count],
 569                     tmp / nut->time_base_count);
 570
 571     if (nut->flags & NUT_BROADCAST) {
 572         tmp = ffio_read_varlen(bc);
 573         av_log(s, AV_LOG_VERBOSE, "Syncpoint wallclock %"PRId64"\n",
 574                av_rescale_q(tmp / nut->time_base_count,
 575                             nut->time_base[tmp % nut->time_base_count],
 576                             AV_TIME_BASE_Q));
 577     }
 578
 579     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
 580         av_log(s, AV_LOG_ERROR, "sync point checksum mismatch\n");
 581         return AVERROR_INVALIDDATA;
 582     }
 583
 584     *ts = tmp / s->nb_streams *
 585           av_q2d(nut->time_base[tmp % s->nb_streams]) * AV_TIME_BASE;
 586
 587     if ((ret = ff_nut_add_sp(nut, nut->last_syncpoint_pos, *back_ptr, *ts)) < 0)
 588         return ret;
 589
 590     return 0;
 591 }
 592
 593 static int find_and_decode_index(NUTContext *nut)
 594 {
 595     AVFormatContext *s = nut->avf;
 596     AVIOContext *bc    = s->pb;
 597     uint64_t tmp, end;
 598     int i, j, syncpoint_count;
 599     int64_t filesize = avio_size(bc);
 600     int64_t *syncpoints;
 601     int8_t *has_keyframe;
 602     int ret = AVERROR_INVALIDDATA;
 603
 604     avio_seek(bc, filesize - 12, SEEK_SET);
 605     avio_seek(bc, filesize - avio_rb64(bc), SEEK_SET);
 606     if (avio_rb64(bc) != INDEX_STARTCODE) {
 607         av_log(s, AV_LOG_ERROR, "no index at the end\n");
 608         return ret;
 609     }
 610
 611     end  = get_packetheader(nut, bc, 1, INDEX_STARTCODE);
 612     end += avio_tell(bc);
 613
 614     ffio_read_varlen(bc); // max_pts
 615     GET_V(syncpoint_count, tmp < INT_MAX / 8 && tmp > 0);
 616     syncpoints   = av_malloc(sizeof(int64_t) *  syncpoint_count);
 617     has_keyframe = av_malloc(sizeof(int8_t)  * (syncpoint_count + 1));
 618     if (!syncpoints || !has_keyframe)
 619         return AVERROR(ENOMEM);
 620     for (i = 0; i < syncpoint_count; i++) {
 621         syncpoints[i] = ffio_read_varlen(bc);
 622         if (syncpoints[i] <= 0)
 623             goto fail;
 624         if (i)
 625             syncpoints[i] += syncpoints[i - 1];
 626     }
 627
 628     for (i = 0; i < s->nb_streams; i++) {
 629         int64_t last_pts = -1;
 630         for (j = 0; j < syncpoint_count;) {
 631             uint64_t x = ffio_read_varlen(bc);
 632             int type   = x & 1;
 633             int n      = j;
 634             x >>= 1;
 635             if (type) {
 636                 int flag = x & 1;
 637                 x >>= 1;
 638                 if (n + x >= syncpoint_count + 1) {
 639                     av_log(s, AV_LOG_ERROR, "index overflow A\n");
 640                     goto fail;
 641                 }
 642                 while (x--)
 643                     has_keyframe[n++] = flag;
 644                 has_keyframe[n++] = !flag;
 645             } else {
 646                 while (x != 1) {
 647                     if (n >= syncpoint_count + 1) {
 648                         av_log(s, AV_LOG_ERROR, "index overflow B\n");
 649                         goto fail;
 650                     }
 651                     has_keyframe[n++] = x & 1;
 652                     x >>= 1;
 653                 }
 654             }
 655             if (has_keyframe[0]) {
 656                 av_log(s, AV_LOG_ERROR, "keyframe before first syncpoint in index\n");
 657                 goto fail;
 658             }
 659             assert(n <= syncpoint_count + 1);
 660             for (; j < n && j < syncpoint_count; j++) {
 661                 if (has_keyframe[j]) {
 662                     uint64_t B, A = ffio_read_varlen(bc);
 663                     if (!A) {
 664                         A = ffio_read_varlen(bc);
 665                         B = ffio_read_varlen(bc);
 666                         // eor_pts[j][i] = last_pts + A + B
 667                     } else
 668                         B = 0;
 669                     av_add_index_entry(s->streams[i], 16 * syncpoints[j - 1],
 670                                        last_pts + A, 0, 0, AVINDEX_KEYFRAME);
 671                     last_pts += A + B;
 672                 }
 673             }
 674         }
 675     }
 676
 677     if (skip_reserved(bc, end) || ffio_get_checksum(bc)) {
 678         av_log(s, AV_LOG_ERROR, "index checksum mismatch\n");
 679         goto fail;
 680     }
 681     ret = 0;
 682
 683 fail:
 684     av_free(syncpoints);
 685     av_free(has_keyframe);
 686     return ret;
 687 }
 688
 689 static int nut_read_header(AVFormatContext *s)
 690 {
 691     NUTContext *nut = s->priv_data;
 692     AVIOContext *bc = s->pb;
 693     int64_t pos;
 694     int initialized_stream_count;
 695
 696     nut->avf = s;
 697
 698     /* main header */
 699     pos = 0;
 700     do {
 701         pos = find_startcode(bc, MAIN_STARTCODE, pos) + 1;
 702         if (pos < 0 + 1) {
 703             av_log(s, AV_LOG_ERROR, "No main startcode found.\n");
 704             return AVERROR_INVALIDDATA;
 705         }
 706     } while (decode_main_header(nut) < 0);
 707
 708     /* stream headers */
 709     pos = 0;
 710     for (initialized_stream_count = 0; initialized_stream_count < s->nb_streams;) {
 711         pos = find_startcode(bc, STREAM_STARTCODE, pos) + 1;
 712         if (pos < 0 + 1) {
 713             av_log(s, AV_LOG_ERROR, "Not all stream headers found.\n");
 714             return AVERROR_INVALIDDATA;
 715         }
 716         if (decode_stream_header(nut) >= 0)
 717             initialized_stream_count++;
 718     }
 719
 720     /* info headers */
 721     pos = 0;
 722     for (;;) {
 723         uint64_t startcode = find_any_startcode(bc, pos);
 724         pos = avio_tell(bc);
 725
 726         if (startcode == 0) {
 727             av_log(s, AV_LOG_ERROR, "EOF before video frames\n");
 728             return AVERROR_INVALIDDATA;
 729         } else if (startcode == SYNCPOINT_STARTCODE) {
 730             nut->next_startcode = startcode;
 731             break;
 732         } else if (startcode != INFO_STARTCODE) {
 733             continue;
 734         }
 735
 736         decode_info_header(nut);
 737     }
 738
 739     s->internal->data_offset = pos - 8;
 740
 741     if (bc->seekable) {
 742         int64_t orig_pos = avio_tell(bc);
 743         find_and_decode_index(nut);
 744         avio_seek(bc, orig_pos, SEEK_SET);
 745     }
 746     assert(nut->next_startcode == SYNCPOINT_STARTCODE);
 747
 748     ff_metadata_conv_ctx(s, NULL, ff_nut_metadata_conv);
 749
 750     return 0;
 751 }
 752
 753 static int decode_frame_header(NUTContext *nut, int64_t *pts, int *stream_id,
 754                                uint8_t *header_idx, int frame_code)
 755 {
 756     AVFormatContext *s = nut->avf;
 757     AVIOContext *bc    = s->pb;
 758     StreamContext *stc;
 759     int size, flags, size_mul, pts_delta, i, reserved_count;
 760     uint64_t tmp;
 761
 762     if (!(nut->flags & NUT_PIPE) &&
 763         avio_tell(bc) > nut->last_syncpoint_pos + nut->max_distance) {
 764         av_log(s, AV_LOG_ERROR,
 765                "Last frame must have been damaged %"PRId64" > %"PRId64" + %d\n",
 766                avio_tell(bc), nut->last_syncpoint_pos, nut->max_distance);
 767         return AVERROR_INVALIDDATA;
 768     }
 769
 770     flags          = nut->frame_code[frame_code].flags;
 771     size_mul       = nut->frame_code[frame_code].size_mul;
 772     size           = nut->frame_code[frame_code].size_lsb;
 773     *stream_id     = nut->frame_code[frame_code].stream_id;
 774     pts_delta      = nut->frame_code[frame_code].pts_delta;
 775     reserved_count = nut->frame_code[frame_code].reserved_count;
 776     *header_idx    = nut->frame_code[frame_code].header_idx;
 777
 778     if (flags & FLAG_INVALID)
 779         return AVERROR_INVALIDDATA;
 780     if (flags & FLAG_CODED)
 781         flags ^= ffio_read_varlen(bc);
 782     if (flags & FLAG_STREAM_ID) {
 783         GET_V(*stream_id, tmp < s->nb_streams);
 784     }
 785     stc = &nut->stream[*stream_id];
 786     if (flags & FLAG_CODED_PTS) {
 787         int coded_pts = ffio_read_varlen(bc);
 788         // FIXME check last_pts validity?
 789         if (coded_pts < (1 << stc->msb_pts_shift)) {
 790             *pts = ff_lsb2full(stc, coded_pts);
 791         } else
 792             *pts = coded_pts - (1 << stc->msb_pts_shift);
 793     } else
 794         *pts = stc->last_pts + pts_delta;
 795     if (flags & FLAG_SIZE_MSB)
 796         size += size_mul * ffio_read_varlen(bc);
 797     if (flags & FLAG_MATCH_TIME)
 798         get_s(bc);
 799     if (flags & FLAG_HEADER_IDX)
 800         *header_idx = ffio_read_varlen(bc);
 801     if (flags & FLAG_RESERVED)
 802         reserved_count = ffio_read_varlen(bc);
 803     for (i = 0; i < reserved_count; i++)
 804         ffio_read_varlen(bc);
 805
 806     if (*header_idx >= (unsigned)nut->header_count) {
 807         av_log(s, AV_LOG_ERROR, "header_idx invalid\n");
 808         return AVERROR_INVALIDDATA;
 809     }
 810     if (size > 4096)
 811         *header_idx = 0;
 812     size -= nut->header_len[*header_idx];
 813
 814     if (flags & FLAG_CHECKSUM) {
 815         avio_rb32(bc); // FIXME check this
 816     } else if (!(nut->flags & NUT_PIPE) &&
 817                size > 2 * nut->max_distance ||
 818                FFABS(stc->last_pts - *pts) > stc->max_pts_distance) {
 819         av_log(s, AV_LOG_ERROR, "frame size > 2max_distance and no checksum\n");
 820         return AVERROR_INVALIDDATA;
 821     }
 822
 823     stc->last_pts   = *pts;
 824     stc->last_flags = flags;
 825
 826     return size;
 827 }
 828
 829 static int decode_frame(NUTContext *nut, AVPacket *pkt, int frame_code)
 830 {
 831     AVFormatContext *s = nut->avf;
 832     AVIOContext *bc    = s->pb;
 833     int size, stream_id, discard, ret;
 834     int64_t pts, last_IP_pts;
 835     StreamContext *stc;
 836     uint8_t header_idx;
 837
 838     size = decode_frame_header(nut, &pts, &stream_id, &header_idx, frame_code);
 839     if (size < 0)
 840         return size;
 841
 842     stc = &nut->stream[stream_id];
 843
 844     if (stc->last_flags & FLAG_KEY)
 845         stc->skip_until_key_frame = 0;
 846
 847     discard     = s->streams[stream_id]->discard;
 848     last_IP_pts = s->streams[stream_id]->last_IP_pts;
 849     if ((discard >= AVDISCARD_NONKEY && !(stc->last_flags & FLAG_KEY)) ||
 850         (discard >= AVDISCARD_BIDIR  && last_IP_pts != AV_NOPTS_VALUE &&
 851          last_IP_pts > pts) ||
 852         discard >= AVDISCARD_ALL ||
 853         stc->skip_until_key_frame) {
 854         avio_skip(bc, size);
 855         return 1;
 856     }
 857
 858     ret = av_new_packet(pkt, size + nut->header_len[header_idx]);
 859     if (ret < 0)
 860         return ret;
 861     memcpy(pkt->data, nut->header[header_idx], nut->header_len[header_idx]);
 862     pkt->pos = avio_tell(bc); // FIXME
 863     avio_read(bc, pkt->data + nut->header_len[header_idx], size);
 864
 865     pkt->stream_index = stream_id;
 866     if (stc->last_flags & FLAG_KEY)
 867         pkt->flags |= AV_PKT_FLAG_KEY;
 868     pkt->pts = pts;
 869
 870     return 0;
 871 }
 872
 873 static int nut_read_packet(AVFormatContext *s, AVPacket *pkt)
 874 {
 875     NUTContext *nut = s->priv_data;
 876     AVIOContext *bc = s->pb;
 877     int i, frame_code = 0, ret, skip;
 878     int64_t ts, back_ptr;
 879
 880     for (;;) {
 881         int64_t pos  = avio_tell(bc);
 882         uint64_t tmp = nut->next_startcode;
 883         nut->next_startcode = 0;
 884
 885         if (tmp) {
 886             pos -= 8;
 887         } else {
 888             frame_code = avio_r8(bc);
 889             if (bc->eof_reached)
 890                 return AVERROR_EOF;
 891             if (frame_code == 'N') {
 892                 tmp = frame_code;
 893                 for (i = 1; i < 8; i++)
 894                     tmp = (tmp << 8) + avio_r8(bc);
 895             }
 896         }
 897         switch (tmp) {
 898         case MAIN_STARTCODE:
 899         case STREAM_STARTCODE:
 900         case INDEX_STARTCODE:
 901             skip = get_packetheader(nut, bc, 0, tmp);
 902             avio_skip(bc, skip);
 903             break;
 904         case INFO_STARTCODE:
 905             if (decode_info_header(nut) < 0)
 906                 goto resync;
 907             break;
 908         case SYNCPOINT_STARTCODE:
 909             if (decode_syncpoint(nut, &ts, &back_ptr) < 0)
 910                 goto resync;
 911             frame_code = avio_r8(bc);
 912         case 0:
 913             ret = decode_frame(nut, pkt, frame_code);
 914             if (ret == 0)
 915                 return 0;
 916             else if (ret == 1) // OK but discard packet
 917                 break;
 918         default:
 919 resync:
 920             av_log(s, AV_LOG_DEBUG, "syncing from %"PRId64"\n", pos);
 921             tmp = find_any_startcode(bc, nut->last_syncpoint_pos + 1);
 922             if (tmp == 0)
 923                 return AVERROR_INVALIDDATA;
 924             av_log(s, AV_LOG_DEBUG, "sync\n");
 925             nut->next_startcode = tmp;
 926         }
 927     }
 928 }
 929
 930 static int64_t nut_read_timestamp(AVFormatContext *s, int stream_index,
 931                                   int64_t *pos_arg, int64_t pos_limit)
 932 {
 933     NUTContext *nut = s->priv_data;
 934     AVIOContext *bc = s->pb;
 935     int64_t pos, pts, back_ptr;
 936     av_log(s, AV_LOG_DEBUG, "read_timestamp(X,%d,%"PRId64",%"PRId64")\n",
 937            stream_index, *pos_arg, pos_limit);
 938
 939     pos = *pos_arg;
 940     do {
 941         pos = find_startcode(bc, SYNCPOINT_STARTCODE, pos) + 1;
 942         if (pos < 1) {
 943             assert(nut->next_startcode == 0);
 944             av_log(s, AV_LOG_ERROR, "read_timestamp failed.\n");
 945             return AV_NOPTS_VALUE;
 946         }
 947     } while (decode_syncpoint(nut, &pts, &back_ptr) < 0);
 948     *pos_arg = pos - 1;
 949     assert(nut->last_syncpoint_pos == *pos_arg);
 950
 951     av_log(s, AV_LOG_DEBUG, "return %"PRId64" %"PRId64"\n", pts, back_ptr);
 952     if (stream_index == -1)
 953         return pts;
 954     else if (stream_index == -2)
 955         return back_ptr;
 956
 957     return AV_NOPTS_VALUE;
 958 }
 959
 960 static int read_seek(AVFormatContext *s, int stream_index,
 961                      int64_t pts, int flags)
 962 {
 963     NUTContext *nut    = s->priv_data;
 964     AVStream *st       = s->streams[stream_index];
 965     Syncpoint dummy    = { .ts = pts * av_q2d(st->time_base) * AV_TIME_BASE };
 966     Syncpoint nopts_sp = { .ts = AV_NOPTS_VALUE, .back_ptr = AV_NOPTS_VALUE };
 967     Syncpoint *sp, *next_node[2] = { &nopts_sp, &nopts_sp };
 968     int64_t pos, pos2, ts;
 969     int i;
 970
 971     if (nut->flags & NUT_PIPE) {
 972         return AVERROR(ENOSYS);
 973     }
 974
 975     if (st->index_entries) {
 976         int index = av_index_search_timestamp(st, pts, flags);
 977         if (index < 0)
 978             return -1;
 979
 980         pos2 = st->index_entries[index].pos;
 981         ts   = st->index_entries[index].timestamp;
 982     } else {
 983         av_tree_find(nut->syncpoints, &dummy, (void *) ff_nut_sp_pts_cmp,
 984                      (void **) next_node);
 985         av_log(s, AV_LOG_DEBUG, "%"PRIu64"-%"PRIu64" %"PRId64"-%"PRId64"\n",
 986                next_node[0]->pos, next_node[1]->pos, next_node[0]->ts,
 987                next_node[1]->ts);
 988         pos = ff_gen_search(s, -1, dummy.ts, next_node[0]->pos,
 989                             next_node[1]->pos, next_node[1]->pos,
 990                             next_node[0]->ts, next_node[1]->ts,
 991                             AVSEEK_FLAG_BACKWARD, &ts, nut_read_timestamp);
 992
 993         if (!(flags & AVSEEK_FLAG_BACKWARD)) {
 994             dummy.pos    = pos + 16;
 995             next_node[1] = &nopts_sp;
 996             av_tree_find(nut->syncpoints, &dummy, (void *) ff_nut_sp_pos_cmp,
 997                          (void **) next_node);
 998             pos2 = ff_gen_search(s, -2, dummy.pos, next_node[0]->pos,
 999                                  next_node[1]->pos, next_node[1]->pos,
1000                                  next_node[0]->back_ptr, next_node[1]->back_ptr,
1001                                  flags, &ts, nut_read_timestamp);
1002             if (pos2 >= 0)
1003                 pos = pos2;
1004             // FIXME dir but I think it does not matter
1005         }
1006         dummy.pos = pos;
1007         sp = av_tree_find(nut->syncpoints, &dummy, (void *) ff_nut_sp_pos_cmp,
1008                           NULL);
1009
1010         assert(sp);
1011         pos2 = sp->back_ptr - 15;
1012     }
1013     av_log(NULL, AV_LOG_DEBUG, "SEEKTO: %"PRId64"\n", pos2);
1014     pos = find_startcode(s->pb, SYNCPOINT_STARTCODE, pos2);
1015     avio_seek(s->pb, pos, SEEK_SET);
1016     av_log(NULL, AV_LOG_DEBUG, "SP: %"PRId64"\n", pos);
1017     if (pos2 > pos || pos2 + 15 < pos)
1018         av_log(NULL, AV_LOG_ERROR, "no syncpoint at backptr pos\n");
1019     for (i = 0; i < s->nb_streams; i++)
1020         nut->stream[i].skip_until_key_frame = 1;
1021
1022     return 0;
1023 }
1024
1025 static int nut_read_close(AVFormatContext *s)
1026 {
1027     NUTContext *nut = s->priv_data;
1028     int i;
1029
1030     av_freep(&nut->time_base);
1031     av_freep(&nut->stream);
1032     ff_nut_free_sp(nut);
1033     for (i = 1; i < nut->header_count; i++)
1034         av_freep(&nut->header[i]);
1035
1036     return 0;
1037 }
1038
1039 AVInputFormat ff_nut_demuxer = {
1040     .name           = "nut",
1041     .long_name      = NULL_IF_CONFIG_SMALL("NUT"),
1042     .priv_data_size = sizeof(NUTContext),
1043     .read_probe     = nut_probe,
1044     .read_header    = nut_read_header,
1045     .read_packet    = nut_read_packet,
1046     .read_close     = nut_read_close,
1047     .read_seek      = read_seek,
1048     .extensions     = "nut",
1049     .codec_tag      = ff_nut_codec_tags,
1050 };