git.sesse.net Git - ffmpeg/blob - libavformat/mxfdec.c

   1 /*
   2  * MXF demuxer.
   3  * Copyright (c) 2006 SmartJog S.A., Baptiste Coudurier <baptiste dot coudurier at smartjog dot com>
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 /*
  23  * References
  24  * SMPTE 336M KLV Data Encoding Protocol Using Key-Length-Value
  25  * SMPTE 377M MXF File Format Specifications
  26  * SMPTE 378M Operational Pattern 1a
  27  * SMPTE 379M MXF Generic Container
  28  * SMPTE 381M Mapping MPEG Streams into the MXF Generic Container
  29  * SMPTE 382M Mapping AES3 and Broadcast Wave Audio into the MXF Generic Container
  30  * SMPTE 383M Mapping DV-DIF Data to the MXF Generic Container
  31  *
  32  * Principle
  33  * Search for Track numbers which will identify essence element KLV packets.
  34  * Search for SourcePackage which define tracks which contains Track numbers.
  35  * Material Package contains tracks with reference to SourcePackage tracks.
  36  * Search for Descriptors (Picture, Sound) which contains codec info and parameters.
  37  * Assign Descriptors to correct Tracks.
  38  *
  39  * Metadata reading functions read Local Tags, get InstanceUID(0x3C0A) then add MetaDataSet to MXFContext.
  40  * Metadata parsing resolves Strong References to objects.
  41  *
  42  * Simple demuxer, only OP1A supported and some files might not work at all.
  43  * Only tracks with associated descriptors will be decoded. "Highly Desirable" SMPTE 377M D.1
  44  */
  45
  46 //#define DEBUG
  47
  48 #include "libavutil/aes.h"
  49 #include "libavutil/mathematics.h"
  50 #include "libavcodec/bytestream.h"
  51 #include "avformat.h"
  52 #include "internal.h"
  53 #include "mxf.h"
  54
  55 typedef enum {
  56     Header,
  57     BodyPartition,
  58     Footer
  59 } MXFPartitionType;
  60
  61 typedef enum {
  62     OP1a = 1,
  63     OP1b,
  64     OP1c,
  65     OP2a,
  66     OP2b,
  67     OP2c,
  68     OP3a,
  69     OP3b,
  70     OP3c,
  71     OPAtom,
  72     OPSONYOpt,  /* FATE sample, violates the spec in places */
  73 } MXFOP;
  74
  75 typedef struct {
  76     int closed;
  77     int complete;
  78     MXFPartitionType type;
  79     uint64_t previous_partition;
  80     int index_sid;
  81     int body_sid;
  82     int64_t this_partition;
  83     int64_t essence_offset;         ///< absolute offset of essence
  84     int64_t essence_length;
  85     int32_t kag_size;
  86     int64_t header_byte_count;
  87     int64_t index_byte_count;
  88     int pack_length;
  89 } MXFPartition;
  90
  91 typedef struct {
  92     UID uid;
  93     enum MXFMetadataSetType type;
  94     UID source_container_ul;
  95 } MXFCryptoContext;
  96
  97 typedef struct {
  98     UID uid;
  99     enum MXFMetadataSetType type;
 100     UID source_package_uid;
 101     UID data_definition_ul;
 102     int64_t duration;
 103     int64_t start_position;
 104     int source_track_id;
 105 } MXFStructuralComponent;
 106
 107 typedef struct {
 108     UID uid;
 109     enum MXFMetadataSetType type;
 110     UID data_definition_ul;
 111     UID *structural_components_refs;
 112     int structural_components_count;
 113     int64_t duration;
 114 } MXFSequence;
 115
 116 typedef struct {
 117     UID uid;
 118     enum MXFMetadataSetType type;
 119     MXFSequence *sequence; /* mandatory, and only one */
 120     UID sequence_ref;
 121     int track_id;
 122     uint8_t track_number[4];
 123     AVRational edit_rate;
 124 } MXFTrack;
 125
 126 typedef struct {
 127     UID uid;
 128     enum MXFMetadataSetType type;
 129     UID essence_container_ul;
 130     UID essence_codec_ul;
 131     AVRational sample_rate;
 132     AVRational aspect_ratio;
 133     int width;
 134     int height;
 135     int channels;
 136     int bits_per_sample;
 137     UID *sub_descriptors_refs;
 138     int sub_descriptors_count;
 139     int linked_track_id;
 140     uint8_t *extradata;
 141     int extradata_size;
 142     enum PixelFormat pix_fmt;
 143 } MXFDescriptor;
 144
 145 typedef struct {
 146     UID uid;
 147     enum MXFMetadataSetType type;
 148     int edit_unit_byte_count;
 149     int index_sid;
 150     int body_sid;
 151     AVRational index_edit_rate;
 152     uint64_t index_start_position;
 153     uint64_t index_duration;
 154     int8_t *temporal_offset_entries;
 155     int *flag_entries;
 156     uint64_t *stream_offset_entries;
 157     int nb_index_entries;
 158 } MXFIndexTableSegment;
 159
 160 typedef struct {
 161     UID uid;
 162     enum MXFMetadataSetType type;
 163     UID package_uid;
 164     UID *tracks_refs;
 165     int tracks_count;
 166     MXFDescriptor *descriptor; /* only one */
 167     UID descriptor_ref;
 168 } MXFPackage;
 169
 170 typedef struct {
 171     UID uid;
 172     enum MXFMetadataSetType type;
 173 } MXFMetadataSet;
 174
 175 /* decoded index table */
 176 typedef struct {
 177     int index_sid;
 178     int body_sid;
 179     int nb_ptses;               /* number of PTSes or total duration of index */
 180     int64_t first_dts;          /* DTS = EditUnit + first_dts */
 181     int64_t *ptses;             /* maps EditUnit -> PTS */
 182     int nb_segments;
 183     MXFIndexTableSegment **segments;    /* sorted by IndexStartPosition */
 184     AVIndexEntry *fake_index;   /* used for calling ff_index_search_timestamp() */
 185 } MXFIndexTable;
 186
 187 typedef struct {
 188     MXFPartition *partitions;
 189     unsigned partitions_count;
 190     MXFOP op;
 191     UID *packages_refs;
 192     int packages_count;
 193     MXFMetadataSet **metadata_sets;
 194     int metadata_sets_count;
 195     AVFormatContext *fc;
 196     struct AVAES *aesc;
 197     uint8_t *local_tags;
 198     int local_tags_count;
 199     uint64_t footer_partition;
 200     KLVPacket current_klv_data;
 201     int current_klv_index;
 202     int run_in;
 203     MXFPartition *current_partition;
 204     int parsing_backward;
 205     int64_t last_forward_tell;
 206     int last_forward_partition;
 207     int current_edit_unit;
 208     int nb_index_tables;
 209     MXFIndexTable *index_tables;
 210     int edit_units_per_packet;      ///< how many edit units to read at a time (PCM, OPAtom)
 211 } MXFContext;
 212
 213 enum MXFWrappingScheme {
 214     Frame,
 215     Clip,
 216 };
 217
 218 /* NOTE: klv_offset is not set (-1) for local keys */
 219 typedef int MXFMetadataReadFunc(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset);
 220
 221 typedef struct {
 222     const UID key;
 223     MXFMetadataReadFunc *read;
 224     int ctx_size;
 225     enum MXFMetadataSetType type;
 226 } MXFMetadataReadTableEntry;
 227
 228 /* partial keys to match */
 229 static const uint8_t mxf_header_partition_pack_key[]       = { 0x06,0x0e,0x2b,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02 };
 230 static const uint8_t mxf_essence_element_key[]             = { 0x06,0x0e,0x2b,0x34,0x01,0x02,0x01,0x01,0x0d,0x01,0x03,0x01 };
 231 static const uint8_t mxf_avid_essence_element_key[]        = { 0x06,0x0e,0x2b,0x34,0x01,0x02,0x01,0x01,0x0e,0x04,0x03,0x01 };
 232 static const uint8_t mxf_system_item_key[]                 = { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0D,0x01,0x03,0x01,0x04 };
 233 static const uint8_t mxf_klv_key[]                         = { 0x06,0x0e,0x2b,0x34 };
 234 /* complete keys to match */
 235 static const uint8_t mxf_crypto_source_container_ul[]      = { 0x06,0x0e,0x2b,0x34,0x01,0x01,0x01,0x09,0x06,0x01,0x01,0x02,0x02,0x00,0x00,0x00 };
 236 static const uint8_t mxf_encrypted_triplet_key[]           = { 0x06,0x0e,0x2b,0x34,0x02,0x04,0x01,0x07,0x0d,0x01,0x03,0x01,0x02,0x7e,0x01,0x00 };
 237 static const uint8_t mxf_encrypted_essence_container[]     = { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x07,0x0d,0x01,0x03,0x01,0x02,0x0b,0x01,0x00 };
 238 static const uint8_t mxf_sony_mpeg4_extradata[]            = { 0x06,0x0e,0x2b,0x34,0x04,0x01,0x01,0x01,0x0e,0x06,0x06,0x02,0x02,0x01,0x00,0x00 };
 239
 240 #define IS_KLV_KEY(x, y) (!memcmp(x, y, sizeof(y)))
 241
 242 static int64_t klv_decode_ber_length(AVIOContext *pb)
 243 {
 244     uint64_t size = avio_r8(pb);
 245     if (size & 0x80) { /* long form */
 246         int bytes_num = size & 0x7f;
 247         /* SMPTE 379M 5.3.4 guarantee that bytes_num must not exceed 8 bytes */
 248         if (bytes_num > 8)
 249             return AVERROR_INVALIDDATA;
 250         size = 0;
 251         while (bytes_num--)
 252             size = size << 8 | avio_r8(pb);
 253     }
 254     return size;
 255 }
 256
 257 static int mxf_read_sync(AVIOContext *pb, const uint8_t *key, unsigned size)
 258 {
 259     int i, b;
 260     for (i = 0; i < size && !url_feof(pb); i++) {
 261         b = avio_r8(pb);
 262         if (b == key[0])
 263             i = 0;
 264         else if (b != key[i])
 265             i = -1;
 266     }
 267     return i == size;
 268 }
 269
 270 static int klv_read_packet(KLVPacket *klv, AVIOContext *pb)
 271 {
 272     if (!mxf_read_sync(pb, mxf_klv_key, 4))
 273         return AVERROR_INVALIDDATA;
 274     klv->offset = avio_tell(pb) - 4;
 275     memcpy(klv->key, mxf_klv_key, 4);
 276     avio_read(pb, klv->key + 4, 12);
 277     klv->length = klv_decode_ber_length(pb);
 278     return klv->length == -1 ? -1 : 0;
 279 }
 280
 281 static int mxf_get_stream_index(AVFormatContext *s, KLVPacket *klv)
 282 {
 283     int i;
 284
 285     for (i = 0; i < s->nb_streams; i++) {
 286         MXFTrack *track = s->streams[i]->priv_data;
 287         /* SMPTE 379M 7.3 */
 288         if (!memcmp(klv->key + sizeof(mxf_essence_element_key), track->track_number, sizeof(track->track_number)))
 289             return i;
 290     }
 291     /* return 0 if only one stream, for OP Atom files with 0 as track number */
 292     return s->nb_streams == 1 ? 0 : -1;
 293 }
 294
 295 /* XXX: use AVBitStreamFilter */
 296 static int mxf_get_d10_aes3_packet(AVIOContext *pb, AVStream *st, AVPacket *pkt, int64_t length)
 297 {
 298     const uint8_t *buf_ptr, *end_ptr;
 299     uint8_t *data_ptr;
 300     int i;
 301
 302     if (length > 61444) /* worst case PAL 1920 samples 8 channels */
 303         return AVERROR_INVALIDDATA;
 304     length = av_get_packet(pb, pkt, length);
 305     if (length < 0)
 306         return length;
 307     data_ptr = pkt->data;
 308     end_ptr = pkt->data + length;
 309     buf_ptr = pkt->data + 4; /* skip SMPTE 331M header */
 310     for (; buf_ptr + st->codec->channels*4 < end_ptr; ) {
 311         for (i = 0; i < st->codec->channels; i++) {
 312             uint32_t sample = bytestream_get_le32(&buf_ptr);
 313             if (st->codec->bits_per_coded_sample == 24)
 314                 bytestream_put_le24(&data_ptr, (sample >> 4) & 0xffffff);
 315             else
 316                 bytestream_put_le16(&data_ptr, (sample >> 12) & 0xffff);
 317         }
 318         buf_ptr += 32 - st->codec->channels*4; // always 8 channels stored SMPTE 331M
 319     }
 320     av_shrink_packet(pkt, data_ptr - pkt->data);
 321     return 0;
 322 }
 323
 324 static int mxf_decrypt_triplet(AVFormatContext *s, AVPacket *pkt, KLVPacket *klv)
 325 {
 326     static const uint8_t checkv[16] = {0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b, 0x43, 0x48, 0x55, 0x4b};
 327     MXFContext *mxf = s->priv_data;
 328     AVIOContext *pb = s->pb;
 329     int64_t end = avio_tell(pb) + klv->length;
 330     int64_t size;
 331     uint64_t orig_size;
 332     uint64_t plaintext_size;
 333     uint8_t ivec[16];
 334     uint8_t tmpbuf[16];
 335     int index;
 336
 337     if (!mxf->aesc && s->key && s->keylen == 16) {
 338         mxf->aesc = av_malloc(av_aes_size);
 339         if (!mxf->aesc)
 340             return AVERROR(ENOMEM);
 341         av_aes_init(mxf->aesc, s->key, 128, 1);
 342     }
 343     // crypto context
 344     avio_skip(pb, klv_decode_ber_length(pb));
 345     // plaintext offset
 346     klv_decode_ber_length(pb);
 347     plaintext_size = avio_rb64(pb);
 348     // source klv key
 349     klv_decode_ber_length(pb);
 350     avio_read(pb, klv->key, 16);
 351     if (!IS_KLV_KEY(klv, mxf_essence_element_key))
 352         return AVERROR_INVALIDDATA;
 353     index = mxf_get_stream_index(s, klv);
 354     if (index < 0)
 355         return AVERROR_INVALIDDATA;
 356     // source size
 357     klv_decode_ber_length(pb);
 358     orig_size = avio_rb64(pb);
 359     if (orig_size < plaintext_size)
 360         return AVERROR_INVALIDDATA;
 361     // enc. code
 362     size = klv_decode_ber_length(pb);
 363     if (size < 32 || size - 32 < orig_size)
 364         return AVERROR_INVALIDDATA;
 365     avio_read(pb, ivec, 16);
 366     avio_read(pb, tmpbuf, 16);
 367     if (mxf->aesc)
 368         av_aes_crypt(mxf->aesc, tmpbuf, tmpbuf, 1, ivec, 1);
 369     if (memcmp(tmpbuf, checkv, 16))
 370         av_log(s, AV_LOG_ERROR, "probably incorrect decryption key\n");
 371     size -= 32;
 372     size = av_get_packet(pb, pkt, size);
 373     if (size < 0)
 374         return size;
 375     else if (size < plaintext_size)
 376         return AVERROR_INVALIDDATA;
 377     size -= plaintext_size;
 378     if (mxf->aesc)
 379         av_aes_crypt(mxf->aesc, &pkt->data[plaintext_size],
 380                      &pkt->data[plaintext_size], size >> 4, ivec, 1);
 381     av_shrink_packet(pkt, orig_size);
 382     pkt->stream_index = index;
 383     avio_skip(pb, end - avio_tell(pb));
 384     return 0;
 385 }
 386
 387 static int mxf_read_primer_pack(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
 388 {
 389     MXFContext *mxf = arg;
 390     int item_num = avio_rb32(pb);
 391     int item_len = avio_rb32(pb);
 392
 393     if (item_len != 18) {
 394         av_log_ask_for_sample(pb, "unsupported primer pack item length %d\n",
 395                               item_len);
 396         return AVERROR_PATCHWELCOME;
 397     }
 398     if (item_num > UINT_MAX / item_len)
 399         return AVERROR_INVALIDDATA;
 400     mxf->local_tags_count = item_num;
 401     mxf->local_tags = av_malloc(item_num*item_len);
 402     if (!mxf->local_tags)
 403         return AVERROR(ENOMEM);
 404     avio_read(pb, mxf->local_tags, item_num*item_len);
 405     return 0;
 406 }
 407
 408 static int mxf_read_partition_pack(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
 409 {
 410     MXFContext *mxf = arg;
 411     MXFPartition *partition, *tmp_part;
 412     UID op;
 413     uint64_t footer_partition;
 414     uint32_t nb_essence_containers;
 415
 416     if (mxf->partitions_count+1 >= UINT_MAX / sizeof(*mxf->partitions))
 417         return AVERROR(ENOMEM);
 418
 419     tmp_part = av_realloc(mxf->partitions, (mxf->partitions_count + 1) * sizeof(*mxf->partitions));
 420     if (!tmp_part)
 421         return AVERROR(ENOMEM);
 422     mxf->partitions = tmp_part;
 423
 424     if (mxf->parsing_backward) {
 425         /* insert the new partition pack in the middle
 426          * this makes the entries in mxf->partitions sorted by offset */
 427         memmove(&mxf->partitions[mxf->last_forward_partition+1],
 428                 &mxf->partitions[mxf->last_forward_partition],
 429                 (mxf->partitions_count - mxf->last_forward_partition)*sizeof(*mxf->partitions));
 430         partition = mxf->current_partition = &mxf->partitions[mxf->last_forward_partition];
 431     } else {
 432         mxf->last_forward_partition++;
 433         partition = mxf->current_partition = &mxf->partitions[mxf->partitions_count];
 434     }
 435
 436     memset(partition, 0, sizeof(*partition));
 437     mxf->partitions_count++;
 438     partition->pack_length = avio_tell(pb) - klv_offset + size;
 439
 440     switch(uid[13]) {
 441     case 2:
 442         partition->type = Header;
 443         break;
 444     case 3:
 445         partition->type = BodyPartition;
 446         break;
 447     case 4:
 448         partition->type = Footer;
 449         break;
 450     default:
 451         av_log(mxf->fc, AV_LOG_ERROR, "unknown partition type %i\n", uid[13]);
 452         return AVERROR_INVALIDDATA;
 453     }
 454
 455     /* consider both footers to be closed (there is only Footer and CompleteFooter) */
 456     partition->closed = partition->type == Footer || !(uid[14] & 1);
 457     partition->complete = uid[14] > 2;
 458     avio_skip(pb, 4);
 459     partition->kag_size = avio_rb32(pb);
 460     partition->this_partition = avio_rb64(pb);
 461     partition->previous_partition = avio_rb64(pb);
 462     footer_partition = avio_rb64(pb);
 463     partition->header_byte_count = avio_rb64(pb);
 464     partition->index_byte_count = avio_rb64(pb);
 465     partition->index_sid = avio_rb32(pb);
 466     avio_skip(pb, 8);
 467     partition->body_sid = avio_rb32(pb);
 468     avio_read(pb, op, sizeof(UID));
 469     nb_essence_containers = avio_rb32(pb);
 470
 471     /* some files don'thave FooterPartition set in every partition */
 472     if (footer_partition) {
 473         if (mxf->footer_partition && mxf->footer_partition != footer_partition) {
 474             av_log(mxf->fc, AV_LOG_ERROR,
 475                    "inconsistent FooterPartition value: %"PRIu64" != %"PRIu64"\n",
 476                    mxf->footer_partition, footer_partition);
 477         } else {
 478             mxf->footer_partition = footer_partition;
 479         }
 480     }
 481
 482     av_dlog(mxf->fc,
 483             "PartitionPack: ThisPartition = 0x%"PRIX64
 484             ", PreviousPartition = 0x%"PRIX64", "
 485             "FooterPartition = 0x%"PRIX64", IndexSID = %i, BodySID = %i\n",
 486             partition->this_partition,
 487             partition->previous_partition, footer_partition,
 488             partition->index_sid, partition->body_sid);
 489
 490     /* sanity check PreviousPartition if set */
 491     if (partition->previous_partition &&
 492         mxf->run_in + partition->previous_partition >= klv_offset) {
 493         av_log(mxf->fc, AV_LOG_ERROR,
 494                "PreviousPartition points to this partition or forward\n");
 495         return AVERROR_INVALIDDATA;
 496     }
 497
 498     if      (op[12] == 1 && op[13] == 1) mxf->op = OP1a;
 499     else if (op[12] == 1 && op[13] == 2) mxf->op = OP1b;
 500     else if (op[12] == 1 && op[13] == 3) mxf->op = OP1c;
 501     else if (op[12] == 2 && op[13] == 1) mxf->op = OP2a;
 502     else if (op[12] == 2 && op[13] == 2) mxf->op = OP2b;
 503     else if (op[12] == 2 && op[13] == 3) mxf->op = OP2c;
 504     else if (op[12] == 3 && op[13] == 1) mxf->op = OP3a;
 505     else if (op[12] == 3 && op[13] == 2) mxf->op = OP3b;
 506     else if (op[12] == 3 && op[13] == 3) mxf->op = OP3c;
 507     else if (op[12] == 64&& op[13] == 1) mxf->op = OPSONYOpt;
 508     else if (op[12] == 0x10) {
 509         /* SMPTE 390m: "There shall be exactly one essence container"
 510          * 2011_DCPTEST_24FPS.V.mxf violates this and is frame wrapped, hence why we assume OP1a */
 511         if (nb_essence_containers != 1) {
 512             /* only nag once */
 513             if (!mxf->op)
 514                 av_log(mxf->fc, AV_LOG_WARNING, "\"OPAtom\" with %u ECs - assuming OP1a\n", nb_essence_containers);
 515
 516             mxf->op = OP1a;
 517         } else
 518             mxf->op = OPAtom;
 519     } else {
 520         av_log(mxf->fc, AV_LOG_ERROR, "unknown operational pattern: %02xh %02xh - guessing OP1a\n", op[12], op[13]);
 521         mxf->op = OP1a;
 522     }
 523
 524     if (partition->kag_size <= 0 || partition->kag_size > (1 << 20)) {
 525         av_log(mxf->fc, AV_LOG_WARNING, "invalid KAGSize %i - guessing ", partition->kag_size);
 526
 527         if (mxf->op == OPSONYOpt)
 528             partition->kag_size = 512;
 529         else
 530             partition->kag_size = 1;
 531
 532         av_log(mxf->fc, AV_LOG_WARNING, "%i\n", partition->kag_size);
 533     }
 534
 535     return 0;
 536 }
 537
 538 static int mxf_add_metadata_set(MXFContext *mxf, void *metadata_set)
 539 {
 540     MXFMetadataSet **tmp;
 541     if (mxf->metadata_sets_count+1 >= UINT_MAX / sizeof(*mxf->metadata_sets))
 542         return AVERROR(ENOMEM);
 543     tmp = av_realloc(mxf->metadata_sets, (mxf->metadata_sets_count + 1) * sizeof(*mxf->metadata_sets));
 544     if (!tmp)
 545         return AVERROR(ENOMEM);
 546     mxf->metadata_sets = tmp;
 547     mxf->metadata_sets[mxf->metadata_sets_count] = metadata_set;
 548     mxf->metadata_sets_count++;
 549     return 0;
 550 }
 551
 552 static int mxf_read_cryptographic_context(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
 553 {
 554     MXFCryptoContext *cryptocontext = arg;
 555     if (size != 16)
 556         return AVERROR_INVALIDDATA;
 557     if (IS_KLV_KEY(uid, mxf_crypto_source_container_ul))
 558         avio_read(pb, cryptocontext->source_container_ul, 16);
 559     return 0;
 560 }
 561
 562 static int mxf_read_content_storage(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
 563 {
 564     MXFContext *mxf = arg;
 565     switch (tag) {
 566     case 0x1901:
 567         mxf->packages_count = avio_rb32(pb);
 568         if (mxf->packages_count >= UINT_MAX / sizeof(UID))
 569             return AVERROR_INVALIDDATA;
 570         mxf->packages_refs = av_malloc(mxf->packages_count * sizeof(UID));
 571         if (!mxf->packages_refs)
 572             return AVERROR(ENOMEM);
 573         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
 574         avio_read(pb, (uint8_t *)mxf->packages_refs, mxf->packages_count * sizeof(UID));
 575         break;
 576     }
 577     return 0;
 578 }
 579
 580 static int mxf_read_source_clip(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
 581 {
 582     MXFStructuralComponent *source_clip = arg;
 583     switch(tag) {
 584     case 0x0202:
 585         source_clip->duration = avio_rb64(pb);
 586         break;
 587     case 0x1201:
 588         source_clip->start_position = avio_rb64(pb);
 589         break;
 590     case 0x1101:
 591         /* UMID, only get last 16 bytes */
 592         avio_skip(pb, 16);
 593         avio_read(pb, source_clip->source_package_uid, 16);
 594         break;
 595     case 0x1102:
 596         source_clip->source_track_id = avio_rb32(pb);
 597         break;
 598     }
 599     return 0;
 600 }
 601
 602 static int mxf_read_material_package(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
 603 {
 604     MXFPackage *package = arg;
 605     switch(tag) {
 606     case 0x4403:
 607         package->tracks_count = avio_rb32(pb);
 608         if (package->tracks_count >= UINT_MAX / sizeof(UID))
 609             return AVERROR_INVALIDDATA;
 610         package->tracks_refs = av_malloc(package->tracks_count * sizeof(UID));
 611         if (!package->tracks_refs)
 612             return AVERROR(ENOMEM);
 613         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
 614         avio_read(pb, (uint8_t *)package->tracks_refs, package->tracks_count * sizeof(UID));
 615         break;
 616     }
 617     return 0;
 618 }
 619
 620 static int mxf_read_track(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
 621 {
 622     MXFTrack *track = arg;
 623     switch(tag) {
 624     case 0x4801:
 625         track->track_id = avio_rb32(pb);
 626         break;
 627     case 0x4804:
 628         avio_read(pb, track->track_number, 4);
 629         break;
 630     case 0x4B01:
 631         track->edit_rate.den = avio_rb32(pb);
 632         track->edit_rate.num = avio_rb32(pb);
 633         break;
 634     case 0x4803:
 635         avio_read(pb, track->sequence_ref, 16);
 636         break;
 637     }
 638     return 0;
 639 }
 640
 641 static int mxf_read_sequence(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
 642 {
 643     MXFSequence *sequence = arg;
 644     switch(tag) {
 645     case 0x0202:
 646         sequence->duration = avio_rb64(pb);
 647         break;
 648     case 0x0201:
 649         avio_read(pb, sequence->data_definition_ul, 16);
 650         break;
 651     case 0x1001:
 652         sequence->structural_components_count = avio_rb32(pb);
 653         if (sequence->structural_components_count >= UINT_MAX / sizeof(UID))
 654             return AVERROR_INVALIDDATA;
 655         sequence->structural_components_refs = av_malloc(sequence->structural_components_count * sizeof(UID));
 656         if (!sequence->structural_components_refs)
 657             return AVERROR(ENOMEM);
 658         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
 659         avio_read(pb, (uint8_t *)sequence->structural_components_refs, sequence->structural_components_count * sizeof(UID));
 660         break;
 661     }
 662     return 0;
 663 }
 664
 665 static int mxf_read_source_package(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
 666 {
 667     MXFPackage *package = arg;
 668     switch(tag) {
 669     case 0x4403:
 670         package->tracks_count = avio_rb32(pb);
 671         if (package->tracks_count >= UINT_MAX / sizeof(UID))
 672             return AVERROR_INVALIDDATA;
 673         package->tracks_refs = av_malloc(package->tracks_count * sizeof(UID));
 674         if (!package->tracks_refs)
 675             return AVERROR(ENOMEM);
 676         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
 677         avio_read(pb, (uint8_t *)package->tracks_refs, package->tracks_count * sizeof(UID));
 678         break;
 679     case 0x4401:
 680         /* UMID, only get last 16 bytes */
 681         avio_skip(pb, 16);
 682         avio_read(pb, package->package_uid, 16);
 683         break;
 684     case 0x4701:
 685         avio_read(pb, package->descriptor_ref, 16);
 686         break;
 687     }
 688     return 0;
 689 }
 690
 691 static int mxf_read_index_entry_array(AVIOContext *pb, MXFIndexTableSegment *segment)
 692 {
 693     int i, length;
 694
 695     segment->nb_index_entries = avio_rb32(pb);
 696     length = avio_rb32(pb);
 697
 698     if (!(segment->temporal_offset_entries=av_calloc(segment->nb_index_entries, sizeof(*segment->temporal_offset_entries))) ||
 699         !(segment->flag_entries          = av_calloc(segment->nb_index_entries, sizeof(*segment->flag_entries))) ||
 700         !(segment->stream_offset_entries = av_calloc(segment->nb_index_entries, sizeof(*segment->stream_offset_entries))))
 701         return AVERROR(ENOMEM);
 702
 703     for (i = 0; i < segment->nb_index_entries; i++) {
 704         segment->temporal_offset_entries[i] = avio_r8(pb);
 705         avio_r8(pb);                                        /* KeyFrameOffset */
 706         segment->flag_entries[i] = avio_r8(pb);
 707         segment->stream_offset_entries[i] = avio_rb64(pb);
 708         avio_skip(pb, length - 11);
 709     }
 710     return 0;
 711 }
 712
 713 static int mxf_read_index_table_segment(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
 714 {
 715     MXFIndexTableSegment *segment = arg;
 716     switch(tag) {
 717     case 0x3F05:
 718         segment->edit_unit_byte_count = avio_rb32(pb);
 719         av_dlog(NULL, "EditUnitByteCount %d\n", segment->edit_unit_byte_count);
 720         break;
 721     case 0x3F06:
 722         segment->index_sid = avio_rb32(pb);
 723         av_dlog(NULL, "IndexSID %d\n", segment->index_sid);
 724         break;
 725     case 0x3F07:
 726         segment->body_sid = avio_rb32(pb);
 727         av_dlog(NULL, "BodySID %d\n", segment->body_sid);
 728         break;
 729     case 0x3F0A:
 730         av_dlog(NULL, "IndexEntryArray found\n");
 731         return mxf_read_index_entry_array(pb, segment);
 732     case 0x3F0B:
 733         segment->index_edit_rate.num = avio_rb32(pb);
 734         segment->index_edit_rate.den = avio_rb32(pb);
 735         av_dlog(NULL, "IndexEditRate %d/%d\n", segment->index_edit_rate.num,
 736                 segment->index_edit_rate.den);
 737         break;
 738     case 0x3F0C:
 739         segment->index_start_position = avio_rb64(pb);
 740         av_dlog(NULL, "IndexStartPosition %"PRId64"\n", segment->index_start_position);
 741         break;
 742     case 0x3F0D:
 743         segment->index_duration = avio_rb64(pb);
 744         av_dlog(NULL, "IndexDuration %"PRId64"\n", segment->index_duration);
 745         break;
 746     }
 747     return 0;
 748 }
 749
 750 static void mxf_read_pixel_layout(AVIOContext *pb, MXFDescriptor *descriptor)
 751 {
 752     int code, value, ofs = 0;
 753     char layout[16] = {0};
 754
 755     do {
 756         code = avio_r8(pb);
 757         value = avio_r8(pb);
 758         av_dlog(NULL, "pixel layout: code %#x\n", code);
 759
 760         if (ofs < 16) {
 761             layout[ofs++] = code;
 762             layout[ofs++] = value;
 763         }
 764     } while (code != 0); /* SMPTE 377M E.2.46 */
 765
 766     ff_mxf_decode_pixel_layout(layout, &descriptor->pix_fmt);
 767 }
 768
 769 static int mxf_read_generic_descriptor(void *arg, AVIOContext *pb, int tag, int size, UID uid, int64_t klv_offset)
 770 {
 771     MXFDescriptor *descriptor = arg;
 772     switch(tag) {
 773     case 0x3F01:
 774         descriptor->sub_descriptors_count = avio_rb32(pb);
 775         if (descriptor->sub_descriptors_count >= UINT_MAX / sizeof(UID))
 776             return AVERROR_INVALIDDATA;
 777         descriptor->sub_descriptors_refs = av_malloc(descriptor->sub_descriptors_count * sizeof(UID));
 778         if (!descriptor->sub_descriptors_refs)
 779             return AVERROR(ENOMEM);
 780         avio_skip(pb, 4); /* useless size of objects, always 16 according to specs */
 781         avio_read(pb, (uint8_t *)descriptor->sub_descriptors_refs, descriptor->sub_descriptors_count * sizeof(UID));
 782         break;
 783     case 0x3004:
 784         avio_read(pb, descriptor->essence_container_ul, 16);
 785         break;
 786     case 0x3006:
 787         descriptor->linked_track_id = avio_rb32(pb);
 788         break;
 789     case 0x3201: /* PictureEssenceCoding */
 790         avio_read(pb, descriptor->essence_codec_ul, 16);
 791         break;
 792     case 0x3203:
 793         descriptor->width = avio_rb32(pb);
 794         break;
 795     case 0x3202:
 796         descriptor->height = avio_rb32(pb);
 797         break;
 798     case 0x320E:
 799         descriptor->aspect_ratio.num = avio_rb32(pb);
 800         descriptor->aspect_ratio.den = avio_rb32(pb);
 801         break;
 802     case 0x3D03:
 803         descriptor->sample_rate.num = avio_rb32(pb);
 804         descriptor->sample_rate.den = avio_rb32(pb);
 805         break;
 806     case 0x3D06: /* SoundEssenceCompression */
 807         avio_read(pb, descriptor->essence_codec_ul, 16);
 808         break;
 809     case 0x3D07:
 810         descriptor->channels = avio_rb32(pb);
 811         break;
 812     case 0x3D01:
 813         descriptor->bits_per_sample = avio_rb32(pb);
 814         break;
 815     case 0x3401:
 816         mxf_read_pixel_layout(pb, descriptor);
 817         break;
 818     default:
 819         /* Private uid used by SONY C0023S01.mxf */
 820         if (IS_KLV_KEY(uid, mxf_sony_mpeg4_extradata)) {
 821             descriptor->extradata = av_malloc(size + FF_INPUT_BUFFER_PADDING_SIZE);
 822             if (!descriptor->extradata)
 823                 return AVERROR(ENOMEM);
 824             descriptor->extradata_size = size;
 825             avio_read(pb, descriptor->extradata, size);
 826         }
 827         break;
 828     }
 829     return 0;
 830 }
 831
 832 /*
 833  * Match an uid independently of the version byte and up to len common bytes
 834  * Returns: boolean
 835  */
 836 static int mxf_match_uid(const UID key, const UID uid, int len)
 837 {
 838     int i;
 839     for (i = 0; i < len; i++) {
 840         if (i != 7 && key[i] != uid[i])
 841             return 0;
 842     }
 843     return 1;
 844 }
 845
 846 static const MXFCodecUL *mxf_get_codec_ul(const MXFCodecUL *uls, UID *uid)
 847 {
 848     while (uls->uid[0]) {
 849         if(mxf_match_uid(uls->uid, *uid, uls->matching_len))
 850             break;
 851         uls++;
 852     }
 853     return uls;
 854 }
 855
 856 static void *mxf_resolve_strong_ref(MXFContext *mxf, UID *strong_ref, enum MXFMetadataSetType type)
 857 {
 858     int i;
 859
 860     if (!strong_ref)
 861         return NULL;
 862     for (i = 0; i < mxf->metadata_sets_count; i++) {
 863         if (!memcmp(*strong_ref, mxf->metadata_sets[i]->uid, 16) &&
 864             (type == AnyType || mxf->metadata_sets[i]->type == type)) {
 865             return mxf->metadata_sets[i];
 866         }
 867     }
 868     return NULL;
 869 }
 870
 871 static const MXFCodecUL mxf_picture_essence_container_uls[] = {
 872     // video essence container uls
 873     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x02,0x0D,0x01,0x03,0x01,0x02,0x04,0x60,0x01 }, 14, CODEC_ID_MPEG2VIDEO }, /* MPEG-ES Frame wrapped */
 874     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x01,0x0D,0x01,0x03,0x01,0x02,0x02,0x41,0x01 }, 14,    CODEC_ID_DVVIDEO }, /* DV 625 25mbps */
 875     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 },  0,      CODEC_ID_NONE },
 876 };
 877 static const MXFCodecUL mxf_sound_essence_container_uls[] = {
 878     // sound essence container uls
 879     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x01,0x0D,0x01,0x03,0x01,0x02,0x06,0x01,0x00 }, 14, CODEC_ID_PCM_S16LE }, /* BWF Frame wrapped */
 880     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x02,0x0D,0x01,0x03,0x01,0x02,0x04,0x40,0x01 }, 14,       CODEC_ID_MP2 }, /* MPEG-ES Frame wrapped, 0x40 ??? stream id */
 881     { { 0x06,0x0E,0x2B,0x34,0x04,0x01,0x01,0x01,0x0D,0x01,0x03,0x01,0x02,0x01,0x01,0x01 }, 14, CODEC_ID_PCM_S16LE }, /* D-10 Mapping 50Mbps PAL Extended Template */
 882     { { 0x06,0x0E,0x2B,0x34,0x01,0x01,0x01,0xFF,0x4B,0x46,0x41,0x41,0x00,0x0D,0x4D,0x4F }, 14, CODEC_ID_PCM_S16LE }, /* 0001GL00.MXF.A1.mxf_opatom.mxf */
 883     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 },  0,      CODEC_ID_NONE },
 884 };
 885
 886 static int mxf_get_sorted_table_segments(MXFContext *mxf, int *nb_sorted_segments, MXFIndexTableSegment ***sorted_segments)
 887 {
 888     int i, j, nb_segments = 0;
 889     MXFIndexTableSegment **unsorted_segments;
 890     int last_body_sid = -1, last_index_sid = -1, last_index_start = -1;
 891
 892     /* count number of segments, allocate arrays and copy unsorted segments */
 893     for (i = 0; i < mxf->metadata_sets_count; i++)
 894         if (mxf->metadata_sets[i]->type == IndexTableSegment)
 895             nb_segments++;
 896
 897     if (!(unsorted_segments = av_calloc(nb_segments, sizeof(*unsorted_segments))) ||
 898         !(*sorted_segments  = av_calloc(nb_segments, sizeof(**sorted_segments)))) {
 899         av_freep(sorted_segments);
 900         av_free(unsorted_segments);
 901         return AVERROR(ENOMEM);
 902     }
 903
 904     for (i = j = 0; i < mxf->metadata_sets_count; i++)
 905         if (mxf->metadata_sets[i]->type == IndexTableSegment)
 906             unsorted_segments[j++] = (MXFIndexTableSegment*)mxf->metadata_sets[i];
 907
 908     *nb_sorted_segments = 0;
 909
 910     /* sort segments by {BodySID, IndexSID, IndexStartPosition}, remove duplicates while we're at it */
 911     for (i = 0; i < nb_segments; i++) {
 912         int best = -1, best_body_sid = -1, best_index_sid = -1, best_index_start = -1;
 913
 914         for (j = 0; j < nb_segments; j++) {
 915             MXFIndexTableSegment *s = unsorted_segments[j];
 916
 917             /* Require larger BosySID, IndexSID or IndexStartPosition then the previous entry. This removes duplicates.
 918              * We want the smallest values for the keys than what we currently have, unless this is the first such entry this time around.
 919              */
 920             if ((i == 0     || s->body_sid > last_body_sid || s->index_sid > last_index_sid || s->index_start_position > last_index_start) &&
 921                 (best == -1 || s->body_sid < best_body_sid || s->index_sid < best_index_sid || s->index_start_position < best_index_start)) {
 922                 best             = j;
 923                 best_body_sid    = s->body_sid;
 924                 best_index_sid   = s->index_sid;
 925                 best_index_start = s->index_start_position;
 926             }
 927         }
 928
 929         /* no suitable entry found -> we're done */
 930         if (best == -1)
 931             break;
 932
 933         (*sorted_segments)[(*nb_sorted_segments)++] = unsorted_segments[best];
 934         last_body_sid    = best_body_sid;
 935         last_index_sid   = best_index_sid;
 936         last_index_start = best_index_start;
 937     }
 938
 939     av_free(unsorted_segments);
 940
 941     return 0;
 942 }
 943
 944 /**
 945  * Computes the absolute file offset of the given essence container offset
 946  */
 947 static int mxf_absolute_bodysid_offset(MXFContext *mxf, int body_sid, int64_t offset, int64_t *offset_out)
 948 {
 949     int x;
 950     int64_t offset_in = offset;     /* for logging */
 951
 952     for (x = 0; x < mxf->partitions_count; x++) {
 953         MXFPartition *p = &mxf->partitions[x];
 954
 955         if (p->body_sid != body_sid)
 956             continue;
 957
 958         if (offset < p->essence_length || !p->essence_length) {
 959             *offset_out = p->essence_offset + offset;
 960             return 0;
 961         }
 962
 963         offset -= p->essence_length;
 964     }
 965
 966     av_log(mxf->fc, AV_LOG_ERROR,
 967            "failed to find absolute offset of %"PRIX64" in BodySID %i - partial file?\n",
 968            offset_in, body_sid);
 969
 970     return AVERROR_INVALIDDATA;
 971 }
 972
 973 /**
 974  * Returns the end position of the essence container with given BodySID, or zero if unknown
 975  */
 976 static int64_t mxf_essence_container_end(MXFContext *mxf, int body_sid)
 977 {
 978     int x;
 979     int64_t ret = 0;
 980
 981     for (x = 0; x < mxf->partitions_count; x++) {
 982         MXFPartition *p = &mxf->partitions[x];
 983
 984         if (p->body_sid != body_sid)
 985             continue;
 986
 987         if (!p->essence_length)
 988             return 0;
 989
 990         ret = p->essence_offset + p->essence_length;
 991     }
 992
 993     return ret;
 994 }
 995
 996 /* EditUnit -> absolute offset */
 997 static int mxf_edit_unit_absolute_offset(MXFContext *mxf, MXFIndexTable *index_table, int64_t edit_unit, int64_t *edit_unit_out, int64_t *offset_out, int nag)
 998 {
 999     int i;
1000     int64_t offset_temp = 0;
1001
1002     for (i = 0; i < index_table->nb_segments; i++) {
1003         MXFIndexTableSegment *s = index_table->segments[i];
1004
1005         edit_unit = FFMAX(edit_unit, s->index_start_position);  /* clamp if trying to seek before start */
1006
1007         if (edit_unit < s->index_start_position + s->index_duration) {
1008             int64_t index = edit_unit - s->index_start_position;
1009
1010             if (s->edit_unit_byte_count)
1011                 offset_temp += s->edit_unit_byte_count * index;
1012             else if (s->nb_index_entries) {
1013                 if (s->nb_index_entries == 2 * s->index_duration + 1)
1014                     index *= 2;     /* Avid index */
1015
1016                 if (index < 0 || index > s->nb_index_entries) {
1017                     av_log(mxf->fc, AV_LOG_ERROR, "IndexSID %i segment at %"PRId64" IndexEntryArray too small\n",
1018                            index_table->index_sid, s->index_start_position);
1019                     return AVERROR_INVALIDDATA;
1020                 }
1021
1022                 offset_temp = s->stream_offset_entries[index];
1023             } else {
1024                 av_log(mxf->fc, AV_LOG_ERROR, "IndexSID %i segment at %"PRId64" missing EditUnitByteCount and IndexEntryArray\n",
1025                        index_table->index_sid, s->index_start_position);
1026                 return AVERROR_INVALIDDATA;
1027             }
1028
1029             if (edit_unit_out)
1030                 *edit_unit_out = edit_unit;
1031
1032             return mxf_absolute_bodysid_offset(mxf, index_table->body_sid, offset_temp, offset_out);
1033         } else {
1034             /* EditUnitByteCount == 0 for VBR indexes, which is fine since they use explicit StreamOffsets */
1035             offset_temp += s->edit_unit_byte_count * s->index_duration;
1036         }
1037     }
1038
1039     if (nag)
1040         av_log(mxf->fc, AV_LOG_ERROR, "failed to map EditUnit %"PRId64" in IndexSID %i to an offset\n", edit_unit, index_table->index_sid);
1041
1042     return AVERROR_INVALIDDATA;
1043 }
1044
1045 static int mxf_compute_ptses_fake_index(MXFContext *mxf, MXFIndexTable *index_table)
1046 {
1047     int i, j, x;
1048     int8_t max_temporal_offset = -128;
1049
1050     /* first compute how many entries we have */
1051     for (i = 0; i < index_table->nb_segments; i++) {
1052         MXFIndexTableSegment *s = index_table->segments[i];
1053
1054         if (!s->nb_index_entries) {
1055             index_table->nb_ptses = 0;
1056             return 0;                               /* no TemporalOffsets */
1057         }
1058
1059         index_table->nb_ptses += s->index_duration;
1060     }
1061
1062     /* paranoid check */
1063     if (index_table->nb_ptses <= 0)
1064         return 0;
1065
1066     if (!(index_table->ptses      = av_calloc(index_table->nb_ptses, sizeof(int64_t))) ||
1067         !(index_table->fake_index = av_calloc(index_table->nb_ptses, sizeof(AVIndexEntry)))) {
1068         av_freep(&index_table->ptses);
1069         return AVERROR(ENOMEM);
1070     }
1071
1072     /* we may have a few bad TemporalOffsets
1073      * make sure the corresponding PTSes don't have the bogus value 0 */
1074     for (x = 0; x < index_table->nb_ptses; x++)
1075         index_table->ptses[x] = AV_NOPTS_VALUE;
1076
1077     /**
1078      * We have this:
1079      *
1080      * x  TemporalOffset
1081      * 0:  0
1082      * 1:  1
1083      * 2:  1
1084      * 3: -2
1085      * 4:  1
1086      * 5:  1
1087      * 6: -2
1088      *
1089      * We want to transform it into this:
1090      *
1091      * x  DTS PTS
1092      * 0: -1   0
1093      * 1:  0   3
1094      * 2:  1   1
1095      * 3:  2   2
1096      * 4:  3   6
1097      * 5:  4   4
1098      * 6:  5   5
1099      *
1100      * We do this by bucket sorting x by x+TemporalOffset[x] into mxf->ptses,
1101      * then settings mxf->first_dts = -max(TemporalOffset[x]).
1102      * The latter makes DTS <= PTS.
1103      */
1104     for (i = x = 0; i < index_table->nb_segments; i++) {
1105         MXFIndexTableSegment *s = index_table->segments[i];
1106         int index_delta = 1;
1107         int n = s->nb_index_entries;
1108
1109         if (s->nb_index_entries == 2 * s->index_duration + 1) {
1110             index_delta = 2;    /* Avid index */
1111             /* ignore the last entry - it's the size of the essence container */
1112             n--;
1113         }
1114
1115         for (j = 0; j < n; j += index_delta, x++) {
1116             int offset = s->temporal_offset_entries[j] / index_delta;
1117             int index  = x + offset;
1118
1119             if (x >= index_table->nb_ptses) {
1120                 av_log(mxf->fc, AV_LOG_ERROR,
1121                        "x >= nb_ptses - IndexEntryCount %i < IndexDuration %"PRId64"?\n",
1122                        s->nb_index_entries, s->index_duration);
1123                 break;
1124             }
1125
1126             index_table->fake_index[x].timestamp = x;
1127             index_table->fake_index[x].flags = !(s->flag_entries[j] & 0x30) ? AVINDEX_KEYFRAME : 0;
1128
1129             if (index < 0 || index >= index_table->nb_ptses) {
1130                 av_log(mxf->fc, AV_LOG_ERROR,
1131                        "index entry %i + TemporalOffset %i = %i, which is out of bounds\n",
1132                        x, offset, index);
1133                 continue;
1134             }
1135
1136             index_table->ptses[index] = x;
1137             max_temporal_offset = FFMAX(max_temporal_offset, offset);
1138         }
1139     }
1140
1141     index_table->first_dts = -max_temporal_offset;
1142
1143     return 0;
1144 }
1145
1146 /**
1147  * Sorts and collects index table segments into index tables.
1148  * Also computes PTSes if possible.
1149  */
1150 static int mxf_compute_index_tables(MXFContext *mxf)
1151 {
1152     int i, j, k, ret, nb_sorted_segments;
1153     MXFIndexTableSegment **sorted_segments = NULL;
1154
1155     if ((ret = mxf_get_sorted_table_segments(mxf, &nb_sorted_segments, &sorted_segments)) ||
1156         nb_sorted_segments <= 0) {
1157         av_log(mxf->fc, AV_LOG_WARNING, "broken or empty index\n");
1158         return 0;
1159     }
1160
1161     /* sanity check and count unique BodySIDs/IndexSIDs */
1162     for (i = 0; i < nb_sorted_segments; i++) {
1163         if (i == 0 || sorted_segments[i-1]->index_sid != sorted_segments[i]->index_sid)
1164             mxf->nb_index_tables++;
1165         else if (sorted_segments[i-1]->body_sid != sorted_segments[i]->body_sid) {
1166             av_log(mxf->fc, AV_LOG_ERROR, "found inconsistent BodySID\n");
1167             ret = AVERROR_INVALIDDATA;
1168             goto finish_decoding_index;
1169         }
1170     }
1171
1172     if (!(mxf->index_tables = av_calloc(mxf->nb_index_tables, sizeof(MXFIndexTable)))) {
1173         av_log(mxf->fc, AV_LOG_ERROR, "failed to allocate index tables\n");
1174         ret = AVERROR(ENOMEM);
1175         goto finish_decoding_index;
1176     }
1177
1178     /* distribute sorted segments to index tables */
1179     for (i = j = 0; i < nb_sorted_segments; i++) {
1180         if (i != 0 && sorted_segments[i-1]->index_sid != sorted_segments[i]->index_sid) {
1181             /* next IndexSID */
1182             j++;
1183         }
1184
1185         mxf->index_tables[j].nb_segments++;
1186     }
1187
1188     for (i = j = 0; j < mxf->nb_index_tables; i += mxf->index_tables[j++].nb_segments) {
1189         MXFIndexTable *t = &mxf->index_tables[j];
1190
1191         if (!(t->segments = av_calloc(t->nb_segments, sizeof(MXFIndexTableSegment*)))) {
1192             av_log(mxf->fc, AV_LOG_ERROR, "failed to allocate IndexTableSegment pointer array\n");
1193             ret = AVERROR(ENOMEM);
1194             goto finish_decoding_index;
1195         }
1196
1197         if (sorted_segments[i]->index_start_position)
1198             av_log(mxf->fc, AV_LOG_WARNING, "IndexSID %i starts at EditUnit %"PRId64" - seeking may not work as expected\n",
1199                    sorted_segments[i]->index_sid, sorted_segments[i]->index_start_position);
1200
1201         memcpy(t->segments, &sorted_segments[i], t->nb_segments * sizeof(MXFIndexTableSegment*));
1202         t->index_sid = sorted_segments[i]->index_sid;
1203         t->body_sid = sorted_segments[i]->body_sid;
1204
1205         if ((ret = mxf_compute_ptses_fake_index(mxf, t)) < 0)
1206             goto finish_decoding_index;
1207
1208         /* fix zero IndexDurations */
1209         for (k = 0; k < t->nb_segments; k++) {
1210             if (t->segments[k]->index_duration)
1211                 continue;
1212
1213             if (t->nb_segments > 1)
1214                 av_log(mxf->fc, AV_LOG_WARNING, "IndexSID %i segment %i has zero IndexDuration and there's more than one segment\n",
1215                        t->index_sid, k);
1216
1217             if (mxf->fc->nb_streams <= 0) {
1218                 av_log(mxf->fc, AV_LOG_WARNING, "no streams?\n");
1219                 break;
1220             }
1221
1222             /* assume the first stream's duration is reasonable
1223              * leave index_duration = 0 on further segments in case we have any (unlikely)
1224              */
1225             t->segments[k]->index_duration = mxf->fc->streams[0]->duration;
1226             break;
1227         }
1228     }
1229
1230     ret = 0;
1231 finish_decoding_index:
1232     av_free(sorted_segments);
1233     return ret;
1234 }
1235
1236 static int mxf_parse_structural_metadata(MXFContext *mxf)
1237 {
1238     MXFPackage *material_package = NULL;
1239     MXFPackage *temp_package = NULL;
1240     int i, j, k, ret;
1241
1242     av_dlog(mxf->fc, "metadata sets count %d\n", mxf->metadata_sets_count);
1243     /* TODO: handle multiple material packages (OP3x) */
1244     for (i = 0; i < mxf->packages_count; i++) {
1245         material_package = mxf_resolve_strong_ref(mxf, &mxf->packages_refs[i], MaterialPackage);
1246         if (material_package) break;
1247     }
1248     if (!material_package) {
1249         av_log(mxf->fc, AV_LOG_ERROR, "no material package found\n");
1250         return AVERROR_INVALIDDATA;
1251     }
1252
1253     for (i = 0; i < material_package->tracks_count; i++) {
1254         MXFPackage *source_package = NULL;
1255         MXFTrack *material_track = NULL;
1256         MXFTrack *source_track = NULL;
1257         MXFTrack *temp_track = NULL;
1258         MXFDescriptor *descriptor = NULL;
1259         MXFStructuralComponent *component = NULL;
1260         UID *essence_container_ul = NULL;
1261         const MXFCodecUL *codec_ul = NULL;
1262         const MXFCodecUL *container_ul = NULL;
1263         AVStream *st;
1264
1265         if (!(material_track = mxf_resolve_strong_ref(mxf, &material_package->tracks_refs[i], Track))) {
1266             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve material track strong ref\n");
1267             continue;
1268         }
1269
1270         if (!(material_track->sequence = mxf_resolve_strong_ref(mxf, &material_track->sequence_ref, Sequence))) {
1271             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve material track sequence strong ref\n");
1272             continue;
1273         }
1274
1275         /* TODO: handle multiple source clips */
1276         for (j = 0; j < material_track->sequence->structural_components_count; j++) {
1277             /* TODO: handle timecode component */
1278             component = mxf_resolve_strong_ref(mxf, &material_track->sequence->structural_components_refs[j], SourceClip);
1279             if (!component)
1280                 continue;
1281
1282             for (k = 0; k < mxf->packages_count; k++) {
1283                 temp_package = mxf_resolve_strong_ref(mxf, &mxf->packages_refs[k], SourcePackage);
1284                 if (!temp_package)
1285                     continue;
1286                 if (!memcmp(temp_package->package_uid, component->source_package_uid, 16)) {
1287                     source_package = temp_package;
1288                     break;
1289                 }
1290             }
1291             if (!source_package) {
1292                 av_dlog(mxf->fc, "material track %d: no corresponding source package found\n", material_track->track_id);
1293                 break;
1294             }
1295             for (k = 0; k < source_package->tracks_count; k++) {
1296                 if (!(temp_track = mxf_resolve_strong_ref(mxf, &source_package->tracks_refs[k], Track))) {
1297                     av_log(mxf->fc, AV_LOG_ERROR, "could not resolve source track strong ref\n");
1298                     ret = AVERROR_INVALIDDATA;
1299                     goto fail_and_free;
1300                 }
1301                 if (temp_track->track_id == component->source_track_id) {
1302                     source_track = temp_track;
1303                     break;
1304                 }
1305             }
1306             if (!source_track) {
1307                 av_log(mxf->fc, AV_LOG_ERROR, "material track %d: no corresponding source track found\n", material_track->track_id);
1308                 break;
1309             }
1310         }
1311         if (!source_track || !component)
1312             continue;
1313
1314         if (!(source_track->sequence = mxf_resolve_strong_ref(mxf, &source_track->sequence_ref, Sequence))) {
1315             av_log(mxf->fc, AV_LOG_ERROR, "could not resolve source track sequence strong ref\n");
1316             ret = AVERROR_INVALIDDATA;
1317             goto fail_and_free;
1318         }
1319
1320         /* 0001GL00.MXF.A1.mxf_opatom.mxf has the same SourcePackageID as 0001GL.MXF.V1.mxf_opatom.mxf
1321          * This would result in both files appearing to have two streams. Work around this by sanity checking DataDefinition */
1322         if (memcmp(material_track->sequence->data_definition_ul, source_track->sequence->data_definition_ul, 16)) {
1323             av_log(mxf->fc, AV_LOG_ERROR, "material track %d: DataDefinition mismatch\n", material_track->track_id);
1324             continue;
1325         }
1326
1327         st = avformat_new_stream(mxf->fc, NULL);
1328         if (!st) {
1329             av_log(mxf->fc, AV_LOG_ERROR, "could not allocate stream\n");
1330             ret = AVERROR(ENOMEM);
1331             goto fail_and_free;
1332         }
1333         st->id = source_track->track_id;
1334         st->priv_data = source_track;
1335         st->duration = component->duration;
1336         if (st->duration == -1)
1337             st->duration = AV_NOPTS_VALUE;
1338         st->start_time = component->start_position;
1339         avpriv_set_pts_info(st, 64, material_track->edit_rate.num, material_track->edit_rate.den);
1340
1341         PRINT_KEY(mxf->fc, "data definition   ul", source_track->sequence->data_definition_ul);
1342         codec_ul = mxf_get_codec_ul(ff_mxf_data_definition_uls, &source_track->sequence->data_definition_ul);
1343         st->codec->codec_type = codec_ul->id;
1344
1345         source_package->descriptor = mxf_resolve_strong_ref(mxf, &source_package->descriptor_ref, AnyType);
1346         if (source_package->descriptor) {
1347             if (source_package->descriptor->type == MultipleDescriptor) {
1348                 for (j = 0; j < source_package->descriptor->sub_descriptors_count; j++) {
1349                     MXFDescriptor *sub_descriptor = mxf_resolve_strong_ref(mxf, &source_package->descriptor->sub_descriptors_refs[j], Descriptor);
1350
1351                     if (!sub_descriptor) {
1352                         av_log(mxf->fc, AV_LOG_ERROR, "could not resolve sub descriptor strong ref\n");
1353                         continue;
1354                     }
1355                     if (sub_descriptor->linked_track_id == source_track->track_id) {
1356                         descriptor = sub_descriptor;
1357                         break;
1358                     }
1359                 }
1360             } else if (source_package->descriptor->type == Descriptor)
1361                 descriptor = source_package->descriptor;
1362         }
1363         if (!descriptor) {
1364             av_log(mxf->fc, AV_LOG_INFO, "source track %d: stream %d, no descriptor found\n", source_track->track_id, st->index);
1365             continue;
1366         }
1367         PRINT_KEY(mxf->fc, "essence codec     ul", descriptor->essence_codec_ul);
1368         PRINT_KEY(mxf->fc, "essence container ul", descriptor->essence_container_ul);
1369         essence_container_ul = &descriptor->essence_container_ul;
1370         /* HACK: replacing the original key with mxf_encrypted_essence_container
1371          * is not allowed according to s429-6, try to find correct information anyway */
1372         if (IS_KLV_KEY(essence_container_ul, mxf_encrypted_essence_container)) {
1373             av_log(mxf->fc, AV_LOG_INFO, "broken encrypted mxf file\n");
1374             for (k = 0; k < mxf->metadata_sets_count; k++) {
1375                 MXFMetadataSet *metadata = mxf->metadata_sets[k];
1376                 if (metadata->type == CryptoContext) {
1377                     essence_container_ul = &((MXFCryptoContext *)metadata)->source_container_ul;
1378                     break;
1379                 }
1380             }
1381         }
1382
1383         /* TODO: drop PictureEssenceCoding and SoundEssenceCompression, only check EssenceContainer */
1384         codec_ul = mxf_get_codec_ul(ff_mxf_codec_uls, &descriptor->essence_codec_ul);
1385         st->codec->codec_id = codec_ul->id;
1386         if (descriptor->extradata) {
1387             st->codec->extradata = descriptor->extradata;
1388             st->codec->extradata_size = descriptor->extradata_size;
1389         }
1390         if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
1391             container_ul = mxf_get_codec_ul(mxf_picture_essence_container_uls, essence_container_ul);
1392             if (st->codec->codec_id == CODEC_ID_NONE)
1393                 st->codec->codec_id = container_ul->id;
1394             st->codec->width = descriptor->width;
1395             st->codec->height = descriptor->height;
1396             if (st->codec->codec_id == CODEC_ID_RAWVIDEO)
1397                 st->codec->pix_fmt = descriptor->pix_fmt;
1398             st->need_parsing = AVSTREAM_PARSE_HEADERS;
1399         } else if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
1400             container_ul = mxf_get_codec_ul(mxf_sound_essence_container_uls, essence_container_ul);
1401             if (st->codec->codec_id == CODEC_ID_NONE)
1402                 st->codec->codec_id = container_ul->id;
1403             st->codec->channels = descriptor->channels;
1404             st->codec->bits_per_coded_sample = descriptor->bits_per_sample;
1405
1406             if (descriptor->sample_rate.den > 0)
1407                 st->codec->sample_rate = descriptor->sample_rate.num / descriptor->sample_rate.den;
1408
1409             /* TODO: implement CODEC_ID_RAWAUDIO */
1410             if (st->codec->codec_id == CODEC_ID_PCM_S16LE) {
1411                 if (descriptor->bits_per_sample > 16 && descriptor->bits_per_sample <= 24)
1412                     st->codec->codec_id = CODEC_ID_PCM_S24LE;
1413                 else if (descriptor->bits_per_sample == 32)
1414                     st->codec->codec_id = CODEC_ID_PCM_S32LE;
1415             } else if (st->codec->codec_id == CODEC_ID_PCM_S16BE) {
1416                 if (descriptor->bits_per_sample > 16 && descriptor->bits_per_sample <= 24)
1417                     st->codec->codec_id = CODEC_ID_PCM_S24BE;
1418                 else if (descriptor->bits_per_sample == 32)
1419                     st->codec->codec_id = CODEC_ID_PCM_S32BE;
1420             } else if (st->codec->codec_id == CODEC_ID_MP2) {
1421                 st->need_parsing = AVSTREAM_PARSE_FULL;
1422             }
1423         }
1424         if (st->codec->codec_type != AVMEDIA_TYPE_DATA && (*essence_container_ul)[15] > 0x01) {
1425             /* TODO: decode timestamps */
1426             st->need_parsing = AVSTREAM_PARSE_TIMESTAMPS;
1427         }
1428     }
1429
1430     ret = 0;
1431 fail_and_free:
1432     return ret;
1433 }
1434
1435 static const MXFMetadataReadTableEntry mxf_metadata_read_table[] = {
1436     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x05,0x01,0x00 }, mxf_read_primer_pack },
1437     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x01,0x00 }, mxf_read_partition_pack },
1438     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x02,0x00 }, mxf_read_partition_pack },
1439     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x03,0x00 }, mxf_read_partition_pack },
1440     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x02,0x04,0x00 }, mxf_read_partition_pack },
1441     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x01,0x00 }, mxf_read_partition_pack },
1442     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x02,0x00 }, mxf_read_partition_pack },
1443     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x03,0x00 }, mxf_read_partition_pack },
1444     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x03,0x04,0x00 }, mxf_read_partition_pack },
1445     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x04,0x02,0x00 }, mxf_read_partition_pack },
1446     { { 0x06,0x0E,0x2B,0x34,0x02,0x05,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x04,0x04,0x00 }, mxf_read_partition_pack },
1447     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x18,0x00 }, mxf_read_content_storage, 0, AnyType },
1448     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x37,0x00 }, mxf_read_source_package, sizeof(MXFPackage), SourcePackage },
1449     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x36,0x00 }, mxf_read_material_package, sizeof(MXFPackage), MaterialPackage },
1450     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x0F,0x00 }, mxf_read_sequence, sizeof(MXFSequence), Sequence },
1451     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x11,0x00 }, mxf_read_source_clip, sizeof(MXFStructuralComponent), SourceClip },
1452     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x44,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), MultipleDescriptor },
1453     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x42,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* Generic Sound */
1454     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x28,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* CDCI */
1455     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x29,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* RGBA */
1456     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x51,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* MPEG 2 Video */
1457     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x48,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* Wave */
1458     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x47,0x00 }, mxf_read_generic_descriptor, sizeof(MXFDescriptor), Descriptor }, /* AES3 */
1459     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x3A,0x00 }, mxf_read_track, sizeof(MXFTrack), Track }, /* Static Track */
1460     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x01,0x01,0x01,0x01,0x3B,0x00 }, mxf_read_track, sizeof(MXFTrack), Track }, /* Generic Track */
1461     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x04,0x01,0x02,0x02,0x00,0x00 }, mxf_read_cryptographic_context, sizeof(MXFCryptoContext), CryptoContext },
1462     { { 0x06,0x0E,0x2B,0x34,0x02,0x53,0x01,0x01,0x0d,0x01,0x02,0x01,0x01,0x10,0x01,0x00 }, mxf_read_index_table_segment, sizeof(MXFIndexTableSegment), IndexTableSegment },
1463     { { 0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00 }, NULL, 0, AnyType },
1464 };
1465
1466 static int mxf_read_local_tags(MXFContext *mxf, KLVPacket *klv, MXFMetadataReadFunc *read_child, int ctx_size, enum MXFMetadataSetType type)
1467 {
1468     AVIOContext *pb = mxf->fc->pb;
1469     MXFMetadataSet *ctx = ctx_size ? av_mallocz(ctx_size) : mxf;
1470     uint64_t klv_end = avio_tell(pb) + klv->length;
1471
1472     if (!ctx)
1473         return AVERROR(ENOMEM);
1474     while (avio_tell(pb) + 4 < klv_end && !url_feof(pb)) {
1475         int ret;
1476         int tag = avio_rb16(pb);
1477         int size = avio_rb16(pb); /* KLV specified by 0x53 */
1478         uint64_t next = avio_tell(pb) + size;
1479         UID uid = {0};
1480
1481         av_dlog(mxf->fc, "local tag %#04x size %d\n", tag, size);
1482         if (!size) { /* ignore empty tag, needed for some files with empty UMID tag */
1483             av_log(mxf->fc, AV_LOG_ERROR, "local tag %#04x with 0 size\n", tag);
1484             continue;
1485         }
1486         if (tag > 0x7FFF) { /* dynamic tag */
1487             int i;
1488             for (i = 0; i < mxf->local_tags_count; i++) {
1489                 int local_tag = AV_RB16(mxf->local_tags+i*18);
1490                 if (local_tag == tag) {
1491                     memcpy(uid, mxf->local_tags+i*18+2, 16);
1492                     av_dlog(mxf->fc, "local tag %#04x\n", local_tag);
1493                     PRINT_KEY(mxf->fc, "uid", uid);
1494                 }
1495             }
1496         }
1497         if (ctx_size && tag == 0x3C0A)
1498             avio_read(pb, ctx->uid, 16);
1499         else if ((ret = read_child(ctx, pb, tag, size, uid, -1)) < 0)
1500             return ret;
1501
1502         /* Accept the 64k local set limit being exceeded (Avid). Don't accept
1503          * it extending past the end of the KLV though (zzuf5.mxf). */
1504         if (avio_tell(pb) > klv_end) {
1505             av_log(mxf->fc, AV_LOG_ERROR,
1506                    "local tag %#04x extends past end of local set @ %#"PRIx64"\n",
1507                    tag, klv->offset);
1508             return AVERROR_INVALIDDATA;
1509         } else if (avio_tell(pb) <= next)   /* only seek forward, else this can loop for a long time */
1510             avio_seek(pb, next, SEEK_SET);
1511     }
1512     if (ctx_size) ctx->type = type;
1513     return ctx_size ? mxf_add_metadata_set(mxf, ctx) : 0;
1514 }
1515
1516 /**
1517  * Seeks to the previous partition, if possible
1518  * @return <= 0 if we should stop parsing, > 0 if we should keep going
1519  */
1520 static int mxf_seek_to_previous_partition(MXFContext *mxf)
1521 {
1522     AVIOContext *pb = mxf->fc->pb;
1523
1524     if (!mxf->current_partition ||
1525         mxf->run_in + mxf->current_partition->previous_partition <= mxf->last_forward_tell)
1526         return 0;   /* we've parsed all partitions */
1527
1528     /* seek to previous partition */
1529     avio_seek(pb, mxf->run_in + mxf->current_partition->previous_partition, SEEK_SET);
1530     mxf->current_partition = NULL;
1531
1532     av_dlog(mxf->fc, "seeking to previous partition\n");
1533
1534     return 1;
1535 }
1536
1537 /**
1538  * Called when essence is encountered
1539  * @return <= 0 if we should stop parsing, > 0 if we should keep going
1540  */
1541 static int mxf_parse_handle_essence(MXFContext *mxf)
1542 {
1543     AVIOContext *pb = mxf->fc->pb;
1544     int64_t ret;
1545
1546     if (mxf->parsing_backward) {
1547         return mxf_seek_to_previous_partition(mxf);
1548     } else {
1549         if (!mxf->footer_partition) {
1550             av_dlog(mxf->fc, "no footer\n");
1551             return 0;
1552         }
1553
1554         av_dlog(mxf->fc, "seeking to footer\n");
1555
1556         /* remember where we were so we don't end up seeking further back than this */
1557         mxf->last_forward_tell = avio_tell(pb);
1558
1559         if (!pb->seekable) {
1560             av_log(mxf->fc, AV_LOG_INFO, "file is not seekable - not parsing footer\n");
1561             return -1;
1562         }
1563
1564         /* seek to footer partition and parse backward */
1565         if ((ret = avio_seek(pb, mxf->run_in + mxf->footer_partition, SEEK_SET)) < 0) {
1566             av_log(mxf->fc, AV_LOG_ERROR, "failed to seek to footer @ 0x%"PRIx64" (%"PRId64") - partial file?\n",
1567                    mxf->run_in + mxf->footer_partition, ret);
1568             return ret;
1569         }
1570
1571         mxf->current_partition = NULL;
1572         mxf->parsing_backward = 1;
1573     }
1574
1575     return 1;
1576 }
1577
1578 /**
1579  * Called when the next partition or EOF is encountered
1580  * @return <= 0 if we should stop parsing, > 0 if we should keep going
1581  */
1582 static int mxf_parse_handle_partition_or_eof(MXFContext *mxf)
1583 {
1584     return mxf->parsing_backward ? mxf_seek_to_previous_partition(mxf) : 1;
1585 }
1586
1587 /**
1588  * Figures out the proper offset and length of the essence container in each partition
1589  */
1590 static void mxf_compute_essence_containers(MXFContext *mxf)
1591 {
1592     int x;
1593
1594     /* everything is already correct */
1595     if (mxf->op == OPAtom)
1596         return;
1597
1598     for (x = 0; x < mxf->partitions_count; x++) {
1599         MXFPartition *p = &mxf->partitions[x];
1600
1601         if (!p->body_sid)
1602             continue;       /* BodySID == 0 -> no essence */
1603
1604         if (x >= mxf->partitions_count - 1)
1605             break;          /* last partition - can't compute length (and we don't need to) */
1606
1607         /* essence container spans to the next partition */
1608         p->essence_length = mxf->partitions[x+1].this_partition - p->essence_offset;
1609
1610         if (p->essence_length < 0) {
1611             /* next ThisPartition < essence_offset */
1612             p->essence_length = 0;
1613             av_log(mxf->fc, AV_LOG_ERROR,
1614                    "partition %i: bad ThisPartition = %"PRIX64"\n",
1615                    x+1, mxf->partitions[x+1].this_partition);
1616         }
1617     }
1618 }
1619
1620 static int64_t round_to_kag(int64_t position, int kag_size)
1621 {
1622     /* TODO: account for run-in? the spec isn't clear whether KAG should account for it */
1623     /* NOTE: kag_size may be any integer between 1 - 2^10 */
1624     int64_t ret = (position / kag_size) * kag_size;
1625     return ret == position ? ret : ret + kag_size;
1626 }
1627
1628 static int is_pcm(enum CodecID codec_id)
1629 {
1630     /* we only care about "normal" PCM codecs until we get samples */
1631     return codec_id >= CODEC_ID_PCM_S16LE && codec_id < CODEC_ID_PCM_S24DAUD;
1632 }
1633
1634 /**
1635  * Deal with the case where for some audio atoms EditUnitByteCount is
1636  * very small (2, 4..). In those cases we should read more than one
1637  * sample per call to mxf_read_packet().
1638  */
1639 static void mxf_handle_small_eubc(AVFormatContext *s)
1640 {
1641     MXFContext *mxf = s->priv_data;
1642
1643     /* assuming non-OPAtom == frame wrapped
1644      * no sane writer would wrap 2 byte PCM packets with 20 byte headers.. */
1645     if (mxf->op != OPAtom)
1646         return;
1647
1648     /* expect PCM with exactly one index table segment and a small (< 32) EUBC */
1649     if (s->nb_streams != 1                                     ||
1650         s->streams[0]->codec->codec_type != AVMEDIA_TYPE_AUDIO ||
1651         !is_pcm(s->streams[0]->codec->codec_id)                ||
1652         mxf->nb_index_tables != 1                              ||
1653         mxf->index_tables[0].nb_segments != 1                  ||
1654         mxf->index_tables[0].segments[0]->edit_unit_byte_count >= 32)
1655         return;
1656
1657     /* arbitrarily default to 48 kHz PAL audio frame size */
1658     /* TODO: We could compute this from the ratio between the audio
1659      *       and video edit rates for 48 kHz NTSC we could use the
1660      *       1802-1802-1802-1802-1801 pattern. */
1661     mxf->edit_units_per_packet = 1920;
1662 }
1663
1664 static int mxf_read_header(AVFormatContext *s)
1665 {
1666     MXFContext *mxf = s->priv_data;
1667     KLVPacket klv;
1668     int64_t essence_offset = 0;
1669     int ret;
1670
1671     mxf->last_forward_tell = INT64_MAX;
1672     mxf->edit_units_per_packet = 1;
1673
1674     if (!mxf_read_sync(s->pb, mxf_header_partition_pack_key, 14)) {
1675         av_log(s, AV_LOG_ERROR, "could not find header partition pack key\n");
1676         return AVERROR_INVALIDDATA;
1677     }
1678     avio_seek(s->pb, -14, SEEK_CUR);
1679     mxf->fc = s;
1680     mxf->run_in = avio_tell(s->pb);
1681
1682     while (!url_feof(s->pb)) {
1683         const MXFMetadataReadTableEntry *metadata;
1684
1685         if (klv_read_packet(&klv, s->pb) < 0) {
1686             /* EOF - seek to previous partition or stop */
1687             if(mxf_parse_handle_partition_or_eof(mxf) <= 0)
1688                 break;
1689             else
1690                 continue;
1691         }
1692
1693         PRINT_KEY(s, "read header", klv.key);
1694         av_dlog(s, "size %"PRIu64" offset %#"PRIx64"\n", klv.length, klv.offset);
1695         if (IS_KLV_KEY(klv.key, mxf_encrypted_triplet_key) ||
1696             IS_KLV_KEY(klv.key, mxf_essence_element_key) ||
1697             IS_KLV_KEY(klv.key, mxf_avid_essence_element_key) ||
1698             IS_KLV_KEY(klv.key, mxf_system_item_key)) {
1699
1700             if (!mxf->current_partition) {
1701                 av_log(mxf->fc, AV_LOG_ERROR, "found essence prior to first PartitionPack\n");
1702                 return AVERROR_INVALIDDATA;
1703             }
1704
1705             if (!mxf->current_partition->essence_offset) {
1706                 /* for OP1a we compute essence_offset
1707                  * for OPAtom we point essence_offset after the KL (usually op1a_essence_offset + 20 or 25)
1708                  * TODO: for OP1a we could eliminate this entire if statement, always stopping parsing at op1a_essence_offset
1709                  *       for OPAtom we still need the actual essence_offset though (the KL's length can vary)
1710                  */
1711                 int64_t op1a_essence_offset =
1712                     round_to_kag(mxf->current_partition->this_partition +
1713                                  mxf->current_partition->pack_length,       mxf->current_partition->kag_size) +
1714                     round_to_kag(mxf->current_partition->header_byte_count, mxf->current_partition->kag_size) +
1715                     round_to_kag(mxf->current_partition->index_byte_count,  mxf->current_partition->kag_size);
1716
1717                 if (mxf->op == OPAtom) {
1718                     /* point essence_offset to the actual data
1719                     * OPAtom has all the essence in one big KLV
1720                     */
1721                     mxf->current_partition->essence_offset = avio_tell(s->pb);
1722                     mxf->current_partition->essence_length = klv.length;
1723                 } else {
1724                     /* NOTE: op1a_essence_offset may be less than to klv.offset (C0023S01.mxf)  */
1725                     mxf->current_partition->essence_offset = op1a_essence_offset;
1726                 }
1727             }
1728
1729             if (!essence_offset)
1730                 essence_offset = klv.offset;
1731
1732             /* seek to footer, previous partition or stop */
1733             if (mxf_parse_handle_essence(mxf) <= 0)
1734                 break;
1735             continue;
1736         } else if (!memcmp(klv.key, mxf_header_partition_pack_key, 13) &&
1737                    klv.key[13] >= 2 && klv.key[13] <= 4 && mxf->current_partition) {
1738             /* next partition pack - keep going, seek to previous partition or stop */
1739             if(mxf_parse_handle_partition_or_eof(mxf) <= 0)
1740                 break;
1741         }
1742
1743         for (metadata = mxf_metadata_read_table; metadata->read; metadata++) {
1744             if (IS_KLV_KEY(klv.key, metadata->key)) {
1745                 int res;
1746                 if (klv.key[5] == 0x53) {
1747                     res = mxf_read_local_tags(mxf, &klv, metadata->read, metadata->ctx_size, metadata->type);
1748                 } else {
1749                     uint64_t next = avio_tell(s->pb) + klv.length;
1750                     res = metadata->read(mxf, s->pb, 0, klv.length, klv.key, klv.offset);
1751
1752                     /* only seek forward, else this can loop for a long time */
1753                     if (avio_tell(s->pb) > next) {
1754                         av_log(s, AV_LOG_ERROR, "read past end of KLV @ %#"PRIx64"\n",
1755                                klv.offset);
1756                         return AVERROR_INVALIDDATA;
1757                     }
1758
1759                     avio_seek(s->pb, next, SEEK_SET);
1760                 }
1761                 if (res < 0) {
1762                     av_log(s, AV_LOG_ERROR, "error reading header metadata\n");
1763                     return res;
1764                 }
1765                 break;
1766             }
1767         }
1768         if (!metadata->read)
1769             avio_skip(s->pb, klv.length);
1770     }
1771     /* FIXME avoid seek */
1772     if (!essence_offset)  {
1773         av_log(s, AV_LOG_ERROR, "no essence\n");
1774         return AVERROR_INVALIDDATA;
1775     }
1776     avio_seek(s->pb, essence_offset, SEEK_SET);
1777
1778     mxf_compute_essence_containers(mxf);
1779
1780     /* we need to do this before computing the index tables
1781      * to be able to fill in zero IndexDurations with st->duration */
1782     if ((ret = mxf_parse_structural_metadata(mxf)) < 0)
1783         return ret;
1784
1785     if ((ret = mxf_compute_index_tables(mxf)) < 0)
1786         return ret;
1787
1788     if (mxf->nb_index_tables > 1) {
1789         /* TODO: look up which IndexSID to use via EssenceContainerData */
1790         av_log(mxf->fc, AV_LOG_INFO, "got %i index tables - only the first one (IndexSID %i) will be used\n",
1791                mxf->nb_index_tables, mxf->index_tables[0].index_sid);
1792     } else if (mxf->nb_index_tables == 0 && mxf->op == OPAtom) {
1793         av_log(mxf->fc, AV_LOG_ERROR, "cannot demux OPAtom without an index\n");
1794         return AVERROR_INVALIDDATA;
1795     }
1796
1797     mxf_handle_small_eubc(s);
1798
1799     return 0;
1800 }
1801
1802 /**
1803  * Computes DTS and PTS for the given video packet based on its offset.
1804  */
1805 static void mxf_packet_timestamps(MXFContext *mxf, AVPacket *pkt)
1806 {
1807     int64_t last_ofs = -1, next_ofs;
1808     MXFIndexTable *t = &mxf->index_tables[0];
1809
1810     /* this is called from the OP1a demuxing logic, which means there
1811      * may be no index tables */
1812     if (mxf->nb_index_tables <= 0)
1813         return;
1814
1815     /* find mxf->current_edit_unit so that the next edit unit starts ahead of pkt->pos */
1816     while (mxf->current_edit_unit >= 0) {
1817         if (mxf_edit_unit_absolute_offset(mxf, t, mxf->current_edit_unit + 1, NULL, &next_ofs, 0) < 0)
1818             break;
1819
1820         if (next_ofs <= last_ofs) {
1821             /* large next_ofs didn't change or current_edit_unit wrapped
1822              * around this fixes the infinite loop on zzuf3.mxf */
1823             av_log(mxf->fc, AV_LOG_ERROR,
1824                    "next_ofs didn't change. not deriving packet timestamps\n");
1825             return;
1826         }
1827
1828         if (next_ofs > pkt->pos)
1829             break;
1830
1831         last_ofs = next_ofs;
1832         mxf->current_edit_unit++;
1833     }
1834
1835     if (mxf->current_edit_unit < 0 || mxf->current_edit_unit >= t->nb_ptses)
1836         return;
1837
1838     pkt->dts = mxf->current_edit_unit + t->first_dts;
1839     pkt->pts = t->ptses[mxf->current_edit_unit];
1840 }
1841
1842 static int mxf_read_packet_old(AVFormatContext *s, AVPacket *pkt)
1843 {
1844     KLVPacket klv;
1845
1846     while (!url_feof(s->pb)) {
1847         int ret;
1848         if (klv_read_packet(&klv, s->pb) < 0)
1849             return -1;
1850         PRINT_KEY(s, "read packet", klv.key);
1851         av_dlog(s, "size %"PRIu64" offset %#"PRIx64"\n", klv.length, klv.offset);
1852         if (IS_KLV_KEY(klv.key, mxf_encrypted_triplet_key)) {
1853             ret = mxf_decrypt_triplet(s, pkt, &klv);
1854             if (ret < 0) {
1855                 av_log(s, AV_LOG_ERROR, "invalid encoded triplet\n");
1856                 return AVERROR_INVALIDDATA;
1857             }
1858             return 0;
1859         }
1860         if (IS_KLV_KEY(klv.key, mxf_essence_element_key) ||
1861             IS_KLV_KEY(klv.key, mxf_avid_essence_element_key)) {
1862             int index = mxf_get_stream_index(s, &klv);
1863             if (index < 0) {
1864                 av_log(s, AV_LOG_ERROR, "error getting stream index %d\n", AV_RB32(klv.key+12));
1865                 goto skip;
1866             }
1867             if (s->streams[index]->discard == AVDISCARD_ALL)
1868                 goto skip;
1869             /* check for 8 channels AES3 element */
1870             if (klv.key[12] == 0x06 && klv.key[13] == 0x01 && klv.key[14] == 0x10) {
1871                 if (mxf_get_d10_aes3_packet(s->pb, s->streams[index], pkt, klv.length) < 0) {
1872                     av_log(s, AV_LOG_ERROR, "error reading D-10 aes3 frame\n");
1873                     return AVERROR_INVALIDDATA;
1874                 }
1875             } else {
1876                 ret = av_get_packet(s->pb, pkt, klv.length);
1877                 if (ret < 0)
1878                     return ret;
1879             }
1880             pkt->stream_index = index;
1881             pkt->pos = klv.offset;
1882
1883             if (s->streams[index]->codec->codec_type == AVMEDIA_TYPE_VIDEO)
1884                 mxf_packet_timestamps(s->priv_data, pkt);   /* offset -> EditUnit -> DTS/PTS */
1885
1886             return 0;
1887         } else
1888         skip:
1889             avio_skip(s->pb, klv.length);
1890     }
1891     return AVERROR_EOF;
1892 }
1893
1894 static int mxf_read_packet(AVFormatContext *s, AVPacket *pkt)
1895 {
1896     MXFContext *mxf = s->priv_data;
1897     int ret, size;
1898     int64_t ret64, pos, next_pos;
1899     AVStream *st;
1900     MXFIndexTable *t;
1901     int edit_units;
1902
1903     if (mxf->op != OPAtom)
1904         return mxf_read_packet_old(s, pkt);
1905
1906     /* OPAtom - clip wrapped demuxing */
1907     /* NOTE: mxf_read_header() makes sure nb_index_tables > 0 for OPAtom */
1908     st = s->streams[0];
1909     t = &mxf->index_tables[0];
1910
1911     if (mxf->current_edit_unit >= st->duration)
1912         return AVERROR_EOF;
1913
1914     edit_units = FFMIN(mxf->edit_units_per_packet, st->duration - mxf->current_edit_unit);
1915
1916     if ((ret = mxf_edit_unit_absolute_offset(mxf, t, mxf->current_edit_unit, NULL, &pos, 1)) < 0)
1917         return ret;
1918
1919     /* compute size by finding the next edit unit or the end of the essence container
1920      * not pretty, but it works */
1921     if ((ret = mxf_edit_unit_absolute_offset(mxf, t, mxf->current_edit_unit + edit_units, NULL, &next_pos, 0)) < 0 &&
1922         (next_pos = mxf_essence_container_end(mxf, t->body_sid)) <= 0) {
1923         av_log(s, AV_LOG_ERROR, "unable to compute the size of the last packet\n");
1924         return AVERROR_INVALIDDATA;
1925     }
1926
1927     if ((size = next_pos - pos) <= 0) {
1928         av_log(s, AV_LOG_ERROR, "bad size: %i\n", size);
1929         return AVERROR_INVALIDDATA;
1930     }
1931
1932     if ((ret64 = avio_seek(s->pb, pos, SEEK_SET)) < 0)
1933         return ret64;
1934
1935         if ((ret = av_get_packet(s->pb, pkt, size)) != size)
1936             return ret < 0 ? ret : AVERROR_EOF;
1937
1938     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO && t->ptses &&
1939         mxf->current_edit_unit >= 0 && mxf->current_edit_unit < t->nb_ptses) {
1940         pkt->dts = mxf->current_edit_unit + t->first_dts;
1941         pkt->pts = t->ptses[mxf->current_edit_unit];
1942     }
1943
1944     pkt->stream_index = 0;
1945     mxf->current_edit_unit += edit_units;
1946
1947     return 0;
1948 }
1949
1950 static int mxf_read_close(AVFormatContext *s)
1951 {
1952     MXFContext *mxf = s->priv_data;
1953     MXFIndexTableSegment *seg;
1954     int i;
1955
1956     av_freep(&mxf->packages_refs);
1957
1958     for (i = 0; i < s->nb_streams; i++)
1959         s->streams[i]->priv_data = NULL;
1960
1961     for (i = 0; i < mxf->metadata_sets_count; i++) {
1962         switch (mxf->metadata_sets[i]->type) {
1963         case MultipleDescriptor:
1964             av_freep(&((MXFDescriptor *)mxf->metadata_sets[i])->sub_descriptors_refs);
1965             break;
1966         case Sequence:
1967             av_freep(&((MXFSequence *)mxf->metadata_sets[i])->structural_components_refs);
1968             break;
1969         case SourcePackage:
1970         case MaterialPackage:
1971             av_freep(&((MXFPackage *)mxf->metadata_sets[i])->tracks_refs);
1972             break;
1973         case IndexTableSegment:
1974             seg = (MXFIndexTableSegment *)mxf->metadata_sets[i];
1975             av_freep(&seg->temporal_offset_entries);
1976             av_freep(&seg->flag_entries);
1977             av_freep(&seg->stream_offset_entries);
1978             break;
1979         default:
1980             break;
1981         }
1982         av_freep(&mxf->metadata_sets[i]);
1983     }
1984     av_freep(&mxf->partitions);
1985     av_freep(&mxf->metadata_sets);
1986     av_freep(&mxf->aesc);
1987     av_freep(&mxf->local_tags);
1988
1989     for (i = 0; i < mxf->nb_index_tables; i++) {
1990         av_freep(&mxf->index_tables[i].segments);
1991         av_freep(&mxf->index_tables[i].ptses);
1992         av_freep(&mxf->index_tables[i].fake_index);
1993     }
1994     av_freep(&mxf->index_tables);
1995
1996     return 0;
1997 }
1998
1999 static int mxf_probe(AVProbeData *p) {
2000     uint8_t *bufp = p->buf;
2001     uint8_t *end = p->buf + p->buf_size;
2002
2003     if (p->buf_size < sizeof(mxf_header_partition_pack_key))
2004         return 0;
2005
2006     /* Must skip Run-In Sequence and search for MXF header partition pack key SMPTE 377M 5.5 */
2007     end -= sizeof(mxf_header_partition_pack_key);
2008     for (; bufp < end; bufp++) {
2009         if (IS_KLV_KEY(bufp, mxf_header_partition_pack_key))
2010             return AVPROBE_SCORE_MAX;
2011     }
2012     return 0;
2013 }
2014
2015 /* rudimentary byte seek */
2016 /* XXX: use MXF Index */
2017 static int mxf_read_seek(AVFormatContext *s, int stream_index, int64_t sample_time, int flags)
2018 {
2019     AVStream *st = s->streams[stream_index];
2020     int64_t seconds;
2021     MXFContext* mxf = s->priv_data;
2022     int64_t seekpos;
2023     int ret;
2024     MXFIndexTable *t;
2025
2026     if (mxf->index_tables <= 0) {
2027     if (!s->bit_rate)
2028         return AVERROR_INVALIDDATA;
2029     if (sample_time < 0)
2030         sample_time = 0;
2031     seconds = av_rescale(sample_time, st->time_base.num, st->time_base.den);
2032
2033     if ((ret = avio_seek(s->pb, (s->bit_rate * seconds) >> 3, SEEK_SET)) < 0)
2034         return ret;
2035     ff_update_cur_dts(s, st, sample_time);
2036     } else {
2037         t = &mxf->index_tables[0];
2038
2039         /* clamp above zero, else ff_index_search_timestamp() returns negative
2040          * this also means we allow seeking before the start */
2041         sample_time = FFMAX(sample_time, 0);
2042
2043         if (t->fake_index) {
2044             /* behave as if we have a proper index */
2045             if ((sample_time = ff_index_search_timestamp(t->fake_index, t->nb_ptses, sample_time, flags)) < 0)
2046                 return sample_time;
2047         } else {
2048             /* no IndexEntryArray (one or more CBR segments)
2049              * make sure we don't seek past the end */
2050             sample_time = FFMIN(sample_time, st->duration - 1);
2051         }
2052
2053         if ((ret = mxf_edit_unit_absolute_offset(mxf, t, sample_time, &sample_time, &seekpos, 1)) << 0)
2054             return ret;
2055
2056         ff_update_cur_dts(s, st, sample_time);
2057         mxf->current_edit_unit = sample_time;
2058         avio_seek(s->pb, seekpos, SEEK_SET);
2059     }
2060     return 0;
2061 }
2062
2063 AVInputFormat ff_mxf_demuxer = {
2064     .name           = "mxf",
2065     .long_name      = NULL_IF_CONFIG_SMALL("Material eXchange Format"),
2066     .priv_data_size = sizeof(MXFContext),
2067     .read_probe     = mxf_probe,
2068     .read_header    = mxf_read_header,
2069     .read_packet    = mxf_read_packet,
2070     .read_close     = mxf_read_close,
2071     .read_seek      = mxf_read_seek,
2072 };