git.sesse.net Git - ffmpeg/blob - libavformat/sierravmd.c

   1 /*
   2  * Sierra VMD Format Demuxer
   3  * Copyright (c) 2004 The ffmpeg Project
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 /**
  23  * @file
  24  * Sierra VMD file demuxer
  25  * by Vladimir "VAG" Gneushev (vagsoft at mail.ru)
  26  * for more information on the Sierra VMD file format, visit:
  27  *   http://www.pcisys.net/~melanson/codecs/
  28  */
  29
  30 #include "libavutil/channel_layout.h"
  31 #include "libavutil/intreadwrite.h"
  32 #include "avformat.h"
  33 #include "internal.h"
  34 #include "avio_internal.h"
  35
  36 #define VMD_HEADER_SIZE 0x0330
  37 #define BYTES_PER_FRAME_RECORD 16
  38
  39 typedef struct {
  40   int stream_index;
  41   int64_t frame_offset;
  42   unsigned int frame_size;
  43   int64_t pts;
  44   int keyframe;
  45   unsigned char frame_record[BYTES_PER_FRAME_RECORD];
  46 } vmd_frame;
  47
  48 typedef struct VmdDemuxContext {
  49     int video_stream_index;
  50     int audio_stream_index;
  51
  52     unsigned int frame_count;
  53     unsigned int frames_per_block;
  54     vmd_frame *frame_table;
  55     unsigned int current_frame;
  56     int is_indeo3;
  57
  58     int sample_rate;
  59     int64_t audio_sample_counter;
  60     int skiphdr;
  61
  62     unsigned char vmd_header[VMD_HEADER_SIZE];
  63 } VmdDemuxContext;
  64
  65 static int vmd_probe(AVProbeData *p)
  66 {
  67     int w, h, sample_rate;
  68     if (p->buf_size < 806)
  69         return 0;
  70     /* check if the first 2 bytes of the file contain the appropriate size
  71      * of a VMD header chunk */
  72     if (AV_RL16(&p->buf[0]) != VMD_HEADER_SIZE - 2)
  73         return 0;
  74     w = AV_RL16(&p->buf[12]);
  75     h = AV_RL16(&p->buf[14]);
  76     sample_rate = AV_RL16(&p->buf[804]);
  77     if ((!w || w > 2048 || !h || h > 2048) &&
  78         sample_rate != 22050)
  79         return 0;
  80
  81     /* only return half certainty since this check is a bit sketchy */
  82     return AVPROBE_SCORE_EXTENSION;
  83 }
  84
  85 static int vmd_read_header(AVFormatContext *s)
  86 {
  87     VmdDemuxContext *vmd = s->priv_data;
  88     AVIOContext *pb = s->pb;
  89     AVStream *st = NULL, *vst = NULL;
  90     unsigned int toc_offset;
  91     unsigned char *raw_frame_table;
  92     int raw_frame_table_size;
  93     int64_t current_offset;
  94     int i, j, ret;
  95     int width, height;
  96     unsigned int total_frames;
  97     int64_t current_audio_pts = 0;
  98     unsigned char chunk[BYTES_PER_FRAME_RECORD];
  99     int num, den;
 100     int sound_buffers;
 101
 102     /* fetch the main header, including the 2 header length bytes */
 103     avio_seek(pb, 0, SEEK_SET);
 104     if (avio_read(pb, vmd->vmd_header, VMD_HEADER_SIZE) != VMD_HEADER_SIZE)
 105         return AVERROR(EIO);
 106
 107     width = AV_RL16(&vmd->vmd_header[12]);
 108     height = AV_RL16(&vmd->vmd_header[14]);
 109     if (width && height) {
 110         if(vmd->vmd_header[24] == 'i' && vmd->vmd_header[25] == 'v' && vmd->vmd_header[26] == '3') {
 111             vmd->is_indeo3 = 1;
 112         } else {
 113             vmd->is_indeo3 = 0;
 114         }
 115         /* start up the decoders */
 116         vst = avformat_new_stream(s, NULL);
 117         if (!vst)
 118             return AVERROR(ENOMEM);
 119         avpriv_set_pts_info(vst, 33, 1, 10);
 120         vmd->video_stream_index = vst->index;
 121         vst->codec->codec_type = AVMEDIA_TYPE_VIDEO;
 122         vst->codec->codec_id = vmd->is_indeo3 ? AV_CODEC_ID_INDEO3 : AV_CODEC_ID_VMDVIDEO;
 123         vst->codec->codec_tag = 0;  /* no fourcc */
 124         vst->codec->width = width;
 125         vst->codec->height = height;
 126         if(vmd->is_indeo3 && vst->codec->width > 320){
 127             vst->codec->width >>= 1;
 128             vst->codec->height >>= 1;
 129         }
 130         vst->codec->extradata = av_mallocz(VMD_HEADER_SIZE + FF_INPUT_BUFFER_PADDING_SIZE);
 131         if (!vst->codec->extradata)
 132             return AVERROR(ENOMEM);
 133         vst->codec->extradata_size = VMD_HEADER_SIZE;
 134         memcpy(vst->codec->extradata, vmd->vmd_header, VMD_HEADER_SIZE);
 135     }
 136
 137     /* if sample rate is 0, assume no audio */
 138     vmd->sample_rate = AV_RL16(&vmd->vmd_header[804]);
 139     if (vmd->sample_rate) {
 140         st = avformat_new_stream(s, NULL);
 141         if (!st)
 142             return AVERROR(ENOMEM);
 143         vmd->audio_stream_index = st->index;
 144         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
 145         st->codec->codec_id = AV_CODEC_ID_VMDAUDIO;
 146         st->codec->codec_tag = 0;  /* no fourcc */
 147         if (vmd->vmd_header[811] & 0x80) {
 148             st->codec->channels       = 2;
 149             st->codec->channel_layout = AV_CH_LAYOUT_STEREO;
 150         } else {
 151             st->codec->channels       = 1;
 152             st->codec->channel_layout = AV_CH_LAYOUT_MONO;
 153         }
 154         st->codec->sample_rate = vmd->sample_rate;
 155         st->codec->block_align = AV_RL16(&vmd->vmd_header[806]);
 156         if (st->codec->block_align & 0x8000) {
 157             st->codec->bits_per_coded_sample = 16;
 158             st->codec->block_align = -(st->codec->block_align - 0x10000);
 159         } else {
 160             st->codec->bits_per_coded_sample = 8;
 161         }
 162         st->codec->bit_rate = st->codec->sample_rate *
 163             st->codec->bits_per_coded_sample * st->codec->channels;
 164
 165         /* calculate pts */
 166         num = st->codec->block_align;
 167         den = st->codec->sample_rate * st->codec->channels;
 168         av_reduce(&num, &den, num, den, (1UL<<31)-1);
 169         if (vst)
 170             avpriv_set_pts_info(vst, 33, num, den);
 171         avpriv_set_pts_info(st, 33, num, den);
 172     }
 173
 174     toc_offset = AV_RL32(&vmd->vmd_header[812]);
 175     vmd->frame_count = AV_RL16(&vmd->vmd_header[6]);
 176     vmd->frames_per_block = AV_RL16(&vmd->vmd_header[18]);
 177     avio_seek(pb, toc_offset, SEEK_SET);
 178
 179     raw_frame_table = NULL;
 180     vmd->frame_table = NULL;
 181     sound_buffers = AV_RL16(&vmd->vmd_header[808]);
 182     raw_frame_table_size = vmd->frame_count * 6;
 183     if(vmd->frame_count * vmd->frames_per_block >= UINT_MAX / sizeof(vmd_frame) - sound_buffers){
 184         av_log(s, AV_LOG_ERROR, "vmd->frame_count * vmd->frames_per_block too large\n");
 185         return -1;
 186     }
 187     raw_frame_table = av_malloc(raw_frame_table_size);
 188     vmd->frame_table = av_malloc((vmd->frame_count * vmd->frames_per_block + sound_buffers) * sizeof(vmd_frame));
 189     if (!raw_frame_table || !vmd->frame_table) {
 190         ret = AVERROR(ENOMEM);
 191         goto error;
 192     }
 193     if (avio_read(pb, raw_frame_table, raw_frame_table_size) !=
 194         raw_frame_table_size) {
 195         ret = AVERROR(EIO);
 196         goto error;
 197     }
 198
 199     total_frames = 0;
 200     for (i = 0; i < vmd->frame_count; i++) {
 201
 202         current_offset = AV_RL32(&raw_frame_table[6 * i + 2]);
 203
 204         /* handle each entry in index block */
 205         for (j = 0; j < vmd->frames_per_block; j++) {
 206             int type;
 207             uint32_t size;
 208
 209             avio_read(pb, chunk, BYTES_PER_FRAME_RECORD);
 210             type = chunk[0];
 211             size = AV_RL32(&chunk[2]);
 212             if (size > INT_MAX / 2) {
 213                 av_log(s, AV_LOG_ERROR, "Invalid frame size\n");
 214                 ret = AVERROR_INVALIDDATA;
 215                 goto error;
 216             }
 217             if(!size && type != 1)
 218                 continue;
 219             switch(type) {
 220             case 1: /* Audio Chunk */
 221                 if (!st) break;
 222                 /* first audio chunk contains several audio buffers */
 223                 vmd->frame_table[total_frames].frame_offset = current_offset;
 224                 vmd->frame_table[total_frames].stream_index = vmd->audio_stream_index;
 225                 vmd->frame_table[total_frames].frame_size = size;
 226                 memcpy(vmd->frame_table[total_frames].frame_record, chunk, BYTES_PER_FRAME_RECORD);
 227                 vmd->frame_table[total_frames].pts = current_audio_pts;
 228                 total_frames++;
 229                 if(!current_audio_pts)
 230                     current_audio_pts += sound_buffers - 1;
 231                 else
 232                     current_audio_pts++;
 233                 break;
 234             case 2: /* Video Chunk */
 235                 vmd->frame_table[total_frames].frame_offset = current_offset;
 236                 vmd->frame_table[total_frames].stream_index = vmd->video_stream_index;
 237                 vmd->frame_table[total_frames].frame_size = size;
 238                 memcpy(vmd->frame_table[total_frames].frame_record, chunk, BYTES_PER_FRAME_RECORD);
 239                 vmd->frame_table[total_frames].pts = i;
 240                 total_frames++;
 241                 break;
 242             }
 243             current_offset += size;
 244         }
 245     }
 246
 247     av_free(raw_frame_table);
 248
 249     vmd->current_frame = 0;
 250     vmd->frame_count = total_frames;
 251
 252     return 0;
 253
 254 error:
 255     av_freep(&raw_frame_table);
 256     av_freep(&vmd->frame_table);
 257     return ret;
 258 }
 259
 260 static int vmd_read_packet(AVFormatContext *s,
 261                            AVPacket *pkt)
 262 {
 263     VmdDemuxContext *vmd = s->priv_data;
 264     AVIOContext *pb = s->pb;
 265     int ret = 0;
 266     vmd_frame *frame;
 267
 268     if (vmd->current_frame >= vmd->frame_count)
 269         return AVERROR_EOF;
 270
 271     frame = &vmd->frame_table[vmd->current_frame];
 272     /* position the stream (will probably be there already) */
 273     avio_seek(pb, frame->frame_offset, SEEK_SET);
 274
 275     if(ffio_limit(pb, frame->frame_size) != frame->frame_size)
 276         return AVERROR(EIO);
 277     if (av_new_packet(pkt, frame->frame_size + BYTES_PER_FRAME_RECORD))
 278         return AVERROR(ENOMEM);
 279     pkt->pos= avio_tell(pb);
 280     memcpy(pkt->data, frame->frame_record, BYTES_PER_FRAME_RECORD);
 281     if(vmd->is_indeo3 && frame->frame_record[0] == 0x02)
 282         ret = avio_read(pb, pkt->data, frame->frame_size);
 283     else
 284         ret = avio_read(pb, pkt->data + BYTES_PER_FRAME_RECORD,
 285             frame->frame_size);
 286
 287     if (ret != frame->frame_size) {
 288         av_free_packet(pkt);
 289         ret = AVERROR(EIO);
 290     }
 291     pkt->stream_index = frame->stream_index;
 292     pkt->pts = frame->pts;
 293     av_log(s, AV_LOG_DEBUG, " dispatching %s frame with %d bytes and pts %"PRId64"\n",
 294             (frame->frame_record[0] == 0x02) ? "video" : "audio",
 295             frame->frame_size + BYTES_PER_FRAME_RECORD,
 296             pkt->pts);
 297
 298     vmd->current_frame++;
 299
 300     return ret;
 301 }
 302
 303 static int vmd_read_close(AVFormatContext *s)
 304 {
 305     VmdDemuxContext *vmd = s->priv_data;
 306
 307     av_freep(&vmd->frame_table);
 308
 309     return 0;
 310 }
 311
 312 AVInputFormat ff_vmd_demuxer = {
 313     .name           = "vmd",
 314     .long_name      = NULL_IF_CONFIG_SMALL("Sierra VMD"),
 315     .priv_data_size = sizeof(VmdDemuxContext),
 316     .read_probe     = vmd_probe,
 317     .read_header    = vmd_read_header,
 318     .read_packet    = vmd_read_packet,
 319     .read_close     = vmd_read_close,
 320 };