]> git.sesse.net Git - ffmpeg/blob - libavformat/rmdec.c
oggspeexparse: fix array overread
[ffmpeg] / libavformat / rmdec.c
1 /*
2  * "Real" compatible demuxer.
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/avassert.h"
23 #include "libavutil/avstring.h"
24 #include "libavutil/channel_layout.h"
25 #include "libavutil/intreadwrite.h"
26 #include "libavutil/dict.h"
27 #include "avformat.h"
28 #include "internal.h"
29 #include "rmsipr.h"
30 #include "rm.h"
31
32 #define DEINT_ID_GENR MKTAG('g', 'e', 'n', 'r') ///< interleaving for Cooker/Atrac
33 #define DEINT_ID_INT0 MKTAG('I', 'n', 't', '0') ///< no interleaving needed
34 #define DEINT_ID_INT4 MKTAG('I', 'n', 't', '4') ///< interleaving for 28.8
35 #define DEINT_ID_SIPR MKTAG('s', 'i', 'p', 'r') ///< interleaving for Sipro
36 #define DEINT_ID_VBRF MKTAG('v', 'b', 'r', 'f') ///< VBR case for AAC
37 #define DEINT_ID_VBRS MKTAG('v', 'b', 'r', 's') ///< VBR case for AAC
38
39 struct RMStream {
40     AVPacket pkt;      ///< place to store merged video frame / reordered audio data
41     int videobufsize;  ///< current assembled frame size
42     int videobufpos;   ///< position for the next slice in the video buffer
43     int curpic_num;    ///< picture number of current frame
44     int cur_slice, slices;
45     int64_t pktpos;    ///< first slice position in file
46     /// Audio descrambling matrix parameters
47     int64_t audiotimestamp; ///< Audio packet timestamp
48     int sub_packet_cnt; // Subpacket counter, used while reading
49     int sub_packet_size, sub_packet_h, coded_framesize; ///< Descrambling parameters from container
50     int audio_framesize; /// Audio frame size from container
51     int sub_packet_lengths[16]; /// Length of each subpacket
52     int32_t deint_id;  ///< deinterleaver used in audio stream
53 };
54
55 typedef struct {
56     int nb_packets;
57     int old_format;
58     int current_stream;
59     int remaining_len;
60     int audio_stream_num; ///< Stream number for audio packets
61     int audio_pkt_cnt; ///< Output packet counter
62 } RMDemuxContext;
63
64 static inline void get_strl(AVIOContext *pb, char *buf, int buf_size, int len)
65 {
66     int i;
67     char *q, r;
68
69     q = buf;
70     for(i=0;i<len;i++) {
71         r = avio_r8(pb);
72         if (i < buf_size - 1)
73             *q++ = r;
74     }
75     if (buf_size > 0) *q = '\0';
76 }
77
78 static void get_str8(AVIOContext *pb, char *buf, int buf_size)
79 {
80     get_strl(pb, buf, buf_size, avio_r8(pb));
81 }
82
83 static int rm_read_extradata(AVIOContext *pb, AVCodecContext *avctx, unsigned size)
84 {
85     if (size >= 1<<24)
86         return -1;
87     avctx->extradata = av_malloc(size + FF_INPUT_BUFFER_PADDING_SIZE);
88     if (!avctx->extradata)
89         return AVERROR(ENOMEM);
90     avctx->extradata_size = avio_read(pb, avctx->extradata, size);
91     memset(avctx->extradata + avctx->extradata_size, 0, FF_INPUT_BUFFER_PADDING_SIZE);
92     if (avctx->extradata_size != size)
93         return AVERROR(EIO);
94     return 0;
95 }
96
97 static void rm_read_metadata(AVFormatContext *s, int wide)
98 {
99     char buf[1024];
100     int i;
101     for (i=0; i<FF_ARRAY_ELEMS(ff_rm_metadata); i++) {
102         int len = wide ? avio_rb16(s->pb) : avio_r8(s->pb);
103         get_strl(s->pb, buf, sizeof(buf), len);
104         av_dict_set(&s->metadata, ff_rm_metadata[i], buf, 0);
105     }
106 }
107
108 RMStream *ff_rm_alloc_rmstream (void)
109 {
110     RMStream *rms = av_mallocz(sizeof(RMStream));
111     rms->curpic_num = -1;
112     return rms;
113 }
114
115 void ff_rm_free_rmstream (RMStream *rms)
116 {
117     av_free_packet(&rms->pkt);
118 }
119
120 static int rm_read_audio_stream_info(AVFormatContext *s, AVIOContext *pb,
121                                      AVStream *st, RMStream *ast, int read_all)
122 {
123     char buf[256];
124     uint32_t version;
125     int ret;
126
127     /* ra type header */
128     version = avio_rb16(pb); /* version */
129     if (version == 3) {
130         int header_size = avio_rb16(pb);
131         int64_t startpos = avio_tell(pb);
132         avio_skip(pb, 14);
133         rm_read_metadata(s, 0);
134         if ((startpos + header_size) >= avio_tell(pb) + 2) {
135             // fourcc (should always be "lpcJ")
136             avio_r8(pb);
137             get_str8(pb, buf, sizeof(buf));
138         }
139         // Skip extra header crap (this should never happen)
140         if ((startpos + header_size) > avio_tell(pb))
141             avio_skip(pb, header_size + startpos - avio_tell(pb));
142         st->codec->sample_rate = 8000;
143         st->codec->channels = 1;
144         st->codec->channel_layout = AV_CH_LAYOUT_MONO;
145         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
146         st->codec->codec_id = AV_CODEC_ID_RA_144;
147         ast->deint_id = DEINT_ID_INT0;
148     } else {
149         int flavor, sub_packet_h, coded_framesize, sub_packet_size;
150         int codecdata_length;
151         /* old version (4) */
152         avio_skip(pb, 2); /* unused */
153         avio_rb32(pb); /* .ra4 */
154         avio_rb32(pb); /* data size */
155         avio_rb16(pb); /* version2 */
156         avio_rb32(pb); /* header size */
157         flavor= avio_rb16(pb); /* add codec info / flavor */
158         ast->coded_framesize = coded_framesize = avio_rb32(pb); /* coded frame size */
159         avio_rb32(pb); /* ??? */
160         avio_rb32(pb); /* ??? */
161         avio_rb32(pb); /* ??? */
162         ast->sub_packet_h = sub_packet_h = avio_rb16(pb); /* 1 */
163         st->codec->block_align= avio_rb16(pb); /* frame size */
164         ast->sub_packet_size = sub_packet_size = avio_rb16(pb); /* sub packet size */
165         avio_rb16(pb); /* ??? */
166         if (version == 5) {
167             avio_rb16(pb); avio_rb16(pb); avio_rb16(pb);
168         }
169         st->codec->sample_rate = avio_rb16(pb);
170         avio_rb32(pb);
171         st->codec->channels = avio_rb16(pb);
172         if (version == 5) {
173             ast->deint_id = avio_rl32(pb);
174             avio_read(pb, buf, 4);
175             buf[4] = 0;
176         } else {
177             get_str8(pb, buf, sizeof(buf)); /* desc */
178             ast->deint_id = AV_RL32(buf);
179             get_str8(pb, buf, sizeof(buf)); /* desc */
180         }
181         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
182         st->codec->codec_tag  = AV_RL32(buf);
183         st->codec->codec_id   = ff_codec_get_id(ff_rm_codec_tags,
184                                                 st->codec->codec_tag);
185
186         switch (st->codec->codec_id) {
187         case AV_CODEC_ID_AC3:
188             st->need_parsing = AVSTREAM_PARSE_FULL;
189             break;
190         case AV_CODEC_ID_RA_288:
191             st->codec->extradata_size= 0;
192             ast->audio_framesize = st->codec->block_align;
193             st->codec->block_align = coded_framesize;
194             break;
195         case AV_CODEC_ID_COOK:
196             st->need_parsing = AVSTREAM_PARSE_HEADERS;
197         case AV_CODEC_ID_ATRAC3:
198         case AV_CODEC_ID_SIPR:
199             avio_rb16(pb); avio_r8(pb);
200             if (version == 5)
201                 avio_r8(pb);
202             codecdata_length = avio_rb32(pb);
203             if(codecdata_length + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
204                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
205                 return -1;
206             }
207
208             ast->audio_framesize = st->codec->block_align;
209             if (st->codec->codec_id == AV_CODEC_ID_SIPR) {
210                 if (flavor > 3) {
211                     av_log(s, AV_LOG_ERROR, "bad SIPR file flavor %d\n",
212                            flavor);
213                     return -1;
214                 }
215                 st->codec->block_align = ff_sipr_subpk_size[flavor];
216             } else {
217                 if(sub_packet_size <= 0){
218                     av_log(s, AV_LOG_ERROR, "sub_packet_size is invalid\n");
219                     return -1;
220                 }
221                 st->codec->block_align = ast->sub_packet_size;
222             }
223             if ((ret = rm_read_extradata(pb, st->codec, codecdata_length)) < 0)
224                 return ret;
225
226             break;
227         case AV_CODEC_ID_AAC:
228             avio_rb16(pb); avio_r8(pb);
229             if (version == 5)
230                 avio_r8(pb);
231             codecdata_length = avio_rb32(pb);
232             if(codecdata_length + FF_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
233                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
234                 return -1;
235             }
236             if (codecdata_length >= 1) {
237                 avio_r8(pb);
238                 if ((ret = rm_read_extradata(pb, st->codec, codecdata_length - 1)) < 0)
239                     return ret;
240             }
241             break;
242         default:
243             av_strlcpy(st->codec->codec_name, buf, sizeof(st->codec->codec_name));
244         }
245         if (ast->deint_id == DEINT_ID_INT4 ||
246             ast->deint_id == DEINT_ID_GENR ||
247             ast->deint_id == DEINT_ID_SIPR) {
248             if (st->codec->block_align <= 0 ||
249                 ast->audio_framesize * sub_packet_h > (unsigned)INT_MAX ||
250                 ast->audio_framesize * sub_packet_h < st->codec->block_align)
251                 return AVERROR_INVALIDDATA;
252             if (av_new_packet(&ast->pkt, ast->audio_framesize * sub_packet_h) < 0)
253                 return AVERROR(ENOMEM);
254         }
255         switch (ast->deint_id) {
256         case DEINT_ID_INT4:
257             if (ast->coded_framesize > ast->audio_framesize ||
258                 sub_packet_h <= 1 ||
259                 ast->coded_framesize * sub_packet_h > (2 + (sub_packet_h & 1)) * ast->audio_framesize)
260                 return AVERROR_INVALIDDATA;
261             break;
262         case DEINT_ID_GENR:
263             if (ast->sub_packet_size <= 0 ||
264                 ast->sub_packet_size > ast->audio_framesize)
265                 return AVERROR_INVALIDDATA;
266             break;
267         case DEINT_ID_SIPR:
268         case DEINT_ID_INT0:
269         case DEINT_ID_VBRS:
270         case DEINT_ID_VBRF:
271             break;
272         default:
273             av_log(s, AV_LOG_ERROR, "Unknown interleaver %X\n", ast->deint_id);
274             return AVERROR_INVALIDDATA;
275         }
276
277         if (read_all) {
278             avio_r8(pb);
279             avio_r8(pb);
280             avio_r8(pb);
281             rm_read_metadata(s, 0);
282         }
283     }
284     return 0;
285 }
286
287 int
288 ff_rm_read_mdpr_codecdata (AVFormatContext *s, AVIOContext *pb,
289                            AVStream *st, RMStream *rst, int codec_data_size, const uint8_t *mime)
290 {
291     unsigned int v;
292     int size;
293     int64_t codec_pos;
294     int ret;
295
296     avpriv_set_pts_info(st, 64, 1, 1000);
297     codec_pos = avio_tell(pb);
298     v = avio_rb32(pb);
299     if (v == MKTAG(0xfd, 'a', 'r', '.')) {
300         /* ra type header */
301         if (rm_read_audio_stream_info(s, pb, st, rst, 0))
302             return -1;
303     } else if (v == MKBETAG('L', 'S', 'D', ':')) {
304         avio_seek(pb, -4, SEEK_CUR);
305         if ((ret = rm_read_extradata(pb, st->codec, codec_data_size)) < 0)
306             return ret;
307
308         st->codec->codec_type = AVMEDIA_TYPE_AUDIO;
309         st->codec->codec_tag  = AV_RL32(st->codec->extradata);
310         st->codec->codec_id   = ff_codec_get_id(ff_rm_codec_tags,
311                                                 st->codec->codec_tag);
312     } else if(mime && !strcmp(mime, "logical-fileinfo")){
313         int stream_count, rule_count, property_count, i;
314         ff_free_stream(s, st);
315         if (avio_rb16(pb) != 0) {
316             av_log(s, AV_LOG_WARNING, "Unsupported version\n");
317             goto skip;
318         }
319         stream_count = avio_rb16(pb);
320         avio_skip(pb, 6*stream_count);
321         rule_count = avio_rb16(pb);
322         avio_skip(pb, 2*rule_count);
323         property_count = avio_rb16(pb);
324         for(i=0; i<property_count; i++){
325             uint8_t name[128], val[128];
326             avio_rb32(pb);
327             if (avio_rb16(pb) != 0) {
328                 av_log(s, AV_LOG_WARNING, "Unsupported Name value property version\n");
329                 goto skip; //FIXME skip just this one
330             }
331             get_str8(pb, name, sizeof(name));
332             switch(avio_rb32(pb)) {
333             case 2: get_strl(pb, val, sizeof(val), avio_rb16(pb));
334                 av_dict_set(&s->metadata, name, val, 0);
335                 break;
336             default: avio_skip(pb, avio_rb16(pb));
337             }
338         }
339     } else {
340         int fps;
341         if (avio_rl32(pb) != MKTAG('V', 'I', 'D', 'O')) {
342         fail1:
343             av_log(s, AV_LOG_WARNING, "Unsupported stream type %08x\n", v);
344             goto skip;
345         }
346         st->codec->codec_tag = avio_rl32(pb);
347         st->codec->codec_id  = ff_codec_get_id(ff_rm_codec_tags,
348                                                st->codec->codec_tag);
349         av_dlog(s, "%X %X\n", st->codec->codec_tag, MKTAG('R', 'V', '2', '0'));
350         if (st->codec->codec_id == AV_CODEC_ID_NONE)
351             goto fail1;
352         st->codec->width  = avio_rb16(pb);
353         st->codec->height = avio_rb16(pb);
354         avio_skip(pb, 2); // looks like bits per sample
355         avio_skip(pb, 4); // always zero?
356         st->codec->codec_type = AVMEDIA_TYPE_VIDEO;
357         st->need_parsing = AVSTREAM_PARSE_TIMESTAMPS;
358         fps = avio_rb32(pb);
359
360         if ((ret = rm_read_extradata(pb, st->codec, codec_data_size - (avio_tell(pb) - codec_pos))) < 0)
361             return ret;
362
363         av_reduce(&st->avg_frame_rate.den, &st->avg_frame_rate.num,
364                   0x10000, fps, (1 << 30) - 1);
365 #if FF_API_R_FRAME_RATE
366         st->r_frame_rate = st->avg_frame_rate;
367 #endif
368     }
369
370 skip:
371     /* skip codec info */
372     size = avio_tell(pb) - codec_pos;
373     avio_skip(pb, codec_data_size - size);
374
375     return 0;
376 }
377
378 /** this function assumes that the demuxer has already seeked to the start
379  * of the INDX chunk, and will bail out if not. */
380 static int rm_read_index(AVFormatContext *s)
381 {
382     AVIOContext *pb = s->pb;
383     unsigned int size, n_pkts, str_id, next_off, n, pos, pts;
384     AVStream *st;
385
386     do {
387         if (avio_rl32(pb) != MKTAG('I','N','D','X'))
388             return -1;
389         size     = avio_rb32(pb);
390         if (size < 20)
391             return -1;
392         avio_skip(pb, 2);
393         n_pkts   = avio_rb32(pb);
394         str_id   = avio_rb16(pb);
395         next_off = avio_rb32(pb);
396         for (n = 0; n < s->nb_streams; n++)
397             if (s->streams[n]->id == str_id) {
398                 st = s->streams[n];
399                 break;
400             }
401         if (n == s->nb_streams) {
402             av_log(s, AV_LOG_ERROR,
403                    "Invalid stream index %d for index at pos %"PRId64"\n",
404                    str_id, avio_tell(pb));
405             goto skip;
406         } else if ((avio_size(pb) - avio_tell(pb)) / 14 < n_pkts) {
407             av_log(s, AV_LOG_ERROR,
408                    "Nr. of packets in packet index for stream index %d "
409                    "exceeds filesize (%"PRId64" at %"PRId64" = %"PRId64")\n",
410                    str_id, avio_size(pb), avio_tell(pb),
411                    (avio_size(pb) - avio_tell(pb)) / 14);
412             goto skip;
413         }
414
415         for (n = 0; n < n_pkts; n++) {
416             avio_skip(pb, 2);
417             pts = avio_rb32(pb);
418             pos = avio_rb32(pb);
419             avio_skip(pb, 4); /* packet no. */
420
421             av_add_index_entry(st, pos, pts, 0, 0, AVINDEX_KEYFRAME);
422         }
423
424 skip:
425         if (next_off && avio_tell(pb) < next_off &&
426             avio_seek(pb, next_off, SEEK_SET) < 0) {
427             av_log(s, AV_LOG_ERROR,
428                    "Non-linear index detected, not supported\n");
429             return -1;
430         }
431     } while (next_off);
432
433     return 0;
434 }
435
436 static int rm_read_header_old(AVFormatContext *s)
437 {
438     RMDemuxContext *rm = s->priv_data;
439     AVStream *st;
440
441     rm->old_format = 1;
442     st = avformat_new_stream(s, NULL);
443     if (!st)
444         return -1;
445     st->priv_data = ff_rm_alloc_rmstream();
446     return rm_read_audio_stream_info(s, s->pb, st, st->priv_data, 1);
447 }
448
449 static int rm_read_header(AVFormatContext *s)
450 {
451     RMDemuxContext *rm = s->priv_data;
452     AVStream *st;
453     AVIOContext *pb = s->pb;
454     unsigned int tag;
455     int tag_size;
456     unsigned int start_time, duration;
457     unsigned int data_off = 0, indx_off = 0;
458     char buf[128], mime[128];
459     int flags = 0;
460
461     tag = avio_rl32(pb);
462     if (tag == MKTAG('.', 'r', 'a', 0xfd)) {
463         /* very old .ra format */
464         return rm_read_header_old(s);
465     } else if (tag != MKTAG('.', 'R', 'M', 'F')) {
466         return AVERROR(EIO);
467     }
468
469     tag_size = avio_rb32(pb);
470     avio_skip(pb, tag_size - 8);
471
472     for(;;) {
473         if (url_feof(pb))
474             return -1;
475         tag = avio_rl32(pb);
476         tag_size = avio_rb32(pb);
477         avio_rb16(pb);
478         av_dlog(s, "tag=%c%c%c%c (%08x) size=%d\n",
479                 (tag      ) & 0xff,
480                 (tag >>  8) & 0xff,
481                 (tag >> 16) & 0xff,
482                 (tag >> 24) & 0xff,
483                 tag,
484                 tag_size);
485         if (tag_size < 10 && tag != MKTAG('D', 'A', 'T', 'A'))
486             return -1;
487         switch(tag) {
488         case MKTAG('P', 'R', 'O', 'P'):
489             /* file header */
490             avio_rb32(pb); /* max bit rate */
491             avio_rb32(pb); /* avg bit rate */
492             avio_rb32(pb); /* max packet size */
493             avio_rb32(pb); /* avg packet size */
494             avio_rb32(pb); /* nb packets */
495             duration = avio_rb32(pb); /* duration */
496             s->duration = av_rescale(duration, AV_TIME_BASE, 1000);
497             avio_rb32(pb); /* preroll */
498             indx_off = avio_rb32(pb); /* index offset */
499             data_off = avio_rb32(pb); /* data offset */
500             avio_rb16(pb); /* nb streams */
501             flags = avio_rb16(pb); /* flags */
502             break;
503         case MKTAG('C', 'O', 'N', 'T'):
504             rm_read_metadata(s, 1);
505             break;
506         case MKTAG('M', 'D', 'P', 'R'):
507             st = avformat_new_stream(s, NULL);
508             if (!st)
509                 return AVERROR(ENOMEM);
510             st->id = avio_rb16(pb);
511             avio_rb32(pb); /* max bit rate */
512             st->codec->bit_rate = avio_rb32(pb); /* bit rate */
513             avio_rb32(pb); /* max packet size */
514             avio_rb32(pb); /* avg packet size */
515             start_time = avio_rb32(pb); /* start time */
516             avio_rb32(pb); /* preroll */
517             duration = avio_rb32(pb); /* duration */
518             st->start_time = start_time;
519             st->duration = duration;
520             if(duration>0)
521                 s->duration = AV_NOPTS_VALUE;
522             get_str8(pb, buf, sizeof(buf)); /* desc */
523             get_str8(pb, mime, sizeof(mime)); /* mimetype */
524             st->codec->codec_type = AVMEDIA_TYPE_DATA;
525             st->priv_data = ff_rm_alloc_rmstream();
526             if (ff_rm_read_mdpr_codecdata(s, s->pb, st, st->priv_data,
527                                           avio_rb32(pb), mime) < 0)
528                 return -1;
529             break;
530         case MKTAG('D', 'A', 'T', 'A'):
531             goto header_end;
532         default:
533             /* unknown tag: skip it */
534             avio_skip(pb, tag_size - 10);
535             break;
536         }
537     }
538  header_end:
539     rm->nb_packets = avio_rb32(pb); /* number of packets */
540     if (!rm->nb_packets && (flags & 4))
541         rm->nb_packets = 3600 * 25;
542     avio_rb32(pb); /* next data header */
543
544     if (!data_off)
545         data_off = avio_tell(pb) - 18;
546     if (indx_off && pb->seekable && !(s->flags & AVFMT_FLAG_IGNIDX) &&
547         avio_seek(pb, indx_off, SEEK_SET) >= 0) {
548         rm_read_index(s);
549         avio_seek(pb, data_off + 18, SEEK_SET);
550     }
551
552     return 0;
553 }
554
555 static int get_num(AVIOContext *pb, int *len)
556 {
557     int n, n1;
558
559     n = avio_rb16(pb);
560     (*len)-=2;
561     n &= 0x7FFF;
562     if (n >= 0x4000) {
563         return n - 0x4000;
564     } else {
565         n1 = avio_rb16(pb);
566         (*len)-=2;
567         return (n << 16) | n1;
568     }
569 }
570
571 /* multiple of 20 bytes for ra144 (ugly) */
572 #define RAW_PACKET_SIZE 1000
573
574 static int sync(AVFormatContext *s, int64_t *timestamp, int *flags, int *stream_index, int64_t *pos){
575     RMDemuxContext *rm = s->priv_data;
576     AVIOContext *pb = s->pb;
577     AVStream *st;
578     uint32_t state=0xFFFFFFFF;
579
580     while(!url_feof(pb)){
581         int len, num, i;
582         *pos= avio_tell(pb) - 3;
583         if(rm->remaining_len > 0){
584             num= rm->current_stream;
585             len= rm->remaining_len;
586             *timestamp = AV_NOPTS_VALUE;
587             *flags= 0;
588         }else{
589             state= (state<<8) + avio_r8(pb);
590
591             if(state == MKBETAG('I', 'N', 'D', 'X')){
592                 int n_pkts, expected_len;
593                 len = avio_rb32(pb);
594                 avio_skip(pb, 2);
595                 n_pkts = avio_rb32(pb);
596                 expected_len = 20 + n_pkts * 14;
597                 if (len == 20)
598                     /* some files don't add index entries to chunk size... */
599                     len = expected_len;
600                 else if (len != expected_len)
601                     av_log(s, AV_LOG_WARNING,
602                            "Index size %d (%d pkts) is wrong, should be %d.\n",
603                            len, n_pkts, expected_len);
604                 len -= 14; // we already read part of the index header
605                 if(len<0)
606                     continue;
607                 goto skip;
608             } else if (state == MKBETAG('D','A','T','A')) {
609                 av_log(s, AV_LOG_WARNING,
610                        "DATA tag in middle of chunk, file may be broken.\n");
611             }
612
613             if(state > (unsigned)0xFFFF || state <= 12)
614                 continue;
615             len=state - 12;
616             state= 0xFFFFFFFF;
617
618             num = avio_rb16(pb);
619             *timestamp = avio_rb32(pb);
620             avio_r8(pb); /* reserved */
621             *flags = avio_r8(pb); /* flags */
622         }
623         for(i=0;i<s->nb_streams;i++) {
624             st = s->streams[i];
625             if (num == st->id)
626                 break;
627         }
628         if (i == s->nb_streams) {
629 skip:
630             /* skip packet if unknown number */
631             avio_skip(pb, len);
632             rm->remaining_len = 0;
633             continue;
634         }
635         *stream_index= i;
636
637         return len;
638     }
639     return -1;
640 }
641
642 static int rm_assemble_video_frame(AVFormatContext *s, AVIOContext *pb,
643                                    RMDemuxContext *rm, RMStream *vst,
644                                    AVPacket *pkt, int len, int *pseq,
645                                    int64_t *timestamp)
646 {
647     int hdr, seq, pic_num, len2, pos;
648     int type;
649
650     hdr = avio_r8(pb); len--;
651     type = hdr >> 6;
652
653     if(type != 3){  // not frame as a part of packet
654         seq = avio_r8(pb); len--;
655     }
656     if(type != 1){  // not whole frame
657         len2 = get_num(pb, &len);
658         pos  = get_num(pb, &len);
659         pic_num = avio_r8(pb); len--;
660     }
661     if(len<0)
662         return -1;
663     rm->remaining_len = len;
664     if(type&1){     // frame, not slice
665         if(type == 3){  // frame as a part of packet
666             len= len2;
667             *timestamp = pos;
668         }
669         if(rm->remaining_len < len)
670             return -1;
671         rm->remaining_len -= len;
672         if(av_new_packet(pkt, len + 9) < 0)
673             return AVERROR(EIO);
674         pkt->data[0] = 0;
675         AV_WL32(pkt->data + 1, 1);
676         AV_WL32(pkt->data + 5, 0);
677         avio_read(pb, pkt->data + 9, len);
678         return 0;
679     }
680     //now we have to deal with single slice
681
682     *pseq = seq;
683     if((seq & 0x7F) == 1 || vst->curpic_num != pic_num){
684         vst->slices = ((hdr & 0x3F) << 1) + 1;
685         vst->videobufsize = len2 + 8*vst->slices + 1;
686         av_free_packet(&vst->pkt); //FIXME this should be output.
687         if(av_new_packet(&vst->pkt, vst->videobufsize) < 0)
688             return AVERROR(ENOMEM);
689         vst->videobufpos = 8*vst->slices + 1;
690         vst->cur_slice = 0;
691         vst->curpic_num = pic_num;
692         vst->pktpos = avio_tell(pb);
693     }
694     if(type == 2)
695         len = FFMIN(len, pos);
696
697     if(++vst->cur_slice > vst->slices)
698         return 1;
699     AV_WL32(vst->pkt.data - 7 + 8*vst->cur_slice, 1);
700     AV_WL32(vst->pkt.data - 3 + 8*vst->cur_slice, vst->videobufpos - 8*vst->slices - 1);
701     if(vst->videobufpos + len > vst->videobufsize)
702         return 1;
703     if (avio_read(pb, vst->pkt.data + vst->videobufpos, len) != len)
704         return AVERROR(EIO);
705     vst->videobufpos += len;
706     rm->remaining_len-= len;
707
708     if (type == 2 || vst->videobufpos == vst->videobufsize) {
709         vst->pkt.data[0] = vst->cur_slice-1;
710         *pkt= vst->pkt;
711         vst->pkt.data= NULL;
712         vst->pkt.size= 0;
713         if(vst->slices != vst->cur_slice) //FIXME find out how to set slices correct from the begin
714             memmove(pkt->data + 1 + 8*vst->cur_slice, pkt->data + 1 + 8*vst->slices,
715                 vst->videobufpos - 1 - 8*vst->slices);
716         pkt->size = vst->videobufpos + 8*(vst->cur_slice - vst->slices);
717         pkt->pts = AV_NOPTS_VALUE;
718         pkt->pos = vst->pktpos;
719         vst->slices = 0;
720         return 0;
721     }
722
723     return 1;
724 }
725
726 static inline void
727 rm_ac3_swap_bytes (AVStream *st, AVPacket *pkt)
728 {
729     uint8_t *ptr;
730     int j;
731
732     if (st->codec->codec_id == AV_CODEC_ID_AC3) {
733         ptr = pkt->data;
734         for (j=0;j<pkt->size;j+=2) {
735             FFSWAP(int, ptr[0], ptr[1]);
736             ptr += 2;
737         }
738     }
739 }
740
741 int
742 ff_rm_parse_packet (AVFormatContext *s, AVIOContext *pb,
743                     AVStream *st, RMStream *ast, int len, AVPacket *pkt,
744                     int *seq, int flags, int64_t timestamp)
745 {
746     RMDemuxContext *rm = s->priv_data;
747
748     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
749         rm->current_stream= st->id;
750         if(rm_assemble_video_frame(s, pb, rm, ast, pkt, len, seq, &timestamp))
751             return -1; //got partial frame
752     } else if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
753         if ((ast->deint_id == DEINT_ID_GENR) ||
754             (ast->deint_id == DEINT_ID_INT4) ||
755             (ast->deint_id == DEINT_ID_SIPR)) {
756             int x;
757             int sps = ast->sub_packet_size;
758             int cfs = ast->coded_framesize;
759             int h = ast->sub_packet_h;
760             int y = ast->sub_packet_cnt;
761             int w = ast->audio_framesize;
762
763             if (flags & 2)
764                 y = ast->sub_packet_cnt = 0;
765             if (!y)
766                 ast->audiotimestamp = timestamp;
767
768             switch (ast->deint_id) {
769                 case DEINT_ID_INT4:
770                     for (x = 0; x < h/2; x++)
771                         avio_read(pb, ast->pkt.data+x*2*w+y*cfs, cfs);
772                     break;
773                 case DEINT_ID_GENR:
774                     for (x = 0; x < w/sps; x++)
775                         avio_read(pb, ast->pkt.data+sps*(h*x+((h+1)/2)*(y&1)+(y>>1)), sps);
776                     break;
777                 case DEINT_ID_SIPR:
778                     avio_read(pb, ast->pkt.data + y * w, w);
779                     break;
780             }
781
782             if (++(ast->sub_packet_cnt) < h)
783                 return -1;
784             if (ast->deint_id == DEINT_ID_SIPR)
785                 ff_rm_reorder_sipr_data(ast->pkt.data, h, w);
786
787              ast->sub_packet_cnt = 0;
788              rm->audio_stream_num = st->index;
789              rm->audio_pkt_cnt = h * w / st->codec->block_align;
790         } else if ((ast->deint_id == DEINT_ID_VBRF) ||
791                    (ast->deint_id == DEINT_ID_VBRS)) {
792             int x;
793             rm->audio_stream_num = st->index;
794             ast->sub_packet_cnt = (avio_rb16(pb) & 0xf0) >> 4;
795             if (ast->sub_packet_cnt) {
796                 for (x = 0; x < ast->sub_packet_cnt; x++)
797                     ast->sub_packet_lengths[x] = avio_rb16(pb);
798                 rm->audio_pkt_cnt = ast->sub_packet_cnt;
799                 ast->audiotimestamp = timestamp;
800             } else
801                 return -1;
802         } else {
803             av_get_packet(pb, pkt, len);
804             rm_ac3_swap_bytes(st, pkt);
805         }
806     } else
807         av_get_packet(pb, pkt, len);
808
809     pkt->stream_index = st->index;
810
811 #if 0
812     if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
813         if(st->codec->codec_id == AV_CODEC_ID_RV20){
814             int seq= 128*(pkt->data[2]&0x7F) + (pkt->data[3]>>1);
815             av_log(s, AV_LOG_DEBUG, "%d %"PRId64" %d\n", *timestamp, *timestamp*512LL/25, seq);
816
817             seq |= (timestamp&~0x3FFF);
818             if(seq - timestamp >  0x2000) seq -= 0x4000;
819             if(seq - timestamp < -0x2000) seq += 0x4000;
820         }
821     }
822 #endif
823
824     pkt->pts = timestamp;
825     if (flags & 2)
826         pkt->flags |= AV_PKT_FLAG_KEY;
827
828     return st->codec->codec_type == AVMEDIA_TYPE_AUDIO ? rm->audio_pkt_cnt : 0;
829 }
830
831 int
832 ff_rm_retrieve_cache (AVFormatContext *s, AVIOContext *pb,
833                       AVStream *st, RMStream *ast, AVPacket *pkt)
834 {
835     RMDemuxContext *rm = s->priv_data;
836
837     av_assert0 (rm->audio_pkt_cnt > 0);
838
839     if (ast->deint_id == DEINT_ID_VBRF ||
840         ast->deint_id == DEINT_ID_VBRS)
841         av_get_packet(pb, pkt, ast->sub_packet_lengths[ast->sub_packet_cnt - rm->audio_pkt_cnt]);
842     else {
843         if(av_new_packet(pkt, st->codec->block_align) < 0)
844             return AVERROR(ENOMEM);
845         memcpy(pkt->data, ast->pkt.data + st->codec->block_align * //FIXME avoid this
846                (ast->sub_packet_h * ast->audio_framesize / st->codec->block_align - rm->audio_pkt_cnt),
847                st->codec->block_align);
848     }
849     rm->audio_pkt_cnt--;
850     if ((pkt->pts = ast->audiotimestamp) != AV_NOPTS_VALUE) {
851         ast->audiotimestamp = AV_NOPTS_VALUE;
852         pkt->flags = AV_PKT_FLAG_KEY;
853     } else
854         pkt->flags = 0;
855     pkt->stream_index = st->index;
856
857     return rm->audio_pkt_cnt;
858 }
859
860 static int rm_read_packet(AVFormatContext *s, AVPacket *pkt)
861 {
862     RMDemuxContext *rm = s->priv_data;
863     AVStream *st;
864     int i, len, res, seq = 1;
865     int64_t timestamp, pos;
866     int flags;
867
868     for (;;) {
869         if (rm->audio_pkt_cnt) {
870             // If there are queued audio packet return them first
871             st = s->streams[rm->audio_stream_num];
872             res = ff_rm_retrieve_cache(s, s->pb, st, st->priv_data, pkt);
873             if(res < 0)
874                 return res;
875             flags = 0;
876         } else {
877             if (rm->old_format) {
878                 RMStream *ast;
879
880                 st = s->streams[0];
881                 ast = st->priv_data;
882                 timestamp = AV_NOPTS_VALUE;
883                 len = !ast->audio_framesize ? RAW_PACKET_SIZE :
884                     ast->coded_framesize * ast->sub_packet_h / 2;
885                 flags = (seq++ == 1) ? 2 : 0;
886                 pos = avio_tell(s->pb);
887             } else {
888                 len=sync(s, &timestamp, &flags, &i, &pos);
889                 if (len > 0)
890                     st = s->streams[i];
891             }
892
893             if(len<0 || url_feof(s->pb))
894                 return AVERROR(EIO);
895
896             res = ff_rm_parse_packet (s, s->pb, st, st->priv_data, len, pkt,
897                                       &seq, flags, timestamp);
898             if((flags&2) && (seq&0x7F) == 1)
899                 av_add_index_entry(st, pos, timestamp, 0, 0, AVINDEX_KEYFRAME);
900             if (res)
901                 continue;
902         }
903
904         if(  (st->discard >= AVDISCARD_NONKEY && !(flags&2))
905            || st->discard >= AVDISCARD_ALL){
906             av_free_packet(pkt);
907         } else
908             break;
909     }
910
911     return 0;
912 }
913
914 static int rm_read_close(AVFormatContext *s)
915 {
916     int i;
917
918     for (i=0;i<s->nb_streams;i++)
919         ff_rm_free_rmstream(s->streams[i]->priv_data);
920
921     return 0;
922 }
923
924 static int rm_probe(AVProbeData *p)
925 {
926     /* check file header */
927     if ((p->buf[0] == '.' && p->buf[1] == 'R' &&
928          p->buf[2] == 'M' && p->buf[3] == 'F' &&
929          p->buf[4] == 0 && p->buf[5] == 0) ||
930         (p->buf[0] == '.' && p->buf[1] == 'r' &&
931          p->buf[2] == 'a' && p->buf[3] == 0xfd))
932         return AVPROBE_SCORE_MAX;
933     else
934         return 0;
935 }
936
937 static int64_t rm_read_dts(AVFormatContext *s, int stream_index,
938                                int64_t *ppos, int64_t pos_limit)
939 {
940     RMDemuxContext *rm = s->priv_data;
941     int64_t pos, dts;
942     int stream_index2, flags, len, h;
943
944     pos = *ppos;
945
946     if(rm->old_format)
947         return AV_NOPTS_VALUE;
948
949     if (avio_seek(s->pb, pos, SEEK_SET) < 0)
950         return AV_NOPTS_VALUE;
951
952     rm->remaining_len=0;
953     for(;;){
954         int seq=1;
955         AVStream *st;
956
957         len=sync(s, &dts, &flags, &stream_index2, &pos);
958         if(len<0)
959             return AV_NOPTS_VALUE;
960
961         st = s->streams[stream_index2];
962         if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
963             h= avio_r8(s->pb); len--;
964             if(!(h & 0x40)){
965                 seq = avio_r8(s->pb); len--;
966             }
967         }
968
969         if((flags&2) && (seq&0x7F) == 1){
970             av_dlog(s, "%d %d-%d %"PRId64" %d\n",
971                     flags, stream_index2, stream_index, dts, seq);
972             av_add_index_entry(st, pos, dts, 0, 0, AVINDEX_KEYFRAME);
973             if(stream_index2 == stream_index)
974                 break;
975         }
976
977         avio_skip(s->pb, len);
978     }
979     *ppos = pos;
980     return dts;
981 }
982
983 AVInputFormat ff_rm_demuxer = {
984     .name           = "rm",
985     .long_name      = NULL_IF_CONFIG_SMALL("RealMedia"),
986     .priv_data_size = sizeof(RMDemuxContext),
987     .read_probe     = rm_probe,
988     .read_header    = rm_read_header,
989     .read_packet    = rm_read_packet,
990     .read_close     = rm_read_close,
991     .read_timestamp = rm_read_dts,
992 };
993
994 AVInputFormat ff_rdt_demuxer = {
995     .name           = "rdt",
996     .long_name      = NULL_IF_CONFIG_SMALL("RDT demuxer"),
997     .priv_data_size = sizeof(RMDemuxContext),
998     .read_close     = rm_read_close,
999     .flags          = AVFMT_NOFILE,
1000 };