]> git.sesse.net Git - ffmpeg/blob - libavformat/rmdec.c
utvideodec: Support ULY4 and ULH4
[ffmpeg] / libavformat / rmdec.c
1 /*
2  * "Real" compatible demuxer.
3  * Copyright (c) 2000, 2001 Fabrice Bellard
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include <inttypes.h>
23
24 #include "libavutil/avstring.h"
25 #include "libavutil/channel_layout.h"
26 #include "libavutil/internal.h"
27 #include "libavutil/intreadwrite.h"
28 #include "libavutil/dict.h"
29 #include "avformat.h"
30 #include "internal.h"
31 #include "rmsipr.h"
32 #include "rm.h"
33
34 #define DEINT_ID_GENR MKTAG('g', 'e', 'n', 'r') ///< interleaving for Cooker/ATRAC
35 #define DEINT_ID_INT0 MKTAG('I', 'n', 't', '0') ///< no interleaving needed
36 #define DEINT_ID_INT4 MKTAG('I', 'n', 't', '4') ///< interleaving for 28.8
37 #define DEINT_ID_SIPR MKTAG('s', 'i', 'p', 'r') ///< interleaving for Sipro
38 #define DEINT_ID_VBRF MKTAG('v', 'b', 'r', 'f') ///< VBR case for AAC
39 #define DEINT_ID_VBRS MKTAG('v', 'b', 'r', 's') ///< VBR case for AAC
40
41 struct RMStream {
42     AVPacket pkt;      ///< place to store merged video frame / reordered audio data
43     int videobufsize;  ///< current assembled frame size
44     int videobufpos;   ///< position for the next slice in the video buffer
45     int curpic_num;    ///< picture number of current frame
46     int cur_slice, slices;
47     int64_t pktpos;    ///< first slice position in file
48     /// Audio descrambling matrix parameters
49     int64_t audiotimestamp; ///< Audio packet timestamp
50     int sub_packet_cnt; // Subpacket counter, used while reading
51     int sub_packet_size, sub_packet_h, coded_framesize; ///< Descrambling parameters from container
52     int audio_framesize; /// Audio frame size from container
53     int sub_packet_lengths[16]; /// Length of each subpacket
54     int32_t deint_id;  ///< deinterleaver used in audio stream
55 };
56
57 typedef struct RMDemuxContext {
58     int nb_packets;
59     int old_format;
60     int current_stream;
61     int remaining_len;
62     int audio_stream_num; ///< Stream number for audio packets
63     int audio_pkt_cnt; ///< Output packet counter
64 } RMDemuxContext;
65
66 static inline void get_strl(AVIOContext *pb, char *buf, int buf_size, int len)
67 {
68     int i;
69     char *q, r;
70
71     q = buf;
72     for(i=0;i<len;i++) {
73         r = avio_r8(pb);
74         if (i < buf_size - 1)
75             *q++ = r;
76     }
77     if (buf_size > 0) *q = '\0';
78 }
79
80 static void get_str8(AVIOContext *pb, char *buf, int buf_size)
81 {
82     get_strl(pb, buf, buf_size, avio_r8(pb));
83 }
84
85 static int rm_read_extradata(AVIOContext *pb, AVCodecParameters *par, unsigned size)
86 {
87     if (size >= 1<<24)
88         return -1;
89     par->extradata = av_mallocz(size + AV_INPUT_BUFFER_PADDING_SIZE);
90     if (!par->extradata)
91         return AVERROR(ENOMEM);
92     par->extradata_size = avio_read(pb, par->extradata, size);
93     if (par->extradata_size != size)
94         return AVERROR(EIO);
95     return 0;
96 }
97
98 static void rm_read_metadata(AVFormatContext *s, AVIOContext *pb, int wide)
99 {
100     char buf[1024];
101     int i;
102     for (i=0; i<FF_ARRAY_ELEMS(ff_rm_metadata); i++) {
103         int len = wide ? avio_rb16(pb) : avio_r8(pb);
104         get_strl(pb, buf, sizeof(buf), len);
105         av_dict_set(&s->metadata, ff_rm_metadata[i], buf, 0);
106     }
107 }
108
109 RMStream *ff_rm_alloc_rmstream (void)
110 {
111     RMStream *rms = av_mallocz(sizeof(RMStream));
112     if (!rms)
113         return NULL;
114     rms->curpic_num = -1;
115     return rms;
116 }
117
118 void ff_rm_free_rmstream (RMStream *rms)
119 {
120     av_packet_unref(&rms->pkt);
121 }
122
123 static int rm_read_audio_stream_info(AVFormatContext *s, AVIOContext *pb,
124                                      AVStream *st, RMStream *ast, int read_all)
125 {
126     char buf[256];
127     uint32_t version;
128     int ret;
129
130     /* ra type header */
131     version = avio_rb16(pb); /* version */
132     if (version == 3) {
133         int header_size = avio_rb16(pb);
134         int64_t startpos = avio_tell(pb);
135         avio_skip(pb, 14);
136         rm_read_metadata(s, pb, 0);
137         if ((startpos + header_size) >= avio_tell(pb) + 2) {
138             // fourcc (should always be "lpcJ")
139             avio_r8(pb);
140             get_str8(pb, buf, sizeof(buf));
141         }
142         // Skip extra header crap (this should never happen)
143         if ((startpos + header_size) > avio_tell(pb))
144             avio_skip(pb, header_size + startpos - avio_tell(pb));
145         st->codecpar->sample_rate = 8000;
146         st->codecpar->channels = 1;
147         st->codecpar->channel_layout = AV_CH_LAYOUT_MONO;
148         st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
149         st->codecpar->codec_id = AV_CODEC_ID_RA_144;
150         ast->deint_id = DEINT_ID_INT0;
151     } else {
152         int flavor, sub_packet_h, coded_framesize, sub_packet_size;
153         int codecdata_length;
154         /* old version (4) */
155         avio_skip(pb, 2); /* unused */
156         avio_rb32(pb); /* .ra4 */
157         avio_rb32(pb); /* data size */
158         avio_rb16(pb); /* version2 */
159         avio_rb32(pb); /* header size */
160         flavor= avio_rb16(pb); /* add codec info / flavor */
161         ast->coded_framesize = coded_framesize = avio_rb32(pb); /* coded frame size */
162         avio_rb32(pb); /* ??? */
163         avio_rb32(pb); /* ??? */
164         avio_rb32(pb); /* ??? */
165         ast->sub_packet_h = sub_packet_h = avio_rb16(pb); /* 1 */
166         st->codecpar->block_align= avio_rb16(pb); /* frame size */
167         ast->sub_packet_size = sub_packet_size = avio_rb16(pb); /* sub packet size */
168         avio_rb16(pb); /* ??? */
169         if (version == 5) {
170             avio_rb16(pb); avio_rb16(pb); avio_rb16(pb);
171         }
172         st->codecpar->sample_rate = avio_rb16(pb);
173         avio_rb32(pb);
174         st->codecpar->channels = avio_rb16(pb);
175         if (version == 5) {
176             ast->deint_id = avio_rl32(pb);
177             avio_read(pb, buf, 4);
178             buf[4] = 0;
179         } else {
180             get_str8(pb, buf, sizeof(buf)); /* desc */
181             ast->deint_id = AV_RL32(buf);
182             get_str8(pb, buf, sizeof(buf)); /* desc */
183         }
184         st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
185         st->codecpar->codec_tag  = AV_RL32(buf);
186         st->codecpar->codec_id   = ff_codec_get_id(ff_rm_codec_tags,
187                                                    st->codecpar->codec_tag);
188
189         switch (st->codecpar->codec_id) {
190         case AV_CODEC_ID_AC3:
191             st->need_parsing = AVSTREAM_PARSE_FULL;
192             break;
193         case AV_CODEC_ID_RA_288:
194             st->codecpar->extradata_size= 0;
195             ast->audio_framesize = st->codecpar->block_align;
196             st->codecpar->block_align = coded_framesize;
197             break;
198         case AV_CODEC_ID_COOK:
199             st->need_parsing = AVSTREAM_PARSE_HEADERS;
200         case AV_CODEC_ID_ATRAC3:
201         case AV_CODEC_ID_SIPR:
202             avio_rb16(pb); avio_r8(pb);
203             if (version == 5)
204                 avio_r8(pb);
205             codecdata_length = avio_rb32(pb);
206             if(codecdata_length + AV_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
207                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
208                 return -1;
209             }
210
211             ast->audio_framesize = st->codecpar->block_align;
212             if (st->codecpar->codec_id == AV_CODEC_ID_SIPR) {
213                 if (flavor > 3) {
214                     av_log(s, AV_LOG_ERROR, "bad SIPR file flavor %d\n",
215                            flavor);
216                     return -1;
217                 }
218                 st->codecpar->block_align = ff_sipr_subpk_size[flavor];
219             } else {
220                 if(sub_packet_size <= 0){
221                     av_log(s, AV_LOG_ERROR, "sub_packet_size is invalid\n");
222                     return -1;
223                 }
224                 st->codecpar->block_align = ast->sub_packet_size;
225             }
226             if ((ret = rm_read_extradata(pb, st->codecpar, codecdata_length)) < 0)
227                 return ret;
228             break;
229         case AV_CODEC_ID_AAC:
230             avio_rb16(pb); avio_r8(pb);
231             if (version == 5)
232                 avio_r8(pb);
233             codecdata_length = avio_rb32(pb);
234             if(codecdata_length + AV_INPUT_BUFFER_PADDING_SIZE <= (unsigned)codecdata_length){
235                 av_log(s, AV_LOG_ERROR, "codecdata_length too large\n");
236                 return -1;
237             }
238             if (codecdata_length >= 1) {
239                 avio_r8(pb);
240                 if ((ret = rm_read_extradata(pb, st->codecpar, codecdata_length - 1)) < 0)
241                     return ret;
242             }
243             break;
244         }
245         if (ast->deint_id == DEINT_ID_INT4 ||
246             ast->deint_id == DEINT_ID_GENR ||
247             ast->deint_id == DEINT_ID_SIPR) {
248             if (st->codecpar->block_align <= 0 ||
249                 ast->audio_framesize * sub_packet_h > (unsigned)INT_MAX ||
250                 ast->audio_framesize * sub_packet_h < st->codecpar->block_align)
251                 return AVERROR_INVALIDDATA;
252             if (av_new_packet(&ast->pkt, ast->audio_framesize * sub_packet_h) < 0)
253                 return AVERROR(ENOMEM);
254         }
255         switch (ast->deint_id) {
256         case DEINT_ID_INT4:
257             if (ast->coded_framesize > ast->audio_framesize ||
258                 sub_packet_h <= 1 ||
259                 ast->coded_framesize * sub_packet_h > (2 + (sub_packet_h & 1)) * ast->audio_framesize)
260                 return AVERROR_INVALIDDATA;
261             break;
262         case DEINT_ID_GENR:
263             if (ast->sub_packet_size <= 0 ||
264                 ast->sub_packet_size > ast->audio_framesize)
265                 return AVERROR_INVALIDDATA;
266             break;
267         case DEINT_ID_SIPR:
268         case DEINT_ID_INT0:
269         case DEINT_ID_VBRS:
270         case DEINT_ID_VBRF:
271             break;
272         default:
273             av_log(NULL, 0 ,"Unknown interleaver %"PRIX32"\n", ast->deint_id);
274             return AVERROR_INVALIDDATA;
275         }
276
277         if (read_all) {
278             avio_r8(pb);
279             avio_r8(pb);
280             avio_r8(pb);
281             rm_read_metadata(s, pb, 0);
282         }
283     }
284     return 0;
285 }
286
287 int ff_rm_read_mdpr_codecdata(AVFormatContext *s, AVIOContext *pb,
288                               AVStream *st, RMStream *rst,
289                               unsigned int codec_data_size)
290 {
291     unsigned int v;
292     int size;
293     int64_t codec_pos;
294     int ret;
295
296     avpriv_set_pts_info(st, 64, 1, 1000);
297     codec_pos = avio_tell(pb);
298     v = avio_rb32(pb);
299     if (v == MKTAG(0xfd, 'a', 'r', '.')) {
300         /* ra type header */
301         if (rm_read_audio_stream_info(s, pb, st, rst, 0))
302             return -1;
303     } else if (v == MKBETAG('L', 'S', 'D', ':')) {
304         avio_seek(pb, -4, SEEK_CUR);
305         if ((ret = rm_read_extradata(pb, st->codecpar, codec_data_size)) < 0)
306             return ret;
307
308         st->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
309         st->codecpar->codec_tag  = AV_RL32(st->codecpar->extradata);
310         st->codecpar->codec_id   = ff_codec_get_id(ff_rm_codec_tags,
311                                                    st->codecpar->codec_tag);
312     } else {
313         int fps;
314         if (avio_rl32(pb) != MKTAG('V', 'I', 'D', 'O')) {
315         fail1:
316             av_log(s, AV_LOG_WARNING, "Unsupported stream type %08x\n", v);
317             goto skip;
318         }
319         st->codecpar->codec_tag = avio_rl32(pb);
320         st->codecpar->codec_id  = ff_codec_get_id(ff_rm_codec_tags,
321                                                   st->codecpar->codec_tag);
322         av_log(s, AV_LOG_TRACE, "%"PRIX32" %X\n", st->codecpar->codec_tag, MKTAG('R', 'V', '2', '0'));
323         if (st->codecpar->codec_id == AV_CODEC_ID_NONE)
324             goto fail1;
325         st->codecpar->width  = avio_rb16(pb);
326         st->codecpar->height = avio_rb16(pb);
327         avio_skip(pb, 2); // looks like bits per sample
328         avio_skip(pb, 4); // always zero?
329         st->codecpar->codec_type = AVMEDIA_TYPE_VIDEO;
330         st->need_parsing = AVSTREAM_PARSE_TIMESTAMPS;
331         fps = avio_rb32(pb);
332
333         if ((ret = rm_read_extradata(pb, st->codecpar, codec_data_size - (avio_tell(pb) - codec_pos))) < 0)
334             return ret;
335
336         if (fps > 0) {
337             av_reduce(&st->avg_frame_rate.den, &st->avg_frame_rate.num,
338                       0x10000, fps, (1 << 30) - 1);
339         } else if (s->error_recognition & AV_EF_EXPLODE) {
340             av_log(s, AV_LOG_ERROR, "Invalid framerate\n");
341             return AVERROR_INVALIDDATA;
342         }
343     }
344
345 skip:
346     /* skip codec info */
347     size = avio_tell(pb) - codec_pos;
348     avio_skip(pb, codec_data_size - size);
349
350     return 0;
351 }
352
353 /** this function assumes that the demuxer has already seeked to the start
354  * of the INDX chunk, and will bail out if not. */
355 static int rm_read_index(AVFormatContext *s)
356 {
357     AVIOContext *pb = s->pb;
358     unsigned int size, n_pkts, str_id, next_off, n, pos, pts;
359     AVStream *st;
360
361     do {
362         if (avio_rl32(pb) != MKTAG('I','N','D','X'))
363             return -1;
364         size     = avio_rb32(pb);
365         if (size < 20)
366             return -1;
367         avio_skip(pb, 2);
368         n_pkts   = avio_rb32(pb);
369         str_id   = avio_rb16(pb);
370         next_off = avio_rb32(pb);
371         for (n = 0; n < s->nb_streams; n++)
372             if (s->streams[n]->id == str_id) {
373                 st = s->streams[n];
374                 break;
375             }
376         if (n == s->nb_streams) {
377             av_log(s, AV_LOG_ERROR,
378                    "Invalid stream index %d for index at pos %"PRId64"\n",
379                    str_id, avio_tell(pb));
380             goto skip;
381         } else if ((avio_size(pb) - avio_tell(pb)) / 14 < n_pkts) {
382             av_log(s, AV_LOG_ERROR,
383                    "Nr. of packets in packet index for stream index %d "
384                    "exceeds filesize (%"PRId64" at %"PRId64" = %"PRId64")\n",
385                    str_id, avio_size(pb), avio_tell(pb),
386                    (avio_size(pb) - avio_tell(pb)) / 14);
387             goto skip;
388         }
389
390         for (n = 0; n < n_pkts; n++) {
391             avio_skip(pb, 2);
392             pts = avio_rb32(pb);
393             pos = avio_rb32(pb);
394             avio_skip(pb, 4); /* packet no. */
395
396             av_add_index_entry(st, pos, pts, 0, 0, AVINDEX_KEYFRAME);
397         }
398
399 skip:
400         if (next_off && avio_tell(pb) < next_off &&
401             avio_seek(pb, next_off, SEEK_SET) < 0) {
402             av_log(s, AV_LOG_ERROR,
403                    "Non-linear index detected, not supported\n");
404             return -1;
405         }
406     } while (next_off);
407
408     return 0;
409 }
410
411 static int rm_read_header_old(AVFormatContext *s)
412 {
413     RMDemuxContext *rm = s->priv_data;
414     AVStream *st;
415
416     rm->old_format = 1;
417     st = avformat_new_stream(s, NULL);
418     if (!st)
419         return -1;
420     st->priv_data = ff_rm_alloc_rmstream();
421     if (!st->priv_data)
422         return AVERROR(ENOMEM);
423     return rm_read_audio_stream_info(s, s->pb, st, st->priv_data, 1);
424 }
425
426 static int rm_read_header(AVFormatContext *s)
427 {
428     RMDemuxContext *rm = s->priv_data;
429     AVStream *st;
430     AVIOContext *pb = s->pb;
431     unsigned int tag;
432     int tag_size;
433     unsigned int start_time, duration;
434     unsigned int data_off = 0, indx_off = 0;
435     char buf[128];
436     int flags = 0;
437
438     tag = avio_rl32(pb);
439     if (tag == MKTAG('.', 'r', 'a', 0xfd)) {
440         /* very old .ra format */
441         return rm_read_header_old(s);
442     } else if (tag != MKTAG('.', 'R', 'M', 'F')) {
443         return AVERROR(EIO);
444     }
445
446     tag_size = avio_rb32(pb);
447     avio_skip(pb, tag_size - 8);
448
449     for(;;) {
450         if (pb->eof_reached)
451             return -1;
452         tag = avio_rl32(pb);
453         tag_size = avio_rb32(pb);
454         avio_rb16(pb);
455         av_log(s, AV_LOG_TRACE, "tag=%c%c%c%c (%08x) size=%d\n",
456                 (tag      ) & 0xff,
457                 (tag >>  8) & 0xff,
458                 (tag >> 16) & 0xff,
459                 (tag >> 24) & 0xff,
460                 tag,
461                 tag_size);
462         if (tag_size < 10 && tag != MKTAG('D', 'A', 'T', 'A'))
463             return -1;
464         switch(tag) {
465         case MKTAG('P', 'R', 'O', 'P'):
466             /* file header */
467             avio_rb32(pb); /* max bit rate */
468             avio_rb32(pb); /* avg bit rate */
469             avio_rb32(pb); /* max packet size */
470             avio_rb32(pb); /* avg packet size */
471             avio_rb32(pb); /* nb packets */
472             avio_rb32(pb); /* duration */
473             avio_rb32(pb); /* preroll */
474             indx_off = avio_rb32(pb); /* index offset */
475             data_off = avio_rb32(pb); /* data offset */
476             avio_rb16(pb); /* nb streams */
477             flags = avio_rb16(pb); /* flags */
478             break;
479         case MKTAG('C', 'O', 'N', 'T'):
480             rm_read_metadata(s, pb, 1);
481             break;
482         case MKTAG('M', 'D', 'P', 'R'):
483             st = avformat_new_stream(s, NULL);
484             if (!st)
485                 return AVERROR(ENOMEM);
486             st->id = avio_rb16(pb);
487             avio_rb32(pb); /* max bit rate */
488             st->codecpar->bit_rate = avio_rb32(pb); /* bit rate */
489             avio_rb32(pb); /* max packet size */
490             avio_rb32(pb); /* avg packet size */
491             start_time = avio_rb32(pb); /* start time */
492             avio_rb32(pb); /* preroll */
493             duration = avio_rb32(pb); /* duration */
494             st->start_time = start_time;
495             st->duration = duration;
496             get_str8(pb, buf, sizeof(buf)); /* desc */
497             get_str8(pb, buf, sizeof(buf)); /* mimetype */
498             st->codecpar->codec_type = AVMEDIA_TYPE_DATA;
499             st->priv_data = ff_rm_alloc_rmstream();
500             if (!st->priv_data)
501                 return AVERROR(ENOMEM);
502             if (ff_rm_read_mdpr_codecdata(s, s->pb, st, st->priv_data,
503                                           avio_rb32(pb)) < 0)
504                 return -1;
505             break;
506         case MKTAG('D', 'A', 'T', 'A'):
507             goto header_end;
508         default:
509             /* unknown tag: skip it */
510             avio_skip(pb, tag_size - 10);
511             break;
512         }
513     }
514  header_end:
515     rm->nb_packets = avio_rb32(pb); /* number of packets */
516     if (!rm->nb_packets && (flags & 4))
517         rm->nb_packets = 3600 * 25;
518     avio_rb32(pb); /* next data header */
519
520     if (!data_off)
521         data_off = avio_tell(pb) - 18;
522     if (indx_off && (pb->seekable & AVIO_SEEKABLE_NORMAL) &&
523         !(s->flags & AVFMT_FLAG_IGNIDX) &&
524         avio_seek(pb, indx_off, SEEK_SET) >= 0) {
525         rm_read_index(s);
526         avio_seek(pb, data_off + 18, SEEK_SET);
527     }
528
529     return 0;
530 }
531
532 static int get_num(AVIOContext *pb, int *len)
533 {
534     int n, n1;
535
536     n = avio_rb16(pb);
537     (*len)-=2;
538     n &= 0x7FFF;
539     if (n >= 0x4000) {
540         return n - 0x4000;
541     } else {
542         n1 = avio_rb16(pb);
543         (*len)-=2;
544         return (n << 16) | n1;
545     }
546 }
547
548 /* multiple of 20 bytes for ra144 (ugly) */
549 #define RAW_PACKET_SIZE 1000
550
551 static int sync(AVFormatContext *s, int64_t *timestamp, int *flags, int *stream_index, int64_t *pos){
552     RMDemuxContext *rm = s->priv_data;
553     AVIOContext *pb = s->pb;
554     AVStream *st;
555     uint32_t state=0xFFFFFFFF;
556
557     while(!pb->eof_reached){
558         int len, num, i;
559         *pos= avio_tell(pb) - 3;
560         if(rm->remaining_len > 0){
561             num= rm->current_stream;
562             len= rm->remaining_len;
563             *timestamp = AV_NOPTS_VALUE;
564             *flags= 0;
565         }else{
566             state= (state<<8) + avio_r8(pb);
567
568             if(state == MKBETAG('I', 'N', 'D', 'X')){
569                 int n_pkts, expected_len;
570                 len = avio_rb32(pb);
571                 avio_skip(pb, 2);
572                 n_pkts = avio_rb32(pb);
573                 expected_len = 20 + n_pkts * 14;
574                 if (len == 20)
575                     /* some files don't add index entries to chunk size... */
576                     len = expected_len;
577                 else if (len != expected_len)
578                     av_log(s, AV_LOG_WARNING,
579                            "Index size %d (%d pkts) is wrong, should be %d.\n",
580                            len, n_pkts, expected_len);
581                 len -= 14; // we already read part of the index header
582                 if(len<0)
583                     continue;
584                 goto skip;
585             } else if (state == MKBETAG('D','A','T','A')) {
586                 av_log(s, AV_LOG_WARNING,
587                        "DATA tag in middle of chunk, file may be broken.\n");
588             }
589
590             if(state > (unsigned)0xFFFF || state <= 12)
591                 continue;
592             len=state - 12;
593             state= 0xFFFFFFFF;
594
595             num = avio_rb16(pb);
596             *timestamp = avio_rb32(pb);
597             avio_r8(pb); /* reserved */
598             *flags = avio_r8(pb); /* flags */
599         }
600         for(i=0;i<s->nb_streams;i++) {
601             st = s->streams[i];
602             if (num == st->id)
603                 break;
604         }
605         if (i == s->nb_streams) {
606 skip:
607             /* skip packet if unknown number */
608             avio_skip(pb, len);
609             rm->remaining_len = 0;
610             continue;
611         }
612         *stream_index= i;
613
614         return len;
615     }
616     return -1;
617 }
618
619 static int rm_assemble_video_frame(AVFormatContext *s, AVIOContext *pb,
620                                    RMDemuxContext *rm, RMStream *vst,
621                                    AVPacket *pkt, int len, int *pseq,
622                                    int64_t *timestamp)
623 {
624     int hdr, seq, pic_num, len2, pos;
625     int type;
626
627     hdr = avio_r8(pb); len--;
628     type = hdr >> 6;
629
630     if(type != 3){  // not frame as a part of packet
631         seq = avio_r8(pb); len--;
632     }
633     if(type != 1){  // not whole frame
634         len2 = get_num(pb, &len);
635         pos  = get_num(pb, &len);
636         pic_num = avio_r8(pb); len--;
637     }
638     if(len<0)
639         return -1;
640     rm->remaining_len = len;
641     if(type&1){     // frame, not slice
642         if(type == 3){  // frame as a part of packet
643             len= len2;
644             *timestamp = pos;
645         }
646         if(rm->remaining_len < len)
647             return -1;
648         rm->remaining_len -= len;
649         if(av_new_packet(pkt, len + 9) < 0)
650             return AVERROR(EIO);
651         pkt->data[0] = 0;
652         AV_WL32(pkt->data + 1, 1);
653         AV_WL32(pkt->data + 5, 0);
654         avio_read(pb, pkt->data + 9, len);
655         return 0;
656     }
657     //now we have to deal with single slice
658
659     *pseq = seq;
660     if((seq & 0x7F) == 1 || vst->curpic_num != pic_num){
661         vst->slices = ((hdr & 0x3F) << 1) + 1;
662         vst->videobufsize = len2 + 8*vst->slices + 1;
663         av_packet_unref(&vst->pkt); //FIXME this should be output.
664         if(av_new_packet(&vst->pkt, vst->videobufsize) < 0)
665             return AVERROR(ENOMEM);
666         vst->videobufpos = 8*vst->slices + 1;
667         vst->cur_slice = 0;
668         vst->curpic_num = pic_num;
669         vst->pktpos = avio_tell(pb);
670     }
671     if(type == 2)
672         len = FFMIN(len, pos);
673
674     if(++vst->cur_slice > vst->slices)
675         return 1;
676     AV_WL32(vst->pkt.data - 7 + 8*vst->cur_slice, 1);
677     AV_WL32(vst->pkt.data - 3 + 8*vst->cur_slice, vst->videobufpos - 8*vst->slices - 1);
678     if(vst->videobufpos + len > vst->videobufsize)
679         return 1;
680     if (avio_read(pb, vst->pkt.data + vst->videobufpos, len) != len)
681         return AVERROR(EIO);
682     vst->videobufpos += len;
683     rm->remaining_len-= len;
684
685     if (type == 2 || vst->videobufpos == vst->videobufsize) {
686         vst->pkt.data[0] = vst->cur_slice-1;
687         *pkt= vst->pkt;
688         vst->pkt.data= NULL;
689         vst->pkt.size= 0;
690         vst->pkt.buf = NULL;
691         if(vst->slices != vst->cur_slice) //FIXME find out how to set slices correct from the begin
692             memmove(pkt->data + 1 + 8*vst->cur_slice, pkt->data + 1 + 8*vst->slices,
693                 vst->videobufpos - 1 - 8*vst->slices);
694         pkt->size = vst->videobufpos + 8*(vst->cur_slice - vst->slices);
695         pkt->pts = AV_NOPTS_VALUE;
696         pkt->pos = vst->pktpos;
697         vst->slices = 0;
698         return 0;
699     }
700
701     return 1;
702 }
703
704 static inline void
705 rm_ac3_swap_bytes (AVStream *st, AVPacket *pkt)
706 {
707     uint8_t *ptr;
708     int j;
709
710     if (st->codecpar->codec_id == AV_CODEC_ID_AC3) {
711         ptr = pkt->data;
712         for (j=0;j<pkt->size;j+=2) {
713             FFSWAP(int, ptr[0], ptr[1]);
714             ptr += 2;
715         }
716     }
717 }
718
719 int
720 ff_rm_parse_packet (AVFormatContext *s, AVIOContext *pb,
721                     AVStream *st, RMStream *ast, int len, AVPacket *pkt,
722                     int *seq, int flags, int64_t timestamp)
723 {
724     RMDemuxContext *rm = s->priv_data;
725
726     if (st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO) {
727         rm->current_stream= st->id;
728         if(rm_assemble_video_frame(s, pb, rm, ast, pkt, len, seq, &timestamp))
729             return -1; //got partial frame
730     } else if (st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO) {
731         if ((ast->deint_id == DEINT_ID_GENR) ||
732             (ast->deint_id == DEINT_ID_INT4) ||
733             (ast->deint_id == DEINT_ID_SIPR)) {
734             int x;
735             int sps = ast->sub_packet_size;
736             int cfs = ast->coded_framesize;
737             int h = ast->sub_packet_h;
738             int y = ast->sub_packet_cnt;
739             int w = ast->audio_framesize;
740
741             if (flags & 2)
742                 y = ast->sub_packet_cnt = 0;
743             if (!y)
744                 ast->audiotimestamp = timestamp;
745
746             switch (ast->deint_id) {
747                 case DEINT_ID_INT4:
748                     for (x = 0; x < h/2; x++)
749                         avio_read(pb, ast->pkt.data+x*2*w+y*cfs, cfs);
750                     break;
751                 case DEINT_ID_GENR:
752                     for (x = 0; x < w/sps; x++)
753                         avio_read(pb, ast->pkt.data+sps*(h*x+((h+1)/2)*(y&1)+(y>>1)), sps);
754                     break;
755                 case DEINT_ID_SIPR:
756                     avio_read(pb, ast->pkt.data + y * w, w);
757                     break;
758             }
759
760             if (++(ast->sub_packet_cnt) < h)
761                 return -1;
762             if (ast->deint_id == DEINT_ID_SIPR)
763                 ff_rm_reorder_sipr_data(ast->pkt.data, h, w);
764
765              ast->sub_packet_cnt = 0;
766              rm->audio_stream_num = st->index;
767              rm->audio_pkt_cnt = h * w / st->codecpar->block_align;
768         } else if ((ast->deint_id == DEINT_ID_VBRF) ||
769                    (ast->deint_id == DEINT_ID_VBRS)) {
770             int x;
771             rm->audio_stream_num = st->index;
772             ast->sub_packet_cnt = (avio_rb16(pb) & 0xf0) >> 4;
773             if (ast->sub_packet_cnt) {
774                 for (x = 0; x < ast->sub_packet_cnt; x++)
775                     ast->sub_packet_lengths[x] = avio_rb16(pb);
776                 rm->audio_pkt_cnt = ast->sub_packet_cnt;
777                 ast->audiotimestamp = timestamp;
778             } else
779                 return -1;
780         } else {
781             av_get_packet(pb, pkt, len);
782             rm_ac3_swap_bytes(st, pkt);
783         }
784     } else
785         av_get_packet(pb, pkt, len);
786
787     pkt->stream_index = st->index;
788
789     pkt->pts = timestamp;
790     if (flags & 2)
791         pkt->flags |= AV_PKT_FLAG_KEY;
792
793     return st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO ? rm->audio_pkt_cnt : 0;
794 }
795
796 int
797 ff_rm_retrieve_cache (AVFormatContext *s, AVIOContext *pb,
798                       AVStream *st, RMStream *ast, AVPacket *pkt)
799 {
800     RMDemuxContext *rm = s->priv_data;
801
802     assert (rm->audio_pkt_cnt > 0);
803
804     if (ast->deint_id == DEINT_ID_VBRF ||
805         ast->deint_id == DEINT_ID_VBRS)
806         av_get_packet(pb, pkt, ast->sub_packet_lengths[ast->sub_packet_cnt - rm->audio_pkt_cnt]);
807     else {
808         int ret = av_new_packet(pkt, st->codecpar->block_align);
809         if (ret < 0)
810             return ret;
811         memcpy(pkt->data, ast->pkt.data + st->codecpar->block_align * //FIXME avoid this
812                (ast->sub_packet_h * ast->audio_framesize / st->codecpar->block_align - rm->audio_pkt_cnt),
813                st->codecpar->block_align);
814     }
815     rm->audio_pkt_cnt--;
816     if ((pkt->pts = ast->audiotimestamp) != AV_NOPTS_VALUE) {
817         ast->audiotimestamp = AV_NOPTS_VALUE;
818         pkt->flags = AV_PKT_FLAG_KEY;
819     } else
820         pkt->flags = 0;
821     pkt->stream_index = st->index;
822
823     return rm->audio_pkt_cnt;
824 }
825
826 static int rm_read_packet(AVFormatContext *s, AVPacket *pkt)
827 {
828     RMDemuxContext *rm = s->priv_data;
829     AVStream *st;
830     int i, len, res, seq = 1;
831     int64_t timestamp, pos;
832     int flags;
833
834     for (;;) {
835         if (rm->audio_pkt_cnt) {
836             // If there are queued audio packet return them first
837             st = s->streams[rm->audio_stream_num];
838             ff_rm_retrieve_cache(s, s->pb, st, st->priv_data, pkt);
839             flags = 0;
840         } else {
841             if (rm->old_format) {
842                 RMStream *ast;
843
844                 st = s->streams[0];
845                 ast = st->priv_data;
846                 timestamp = AV_NOPTS_VALUE;
847                 len = !ast->audio_framesize ? RAW_PACKET_SIZE :
848                     ast->coded_framesize * ast->sub_packet_h / 2;
849                 flags = (seq++ == 1) ? 2 : 0;
850                 pos = avio_tell(s->pb);
851             } else {
852                 len=sync(s, &timestamp, &flags, &i, &pos);
853                 if (len > 0)
854                     st = s->streams[i];
855             }
856
857             if (len <= 0 || s->pb->eof_reached)
858                 return AVERROR(EIO);
859
860             res = ff_rm_parse_packet (s, s->pb, st, st->priv_data, len, pkt,
861                                       &seq, flags, timestamp);
862             if((flags&2) && (seq&0x7F) == 1)
863                 av_add_index_entry(st, pos, timestamp, 0, 0, AVINDEX_KEYFRAME);
864             if (res)
865                 continue;
866         }
867
868         if(  (st->discard >= AVDISCARD_NONKEY && !(flags&2))
869            || st->discard >= AVDISCARD_ALL){
870             av_packet_unref(pkt);
871         } else
872             break;
873     }
874
875     return 0;
876 }
877
878 static int rm_read_close(AVFormatContext *s)
879 {
880     int i;
881
882     for (i=0;i<s->nb_streams;i++)
883         ff_rm_free_rmstream(s->streams[i]->priv_data);
884
885     return 0;
886 }
887
888 static int rm_probe(AVProbeData *p)
889 {
890     /* check file header */
891     if ((p->buf[0] == '.' && p->buf[1] == 'R' &&
892          p->buf[2] == 'M' && p->buf[3] == 'F' &&
893          p->buf[4] == 0 && p->buf[5] == 0) ||
894         (p->buf[0] == '.' && p->buf[1] == 'r' &&
895          p->buf[2] == 'a' && p->buf[3] == 0xfd))
896         return AVPROBE_SCORE_MAX;
897     else
898         return 0;
899 }
900
901 static int64_t rm_read_dts(AVFormatContext *s, int stream_index,
902                                int64_t *ppos, int64_t pos_limit)
903 {
904     RMDemuxContext *rm = s->priv_data;
905     int64_t pos, dts;
906     int stream_index2, flags, len, h;
907
908     pos = *ppos;
909
910     if(rm->old_format)
911         return AV_NOPTS_VALUE;
912
913     avio_seek(s->pb, pos, SEEK_SET);
914     rm->remaining_len=0;
915     for(;;){
916         int seq=1;
917         AVStream *st;
918
919         len=sync(s, &dts, &flags, &stream_index2, &pos);
920         if(len<0)
921             return AV_NOPTS_VALUE;
922
923         st = s->streams[stream_index2];
924         if (st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO) {
925             h= avio_r8(s->pb); len--;
926             if(!(h & 0x40)){
927                 seq = avio_r8(s->pb); len--;
928             }
929         }
930
931         if((flags&2) && (seq&0x7F) == 1){
932             av_log(s, AV_LOG_TRACE, "%d %d-%d %"PRId64" %d\n",
933                     flags, stream_index2, stream_index, dts, seq);
934             av_add_index_entry(st, pos, dts, 0, 0, AVINDEX_KEYFRAME);
935             if(stream_index2 == stream_index)
936                 break;
937         }
938
939         avio_skip(s->pb, len);
940     }
941     *ppos = pos;
942     return dts;
943 }
944
945 AVInputFormat ff_rm_demuxer = {
946     .name           = "rm",
947     .long_name      = NULL_IF_CONFIG_SMALL("RealMedia"),
948     .priv_data_size = sizeof(RMDemuxContext),
949     .read_probe     = rm_probe,
950     .read_header    = rm_read_header,
951     .read_packet    = rm_read_packet,
952     .read_close     = rm_read_close,
953     .read_timestamp = rm_read_dts,
954 };
955
956 AVInputFormat ff_rdt_demuxer = {
957     .name           = "rdt",
958     .long_name      = NULL_IF_CONFIG_SMALL("RDT demuxer"),
959     .priv_data_size = sizeof(RMDemuxContext),
960     .read_close     = rm_read_close,
961     .flags          = AVFMT_NOFILE,
962 };