git.sesse.net Git - ffmpeg/blob - libavformat/swfdec.c

   1 /*
   2  * Flash Compatible Streaming Format demuxer
   3  * Copyright (c) 2000 Fabrice Bellard
   4  * Copyright (c) 2003 Tinic Uro
   5  *
   6  * This file is part of FFmpeg.
   7  *
   8  * FFmpeg is free software; you can redistribute it and/or
   9  * modify it under the terms of the GNU Lesser General Public
  10  * License as published by the Free Software Foundation; either
  11  * version 2.1 of the License, or (at your option) any later version.
  12  *
  13  * FFmpeg is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  16  * Lesser General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU Lesser General Public
  19  * License along with FFmpeg; if not, write to the Free Software
  20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  21  */
  22
  23 #include "libavutil/avassert.h"
  24 #include "libavutil/channel_layout.h"
  25 #include "libavutil/imgutils.h"
  26 #include "libavutil/intreadwrite.h"
  27 #include "swf.h"
  28
  29 static const AVCodecTag swf_audio_codec_tags[] = {
  30     { AV_CODEC_ID_PCM_S16LE,  0x00 },
  31     { AV_CODEC_ID_ADPCM_SWF,  0x01 },
  32     { AV_CODEC_ID_MP3,        0x02 },
  33     { AV_CODEC_ID_PCM_S16LE,  0x03 },
  34 //  { AV_CODEC_ID_NELLYMOSER, 0x06 },
  35     { AV_CODEC_ID_NONE,          0 },
  36 };
  37
  38 static int get_swf_tag(AVIOContext *pb, int *len_ptr)
  39 {
  40     int tag, len;
  41
  42     if (avio_feof(pb))
  43         return AVERROR_EOF;
  44
  45     tag = avio_rl16(pb);
  46     len = tag & 0x3f;
  47     tag = tag >> 6;
  48     if (len == 0x3f) {
  49         len = avio_rl32(pb);
  50     }
  51     *len_ptr = len;
  52     return tag;
  53 }
  54
  55
  56 static int swf_probe(AVProbeData *p)
  57 {
  58     if(p->buf_size < 15)
  59         return 0;
  60
  61     /* check file header */
  62     if (   AV_RB24(p->buf) != AV_RB24("CWS")
  63         && AV_RB24(p->buf) != AV_RB24("FWS"))
  64         return 0;
  65
  66     if (p->buf[3] >= 20)
  67         return AVPROBE_SCORE_MAX / 4;
  68
  69     return AVPROBE_SCORE_MAX;
  70 }
  71
  72 #if CONFIG_ZLIB
  73 static int zlib_refill(void *opaque, uint8_t *buf, int buf_size)
  74 {
  75     AVFormatContext *s = opaque;
  76     SWFContext *swf = s->priv_data;
  77     z_stream *z = &swf->zstream;
  78     int ret;
  79
  80 retry:
  81     if (!z->avail_in) {
  82         int n = avio_read(s->pb, swf->zbuf_in, ZBUF_SIZE);
  83         if (n < 0)
  84             return n;
  85         z->next_in  = swf->zbuf_in;
  86         z->avail_in = n;
  87     }
  88
  89     z->next_out  = buf;
  90     z->avail_out = buf_size;
  91
  92     ret = inflate(z, Z_NO_FLUSH);
  93     if (ret < 0)
  94         return AVERROR(EINVAL);
  95     if (ret == Z_STREAM_END)
  96         return AVERROR_EOF;
  97
  98     if (buf_size - z->avail_out == 0)
  99         goto retry;
 100
 101     return buf_size - z->avail_out;
 102 }
 103 #endif
 104
 105 static int swf_read_header(AVFormatContext *s)
 106 {
 107     SWFContext *swf = s->priv_data;
 108     AVIOContext *pb = s->pb;
 109     int nbits, len, tag;
 110
 111     tag = avio_rb32(pb) & 0xffffff00;
 112     avio_rl32(pb);
 113
 114     if (tag == MKBETAG('C', 'W', 'S', 0)) {
 115         av_log(s, AV_LOG_INFO, "SWF compressed file detected\n");
 116 #if CONFIG_ZLIB
 117         swf->zbuf_in  = av_malloc(ZBUF_SIZE);
 118         swf->zbuf_out = av_malloc(ZBUF_SIZE);
 119         swf->zpb = avio_alloc_context(swf->zbuf_out, ZBUF_SIZE, 0, s,
 120                                       zlib_refill, NULL, NULL);
 121         if (!swf->zbuf_in || !swf->zbuf_out || !swf->zpb)
 122             return AVERROR(ENOMEM);
 123         swf->zpb->seekable = 0;
 124         if (inflateInit(&swf->zstream) != Z_OK) {
 125             av_log(s, AV_LOG_ERROR, "Unable to init zlib context\n");
 126             return AVERROR(EINVAL);
 127         }
 128         pb = swf->zpb;
 129 #else
 130         av_log(s, AV_LOG_ERROR, "zlib support is required to read SWF compressed files\n");
 131         return AVERROR(EIO);
 132 #endif
 133     } else if (tag != MKBETAG('F', 'W', 'S', 0))
 134         return AVERROR(EIO);
 135     /* skip rectangle size */
 136     nbits = avio_r8(pb) >> 3;
 137     len = (4 * nbits - 3 + 7) / 8;
 138     avio_skip(pb, len);
 139     swf->frame_rate = avio_rl16(pb); /* 8.8 fixed */
 140     avio_rl16(pb); /* frame count */
 141
 142     swf->samples_per_frame = 0;
 143     s->ctx_flags |= AVFMTCTX_NOHEADER;
 144     return 0;
 145 }
 146
 147 static AVStream *create_new_audio_stream(AVFormatContext *s, int id, int info)
 148 {
 149     int sample_rate_code, sample_size_code;
 150     AVStream *ast = avformat_new_stream(s, NULL);
 151     if (!ast)
 152         return NULL;
 153     ast->id = id;
 154     if (info & 1) {
 155         ast->codec->channels       = 2;
 156         ast->codec->channel_layout = AV_CH_LAYOUT_STEREO;
 157     } else {
 158         ast->codec->channels       = 1;
 159         ast->codec->channel_layout = AV_CH_LAYOUT_MONO;
 160     }
 161     ast->codec->codec_type = AVMEDIA_TYPE_AUDIO;
 162     ast->codec->codec_id   = ff_codec_get_id(swf_audio_codec_tags, info>>4 & 15);
 163     ast->need_parsing = AVSTREAM_PARSE_FULL;
 164     sample_rate_code = info>>2 & 3;
 165     sample_size_code = info>>1 & 1;
 166     if (!sample_size_code && ast->codec->codec_id == AV_CODEC_ID_PCM_S16LE)
 167         ast->codec->codec_id = AV_CODEC_ID_PCM_U8;
 168     ast->codec->sample_rate = 44100 >> (3 - sample_rate_code);
 169     avpriv_set_pts_info(ast, 64, 1, ast->codec->sample_rate);
 170     return ast;
 171 }
 172
 173 static int swf_read_packet(AVFormatContext *s, AVPacket *pkt)
 174 {
 175     SWFContext *swf = s->priv_data;
 176     AVIOContext *pb = s->pb;
 177     AVStream *vst = NULL, *ast = NULL, *st = 0;
 178     int tag, len, i, frame, v, res;
 179
 180 #if CONFIG_ZLIB
 181     if (swf->zpb)
 182         pb = swf->zpb;
 183 #endif
 184
 185     for(;;) {
 186         uint64_t pos = avio_tell(pb);
 187         tag = get_swf_tag(pb, &len);
 188         if (tag < 0)
 189             return tag;
 190         if (len < 0) {
 191             av_log(s, AV_LOG_ERROR, "invalid tag length: %d\n", len);
 192             return AVERROR_INVALIDDATA;
 193         }
 194         if (tag == TAG_VIDEOSTREAM) {
 195             int ch_id = avio_rl16(pb);
 196             len -= 2;
 197
 198             for (i=0; i<s->nb_streams; i++) {
 199                 st = s->streams[i];
 200                 if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO && st->id == ch_id)
 201                     goto skip;
 202             }
 203
 204             avio_rl16(pb);
 205             avio_rl16(pb);
 206             avio_rl16(pb);
 207             avio_r8(pb);
 208             /* Check for FLV1 */
 209             vst = avformat_new_stream(s, NULL);
 210             if (!vst)
 211                 return AVERROR(ENOMEM);
 212             vst->id = ch_id;
 213             vst->codec->codec_type = AVMEDIA_TYPE_VIDEO;
 214             vst->codec->codec_id = ff_codec_get_id(ff_swf_codec_tags, avio_r8(pb));
 215             avpriv_set_pts_info(vst, 16, 256, swf->frame_rate);
 216             len -= 8;
 217         } else if (tag == TAG_STREAMHEAD || tag == TAG_STREAMHEAD2) {
 218             /* streaming found */
 219
 220             for (i=0; i<s->nb_streams; i++) {
 221                 st = s->streams[i];
 222                 if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO && st->id == -1)
 223                     goto skip;
 224             }
 225
 226             avio_r8(pb);
 227             v = avio_r8(pb);
 228             swf->samples_per_frame = avio_rl16(pb);
 229             ast = create_new_audio_stream(s, -1, v); /* -1 to avoid clash with video stream ch_id */
 230             if (!ast)
 231                 return AVERROR(ENOMEM);
 232             len -= 4;
 233         } else if (tag == TAG_DEFINESOUND) {
 234             /* audio stream */
 235             int ch_id = avio_rl16(pb);
 236
 237             for (i=0; i<s->nb_streams; i++) {
 238                 st = s->streams[i];
 239                 if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO && st->id == ch_id)
 240                     goto skip;
 241             }
 242
 243             // FIXME: The entire audio stream is stored in a single chunk/tag. Normally,
 244             // these are smaller audio streams in DEFINESOUND tags, but it's technically
 245             // possible they could be huge. Break it up into multiple packets if it's big.
 246             v = avio_r8(pb);
 247             ast = create_new_audio_stream(s, ch_id, v);
 248             if (!ast)
 249                 return AVERROR(ENOMEM);
 250             ast->duration = avio_rl32(pb); // number of samples
 251             if (((v>>4) & 15) == 2) { // MP3 sound data record
 252                 ast->skip_samples = avio_rl16(pb);
 253                 len -= 2;
 254             }
 255             len -= 7;
 256             if ((res = av_get_packet(pb, pkt, len)) < 0)
 257                 return res;
 258             pkt->pos = pos;
 259             pkt->stream_index = ast->index;
 260             return pkt->size;
 261         } else if (tag == TAG_VIDEOFRAME) {
 262             int ch_id = avio_rl16(pb);
 263             len -= 2;
 264             for(i=0; i<s->nb_streams; i++) {
 265                 st = s->streams[i];
 266                 if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO && st->id == ch_id) {
 267                     frame = avio_rl16(pb);
 268                     len -= 2;
 269                     if (len <= 0)
 270                         goto skip;
 271                     if ((res = av_get_packet(pb, pkt, len)) < 0)
 272                         return res;
 273                     pkt->pos = pos;
 274                     pkt->pts = frame;
 275                     pkt->stream_index = st->index;
 276                     return pkt->size;
 277                 }
 278             }
 279         } else if (tag == TAG_DEFINEBITSLOSSLESS || tag == TAG_DEFINEBITSLOSSLESS2) {
 280 #if CONFIG_ZLIB
 281             long out_len;
 282             uint8_t *buf = NULL, *zbuf = NULL, *pal;
 283             uint32_t colormap[AVPALETTE_COUNT] = {0};
 284             const int alpha_bmp = tag == TAG_DEFINEBITSLOSSLESS2;
 285             const int colormapbpp = 3 + alpha_bmp;
 286             int linesize, colormapsize = 0;
 287
 288             const int ch_id   = avio_rl16(pb);
 289             const int bmp_fmt = avio_r8(pb);
 290             const int width   = avio_rl16(pb);
 291             const int height  = avio_rl16(pb);
 292
 293             len -= 2+1+2+2;
 294
 295             switch (bmp_fmt) {
 296             case 3: // PAL-8
 297                 linesize = width;
 298                 colormapsize = avio_r8(pb) + 1;
 299                 len--;
 300                 break;
 301             case 4: // RGB15
 302                 linesize = width * 2;
 303                 break;
 304             case 5: // RGB24 (0RGB)
 305                 linesize = width * 4;
 306                 break;
 307             default:
 308                 av_log(s, AV_LOG_ERROR, "invalid bitmap format %d, skipped\n", bmp_fmt);
 309                 goto bitmap_end_skip;
 310             }
 311
 312             linesize = FFALIGN(linesize, 4);
 313
 314             if (av_image_check_size(width, height, 0, s) < 0 ||
 315                 linesize >= INT_MAX / height ||
 316                 linesize * height >= INT_MAX - colormapsize * colormapbpp) {
 317                 av_log(s, AV_LOG_ERROR, "invalid frame size %dx%d\n", width, height);
 318                 goto bitmap_end_skip;
 319             }
 320
 321             out_len = colormapsize * colormapbpp + linesize * height;
 322
 323             av_dlog(s, "bitmap: ch=%d fmt=%d %dx%d (linesize=%d) len=%d->%ld pal=%d\n",
 324                     ch_id, bmp_fmt, width, height, linesize, len, out_len, colormapsize);
 325
 326             zbuf = av_malloc(len);
 327             buf  = av_malloc(out_len);
 328             if (!zbuf || !buf) {
 329                 res = AVERROR(ENOMEM);
 330                 goto bitmap_end;
 331             }
 332
 333             len = avio_read(pb, zbuf, len);
 334             if (len < 0 || (res = uncompress(buf, &out_len, zbuf, len)) != Z_OK) {
 335                 av_log(s, AV_LOG_WARNING, "Failed to uncompress one bitmap\n");
 336                 goto bitmap_end_skip;
 337             }
 338
 339             for (i = 0; i < s->nb_streams; i++) {
 340                 st = s->streams[i];
 341                 if (st->codec->codec_id == AV_CODEC_ID_RAWVIDEO && st->id == -3)
 342                     break;
 343             }
 344             if (i == s->nb_streams) {
 345                 vst = avformat_new_stream(s, NULL);
 346                 if (!vst) {
 347                     res = AVERROR(ENOMEM);
 348                     goto bitmap_end;
 349                 }
 350                 vst->id = -3; /* -3 to avoid clash with video stream and audio stream */
 351                 vst->codec->codec_type = AVMEDIA_TYPE_VIDEO;
 352                 vst->codec->codec_id = AV_CODEC_ID_RAWVIDEO;
 353                 avpriv_set_pts_info(vst, 64, 256, swf->frame_rate);
 354                 st = vst;
 355             }
 356             st->codec->width  = width;
 357             st->codec->height = height;
 358
 359             if ((res = av_new_packet(pkt, out_len - colormapsize * colormapbpp)) < 0)
 360                 goto bitmap_end;
 361             pkt->pos = pos;
 362             pkt->stream_index = st->index;
 363
 364             switch (bmp_fmt) {
 365             case 3:
 366                 st->codec->pix_fmt = AV_PIX_FMT_PAL8;
 367                 for (i = 0; i < colormapsize; i++)
 368                     if (alpha_bmp)  colormap[i] = buf[3]<<24 | AV_RB24(buf + 4*i);
 369                     else            colormap[i] = 0xffU <<24 | AV_RB24(buf + 3*i);
 370                 pal = av_packet_new_side_data(pkt, AV_PKT_DATA_PALETTE, AVPALETTE_SIZE);
 371                 if (!pal) {
 372                     res = AVERROR(ENOMEM);
 373                     goto bitmap_end;
 374                 }
 375                 memcpy(pal, colormap, AVPALETTE_SIZE);
 376                 break;
 377             case 4:
 378                 st->codec->pix_fmt = AV_PIX_FMT_RGB555;
 379                 break;
 380             case 5:
 381                 st->codec->pix_fmt = alpha_bmp ? AV_PIX_FMT_ARGB : AV_PIX_FMT_0RGB;
 382                 break;
 383             default:
 384                 av_assert0(0);
 385             }
 386
 387             if (linesize * height > pkt->size) {
 388                 res = AVERROR_INVALIDDATA;
 389                 goto bitmap_end;
 390             }
 391             memcpy(pkt->data, buf + colormapsize*colormapbpp, linesize * height);
 392
 393             res = pkt->size;
 394
 395 bitmap_end:
 396             av_freep(&zbuf);
 397             av_freep(&buf);
 398             return res;
 399 bitmap_end_skip:
 400             av_freep(&zbuf);
 401             av_freep(&buf);
 402 #else
 403             av_log(s, AV_LOG_ERROR, "this file requires zlib support compiled in\n");
 404 #endif
 405         } else if (tag == TAG_STREAMBLOCK) {
 406             for (i = 0; i < s->nb_streams; i++) {
 407                 st = s->streams[i];
 408                 if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO && st->id == -1) {
 409                     if (st->codec->codec_id == AV_CODEC_ID_MP3) {
 410                         avio_skip(pb, 4);
 411                         len -= 4;
 412                         if (len <= 0)
 413                             goto skip;
 414                         if ((res = av_get_packet(pb, pkt, len)) < 0)
 415                             return res;
 416                     } else { // ADPCM, PCM
 417                         if (len <= 0)
 418                             goto skip;
 419                         if ((res = av_get_packet(pb, pkt, len)) < 0)
 420                             return res;
 421                     }
 422                     pkt->pos          = pos;
 423                     pkt->stream_index = st->index;
 424                     return pkt->size;
 425                 }
 426             }
 427         } else if (tag == TAG_JPEG2) {
 428             for (i=0; i<s->nb_streams; i++) {
 429                 st = s->streams[i];
 430                 if (st->codec->codec_id == AV_CODEC_ID_MJPEG && st->id == -2)
 431                     break;
 432             }
 433             if (i == s->nb_streams) {
 434                 vst = avformat_new_stream(s, NULL);
 435                 if (!vst)
 436                     return AVERROR(ENOMEM);
 437                 vst->id = -2; /* -2 to avoid clash with video stream and audio stream */
 438                 vst->codec->codec_type = AVMEDIA_TYPE_VIDEO;
 439                 vst->codec->codec_id = AV_CODEC_ID_MJPEG;
 440                 avpriv_set_pts_info(vst, 64, 256, swf->frame_rate);
 441                 st = vst;
 442             }
 443             avio_rl16(pb); /* BITMAP_ID */
 444             len -= 2;
 445             if (len < 4)
 446                 goto skip;
 447             if ((res = av_new_packet(pkt, len)) < 0)
 448                 return res;
 449             if (avio_read(pb, pkt->data, 4) != 4) {
 450                 av_free_packet(pkt);
 451                 return AVERROR_INVALIDDATA;
 452             }
 453             if (AV_RB32(pkt->data) == 0xffd8ffd9 ||
 454                 AV_RB32(pkt->data) == 0xffd9ffd8) {
 455                 /* old SWF files containing SOI/EOI as data start */
 456                 /* files created by swink have reversed tag */
 457                 pkt->size -= 4;
 458                 memset(pkt->data+pkt->size, 0, 4);
 459                 res = avio_read(pb, pkt->data, pkt->size);
 460             } else {
 461                 res = avio_read(pb, pkt->data + 4, pkt->size - 4);
 462                 if (res >= 0)
 463                     res += 4;
 464             }
 465             if (res != pkt->size) {
 466                 if (res < 0) {
 467                     av_free_packet(pkt);
 468                     return res;
 469                 }
 470                 av_shrink_packet(pkt, res);
 471             }
 472
 473             pkt->pos = pos;
 474             pkt->stream_index = st->index;
 475             return pkt->size;
 476         } else {
 477             av_log(s, AV_LOG_DEBUG, "Unknown tag: %d\n", tag);
 478         }
 479     skip:
 480         if(len<0)
 481             av_log(s, AV_LOG_WARNING, "Cliping len %d\n", len);
 482         len = FFMAX(0, len);
 483         avio_skip(pb, len);
 484     }
 485 }
 486
 487 #if CONFIG_ZLIB
 488 static av_cold int swf_read_close(AVFormatContext *avctx)
 489 {
 490     SWFContext *s = avctx->priv_data;
 491     inflateEnd(&s->zstream);
 492     av_freep(&s->zbuf_in);
 493     av_freep(&s->zbuf_out);
 494     av_freep(&s->zpb);
 495     return 0;
 496 }
 497 #endif
 498
 499 AVInputFormat ff_swf_demuxer = {
 500     .name           = "swf",
 501     .long_name      = NULL_IF_CONFIG_SMALL("SWF (ShockWave Flash)"),
 502     .priv_data_size = sizeof(SWFContext),
 503     .read_probe     = swf_probe,
 504     .read_header    = swf_read_header,
 505     .read_packet    = swf_read_packet,
 506 #if CONFIG_ZLIB
 507     .read_close     = swf_read_close,
 508 #endif
 509 };