git.sesse.net Git - ffmpeg/blob - libavformat/swfdec.c

   1 /*
   2  * Flash Compatible Streaming Format demuxer
   3  * Copyright (c) 2000 Fabrice Bellard
   4  * Copyright (c) 2003 Tinic Uro
   5  *
   6  * This file is part of FFmpeg.
   7  *
   8  * FFmpeg is free software; you can redistribute it and/or
   9  * modify it under the terms of the GNU Lesser General Public
  10  * License as published by the Free Software Foundation; either
  11  * version 2.1 of the License, or (at your option) any later version.
  12  *
  13  * FFmpeg is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  16  * Lesser General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU Lesser General Public
  19  * License along with FFmpeg; if not, write to the Free Software
  20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  21  */
  22
  23 #include "libavutil/avassert.h"
  24 #include "libavutil/channel_layout.h"
  25 #include "libavutil/imgutils.h"
  26 #include "libavutil/internal.h"
  27 #include "libavutil/intreadwrite.h"
  28 #include "libavcodec/get_bits.h"
  29 #include "swf.h"
  30
  31 static const AVCodecTag swf_audio_codec_tags[] = {
  32     { AV_CODEC_ID_PCM_S16LE,  0x00 },
  33     { AV_CODEC_ID_ADPCM_SWF,  0x01 },
  34     { AV_CODEC_ID_MP3,        0x02 },
  35     { AV_CODEC_ID_PCM_S16LE,  0x03 },
  36 //  { AV_CODEC_ID_NELLYMOSER, 0x06 },
  37     { AV_CODEC_ID_NONE,          0 },
  38 };
  39
  40 static int get_swf_tag(AVIOContext *pb, int *len_ptr)
  41 {
  42     int tag, len;
  43
  44     if (avio_feof(pb))
  45         return AVERROR_EOF;
  46
  47     tag = avio_rl16(pb);
  48     len = tag & 0x3f;
  49     tag = tag >> 6;
  50     if (len == 0x3f) {
  51         len = avio_rl32(pb);
  52     }
  53     *len_ptr = len;
  54     return tag;
  55 }
  56
  57
  58 static int swf_probe(AVProbeData *p)
  59 {
  60     GetBitContext gb;
  61     int len, xmin, xmax, ymin, ymax;
  62
  63     if(p->buf_size < 15)
  64         return 0;
  65
  66     /* check file header */
  67     if (   AV_RB24(p->buf) != AV_RB24("CWS")
  68         && AV_RB24(p->buf) != AV_RB24("FWS"))
  69         return 0;
  70
  71     if (   AV_RB24(p->buf) == AV_RB24("CWS")
  72         && p->buf[3] <= 20)
  73         return AVPROBE_SCORE_MAX / 4 + 1;
  74
  75     init_get_bits8(&gb, p->buf + 3, p->buf_size - 3);
  76
  77     skip_bits(&gb, 40);
  78     len = get_bits(&gb, 5);
  79     if (!len)
  80         return 0;
  81     xmin = get_bits_long(&gb, len);
  82     xmax = get_bits_long(&gb, len);
  83     ymin = get_bits_long(&gb, len);
  84     ymax = get_bits_long(&gb, len);
  85     if (xmin || ymin || !xmax || !ymax)
  86         return 0;
  87
  88     if (p->buf[3] >= 20 || xmax < 16 || ymax < 16)
  89         return AVPROBE_SCORE_MAX / 4;
  90
  91     return AVPROBE_SCORE_MAX;
  92 }
  93
  94 #if CONFIG_ZLIB
  95 static int zlib_refill(void *opaque, uint8_t *buf, int buf_size)
  96 {
  97     AVFormatContext *s = opaque;
  98     SWFContext *swf = s->priv_data;
  99     z_stream *z = &swf->zstream;
 100     int ret;
 101
 102 retry:
 103     if (!z->avail_in) {
 104         int n = avio_read(s->pb, swf->zbuf_in, ZBUF_SIZE);
 105         if (n < 0)
 106             return n;
 107         z->next_in  = swf->zbuf_in;
 108         z->avail_in = n;
 109     }
 110
 111     z->next_out  = buf;
 112     z->avail_out = buf_size;
 113
 114     ret = inflate(z, Z_NO_FLUSH);
 115     if (ret < 0)
 116         return AVERROR(EINVAL);
 117     if (ret == Z_STREAM_END)
 118         return AVERROR_EOF;
 119
 120     if (buf_size - z->avail_out == 0)
 121         goto retry;
 122
 123     return buf_size - z->avail_out;
 124 }
 125 #endif
 126
 127 static int swf_read_header(AVFormatContext *s)
 128 {
 129     SWFContext *swf = s->priv_data;
 130     AVIOContext *pb = s->pb;
 131     int nbits, len, tag;
 132
 133     tag = avio_rb32(pb) & 0xffffff00;
 134     avio_rl32(pb);
 135
 136     if (tag == MKBETAG('C', 'W', 'S', 0)) {
 137         av_log(s, AV_LOG_INFO, "SWF compressed file detected\n");
 138 #if CONFIG_ZLIB
 139         swf->zbuf_in  = av_malloc(ZBUF_SIZE);
 140         swf->zbuf_out = av_malloc(ZBUF_SIZE);
 141         swf->zpb = avio_alloc_context(swf->zbuf_out, ZBUF_SIZE, 0, s,
 142                                       zlib_refill, NULL, NULL);
 143         if (!swf->zbuf_in || !swf->zbuf_out || !swf->zpb)
 144             return AVERROR(ENOMEM);
 145         swf->zpb->seekable = 0;
 146         if (inflateInit(&swf->zstream) != Z_OK) {
 147             av_log(s, AV_LOG_ERROR, "Unable to init zlib context\n");
 148             return AVERROR(EINVAL);
 149         }
 150         pb = swf->zpb;
 151 #else
 152         av_log(s, AV_LOG_ERROR, "zlib support is required to read SWF compressed files\n");
 153         return AVERROR(EIO);
 154 #endif
 155     } else if (tag != MKBETAG('F', 'W', 'S', 0))
 156         return AVERROR(EIO);
 157     /* skip rectangle size */
 158     nbits = avio_r8(pb) >> 3;
 159     len = (4 * nbits - 3 + 7) / 8;
 160     avio_skip(pb, len);
 161     swf->frame_rate = avio_rl16(pb); /* 8.8 fixed */
 162     avio_rl16(pb); /* frame count */
 163
 164     swf->samples_per_frame = 0;
 165     s->ctx_flags |= AVFMTCTX_NOHEADER;
 166     return 0;
 167 }
 168
 169 static AVStream *create_new_audio_stream(AVFormatContext *s, int id, int info)
 170 {
 171     int sample_rate_code, sample_size_code;
 172     AVStream *ast = avformat_new_stream(s, NULL);
 173     if (!ast)
 174         return NULL;
 175     ast->id = id;
 176     if (info & 1) {
 177         ast->codec->channels       = 2;
 178         ast->codec->channel_layout = AV_CH_LAYOUT_STEREO;
 179     } else {
 180         ast->codec->channels       = 1;
 181         ast->codec->channel_layout = AV_CH_LAYOUT_MONO;
 182     }
 183     ast->codec->codec_type = AVMEDIA_TYPE_AUDIO;
 184     ast->codec->codec_id   = ff_codec_get_id(swf_audio_codec_tags, info>>4 & 15);
 185     ast->need_parsing = AVSTREAM_PARSE_FULL;
 186     sample_rate_code = info>>2 & 3;
 187     sample_size_code = info>>1 & 1;
 188     if (!sample_size_code && ast->codec->codec_id == AV_CODEC_ID_PCM_S16LE)
 189         ast->codec->codec_id = AV_CODEC_ID_PCM_U8;
 190     ast->codec->sample_rate = 44100 >> (3 - sample_rate_code);
 191     avpriv_set_pts_info(ast, 64, 1, ast->codec->sample_rate);
 192     return ast;
 193 }
 194
 195 static int swf_read_packet(AVFormatContext *s, AVPacket *pkt)
 196 {
 197     SWFContext *swf = s->priv_data;
 198     AVIOContext *pb = s->pb;
 199     AVStream *vst = NULL, *ast = NULL, *st = 0;
 200     int tag, len, i, frame, v, res;
 201
 202 #if CONFIG_ZLIB
 203     if (swf->zpb)
 204         pb = swf->zpb;
 205 #endif
 206
 207     for(;;) {
 208         uint64_t pos = avio_tell(pb);
 209         tag = get_swf_tag(pb, &len);
 210         if (tag < 0)
 211             return tag;
 212         if (len < 0) {
 213             av_log(s, AV_LOG_ERROR, "invalid tag length: %d\n", len);
 214             return AVERROR_INVALIDDATA;
 215         }
 216         if (tag == TAG_VIDEOSTREAM) {
 217             int ch_id = avio_rl16(pb);
 218             len -= 2;
 219
 220             for (i=0; i<s->nb_streams; i++) {
 221                 st = s->streams[i];
 222                 if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO && st->id == ch_id)
 223                     goto skip;
 224             }
 225
 226             avio_rl16(pb);
 227             avio_rl16(pb);
 228             avio_rl16(pb);
 229             avio_r8(pb);
 230             /* Check for FLV1 */
 231             vst = avformat_new_stream(s, NULL);
 232             if (!vst)
 233                 return AVERROR(ENOMEM);
 234             vst->id = ch_id;
 235             vst->codec->codec_type = AVMEDIA_TYPE_VIDEO;
 236             vst->codec->codec_id = ff_codec_get_id(ff_swf_codec_tags, avio_r8(pb));
 237             avpriv_set_pts_info(vst, 16, 256, swf->frame_rate);
 238             len -= 8;
 239         } else if (tag == TAG_STREAMHEAD || tag == TAG_STREAMHEAD2) {
 240             /* streaming found */
 241
 242             for (i=0; i<s->nb_streams; i++) {
 243                 st = s->streams[i];
 244                 if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO && st->id == -1)
 245                     goto skip;
 246             }
 247
 248             avio_r8(pb);
 249             v = avio_r8(pb);
 250             swf->samples_per_frame = avio_rl16(pb);
 251             ast = create_new_audio_stream(s, -1, v); /* -1 to avoid clash with video stream ch_id */
 252             if (!ast)
 253                 return AVERROR(ENOMEM);
 254             len -= 4;
 255         } else if (tag == TAG_DEFINESOUND) {
 256             /* audio stream */
 257             int ch_id = avio_rl16(pb);
 258
 259             for (i=0; i<s->nb_streams; i++) {
 260                 st = s->streams[i];
 261                 if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO && st->id == ch_id)
 262                     goto skip;
 263             }
 264
 265             // FIXME: The entire audio stream is stored in a single chunk/tag. Normally,
 266             // these are smaller audio streams in DEFINESOUND tags, but it's technically
 267             // possible they could be huge. Break it up into multiple packets if it's big.
 268             v = avio_r8(pb);
 269             ast = create_new_audio_stream(s, ch_id, v);
 270             if (!ast)
 271                 return AVERROR(ENOMEM);
 272             ast->duration = avio_rl32(pb); // number of samples
 273             if (((v>>4) & 15) == 2) { // MP3 sound data record
 274                 ast->skip_samples = avio_rl16(pb);
 275                 len -= 2;
 276             }
 277             len -= 7;
 278             if ((res = av_get_packet(pb, pkt, len)) < 0)
 279                 return res;
 280             pkt->pos = pos;
 281             pkt->stream_index = ast->index;
 282             return pkt->size;
 283         } else if (tag == TAG_VIDEOFRAME) {
 284             int ch_id = avio_rl16(pb);
 285             len -= 2;
 286             for(i=0; i<s->nb_streams; i++) {
 287                 st = s->streams[i];
 288                 if (st->codec->codec_type == AVMEDIA_TYPE_VIDEO && st->id == ch_id) {
 289                     frame = avio_rl16(pb);
 290                     len -= 2;
 291                     if (len <= 0)
 292                         goto skip;
 293                     if ((res = av_get_packet(pb, pkt, len)) < 0)
 294                         return res;
 295                     pkt->pos = pos;
 296                     pkt->pts = frame;
 297                     pkt->stream_index = st->index;
 298                     return pkt->size;
 299                 }
 300             }
 301         } else if (tag == TAG_DEFINEBITSLOSSLESS || tag == TAG_DEFINEBITSLOSSLESS2) {
 302 #if CONFIG_ZLIB
 303             long out_len;
 304             uint8_t *buf = NULL, *zbuf = NULL, *pal;
 305             uint32_t colormap[AVPALETTE_COUNT] = {0};
 306             const int alpha_bmp = tag == TAG_DEFINEBITSLOSSLESS2;
 307             const int colormapbpp = 3 + alpha_bmp;
 308             int linesize, colormapsize = 0;
 309
 310             const int ch_id   = avio_rl16(pb);
 311             const int bmp_fmt = avio_r8(pb);
 312             const int width   = avio_rl16(pb);
 313             const int height  = avio_rl16(pb);
 314             int pix_fmt;
 315
 316             len -= 2+1+2+2;
 317
 318             switch (bmp_fmt) {
 319             case 3: // PAL-8
 320                 linesize = width;
 321                 colormapsize = avio_r8(pb) + 1;
 322                 len--;
 323                 break;
 324             case 4: // RGB15
 325                 linesize = width * 2;
 326                 break;
 327             case 5: // RGB24 (0RGB)
 328                 linesize = width * 4;
 329                 break;
 330             default:
 331                 av_log(s, AV_LOG_ERROR, "invalid bitmap format %d, skipped\n", bmp_fmt);
 332                 goto bitmap_end_skip;
 333             }
 334
 335             linesize = FFALIGN(linesize, 4);
 336
 337             if (av_image_check_size(width, height, 0, s) < 0 ||
 338                 linesize >= INT_MAX / height ||
 339                 linesize * height >= INT_MAX - colormapsize * colormapbpp) {
 340                 av_log(s, AV_LOG_ERROR, "invalid frame size %dx%d\n", width, height);
 341                 goto bitmap_end_skip;
 342             }
 343
 344             out_len = colormapsize * colormapbpp + linesize * height;
 345
 346             ff_dlog(s, "bitmap: ch=%d fmt=%d %dx%d (linesize=%d) len=%d->%ld pal=%d\n",
 347                     ch_id, bmp_fmt, width, height, linesize, len, out_len, colormapsize);
 348
 349             zbuf = av_malloc(len);
 350             buf  = av_malloc(out_len);
 351             if (!zbuf || !buf) {
 352                 res = AVERROR(ENOMEM);
 353                 goto bitmap_end;
 354             }
 355
 356             len = avio_read(pb, zbuf, len);
 357             if (len < 0 || (res = uncompress(buf, &out_len, zbuf, len)) != Z_OK) {
 358                 av_log(s, AV_LOG_WARNING, "Failed to uncompress one bitmap\n");
 359                 goto bitmap_end_skip;
 360             }
 361
 362             for (i = 0; i < s->nb_streams; i++) {
 363                 st = s->streams[i];
 364                 if (st->codec->codec_id == AV_CODEC_ID_RAWVIDEO && st->id == -3)
 365                     break;
 366             }
 367             if (i == s->nb_streams) {
 368                 vst = avformat_new_stream(s, NULL);
 369                 if (!vst) {
 370                     res = AVERROR(ENOMEM);
 371                     goto bitmap_end;
 372                 }
 373                 vst->id = -3; /* -3 to avoid clash with video stream and audio stream */
 374                 vst->codec->codec_type = AVMEDIA_TYPE_VIDEO;
 375                 vst->codec->codec_id = AV_CODEC_ID_RAWVIDEO;
 376                 avpriv_set_pts_info(vst, 64, 256, swf->frame_rate);
 377                 st = vst;
 378             }
 379
 380             if ((res = av_new_packet(pkt, out_len - colormapsize * colormapbpp)) < 0)
 381                 goto bitmap_end;
 382             if (!st->codec->width && !st->codec->height) {
 383                 st->codec->width  = width;
 384                 st->codec->height = height;
 385             } else {
 386                 ff_add_param_change(pkt, 0, 0, 0, width, height);
 387             }
 388             pkt->pos = pos;
 389             pkt->stream_index = st->index;
 390
 391             switch (bmp_fmt) {
 392             case 3:
 393                 pix_fmt = AV_PIX_FMT_PAL8;
 394                 for (i = 0; i < colormapsize; i++)
 395                     if (alpha_bmp)  colormap[i] = buf[3]<<24 | AV_RB24(buf + 4*i);
 396                     else            colormap[i] = 0xffU <<24 | AV_RB24(buf + 3*i);
 397                 pal = av_packet_new_side_data(pkt, AV_PKT_DATA_PALETTE, AVPALETTE_SIZE);
 398                 if (!pal) {
 399                     res = AVERROR(ENOMEM);
 400                     goto bitmap_end;
 401                 }
 402                 memcpy(pal, colormap, AVPALETTE_SIZE);
 403                 break;
 404             case 4:
 405                 pix_fmt = AV_PIX_FMT_RGB555;
 406                 break;
 407             case 5:
 408                 pix_fmt = alpha_bmp ? AV_PIX_FMT_ARGB : AV_PIX_FMT_0RGB;
 409                 break;
 410             default:
 411                 av_assert0(0);
 412             }
 413             if (st->codec->pix_fmt != AV_PIX_FMT_NONE && st->codec->pix_fmt != pix_fmt) {
 414                 av_log(s, AV_LOG_ERROR, "pixel format change unsupported\n");
 415             } else
 416                 st->codec->pix_fmt = pix_fmt;
 417
 418             if (linesize * height > pkt->size) {
 419                 res = AVERROR_INVALIDDATA;
 420                 goto bitmap_end;
 421             }
 422             memcpy(pkt->data, buf + colormapsize*colormapbpp, linesize * height);
 423
 424             res = pkt->size;
 425
 426 bitmap_end:
 427             av_freep(&zbuf);
 428             av_freep(&buf);
 429             return res;
 430 bitmap_end_skip:
 431             av_freep(&zbuf);
 432             av_freep(&buf);
 433 #else
 434             av_log(s, AV_LOG_ERROR, "this file requires zlib support compiled in\n");
 435 #endif
 436         } else if (tag == TAG_STREAMBLOCK) {
 437             for (i = 0; i < s->nb_streams; i++) {
 438                 st = s->streams[i];
 439                 if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO && st->id == -1) {
 440                     if (st->codec->codec_id == AV_CODEC_ID_MP3) {
 441                         avio_skip(pb, 4);
 442                         len -= 4;
 443                         if (len <= 0)
 444                             goto skip;
 445                         if ((res = av_get_packet(pb, pkt, len)) < 0)
 446                             return res;
 447                     } else { // ADPCM, PCM
 448                         if (len <= 0)
 449                             goto skip;
 450                         if ((res = av_get_packet(pb, pkt, len)) < 0)
 451                             return res;
 452                     }
 453                     pkt->pos          = pos;
 454                     pkt->stream_index = st->index;
 455                     return pkt->size;
 456                 }
 457             }
 458         } else if (tag == TAG_JPEG2) {
 459             for (i=0; i<s->nb_streams; i++) {
 460                 st = s->streams[i];
 461                 if (st->codec->codec_id == AV_CODEC_ID_MJPEG && st->id == -2)
 462                     break;
 463             }
 464             if (i == s->nb_streams) {
 465                 vst = avformat_new_stream(s, NULL);
 466                 if (!vst)
 467                     return AVERROR(ENOMEM);
 468                 vst->id = -2; /* -2 to avoid clash with video stream and audio stream */
 469                 vst->codec->codec_type = AVMEDIA_TYPE_VIDEO;
 470                 vst->codec->codec_id = AV_CODEC_ID_MJPEG;
 471                 avpriv_set_pts_info(vst, 64, 256, swf->frame_rate);
 472                 st = vst;
 473             }
 474             avio_rl16(pb); /* BITMAP_ID */
 475             len -= 2;
 476             if (len < 4)
 477                 goto skip;
 478             if ((res = av_new_packet(pkt, len)) < 0)
 479                 return res;
 480             if (avio_read(pb, pkt->data, 4) != 4) {
 481                 av_free_packet(pkt);
 482                 return AVERROR_INVALIDDATA;
 483             }
 484             if (AV_RB32(pkt->data) == 0xffd8ffd9 ||
 485                 AV_RB32(pkt->data) == 0xffd9ffd8) {
 486                 /* old SWF files containing SOI/EOI as data start */
 487                 /* files created by swink have reversed tag */
 488                 pkt->size -= 4;
 489                 memset(pkt->data+pkt->size, 0, 4);
 490                 res = avio_read(pb, pkt->data, pkt->size);
 491             } else {
 492                 res = avio_read(pb, pkt->data + 4, pkt->size - 4);
 493                 if (res >= 0)
 494                     res += 4;
 495             }
 496             if (res != pkt->size) {
 497                 if (res < 0) {
 498                     av_free_packet(pkt);
 499                     return res;
 500                 }
 501                 av_shrink_packet(pkt, res);
 502             }
 503
 504             pkt->pos = pos;
 505             pkt->stream_index = st->index;
 506             return pkt->size;
 507         } else {
 508             av_log(s, AV_LOG_DEBUG, "Unknown tag: %d\n", tag);
 509         }
 510     skip:
 511         if(len<0)
 512             av_log(s, AV_LOG_WARNING, "Cliping len %d\n", len);
 513         len = FFMAX(0, len);
 514         avio_skip(pb, len);
 515     }
 516 }
 517
 518 #if CONFIG_ZLIB
 519 static av_cold int swf_read_close(AVFormatContext *avctx)
 520 {
 521     SWFContext *s = avctx->priv_data;
 522     inflateEnd(&s->zstream);
 523     av_freep(&s->zbuf_in);
 524     av_freep(&s->zbuf_out);
 525     av_freep(&s->zpb);
 526     return 0;
 527 }
 528 #endif
 529
 530 AVInputFormat ff_swf_demuxer = {
 531     .name           = "swf",
 532     .long_name      = NULL_IF_CONFIG_SMALL("SWF (ShockWave Flash)"),
 533     .priv_data_size = sizeof(SWFContext),
 534     .read_probe     = swf_probe,
 535     .read_header    = swf_read_header,
 536     .read_packet    = swf_read_packet,
 537 #if CONFIG_ZLIB
 538     .read_close     = swf_read_close,
 539 #endif
 540 };