git.sesse.net Git - ffmpeg/blob - libavformat/swfdec.c

   1 /*
   2  * Flash Compatible Streaming Format demuxer
   3  * Copyright (c) 2000 Fabrice Bellard
   4  * Copyright (c) 2003 Tinic Uro
   5  *
   6  * This file is part of FFmpeg.
   7  *
   8  * FFmpeg is free software; you can redistribute it and/or
   9  * modify it under the terms of the GNU Lesser General Public
  10  * License as published by the Free Software Foundation; either
  11  * version 2.1 of the License, or (at your option) any later version.
  12  *
  13  * FFmpeg is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  16  * Lesser General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU Lesser General Public
  19  * License along with FFmpeg; if not, write to the Free Software
  20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  21  */
  22
  23 #include "config.h"
  24
  25 #if CONFIG_ZLIB
  26 #include <zlib.h>
  27 #endif
  28
  29 #include "libavutil/avassert.h"
  30 #include "libavutil/channel_layout.h"
  31 #include "libavutil/imgutils.h"
  32 #include "libavutil/internal.h"
  33 #include "libavutil/intreadwrite.h"
  34 #include "libavcodec/get_bits.h"
  35 #include "swf.h"
  36
  37 typedef struct SWFDecContext {
  38     int samples_per_frame;
  39     int frame_rate;
  40 #if CONFIG_ZLIB
  41 #define ZBUF_SIZE 4096
  42     AVIOContext *zpb;
  43     uint8_t *zbuf_in;
  44     uint8_t *zbuf_out;
  45     z_stream zstream;
  46 #endif
  47 } SWFDecContext;
  48
  49 static const AVCodecTag swf_audio_codec_tags[] = {
  50     { AV_CODEC_ID_PCM_S16LE,  0x00 },
  51     { AV_CODEC_ID_ADPCM_SWF,  0x01 },
  52     { AV_CODEC_ID_MP3,        0x02 },
  53     { AV_CODEC_ID_PCM_S16LE,  0x03 },
  54 //  { AV_CODEC_ID_NELLYMOSER, 0x06 },
  55     { AV_CODEC_ID_NONE,          0 },
  56 };
  57
  58 static int get_swf_tag(AVIOContext *pb, int *len_ptr)
  59 {
  60     int tag, len;
  61
  62     if (avio_feof(pb))
  63         return AVERROR_EOF;
  64
  65     tag = avio_rl16(pb);
  66     len = tag & 0x3f;
  67     tag = tag >> 6;
  68     if (len == 0x3f) {
  69         len = avio_rl32(pb);
  70     }
  71     *len_ptr = len;
  72     return tag;
  73 }
  74
  75
  76 static int swf_probe(const AVProbeData *p)
  77 {
  78     GetBitContext gb;
  79     int len, xmin, xmax, ymin, ymax;
  80
  81     if(p->buf_size < 15)
  82         return 0;
  83
  84     /* check file header */
  85     if (   AV_RB24(p->buf) != AV_RB24("CWS")
  86         && AV_RB24(p->buf) != AV_RB24("FWS"))
  87         return 0;
  88
  89     if (   AV_RB24(p->buf) == AV_RB24("CWS")
  90         && p->buf[3] <= 20)
  91         return AVPROBE_SCORE_MAX / 4 + 1;
  92
  93     if (init_get_bits8(&gb, p->buf + 8, p->buf_size - 8) < 0)
  94         return 0;
  95
  96     len = get_bits(&gb, 5);
  97     if (!len)
  98         return 0;
  99     xmin = get_bits_long(&gb, len);
 100     xmax = get_bits_long(&gb, len);
 101     ymin = get_bits_long(&gb, len);
 102     ymax = get_bits_long(&gb, len);
 103     if (xmin || ymin || !xmax || !ymax)
 104         return 0;
 105
 106     if (p->buf[3] >= 20 || xmax < 16 || ymax < 16)
 107         return AVPROBE_SCORE_MAX / 4;
 108
 109     return AVPROBE_SCORE_EXTENSION + 1;
 110 }
 111
 112 #if CONFIG_ZLIB
 113 static int zlib_refill(void *opaque, uint8_t *buf, int buf_size)
 114 {
 115     AVFormatContext *s = opaque;
 116     SWFDecContext *swf = s->priv_data;
 117     z_stream *z = &swf->zstream;
 118     int ret;
 119
 120 retry:
 121     if (!z->avail_in) {
 122         int n = avio_read(s->pb, swf->zbuf_in, ZBUF_SIZE);
 123         if (n < 0)
 124             return n;
 125         z->next_in  = swf->zbuf_in;
 126         z->avail_in = n;
 127     }
 128
 129     z->next_out  = buf;
 130     z->avail_out = buf_size;
 131
 132     ret = inflate(z, Z_NO_FLUSH);
 133     if (ret == Z_STREAM_END)
 134         return AVERROR_EOF;
 135     if (ret != Z_OK)
 136         return AVERROR(EINVAL);
 137
 138     if (buf_size - z->avail_out == 0)
 139         goto retry;
 140
 141     return buf_size - z->avail_out;
 142 }
 143
 144 static av_cold int swf_read_close(AVFormatContext *avctx);
 145 #endif
 146
 147 static int swf_read_header(AVFormatContext *s)
 148 {
 149     SWFDecContext *swf = s->priv_data;
 150     AVIOContext *pb = s->pb;
 151     int nbits, len, tag;
 152
 153     tag = avio_rb32(pb) & 0xffffff00;
 154     avio_rl32(pb);
 155
 156     if (tag == MKBETAG('C', 'W', 'S', 0)) {
 157         av_log(s, AV_LOG_INFO, "SWF compressed file detected\n");
 158 #if CONFIG_ZLIB
 159         if (inflateInit(&swf->zstream) != Z_OK) {
 160             av_log(s, AV_LOG_ERROR, "Unable to init zlib context\n");
 161             return AVERROR(EINVAL);
 162         }
 163         if (!(swf->zbuf_in  = av_malloc(ZBUF_SIZE)) ||
 164             !(swf->zbuf_out = av_malloc(ZBUF_SIZE)) ||
 165             !(swf->zpb = avio_alloc_context(swf->zbuf_out, ZBUF_SIZE, 0,
 166                                             s, zlib_refill, NULL, NULL))) {
 167             swf_read_close(s);
 168             return AVERROR(ENOMEM);
 169         }
 170         swf->zpb->seekable = 0;
 171         pb = swf->zpb;
 172 #else
 173         av_log(s, AV_LOG_ERROR, "zlib support is required to read SWF compressed files\n");
 174         return AVERROR(EIO);
 175 #endif
 176     } else if (tag != MKBETAG('F', 'W', 'S', 0))
 177         return AVERROR(EIO);
 178     /* skip rectangle size */
 179     nbits = avio_r8(pb) >> 3;
 180     len = (4 * nbits - 3 + 7) / 8;
 181     avio_skip(pb, len);
 182     swf->frame_rate = avio_rl16(pb); /* 8.8 fixed */
 183     avio_rl16(pb); /* frame count */
 184
 185     swf->samples_per_frame = 0;
 186     s->ctx_flags |= AVFMTCTX_NOHEADER;
 187     return 0;
 188 }
 189
 190 static AVStream *create_new_audio_stream(AVFormatContext *s, int id, int info)
 191 {
 192     int sample_rate_code, sample_size_code;
 193     AVStream *ast = avformat_new_stream(s, NULL);
 194     if (!ast)
 195         return NULL;
 196     ast->id = id;
 197     if (info & 1) {
 198         ast->codecpar->channels       = 2;
 199         ast->codecpar->channel_layout = AV_CH_LAYOUT_STEREO;
 200     } else {
 201         ast->codecpar->channels       = 1;
 202         ast->codecpar->channel_layout = AV_CH_LAYOUT_MONO;
 203     }
 204     ast->codecpar->codec_type = AVMEDIA_TYPE_AUDIO;
 205     ast->codecpar->codec_id   = ff_codec_get_id(swf_audio_codec_tags, info>>4 & 15);
 206     ast->need_parsing = AVSTREAM_PARSE_FULL;
 207     sample_rate_code = info>>2 & 3;
 208     sample_size_code = info>>1 & 1;
 209     if (!sample_size_code && ast->codecpar->codec_id == AV_CODEC_ID_PCM_S16LE)
 210         ast->codecpar->codec_id = AV_CODEC_ID_PCM_U8;
 211     ast->codecpar->sample_rate = 44100 >> (3 - sample_rate_code);
 212     avpriv_set_pts_info(ast, 64, 1, ast->codecpar->sample_rate);
 213     return ast;
 214 }
 215
 216 static int swf_read_packet(AVFormatContext *s, AVPacket *pkt)
 217 {
 218     SWFDecContext *swf = s->priv_data;
 219     AVIOContext *pb = s->pb;
 220     AVStream *vst = NULL, *ast = NULL, *st = 0;
 221     int tag, len, i, frame, v, res;
 222
 223 #if CONFIG_ZLIB
 224     if (swf->zpb)
 225         pb = swf->zpb;
 226 #endif
 227
 228     for(;;) {
 229         uint64_t pos = avio_tell(pb);
 230         tag = get_swf_tag(pb, &len);
 231         if (tag < 0)
 232             return tag;
 233         if (len < 0) {
 234             av_log(s, AV_LOG_ERROR, "invalid tag length: %d\n", len);
 235             return AVERROR_INVALIDDATA;
 236         }
 237         if (tag == TAG_VIDEOSTREAM) {
 238             int ch_id = avio_rl16(pb);
 239             len -= 2;
 240
 241             for (i=0; i<s->nb_streams; i++) {
 242                 st = s->streams[i];
 243                 if (st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO && st->id == ch_id)
 244                     goto skip;
 245             }
 246
 247             avio_rl16(pb);
 248             avio_rl16(pb);
 249             avio_rl16(pb);
 250             avio_r8(pb);
 251             /* Check for FLV1 */
 252             vst = avformat_new_stream(s, NULL);
 253             if (!vst)
 254                 return AVERROR(ENOMEM);
 255             vst->id = ch_id;
 256             vst->codecpar->codec_type = AVMEDIA_TYPE_VIDEO;
 257             vst->codecpar->codec_id = ff_codec_get_id(ff_swf_codec_tags, avio_r8(pb));
 258             avpriv_set_pts_info(vst, 16, 256, swf->frame_rate);
 259             len -= 8;
 260         } else if (tag == TAG_STREAMHEAD || tag == TAG_STREAMHEAD2) {
 261             /* streaming found */
 262
 263             for (i=0; i<s->nb_streams; i++) {
 264                 st = s->streams[i];
 265                 if (st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO && st->id == -1)
 266                     goto skip;
 267             }
 268
 269             avio_r8(pb);
 270             v = avio_r8(pb);
 271             swf->samples_per_frame = avio_rl16(pb);
 272             ast = create_new_audio_stream(s, -1, v); /* -1 to avoid clash with video stream ch_id */
 273             if (!ast)
 274                 return AVERROR(ENOMEM);
 275             len -= 4;
 276         } else if (tag == TAG_DEFINESOUND) {
 277             /* audio stream */
 278             int ch_id = avio_rl16(pb);
 279
 280             for (i=0; i<s->nb_streams; i++) {
 281                 st = s->streams[i];
 282                 if (st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO && st->id == ch_id)
 283                     goto skip;
 284             }
 285
 286             // FIXME: The entire audio stream is stored in a single chunk/tag. Normally,
 287             // these are smaller audio streams in DEFINESOUND tags, but it's technically
 288             // possible they could be huge. Break it up into multiple packets if it's big.
 289             v = avio_r8(pb);
 290             ast = create_new_audio_stream(s, ch_id, v);
 291             if (!ast)
 292                 return AVERROR(ENOMEM);
 293             ast->duration = avio_rl32(pb); // number of samples
 294             if (((v>>4) & 15) == 2) { // MP3 sound data record
 295                 ast->internal->skip_samples = avio_rl16(pb);
 296                 len -= 2;
 297             }
 298             len -= 7;
 299             if ((res = av_get_packet(pb, pkt, len)) < 0)
 300                 return res;
 301             pkt->pos = pos;
 302             pkt->stream_index = ast->index;
 303             return pkt->size;
 304         } else if (tag == TAG_VIDEOFRAME) {
 305             int ch_id = avio_rl16(pb);
 306             len -= 2;
 307             for(i=0; i<s->nb_streams; i++) {
 308                 st = s->streams[i];
 309                 if (st->codecpar->codec_type == AVMEDIA_TYPE_VIDEO && st->id == ch_id) {
 310                     frame = avio_rl16(pb);
 311                     len -= 2;
 312                     if (len <= 0)
 313                         goto skip;
 314                     if ((res = av_get_packet(pb, pkt, len)) < 0)
 315                         return res;
 316                     pkt->pos = pos;
 317                     pkt->pts = frame;
 318                     pkt->stream_index = st->index;
 319                     return pkt->size;
 320                 }
 321             }
 322         } else if (tag == TAG_DEFINEBITSLOSSLESS || tag == TAG_DEFINEBITSLOSSLESS2) {
 323 #if CONFIG_ZLIB
 324             long out_len;
 325             uint8_t *buf = NULL, *zbuf = NULL, *pal;
 326             uint32_t colormap[AVPALETTE_COUNT] = {0};
 327             const int alpha_bmp = tag == TAG_DEFINEBITSLOSSLESS2;
 328             const int colormapbpp = 3 + alpha_bmp;
 329             int linesize, colormapsize = 0;
 330
 331             const int ch_id   = avio_rl16(pb);
 332             const int bmp_fmt = avio_r8(pb);
 333             const int width   = avio_rl16(pb);
 334             const int height  = avio_rl16(pb);
 335             int pix_fmt;
 336
 337             len -= 2+1+2+2;
 338
 339             switch (bmp_fmt) {
 340             case 3: // PAL-8
 341                 linesize = width;
 342                 colormapsize = avio_r8(pb) + 1;
 343                 len--;
 344                 break;
 345             case 4: // RGB15
 346                 linesize = width * 2;
 347                 break;
 348             case 5: // RGB24 (0RGB)
 349                 linesize = width * 4;
 350                 break;
 351             default:
 352                 av_log(s, AV_LOG_ERROR, "invalid bitmap format %d, skipped\n", bmp_fmt);
 353                 goto bitmap_end_skip;
 354             }
 355
 356             linesize = FFALIGN(linesize, 4);
 357
 358             if (av_image_check_size(width, height, 0, s) < 0 ||
 359                 linesize >= INT_MAX / height ||
 360                 linesize * height >= INT_MAX - colormapsize * colormapbpp) {
 361                 av_log(s, AV_LOG_ERROR, "invalid frame size %dx%d\n", width, height);
 362                 goto bitmap_end_skip;
 363             }
 364
 365             out_len = colormapsize * colormapbpp + linesize * height;
 366
 367             ff_dlog(s, "bitmap: ch=%d fmt=%d %dx%d (linesize=%d) len=%d->%ld pal=%d\n",
 368                     ch_id, bmp_fmt, width, height, linesize, len, out_len, colormapsize);
 369
 370             zbuf = av_malloc(len);
 371             buf  = av_malloc(out_len);
 372             if (!zbuf || !buf) {
 373                 res = AVERROR(ENOMEM);
 374                 goto bitmap_end;
 375             }
 376
 377             len = avio_read(pb, zbuf, len);
 378             if (len < 0 || (res = uncompress(buf, &out_len, zbuf, len)) != Z_OK) {
 379                 av_log(s, AV_LOG_WARNING, "Failed to uncompress one bitmap\n");
 380                 goto bitmap_end_skip;
 381             }
 382
 383             for (i = 0; i < s->nb_streams; i++) {
 384                 st = s->streams[i];
 385                 if (st->codecpar->codec_id == AV_CODEC_ID_RAWVIDEO && st->id == -3)
 386                     break;
 387             }
 388             if (i == s->nb_streams) {
 389                 vst = avformat_new_stream(s, NULL);
 390                 if (!vst) {
 391                     res = AVERROR(ENOMEM);
 392                     goto bitmap_end;
 393                 }
 394                 vst->id = -3; /* -3 to avoid clash with video stream and audio stream */
 395                 vst->codecpar->codec_type = AVMEDIA_TYPE_VIDEO;
 396                 vst->codecpar->codec_id = AV_CODEC_ID_RAWVIDEO;
 397                 avpriv_set_pts_info(vst, 64, 256, swf->frame_rate);
 398                 st = vst;
 399             }
 400
 401             if ((res = av_new_packet(pkt, out_len - colormapsize * colormapbpp)) < 0)
 402                 goto bitmap_end;
 403             if (!st->codecpar->width && !st->codecpar->height) {
 404                 st->codecpar->width  = width;
 405                 st->codecpar->height = height;
 406             } else {
 407                 ff_add_param_change(pkt, 0, 0, 0, width, height);
 408             }
 409             pkt->pos = pos;
 410             pkt->stream_index = st->index;
 411
 412             if (linesize * height > pkt->size) {
 413                 res = AVERROR_INVALIDDATA;
 414                 goto bitmap_end;
 415             }
 416
 417             switch (bmp_fmt) {
 418             case 3:
 419                 pix_fmt = AV_PIX_FMT_PAL8;
 420                 for (i = 0; i < colormapsize; i++)
 421                     if (alpha_bmp)  colormap[i] = buf[3]<<24 | AV_RB24(buf + 4*i);
 422                     else            colormap[i] = 0xffU <<24 | AV_RB24(buf + 3*i);
 423                 pal = av_packet_new_side_data(pkt, AV_PKT_DATA_PALETTE, AVPALETTE_SIZE);
 424                 if (!pal) {
 425                     res = AVERROR(ENOMEM);
 426                     goto bitmap_end;
 427                 }
 428                 memcpy(pal, colormap, AVPALETTE_SIZE);
 429                 break;
 430             case 4:
 431                 pix_fmt = AV_PIX_FMT_RGB555;
 432                 break;
 433             case 5:
 434                 pix_fmt = alpha_bmp ? AV_PIX_FMT_ARGB : AV_PIX_FMT_0RGB;
 435                 break;
 436             default:
 437                 av_assert0(0);
 438             }
 439             if (st->codecpar->format != AV_PIX_FMT_NONE && st->codecpar->format != pix_fmt) {
 440                 av_log(s, AV_LOG_ERROR, "pixel format change unsupported\n");
 441             } else
 442                 st->codecpar->format = pix_fmt;
 443
 444             memcpy(pkt->data, buf + colormapsize*colormapbpp, linesize * height);
 445
 446             res = pkt->size;
 447
 448 bitmap_end:
 449             av_freep(&zbuf);
 450             av_freep(&buf);
 451             return res;
 452 bitmap_end_skip:
 453             av_freep(&zbuf);
 454             av_freep(&buf);
 455 #else
 456             av_log(s, AV_LOG_ERROR, "this file requires zlib support compiled in\n");
 457 #endif
 458         } else if (tag == TAG_STREAMBLOCK) {
 459             for (i = 0; i < s->nb_streams; i++) {
 460                 st = s->streams[i];
 461                 if (st->codecpar->codec_type == AVMEDIA_TYPE_AUDIO && st->id == -1) {
 462                     if (st->codecpar->codec_id == AV_CODEC_ID_MP3) {
 463                         avio_skip(pb, 4);
 464                         len -= 4;
 465                         if (len <= 0)
 466                             goto skip;
 467                         if ((res = av_get_packet(pb, pkt, len)) < 0)
 468                             return res;
 469                     } else { // ADPCM, PCM
 470                         if (len <= 0)
 471                             goto skip;
 472                         if ((res = av_get_packet(pb, pkt, len)) < 0)
 473                             return res;
 474                     }
 475                     pkt->pos          = pos;
 476                     pkt->stream_index = st->index;
 477                     return pkt->size;
 478                 }
 479             }
 480         } else if (tag == TAG_JPEG2) {
 481             for (i=0; i<s->nb_streams; i++) {
 482                 st = s->streams[i];
 483                 if (st->codecpar->codec_id == AV_CODEC_ID_MJPEG && st->id == -2)
 484                     break;
 485             }
 486             if (i == s->nb_streams) {
 487                 vst = avformat_new_stream(s, NULL);
 488                 if (!vst)
 489                     return AVERROR(ENOMEM);
 490                 vst->id = -2; /* -2 to avoid clash with video stream and audio stream */
 491                 vst->codecpar->codec_type = AVMEDIA_TYPE_VIDEO;
 492                 vst->codecpar->codec_id = AV_CODEC_ID_MJPEG;
 493                 avpriv_set_pts_info(vst, 64, 256, swf->frame_rate);
 494                 st = vst;
 495             }
 496             avio_rl16(pb); /* BITMAP_ID */
 497             len -= 2;
 498             if (len < 4)
 499                 goto skip;
 500             if ((res = av_new_packet(pkt, len)) < 0)
 501                 return res;
 502             if (avio_read(pb, pkt->data, 4) != 4) {
 503                 return AVERROR_INVALIDDATA;
 504             }
 505             if (AV_RB32(pkt->data) == 0xffd8ffd9 ||
 506                 AV_RB32(pkt->data) == 0xffd9ffd8) {
 507                 /* old SWF files containing SOI/EOI as data start */
 508                 /* files created by swink have reversed tag */
 509                 pkt->size -= 4;
 510                 memset(pkt->data+pkt->size, 0, 4);
 511                 res = avio_read(pb, pkt->data, pkt->size);
 512             } else {
 513                 res = avio_read(pb, pkt->data + 4, pkt->size - 4);
 514                 if (res >= 0)
 515                     res += 4;
 516             }
 517             if (res != pkt->size) {
 518                 if (res < 0) {
 519                     return res;
 520                 }
 521                 av_shrink_packet(pkt, res);
 522             }
 523
 524             pkt->pos = pos;
 525             pkt->stream_index = st->index;
 526             return pkt->size;
 527         } else {
 528             av_log(s, AV_LOG_DEBUG, "Unknown tag: %d\n", tag);
 529         }
 530     skip:
 531         if(len<0)
 532             av_log(s, AV_LOG_WARNING, "Clipping len %d\n", len);
 533         len = FFMAX(0, len);
 534         avio_skip(pb, len);
 535     }
 536 }
 537
 538 #if CONFIG_ZLIB
 539 static av_cold int swf_read_close(AVFormatContext *avctx)
 540 {
 541     SWFDecContext *s = avctx->priv_data;
 542     inflateEnd(&s->zstream);
 543     av_freep(&s->zbuf_in);
 544     av_freep(&s->zbuf_out);
 545     avio_context_free(&s->zpb);
 546     return 0;
 547 }
 548 #endif
 549
 550 AVInputFormat ff_swf_demuxer = {
 551     .name           = "swf",
 552     .long_name      = NULL_IF_CONFIG_SMALL("SWF (ShockWave Flash)"),
 553     .priv_data_size = sizeof(SWFDecContext),
 554     .read_probe     = swf_probe,
 555     .read_header    = swf_read_header,
 556     .read_packet    = swf_read_packet,
 557 #if CONFIG_ZLIB
 558     .read_close     = swf_read_close,
 559 #endif
 560 };