git.sesse.net Git - ffmpeg/blob - libavcodec/utils.c

   1 /*
   2  * utils for libavcodec
   3  * Copyright (c) 2001 Fabrice Bellard.
   4  *
   5  * This library is free software; you can redistribute it and/or
   6  * modify it under the terms of the GNU Lesser General Public
   7  * License as published by the Free Software Foundation; either
   8  * version 2 of the License, or (at your option) any later version.
   9  *
  10  * This library is distributed in the hope that it will be useful,
  11  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13  * Lesser General Public License for more details.
  14  *
  15  * You should have received a copy of the GNU Lesser General Public
  16  * License along with this library; if not, write to the Free Software
  17  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  18  */
  19 #include "avcodec.h"
  20 #include "dsputil.h"
  21 #include "mpegvideo.h"
  22
  23 void *av_mallocz(unsigned int size)
  24 {
  25     void *ptr;
  26
  27     if(size == 0) fprintf(stderr, "Warning, allocating 0 bytes\n");
  28
  29     ptr = av_malloc(size);
  30     if (!ptr)
  31         return NULL;
  32     memset(ptr, 0, size);
  33     return ptr;
  34 }
  35
  36 /* allocation of static arrays - do not use for normal allocation */
  37 static unsigned int last_static = 0;
  38 static char*** array_static = NULL;
  39 static const unsigned int grow_static = 64; // ^2
  40 void *__av_mallocz_static(void** location, unsigned int size)
  41 {
  42     int l = (last_static + grow_static) & ~(grow_static - 1);
  43     void *ptr = av_mallocz(size);
  44     if (!ptr)
  45         return NULL;
  46
  47     if (location)
  48     {
  49         if (l > last_static)
  50             array_static = realloc(array_static, l);
  51         array_static[last_static++] = (char**) location;
  52         *location = ptr;
  53     }
  54     return ptr;
  55 }
  56 /* free all static arrays and reset pointers to 0 */
  57 void av_free_static()
  58 {
  59     if (array_static)
  60     {
  61         unsigned i;
  62         for (i = 0; i < last_static; i++)
  63         {
  64             free(*array_static[i]);
  65             *array_static[i] = NULL;
  66         }
  67         free(array_static);
  68         array_static = 0;
  69     }
  70     last_static = 0;
  71 }
  72
  73 /* cannot call it directly because of 'void **' casting is not automatic */
  74 void __av_freep(void **ptr)
  75 {
  76     av_free(*ptr);
  77     *ptr = NULL;
  78 }
  79
  80 /* encoder management */
  81 AVCodec *first_avcodec;
  82
  83 void register_avcodec(AVCodec *format)
  84 {
  85     AVCodec **p;
  86     p = &first_avcodec;
  87     while (*p != NULL) p = &(*p)->next;
  88     *p = format;
  89     format->next = NULL;
  90 }
  91
  92 void avcodec_get_chroma_sub_sample(int fmt, int *h_shift, int *v_shift){
  93     switch(fmt){
  94     case PIX_FMT_YUV410P:
  95         *h_shift=2;
  96         *v_shift=2;
  97         break;
  98     case PIX_FMT_YUV420P:
  99         *h_shift=1;
 100         *v_shift=1;
 101         break;
 102     case PIX_FMT_YUV411P:
 103         *h_shift=2;
 104         *v_shift=0;
 105         break;
 106     case PIX_FMT_YUV422P:
 107     case PIX_FMT_YUV422:
 108         *h_shift=1;
 109         *v_shift=0;
 110         break;
 111     default: //RGB/...
 112         *h_shift=0;
 113         *v_shift=0;
 114         break;
 115     }
 116 }
 117
 118 typedef struct DefaultPicOpaque{
 119     int last_pic_num;
 120     uint8_t *data[4];
 121 }DefaultPicOpaque;
 122
 123 int avcodec_default_get_buffer(AVCodecContext *s, AVFrame *pic){
 124     int i;
 125     const int width = s->width;
 126     const int height= s->height;
 127     DefaultPicOpaque *opaque;
 128
 129     assert(pic->data[0]==NULL);
 130     assert(pic->type==0 || pic->type==FF_TYPE_INTERNAL);
 131
 132     if(pic->opaque){
 133         opaque= (DefaultPicOpaque *)pic->opaque;
 134         for(i=0; i<3; i++)
 135             pic->data[i]= opaque->data[i];
 136
 137 //    printf("get_buffer %X coded_pic_num:%d last:%d\n", pic->opaque, pic->coded_picture_number, opaque->last_pic_num);
 138         pic->age= pic->coded_picture_number - opaque->last_pic_num;
 139         opaque->last_pic_num= pic->coded_picture_number;
 140 //printf("age: %d %d %d\n", pic->age, c->picture_number, pic->coded_picture_number);
 141     }else{
 142         int align, h_chroma_shift, v_chroma_shift;
 143         int w, h, pixel_size;
 144
 145         avcodec_get_chroma_sub_sample(s->pix_fmt, &h_chroma_shift, &v_chroma_shift);
 146
 147         switch(s->pix_fmt){
 148         case PIX_FMT_YUV422:
 149             pixel_size=2;
 150             break;
 151         case PIX_FMT_RGB24:
 152         case PIX_FMT_BGR24:
 153             pixel_size=3;
 154             break;
 155         case PIX_FMT_BGRA32:
 156         case PIX_FMT_RGBA32:
 157             pixel_size=4;
 158             break;
 159         default:
 160             pixel_size=1;
 161         }
 162
 163         if(s->codec_id==CODEC_ID_SVQ1) align=63;
 164         else                           align=15;
 165
 166         w= (width +align)&~align;
 167         h= (height+align)&~align;
 168
 169         if(!(s->flags&CODEC_FLAG_EMU_EDGE)){
 170             w+= EDGE_WIDTH*2;
 171             h+= EDGE_WIDTH*2;
 172         }
 173
 174         opaque= av_mallocz(sizeof(DefaultPicOpaque));
 175         if(opaque==NULL) return -1;
 176
 177         pic->opaque= opaque;
 178         opaque->last_pic_num= -256*256*256*64;
 179
 180         for(i=0; i<3; i++){
 181             int h_shift= i==0 ? 0 : h_chroma_shift;
 182             int v_shift= i==0 ? 0 : v_chroma_shift;
 183
 184             pic->linesize[i]= pixel_size*w>>h_shift;
 185
 186             pic->base[i]= av_mallocz((pic->linesize[i]*h>>v_shift)+16); //FIXME 16
 187             if(pic->base[i]==NULL) return -1;
 188
 189             memset(pic->base[i], 128, pic->linesize[i]*h>>v_shift);
 190
 191             if(s->flags&CODEC_FLAG_EMU_EDGE)
 192                 pic->data[i] = pic->base[i] + 16; //FIXME 16
 193             else
 194                 pic->data[i] = pic->base[i] + (pic->linesize[i]*EDGE_WIDTH>>v_shift) + (EDGE_WIDTH>>h_shift) + 16; //FIXME 16
 195
 196             opaque->data[i]= pic->data[i];
 197         }
 198         pic->age= 256*256*256*64;
 199         pic->type= FF_BUFFER_TYPE_INTERNAL;
 200     }
 201
 202     return 0;
 203 }
 204
 205 void avcodec_default_release_buffer(AVCodecContext *s, AVFrame *pic){
 206     int i;
 207
 208     assert(pic->type==FF_BUFFER_TYPE_INTERNAL);
 209
 210     for(i=0; i<3; i++)
 211         pic->data[i]=NULL;
 212 //printf("R%X\n", pic->opaque);
 213 }
 214
 215 void avcodec_get_context_defaults(AVCodecContext *s){
 216     s->bit_rate= 800*1000;
 217     s->bit_rate_tolerance= s->bit_rate*10;
 218     s->qmin= 2;
 219     s->qmax= 31;
 220     s->mb_qmin= 2;
 221     s->mb_qmax= 31;
 222     s->rc_eq= "tex^qComp";
 223     s->qcompress= 0.5;
 224     s->max_qdiff= 3;
 225     s->b_quant_factor=1.25;
 226     s->b_quant_offset=1.25;
 227     s->i_quant_factor=-0.8;
 228     s->i_quant_offset=0.0;
 229     s->error_concealment= 3;
 230     s->error_resilience= 1;
 231     s->workaround_bugs= FF_BUG_AUTODETECT;
 232     s->frame_rate = 25 * FRAME_RATE_BASE;
 233     s->gop_size= 50;
 234     s->me_method= ME_EPZS;
 235     s->get_buffer= avcodec_default_get_buffer;
 236     s->release_buffer= avcodec_default_release_buffer;
 237 }
 238
 239 /**
 240  * allocates a AVCodecContext and set it to defaults.
 241  * this can be deallocated by simply calling free()
 242  */
 243 AVCodecContext *avcodec_alloc_context(void){
 244     AVCodecContext *avctx= av_mallocz(sizeof(AVCodecContext));
 245
 246     if(avctx==NULL) return NULL;
 247
 248     avcodec_get_context_defaults(avctx);
 249
 250     return avctx;
 251 }
 252
 253 /**
 254  * allocates a AVPFrame and set it to defaults.
 255  * this can be deallocated by simply calling free()
 256  */
 257 AVFrame *avcodec_alloc_frame(void){
 258     AVFrame *pic= av_mallocz(sizeof(AVFrame));
 259
 260     return pic;
 261 }
 262
 263 int avcodec_open(AVCodecContext *avctx, AVCodec *codec)
 264 {
 265     int ret;
 266
 267     avctx->codec = codec;
 268     avctx->codec_id = codec->id;
 269     avctx->frame_number = 0;
 270     if (codec->priv_data_size > 0) {
 271         avctx->priv_data = av_mallocz(codec->priv_data_size);
 272         if (!avctx->priv_data)
 273             return -ENOMEM;
 274     } else {
 275         avctx->priv_data = NULL;
 276     }
 277     ret = avctx->codec->init(avctx);
 278     if (ret < 0) {
 279         av_freep(&avctx->priv_data);
 280         return ret;
 281     }
 282     return 0;
 283 }
 284
 285 int avcodec_encode_audio(AVCodecContext *avctx, UINT8 *buf, int buf_size,
 286                          const short *samples)
 287 {
 288     int ret;
 289
 290     ret = avctx->codec->encode(avctx, buf, buf_size, (void *)samples);
 291     avctx->frame_number++;
 292     return ret;
 293 }
 294
 295 int avcodec_encode_video(AVCodecContext *avctx, UINT8 *buf, int buf_size,
 296                          const AVFrame *pict)
 297 {
 298     int ret;
 299
 300     ret = avctx->codec->encode(avctx, buf, buf_size, (void *)pict);
 301
 302     emms_c(); //needed to avoid a emms_c() call before every return;
 303
 304     avctx->frame_number++;
 305     return ret;
 306 }
 307
 308 /* decode a frame. return -1 if error, otherwise return the number of
 309    bytes used. If no frame could be decompressed, *got_picture_ptr is
 310    zero. Otherwise, it is non zero */
 311 int avcodec_decode_video(AVCodecContext *avctx, AVFrame *picture,
 312                          int *got_picture_ptr,
 313                          UINT8 *buf, int buf_size)
 314 {
 315     int ret;
 316
 317     ret = avctx->codec->decode(avctx, picture, got_picture_ptr,
 318                                buf, buf_size);
 319
 320     emms_c(); //needed to avoid a emms_c() call before every return;
 321
 322     if (*got_picture_ptr)
 323         avctx->frame_number++;
 324     return ret;
 325 }
 326
 327 /* decode an audio frame. return -1 if error, otherwise return the
 328    *number of bytes used. If no frame could be decompressed,
 329    *frame_size_ptr is zero. Otherwise, it is the decompressed frame
 330    *size in BYTES. */
 331 int avcodec_decode_audio(AVCodecContext *avctx, INT16 *samples,
 332                          int *frame_size_ptr,
 333                          UINT8 *buf, int buf_size)
 334 {
 335     int ret;
 336
 337     ret = avctx->codec->decode(avctx, samples, frame_size_ptr,
 338                                buf, buf_size);
 339     avctx->frame_number++;
 340     return ret;
 341 }
 342
 343 int avcodec_close(AVCodecContext *avctx)
 344 {
 345     if (avctx->codec->close)
 346         avctx->codec->close(avctx);
 347     av_freep(&avctx->priv_data);
 348     avctx->codec = NULL;
 349     return 0;
 350 }
 351
 352 AVCodec *avcodec_find_encoder(enum CodecID id)
 353 {
 354     AVCodec *p;
 355     p = first_avcodec;
 356     while (p) {
 357         if (p->encode != NULL && p->id == id)
 358             return p;
 359         p = p->next;
 360     }
 361     return NULL;
 362 }
 363
 364 AVCodec *avcodec_find_encoder_by_name(const char *name)
 365 {
 366     AVCodec *p;
 367     p = first_avcodec;
 368     while (p) {
 369         if (p->encode != NULL && strcmp(name,p->name) == 0)
 370             return p;
 371         p = p->next;
 372     }
 373     return NULL;
 374 }
 375
 376 AVCodec *avcodec_find_decoder(enum CodecID id)
 377 {
 378     AVCodec *p;
 379     p = first_avcodec;
 380     while (p) {
 381         if (p->decode != NULL && p->id == id)
 382             return p;
 383         p = p->next;
 384     }
 385     return NULL;
 386 }
 387
 388 AVCodec *avcodec_find_decoder_by_name(const char *name)
 389 {
 390     AVCodec *p;
 391     p = first_avcodec;
 392     while (p) {
 393         if (p->decode != NULL && strcmp(name,p->name) == 0)
 394             return p;
 395         p = p->next;
 396     }
 397     return NULL;
 398 }
 399
 400 AVCodec *avcodec_find(enum CodecID id)
 401 {
 402     AVCodec *p;
 403     p = first_avcodec;
 404     while (p) {
 405         if (p->id == id)
 406             return p;
 407         p = p->next;
 408     }
 409     return NULL;
 410 }
 411
 412 const char *pix_fmt_str[] = {
 413     "yuv420p",
 414     "yuv422",
 415     "rgb24",
 416     "bgr24",
 417     "yuv422p",
 418     "yuv444p",
 419     "rgba32",
 420     "bgra32",
 421     "yuv410p",
 422     "yuv411p",
 423 };
 424
 425 void avcodec_string(char *buf, int buf_size, AVCodecContext *enc, int encode)
 426 {
 427     const char *codec_name;
 428     AVCodec *p;
 429     char buf1[32];
 430     char channels_str[100];
 431     int bitrate;
 432
 433     if (encode)
 434         p = avcodec_find_encoder(enc->codec_id);
 435     else
 436         p = avcodec_find_decoder(enc->codec_id);
 437
 438     if (p) {
 439         codec_name = p->name;
 440     } else if (enc->codec_name[0] != '\0') {
 441         codec_name = enc->codec_name;
 442     } else {
 443         /* output avi tags */
 444         if (enc->codec_type == CODEC_TYPE_VIDEO) {
 445             snprintf(buf1, sizeof(buf1), "%c%c%c%c",
 446                      enc->codec_tag & 0xff,
 447                      (enc->codec_tag >> 8) & 0xff,
 448                      (enc->codec_tag >> 16) & 0xff,
 449                      (enc->codec_tag >> 24) & 0xff);
 450         } else {
 451             snprintf(buf1, sizeof(buf1), "0x%04x", enc->codec_tag);
 452         }
 453         codec_name = buf1;
 454     }
 455
 456     switch(enc->codec_type) {
 457     case CODEC_TYPE_VIDEO:
 458         snprintf(buf, buf_size,
 459                  "Video: %s%s",
 460                  codec_name, enc->flags & CODEC_FLAG_HQ ? " (hq)" : "");
 461         if (enc->codec_id == CODEC_ID_RAWVIDEO) {
 462             snprintf(buf + strlen(buf), buf_size - strlen(buf),
 463                      ", %s",
 464                      pix_fmt_str[enc->pix_fmt]);
 465         }
 466         if (enc->width) {
 467             snprintf(buf + strlen(buf), buf_size - strlen(buf),
 468                      ", %dx%d, %0.2f fps",
 469                      enc->width, enc->height,
 470                      (float)enc->frame_rate / FRAME_RATE_BASE);
 471         }
 472         if (encode) {
 473             snprintf(buf + strlen(buf), buf_size - strlen(buf),
 474                      ", q=%d-%d", enc->qmin, enc->qmax);
 475         }
 476         bitrate = enc->bit_rate;
 477         break;
 478     case CODEC_TYPE_AUDIO:
 479         snprintf(buf, buf_size,
 480                  "Audio: %s",
 481                  codec_name);
 482         switch (enc->channels) {
 483             case 1:
 484                 strcpy(channels_str, "mono");
 485                 break;
 486             case 2:
 487                 strcpy(channels_str, "stereo");
 488                 break;
 489             case 6:
 490                 strcpy(channels_str, "5:1");
 491                 break;
 492             default:
 493                 sprintf(channels_str, "%d channels", enc->channels);
 494                 break;
 495         }
 496         if (enc->sample_rate) {
 497             snprintf(buf + strlen(buf), buf_size - strlen(buf),
 498                      ", %d Hz, %s",
 499                      enc->sample_rate,
 500                      channels_str);
 501         }
 502
 503         /* for PCM codecs, compute bitrate directly */
 504         switch(enc->codec_id) {
 505         case CODEC_ID_PCM_S16LE:
 506         case CODEC_ID_PCM_S16BE:
 507         case CODEC_ID_PCM_U16LE:
 508         case CODEC_ID_PCM_U16BE:
 509             bitrate = enc->sample_rate * enc->channels * 16;
 510             break;
 511         case CODEC_ID_PCM_S8:
 512         case CODEC_ID_PCM_U8:
 513         case CODEC_ID_PCM_ALAW:
 514         case CODEC_ID_PCM_MULAW:
 515             bitrate = enc->sample_rate * enc->channels * 8;
 516             break;
 517         default:
 518             bitrate = enc->bit_rate;
 519             break;
 520         }
 521         break;
 522     default:
 523         av_abort();
 524     }
 525     if (encode) {
 526         if (enc->flags & CODEC_FLAG_PASS1)
 527             snprintf(buf + strlen(buf), buf_size - strlen(buf),
 528                      ", pass 1");
 529         if (enc->flags & CODEC_FLAG_PASS2)
 530             snprintf(buf + strlen(buf), buf_size - strlen(buf),
 531                      ", pass 2");
 532     }
 533     if (bitrate != 0) {
 534         snprintf(buf + strlen(buf), buf_size - strlen(buf),
 535                  ", %d kb/s", bitrate / 1000);
 536     }
 537 }
 538
 539 /* Picture field are filled with 'ptr' addresses */
 540 void avpicture_fill(AVPicture *picture, UINT8 *ptr,
 541                     int pix_fmt, int width, int height)
 542 {
 543     int size;
 544
 545     size = width * height;
 546     switch(pix_fmt) {
 547     case PIX_FMT_YUV420P:
 548         picture->data[0] = ptr;
 549         picture->data[1] = picture->data[0] + size;
 550         picture->data[2] = picture->data[1] + size / 4;
 551         picture->linesize[0] = width;
 552         picture->linesize[1] = width / 2;
 553         picture->linesize[2] = width / 2;
 554         break;
 555     case PIX_FMT_YUV422P:
 556         picture->data[0] = ptr;
 557         picture->data[1] = picture->data[0] + size;
 558         picture->data[2] = picture->data[1] + size / 2;
 559         picture->linesize[0] = width;
 560         picture->linesize[1] = width / 2;
 561         picture->linesize[2] = width / 2;
 562         break;
 563     case PIX_FMT_YUV444P:
 564         picture->data[0] = ptr;
 565         picture->data[1] = picture->data[0] + size;
 566         picture->data[2] = picture->data[1] + size;
 567         picture->linesize[0] = width;
 568         picture->linesize[1] = width;
 569         picture->linesize[2] = width;
 570         break;
 571     case PIX_FMT_RGB24:
 572     case PIX_FMT_BGR24:
 573         picture->data[0] = ptr;
 574         picture->data[1] = NULL;
 575         picture->data[2] = NULL;
 576         picture->linesize[0] = width * 3;
 577         break;
 578     case PIX_FMT_RGBA32:
 579     case PIX_FMT_BGRA32:
 580         picture->data[0] = ptr;
 581         picture->data[1] = NULL;
 582         picture->data[2] = NULL;
 583         picture->linesize[0] = width * 4;
 584         break;
 585     case PIX_FMT_YUV422:
 586         picture->data[0] = ptr;
 587         picture->data[1] = NULL;
 588         picture->data[2] = NULL;
 589         picture->linesize[0] = width * 2;
 590         break;
 591     default:
 592         picture->data[0] = NULL;
 593         picture->data[1] = NULL;
 594         picture->data[2] = NULL;
 595         break;
 596     }
 597 }
 598
 599 int avpicture_get_size(int pix_fmt, int width, int height)
 600 {
 601     int size;
 602
 603     size = width * height;
 604     switch(pix_fmt) {
 605     case PIX_FMT_YUV420P:
 606         size = (size * 3) / 2;
 607         break;
 608     case PIX_FMT_YUV422P:
 609         size = (size * 2);
 610         break;
 611     case PIX_FMT_YUV444P:
 612         size = (size * 3);
 613         break;
 614     case PIX_FMT_RGB24:
 615     case PIX_FMT_BGR24:
 616         size = (size * 3);
 617         break;
 618     case PIX_FMT_RGBA32:
 619     case PIX_FMT_BGRA32:
 620         size = (size * 4);
 621         break;
 622     case PIX_FMT_YUV422:
 623         size = (size * 2);
 624         break;
 625     default:
 626         size = -1;
 627         break;
 628     }
 629     return size;
 630 }
 631
 632 unsigned avcodec_version( void )
 633 {
 634   return LIBAVCODEC_VERSION_INT;
 635 }
 636
 637 unsigned avcodec_build( void )
 638 {
 639   return LIBAVCODEC_BUILD;
 640 }
 641
 642 /* must be called before any other functions */
 643 void avcodec_init(void)
 644 {
 645     static int inited = 0;
 646
 647     if (inited != 0)
 648         return;
 649     inited = 1;
 650
 651     //dsputil_init();
 652 }
 653
 654 /* this can be called after seeking and before trying to decode the next keyframe */
 655 void avcodec_flush_buffers(AVCodecContext *avctx)
 656 {
 657     int i;
 658     MpegEncContext *s = avctx->priv_data;
 659
 660     switch(avctx->codec_id){
 661     case CODEC_ID_MPEG1VIDEO:
 662     case CODEC_ID_H263:
 663     case CODEC_ID_RV10:
 664     case CODEC_ID_MJPEG:
 665     case CODEC_ID_MJPEGB:
 666     case CODEC_ID_MPEG4:
 667     case CODEC_ID_MSMPEG4V1:
 668     case CODEC_ID_MSMPEG4V2:
 669     case CODEC_ID_MSMPEG4V3:
 670     case CODEC_ID_WMV1:
 671     case CODEC_ID_WMV2:
 672     case CODEC_ID_H263P:
 673     case CODEC_ID_H263I:
 674     case CODEC_ID_SVQ1:
 675         for(i=0; i<MAX_PICTURE_COUNT; i++){
 676            if(s->picture[i].data[0] && (   s->picture[i].type == FF_BUFFER_TYPE_INTERNAL
 677                                         || s->picture[i].type == FF_BUFFER_TYPE_USER))
 678             avctx->release_buffer(avctx, (AVFrame*)&s->picture[i]);
 679         }
 680         break;
 681     default:
 682         //FIXME
 683         break;
 684     }
 685 }
 686
 687 static int raw_encode_init(AVCodecContext *s)
 688 {
 689     return 0;
 690 }
 691
 692 static int raw_decode_frame(AVCodecContext *avctx,
 693                             void *data, int *data_size,
 694                             UINT8 *buf, int buf_size)
 695 {
 696     return -1;
 697 }
 698
 699 static int raw_encode_frame(AVCodecContext *avctx,
 700                             unsigned char *frame, int buf_size, void *data)
 701 {
 702     return -1;
 703 }
 704
 705 AVCodec rawvideo_codec = {
 706     "rawvideo",
 707     CODEC_TYPE_VIDEO,
 708     CODEC_ID_RAWVIDEO,
 709     0,
 710     raw_encode_init,
 711     raw_encode_frame,
 712     NULL,
 713     raw_decode_frame,
 714 };