git.sesse.net Git - ffmpeg/blob - libavutil/hwcontext.c

   1 /*
   2  * This file is part of FFmpeg.
   3  *
   4  * FFmpeg is free software; you can redistribute it and/or
   5  * modify it under the terms of the GNU Lesser General Public
   6  * License as published by the Free Software Foundation; either
   7  * version 2.1 of the License, or (at your option) any later version.
   8  *
   9  * FFmpeg is distributed in the hope that it will be useful,
  10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  12  * Lesser General Public License for more details.
  13  *
  14  * You should have received a copy of the GNU Lesser General Public
  15  * License along with FFmpeg; if not, write to the Free Software
  16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  17  */
  18
  19 #include "config.h"
  20
  21 #include "buffer.h"
  22 #include "common.h"
  23 #include "hwcontext.h"
  24 #include "hwcontext_internal.h"
  25 #include "imgutils.h"
  26 #include "log.h"
  27 #include "mem.h"
  28 #include "pixdesc.h"
  29 #include "pixfmt.h"
  30
  31 static const HWContextType * const hw_table[] = {
  32 #if CONFIG_CUDA
  33     &ff_hwcontext_type_cuda,
  34 #endif
  35 #if CONFIG_D3D11VA
  36     &ff_hwcontext_type_d3d11va,
  37 #endif
  38 #if CONFIG_LIBDRM
  39     &ff_hwcontext_type_drm,
  40 #endif
  41 #if CONFIG_DXVA2
  42     &ff_hwcontext_type_dxva2,
  43 #endif
  44 #if CONFIG_OPENCL
  45     &ff_hwcontext_type_opencl,
  46 #endif
  47 #if CONFIG_QSV
  48     &ff_hwcontext_type_qsv,
  49 #endif
  50 #if CONFIG_VAAPI
  51     &ff_hwcontext_type_vaapi,
  52 #endif
  53 #if CONFIG_VDPAU
  54     &ff_hwcontext_type_vdpau,
  55 #endif
  56 #if CONFIG_VIDEOTOOLBOX
  57     &ff_hwcontext_type_videotoolbox,
  58 #endif
  59 #if CONFIG_MEDIACODEC
  60     &ff_hwcontext_type_mediacodec,
  61 #endif
  62     NULL,
  63 };
  64
  65 static const char *const hw_type_names[] = {
  66     [AV_HWDEVICE_TYPE_CUDA]   = "cuda",
  67     [AV_HWDEVICE_TYPE_DRM]    = "drm",
  68     [AV_HWDEVICE_TYPE_DXVA2]  = "dxva2",
  69     [AV_HWDEVICE_TYPE_D3D11VA] = "d3d11va",
  70     [AV_HWDEVICE_TYPE_OPENCL] = "opencl",
  71     [AV_HWDEVICE_TYPE_QSV]    = "qsv",
  72     [AV_HWDEVICE_TYPE_VAAPI]  = "vaapi",
  73     [AV_HWDEVICE_TYPE_VDPAU]  = "vdpau",
  74     [AV_HWDEVICE_TYPE_VIDEOTOOLBOX] = "videotoolbox",
  75     [AV_HWDEVICE_TYPE_MEDIACODEC] = "mediacodec",
  76 };
  77
  78 enum AVHWDeviceType av_hwdevice_find_type_by_name(const char *name)
  79 {
  80     int type;
  81     for (type = 0; type < FF_ARRAY_ELEMS(hw_type_names); type++) {
  82         if (hw_type_names[type] && !strcmp(hw_type_names[type], name))
  83             return type;
  84     }
  85     return AV_HWDEVICE_TYPE_NONE;
  86 }
  87
  88 const char *av_hwdevice_get_type_name(enum AVHWDeviceType type)
  89 {
  90     if (type > AV_HWDEVICE_TYPE_NONE &&
  91         type < FF_ARRAY_ELEMS(hw_type_names))
  92         return hw_type_names[type];
  93     else
  94         return NULL;
  95 }
  96
  97 enum AVHWDeviceType av_hwdevice_iterate_types(enum AVHWDeviceType prev)
  98 {
  99     enum AVHWDeviceType next;
 100     int i, set = 0;
 101     for (i = 0; hw_table[i]; i++) {
 102         if (prev != AV_HWDEVICE_TYPE_NONE && hw_table[i]->type <= prev)
 103             continue;
 104         if (!set || hw_table[i]->type < next) {
 105             next = hw_table[i]->type;
 106             set = 1;
 107         }
 108     }
 109     return set ? next : AV_HWDEVICE_TYPE_NONE;
 110 }
 111
 112 static const AVClass hwdevice_ctx_class = {
 113     .class_name = "AVHWDeviceContext",
 114     .item_name  = av_default_item_name,
 115     .version    = LIBAVUTIL_VERSION_INT,
 116 };
 117
 118 static void hwdevice_ctx_free(void *opaque, uint8_t *data)
 119 {
 120     AVHWDeviceContext *ctx = (AVHWDeviceContext*)data;
 121
 122     /* uninit might still want access the hw context and the user
 123      * free() callback might destroy it, so uninit has to be called first */
 124     if (ctx->internal->hw_type->device_uninit)
 125         ctx->internal->hw_type->device_uninit(ctx);
 126
 127     if (ctx->free)
 128         ctx->free(ctx);
 129
 130     av_buffer_unref(&ctx->internal->source_device);
 131
 132     av_freep(&ctx->hwctx);
 133     av_freep(&ctx->internal->priv);
 134     av_freep(&ctx->internal);
 135     av_freep(&ctx);
 136 }
 137
 138 AVBufferRef *av_hwdevice_ctx_alloc(enum AVHWDeviceType type)
 139 {
 140     AVHWDeviceContext *ctx;
 141     AVBufferRef *buf;
 142     const HWContextType *hw_type = NULL;
 143     int i;
 144
 145     for (i = 0; hw_table[i]; i++) {
 146         if (hw_table[i]->type == type) {
 147             hw_type = hw_table[i];
 148             break;
 149         }
 150     }
 151     if (!hw_type)
 152         return NULL;
 153
 154     ctx = av_mallocz(sizeof(*ctx));
 155     if (!ctx)
 156         return NULL;
 157
 158     ctx->internal = av_mallocz(sizeof(*ctx->internal));
 159     if (!ctx->internal)
 160         goto fail;
 161
 162     if (hw_type->device_priv_size) {
 163         ctx->internal->priv = av_mallocz(hw_type->device_priv_size);
 164         if (!ctx->internal->priv)
 165             goto fail;
 166     }
 167
 168     if (hw_type->device_hwctx_size) {
 169         ctx->hwctx = av_mallocz(hw_type->device_hwctx_size);
 170         if (!ctx->hwctx)
 171             goto fail;
 172     }
 173
 174     buf = av_buffer_create((uint8_t*)ctx, sizeof(*ctx),
 175                            hwdevice_ctx_free, NULL,
 176                            AV_BUFFER_FLAG_READONLY);
 177     if (!buf)
 178         goto fail;
 179
 180     ctx->type     = type;
 181     ctx->av_class = &hwdevice_ctx_class;
 182
 183     ctx->internal->hw_type = hw_type;
 184
 185     return buf;
 186
 187 fail:
 188     if (ctx->internal)
 189         av_freep(&ctx->internal->priv);
 190     av_freep(&ctx->internal);
 191     av_freep(&ctx->hwctx);
 192     av_freep(&ctx);
 193     return NULL;
 194 }
 195
 196 int av_hwdevice_ctx_init(AVBufferRef *ref)
 197 {
 198     AVHWDeviceContext *ctx = (AVHWDeviceContext*)ref->data;
 199     int ret;
 200
 201     if (ctx->internal->hw_type->device_init) {
 202         ret = ctx->internal->hw_type->device_init(ctx);
 203         if (ret < 0)
 204             goto fail;
 205     }
 206
 207     return 0;
 208 fail:
 209     if (ctx->internal->hw_type->device_uninit)
 210         ctx->internal->hw_type->device_uninit(ctx);
 211     return ret;
 212 }
 213
 214 static const AVClass hwframe_ctx_class = {
 215     .class_name = "AVHWFramesContext",
 216     .item_name  = av_default_item_name,
 217     .version    = LIBAVUTIL_VERSION_INT,
 218 };
 219
 220 static void hwframe_ctx_free(void *opaque, uint8_t *data)
 221 {
 222     AVHWFramesContext *ctx = (AVHWFramesContext*)data;
 223
 224     if (ctx->internal->pool_internal)
 225         av_buffer_pool_uninit(&ctx->internal->pool_internal);
 226
 227     if (ctx->internal->hw_type->frames_uninit)
 228         ctx->internal->hw_type->frames_uninit(ctx);
 229
 230     if (ctx->free)
 231         ctx->free(ctx);
 232
 233     av_buffer_unref(&ctx->internal->source_frames);
 234
 235     av_buffer_unref(&ctx->device_ref);
 236
 237     av_freep(&ctx->hwctx);
 238     av_freep(&ctx->internal->priv);
 239     av_freep(&ctx->internal);
 240     av_freep(&ctx);
 241 }
 242
 243 AVBufferRef *av_hwframe_ctx_alloc(AVBufferRef *device_ref_in)
 244 {
 245     AVHWDeviceContext *device_ctx = (AVHWDeviceContext*)device_ref_in->data;
 246     const HWContextType  *hw_type = device_ctx->internal->hw_type;
 247     AVHWFramesContext *ctx;
 248     AVBufferRef *buf, *device_ref = NULL;
 249
 250     ctx = av_mallocz(sizeof(*ctx));
 251     if (!ctx)
 252         return NULL;
 253
 254     ctx->internal = av_mallocz(sizeof(*ctx->internal));
 255     if (!ctx->internal)
 256         goto fail;
 257
 258     if (hw_type->frames_priv_size) {
 259         ctx->internal->priv = av_mallocz(hw_type->frames_priv_size);
 260         if (!ctx->internal->priv)
 261             goto fail;
 262     }
 263
 264     if (hw_type->frames_hwctx_size) {
 265         ctx->hwctx = av_mallocz(hw_type->frames_hwctx_size);
 266         if (!ctx->hwctx)
 267             goto fail;
 268     }
 269
 270     device_ref = av_buffer_ref(device_ref_in);
 271     if (!device_ref)
 272         goto fail;
 273
 274     buf = av_buffer_create((uint8_t*)ctx, sizeof(*ctx),
 275                            hwframe_ctx_free, NULL,
 276                            AV_BUFFER_FLAG_READONLY);
 277     if (!buf)
 278         goto fail;
 279
 280     ctx->av_class   = &hwframe_ctx_class;
 281     ctx->device_ref = device_ref;
 282     ctx->device_ctx = device_ctx;
 283     ctx->format     = AV_PIX_FMT_NONE;
 284     ctx->sw_format  = AV_PIX_FMT_NONE;
 285
 286     ctx->internal->hw_type = hw_type;
 287
 288     return buf;
 289
 290 fail:
 291     if (device_ref)
 292         av_buffer_unref(&device_ref);
 293     if (ctx->internal)
 294         av_freep(&ctx->internal->priv);
 295     av_freep(&ctx->internal);
 296     av_freep(&ctx->hwctx);
 297     av_freep(&ctx);
 298     return NULL;
 299 }
 300
 301 static int hwframe_pool_prealloc(AVBufferRef *ref)
 302 {
 303     AVHWFramesContext *ctx = (AVHWFramesContext*)ref->data;
 304     AVFrame **frames;
 305     int i, ret = 0;
 306
 307     frames = av_mallocz_array(ctx->initial_pool_size, sizeof(*frames));
 308     if (!frames)
 309         return AVERROR(ENOMEM);
 310
 311     for (i = 0; i < ctx->initial_pool_size; i++) {
 312         frames[i] = av_frame_alloc();
 313         if (!frames[i])
 314             goto fail;
 315
 316         ret = av_hwframe_get_buffer(ref, frames[i], 0);
 317         if (ret < 0)
 318             goto fail;
 319     }
 320
 321 fail:
 322     for (i = 0; i < ctx->initial_pool_size; i++)
 323         av_frame_free(&frames[i]);
 324     av_freep(&frames);
 325
 326     return ret;
 327 }
 328
 329 int av_hwframe_ctx_init(AVBufferRef *ref)
 330 {
 331     AVHWFramesContext *ctx = (AVHWFramesContext*)ref->data;
 332     const enum AVPixelFormat *pix_fmt;
 333     int ret;
 334
 335     if (ctx->internal->source_frames) {
 336         /* A derived frame context is already initialised. */
 337         return 0;
 338     }
 339
 340     /* validate the pixel format */
 341     for (pix_fmt = ctx->internal->hw_type->pix_fmts; *pix_fmt != AV_PIX_FMT_NONE; pix_fmt++) {
 342         if (*pix_fmt == ctx->format)
 343             break;
 344     }
 345     if (*pix_fmt == AV_PIX_FMT_NONE) {
 346         av_log(ctx, AV_LOG_ERROR,
 347                "The hardware pixel format '%s' is not supported by the device type '%s'\n",
 348                av_get_pix_fmt_name(ctx->format), ctx->internal->hw_type->name);
 349         return AVERROR(ENOSYS);
 350     }
 351
 352     /* validate the dimensions */
 353     ret = av_image_check_size(ctx->width, ctx->height, 0, ctx);
 354     if (ret < 0)
 355         return ret;
 356
 357     /* format-specific init */
 358     if (ctx->internal->hw_type->frames_init) {
 359         ret = ctx->internal->hw_type->frames_init(ctx);
 360         if (ret < 0)
 361             goto fail;
 362     }
 363
 364     if (ctx->internal->pool_internal && !ctx->pool)
 365         ctx->pool = ctx->internal->pool_internal;
 366
 367     /* preallocate the frames in the pool, if requested */
 368     if (ctx->initial_pool_size > 0) {
 369         ret = hwframe_pool_prealloc(ref);
 370         if (ret < 0)
 371             goto fail;
 372     }
 373
 374     return 0;
 375 fail:
 376     if (ctx->internal->hw_type->frames_uninit)
 377         ctx->internal->hw_type->frames_uninit(ctx);
 378     return ret;
 379 }
 380
 381 int av_hwframe_transfer_get_formats(AVBufferRef *hwframe_ref,
 382                                     enum AVHWFrameTransferDirection dir,
 383                                     enum AVPixelFormat **formats, int flags)
 384 {
 385     AVHWFramesContext *ctx = (AVHWFramesContext*)hwframe_ref->data;
 386
 387     if (!ctx->internal->hw_type->transfer_get_formats)
 388         return AVERROR(ENOSYS);
 389
 390     return ctx->internal->hw_type->transfer_get_formats(ctx, dir, formats);
 391 }
 392
 393 static int transfer_data_alloc(AVFrame *dst, const AVFrame *src, int flags)
 394 {
 395     AVHWFramesContext *ctx = (AVHWFramesContext*)src->hw_frames_ctx->data;
 396     AVFrame *frame_tmp;
 397     int ret = 0;
 398
 399     frame_tmp = av_frame_alloc();
 400     if (!frame_tmp)
 401         return AVERROR(ENOMEM);
 402
 403     /* if the format is set, use that
 404      * otherwise pick the first supported one */
 405     if (dst->format >= 0) {
 406         frame_tmp->format = dst->format;
 407     } else {
 408         enum AVPixelFormat *formats;
 409
 410         ret = av_hwframe_transfer_get_formats(src->hw_frames_ctx,
 411                                               AV_HWFRAME_TRANSFER_DIRECTION_FROM,
 412                                               &formats, 0);
 413         if (ret < 0)
 414             goto fail;
 415         frame_tmp->format = formats[0];
 416         av_freep(&formats);
 417     }
 418     frame_tmp->width  = ctx->width;
 419     frame_tmp->height = ctx->height;
 420
 421     ret = av_frame_get_buffer(frame_tmp, 32);
 422     if (ret < 0)
 423         goto fail;
 424
 425     ret = av_hwframe_transfer_data(frame_tmp, src, flags);
 426     if (ret < 0)
 427         goto fail;
 428
 429     frame_tmp->width  = src->width;
 430     frame_tmp->height = src->height;
 431
 432     av_frame_move_ref(dst, frame_tmp);
 433
 434 fail:
 435     av_frame_free(&frame_tmp);
 436     return ret;
 437 }
 438
 439 int av_hwframe_transfer_data(AVFrame *dst, const AVFrame *src, int flags)
 440 {
 441     AVHWFramesContext *ctx;
 442     int ret;
 443
 444     if (!dst->buf[0])
 445         return transfer_data_alloc(dst, src, flags);
 446
 447     if (src->hw_frames_ctx) {
 448         ctx = (AVHWFramesContext*)src->hw_frames_ctx->data;
 449
 450         ret = ctx->internal->hw_type->transfer_data_from(ctx, dst, src);
 451         if (ret < 0)
 452             return ret;
 453     } else if (dst->hw_frames_ctx) {
 454         ctx = (AVHWFramesContext*)dst->hw_frames_ctx->data;
 455
 456         ret = ctx->internal->hw_type->transfer_data_to(ctx, dst, src);
 457         if (ret < 0)
 458             return ret;
 459     } else
 460         return AVERROR(ENOSYS);
 461
 462     return 0;
 463 }
 464
 465 int av_hwframe_get_buffer(AVBufferRef *hwframe_ref, AVFrame *frame, int flags)
 466 {
 467     AVHWFramesContext *ctx = (AVHWFramesContext*)hwframe_ref->data;
 468     int ret;
 469
 470     if (ctx->internal->source_frames) {
 471         // This is a derived frame context, so we allocate in the source
 472         // and map the frame immediately.
 473         AVFrame *src_frame;
 474
 475         frame->format = ctx->format;
 476         frame->hw_frames_ctx = av_buffer_ref(hwframe_ref);
 477         if (!frame->hw_frames_ctx)
 478             return AVERROR(ENOMEM);
 479
 480         src_frame = av_frame_alloc();
 481         if (!src_frame)
 482             return AVERROR(ENOMEM);
 483
 484         ret = av_hwframe_get_buffer(ctx->internal->source_frames,
 485                                     src_frame, 0);
 486         if (ret < 0)
 487             return ret;
 488
 489         ret = av_hwframe_map(frame, src_frame,
 490                              ctx->internal->source_allocation_map_flags);
 491         if (ret) {
 492             av_log(ctx, AV_LOG_ERROR, "Failed to map frame into derived "
 493                    "frame context: %d.\n", ret);
 494             av_frame_free(&src_frame);
 495             return ret;
 496         }
 497
 498         // Free the source frame immediately - the mapped frame still
 499         // contains a reference to it.
 500         av_frame_free(&src_frame);
 501
 502         return 0;
 503     }
 504
 505     if (!ctx->internal->hw_type->frames_get_buffer)
 506         return AVERROR(ENOSYS);
 507
 508     if (!ctx->pool)
 509         return AVERROR(EINVAL);
 510
 511     frame->hw_frames_ctx = av_buffer_ref(hwframe_ref);
 512     if (!frame->hw_frames_ctx)
 513         return AVERROR(ENOMEM);
 514
 515     ret = ctx->internal->hw_type->frames_get_buffer(ctx, frame);
 516     if (ret < 0) {
 517         av_buffer_unref(&frame->hw_frames_ctx);
 518         return ret;
 519     }
 520
 521     return 0;
 522 }
 523
 524 void *av_hwdevice_hwconfig_alloc(AVBufferRef *ref)
 525 {
 526     AVHWDeviceContext *ctx = (AVHWDeviceContext*)ref->data;
 527     const HWContextType  *hw_type = ctx->internal->hw_type;
 528
 529     if (hw_type->device_hwconfig_size == 0)
 530         return NULL;
 531
 532     return av_mallocz(hw_type->device_hwconfig_size);
 533 }
 534
 535 AVHWFramesConstraints *av_hwdevice_get_hwframe_constraints(AVBufferRef *ref,
 536                                                            const void *hwconfig)
 537 {
 538     AVHWDeviceContext *ctx = (AVHWDeviceContext*)ref->data;
 539     const HWContextType  *hw_type = ctx->internal->hw_type;
 540     AVHWFramesConstraints *constraints;
 541
 542     if (!hw_type->frames_get_constraints)
 543         return NULL;
 544
 545     constraints = av_mallocz(sizeof(*constraints));
 546     if (!constraints)
 547         return NULL;
 548
 549     constraints->min_width = constraints->min_height = 0;
 550     constraints->max_width = constraints->max_height = INT_MAX;
 551
 552     if (hw_type->frames_get_constraints(ctx, hwconfig, constraints) >= 0) {
 553         return constraints;
 554     } else {
 555         av_hwframe_constraints_free(&constraints);
 556         return NULL;
 557     }
 558 }
 559
 560 void av_hwframe_constraints_free(AVHWFramesConstraints **constraints)
 561 {
 562     if (*constraints) {
 563         av_freep(&(*constraints)->valid_hw_formats);
 564         av_freep(&(*constraints)->valid_sw_formats);
 565     }
 566     av_freep(constraints);
 567 }
 568
 569 int av_hwdevice_ctx_create(AVBufferRef **pdevice_ref, enum AVHWDeviceType type,
 570                            const char *device, AVDictionary *opts, int flags)
 571 {
 572     AVBufferRef *device_ref = NULL;
 573     AVHWDeviceContext *device_ctx;
 574     int ret = 0;
 575
 576     device_ref = av_hwdevice_ctx_alloc(type);
 577     if (!device_ref) {
 578         ret = AVERROR(ENOMEM);
 579         goto fail;
 580     }
 581     device_ctx = (AVHWDeviceContext*)device_ref->data;
 582
 583     if (!device_ctx->internal->hw_type->device_create) {
 584         ret = AVERROR(ENOSYS);
 585         goto fail;
 586     }
 587
 588     ret = device_ctx->internal->hw_type->device_create(device_ctx, device,
 589                                                        opts, flags);
 590     if (ret < 0)
 591         goto fail;
 592
 593     ret = av_hwdevice_ctx_init(device_ref);
 594     if (ret < 0)
 595         goto fail;
 596
 597     *pdevice_ref = device_ref;
 598     return 0;
 599 fail:
 600     av_buffer_unref(&device_ref);
 601     *pdevice_ref = NULL;
 602     return ret;
 603 }
 604
 605 int av_hwdevice_ctx_create_derived(AVBufferRef **dst_ref_ptr,
 606                                    enum AVHWDeviceType type,
 607                                    AVBufferRef *src_ref, int flags)
 608 {
 609     AVBufferRef *dst_ref = NULL, *tmp_ref;
 610     AVHWDeviceContext *dst_ctx, *tmp_ctx;
 611     int ret = 0;
 612
 613     tmp_ref = src_ref;
 614     while (tmp_ref) {
 615         tmp_ctx = (AVHWDeviceContext*)tmp_ref->data;
 616         if (tmp_ctx->type == type) {
 617             dst_ref = av_buffer_ref(tmp_ref);
 618             if (!dst_ref) {
 619                 ret = AVERROR(ENOMEM);
 620                 goto fail;
 621             }
 622             goto done;
 623         }
 624         tmp_ref = tmp_ctx->internal->source_device;
 625     }
 626
 627     dst_ref = av_hwdevice_ctx_alloc(type);
 628     if (!dst_ref) {
 629         ret = AVERROR(ENOMEM);
 630         goto fail;
 631     }
 632     dst_ctx = (AVHWDeviceContext*)dst_ref->data;
 633
 634     tmp_ref = src_ref;
 635     while (tmp_ref) {
 636         tmp_ctx = (AVHWDeviceContext*)tmp_ref->data;
 637         if (dst_ctx->internal->hw_type->device_derive) {
 638             ret = dst_ctx->internal->hw_type->device_derive(dst_ctx,
 639                                                             tmp_ctx,
 640                                                             flags);
 641             if (ret == 0) {
 642                 dst_ctx->internal->source_device = av_buffer_ref(src_ref);
 643                 if (!dst_ctx->internal->source_device) {
 644                     ret = AVERROR(ENOMEM);
 645                     goto fail;
 646                 }
 647                 goto done;
 648             }
 649             if (ret != AVERROR(ENOSYS))
 650                 goto fail;
 651         }
 652         tmp_ref = tmp_ctx->internal->source_device;
 653     }
 654
 655     ret = AVERROR(ENOSYS);
 656     goto fail;
 657
 658 done:
 659     ret = av_hwdevice_ctx_init(dst_ref);
 660     if (ret < 0)
 661         goto fail;
 662
 663     *dst_ref_ptr = dst_ref;
 664     return 0;
 665
 666 fail:
 667     av_buffer_unref(&dst_ref);
 668     *dst_ref_ptr = NULL;
 669     return ret;
 670 }
 671
 672 static void ff_hwframe_unmap(void *opaque, uint8_t *data)
 673 {
 674     HWMapDescriptor *hwmap = (HWMapDescriptor*)data;
 675     AVHWFramesContext *ctx = opaque;
 676
 677     if (hwmap->unmap)
 678         hwmap->unmap(ctx, hwmap);
 679
 680     av_frame_free(&hwmap->source);
 681
 682     av_buffer_unref(&hwmap->hw_frames_ctx);
 683
 684     av_free(hwmap);
 685 }
 686
 687 int ff_hwframe_map_create(AVBufferRef *hwframe_ref,
 688                           AVFrame *dst, const AVFrame *src,
 689                           void (*unmap)(AVHWFramesContext *ctx,
 690                                         HWMapDescriptor *hwmap),
 691                           void *priv)
 692 {
 693     AVHWFramesContext *ctx = (AVHWFramesContext*)hwframe_ref->data;
 694     HWMapDescriptor *hwmap;
 695     int ret;
 696
 697     hwmap = av_mallocz(sizeof(*hwmap));
 698     if (!hwmap) {
 699         ret = AVERROR(ENOMEM);
 700         goto fail;
 701     }
 702
 703     hwmap->source = av_frame_alloc();
 704     if (!hwmap->source) {
 705         ret = AVERROR(ENOMEM);
 706         goto fail;
 707     }
 708     ret = av_frame_ref(hwmap->source, src);
 709     if (ret < 0)
 710         goto fail;
 711
 712     hwmap->hw_frames_ctx = av_buffer_ref(hwframe_ref);
 713     if (!hwmap->hw_frames_ctx) {
 714         ret = AVERROR(ENOMEM);
 715         goto fail;
 716     }
 717
 718     hwmap->unmap = unmap;
 719     hwmap->priv  = priv;
 720
 721     dst->buf[0] = av_buffer_create((uint8_t*)hwmap, sizeof(*hwmap),
 722                                    &ff_hwframe_unmap, ctx, 0);
 723     if (!dst->buf[0]) {
 724         ret = AVERROR(ENOMEM);
 725         goto fail;
 726     }
 727
 728     return 0;
 729
 730 fail:
 731     if (hwmap) {
 732         av_buffer_unref(&hwmap->hw_frames_ctx);
 733         av_frame_free(&hwmap->source);
 734     }
 735     av_free(hwmap);
 736     return ret;
 737 }
 738
 739 int av_hwframe_map(AVFrame *dst, const AVFrame *src, int flags)
 740 {
 741     AVHWFramesContext *src_frames, *dst_frames;
 742     HWMapDescriptor *hwmap;
 743     int ret;
 744
 745     if (src->hw_frames_ctx && dst->hw_frames_ctx) {
 746         src_frames = (AVHWFramesContext*)src->hw_frames_ctx->data;
 747         dst_frames = (AVHWFramesContext*)dst->hw_frames_ctx->data;
 748
 749         if ((src_frames == dst_frames &&
 750              src->format == dst_frames->sw_format &&
 751              dst->format == dst_frames->format) ||
 752             (src_frames->internal->source_frames &&
 753              src_frames->internal->source_frames->data ==
 754              (uint8_t*)dst_frames)) {
 755             // This is an unmap operation.  We don't need to directly
 756             // do anything here other than fill in the original frame,
 757             // because the real unmap will be invoked when the last
 758             // reference to the mapped frame disappears.
 759             if (!src->buf[0]) {
 760                 av_log(src_frames, AV_LOG_ERROR, "Invalid mapping "
 761                        "found when attempting unmap.\n");
 762                 return AVERROR(EINVAL);
 763             }
 764             hwmap = (HWMapDescriptor*)src->buf[0]->data;
 765             av_frame_unref(dst);
 766             return av_frame_ref(dst, hwmap->source);
 767         }
 768     }
 769
 770     if (src->hw_frames_ctx) {
 771         src_frames = (AVHWFramesContext*)src->hw_frames_ctx->data;
 772
 773         if (src_frames->format == src->format &&
 774             src_frames->internal->hw_type->map_from) {
 775             ret = src_frames->internal->hw_type->map_from(src_frames,
 776                                                           dst, src, flags);
 777             if (ret != AVERROR(ENOSYS))
 778                 return ret;
 779         }
 780     }
 781
 782     if (dst->hw_frames_ctx) {
 783         dst_frames = (AVHWFramesContext*)dst->hw_frames_ctx->data;
 784
 785         if (dst_frames->format == dst->format &&
 786             dst_frames->internal->hw_type->map_to) {
 787             ret = dst_frames->internal->hw_type->map_to(dst_frames,
 788                                                         dst, src, flags);
 789             if (ret != AVERROR(ENOSYS))
 790                 return ret;
 791         }
 792     }
 793
 794     return AVERROR(ENOSYS);
 795 }
 796
 797 int av_hwframe_ctx_create_derived(AVBufferRef **derived_frame_ctx,
 798                                   enum AVPixelFormat format,
 799                                   AVBufferRef *derived_device_ctx,
 800                                   AVBufferRef *source_frame_ctx,
 801                                   int flags)
 802 {
 803     AVBufferRef   *dst_ref = NULL;
 804     AVHWFramesContext *dst = NULL;
 805     AVHWFramesContext *src = (AVHWFramesContext*)source_frame_ctx->data;
 806     int ret;
 807
 808     if (src->internal->source_frames) {
 809         AVHWFramesContext *src_src =
 810             (AVHWFramesContext*)src->internal->source_frames->data;
 811         AVHWDeviceContext *dst_dev =
 812             (AVHWDeviceContext*)derived_device_ctx->data;
 813
 814         if (src_src->device_ctx == dst_dev) {
 815             // This is actually an unmapping, so we just return a
 816             // reference to the source frame context.
 817             *derived_frame_ctx =
 818                 av_buffer_ref(src->internal->source_frames);
 819             if (!*derived_frame_ctx) {
 820                 ret = AVERROR(ENOMEM);
 821                 goto fail;
 822             }
 823             return 0;
 824         }
 825     }
 826
 827     dst_ref = av_hwframe_ctx_alloc(derived_device_ctx);
 828     if (!dst_ref) {
 829         ret = AVERROR(ENOMEM);
 830         goto fail;
 831     }
 832
 833     dst = (AVHWFramesContext*)dst_ref->data;
 834
 835     dst->format    = format;
 836     dst->sw_format = src->sw_format;
 837     dst->width     = src->width;
 838     dst->height    = src->height;
 839
 840     dst->internal->source_frames = av_buffer_ref(source_frame_ctx);
 841     if (!dst->internal->source_frames) {
 842         ret = AVERROR(ENOMEM);
 843         goto fail;
 844     }
 845
 846     dst->internal->source_allocation_map_flags =
 847         flags & (AV_HWFRAME_MAP_READ      |
 848                  AV_HWFRAME_MAP_WRITE     |
 849                  AV_HWFRAME_MAP_OVERWRITE |
 850                  AV_HWFRAME_MAP_DIRECT);
 851
 852     ret = AVERROR(ENOSYS);
 853     if (src->internal->hw_type->frames_derive_from)
 854         ret = src->internal->hw_type->frames_derive_from(dst, src, flags);
 855     if (ret == AVERROR(ENOSYS) &&
 856         dst->internal->hw_type->frames_derive_to)
 857         ret = dst->internal->hw_type->frames_derive_to(dst, src, flags);
 858     if (ret == AVERROR(ENOSYS))
 859         ret = 0;
 860     if (ret)
 861         goto fail;
 862
 863     *derived_frame_ctx = dst_ref;
 864     return 0;
 865
 866 fail:
 867     if (dst)
 868         av_buffer_unref(&dst->internal->source_frames);
 869     av_buffer_unref(&dst_ref);
 870     return ret;
 871 }