git.sesse.net Git - ffmpeg/blob - libavcodec/qsv.c

   1 /*
   2  * Intel MediaSDK QSV encoder/decoder shared code
   3  *
   4  * This file is part of FFmpeg.
   5  *
   6  * FFmpeg is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * FFmpeg is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with FFmpeg; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  19  */
  20
  21 #include <mfx/mfxvideo.h>
  22
  23 #include "libavutil/error.h"
  24
  25 #include "avcodec.h"
  26 #include "qsv_internal.h"
  27
  28 int ff_qsv_codec_id_to_mfx(enum AVCodecID codec_id)
  29 {
  30     switch (codec_id) {
  31     case AV_CODEC_ID_H264:
  32         return MFX_CODEC_AVC;
  33     case AV_CODEC_ID_MPEG1VIDEO:
  34     case AV_CODEC_ID_MPEG2VIDEO:
  35         return MFX_CODEC_MPEG2;
  36     case AV_CODEC_ID_VC1:
  37         return MFX_CODEC_VC1;
  38     default:
  39         break;
  40     }
  41
  42     return AVERROR(ENOSYS);
  43 }
  44
  45 int ff_qsv_error(int mfx_err)
  46 {
  47     switch (mfx_err) {
  48     case MFX_ERR_NONE:
  49         return 0;
  50     case MFX_ERR_MEMORY_ALLOC:
  51     case MFX_ERR_NOT_ENOUGH_BUFFER:
  52         return AVERROR(ENOMEM);
  53     case MFX_ERR_INVALID_HANDLE:
  54         return AVERROR(EINVAL);
  55     case MFX_ERR_DEVICE_FAILED:
  56     case MFX_ERR_DEVICE_LOST:
  57     case MFX_ERR_LOCK_MEMORY:
  58         return AVERROR(EIO);
  59     case MFX_ERR_NULL_PTR:
  60     case MFX_ERR_UNDEFINED_BEHAVIOR:
  61     case MFX_ERR_NOT_INITIALIZED:
  62         return AVERROR_BUG;
  63     case MFX_ERR_UNSUPPORTED:
  64     case MFX_ERR_NOT_FOUND:
  65         return AVERROR(ENOSYS);
  66     case MFX_ERR_MORE_DATA:
  67     case MFX_ERR_MORE_SURFACE:
  68     case MFX_ERR_MORE_BITSTREAM:
  69         return AVERROR(EAGAIN);
  70     case MFX_ERR_INCOMPATIBLE_VIDEO_PARAM:
  71     case MFX_ERR_INVALID_VIDEO_PARAM:
  72         return AVERROR(EINVAL);
  73     case MFX_ERR_ABORTED:
  74     case MFX_ERR_UNKNOWN:
  75     default:
  76         return AVERROR_UNKNOWN;
  77     }
  78 }
  79
  80 /**
  81  * @brief Initialize a MSDK session
  82  *
  83  * Media SDK is based on sessions, so this is the prerequisite
  84  * initialization for HW acceleration.  For Windows the session is
  85  * complete and ready to use, for Linux a display handle is
  86  * required.  For releases of Media Server Studio >= 2015 R4 the
  87  * render nodes interface is preferred (/dev/dri/renderD).
  88  * Using Media Server Studio 2015 R4 or newer is recommended
  89  * but the older /dev/dri/card interface is also searched
  90  * for broader compatibility.
  91  *
  92  * @param avctx    ffmpeg metadata for this codec context
  93  * @param session  the MSDK session used
  94  */
  95 int ff_qsv_init_internal_session(AVCodecContext *avctx, mfxSession *session)
  96 {
  97     mfxIMPL impl   = MFX_IMPL_AUTO_ANY;
  98     mfxVersion ver = { { QSV_VERSION_MINOR, QSV_VERSION_MAJOR } };
  99
 100     const char *desc;
 101     int ret;
 102
 103     ret = MFXInit(impl, &ver, session);
 104     if (ret < 0) {
 105         av_log(avctx, AV_LOG_ERROR, "Error initializing an internal MFX session\n");
 106         return ff_qsv_error(ret);
 107     }
 108
 109
 110     // this code is only required for Linux.  It searches for a valid
 111     // display handle.  First in /dev/dri/renderD then in /dev/dri/card
 112 #ifdef AVCODEC_QSV_LINUX_SESSION_HANDLE
 113     // VAAPI display handle
 114     VADisplay va_dpy = NULL;
 115     VAStatus va_res = VA_STATUS_SUCCESS;
 116     int major_version = 0, minor_version = 0;
 117     int fd = -1;
 118     char adapterpath[256];
 119     int adapter_num;
 120
 121     //search for valid graphics device
 122     for (adapter_num = 0;adapter_num < 6;adapter_num++) {
 123
 124         if (adapter_num<3) {
 125             snprintf(adapterpath,sizeof(adapterpath),
 126                 "/dev/dri/renderD%d", adapter_num+128);
 127         } else {
 128             snprintf(adapterpath,sizeof(adapterpath),
 129                 "/dev/dri/card%d", adapter_num-3);
 130         }
 131
 132         fd = open(adapterpath, O_RDWR);
 133         if (fd < 0) {
 134             av_log(avctx, AV_LOG_ERROR,
 135                 "mfx init: %s fd open failed\n", adapterpath);
 136             continue;
 137         }
 138
 139         va_dpy = vaGetDisplayDRM(fd);
 140         if (!va_dpy) {
 141             av_log(avctx, AV_LOG_ERROR,
 142                 "mfx init: %s vaGetDisplayDRM failed\n", adapterpath);
 143             close(fd);
 144             continue;
 145         }
 146
 147         va_res = vaInitialize(va_dpy, &major_version, &minor_version);
 148         if (VA_STATUS_SUCCESS != va_res) {
 149             av_log(avctx, AV_LOG_ERROR,
 150                 "mfx init: %s vaInitialize failed\n", adapterpath);
 151             close(fd);
 152             fd = -1;
 153             continue;
 154         } else {
 155             av_log(avctx, AV_LOG_VERBOSE,
 156             "mfx initialization: %s vaInitialize successful\n",adapterpath);
 157             break;
 158         }
 159     }
 160     MFXVideoCORE_SetHandle((*session), (mfxHandleType)MFX_HANDLE_VA_DISPLAY, (mfxHDL)va_dpy);
 161
 162 #endif //AVCODEC_QSV_LINUX_SESSION_HANDLE
 163
 164     MFXQueryIMPL(*session, &impl);
 165
 166     switch (MFX_IMPL_BASETYPE(impl)) {
 167     case MFX_IMPL_SOFTWARE:
 168         desc = "software";
 169         break;
 170     case MFX_IMPL_HARDWARE:
 171     case MFX_IMPL_HARDWARE2:
 172     case MFX_IMPL_HARDWARE3:
 173     case MFX_IMPL_HARDWARE4:
 174         desc = "hardware accelerated";
 175         break;
 176     default:
 177         desc = "unknown";
 178     }
 179
 180     av_log(avctx, AV_LOG_VERBOSE,
 181            "Initialized an internal MFX session using %s implementation\n",
 182            desc);
 183
 184     return 0;
 185 }