git.sesse.net Git - ffmpeg/blob - libavdevice/decklink_dec.cpp

   1 /*
   2  * Blackmagic DeckLink output
   3  * Copyright (c) 2013-2014 Luca Barbato, Deti Fliegl
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include <DeckLinkAPI.h>
  23
  24 #include <pthread.h>
  25 #include <semaphore.h>
  26
  27 extern "C" {
  28 #include "libavformat/avformat.h"
  29 #include "libavformat/internal.h"
  30 #include "libavutil/imgutils.h"
  31 }
  32
  33 #include "decklink_common.h"
  34 #include "decklink_dec.h"
  35
  36 static void avpacket_queue_init(AVFormatContext *avctx, AVPacketQueue *q)
  37 {
  38     memset(q, 0, sizeof(AVPacketQueue));
  39     pthread_mutex_init(&q->mutex, NULL);
  40     pthread_cond_init(&q->cond, NULL);
  41     q->avctx = avctx;
  42 }
  43
  44 static void avpacket_queue_flush(AVPacketQueue *q)
  45 {
  46     AVPacketList *pkt, *pkt1;
  47
  48     pthread_mutex_lock(&q->mutex);
  49     for (pkt = q->first_pkt; pkt != NULL; pkt = pkt1) {
  50         pkt1 = pkt->next;
  51         av_free_packet(&pkt->pkt);
  52         av_freep(&pkt);
  53     }
  54     q->last_pkt   = NULL;
  55     q->first_pkt  = NULL;
  56     q->nb_packets = 0;
  57     q->size       = 0;
  58     pthread_mutex_unlock(&q->mutex);
  59 }
  60
  61 static void avpacket_queue_end(AVPacketQueue *q)
  62 {
  63     avpacket_queue_flush(q);
  64     pthread_mutex_destroy(&q->mutex);
  65     pthread_cond_destroy(&q->cond);
  66 }
  67
  68 static unsigned long long avpacket_queue_size(AVPacketQueue *q)
  69 {
  70     unsigned long long size;
  71     pthread_mutex_lock(&q->mutex);
  72     size = q->size;
  73     pthread_mutex_unlock(&q->mutex);
  74     return size;
  75 }
  76
  77 static int avpacket_queue_put(AVPacketQueue *q, AVPacket *pkt)
  78 {
  79     AVPacketList *pkt1;
  80
  81     // Drop Packet if queue size is > 1GB
  82     if (avpacket_queue_size(q) >  1024 * 1024 * 1024 ) {
  83         av_log(q->avctx, AV_LOG_WARNING,  "Decklink input buffer overrun!\n");
  84         return -1;
  85     }
  86     /* duplicate the packet */
  87     if (av_dup_packet(pkt) < 0) {
  88         return -1;
  89     }
  90
  91     pkt1 = (AVPacketList *)av_malloc(sizeof(AVPacketList));
  92     if (!pkt1) {
  93         return -1;
  94     }
  95     pkt1->pkt  = *pkt;
  96     pkt1->next = NULL;
  97
  98     pthread_mutex_lock(&q->mutex);
  99
 100     if (!q->last_pkt) {
 101         q->first_pkt = pkt1;
 102     } else {
 103         q->last_pkt->next = pkt1;
 104     }
 105
 106     q->last_pkt = pkt1;
 107     q->nb_packets++;
 108     q->size += pkt1->pkt.size + sizeof(*pkt1);
 109
 110     pthread_cond_signal(&q->cond);
 111
 112     pthread_mutex_unlock(&q->mutex);
 113     return 0;
 114 }
 115
 116 static int avpacket_queue_get(AVPacketQueue *q, AVPacket *pkt, int block)
 117 {
 118     AVPacketList *pkt1;
 119     int ret;
 120
 121     pthread_mutex_lock(&q->mutex);
 122
 123     for (;; ) {
 124         pkt1 = q->first_pkt;
 125         if (pkt1) {
 126             q->first_pkt = pkt1->next;
 127             if (!q->first_pkt) {
 128                 q->last_pkt = NULL;
 129             }
 130             q->nb_packets--;
 131             q->size -= pkt1->pkt.size + sizeof(*pkt1);
 132             *pkt     = pkt1->pkt;
 133             av_free(pkt1);
 134             ret = 1;
 135             break;
 136         } else if (!block) {
 137             ret = 0;
 138             break;
 139         } else {
 140             pthread_cond_wait(&q->cond, &q->mutex);
 141         }
 142     }
 143     pthread_mutex_unlock(&q->mutex);
 144     return ret;
 145 }
 146
 147 class decklink_input_callback : public IDeckLinkInputCallback
 148 {
 149 public:
 150         decklink_input_callback(AVFormatContext *_avctx);
 151         ~decklink_input_callback();
 152
 153         virtual HRESULT STDMETHODCALLTYPE QueryInterface(REFIID iid, LPVOID *ppv) { return E_NOINTERFACE; }
 154         virtual ULONG STDMETHODCALLTYPE AddRef(void);
 155         virtual ULONG STDMETHODCALLTYPE  Release(void);
 156         virtual HRESULT STDMETHODCALLTYPE VideoInputFormatChanged(BMDVideoInputFormatChangedEvents, IDeckLinkDisplayMode*, BMDDetectedVideoInputFormatFlags);
 157         virtual HRESULT STDMETHODCALLTYPE VideoInputFrameArrived(IDeckLinkVideoInputFrame*, IDeckLinkAudioInputPacket*);
 158
 159 private:
 160         ULONG           m_refCount;
 161         pthread_mutex_t m_mutex;
 162         AVFormatContext *avctx;
 163         decklink_ctx    *ctx;
 164         int no_video;
 165         int64_t initial_video_pts;
 166         int64_t initial_audio_pts;
 167 };
 168
 169 decklink_input_callback::decklink_input_callback(AVFormatContext *_avctx) : m_refCount(0)
 170 {
 171     avctx = _avctx;
 172     decklink_cctx       *cctx = (struct decklink_cctx *) avctx->priv_data;
 173     ctx = (struct decklink_ctx *) cctx->ctx;
 174     initial_audio_pts = initial_video_pts = AV_NOPTS_VALUE;
 175     pthread_mutex_init(&m_mutex, NULL);
 176 }
 177
 178 decklink_input_callback::~decklink_input_callback()
 179 {
 180     pthread_mutex_destroy(&m_mutex);
 181 }
 182
 183 ULONG decklink_input_callback::AddRef(void)
 184 {
 185     pthread_mutex_lock(&m_mutex);
 186     m_refCount++;
 187     pthread_mutex_unlock(&m_mutex);
 188
 189     return (ULONG)m_refCount;
 190 }
 191
 192 ULONG decklink_input_callback::Release(void)
 193 {
 194     pthread_mutex_lock(&m_mutex);
 195     m_refCount--;
 196     pthread_mutex_unlock(&m_mutex);
 197
 198     if (m_refCount == 0) {
 199         delete this;
 200         return 0;
 201     }
 202
 203     return (ULONG)m_refCount;
 204 }
 205
 206 HRESULT decklink_input_callback::VideoInputFrameArrived(
 207     IDeckLinkVideoInputFrame *videoFrame, IDeckLinkAudioInputPacket *audioFrame)
 208 {
 209     void *frameBytes;
 210     void *audioFrameBytes;
 211     BMDTimeValue frameTime;
 212     BMDTimeValue frameDuration;
 213
 214     ctx->frameCount++;
 215
 216     // Handle Video Frame
 217     if (videoFrame) {
 218         AVPacket pkt;
 219         AVCodecContext *c;
 220         av_init_packet(&pkt);
 221         c = ctx->video_st->codec;
 222         if (ctx->frameCount % 25 == 0) {
 223             unsigned long long qsize = avpacket_queue_size(&ctx->queue);
 224             av_log(avctx, AV_LOG_DEBUG,
 225                     "Frame received (#%lu) - Valid (%liB) - QSize %fMB\n",
 226                     ctx->frameCount,
 227                     videoFrame->GetRowBytes() * videoFrame->GetHeight(),
 228                     (double)qsize / 1024 / 1024);
 229         }
 230
 231         videoFrame->GetBytes(&frameBytes);
 232         videoFrame->GetStreamTime(&frameTime, &frameDuration,
 233                                   ctx->video_st->time_base.den);
 234
 235         if (videoFrame->GetFlags() & bmdFrameHasNoInputSource) {
 236             if (videoFrame->GetPixelFormat() == bmdFormat8BitYUV) {
 237             unsigned bars[8] = {
 238                 0xEA80EA80, 0xD292D210, 0xA910A9A5, 0x90229035,
 239                 0x6ADD6ACA, 0x51EF515A, 0x286D28EF, 0x10801080 };
 240             int width  = videoFrame->GetWidth();
 241             int height = videoFrame->GetHeight();
 242             unsigned *p = (unsigned *)frameBytes;
 243
 244             for (int y = 0; y < height; y++) {
 245                 for (int x = 0; x < width; x += 2)
 246                     *p++ = bars[(x * 8) / width];
 247             }
 248             }
 249
 250             if (!no_video) {
 251                 av_log(avctx, AV_LOG_WARNING, "Frame received (#%lu) - No input signal detected "
 252                         "- Frames dropped %u\n", ctx->frameCount, ++ctx->dropped);
 253             }
 254             no_video = 1;
 255         } else {
 256             if (no_video) {
 257                 av_log(avctx, AV_LOG_WARNING, "Frame received (#%lu) - Input returned "
 258                         "- Frames dropped %u\n", ctx->frameCount, ++ctx->dropped);
 259             }
 260             no_video = 0;
 261         }
 262
 263         pkt.pts = frameTime / ctx->video_st->time_base.num;
 264
 265         if (initial_video_pts == AV_NOPTS_VALUE) {
 266             initial_video_pts = pkt.pts;
 267         }
 268
 269         pkt.pts -= initial_video_pts;
 270         pkt.dts = pkt.pts;
 271
 272         pkt.duration = frameDuration;
 273         //To be made sure it still applies
 274         pkt.flags       |= AV_PKT_FLAG_KEY;
 275         pkt.stream_index = ctx->video_st->index;
 276         pkt.data         = (uint8_t *)frameBytes;
 277         pkt.size         = videoFrame->GetRowBytes() *
 278                            videoFrame->GetHeight();
 279         //fprintf(stderr,"Video Frame size %d ts %d\n", pkt.size, pkt.pts);
 280         c->frame_number++;
 281         if (avpacket_queue_put(&ctx->queue, &pkt) < 0) {
 282             ++ctx->dropped;
 283         }
 284     }
 285
 286     // Handle Audio Frame
 287     if (audioFrame) {
 288         AVCodecContext *c;
 289         AVPacket pkt;
 290         BMDTimeValue audio_pts;
 291         av_init_packet(&pkt);
 292
 293         c = ctx->audio_st->codec;
 294         //hack among hacks
 295         pkt.size = audioFrame->GetSampleFrameCount() * ctx->audio_st->codec->channels * (16 / 8);
 296         audioFrame->GetBytes(&audioFrameBytes);
 297         audioFrame->GetPacketTime(&audio_pts, ctx->audio_st->time_base.den);
 298         pkt.pts = audio_pts / ctx->audio_st->time_base.num;
 299
 300         if (initial_audio_pts == AV_NOPTS_VALUE) {
 301             initial_audio_pts = pkt.pts;
 302         }
 303
 304         pkt.pts -= initial_audio_pts;
 305         pkt.dts = pkt.pts;
 306
 307         //fprintf(stderr,"Audio Frame size %d ts %d\n", pkt.size, pkt.pts);
 308         pkt.flags       |= AV_PKT_FLAG_KEY;
 309         pkt.stream_index = ctx->audio_st->index;
 310         pkt.data         = (uint8_t *)audioFrameBytes;
 311
 312         c->frame_number++;
 313         if (avpacket_queue_put(&ctx->queue, &pkt) < 0) {
 314             ++ctx->dropped;
 315         }
 316     }
 317
 318     return S_OK;
 319 }
 320
 321 HRESULT decklink_input_callback::VideoInputFormatChanged(
 322     BMDVideoInputFormatChangedEvents events, IDeckLinkDisplayMode *mode,
 323     BMDDetectedVideoInputFormatFlags)
 324 {
 325     return S_OK;
 326 }
 327
 328 static HRESULT decklink_start_input(AVFormatContext *avctx)
 329 {
 330     struct decklink_cctx *cctx = (struct decklink_cctx *) avctx->priv_data;
 331     struct decklink_ctx *ctx = (struct decklink_ctx *) cctx->ctx;
 332
 333     ctx->input_callback = new decklink_input_callback(avctx);
 334     ctx->dli->SetCallback(ctx->input_callback);
 335     return ctx->dli->StartStreams();
 336 }
 337
 338 extern "C" {
 339
 340 av_cold int ff_decklink_read_close(AVFormatContext *avctx)
 341 {
 342     struct decklink_cctx *cctx = (struct decklink_cctx *) avctx->priv_data;
 343     struct decklink_ctx *ctx = (struct decklink_ctx *) cctx->ctx;
 344
 345     if (ctx->capture_started) {
 346         ctx->dli->StopStreams();
 347         ctx->dli->DisableVideoInput();
 348         ctx->dli->DisableAudioInput();
 349     }
 350
 351     if (ctx->dli)
 352         ctx->dli->Release();
 353     if (ctx->dl)
 354         ctx->dl->Release();
 355
 356     avpacket_queue_end(&ctx->queue);
 357
 358     av_freep(&cctx->ctx);
 359
 360     return 0;
 361 }
 362
 363 av_cold int ff_decklink_read_header(AVFormatContext *avctx)
 364 {
 365     struct decklink_cctx *cctx = (struct decklink_cctx *) avctx->priv_data;
 366     struct decklink_ctx *ctx;
 367     IDeckLinkDisplayModeIterator *itermode;
 368     IDeckLinkIterator *iter;
 369     IDeckLink *dl = NULL;
 370     AVStream *st;
 371     HRESULT result;
 372     char fname[1024];
 373     char *tmp;
 374     int mode_num = 0;
 375
 376     ctx = (struct decklink_ctx *) av_mallocz(sizeof(struct decklink_ctx));
 377     if (!ctx)
 378         return AVERROR(ENOMEM);
 379     ctx->list_devices = cctx->list_devices;
 380     ctx->list_formats = cctx->list_formats;
 381     ctx->preroll      = cctx->preroll;
 382     cctx->ctx = ctx;
 383
 384     iter = CreateDeckLinkIteratorInstance();
 385     if (!iter) {
 386         av_log(avctx, AV_LOG_ERROR, "Could not create DeckLink iterator\n");
 387         return AVERROR(EIO);
 388     }
 389
 390     /* List available devices. */
 391     if (ctx->list_devices) {
 392         ff_decklink_list_devices(avctx);
 393         return AVERROR_EXIT;
 394     }
 395
 396     strcpy (fname, avctx->filename);
 397     tmp=strchr (fname, '@');
 398     if (tmp != NULL) {
 399         mode_num = atoi (tmp+1);
 400         *tmp = 0;
 401     }
 402
 403     /* Open device. */
 404     while (iter->Next(&dl) == S_OK) {
 405         const char *displayName;
 406         ff_decklink_get_display_name(dl, &displayName);
 407         if (!strcmp(fname, displayName)) {
 408             av_free((void *) displayName);
 409             ctx->dl = dl;
 410             break;
 411         }
 412         av_free((void *) displayName);
 413         dl->Release();
 414     }
 415     iter->Release();
 416     if (!ctx->dl) {
 417         av_log(avctx, AV_LOG_ERROR, "Could not open '%s'\n", fname);
 418         return AVERROR(EIO);
 419     }
 420
 421     /* Get input device. */
 422     if (ctx->dl->QueryInterface(IID_IDeckLinkInput, (void **) &ctx->dli) != S_OK) {
 423         av_log(avctx, AV_LOG_ERROR, "Could not open output device from '%s'\n",
 424                avctx->filename);
 425         ctx->dl->Release();
 426         return AVERROR(EIO);
 427     }
 428
 429     /* List supported formats. */
 430     if (ctx->list_formats) {
 431         ff_decklink_list_formats(avctx, DIRECTION_IN);
 432         ctx->dli->Release();
 433         ctx->dl->Release();
 434         return AVERROR_EXIT;
 435     }
 436
 437     if (ctx->dli->GetDisplayModeIterator(&itermode) != S_OK) {
 438         av_log(avctx, AV_LOG_ERROR, "Could not get Display Mode Iterator\n");
 439         ctx->dl->Release();
 440         return AVERROR(EIO);
 441     }
 442
 443     if (mode_num > 0) {
 444         if (ff_decklink_set_format(avctx, DIRECTION_IN, mode_num) < 0) {
 445             av_log(avctx, AV_LOG_ERROR, "Could not set mode %d for %s\n", mode_num, fname);
 446             goto error;
 447         }
 448     }
 449
 450     itermode->Release();
 451
 452     /* Setup streams. */
 453     st = avformat_new_stream(avctx, NULL);
 454     if (!st) {
 455         av_log(avctx, AV_LOG_ERROR, "Cannot add stream\n");
 456         goto error;
 457     }
 458     st->codec->codec_type  = AVMEDIA_TYPE_AUDIO;
 459     st->codec->codec_id    = AV_CODEC_ID_PCM_S16LE;
 460     st->codec->sample_rate = bmdAudioSampleRate48kHz;
 461     st->codec->channels    = 2;
 462     avpriv_set_pts_info(st, 64, 1, 1000000);  /* 64 bits pts in us */
 463     ctx->audio_st=st;
 464
 465     st = avformat_new_stream(avctx, NULL);
 466     if (!st) {
 467         av_log(avctx, AV_LOG_ERROR, "Cannot add stream\n");
 468         goto error;
 469     }
 470     st->codec->codec_type  = AVMEDIA_TYPE_VIDEO;
 471     st->codec->width       = ctx->bmd_width;
 472     st->codec->height      = ctx->bmd_height;
 473
 474     st->codec->time_base.den      = ctx->bmd_tb_den;
 475     st->codec->time_base.num      = ctx->bmd_tb_num;
 476     st->codec->bit_rate    = avpicture_get_size(st->codec->pix_fmt, ctx->bmd_width, ctx->bmd_height) * 1/av_q2d(st->codec->time_base) * 8;
 477
 478     if (cctx->v210) {
 479         st->codec->codec_id    = AV_CODEC_ID_V210;
 480         st->codec->codec_tag   = MKTAG('V', '2', '1', '0');
 481     } else {
 482         st->codec->codec_id    = AV_CODEC_ID_RAWVIDEO;
 483         st->codec->pix_fmt     = AV_PIX_FMT_UYVY422;
 484         st->codec->codec_tag   = MKTAG('U', 'Y', 'V', 'Y');
 485     }
 486
 487     avpriv_set_pts_info(st, 64, 1, 1000000);  /* 64 bits pts in us */
 488
 489     ctx->video_st=st;
 490
 491     result = ctx->dli->EnableAudioInput(bmdAudioSampleRate48kHz, bmdAudioSampleType16bitInteger, 2);
 492
 493     if (result != S_OK) {
 494         av_log(avctx, AV_LOG_ERROR, "Cannot enable audio input\n");
 495         goto error;
 496     }
 497
 498     result = ctx->dli->EnableVideoInput(ctx->bmd_mode,
 499                                         cctx->v210 ? bmdFormat10BitYUV : bmdFormat8BitYUV,
 500                                         bmdVideoInputFlagDefault);
 501
 502     if (result != S_OK) {
 503         av_log(avctx, AV_LOG_ERROR, "Cannot enable video input\n");
 504         goto error;
 505     }
 506
 507     avpacket_queue_init (avctx, &ctx->queue);
 508
 509     if (decklink_start_input (avctx) != S_OK) {
 510         av_log(avctx, AV_LOG_ERROR, "Cannot start input stream\n");
 511         goto error;
 512     }
 513
 514     return 0;
 515
 516 error:
 517
 518     ctx->dli->Release();
 519     ctx->dl->Release();
 520
 521     return AVERROR(EIO);
 522 }
 523
 524 int ff_decklink_read_packet(AVFormatContext *avctx, AVPacket *pkt)
 525 {
 526     struct decklink_cctx *cctx = (struct decklink_cctx *) avctx->priv_data;
 527     struct decklink_ctx *ctx = (struct decklink_ctx *) cctx->ctx;
 528     AVFrame *frame = ctx->video_st->codec->coded_frame;
 529
 530     avpacket_queue_get(&ctx->queue, pkt, 1);
 531     if (frame && (ctx->bmd_field_dominance == bmdUpperFieldFirst || ctx->bmd_field_dominance == bmdLowerFieldFirst)) {
 532         frame->interlaced_frame = 1;
 533         if (ctx->bmd_field_dominance == bmdUpperFieldFirst) {
 534             frame->top_field_first = 1;
 535         }
 536     }
 537
 538     return 0;
 539 }
 540
 541 } /* extern "C" */