git.sesse.net Git - ffmpeg/blob - libavdevice/dshow.c

   1 /*
   2  * Directshow capture interface
   3  * Copyright (c) 2010 Ramiro Polla
   4  *
   5  * This file is part of FFmpeg.
   6  *
   7  * FFmpeg is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * FFmpeg is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with FFmpeg; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "libavutil/parseutils.h"
  23 #include "libavutil/pixdesc.h"
  24 #include "libavutil/opt.h"
  25 #include "libavformat/internal.h"
  26 #include "avdevice.h"
  27 #include "dshow_capture.h"
  28
  29 struct dshow_ctx {
  30     const AVClass *class;
  31
  32     IGraphBuilder *graph;
  33
  34     char *device_name[2];
  35     int video_device_number;
  36     int audio_device_number;
  37
  38     int   list_options;
  39     int   list_devices;
  40     int   audio_buffer_size;
  41
  42     IBaseFilter *device_filter[2];
  43     IPin        *device_pin[2];
  44     libAVFilter *capture_filter[2];
  45     libAVPin    *capture_pin[2];
  46
  47     HANDLE mutex;
  48     HANDLE event[2]; /* event[0] is set by DirectShow
  49                       * event[1] is set by callback() */
  50     AVPacketList *pktl;
  51
  52     int eof;
  53
  54     int64_t curbufsize;
  55     unsigned int video_frame_num;
  56
  57     IMediaControl *control;
  58     IMediaEvent *media_event;
  59
  60     enum AVPixelFormat pixel_format;
  61     enum AVCodecID video_codec_id;
  62     char *framerate;
  63
  64     int requested_width;
  65     int requested_height;
  66     AVRational requested_framerate;
  67
  68     int sample_rate;
  69     int sample_size;
  70     int channels;
  71 };
  72
  73 static enum AVPixelFormat dshow_pixfmt(DWORD biCompression, WORD biBitCount)
  74 {
  75     switch(biCompression) {
  76     case MKTAG('U', 'Y', 'V', 'Y'):
  77         return AV_PIX_FMT_UYVY422;
  78     case MKTAG('Y', 'U', 'Y', '2'):
  79         return AV_PIX_FMT_YUYV422;
  80     case MKTAG('I', '4', '2', '0'):
  81         return AV_PIX_FMT_YUV420P;
  82     case BI_BITFIELDS:
  83     case BI_RGB:
  84         switch(biBitCount) { /* 1-8 are untested */
  85             case 1:
  86                 return AV_PIX_FMT_MONOWHITE;
  87             case 4:
  88                 return AV_PIX_FMT_RGB4;
  89             case 8:
  90                 return AV_PIX_FMT_RGB8;
  91             case 16:
  92                 return AV_PIX_FMT_RGB555;
  93             case 24:
  94                 return AV_PIX_FMT_BGR24;
  95             case 32:
  96                 return AV_PIX_FMT_RGB32;
  97         }
  98     }
  99     return AV_PIX_FMT_NONE;
 100 }
 101
 102 static enum AVCodecID dshow_codecid(DWORD biCompression)
 103 {
 104     switch(biCompression) {
 105     case MKTAG('d', 'v', 's', 'd'):
 106         return AV_CODEC_ID_DVVIDEO;
 107     case MKTAG('M', 'J', 'P', 'G'):
 108     case MKTAG('m', 'j', 'p', 'g'):
 109         return AV_CODEC_ID_MJPEG;
 110     }
 111     return AV_CODEC_ID_NONE;
 112 }
 113
 114 static int
 115 dshow_read_close(AVFormatContext *s)
 116 {
 117     struct dshow_ctx *ctx = s->priv_data;
 118     AVPacketList *pktl;
 119
 120     if (ctx->control) {
 121         IMediaControl_Stop(ctx->control);
 122         IMediaControl_Release(ctx->control);
 123     }
 124
 125     if (ctx->media_event)
 126         IMediaEvent_Release(ctx->media_event);
 127
 128     if (ctx->graph) {
 129         IEnumFilters *fenum;
 130         int r;
 131         r = IGraphBuilder_EnumFilters(ctx->graph, &fenum);
 132         if (r == S_OK) {
 133             IBaseFilter *f;
 134             IEnumFilters_Reset(fenum);
 135             while (IEnumFilters_Next(fenum, 1, &f, NULL) == S_OK) {
 136                 if (IGraphBuilder_RemoveFilter(ctx->graph, f) == S_OK)
 137                     IEnumFilters_Reset(fenum); /* When a filter is removed,
 138                                                 * the list must be reset. */
 139                 IBaseFilter_Release(f);
 140             }
 141             IEnumFilters_Release(fenum);
 142         }
 143         IGraphBuilder_Release(ctx->graph);
 144     }
 145
 146     if (ctx->capture_pin[VideoDevice])
 147         libAVPin_Release(ctx->capture_pin[VideoDevice]);
 148     if (ctx->capture_pin[AudioDevice])
 149         libAVPin_Release(ctx->capture_pin[AudioDevice]);
 150     if (ctx->capture_filter[VideoDevice])
 151         libAVFilter_Release(ctx->capture_filter[VideoDevice]);
 152     if (ctx->capture_filter[AudioDevice])
 153         libAVFilter_Release(ctx->capture_filter[AudioDevice]);
 154
 155     if (ctx->device_pin[VideoDevice])
 156         IPin_Release(ctx->device_pin[VideoDevice]);
 157     if (ctx->device_pin[AudioDevice])
 158         IPin_Release(ctx->device_pin[AudioDevice]);
 159     if (ctx->device_filter[VideoDevice])
 160         IBaseFilter_Release(ctx->device_filter[VideoDevice]);
 161     if (ctx->device_filter[AudioDevice])
 162         IBaseFilter_Release(ctx->device_filter[AudioDevice]);
 163
 164     if (ctx->device_name[0])
 165         av_free(ctx->device_name[0]);
 166     if (ctx->device_name[1])
 167         av_free(ctx->device_name[1]);
 168
 169     if(ctx->mutex)
 170         CloseHandle(ctx->mutex);
 171     if(ctx->event[0])
 172         CloseHandle(ctx->event[0]);
 173     if(ctx->event[1])
 174         CloseHandle(ctx->event[1]);
 175
 176     pktl = ctx->pktl;
 177     while (pktl) {
 178         AVPacketList *next = pktl->next;
 179         av_destruct_packet(&pktl->pkt);
 180         av_free(pktl);
 181         pktl = next;
 182     }
 183
 184     CoUninitialize();
 185
 186     return 0;
 187 }
 188
 189 static char *dup_wchar_to_utf8(wchar_t *w)
 190 {
 191     char *s = NULL;
 192     int l = WideCharToMultiByte(CP_UTF8, 0, w, -1, 0, 0, 0, 0);
 193     s = av_malloc(l);
 194     if (s)
 195         WideCharToMultiByte(CP_UTF8, 0, w, -1, s, l, 0, 0);
 196     return s;
 197 }
 198
 199 static int shall_we_drop(AVFormatContext *s)
 200 {
 201     struct dshow_ctx *ctx = s->priv_data;
 202     const uint8_t dropscore[] = {62, 75, 87, 100};
 203     const int ndropscores = FF_ARRAY_ELEMS(dropscore);
 204     unsigned int buffer_fullness = (ctx->curbufsize*100)/s->max_picture_buffer;
 205
 206     if(dropscore[++ctx->video_frame_num%ndropscores] <= buffer_fullness) {
 207         av_log(s, AV_LOG_ERROR,
 208               "real-time buffer %d%% full! frame dropped!\n", buffer_fullness);
 209         return 1;
 210     }
 211
 212     return 0;
 213 }
 214
 215 static void
 216 callback(void *priv_data, int index, uint8_t *buf, int buf_size, int64_t time)
 217 {
 218     AVFormatContext *s = priv_data;
 219     struct dshow_ctx *ctx = s->priv_data;
 220     AVPacketList **ppktl, *pktl_next;
 221
 222 //    dump_videohdr(s, vdhdr);
 223
 224     WaitForSingleObject(ctx->mutex, INFINITE);
 225
 226     if(shall_we_drop(s))
 227         goto fail;
 228
 229     pktl_next = av_mallocz(sizeof(AVPacketList));
 230     if(!pktl_next)
 231         goto fail;
 232
 233     if(av_new_packet(&pktl_next->pkt, buf_size) < 0) {
 234         av_free(pktl_next);
 235         goto fail;
 236     }
 237
 238     pktl_next->pkt.stream_index = index;
 239     pktl_next->pkt.pts = time;
 240     memcpy(pktl_next->pkt.data, buf, buf_size);
 241
 242     for(ppktl = &ctx->pktl ; *ppktl ; ppktl = &(*ppktl)->next);
 243     *ppktl = pktl_next;
 244
 245     ctx->curbufsize += buf_size;
 246
 247     SetEvent(ctx->event[1]);
 248     ReleaseMutex(ctx->mutex);
 249
 250     return;
 251 fail:
 252     ReleaseMutex(ctx->mutex);
 253     return;
 254 }
 255
 256 /**
 257  * Cycle through available devices using the device enumerator devenum,
 258  * retrieve the device with type specified by devtype and return the
 259  * pointer to the object found in *pfilter.
 260  * If pfilter is NULL, list all device names.
 261  */
 262 static int
 263 dshow_cycle_devices(AVFormatContext *avctx, ICreateDevEnum *devenum,
 264                     enum dshowDeviceType devtype, IBaseFilter **pfilter)
 265 {
 266     struct dshow_ctx *ctx = avctx->priv_data;
 267     IBaseFilter *device_filter = NULL;
 268     IEnumMoniker *classenum = NULL;
 269     IMoniker *m = NULL;
 270     const char *device_name = ctx->device_name[devtype];
 271     int skip = (devtype == VideoDevice) ? ctx->video_device_number
 272                                         : ctx->audio_device_number;
 273     int r;
 274
 275     const GUID *device_guid[2] = { &CLSID_VideoInputDeviceCategory,
 276                                    &CLSID_AudioInputDeviceCategory };
 277     const char *devtypename = (devtype == VideoDevice) ? "video" : "audio";
 278
 279     r = ICreateDevEnum_CreateClassEnumerator(devenum, device_guid[devtype],
 280                                              (IEnumMoniker **) &classenum, 0);
 281     if (r != S_OK) {
 282         av_log(avctx, AV_LOG_ERROR, "Could not enumerate %s devices.\n",
 283                devtypename);
 284         return AVERROR(EIO);
 285     }
 286
 287     while (!device_filter && IEnumMoniker_Next(classenum, 1, &m, NULL) == S_OK) {
 288         IPropertyBag *bag = NULL;
 289         char *buf = NULL;
 290         VARIANT var;
 291
 292         r = IMoniker_BindToStorage(m, 0, 0, &IID_IPropertyBag, (void *) &bag);
 293         if (r != S_OK)
 294             goto fail1;
 295
 296         var.vt = VT_BSTR;
 297         r = IPropertyBag_Read(bag, L"FriendlyName", &var, NULL);
 298         if (r != S_OK)
 299             goto fail1;
 300
 301         buf = dup_wchar_to_utf8(var.bstrVal);
 302
 303         if (pfilter) {
 304             if (strcmp(device_name, buf))
 305                 goto fail1;
 306
 307             if (!skip--)
 308                 IMoniker_BindToObject(m, 0, 0, &IID_IBaseFilter, (void *) &device_filter);
 309         } else {
 310             av_log(avctx, AV_LOG_INFO, " \"%s\"\n", buf);
 311         }
 312
 313 fail1:
 314         if (buf)
 315             av_free(buf);
 316         if (bag)
 317             IPropertyBag_Release(bag);
 318         IMoniker_Release(m);
 319     }
 320
 321     IEnumMoniker_Release(classenum);
 322
 323     if (pfilter) {
 324         if (!device_filter) {
 325             av_log(avctx, AV_LOG_ERROR, "Could not find %s device.\n",
 326                    devtypename);
 327             return AVERROR(EIO);
 328         }
 329         *pfilter = device_filter;
 330     }
 331
 332     return 0;
 333 }
 334
 335 /**
 336  * Cycle through available formats using the specified pin,
 337  * try to set parameters specified through AVOptions and if successful
 338  * return 1 in *pformat_set.
 339  * If pformat_set is NULL, list all pin capabilities.
 340  */
 341 static void
 342 dshow_cycle_formats(AVFormatContext *avctx, enum dshowDeviceType devtype,
 343                     IPin *pin, int *pformat_set)
 344 {
 345     struct dshow_ctx *ctx = avctx->priv_data;
 346     IAMStreamConfig *config = NULL;
 347     AM_MEDIA_TYPE *type = NULL;
 348     int format_set = 0;
 349     void *caps = NULL;
 350     int i, n, size;
 351
 352     if (IPin_QueryInterface(pin, &IID_IAMStreamConfig, (void **) &config) != S_OK)
 353         return;
 354     if (IAMStreamConfig_GetNumberOfCapabilities(config, &n, &size) != S_OK)
 355         goto end;
 356
 357     caps = av_malloc(size);
 358     if (!caps)
 359         goto end;
 360
 361     for (i = 0; i < n && !format_set; i++) {
 362         IAMStreamConfig_GetStreamCaps(config, i, &type, (void *) caps);
 363
 364 #if DSHOWDEBUG
 365         ff_print_AM_MEDIA_TYPE(type);
 366 #endif
 367
 368         if (devtype == VideoDevice) {
 369             VIDEO_STREAM_CONFIG_CAPS *vcaps = caps;
 370             BITMAPINFOHEADER *bih;
 371             int64_t *fr;
 372 #if DSHOWDEBUG
 373             ff_print_VIDEO_STREAM_CONFIG_CAPS(vcaps);
 374 #endif
 375             if (IsEqualGUID(&type->formattype, &FORMAT_VideoInfo)) {
 376                 VIDEOINFOHEADER *v = (void *) type->pbFormat;
 377                 fr = &v->AvgTimePerFrame;
 378                 bih = &v->bmiHeader;
 379             } else if (IsEqualGUID(&type->formattype, &FORMAT_VideoInfo2)) {
 380                 VIDEOINFOHEADER2 *v = (void *) type->pbFormat;
 381                 fr = &v->AvgTimePerFrame;
 382                 bih = &v->bmiHeader;
 383             } else {
 384                 goto next;
 385             }
 386             if (!pformat_set) {
 387                 enum AVPixelFormat pix_fmt = dshow_pixfmt(bih->biCompression, bih->biBitCount);
 388                 if (pix_fmt == AV_PIX_FMT_NONE) {
 389                     enum AVCodecID codec_id = dshow_codecid(bih->biCompression);
 390                     AVCodec *codec = avcodec_find_decoder(codec_id);
 391                     if (codec_id == AV_CODEC_ID_NONE || !codec) {
 392                         av_log(avctx, AV_LOG_INFO, "  unknown compression type 0x%X", (int) bih->biCompression);
 393                     } else {
 394                         av_log(avctx, AV_LOG_INFO, "  vcodec=%s", codec->name);
 395                     }
 396                 } else {
 397                     av_log(avctx, AV_LOG_INFO, "  pixel_format=%s", av_get_pix_fmt_name(pix_fmt));
 398                 }
 399                 av_log(avctx, AV_LOG_INFO, "  min s=%ldx%ld fps=%g max s=%ldx%ld fps=%g\n",
 400                        vcaps->MinOutputSize.cx, vcaps->MinOutputSize.cy,
 401                        1e7 / vcaps->MaxFrameInterval,
 402                        vcaps->MaxOutputSize.cx, vcaps->MaxOutputSize.cy,
 403                        1e7 / vcaps->MinFrameInterval);
 404                 continue;
 405             }
 406             if (ctx->video_codec_id != AV_CODEC_ID_RAWVIDEO) {
 407                 if (ctx->video_codec_id != dshow_codecid(bih->biCompression))
 408                     goto next;
 409             }
 410             if (ctx->pixel_format != AV_PIX_FMT_NONE &&
 411                 ctx->pixel_format != dshow_pixfmt(bih->biCompression, bih->biBitCount)) {
 412                 goto next;
 413             }
 414             if (ctx->framerate) {
 415                 int64_t framerate = ((int64_t) ctx->requested_framerate.den*10000000)
 416                                             /  ctx->requested_framerate.num;
 417                 if (framerate > vcaps->MaxFrameInterval ||
 418                     framerate < vcaps->MinFrameInterval)
 419                     goto next;
 420                 *fr = framerate;
 421             }
 422             if (ctx->requested_width && ctx->requested_height) {
 423                 if (ctx->requested_width  > vcaps->MaxOutputSize.cx ||
 424                     ctx->requested_width  < vcaps->MinOutputSize.cx ||
 425                     ctx->requested_height > vcaps->MaxOutputSize.cy ||
 426                     ctx->requested_height < vcaps->MinOutputSize.cy)
 427                     goto next;
 428                 bih->biWidth  = ctx->requested_width;
 429                 bih->biHeight = ctx->requested_height;
 430             }
 431         } else {
 432             AUDIO_STREAM_CONFIG_CAPS *acaps = caps;
 433             WAVEFORMATEX *fx;
 434 #if DSHOWDEBUG
 435             ff_print_AUDIO_STREAM_CONFIG_CAPS(acaps);
 436 #endif
 437             if (IsEqualGUID(&type->formattype, &FORMAT_WaveFormatEx)) {
 438                 fx = (void *) type->pbFormat;
 439             } else {
 440                 goto next;
 441             }
 442             if (!pformat_set) {
 443                 av_log(avctx, AV_LOG_INFO, "  min ch=%lu bits=%lu rate=%6lu max ch=%lu bits=%lu rate=%6lu\n",
 444                        acaps->MinimumChannels, acaps->MinimumBitsPerSample, acaps->MinimumSampleFrequency,
 445                        acaps->MaximumChannels, acaps->MaximumBitsPerSample, acaps->MaximumSampleFrequency);
 446                 continue;
 447             }
 448             if (ctx->sample_rate) {
 449                 if (ctx->sample_rate > acaps->MaximumSampleFrequency ||
 450                     ctx->sample_rate < acaps->MinimumSampleFrequency)
 451                     goto next;
 452                 fx->nSamplesPerSec = ctx->sample_rate;
 453             }
 454             if (ctx->sample_size) {
 455                 if (ctx->sample_size > acaps->MaximumBitsPerSample ||
 456                     ctx->sample_size < acaps->MinimumBitsPerSample)
 457                     goto next;
 458                 fx->wBitsPerSample = ctx->sample_size;
 459             }
 460             if (ctx->channels) {
 461                 if (ctx->channels > acaps->MaximumChannels ||
 462                     ctx->channels < acaps->MinimumChannels)
 463                     goto next;
 464                 fx->nChannels = ctx->channels;
 465             }
 466         }
 467         if (IAMStreamConfig_SetFormat(config, type) != S_OK)
 468             goto next;
 469         format_set = 1;
 470 next:
 471         if (type->pbFormat)
 472             CoTaskMemFree(type->pbFormat);
 473         CoTaskMemFree(type);
 474     }
 475 end:
 476     IAMStreamConfig_Release(config);
 477     if (caps)
 478         av_free(caps);
 479     if (pformat_set)
 480         *pformat_set = format_set;
 481 }
 482
 483 /**
 484  * Set audio device buffer size in milliseconds (which can directly impact
 485  * latency, depending on the device).
 486  */
 487 static int
 488 dshow_set_audio_buffer_size(AVFormatContext *avctx, IPin *pin)
 489 {
 490     struct dshow_ctx *ctx = avctx->priv_data;
 491     IAMBufferNegotiation *buffer_negotiation = NULL;
 492     ALLOCATOR_PROPERTIES props = { -1, -1, -1, -1 };
 493     IAMStreamConfig *config = NULL;
 494     AM_MEDIA_TYPE *type = NULL;
 495     int ret = AVERROR(EIO);
 496
 497     if (IPin_QueryInterface(pin, &IID_IAMStreamConfig, (void **) &config) != S_OK)
 498         goto end;
 499     if (IAMStreamConfig_GetFormat(config, &type) != S_OK)
 500         goto end;
 501     if (!IsEqualGUID(&type->formattype, &FORMAT_WaveFormatEx))
 502         goto end;
 503
 504     props.cbBuffer = (((WAVEFORMATEX *) type->pbFormat)->nAvgBytesPerSec)
 505                    * ctx->audio_buffer_size / 1000;
 506
 507     if (IPin_QueryInterface(pin, &IID_IAMBufferNegotiation, (void **) &buffer_negotiation) != S_OK)
 508         goto end;
 509     if (IAMBufferNegotiation_SuggestAllocatorProperties(buffer_negotiation, &props) != S_OK)
 510         goto end;
 511
 512     ret = 0;
 513
 514 end:
 515     if (buffer_negotiation)
 516         IAMBufferNegotiation_Release(buffer_negotiation);
 517     if (type) {
 518         if (type->pbFormat)
 519             CoTaskMemFree(type->pbFormat);
 520         CoTaskMemFree(type);
 521     }
 522     if (config)
 523         IAMStreamConfig_Release(config);
 524
 525     return ret;
 526 }
 527
 528 /**
 529  * Cycle through available pins using the device_filter device, of type
 530  * devtype, retrieve the first output pin and return the pointer to the
 531  * object found in *ppin.
 532  * If ppin is NULL, cycle through all pins listing audio/video capabilities.
 533  */
 534 static int
 535 dshow_cycle_pins(AVFormatContext *avctx, enum dshowDeviceType devtype,
 536                  IBaseFilter *device_filter, IPin **ppin)
 537 {
 538     struct dshow_ctx *ctx = avctx->priv_data;
 539     IEnumPins *pins = 0;
 540     IPin *device_pin = NULL;
 541     IPin *pin;
 542     int r;
 543
 544     const GUID *mediatype[2] = { &MEDIATYPE_Video, &MEDIATYPE_Audio };
 545     const char *devtypename = (devtype == VideoDevice) ? "video" : "audio";
 546
 547     int set_format = (devtype == VideoDevice && (ctx->framerate ||
 548                                                 (ctx->requested_width && ctx->requested_height) ||
 549                                                  ctx->pixel_format != AV_PIX_FMT_NONE ||
 550                                                  ctx->video_codec_id != AV_CODEC_ID_RAWVIDEO))
 551                   || (devtype == AudioDevice && (ctx->channels || ctx->sample_rate));
 552     int format_set = 0;
 553
 554     r = IBaseFilter_EnumPins(device_filter, &pins);
 555     if (r != S_OK) {
 556         av_log(avctx, AV_LOG_ERROR, "Could not enumerate pins.\n");
 557         return AVERROR(EIO);
 558     }
 559
 560     if (!ppin) {
 561         av_log(avctx, AV_LOG_INFO, "DirectShow %s device options\n",
 562                devtypename);
 563     }
 564     while (!device_pin && IEnumPins_Next(pins, 1, &pin, NULL) == S_OK) {
 565         IKsPropertySet *p = NULL;
 566         IEnumMediaTypes *types = NULL;
 567         PIN_INFO info = {0};
 568         AM_MEDIA_TYPE *type;
 569         GUID category;
 570         DWORD r2;
 571
 572         IPin_QueryPinInfo(pin, &info);
 573         IBaseFilter_Release(info.pFilter);
 574
 575         if (info.dir != PINDIR_OUTPUT)
 576             goto next;
 577         if (IPin_QueryInterface(pin, &IID_IKsPropertySet, (void **) &p) != S_OK)
 578             goto next;
 579         if (IKsPropertySet_Get(p, &AMPROPSETID_Pin, AMPROPERTY_PIN_CATEGORY,
 580                                NULL, 0, &category, sizeof(GUID), &r2) != S_OK)
 581             goto next;
 582         if (!IsEqualGUID(&category, &PIN_CATEGORY_CAPTURE))
 583             goto next;
 584
 585         if (!ppin) {
 586             char *buf = dup_wchar_to_utf8(info.achName);
 587             av_log(avctx, AV_LOG_INFO, " Pin \"%s\"\n", buf);
 588             av_free(buf);
 589             dshow_cycle_formats(avctx, devtype, pin, NULL);
 590             goto next;
 591         }
 592         if (set_format) {
 593             dshow_cycle_formats(avctx, devtype, pin, &format_set);
 594             if (!format_set) {
 595                 goto next;
 596             }
 597         }
 598         if (devtype == AudioDevice && ctx->audio_buffer_size) {
 599             if (dshow_set_audio_buffer_size(avctx, pin) < 0)
 600                 goto next;
 601         }
 602
 603         if (IPin_EnumMediaTypes(pin, &types) != S_OK)
 604             goto next;
 605
 606         IEnumMediaTypes_Reset(types);
 607         while (!device_pin && IEnumMediaTypes_Next(types, 1, &type, NULL) == S_OK) {
 608             if (IsEqualGUID(&type->majortype, mediatype[devtype])) {
 609                 device_pin = pin;
 610                 goto next;
 611             }
 612             CoTaskMemFree(type);
 613         }
 614
 615 next:
 616         if (types)
 617             IEnumMediaTypes_Release(types);
 618         if (p)
 619             IKsPropertySet_Release(p);
 620         if (device_pin != pin)
 621             IPin_Release(pin);
 622     }
 623
 624     IEnumPins_Release(pins);
 625
 626     if (ppin) {
 627         if (set_format && !format_set) {
 628             av_log(avctx, AV_LOG_ERROR, "Could not set %s options\n", devtypename);
 629             return AVERROR(EIO);
 630         }
 631         if (!device_pin) {
 632             av_log(avctx, AV_LOG_ERROR,
 633                 "Could not find output pin from %s capture device.\n", devtypename);
 634             return AVERROR(EIO);
 635         }
 636         *ppin = device_pin;
 637     }
 638
 639     return 0;
 640 }
 641
 642 /**
 643  * List options for device with type devtype.
 644  *
 645  * @param devenum device enumerator used for accessing the device
 646  */
 647 static int
 648 dshow_list_device_options(AVFormatContext *avctx, ICreateDevEnum *devenum,
 649                           enum dshowDeviceType devtype)
 650 {
 651     struct dshow_ctx *ctx = avctx->priv_data;
 652     IBaseFilter *device_filter = NULL;
 653     int r;
 654
 655     if ((r = dshow_cycle_devices(avctx, devenum, devtype, &device_filter)) < 0)
 656         return r;
 657     ctx->device_filter[devtype] = device_filter;
 658     if ((r = dshow_cycle_pins(avctx, devtype, device_filter, NULL)) < 0)
 659         return r;
 660
 661     return 0;
 662 }
 663
 664 static int
 665 dshow_open_device(AVFormatContext *avctx, ICreateDevEnum *devenum,
 666                   enum dshowDeviceType devtype)
 667 {
 668     struct dshow_ctx *ctx = avctx->priv_data;
 669     IBaseFilter *device_filter = NULL;
 670     IGraphBuilder *graph = ctx->graph;
 671     IPin *device_pin = NULL;
 672     libAVPin *capture_pin = NULL;
 673     libAVFilter *capture_filter = NULL;
 674     int ret = AVERROR(EIO);
 675     int r;
 676
 677     const wchar_t *filter_name[2] = { L"Audio capture filter", L"Video capture filter" };
 678
 679     if ((r = dshow_cycle_devices(avctx, devenum, devtype, &device_filter)) < 0) {
 680         ret = r;
 681         goto error;
 682     }
 683
 684     ctx->device_filter [devtype] = device_filter;
 685
 686     r = IGraphBuilder_AddFilter(graph, device_filter, NULL);
 687     if (r != S_OK) {
 688         av_log(avctx, AV_LOG_ERROR, "Could not add device filter to graph.\n");
 689         goto error;
 690     }
 691
 692     if ((r = dshow_cycle_pins(avctx, devtype, device_filter, &device_pin)) < 0) {
 693         ret = r;
 694         goto error;
 695     }
 696     ctx->device_pin[devtype] = device_pin;
 697
 698     capture_filter = libAVFilter_Create(avctx, callback, devtype);
 699     if (!capture_filter) {
 700         av_log(avctx, AV_LOG_ERROR, "Could not create grabber filter.\n");
 701         goto error;
 702     }
 703     ctx->capture_filter[devtype] = capture_filter;
 704
 705     r = IGraphBuilder_AddFilter(graph, (IBaseFilter *) capture_filter,
 706                                 filter_name[devtype]);
 707     if (r != S_OK) {
 708         av_log(avctx, AV_LOG_ERROR, "Could not add capture filter to graph\n");
 709         goto error;
 710     }
 711
 712     libAVPin_AddRef(capture_filter->pin);
 713     capture_pin = capture_filter->pin;
 714     ctx->capture_pin[devtype] = capture_pin;
 715
 716     r = IGraphBuilder_ConnectDirect(graph, device_pin, (IPin *) capture_pin, NULL);
 717     if (r != S_OK) {
 718         av_log(avctx, AV_LOG_ERROR, "Could not connect pins\n");
 719         goto error;
 720     }
 721
 722     ret = 0;
 723
 724 error:
 725     return ret;
 726 }
 727
 728 static enum AVCodecID waveform_codec_id(enum AVSampleFormat sample_fmt)
 729 {
 730     switch (sample_fmt) {
 731     case AV_SAMPLE_FMT_U8:  return AV_CODEC_ID_PCM_U8;
 732     case AV_SAMPLE_FMT_S16: return AV_CODEC_ID_PCM_S16LE;
 733     case AV_SAMPLE_FMT_S32: return AV_CODEC_ID_PCM_S32LE;
 734     default:                return AV_CODEC_ID_NONE; /* Should never happen. */
 735     }
 736 }
 737
 738 static enum AVSampleFormat sample_fmt_bits_per_sample(int bits)
 739 {
 740     switch (bits) {
 741     case 8:  return AV_SAMPLE_FMT_U8;
 742     case 16: return AV_SAMPLE_FMT_S16;
 743     case 32: return AV_SAMPLE_FMT_S32;
 744     default: return AV_SAMPLE_FMT_NONE; /* Should never happen. */
 745     }
 746 }
 747
 748 static int
 749 dshow_add_device(AVFormatContext *avctx,
 750                  enum dshowDeviceType devtype)
 751 {
 752     struct dshow_ctx *ctx = avctx->priv_data;
 753     AM_MEDIA_TYPE type;
 754     AVCodecContext *codec;
 755     AVStream *st;
 756     int ret = AVERROR(EIO);
 757
 758     st = avformat_new_stream(avctx, NULL);
 759     if (!st) {
 760         ret = AVERROR(ENOMEM);
 761         goto error;
 762     }
 763     st->id = devtype;
 764
 765     ctx->capture_filter[devtype]->stream_index = st->index;
 766
 767     libAVPin_ConnectionMediaType(ctx->capture_pin[devtype], &type);
 768
 769     codec = st->codec;
 770     if (devtype == VideoDevice) {
 771         BITMAPINFOHEADER *bih = NULL;
 772         AVRational time_base;
 773
 774         if (IsEqualGUID(&type.formattype, &FORMAT_VideoInfo)) {
 775             VIDEOINFOHEADER *v = (void *) type.pbFormat;
 776             time_base = (AVRational) { v->AvgTimePerFrame, 10000000 };
 777             bih = &v->bmiHeader;
 778         } else if (IsEqualGUID(&type.formattype, &FORMAT_VideoInfo2)) {
 779             VIDEOINFOHEADER2 *v = (void *) type.pbFormat;
 780             time_base = (AVRational) { v->AvgTimePerFrame, 10000000 };
 781             bih = &v->bmiHeader;
 782         }
 783         if (!bih) {
 784             av_log(avctx, AV_LOG_ERROR, "Could not get media type.\n");
 785             goto error;
 786         }
 787
 788         codec->time_base  = time_base;
 789         codec->codec_type = AVMEDIA_TYPE_VIDEO;
 790         codec->width      = bih->biWidth;
 791         codec->height     = bih->biHeight;
 792         codec->pix_fmt    = dshow_pixfmt(bih->biCompression, bih->biBitCount);
 793         if (codec->pix_fmt == AV_PIX_FMT_NONE) {
 794             codec->codec_id = dshow_codecid(bih->biCompression);
 795             if (codec->codec_id == AV_CODEC_ID_NONE) {
 796                 av_log(avctx, AV_LOG_ERROR, "Unknown compression type. "
 797                                  "Please report verbose (-v 9) debug information.\n");
 798                 return AVERROR_PATCHWELCOME;
 799             }
 800             codec->bits_per_coded_sample = bih->biBitCount;
 801         } else {
 802             codec->codec_id = AV_CODEC_ID_RAWVIDEO;
 803             if (bih->biCompression == BI_RGB || bih->biCompression == BI_BITFIELDS) {
 804                 codec->bits_per_coded_sample = bih->biBitCount;
 805                 codec->extradata = av_malloc(9 + FF_INPUT_BUFFER_PADDING_SIZE);
 806                 if (codec->extradata) {
 807                     codec->extradata_size = 9;
 808                     memcpy(codec->extradata, "BottomUp", 9);
 809                 }
 810             }
 811         }
 812     } else {
 813         WAVEFORMATEX *fx = NULL;
 814
 815         if (IsEqualGUID(&type.formattype, &FORMAT_WaveFormatEx)) {
 816             fx = (void *) type.pbFormat;
 817         }
 818         if (!fx) {
 819             av_log(avctx, AV_LOG_ERROR, "Could not get media type.\n");
 820             goto error;
 821         }
 822
 823         codec->codec_type  = AVMEDIA_TYPE_AUDIO;
 824         codec->sample_fmt  = sample_fmt_bits_per_sample(fx->wBitsPerSample);
 825         codec->codec_id    = waveform_codec_id(codec->sample_fmt);
 826         codec->sample_rate = fx->nSamplesPerSec;
 827         codec->channels    = fx->nChannels;
 828     }
 829
 830     avpriv_set_pts_info(st, 64, 1, 10000000);
 831
 832     ret = 0;
 833
 834 error:
 835     return ret;
 836 }
 837
 838 static int parse_device_name(AVFormatContext *avctx)
 839 {
 840     struct dshow_ctx *ctx = avctx->priv_data;
 841     char **device_name = ctx->device_name;
 842     char *name = av_strdup(avctx->filename);
 843     char *tmp = name;
 844     int ret = 1;
 845     char *type;
 846
 847     while ((type = strtok(tmp, "="))) {
 848         char *token = strtok(NULL, ":");
 849         tmp = NULL;
 850
 851         if        (!strcmp(type, "video")) {
 852             device_name[0] = token;
 853         } else if (!strcmp(type, "audio")) {
 854             device_name[1] = token;
 855         } else {
 856             device_name[0] = NULL;
 857             device_name[1] = NULL;
 858             break;
 859         }
 860     }
 861
 862     if (!device_name[0] && !device_name[1]) {
 863         ret = 0;
 864     } else {
 865         if (device_name[0])
 866             device_name[0] = av_strdup(device_name[0]);
 867         if (device_name[1])
 868             device_name[1] = av_strdup(device_name[1]);
 869     }
 870
 871     av_free(name);
 872     return ret;
 873 }
 874
 875 static int dshow_read_header(AVFormatContext *avctx)
 876 {
 877     struct dshow_ctx *ctx = avctx->priv_data;
 878     IGraphBuilder *graph = NULL;
 879     ICreateDevEnum *devenum = NULL;
 880     IMediaControl *control = NULL;
 881     IMediaEvent *media_event = NULL;
 882     HANDLE media_event_handle;
 883     HANDLE proc;
 884     int ret = AVERROR(EIO);
 885     int r;
 886
 887     CoInitialize(0);
 888
 889     if (!ctx->list_devices && !parse_device_name(avctx)) {
 890         av_log(avctx, AV_LOG_ERROR, "Malformed dshow input string.\n");
 891         goto error;
 892     }
 893
 894     ctx->video_codec_id = avctx->video_codec_id ? avctx->video_codec_id
 895                                                 : AV_CODEC_ID_RAWVIDEO;
 896     if (ctx->pixel_format != AV_PIX_FMT_NONE) {
 897         if (ctx->video_codec_id != AV_CODEC_ID_RAWVIDEO) {
 898             av_log(avctx, AV_LOG_ERROR, "Pixel format may only be set when "
 899                               "video codec is not set or set to rawvideo\n");
 900             ret = AVERROR(EINVAL);
 901             goto error;
 902         }
 903     }
 904     if (ctx->framerate) {
 905         r = av_parse_video_rate(&ctx->requested_framerate, ctx->framerate);
 906         if (r < 0) {
 907             av_log(avctx, AV_LOG_ERROR, "Could not parse framerate '%s'.\n", ctx->framerate);
 908             goto error;
 909         }
 910     }
 911
 912     r = CoCreateInstance(&CLSID_FilterGraph, NULL, CLSCTX_INPROC_SERVER,
 913                          &IID_IGraphBuilder, (void **) &graph);
 914     if (r != S_OK) {
 915         av_log(avctx, AV_LOG_ERROR, "Could not create capture graph.\n");
 916         goto error;
 917     }
 918     ctx->graph = graph;
 919
 920     r = CoCreateInstance(&CLSID_SystemDeviceEnum, NULL, CLSCTX_INPROC_SERVER,
 921                          &IID_ICreateDevEnum, (void **) &devenum);
 922     if (r != S_OK) {
 923         av_log(avctx, AV_LOG_ERROR, "Could not enumerate system devices.\n");
 924         goto error;
 925     }
 926
 927     if (ctx->list_devices) {
 928         av_log(avctx, AV_LOG_INFO, "DirectShow video devices\n");
 929         dshow_cycle_devices(avctx, devenum, VideoDevice, NULL);
 930         av_log(avctx, AV_LOG_INFO, "DirectShow audio devices\n");
 931         dshow_cycle_devices(avctx, devenum, AudioDevice, NULL);
 932         ret = AVERROR_EXIT;
 933         goto error;
 934     }
 935     if (ctx->list_options) {
 936         if (ctx->device_name[VideoDevice])
 937             dshow_list_device_options(avctx, devenum, VideoDevice);
 938         if (ctx->device_name[AudioDevice])
 939             dshow_list_device_options(avctx, devenum, AudioDevice);
 940         ret = AVERROR_EXIT;
 941         goto error;
 942     }
 943
 944     if (ctx->device_name[VideoDevice]) {
 945         if ((r = dshow_open_device(avctx, devenum, VideoDevice)) < 0 ||
 946             (r = dshow_add_device(avctx, VideoDevice)) < 0) {
 947             ret = r;
 948             goto error;
 949         }
 950     }
 951     if (ctx->device_name[AudioDevice]) {
 952         if ((r = dshow_open_device(avctx, devenum, AudioDevice)) < 0 ||
 953             (r = dshow_add_device(avctx, AudioDevice)) < 0) {
 954             ret = r;
 955             goto error;
 956         }
 957     }
 958
 959     ctx->mutex = CreateMutex(NULL, 0, NULL);
 960     if (!ctx->mutex) {
 961         av_log(avctx, AV_LOG_ERROR, "Could not create Mutex\n");
 962         goto error;
 963     }
 964     ctx->event[1] = CreateEvent(NULL, 1, 0, NULL);
 965     if (!ctx->event[1]) {
 966         av_log(avctx, AV_LOG_ERROR, "Could not create Event\n");
 967         goto error;
 968     }
 969
 970     r = IGraphBuilder_QueryInterface(graph, &IID_IMediaControl, (void **) &control);
 971     if (r != S_OK) {
 972         av_log(avctx, AV_LOG_ERROR, "Could not get media control.\n");
 973         goto error;
 974     }
 975     ctx->control = control;
 976
 977     r = IGraphBuilder_QueryInterface(graph, &IID_IMediaEvent, (void **) &media_event);
 978     if (r != S_OK) {
 979         av_log(avctx, AV_LOG_ERROR, "Could not get media event.\n");
 980         goto error;
 981     }
 982     ctx->media_event = media_event;
 983
 984     r = IMediaEvent_GetEventHandle(media_event, (void *) &media_event_handle);
 985     if (r != S_OK) {
 986         av_log(avctx, AV_LOG_ERROR, "Could not get media event handle.\n");
 987         goto error;
 988     }
 989     proc = GetCurrentProcess();
 990     r = DuplicateHandle(proc, media_event_handle, proc, &ctx->event[0],
 991                         0, 0, DUPLICATE_SAME_ACCESS);
 992     if (!r) {
 993         av_log(avctx, AV_LOG_ERROR, "Could not duplicate media event handle.\n");
 994         goto error;
 995     }
 996
 997     r = IMediaControl_Run(control);
 998     if (r == S_FALSE) {
 999         OAFilterState pfs;
1000         r = IMediaControl_GetState(control, 0, &pfs);
1001     }
1002     if (r != S_OK) {
1003         av_log(avctx, AV_LOG_ERROR, "Could not run filter\n");
1004         goto error;
1005     }
1006
1007     ret = 0;
1008
1009 error:
1010
1011     if (devenum)
1012         ICreateDevEnum_Release(devenum);
1013
1014     if (ret < 0)
1015         dshow_read_close(avctx);
1016
1017     return ret;
1018 }
1019
1020 /**
1021  * Checks media events from DirectShow and returns -1 on error or EOF. Also
1022  * purges all events that might be in the event queue to stop the trigger
1023  * of event notification.
1024  */
1025 static int dshow_check_event_queue(IMediaEvent *media_event)
1026 {
1027     LONG_PTR p1, p2;
1028     long code;
1029     int ret = 0;
1030
1031     while (IMediaEvent_GetEvent(media_event, &code, &p1, &p2, 0) != E_ABORT) {
1032         if (code == EC_COMPLETE || code == EC_DEVICE_LOST || code == EC_ERRORABORT)
1033             ret = -1;
1034         IMediaEvent_FreeEventParams(media_event, code, p1, p2);
1035     }
1036
1037     return ret;
1038 }
1039
1040 static int dshow_read_packet(AVFormatContext *s, AVPacket *pkt)
1041 {
1042     struct dshow_ctx *ctx = s->priv_data;
1043     AVPacketList *pktl = NULL;
1044
1045     while (!ctx->eof && !pktl) {
1046         WaitForSingleObject(ctx->mutex, INFINITE);
1047         pktl = ctx->pktl;
1048         if (pktl) {
1049             *pkt = pktl->pkt;
1050             ctx->pktl = ctx->pktl->next;
1051             av_free(pktl);
1052             ctx->curbufsize -= pkt->size;
1053         }
1054         ResetEvent(ctx->event[1]);
1055         ReleaseMutex(ctx->mutex);
1056         if (!pktl) {
1057             if (dshow_check_event_queue(ctx->media_event) < 0) {
1058                 ctx->eof = 1;
1059             } else if (s->flags & AVFMT_FLAG_NONBLOCK) {
1060                 return AVERROR(EAGAIN);
1061             } else {
1062                 WaitForMultipleObjects(2, ctx->event, 0, INFINITE);
1063             }
1064         }
1065     }
1066
1067     return ctx->eof ? AVERROR(EIO) : pkt->size;
1068 }
1069
1070 #define OFFSET(x) offsetof(struct dshow_ctx, x)
1071 #define DEC AV_OPT_FLAG_DECODING_PARAM
1072 static const AVOption options[] = {
1073     { "video_size", "set video size given a string such as 640x480 or hd720.", OFFSET(requested_width), AV_OPT_TYPE_IMAGE_SIZE, {.str = NULL}, 0, 0, DEC },
1074     { "pixel_format", "set video pixel format", OFFSET(pixel_format), AV_OPT_TYPE_PIXEL_FMT, {.i64 = AV_PIX_FMT_NONE}, -1, AV_PIX_FMT_NB-1, DEC },
1075     { "framerate", "set video frame rate", OFFSET(framerate), AV_OPT_TYPE_STRING, {.str = NULL}, 0, 0, DEC },
1076     { "sample_rate", "set audio sample rate", OFFSET(sample_rate), AV_OPT_TYPE_INT, {.i64 = 0}, 0, INT_MAX, DEC },
1077     { "sample_size", "set audio sample size", OFFSET(sample_size), AV_OPT_TYPE_INT, {.i64 = 0}, 0, 16, DEC },
1078     { "channels", "set number of audio channels, such as 1 or 2", OFFSET(channels), AV_OPT_TYPE_INT, {.i64 = 0}, 0, INT_MAX, DEC },
1079     { "list_devices", "list available devices", OFFSET(list_devices), AV_OPT_TYPE_INT, {.i64=0}, 0, 1, DEC, "list_devices" },
1080     { "true", "", 0, AV_OPT_TYPE_CONST, {.i64=1}, 0, 0, DEC, "list_devices" },
1081     { "false", "", 0, AV_OPT_TYPE_CONST, {.i64=0}, 0, 0, DEC, "list_devices" },
1082     { "list_options", "list available options for specified device", OFFSET(list_options), AV_OPT_TYPE_INT, {.i64=0}, 0, 1, DEC, "list_options" },
1083     { "true", "", 0, AV_OPT_TYPE_CONST, {.i64=1}, 0, 0, DEC, "list_options" },
1084     { "false", "", 0, AV_OPT_TYPE_CONST, {.i64=0}, 0, 0, DEC, "list_options" },
1085     { "video_device_number", "set video device number for devices with same name (starts at 0)", OFFSET(video_device_number), AV_OPT_TYPE_INT, {.i64 = 0}, 0, INT_MAX, DEC },
1086     { "audio_device_number", "set audio device number for devices with same name (starts at 0)", OFFSET(audio_device_number), AV_OPT_TYPE_INT, {.i64 = 0}, 0, INT_MAX, DEC },
1087     { "audio_buffer_size", "set audio device buffer latency size in milliseconds (default is the device's default)", OFFSET(audio_buffer_size), AV_OPT_TYPE_INT, {.i64 = 0}, 0, INT_MAX, DEC },
1088     { NULL },
1089 };
1090
1091 static const AVClass dshow_class = {
1092     .class_name = "dshow indev",
1093     .item_name  = av_default_item_name,
1094     .option     = options,
1095     .version    = LIBAVUTIL_VERSION_INT,
1096 };
1097
1098 AVInputFormat ff_dshow_demuxer = {
1099     .name           = "dshow",
1100     .long_name      = NULL_IF_CONFIG_SMALL("DirectShow capture"),
1101     .priv_data_size = sizeof(struct dshow_ctx),
1102     .read_header    = dshow_read_header,
1103     .read_packet    = dshow_read_packet,
1104     .read_close     = dshow_read_close,
1105     .flags          = AVFMT_NOFILE,
1106     .priv_class     = &dshow_class,
1107 };