git.sesse.net Git - kdenlive/blob - src/lib/audio/audioEnvelope.cpp

   1 /***************************************************************************
   2  *   Copyright (C) 2012 by Simon Andreas Eugster (simon.eu@gmail.com)      *
   3  *   This file is part of kdenlive. See www.kdenlive.org.                  *
   4  *                                                                         *
   5  *   This program is free software; you can redistribute it and/or modify  *
   6  *   it under the terms of the GNU General Public License as published by  *
   7  *   the Free Software Foundation; either version 2 of the License, or     *
   8  *   (at your option) any later version.                                   *
   9  ***************************************************************************/
  10
  11 #include "audioEnvelope.h"
  12
  13 #include "audioStreamInfo.h"
  14 #include <QImage>
  15 #include <QTime>
  16 #include <cmath>
  17 #include <iostream>
  18
  19 AudioEnvelope::AudioEnvelope(Mlt::Producer *producer, int offset, int length) :
  20     m_envelope(NULL),
  21     m_offset(offset),
  22     m_length(length),
  23     m_envelopeSize(producer->get_length()),
  24     m_envelopeMax(0),
  25     m_envelopeStdDevCalculated(false),
  26     m_envelopeIsNormalized(false)
  27 {
  28     // make a copy of the producer to avoid audio playback issues
  29     m_producer = new Mlt::Producer(*(producer->profile()), producer->get("resource"));
  30     m_info = new AudioInfo(m_producer);
  31
  32     Q_ASSERT(m_offset >= 0);
  33     if (m_length > 0) {
  34         Q_ASSERT(m_length+m_offset <= m_envelopeSize);
  35         m_envelopeSize = m_length;
  36     }
  37 }
  38
  39 AudioEnvelope::~AudioEnvelope()
  40 {
  41     if (m_envelope != NULL) {
  42         delete[] m_envelope;
  43     }
  44     delete m_info;
  45     delete m_producer;
  46 }
  47
  48
  49
  50 const int64_t *AudioEnvelope::envelope()
  51 {
  52     if (m_envelope == NULL) {
  53         loadEnvelope();
  54     }
  55     return m_envelope;
  56 }
  57 int AudioEnvelope::envelopeSize() const
  58 {
  59     return m_envelopeSize;
  60 }
  61 int64_t AudioEnvelope::maxValue() const
  62 {
  63     return m_envelopeMax;
  64 }
  65
  66
  67
  68
  69 void AudioEnvelope::loadEnvelope()
  70 {
  71     Q_ASSERT(m_envelope == NULL);
  72
  73     std::cout << "Loading envelope ..." << std::endl;
  74
  75     int samplingRate = m_info->info(0)->samplingRate();
  76     mlt_audio_format format_s16 = mlt_audio_s16;
  77     int channels = 1;
  78
  79     Mlt::Frame *frame;
  80     int64_t position;
  81     int samples;
  82
  83     m_envelope = new int64_t[m_envelopeSize];
  84     m_envelopeMax = 0;
  85     m_envelopeMean = 0;
  86
  87     QTime t;
  88     t.start();
  89     int count = 0;
  90     m_producer->seek(m_offset);
  91     m_producer->set_speed(1.0); // This is necessary, otherwise we don't get any new frames in the 2nd run.
  92     for (int i = 0; i < m_envelopeSize; i++) {
  93
  94         frame = m_producer->get_frame(i);
  95         position = mlt_frame_get_position(frame->get_frame());
  96         samples = mlt_sample_calculator(m_producer->get_fps(), samplingRate, position);
  97
  98         int16_t *data = static_cast<int16_t*>(frame->get_audio(format_s16, samplingRate, channels, samples));
  99
 100         int64_t sum = 0;
 101         for (int k = 0; k < samples; k++) {
 102             sum += fabs(data[k]);
 103         }
 104         m_envelope[i] = sum;
 105
 106         m_envelopeMean += sum;
 107         if (sum > m_envelopeMax) {
 108             m_envelopeMax = sum;
 109         }
 110
 111 //        std::cout << position << "|" << m_producer->get_playtime()
 112 //                  << "-" << m_producer->get_in() << "+" << m_producer->get_out() << " ";
 113
 114         delete frame;
 115
 116         count++;
 117         if (m_length > 0 && count > m_length) {
 118             break;
 119         }
 120     }
 121     m_envelopeMean /= m_envelopeSize;
 122     std::cout << "Calculating the envelope (" << m_envelopeSize << " frames) took "
 123               << t.elapsed() << " ms." << std::endl;
 124 }
 125
 126 int64_t AudioEnvelope::loadStdDev()
 127 {
 128     if (m_envelopeStdDevCalculated) {
 129         std::cout << "Standard deviation already calculated, not re-calculating." << std::endl;
 130     } else {
 131
 132         if (m_envelope == NULL) {
 133             loadEnvelope();
 134         }
 135
 136         m_envelopeStdDev = 0;
 137         for (int i = 0; i < m_envelopeSize; i++) {
 138             m_envelopeStdDev += sqrt((m_envelope[i]-m_envelopeMean)*(m_envelope[i]-m_envelopeMean)/m_envelopeSize);
 139         }
 140         m_envelopeStdDevCalculated = true;
 141
 142     }
 143     return m_envelopeStdDev;
 144 }
 145
 146 void AudioEnvelope::normalizeEnvelope(bool clampTo0)
 147 {
 148     if (m_envelope == NULL) {
 149         loadEnvelope();
 150     }
 151
 152     if (!m_envelopeIsNormalized) {
 153
 154         m_envelopeMax = 0;
 155         int64_t newMean = 0;
 156         for (int i = 0; i < m_envelopeSize; i++) {
 157
 158             m_envelope[i] -= m_envelopeMean;
 159
 160             if (clampTo0) {
 161                 if (m_envelope[i] < 0) { m_envelope[i] = 0; }
 162             }
 163
 164             if (m_envelope[i] > m_envelopeMax) {
 165                 m_envelopeMax = m_envelope[i];
 166             }
 167
 168             newMean += m_envelope[i];
 169         }
 170         m_envelopeMean = newMean / m_envelopeSize;
 171
 172         m_envelopeIsNormalized = true;
 173     }
 174
 175 }
 176
 177 QImage AudioEnvelope::drawEnvelope()
 178 {
 179     if (m_envelope == NULL) {
 180         loadEnvelope();
 181     }
 182
 183     QImage img(m_envelopeSize, 400, QImage::Format_ARGB32);
 184     img.fill(qRgb(255,255,255));
 185     double fy;
 186     for (int x = 0; x < img.width(); x++) {
 187         fy = m_envelope[x]/double(m_envelopeMax) * img.height();
 188         for (int y = img.height()-1; y > img.height()-1-fy; y--) {
 189             img.setPixel(x,y, qRgb(50, 50, 50));
 190         }
 191     }
 192     return img;
 193 }
 194
 195 void AudioEnvelope::dumpInfo() const
 196 {
 197     if (m_envelope == NULL) {
 198         std::cout << "Envelope not generated, no information available." << std::endl;
 199     } else {
 200         std::cout << "Envelope info" << std::endl
 201                   << "* size = " << m_envelopeSize << std::endl
 202                   << "* max = " << m_envelopeMax << std::endl
 203                   << "* µ = " << m_envelopeMean << std::endl
 204                      ;
 205         if (m_envelopeStdDevCalculated) {
 206             std::cout << "* s = " << m_envelopeStdDev << std::endl;
 207         }
 208     }
 209 }