git.sesse.net Git - kdenlive/blob - src/kthumb.cpp

   1 /***************************************************************************
   2                         krender.cpp  -  description
   3                            -------------------
   4   begin                : Fri Nov 22 2002
   5   copyright            : (C) 2002 by Jason Wood
   6   email                : jasonwood@blueyonder.co.uk
   7   copyright            : (C) 2005 Lcio Fl�io Corr�
   8   email                : lucio.correa@gmail.com
   9   copyright            : (C) Marco Gittler
  10   email                : g.marco@freenet.de
  11
  12 ***************************************************************************/
  13
  14 /***************************************************************************
  15  *                                                                         *
  16  *   This program is free software; you can redistribute it and/or modify  *
  17  *   it under the terms of the GNU General Public License as published by  *
  18  *   the Free Software Foundation; either version 2 of the License, or     *
  19  *   (at your option) any later version.                                   *
  20  *                                                                         *
  21  ***************************************************************************/
  22
  23 #include "kthumb.h"
  24 #include "clipmanager.h"
  25 #include "renderer.h"
  26 #include "kdenlivesettings.h"
  27
  28 #include <mlt++/Mlt.h>
  29
  30 #include <kio/netaccess.h>
  31 #include <kdebug.h>
  32 #include <klocale.h>
  33 #include <kfileitem.h>
  34 #include <kmessagebox.h>
  35 #include <KStandardDirs>
  36
  37 #include <qxml.h>
  38 #include <QImage>
  39 #include <QApplication>
  40 #include <QtConcurrentRun>
  41
  42 void MyThread::init(KUrl url, QString target, double frame, double frameLength, int frequency, int channels, int arrayWidth)
  43 {
  44     stop_me = false;
  45     m_isWorking = false;
  46     f.setFileName(target);
  47     m_url = url;
  48     m_frame = frame;
  49     m_frameLength = frameLength;
  50     m_frequency = frequency;
  51     m_channels = channels;
  52     m_arrayWidth = arrayWidth;
  53 }
  54
  55 bool MyThread::isWorking()
  56 {
  57     return m_isWorking;
  58 }
  59
  60 void MyThread::run()
  61 {
  62     if (!f.open(QIODevice::WriteOnly)) {
  63         kDebug() << "++++++++  ERROR WRITING TO FILE: " << f.fileName() << endl;
  64         kDebug() << "++++++++  DISABLING AUDIO THUMBS" << endl;
  65         KdenliveSettings::setAudiothumbnails(false);
  66         return;
  67     }
  68     m_isWorking = true;
  69     Mlt::Profile prof((char*) KdenliveSettings::current_profile().toUtf8().data());
  70     Mlt::Producer m_producer(prof, m_url.path().toUtf8().data());
  71
  72
  73     if (KdenliveSettings::normaliseaudiothumbs()) {
  74         Mlt::Filter m_convert(prof, "volume");
  75         m_convert.set("gain", "normalise");
  76         m_producer.attach(m_convert);
  77     }
  78
  79     int last_val = 0;
  80     int val = 0;
  81     kDebug() << "for " << m_frame << " " << m_frameLength << " " << m_producer.is_valid();
  82     for (int z = (int) m_frame; z < (int)(m_frame + m_frameLength) && m_producer.is_valid(); z++) {
  83         if (stop_me) break;
  84         val = (int)((z - m_frame) / (m_frame + m_frameLength) * 100.0);
  85         if (last_val != val && val > 1) {
  86             emit audioThumbProgress(val);
  87             last_val = val;
  88         }
  89         m_producer.seek(z);
  90         Mlt::Frame *mlt_frame = m_producer.get_frame();
  91         if (mlt_frame && mlt_frame->is_valid()) {
  92             double m_framesPerSecond = mlt_producer_get_fps(m_producer.get_producer());
  93             int m_samples = mlt_sample_calculator(m_framesPerSecond, m_frequency, mlt_frame_get_position(mlt_frame->get_frame()));
  94             mlt_audio_format m_audioFormat = mlt_audio_pcm;
  95             qint16* m_pcm = static_cast<qint16*>(mlt_frame->get_audio(m_audioFormat, m_frequency, m_channels, m_samples));
  96
  97             for (int c = 0; c < m_channels; c++) {
  98                 QByteArray m_array;
  99                 m_array.resize(m_arrayWidth);
 100                 for (int i = 0; i < m_array.size(); i++) {
 101                     m_array[i] = ((*(m_pcm + c + i * m_samples / m_array.size())) >> 9) + 127 / 2 ;
 102                 }
 103                 f.write(m_array);
 104
 105             }
 106         } else {
 107             f.write(QByteArray(m_arrayWidth, '\x00'));
 108         }
 109         delete mlt_frame;
 110     }
 111     //kDebug() << "done";
 112     f.close();
 113     m_isWorking = false;
 114     if (stop_me) {
 115         f.remove();
 116     } else emit audioThumbOver();
 117 }
 118
 119
 120 KThumb::KThumb(ClipManager *clipManager, KUrl url, const QString &id, const QString &hash, QObject * parent, const char */*name*/) :
 121     QObject(parent),
 122     m_audioThumbProducer(),
 123     m_url(url),
 124     m_thumbFile(),
 125     m_dar(1),
 126     m_producer(NULL),
 127     m_clipManager(clipManager),
 128     m_id(id),
 129     m_stopAudioThumbs(false)
 130 {
 131     m_thumbFile = clipManager->projectFolder() + "/thumbs/" + hash + ".thumb";
 132     /*connect(&m_audioThumbProducer, SIGNAL(audioThumbProgress(const int)), this, SLOT(slotAudioThumbProgress(const int)));
 133     connect(&m_audioThumbProducer, SIGNAL(audioThumbOver()), this, SLOT(slotAudioThumbOver()));*/
 134 }
 135
 136 KThumb::~KThumb()
 137 {
 138     m_requestedThumbs.clear();
 139     if (m_audioThumbProducer.isRunning()) {
 140         m_stopAudioThumbs = true;
 141         m_audioThumbProducer.waitForFinished();
 142         slotAudioThumbOver();
 143     }
 144     m_future.waitForFinished();
 145 }
 146
 147 void KThumb::setProducer(Mlt::Producer *producer)
 148 {
 149     m_requestedThumbs.clear();
 150     m_future.waitForFinished();
 151     m_producer = producer;
 152     // FIXME: the profile() call leaks an object, but trying to free
 153     // it leads to a double-free in Profile::~Profile()
 154     m_dar = producer->profile()->dar();
 155 }
 156
 157 void KThumb::clearProducer()
 158 {
 159     m_producer = NULL;
 160 }
 161
 162 bool KThumb::hasProducer() const
 163 {
 164     return m_producer != NULL;
 165 }
 166
 167 void KThumb::updateThumbUrl(const QString &hash)
 168 {
 169     m_thumbFile = m_clipManager->projectFolder() + "/thumbs/" + hash + ".thumb";
 170 }
 171
 172 void KThumb::updateClipUrl(KUrl url, const QString &hash)
 173 {
 174     m_url = url;
 175     if (m_producer)
 176         m_producer->set("resource", url.path().toUtf8().constData());
 177     m_thumbFile = m_clipManager->projectFolder() + "/thumbs/" + hash + ".thumb";
 178 }
 179
 180 //static
 181 QPixmap KThumb::getImage(KUrl url, int width, int height)
 182 {
 183     if (url.isEmpty()) return QPixmap();
 184     return getImage(url, 0, width, height);
 185 }
 186
 187 void KThumb::extractImage(int frame, int frame2)
 188 {
 189     if (!KdenliveSettings::videothumbnails() || m_producer == NULL) return;
 190     if (frame != -1 && !m_requestedThumbs.contains(frame)) m_requestedThumbs.append(frame);
 191     if (frame2 != -1 && !m_requestedThumbs.contains(frame2)) m_requestedThumbs.append(frame2);
 192     if (!m_future.isRunning()) m_future = QtConcurrent::run(this, &KThumb::doGetThumbs);
 193 }
 194
 195 void KThumb::doGetThumbs()
 196 {
 197     const int theight = KdenliveSettings::trackheight();
 198     const int twidth = FRAME_SIZE;//(int)(theight * m_dar + 0.5);
 199
 200     while (!m_requestedThumbs.isEmpty()) {
 201         int frame = m_requestedThumbs.takeFirst();
 202         if (frame != -1) {
 203             QImage img = getFrame(m_producer, frame, twidth, theight);
 204             emit thumbReady(frame, img);
 205         }
 206     }
 207 }
 208
 209 QPixmap KThumb::extractImage(int frame, int width, int height)
 210 {
 211     return QPixmap::fromImage(getFrame(m_producer, frame, width, height));
 212 }
 213
 214 //static
 215 QPixmap KThumb::getImage(KUrl url, int frame, int width, int height)
 216 {
 217     Mlt::Profile profile(KdenliveSettings::current_profile().toUtf8().constData());
 218     QPixmap pix(width, height);
 219     if (url.isEmpty()) return pix;
 220
 221     //"<mlt><playlist><producer resource=\"" + url.path() + "\" /></playlist></mlt>");
 222     //Mlt::Producer producer(profile, "xml-string", tmp);
 223     Mlt::Producer *producer = new Mlt::Producer(profile, url.path().toUtf8().constData());
 224
 225     pix = QPixmap::fromImage(getFrame(producer, frame, width, height));
 226     delete producer;
 227     return pix;
 228 }
 229
 230
 231 //static
 232 QImage KThumb::getFrame(Mlt::Producer *producer, int framepos, int width, int height)
 233 {
 234     QImage p(width, height, QImage::Format_ARGB32_Premultiplied);
 235     if (producer == NULL) {
 236         p.fill(Qt::red);
 237         return p;
 238     }
 239
 240     if (producer->is_blank()) {
 241         p.fill(Qt::black);
 242         return p;
 243     }
 244
 245     producer->seek(framepos);
 246     Mlt::Frame *frame = producer->get_frame();
 247     if (!frame) {
 248         kDebug() << "///// BROKEN FRAME";
 249         p.fill(Qt::red);
 250         return p;
 251     }
 252
 253     /*Mlt::Producer parentProd(producer->parent());
 254     Mlt::Service service(parentProd.get_service());
 255     mlt_service_lock(service.get_service());*/
 256     int ow = width;
 257     int oh = height;
 258     mlt_image_format format = mlt_image_rgb24a;
 259     uint8_t *data = frame->get_image(format, ow, oh, 0);
 260     QImage image((uchar *)data, ow, oh, QImage::Format_ARGB32_Premultiplied);
 261     //mlt_service_unlock(service.get_service());
 262
 263     if (!image.isNull()) {
 264         if (ow > (2 * width)) {
 265             // there was a scaling problem, do it manually
 266             QImage scaled = image.scaled(width, height);
 267             p = scaled.rgbSwapped();
 268         } else p = image.rgbSwapped();
 269     } else
 270         p.fill(Qt::red);
 271
 272     delete frame;
 273     return p;
 274 }
 275 /*
 276 void KThumb::getImage(KUrl url, int frame, int width, int height)
 277 {
 278     if (url.isEmpty()) return;
 279     QPixmap image(width, height);
 280     Mlt::Producer m_producer(url.path().toUtf8().constData());
 281     image.fill(Qt::black);
 282
 283     if (m_producer.is_blank()) {
 284  emit thumbReady(frame, image);
 285  return;
 286     }
 287     Mlt::Filter m_convert("avcolour_space");
 288     m_convert.set("forced", mlt_image_rgb24a);
 289     m_producer.attach(m_convert);
 290     m_producer.seek(frame);
 291     Mlt::Frame * m_frame = m_producer.get_frame();
 292     mlt_image_format format = mlt_image_rgb24a;
 293     width = width - 2;
 294     height = height - 2;
 295     if (m_frame && m_frame->is_valid()) {
 296      uint8_t *thumb = m_frame->get_image(format, width, height);
 297      QImage tmpimage(thumb, width, height, 32, NULL, 0, QImage::IgnoreEndian);
 298      if (!tmpimage.isNull()) bitBlt(&image, 1, 1, &tmpimage, 0, 0, width + 2, height + 2);
 299     }
 300     if (m_frame) delete m_frame;
 301     emit thumbReady(frame, image);
 302 }
 303
 304 void KThumb::getThumbs(KUrl url, int startframe, int endframe, int width, int height)
 305 {
 306     if (url.isEmpty()) return;
 307     QPixmap image(width, height);
 308     Mlt::Producer m_producer(url.path().toUtf8().constData());
 309     image.fill(Qt::black);
 310
 311     if (m_producer.is_blank()) {
 312  emit thumbReady(startframe, image);
 313  emit thumbReady(endframe, image);
 314  return;
 315     }
 316     Mlt::Filter m_convert("avcolour_space");
 317     m_convert.set("forced", mlt_image_rgb24a);
 318     m_producer.attach(m_convert);
 319     m_producer.seek(startframe);
 320     Mlt::Frame * m_frame = m_producer.get_frame();
 321     mlt_image_format format = mlt_image_rgb24a;
 322     width = width - 2;
 323     height = height - 2;
 324
 325     if (m_frame && m_frame->is_valid()) {
 326      uint8_t *thumb = m_frame->get_image(format, width, height);
 327      QImage tmpimage(thumb, width, height, 32, NULL, 0, QImage::IgnoreEndian);
 328      if (!tmpimage.isNull()) bitBlt(&image, 1, 1, &tmpimage, 0, 0, width - 2, height - 2);
 329     }
 330     if (m_frame) delete m_frame;
 331     emit thumbReady(startframe, image);
 332
 333     image.fill(Qt::black);
 334     m_producer.seek(endframe);
 335     m_frame = m_producer.get_frame();
 336
 337     if (m_frame && m_frame->is_valid()) {
 338      uint8_t *thumb = m_frame->get_image(format, width, height);
 339      QImage tmpimage(thumb, width, height, 32, NULL, 0, QImage::IgnoreEndian);
 340      if (!tmpimage.isNull()) bitBlt(&image, 1, 1, &tmpimage, 0, 0, width - 2, height - 2);
 341     }
 342     if (m_frame) delete m_frame;
 343     emit thumbReady(endframe, image);
 344 }
 345 */
 346 void KThumb::stopAudioThumbs()
 347 {
 348     if (m_audioThumbProducer.isRunning()) {
 349         m_stopAudioThumbs = true;
 350         m_audioThumbProducer.waitForFinished();
 351         slotAudioThumbOver();
 352     }
 353 }
 354
 355 void KThumb::removeAudioThumb()
 356 {
 357     if (m_thumbFile.isEmpty()) return;
 358     stopAudioThumbs();
 359     QFile f(m_thumbFile);
 360     f.remove();
 361 }
 362
 363 void KThumb::getAudioThumbs(int channel, double frame, double frameLength, int arrayWidth)
 364 {
 365     if (channel == 0) {
 366         slotAudioThumbOver();
 367         return;
 368     }
 369     if (m_audioThumbProducer.isRunning()) {
 370         return;
 371     }
 372
 373     QMap <int, QMap <int, QByteArray> > storeIn;
 374     //FIXME: Hardcoded!!!
 375     m_frequency = 48000;
 376     m_channels = channel;
 377
 378     QFile f(m_thumbFile);
 379     if (f.open(QIODevice::ReadOnly)) {
 380         QByteArray channelarray = f.readAll();
 381         f.close();
 382         if (channelarray.size() != arrayWidth*(frame + frameLength)*m_channels) {
 383             kDebug() << "--- BROKEN THUMB FOR: " << m_url.fileName() << " ---------------------- " << endl;
 384             f.remove();
 385             slotAudioThumbOver();
 386             return;
 387         }
 388
 389         kDebug() << "reading audio thumbs from file";
 390
 391         int h1 = arrayWidth * m_channels;
 392         int h2 = (int) frame * h1;
 393         int h3;
 394         for (int z = (int) frame; z < (int)(frame + frameLength); z++) {
 395             h2 += h1;
 396             h3 = 0;
 397             for (int c = 0; c < m_channels; c++) {
 398                 h3 += arrayWidth;
 399                 QByteArray m_array(arrayWidth, '\x00');
 400                 for (int i = 0; i < arrayWidth; i++)
 401                     m_array[i] = channelarray[h2 + h3 + i];
 402                 storeIn[z][c] = m_array;
 403             }
 404         }
 405         emit audioThumbReady(storeIn);
 406         slotAudioThumbOver();
 407     } else {
 408         if (m_audioThumbProducer.isRunning()) return;
 409         m_audioThumbFile.setFileName(m_thumbFile);
 410         m_frame = frame;
 411         m_frameLength = frameLength;
 412         m_arrayWidth = arrayWidth;
 413         m_audioThumbProducer = QtConcurrent::run(this, &KThumb::slotCreateAudioThumbs);
 414         /*m_audioThumbProducer.init(m_url, m_thumbFile, frame, frameLength, m_frequency, m_channels, arrayWidth);
 415         m_audioThumbProducer.start(QThread::LowestPriority);*/
 416         // kDebug() << "STARTING GENERATE THMB FOR: " <<m_id<<", URL: "<< m_url << " ................................";
 417     }
 418 }
 419
 420 void KThumb::slotCreateAudioThumbs()
 421 {
 422     if (!m_audioThumbFile.open(QIODevice::WriteOnly)) {
 423         kDebug() << "++++++++  ERROR WRITING TO FILE: " << m_audioThumbFile.fileName();
 424         kDebug() << "++++++++  DISABLING AUDIO THUMBS";
 425         KdenliveSettings::setAudiothumbnails(false);
 426         return;
 427     }
 428     Mlt::Profile prof((char*) KdenliveSettings::current_profile().toUtf8().data());
 429     Mlt::Producer m_producer(prof, m_url.path().toUtf8().data());
 430
 431     if (KdenliveSettings::normaliseaudiothumbs()) {
 432         Mlt::Filter m_convert(prof, "volume");
 433         m_convert.set("gain", "normalise");
 434         m_producer.attach(m_convert);
 435     }
 436
 437     int last_val = 0;
 438     int val = 0;
 439     kDebug() << "for " << m_frame << " " << m_frameLength << " " << m_producer.is_valid();
 440     for (int z = (int) m_frame; z < (int)(m_frame + m_frameLength) && m_producer.is_valid(); z++) {
 441         if (m_stopAudioThumbs) break;
 442         val = (int)((z - m_frame) / (m_frame + m_frameLength) * 100.0);
 443         if (last_val != val && val > 1) {
 444             slotAudioThumbProgress(val);
 445             last_val = val;
 446         }
 447         m_producer.seek(z);
 448         Mlt::Frame *mlt_frame = m_producer.get_frame();
 449         if (mlt_frame && mlt_frame->is_valid()) {
 450             double m_framesPerSecond = mlt_producer_get_fps(m_producer.get_producer());
 451             int m_samples = mlt_sample_calculator(m_framesPerSecond, m_frequency, mlt_frame_get_position(mlt_frame->get_frame()));
 452             mlt_audio_format m_audioFormat = mlt_audio_pcm;
 453             qint16* m_pcm = static_cast<qint16*>(mlt_frame->get_audio(m_audioFormat, m_frequency, m_channels, m_samples));
 454
 455             for (int c = 0; c < m_channels; c++) {
 456                 QByteArray m_array;
 457                 m_array.resize(m_arrayWidth);
 458                 for (int i = 0; i < m_array.size(); i++) {
 459                     m_array[i] = ((*(m_pcm + c + i * m_samples / m_array.size())) >> 9) + 127 / 2 ;
 460                 }
 461                 m_audioThumbFile.write(m_array);
 462
 463             }
 464         } else {
 465             m_audioThumbFile.write(QByteArray(m_arrayWidth, '\x00'));
 466         }
 467         delete mlt_frame;
 468     }
 469     m_audioThumbFile.close();
 470     if (m_stopAudioThumbs) {
 471         m_audioThumbFile.remove();
 472     } else {
 473         slotAudioThumbOver();
 474     }
 475 }
 476
 477 void KThumb::slotAudioThumbProgress(const int progress)
 478 {
 479     m_clipManager->setThumbsProgress(i18n("Creating thumbnail for %1", m_url.fileName()), progress);
 480 }
 481
 482 void KThumb::slotAudioThumbOver()
 483 {
 484     m_clipManager->setThumbsProgress(i18n("Creating thumbnail for %1", m_url.fileName()), -1);
 485     m_clipManager->endAudioThumbsGeneration(m_id);
 486 }
 487
 488 void KThumb::askForAudioThumbs(const QString &id)
 489 {
 490     m_clipManager->askForAudioThumb(id);
 491 }
 492
 493
 494 #include "kthumb.moc"
 495