Compressed Sensing et GPUs: Deux Revolutions Complementaires ? Igor Carron http://nuit-blanche.blogspot.com GPUCamp Dec. 6th, 2008 Intro • • • • Compressed Sensing: Qu’est que c’est ? Pourquoi est-ce revolutionaire ? Pourquoi les GPUs.
Download ReportTranscript Compressed Sensing et GPUs: Deux Revolutions Complementaires ? Igor Carron http://nuit-blanche.blogspot.com GPUCamp Dec. 6th, 2008 Intro • • • • Compressed Sensing: Qu’est que c’est ? Pourquoi est-ce revolutionaire ? Pourquoi les GPUs.
Compressed Sensing et GPUs: Deux Revolutions Complementaires ? Igor Carron http://nuit-blanche.blogspot.com GPUCamp Dec. 6th, 2008 Intro • • • • Compressed Sensing: Qu’est que c’est ? Pourquoi est-ce revolutionaire ? Pourquoi les GPUs ? Le Futur • Appendices • References Compressed Sensing: Qu’est que c’est ? • C’est nouveau. Ca vient de sortir ! • Premieres Publications: 2004, David Donoho, Emmanuel Candes, Justin Romberg, Terence Tao (Fields Medal 2006) Compressed Sensing (CS): Qu’est que c’est ? • Un signal peut-etre soit: – – – – Un enregistrement de voix (1D) Une image (2-D) Une image avec 100,000 couleurs (3D) Un film avec 100,000 couleurs (5D)….. • CS = Une nouvelle methode d’echantillonage d’un signal qui permet une compression en meme temps que l’acquisition du signal. Un exemple Un exemple [2] Un exemple: Comment ca marche ? Superposition de plusieurs vues sur une seule image [9] Un exemple: Comment ca marche ? Resultat de la desembiguite a l'aide de techniques du CS [9] Un exemple: utilisation du CS [8] Photographie normale CS Un exemple (suite) • On remarque trois choses: – Le CS est une methode d’acquisition d’image indirecte. – Il faut une methode de reconstruction afin de transformer les signaux CS en images comprehensibles. – La taille de l’information acquise est plus faible que celle de depart Un deuxieme exemple CS Camera at Rice University [1] Un deuxieme exemple • http://www.youtube.com/watch?v=xvIHHK _X3B8 • A 3 min et 30 secondes. Pourquoi est-ce revolutionaire ? • Maintenant: On prend des images de 5 MPixels, on utilise de l’energie et l’on comprime cette image au format jpeg de 300KB. On a jete une grande partie des infos. • CS: On acquiert 1.5MB d’informations. C’est tout! Pourquoi est-ce revolutionaire ? • La compression se fait en meme temps que l’acquisition. – Reduit consommation d’energie des appareils, moins de memoire. – Utile pour des donnees de tres grandes dimensions. – Sous-echantillonage par rapport aux methodes traditionnelles. • Les donnees sont naturellement encryptees. • Permet de considerer de nouveaux appareils de mesures. • Les donnees sont “eternelles”. The Big Picture Pourquoi les GPUs ? Acquisition CS • L’acquisition se fait en generale de facon analogique, – tres peu couteuse en energie et – presque optimale en compression – Voir des exemples dans l’appendice a la fin de la presentation • Il y a des cas ou le GPU peut-etre indispensable: Le CS adaptatif. Reconstruction CS • C’est le gouleau d’etranglement principal ! • Plusieurs types d’algorithmes de reconstructions sont developpes et s’ameliore de mois en mois. • La reconstruction de grandes images pose toujours des problemes en temps. • La reconstruction de signaux de plus grande dimension (> 2D) demandera des processeurs specifiques. Reconstruction CS • UCLA GPU/Multicore [5] • “…This algorithm has been especially designed to take benefit of current parallel many-core architectures and achieves noticeable speedups. Besides, it is easy to implement on these architecture. To validate our approach, we proposed implementations on various current high-end platforms, such as vectorized multicore CPU, GPU and Cell. Pros and cons of both platforms and implementations have been discussed…” Reconstruction CS • University of Calgary GPU solver [6] “….fast GPU implementation of the MP algorithm, based on the recently released NVIDIA CUDA API and CUBLAS library. The results show that the GPU version is substantially faster (up to 31 times) than the highly optimized CPU version based on CBLAS (GNU Scientific Library)…” Reconstruction CS • Graz University of Technology GPU solver [7] “…The drawback of these algorithms is their long reconstruction time which makes it impossible to use them in clinical practice. This study demonstrates that these optimization problems can be solved on modern graphic processing units (GPUs), with computation times that allow real time imaging…” Le Futur • Utilisation des GPUs pour l’acquisition CS dans certains domaines ? Acquisition adaptative ? • Utilisation des GPUs pour la reconstruction CS dans tout les domaines. • Possibilite de faire de la reconnaissance d’objets directement avec les echantillons CS (Pas de besoin de reconstruction). Besoin de GPU pour faire des comparaisons entre mesure CS et librairies/dictionnaires... Le futur • Il se construit sous nos yeux! • Pour en savoir plus: – Librarie de l’Universite de Rice http://www.dsp.ece.rice.edu/cs/cscamera/ – CS: The Big Picture: http://igorcarron.googlepages.com/cs – Nuit Blanche Blog: http://nuit-blanche.blogspot.com Appendices Acquisition CS: Exemples • L’acquisition CS peut prendre differentes formes. • Plusieurs exemples sur: http://igorcarron.googlepages.com/compress edsensinghardware Differents Niveaux de Maturite Technologique (TRL) 1D A2I converters (Rice/Caltech/U Michigan) [22] 2D CS Camera at Rice University [1] Single Pixel Illumination camera (Rice, U of Arizona) [3] Georgia Tech Transform Imager [10] Georgia Tech Random Convolution Imager [11] EPFL CMOS Imager [12] 3D CS Hyperspectral Imager at Duke University [14] Columbia CS light for 3D participating media [15] MIT Random Lens Imager [16] HyperGeoCam – Texas A&M [17] • Certaines fois, les instruments de mesures sont les memes mais sont utilises d’une facons differentes. IRM (Stanford) [18] Seismic (University of British Columbia, CA) [19] Traditional way Compressive Sensing Way Ground Penetrating Radar (ITB, Indonesia) [20] • Il y a enfin beaucoup de systemes qui existent deja et qui font du CS sans le savoir! – Coded Aperture – Computational Photography – …. References • [1] Compressive Imaging: A New Single Pixel Camera • [2] Camera Culture MIT. • [3] Pawan K. Baheti and Mark A. Neifeld, Feature-specific structured imaging • [5] Alexandre Borghi, Jerome Darbon, Sylvain Peyronnet, Tony F. Chan and Stanley Osher , A Simple Compressive Sensing Algorithm for Parallel Many-Core Architectures • [6] Fast GPU Implementation of Sparse Signal Recovery from Random Projections, M. Andrecut • [7] Real Time Elimination of Undersampling Artifacts in CE MRA using Variational Denoising on Graphics Hardware, Florian Knoll, Markus Unger, Franz Ebner, Rudolf Stollberger • [8] Compressive coded aperture superresolution image reconstruction, Roummel F. Marcia and Rebecca M. Willett • [9] Fast disambiguation of superimposed images for increased field of view, Roummel F. Marcia, Changsoon Kim, Jungsang Kim, David Brady, and Rebecca M. Willett References • • • • • • • • • • • [10] Transform Imager [11] Justin Romberg, Architectures for Compressive Sampling [12] CMOS Compressed Imaging by Random Convolution, Laurent Jacques, Pierre Vandergheynst, Alexandre Bibet, Vahid Majidzadeh, Alexandre Schmid, Yusuf Leblebici. [14] Coded Aperture Snapshot Spectral Imaging (CASSI) [15] Compressive Structured Light for Recovering Inhomogeneous Participating Media [16] Random Lens Imaging Rob Fergus, Antonio Torralba, and William T. Freeman [17] HyperGeocam [18] Michael Lustig [19] SLIM/UBC, Felix Herrmann, Yogi Erlangga and Tim Lin : Compressive sampling meets seismic imaging [20] : A Compressive SFCW-GPR System, Andriyan Suksmono, Endon Bharata, A. Andaya Lestari, A. Yarovoy, and L.P. Ligthart. [22] A2I website