Ankündigung der QNN-MO-PYNQ-Overlays

Über PYNQ (PYthon-zyNQ) habe ich hier geschrieben. PYNQ Board kann von hier gekauft werden.

Die neuen QNN-MO-Versionen für PYNQ bieten eine Reihe von Overlays für die Beschleunigung von quantisierten neuronalen Netzwerken unter Verwendung einer neuen Hardware-Architektur, dem so genannten Multi-Layer-Offload (MO), der es ermöglicht, beliebig große Netzwerke auf sehr kleinen Geräten einzusetzen. Anders als bei der BNN-PYNQ-Version, die auf einer Feed-Forward-Datenfluss-Architektur basiert, in der alle Schichten in der Programmierbaren Logik implementiert sind und die Netzwerkparameter im On-Chip-Speicher zwischengespeichert werden, bietet die neue MO-Architektur Skalierbarkeit für eine größere und tiefere Netzwerkbeschleunigung (wie ImageNet-Klassifizierung und PASCAL-VOC-Objekterkennung), indem sie eine Teilmenge von Schichten in Hardware implementiert und die beliebige Anzahl der Layer-Ausführung darauf plant. Mehrere Layer können in einem einzigen Aufruf berechnet werden. Eine Änderung der Netzwerktopologie bedeutet eine Änderung der Laufzeitplanung, nicht aber der Hardware-Architektur. Darüber hinaus ist dies die erste einer Reihe von zukünftigen Versionen, die von reinen binären Gewichten und Aktivierungen bis hin zur Multi-Bit-Festkommaarithmetik reichen. In der aktuellen Version werden zwei Overlay-Beispiele mit Unterstützung von 2 Bit und 3 Bit für die Aktivierungen in Kombination mit binären Gewichten bereitgestellt. Alle Vivado HLS- und Hostbibliotheken sind enthalten, die für die Entwicklung weiterer Overlays genutzt werden können.

PIP-Installationsbefehl

sudo -H pip3.6 install git+https://github.com/Xilinx/QNN-MO-PYNQ.git

Github-Verbindung

https://github.com/Xilinx/QNN-MO-PYNQ

Notebooks enthalten

• ImageNet-Klassifizierung : zeigt ein Beispiel an, in dem ein nicht beschriftetes Bild (z. B. aus dem Internet, Ihrem Telefon o. Ä.) In einer der angegebenen 1000 ImageNet-  Klassen klassifiziert wird  .
• ImageNet – Dataset-Validierung : zeigt ein Beispiel, das beschriftete Bilder (dh die aus dem Test-Dataset extrahierten) in einer der 1000 ImageNet-  Klassen klassifiziert  .
•  ImageNet – Datensatzvalidierung in einer Schleife : zeigt ein Beispiel, das beschriftete Bilder (dh die aus dem Testdatensatz extrahierten) in einer der 1000 ImageNet-  Klassen in einer Schleife klassifiziert  .
• Objekterkennung – von Bild : Zeigt die Objekterkennung in einem Bild an (z. B. aus dem Internet heruntergeladen, Ihr Telefon usw.). In diesem Beispiel werden mehrere Objekte in einer Szene identifiziert und um sie herum Begrenzungsrahmen gezeichnet. Die Objekte können eine der 20 im PASCAL VOC-  Datensatz verfügbaren Klassen sein
• Objekterkennung – Vom Bild in einer Schleife : Zeigt die Objekterkennung in einem Bild an und zeichnet Begrenzungsrahmen um identifizierte Objekte (20 verfügbare Klassen aus dem  PASCAL VOC-  Dataset) in einer Schleife.