Energy Cost

MLPerf Power Measurement

Bezüglich „Green AI„, die wichtigste Forschungsarbeit, die während meines Promotionsstudiums veröffentlicht wurde, war „Environmentally-Friendly Metrics for Evaluating the Performance of Deep Learning Models and Systems„. Ich habe hier letztes Jahr insbesondere über das Problem von MLPerf geschrieben, dass der Energieverbrauch und die Kosten eines DL-basierten Modells oder Systems bei der Bewertung der Leistung und der [...]

Der Energieverbrauch, die Kosten und der Kohlenstoff-Fußabdruck sollten so bald wie möglich bei der Bewertung der Leistung von auf tiefem Lernen basierenden Systemen berücksichtigt werden. Ich habe darüber auch schon früher hier geschrieben. Ein aktuelles Beispiel für enorme Kosten ist die GPT-3, das 4,6-Millionen-Dollar-Sprachenmodell, bestehend aus 175 Milliarden Parametern. Das vorherige OpenAI GPT-2-Modell hatte 1,5 [...]