Hands-on: The Carbon Footprint of an AI Project

Sustainability is an essential aspect of ethically responsible development and application of AI. Therefore, Tetrai tracks its environmental impact — e.g. within customer projects — and compensates for it.

Kürzlich haben wir innerhalb eines Kundenprojekts ein Klassifizierungsmodell entwickelt, das auf BERT-BASE basiert. Während der Modellentwicklung haben wir ungefähr 30 Experimente durchgeführt, in denen wir sowohl die Architektur des Modells als auch seine Hyperparameter bezüglich des Anwendungsfall unseres Kunden optimiert haben. Alle Experimente wurden auf einer AWS p3.2xlarge-Instanz ausgeführt. Laut einem „experiment impact tracker“, über den wir bereits berichteten, haben wir dabei etwa 66 kWh Strom verbraucht und etwa 25 kg CO2-Ausstoß verursacht. Aber natürlich endet der Lebenszyklus eines Machine Learning-Modells nicht mit der Modellentwicklung: Es kann produktiv gestellt werden. Deshalb haben wir abgeschätzt, dass während der Produktion eine einzelne Vorhersage des von uns entwickelten Klassifizierungsmodells etwa 0,45 mWh Strom verbraucht und etwa 0,17 mg CO2 zur Atmosphäre beiträgt.

Knowing about the resources consumed during model development and model application allows us to counteract our environmental impact: Tetrai compensates for its carbon footprint or recommends to its customers to do so. In this particular project, we compensated for the carbon footprint of our model development by ourselves via myclimate.

Contact Us

Not all important information
are in tables.

Make use of what is in the texts and graphics of your reports. Contact us!