Vi ste ovdje

Docent Marko Horvat: Koliko energije troši AI?

Poslao admin 21. Kol 2024 10:09:56

Doc. dr. sc. Marko Horvat sa Zavoda za primijenjeno računarstvo, gostovao je početkom kolovoza 2024. u emisiji "Zelena linija" informativnog programa HRT-a.

Tema je bila trenutačno vrlo aktualna - Zeleni AI (Green AI) - odnosno, sve veća potrošnja električne energije, te posljedično generiranje štetnih stakleničkih plinova, zbog treniranja i korištenja naprednih modela umjetne inteligencije, i računalnih aplikacija općenito, te zbog skladištenja velikih količina podataka.

Ove tehnologije danas se više ne koriste lokalno već su dostupne putem oblaka (cloud) te prosječnom korisniku nije transparentno, niti posve jasno, koliko je energije potrebno za primjerice jedan upit razgovornom agentu ili učitavanje web stranice s ugrađenim računalnim kodom.

Također, odabir programskog jezika za razvoj AI usluga, Python, je loš, jer je izrazito neučinkovit u pogledu korištenja procesorskog vremena, prostora za pohranu i električne energije za izvršavanje algoritama, ali je programerima pogodan.

Kako je bilo spomenuto u emisiji, prema nekim procjenama (dio izvora: [1] [2] [3] [4]) jedan upit agentu koji se temelji na velikim jezičnim modelima koristi istu količinu električne energije kao korištenje nekad popularnog 8-bitnog kućnog računala Commodore 64 sat vremena, a web stranica UN samita o klimatskim promjenama (COP23) koja se održala u prosincu 2023. godine dnevno je generirala više tisuća tona CO2 (jer je sadržavala bogatu multimediju, puno JavaScript koda i veza prema drugim sjedištima).

Snimak i sažetak emisije nalaze se na poveznici ovdje.

Kategorije:

Izvor: