Izvršni direktor OpenAI-a Sam Altman otkrio je da pristojnost prema ChatGPT-u, poput izraza "molim" i "hvala", kompaniju košta milione dolara u operativnim troškovima.
Altman je odgovorio korisniku na X-u koji je pitao koliko je kompanija potrošila na struju zbog ljudi koji su ljubazni prema njihovim modelima. "Desetine miliona dolara dobro potrošenih — nikad ne znaš", odgovorio je Altman.
Izgleda da je neko gledao šta je operativni sistem HAL učinio u filmu 2001: Odiseja u svemiru pa odlučio biti pristojan prema svom AI pomoćniku (za svaki slučaj, lol). Stručnjaci su takođe otkrili da će chatbot vjerovatnije uzvratiti ljubaznošću ako mu se korisnik tako obrati.
Sudeći po Altmanovu šaljivom tonu, cifra od "desetine miliona dolara" vjerovatno nije precizna. Ipak, svaka poruka ChatGPT-u, bez obzira koliko trivijalna ili besmislena bila, zahtijeva od AI modela da generiše pun odgovor u stvarnom vremenu, što se oslanja na moćne računarske sisteme i povećava ukupno računarsko opterećenje, a to, pak, znači i masovnu potrošnju električne energije.
AI kao energetski žderač budućnosti
AI modeli uveliko se oslanjaju na energiju skladištenu u globalnim data centrima, koji već sada troše oko 2 posto ukupne svjetske električne energije. Prema podacima Goldman Sachsa, svaki upit GPT-4 modelu troši oko deset puta više električne energije nego standardna Google pretraga.
Osim toga, ljubazni odgovori takođe povećavaju i OpenAI-jev račun za vodu. AI koristi vodu za hlađenje servera koji generišu podatke. Studija Univerziteta Kalifornija u Riversideu otkrila je da stvaranje 100 riječi pomoću GPT-4 modela troši količinu vode ekvivalentnu tri boce, dok i najkraći odgovor, poput "Nema na čemu", troši oko 1.5 unce vode (oko 44 ml).