Tekoälyllä luodut karikatyyrikuvat herättäneet paljon keskustelua

[NeliYgönen]

Karikatyyrikuvat, joita sosiaalisen median käyttäjät ovat viime aikoina luoneet itsestään esimerkiksi ChatGPT:llä, ovat herättäneet runsaasti keskustelua eri näkökulmista. Esimerkiksi energian- ja vedenkulutus ovat suurten tekoälykeskusten kasvavia ongelmia, joiden ratkaisemiseen tarvittaisiin Ylen haastatteleman professorin mukaan poliittista ja eettistä päätöksentekoa. Toinen huolenaihe on käyttäjien yksityisyys, sillä karikatyyrikuvia varten tekoälymallille ladataan usein kuva itsestään, tai pahimmassa tapauksessa toisesta ihmisestä lupaa kysymättä.

Lähde & kuva: Yle

 

[Karlis]

Paljon nähnyt näitä, mutta kukaan ei ole kertonut missä voin itse näitä tehdä

 

[finWeazel]

Paljon nähnyt näitä, mutta kukaan ei ole kertonut missä voin itse näitä tehdä

openai, google ja tsiljoona muuta. Lataa kuvan ja sanoo "muokkaa kuvaa ... ..." ja muokattu kuva tulee ulos jos muokkaus ei ole palvelusääntöjen vastainan

https://chatgpt.com/

Nano Banana Pro – Geminin tekoälykuvageneraattori ja kuvankäsittelyohjelma

Nano Banana Pro on Geminin tekoälykuvageneraattori ja ‑editori, jolla voit luoda laadukkaita kuvia sekunneissa ja muokata kuvista lukemattomia uusia luomuksia.

gemini.google

--

Vesihomma alkaa olemaan menneen talven haihdutuksia. Uudet konesalit pääsääntöisesti suljetulla nestekierrolla. Ei enää vettä haihdu hukkaan kuten ennen. Nvidian seuraavassa jäähdytysneste saa olla melkoisen lämmintä niin säästyy energiaa jäähdytyspuolella sen lisäksi ettei hukata vettä.

“With 45 degrees Celsius, no water chillers are necessary for data centers,” Huang said in his keynote address at the Consumer Electronics Show. “We’re basically cooling this supercomputer with hot water. It’s so incredibly efficient.”

Raising the temp on liquid cooling

 

[ossid]

openai, google ja tsiljoona muuta. Lataa kuvan ja sanoo "muokkaa kuvaa ... ..." ja muokattu kuva tulee ulos jos muokkaus ei ole palvelusääntöjen vastainan

https://chatgpt.com/

Nano Banana Pro – Geminin tekoälykuvageneraattori ja kuvankäsittelyohjelma

Nano Banana Pro on Geminin tekoälykuvageneraattori ja ‑editori, jolla voit luoda laadukkaita kuvia sekunneissa ja muokata kuvista lukemattomia uusia luomuksia.

gemini.google

--

Vesihomma alkaa olemaan menneen talven haihdutuksia. Uudet konesalit pääsääntöisesti suljetulla nestekierrolla. Ei enää vettä haihdu hukkaan kuten ennen. Nvidian seuraavassa jäähdytysneste saa olla melkoisen lämmintä niin säästyy energiaa jäähdytyspuolella sen lisäksi ettei hukata vettä.

Raising the temp on liquid cooling

Riippuu.

‘A different set of rules’: thermal drone footage shows Musk’s AI power plant flouting clean air regulations

Images confirm xAI is continuing to defy EPA regulations in Mississippi to power its flagship datacenters

www.theguardian.com

Musk jauhaa tekoälyä kaasuturbiineilla ilman lupia, koska väitetysti nuo on trailerin päällä niin jonkun tulkinnan mukaan lupia ei tarvita.

Mutta ei muutakuin karikatyyrit tulille vaan, maailma pelastuu.

 

[Unknown]

Tuntuu "vähän" liioitelluilta nuo MIT:n jutun numerot, mihin tuo Ylen juttu pohjaa. Esimerkkinä sanovat että 15 teksti ja 10 kuvageneroitiin: "You’d use about 2.9 kilowatt-hours of electricity", mutta kun vähän alkaa miettimään niin ei kyllä mitenkään voi olla noin paljoa edes pahimmassa tapauksessa. Otetaan nyt vaikka esimerkki jossa käytetään 8 x RTX 6000 näyttiksiä. Jokaisessa 48GB muistia = 384GB yhteensä, tuohon saa mahdutettua helposti esim. chatgpt 4o:ta vastaavan mallin. RTX 6000:ssa 300W TDP, eli yhteensä 2.4kw tunnissa ja heitetään nyt yläkanttiin että muut komponentit veisi 400W = 2.8 kilowattia tunnissa. 15 tekstigeneraatioon tolla setupilla ei menisi paria minuuttia pidempään, tuskin sitäkään. Kuvien generoinnissa taas käytössä on paljon pienemmät mallit joten 10 kuvagenerointiin ei menisi edes minuuttia, kun jokainen näyttis pystyy generoimaan kuvia samanaikaisesti, mutta sanotaan että kesti 3 minuuttia yhteensä. Tällä logiikalla saisin tuossa esimerkin skenariossa 0.14 kWh kulutuksen ja pitäisin tätä itse sellaisena "worst case" skenaariona. Yrityksillä on tietysti käytössä Nvidian serverinäyttikset jotka on paljon energiatehokkaampia kun useiden käyttäjien generointeja pystytään laskemaan samanaikaisesti.

 

[Halpuuttaja]

Tuntuu "vähän" liioitelluilta nuo MIT:n jutun numerot, mihin tuo Ylen juttu pohjaa. Esimerkkinä sanovat että 15 teksti ja 10 kuvageneroitiin: "You’d use about 2.9 kilowatt-hours of electricity", mutta kun vähän alkaa miettimään niin ei kyllä mitenkään voi olla noin paljoa edes pahimmassa tapauksessa. Otetaan nyt vaikka esimerkki jossa käytetään 8 x RTX 6000 näyttiksiä. Jokaisessa 48GB muistia = 384GB yhteensä, tuohon saa mahdutettua helposti esim. chatgpt 4o:ta vastaavan mallin. RTX 6000:ssa 300W TDP, eli yhteensä 2.4kw tunnissa ja heitetään nyt yläkanttiin että muut komponentit veisi 400W = 2.8 kilowattia tunnissa. 15 tekstigeneraatioon tolla setupilla ei menisi paria minuuttia pidempään, tuskin sitäkään. Kuvien generoinnissa taas käytössä on paljon pienemmät mallit joten 10 kuvagenerointiin ei menisi edes minuuttia, kun jokainen näyttis pystyy generoimaan kuvia samanaikaisesti, mutta sanotaan että kesti 3 minuuttia yhteensä. Tällä logiikalla saisin tuossa esimerkin skenariossa 0.14 kWh kulutuksen ja pitäisin tätä itse sellaisena "worst case" skenaariona. Yrityksillä on tietysti käytössä Nvidian serverinäyttikset jotka on paljon energiatehokkaampia kun useiden käyttäjien generointeja pystytään laskemaan samanaikaisesti.

Tohon 2,9 kWh:iin sisältyi myös kolme viiden sekunnin videota. Huomauttavat artikkelissa myös, että heidän matikkansa perustuu olettamuksiin koska eivät tiedä OpenAI:n ja kumppaneiden nykymallien kokoja.

Mutuilisin kotikoneella ajamieni mallien perusteella että noi kolme videoklippiä on noista se kuluttavin, mutta tämäkin huomioiden oon kyllä samaa mieltä että toi 2,9 kWh kuulostaa todella paljolta.

 

[finWeazel]

Softassa on tehty todella paljon optimointeja malleihin. Altman viime viikolla näistä kommentoi. Nvidian gb200 ja gb300 rautaa testattu watti per token mielessä

InferenceX v2: NVIDIA Blackwell Vs AMD vs Hopper - Formerly InferenceMAX

The Artist Known as InferenceMAX. GB300 NVL72, MI355X, B200, H100, Disaggregated Serving, Wide Expert Parallelism, Large Mixture of Experts, SGLang, vLLM, TRTLLM

newsletter.semianalysis.com

 

[Sallys]

Tyhmän näköisiä ainakin ovat.

 

[pomk]

Softassa on tehty todella paljon optimointeja malleihin. Altman viime viikolla näistä kommentoi. Nvidian gb200 ja gb300 rautaa testattu watti per token mielessä

InferenceX v2: NVIDIA Blackwell Vs AMD vs Hopper - Formerly InferenceMAX

The Artist Known as InferenceMAX. GB300 NVL72, MI355X, B200, H100, Disaggregated Serving, Wide Expert Parallelism, Large Mixture of Experts, SGLang, vLLM, TRTLLM

newsletter.semianalysis.com

Sit taas mallien kouluttamiseen menee enemmän energiaa ku koskaan ennen. Jotenkin se pitäis noihin lukuihin jyvittää.

 

[finWeazel]

Sit taas mallien kouluttamiseen menee enemmän energiaa ku koskaan ennen. Jotenkin se pitäis noihin lukuihin jyvittää.

Sulla lukuja miten jyvittää, vaikka prosentit laskentakapasiteetin käytöstä googlen nano banana inferenssi versus banaanin opettaminen?

 

[pomk]

Sulla lukuja miten jyvittää, vaikka prosentit laskentakapasiteetin käytöstä googlen nano banana inferenssi versus banaanin opettaminen?

Onkohan julkasseet? Usein toitotetaan vaan tota inferenssilukua ja kätevästi unohdetaan muu.

Ja sit kans unohdetaan kuinka nykymallit osaa polttaa tokeneita ihan eri tahtia ku jonku 640x480 px kuvan sijaan tehdään 4k videota.