finWeazel
Tukijäsen
- Liittynyt
- 15.12.2019
- Viestejä
- 11 464
En allekirjoita. OpenAI on sanonut että heillä on parempia malleja mutta konesalikapasiteetin vuoksi ei voida tuotteistaa. Uutta konesalia tulossa, nvidian gb300 pian isosti konesaleissa, nyt vielä vähän.Juuri nyt tekoälyn kehityksessä on menossa "diminishing returns"-vaihe, eli valtavilla investoinneilla saadaan vain marginaalista edistystä. OpenAI:lla ollaan jo myönnetty että laajat kielimallit ovat umpikuja, ja kaikki hyödynnettävissä oleva datakin on jo hyödynnetty. Se mikä tulee olemaan seuraava edistysaskel on vielä haussa.
Kehitys on nopeaa, sekä google että openai hiljattain saivat puhtaalla LLM:lla ilman työkaluja International Math Olympiadista kultaa. Sama juttu hiljattain koodauskisojen puolella. Linkit ja keskustelua löytyy selaamalla ketjua taaksepäin. Tämän uskotaan avaavia uusia polkuja puhtaassa llm:ssa muuhunkin kuin matemaattiseen päättelyyn.
Teknisesti reasoning mallit ja reinforcment learningin soveltaminen uudella tapaaa avanneet tietä eteenpäin.
Python on mitä llm:t tykkäävät käyttää "salaa" sisäisestikin osaan ongelmista. Python lasketaan työkaluksi.
Viimeksi muokattu: