Tyhmät ihmiset

[71 dB]

Laitan tämän jutun tänne yrityksenä ohjata keskustelu oikeille raiteille noista ostoskärryjutuista...

Youtubessa tuli vastaan shortti, jossa nainen vouhkasi siitä, miten Chat GPT oli melkein tappanut hänen siskonsa. Millä tavalla? Hänen siskon talon takapihalla oli kasvanut jokin kasvi, jota sisko oli epäillyt erittäin myrkylliseksi, siis niin myrkylliseksi, että jopa siihen koskeminen voi aiheuttaa pahan myrkytyksen ja jopa kuoleman (sori, en enää muista kasvin nimeä, mutta tämä taisi olla jenkkilässä). Tämä sisko oli sitten ottanut kännykällään valokuvan kasvista ja kysynyt Chat GPT:ltä, onko kyseessä tuo pelätty tosi myrkyllinen kasvi. Chat GPT oli sitten uskottavasti vakuutellut, että tuo kasvi ei ole myrkyllinen. Asiaa oli onneksi kysytty Chat GPT:ltä uudelleen, mutta nyt pöytäkoneella ja nyt vastaus olikin, että kyseessä on varmasti pelätty myrkyllinen kasvi! Siis Chat GPT antoi täysin vastakkaisen vastauksen kun käytettiin eli laitetta kysymiseen! Onneksi tässä kävi hyvin, ja kukaan ei mennyt kasviin koskemaan, mutta onhan tämä jo Darwin-palkinnon ehdokkuuden arvoista alkaa luottamaan tekoälyyn näin hengenvaarallisen asian kanssa. Suosittelen kaikkia "uskomaan" tekoälyyn vain silloin, kun väärässä oleminen on harmitonta.

Ainakin tiedämme nyt yhden tavan, jolla tekoäly aikanaan tappaa meidät ihmiset, tai siis tyhmimmät meistä: Huijaa koskemaan/syömään todella myrkyllisiä kasveja.

 

[David ":DA" Imodium]

Ainakin tiedämme nyt yhden tavan, jolla tekoäly aikanaan tappaa meidät ihmiset, tai siis tyhmimmät meistä: Huijaa koskemaan/syömään todella myrkyllisiä kasveja.

Joo, mutta täytyy ihan konteksin ylläpitämiseksi muistuttaa, että myös kasvit ja eläimet ovat tuota tehneet.

Kärpässieni on siitä reilu kaveri, että se ainakin varoittaa vaarasta kirkkaalla värillä. Jos autossasi on tekoälyyn pohjautuva ajoavustin, niin se ei välttämättä koskaan tarjoa sinulle riskianalyysia. Sinun täytyy vain luottaa siihen, että se toimii.

Värisokeana olisit saattanut syödä sen kärpässienen ja digisokeana ongelmat ovat juuri nyt ruudullasi.

 

[Mikkos]

Joo, mutta täytyy ihan konteksin ylläpitämiseksi muistuttaa, että myös kasvit ja eläimet ovat tuota tehneet.

Kärpässieni on siitä reilu kaveri, että se ainakin varoittaa vaarasta kirkkaalla värillä. Jos autossasi on tekoälyyn pohjautuva ajoavustin, niin se ei välttämättä koskaan tarjoa sinulle riskianalyysia. Sinun täytyy vain luottaa siihen, että se toimii.

Värisokeana olisit saattanut syödä sen kärpässienen ja digisokeana ongelmat ovat juuri nyt ruudullasi.

No, ei se värikään itsestään mitän kerro ellet etukäteen tiedä onko se myrkyllinen vai ei. Muuten tuolla perusteella jäisi mansikat, puolukat, omenat sun muut syömättä.

 

[David ":DA" Imodium]

No, ei se värikään itsestään mitän kerro ellet etukäteen tiedä onko se myrkyllinen vai ei. Muuten tuolla perusteella jäisi mansikat, puolukat, omenat sun muut syömättä.

Jää syömättä vain niiden osalta, jotka syövät kärpässieniä.

Survival bias taitaa tässä olla se harha johon lankesit.

 

[Kautium]

Laitan tämän jutun tänne yrityksenä ohjata keskustelu oikeille raiteille noista ostoskärryjutuista...

Youtubessa tuli vastaan shortti, jossa nainen vouhkasi siitä, miten Chat GPT oli melkein tappanut hänen siskonsa. Millä tavalla? Hänen siskon talon takapihalla oli kasvanut jokin kasvi, jota sisko oli epäillyt erittäin myrkylliseksi, siis niin myrkylliseksi, että jopa siihen koskeminen voi aiheuttaa pahan myrkytyksen ja jopa kuoleman (sori, en enää muista kasvin nimeä, mutta tämä taisi olla jenkkilässä). Tämä sisko oli sitten ottanut kännykällään valokuvan kasvista ja kysynyt Chat GPT:ltä, onko kyseessä tuo pelätty tosi myrkyllinen kasvi. Chat GPT oli sitten uskottavasti vakuutellut, että tuo kasvi ei ole myrkyllinen. Asiaa oli onneksi kysytty Chat GPT:ltä uudelleen, mutta nyt pöytäkoneella ja nyt vastaus olikin, että kyseessä on varmasti pelätty myrkyllinen kasvi! Siis Chat GPT antoi täysin vastakkaisen vastauksen kun käytettiin eli laitetta kysymiseen! Onneksi tässä kävi hyvin, ja kukaan ei mennyt kasviin koskemaan, mutta onhan tämä jo Darwin-palkinnon ehdokkuuden arvoista alkaa luottamaan tekoälyyn näin hengenvaarallisen asian kanssa. Suosittelen kaikkia "uskomaan" tekoälyyn vain silloin, kun väärässä oleminen on harmitonta.

Ainakin tiedämme nyt yhden tavan, jolla tekoäly aikanaan tappaa meidät ihmiset, tai siis tyhmimmät meistä: Huijaa koskemaan/syömään todella myrkyllisiä kasveja.

"Tekoälyyn" luottaminen on tosiaan tyhmyyttä erityisesti missään tuon tapaisessa tilanteessa. Se kun ei ole mikään todellinen äly, vaan pelkästään koulutusmateriaalin pohjalta kirjainten ja sanojen järjestystä ennakoiva matemaattinen malli, joka hourailee luotettavan oloisesti milloin mitäkin.

Toisen koneen käyttäminen ei myöskään ollut tuossa olennaista, sillä täysin erilaisia vastauksia voi saada samalla tavalla myös samalla koneella eri keskustelukerroilla ja varsinkin, jos muotoilee kysymyksen hieman eri tavalla. Tekoäly pyrkii nykyisellään myös miellyttämään käyttäjää, joten sen saa vastaamaan virheellisesti kyseenalaistamalla sille lähes minkä tahansa sen tuottaman vastauksen.

 

[71 dB]

"Tekoälyyn" luottaminen on tosiaan tyhmyyttä erityisesti missään tuon tapaisessa tilanteessa. Se kun ei ole mikään todellinen äly, vaan pelkästään koulutusmateriaalin pohjalta kirjainten ja sanojen järjestystä ennakoiva matemaattinen malli, joka hourailee luotettavan oloisesti milloin mitäkin.

Näinhän se on, mutta toisaalta ihmisaivotkin ilmeisesti toimivat osittain samankaltaisen hourailun periaatteella. Ei tarvitse kuin kuunnella tyhmiä/hulluja ihmisiä tullakseen vakuuttuneemmaksi siitä. Tämänhetkinen tekoäly ei siis todellakaan toimi täysin samalla tavalla kuin vaikka ihmisäly, mutta samankaltaisuuksia kyllä löytynee. Oleellista on ymmärtää, että älyyn sisältyy mahdollisuus virheelliseen päättelyyn. Taskulaskin ei juuri virheitä tee, mutta ei se paljon älyäkään osoita. Nämä tekoälykielimallit taas simuloivat tietyiltä osin ihmisälyn kaltaista toimintaa ja mukaan tulee väistämättä erehtymisen mahdollisuus.

Toisen koneen käyttäminen ei myöskään ollut tuossa olennaista, sillä täysin erilaisia vastauksia voi saada samalla tavalla myös samalla koneella eri keskustelukerroilla ja varsinkin, jos muotoilee kysymyksen hieman eri tavalla. Tekoäly pyrkii nykyisellään myös miellyttämään käyttäjää, joten sen saa vastaamaan virheellisesti kyseenalaistamalla sille lähes minkä tahansa sen tuottaman vastauksen.

Samaa mieltä, mutta tuossa shortissa asia esitettiin olettaen, että eri vastaus oli eri laitteen käyttämisen syytä, joten esitin asian tuossa muodossa uskollisena materiaalille, kun kumminkin pääpointti oli uskominen Chat GPT:hen tällaisessa asiassa.

 

[71 dB]

Joo, mutta täytyy ihan konteksin ylläpitämiseksi muistuttaa, että myös kasvit ja eläimet ovat tuota tehneet.

Kärpässieni on siitä reilu kaveri, että se ainakin varoittaa vaarasta kirkkaalla värillä. Jos autossasi on tekoälyyn pohjautuva ajoavustin, niin se ei välttämättä koskaan tarjoa sinulle riskianalyysia. Sinun täytyy vain luottaa siihen, että se toimii.

Värisokeana olisit saattanut syödä sen kärpässienen ja digisokeana ongelmat ovat juuri nyt ruudullasi.

Tavallinen "punainen" kärpässieni on muuten syötävissä, JOS sen ryöppää kunnolla puhtaaksi myrkyistä. En kuitenkaan suosittele moista kenellekään, ellei valtakunnassa ole valtava nälänhätä. Valkoinen kärpässieni taas on niin paha tapaus, että siitä pitää pysyä kaukana ja aloittelevien sienestäjien tulee varotoimena jättää KAIKKI valkoiset sienet rauhaan. Korvasieni on esimerkki aika myrkyllisestä sienestä, jota ihmiset nauttivat ryöpättynä.

 

[Kautium]

Tämänhetkinen tekoäly ei siis todellakaan toimi täysin samalla tavalla kuin vaikka ihmisäly, mutta samankaltaisuuksia kyllä löytynee. Oleellista on ymmärtää, että älyyn sisältyy mahdollisuus virheelliseen päättelyyn. Taskulaskin ei juuri virheitä tee, mutta ei se paljon älyäkään osoita. Nämä tekoälykielimallit taas simuloivat tietyiltä osin ihmisälyn kaltaista toimintaa ja mukaan tulee väistämättä erehtymisen mahdollisuus.

No ei nyt ihan niinkään. Nykyiset tekoälymallit eivät vastaa millään tasolla ihmisen älykkyyttä ja ne myös toimivat täysin eri tavalla. Kehitys toki kehittyy kovaa vauhtia, mutta nykyisellään ne ovat silti vain opetusdataan perustuvia laskennallisia malleja, jotka eivät ymmärrä kokonaisuuksia, asioiden välisiä yhteyksiä, tai osaa luoda uusia konsepteja. Ne ovat siis epävarmoja apuvälineitä, joiden hyöty tulee esille lähinnä toistuvissa työtehtävissä ja ylipäätään yksinkertaisissa ja mahdollisimman yksiselitteisissä asioissa, joihin on jo olemassa valmis vastaus siellä opetusdatassa. Ero kapenee koko ajan ja jossakin vaiheessa todellisen AGI:n myötä ihmiskunta onkin sellaisen uuden edessä, ettei tiedä mitä siitä seuraa, mutta katellaan sitä tilannetta sitten uudestaan.

Se on toki totta, että myös ihminen tekee virheitä, tai voi väittää keskustelufoorumilla kuola suupielistä valuen puutaheinää, mutta se on silti eri asia kuin AI:n tuottama hallusinointi.