Hannele Tervola: Short Robot Stories

Tämän palstan kautta voit ilmoittaa netissä olevia science fiction-, fantasia- tai kauhutekstejäsi keskustelijoiden arvioitavaksi. Tähän eivät kuulu novellit, jotka ovat ilmestyneet verkkolehdissä.

Valvoja: Moderaattorit

Hannele Tervola: Short Robot Stories

ViestiKirjoittaja Hannele » 15.01.2012, 12:58:48

http://feelingrobots.blogspot.com/

Jos ihmisiä kiinnostaa, niin objektiivisessa asiablogissani http://feelingcomputers.blogspot.com on objektiivinen kirjoitelma tietokoneiden tulevaisuudesta: ajattelukyvyn, moraalin ja tunne-elämän rakentamisesta koneille, sekä kuvaus siitä, miten voi tietokoneille rakentaa ihmismäiset tunteet. Eli ei SciFiä vaan pikemminkin futurologiaa nykymaailmassa tärkeästä tulevaisuudenkuviin vaikuttavasta aiheesta.
Hannele
 
Viestit: 3
Liittynyt: 15.01.2012, 12:46:45

Re: Hannele Tervola: Short Robot Stories

ViestiKirjoittaja MaKo » 15.01.2012, 15:57:48

Tämä on itseäni kiinnostava aihe; luin lähinnä blogimerkintäsi tuntevista tietokoneista (feelingcomputer.blogspot.com). Mun on itse asiassa vaikea edes aloittaa, kun koko aihealue on niin hirvittävän laaja. Muutenkin tästä postauksesta valitettavasti tulee aika sekava ja aiheesta toiseen pomppiva.

Jätän suosiolla tietokoneiden itsekorjautuvuuden väliin, ja "itseohjelmoitumisestakin" käsittelen vain pintaa. Tietokoneen ei tarvitse tuottaa itselleen C-koodia ollakseen itseohjelmoituva; riittää, että se pyörittää jotain adaptoituvaa, dataohjattua algoritmia (esim. evolutiiviset algoritmit, neuroverkot), ja jos sillä on raudan puolesta tarpeeksi muistia ja tehoa, niin se kykenee moniin sellaisiin asioihin, joihin nykyaikana tavallisella algoritmilla ohjelmoitu kone ei pysty. Algoritminen ratkaisu on miltei aina tehokkaampi, mutta noilla mainituilla algoritmeilla saadaan paitsi joustavuutta (mukautuminen uusiin tilanteisiin) että ainakin suboptimaalisia ratkaisuja ongelmiin, joiden analyyttiseen käsittelyyn ihmisaivot eivät riitä. Onko sellaisilla algoritmeilla tunteita?

En ehkä jaa kaikkia blogin näkemyksiä, mutta kyllä, tulevaisuudessa meillä voi hyvinkin olla tuntevia robotteja, mutta kaikki eivät ole sellaisia, tai ainakaan niiden/heidän tunnemaailmansa (ja yleensäkään kuva todellisuudesta) ei vastaa ihmisen tunnemaailmaa. Minusta tämä tulee hyvin esille tässä blogimerkinnässä (ja muissakin, missä käsittelet tunteiden mekanistista mallia):

http://feelingcomputers.blogspot.com/20 ... obots.html

Come to think of it, you would propably like a robot with social feelings, so how to build a this way rational robot with social
feelings like those of friendly humans: Like for humans, the human relationships form an important major part of the functional environment of the robot.


Tämä ei kyllä minusta pidä paikkaansa yleisessä tapauksessa. Ensinnäkin, kaikki robotit eivät tarvitse minkäänlaista älyä. Keskustelussa olisi hyvä tehdä ero sen välillä, puhutaanko itsenäisestä robotista vai isomman koneen osana toimivasta robotista; toisin sanoen, olisi hyvä miettiä sitä, kuinka suurista tai pienistä itsenäisistä kokonaisuuksista puhutaan. Voidaan ajatella, että jokin laaja ympäri maailmaa levittäytynyt tuotantoketju (ts. eri maissa sijaitsevia tehtaita) olisi jollain tavalla itsenäisesti toimivan tekoälyn ohjaama, ja voidaan kysyä, millainen tunnemaailma tällaisella toimijalla olisi; käsitys todellisuudesta poikkeaisi kyllä hyvin varmasti ihmisen käsityksistä. Millainen tunnemaailma olisi vaikkapa yrityksen toimintaa säätelevällä koneistolla? Jos toisaalta rajataan keskustelu käsittelemään ihmisten parissa toimiviin robotteihin (kotona, sairaaloissa, yms), puhutaan toisenlaisista tarpeista.

Minä ajattelen, että ihmisellä tunteet syntyvät tarpeesta; niillä on merkitystä ihmisen selviämisen kannalta. Erityisesti ajattelen, että tunnemaailma on sidoksissa ihmisen (ja muiden eläinten) tarpeeseen pystyä tekemään nopeita päätöksiä. Siksi ajattelen, että myös tietokoneille ja roboteille tunteet syntyvät tarpeista, ja jos koneen tarpeet ovat erilaisia kuin ihmisen, myös tunnemaailma on erilainen. Esimerkiksi ihmisten parissa toimivien robottien olisi hyvä jakaa ihmisten kanssa myös tunnemaailma. Se auttaisi robotteja ja ihmisiä ymmärtämään toisiaan molemmin puolin. Minun on kuitenkin vaikea nähdä, että vaikkapa tehdaskompleksia pyörittävä tekoäly hyötyisi mitenkään ihmismäisistä tunnetiloista, ja esittämäsi mekanistisen mallin mukaan niistä muodostuisikin hyvin toisenlaisia (koska ohjaavat tekijät olisivat toisenlaisia).

Näen myös tunnetilat enemmän emergentteinä kuin tarkoituksellisina ominaisuuksina. Kukaan ei välttämättä suoranaisesti koeta rakentaa niitä koneelle, mutta kun koneen toimintaa ohjaavia rakenteita tehdään, niistä kokonaisuutena syntyy koneelle jonkinlainen "tunnemaailma", koneesta ja tarkoituksesta riippuen. Kuten toisaalla (elokuussa 2011) toteat:

So the only thing determining what the future computers will be like is what is useful and what is not.


Kyllä, tämän allekirjoitan; mutta kysymys ei välttämättä ole kovin yksinkertainen. Lähtökohtaisesti tietokoneet ja robotit, koneet yleensäkin, on tarkoitettu suoriutumaan hyvin sellaisista tehtävistä, joissa ihmiset ovat huonoja tai vähemmän suorituskykyisiä. Aivan puhdas, raaka laskenta ("numeronmurskaus") tulee olemaan tietokoneiden tehtävänä myös tulevaisuudessa, koska siihen tehtävään ei ole olemassa vaihtoehtoja. Toisaalta ympäristöä muokataan niin, että se soveltuisi paremmin automaatiolle, ihmisten sijaan; jotain näkökulmaa tähän saa tarkastelemalla modernia autotehdasta, jossa ihmiselle on vähän tilaa.

Mutta mitä on hyödyllisyys ja kenen kannalta katsottuna? Kone saattaisi mieltää hyödyllisyyden aivan toisella tavalla kuin ihminen.

"Since a computer too has needs, it makes sense to build in it a tendency to answer those needs, and the needs of the large environment, of the whole world. So the future computers will have feelings."


Minusta tämä johtopäätös on aivan liian nopea; riippuen tietysti käytettyjen sanojen (need, feeling) määritelmästä. Ajatellaan shakkitietokonetta. Mitkä ovat shakkitietokoneen tarpeet? Voidaanko määritellä niin, että kun shakkitietokoneen sisällä hakupuut alkavat näyttää vihreää, niin kone tuntee euforiaa edessä siintävästä voitosta, ja taas toisaalta jos hakupuu alkaa näyttää punaista, niin se tuntee raskasta pettymystä edessä siintävän tappion takia? Ehkä näin, mutta shakkitietokone ei kuitenkaan reagoi tällaisiin signaaleihin, miksi? Yhtenä syynä pitäisin sitä, että haun antamasta signaalista (tuleva voitto/tappio) huolimatta shakkitietokone ei voi pelata sen paremmin eikä huonommin. Olisi täysin hyödytöntä rakentaa kone siten, että se esimerkiksi alkaisi pelata nopeammin ja huolimattomammin euforiatilassa, tai masentuisi ja jättäisi leikin kesken tiukassa paikassa.

Ehkä shakkitietokoneestakin saadaan jotain tunteisiin tai intuitioon viittaavaa ulos, jos mennään tarpeeksi syvälle sen rakenteisiin. Shakkitietokoneet keskittävät hakunsa niihin vaihtoehtoihin, jotka "tuntuvat" niistä lupaavimmilta. Valinta perustuu staattiselle evaluaattorille, kokoelmaan erilaisia menetelmiä, joilla laudan tilanteen edullisuutta koetetaan arvioida puhtaasti nappuloiden aseman perusteella. Shakkitietokone "ajattelee" siis siten, että "tämä tilanne tuntuu minusta hyvältä, katsotaanpa, mihin se johtaa; tämä tilanne vaikuttaa minusta huonolta, jätänpä sen pois laskuista." Shakkitietokone (sen pelialgoritmi) ei kuitenkaan reagoi millään tavalla siihen, miltä tilanne ja sen jatkomahdollisuudet vaikuttavat. Se vain jatkaa pelitilanteiden arviointia ja hakee omasta mielestään parhaalta näyttäviä siirtoja riippumatta siitä, onko edessä siintämässä varma voitto tai varma tappio.

Missä tilanteessa tuollaisesta koneesta olisi hyötyä? Äkikseltään voisin esittää, että sellaisilla koneilla, jotka toimivat (1) reaaliajassa (2) jatkuvasti muuttuvassa ympäristössä (3) puutteellisella tiedolla varustettuna, olisi rakennettuna signaaleja, jotka aiheuttaisivat strategioiden muutoksia, reagointia uusiin ennakoimattomiin tilanteisiin. Liikenne, pelastustoimi, vartiointi, jotain tuon kaltaisia tehtäväkenttiä voisin pitää paikkoina, joissa haettaisiin robotille ihmisen/eläimen kaltaista tilanteeseen mukautuvaa ajatusmaailmaa. Talous, logistiikka, sen kaltaiset tehtäväkentät voisivat myös tulla kyseeseen, ei robottien, mutta tekoälyjen suhteen.

Tehdasrobotti ei sellaista tarvitse, sen ympäristö on ja pysyy staattisena, ja jos ei pysy, niin sen ei tarvitse reagoida tilanteeseen juuri millään tavalla (enintään lopettaa toimintansa, jotta lisävahingoilta vältyttäisiin). Nykyaikaisten tehdasrobottien ohjelmistojen kehitys ei kulje tuohon suuntaan, vaan siihen, että robotti olisi helpommin käytettävissä uusiin tehtäviin. Menetelmiä tähän on monia (erilaisiin tehtäviin soveltuva rakenne, mallista opettaminen, hahmontunnistuksella saatavat väjemmät toleranssit, ...), mutta mikään niistä ei minun käsityskykyni rajoissa tee niistä millään tavalla ennakoimattomiin tilanteisiin paremmin reagoivia.

Viimeisenä kommentoin tätä:

ALL TYPES OF USEFUL MACHINES WILL BE MORAL ... Regardless of whether it is an army machine running wild, a world governing computer or a computer network, a personal computer of some criminal or whatever, in order to be useful like other machines, it will need this type of moral. Army too makes calculations and that’s just what this type of moral is a question of. ... But this means that whatever the computer is originally meant to be used for, we have to ready it for other tasks too. And that readiness for a variety of tasks makes the computer more useful, and it makes it moral.


Minusta tässä on vedetty johtopäätös liian hätäisesti, tai ainakin olisi tarkemmin määriteltävä, mitä moraali tarkoittaa. Ei ole välttämätöntä, että ihminen osaisi rakentaa älykkään koneen saadakseen sellaisen; riittää, että ihminen osaa rakentaa (virtuaalisen) koneen, joka osaa rakentaa koneen, joka osaa ... rakentaa koneen, joka osaa rakentaa älykkään koneen. On todella hankala koettaa ennustaa kompleksisten koneiden ja rakenteiden yhteisvaikutuksesta syntyviä asioita. Ei ole ollenkaan varmaa, että ihminen kykenee millään tavalla vaikuttamaan siihen, millainen moraali älykkäälle koneelle muodostuisi; kun ei ole ollenkaan varmaa, ymmärtääkö ihminen älyä sen enempää kuin moraaliakaan siinä vaiheessa, kun älykkäät koneet tulevat.

Koneet ovat jo jonkun aikaa osanneet suunnitella ratkaisuja ongelmiin, joihin ihmiset eivät pysty. Yhtä aikaa tiedetään se, kuinka kone on rakennettu ja kuinka sen algoritmi toimii, mutta samalla on täysin tuntematonta se, miten kone ratkaisuunsa päättyi:

http://www.nasa.gov/centers/ames/resear ... /borg.html

Kannattanee myös tutustua John Kozaan ja hänen "keksintökoneeseensa" (invention machine):

http://en.wikipedia.org/wiki/John_Koza
MaKo
 
Viestit: 460
Liittynyt: 05.04.2008, 15:54:19
Paikkakunta: Oulu

Re: Hannele Tervola: Short Robot Stories

ViestiKirjoittaja Hannele » 15.01.2012, 16:52:50

Hei
Kiitos pitkästä vastauksesta!
Aivan aluksi tietokoneen tunteet olisivat vain tapa katsoa toimintaa, tapa jäsentää sen toiminta niin, että se vastaa työorientoituneen ihmisen tunne-elämää summittain. Vallan toinen juttu on, miten kone reagoi tunteisiinsa hitaudella tai nopeudella, tavoittelee tai karttaa se toki jo alunperin, sillä sitähän tuolla "tunne-elämällä" tarkoitetaan. Reaktioita tarvitaan ainakin kommunikaatiota varten, jotta kanssakäyminen ihmisten kanssa olisi helpompaa. Lisäksi esim. akun vähäisyys, lisätiedon tarve yms. useamman tavoitteen ja useamman reitin yhteisvaikutukset luonnostaan toisivat reaktioita tunteiden mukaan.
Tavoitteellinen toiminta voitaisiin siis nähdä tunne-elämän muotona, mutta ihmisen kaltainen tunne-elämä tulisi mielekkääksi koneille, jotka joko ovat paljon tekemisissä ihmisten kanssa tai ovat toimintaolosuhteiltaan ym. ihmisten kaltaiset, arvaisin, että esim. humanoidirobotit.
Tunteita tärkeämpää olisi saada koneet toimimaan moraalisesti. Jotta siinä onnistuttaisiin tavalla, joka kestää tietokoneiden kehittyessä, on parempi vain kertoa koneelle moraalin hyödyllisyydestä sen tavoitteiden kannalta, mitä nuo tavoitteet sitten ovatkaan, kuin ohjelmoida sitä aina kulkemaan tiettyjä reittejä, joista se kenties ajan myötä luopuu. Tähän sopii hyvin mekaaninen versio perinteisestä eurooppalaisesta järkiperusteisesta moraalista: terve toimii paremmin kuin rikkinäinen, kokonaiskuvallinen objektiivisuus ja palautteen hyödyllisyys (oik. muk, obj., evoluutio, markkinatalous, tuotekehiyttely, rehellisyys ja vastuuntunto ovat täytä samaa kantaa).
Jo nykytietokoneille voidaan kai rakentaa ajattelutapa, joka vastaa Wikipedian kirjoitustyyliä: luokituksia, tiedonpalasia, lainalaisuuksia ja karttoja. Tieteellinen objektiivisuus kuvaa rakenteet ja rakennusmateriaalit karttojen ja lainalaisuuksien avulla käyttäen ajattelussa mm. matematiikkaa ja luokituksia - jotakin kovin nykytietokonemaista siis!
Hannele
 
Viestit: 3
Liittynyt: 15.01.2012, 12:46:45

Re: Hannele Tervola: Short Robot Stories

ViestiKirjoittaja MaKo » 16.01.2012, 14:15:06

Hannele kirjoitti:Tavoitteellinen toiminta voitaisiin siis nähdä tunne-elämän muotona, mutta ihmisen kaltainen tunne-elämä tulisi mielekkääksi koneille, jotka joko ovat paljon tekemisissä ihmisten kanssa tai ovat toimintaolosuhteiltaan ym. ihmisten kaltaiset, arvaisin, että esim. humanoidirobotit.


Näin minäkin asian ajattelen.

Hannele kirjoitti:Tunteita tärkeämpää olisi saada koneet toimimaan moraalisesti. Jotta siinä onnistuttaisiin tavalla, joka kestää tietokoneiden kehittyessä, on parempi vain kertoa koneelle moraalin hyödyllisyydestä sen tavoitteiden kannalta, mitä nuo tavoitteet sitten ovatkaan, kuin ohjelmoida sitä aina kulkemaan tiettyjä reittejä, joista se kenties ajan myötä luopuu.


Kertoa miten? Älykkäät koneet eivät tietenkään voi kulkea kiinteästi ohjelmoituja reittejä pitkin, eiväthän ne silloin ole älykkäitä. Jonkinlaisia rajoitteita niille voidaan tietysti koettaa rakentaa, mutta yhtenä älykkään koneen merkkinä voi hyvinkin pitää sitä, että se pystyy käyttämään kapasiteettiaan erilaisten rajoitusten kiertämiseen. Siksi sellaista ei voi pitää määrättömiin minkäänlaisessa "vankilassa", vrt.

http://rationalwiki.org/wiki/AI-box_experiment

Transhumanisteilla on tähän asiaan liittyen joitain spekulaatioita, nimittäin Friendly AI:

http://en.wikipedia.org/wiki/Friendly_a ... telligence

Lyhyesti: tulevien tekoälyjen ystävällisyydestä tai vihamielisyydestä ei tällä hetkellä ole tietoa, ja alan parissa toimivien ihmisten mielipiteet levittäytyvät koko skaalalle perimmäisestä vihamielisyydestä perimmäiseen ystävällisyyteen saakka. On olemassa ihmisiä, joiden mukaan ihmiskunnan täytyisi ponnistella nyt nimenomaan ystävällisen tekoälyn rakentamiseksi, jolloin voitaisiin varmistaa, että ensimmäinen "supermieli" on ystävällinen; tämä toimisi sitten tavallaan "henkivakuutuksena" myöhemmin tulevien suhteen (kts. kohta 5).

Mun oma näkemykseni on kuitenkin se, ettei ystävällisyyttä voi taata, koska oma mielipiteeni on se, ettei älykkyys sen enempää kuin moraalikaan ole algoritminen ongelma(*). Mielestäni siis siemen-tekoälyn (Seed AI) rakentaminen on hyppy tuntemattomaan, koska tekoälyjä koskevat lainalaisuudet selviävät meille vasta jälkikäteen (ikävässä skenaariossa tuolloin ei tietenkään ole ihmisiä näitä lainalaisuuksia huomioimassa). Jotain varmaa meillä kuitenkin on saatavilla jo nyt: ihmisenkaltainen äly ei ole mahdotonta (vrt. ihminen), sen ydinohjelmisto on hämmentävän pieni ja rajallinen (ihmisen geenit), ydinohjelmisto ei ole mielivaltainen (ihminen vs. muu elämä), ja meillä on jonkinlainen valistunut arvaus tarvittavasta tietojenkäsittelytehosta (aivot).

(*) Itse liputan hakuun perustuvia ratkaisujen puolesta tekoälyn perusrakennuspalikkana, vaikkakin tunnustan heti kättelyssä, että minulla on vaikeuksia mieltää, miten saadaan aikaiseksi jonkinlainen "universaali hakualgoritmi", joka kykenee ratkomaan kaikenlaisia ongelmia ("Kuinka pääsen ulko-ovelle? Mitä sanoisin Matille? Veisinkö auton huoltoon tänään vai huomenna?") pelkästään päällekkäisillä hauilla. Ihmisen moraalikäsitysten oletan puolestani syntyvän mm. ihmisen laumavaistoista (jotka puolestaan ovat olleet hengissäpysymisen edellytyksiä); yksineläjän (tiikeri, mustekala) moraalikäsitys voisi olla toisenlainen, samoin muulta kuin luonnonvalinnan pohjalta kehittyvän olennon.

Hannele kirjoitti:Jo nykytietokoneille voidaan kai rakentaa ajattelutapa, joka vastaa Wikipedian kirjoitustyyliä: luokituksia, tiedonpalasia, lainalaisuuksia ja karttoja. Tieteellinen objektiivisuus kuvaa rakenteet ja rakennusmateriaalit karttojen ja lainalaisuuksien avulla käyttäen ajattelussa mm. matematiikkaa ja luokituksia - jotakin kovin nykytietokonemaista siis!


Wikipedian(kin) käyttämä luokittelutapa on ihmiskeskeistä eikä ole sellaisenaan käyttökelpoista (vaatii mm. luonnollisen kielen ja kokemuspiirin hallinnan). Tekoälyjen ajattelutavan oletan ponnistavan niiden todellisuudesta, josta puuttuu hyvin paljon ihmisen todellisuuden aineksista (ilma, ravinto, vesi, lapsuus, vanhuus, ...). Tekoälyjen äidinkieli kehittyy luultavasti tarpeeseen samaan tapaan kuin Lingodroideilla:

http://www.bbc.co.uk/news/technology-13510988
MaKo
 
Viestit: 460
Liittynyt: 05.04.2008, 15:54:19
Paikkakunta: Oulu

Re: Hannele Tervola: Short Robot Stories

ViestiKirjoittaja tniemi » 16.01.2012, 20:20:58

The usual suspects on jo täällä vauhdissa, hyvä niin! Vastaan itse paremmalla ajalla, nyt on kova kiire.

Kohtaus tekstistä jota väsään, aiheeseen liittyen:
(Hahmot: Nimbus, ihminen; Talamus, tietoinen tietojärjestelmä)
Talamus: «Mietitkö sinä koskaan miten sinä teet päätöksiä?»

Nimbus ei vastaa. Hän etsii ruuveja, mutta Epsilon Cetillä käytetään tietenkin erilaisia ruuvikierteitä kuin Tau-1 Eridanilla.

Talamus: «Kysymys on siitä millaista osaa symbolit edustavat päätöksenteossa. Minä voin muuttaa asiat symboleiksi ja rakentaa niistä loogisen päätelmän, mutta sinä voit tehdä päätöksen logiikasta välittämättä. Kaikki se, mitä ei voi muuttaa symboleiksi on tunnetta.»

Nimbus: "Hyvin kiehtovaa..."

Talamus: «Kysymys on laskennallisuuden rajoista, tai oikeastaan niiden ulkopuolelle astumisesta. On olemassa totuuksia, jotka ovat laskennallisuuden ja todistettavuuden ulkopuolella. Me tiedämme sen, se kyetään matemaattiseti todistamaan. Ihminen kykenee tunteidensa avulla tekemään harppauksen ja astumaan todistettavuuden ulkopuolelle, mutta kykenenkö minä? Voinko minä tehdä puhtaasti emotionaalisen päätöksen?»

Nimbus: "Oletko sinä alkanut epäillä itseäsi?"

Talamus ei vastaa, ja se on harvinaista.

Nimbus ei kuitenkaan huomaa. Hän ruuvaa väkipakolla eridanilaiset ruuvit epsiloncetiläisiin kantoihin.

(Talamus viittaa Sir Roger Penrosen kritiikkiin algoritmista AI:ta vastaan.)
tniemi
 
Viestit: 764
Liittynyt: 30.04.2005, 19:44:42
Paikkakunta: Terra, Sol

Re: Hannele Tervola: Short Robot Stories

ViestiKirjoittaja MaKo » 16.01.2012, 20:41:56

tniemi kirjoitti:The usual suspects on jo täällä vauhdissa, hyvä niin! Vastaan itse paremmalla ajalla, nyt on kova kiire.


Aihealue on minulle tuskallisen kiinnostava, joten on vaikea pitää näppejään erossa. Juuri tälläkin hetkellä tuskailen sen kanssa, kuinka hankalaa tätä aihetta on koettaa jäsennellä ja sitä kautta saada aikaiseksi jokin järkevä postaus.

tniemi kirjoitti:(Talamus viittaa Sir Roger Penrosen kritiikkiin algoritmista AI:ta vastaan.)


...Josta syystä silläkin lienee sisuksissaan epägödelinen laatikko (EGL), englanniksi NGD (Non-Gödelian Device).
MaKo
 
Viestit: 460
Liittynyt: 05.04.2008, 15:54:19
Paikkakunta: Oulu

Re: Hannele Tervola: Short Robot Stories

ViestiKirjoittaja Mooa » 17.01.2012, 08:06:21

Tästä keskustelusta tulee mieleen E. W. Dijkstran toteamus: kysymys siitä, osaako tietokone ajatella on yhtä relevantti kuin kysymys siitä, osaako sukellusvene uida.

http://www.cs.utexas.edu/users/EWD/transcriptions/EWD09xx/EWD952.html
Mooa
 
Viestit: 329
Liittynyt: 12.02.2010, 08:24:48

Re: Hannele Tervola: Short Robot Stories

ViestiKirjoittaja tniemi » 17.01.2012, 18:14:01

MaKo kirjoitti:
tniemi kirjoitti:(Talamus viittaa Sir Roger Penrosen kritiikkiin algoritmista AI:ta vastaan.)

...Josta syystä silläkin lienee sisuksissaan epägödelinen laatikko (EGL), englanniksi NGD (Non-Gödelian Device).

Tod näk. Talamuksella on kriisi. Hän väittää itselleen olevansa looginen ja järkevä. Mitä suurempi äly, niin sitä järkyttävämpää on havaita olevansa ns. kuolevainen...

Mooa kirjoitti:Tästä keskustelusta tulee mieleen E. W. Dijkstran toteamus: kysymys siitä, osaako tietokone ajatella on yhtä relevantti kuin kysymys siitä, osaako sukellusvene uida.
http://www.cs.utexas.edu/users/EWD/transcriptions/EWD09xx/EWD952.html

Dijkstra taitaa viitata epäsuorasti filosofiseen zombiin.

Kuvitellaan, että meillä on olento, joka näyttää ja käyttäytyy kuin ihminen, mutta on todellisuudessa "aivoton" automaatti, p-zombie. Kun p-zombieta potkaisee polveen, niin sitä alkaa itkettää.

Filosofinen kysymys kuuluu: onko p-zombie älyllinen olento, vai pelkkää huijausta?

Dijkstra sanoo, että jos se näyttää ankalta, ui kuin ankka, ja vaakkuu kuin ankka, niin se on ankka. Vastaväittäjiä tietenkin löytyy, koska kysymys on filosofiasta.

- - -

Tästä sen verran:
MaKo kirjoitti:(*) Itse liputan hakuun perustuvia ratkaisujen puolesta tekoälyn perusrakennuspalikkana

Kannattaa aina muistaa, että kieli on erittäin rajoittunut tapa ajatella, tai yleensäkään paketoida todellisuutta.

Meillä on ajatuksia, jotka eivät yksinkertaisesti muunnu sanoiksi (hajut, tunnetilat, realistinen seksin kuvaus...), ja maailmassa ilmiöitä jotka sanoilla kuvailtaessa latistuvat.

On olemassa lintulaji, joka elää pohjoiseuroopassa. Lajin kasvualue kiertää Uralin ja palaa takaisin etelän puolelta. Pohjoiset ja eteläiset versiot eivät voi lisääntyä keskenään, joten ne ovat eri lajia, mutta kasvualue on yhtenäinen, joten missä kohtaa lintulaji muuttuu toiseksi?

Kärjistetysti voisi sanoa, että todellisuus on "analoginen", kun sanat ovat "digitaalisia". Konversiossa analogisesta digitaaliseen menetetään aina jotain.

Tämä on kärjistys, koska totuus on jotain paljon hankalampaa... Meillä on tämä emergenssiksi kutsuttu ilmiö, joka mahdollistaa sen, että matemaattisesti yksinkertaisista asioista syntyy jotain täysin arvaamatonta -- mutta esim. Kari Enqvist sanoo, että: "Emergenssiä on olemassa, mutta se on osoitus kuvailun karkeudesta, ei sen kohoamisesta uusiin, tuntemattomiin sfääreihin." Eli ota nyt tässä sitten selvää... Onko emergenssi silta "digitaalisesta" jonnekin arvaamattomaan "analogiseen", vai ovatko meidän "digitaaliset" symbolimme huonoja jopa monimutkaisten "digitaalisten" prosessien kuvaamisessa?

Kieli on kuitenkin vajavaista, se on jo tässä vaiheessa selvää.

Vaikuttaisi siltä, että tekoälytutkimuksen olisi edettävä "alisymboliseen" tai symbolittomaan suuntaan, mutta taustalla kytee siisteilijöiden ja sottapyttyjen välinen pitkä kauna. Sottapyttyjen mielestä äly on sottaista, joten sitä on turha yrittää paketoida todistettaviksi kaavoiksi. Siisteilijät haukkuvat sottapyttyjä epätieteellisyydestä ja todistamattomuudesta.

Ratkaisua ei ole näköpiirissä...
tniemi
 
Viestit: 764
Liittynyt: 30.04.2005, 19:44:42
Paikkakunta: Terra, Sol

Re: Hannele Tervola: Short Robot Stories

ViestiKirjoittaja MaKo » 17.01.2012, 18:58:39

Tekoälyihin liittyvät kysymykset pyörivät nyt sen verran mielessä, että jatketaan ääneen ajattelua. Vaikka tniemi tuohon väliin ehtikin jo postata, niin postaan tämän, koska tämän kirjoittamiseen kului niin paljon vaivaa. Joku päivä ajattelin kirjoittaa aiheesta jotain blogimerkintöjäkin. Tässä postauksessa keskityn miltei yksinomaan ongelmanratkaisuun, toiminnan suunnitteluun; on aika hämmentävää, että aivot (ihmisten ja eläinten) palvelevat yhtä aikaa koko tekoälyn monipuolista kenttää: ongelmanratkaisua, motorista ohjausta (kybernetiikkaa), hahmontunnistusta, ...

Olen aina välillä miettinyt, millainen laite (device) toimisi tekoälyn peruspalikkana, tavallaan tekoälyn "transistorina". Digitaalitekniikasta tiedän sen, että aluksi on aivan mahdottoman vaikea käsittää, miten prosessorit ja tietokoneet voivat rakentua niin yksinkertaisesta palikasta kuin transistori. Mutta niin se on, että kun transistoreja kytketään tarpeeksi paljon oikealla tavalla toisiinsa, saadaan aikaiseksi prosessori, jonka pyörittämät bitit mahdollistavat webbisurffauksen. Millainen olisi tekoälyn "transistori", joka riittävän suurina määrinä, oikein kytkettynä tuottaisi koneen, joka oppisi sekä pelaamaan shakkia että kääntämään C:tä konekieleksi?

Mainitsin aiemmin, että liputtaisin hakuihin (oikeammin reitin etsimiseen) perustuvien ratkaisujen puolesta, jos nyt pitäisi valita jokin väline tekoälyn perusrakennuspalikaksi. Siihen ei ole olemassa kovin perusteltua syytä. Lähinnä se johtuu siitä, että nykyisen tavallisen pöytäkoneen ohjelmistoista ne, joiden voidaan katsoa suorittavan jotain orastavasti älyllistä puuhaa (pelejä pelaavat algoritmit ja kääntäjät), perustuvat monilta osiltaan reitin etsintään eivätkä esimerkiksi hahmontunnistukseen. Toisaalta aivojen neuronin ajatellaan olevan nimenomaan hahmontunnistin (vrt. Perceptron), toisaalta aivojen toiminnan oletetaan nojaavan vielä käyttäytymiseltään huonosti tunnetun neuroneista rakentuvan NCC:n (Neo-Cortex / Cortical Column) varaan.

Hakualgoritmissa on oikeastaan kaksi keskeistä osaa: muisti ja generaattori. Koodausmielessä hakualgoritmit ovat kaikki samanlaisia, hakujen erot syntyvät siitä, millaista informaatiota ongelmasta voidaan hyödyntää: tunnetaanko etäisyys tilanteesta toiseen, voidaanko laskea tilanteiden keskinäinen etäisyys, saadaanko arvio tilanteen ja maalin välille, ja niin edelleen. Mitä enemmän informaatiota voidaan hyödyntää haun rajoittamiseen, sen parempiin tuloksiin päästään.

Hakualgoritmissa muistin tehtävänä on tallentaa ne tilanteet, joiden jatkotilanteet on jo generoitu. Evolutiivisissa hauissa muistina toimii nk. populaatio. Ilman muistia hakualgoritmilla on vaara jäädä kiertämään kehää. Generaattori on puolestaan palikka, joka osaa luoda syötteenä saamastaan tilanteesta jatkovaihtoehtoja. Jos generaattori osaa luoda kaikki mahdolliset jatkovaihtoehdot, päädytään johonkin perinteisistä hakualgoritmeista (Depth-First, Breadth-First, A*).Jos taas kaikkia ratkaisuja ei syystä tai toisesta voida generoida, päädytään johonkin evolutiiviseen tai vastaavaan hakuun. Evolutiivisissa hauissa generaattorin tuotokset saattavat olla epäkelpoja, joten ne on karsittava pois. Useimmille hauille on myös edullista se, jos muistista voidaan hakea seuraavana käsiteltäväksi parhaimmilta vaikuttavat vaihtoehdot.

OK, tuohon asti kaikki on suhteellisen selkeää. Mun on helppoa nähdä läjä generaattoreita pulppuamassa uusia ideoita sähköisen pään sisällä, mutta sen jälkeen multa hajoaa ajatus. Ensimmäinen este on se, kun koetan mieltää, miten hakuja suorittavat koneet saadaan yhdistettyä toisiinsa hierarkiseksi järjestelmäksi. Yhden hakukoneen pitäisi saada ongelman "kuvaus" (jatkotilanteiden generointiin tarvitut tiedot) toisilta hakukoneilta - yksittäisen hakukoneen tuloksien puolestaan pitäisi toimia seuraavien syötteinä. Näistä pitäisi kaiken kaikkiaan saada aikaiseksi jonkinlainen sykli.

Tuosta seuraa myös toinen hahmottelua vaikeuttava este: kuinka esittää tilanteet niin, että ne voivat nivoutua toisiinsa (toimia toisen generaattorin syötteenä)? Ihmisen ongelmanratkaisukoneen eräs hienoimpia piirteitä on se, kuinka se kykenee käsittelemään tilanteita monella tasolla. Toimia voi suunnitella miltei portaattomasti erilaisilla aikajänteillä: "Isona minusta tulee autokorjaaja, menenpä siis yläasteen jälkeen ammattikouluun", "töiden jälkeen käyn ensin kaupassa", "minun pitäisi päästä ovelle, kierränpä siis edessä olevan laatikon." Eri aikajänteiltä saatuja ratkaisuja ja mahdollisuuksia voi siirtää tarkemmin käsiteltäväksi ("Löydänkö kolmen vuoden päästä oikean luokan ammattikoulun ensimmäisenä päivänä?") tai yksityiskohtaisempia mahdollisuuksia kokonaisuuksien osiksi ("ostanpa nyt kolme purkkia maitoa, niin huomenna voin tulla suoraan kotiin"). Miten ihmeessä tämä tehdään?

Jos tästä nyt halutaan vielä vetää aasinsiltaa ketjun alkuperäiseen aiheeseen, niin juuri tältä pohjalta ajateltuna mun on vaikea nähdä, että esimerkiksi vaikkapa moraalisia tekijöitä voitaisiin pakottaa tekoälyn ongelmanratkaisukoneeseen. Kun se itse generoi sääntöjä itselleen (vrt. yhden generaattorin jatkomahdollisuuksien tuottamiseen tarkoitut säännöt tulevat muilta generaattoreilta), niin missä välissä siellä on "moraalipoliisi" (ja millainen?) vahtimassa, ettei sääntöjen jatkomahdollisuuksien joukkoon epämoraalista tavaraa?
MaKo
 
Viestit: 460
Liittynyt: 05.04.2008, 15:54:19
Paikkakunta: Oulu

Re: Hannele Tervola: Short Robot Stories

ViestiKirjoittaja MaKo » 17.01.2012, 22:51:44

tniemi kirjoitti:Tästä sen verran:
MaKo kirjoitti:(*) Itse liputan hakuun perustuvia ratkaisujen puolesta tekoälyn perusrakennuspalikkana

Kannattaa aina muistaa, että kieli on erittäin rajoittunut tapa ajatella, tai yleensäkään paketoida todellisuutta. Meillä on ajatuksia, jotka eivät yksinkertaisesti muunnu sanoiksi (hajut, tunnetilat, realistinen seksin kuvaus...), ja maailmassa ilmiöitä jotka sanoilla kuvailtaessa latistuvat.


Toki muistan, enkä tuosta nyt yhtäkkiä hokaa, miten tuo liittyy kieleen. Joka tapauksessa, pidän kieltä seurauksena enkä syynä. Se, että tietoinen ajattelu on usein kielellistä, johtuu mielestäni vain siitä, että aivot kykenevät käsittelemään myös kieltä, ja että sen avulla voidaan ajatella asioita, jotka olisivat hajuina tai tunnetiloina haastavampia.

Emergenssin olemassaolosta tai luonteesta en osaa sanoa mitään, tarkoitan sillä sitä, että joissain systeemeissä on enemmän kuin miltä ihmisestä päälle päin näyttää.

tniemi kirjoitti:Vaikuttaisi siltä, että tekoälytutkimuksen olisi edettävä "alisymboliseen" tai symbolittomaan suuntaan, mutta taustalla kytee siisteilijöiden ja sottapyttyjen välinen pitkä kauna. Sottapyttyjen mielestä äly on sottaista, joten sitä on turha yrittää paketoida todistettaviksi kaavoiksi. Siisteilijät haukkuvat sottapyttyjä epätieteellisyydestä ja todistamattomuudesta.


Enpäs ole tuollaiseen aiemmin törmännyt. Minä liputan alisymbolisen suunnan puolesta, ja huomaan olleeni pitkään sottapytty, joiden mukaan: "Intelligence is often seen as a form of search..."
MaKo
 
Viestit: 460
Liittynyt: 05.04.2008, 15:54:19
Paikkakunta: Oulu

Re: Hannele Tervola: Short Robot Stories

ViestiKirjoittaja tniemi » 18.01.2012, 16:36:36

MaKo kirjoitti:Toki muistan, enkä tuosta nyt yhtäkkiä hokaa, miten tuo liittyy kieleen.

Minun moka. Ymmärsin tuon haku-viitteen väärin. (Viittaavan noihin kalle-kotipsykiatreihin.)

Hah!
Cleverbot took part alongside humans in a formal Turing Test at the 2011 Techniche festival at the Indian Institute of Technology Guwahati on September 3, 2011. Out of the 1,334 votes cast, Cleverbot was judged to be 59.3% human, compared to the rating of 63.3% human achieved by the actual humans. A score of 50% or higher is often considered to be a pass of the Turing Test.

Netissä roikkuva peelo on onnistuneesti simuloitu!
tniemi
 
Viestit: 764
Liittynyt: 30.04.2005, 19:44:42
Paikkakunta: Terra, Sol

Re: Hannele Tervola: Short Robot Stories

ViestiKirjoittaja Hannele » 23.01.2012, 18:58:30

Tulevaisuuden tietokoneita ei rajoita se, miltä pohjalta koneita nykyisin rakennetaan, vaan rakennusmenetelmät kehittyvät ajan myötä. Se, mikä on hankalaa tänään, ei välttämättä ole vaikeaa enää vuosien ja vuosikymmenten kuluttua. Niinpä varman päälle pelaten ja tietokoneiden kehitykseen luottaen voi olettaa, että tulevaisuuden tietokoneiden toimintaa rajoittaa todellisuuden rakenne eikä rakennustaitomme. Tietokanta, joka Wikipedian tapaan viittaisi todellisuuteen, voisi olla oiva vakaana pysyvä tietokoneen näkökulma, jonka mielekkyys kasvaisi tietokoneen oman ymmärryksen kasvaessa. Esittämäni järkiperusteinen moraali on tuota tyyppiä: täysin toimintakykyinen toimii paremmin kuin rikkinäinen ja on hyödyllistä antaa oikeaan osuvaa palautetta sen mukaan, millainen mikin ilmiö on. Tietokoneen ymmärrettäviä palikkamalleja, joilla on paljon käyttöä.
Hannele
 
Viestit: 3
Liittynyt: 15.01.2012, 12:46:45


Paluu Verkossa ilmestyneet novellit

Paikallaolijat

Käyttäjiä lukemassa tätä aluetta: Ei rekisteröityneitä käyttäjiä ja 1 vierailijaa

cron