Kuvittele kulkevasi keskipäivän paahteessa kylpevällä savannilla. Tarvitset juotavaa, ja haluat päästä lähimmälle juomapaikalle. Matkan varrella huomaat puussa torkkuvan leopardin ja päätät kiertää paikan kauempaa, ihan vain varmuuden vuoksi. Me olemme niiden ihmisten jälkeläisiä, jotka valitsivat kiertotien. Sukupolvien kuluessa ihmiskunta on kehittänyt itselleen erinomaisen kyvyn rakentaa tietoisuus ympärillämme vallitsevasta tilanteesta. Mutta se merkitsee myös sitä, että olemme alkaneet pitää tilannetietoisuutta itsestäänselvyytenä. Keräämme jatkuvasti tietoa ympäröivästä maailmasta aistiemme avulla, käsittelemme tuota tietoa ja teemme sen perusteella erilaisia päätöksiä. Se on nopea, saumaton ja jopa intuitiivinen prosessi. Nyt koneiden tulisi kyetä samaan.
Yhteiskunnassamme hyväksytään nykyään automaation yhä lisääntyvä hyödyntäminen. Ruokakaupan jakelurobotit kulkevat jo keskuudessamme, ja itseajavat autot ovat vain ajan kysymys.
Tämä tarkoittaa sitä, että suunnilleen ne samat ominaisuudet, jotka meille ihmisille on itsestään selviä, on saatava myös luomuksiimme: kun alamme tuoda autonomisia laitteita samaan ympäristöön ihmisten kanssa, myös niille on rakennettava tilannetietoisuutta.
Yllättävät tapahtumat vaativat yllättäviä reaktioita
Jotta automaattinen järjestelmä pystyisi toimimaan asianmukaisesti ihmisten keskuudessa, sillä tulee olla hyvä tilannetietoisuus. Niin sanottuja tyhmiä koneita, kuten kokoonpanolinjan robotteja, ohjaa yleensä työtavoite. Kontrolloidussa ympäristössä tämä riittää hyvin, ja on jopa suotavaa, mutta se tarkoittaa myös sitä, että niiden huomio on hyvin rajoittunutta. Todellinen fyysinen maailmamme on kuitenkin täynnä odottamattomia tapahtumia, sekä suuria että pieniä, jotka kehittyneempien autonomisten älylaitteiden on otettava huomioon. Sellaisessa maailmassa liikkuminen vaatii jatkuvaa vihjeiden keräämistä kaikesta ympärillä tapahtuvasta, toisin sanoen tilannetietoisuuden rakentamista.
Ihmisen tilannetietoisuus perustuu vahvasti aiemmin koetulle. Kuinka tuotantolinjalla rakennettu kone pystyy oppimaan aiempien sukupolvien kokemuksista? Tätä vaikeaa kysymystä käsiteltiin jo scifi-klassikossa Blade Runner. Kuinka voimme simuloida optimaalisen oppimisprosessin? Koneoppimiseen perustuva tilannetietoisuus ei kenties riitä, sillä vastaan tulee tilanteita, joita ei ole aiemmin kohdannut. Kun suunnitellaan älykkäitä järjestelmiä, tilannetietoisuuden tulisi olla kaiken ytimessä. Toisin kuin kokoonpanolinjan robotit, mitä kehittyneempiä ja autonomisempia järjestelmiä suunnittelemme, sitä enemmän niiden tulee olla ihmisen kaltaisia, jotta voimme taata sekä niiden että oman turvallisuutemme.
Turvallisia järjestelmiä huomioivan suunnittelun ja laajan testaamisen avulla
Kansainvälisen epävarmuuden lisääntyessä tilannetietoisuudesta on tullut uusi muotisana yhteiskunnan eri aloilla ja alueilla. Automaation lisääntyvä hyödyntäminen on kuitenkin se osa-alue, josta meidän tulisi kaikkein kiireisimmin keskustella. Kuten aiemmin totesimme, hyvä tilannetietoisuus on ratkaisevan tärkeää sen kannalta, että autonomiset toiminnot voivat toteutua turvallisesti dynaamisessa ja osittain arvaamattomassa ympäristössä. Näin ollen, jos haluamme koneiden olevan turvallisia myös tästä eteenpäin, meidän tulisi pitää tämä mielessämme niitä rakentaessamme. Kun ajattelemme asian eettistä puolta, syyt ovat vieläkin painavampia: koneet eivät ikinä väsy tai kyllästy työtä tehdessään, kun taas inhimillisille lennonjohtajille tai aluksen miehistölle niin voi käydä. Jos teknologia todistetusti parantaa turvallisuutta, meillä on moraalinen velvollisuus ottaa kyseinen teknologia käyttöön, joko avustamassa meitä vajavaisia ihmisiä tai joissain kriittisissä tehtävissä jopa korvaamassa meitä. Autonomiset koneet voisivat vapauttaa ihmisen aivokapasiteettia muihin merkittäviin tehtäviin tylsistyttävien töiden sijaan.
Toinen syy on se, että olemme jo alkaneet suhtautua teknologiaan, erityisesti autoihin, ikään kuin ne olisivat autonomisia toimijoita, vaikkeivät ne todellisuudessa vielä täysin autonomisia olekaan. Tämä johtuu niiden puutteellisesta tilannetietoisuudesta. Siksi itseajavat autot törmäilevät ambulanssien kanssa ja veneilyssä sattuu onnettomuuksia, kun alusten miehistöt luottavat liikaa tutkaan eivätkä keskity kunnolla ohjaamiseen.
Painavin syy ottaa tilannetietoisuus vakavan keskustelun kohteeksi on se, että lopulta meillä tulee olemaan koneita, jotka tekevät päätöksiä puolestamme. Tulevaisuudessa autonomisia älyjärjestelmiä tullaan käyttämään neuvoa-antavien roolien lisäksi myös varsinaisessa päätöksenteossa. Siirrämme väistämättä yhä useampia tehtäviä pois ihmisten harteilta.
Niinpä meidän on aloitettava käyttämiemme suunnittelumenetelmien stressitestaaminen jo nyt. Kaikki turvallisuuskriittiset tilannetietoisuusjärjestelmät on tutkittava kattavasti. Tämä puolestaan vaatisi tutkimusmenetelmiä, joissa käytettäisiin sekä lukemattomia hypoteettisia skenaarioita testaavaa simulointia että käytännön kokeiluja, jotta järjestelmien toimivuus tosimaailman rajoitteiden vallitessa voitaisiin varmistaa. Yksikään nykyisistä turvallisuushallinnoista ei kykene tähän missään päin maailmaa sillä tarkkuudella ja luotettavuudella, jota asia vaatisi. VTT haluaa toimia edelläkävijänä tämän haasteen ratkaisemisessa.
