Tekoälyn hyödyntämisen mahdollisuudet ja rajoitteet turvallisuuskriittisillä toimialoilla

Kysyimme Qreformin toimitusjohtaja Timo Raaskalta, teknologiajohtaja Pasi Selkamalta ja tuotepäällikkö Jani Aholta, mitä he ajattelevat tekoälystä ja sen kehittymisestä juuri nyt, ja millaisena he näkevät tekoälyn hyödyntämisen mahdollisuudet Qreformin Rego– ja Laatuportti-järjestelmissä sekä turvallisuuskriittisillä toimialoilla.

Blogisarjan ensimmäisen osan pääset lukemaan tästä.

Timo Raaska kertoo, että tekoälyn kehittymistä ja sovellettavuutta seurataan Qreformilla tiiviisti ja tehdään siihen liittyen systemaattisesti pieniä pilotteja. Hän kertoo olevan tietoinen ratkaisu, että hyödyntämismahdollisuuksia haetaan asiakkaiden kanssa hyvin huolellisesti, hötkyilemättä ja riskittömästi. Syynä tähän on se, että monet asiakkaista toimivat laatu- ja turvallisuuskriittisillä toimialoilla.

Mitä tekoälystä on tärkeää tietää ja ymmärtää ammattikäytössä juuri nyt?

Jani: Ensimmäisenä pitää tietysti mainita tietosuoja. Tekoälylle ei kannata syöttää mitään arkaa, identifioivaa tietoa. Tekoälyn luotettavuuteen kannattaa myös kaikkiaan kiinnittää huomiota: tuotokset eivät useinkaan ole koko totuus, ja monesti sieltä tulee ihan suoraan virheellistäkin tietoa. Tekoäly on työkalu siinä missä muutkin, ja sen käyttö on käyttäjän vastuulla.

”Tekoäly on työkalu siinä missä muutkin, ja sen käyttö on käyttäjän vastuulla.”

Pasi: Kyllä, kriittinen arviointi. Teknisemmältä kannalta tietosuoja liittyy myös lähdedatan segmentointiin ja tietoturvaan. Tämänhetkisillä tekoälypalveluilla tämä on lisenssimielessä aika hankalasti toteutettu, sillä ne eivät mahdollista asiakkaiden järkevää segmentointia. Asiakassegmentointi on meille dataan liittyen ehdoton vaatimus. Palveluntarjoajat saattavat saada datan pidettyä EU- tai ETA-alueella, mutta Suomen alueella pysyminen tuottaakin sitten enemmän haasteita.

Toinen merkittävä haaste liittyy tekoälytuotosten tekijänoikeuksiin silloin, kun tuloksia hyödynnetään kaupallisiin tarkoituksiin. Lähde pitäisi aina mainita.

Timo: Kyllä, on tärkeää ymmärtää niin mahdollisuudet kuin rajoitteetkin. Oma lähtökohtamme on se, että koska toimimme laatu- ja turvallisuuskriittisten asioiden parissa, meidän on oltava todella varovaisia ja tarkkoja siinä, milloin lähdemme soveltamaan uutta teknologiaa. Toiminnassamme ei ole varaa virhemahdollisuuksiin emmekä voi noin vain tehdä kevyttä protoilua – etenkään asiakkaiden oikeissa ympäristöissä.

Olisi vaarallista ajatella, että toteuttaisimme vaikkapa potilasturvallisuudessa tai teollisessa ympäristössä tekoälysovelluksen, joka tuottaa analytiikkaa, muttemme pystyisi täysin kertomaan, millä mekaniikalla analyysitulokset saavutettiin. Siksi emme voi soveltaa ydintuotteessa kovin helposti tällaisia ominaisuuksia.

Ytimen ympäriltä löytyy kuitenkin pehmoisempaa aluetta, jossa soveltaminen on täysin mahdollista. Turvallisuushavainnon yhteydessä tekoälyltä voisi pyytää esimerkiksi viisi toimenpide-ehdotusta, joilla vastaava tilanne voitaisiin jatkossa estää. Ihminen tekee kuitenkin viime kädessä analyysin, ovatko ehdotukset järkeviä vai eivät.

Millaista käytännön lisäarvoa tekoälystä saadaan turvallisuuden hallintaan?

Timo: Ensinnäkin toteaisin, että raja koneoppimisen ja tekoälyn välillä on häilyvä. Aika monet nykyhetken sovellukset, joiden sanotaan hyödyntävän tekoälyä, ovat pohjimmiltaan aika triviaaleja. Jos järjestelmä vaikkapa kertoo, missä säätilanteessa tapahtuu eniten raideliikenteen onnettomuuksia, sama tieto on mahdollista saavuttaa perusohjelmoinnilla yhdistämällä sää-, kellonaika- ja onnettomuustietoja. Tässä eivät täyty vielä edes koneoppimisen piirteet.

Sen sijaan tekoälyä voitaisiin hyödyntää vaikkapa keskustelevalla mallilla ja kysyä, missä yksiköissä omassa organisaatiossa on tapahtunut eniten kaatumisia viimeisen kolmen kuukauden aikana. Tekoälypalvelu kertoisi sen ja pystyisi myös esittämään, mitkä ovat kolme suurinta ongelmaa organisaation laitteiden ja koneiden käytössä. Se voisi kaivaa dataa muun muassa havainnoista, riskiarvioista, kamerasyötteestä ja teollisuusautomaatiosta. Käytännössä kaikki laitteethan ovat nykyään kytkettynä verkkoon.

”Meillä on jo kaikkiaan hallussa monenlaista tietoa, jolla pystyttäisiin ennaltaehkäisemään vaaratapahtumia. — Tekoäly pystyisi analysoimaan ja yhdistelemään näitä asioita.”

Meillä on jo kaikkiaan hallussa monenlaista tietoa, jolla pystyttäisiin ennaltaehkäisemään vaaratapahtumia. Pystymme esimerkiksi selvittämään, kuka on käyttänyt tiettyä sairaalalaitetta, milloin ja missä hoitotilanteessa hän on laitetta käyttänyt, millainen koulutus henkilöllä on, mihin aikaan päivästä ja missä olosuhteissa ja stressitilanteessa hän sitä käytti – älyrannekkeella tai -sormuksella – ja mitä virheitä tällaisessa tilanteessa tyypillisesti tehdään. Tekoäly pystyisi analysoimaan ja yhdistelemään näitä asioita. Saattaa kuulostaa vähän science fictionilta, muttei suinkaan ole sitä.

Millaista yhteistyötä Qreform toivoo asiakkailta tekoälyyn liittyen?

Pasi: Olisi hienoa kuulla asiakkailta konkreettisia toiveita siitä, mitä tekoälyn avulla halutaan saavuttaa. Kun siirrytään ylätasolta konkretiaan, aiheesta on helpompi keskustella ja viedä hankkeita eteenpäin. Itsekin toki työstämme asiaa koko ajan asiakkaiden inputin pohjalta, mutta suora konkretia helpottaisi työn edistämistä – totta kai haluamme palvella asiakkaiden tarpeita mahdollisimman hyvin.

Jani: Samaa mieltä: missä ja miten asiakkaat haluaisivat tekoälyä käyttää, jotta siitä olisi aitoa lisäarvoa eikä se jäisi pelkäksi rastiksi ruudussa.

Timo: Toivomme asiakkailta myös rohkeutta lähteä pilotteihin mukaan. Heillä on kuitenkin hallussaan sekä hyödynnettävä data että ratkaistava ongelma.