Etiikka ja tietoturva
Sekasin-chatin keskustelut käydään turvallisesti salatulla yhteydellä Ninchatin chat-alustalla. Samaa alustaa käyttävät monet lääkäriasemat esimerkiksi videovastaanotoilla, joilla tietoturva on keskeisen tärkeässä roolissa. Chat on anonyymi molemmin puolin.
Nuorelta ei kysytä mitään henkilötietoja, vaan ainoastaan taustakysymykset (ikä, sukupuoli, mikä fiilis), joiden tarkoituksena on auttaa päivystäjää vastaamaan nuorelle mahdollisimman hyvin. Kaikki chatissa kirjoitetut viestit poistetaan palvelimeltamme säännöllisesti 12 kk välein. Päivystäjä näkee nuoresta IP-osoitteen, mutta ei yhteystietoja, sijaintia tms. Mikäli kyseessä on akuutti hätätilanne, lastensuojelullinen huoli tai rikos, on Sekasin-chatin työntekijöillä velvollisuus olla keskustelutietojen pohjalta yhteydessä hätäkeskukseen, lastensuojeluviranomaisiin tai poliisiin. Ilmoitusvelvollisuudesta kerrotaan nuorelle ja keskustelussa toimitaan aina avoimesti ja pyritään yhteistyöhön. Ensisijaisesti toimitaan nuoren itse antamien tietojen varassa, mutta joissain akuuteissa tilanteissa apua lähetetään pelkän IP-osoitteen perusteella.
Sekasin-chatin keskusteluista tutkimus- ja kehittämiskäyttöön päätyvät ainoastaan ne keskustelut, joihin sekä nuori että päivystäjä on antanut luvan. Ennen datan luovuttamista keskusteluista poistetaan mahdolliset tunnistetiedot ja ne erotetaan IP-osoitteista. Kumpaakaan keskustelun osapuolta ei voida tunnistaa tai jäljittää. Sekä THL:n Puhti-hankkeessa että Projekti 5/5:ssä Sekasin-chatista kertyvää aineistoa käytetään hyödyntäen koneoppimisen menetelmiä. Keskusteluja ei julkaista minkään kehittämis- tai tutkimustyön vaiheessa. Tutkimuskäyttöön luovutettu aineisto tuhotaan tutkimustyön päätyttyä.
Tekoäly ja kehittämisen etiikka
Tekoälyä hyödyntävässä kehittämistyössä turvallisuus, tietojen käsittely, läpinäkyvyys ja luotettavuus ovat keskeisimpiä periaatteita. Kun kehittämistyö kohdentuu mielenterveyteen ja alaikäisiin lapsiin ja nuoriin, on sitäkin tärkeämpää, että ratkaisut ovat eettisiä, perusteltuja ja huolellisesti mietittyjä. Tekoälyyn pohjautuvan kehittämisen turvallisuus ja lapsen oikeuksien toteutuminen on haluttu varmistaa nojaamalla kehittämistyössä paitsi UNICEF:in myös Euroopan komission ohjeistuksiin: UNICEF Policy Guidance on AI for Children & Ethics Guidelines for Trustworthy AI by European Commission.
Projekti 5/5:n kehittämistyössä seurataan erityisesti UNICEF:in ohjeistusta, joka sisältyy myös Euroopan komission eettisiin linjauksiin.
Kehittämistyössä yhdistetään generatiivista tekoälyä, valmiiksi rakennettuja polkuja ja tietoa erilaisista mielenterveyden ja hyvinvoinnin teemoista. Tavoitteena ei ole korvata ihmiskontakteja, vaan laajentaa avun muotoja ja tarjota tukea myös silloin, kun ihmiskontakti ei ole saatavilla, kuten jonossa odottaessa ja chatin ollessa suljettu. Keskeistä on, että nuori voi olla aina varma siitä, onko hän tekemisissä ihmisen vai koneen kanssa – ja että hänellä on aina vapaus valita.