Tekoäly ja kehittämisen etiikka

Tekoälyä hyödyntävässä kehittämistyössä turvallisuus, tietojen käsittely, läpinäkyvyys ja luotettavuus ovat keskeisimpiä periaatteita. Kun kehittämistyö kohdentuu mielenterveyteen ja alaikäisiin lapsiin ja nuoriin, on sitäkin tärkeämpää, että ratkaisut ovat eettisiä, perusteltuja ja huolellisesti mietittyjä. Tekoälyyn pohjautuvan kehittämisen turvallisuus ja lapsen oikeuksien toteutuminen on haluttu varmistaa nojaamalla kehittämistyössä paitsi UNICEF:in myös Euroopan komission ohjeistuksiin: UNICEF Policy Guidance on AI for Children & Ethics Guidelines for Trustworthy AI by European Commission.

 

Projekti 5/5:n kehittämistyössä seurataan erityisesti UNICEF:in ohjeistusta, joka sisältyy myös Euroopan komission eettisiin linjauksiin. EI VIELÄ VALMIS!

 

Lapsen kehitys ja hyvinvointi:

1. Onko projekti suunnattu tietylle ikä- tai kehitysryhmälle? Jos ei, voiko sitä kohdentaa paremmin kohderyhmälle?
2. Miten projekti edistää lasten oikeuksien toteutumista ja parantaa heidän hyvinvointiaan?
3. Tukeeko projekti YKkestävän kehityksen tavoitteita (SDG)? Mitkä niistä?

 

Tietosuoja ja yksityisyys:

1. Mitä tietoja käytetään?
2. Miten tiedot kerätään, hallitaan ja suojataan?
3. Miten lasten yksityisyys suojataan?
4. Voivatko käyttäjät kieltäytyä tietojensa käytöstä?

 

Oikeudenmukaisuus/syrjimättömyys:

1. Miten ehkäisette ennakkoluuloista johtuvaa syrjintää?
2. Mitä (teknisiä) oikeudenmukaisuuden määritelmiä käytätte ja mikä on niiden perustelu?
3. Miten varmistatte, että kaikki lapset voivat hyötyä projektista?
4. Oletteko harkinneet toimia tietoisuuden lisäämiseksi tästä asiasta?

 

Läpinäkyvyys:

1. Kuinka avoimia voitte olla tästä projektista? Voitteko julkaista metodologianne, metadatan, tietoaineistot, koodin tai vaikutusmittarit?
2. Aiotteko julkaista toimet ja vastaukset tähän muistilistaan avoimesti?

 

Vastuu ja oikeussuojakeinot:

1. Ovatko vastuullisuus- ja oikeussuojamekanismit olemassa?
2. Pystyykö, kannustetaanko ja tuetaanko lapsia ilmaisemaan huolensa ja valituksensa järjestelmästä?

 

Turvallisuus:

1. Mitä mekanismeja lapsiturvallisuuden varmistamiseksi on käytössä?
2. Oletteko testanneet järjestelmää lapsikäyttäjien kanssa?

 

Inkluusio:

1. Kuinka inklusiivinen ja monimuotoinen kehitystiimi on? Onko se monialainen?
2. Voivatko muut, erityisesti lapset, osallistua ja kommentoida projektianne?

 

Selitettävyys:

1. Onko lapsille selvää, että järjestelmä käyttää tekoälyä ja miten se tapahtuu? Jos on, miten tiedätte tämän?
2. Voiko järjestelmä tarjota lapsille ymmärrettäviä selityksiä?

 

Tietoiset käyttäjät:

1. Voitteko antaa lapsille mahdollisuuden olla tietoisia ja kriittisiä digitaalisia käyttäjiä? Miten?

 

Valmius tulevaisuuteen:

1. Voitteko antaa lapsille valmiuksia toimia tulevaisuuden käyttäjinä/kehittäjinä/johtajina tekoälyn alalla? Miten?