Toimiiko tekoäly eettisesti?
Erilaiset sivustot ja sovellukset keräävät käyttäjistään dataa, eli tietoja.
Toukokuussa 2018 voimaan astuneen tietosuoja-asetus GDPR:n mukaan Euroopassa yritysten ja muiden organisaatioiden pitää pyytää käyttäjältä lupa, kun ne keräävät dataa ja profiloivat ihmisiä.
Tekoälyn eettisyys riippuu sen käyttämästä datasta
Ennen kuin eri analytiikan välineillä, joista tekoäly on yksi, voidaan jalostaa dataa, sitä pitää ensin kerätä, organisoida, muokata ja tallentaa. Kaikkiin näihin vaiheisiin liittyy paljon eettisiä kysymyksiä.
Kun jonkin internetissä toimivan palvelun käyttäjä kirjautuu sisälle ohjelmaan, hänen täytyy usein luovuttaa itsestään tietoja.
Joissain palveluissa käyttäjän pitää antaa lupa palvelun päästä käsiksi häntä koskeviin perustietoihin kuten ikään, sukupuoleen, asuinpaikkaan, tykkäyksen kohteisiin yms.
Jotta tiedonkeruu olisi eettistä, eli oikein tehtyä, niin luvan myöntämisen yhteydessä luvan antajalle pitää jäädä selkeä kuva, mitä dataa kerätään ja miten sitä käytetään jatkossa.
Datan keräämisen ja hyödyntämiseen liittyvät ongelmat
Ongelmista ensimmäinen liittyy siihen, miten lupa datan keräämiseen pyydetään.
1. Käyttöehtoja ei ehkä ymmärretä
Vain harva käyttäjä ymmärtää mitä oikeastaan hyväksyy hyväksyessään palvelun käyttöehdot. Käyttöehtoja tekevien lakimiesten perisynti kun on, että heidän laatimiaan asiakirjoja ymmärtävät ehkä vain toiset lakimiehet.
2. Palvelun käyttöehdot ovat liian monimutkaiset
Myös ajankäytöllisesti kaikkien palveluiden käyttöehtojen lukeminen on palveluiden käyttäjälle käytännössä mahdotonta. Tutkimusyhtiö Carnegie Mellonin mukaan keskiverto amerikkalaisella menisi 76 työpäivää vuodessa, jos hän lukisi kaikkien käyttämiensä palveluiden käyttöehdot.
Käyttöehtojen ymmärrettävyyteen pitäisi siis kiinnittää erityisen paljon huomiota eikä lupaa pitäisi pyytää kuin sellaiseen tietoon, jota palvelun toteutus välttämättä vaatii.
3. Tietääkö asiakas minne hänen tietonsa päätyvät?
Käyttäjää pitäisi informoida myös siitä, että kyseisestä datasta voidaan tehdä palveluntuottajan omia tulkintoja, luokituksia ja tietoja voidaan yhdistää muihin asioihin ja ihmisiin. Näitä johdettuja tietoja voidaan myös käyttää kaupallisiin tarkoituksiin.
Joidenkin palveluiden kohdalla käyttäjällä ei välttämättä edes ole muuta vaihtoehtoa kuin hyväksyä käyttöehdot saadakseen esimerkiksi työn tai opiskelun kannalta välttämättömät palvelut käyttöönsä.
Kuinka pitkään tietoja saa käyttää?
Toinen kysymys datan keräämiseen liittyen on, kuinka pitkään yrityksellä säilyy oikeus kerätä tietoa käyttäjästä hänen kerran hyväksyttyään käyttöehdot?
Ei ole kohtuullista olettaa, että käyttäjä ymmärtää, edes luettuaan palvelun käyttöehdot, suostuvansa jopa vuosia kestävään tiedonkeruuseen.
Kuinka paljon tietoja saa käyttää?
Kolmas datan keräämiseen liittyvä kysymys on kerättävän datan määrä. Datan kerääminen ihmisten kaikesta toiminnasta vähentää ihmisten mahdollisuutta anonymiteettiin, joka myös suojaa kansalaisia. Tulevaisuudessa voidaan päätyä jopa tilanteeseen, jossa ihmiset alkavat rajoittaa tekemisiään siksi, että eivät halua heistä kerättävän tietoa. Tämä voisi johtaa yksilönvapauksien heikkenemiseen ja tästä syystä sillä voisi olla suuria vaikutuksia yhteiskuntaamme.
Mikä on luotettavuus?
Neljäs, etenkin yhteiskunnallisessa päätöksenteossa huomioon otettava kysymys liittyy tiedonkeruun otantaan. Miten varmistetaan, että analyyseissa käytettävä data ei ole jo valmiiksi vääristynyttä?
Datankeruun ulkopuolelle saattavat jäädä sellaiset ryhmät, kuten yhteiskunnan huono-osaisimmat, jotka käyttävät digitaalisia palveluita keskivertoa vähemmän. Ellei asiaan kiinnitetä huomiota, datan analysointiin perustuvat yhteiskunnalliset päätökset saattavatkin heikentää datankeruun ulkopuolelle jäävien yksilöiden asemaa entisestään.