Maailman ensimmäiset tekoälyä koskevat säännökset tulevat EU:sta
Euroopan parlamentti hyväksyi maaliskuussa 2024 kaikkien aikojen ensimmäisen tekoälyä koskevan säädöksen, AI Actin.
Euroopan parlamentti hyväksyi maaliskuussa 2024 kaikkien aikojen ensimmäisen tekoälyä koskevan säädöksen, AI Actin. EU:n neuvoston on vielä hyväksyttävä se.
AI Actissa on keskitytty rajoittamaan tekoälyyn liittyviä riskejä, erityisesti erittäin tehokkaiden ja vaikuttavien tekoälyjärjestelmien riskejä. Sillä pyritäänkin takaamaan ihmisten ja yritysten turvallisuus ja perusoikeudet tekoälyyn liittyen.
Säädöksen tavoitteena on tarjota tekoälyn kehittäjille ja käyttöönottajille selkeät vaatimukset ja velvoitteet koskien tekoälyn tiettyjä käyttötapoja. Sillä pyritään myös samalla vähentämään yritysten, erityisesti pk-yritysten, hallinnollista ja taloudellista rasitusta.
Säädöksellä pyritään lisäksi vahvistamaan tekoälyn käyttöönottoa, investointeja ja innovaatioita kaikkialla EU:ssa ja myös sen ulkopuolella. Säädöstä ei sovelleta muun muassa tekoälyjärjestelmiin, joita käytetään ainoastaan tutkimus- ja innovointitarkoituksiin, sotilaallisiin tai puolustustarkoituksiin eikä henkilöihin, jotka käyttävät tekoälyjärjestelmiä pelkästään henkilökohtaisessa, muussa kuin ammattitoiminnassa.
Suuririskisiä tekoälyjärjestelmiä säännellään tiukemmin
Tekoälyjärjestelmiltä tullaan vaatimaan avoimuutta, sillä yleiskäyttöisten tekoälyjärjestelmien ja niiden perustana olevien mallien on täytettävä tietyt avoimuusvaatimukset ja noudatettava EU:n tekijänoikeuslainsäädäntöä, kun malleja koulutetaan. Keinotekoisesti tuotettu tai manipuloitu kuva-, ääni- tai videosisältö (”syväväärennös”) on esimerkiksi merkittävä selkeästi sellaiseksi.
Jos yleiskäyttöinen tekoälyjärjestelmämalli on tehokkaampi ja voi aiheuttaa järjestelmäriskejä, kohdistuu siihen lisävaatimuksia, kuten mallien arviointia, järjestelmäriskien arviointia ja lieventämistä sekä raportointia vaaratilanteista.
Suuririskisiä tekoälyjärjestelmiä tulevat koskemaan myös erityiset velvoitteet. Tekoälyn käyttöön liittyy suuria riskejä, kun kyseessä ovat kriittinen infrastruktuuri, koulutus, työllisyys, keskeiset yksityiset ja julkiset palvelut (muun muassa terveydenhuolto ja pankkitoiminta), tietyt lainvalvonta-, maahanmuutto- ja rajavalvontajärjestelmät sekä oikeudelliset ja demokraattiset prosessit.
Järjestelmillä onkin arvioitava ja vähennettävä riskejä, ylläpidettävä käyttölokeja ja varmistettava ihmisen suorittama valvonta. Järjestelmien tulee myös olla läpinäkyviä ja täsmällisiä.
Kansalaisilla tulee olemaan oikeus tehdä tekoälyjärjestelmistä valituksia ja saada selvityksiä suuririskisiin tekoälyjärjestelmiin perustuvista päätöksistä, jotka vaikuttavat heidän oikeuksiinsa.
Säädöksessä tulee olemaan myös lista kielletyistä tekoälyyn liittyvistä käytännöistä. Kiellettyjä tulevat olemaan esimerkiksi tekoälysovellukset, joiden voidaan katsoa uhkaavan kansalaisten oikeuksia, kuten arkaluonteisiin ominaisuuksiin perustuvat biometriset luokittelujärjestelmät ja kasvokuvien kohdentamaton haravointi internetistä tai valvontakamerakuvista kasvojentunnistustietokantojen luomiseksi.
Kiellettyjä tulevat olemaan lisäksi esimerkiksi sosiaalinen pisteytys, ennakoiva poliisitoiminta (kun se perustuu yksinomaan henkilön profilointiin tai heidän ominaisuuksiensa arviointiin) ja tekoäly, joka manipuloi ihmisen käyttäytymistä tai hyödyntää ihmisten haavoittuvuuksia.
Lainvalvonnassa biometristen tunnistusjärjestelmien käyttö tulee olemaan pääsääntöisesti kiellettyä. Niitä voidaan käyttää kuitenkin esimerkiksi, jos noudatetaan tiukkoja suojatoimia, kuten rajoitetaan niiden käyttöä ajallisesti ja maantieteellisesti sekä edellytetään ennakolta erityistä oikeudellista tai hallinnollista lupaa. Kyseisiä käyttötarkoituksia voivat olla muun muassa kadonneen henkilön kohdennettu etsintä tai terrori-iskun estäminen.
Säädöksessä tulee olemaan oma lukunsa innovoinnin tukemista koskien. Sääntelyllä tuetaankin myös innovaatioita ja pk-yrityksiä, sillä kansallisella tasolla on perustettava sääntelyn testiympäristöjä ja suoritettava testausta todellisissa olosuhteissa. Nämä on lisäksi saatettava pk-yritysten ja uusien yritysten saataville, jotta innovatiivista tekoälyä voidaan kehittää ja kouluttaa.
Valvonta ja voimaantulo
AI Actin täytäntöönpanoa jäsenvaltioiden kanssa valvoo helmikuussa 2024 perustettu Euroopan tekoälytoimisto, jonka tavoitteena on luoda ympäristö, jossa tekoälyteknologiat kunnioittavat ihmisarvoa, oikeuksia ja luottamusta.
Tekoälytoimisto edistää myös yhteistyötä, innovaatioita ja tekoälytutkimusta eri sidosryhmien kesken. Se käy lisäksi kansainvälistä vuoropuhelua tekoälykysymyksissä. AI Actin rikkomisesta voidaan määrätä säädöksessä määritelty sakko.
Kun AI Act tulee voimaan, sovelletaan sitä kahden vuoden kuluttua sen voimaantulosta. Poikkeuksen tähän muodostavat kiellettyjä käytäntöjä koskevat kiellot (sovelletaan kuuden kuukauden kuluttua voimaantulosta), käytännesäännöt (sovelletaan yhdeksän kuukauden kuluttua voimaantulosta), yleiskäyttöisiä tekoälyjärjestelmiä ja hallintoa koskevat säännöt (sovelletaan vuoden kuluttua voimaantulosta) ja suuririskisiä järjestelmiä koskevat velvoitteet (sovelletaan kolmen vuoden kuluttua voimaantulosta).
Lue lisää Turvallisuus & Riskienhallinta -lehden numerosta 3/2024.
Pysy ajan tasalla turvallisuudesta ja riskienhallinnasta.