Periaatteet tekoälyn vastuulliselle käytölle korkeakoulujen auditoinneissa

Karvi on laatinut periaatteet tekoälyn vastuulliselle käytölle auditoinneissa. Periaatteet koskevat Karvin asiantuntijoita ja auditointiryhmiä sekä korkeakouluja.

1. Vastuullisuus ja kriittinen tarkastelu

• Tekoäly ei korvaa inhimillistä harkintaa, vertaisarviointia tai päätöksentekoa.
• Tekoälyä voi hyödyntää apuvälineenä, kuten tekstin jäsentämisessä ja kieliasun parantamisessa.
• Korkeakoulun edustajan, auditointiryhmän jäsenen tai Karvin asiantuntijan tulee arvioida tekoälyn tuottamaa sisältöä kriittisesti ja tarkistaa tekoälyn tuottamat tiedot alkuperäisestä aineistosta.
• Itsearvioinnin ja auditointiraportin sisällön ja johtopäätösten tulee olla korkeakoulun edustajan, auditointiryhmän jäsenen tai Karvin asiantuntijan itsensä tekemiä. 

2. Luottamuksellisuus ja tietosuoja

• Tekoälyn käytössä on noudatettava GDPR:ää ja luottamuksellisuutta koskevia säännöksiä.  Karvi ja korkeakoulu huolehtivat omilla vastuualueillaan, että tietosuojaa ja salassapitoa koskevat säädökset huomioidaan.
• Auditointiprosessissa syntyvä aineisto on luottamuksellista. Ainoastaan auditoinnin loppuraportti on julkinen.  Luottamuksellisia aineistoja ei saa ladata avoimiin tekoälyjärjestelmiin. Korkeakoululla on oikeus omiin aineistoihinsa, kuten itsearviointiraporttiin.
• Suljettuihin oman organisaation tekoälyjärjestelmiin, joissa käsiteltävät tiedot salataan eikä niitä käytetä kielimallin opetukseen, saa syöttää ei-luottamuksellisia tietoja. Suljettuihin tekoälypalveluihin kirjautuneena saa syöttää anonymisoituja haastattelu- ja työpaja-aineistoja, joista yksittäistä henkilöä ei ole mahdollista tunnistaa suoraan eikä epäsuorasti.

3. Luotettavuus, johdonmukaisuus ja oikeudenmukaisuus

• Tekoäly ei saa vaarantaa arvioinnin luotettavuutta tai oikeudenmukaisuutta. Karvin auditointien johtopäätökset perustuvat kriteerien johdonmukaiseen soveltamiseen ja auditoinnin yhteydessä kerättyyn aineistoon.
• Korkeakoulu, auditointiryhmän jäsenet ja Karvi vastaavat tuottamiensa ja antamiensa tietojen oikeellisuudesta.
• Korkeakoulujen edustajat, auditointiryhmän jäsenet ja Karvin asiantuntijat viestivät avoimesti tekoälyn käytön tavoista, esimerkiksi mainitsemalla siitä itsearviointi- ja auditointiraportissa.