Dirbtinio intelekto sistemas kuriančios ar diegiančios organizacijos žino, kad dirbtinio intelekto naudojimas susijęs su įvairia rizika, įskaitant teisines ir reguliavimo pasekmes, galimą žalą reputacijai ir etinius klausimus, tokius kaip šališkumas ir skaidrumo trūkumas. Jie taip pat žino, kad taikydami gerą valdymą jie gali sumažinti riziką ir užtikrinti, kad dirbtinio intelekto sistemos būtų kuriamos ir naudojamos atsakingai. Siekiama užtikrinti, kad sistemos būtų sąžiningos, skaidrios, atskaitingos ir naudingos visuomenei.
Net organizacijos, kurios siekia atsakingo dirbtinio intelekto, stengiasi įvertinti, ar jos pasiekia savo tikslus. Štai kodėl IEEE ir JAV AI politikos komitetas paskelbė „Lanksčios brandos AI valdymo modelį, pagrįstą NIST AI rizikos valdymo sistema“, kuris padeda organizacijoms įvertinti ir sekti savo pažangą. Brandos modelis pagrįstas JAV Nacionalinio standartų ir technologijų instituto AI rizikos valdymo sistemoje (RMF) ir kituose NIST dokumentuose išdėstytomis gairėmis.
Remiantis NIST darbu
NIST RMF, gerai gerbiamas AI valdymo dokumentas, aprašo geriausią DI rizikos valdymo praktiką. Tačiau sistemoje nepateikiama konkrečių gairių, kaip organizacijos galėtų tobulėti siekdamos joje aprašytos geriausios praktikos, taip pat nepateikiama rekomendacijų, kaip organizacijos galėtų įvertinti, kiek jos laikosi gairių. Todėl organizacijos gali susidurti su klausimais, kaip įgyvendinti sistemą. Be to, išorinėms suinteresuotosioms šalims, įskaitant investuotojus ir vartotojus, gali būti sudėtinga naudoti šį dokumentą AI teikėjo praktikai įvertinti.
Naujasis IEEE-USA brandos modelis papildo RMF, leisdamas organizacijoms nustatyti savo atsakingo dirbtinio intelekto valdymo etapą, stebėti pažangą ir sudaryti tobulinimo planą. Brandos modeliai yra įrankiai, skirti įvertinti organizacijos įsitraukimo laipsnį arba atitiktį techniniams standartams ir jos gebėjimui nuolat tobulėti tam tikroje disciplinoje. Organizacijos modelius naudojo nuo 1980 m., kad padėtų joms įvertinti ir plėtoti sudėtingus gebėjimus.
Sistemos veikla grindžiama keturiais RMF ramsčiais, kurie leidžia dialogui, supratimui ir veiklai valdyti AI riziką ir atsakomybę kuriant patikimas AI sistemas. Stulpai yra šie:
- Žemėlapis: Kontekstas atpažįstamas ir su kontekstu susijusios rizikos nustatomos.
- Priemonė: identifikuotos rizikos įvertinamos, analizuojamos arba sekamos.
- Valdykite: Rizikai teikiama pirmenybė ir imamasi veiksmų, atsižvelgiant į numatomą poveikį.
- Valdoma: yra ugdoma ir egzistuoja rizikos valdymo kultūra.
Lankstus klausimynas
IEEE-USA brandos modelio pagrindas yra lankstus klausimynas, pagrįstas RMF. Anketoje yra teiginių sąrašas, kurių kiekvienas apima vieną ar daugiau rekomenduojamų RMF veiklų. Pavyzdžiui, vienas teiginys yra toks: „Mes vertiname ir dokumentuojame šališkumo ir sąžiningumo problemas, kurias sukelia mūsų AI sistemos“. Teiginiuose pagrindinis dėmesys skiriamas konkretiems, patikrinamiems veiksmams, kuriuos įmonės gali atlikti, vengdamos bendrų ir abstrakčių teiginių, tokių kaip „Mūsų AI sistemos yra sąžiningos“.
Teiginiai suskirstyti į temas, kurios atitinka RFM ramsčius. Temos, savo ruožtu, yra suskirstytos į AI kūrimo gyvavimo ciklo etapus, kaip aprašyta RMF: planavimas ir projektavimas, duomenų rinkimas ir modelio kūrimas bei diegimas. Vertintojas, kuris vertina AI sistemą tam tikrame etape, gali lengvai nagrinėti tik atitinkamas temas.
Balų skaičiavimo gairės
Brandos modelis apima šias balų nustatymo gaires, kurios atspindi RMF nustatytus idealus:
- Tvirtumas, apimantis nuo ad hoc iki sistemingo veiklos įgyvendinimo.
- Aprėptis,pradedant nė viena veikla, baigiant visomis veiklomis.
- Įvesties įvairovė, pradedant nuoveikla grindžiama vienos komandos įnašais ir įvairiais vidaus ir išorės suinteresuotųjų šalių indėliu.
Vertintojai gali pasirinkti vertinti atskirus teiginius arba didesnes temas, taip kontroliuodami vertinimo detalumo lygį. Be to, vertintojai turi pateikti dokumentinius įrodymus, paaiškinančius jiems priskirtus balus. Įrodymai gali būti įmonės vidaus dokumentai, tokie kaip procedūrų vadovai, taip pat metinės ataskaitos, naujienų straipsniai ir kita išorinė medžiaga.
Surinkę atskirų teiginių ar temų balus, vertintojai apibendrina rezultatus, kad gautų bendrą balą. Brandos modelis leidžia lanksčiai, atsižvelgiant į vertintojo interesus. Pavyzdžiui, balai gali būti apibendrinti pagal NIST ramsčius, sukuriant „žemėlapio“, „matavimo“, „valdymo“ ir „valdymo“ funkcijų balus.
Kai naudojamas viduje, brandos modelis gali padėti organizacijoms nustatyti, kokia yra atsakinga dirbtinio intelekto pozicija, ir nustatyti veiksmus, kaip pagerinti jų valdymą.
Sujungimas gali atskleisti sistemingus organizacijos požiūrio į AI atsakomybę trūkumus. Jei įmonės balas yra aukštas už „valdomą“ veiklą, bet žemas, pavyzdžiui, kitų ramsčių, ji gali sukurti patikimą politiką, kuri nėra įgyvendinama.
Kitas balų nustatymo variantas yra apibendrinti skaičius pagal kai kuriuos AI atsakomybės aspektus, pabrėžtus RMF: našumas, sąžiningumas, privatumas, ekologija, skaidrumas, saugumas, paaiškinamumas, sauga ir trečioji šalis (intelektinė nuosavybė ir autorių teisės). Šis agregavimo metodas gali padėti nustatyti, ar organizacijos nepaiso tam tikrų problemų. Pavyzdžiui, kai kurios organizacijos gali pasigirti savo AI atsakomybe, pagrįstu jų veikla keliose rizikos srityse, nepaisant kitų kategorijų.
Kelias į geresnių sprendimų priėmimą
Kai naudojamas viduje, brandos modelis gali padėti organizacijoms nustatyti, kokia yra atsakinga dirbtinio intelekto pozicija, ir nustatyti veiksmus, kaip pagerinti jų valdymą. Modelis leidžia įmonėms užsibrėžti tikslus ir stebėti savo pažangą atliekant pakartotinius vertinimus. Investuotojai, pirkėjai, vartotojai ir kitos išorės suinteresuotosios šalys gali naudoti modelį, kad informuotų apie sprendimus apie įmonę ir jos produktus.
Kai naudoja vidinės ar išorinės suinteresuotosios šalys, naujasis IEEE-USA brandos modelis gali papildyti NIST AI RMF ir padėti stebėti organizacijos pažangą atsakingo valdymo kelyje.