Det bør en ejer kræve af et AI-system
Fem spørgsmål, du skal stille, før AI kommer i nærheden af din virksomheds data eller beslutninger.
De fleste AI-projekter bliver bedømt på demoen, og demoen er den lette del. Den rigtige prøve er en almindelig arbejdsdag, hvor systemet læser et dokument, det aldrig har set før, og ingen tjekker efter.
Spørg først, hvor dine data ender. Ikke generelt, men for netop dette system: hvilken udbyder, hvilken region, hvilken konto, og om noget af det, du sender, kan træne en andens model.
Spørg dernæst, hvem der godkender. Et AI-system bør foreslå, og et menneske bør beslutte, i hvert fald overalt, hvor der er penge, persondata eller en kunde involveret. Godkendelsen bør være ét tydeligt trin, ikke en vane, folk springer over, når de har travlt.
Spørg for det tredje, hvad der bliver kontrolleret. En model kan læse et beløb eller en dato forkert og lyde helt sikker. Regler, der efterprøver dens arbejde og siger klart, hvad der er galt, fanger de fejl.
Spørg for det fjerde, hvad der bliver registreret. Når noget går galt, skal du kunne se, hvad systemet læste, hvad det foreslog, hvem der godkendte det, og hvilken version af modellen der var i brug.
Spørg til sidst, hvad der sker, når modellen skifter. Det gør den. Byg systemet, så du kan skifte udbyder uden at bygge det om.
Intet af dette gør AI langsommere. Det gør det til noget, du kan stole på.