AI skal kunne forklares – og man skal være på vagt
I takt med at kunstig intelligens kan lære at se sammenhænge mellem data, vokser behovet for, at menneske bag sørger for transparens og dokumentation, så man kan forklare teknologien. ”Vi holder øje med udviklingen”, understregede IFS’ Christian Pedersen i Boston.
Christian Pedersen kom rundt om flere aspekter af IFS' innovationsarbejde i løbet af sit oplæg på hovedscenen i Boston. Foto: Anders Kampmann.
Kunstig intelligens vinder frem flere og flere steder i supply chain-sektoren – og er af samme årsag også et hyppigt optrædende emne her på SCM.dk – hvilket selvsagt medfører en lang række muligheder for optimering og smarte løsninger, men også nogle udfordringer på forskellige parametre.
Begge dele er noget, man er aldeles opmærksom på i IFS, fremhævede virksomhedens Chief Product Officer, danske Christian Pedersen, da SCM.dk mødte ham i Boston i forbindelse med sidste uges IFS World Conference 2019.
Som Bob de Caux, der er VP for AI og robotautomatisering i selskabet, også har været inde på, så ser man fra IFS’ side et behov for at gøre kunstig intelligens ’forklarlig’. Det skyldes ikke kun, at teknologien er kompleks, men også at den bør være gennemskuelig.
”Explainable AI handler ikke bare om, at det er indviklet at forholde sig, hvad denne her teknologi kan – og ikke kan – og at den derfor kræver noget forklaring på forretningsniveau, men også at der skal være et audit trail, altså noget sporbarhed og transparens, så de beslutninger og valg, et AI-program træffer, er synlige og kan dokumenteres”, forklarede Christian Pedersen.
Grundlæggende peger han på, at fundamentet for kunstig intelligens, ligesom det er tilfældet med IoT, er alle former for data, og at resultaterne fra de algoritmer, der ligger bag teknologierne, derfor som udgangspunkt aldrig bliver bedre, end de informationer, de bliver fodret med.
”Det samme gælder jo sådan set os mennesker; alle de indtryk og observationer, vi gør os, tager vi ind og bruger aktivt til at afgøre, hvordan vi handler. Det tager tid og erfaring at lære at behandle den viden, og se de forskellige sammenhænge. Det er det samme for maskinerne”, som han sagde.
Vi holder øje, ingen tvivl om det
Her når vi til det punkt, hvor han mener der er brug for ekstra opmærksomhed, ikke bare fra den enkelte virksomhed, men også fra industrien og myndighederne som helhed.
”At få al data med i en ligning er principielt umuligt, og derfor mener jeg, at man skal være meget på vagt omkring kunstig intelligens og det at lade maskinerne lære selv. Menneskelige træk som selvbevidsthed og intuition er vi langt fra endnu, men vi holder øje, ingen tvivl om det”, sagde han.
Om Christian Pedersen
- Et års tid som Chief Product Officer for IFS. Inden da godt 1½ år i en tilsvarende stilling hos konkurrenten SAP, og før det 14 år i Microsoft, bl.a. med ansvar for ERP-udvikling, ligesom han har haft ledende roller i Navision.
- Bosat i Seattle, USA. Passion for motorsport, fodbold og sejlads.
Det afspejler sig også, påpegede Christian Pedersen, i den tilgang, IFS har til sit fortsatte virke og fremtidige ambitioner på vækstfronten, der bl.a. omfatter en stigning i omsætningen fra de omkring 700 mio. dollars, man ramte i 2018, til $1 mia. i 2021, vel at mærke uden opkøb medregnet.
Med Christian Pedersens ord er omsætningen (revenue) et ”udtryk for, hvor godt man gør det for sine kunder”. Her er målsætningen at blive ved med at være bedst, og det omfatter også at tage højde for alle de retninger, udviklingen kan bevæge sige.
Læs også: Vi skal omfavne robotterne
”Som udfordrer i denne her branche skal man have en passion for både sine klienter, partnere og teknologien, og det indebærer også et ansvar for at være opmærksom på, hvad der kan ske på de områder, man arbejder med. Og vi kan altid blive bedre”, sluttede han.
