Slik virker en KI

Slik er en KI bygget opp av ulike lag og kjøreregler

Når du samtaler med en KI, skjer det via et skjermvindu som kalles chatbot eller snakkerobot. Siden de fleste kaller det KI, så bruker Barnevakten som regel ordet KI om snakkeroboter. Men KI kan være mye mer enn snakkeroboter.

Grunnmuren

• KI-en har lest og trent seg opp på «halve internett». På nettet står det mye bra, men også mye som er feil eller som uttrykker dårlige verdier. På et vis gjenspeiler KI-en hva den har lest, og kan i teorien opptre som en rasist.
• KI-en husker ikke direkte tekstene som den har lest, den klarer likevel statistisk å beregne svar ut fra læringen. Teknologien er så bra at KI-er klarer å gjengi for eksempel nasjonalsanger vers for vers, eller nyhetsartikler. På et vis kan man si at KI-en sitter på «kopier» av hva den har lest, men det er ikke kopier slik man tradisjonelt bruker ordet.

Oppdragelsen

• KI-en har fått læringshjelp av mennesker som har vurdert og rangert svarene som den har kommet med i en testperiode. Men mennesker har ikke sjanse til lære en KI om hvordan forholde seg til absolutt alle mulige temaer, så det kan dessverre skje glipper.

Rammen

• KI-en har fått kjøreregler fra mennesker, for eksempel at den ikke skal avsløre hvordan man lager bomber, eller at den ikke skal være rasist. Eller at den skal svare forsiktig ved religiøse spørsmål, for eksempel etter hvor brukeren befinner seg geografisk.
• Enkelte KI-er kan være utstyrt med tenåringsfilter som skal stanse samtaler om selvskading, flørt, uteliv og rus. Spør gjerne skolen om skole-KI-en har et elevfilter, og forsøk også å finne ut kvaliteten på filteret.
• Noen, for eksempel læreren, kan ha laget noen ekstra kjøreregler (systemprompt) som styrer hvordan en bestemt KI skal svare. For eksempel at den skal svare med et enkelt språk. Eller oppføre seg som en bestemt historisk person. Eller læreren kan ha forsøkt å gjøre KI-en tryggere, noe som ikke er så lett.

Dine data

• Brukeren, for eksempel eleven, kan gi KI-en egne tekstfiler eller nettsider å svare ut fra. Da blir selsvagt svaret fra KI-en et annet enn om den svarer ut fra alt den har lest på nettet.
• Noen KI-er husker tidligere samtaler du har hatt med den og svarer delvis ut fra det.

Spørsmålet

• Brukeren, for eksempel eleven, stiller spørsmål på sin unike måte. Hvordan man formulerer et spørsmål (prompt), påvirker svaret.

Svaret fra KI-en

• Alle ordene som KI-en har lest tidligere på nettet, er blitt hakket opp i biter som er gjort om til ulike tall. Disse tallene blir brukt til å regne ut hvilke ord som mest sannsynlig hører sammen i ulike sammenhenger. Den vet for eksempel at hvis ordet fisk står et sted, så er det mer sannsynlig at ordet hav skal brukes i sammenhengen enn at ordet sykkel skal med. KI-en består av mange lag med slike statistiske beregninger.
• KI-en fungerer som en avansert ord-gjetter og gir deg som regel et imponerende svar som ligner hvordan mennesker utrykker seg, for den er jo lært opp på språket til mennesker.
• Du får ikke nøaktig det samme svaret hver gang, selv om spørsmålet er helt likt, for den er programmert til å variere.
• Noen ganger kommer den også med hallusinasjoner, altså faktafeil.

(Grafikk: Shutterstock / T.Vyc / Barnevakten.)