Forskere advarer: Snart forstår vi ikke hvordan KI tenker

Noen av verdens største teknologiselskaper (Google, OpenAI, Meta og Anthropic) går sammen for å advare om en alvorlig kommende utfordring: vi kan snart miste oversikten over hvordan kunstig intelligens (KI) tenker og tar avgjørelser.

Hva er problemet?

I dag har forskere en viss mulighet til å «se inn i hodet» på KI-systemer. De bruker noe vi kaller en kjede av tanker. Det betyr at datamaskinen forklarer trinn for trinn hvordan den kom frem til et svar. Men nå sier ekspertene at dette kanskje ikke vil være mulig særlig mye lenger.

Hvorfor er dette alvorlig?

Hvis vi ikke lenge forstår hvordan en KI kommer frem til beslutninger, kan vi ikke vite om det er blitt gjort noe feil, eller hvorfor den velger slik den gjør. Det blir da umulig for oss å se om noe har gått galt eller om vi har gått glipp av noe, hvis det skulle skje noe alvorlig.

Hva sier forskerne?

Ifølge forskerne «tenker» noen nye typer KI på en måte som mennesker ikke forstår. De bruker språk vi ikke klarer å lese, med egne «indre prosesser» som er skjult for oss. Dette kan være tilfelle oftere og oftere uten at det er blitt gjort med vilje – det vil si at det er den naturlige måten for en datamaskin å lære å bli mer effektiv.

Hva bør gjøres?

ekspertene ber om at det lages klare regler for hvordan systemer skal bygges. det må bli lettere for forskere og myndigheter å forstå hva KI gjør. Vi må sørge for at det fortsatt er mulig for oss å kontrollere og følge med på teknologien.