Ny rolle i to organer

Paul Christiano blir medlem av styret i OpenAI Foundation, ifølge OpenAIs egne nyhetssider. Samtidig går han inn i stiftelsens sikkerhets- og trygghetsutvalg, der han skal bidra med sin erfaring fra AI-justering, sikkerhet og standardarbeid.

AI-justering handler om å sikre at kunstig intelligens faktisk følger menneskers intensjoner og verdier, også når systemene blir stadig kraftigere. Det er nettopp dette feltet Christiano har bygget karrieren sin rundt.

Christiano jobbet i OpenAI fra 2017 til 2021, der han ledet teamet som arbeidet med justering av språkmodeller. Etterpå grunnla han Alignment Research Center, en ideell organisasjon som forsker på hvordan avanserte AI-systemer kan holdes trygge og i tråd med menneskelige interesser, ifølge Wikipedia.

Bakgrunn fra amerikanske myndigheter

I dag er Christiano seniorrådgiver ved Center for AI Standards and Innovation, en enhet under det amerikanske standardiseringsbyrået NIST. Der har han arbeidet med å vurdere de mest avanserte AI-modellene, blant annet egenskaper med betydning for nasjonal sikkerhet, og med å utvikle metoder for å redusere sikkerhetsrisiko, ifølge OpenAIs nyhetssider.

Denne bakgrunnen fra myndighetsarbeid gjør ham til et av de mer erfarne navnene innen praktisk regulering og evaluering av grensesprengende AI-modeller som nå knyttes til OpenAIs styringsstruktur.