Diskussionerne tager udgangspunkt i sikkerhedsrisiciene ved AI-systemer, som kan opdage og udnytte sårbarheder i software. Baggrunden er blandt andet virksomheden Anthropics præsentation af modellen Mythos, som siges at kunne identificere sikkerhedsbrister i stor skala mere effektivt end menneskelige eksperter. Også OpenAI oplyses at udvikle teknologi med tilsvarende evner.
Ændret politik
Forslagene, som nu ligger på bordet, omfatter statsligt ledede tests og formelle godkendelsesprocesser. Dette markerer en potentiel ændring i Donald Trumps tidligere politik, som har prioriteret minimal regulering for at fremme teknologisk innovation.
Deler information
Samtidig har det amerikanske handelsministerium ifølge Reuters indgået en aftale med teknologigiganterne Microsoft, Google og XAI
. Virksomhederne har på frivillig basis indvilliget i at dele deres nye AI-modeller for at skabe indsigt.
Sverige
