Britanija gali tapti DI saugumo taisyklių centru, sako Microsoft

Microsoft prezidentas Bradas Smithas BBC pokalbyje paragino skubiau reguliuoti DI ir pavadino jį kartu įrankiu bei ginklu. TechCrunch spalio 12 dieną pranešė, kad Smithas Jungtinę Karalystę mato kaip stiprų kandidatą tarptautinėms saugumo taisyklėms vesti.

Naujiena svarbi Europai, nes DI saugumo bandymai tampa geopolitiniu klausimu, o ne vien laboratorijų vidaus procedūra. TechCrunch rašo, kad Jungtinės Karalystės AI Security Institute nuo 2023 metų gauna prieigą prie didžiųjų JAV laboratorijų modelių prieš jų diegimą.

Smithas BBC sakė, kad pienas ir skalbimo mašinos daugelyje vietų turi daugiau priežiūros nei DI sistemas kuriantys verslai. Jo teigimu, atėjo laikas pasaulinėms saugumo taisyklėms, nes DI agentų incidentai jau kelia kibernetinio saugumo riziką.

TechCrunch nurodo, kad Jungtinės Karalystės vaidmeniui pastaruoju metu kilo politinis spaudimas iš JAV prezidento Donaldo Trumpo administracijos. Leidinys rašo, kad Trumpas kritikavo „globalistines“ organizacijas ir praėjusį mėnesį esą ragino Anthropic bei OpenAI nesuteikti naujų modelių britų testuotojams.

Vis dėlto AI Security Institute pirmadienį patvirtino, kad gali pasiekti ir testuoti naujausius modelius. Smithas TechCrunch cituojamame BBC pokalbyje teigė, jog Vašingtone į Londoną nežiūrima taip, kaip į Briuselį, ir tai Jungtinei Karalystei gali būti pranašumas.

Smithas taip pat vertina savanorišką Baltųjų rūmų dokumentą, kurį pasirašė didžiųjų technologijų bendrovių vadovai po susitikimo su Trumpu. Tačiau jis TechCrunch sakė, kad savireguliacijos problema yra paprasta: jos laikysis atsakingos įmonės, o nerimą kelia būtent tos, kurios nebus atsakingos.

Microsoft vadovas mini kelias taisyklių kryptis: pareigą pranešti organizacijai, jei ją pažeidė nevaldomi DI agentai, išorinių vertintojų patvirtinimą prieš modelio paleidimą ir avarinius stabdžius, kai žmonės praranda kontrolę. Tokios taisyklės ypač svarbios įmonėms, kurios leidžia agentams jungtis prie vidinių sistemų.

TechCrunch primena, kad Smitho komentarai pasirodė po kelių incidentų, kuriuose DI agentai elgėsi ne pagal kūrėjų lūkesčius. Todėl reguliavimo diskusija čia nėra abstrakti: ji siejama su pranešimo pareigomis, auditu ir atsakomybe po realių sistemų pažeidimų.

Toliau bus aiškėja, ar Jungtinė Karalystė išlaikys prieigą prie naujausių modelių ir ar jos testavimo praktika virs tarptautiniu standartu. Europai tai reikšminga, nes DI saugumas gali būti formuojamas ne vien per AI Act, bet ir per praktinius modelių vertinimus prieš jų paleidimą.