Kinijos DI modelių cenzūrą įmonėms šalina Vakarų startuoliai

Hirundo ir Lazarus keičia atvirų Kinijos DI modelių elgesį, mėgindamos sumažinti cenzūrą ir saugumo rizikas juos diegiančioms Vakarų įmonėms. Lapkričio 2 dienos Rest of World publikacijoje aprašoma, kaip mažesnė tokių modelių kaina susiduria su verslo reikalavimais jų atsakymams.

Pasak Rest of World, DeepSeek, Moonshot, Z.AI, Alibaba ir Tencent modeliai patrauklūs dėl galimybių, kainos bei pritaikymo, tačiau kelia politinio šališkumo klausimų. Leidinys skiria modelių naudojimą nuo jų papildomo keitimo: ne visi klientai mano, kad tokios korekcijos apskritai reikalingos.

Hirundo bendrakūrėjas ir vadovas Ben Luria leidiniui aiškina, kad jo komanda keičia modelių svorius, taikydama siaurai nukreiptas intervencijas konkrečiam elgesiui. Jo aprašomi tikslai apima didesnį atsparumą kibernetinėms atakoms, mažesnį šališkumą ir pavojingų žinių, pavyzdžiui, apie biologinius ginklus, ribojimą.

Rest of World pateiktame Hirundo tyrimo aprašyme Alibaba Qwen modeliai vengė atsakymų apie Kinijos valdžiai politiškai jautrius istorinius įvykius ir temas. Luria sako siekiantis ne priešiškumo Kinijai, o atsakymų, kurie atitiktų Vakarų įmonių naudojimo aplinką bei lūkesčius dėl saugumo.

Bostone veikianti Lazarus pasirinko kitą kelią: pasak Rest of World, ji nustatė draudžiamas temas pagal nutekintas cenzūros gaires ir rengė susijusias užklausas. Google Gemini Flash atsakymai vėliau buvo naudojami Qwen elgesiui keisti, kad modelis galėtų atsakyti ir anksčiau blokuotomis temomis.

Buvęs Lazarus vyriausiasis mokslininkas Eric Hartford leidiniui sakė, kad po pakeitimų modeliai pateikdavo žinių, kurių nebuvo naujai naudotoje mokymo medžiagoje. Pasak jo, tai rodė anksčiau išmoktą, bet atsakymuose slopintą informaciją, o ne vien papildomų faktų įrašymą į sistemą.

Hartford teigimu, Lazarus ReAligned modeliai įdiegti maždaug dvylikoje JAV bendrovių, tačiau dalis reguliuojamų sričių klientų Kinijos modelių vis tiek vengia. Rest of World šį skaičių pateikia kaip įmonės atstovo informaciją, o ne nepriklausomai paskelbtą visų klientų naudojimo auditą.

King’s College London DI tyrėja Oriane Peter leidiniui perspėja, kad universaliai saugaus modelio ar vienodų Vakarų vertybių standartas nėra pasiekiamas tikslas. Ji modelio derinimą apibūdina kaip elgesio nukreipimą konkrečiam kultūriniam kontekstui ir konkrečiai paskirčiai, ne vienos ideologijos savaiminį pranašumą.

Rest of World kalbintas Stanfordo DigiChina projekto redaktorius Graham Webster taip pat atskiria politiškai jautrias programas nuo įprastų verslo užduočių. Jo pateiktame pavyzdyje Taivanui kuriamas produktas turėtų kitokią riziką nei sistema, padedanti kavinei susikurti svetainę, kur cenzūra gali visai netrukdyti.

Toliau šių paslaugų reikšmė priklausys nuo konkrečių klientų poreikių ir patikrinamų modelių elgesio pokyčių, ne vien pažado panaikinti atsisakymus atsakyti. Luria Rest of World pažymi, kad kai kurios cenzūrą šalinančios priemonės palieka ankstesnį šališkumą, todėl vien pakeisto modelio pavadinimo nepakanka.