250 tūkstančių pokalbių tyrimas parodė Claude politines užklausas

Anthropic išanalizavo 250 tūkstančių JAV Claude pokalbių ir paskelbė naujas priemones informacijai apie artėjančius rinkimus pateikti. Spalio 14 dienos pranešime bendrovė nurodo, kad 5,75 procento pokalbių lietė politiką, viešąją politiką arba socialinius klausimus. Tyrimas skirtas suprasti realias užklausas ir nustatyti, kur reikalingos papildomos apsaugos nuo piktnaudžiavimo.

Pasak laboratorijos, analizė apėmė atsitiktinę vartotojiškos Claude.ai programėlės pokalbių imtį nuo rugsėjo 21 iki 27 dienos. Pokalbiai buvo klasifikuojami taikant privatumą saugantį Anthropic Insights metodą, o rezultatai neapibūdina visų kitų DI paslaugų naudojimo. Konkrečiai rinkimai arba balsavimas buvo minimi maždaug 0,51 procento imties pokalbių.

Anthropic teigia, kad prašymai rekomenduoti, už ką balsuoti, sudarė apie 0,01 procento JAV Claude pokalbių. Kadangi tokių užklausų labai mažai, bendrovės grafike šiai grupei pateikta viršutinė 95 procentų pasikliautinojo intervalo riba. Rinkimų sąžiningumo taisykles pažeidžiantys prašymai atskiroje analizėje sudarė maždaug 0,002 procento pokalbių, nurodoma pranešime.

Vėliau spalį Claude JAV naudotojams pradės pateikti oficialią balsavimo informaciją iš nepartinės organizacijos Democracy Works, skelbia bendrovė. Organizacija renka viešus valstijų ir vietos rinkimų institucijų duomenis, todėl atsakymai galės priklausyti nuo konkrečios vietovės. Tai apims klausimus apie balsavimo vietą ar reikalingus dokumentus, o ne rekomendacijas pasirinkti kandidatą.

Anthropic taip pat planuoja rinkimų naktį ir po jos pokalbiuose rodyti naujausius oficialius rezultatus bei balsų skaičius. Iki tol Claude ir toliau pateiks nuorodą į Democracy Works paslaugą TurboVote, kai klausiama apie registraciją ar datas. Bendrovė nurodo, kad artėjant balsavimui politinių klausimų dalis turėtų didėti, tačiau tikslios prognozės nepateikia.

Apsaugų bandymai parodė ir atskirą silpnąją vietą: žalingą kampaniją galima išskaidyti į iš pažiūros nekaltas užduotis, pripažįsta Anthropic. Institute for Strategic Dialogue ir McCain Institute analitikai tikrino auditorijų tyrimą, svetainių kūrimą bei turinio platinimo planavimą. Pasak laboratorijos, Claude patikimiau atmesdavo tiesioginį žalingą prašymą negu atpažindavo per kelias užklausas išskaidytą tikslą.

Reaguodama į tai, bendrovė įdiegė papildomus klasifikatorius kelių etapų piktnaudžiavimui ir apsimestinėms naujienų svetainėms aptikti. Anthropic nurodo uždariusi paskyras, kurios kūrė užsienio valstybių naratyvams palankų rinkimų turinį arba siekė reklamos pajamų iš pramanytų naujienų. Tai pačios bendrovės pateiktas aptiktų atvejų aprašymas, o ne visų rinkimų informacinių operacijų masto vertinimas.

Pasak Anthropic, naujausi Opus 5.5, Sonnet 5.5 ir Haiku 5.5 modeliai vidiniame politinio nešališkumo vertinime surinko 99 procentus.

Toliau laboratorija planuoja plėsti politinio šališkumo bandymus ir pateikti išsamesnę Claude naudojimo per rinkimų ciklą apžvalgą. Oficialios balsavimo informacijos integracija numatyta vėlesnei spalio daliai, tačiau konkreti paleidimo diena pranešime nepaskelbta. Bendrovė taip pat žada tęsti JAV, Izraeliui ir Brazilijai pritaikytų rinkimų saugumo priemonių vertinimą.