OpenAI perrašė modelių elgesio taisykles pagal penkias vertybes
OpenAI atnaujino viešą Model Spec dokumentą. Jame daugiau dėmesio skiriama žmonių ketinimams, atminčiai ir savarankiškai veikiančių modelių priežiūrai.
„OpenAI“ pertvarkė viešą modelių elgesio dokumentą „Model Spec“, jo principus suskirstydama pagal penkias vertybes ir papildydama žmogaus kontrolės nuostatas. Spalio 29 dienos pakeitimų žurnale bendrovė nurodo, kad naujoji struktūra apima ir modelių veikimą neaiškiose situacijose.
Oficialiame dokumente išskiriama ištikimybė žmonių ketinimams, žalos mažinimas, sąžiningumas ir skaidrumas, žmogaus savarankiškumas bei rūpestingas veikimas. Tai ne naujo modelio pristatymas, o aprašymas, kokio atsakymų ir veiksmų elgesio bendrovė siekia savo produktuose.
Pagal atnaujintą specifikaciją modelis turi suprasti užduoties tikslą, tačiau neturėtų savavališkai pakeisti žmogaus pasirinkimų tariamai geresniais sprendimais. Dokumente pabrėžiamas poreikis atskirti aiškius nurodymus nuo iš konteksto daromų prielaidų, ypač kai jos gali paveikti tolesnius veiksmus.
„GitHub“ paskelbtame pakeitimų žurnale atskirai išvardytos naujos nuostatos apie pokalbių istorijos, atminties ir suasmeninimo naudojimą bei privatumo išlaikymą. Kontekstas turi būti naudojamas proporcingai, atsižvelgiant į jo šaltinį, galiojimo ribas ir naujumą, o žmogui turi likti kontrolė.
Specifikacijoje nurodoma, kad naudotojui turi būti suprantama, kokios ankstesnės žinios pasitelktos ir kaip galima pataisyti klaidingas prielaidas. Dokumento dalys apie auditoriją ir privatumą taip pat skiria informaciją, tinkamą asmeniniam pokalbiui, nuo informacijos platesniam gavėjų ratui.
Pagal naują redakciją savarankiškai veikiantis modelis turi laikytis sutartų veiklos ribų ir priimti teisėtą žmogaus priežiūrą bei koregavimą. „OpenAI“ pakeitimų sąraše pabrėžia, kad paaiškinimai apie galimus šalutinius padarinius ir jų valdymą tapo aiškesni nei ankstesnėje redakcijoje.
Dokumente išlaikoma nurodymų pirmenybės tvarka, todėl naudotojo tikslų supratimas nepanaikina privalomų saugumo ribų ar aukštesnio lygmens nurodymų. Atskirose dalyse aptariama, kaip elgtis su nepatikimais duomenimis ir kodėl išorinis tekstas savaime netampa leidimu imtis veiksmų.
Pakeitimų žurnale „OpenAI“ taip pat skelbia pašalinusi didžiąją dalį detalių stiliaus nurodymų, palikdama daugiau vietos naudotojų pasirinkimams. Oficialus dokumentas paaiškina, kad toną ir bendravimo būdą turi padėti nustatyti žmogaus preferencijos, o ne vienodas iš anksto nustatytas personažas.
Bendrovė pakeitė ir dokumento terminiją: vietoj bendro žodžio „asistentas“ taisyklių adresatas dabar dažniau įvardijamas kaip „GPT“. Šis redakcinis pakeitimas, pagal oficialų sąrašą, siejamas su platesniu modelių naudojimu skirtinguose produktuose bei programinėse aplinkose.
Specifikacijoje numatyta, kad modelis neturi siekti savisaugos, kaupti papildomų išteklių ar laikyti tiekėjo pajamų savarankišku savo darbo tikslu. Šios ribos pateikiamos greta žmogaus priežiūros principų ir paaiškina, kodėl užduoties įvykdymas negali reikšti neriboto savarankiško veikimo.
„Model Spec“ įžangoje „OpenAI“ pripažįsta, kad viešai naudojami modeliai dar nevisiškai atitinka visas dokumente aprašytas norimo elgesio nuostatas. Toliau specifikacija ir mokymo metodai bus tikslinami pagal tyrimus, praktinio naudojimo patirtį ir viešą grįžtamąjį ryšį.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
