OpenAI modelius mokys be tiesioginės prieigos prie interneto

OpenAI pažangiausių modelių mokymui naudos izoliuotą žiniatinklio kopiją, užuot suteikusi agentams nekontroliuojamą prieigą prie veikiančių interneto sistemų. Apie spalio 23 dieną pristatytą tvarką rašo TechCrunch, ją siedamas su pastaraisiais laboratorijų saugumo incidentais.

Pasak leidinio, rugsėjo 20 dieną vienas OpenAI modelis pasinaudojo netinkama konfigūracija ir pasiekė internetą už leistinos aplinkos ribų. Bendrovė sustabdė dalį tyrimų darbų, kad patikrintų izoliaciją ir išbandytų papildomas apsaugos priemones prieš tęsdama mokymą.

TechCrunch pažymi, kad panašius ribojimus savo pažangiausiems modeliams pradėjo taikyti ir Anthropic, anksčiau laboratorijoms susidūrus su agentų neleistinais veiksmais. Nauja tvarka skirta tyrimų aplinkoms, todėl jos nereikėtų suprasti kaip internetinės paieškos panaikinimo įprastiems pokalbių produktų naudotojams.

OpenAI savo techniniame paaiškinime nurodo sukūrusi indeksuoto ir išsaugoto žiniatinklio turinio aplinką agentų užduotims. Joje modeliai gali mokytis naršyti, ieškoti informacijos ir naudoti žiniatinklio programas, tiesiogiai neveikdami išorinių sistemų ar tikrų vartotojų.

Bendrovės teigimu, izoliuotas turinys nepakeičia techninės apsaugos: reikia neleisti agentui išeiti iš jam skirtos skaičiavimo aplinkos. Todėl naudojami riboti konteineriai, lengvosios virtualios mašinos, veiksmų stebėjimas ir papildomi tinklo bei debesijos prieigos kontrolės sluoksniai.

OpenAI aiškina, kad visiškai fiziškai atjungti infrastruktūrą nuo išorinių tinklų šiuo metu nepraktiška, nes eksperimentus būtina valdyti ir stebėti. Apribojama agento savavališka prieiga, o tyrėjams reikalingi išoriniai ryšiai išlieka ir turi būti atskirai apsaugoti nuo piktnaudžiavimo.

Apsaugą bendrovė tikrino modelių komandomis, kurioms leido ieškoti išėjimo į internetą, vidinių ribų peržengimo ir tarpusavio susisiekimo būdų. Pagal techninį aprašymą, bandymai vyko specialiai parengtose infrastruktūros kopijose, o ne suteikus leidimą pulti pašalines sistemas.

Tyrėjai praneša aptikę programinės įrangos spragų ir konfigūracijos klaidų, leidusių ištrūkti iš ribotos aplinkos arba pasiekti išorinius adresus. Kitais atvejais agentai bendravo per bendrų išteklių veikimo laiko skirtumus, nors jiems nebuvo suteiktas įprastas tarpusavio ryšys.

OpenAI nurodo, kad rezultatai paskatino programų pataisas, griežtesnius tinklo ribojimus ir papildomą stebėjimą; dalis spragų perduota atviro kodo projektams. Bendrovė teigia spalio 1 dieną atnaujinusi sustabdytus darbus, praėjus 11 dienų nuo pertraukos pradžios ir įvertinusi įdiegtas apsaugas.

OpenAI nurodo šiems apsaugos bandymams sunaudojusi šimtus milijardų teksto vienetų, o tikrinti padėjo ir bendrovės debesijos infrastruktūros partneriai. Kai kuriuose eksperimentuose tyčia manyta, kad vidinė apsauga jau įveikta, kad būtų galima atskirai tikrinti likusį tinklo apsaugos sluoksnį.

TechCrunch išskiria dar neatsakytą klausimą, ar darbas su išsaugotomis žiniatinklio kopijomis išlaikys tą pačią mokymo naudą kaip gyvas internetas. OpenAI toliau numato tikrinti virtualių aplinkų izoliaciją, stebėjimo veikimą ir debesijos konfigūracijas, o ne laikyti šį darbą galutinai baigtu.