Bendra ChatGPT nuoroda galėjo atverti privačius pokalbius
Parameter tyrėjai parodė, kad specialiai parengta ChatGPT nuoroda galėjo atverti privačius pokalbius. Pasak tyrėjų, OpenAI spragą ištaisė spalio 26 dieną.
Specialiai parengta bendra ChatGPT pokalbio nuoroda galėjo paleisti svetimą kodą prisijungusio naudotojo sesijoje ir suteikti prieigą prie privačių pokalbių. Parameter tyrėjų išvadas spalio 31 dieną aprašė The Hacker News; pasak tyrėjų, OpenAI spragą jau ištaisė.
Parameter savo techniniame aprašyme nurodo, kad apie pažeidžiamumą bendrovei pranešė spalio 18 dieną per atlygio už spragas programą. Spalio 26 dieną OpenAI patvirtino pataisą, o už pranešimą tyrėjams išmokėtas bendras 5 000 dolerių atlygis.
Pasak The Hacker News, patikimiausiame atakos variante reikėjo atverti bendrą nuorodą ir vieną kartą paspausti ChatGPT peržiūros mygtuką. Vėlesniame bandyme peržiūra atsidarydavo automatiškai, todėl tyrėjai parodė ir variantą, kuriame pakako vien aplankyti pateiktą pokalbio nuorodą.
Tyrėjų aprašytam scenarijui nereikėjo diegti papildomos programos, jungtis prie svetimos darbo erdvės arba įvesti prisijungimo duomenų užpuoliko puslapyje. Nuoroda galėjo būti platinama įprastais kanalais, pavyzdžiui, elektroniniu paštu, pokalbių žinute, pagalbos užklausoje arba socialinio tinklo įraše.
Parameter bandyme susiejo dvi ChatGPT funkcijas: HTML turinio peržiūrą ir interaktyvų grafiką, kuris pagrindiniame puslapyje įkeldavo MathLive matematikos biblioteką. Peržiūros turinys veikė atskirame apribotame naršyklės rėmelyje, tačiau bibliotekos pranešimų apdorojimas sudarė kelią pasiekti patikimą pagrindinio puslapio aplinką.
Pasak Parameter, MathLive priimdavo virtualiosios klaviatūros nustatymų pranešimus nepatikrinusi, iš kurio naršyklės rėmelio jie atkeliavo, ir leisdavo juose pateikti HTML. Šių sprendimų derinys leido nepatikimam turiniui sukurti naują rėmelį, kuriam naršyklė priskirdavo pačios chatgpt.com svetainės tapatybę bei prieigos teises.
The Hacker News aiškina, kad papildomą vykdymo kelią suteikė ChatGPT turinio saugumo politika, leidusi įkelti scenarijus iš YouTube infrastruktūros. Tai buvo paskutinė tyrėjų grandinės dalis, o pirminė problema siejosi su nepatikrinta pranešimo kilme ir nepatikimo HTML priėmimu.
Parameter patikrino, kad svetimas kodas galėjo išvardyti naujausius pokalbius, perskaityti anksčiau nebendrinto privataus pokalbio turinį ir dalį jo išsiųsti tyrėjų serveriui. Šie veiksmai atlikti kontroliuojamame bandyme su atskiromis paskyromis, o publikacijoje nepateikta įrodymų apie realių naudotojų pokalbių vagystes.
Pasak tyrėjų, OpenAI atkartojo tiek kodo vykdymą, tiek privataus pokalbio pasiekimą, o pradinį P2 vertinimą vėliau pakeitė į P1. Pataisa buvo diegiama dviejose žiniatinklio sąsajos versijose, ir spalio 26 dieną abi jau atmesdavo bandyme naudotus pranešimus.
Parameter techninį aprašymą paskelbė spalio 28 dieną, jau po bendrovės patvirtinimo, kad abiejose žiniatinklio sąsajos versijose bandymas nebeveikia. Tyrėjų nurodytas aštuonių dienų taisymo laikotarpis skaičiuojamas nuo pranešimo pateikimo, o ne nuo viešos publikacijos datos.
The Hacker News nurodo, kad pataisa įdiegta paslaugos pusėje, todėl naudotojams nereikia atskirai atsisiųsti atnaujinimo arba atlikti papildomo slaptažodžio atkūrimo. Tyrėjų aprašymas paskelbtas po pataisos; lieka neatskleista, kiek laiko spraga egzistavo ir ar ją kas nors išnaudojo už kontroliuojamo bandymo ribų.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
