JAV vyriausybės vykdomasis raštas Anthropic, kuris iš esmės privertė bendrovę išjungti naujausius AI modelius prieš pat savaitgalį, turėtų būti pažadinimo skambutis bet kuriai JAV technologijų kompanijai – AI laboratorijai ar kitai.
Kad sužinotumėte apie naujienas: penktadienio popietę JAV prekybos departamentas išsiuntė Anthropic laišką, kuriame remiamasi neaiškia eksporto kontrolės direktyva, kuri uždraudė ne amerikiečiams, įskaitant Anthropic darbuotojus, pasiekti Fable 5 ir Mythos 5, remdamasis nenurodytu nacionalinio saugumo susirūpinimu. Anthropic teigė manantis, kad laiškas yra susijęs su modelio apsauginių turėklų apvažiavimu, tačiau nėra tikras, nes laiške nepateikiama konkreti informacija. Laiškas nebuvo paskelbtas viešai.
Reaguodama į tai, Anthropic išjungė abu savo geriausius modelius visiems klientams, kad užtikrintų, jog jis laikosi direktyvos. Rezultatas buvo toks, kad JAV vyriausybė sėkmingai privertė technologijų bendrovę išjungti savo modelius iš interneto, imdamasi greitų ir vienašalių veiksmų, kuriems, atrodo, nereikėjo teismo patvirtinimo.
Penktadienio Trumpo administracijos įsikišimas rodo, kad dirbtinio intelekto pramonė nėra apsaugota nuo vyriausybės kišimosi. Tai taip pat įspėjimas platesnei technologijų pramonei: laikykitės reikalavimų, arba galime uždaryti jus ir jūsų produktus.
Remdamasi šaltiniais, „Axios“ apibūdino įtemptą situaciją per savaitgalį tarp dviejų pagrindinių žaidėjų, sakydama, kad „asmenybių skirtumai“ tarp Anthropic ir Trumpo administracijos lėmė eksporto direktyvą, o ne techninę AI produktų problemą.
Savaitgalį pasirodžiusi naujos detalės apie problemą dabar kelia dar daugiau abejonių dėl ir taip netvirtos vyriausybės samprotavimų.
Katie Moussouris, kibernetinio saugumo veteranė ir tyrinėtoja, įkūrusi Luta Security, savo tinklaraščio įraše teigė, kad Anthropic neseniai pasidalijo su ja privačia saugumo tyrėjų parašyto dokumento, kuriame aprašomas tariamas apsauginių turėklų apvažiavimas Fable 5, kopija.
Moussouris tinklaraščio įraše buvo aprašyta, kaip tyrėjai įjungė apsauginių turėklų aplinkkelį, tačiau teigė, kad pats aplinkkelis „niekada neturėjo pradėti eksporto kontrolės“. Iš esmės skirtumas yra tarp AI modelio prašymo „peržiūrėti kodą dėl saugumo problemų“ ir prašymo „ištaisyti šį kodą“. Galutinis rezultatas iš esmės yra toks pat, net jei klausimai pateikiami šiek tiek kitaip.
„Straipsnyje aprašytas elgesys negali būti prasmingai ištaisytas, o bet koks bandymas tik susilpnintų gynybos modelį“, – sakė Moussouris, kuris kritikavo eksporto kontrolės direktyvą kaip skubotą, griežtą ir klaidingą.
Moussouris ir dešimtys kitų geriausių saugumo tyrinėtojų ir ekspertų nuo tada paragino Trumpo administraciją atšaukti eksporto kontrolės įsakymą, o žingsnį atimti pažangias kibernetinio saugumo galimybes iš tinklo gynėjų JAV pavadino „pavojingu“.
Ankstesnės administracijos priėmė didžiulius sprendimus dėl žinių spragų. Pavyzdžiui, 2010-aisiais JAV vyriausybės vartojamos kalbos, kuriomis siekiama nustatyti eksporto įstatymus, apimančius kibernetinio saugumo priemones, kurios taip pat gali būti naudojamos kibernetinėms atakoms, buvo tokia plati, kad netyčia beveik uždraudė teisėtus saugumo ir pažeidžiamumo tyrimus.
Tačiau Trumpo administracijos direktyva atrodo atsakomoji.
„Tech Policy Press“ redaktorius Justinas Hendrixas teigė, kad Trumpo administracijos žingsnis „greičiausiai sukels pavojaus signalą užsienio sostinėse dėl Amerikos dirbtinio intelekto patikimumo svarbioms programoms“. Žinia ta, kad AI įmonėms Jungtinėse Valstijose negalima patikėti, kad jos veikia be JAV vyriausybės kišimosi.
Trumpo administracija nepatvirtino, kodėl ji pasinaudojo savo eksporto kontrolės direktyva. Ar pareigūnai neteisingai perskaitė pranešimą ir išsigando? Ar „Amazon“ generalinis direktorius Andy Jassy sakė aukštesniems vyriausybės pareigūnams ką nors, kas paskatino reakciją, iš atsargumo ar nepaisymo? Ar kažkas pamesta verčiant, ar tai buvo būdas spausti antropiką, su kuriuo administracija jau turi nepatogių santykių? Gali būti, kad Baltieji rūmai nežinojo apie plataus užmojo laiško reikalavimo pasekmes, o pareigūnai stengiasi panaikinti savo pačių padarytą žalą.
Cituojant Hendrixą, „klimatas yra vienas iš įtarimų debesies, kad aukšto rango pareigūnai renkasi favoritus pagal asmeninius ir politinius veiksnius“. Pasekmės yra tai, kad vyriausybė sukūrė pavojingą precedentą, kiek ji ketina kontroliuoti Amerikoje sukurtos programinės įrangos išleidimą.
Šį kartą vyriausybė iškėlė klausimą dėl Anthropic; rytoj gali būti su bet kuo kitu.
Kai perkate per mūsų straipsniuose pateiktas nuorodas, galime uždirbti nedidelį komisinį atlyginimą. Tai neturi įtakos mūsų redakcinei nepriklausomybei.
