Antropinių kalnelių metai tęsiasi.
Dirbtinio intelekto įmonė vėlai penktadienį paskelbė, kad išjungia savo du naujausius didelių kalbų modelius praėjus vos trims dienoms po jų pristatymo, remdamasi naujais JAV vyriausybės ką tik įvestais eksporto kontrolėmis, neleidžiančiais užsienio piliečiams naudotis šiais modeliais.
Antropinių kalnelių metai tęsiasi.
Dirbtinio intelekto įmonė vėlai penktadienį paskelbė, kad išjungia savo du naujausius didelių kalbų modelius praėjus vos trims dienoms po jų pristatymo, remdamasi naujais JAV vyriausybės ką tik įvestais eksporto kontrolėmis, neleidžiančiais užsienio piliečiams naudotis šiais modeliais.
Staigus eksporto kontrolės sprendimas padidino tebesitęsiančią įtampą tarp Silicio slėnio įmonės ir Trumpo administracijos dėl nacionalinio saugumo problemų, susijusių su Anthropic AI modelių naudojimu, ir per mažiau nei metus surengtas antras aukšto lygio susidūrimas.
Pranešama, kad antropiniai vadovai pirmadienį Vašingtone surengė derybas su administracijos pareigūnais, siekdami rasti sprendimą, tačiau susitarimo dar nepasiekta. Nė viena pusė neatsakė į prašymus pakomentuoti tai, kas buvo aptarta.
Štai ką reikia žinoti.
Kas atsitiko?
Penktadienį 17.21 val. EDT Anthropic gavo JAV vyriausybės eksporto kontrolės direktyvą, kurioje buvo nurodytos „nacionalinio saugumo institucijos“, kurios draudžia užsienio piliečiams (įskaitant ne JAV Anthropic darbuotojus) naudoti bendrovės Claude Fable 5 ir Claude Mythos 5 modelius, sakoma bendrovės pranešime. Ji pridūrė, kad direktyvoje „nepateikiama konkrečios informacijos apie susirūpinimą dėl nacionalinio saugumo“.
Anthropic teigė, kad vyriausybė žodžiu išreiškė susirūpinimą dėl modelių pažeidžiamumo, dėl kurio vartotojai gali „įsilaužti į kalėjimą“ arba apeiti savo apsauginius turėklus. Tačiau bendrovė teigė, kad šios spragos „atrodo gana paprastos“ ir jas taip pat gali atskleisti kiti viešai prieinami modeliai, tokie kaip „OpenAI“ „ChatGPT“.
Baltieji rūmai ne iš karto sureagavo Užsienio politikaprašymą pakomentuoti konkrečius susirūpinimą keliančius klausimus, kuriuos, kaip pranešama, „Amazon“ pažymėjo administracijai. „Amazon“ pasidalijo savo rūpesčiais su „Anthropic“, prieš išreikšdama juos JAV vyriausybei, teigia su šiuo klausimu susipažinęs asmuo.
Technologijų milžinas yra pagrindinis Anthropic investuotojas ir partneris, taip pat pagrindinis debesų kompiuterijos paslaugų teikėjas JAV vyriausybei. „Kaip pirmaujanti debesijos paslaugų teikėja, aptarnaujanti daug privataus ir viešojo sektoriaus klientų, neretai vyriausybės kreipiasi į mūsų patarimą dėl galimos saugumo rizikos“, – sakoma Amazon atstovo pranešime.. „Kai jie įvyksta, mes nesidaliname šių diskusijų detalėmis.
Užuot bandęs suteikti prieigą tik JAV vartotojams, „Anthropic“ nusprendė visiškai uždaryti modelius. „Grynoji šio įsakymo pasekmė yra ta, kad turime staigiai išjungti Fable 5 ir Mythos 5 visiems savo klientams, kad užtikrintume atitiktį“, – teigė bendrovė ir pažymėjo, kad prieiga prie kitų bendrovės modelių išliks netrukdoma.
Palaukite, kodėl „Mitas“ skamba pažįstamai?
Anthropic pavojaus varpais skambėjo dar balandį, kai pristatė ankstesnę vieno iš savo naujų modelių versiją, žinomą kaip Claude Mythos Preview. Tuo metu bendrovė perspėjo, kad modelis yra per galingas, kad būtų galima visiškai viešai išleisti, nes jis parodė nenatūralų gebėjimą aptikti kibernetinio saugumo trūkumus kompiuterinėse sistemose, todėl teoriškai įsilaužėliams buvo lengviau į juos įsiskverbti. Vietoj to, Anthropic suteikė kelias dešimčiai (ir augančių) įmonių ir vyriausybinių agentūrų prieigą prie „Mythos“, kad jos galėtų naudoti ją uždaroje aplinkoje ir pataisyti savo sistemas prieš platesnį išleidimą.
Šis platesnis leidimas pasirodė praėjusį antradienį, kai Anthropic paskelbė apie Claude Fable 5 – modelį, kuris, kaip teigiama, buvo sukurtas remiantis Mythos, tačiau su papildomomis apsaugos priemonėmis ir tam tikrų užklausų apribojimais, dėl kurių jis buvo „saugus bendram naudojimui“. Ji taip pat paskelbė apie Claude Mythos 5, šiek tiek pataisytą modelio versiją be kai kurių apsaugos priemonių, kuriomis galėtų naudotis tik „nedidelė kibernetinių gynėjų ir infrastruktūros teikėjų grupė“.
Tačiau didelis diegimas buvo trumpalaikis, o Trumpo administracija įdėjo kibosą abiem modeliams tik po trijų dienų.
Tai ne pirmas kartas, kai Trumpo administracija susipainiojo su Anthropic, ar ne?
Ne. Dar vasarį Anthropic įsivėlė į didžiulę kovą su JAV gynybos departamentu dėl JAV kariuomenės dislokuoto kompanijos modelių. Anthropic pareikalavo, kad Pentagonas įsipareigotų uždrausti tuos modelius naudoti autonominiams ginklams ar vidaus stebėjimui.
JAV gynybos sekretorius Pete'as Hegsethas atsakė pateikdamas Anthropic ultimatumą: Suteikite kariškiams nevaržomą prieigą prie Anthropic technologijos arba būsite priskirti „tiekimo grandinės rizikai“ – etiketei, kuri neleistų Anthropic aptarnauti bet kokius su Pentagonu dirbančius klientus.
Vėliau Hegsethas išsprendė šią grėsmę ir paskatino bendrovę pareikšti ieškinį JAV vyriausybei. Šis ieškinys vis dar vyksta, net kai Anthropic ir Trumpo administracija šią savaitę kovoja su nauja kova.
„Prieš tris mėnesius (gynybos departamentas) visam laikui išvarė @AnthropicAI iš mūsų pastato“, – šeštadienį X rašė Hegsethas. „Kiekviena diena įrodo, kodėl tai buvo teisingas žingsnis.
Ką tai reiškia likusiam pasauliui?
Antropinė ir Trumpo kova dar labiau apsunkino ir taip niūrius transatlantinius santykius, o Europos šalys varžosi dėl iškirpčių, kurios leistų joms ir toliau naudoti pažangiausius JAV dirbtinio intelekto modelius.
Pranešama, kad Europos diplomatai šią savaitę G-7 viršūnių susitikimo Evian-les-Bains mieste, Prancūzijoje, surengė derybas su JAV prekybos sekretoriumi Howardu Lutnicku, siekdami susitarti dėl „patikimo partnerio“ prieigos. „Financial Times“. pranešė. Jungtinė Karalystė taip pat paprašė specialaus atleidimo, nors Trumpo administracijos pareigūnas sakė New York Post kad bet kurios šalies, įskaitant sąjungininkes, atleidimas nuo eksporto kontrolės būtų „visiškai nelogiška“.
Kanados ministras pirmininkas Markas Carney perspėjo, kad JAV eksporto kontrolė rodo pasaulinės priklausomybės nuo JAV technologijų riziką. „Padėtis, kurioje šiuo metu esame kartu su Mythos ir Fable, gali nutikti pernelyg pasikliaujant tam tikrais modeliais“, – sakė Carney, lankydamasis Airijoje prieš G-7 viršūnių susitikimą. „Niekas nepadarė nieko blogo šioje situacijoje“, – pridūrė jis. „Bet mes padarysime ką nors ne taip, jei tiesiog su tuo sutiksime, nesimokysime, nekursime ir nevairinsime“.
