Yksi yleisimmistä peloista ohjelmistojen, tekoälyagenttien tai internetistä ladattujen tiedostojen kanssa työskennellessä on Järjestelmän rikkominen, haittaohjelmatartunta tai arkaluonteisten tietojen vuotaminen Lähes huomaamattasi. Sinun ei tarvitse olla vainoharhainen: yksikin epäonnistunut suoritus voi poistaa tietokannan, sotkea käyttöönoton tai tartuttaa järjestelmääsi haittaohjelmilla.
Hyvä uutinen on, että nykyään sinulla on useita tapoja luoda sellainen käytettävissäsi. eristäytynyt ympäristö, jossa voit kokeilla asioita ottamatta riskejäJa monet niistä on integroitu itse käyttöjärjestelmään tai koodiagenteille suunniteltuihin alustoihin. Kutsumme tätä "hiekkalaatikkokäytöksi": koodin suorittamista eräänlaisessa kontrolloidussa kuplassa, jotta vaikka jokin menisi pieleen tai olisi haitallista, vahinko pysyy kurissa.
Mitä on manuaalinen hiekkalaatikko ilman lisäohjelmistoja?
Tietoturvassa ja kehityksessä hiekkalaatikoista puhuminen tarkoittaa puhumista... määritellä selkeästi, mihin ohjelma tai agentti voi koskea suorituksen aikanaKyse ei ole vain "sen ajamisesta jossain muualla", vaan selkeiden rajojen määrittelystä: mitä tiedostoja se voi nähdä, mitä prosesseja se voi käynnistää, onko sillä verkkoa, mitä tunnistetietoja se voi käyttää, kuinka kauan kyseinen ympäristö on elinkaaressa ja mitä sen tilalle tapahtuu, kun se lopetetaan.
Erottelu "manuaalisen" ja "ilman lisäohjelmistoa" välillä on harhaanjohtava. Monissa tapauksissa voit luottaa siihen, että käyttöjärjestelmään tai omaan kehitysalustaasi jo sisältyvät toiminnotkuten Windows Sandbox, Linuxin primitiivit (Landlock, seccomp) tai macOS-mekanismit. Sinun ei tarvitse asentaa täydellistä virtualisointipakettia, mutta sinun on opittava, miten se tehdään. aktivoida ja hallita näitä integroituja mekanismeja toimimaan esteenä testattavan koodin ja varsinaisen koneesi välillä.
Miksi koodiagentit tarvitsevat eristettyjä ympäristöjä?
Nykyaikaiset koodausagentit eivät ole enää yksinkertaisia chat-tyyppisiä avustajia, jotka ehdottavat koodinpätkiä: ne ovat kielimalliin kytketyt suoritusympäristötNe voivat lukea arkistoasi, muokata tiedostoja, suorittaa päätekomentoja, asentaa paketteja, rakentaa kontteja, keskustella ulkoisten API-rajapintojen kanssa ja jopa avata selainistuntoja.
Alustat, kuten Claude Code, jotkin LangChainin "Deep Agentit" tai Dockerin jakamat tietyt hiekkalaatikot ja muut työkalut kuvaavat nimenomaisesti, että nämä agentit Ne toimivat oikeilla tiedostojärjestelmillä, käynnistävät säikeitä ja delegoivat tehtäviä erikoistuneille aliagenteille.Toisin sanoen, he ovat melko samanlaisia kuin nuorempi kehittäjä, jolla on pääsy työkaluihisi... vain automatisoituja ja erittäin nopeita.
Tässä yhteydessä tärkein turvakysymys ei ole enää "Reagoiko se hyvin kehotteeseen?", vaan se muuttuu seuraavaksi: "Mikä on tähtäinkiikari, jos se on väärässä, väärin kohdistettu tai sitä on manipuloitu?"Jos malli voi esimerkiksi ajaa pytestiä, asentaa npm-paketteja, hallita haaroja tai tarkastaa käännösvirheen, se on vain muutaman askeleen päässä käyttöönottoskriptien muokkaamisesta, Git-hookien muokkaamisesta tai salaisuuksien siirtämisestä etäpalveluun.
Helppo vastaus on yleensä vaatia ihmisen hyväksyntä jokaiselle komennolle. Se auttaa, mutta siihen liittyy toistuva ongelma: hyväksyntäväsymysYmpäristöissä, joissa insinöörit käynnistävät useita agentteja tai työnkulkuja rinnakkain, pyyntöjen valtava määrä johtaa usein siihen, että lähes kaikki pyynnöt hyväksytään ilman huolellista tarkastelua. Kun yli 90 % lupapyynnöistä hyväksytään automaattisesti, tämä mekanismi lakkaa olemasta aito tietoturvakontrolli ja muuttuu pelkäksi muodollisuudeksi.
Siksi hiekkalaatikoilla on niin paljon merkitystä: Ne eivät tee mallista erehtymätöntä eivätkä korjaa käskyjen injektointia.Mutta ne pienentävät virheiden "räjähdyssädettä". Jos tekoäly mokaa tai joku onnistuu kaappaamaan sen ohjeet, vahinko pysyy eristetyssä ympäristössä sen sijaan, että se leviäisi suoraan tuotantojärjestelmääsi tai kannettavaasi.
Koodiagenttien hiekkalaatikon tärkeimmät rajoitukset
Hyvä koodausagenttien hiekkalaatikko perustuu useisiin erityyppisiin rajoihin, ei vain "toiseen hakemistoon" tai "toiseen säilöön". Jokainen kattaa eri riskin osa-alueen, ja niiden ymmärtäminen on olennaista tehokkaan manuaalisen hiekkalaatikon luomiseksi olemassa olevien resurssien kanssa.
Tiedostojärjestelmän raja
Ensimmäinen asia on päättää. mitä hakemistopuuta agentti voi nähdä ja muokataOikein konfiguroidussa hiekkalaatikossa agentin pitäisi voida lukea ja kirjoittaa vain sille erikseen luotuun työtilaan tai taltioihin. Muun järjestelmän (käyttäjän kotihakemisto, järjestelmäpolut, muut projektit) pitäisi olla agentin ulottumattomissa.
Agenttikehykset ja hiekkalaatikkoympäristöt tekevät asian hyvin selväksi: hiekkalaatikko on este, joka estää koskemasta isäntätiedostoihin jaettujen tiedostojen lisäksiMikrovirtuaalikonepohjaisissa malleissa sääntö on vielä tiukempi: vain liittämäsi hakemisto (usein luku- ja kirjoitusoikeudella) ylittää virtuaalikoneen ja isännän välisen rajan. Kaikki muu pysyy saavuttamattomana, ellet avaa sitä.
Prosessin raja ja ydin
Toinen keskeinen raja on se, mitä agentti näkee prosessi- ja ydintasolla. Jos eristetyssä ympäristössä asentaa palveluita, käynnistää säilöjä tai käynnistää säikeitäKaikkien näiden toimintojen on pysyttävä kapseloituina ilman prosessien tai paljaan ytimen jakamista isännän kanssa.
Monet vankat hiekkalaatikkototeutukset perustuvat mikrovirtuaalikoneet eli kevyet virtuaalikoneet omalla Linux-ytimellään, jota on vahvistettu seccompilla, cgroupsilla, nimiavaruuksilla ja jail-tekniikoilla. Toiset käyttävät kerroksia, kuten gVisoria tai Kata-kontteja, virtualisointi- tai emulointikerroksen sijoittamiseen eristetyn prosessin ja solmun ytimen väliin. Perusajatus on: jos joku hyödyntää jotain sisällä, hyppy isäntäkoneeseen on paljon vaikeampaa kuin yksinkertaisessa jaetun ytimen kontissa.
Verkon raja
Koodiagentit ovat usein hyvin "verkkonälkäisiä": he haluavat asentaa riippuvuuksia, tutustua dokumentaatioon, kutsua LLM-rajapintoja, käyttää etätietovarastoja tai jopa selata verkkoa. Ilman selkeää käytäntöä "eristyksissä" oleva ympäristö voi päätyä... fantastinen datan ulosvirtaustunneli.
Siksi yhä useammat alustat omaksuvat kannan, lähtevän liikenteen oletusarvoinen estoHTTP/HTTPS on estetty tiettyjä poikkeuksia lukuun ottamatta, TCP/UDP/ICMP on rajoitettu, ja mikä tärkeintä, pääsy yksityisiin alueisiin ja paikallisiin osoitteisiin on kielletty. Viestintä on sallittu vain sellaisten isäntien tai verkkotunnusten kanssa, jotka on nimenomaisesti lisätty sallittujen luetteloon, ja usein isännän hallitseman välityspalvelimen kautta.
Valtuutustietojen raja
Agentin lukitsemisesta ei ole juurikaan hyötyä, jos se voi häkkinsä sisällä lukea API-avaimiasi, käyttöönottotunnuksiasi tai tietokannan salaisuuksiasi. Monien hiekkalaatikoiden moderni suunnittelu koostuu... Älä koskaan ruiskuta raakoja salaisuuksia eristyksissä olevaan ympäristöönSen sijaan isännän välityspalvelimen tulisi lisätä tunnistetiedot niiden HTTP-pyyntöjen otsikoihin, jotka hiekkalaatikko haluaa lähettää.
Tällä lähestymistavalla prosessi hiekkalaatikossa Hän käyttää tunnuksia, mutta ei koskaan näe niitä.Tämä vähentää huomattavasti mahdollisen agentin kaappauksen vaikutusta. Kuitenkin heti, kun tallennat avaimen tiedostoon tai ympäristömuuttujaan hiekkalaatikossa, tämä etu katoaa: malli voi sitten lukea sen suoraan, ja mikä tahansa käskyinjektio voi käskeä sitä suodattamaan sen.
Elinkaaren raja ja tila
Lopuksi on vielä aikaraja: Mitä säilyy ja mitä tuhoutuu, kun ympäristö pysähtyyAgentit eivät ole kertaluonteisia prosesseja: ne lukevat, kääntävät, debugaavat, avaavat useita hypoteeseja, hylkäävät joitakin, jatkavat toisia… Tämä vaatii ajonaikaisen ympäristön, joka hallitsee tilaa älykkäästi: pikakäynnistys, keskeytys, tilannevedokset, haarautuminen ja turvallinen poistaminen.
Jotkut alustat tarjoavat muistitilannevedokset, esilämmitettyjen ympäristöjen poolit ja haarautumisfunktiot tietystä tilasta (esimerkiksi jo todennetusta selaimesta tai osittain ratkaistusta riippuvuusgraafista). Tämä tekee eron käyttökelpoisen agentin – sellaisen, joka voi iteroida vuorovaikutteisesti – ja agentin välillä, jolta kestää ikuisuuden toistaa sama asetus yhä uudelleen ja uudelleen.
Sandboxing-toteutukset macOS:ssä, Linuxissa ja Windowsissa
Kaupallisten tuotteiden lisäksi monet tiimit ovat valinneet hyödyntää käyttöjärjestelmissä jo olevia eristysprimitiivejä rakentaa omia koodiagenttiympäristöjään lisäämättä raskaampia kerroksia. Tärkeintä on ymmärtää, mitä kukin alusta tuo pöytään.
Sandboxing macOS:ssä: Turvavyö ja dynaamiset profiilit
macOS:ssä on arvioitu useita malleja: App Sandbox, kontit, virtuaalikoneet ja Seatbelt. Ensimmäisillä vaihtoehdoilla on merkittäviä haittoja kehitysympäristön kannalta: App Sandbox vaatii jokaisen agentin mahdollisesti suorittaman binääritiedoston allekirjoittamisen ja perii yrityksen luottamuksen, mikä avaa väärinkäytösmahdollisuuksia, jos agentti itse luo tai muokkaa binääritiedostoja; säilöt rajoittuvat Linux-ekosysteemiin; perinteiset virtuaalikoneet lisäävät paljon käynnistysviivettä ja muistin kulutusta.
Käytännön vaihtoehto on ollut luottaa siihen, Turvavyö, käytettävissä sandbox-execin kauttaVaikka Apple on merkinnyt sen vanhentuneeksi jo vuosia, sitä käyttävät edelleen kriittiset sovellukset, kuten kromiSen avulla voit suorittaa komentoja hiekkalaatikkoprofiilin alaisuudessa, joka rajoittaa koko jälkeläisprosessipuun toimintaa.
Tuo profiili määrittelee käyttöoikeudet erittäin tarkasti: Se voi suodattaa tiettyjä järjestelmäkutsuja ja lukea tai kirjoittaa tiettyihin tiedostoihin ja hakemistoihinkäyttäen erikoista käytäntökieltä. On olemassa toteutuksia, jotka luovat tämän käytännön dynaamisesti suorituksen aikana yhdistämällä työtilan kokoonpanon, järjestelmänvalvojan käytännöt ja käyttäjän ohitustiedostot, jotta agentilla on tilaa liikkua koskematta vaarallisiin alueisiin.
Sandboxing Linuxissa: Landlock ja seccomp
Linux tarjoaa sekä enemmän joustavuutta että enemmän työtä: ydin paljastaa primitiivejä, kuten Maanmittaus- ja turvallisuuspalvelutMutta käyttäjätilan vastuulla on yhdistää ne yhtenäiseksi ja hallittavaksi hiekkalaatikoksi.
Sen sijaan, että luottaisivat pelkästään ulkoisiin projekteihin, jotkut tiimit päättävät Käytä seccompia suoraan estääksesi vaarallisiksi katsotut järjestelmäkutsut. ja Landlock rajoittaa tiedostojärjestelmän käyttöä. Yleinen tapa on liittää käyttäjän työtila tiedostojärjestelmän päälle ja Korvaa ohitetuiksi merkityt tiedostot Landlockin suojaamilla erikoiskopioillajotta eristetty prosessi ei voi lukea tai muokata mitään, mitä haluat piilottaa.
Tämän lähestymistavan hitain osa on yleensä kaikkien näiden tiedostojen paikantaminen ja uudelleen kokoaminen, koska Linux ei tarjoa helppoa tapaa löytää tiedoston koko polkua seccomp-bpf-suodattimen sisällä.Silti tuloksena on melko hieno hiekkalaatikko: agentti voi työskennellä projektipuunsa kanssa, vaikka kielletyt polut ovat tosiasiassa sen universumin ulkopuolella.
Hiekkalaatikko Windowsissa: WSL2:n varassa
Windowsissa tilanne on toinen. Yleiskäyttöisen natiivin hiekkalaatikon luominen on paljon monimutkaisempaa, koska Useimmat olemassa olevat eristysprimitiivit on suunniteltu selaimille tai muille hyvin spesifisille ohjelmistoille.eivätkä ne sovi hyvin yhteen monipuolisten kehitystyökalujen kanssa.
Käytännöllinen ratkaisu on aja Linux-hiekkalaatikkoa WSL2:n sisälläTällä tavoin kierrätät Linuxin eristystyökaluja (Landlock, seccomp, nimiavaruudet jne.) virtualisointialustalla, joka eristää kehitysistunnon Windows-isännästä. Samanaikaisesti tehdään koordinoitua työtä Microsoftin kanssa uusien primitiivien paljastamiseksi, jotka mahdollistavat lopulta natiivimman hiekkalaatikon kehitystyökaluille.
Windows Sandbox: järjestelmään integroitu erillinen tila
Niille, jotka käyttävät Windows 10:tä tai 11:tä Pro-, Enterprise- tai Education-versioissa, on olemassa erityisen mielenkiintoinen työkalu: Windows-hiekkalaatikkoSe on kevyt, itse järjestelmään integroitu virtuaalikone, jonka avulla voit suorittaa epäluotettavia sovelluksia tai epäilyttäviä tiedostoja kertakäyttöisessä ympäristössä.
Idea on yksinkertainen: kun avaat Windows Sandboxin, se käynnistyy väliaikainen, puhdas Windows-työpöytä, ikään kuin se olisi juuri asennettuKaikki sen sisällä kopioimasi tai asentamasi – ohjelmat, dokumentit, skriptit – on olemassa vain siinä tilanteessa. Jos suljet ikkunan, ympäristö tuhoutuu: ohjelmistot, tiedostot ja tilatiedot hylätään, ja seuraavan kerran joudut aloittamaan alusta.
Windows Sandboxin tärkeimmät ominaisuudet
Tällä ominaisuudella on useita erittäin hyödyllisiä ominaisuuksia manuaaliseen hiekkalaatikkoympäristöön ilman kolmannen osapuolen työkaluja:
- Osa WindowsiaKaikki tarvitsemasi sisältyy jo yhteensopiviin versioihin (Pro, Enterprise, Education). Sinun ei tarvitse ladata levykuvia tai ylläpitää ulkoisia virtuaalikoneita.
- Kertakäyttöiset ja virheettömätJokainen suoritus on yhtä puhdas kuin tuore Windows-asennus. Mitään sisällä tekemääsi ei tallenneta laitteellesi, kun suljet ympäristön.
- Turvallinen suunnittelultaanSe käyttää laitteistopohjaista virtualisointia (Hyper-V) eristääkseen hiekkalaatikkoytimen isäntäytimestä. Se käyttää Microsoftin hypervisoria pitääkseen nämä kaksi maailmaa erillään.
- tehokasKäynnistys on nopea, muutamassa sekunnissa, älykkään muistinhallinnan ja virtuaalisen GPU:n tuen ansiosta, käyttäen vähemmän resursseja kuin perinteinen virtuaalikone.
Teknisesti se käyttäytyy kuten pieni kertakäyttöinen Windows-virtuaalikone, täysin pätevä asennusohjelmien testaamiseen, epäilyttävien verkkosivustojen vierailuun tai sähköpostiliitteiden avaamiseen, joiden toimimiseen et luota oikeassa järjestelmässäsi.
Käytännön skenaarioita Windows Sandboxin käyttöön
Windows Sandbox loistaa yksinkertaisena manuaalisena hiekkalaatikkoratkaisuna useissa tyypillisissä tilanteissa:
- Kokeile tuntematonta ohjelmistoaKun lataat sovelluksen tai suoritettavan tiedoston internetistä etkä ole varma sen alkuperästä, voit ensin asentaa sen Windows Sandboxissa ja nähdä, miten se toimii vaarantamatta tietokonettasi.
- Turvallisempi verkkoselailu: varten Mahdollisesti vaarallisten verkkosivustojen, haittaohjelmien tai tietojenkalastelusivustojen vierailuVoit avata selaimesi hiekkalaatikon sisällä. Jos jokin menee pieleen, ikkunan sulkeminen poistaa kaikki jäljet.
- Epäluotettavien liitteiden ja tiedostojen avaaminenJos saat epäilyttävän liitteen tai ZIP-tiedoston, joka ei herätä luottamusta, kopioit sen hiekkalaatikkoon, avaat sen siellä ja päätät tarkistuksen jälkeen, kannattaako siitä purkaa mitään varsinaiseen järjestelmääsi.
- Esittelyt ja työkalukohtaiset testitSe sopii täydellisesti ohjelmistodemojen luomiseen, esikatseluversioiden, laajennusten tai lisäosien testaamiseen ilman, että pääasennus täyttyy liikaa.
- Ylläpidä useita erillisiä kehitysympäristöjäVoit luoda erilliset, erillään olevat tilat kullekin kielipinolle tai -versiolle, esimerkiksi hiekkalaatikko jokaiselle Pythonin versiolle ja sen riippuvuuksillejotta kokeet eivät häiritse vakaata ympäristöäsi.
Windows Sandboxin käyttövaatimukset ja lisenssit
Kaikki eivät voi käyttää Windows Sandboxia, mutta se on jo saatavilla monissa ammattimaisissa ympäristöissä. Jotta voit ottaa sen käyttöön tietokoneellasi, tarvitset:
- Yhteensopiva Windows-versioWindows 10/11 Pro, Enterprise, Pro Education/SE tai Education. Home-versiota ei tueta.
- VirtualisointitukiOn olennaista, että virtualisointitoiminnot BIOSissa/UEFI:ssä (Intel VT-x, AMD-V tai vastaava).
- Vähimmäisresurssitvähintään 4 Gt RAM-muistia (vaikka suositeltu arvo on 8 Gt), 1 Gt vapaata levytilaa – mieluiten SSD-levy – ja vähintään 2 suorittimen ydintä (mieluiten 4 hyperthreadingillä).
- Päivitetty käyttöjärjestelmäAlkaen tietyistä koontiversioista (esimerkiksi Windows 10:n koontiversio 18305 ja uudemmat sekä Windows 11:n modernit koontiversiot). ARM64:ssä yhteensopivuus saavutettiin uudempien koontiversioiden kanssa.
Lisenssien osalta, Pro-, Enterprise- ja Education-versiot sisältävät oikeuden käyttää Windows Sandboxia. Ei tarvitse maksaa ylimääräisistä virtualisointiohjelmistolisensseistä. Aktivoi se, niin olet valmis.
Windows Sandboxin aktivointi ilman lisätyökaluja
Jotta se saadaan käyntiin, et tarvitse mitään järjestelmän ulkopuolella:
- Avaa Käynnistä-valikko ja etsi vaihtoehto "Laita Windows toiminnot päälle tai pois".
- Merkitse ominaisuusluettelossa Windows-hiekkalaatikko ja vahvista.
- Käynnistä tietokone uudelleen, kun sitä pyydetään.
- Käynnistä uudelleen, etsi Käynnistä-valikosta "Windows Sandbox" ja suorita se.
Jos haluat teknisemmän lähestymistavan, voit ottaa sen käyttöön myös PowerShellillä komennolla Ota käyttöön-WindowsOptionalFeature -FeatureName “Contains-DisposableClientVM” -Kaikki -Onlineedellyttäen, että sinulla on järjestelmänvalvojan oikeudet. Aktivoinnin jälkeen hiekkalaatikko on aina käytettävissäsi, kun tarvitset sitä turvallista "toista konetta".
Konfiguraatio- ja mukautustiedostot
Windows Sandbox tukee yksinkertaisia määritystiedostoja, joiden avulla voit mukauttaa tiettyjä ympäristöparametrejaEsimerkiksi isäntäkansioiden liittäminen luku- tai luku-kirjoitustilassa, verkon poistaminen käytöstä, komentosarjojen suorittaminen käynnistyksen yhteydessä jne. Nämä tiedostot ovat saatavilla tietyistä Windows 10- ja 11-koontiversioista alkaen.
Käytännössä tämä ominaisuus auttaa sinua luomaan hiekkalaatikko"reseptejä": verkkokäytöstä poistettu kokoonpano haittaohjelmien avaamiseksiToinen vaihtoehto on sellainen, jossa projektikansio on asennettu vain luku -tilassa tiedostojen tarkastelua varten, tai ohjelmistotestaukseen keskittynyt kokoonpano, jossa tietyt työkalut on esiasennettu peruskuvaan.
Kuinka opettaa tekoälyagenteille hiekkalaatikon oikea käyttö
Hiekkalaatikko on todella tehokas vain, jos Koodiagentti itse ymmärtää ympäristön, jossa se toimii. ja tietää, milloin se voi toimia vapaasti ja milloin sen on pyydettävä lisälupaa tai ihmisen apua.
Tämän saavuttamiseksi monien alustojen on täytynyt tarkistaa perusteellisesti mallin työkaluja kuvaavaa infrastruktuuria. Esimerkiksi komentotulkkityökalujen kuvaukset on päivitetty selkeästi selittämään:
- Mitä rajoituksia hiekkalaatikko asettaa? (pääsy tiedostojärjestelmään, gitiin, verkkoon).
- Miten agentti voi pyytää lupien päivitystä kun jokin epäonnistuu etuoikeuksien puutteen vuoksi.
- Minkä tyyppiset komennot todennäköisimmin estetään?
Nämä muutokset eivät aina onnistu täydellisesti ensimmäisellä kerralla: yleensä ne vaativat Todellisten käyttöönottoprosessien laaja manuaalinen testausMallin odotusten jakautumisen analysointi ja kehotteiden ja ohjeiden mukauttaminen. Mittaamalla käyttäytymistä sisäisissä vertailuissa sekä hiekkalaatikon kanssa että ilman, tunnistetaan epäonnistumismalleja, kuten agentteja, jotka Ne toistavat samaa komentoa silmukassa, jonka hiekkalaatikko estää. sen sijaan, että he ymmärtäisivät, että heidän on pyydettävä muita käyttöoikeuksia tai muokattava strategiaansa.
Käytännön parannus näkyy työkalun tuloksissa hiekkalaatikon asettaman eston tarkka syy ja jopa ehdottaa agentille nimenomaisesti, että se pyytäisi tarvittaessa laajennettuja käyttöoikeuksia. Tämä pieni vihje vähentää merkittävästi sokkoutettujen uudelleenyritysten määrää ja parantaa eristämiseen liittyvien virheiden jälkeistä toipumista sekä offline-testauksessa että tuotannossa.
Jotta hiekkalaatikko ei heikentäisi käyttökokemusta, monet yritykset ovat valinneet ota se käyttöön vähitellenSisäisen ja ulkoisen palautteen kerääminen ennen sen oletusarvoista aktivointia. Tiedot ovat yleensä selkeitä: merkittävä osa pyynnöistä (esimerkiksi noin kolmannes) päätyy suoritettavaksi hiekkalaatikossa yhteensopivilla alustoilla, mikä vähentää huomattavasti sekä hyväksynnän odotusaikaa että manuaalista tarkistusta.
Eristysmallit ja tosielämän turvallisuusoppitunnit
Käytännössä ei ole olemassa yhtä ainoaa "täydellistä hiekkalaatikkoa". Niiden välillä on merkittäviä eroja jaettu ydinkontti, gVisorin kaltainen hiekkalaatikko, mikrovirtuaalikone ja täysi virtuaalikoneTämä vivahde on tärkeä, kun puhumme agentin Dockerin suorittamisen, mielivaltaisten pakettien asentamisen tai jopa monimutkaisten selainten ja säikeiden käynnistämisen sallimisesta.
Historialliset tietoturvaongelmat korostavat viisaiden valintojen tärkeyttä: haavoittuvuudet, kuten CVE-2019-5736 tai CVE-2024-21626, jotka mahdollistivat hyppäämisen säilöstä isäntään tai järjestelmän binäärien manipuloinnin, osoittavat, että kun luottamusrajasi on säilön suoritusympäristö isäntäytimessä, vakava virhe voi kaataa koko esteen.
Tämä on hankalampaa koodausagenttien kanssa, koska ne usein suorittavat epäluotettava käännöskoodi, levykuvien rakentaminen, riippuvuuksien asentaminen ilman auditointia ja käsittelevät yleensä hyvin heterogeenisiä syötteitä. Lisäksi paine "antaa heille enemmän valtaa" on voimakas: jos he eivät pysty käyttämään tiettyjä työkaluja, he usein eivät suorita tehtäviään.
Siksi monet nykyaikaiset agenttihiekkalaatikkomallit pyrkivät vahvista rajaa käyttämällä mikrovirtuaalikoneita tai kevyitä virtuaalikoneitaTämä tapahtuu hieman lisääntyneen monimutkaisuuden kustannuksella. Suora riippuvuus isäntäytimestä vähenee ja saavutetaan ylimääräinen eristyskerros säilöpakkoja vastaan. Usean käyttäjän ympäristöissä tai epäluotettavan koodin laajamittaisessa suorituksessa gVisor tai Kata Container ovat kompromissi, sillä ne vaihtavat yhteensopivuuden parempaan eristykseen.
Ihmisten hyväksynnät, poliittiset hyväksynnät ja hiekkalaatikot: miten sovittaa kaikki yhteen
Yksi kaikkialla toistuva kaava on se, että Monivuotisten lupahakemusten määrä ei ole kovin korkeaDemotilassa agentti voi pyytää lupaa ennen tiedostoon koskemista. Tuotannossa, jossa on puoliautomaattisia työnkulkuja ja paljon pieniä toimintoja, "napsauta OK kaikessa" -mallista tulee seula.
Kypsempi lähestymistapa yhdistää useita tasoja:
- Vahva hiekkalaatikko suojaamaan isäntäkonetta ja rajaamaan suoritusympäristöä.
- Rajoittava verkkokäytäntö hallita sitä, mihin päätepisteisiin agentti voi kommunikoida.
- Tunnistetietojen hallinta välityspalvelimen kauttajotta malli käyttää niitä näkemättä niitä.
- Versioidut konfiguraatiot projektitasolla (käyttöoikeudet, koukut, ulkoiset palvelimet), jotta tiimeillä on yksi luotettava tiedonlähde repositoriossa.
- Vain luku -tilassa olevat aliagentit tutkimista ja suunnittelua varten, jolloin kirjoitustoiminnot jäävät hallitumpien tapausten varaan.
- Ihmisen hyväksyntä varattu todella herkille toimille: pakettien julkaiseminen, infrastruktuurimuutokset, salaisuuksien kiertäminen tai työntäminen kriittisiin haaroihin.
Lisäksi kannattaa ottaa huomioon, ohjauspinta että annat agentille omat määritystiedostosi, laajennuksesi ja taitosi. OpenAI:n kaltaisten tarjoajien oppaat varoittavat selvästi, että avointen ominaisuusluetteloiden paljastaminen tai kenen tahansa salliminen määrittää tehokkaita ohjeita tietovarastossa voi johtaa tietovuotoihin tai tuhoisiin toimiin, jos hyökkääjä onnistuu lisäämään haitallisia ohjeita README-tiedostoihin, ongelmiin, dokumentaatioon tai esimerkkitiedostoihin.
Äänisuunnittelussa hiekkalaatikkoa ei nähdä taikatemppuna, joka korjaa tietoturvaongelmat kertaheitolla, vaan yksi arkkitehtuurin sisäinen raja, joka sisältää käytännöt, itsenäisen varmennuksen, salaisuuksien huolellisen hallinnan ja konfiguraatiotarkistuksetVaikka agentti jonain päivänä lukisi haitallisia ohjeita ja tottelisi niitä, järjestelmä on suunniteltu rajoittamaan niiden vaikutusta: ei suoraa pääsyä avaimiin, ei avointa verkkoa eikä mahdollisuutta muokata salaa komentosarjoja, joita sitten suoritat oikealla koneellasi.
Viime kädessä hyvän manuaalisen hiekkalaatikon perustaminen ilman ylimääräisiä ohjelmistoja edellyttää... Hyödynnä kaikki macOS:n ja Linuxin tarjoamat ominaisuudet. —Seatbelt-, Landlock- ja seccomp-profiilit, Windows Sandbox ja WSL2— yhdistettynä selkeisiin verkkosääntöihin, tunnistetietoihin ja ympäristön elinkaaren hallintaan. Lisää tähän agentit, jotka on koulutettu ymmärtämään nämä rajoitukset, kohtuulliset käytännöt ja jonkin verran kurinalaisuutta sen suhteen, mihin heillä on oikeus käyttää työtilassasi, niin voit testata riskialtista koodia, työkaluja ja tiedostoja paljon mielenrauhalla tietäen, että jos jokin menee pieleen, ongelma pysyy hiekkalaatikossa eikä kaada järjestelmääsi tai kriittisiä tietojasi. Jaa tietoa, jotta useammat käyttäjät voivat oppia aiheesta.