Cloud-merki

Skýjablossi sem tryggir öruggar starfsvenjur gervigreindar

Cloud-flare-Tryggir öruggar gervigreindaraðferðir

Tæknilýsing

  • Vara: Leiðbeiningar um örugga gervigreindaraðferðir frá GenAI
  • Höfundur: Dawn Parzych, forstöðumaður vörumarkaðssetningar, Cloudflare
  • Efni: Gervigreindarstefna fyrir öruggar tilraunir með kynslóðargervigreind (GenAI)

Upplýsingar um vöru

Handbók GenAI um örugga gervigreind veitir innsýn og aðferðir fyrir fyrirtæki sem vilja innleiða gervigreindartækni á öruggan hátt. Dawn Parzych skrifaði handbókina og fjallar um einstakar öryggisáskoranir sem tengjast innleiðingu GenAI og býður upp á ráð og bestu starfsvenjur við notkun, smíði og öryggi gervigreindarlausna í stórum stíl.

Að tryggja öruggar starfsvenjur gervigreindar
Leiðbeiningar upplýsingatæknifræðings um hvernig á að búa til stigstærða gervigreindarstefnu

Framkvæmdayfirlit

Velkominn, CISO!
Gervigreind er líklega vinsælasta orðið þessa dagana og einnig eitt af brýnustu málefnum öryggissamfélagsins. Áhrif hennar krefjast athygli okkar og þess vegna skrifuðum við hjá Cloudflare þessa handbók til að hjálpa þér að hugsa um öruggar tilraunir með kynslóðargervigreind (GenAI) í fyrirtæki þínu.
Gervigreindartól eru ört að verða öflugri og aðgengilegri, sem opnar fyrir tækifæri til nýjunga í öllum atvinnugreinum. Hins vegar, eins og með aðrar hugmyndabreytingar, fylgja GenAI einstakar áskoranir varðandi öryggi, friðhelgi einkalífs og reglufylgni. Víðtæk notkun GenAI getur valdið ófyrirséðum notkunartoppum, tilfellum misnotkunar notenda, illgjarnri hegðun og hættulegum skugga-upplýsingatækniaðferðum, sem allt eykur hættuna á gagnalekum og leka viðkvæmra upplýsinga.
Þegar notkun þess eykst á vinnustaðnum þínum þarftu að undirbúa þig með GenAI teikningu sem lýsir því hvernig á að nota, byggja upp og tryggja í stórum stíl. Við skulum ræða áhættuna og...view ráð sem teymið þitt getur notað til að tryggja GenAI út frá þroskastigi og notkun. Með þessum aðferðum getur fyrirtækið þitt búið til GenAI-stefnu sem hentar þörfum fyrirtækisins, verndar gögnin þín og tryggir samræmi.

  • Dawn Parzych, markaðsstjóri vöruþróunar hjá Cloudflare

 

Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (1)

Að tryggja tilraunir með GenAI

Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (2)

Því miður verð ég að segja ykkur það, en saga Söru endar þar. Þó að við séum að kveðja skáldskaparpersónuna okkar, þá munu ótal „Sörur“ verða til í raunveruleikanum, á meðan spár og GenAI þróast — hver og ein þeirra gegnir hlutverki hetju í upplýsingatækni- og forritarateymum, sem viðskiptatæknifræðingar og einstakra starfsmanna.
Gervigreind hefur heillað bæði tæknifræðinga og daglega notendur, vakið forvitni og tilraunir. Þessar tilraunir eru nauðsynlegar þar sem við vinnum að því að nýta alla möguleika gervigreindar. En án varúðar og öryggisráðstafana getur það einnig leitt til þess að öryggi sé í hættu eða að ekki sé farið að reglum.

Til að ná jafnvægi og skilja og stjórna gervigreindarverkefnum á skilvirkari hátt verða stofnanir að huga að þremur lykilþáttum:

  1. Að nota gervigreind
    Notkun gervigreindartækni (t.d. ChatGPT, Bard og GitHub Copilot) sem þriðju aðilar bjóða upp á, um leið og eignir (t.d. viðkvæm gögn, hugverkaréttindi, frumkóði o.s.frv.) eru varðveittar og hugsanleg áhættu er dregin úr miðað við notkunartilvikið.
  2. Að byggja upp gervigreind
    Þróun sérsniðinna gervigreindarlausna sem eru sniðnar að þörfum fyrirtækis (t.d. sérhannaðar reiknirit fyrir spágreiningar, aðstoðarflugmenn eða spjallþjónar sem snúa að viðskiptavinum og gervigreindarknúið ógnargreiningarkerfi)
  3. Að tryggja gervigreind
    Að vernda gervigreindarforrit og gervigreindarkerfi gegn óæskilegum aðilum sem stjórna þeim til að haga sér ófyrirsjáanlega.

Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (4)

 

Að tryggja tilraunir með GenAI

Umbreyting GenAI: í dag og í framtíðinni
Aðdráttarafl GenAI fyrir neytendur og stofnanir hefur komið því á fordæmalausa braut fyrir notkun. Lítill hópur stórnotenda óx hratt, að hluta til þökk sé virku opnu hugbúnaðarsamfélagi og neytendadrifin tilraunastarfsemi með forrit eins og ChatGPT og Stable Diffusion.
Það sem notendur hafa komist að í gegnum allt saman er að vélmenni munu í raun ekki „koma í okkar stað“.

GenAI setur menn í þá stöðu að fínpússa og auka, frekar en að búa allt til frá grunni, og getur hjálpað fyrirtækjum. ampauka skilvirkni vinnuafls síns. Spátækni í gervigreind býður upp á svipaða kosti með því að auðvelda að nýta sér gögn til að bæta ákvarðanatöku, smíða snjallari vörur og sérsníða upplifun viðskiptavina, meðal annars með ýmsum verkefnum.

Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (3)Í dag nota 59% forritara gervigreind í þróunarferlum sínum1

Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (5)Árið 2026 munu >80% fyrirtækja nota GenAI-virk API, líkön og/eða forrit sem eru sett upp í framleiðsluumhverfum (allt frá 5% í dag)2

Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (6)Fyrir árið 2030 mun GenAI auka 50% af verkefnum þekkingarstarfsmanna til að auka framleiðni eða hækka meðalgæði vinnu (allt frá <1% í dag)3

  1. SlashData, „Hvernig forritarar hafa samskipti við gervigreindartækni“, maí 2024
  2. Gartner, „Leiðarvísir tæknistjóra um landslag kynslóðar gervigreindartækni“, september 2023
  3. Gartner, „Ný tækni: Lykiltækniaðferðirnar sem skilgreina kynslóðargervigreind“, september 2023

Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (6)

Að nota GenAI á öruggan hátt

Tilraunir með gervigreind spanna allt frá því að nota tilbúnar gervigreindartól og þjónustu til að smíða sérsniðnar gervigreindarlausnir frá grunni. Þó að sumar stofnanir geti farið í átt að því að búa til sínar eigin gervigreindarlíkön og forrit, munu margar halda sig við að nota gervigreindartól frá þriðja aðila.
Í þessum tilfellum skapa gervigreindartól þriðja aðila nýjar áhættur þar sem fyrirtæki hafa aðeins takmarkaða beina stjórn á öryggis- og friðhelgisstillingum sínum. Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (8)

Starfsmenn nota líklega tilbúin gervigreindartól í vinnunni núna í gegnum SaaS-pakka eins og Microsoft 365, spjallþjóna sem eru innbyggðir í leitarvélar eða opinber forrit og jafnvel forritaskil (API).

Fyrirtæki verða að gera sína eigin áreiðanleikakönnun til að lágmarka áhættu, þar á meðal:

  • Mat á öryggisáhættu verkfæra frá þriðja aðila
  • Að taka á áhyggjum varðandi persónuvernd gagna
  • Að stjórna trausti (eða oftrausti) á utanaðkomandi forritaskil
  • Eftirlit með hugsanlegum veikleikum

FyrrverandiampÞetta væri þegar starfsmenn nota opinbera þjónustu. web forrit eins og ChatGPT. Sérhver inntak sem fært er inn í fyrirspurn verður að gögnum sem yfirgefa stjórn fyrirtækisins. Notendur geta deilt viðkvæmum, trúnaðarlegum eða reglugerðum um of - eins og persónugreinanlegum upplýsingum (PII), fjárhagsupplýsingum, hugverkarétti og frumkóða. Og jafnvel þótt þeir deili ekki skýrum viðkvæmum upplýsingum er hægt að setja saman samhengi úr inntaki til að álykta um viðkvæm gögn.
Til að tryggja öryggi geta starfsmenn stillt kerfið þannig að það komi í veg fyrir að inntak þeirra þjálfi líkanið frekar, en það verður að gera handvirkt. Til að tryggja öryggi þurfa stofnanir leiðir til að koma í veg fyrir að fólk slái inn persónuupplýsingar.

Undirbúið ykkur fyrir öryggisáhrif gervigreindar

Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (9)Gögnaváhrif
Að hve miklu leyti deila notendur viðkvæmum gögnum á óviðeigandi hátt með utanaðkomandi gervigreindarþjónustum? Eru nafnleyndar-/dulnafnanartækni nægjanlegar?

Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (13)Áhætta við API
Hvernig munið þið taka á veikleikum í forritaskilum þriðja aðila sem gætu verið mögulegar gáttir fyrir árásarmenn?

Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (14)Svartkassakerfi
Hvaða ákvarðanatökuferli í ytri gervigreindarlíkönum gætu skapað óvænta áhættu?

Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (15)Áhættustýring söluaðila
Hvað veistu um öryggisvenjur þriðju aðila sem bjóða upp á gervigreind? Og enn mikilvægara, hvað veistu ekki?

Skref til að verjast neyslu gervigreindar

  1. Stjórna stjórnarháttum og áhættu
    • Þróa stefnu um hvernig og hvenær nota skuli gervigreind, þar á meðal hvaða upplýsingum fyrirtækið leyfir notendum að deila með GenAI, leiðbeiningar um aðgangsstýringu, kröfur um reglufylgni og hvernig tilkynna skuli brot
    • Framkvæma áhrifamat til að safna upplýsingum, bera kennsl á og magngreina ávinning og áhættu af notkun gervigreindar
  2. Auka sýnileika og stjórntæki fyrir öryggi og friðhelgi einkalífs
    • Skrá allar tengingar, þar á meðal við gervigreindarforrit, til að fylgjast stöðugt með virkni notenda, notkun gervigreindartækja og aðgangsmynstri gagna til að greina frávik.
    • Uppgötvaðu hvaða skuggaupplýsingatækni er til staðar (þar á meðal gervigreindartól) — og taktu ákvarðanir um að samþykkja, loka fyrir eða bæta við viðbótarstýringum
    • Skannaðu stillingar SaaS forrita til að finna hugsanlegar öryggisáhættu (t.d. OAuth heimildir veittar frá samþykktum forritum til óheimilaðra forrita sem nota gervigreind, sem getur aukið líkur á að gögn komist í ljós)
  3. Skoða hvaða gögn fer inn og út úr gervigreindartólum og síar út allt sem gæti haft áhrif á hugverkaréttindi, trúnað eða brotið gegn höfundarréttartakmörkunum
    • Nota öryggisstýringar fyrir hvernig notendur geta haft samskipti við gervigreindartól (t.d. stöðva upphleðslur, koma í veg fyrir afritun/límingu og skanna að og loka fyrir innslátt viðkvæmra/verndaðra gagna)
    • Settu öryggisráðstafanir í verk til að koma í veg fyrir að gervigreindarvélmenni geti skafið upplýsingar þínar websíða
    • Lokaðu gervigreindartólum alfarið aðeins ef engar aðrar stýringar eru mögulegar. Eins og við vitum munu notendur finna lausnir sem setja öryggið úr böndunum.
  4. Stjórna aðgangi að gervigreindarforritum og innviðum
    • Tryggið að allir notendur og tæki sem nota gervigreindartól gangist undir stranga auðkenningarprófun til að kanna hverjir fá að nota gervigreindartólin.
    • Innleiða aðgangsstýringar byggðar á núll trausti sem byggja á auðkenni. Beita lágmarksréttindum til að takmarka hugsanlegt tjón af völdum reikninga sem eru í hættu eða ógna innan fyrirtækisins.
  5. Hagræða kostnaði og rekstrarhagkvæmni
    • Að skilja hvernig fólk notar gervigreindarforrit með greiningum og skráningu svo þú hafir stjórn á hraðatakmörkunum, skyndiminni, sem og endurteknum beiðnum og líkir eftir notkun eftir því sem hún mælist.

Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (10)

Tryggðu það sem þú byggir

Þjálfaðu gervigreindarlíkanið þitt
Gervigreindarleiðslur eru að víkka út varnarleysisviðið. En með reynslu af öryggi í upphafi og í gegnum allt þróunarferlið höfum við innsýn í hvað leiðir til árangurs. Fyrir gervigreindaröryggi er eðlilegt að byrja í líkaninu þínu.
Sem grunnur að gervigreindarforritum mun allt sem notað er til að þjálfa gervigreindarlíkanið þitt fara í gegnum úttak þess. Íhugaðu hvernig þú munt tryggja þessi gögn í upphafi til að forðast neikvæðar afleiðingar síðar. Ef þú ert ekki varinn er hætta á að þú stækkar árásarflötinn þinn og skapar vandamál með forritin síðar meir.
Öryggi sem tryggir gagnaheilleika er lykilatriði til að draga úr vísvitandi og óviljandi gagnabrotum. Öryggisáhætta í gervigreindarferlinu getur falið í sér:

  • Gagnaeitrun: Illgjarn gagnasöfn hafa áhrif á niðurstöður og skapa skekkjur
  • Misnotkun á ofskynjunum: Ógnandi aðilar réttlæta ofskynjanir gervigreindar - uppfinningu upplýsinga til að búa til svör - þannig að illgjörn og ólögmæt gagnasöfn upplýsi úttak.

Ef þú ert ekki að þjálfa líkön, þá byrjar gervigreindin þín á að velja líkan til að framkvæma verkefni. Í slíkum tilfellum viltu kanna hvernig skapararnir bjuggu til og tryggðu líkanið þar sem það gegnir hlutverki í ályktunum.

Ályktun er ferlið sem fylgir þjálfun gervigreindar. Því betur sem líkan er þjálfað og því fínstilltara sem það er, því betri verða ályktanirnar — þó að það sé aldrei tryggt að þær séu fullkomnar. Jafnvel vel þjálfaðar líkön geta ofskynjanir.

Öryggi eftir dreifingu
Þegar þú hefur smíðað og sett upp gervigreind þína þarftu að vernda persónuupplýsingar hennar og tryggja aðgang að þeim. Samhliða ráðleggingum sem við höfum þegar gefið í þessari grein, þar á meðal að framfylgja táknum fyrir hvern notanda og takmarka hraða, ættir þú einnig að íhuga:

  • Stjórnun kvóta: Notar takmarkanir til að koma í veg fyrir að API lyklar notenda verði í hættu og deilt
  • Að loka fyrir ákveðin sjálfvirk kerfisnúmer (ASN): Kemur í veg fyrir að árásarmenn sendi of mikið magn af umferð til forrita.
  • Að gera biðstofur mögulegar eða notendur krefjandi: Gerir beiðnir erfiðari eða tímafrekari og eyðileggur hagkvæmni fyrir árásarmenn.
  • Að byggja upp og staðfesta API-skema: Lýsir fyrirhugaðri notkun með því að bera kennsl á og skrá alla API-endapunkta og telur síðan upp allar sértækar breytur og gerðartakmarkanir.
  • Að greina dýpt og flækjustig fyrirspurna: Hjálpar til við að verjast beinum DoS-árásum og villum forritara, halda uppruna þínum heilbrigðum og afhenda notendum beiðnir eins og búist var við
  • Að byggja upp aga í kringum aðgang byggðan á táknum: Verndar gegn aðgangsskerðingu þegar tákn staðfestast í millihugbúnaðarlaginu eða API Gateway

Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (16)

Öflug ógnarvörn í öllum GenAI tilraunum þínum
Frá innleiðingu til framkvæmdar, hvert einastatagTilraunasvið GenAI ætti að þróast með lágmarks eða þolanlegri áhættu. Með þeirri þekkingu sem aflað er í þessari grein, hvort sem fyrirtæki þitt notar, byggir upp eða hyggst nota gervigreind í einhverri mynd í framtíðinni, hefur þú vald til að stjórna stafrænu umhverfi þínu.
Þótt það sé eðlilegt að vera hikandi þegar kemur að því að tileinka sér nýja möguleika, þá eru til úrræði sem veita þér sjálfstraustið til að prófa gervigreind á öruggan hátt. Af þessum úrræðum þarf fyrirtæki mest í dag á tengivef að halda sem tengir allt sem tengist upplýsingatækni og öryggi. Tengivefur sem virkar sem sameiginlegur þráður sem dregur úr flækjustigi með því að vinna með öllu í umhverfinu, er aðgengilegur alls staðar og sinnir nauðsynlegum öryggis-, net- og þróunarhlutverkum.

Með bandvef munt þú treysta á fjölbreytt notkunartilvik, þar á meðal:

  • Að fylgja reglugerðum með getu til að greina og stjórna flutningi gagna sem falla undir reglugerðir
  • Að endurheimta yfirsýn og stjórn á viðkvæmum gögnum í SaaS forritum, skuggaupplýsingatækni og nýjum gervigreindartólum
  • Að tryggja kóða forritara með því að greina og loka fyrir frumkóða í upphleðslum og niðurhalum. Auk þess að koma í veg fyrir, finna og laga rangstillingar í SaaS forritum og skýjaþjónustu, þar á meðal kóðageymslum.

Þar sem gervigreind heldur áfram að þróast er óvissan vís. Þess vegna er svo gagnlegt að hafa stöðugleikaafl eins og Cloudflare.

Verndaðu þig gegn áhættum gervigreindar í þremur gerðum LLM-námsbrauta
Áhætta sem gervigreind skapar fyrir fyrirtæki er mismunandi eftir notkun. Það er mikilvægt að skilja hina ýmsu áhættu sem fylgir notkun og þróun stórra tungumálamódela (LLM) og taka síðan virkan þátt í öllum LLM innleiðingum.

Tegund LLM Lykiláhætta

  • Innri aðgangur að viðkvæmum gögnum og hugverkarétti
  • Áhætta á orðspori vöru
  • Leki á viðkvæmum gögnum frá almenningi

Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (17)Stærð, auðveld notkun og óaðfinnanleg samþætting
Tengimöguleikar Cloudflare í skýinu gefa þér stjórn og bæta yfirsýn og öryggi — sem gerir tilraunir með gervigreind öruggar og stigstærðar. Enn betra er að þjónusta okkar styrkir allt og tryggir að ekkert komi til málamiðlana.
milli notendaupplifunar og öryggis.
Þar sem flestar stofnanir munu annað hvort eingöngu nota gervigreind eða nota og byggja, þýðir notkun Cloudflare að aldrei tefjast gervigreindarverkefna.

  • Alþjóðlegt netkerfi okkar gerir þér kleift að stækka og framfylgja eftirliti hratt hvar sem þú þarft á þeim að halda
  • Notkunarþægindi okkar gera það einfalt að setja upp og stjórna stefnum fyrir notkun gervigreindar.
  • Ein forritanleg arkitektúr gerir þér kleift að bæta öryggi við forritin sem þú ert að smíða, án þess að raska því hvernig notendur þínir nota gervigreind

Tengimöguleikar Cloudflare vernda alla þætti gervigreindartilrauna þinna, sérstaklega:

  • Þjónusta okkar, sem byggir á núlltrausti og öruggri aðgangsþjónustu (SASE), hjálpar til við að draga úr áhættu í því hvernig starfsfólk þitt notar gervigreindartól frá þriðja aðila.
  • Þróunarvettvangur okkar hjálpar fyrirtækinu þínu að smíða sín eigin gervigreindartól og líkön á öruggan og skilvirkan hátt
  • Til að tryggja öryggi með gervigreind nýtir vettvangur okkar sér aðferðir gervigreindar og vélanáms til að byggja upp ógnargreind sem síðan er notuð til að vernda fyrirtæki í öllum tilraunum sínum með gervigreind.

Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (18)

Næstu skref
Frá því að vernda hvernig fyrirtækið þitt notar gervigreind til að verja gervigreindarforritin sem þú býrð til, þá sér Cloudflare fyrir gervigreind fyrir þig. Með þjónustu okkar geturðu innleitt nýja möguleika í hvaða röð sem er með ótakmörkuðum samvirkni og sveigjanlegum samþættingum.Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (12)

Fyrir frekari upplýsingar, heimsækja cloudflare.com

Cloud-flare-Tryggir öruggar starfsvenjur í gervigreind (11)

Þetta skjal er eingöngu ætlað til upplýsinga og er eign Cloudflare. Þetta skjal skapar engar skuldbindingar eða tryggingar frá Cloudflare eða tengdum aðilum þess gagnvart þér. Þú berð ábyrgð á að meta sjálfstætt upplýsingarnar í þessu skjali. Upplýsingarnar í þessu skjali geta breyst og eru ekki ætlaðar að vera tæmandi eða innihalda allar upplýsingar sem þú gætir þurft. Ábyrgð og skuldbindingar Cloudflare gagnvart viðskiptavinum sínum eru stjórnaðar af sérstökum samningum og þetta skjal er ekki hluti af né breytir neinum samningi milli Cloudflare og viðskiptavina þess. Þjónusta Cloudflare er veitt „eins og hún er“ án ábyrgða, ​​yfirlýsinga eða skilyrða af neinu tagi, hvort sem er skýr eða óskýr.
© 2024 Cloudflare, Inc. Allur réttur áskilinn. CLOUDFLARE® og Cloudflare merkið eru vörumerki Cloudflare. Öll önnur fyrirtækja- og vöruheiti og merki geta verið vörumerki viðkomandi fyrirtækja sem þau tengjast.

Cloudflare | Að tryggja öruggar starfsvenjur í gervigreind1 888 99 FLARE | enterprise@cloudflare.com | Cloudflare.com
ÚTGÁFA: BDES-6307.2024ÁGÚST 1129

Algengar spurningar

  • Sp.: Hvers vegna er mikilvægt að tryggja öryggi tilrauna með GenAI?
    A: Örugg notkun GenAI tilrauna er mikilvæg til að koma í veg fyrir gagnaleka, misnotkun notenda og illgjarn hegðun sem getur haft áhrif á viðkvæmar upplýsingar og truflað starfsemi fyrirtækisins.
  • Sp.: Hvernig geta fyrirtæki bætt öryggi gervigreindar?
    A: Fyrirtæki geta aukið öryggi gervigreindar með því að skilja áhættu, nota virta gervigreindartól, byggja sérsniðnar lausnir með öryggi í huga og innleiða öflugar öryggisráðstafanir til að vernda gervigreindarforrit.

Skjöl / auðlindir

Skýjablossi sem tryggir öruggar starfsvenjur gervigreindar [pdfNotendahandbók
Að tryggja öruggar starfsvenjur í gervigreind, tryggja, öruggar starfsvenjur í gervigreind, starfshættir

Heimildir

Skildu eftir athugasemd

Netfangið þitt verður ekki birt. Nauðsynlegir reitir eru merktir *