Gid Itilizatè pou Asire Pratik IA ki An Sekirite nan Cloud Flare

Gid Pratik GenAI Secure AI a bay enfòmasyon ak estrateji pou òganizasyon k ap chèche aplike teknoloji IA an sekirite. Dawn Parzych te ekri gid sa a, li adrese defi sekirite inik ki asosye ak adopsyon GenAI a, li ofri konsèy ak pi bon pratik pou itilize, konstwi ak sekirize solisyon IA sou yon gwo echèl.

Asire pratik IA ki an sekirite
Yon gid pou CISO sou kijan pou kreye yon estrateji IA évolutif

Rezime egzekitif

Byenveni, CISO!
IA se petèt mo ki pi popilè jou sa yo, epi li se tou youn nan pwoblèm ki pi ijan pou kominote sekirite a. Enfliyans li mande atansyon nou, se poutèt sa nou menm nan Cloudflare nou te ekri gid sa a pou ede w reflechi sou eksperimantasyon Entèlijans Atifisyèl Jeneratif (GenAI) an sekirite nan òganizasyon w lan.
Zouti IA yo ap vin pi puisan e pi aksesib rapidman, sa ki debloke opòtinite pou inovasyon nan tout endistri yo. Sepandan, menm jan ak lòt chanjman paradigm, GenAI vini ak defi inik nan sekirite, vi prive ak konfòmite. Adopsyon GenAI toupatou ka deklanche pik itilizasyon enprevi, ka abi itilizatè, konpòtman move, ak pratik IT nan lonbraj ki danjere, tout bagay sa yo ogmante risk vyolasyon done ak flit enfòmasyon sansib.
Pandan adopsyon an ap ogmante nan espas travay ou a, ou bezwen prepare w avèk yon plan GenAI ki enfòme w sou kijan pou w itilize, konstwi, epi sekirize sou yon gwo echèl. Ann diskite sou risk yo ak re-view Konsèy ekip ou a ka itilize pou sekirize GenAI selon nivo matirite ak itilizasyon. Avèk estrateji sa yo, òganizasyon w lan ka kreye yon estrateji GenAI ki adapte ak bezwen biznis la tout pandan l ap pwoteje done ou yo epi asire konfòmite.

Dawn Parzych, Direktè Maketing Pwodwi, Cloudflare

Sekirize eksperimantasyon GenAI

Eskize m pou m di w sa, men istwa Sarah la fini la. Pandan n ap di orevwa ak pèsonaj fiksyon nou an, pandan prediktif ak GenAI ap agrandi, pral gen anpil "Sarah" nan lavi reyèl — chak ap aji kòm yon ewo nan ekip IT ak devlopè, kòm teknisyen biznis, ak anplwaye endividyèl.
Entèlijans atifisyèl (IA) kaptive teknològ yo ak itilizatè òdinè yo san distenksyon, li reveye kiryozite ak brikolaj. Eksperyans sa a nesesè pandan n ap travay pou debloke tout potansyèl IA a. Men, san prekosyon ak baryè, li ka mennen tou nan konpwomi sekirite oswa nan vyolasyon règleman yo.

Pou reyalize balans lan, epi pou konprann ak jere inisyativ IA yo pi efikasman, òganizasyon yo dwe konsidere twa domèn kle:

Sèvi ak IA
Itilizasyon teknoloji IA (pa egzanp ChatGPT, Bard, ak GitHub Copilot) ke vandè twazyèm pati yo ofri pandan y ap pwoteje byen yo (pa egzanp done sansib, pwopriyete entelektyèl, kòd sous, elatriye) epi diminye risk potansyèl yo selon ka itilizasyon an.

Bati IA
Devlope solisyon IA pèsonalize ki adapte ak bezwen espesifik yon òganizasyon (pa egzanp, algoritm propriétaires pou analiz prediktif, kopilòt oswa chatbot ki an kontak ak kliyan, ak sistèm deteksyon menas ki baze sou IA)
Pwoteksyon IA
Pwoteje aplikasyon ak sistèm IA kont move aktè k ap manipile yo pou yo konpòte yo yon fason enprevizib.

Sekirize eksperimantasyon GenAI

Transfòmasyon GenAI: jodi a ak nan lavni
Cham GenAI genyen pou konsomatè yo ak òganizasyon yo mete l sou yon trajektwa adopsyon san parèy. Yon ti gwoup itilizatè avanse te grandi byen vit an pati gras a yon kominote sous louvri aktif ak eksperimantasyon aplikasyon tankou ChatGPT ak Stable Diffusion ki oryante sou konsomatè yo.
Sa itilizatè yo te dekouvri nan tout bagay sa a se ke robo yo pa pral, an reyalite, "ranplase nou".

GenAI mete moun nan pozisyon pou rafine ak ogmante, olye pou yo kreye tout bagay depi nan kòmansman, epi li ka ede biznis yo. ampamelyore efikasite mendèv yo. IA prediktif ofri benefis menm jan an lè li fè li pi fasil pou jwenn aksè nan done pou amelyore pran desizyon, konstwi pwodwi ki pi entelijan, epi pèsonalize eksperyans kliyan, pami yon seri inisyativ.

Jodi a, 59% devlopè yo ap itilize IA nan travay devlopman yo.

Rive nan lane 2026, plis pase 80% nan antrepriz yo pral itilize API, modèl ak/oswa aplikasyon ki pèmèt GenAI deplwaye nan anviwònman pwodiksyon (yon ogmantasyon konpare ak 5% jodi a)2

Rive nan lane 2030, GenAI pral ogmante 50% nan travay travayè konesans yo pou ogmante pwodiktivite oswa amelyore kalite mwayèn travay la (konpare ak <1% jodi a)3

SlashData, “Kijan devlopè yo kominike avèk teknoloji IA yo,” Me 2024

Gartner, “Gid yon CTO sou jaden flè teknoloji IA jeneratif la”, Septanm 2023
Gartner, “Teknoloji émergentes: Apwòch teknolojik kle ki defini IA jeneratif”, Septanm 2023

Sèvi ak GenAI an sekirite

Eksperyans IA a kouvri yon pakèt domèn, soti nan itilizasyon zouti ak sèvis IA ki deja konstwi pou rive nan bati solisyon IA pèsonalize depi nan kòmansman. Pandan ke gen kèk òganizasyon ki ka avanse nan direksyon kreyasyon pwòp modèl ak aplikasyon IA yo, anpil pral rete sou itilizasyon zouti IA twazyèm pati.
Nan ka sa yo, zouti IA twazyèm pati yo kreye nouvo risk paske òganizasyon yo sèlman gen kontwòl dirèk limite sou konfigirasyon sekirite ak vi prive yo.

Anplwaye yo gen anpil chans pou yo itilize zouti IA ki deja egziste pou travay kounye a atravè swit SaaS tankou Microsoft 365, chatbot entegre nan motè rechèch oswa aplikasyon piblik, e menm API.

Òganizasyon yo dwe fè dilijans nesesè pou minimize risk yo, tankou:

Evalye risk sekirite zouti twazyèm pati yo
Adrese enkyetid sou konfidansyalite done yo
Jere depandans (oswa twòp depandans) sou API ekstèn yo
Siveyans vilnerabilite potansyèl yo

Yon ansyenampSa a se lè anplwaye yo itilize sèvis piblik web aplikasyon tankou ChatGPT. Chak enfòmasyon yo antre nan yon envit vin tounen yon moso done ki kite kontwòl yon òganizasyon. Itilizatè yo ka pataje twòp enfòmasyon sansib, konfidansyèl, oswa reglemante — tankou Enfòmasyon Pèsonèl Idantifyab (PII), done finansye, pwopriyete entelektyèl, ak kòd sous. E menm si yo pa pataje enfòmasyon sansib eksplisit, li posib pou rasanble kontèks la nan enfòmasyon yo antre pou dedwi done sansib.
Pou pwoteksyon, anplwaye yo ka aktive yon paramèt pou anpeche enfòmasyon yo antrene modèl la pi lwen, men yo dwe fè sa manyèlman. Pou asire sekirite, òganizasyon yo bezwen mwayen pou anpeche moun antre done prive.

Prepare pou konsekans sekirite IA yo

Ekspozisyon Done
Nan ki pwen itilizatè yo ap pataje done sansib ak sèvis entèlijans atifisyèl ekstèn yo yon fason ki pa kòrèk? Èske teknik anonimizasyon/pseudonimizasyon yo sifi?

Risk API yo
Ki jan ou pral adrese vilnerabilite ki nan API twazyèm pati yo ki ta ka pòtay potansyèl pou atakè yo?

Sistèm Bwat Nwa
Ki pwosesis pou pran desizyon nan modèl IA ekstèn yo ki ta ka prezante risk inatandi?

Jesyon Risk Vandè
Ki sa ou konnen sou pratik sekirite founisè entèlijans atifisyèl twazyèm pati ou yo? Pi enpòtan toujou, kisa ou pa konnen?

Etap pou defann konsomasyon IA

Jere gouvènans ak risk
- Devlope règleman sou kijan e ki lè pou itilize IA, tankou ki enfòmasyon òganizasyon an pèmèt itilizatè yo pataje ak GenAI, direktiv kontwòl aksè, egzijans konfòmite, ak kijan pou rapòte vyolasyon yo.
- Fè yon evalyasyon enpak pou rasanble enfòmasyon, idantifye epi mezire benefis ak risk ki genyen nan itilizasyon IA.
Ogmante vizibilite ak kontwòl pou sekirite ak vi prive
- Anrejistre tout koneksyon yo, tankou koneksyon ak aplikasyon IA yo, pou kontwole aktivite itilizatè yo, itilizasyon zouti IA yo, ak modèl aksè done yo san rete pou detekte anomali.
- Dekouvri ki kalite IT nan lonbraj ki egziste (ki gen ladan zouti IA)—epi pran desizyon pou apwouve, bloke oswa ajoute plis kontwòl.
- Eskane konfigirasyon aplikasyon SaaS yo pou wè si gen risk sekirite potansyèl (pa egzanp, pèmisyon OAuth yo bay nan men aplikasyon apwouve yo pou aplikasyon ki fonksyone ak IA san otorizasyon, sa ka mete done yo an danje).
Egzamine ki done yo antre epi sòti nan zouti IA yo epi filtre tout bagay ki ta ka konpwomèt pwopriyete entelektyèl, afekte konfidansyalite oswa vyole restriksyon sou dwa otè.
- Aplike kontwòl sekirite pou fason itilizatè yo ka kominike avèk zouti IA yo (pa egzanp, sispann telechajman, anpeche kopye/kole, epi chèche epi bloke done sansib/propriyetè yo).
- Mete mezi pwoteksyon an plas pou anpeche robo IA yo grate ou. websit
- Bloke zouti IA yo nèt sèlman si pa gen okenn lòt kontwòl posib. Jan nou konnen, itilizatè yo ap jwenn solisyon, ki mete sekirite deyò kontwòl ou.

Kontwole aksè a aplikasyon ak enfrastrikti IA yo
- Asire w ke chak itilizatè ak aparèy ki jwenn aksè nan zouti IA yo sibi yon verifikasyon idantite strik pou detèmine ki moun ki gen dwa itilize zouti IA yo.
- Aplike kontwòl aksè Zero Trust ki baze sou idantite. Aplike privilèj minimòm pou limite domaj potansyèl ki soti nan kont konpwomèt oswa menas entèn.

Senplifye depans ak efikasite operasyonèl
- Konprann kijan moun yo ap itilize aplikasyon IA ak analiz ak koneksyon pou ou ka gen kontwòl sou limitasyon vitès, kachman, osi byen ke re-esè demann, ak modèl fallback kòm echèl itilizasyon.

Pwoteje sa w ap bati a

Antrene modèl IA ou a
Pwosesis devlopman IA yo ap elaji spectre vilnerabilite a. Men, avèk eksperyans nan sekirize depi nan kòmansman an ak pandan tout pwosesis devlopman an, nou gen yon pi bon konpreyansyon sou sa ki mennen nan siksè. Pou sekirite IA, kote natirèl pou kòmanse a se nan modèl ou a.
Kòm baz aplikasyon IA yo, tout sa ki itilize pou antrene modèl IA ou a ap koule nan rezilta li yo. Reflechi sou kijan ou pral pwoteje done sa yo okòmansman pou evite konsekans negatif pita. Si ou pa pwoteje yo, ou riske elaji sifas atak ou a epi kreye pwoblèm aplikasyon pita.
Sekirite ki asire entegrite done yo esansyèl pou diminye konpwomi done volontè ak aksidantèl. Risk sekirite nan pwosesis entèlijans atifisyèl la ka gen ladan:

Anpwazònman done: Ansanm done move enfliyanse rezilta yo epi kreye patipri.
Abi alisinasyon: Aktè menas yo lejitimize alisinasyon IA yo — envansyon enfòmasyon pou jenere repons — pou ansanm done move ak ilejitim yo ka enfòme rezilta yo.

Yon lòt bò, si w pa ap antrene modèl, entèlijans atifisyèl entèn ou an ta kòmanse avèk seleksyon yon modèl pou fè travay yo. Nan ka sa yo, ou ta vle eksplore kijan kreyatè yo te fè epi sekirize modèl la paske li jwe yon wòl nan dediksyon.

Enferans se pwosesis ki swiv fòmasyon IA a. Plis yon modèl byen antrene, epi plis li byen ajiste, se pi bon konklizyon yo ap ye — byenke yo pa janm garanti ke yo pral pafè. Menm modèl ki byen antrene yo ka fè alizinasyon.

Sekirite apre deplwaman
Yon fwa ou fin konstwi epi deplwaye entèlijans atifisyèl (IA) entèn ou an, ou pral bezwen pwoteje done prive li yo epi sekirize aksè a yo. Ansanm ak rekòmandasyon nou te deja fè nan dokiman sa a, tankou aplike jeton pou chak itilizatè ak limitasyon vitès, ou ta dwe konsidere tou:

Jere kota: Itilize limit pou pwoteje kont konpwomèt kle API itilizatè yo epi pou yo pa pataje yo.
Bloke sèten nimewo sistèm otonòm (ASN): Anpeche atakè yo voye yon kantite trafik akablan nan aplikasyon yo.
Pèmèt sal datant oswa itilizatè ki difisil pou jwenn: Rann demann yo pi difisil oswa pran plis tan, sa ki kraze ekonomi pou atakè yo.

Bati epi valide yon schèma API: Li dekri sa itilizasyon prevwa a ye lè li idantifye epi kataloge tout pwen final API yo, epi li bay lis tout paramèt espesifik yo ak limit kalite yo.
Analize pwofondè ak konpleksite demann yo: Ede pwoteje kont atak DoS dirèk ak erè devlopè yo, kenbe orijin ou an bon eta epi sèvi demann yo bay itilizatè ou yo jan yo espere a.
Bati disiplin otou aksè ki baze sou jeton: Pwoteje kont aksè konpwomèt lè jeton yo valide nan kouch middleware la oswa API Gateway la.

Pwoteksyon solid kont menas atravè eksperimantasyon GenAI ou a
Depi adopsyon rive nan aplikasyon, chak stagPati nan spectre eksperimantasyon GenAI a ta dwe pwogrese avèk yon risk minimòm oswa tolere. Avèk konesans ki soti nan dokiman sa a, kit òganizasyon w lan ap itilize, devlope, oswa planifye pou itilize IA nan yon fòm oswa yon lòt nan lavni, ou gen pouvwa pou kontwole anviwònman dijital ou a.
Malgre li natirèl pou nou ezite lè n ap adopte nouvo kapasite, gen resous ki egziste pou ba nou konfyans pou nou fè eksperyans ak IA san danje. Pami resous sa yo, sa òganizasyon yo pi bezwen jodi a se yon tisi konjonktif pou tout bagay ki gen rapò ak IT ak sekirite. Yon tisi ki aji kòm yon fil komen ki diminye konpleksite lè l ap travay avèk tout bagay ki nan anviwònman an, ki disponib tout kote, epi ki fè fonksyon sekirite, rezo ak devlopman ki nesesè yo.

Avèk tisi konjonktif la, ou pral gen konfyans nan yon varyete ka itilizasyon, tankou:

Konfòme avèk règleman yo avèk kapasite pou detekte epi kontwole mouvman done reglemante yo
Reprann vizibilite ak kontwòl pou done sansib atravè aplikasyon SaaS, IT nan lonbraj, ak zouti IA émergentes yo.
Pwoteje kòd devlopè a lè w detekte epi bloke kòd sous la nan telechajman ak telechajman. Anplis, anpeche, jwenn epi korije move konfigirasyon nan aplikasyon SaaS ak sèvis nwaj yo, tankou depo kòd yo.

Pandan IA ap kontinye evolye, ensètitid la sèten. Se poutèt sa li tèlman benefik pou gen yon fòs estabilize tankou Cloudflare.

Pwoteje kont risk IA atravè twa kalite LLM yo
Selon itilizasyon an, nivo ekspozisyon risk ke IA kreye pou yon òganizasyon ap varye. Li enpòtan pou konprann divès risk ki asosye ak itilizasyon ak devlopman Gwo Modèl Langaj (LLM), epi answit patisipe aktivman nan nenpòt deplwaman LLM.

Kalite LLM Risk kle

Aksè entèn a done sansib ak pwopriyete entelektyèl
Risk repitasyon pwodwi
Flit done sansib piblik

Echèl, fasilite pou itilize, ak entegrasyon san pwoblèm
Nwaj koneksyon Cloudflare a mete kontwòl nan men ou epi amelyore vizibilite ak sekirite — sa ki fè eksperimantasyon IA an sekirite epi évolutif. Pi bon toujou, sèvis nou yo ranfòse tout bagay, pou asire ke pa gen okenn konpwomi.
ant eksperyans itilizatè ak sekirite.
Etandone pifò òganizasyon swa pral sèlman itilize IA oswa pral itilize epi konstwi, itilizasyon Cloudflare vle di pa janm bloke sou pwojè IA.

Rezo mondyal nou an pèmèt ou ogmante epi aplike kontwòl yo rapidman kèlkeswa kote ou bezwen yo.
Fasilite itilizasyon nou an fè li senp pou deplwaye ak jere règleman sou fason itilizatè ou yo konsome IA.

Yon achitekti pwogramab pèmèt ou ajoute sekirite nan aplikasyon w ap bati yo, san ou pa deranje fason itilizatè ou yo itilize entèlijans atifisyèl.

Nwaj konektivite Cloudflare a pwoteje tout aspè nan eksperimantasyon IA ou a, espesyalman:

Sèvis Zero Trust & Secure Access Service Edge (SASE) nou yo ede diminye risk nan fason anplwaye ou yo itilize zouti IA twazyèm pati yo.

Platfòm devlopè nou an ede òganizasyon w lan bati pwòp zouti ak modèl IA ou yo san danje epi avèk efikasite.
Pou sekirize ak IA, platfòm nou an itilize teknik IA ak aprantisaj otomatik pou konstwi entèlijans menas ke nou itilize apre sa pou pwoteje òganizasyon yo atravè eksperyans IA yo.

Pwochen etap yo
Depi pwoteje fason òganizasyon w lan itilize IA rive nan defann aplikasyon IA w ap bati yo, Cloudflare pou IA a gen tout sa w bezwen. Avèk sèvis nou yo, ou ka adopte nouvo kapasite nan nenpòt lòd avèk entèoperabilite san limit ak entegrasyon fleksib.

Pou plis enfòmasyon, vizite cloudflare.com

Dokiman sa a se pou rezon enfòmasyon sèlman epi li se pwopriyete Cloudflare. Dokiman sa a pa kreye okenn angajman oswa asirans nan men Cloudflare oswa afilye li yo anvè ou. Ou responsab pou fè pwòp evalyasyon endepandan ou sou enfòmasyon ki nan dokiman sa a. Enfòmasyon ki nan dokiman sa a ka chanje epi li pa pretann li enklizif oswa gen tout enfòmasyon ou ka bezwen yo. Responsablite ak obligasyon Cloudflare anvè kliyan li yo kontwole pa akò separe, epi dokiman sa a pa fè pati, ni li pa modifye, okenn akò ant Cloudflare ak kliyan li yo. Sèvis Cloudflare yo bay "jan yo ye a" san garanti, deklarasyon, oswa kondisyon okenn kalite, kit se eksprime oswa enplisit.
© 2024 Cloudflare, Inc. Tout dwa rezève. CLOUDFLARE® ak logo Cloudflare a se mak komèsyal Cloudflare. Tout lòt non konpayi ak pwodwi ak logo yo ka mak komèsyal konpayi respektif yo asosye avèk yo.

Cloudflare | Asire pratik IA ki an sekirite1 888 99 FLARE | enterprise@cloudflare.com | Cloudflare.com
REV:BDES-6307.2024AUG1129

Kesyon yo poze souvan

K: Poukisa li enpòtan pou garanti eksperimantasyon GenAI a?
A: Li enpòtan anpil pou pwoteje eksperimantasyon GenAI a pou anpeche vyolasyon done, abi itilizatè, ak konpòtman move ki ka konpwomèt enfòmasyon sansib epi deranje operasyon òganizasyon an.

K: Kijan òganizasyon yo ka amelyore sekirite IA a?
A: Òganizasyon yo ka amelyore sekirite IA lè yo konprann risk yo, lè yo itilize zouti IA ki gen bon repitasyon, lè yo kreye solisyon pèsonalize ak sekirite nan tèt, epi lè yo aplike mezi sekirite solid pou pwoteje aplikasyon IA yo.