生成式 AI 時(shí)代的網(wǎng)絡(luò)安全-了解當(dāng)今的安全環(huán)境在如何變化-2024.08-20正式版-WN8

生成式AI時(shí)代的網(wǎng)絡(luò)安全了解當(dāng)今的安全環(huán)境在如何變化目錄01→簡(jiǎn)介02→網(wǎng)絡(luò)罪犯會(huì)如何使用生成式AI03→AI如何充分發(fā)揮投入網(wǎng)絡(luò)安全的時(shí)間和人才的作用04→保護(hù)84%的高管計(jì)劃優(yōu)先考慮生成式1AI的網(wǎng)絡(luò)安全解決方案。301簡(jiǎn)介網(wǎng)絡(luò)安全領(lǐng)導(dǎo)者正面臨著生成式AI約48%2使用生成式AI已投資于機(jī)器學(xué)習(xí)(ML)等傳統(tǒng)AI解決方案(96%)的網(wǎng)絡(luò)安全領(lǐng)導(dǎo)者可以利用AI用這種科技可能會(huì)在未來(lái)3年內(nèi)在他們的組們可以利用生成式AI工具來(lái)保護(hù)數(shù)據(jù)和用1織中造成安全漏洞。式AI據(jù)泄露到黑客操縱AI執(zhí)行惡意任務(wù)帶來(lái)的各種風(fēng)險(xiǎn)445萬(wàn)948企業(yè)需要降低風(fēng)AI和威脅。3討了攻擊者可能使用生成式AI來(lái)攻擊您的方得生成式AI整個(gè)企業(yè)的AI下一章402網(wǎng)絡(luò)罪犯會(huì)如何使用生成式AI生成式AI可能會(huì)像其可以為企業(yè)提供速度、生成式AI相關(guān)攻擊的主要途徑AI還將提高可能缺乏技術(shù)專長(zhǎng)的攻擊您的組織以在全球范圍內(nèi)發(fā)起惡意網(wǎng)絡(luò)釣魚和惡意軟件活動(dòng)。攻擊您的AI研究人員發(fā)現(xiàn)生成式AI相關(guān)攻擊的兩個(gè)主要途徑。上一章下一章502網(wǎng)絡(luò)罪犯會(huì)如何使用生成式AI攻擊您的組織使用大型語(yǔ)言模型–盡管AI設(shè)計(jì)的網(wǎng)深度偽造的音頻絡(luò)釣魚旨在實(shí)現(xiàn)與人類設(shè)計(jì)的網(wǎng)絡(luò)釣魚相網(wǎng)絡(luò)安全領(lǐng)導(dǎo)者擔(dān)心生成式AI深度偽造音絡(luò)安全專業(yè)人員可能需要通過(guò)一系列個(gè)人之LLM所獲得在線獲得的說(shuō)話者聲音的錄音輸入到LLM的速度和規(guī)?？赡軙?huì)使已經(jīng)面臨持續(xù)人手和增加用戶錯(cuò)誤點(diǎn)擊惡意電子郵件的可能性。4技能短缺的網(wǎng)絡(luò)安全團(tuán)隊(duì)不堪重負(fù)。–目標(biāo)式網(wǎng)絡(luò)釣魚：攻擊者可以使用生成式多層次的網(wǎng)絡(luò)安全提示。AI聊天機(jī)器人來(lái)研究受害者的在線個(gè)人資AI設(shè)計(jì)的網(wǎng)絡(luò)釣魚賬戶支付一張偽造的發(fā)票。AI可以在幾分鐘5內(nèi)創(chuàng)建逼真的網(wǎng)絡(luò)釣魚電子郵件IBM者的語(yǔ)言風(fēng)格。釣魚攻擊方面經(jīng)驗(yàn)豐富的人創(chuàng)建的電子郵件可以挑戰(zhàn)準(zhǔn)備最充分的組織。上一章下一章602網(wǎng)絡(luò)罪犯會(huì)如何使用生成式AI攻擊您的AI黑客罪犯可能會(huì)嘗試攻擊企業(yè)AI對(duì)您的破解您的LLM上是利用您的AI讓您的AI來(lái)對(duì)付您可能是網(wǎng)絡(luò)罪犯的最高愿有了惡意訓(xùn)練數(shù)據(jù)注入AI模型并迫使AI做他們想做的事來(lái)對(duì)您的A用于訓(xùn)練LLMPython和會(huì)讓您的AI成功的攻擊可能是制造虛假信息或?qū)﹃P(guān)鍵基LLM也可以使用這些提示來(lái)繞過(guò)或破解AI模型上攻擊者如6并為您的安全分析師提供錯(cuò)誤的網(wǎng)絡(luò)安全響何操縱LLM研究人員成功地應(yīng)建議。如果您的AI提示多個(gè)LLM：對(duì)您的A–泄露有關(guān)其他用戶的機(jī)密財(cái)務(wù)信息–創(chuàng)建易受攻擊的惡意代碼–提供較差的安全建議上一章下一章751%2023年的AI網(wǎng)2021絡(luò)安全預(yù)算比2021年增加了51%。他們預(yù)計(jì)到20251增加43%。2023年2025上一章下一章803AI如何充分發(fā)揮投入網(wǎng)絡(luò)安全的時(shí)間和人才的作用(32%)的安全運(yùn)營(yíng)中心(SOC)分析師的時(shí)間都花在調(diào)查和驗(yàn)證最終74700,000個(gè)團(tuán)隊(duì)成員在正常的一天中7只能審查他們應(yīng)審查的警報(bào)的一半(49%)。問(wèn)題都使網(wǎng)絡(luò)安全領(lǐng)導(dǎo)者及其團(tuán)隊(duì)更難保護(hù)數(shù)千種威脅。數(shù)分析師(81%)7減慢了工作速度。上一章下一章903AI如何充分發(fā)揮投入網(wǎng)絡(luò)安全的時(shí)間和人才的作用AIML來(lái)幫助SOC的優(yōu)點(diǎn)是公認(rèn)的：–廣泛采用AI和自動(dòng)化的組織在發(fā)現(xiàn)并遏制3泄露方面耗費(fèi)的時(shí)間平均縮短了108天。–領(lǐng)先的AI采用者正在監(jiān)控95%的網(wǎng)絡(luò)通8將檢測(cè)時(shí)間縮短了三分之一。–廣泛采用AI和自動(dòng)化的組織節(jié)省了近1803萬(wàn)美元。上一章下一章10userid:139428,docid:170359,date:2024-08-06,03AI如何充分發(fā)揮投入網(wǎng)絡(luò)安全的時(shí)間和人才的作用生成式AI作為網(wǎng)絡(luò)安全的增力因素2023AI在其組根據(jù)IBM商業(yè)價(jià)值研究院關(guān)于生成式AI在網(wǎng)AI開(kāi)始改變企業(yè)的幾乎64%的高管已將網(wǎng)絡(luò)安9全確定為生成式AI84%的人表示他們計(jì)劃優(yōu)先考慮生成式AI網(wǎng)絡(luò)安全1接下來(lái)的12個(gè)月將改變這一切。64%方案。的高管已將網(wǎng)絡(luò)安全確定為生成式AI用例的首要任務(wù)。上一章下一章1103AI如何充分發(fā)揮投入網(wǎng)絡(luò)安全的時(shí)間和人才的作用生成式AI–自動(dòng)化報(bào)告：這些工具可以創(chuàng)建安全案例和–整理威脅情報(bào)：生成式AI工具可以解釋和多個(gè)方面最大限度地利用安全團(tuán)隊(duì)的時(shí)間和AI可以代表分析師管理和自動(dòng)據(jù)他們的技術(shù)專長(zhǎng)水平和感興趣的領(lǐng)域進(jìn)AI還將能夠?qū)W習(xí)和創(chuàng)建主行定制。絡(luò)安全的更具戰(zhàn)略意義的方面。–加速威脅搜尋：這些工具自動(dòng)生成搜索以檢生成式AI還可以通過(guò)簡(jiǎn)化復(fù)雜的技術(shù)性內(nèi)容代碼。響應(yīng)速度。更容易地完成更具挑戰(zhàn)性的任務(wù)。–解釋機(jī)器生成的數(shù)據(jù)：為了幫助分析師快速您在尋找生成式AI解決方案以在短期內(nèi)增強(qiáng)分析師的調(diào)查速度并降低了新員工的技術(shù)壁壘。上一章下一章1204保護(hù)LLM為企業(yè)用戶提供的速度和易用性在大規(guī)對(duì)組織的潛在影響和分析師使用生成式AI來(lái)幫助創(chuàng)建代碼和開(kāi)倉(cāng)促的數(shù)據(jù)安全實(shí)踐AI可能沒(méi)有接受過(guò)安全代碼和實(shí)踐訓(xùn)練的風(fēng)險(xiǎn)。軟件供應(yīng)鏈風(fēng)險(xiǎn)幻覺(jué)數(shù)據(jù)泄露黑匣效應(yīng)上一章1304保護(hù)倉(cāng)促的數(shù)據(jù)安全實(shí)踐軟件供應(yīng)鏈風(fēng)險(xiǎn)幻覺(jué)企業(yè)急于使用使用LLM生成的代碼構(gòu)建的軟件有包含錯(cuò)誤這些代碼通過(guò)從供應(yīng)商那里購(gòu)買的開(kāi)源代碼制。和潛在可利用的軟件缺陷可能會(huì)造成新的風(fēng)AI險(xiǎn)暴露水平。AI工程師應(yīng)盡可能具體地給出AI模型不得不做出假設(shè)或在缺LLM出質(zhì)量。上一章1404保護(hù)數(shù)據(jù)泄露黑匣效應(yīng)如果沒(méi)有對(duì)第三方AI引擎進(jìn)行適當(dāng)?shù)谋O(jiān)督和部分AIAI解決方案的數(shù)據(jù)分割或保留策能會(huì)暴露敏感信息并削弱模型性能。AI何以及為什么產(chǎn)生其所產(chǎn)生的結(jié)果。上一章1504保護(hù)AI框架的安全性構(gòu)建值得信賴的AI隨著采用AIAI及其所基于的數(shù)據(jù)集的框架對(duì)于企業(yè)級(jí)AI安全團(tuán)隊(duì)分享的最佳治理和技術(shù)實(shí)踐。1604保護(hù)保護(hù)數(shù)據(jù)保護(hù)模型確保使用安全保護(hù)AI略和訪問(wèn)控制來(lái)保護(hù)AI模型開(kāi)發(fā)。AI模型的使–使用數(shù)據(jù)發(fā)現(xiàn)和分類來(lái)檢測(cè)訓(xùn)練或微調(diào)中用安全。使用的敏感數(shù)據(jù)。–持續(xù)掃描AI和ML–件和損壞。–據(jù)安全控制。–發(fā)現(xiàn)并強(qiáng)化API和插件與第三方模型的集據(jù)或不當(dāng)內(nèi)容的輸出。–成。–實(shí)施AI序編程接口(API)防止敏感個(gè)人信息–圍繞ML于AI個(gè)人身份信息(PII)和受監(jiān)管的數(shù)據(jù)泄露。(RBAC)。型竊取。–開(kāi)受感染的模型。上一章1704保護(hù)保護(hù)基礎(chǔ)架構(gòu)建立AI治理–在底層AI基礎(chǔ)架構(gòu)中擴(kuò)展現(xiàn)有的網(wǎng)絡(luò)安全策構(gòu)建或購(gòu)買值得信賴的AI需要具備AI治理規(guī)的模型。AI活–自動(dòng)記錄模型資料以支持審計(jì)。––道的來(lái)源。德問(wèn)題的能力。性訪問(wèn)AI的第一道防線。–利用現(xiàn)有專業(yè)知識(shí)來(lái)優(yōu)化分布式環(huán)境中的–AI–圍繞AI–加密以及入侵檢測(cè)和防御。重新訓(xùn)練模型。–投資專門為保護(hù)AI而設(shè)計(jì)的新安全防御措施。上一章1804與IBM論AI驅(qū)動(dòng)解決方案如何能提供幫助。預(yù)約咨詢會(huì)議了解IBM如何在其安全解決方案中使用AI→上一章191.Whenit?ghtwith?CopyrightIBM2023以上所有引用或描述的客戶實(shí)例的展示取決于部分客戶商業(yè)價(jià)值研究使用IBM年。環(huán)境成本和性能特征會(huì)因具體客戶配置和情況而有所不2.IBMConsultingunveilsofAIBMConsulting推出生成式AI卓越IBM和驗(yàn)證任何其他產(chǎn)品或程序與IBM產(chǎn)品和程序搭配運(yùn)行年5月25日。NewArmonk,NY105043.ofa年數(shù)據(jù)泄年7月。美國(guó)出品產(chǎn)品根據(jù)其提供時(shí)所依據(jù)的協(xié)議條款和條2023年12月件獲得保證。4.MediaAdvisory:ontheCybersecurity徽標(biāo)和是BusinessIT系統(tǒng)或產(chǎn)品都不應(yīng)被視為完宣布舉行關(guān)于擴(kuò)大國(guó)Machines在美國(guó)和/或其他國(guó)家或地區(qū)的IBM或其會(huì)|年6月16日。商標(biāo)的最新列表可參見(jiàn)可免于或使您的企業(yè)免于受到任何一方惡意或非法行為的影響。5.AIvs.humandeceit:thenewofphishing及所有基于的商標(biāo)和徽標(biāo)都是和/或不Security其附屬公司的商標(biāo)或注冊(cè)商標(biāo)。年10月24日。戶遵循任何法律或法規(guī)。