科技的發(fā)展常常以浪潮的形式出現(xiàn)。信息技術領域,“后浪”迭起,“C位”流轉,但即便那些在時代的風口處在“浪潮之巔”的,也無法繞過永恒的課題:安全。
生成式AI(AIGC)近年熱度非常,在啟發(fā)“千行百業(yè)”的企業(yè)進行新一輪業(yè)務創(chuàng)新的同時,也在安全層面帶來了全新的挑戰(zhàn)。并且,由于生成式 AI依賴大量數(shù)據(jù)和模型、流程環(huán)節(jié)多維、細節(jié)豐富,讓這些安全挑戰(zhàn)復雜多樣且變化多端。將安全合規(guī)“武裝到牙齒”,伴隨生成式AI的高速發(fā)展,變得更為緊要。
在“安全為先”的理念下,亞馬遜云科技既提供了一系列的技術、服務和工具幫助更多企業(yè)充分釋放生成式AI的潛力,創(chuàng)新或者應用生成式AI尋求增量;更將確保安全合規(guī)作為基礎,將其生成式AI的各種安全相關工具與理念,涵蓋數(shù)據(jù)、模型以及應用各個環(huán)節(jié);再進一步,亞馬遜云科技還將AI以及生成式 AI技術應用于其安全及合規(guī)服務中,以更智能的安全、合規(guī)服務應對復雜的安全威脅、提高合規(guī)效率。
前不久的“2023亞馬遜云科技re:Inforce中國站”,亞馬遜云科技,就將“生成式AI的安全挑戰(zhàn)及對策”以及“如何將生成式AI應用于安全實踐”做了全新呈現(xiàn)。
用“冰山思維”系統(tǒng)性審視?生成式AI安全
通過智能客服優(yōu)化客戶體驗,通過自動生成代碼提高技術團隊生產(chǎn)力,通過文字生成圖片的方式加速內容生成,通過自動化文檔處理提高整個組織運營效率……這是各行各業(yè)、各個部門中的不少人正在經(jīng)歷的日常,代表著生成式AI持續(xù)被應用到企業(yè)運營的各個環(huán)節(jié),提高效率、優(yōu)化流程,甚至協(xié)助創(chuàng)新。
即便如此,生成式AI就像洋面上的一座“冰山”,應用它所帶來的便捷與高效,依舊常常只是龐大山體顯露的小小一角。
亞馬遜云科技大中華區(qū)解決方案架構部總監(jiān)代聞表示:
“生成式AI的需求越來越多從業(yè)務部門提出,不只是技術部門進行創(chuàng)新的工具或者是平臺,而是變成了業(yè)務增強競爭力的一個核心手段。也正是因為生成式AI應用場景的井噴,業(yè)務部門需求如此旺盛,目前給企業(yè)的技術部門帶來了前所未有的挑戰(zhàn)。”
“從構建開始,我們就需要把安全作為企業(yè)AI戰(zhàn)略發(fā)展中的核心環(huán)節(jié)。?然而,我們應該從哪里開始?依靠一個什么樣的框架?這就要求我們不能只是關注AI應用本身,而是從一個全棧的角度,去全面審視應用、模型、數(shù)據(jù)、基礎架構的安全規(guī)范、技術策略和平臺工具。?生成式AI應用就像是海面上的冰山,我們想要在企業(yè)里安全地駕馭這項新技術,還需要關注海面下的冰川。??”
也正是如此,“re:Inforce2023”整體探討了“數(shù)據(jù)和模型的安全”、“應用安全”、“全球合規(guī)”三個大議題。
數(shù)據(jù)和模型安全,構建AI應用的關鍵
代聞表示:生成式AI的井噴對一個企業(yè)的數(shù)據(jù)平臺有了更高的要求。要訓練構建一個生成式AI的模型,需要大量的非結構化數(shù)據(jù)。如果一個企業(yè)直接去應用一個做好的模型進行微調,這時候又需要有高質量的專業(yè)化的數(shù)據(jù)來微調這個模型。這兩個方面的要求目前對于大多數(shù)企業(yè)的數(shù)據(jù)平臺都是提出了更高的要求。
先看數(shù)據(jù)安全。亞馬遜云科技提供了貫穿生成式AI全周期的數(shù)據(jù)治理,從數(shù)據(jù)源的獲取到數(shù)據(jù)的存儲和查詢,再到將數(shù)據(jù)傳輸給 AI平臺進行模型的訓練、調優(yōu)和推理,以及全面實施數(shù)據(jù)分類和治理。通過提供一整套的解決方案、產(chǎn)品服務和實踐,全面保護存儲中、傳輸中以及使用中的數(shù)據(jù)。
通過實施安全密鑰管理、靜態(tài)數(shù)據(jù)加密、強制實施訪問控制、利用機制限制數(shù)據(jù)訪問,保護存儲中的數(shù)據(jù)。?本次大會上,推出了敏感數(shù)據(jù)保護解決方案,可實現(xiàn)對企業(yè)敏感數(shù)據(jù)的自動化發(fā)現(xiàn)并在統(tǒng)一平臺管理數(shù)據(jù)資產(chǎn)。該解決方案允許客戶創(chuàng)建數(shù)據(jù)目錄、使用內置或定制數(shù)據(jù)識別規(guī)則定義敏感數(shù)據(jù)類型,該方案利用機器學習、模式匹配的方式自動識別敏感數(shù)據(jù),并提供可視化面板,幫助客戶更輕松地對敏感數(shù)據(jù)進行管理和保護。
從實施安全密鑰和證書管理、執(zhí)行傳輸中加密、自動檢測意外數(shù)據(jù)訪問、對網(wǎng)絡通信進行身份驗證四個方面對傳輸中的數(shù)據(jù)進行保護。
從身份認證、隔離環(huán)境、多方協(xié)作以及數(shù)據(jù)共享四個方面,進行使用中的數(shù)據(jù)保護。
再看模型安全。模型訓練后進入生產(chǎn)環(huán)境的安全防護同樣重要。針對大模型,幾個月前,亞馬遜云科技宣布推出Amazon Bedrock和多種生成式AI服務和功能,以幫助客戶構建和擴展自己的生成式AI應用程序。?
安全方面,Amazon Bedrock使用組織內部的數(shù)據(jù)來訓練大模型,同時又保證:首先,背后給大模型做了私有拷貝,這個拷貝只是給客戶服務,不會再跟其他任何的大模型共享。二是訓練數(shù)據(jù)只是在客戶賬戶里來幫助工作,Amazon Bedrock不會拿任何用戶的數(shù)據(jù)來增進自己的模型。對企業(yè)采用大模型時關于數(shù)據(jù)主權、數(shù)據(jù)保護方面的擔心,給了一個完善的答案。
同時,它能全面地使用亞馬遜云科技提供的安全功能,Amazon KMS、Amazon IAM等可以完善地跟Amazon Bedrock集成,集成以后可以很好地管理加密、權限控制和所有行為的日志。
應用安全,實現(xiàn)AI價值的保障
考慮到應用“創(chuàng)造價值”的屬性,其安全必然是實現(xiàn)AI價值的保障。從防護方面,有兩個階段,第一個階段是開發(fā)流程中的安全,第二個階段是生產(chǎn)過程中的安全。
開發(fā)安全應該貫穿到從開發(fā)到持續(xù)集成、持續(xù)部署再到投產(chǎn)、監(jiān)控以及整個反饋的過程里,也就是要延伸到整個開發(fā)生命周期?;谶@種趨勢,新推出了兩項服務:
Amazon CodeWhisperer,AI編程助手,可根據(jù)開發(fā)者指令利用內嵌的基礎模型實時生成代碼建議,內置了代碼安全掃描功能,可幫助開發(fā)者查找難以檢測的漏洞并提出補救建議;Amazon CodeGuru Security,可以掃描代碼,在代碼里面尋找漏洞,還能夠在CICD通過人工智能和機器學習的方式自動降低誤報率,同時基于API設計,能夠非常方便地集成到開發(fā)工作流里邊去,實現(xiàn)集中化和擴展性。
運行投產(chǎn)安全則綜合涉及零信任、威脅識別、攻擊保護。
零信任方面,亞馬遜云科技推出幾個工具,幫助客戶在自己的亞馬遜云科技環(huán)境下構建一套機制。對訪問大模型的應用進行權限管理,確保只有在擁有特定權限的應用,才能訪問或者調用大模型里的制定API。
Amazon Verified Access可以搭建一套無需VPN的網(wǎng)絡驗證系統(tǒng),還支持可以設置規(guī)則,這些管控,可以在幾乎不對應用進行任何代碼改變的情況下部署和發(fā)生;Amazon Verified Permissions,為用戶構建的應用程序提供細粒度授權和權限管理,用戶可以使用該服務管理其應用程序的角色和屬性的訪問控制;新的開源語言CEDAR,方便書寫所有授權規(guī)則,使得更加輕松、快速地創(chuàng)建所有的訪問控制權限。
針對威脅識別,Amazon GuardDuty使用了基于人工智能和機器學習的技術,使安全事件的誤報率減少50%。能夠實現(xiàn)初期檢測,還可以做持續(xù)分析,會使用機器學習的技術來檢測“所有的威脅”,以智能化的手段給予采取行動的建議。
針對網(wǎng)絡防護,Amazon Shield用于防DDos攻擊;Amazon WAF提供防火墻支撐,每天托管規(guī)則請求超過3500億條;Amazon Firewall Manager管制防火墻策略,去年緩解了70萬次DDos攻擊。
AI反哺安全,提升安全合規(guī)效率
在提供生成式AI安全合規(guī)解決方案的同時,亞馬遜云科技也將AI技術應用到其安全及合規(guī)服務中,通過更智能的安全及合規(guī)服務應對復雜的安全威脅、提升合規(guī)效率。這是一種技術的雙向流動。
威脅檢測服務Amazon GuardDuty可通過人工智能和機器學習將安全事件的誤報率降低50%。亞馬遜云科技通過在其500多項自身合規(guī)審計控制項中使用AI技術,大幅提升了自身的合規(guī)效率,將審計時間簡約了53%。在此次大會上,亞馬遜云科技推出了多項具有AI能力的安全服務新功能,包括推出Amazon CodeGuru Security 預覽版,利用機器學習技術幫助用戶識別代碼漏洞,并提供修復漏洞的指導意見;擴大Amazon Detective發(fā)現(xiàn)組的范圍至Amazon Inspector,該服務利用機器學習技術,可以幫助專業(yè)安全人員加快調查過程、確定根本原因。
在IDC近期發(fā)布的《2023中國公有云托管安全服務能力報告》中,亞馬遜云科技在專家能力、漏洞及威脅檢測、威脅情報等7項目評估維度上是獲得滿分最多的廠商之一,其中“生態(tài)建設”評估維度是唯一獲得滿分的廠商。從全棧的角度考量安全合規(guī),應該正是其中關鍵。(丁科技網(wǎng)原創(chuàng),轉載務必注明“來源:丁科技網(wǎng)”)
- QQ:61149512