作為數(shù)智轉型的新工具,生成式AI被越來越多的企業(yè)用來探索對商業(yè)模式、創(chuàng)新方法、工作流程以及客戶體驗的重塑。
最近,德勤中國與亞馬遜云科技共同宣布創(chuàng)建生成式AI聯(lián)合實驗室,德勤中國管理咨詢云服務領導合伙人及人工智能與數(shù)據(jù)服務副領導合伙人孫曉臻表示,該實驗室創(chuàng)建的出發(fā)點,就是“幫助企業(yè)加快在業(yè)務用例上的積累速度,縮短生成式AI的探索之旅,盡快進入到生成式AI大規(guī)模應用并發(fā)展的階段,以提升數(shù)據(jù)價值、業(yè)務價值”。
整合優(yōu)勢資源,展開“1+3”合作
某國際領先制造企業(yè),在中國擁有幾萬名員工,內部產品支持及工作流程等長期處于離散的狀態(tài),導致內部效率受到制約。在這樣的背景下,生成式AI的應用,成為了改善與升級的方向。
據(jù)了解,該企業(yè)在德勤和亞馬遜云科技的幫助下,應用生成式AI知識管理解決方案,不僅整合了本身擁有的龐大知識庫,還集成了企業(yè)積累的獨特知識系統(tǒng),如各種產品和服務、平臺和工具、內部流程等。
隨后,基于企業(yè)自有數(shù)據(jù)的方案能夠及時響應,自動提取知識,快速定位例產品描述、用戶手冊、技術規(guī)格、營銷材料、常見問題解答、法規(guī)等內容,在短短4個月內,已經(jīng)應用于50多個內部業(yè)務團隊,在產品研發(fā)、IT、公司運營、客戶服務等不同場景都獲得了效率提升。其中,在內部員工的咨詢服務上,該方案能夠直接解決絕大多數(shù)的員工提問,大幅提高員工滿意度。
在類似案例中,德勤中國與亞馬遜云科技發(fā)現(xiàn)了更多共性和個性的需求,從而致力于為更多企業(yè)提供相關的專業(yè)服務。生成式AI聯(lián)合實驗室,就此成立。
伴隨聯(lián)合實驗室成立,雙方將整合優(yōu)勢資源,圍繞“1+3”展開合作:
“1”,是以亞馬遜云科技的堅實技術為依托,在AI計算能力、亞馬遜云科技海外區(qū)域推出的全新托管生成式AI服務Amazon Bedrock、和全托管機器學習服務Amazon SageMaker等技術領域深入合作。
“3”,是結合德勤在戰(zhàn)略咨詢、技術實施和全球合規(guī)等方面的卓越能力,在生成式AI業(yè)務應用戰(zhàn)略咨詢、生成式AI安全合規(guī)咨詢和生成式AI應用落地場景創(chuàng)新等三大方面展開合作,幫助企業(yè)打通從業(yè)務戰(zhàn)略、應用場景、安全合規(guī)到技術落地的業(yè)務閉環(huán),充分釋放生成式AI的巨大潛力。
堅實技術支撐,完善賦能體系
技術層面,亞馬遜云科技提供完整的生成式AI云服務技術,加速企業(yè)的生成式AI旅程。
具體而言,亞馬遜云科技在每一個技術棧,都提供相關的生成式AI服務,形成從底層的加速層(如加速芯片、存儲優(yōu)化),到中間層模型構建工具和服務,再到最上層的生成式AI相關應用的完善賦能體系。
在底層,有自研機器學習推理芯片Amazon Inferentia2和自研機器學習訓練芯片Trainium?;贏mazon Inferentia2芯片的Amazon EC2 Inf2實例,可以打造具成本效益的生成式AI云基礎設施。生成式AI推理工作負載的要求很高,Inf2實例為在亞馬遜云科技上大規(guī)模運行這類工作負載提供了可觀的性能、能效并降低成本?;贏mazon Trainium芯片的新型Trn1n實例,將網(wǎng)絡帶寬提高了一倍,為訓練生成式AI模型提供了更高的性能。
在中間層,全新的托管生成式AI服務Amazon Bedrock和全托管機器學習服務Amazon SageMaker,幫助客戶去安全地、便捷地選擇適合的業(yè)務模型。
借助Amazon Bedrock,通過API使用基礎模型加速開發(fā)生成式AI應用程序無需管理基礎設施;用戶可從亞馬遜云科技、AI21 Labs Anthropic和Stability AI等提供的基礎模型中找到適合用例的基礎模型;客戶還可利用自己的私有數(shù)據(jù)對模型進行微調,以滿足自身個性化需求。
至于Amazon SageMaker,可以從數(shù)據(jù)準備、基礎模型選型、基礎模型微調到基礎模型部署和管理,幫助客戶完成基礎模型的微調與部署。
在最上層,有開箱即用的生成式AI應用Amazon CodeWhisperer。它可以通過編寫大部分無差別的代碼,幫助開發(fā)人員消除重復性工作并專注創(chuàng)新本身。
三大合作,釋放生成式AI潛力
三個方向上的合作,具體來看:
生成式AI業(yè)務應用戰(zhàn)略咨詢方面,重點幫助企業(yè)解決普遍存在的業(yè)務場景模糊問題。
憑借在管理與戰(zhàn)略咨詢、技術落地實施方面的積累,德勤幫助企業(yè)洞察行業(yè)趨勢,發(fā)掘應用場景,制定生成式AI戰(zhàn)略,發(fā)掘應用場景,并利用亞馬遜云科技可靠、安全、高效的生成式AI服務快速落地商業(yè)應用,降低企業(yè)利用生成式AI探索業(yè)務創(chuàng)新的門檻。
生成式AI安全合規(guī)咨詢方面,幫助企業(yè)做好數(shù)據(jù)、模型和應用的安全防護。
德勤在全球安全合規(guī)咨詢方面擁有強大的實力,可在業(yè)務、數(shù)據(jù)層面為客戶提供生成式AI的安全合規(guī)咨詢服務,并針對不同國家和地區(qū)的生成式AI法律法規(guī)進行解讀,將其融入企業(yè)的業(yè)務流程和產品研發(fā),幫助企業(yè)提升整體業(yè)務和產品安全合規(guī)性。
亞馬遜云科技一方面通過技術、服務和工具幫助更多企業(yè)充分釋放生成式AI的潛力,助力企業(yè)在數(shù)據(jù)、模型以及應用各個環(huán)節(jié)的安全和合規(guī);另一方面,將AI以及生成式AI技術應用于安全及合規(guī)服務中,以更智能的安全、合規(guī)服務應對復雜的安全威脅、提高合規(guī)效率。
生成式AI應用落地場景創(chuàng)新方面,聯(lián)合實驗室利用亞馬遜云科技海外區(qū)域全新的托管生成式AI服務Amazon Bedrock和全托管機器學習服務Amazon SageMaker推出了系列解決方案,以滿足企業(yè)的各類出海應用場景需求。首批聚焦三項方案:
一是基于大語言模型的智能BI解決方案,以Amazon Bedrock和Amazon SageMaker為基礎,預置了包括中文在內的多種大語言模型,可實現(xiàn)自然語言到SQL查詢語言的無縫轉換,使企業(yè)普通業(yè)務人員無需具備SQL專業(yè)技能也能獲取所需數(shù)據(jù),并洞察業(yè)務價值。。
二是生成式AI知識管理解決方案,基于Amazon Bedrock和Amazon SageMaker,提供包括Amazon Titan和Anthropic Claude等領先人工智能公司的高性能基礎模型,以及多種開源大語言模型選項。通過構建企業(yè)知識平臺,幫助企業(yè)在保障內部數(shù)據(jù)隱私和安全的前提下,快速高效地部署知識問答或檢索系統(tǒng)。該解決方案已經(jīng)在某國際領先制造企業(yè)用于內部員工的咨詢服務,能夠直接解決絕大多數(shù)的員工提問,大幅提高員工滿意度。
三是大語言模型運維平臺(LLMOps)解決方案,通過采用Amazon SageMaker作為模型訓練和推理平臺,使客戶能自助對大語言模型調優(yōu)工作進行流程化管理,利用基礎設施即代碼(IaC)快速生成工具鏈資源,實現(xiàn)操作自動化,提高模型迭代效率。
除以上內容外,人力方面,聯(lián)合實驗室由雙方委派產品技術專家、云解決方案架構師、數(shù)據(jù)科學家、AI專家和行業(yè)專家等組成,亞馬遜云科技投入云上計算資源、行業(yè)最佳實踐以及合作伙伴資源,德勤中國投入行業(yè)解決方案資產、商業(yè)最佳實踐、開發(fā)與運營能力,以及生成式AI業(yè)務應用戰(zhàn)略咨詢服務和生成式AI安全合規(guī)咨詢服務。(丁科技網(wǎng)原創(chuàng),轉載務必注明“來源:丁科技網(wǎng)”)
- QQ:61149512