2023亞馬遜云科技re:Invent第二天,亞馬遜云科技首席執行官Adam Selipsky在兩個半小時的演講中,重點圍繞重構云基礎架構、重構計算、重構存儲、重構企業級生成式AI等主題,宣布了多項重磅發布,助力云上客戶快速實現數字化轉型,提高企業生成式AI創新速度。

四大重構突破想象

全棧生成式AI能力

重構基礎設施

亞馬遜云科技目前在全球擁有32個區域,每個區域都有3個或者更多的可用區(AZ),每個可用區在物理層面上來講都是單獨隔離,同時與冗余光纖網絡互聯,擁有冗余的供電、用水。當電力關?;蛘呤怯懈叻迨褂玫牧髁?,其他可用區都完全可以不受影響,可以繼續獨立地運營。

重構存儲

重磅發布:高性能、低延遲的對象存儲服務Amazon S3 Express One Zone

亞馬遜云科技始終堅持革新,持續推出一系列創新存儲服務,如用于歸檔數據的Amazon S3 Glacier存儲和自動優化成本的Intelligent Tiering。Intelligent Tiering通過在存儲層之間根據訪問模式自動切換存儲類型,幫助亞馬遜云科技全球客戶節省了超過20億美元,體現了亞馬遜云科技通過持續釋放技術紅利幫助客戶更好的在云上創新的理念。

在本次大會中,Adam還正式發布了高性能、低延遲的對象存儲服務Amazon S3 Express One Zone,可用于訪問性能要求最高的數據存儲。該服務旨在為延遲敏感的應用提供個位數毫秒級延遲的高性能,以支持每分鐘數百萬請求、每秒數十萬次的數據訪問。Amazon S3 Express One Zone的數據訪問速度比Amazon S3標準版快10倍,請求成本降低50%,計算成本降低60%。

重構計算

亞馬遜云科技還洞察到,客戶對提升云上算力,提升性價比的需求不斷攀升。而云需要從芯片級開始對算力進行全面創新。2018年,亞馬遜云科技發布第一代Graviton芯片,成為全球首家開發處理器的云廠商。今年,亞馬遜云科技已擁有超過150種基于Graviton的實例,全球超過5萬客戶在使用Graviton處理器,包含TOP100名的客戶也在使用Graviton這樣的實例來獲取性價比優勢。例如SAP,他們在使用Graviton服務之后,成本降低了35%,而且分析速度更快,同時減少了45%的碳排放量。

重磅發布:全新一代Graviton處理器——Amazon Graviton4

Adam還宣布發布全新一代Graviton處理器——Amazon Graviton4。相比Graviton3,它的核心多出50%,內存帶寬提升75%,Graviton4芯片速度較Graviton3提升30%,對于數據庫和Java應用等關鍵工作負載方面實現了更顯著的性能提升,分別提升了40%和45%。

重磅發布:首個基于Graviton4的實例R8g Instances for EC2

R8g是第一個基于Graviton4的實例,現在就可提供預覽。R8g作為內存優化型實例,能夠更好地支持大規模數據庫、實時大數據分析等應用,可提供最佳的價格性能,且減少能源消耗。未來,亞馬遜云科技將有更多的Graviton4的實例陸續發布。

重構生成式AI

亞馬遜云科技總是在不斷重構,為客戶提供基礎架構,幫助客戶釋放創新能力。在過去的幾十年里,亞馬遜云科技一直在AI領域進行創新,從將AI廣泛應用于亞馬遜龐大的零售和業務運營中積累了大量寶貴經驗,為幫助客戶利用生成式AI的力量重塑業務提供了策略指導。在重構生成式AI的過程中,亞馬遜云科技擁有更廣泛和深入的功能,具備更好性價比,同時具有必要的安全性和隱私性。

談到全棧生成式AI,它包括同樣重要的三個層級。亞馬遜云科技在不斷重構三個層級:最底層是訓練和推理的基礎設施層,中間層是我們所有的微調模型需求的工具服務,上層是構建生成式AI應用層。

在生成式AI基礎設施層,亞馬遜云科技正努力優化解決方案,如EC2 GPU實例,以提供高效訓練和運行基礎模型所需的高性能計算能力,同時降低成本。在這個領域亞馬遜云科技與NVIDIA擁有超過十年的合作經驗,使亞馬遜云科技成為首家提供NVIDIA全新GH100 Grace Hopper數據中心GPU訪問的云服務提供商。這款新的超級芯片專為加速大型語言模型的訓練和推理而設計,這些模型是生成式AI應用的基本組成部分。

重磅發布:亞馬遜云科技成為首家推出NVIDIA GH200 NVL32實例的云廠商

NVIDIA創始人、CEO Jensen Huang宣布,亞馬遜云科技成為首家推出NVIDIA GH200 NVL32實例的云廠商。這款實例帶有32個GH200超級芯片,它們之間通過高達900GB/s NVLink網絡進行互聯,形成一個具有高達20TB共享內存的實例,可用于加速訓練具有1萬億參數的AI大模型。

重磅發布:全新一代Amazon Trainium2芯片

基于訓練芯片Trainium的成功經驗,Adam正式發布了全新一代Trainium2芯片。它擁有數千億甚至數萬億個參數的基礎模型訓練做了優化,性能比上一代芯片提高到4倍,擁有65 EFlops可以按需提供性能支持。明星生成式AI企業Anthropic計劃用Trainium2芯片構建模型。

在進行創新的時候,亞馬遜云科技會在各種不同的FM還有API之間交互,Amazon Bedrock能夠提供各式各樣模型,例如AI21 labs、Anthropic、Cohere、Meta,還有Amazon Titan模型。此外亞馬遜云科技也是首個集成Meta Llama 2模型的云廠商。

重磅發布:亞馬遜云科技與Anthropic深化合作關系

Adam強調了在快速發展的人工智能領域中,客戶靈活選擇權的重要性。為了實現這一目標,亞馬遜云科技持續拓展與業界領先的創新公司,比如開創性的AI初創公司Anthropic的合作。通過與Anthropic建立新的合作關系,后者將利用亞馬遜云科技的專用機器學習芯片Trainium來訓練他們的下一代復雜Claude模型。Amazon Bedrock的客戶還將享有獨家早期使用權,體驗其他地方無法使用的先進Claude定制和微調模型功能。

重磅發布:Amazon Bedrock全新功能,包括模型的微調、檢索增強生成(RAG)以及基于Amazon Titan大模型的預訓練

在生成式AI的頂層,另一個關鍵層面是通過Amazon Bedrock為客戶提供簡單快速和安全地訪問各種基礎模型的API的途徑。Amazon Bedrock在兩個月前推出,已經吸引了超過10,000名來自各個行業的活躍客戶使用它來快速構建和擴展生成式AI應用。Adam也發布了Amazon Bedrock的全新功能,包括模型的微調、檢索增強生成(RAG)以及基于Amazon Titan大模型的預訓練。

重磅發布:正式推出Agents for Amazon Bedrock

借助全新GA的 Agents for Amazon Bedrock,用戶可以通過簡單的幾個步驟創建和部署完全托管式的Agent,通過動態調用API來執行復雜的業務任務。Amazon Bedrock可以根據用戶提供的自然語言指令完成任務所需的API架構。

負責任的AI

重磅發布:Guardrails for Amazon Bedrock

在亞馬遜云科技致力于以負責任的方式開發AI,Adam本次針對生成式AI的安全,全新發布Guardrails for Amazon Bedrock預覽版,根據應用程序需求和AI政策定制保障措施。Guardrails可以跨基礎模型,為所有應用程序提供一致的AI安全級別,阻止生成式AI應用程序中不需要的話題,根據AI策略過濾有害內容等。生成式AI一定要是安全的,是負責任的,這是亞馬遜云科技的Job Zero。

重磅發布:企業生成式AI助手Amazon Q

Adam發布了企業應用助手Amazon Q,它由亞馬遜云科技17年來積累的知識和經驗訓練而成,改變了開發者和IT人員在亞馬遜云科技上構建、部署和運維應用程序和工作負載的方式??蛻艨梢酝ㄟ^亞馬遜云科技管理控制臺、文檔頁面、IDE、Slack或其他第三方對話應用程序的聊天界面訪問Amazon Q。Amazon Q為Amazon QuickSight、Amazon Connect提供全新基于生成式AI的助理。這些應用是Amazon Q廣泛應用的一個開始。

通過以上發布,亞馬遜云科技已經構建面向全棧生成式AI應用的服務。

免責聲明:市場有風險,選擇需謹慎!此文僅供參考,不作買賣依據。

標簽: