在亞馬遜云科技re:Invent大會的第二天，焦點轉向了模型訓練、推理及應用落地，其中Amazon SageMaker、Amazon Bedrock和Amazon Q成為了核心亮點。
亞馬遜云科技人工智能與數據副總裁Swami Sivasubramanian表示，我們正站在生成式AI發展的十字路口，盡管道路并非總是清晰，但好奇心和為客戶解決實際問題的愿望驅使我們前行。
Amazon SageMaker作為構建、訓練和部署ML模型的首選服務，已經吸引了數十萬用戶。其最新一代產品將大數據處理、快速SQL分析、機器學習以及生成式AI的關鍵能力整合到一個平臺上，進一步提升了用戶體驗。
為了加速訓練過程，Amazon SageMaker推出了HyperPod，它具備高度彈性，能在全棧故障時自動恢復，并提供快速檢查點和主動計算資源管理功能。HyperPod的靈活訓練計劃和任務治理功能，分別簡化了訓練計劃管理和計算資源利用，為客戶節省了大量時間和成本。
Amazon SageMaker還推出了合作伙伴AI應用支持功能，使得合作伙伴的AI應用程序可以無縫部署在SageMaker上，為客戶提供了完全托管、無需預配或管理基礎設施的模型開發生命周期加速服務。
在推理方面，Amazon Bedrock旨在幫助企業構建和擴展生成式AI應用程序。它不再僅僅是一個模型庫，而是涵蓋了選擇最佳模型、優化成本、延遲和準確性、使用自有數據定制、確保安全性和負責任AI以及構建和協調Agent等五大能力。
Amazon Bedrock提供了多個模型，包括poolside、Luma AI的模型以及StaBIlity AI的Stable Diffusion 3.5模型，并通過Marketplace為用戶提供了訪問超過100個來自領先提供商的新興和專業基礎模型的機會。Bedrock還提供了提示詞緩存和提示詞智能路由功能，以降低成本和延遲。同時，它支持對結構化數據的檢索和GraphRAG集成，以及自動化非結構化多模態數據的轉換。
Amazon Bedrock還引入了Guardrails Multimodal toxicity detection功能，進行基于策略的圖片惡意內容檢測，增強了多模態應用的安全性。從本周開始，Amazon Bedrock還支持多智能體協作，使得構建和協調專門的智能體來執行復雜工作流程變得簡單。
在生成式AI助手方面，Amazon Q Developer成為了亞馬遜云科技專家和最有能力的軟件開發生成式AI助手。它支持SageMaker Canvas中的自然語言開發ML模型，特別適用于機器學習模型開發經驗較少的客戶。同時，Amazon Q還支持Quicksight Scenarios中的BI對復雜業務問題的自動拆解，幫助業務人員加速商業分析。
盡管產品技術服務完備，但企業在采用生成式AI時仍面臨一些挑戰。亞馬遜云科技全球服務副總裁Uwem Ukpong總結了三大挑戰：云遷移瓶頸、數據孤島難題以及應用場景聚焦。為了幫助企業克服這些挑戰，亞馬遜云科技成立了生成式AI創新中心，并與客戶合作完成了超過700個應用案例。
對于具備軟件開發能力的客戶，亞馬遜云科技提供“低強度指導”，通過經驗分享和建議幫助客戶獨立推進項目。對于缺乏開發能力或深厚技術基礎的客戶，亞馬遜云科技則提供“白手套服務”，與客戶一起構建生成式AI應用。
Uwem Ukpong強調，企業在概念驗證項目中應認真評估成本與收益，分析投資回報率，并判斷具體用例是否值得重點推進。
