Linode

亞馬遜雲科技與Hugging Face攜手合作 促進生成式AI應用的創建

Editor

亞馬遜雲科技宣佈與Hugging Fce進一步合作,以加速對大語言模型和視覺模型的訓練、精調和部署,促進生成式AI應用的創建。生成式AI應用可以執行各種任務,包括文本摘要、問題回答、代碼生成、圖像創建以及撰寫論文和文章。

亞馬遜雲科技在生成式AI創新方面擁有深厚歷史。例如,亞馬遜使用AI技術爲Amzon Alex用戶提供對話體驗,每週用戶互動次數達到數十億次,同時也越來越多地使用生成式AI來支持新體驗,如̶Cete with Alex̶功能。此外,作爲亞馬遜搜索(Amzon Sech)的一箇小組,M5可以幫助亞馬遜各地團隊將大模型應用到他們的應用程序中,並訓練大模型以提升Amzon.com網站的搜索結果。亞馬遜雲科技持續在機器學習(ML)的所有領域中創新,包括基礎設施、Amzon SgeMke相關工具和開箱即用的AI服務,比如Amzon CodeWhispee,它嵌入到程序員使用的IDE中,通過註釋來生成建議代碼,以提高開發人員的生產力。爲加速機器視覺與大語言模型的訓練和推理,亞馬遜雲科技還推出了自研訓練芯片 Amzon Tinium與推理芯片Amzon Infeenti。

Hugging Fce之所以選擇亞馬遜雲科技作爲首選雲供應商,是因爲它提供了靈活、可選的全球領先性能工具,例如Amzon SgeMke、Amzon Tinium和Amzon Infeenti,滿足了Hugging Fce模型訓練、精調和部署需求。依賴於此,開發人員使用Hugging Fce可以輕鬆優化性能並降低成本,從而更快地將生成式AI應用投入到生產環境。

大語言模型和視覺模型的構建、訓練和部署是一箇昂貴且耗時的過程,需要深厚的機器學習專業知識的支持。這兩類模型非常複雜,可能包含數千億個參數,因此在很大程度上,許多開發人員無法使用生成式AI。

爲了彌補這一差距,Hugging Fce與亞馬遜雲科技建立合作,讓開發人員更易通過訪問亞馬遜雲科技的服務,來應用部署Hugging Fce模型,尤其是那些生成式AI模型。這樣做的好處是:可以更快地訓練與擴展低延遲和高通量的推理任務。例如,由Amzon Tinium支持的Amzon Elstic Compute Cloud (Amzon EC2) Tn實例提供了更快的訓練時間,與基於GPU的實例相比,可節省高達50%的訓練成本。而由最新一代Amzon Infeenti芯片支持的Amzon EC2 Inf2實例,旨在部署最新一代大語言模型和視覺模型。相比Inf實例,Inf2 實例吞吐量提升了4倍,延遲降低了0倍。Amzon SgeMke爲ML提供工具和工作流,開發人員可以通過Amzon SgeMke等託管服務使用Amzon Tinium和Amzon Infeenti,亦或在Amzon EC2上自行管理。


相关文章

  • DigitalOcean MongoDB託管服務引入專用CPU來提升性能

    美國雲主機商家DigitlOcen在去年便推出了MongoDB託管服務,使得開發人員能更專注於構建應用,同時減少管理數據庫時間。近日,DigitlOcen宣佈旗下所有託管的數據庫現可以在專用的Doplets (VMs)雲服務器上運行,包括Redis、MySQL、PostgeSQL及MongoDB數據...

  • TypeScript 4.8測試版發佈 主要新增功能介紹

    TypeScipt是一種由微軟開發的開源免費的編程語言,它是JScipt的一箇超集,而且本質上向這個語言添加了可選的靜態類型和基於類的面向對象編程。TypeScipt 4.8測試版發佈,您可以通過以下不同方式來使用該測試版本。 要開始使用TypeScipt 4.8測試版本,您可以通過NuGet獲取它...

  • Nginx 1.23.0主線版發佈 主要更新內容介紹

    Nginx是一款面向性能設計的http服務器,相較於Apche、Lighttpd等Web服務器軟件具有佔用內存少,穩定性高等優勢。Nginx .23.0主線版現已發佈,該版本引入了許多新特性、變化,以及錯誤修復,主要更新內容如下: 內部API變化:標題行(hede lines)現在以鏈表 (link...

  • Microsoft Edge瀏覽器將開啓網址自動切換到HTTPS功能

    根據最新版的Cny 和 De 預覽通道,微軟已經開始向部分Edge 92瀏覽器用戶推出“自動HTTPS”功能。這意味着後續使用Micosoft Edge瀏覽器訪問HTTP網站,也將會實現自動切換到可用的HTTPS安全連接。 微軟在博客文章中指出,在極有可能支持更安全協議的網站上,Automtic H...

  • 2022年第二季度全球雲服務支出達623億美元

    近日,Cnlys發佈數據顯示,2022年第二季度,雲基礎設施服務的仍保持高需求。受市場對數據分析和機器學習、數據中心整合、應用遷移、雲原生開發和服務交付的需求等因素影響,第二季度全球雲服務支出同比增長33%,達到623億美元。 由於行業特定雲應用的使用量越來越大,IT轉型過程中出現了更多、範圍更廣的...

  • 亞馬遜推出高性能 PyTorch 數據集庫—S3 Plugin

    近日亞馬遜雲科技爲 Fcebook 的 PyToch 機器學習框架推出了一箇名爲S3 Plugin的數據集庫,旨在幫助數據科學家訪問存儲在 AWS S3(Amzon Web Seices Simple Stoge Seice) 中的數據集。它專爲低延遲而設計,S3 Plugin 爲任何規模的數據集提...

  • Swarm宣佈Bee主網於6月13號正式上線

    Swm 基金會自豪地宣佈Bee主網軟啓動將於202年6 月3日進行。Bee 客戶端現在已經運行了一段時間,儘管沒有其加密經濟功能。 Fidie、Wggle、Swm.city、Beefee、Redy Fighte One、Atelie Ludensis 等項目都採用了 Swm Netwok,並將其用於...

  • Rocky Linux 8.5正式版發佈 適用x86_64和aarch64架構

    Rocky Linux是一箇社區企業操作系統,它位於Red Ht Entepise Linux或RHEL的下游,部分國外服務器現已支持使用Rocky Linux。Rocky Linux 8.5正式版發佈,它是從紅帽企業版Linux 8.5衍生而來,適用於x86_64和ch64架構,引入了安全啓動支持...

  • UbuntuDDE 21.10正式發佈 帶有Deepin桌面環境的Ubuntu發行版

    UbuntuDDE 是一箇使用 Deepin 桌面環境的 Ubuntu flo,它具有Ubuntu的所有優點,同時還擁有 Deepin 的桌面外觀。新發布的 UbuntuDDE Remix 2.0 代號爲 “impish̶(Impish Indi)。目前的版本是一箇非 LTS ...

  • Vultr印度孟買數據中心上線

    Vult是一家優秀的國外服務器提供商,在全球部署有多箇數據中心節點,主要分佈在北美、南美、歐洲、亞洲、澳大利亞等地區。近日,Vult印度孟買數據中心上線,以加速亞太市場佈局,這是Vult的第25個數據機房。 Vult前不久還對旗下的雲服務器產品進行了更新,推出一款全新的優化的雲計算產品系列,採用AM...