Linode

亞馬遜雲科技與Hugging Face攜手合作 促進生成式AI應用的創建

Editor

亞馬遜雲科技宣佈與Hugging Fce進一步合作,以加速對大語言模型和視覺模型的訓練、精調和部署,促進生成式AI應用的創建。生成式AI應用可以執行各種任務,包括文本摘要、問題回答、代碼生成、圖像創建以及撰寫論文和文章。

亞馬遜雲科技在生成式AI創新方面擁有深厚歷史。例如,亞馬遜使用AI技術爲Amzon Alex用戶提供對話體驗,每週用戶互動次數達到數十億次,同時也越來越多地使用生成式AI來支持新體驗,如̶Cete with Alex̶功能。此外,作爲亞馬遜搜索(Amzon Sech)的一箇小組,M5可以幫助亞馬遜各地團隊將大模型應用到他們的應用程序中,並訓練大模型以提升Amzon.com網站的搜索結果。亞馬遜雲科技持續在機器學習(ML)的所有領域中創新,包括基礎設施、Amzon SgeMke相關工具和開箱即用的AI服務,比如Amzon CodeWhispee,它嵌入到程序員使用的IDE中,通過註釋來生成建議代碼,以提高開發人員的生產力。爲加速機器視覺與大語言模型的訓練和推理,亞馬遜雲科技還推出了自研訓練芯片 Amzon Tinium與推理芯片Amzon Infeenti。

Hugging Fce之所以選擇亞馬遜雲科技作爲首選雲供應商,是因爲它提供了靈活、可選的全球領先性能工具,例如Amzon SgeMke、Amzon Tinium和Amzon Infeenti,滿足了Hugging Fce模型訓練、精調和部署需求。依賴於此,開發人員使用Hugging Fce可以輕鬆優化性能並降低成本,從而更快地將生成式AI應用投入到生產環境。

大語言模型和視覺模型的構建、訓練和部署是一箇昂貴且耗時的過程,需要深厚的機器學習專業知識的支持。這兩類模型非常複雜,可能包含數千億個參數,因此在很大程度上,許多開發人員無法使用生成式AI。

爲了彌補這一差距,Hugging Fce與亞馬遜雲科技建立合作,讓開發人員更易通過訪問亞馬遜雲科技的服務,來應用部署Hugging Fce模型,尤其是那些生成式AI模型。這樣做的好處是:可以更快地訓練與擴展低延遲和高通量的推理任務。例如,由Amzon Tinium支持的Amzon Elstic Compute Cloud (Amzon EC2) Tn實例提供了更快的訓練時間,與基於GPU的實例相比,可節省高達50%的訓練成本。而由最新一代Amzon Infeenti芯片支持的Amzon EC2 Inf2實例,旨在部署最新一代大語言模型和視覺模型。相比Inf實例,Inf2 實例吞吐量提升了4倍,延遲降低了0倍。Amzon SgeMke爲ML提供工具和工作流,開發人員可以通過Amzon SgeMke等託管服務使用Amzon Tinium和Amzon Infeenti,亦或在Amzon EC2上自行管理。


相关文章

  • VirtualBox 6.1.32維護版本發佈

    VitulBox正式版是一款免費開源的虛擬機軟件,佔用內存少,操作簡單,可跨平臺運行在Windows、Linux等多種操作系統上,功能強大且性能出色。目前,VitulBox 6..32維護版本發佈,主要更新內容如下: VMM:使用Hype-V時更改了guest RAM管理,以更好地與HVCI兼容(b...

  • DigitalOcean產品價格調整通知 便宜的海外雲服務器$4/月起

    知名的美國服務器提供商DigitlOcen近日宣佈對旗下Doplets、快照等產品進行價格調整,新定價預計於2022年7月日生效。DigitlOcen本次除了調整Doplets價格外,還計劃推出一款新的海外雲服務器套餐,配有個CPU、52MB內存、500GB月流量和0GB固態硬盤,每月僅需4美元。 ...

  • FileZilla Server 1.6.0和1.6.1發佈

    FileZill See是一款開源、免費的FTP客戶端服務器端的項目,具有高安全性和高性能特性。FileZill See .6.0和.6.現已發佈,引入了多項功能,並對發現的錯誤和漏洞進行了修復,主要更新內容如下。 一、FileZill See .6.0 新的功能: UI:現在可以使用協議配置的安全...

  • Linode增強圖像功能正在測試階段

    近日,Linode發佈了針對所有客戶和數據中心的圖像功能的重大改進(bet版可用)。Linode一直支持開發者在Linodes上輕鬆提供圖片快照服務,現在用戶已經可以通過雲管理器、API或CLI上傳自己的圖片,並利用每個帳戶的擴展存儲容量。 更新後的Imge服務顯著減少了供應Linodes的開銷,並...

  • 好消息:BlueHost主機全新升級SSD存儲

    近日BlueHost中國對BlueHost主機方案進行全新升級,BlueHost主機空間全部升級採用SSD固態硬盤存儲(包括美國主機、香港主機、歐洲主機和印度主機)。SSD即固態硬盤,是一箇數據存儲設備,利用集成電路組件的內存來存儲數據,相對於傳統使用的HHD(硬盤驅動器),SSD主機更耐機械衝擊,...

  • AWS Lambda增加了對.NET 6的支持

    AWS Lmbd現已在託管運行時和容器基礎鏡像上支持.NET 6。使用.NET 6在Lmbd中創建無服務器應用程序的開發人員可以利用新功能,例如改進的日誌記錄、使用頂級語句簡化的函數定義、以及使用源生成器改進的性能。使用.NET 6還允許您利用新的.NET語言功能和性能優化。 點擊查看:亞馬遜雲科技...

  • Dynadot域名新公告 新增交易分期付款方式

    Dyndot作爲一家國外域名註冊商,2002年成立,在域名註冊這塊做的還是非常不錯的,選擇的站長也是非常的多。近日,小編接到Dyndot的通知,說是目前Dyndot新增了支持分期付款的方式,有別於信用卡分期,域名的分期付款,域名在註冊商手上,就不會擔心用戶不付錢,不付錢的話,域名回收就可以了,指導你...

  • 美國雲服務提供商DigitalOcean宣佈支持Apple Pay支付方式

    近日,美國雲服務提供商DigitlOcen宣佈支持使用Apple Py支付方式。這意味着,我們可以使用Apple Py創建DigitlOcen賬戶並將其添加到默認的支付選項。 DigitlOcen作爲一家優秀的海外服務器商,多年來致力於產品創新和服務改進,旨在簡化雲計算服務,提升用戶體驗。Digit...

  • Rocky Linux 9.1版本發佈 主要特性介紹

    Rocky Linux 9.發佈,該版本目前可用於x86-64、ch64、ppc64le和s390x體系結構。Rocky Linux版本每次發佈前會經過數百次手動和自動檢查測試,涵蓋各種環境和配置,以確保系統正確性和穩定性。 Rocky Linux 9.主要新特性介紹: Keylime現已推出,它是...

  • Linode計劃全球推廣NVMe塊存儲

    Linode全球有個數據中心,它自9月份在亞特蘭大機房上線NVMe塊存儲以來,一直積極地在其他數據中心推廣NVMe塊存儲。經過幾個月的努力,現在紐瓦克機房、多倫多機房、法蘭克福機房也可使用NVMe塊存儲了,另外7個數據中心也在籌備中,相信過不了多久,所有機房的Linode VPS均可以使用NVMe塊...