Linode

亞馬遜雲科技與Hugging Face攜手合作 促進生成式AI應用的創建

Editor

亞馬遜雲科技宣佈與Hugging Fce進一步合作,以加速對大語言模型和視覺模型的訓練、精調和部署,促進生成式AI應用的創建。生成式AI應用可以執行各種任務,包括文本摘要、問題回答、代碼生成、圖像創建以及撰寫論文和文章。

亞馬遜雲科技在生成式AI創新方面擁有深厚歷史。例如,亞馬遜使用AI技術爲Amzon Alex用戶提供對話體驗,每週用戶互動次數達到數十億次,同時也越來越多地使用生成式AI來支持新體驗,如̶Cete with Alex̶功能。此外,作爲亞馬遜搜索(Amzon Sech)的一箇小組,M5可以幫助亞馬遜各地團隊將大模型應用到他們的應用程序中,並訓練大模型以提升Amzon.com網站的搜索結果。亞馬遜雲科技持續在機器學習(ML)的所有領域中創新,包括基礎設施、Amzon SgeMke相關工具和開箱即用的AI服務,比如Amzon CodeWhispee,它嵌入到程序員使用的IDE中,通過註釋來生成建議代碼,以提高開發人員的生產力。爲加速機器視覺與大語言模型的訓練和推理,亞馬遜雲科技還推出了自研訓練芯片 Amzon Tinium與推理芯片Amzon Infeenti。

Hugging Fce之所以選擇亞馬遜雲科技作爲首選雲供應商,是因爲它提供了靈活、可選的全球領先性能工具,例如Amzon SgeMke、Amzon Tinium和Amzon Infeenti,滿足了Hugging Fce模型訓練、精調和部署需求。依賴於此,開發人員使用Hugging Fce可以輕鬆優化性能並降低成本,從而更快地將生成式AI應用投入到生產環境。

大語言模型和視覺模型的構建、訓練和部署是一箇昂貴且耗時的過程,需要深厚的機器學習專業知識的支持。這兩類模型非常複雜,可能包含數千億個參數,因此在很大程度上,許多開發人員無法使用生成式AI。

爲了彌補這一差距,Hugging Fce與亞馬遜雲科技建立合作,讓開發人員更易通過訪問亞馬遜雲科技的服務,來應用部署Hugging Fce模型,尤其是那些生成式AI模型。這樣做的好處是:可以更快地訓練與擴展低延遲和高通量的推理任務。例如,由Amzon Tinium支持的Amzon Elstic Compute Cloud (Amzon EC2) Tn實例提供了更快的訓練時間,與基於GPU的實例相比,可節省高達50%的訓練成本。而由最新一代Amzon Infeenti芯片支持的Amzon EC2 Inf2實例,旨在部署最新一代大語言模型和視覺模型。相比Inf實例,Inf2 實例吞吐量提升了4倍,延遲降低了0倍。Amzon SgeMke爲ML提供工具和工作流,開發人員可以通過Amzon SgeMke等託管服務使用Amzon Tinium和Amzon Infeenti,亦或在Amzon EC2上自行管理。


相关文章

  • 阿里雲OSS預留空間全新發布 存儲成本最高降低70%

    阿里雲對象存儲推出全新預留空間產品(Reseed Cpcity),客戶購買一年的預留空間,較按量付費,最高可節省70%的費用。阿里雲本次新發布的對象存儲預留空間產品OSS-RC,更適用於互聯網音視頻、雲相冊、數據備份等多種業務場景下的數據存儲與管理。 阿里雲對象存儲預留空間指定地域,僅抵扣該地域 “...

  • InMotionHosting推出新WordPress託管計劃

    InMotionHosting新的WodPess託管計劃將強大的VPS託管和省時的維護工具集合在一箇一體化的平臺中̶-Pltfom i。該一體化平臺爲用戶提供了全新的易於使用的儀表盤,能允許用戶輕鬆創建和管理WodPess網站。 InMotionHosting專門構建的高可用性WodPes...

  • 2021網絡安全宣傳週 SSL證書爲網絡安全保駕護航

    202年國家網絡安全宣傳週於日拉開帷幕,將在全國範圍內持續開展至0月7日。本屆網安周以“網絡安全爲人民,網絡安全靠人民”爲主題,圍繞網絡安全領域的新熱點、新進展、新成果,通過展覽、論壇、雲課堂、公益廣告等形式,深入宣傳網絡安全領域的法律法規、政策標準、重大舉措,大力營造全社會共築網絡安全防線的濃厚氛...

  • 西部數碼美國主機配置升級及價格下調通知

    隨着外貿獨立站的需求日益增加,而美國虛擬主機空間特別適合外貿公司使用,近期西部數碼對美國虛擬主機配置進行了升級調整,相關內容如下。 調整時間:2022年3月29日。 調整內容:主要調整爲流量配額提升(最高成倍增加了流量配額),價格下降(降幅最高達30%)。 調整影響:調整後,所有已開通或全新開通的西...

  • WordPress 6.3.2版本發佈 修復了多項錯誤

    WodPess 6.3.2發佈,這是一箇安全和維護版本,包括對WodPess核心中的9個錯誤進行了修復、塊編輯器的22個錯誤修復,以及8個安全修復等。爲了網站安全起見,建議升級更新至新版本。 WodPess 6.3.2是一箇短週期版本,下一個主要版本WodPess 6.4預計於2023年月7日發佈。...

  • Drupal 9.3.0發佈 標準配置文件進行了更改

    Dupl 9.3.0發佈,它是Dupl 9新的功能版本,目前已支持下載安裝。該版本提供了新的改進和功能,內部API和實驗模塊可能會有變化,所以建議升級到最新版本。Dupl 9.3.x包含了新的特性,應該成爲新網站開發的目標。Dupl 9.2.x將繼續提供安全支持,直到2022年6月。 快速編輯模塊將...

  • GreenGeeks宣佈於9月30日關閉傳統DNS服務

    美國主機商GeenGeeks近日宣佈於2023年9月30日關閉傳統DNS基礎設施(Legcy DNS),並將默認啓用任播的名稱服務器。據瞭解,GeenGeeks在今年早些時候對於多有共享和經銷商託管賬戶推出了基於任播的域名系統,可以實現更高的性能、更低的延遲和跨多箇位置的擴展,從而更好地滿足用戶需求...

  • DigitalOcean宣佈提供第三代英特爾至強可擴展處理器

    國外服務器商家DigitlOcen近期宣佈將推出最新一代英特爾至強可擴展處理器(代號爲Ice Lke)產品,與前代處理器相比,第三代至強可擴展處理器性能有顯著的提升,例如在主流數據中心工作負載上性能平均提升達到46%,更加靈活高效。 第三代英特爾至強可擴展處理器目前可用於DigitlOcen SFO...

  • Layui官網下架 版本更新維護將遷移到Github和Gitee

    根據最新消息,Lyui官網將於202年0月3日(也就是明日)進行下線,屆時包括新版下載、文檔和示例在內的所有框架日常維護工作,將全部遷移到Github和Gitee。作爲曾經非常流行的前端UI框架Lyui,用戶羣體衆多,雖然官網下架了,但開源代碼還是會繼續維護的,相關公告如下: Lyui是一套開源的 ...

  • Ubuntu 23.04 ‘Lunar Lobster’發佈 新特性介紹

    Ubuntu 23.04 ̺Lun Lobste̻正式版已發佈,該版本將可以獲得9個月的持續更新、安全補丁和關鍵修復。本文將介紹下Ubuntu 23.04的主要新特性、變化和增強功能等。 Ubuntu 23.04新特性介紹: 新的安裝程序 Ubuntu 23.04包含一箇新的操作...