Amazon EC2 trn 系列

更新 發佈閱讀 2 分鐘

EC2 trn 系列是 Amazon Web Services (AWS) 針對高效能深度學習 (DL) 訓練而設計的 EC2 執行個體系列,特別適用於生成式 AI 模型,包括大型語言模型 (LLMs) 和潛在擴散模型。目前主要有兩個子系列:Trn1 和 Trn2。

EC2 Trn1 執行個體:

* 由高達 16 個 AWS Trainium 晶片提供支持。

* 每個晶片包含兩個第二代 NeuronCore。

* 提供高達 3 petaflops 的 FP16/BF16 運算能力。

* 配備高達 512 GB 的高頻寬加速器記憶體。

* 提供多種執行個體大小,包括 trn1.2xlarge (單個 Trainium 晶片) 和 trn1.32xlarge/trn1n.32xlarge (16 個 Trainium 晶片)。

* trn1n.32xlarge 執行個體提供更高的網路頻寬 (1600 Gbps)。

EC2 Trn2 執行個體和 UltraServers:

* 提供比基於 GPU 的 EC2 P5e 和 P5en 執行個體高出 30-40% 的價格效能。

* Trn2 UltraServers 使用 NeuronLink 技術,將四個 Trn2 執行個體中的 64 個 Trainium2 晶片連接起來,顯著提升運算、記憶體和網路頻寬。

* 旨在提供最先進的訓練和推理性能,同時降低成本,縮短訓練時間並加速迭代。

總之,EC2 trn 系列執行個體是專為需要大規模平行運算能力來訓練複雜 AI 模型的工作負載而設計的,使用了 AWS 自研的 Trainium 加速器晶片,以提供優異的效能和成本效益。

留言
avatar-img
郝信華 iPAS AI應用規劃師 學習筆記
46會員
572內容數
現職 : 富邦建設資訊副理 證照:經濟部 iPAS AI應用規劃師 初級+中級(數據分析) AWS AIF-C01 AWS CLF-C02 Microsoft AI-900 其他:富邦美術館志工
2025/06/16
Amazon SageMaker Ground Truth Plus 是一項 Amazon SageMaker 的服務,旨在協助你更輕鬆地建立高品質的機器學習訓練數據集,而無需編寫程式碼或管理自己的標記團隊。它提供了一個完全託管的數據標記解決方案。 以下是 Amazon SageMaker Gro
2025/06/16
Amazon SageMaker Ground Truth Plus 是一項 Amazon SageMaker 的服務,旨在協助你更輕鬆地建立高品質的機器學習訓練數據集,而無需編寫程式碼或管理自己的標記團隊。它提供了一個完全託管的數據標記解決方案。 以下是 Amazon SageMaker Gro
2025/06/16
Amazon SageMaker Clarify 是一項 Amazon SageMaker 的功能,旨在讓機器學習開發人員更清楚地了解他們的訓練數據和模型,以便他們能夠識別和限制偏差,並解釋模型的預測。 以下是 Amazon SageMaker Clarify 的主要功能和用途: * 偏差偵測
2025/06/16
Amazon SageMaker Clarify 是一項 Amazon SageMaker 的功能,旨在讓機器學習開發人員更清楚地了解他們的訓練數據和模型,以便他們能夠識別和限制偏差,並解釋模型的預測。 以下是 Amazon SageMaker Clarify 的主要功能和用途: * 偏差偵測
2025/06/16
部分依賴圖 (Partial Dependence Plots, PDP) 是一種用於解釋機器學習模型預測結果的技術。它們可以顯示一個或兩個特徵對模型預測結果的邊際效應。 簡單來說,PDP 可以幫助你理解模型是如何基於特定的輸入特徵做出預測的,並揭示目標變數和感興趣的輸入特徵之間的關係,同時將所有
2025/06/16
部分依賴圖 (Partial Dependence Plots, PDP) 是一種用於解釋機器學習模型預測結果的技術。它們可以顯示一個或兩個特徵對模型預測結果的邊際效應。 簡單來說,PDP 可以幫助你理解模型是如何基於特定的輸入特徵做出預測的,並揭示目標變數和感興趣的輸入特徵之間的關係,同時將所有
看更多
你可能也想看
Thumbnail
本文要探討AI的任務與實戰場景。AI技術已深入生活各層面,從違約預測到都市交通管理。AI任務主要有三類:數值型資料處理、自然語言處理(NLP)和電腦影像辨識。時間序列資料和強化學習方法(如AlphaGo)也引起廣泛關注。AI演算法和方法因應不同學派和技術發展而多樣化,了解這些基礎有助選擇適合研究方向
Thumbnail
本文要探討AI的任務與實戰場景。AI技術已深入生活各層面,從違約預測到都市交通管理。AI任務主要有三類:數值型資料處理、自然語言處理(NLP)和電腦影像辨識。時間序列資料和強化學習方法(如AlphaGo)也引起廣泛關注。AI演算法和方法因應不同學派和技術發展而多樣化,了解這些基礎有助選擇適合研究方向
Thumbnail
全新版本的《三便士歌劇》如何不落入「復刻經典」的巢臼,反而利用華麗的秀場視覺,引導觀眾在晚期資本主義的消費愉悅之中,而能驚覺「批判」本身亦可能被收編——而當絞繩升起,這場關於如何生存的黑色遊戲,又將帶領新時代的我們走向何種後現代的自我解構?
Thumbnail
全新版本的《三便士歌劇》如何不落入「復刻經典」的巢臼,反而利用華麗的秀場視覺,引導觀眾在晚期資本主義的消費愉悅之中,而能驚覺「批判」本身亦可能被收編——而當絞繩升起,這場關於如何生存的黑色遊戲,又將帶領新時代的我們走向何種後現代的自我解構?
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 回顧 AI說書 - 從0開始 - 75 ,我們在給定句子 「 Transformers possess surprising emerging features 」的情
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 回顧 AI說書 - 從0開始 - 75 ,我們在給定句子 「 Transformers possess surprising emerging features 」的情
Thumbnail
若說易卜生的《玩偶之家》為 19 世紀的女性,開啟了一扇離家的窄門,那麼《海妲.蓋柏樂》展現的便是門後的窒息世界。本篇文章由劇場演員 Amily 執筆,同為熟稔文本的演員,亦是深刻體察制度縫隙的當代女性,此文所看見的不僅僅是崩壞前夕的最後發聲,更是女人被迫置於冷酷的制度之下,步步陷入無以言說的困境。
Thumbnail
若說易卜生的《玩偶之家》為 19 世紀的女性,開啟了一扇離家的窄門,那麼《海妲.蓋柏樂》展現的便是門後的窒息世界。本篇文章由劇場演員 Amily 執筆,同為熟稔文本的演員,亦是深刻體察制度縫隙的當代女性,此文所看見的不僅僅是崩壞前夕的最後發聲,更是女人被迫置於冷酷的制度之下,步步陷入無以言說的困境。
Thumbnail
  這回來介紹 AWS 在目前生成式 AI 各種群魔亂舞下推出的 Bedrock 服務,其官網說明可以快速且傻瓜式的部屬生成式 AI 到你的應用上,看看是不是如其所述的功能強大。
Thumbnail
  這回來介紹 AWS 在目前生成式 AI 各種群魔亂舞下推出的 Bedrock 服務,其官網說明可以快速且傻瓜式的部屬生成式 AI 到你的應用上,看看是不是如其所述的功能強大。
Thumbnail
長期以來,西方美學以《維特魯威人》式的幾何比例定義「完美身體」,這種視覺標準無形中成為殖民擴張與種族分類的暴力工具。本文透過分析奈及利亞編舞家庫德斯.奧尼奎庫的舞作《轉轉生》,探討當代非洲舞蹈如何跳脫「標本式」的文化觀看。
Thumbnail
長期以來,西方美學以《維特魯威人》式的幾何比例定義「完美身體」,這種視覺標準無形中成為殖民擴張與種族分類的暴力工具。本文透過分析奈及利亞編舞家庫德斯.奧尼奎庫的舞作《轉轉生》,探討當代非洲舞蹈如何跳脫「標本式」的文化觀看。
Thumbnail
本文深度解析賽勒布倫尼科夫的舞臺作品《傳奇:帕拉贊諾夫的十段殘篇》,如何以十段殘篇,結合帕拉贊諾夫的電影美學、象徵意象與當代政治流亡抗爭,探討藝術在儀式消失的現代社會如何承接意義,並展現不羈的自由靈魂。
Thumbnail
本文深度解析賽勒布倫尼科夫的舞臺作品《傳奇:帕拉贊諾夫的十段殘篇》,如何以十段殘篇,結合帕拉贊諾夫的電影美學、象徵意象與當代政治流亡抗爭,探討藝術在儀式消失的現代社會如何承接意義,並展現不羈的自由靈魂。
Thumbnail
在科技發展的浪潮中,生成式AI無疑是引領未來的關鍵力量。透過深度學習技術,AI系統能夠從大量資料中發掘規律,並創造出全新的內容,無論是文字、圖像、音頻還是視頻,都可以在AI的加持下重新定義。
Thumbnail
在科技發展的浪潮中,生成式AI無疑是引領未來的關鍵力量。透過深度學習技術,AI系統能夠從大量資料中發掘規律,並創造出全新的內容,無論是文字、圖像、音頻還是視頻,都可以在AI的加持下重新定義。
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 回顧 AI說書 - 從0開始 - 76 ,我們在給定句子 「 Transformers possess surprising emerging features 」的情
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 回顧 AI說書 - 從0開始 - 76 ,我們在給定句子 「 Transformers possess surprising emerging features 」的情
Thumbnail
在當今快速變化的數位時代,企業面臨著前所未有的數據處理需求。為了應對這些挑戰,企業紛紛建立自己的大型語言模型(LLM),利用大量數據進行訓練,讓模型能夠理解並生成自然語言,從而實現人機協作,優化業務流程並提升客戶體驗。
Thumbnail
在當今快速變化的數位時代,企業面臨著前所未有的數據處理需求。為了應對這些挑戰,企業紛紛建立自己的大型語言模型(LLM),利用大量數據進行訓練,讓模型能夠理解並生成自然語言,從而實現人機協作,優化業務流程並提升客戶體驗。
Thumbnail
科技巨擘聯手推進生成式AI發展 開創人工智慧新時代 在生成式人工智慧(Generative AI)的浪潮中,雲端運算龍頭AWS和晶片巨擘NVIDIA攜手合作,推出一系列革命性的基礎設施、軟體和服務。
Thumbnail
科技巨擘聯手推進生成式AI發展 開創人工智慧新時代 在生成式人工智慧(Generative AI)的浪潮中,雲端運算龍頭AWS和晶片巨擘NVIDIA攜手合作,推出一系列革命性的基礎設施、軟體和服務。
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 回顧 AI說書 - 從0開始 - 77 ,我們在給定句子 「 Transformers possess surprising emerging features 」的情
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 回顧 AI說書 - 從0開始 - 77 ,我們在給定句子 「 Transformers possess surprising emerging features 」的情
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News