BERT Transformer 編碼器結構示意圖
0 檢舉
這是一張BERT模型中Transformer編碼器部分的核心結構示意圖。圖示流程自下而上，首先輸入包含特殊標識嵌入和常規序列嵌入的信息，這些輸入在經過兩層標有“Trm”的Transformer模組時，透過圖中交叉連接的線條展示全連接交互，從而充分提取序列的全局上下文特徵；最終在上層輸出對應的隱藏狀態序列，其中首位節點通常被用作融合整個首位序列信息的聚合特徵。
相關推薦
作者其他創作
大綱/內容
看更多
Trm
…
0 則評論
下一頁