資源提示
資源提示可讓管線作者向執行器提供有關運算資源需求資訊。 您可以使用資源提示來定義特定轉換或整個管線的需求。 執行器負責解譯資源提示,且執行器可以忽略不支援的提示。
資源提示可以巢狀化。 例如,可以在複合轉換的子轉換上指定資源提示,而且該複合轉換也可以套用資源提示。 預設情況下,最內層的提示優先。 但是,提示可以定義自訂的調和行為。 例如,min_ram
會採用管線中指定步驟上設定的所有 min_ram
值的最大值。
- Java SDK
- Python SDK
可用的提示
目前,Beam 支援下列資源提示
min_ram="numberXB"
:要分配給工作節點的最小 RAM 量。 Beam 可以解析各種位元組單位,包括 MB、GB、MiB 和 GiB (例如,min_ram="4GB"
)。 此提示旨在為處理轉換提供建議的最小記憶體需求。accelerator="hint"
:此提示旨在描述用於處理轉換的硬體加速器。 例如,以下是 Dataflow 執行器的有效加速器語法:accelerator="type:<type>;count:<n>;<options>"
資源提示的解譯和執行可能會因執行器而異。 有關範例實作,請參閱Dataflow 資源提示。
指定管線的資源提示
若要指定整個管線的資源提示,您可以使用管線選項。 下列命令顯示基本語法。
指定轉換的資源提示
您可以使用setResourceHints,以程式方式在管線轉換上設定資源提示。
您可以使用PTransforms.with_resource_hints以程式方式在管線轉換上設定資源提示(另請參閱ResourceHint)。
上次更新於 2024/10/31
您是否找到了您要找的所有內容?
是否一切都實用且清晰?是否有任何您想要變更的地方? 請告訴我們!