Transformers documentation

Qwen4-Exp

Transformers

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v5.22.2).

Join the Hugging Face community

and get access to the augmented documentation experience

Collaborate on models, datasets and Spaces

Faster examples with accelerated inference

Switch between documentation themes

to get started

Mô hình này đã được đóng góp cho Hugging Face Transformers vào ngày 2026-08-26.

Qwen4-Exp

Qwen4-Exp được xây dựng dựa trên kiến trúc văn bản và đa phương thức hybrid của Qwen3.5 với ba thành phần chính: GatedResidual (GR), Qwen Sparse Attention (QSA) và Per-Layer Embedding (PLE).

GR là kiến trúc residual do Qwen phát triển, kết hợp Hyper-Connection với GatedNorm. Nó trộn nhiều luồng residual với cổng elementwise chi tiết trước mỗi khối attention và Mixture-of-Experts (MoE), sau đó kiểm soát lượng đầu ra của khối được đưa ngược lại vào từng luồng.

QSA sử dụng nhiều đầu truy vấn để chấm điểm các khối khóa đã nén, chọn ra các khối token liên tiếp có liên quan nhất và giữ nguyên khối cuối chưa hoàn chỉnh ở dạng không nén. Việc chọn lựa ở cấp độ khối này làm giảm chi phí lập chỉ mục và cải thiện tính cục bộ của bộ nhớ cho các chuỗi dài. Khi kết hợp với Gated DeltaNet, QSA giúp Qwen4-Exp trở thành kiến trúc lai đầu tiên tích hợp cả chú ý tuyến tính và chú ý thưa, cải thiện đáng kể hiệu quả suy luận cho các tác vụ ngữ cảnh dài.

PLE làm phong phú các lớp decoder được chọn bằng các đặc trưng từ vựng cụ thể cho từng lớp, được suy ra từ các n-gram token đã băm và một phép tích chập chiều sâu giãn nở.

Mẹo sử dụng

ple_layer_ids sử dụng chỉ số lớp decoder bắt đầu từ 1. Khi PLE được bật và model nhận inputs_embeds, hãy truyền các token id gốc qua ple_input_ids. Nếu input_ids được cung cấp, model sẽ tự động sử dụng chúng cho PLE.
Trong quá trình tạo có cache, PLE duy trì cả ngữ cảnh n-gram và trạng thái của phép tích chập giãn nở. DynamicCache là mặc định được khuyến nghị, và StaticCache cũng được hỗ trợ. Việc cắt cache không được hỗ trợ khi PLE hoặc QSA được bật. Với việc offload cache, trạng thái của GatedDeltaNet, PLE và bộ chỉ mục QSA vẫn nằm trên thiết bị trong khi trạng thái key/value của attention được offload.
split_ngram_parts kiểm soát các shard checkpoint logic cho mỗi bảng nhúng PLE n-gram lớn. Transformers nối các shard này dọc theo chiều từ vựng để tạo thành một trọng số runtime duy nhất. Mặc định, save_pretrained(save_original_format=True) ghi lại bố cục shard gốc đã được cấu hình.
hc_count đặt số lượng luồng dư, và hc_lowrank đặt bậc của bộ trộn đầu vào GR được học.
Việc cung cấp đầy đủ bộ trường QSA indexer cho phép chọn token thưa trên các lớp full-attention. Các chế độ chú ý Eager và SDPA được hỗ trợ; các backend khác được yêu cầu sẽ tự động chuyển về Eager. Biên dịch tự động cho quá trình sinh bị vô hiệu hóa vì việc chọn token phụ thuộc vào dữ liệu.
tp_plan="auto" hỗ trợ sharding cho attention, MoE, GatedDeltaNet, QSA, GR và hàng từ vựng của bảng PLE. Cấu hình tùy chỉnh phải đảm bảo số đầu attention đã sharding, các chiều projection của QSA và GatedDeltaNet, độ rộng stream của GR, các chiều expert và từ vựng PLE đã padding đều chia hết cho kích thước TP. Đầu ra GR low-rank được nhân bản không thêm ràng buộc nào về tính chia hết.
FSDP2 chia nhỏ (shard) các token embeddings và các lớp decoder trong khi giữ GR mixer cuối cùng ở trạng thái đã gom (gathered). TP và FSDP hiện không thể kết hợp với nhau, và không có kế hoạch pipeline-parallel nào được cung cấp.
Sử dụng Qwen4ExpForCausalLM với Qwen4ExpTextConfig để tạo văn bản thuần túy. Sử dụng Qwen4ExpForConditionalGeneration với Qwen4ExpConfig cho các đầu vào đa phương tiện.
Sử dụng left padding cho việc tạo batched. Xem Padding side.

Qwen4ExpConfig

lớp transformers.Qwen4ExpConfig

< source >

Tham số

text_config (Union[dict, ~configuration_utils.PreTrainedConfig], tùy chọn) — Đối tượng cấu hình hoặc từ điển của bộ khung văn bản.
vision_config (Union[dict, ~configuration_utils.PreTrainedConfig], tùy chọn) — Đối tượng cấu hình hoặc từ điển của bộ khung thị giác.
image_token_id (int, tùy chọn, mặc định là 248056) — Chỉ số token hình ảnh được dùng làm ký tự thay thế cho các hình ảnh đầu vào.
video_token_id (int, tùy chọn, mặc định là 248057) — Chỉ số token video được dùng làm ký tự thay thế cho các video đầu vào.
vision_start_token_id (int, tùy chọn, mặc định là 248053) — ID của token đánh dấu điểm bắt đầu của một đoạn thị giác trong chuỗi đầu vào đa phương tiện.
vision_end_token_id (int, tùy chọn, mặc định là 248054) — ID của token đánh dấu kết thúc một đoạn thị giác trong chuỗi đầu vào đa phương tiện.
tie_word_embeddings (bool, tùy chọn, mặc định là False) — Có nên gắn kết các trọng số nhúng theo ánh xạ tied_weights_keys của mô hình hay không.

Đây là lớp cấu hình để lưu trữ cấu hình của một Qwen4ExpModel. Nó được sử dụng để khởi tạo một mô hình Qwen4 Exp theo các đối số được chỉ định, xác định kiến trúc của mô hình. Khởi tạo một cấu hình với các giá trị mặc định sẽ tạo ra một cấu hình tương tự như cấu hình của Qwen/Qwen4-Exp

Các đối tượng cấu hình kế thừa từ PreTrainedConfig và có thể được sử dụng để kiểm soát đầu ra của mô hình. Đọc tài liệu từ PreTrainedConfig để biết thêm thông tin.

Ví dụ:

>>> from transformers import Qwen4ExpConfig, Qwen4ExpForConditionalGeneration

>>> configuration = Qwen4ExpConfig()
>>> model = Qwen4ExpForConditionalGeneration(configuration)
>>> configuration = model.config

Qwen4ExpTextConfig

lớp transformers.Qwen4ExpTextConfig

< source >

( transformers_version: str | None = Nonearchitectures: list[str] | None = Noneoutput_hidden_states: bool | None = Falsereturn_dict: bool | None = Truedtype: str | torch.dtype | None = Nonechunk_size_feed_forward: int = 0is_encoder_decoder: bool = Falseid2label: dict[int, str] | dict[str, str] | None = Nonelabel2id: dict[str, int] | dict[str, str] | None = Noneproblem_type: Literal['regression', 'single_label_classification', 'multi_label_classification'] | None = Nonevocab_size: int = 248320hidden_size: int = 2048num_hidden_layers: int = 40num_attention_heads: int = 16num_key_value_heads: int = 2hidden_act: str = 'silu'max_position_embeddings: int = 32768initializer_range: float = 0.02rms_norm_eps: float = 1e-06use_cache: bool = Truetie_word_embeddings: bool = Falserope_parameters: transformers.modeling_rope_utils.RopeParameters | dict | None = Noneattention_bias: bool = Falseattention_dropout: float | int = 0.0head_dim: int = 256linear_conv_kernel_dim: int = 4linear_key_head_dim: int = 128linear_value_head_dim: int = 128linear_num_key_heads: int = 16linear_num_value_heads: int = 32moe_intermediate_size: int = 512shared_expert_intermediate_size: int = 512num_experts_per_tok: int = 10num_experts: int = 512output_router_logits: bool = Falserouter_aux_loss_coef: float = 0.001layer_types: list[str] | None = Nonepad_token_id: int | None = Nonebos_token_id: int | None = Noneeos_token_id: int | list[int] | None = Nonehc_count: int = 4hc_lowrank: int = 320ple_layer_ids: list[int] | None = Noneple_embed_dim: int | None = Noneple_conv_kernel_size: int = 4ngram_size: int = 3heads_per_ngram: int = 8ngram_vocab_size_base: int = 20000000make_ngram_vocab_size_divisible_by: int = 128seed: int = 1234split_ngram_parts: int = 512indexer_n_heads: int | None = Noneindexer_kv_heads: int | None = Noneindexer_head_dim: int | None = Noneindexer_budget: int | None = Noneindexer_compress_ratio: int | None = Nonenorm_topk_prob: bool = Trueoutput_gate_type: str | None = None )

Tham số

vocab_size (int, tuỳ chọn, mặc định là 248320) — Kích thước từ vựng của mô hình. Xác định số lượng token khác nhau có thể được biểu diễn bởi input_ids.
hidden_size (int, tùy chọn, mặc định là 2048) — Kích thước của các biểu diễn ẩn.
num_hidden_layers (int, tùy chọn, mặc định là 40) — Số lượng lớp ẩn trong bộ giải mã Transformer.
num_attention_heads (int, tùy chọn, mặc định là 16) — Số lượng đầu attention cho mỗi lớp attention trong bộ giải mã Transformer.
num_key_value_heads (int, tùy chọn, mặc định là 2) — Đây là số lượng key_value heads cần được sử dụng để triển khai Grouped Query Attention. Nếu num_key_value_heads=num_attention_heads, mô hình sẽ sử dụng Multi Head Attention (MHA), nếu num_key_value_heads=1 mô hình sẽ sử dụng Multi Query Attention (MQA), ngược lại sẽ sử dụng GQA. Khi chuyển đổi checkpoint multi-head sang checkpoint GQA, mỗi nhóm key và value head nên được xây dựng bằng cách meanpooling tất cả các head gốc trong nhóm đó. Để biết thêm chi tiết, hãy xem bài báo này. Nếu không được chỉ định, giá trị mặc định sẽ là num_attention_heads.
hidden_act (str, tùy chọn, mặc định là silu) — Hàm kích hoạt phi tuyến (hàm hoặc chuỗi) trong bộ giải mã. Ví dụ, "gelu", "relu", "silu", v.v.
max_position_embeddings (int, tùy chọn, mặc định là 32768) — Chiều dài chuỗi tối đa mà mô hình này có thể được sử dụng.
initializer_range (float, tùy chọn, mặc định là 0.02) — Độ lệch chuẩn của truncated_normal_initializer để khởi tạo tất cả các ma trận trọng số.
rms_norm_eps (float, tùy chọn, mặc định là 1e-06) — Giá trị epsilon được sử dụng bởi các lớp chuẩn hóa rms.
use_cache (bool, tùy chọn, mặc định là True) — Xác định xem mô hình có nên trả về các chú ý key/values cuối cùng hay không (không được sử dụng bởi tất cả các mô hình). Chỉ liên quan nếu config.is_decoder=True hoặc khi mô hình là mô hình sinh chỉ có decoder.
tie_word_embeddings (bool, tùy chọn, mặc định là False) — Có nên gắn kết các trọng số nhúng theo ánh xạ tied_weights_keys của mô hình hay không.
rope_parameters (Union[~modeling_rope_utils.RopeParameters, dict], tùy chọn) — Từ điển chứa các tham số cấu hình cho các embedding RoPE. Từ điển phải chứa một giá trị cho rope_theta và tùy chọn các tham số được sử dụng để mở rộng trong trường hợp bạn muốn sử dụng RoPE với max_position_embeddings dài hơn.
attention_bias (bool, tùy chọn, mặc định là False) — Có sử dụng bias trong các lớp chiếu query, key, value và output trong quá trình tự chú ý hay không.
attention_dropout (Union[float, int], tùy chọn, mặc định là 0.0) — Tỷ lệ dropout cho các xác suất chú ý.
head_dim (int, tùy chọn, mặc định là 256) — Kích thước chiều của đầu chú ý. Nếu là None, giá trị mặc định sẽ là hidden_size // num_attention_heads
linear_conv_kernel_dim (int, tùy chọn, mặc định là 4) — Kích thước kernel của phép卷积 được sử dụng trong các lớp linear attention.
linear_key_head_dim (int, tùy chọn, mặc định là 128) — Kích thước của mỗi key head trong linear attention.
linear_value_head_dim (int, tùy chọn, mặc định là 128) — Kích thước của mỗi đầu value trong linear attention.
linear_num_key_heads (int, tùy chọn, mặc định là 16) — Số lượng key heads được sử dụng trong các lớp linear attention.
linear_num_value_heads (int, tùy chọn, mặc định là 32) — Số lượng đầu value được sử dụng trong các lớp attention tuyến tính.
moe_intermediate_size (int, tùy chọn, mặc định là 512) — Kích thước trung gian của các MLP chuyên gia được định tuyến.
shared_expert_intermediate_size (int, tùy chọn, mặc định là 512) — Kích thước trung gian của các MLP chuyên gia dùng chung.
num_experts_per_tok (int, tùy chọn, mặc định là 10) — Số lượng chuyên gia để định tuyến mỗi token. Đây là giá trị top-k cho việc định tuyến chọn token.
num_experts (int, tùy chọn, mặc định là 512) — Số lượng chuyên gia được định tuyến trong các lớp MoE.
output_router_logits (bool, tùy chọn, mặc định là False) — Xác định xem có nên trả về router logits từ mô hình hay không. Bật tùy chọn này cũng cho phép mô hình xuất ra tổn thất bổ trợ, bao gồm tổn thất cân bằng tải và router z-loss.
router_aux_loss_coef (float, tùy chọn, mặc định là 0.001) — Hệ số của tổn thất cân bằng tải phụ. Được sử dụng để phạt việc định tuyến chuyên gia không đồng đều trong các mô hình MoE.
layer_types (list[str], tùy chọn) — Một danh sách ánh xạ rõ ràng từng chỉ số lớp với kiểu lớp tương ứng. Nếu không được cung cấp, danh sách này sẽ được tạo tự động dựa trên các giá trị cấu hình.
pad_token_id (int, tùy chọn) — Token id được sử dụng để đệm trong từ vựng.
bos_token_id (int, tùy chọn) — Token id được sử dụng cho beginning-of-stream trong bảng từ vựng.
eos_token_id (Union[int, list[int]], tùy chọn) — Token id được sử dụng cho end-of-stream trong bảng từ vựng.
hc_count (int, tùy chọn, mặc định là 4) — Số lượng luồng dư thừa được sử dụng bởi các siêu kết nối.
hc_lowrank (int, tuỳ chọn, mặc định là 320) — Rank của bộ trộn đầu vào hyper-connection đã học.
ple_layer_ids (list[int], tùy chọn) — Các id lớp decoder bắt đầu từ 1 sử dụng Per-Layer Embedding (PLE).
ple_embed_dim (int, tùy chọn) — Tổng số chiều của các embedding được nối từ tất cả các đầu n-gram trong mỗi module PLE. Mặc định là hidden_size.
ple_conv_kernel_size (int, tùy chọn, mặc định là 4) — Kích thước kernel của phép tích chập chiều sâu giãn nở trong mỗi module PLE.
ngram_size (int, tuỳ chọn, mặc định là 3) — N-gram token lớn nhất được biểu diễn bởi PLE.
heads_per_ngram (int, tùy chọn, mặc định là 8) — Số lượng đầu embedding được băm độc lập cho mỗi bậc n-gram.
ngram_vocab_size_base (int, tuỳ chọn, mặc định là 20000000) — Giới hạn dưới được dùng để suy ra kích thước từ vựng nguyên tố riêng biệt cho mỗi đầu n-gram băm.
make_ngram_vocab_size_divisible_by (int, tuỳ chọn, mặc định là 128) — Hệ số chia dùng để đệm cho bảng từ vựng nhúng n-gram kết hợp.
seed (int, tùy chọn, mặc định là 1234) — Seed được dùng để suy ra một cách tất định các hệ số nhân hash n-gram cho từng lớp.
split_ngram_parts (int, tuỳ chọn, mặc định là 512) — Số lượng shard checkpoint được sử dụng cho mỗi bảng nhúng n-gram PLE. Khi tải, các shard sẽ được nối lại thành một nhúng runtime duy nhất, trong khi save_pretrained khôi phục bố cục shard đã cấu hình.
indexer_n_heads (int, tùy chọn) — Số lượng đầu truy vấn được sử dụng bởi bộ chỉ mục token QSA. Việc đặt giá trị này sẽ kích hoạt QSA trên các lớp chú ý đầy đủ.
indexer_kv_heads (int, tùy chọn) — Số lượng đầu khóa của indexer. Qwen4-Exp QSA yêu cầu một đầu khóa.
indexer_head_dim (int, tùy chọn) — Kích thước của mỗi đầu query và key của bộ chỉ mục QSA.
indexer_budget (int, tùy chọn) — Số lượng token tối đa được chọn từ các khối nén hoàn chỉnh cho mỗi truy vấn.
indexer_compress_ratio (int, tùy chọn) — Số lượng khóa token liên tiếp được trung bình hóa vào một khối chỉ mục QSA.
norm_topk_prob (bool, tùy chọn, mặc định là True) — Có nên chuẩn hóa trọng số của các chuyên gia được định tuyến hay không.
output_gate_type (str, tùy chọn) — Hàm kích hoạt được sử dụng bởi cổng đầu ra của linear attention. Nếu không được đặt, hidden_act sẽ được sử dụng.

validate_architecture

< source >

( )

Một phần của xác thực do @strict hỗ trợ. Xác thực các bất biến kiến trúc của Qwen4-Exp.

Qwen4ExpVisionConfig

lớp transformers.Qwen4ExpVisionConfig

< source >

Tham số

depth (int, tùy chọn, mặc định là 27) — Số lượng lớp Transformer trong bộ mã hóa thị giác.
hidden_size (int, tùy chọn, mặc định là 1152) — Kích thước của các biểu diễn ẩn.
hidden_act (str, tùy chọn, mặc định là gelu_pytorch_tanh) — Hàm kích hoạt phi tuyến (hàm hoặc chuỗi) trong bộ giải mã. Ví dụ, "gelu", "relu", "silu", v.v.
intermediate_size (int, tùy chọn, mặc định là 4304) — Kích thước của các biểu diễn MLP.
num_heads (int, tùy chọn, mặc định là 16) — Số lượng đầu chú ý cho mỗi lớp chú ý trong bộ giải mã Transformer.
in_channels (int, tùy chọn, mặc định là 3) — Số lượng kênh đầu vào.
patch_size (Union[int, list[int], tuple[int, int]], tùy chọn, mặc định là 16) — Kích thước (độ phân giải) của mỗi patch.
spatial_merge_size (int, tuỳ chọn, mặc định là 2) — Kích thước của cửa sổ hợp nhất không gian được sử dụng để giảm số lượng token thị giác bằng cách hợp nhất các patch lân cận.
temporal_patch_size (Union[int, list[int], tuple[int, int]], tuỳ chọn, mặc định là 2) — Kích thước patch theo thời gian được sử dụng trong nhúng patch 3D cho đầu vào video.
out_hidden_size (int, tuỳ chọn, mặc định là 3584) — Kích thước ẩn đầu ra của mô hình thị giác.
num_position_embeddings (int, tùy chọn, mặc định là 2304) — Chiều dài tối đa của chuỗi mà mô hình này có thể được sử dụng
initializer_range (float, tùy chọn, mặc định là 0.02) — Độ lệch chuẩn của truncated_normal_initializer để khởi tạo tất cả các ma trận trọng số.
rope_parameters (dict, tùy chọn) — Từ điển chứa các tham số cấu hình cho các embedding RoPE. Từ điển phải chứa một giá trị cho rope_theta và tùy chọn các tham số được sử dụng để mở rộng trong trường hợp bạn muốn sử dụng RoPE với max_position_embeddings dài hơn.

Qwen4ExpVisionModel

lớp transformers.Qwen4ExpVisionModel

< source >

( config: Qwen4ExpVisionConfig*inputs**kwargs )

Tham số

config (Qwen4ExpVisionConfig) — Lớp cấu hình mô hình chứa tất cả các tham số của mô hình. Khởi tạo bằng tệp cấu hình sẽ không tải trọng số liên quan đến mô hình, chỉ tải cấu hình. Xem phương thức from_pretrained() để tải trọng số mô hình.

Mô hình Qwen4 Exp thô, xuất ra các hidden-states thô mà không có bất kỳ head cụ thể nào ở phía trên.

Mô hình này kế thừa từ PreTrainedModel. Xem tài liệu của lớp cha để biết các phương thức chung mà thư viện triển khai cho tất cả các mô hình của nó (chẳng hạn như tải xuống hoặc lưu trữ, thay đổi kích thước các nhúng đầu vào, cắt tỉa các đầu, v.v.)

Mô hình này cũng là một lớp con của torch.nn.Module trong PyTorch. Hãy sử dụng nó như một Module PyTorch thông thường và tham khảo tài liệu PyTorch cho mọi vấn đề liên quan đến cách sử dụng và hành vi chung.

forward

< source >

( hidden_states: Tensorgrid_thw: Tensor**kwargs ) → torch.Tensor

Tham số

hidden_states (torch.Tensor có hình dạng (seq_len, hidden_size)) — Trạng thái ẩn cuối cùng của mô hình.
grid_thw (torch.Tensor có hình dạng (num_images_or_videos, 3)) — Trục thời gian, chiều cao và chiều rộng của hình dạng đặc trưng của mỗi hình ảnh trong LLM.

Trả về

torch.Tensor

hidden_states.

Qwen4ExpTextModel

lớp transformers.Qwen4ExpTextModel

< source >

( config: Qwen4ExpTextConfig )

Tham số

config (Qwen4ExpTextConfig) — Lớp cấu hình mô hình chứa tất cả các tham số của mô hình. Khởi tạo bằng tệp cấu hình sẽ không tải trọng số liên quan đến mô hình, chỉ tải cấu hình. Xem phương thức from_pretrained() để tải trọng số của mô hình.

Mô hình Qwen4 Exp Text thuần túy, xuất ra các hidden-states thô mà không có bất kỳ head cụ thể nào ở phía trên.

forward

< source >

( input_ids: typing.Optional[torch.LongTensor] = Noneattention_mask: typing.Optional[torch.Tensor] = Noneposition_ids: typing.Optional[torch.LongTensor] = Nonepast_key_values: transformers.cache_utils.Cache | None = Noneinputs_embeds: typing.Optional[torch.Tensor] = Noneuse_cache: bool | None = Noneple_input_ids: typing.Optional[torch.Tensor] = None**kwargs: *<class 'transformers.utils.generic.TransformersKwargs'> ) → BaseModelOutputWithPast or tuple(torch.Tensor)

Tham số

input_ids (torch.LongTensor có dạng (batch_size, sequence_length), tùy chọn) — Chỉ số của các token trong chuỗi đầu vào theo từ điển. Mặc định, padding sẽ bị bỏ qua.
Các chỉ số có thể được lấy bằng cách sử dụng AutoTokenizer. Xem PreTrainedTokenizer.encode() và PreTrainedTokenizer.call() để biết thêm chi tiết.

ID đầu vào là gì?
attention_mask (torch.Tensor có hình dạng (batch_size, sequence_length), tùy chọn) — Mặt nạ để tránh thực hiện chú ý trên các chỉ số token đệm. Các giá trị mặt nạ được chọn trong [0, 1]:
- 1 cho các token không bị che,
- 0 cho các token bị che.
Mặt nạ chú ý là gì?
position_ids (torch.LongTensor có hình dạng (batch_size, sequence_length), tùy chọn) — Chỉ số vị trí của các token trong mỗi chuỗi đầu vào trong các position embeddings. Được chọn trong khoảng [0, config.n_positions - 1].
ID vị trí là gì?
past_key_values (~cache_utils.Cache, tuỳ chọn) — Các hidden-state đã tính trước (key và value trong các khối self-attention và cross-attention) có thể được sử dụng để tăng tốc giải mã tuần tự. Điều này thường bao gồm past_key_values được trả về bởi mô hình ở một giai đoạn giải mã trước đó, khi use_cache=True hoặc config.use_cache=True.
Chỉ cho phép Cache instance làm đầu vào, xem hướng dẫn kv cache của chúng tôi. Nếu không truyền past_key_values, DynamicCache sẽ được khởi tạo theo mặc định.

Mô hình sẽ xuất ra cùng định dạng cache được đưa vào làm đầu vào.

Nếu past_key_values được sử dụng, người dùng được kỳ vọng chỉ nhập input_ids chưa được xử lý (những phần chưa có trạng thái key value quá khứ được cung cấp cho mô hình này) có hình dạng (batch_size, unprocessed_length) thay vì toàn bộ input_ids có hình dạng (batch_size, sequence_length).
inputs_embeds (torch.Tensor có hình dạng (batch_size, sequence_length, hidden_size), tùy chọn) — Tùy chọn, thay vì truyền input_ids, bạn có thể chọn truyền trực tiếp một biểu diễn nhúng. Điều này hữu ích nếu bạn muốn kiểm soát nhiều hơn cách chuyển đổi các chỉ số input_ids thành các vector liên quan so với ma trận tra cứu nhúng nội bộ của mô hình.
use_cache (bool, tùy chọn) — Nếu đặt thành True, các trạng thái key value của past_key_values sẽ được trả về và có thể được sử dụng để tăng tốc quá trình giải mã (xem past_key_values).
ple_input_ids (torch.LongTensor có shape (batch_size, sequence_length), tùy chọn) — Các token id gốc được sử dụng bởi Per-Layer Embedding (PLE). Điều này chỉ cần thiết khi PLE được bật và inputs_embeds được truyền thay vì input_ids.

Trả về

BaseModelOutputWithPast hoặc tuple(torch.Tensor)

Một BaseModelOutputWithPast hoặc một tuple của torch.Tensor (nếu return_dict=False được truyền hoặc khi config.return_dict=False) bao gồm các thành phần khác nhau tùy thuộc vào cấu hình (Qwen4ExpConfig) và đầu vào.

Phương thức forward của Qwen4ExpTextModel ghi đè lên phương thức đặc biệt __call__.

Mặc dù công thức cho bước truyền tiến cần được định nghĩa bên trong hàm này, người dùng nên gọi instance của Module sau đó thay vì gọi hàm này, vì instance Module sẽ đảm nhận việc thực hiện các bước tiền xử lý và hậu xử lý, trong khi hàm này sẽ lặng lẽ bỏ qua chúng.

last_hidden_state (torch.Tensor có hình dạng (batch_size, sequence_length, hidden_size)) — Chuỗi các hidden-state tại đầu ra của lớp cuối cùng của mô hình.

Nếu past_key_values được sử dụng, chỉ có hidden-state cuối cùng của các chuỗi có shape (batch_size, 1, hidden_size) được xuất ra.
past_key_values (Cache, tùy chọn, được trả về khi use_cache=True được truyền vào hoặc khi config.use_cache=True) — Đây là một instance của Cache. Để biết thêm chi tiết, hãy xem hướng dẫn về kv cache của chúng tôi.

Chứa các hidden-states đã được tính trước (key và values trong các khối self-attention và tùy chọn nếu config.is_encoder_decoder=True trong các khối cross-attention) có thể được sử dụng (xem đầu vào past_key_values) để tăng tốc độ giải mã tuần tự.
hidden_states (tuple(torch.Tensor), tuỳ chọn, được trả về khi output_hidden_states=True được truyền vào hoặc khi config.output_hidden_states=True) — Bộ tuple của torch.Tensor (một cho đầu ra của embeddings, nếu mô hình có lớp embedding, + một cho đầu ra của mỗi lớp) có hình dạng (batch_size, sequence_length, hidden_size).

Trạng thái ẩn của mô hình tại đầu ra của mỗi lớp cùng với các đầu ra embedding ban đầu tùy chọn.
attentions (tuple(torch.Tensor), tuỳ chọn, được trả về khi output_attentions=True được truyền vào hoặc khi config.output_attentions=True) — Tuple của torch.Tensor (một cho mỗi lớp) có hình dạng (batch_size, num_heads, sequence_length, sequence_length).

Trọng số chú ý sau softmax của attention, được sử dụng để tính trung bình có trọng số trong các đầu self-attention.

Qwen4ExpModel

lớp transformers.Qwen4ExpModel

< source >

( config: Qwen4ExpConfig )

Tham số

config (Qwen4ExpConfig) — Lớp cấu hình mô hình chứa tất cả các tham số của mô hình. Khởi tạo bằng tệp cấu hình không tải trọng số liên quan đến mô hình, chỉ tải cấu hình. Xem phương thức from_pretrained() để tải trọng số mô hình.

Mô hình Qwen4 Exp thô, xuất ra các hidden-states thô mà không có bất kỳ head cụ thể nào ở phía trên.

forward

< source >

( input_ids: LongTensor = Noneattention_mask: typing.Optional[torch.Tensor] = Noneposition_ids: typing.Optional[torch.LongTensor] = Nonepast_key_values: transformers.cache_utils.Cache | None = Noneinputs_embeds: typing.Optional[torch.Tensor] = Nonepixel_values: typing.Optional[torch.Tensor] = Nonepixel_values_videos: typing.Optional[torch.Tensor] = Noneimage_grid_thw: typing.Optional[torch.LongTensor] = Nonevideo_grid_thw: typing.Optional[torch.LongTensor] = Nonemm_token_type_ids: typing.Optional[torch.IntTensor] = Nonemm_encoder_outputs: dict[str, transformers.modeling_outputs.BaseModelOutputWithPooling] | None = None**kwargs: *<class 'transformers.utils.generic.TransformersKwargs'> ) → MoeModelOutputWithPast or tuple(torch.Tensor)

Tham số

input_ids (torch.LongTensor có dạng (batch_size, sequence_length), tùy chọn) — Chỉ số của các token trong chuỗi đầu vào theo từ điển. Mặc định, padding sẽ bị bỏ qua.
Các chỉ số có thể được lấy bằng cách sử dụng AutoTokenizer. Xem PreTrainedTokenizer.encode() và PreTrainedTokenizer.call() để biết thêm chi tiết.

ID đầu vào là gì?
attention_mask (torch.Tensor có hình dạng (batch_size, sequence_length), tùy chọn) — Mặt nạ để tránh thực hiện chú ý trên các chỉ số token đệm. Các giá trị mặt nạ được chọn trong [0, 1]:
- 1 cho các token không bị che,
- 0 cho các token bị che.
Mặt nạ chú ý là gì?
position_ids (torch.LongTensor có hình dạng (batch_size, sequence_length), tùy chọn) — Chỉ số vị trí của các token trong mỗi chuỗi đầu vào trong các position embeddings. Được chọn trong khoảng [0, config.n_positions - 1].
ID vị trí là gì?
past_key_values (~cache_utils.Cache, tuỳ chọn) — Các hidden-state đã tính trước (key và value trong các khối self-attention và cross-attention) có thể được sử dụng để tăng tốc giải mã tuần tự. Điều này thường bao gồm past_key_values được trả về bởi mô hình ở một giai đoạn giải mã trước đó, khi use_cache=True hoặc config.use_cache=True.
Chỉ cho phép Cache instance làm đầu vào, xem hướng dẫn kv cache của chúng tôi. Nếu không truyền past_key_values, DynamicCache sẽ được khởi tạo theo mặc định.

Mô hình sẽ xuất ra cùng định dạng cache được đưa vào làm đầu vào.

Nếu past_key_values được sử dụng, người dùng được kỳ vọng chỉ nhập input_ids chưa được xử lý (những phần chưa có trạng thái key value quá khứ được cung cấp cho mô hình này) có hình dạng (batch_size, unprocessed_length) thay vì toàn bộ input_ids có hình dạng (batch_size, sequence_length).
inputs_embeds (torch.Tensor có hình dạng (batch_size, sequence_length, hidden_size), tùy chọn) — Tùy chọn, thay vì truyền input_ids, bạn có thể chọn truyền trực tiếp một biểu diễn nhúng. Điều này hữu ích nếu bạn muốn kiểm soát nhiều hơn cách chuyển đổi các chỉ số input_ids thành các vector liên quan so với ma trận tra cứu nhúng nội bộ của mô hình.
pixel_values (torch.Tensor có hình dạng (batch_size, num_channels, image_size, image_size), tùy chọn) — Các tensor tương ứng với các hình ảnh đầu vào. Giá trị pixel có thể được lấy bằng cách sử dụng Qwen2VLImageProcessor. Xem Qwen2VLImageProcessor.call() để biết chi tiết (Qwen3VLProcessor sử dụng Qwen2VLImageProcessor để xử lý hình ảnh).
pixel_values_videos (torch.Tensor có hình dạng (batch_size, num_frames, num_channels, frame_size, frame_size), tùy chọn) — Các tensor tương ứng với video đầu vào. Giá trị pixel cho video có thể được lấy bằng cách sử dụng Qwen3VLVideoProcessor. Xem Qwen3VLVideoProcessor.call() để biết chi tiết (Qwen3VLProcessor sử dụng Qwen3VLVideoProcessor để xử lý video).
image_grid_thw (torch.LongTensor có hình dạng (num_images, 3), tùy chọn) — Trục thời gian, chiều cao và chiều rộng của hình dạng đặc trưng của từng hình ảnh trong LLM.
video_grid_thw (torch.LongTensor có hình dạng (num_videos, 3), tùy chọn) — Trục thời gian, chiều cao và chiều rộng của hình dạng đặc trưng của từng video trong LLM.
mm_token_type_ids (torch.IntTensor có shape (batch_size, sequence_length), tùy chọn) — Chỉ số của các token trong chuỗi đầu vào khớp với từng phương thức (modality). Ví dụ: văn bản (0), hình ảnh (1), video (2). Các id loại token đa phương thức có thể được lấy bằng cách sử dụng AutoProcessor. Xem ProcessorMixin.call() để biết chi tiết.
mm_encoder_outputs (dict[str, ~modeling_outputs.BaseModelOutputWithPooling], tùy chọn) — Dict trong đó các khóa là các chế độ (modality) được hỗ trợ và các giá trị là kết quả mã hóa cho chế độ đó. Mỗi kết quả mã hóa là một tuple gồm (pooler_output, tùy chọn: last_hidden_states, tùy chọn: hidden_states, tùy chọn: attentions) pooler_output có hình dạng (batch_size, sequence_length, hidden_size), tùy chọn) là một chuỗi các đặc trưng đa phương tiện của bộ mã hóa đã được hợp nhất vào các nhúng văn bản.

Trả về

MoeModelOutputWithPast hoặc tuple(torch.Tensor)

Một MoeModelOutputWithPast hoặc một tuple của torch.Tensor (nếu return_dict=False được truyền hoặc khi config.return_dict=False) bao gồm các thành phần khác nhau tùy thuộc vào cấu hình (Qwen4ExpConfig) và đầu vào.

Phương thức forward của Qwen4ExpModel ghi đè lên phương thức đặc biệt __call__.

Mặc dù công thức cho bước truyền tiến cần được định nghĩa bên trong hàm này, người dùng nên gọi instance của Module sau đó thay vì gọi hàm này, vì instance Module sẽ đảm nhận việc thực hiện các bước tiền xử lý và hậu xử lý, trong khi hàm này sẽ lặng lẽ bỏ qua chúng.

last_hidden_state (torch.Tensor có hình dạng (batch_size, sequence_length, hidden_size)) — Chuỗi các hidden-state tại đầu ra của lớp cuối cùng của mô hình.
past_key_values (Cache, tùy chọn, được trả về khi use_cache=True được truyền vào hoặc khi config.use_cache=True) — Đây là một instance của Cache. Để biết thêm chi tiết, hãy xem hướng dẫn về kv cache của chúng tôi.

Chứa các hidden-states đã được tính trước (key và values trong các khối self-attention và tùy chọn nếu config.is_encoder_decoder=True trong các khối cross-attention) có thể được sử dụng (xem đầu vào past_key_values) để tăng tốc độ giải mã tuần tự.
hidden_states (tuple(torch.Tensor), tuỳ chọn, được trả về khi output_hidden_states=True được truyền vào hoặc khi config.output_hidden_states=True) — Bộ tuple của torch.Tensor (một cho đầu ra của embeddings, nếu mô hình có lớp embedding, + một cho đầu ra của mỗi lớp) có hình dạng (batch_size, sequence_length, hidden_size).

Trạng thái ẩn của mô hình tại đầu ra của mỗi lớp cùng với các đầu ra embedding ban đầu tùy chọn.
attentions (tuple(torch.Tensor), tuỳ chọn, được trả về khi output_attentions=True được truyền vào hoặc khi config.output_attentions=True) — Tuple của torch.Tensor (một cho mỗi lớp) có hình dạng (batch_size, num_heads, sequence_length, sequence_length).

Trọng số chú ý sau softmax của attention, được sử dụng để tính trung bình có trọng số trong các đầu self-attention.
router_logits (tuple(torch.Tensor), tuỳ chọn, được trả về khi output_router_probs=True và config.add_router_probs=True được truyền vào hoặc khi config.output_router_probs=True) — Bộ ba torch.Tensor (một cho mỗi lớp) có hình dạng (batch_size, sequence_length, num_experts).

Logits thô (sau softmax) được tính bởi các router MoE, các thuật ngữ này được sử dụng để tính toán tổn thất bổ trợ cho các mô hình Mixture of Experts.

Qwen4ExpForCausalLM

lớp transformers.Qwen4ExpForCausalLM

< source >

( config: Qwen4ExpTextConfig )

Tham số

config (Qwen4ExpTextConfig) — Lớp cấu hình mô hình chứa tất cả các tham số của mô hình. Khởi tạo bằng tệp cấu hình sẽ không tải trọng số liên quan đến mô hình, chỉ tải cấu hình. Xem phương thức from_pretrained() để tải trọng số của mô hình.

Mô hình Qwen4 Exp cho mô hình hóa ngôn ngữ nhân quả.

forward

< source >

( input_ids: typing.Optional[torch.LongTensor] = Noneattention_mask: typing.Optional[torch.Tensor] = Noneposition_ids: typing.Optional[torch.LongTensor] = Nonepast_key_values: transformers.cache_utils.Cache | None = Noneinputs_embeds: typing.Optional[torch.Tensor] = Nonelabels: typing.Optional[torch.LongTensor] = Noneuse_cache: bool | None = Noneoutput_router_logits: bool | None = Nonelogits_to_keep: typing.Union[int, torch.Tensor] = 0**kwargs: *<class 'transformers.utils.generic.TransformersKwargs'> ) → MoeCausalLMOutputWithPast or tuple(torch.Tensor)

Tham số

input_ids (torch.LongTensor có dạng (batch_size, sequence_length), tùy chọn) — Chỉ số của các token trong chuỗi đầu vào theo từ điển. Mặc định, padding sẽ bị bỏ qua.
Các chỉ số có thể được lấy bằng cách sử dụng AutoTokenizer. Xem PreTrainedTokenizer.encode() và PreTrainedTokenizer.call() để biết thêm chi tiết.

ID đầu vào là gì?
attention_mask (torch.Tensor có hình dạng (batch_size, sequence_length), tùy chọn) — Mặt nạ để tránh thực hiện chú ý trên các chỉ số token đệm. Các giá trị mặt nạ được chọn trong [0, 1]:
- 1 cho các token không bị che,
- 0 cho các token bị che.
Mặt nạ chú ý là gì?
position_ids (torch.LongTensor có hình dạng (batch_size, sequence_length), tùy chọn) — Chỉ số vị trí của các token trong mỗi chuỗi đầu vào trong các position embeddings. Được chọn trong khoảng [0, config.n_positions - 1].
ID vị trí là gì?
past_key_values (~cache_utils.Cache, tuỳ chọn) — Các hidden-state đã tính trước (key và value trong các khối self-attention và cross-attention) có thể được sử dụng để tăng tốc giải mã tuần tự. Điều này thường bao gồm past_key_values được trả về bởi mô hình ở một giai đoạn giải mã trước đó, khi use_cache=True hoặc config.use_cache=True.
Chỉ cho phép Cache instance làm đầu vào, xem hướng dẫn kv cache của chúng tôi. Nếu không truyền past_key_values, DynamicCache sẽ được khởi tạo theo mặc định.

Mô hình sẽ xuất ra cùng định dạng cache được đưa vào làm đầu vào.

Nếu past_key_values được sử dụng, người dùng được kỳ vọng chỉ nhập input_ids chưa được xử lý (những phần chưa có trạng thái key value quá khứ được cung cấp cho mô hình này) có hình dạng (batch_size, unprocessed_length) thay vì toàn bộ input_ids có hình dạng (batch_size, sequence_length).
inputs_embeds (torch.Tensor có hình dạng (batch_size, sequence_length, hidden_size), tùy chọn) — Tùy chọn, thay vì truyền input_ids, bạn có thể chọn truyền trực tiếp một biểu diễn nhúng. Điều này hữu ích nếu bạn muốn kiểm soát nhiều hơn cách chuyển đổi các chỉ số input_ids thành các vector liên quan so với ma trận tra cứu nhúng nội bộ của mô hình.
labels (torch.LongTensor có shape (batch_size, sequence_length), tùy chọn) — Nhãn để tính toán tổn thất mô hình hóa ngôn ngữ có che (masked language modeling loss). Chỉ số phải nằm trong [0, ..., config.vocab_size] hoặc -100 (xem docstring của input_ids). Các token có chỉ số được đặt thành -100 sẽ bị bỏ qua (che), tổn thất chỉ được tính cho các token có nhãn nằm trong [0, ..., config.vocab_size].
use_cache (bool, tùy chọn) — Nếu đặt thành True, các trạng thái key value của past_key_values sẽ được trả về và có thể được sử dụng để tăng tốc quá trình giải mã (xem past_key_values).
output_router_logits (bool, tùy chọn) — Có trả về logits của tất cả các router hay không. Chúng hữu ích để tính toán router loss và không nên được trả về trong quá trình suy luận.
logits_to_keep (Union[int, torch.Tensor], tùy chọn, mặc định là 0) — Nếu là int, tính logits cho logits_to_keep token cuối. Nếu là 0, tính logits cho tất cả input_ids (trường hợp đặc biệt). Chỉ cần logits của token cuối cho quá trình sinh, và việc chỉ tính cho token đó có thể tiết kiệm bộ nhớ, điều này trở nên khá đáng kể với các chuỗi dài hoặc kích thước từ vựng lớn. Nếu là torch.Tensor, phải là 1 chiều tương ứng với các chỉ số cần giữ trong chiều độ dài chuỗi. Điều này hữu ích khi sử dụng định dạng tensor đóng gói (một chiều duy nhất cho batch và độ dài chuỗi).

Trả về

MoeCausalLMOutputWithPast hoặc tuple(torch.Tensor)

Một MoeCausalLMOutputWithPast hoặc một tuple của torch.Tensor (nếu return_dict=False được truyền hoặc khi config.return_dict=False) bao gồm các thành phần khác nhau tùy thuộc vào cấu hình (Qwen4ExpConfig) và đầu vào.

Phương thức forward của Qwen4ExpForCausalLM ghi đè lên phương thức đặc biệt __call__.

Mặc dù công thức cho bước truyền tiến cần được định nghĩa bên trong hàm này, người dùng nên gọi instance của Module sau đó thay vì gọi hàm này, vì instance Module sẽ đảm nhận việc thực hiện các bước tiền xử lý và hậu xử lý, trong khi hàm này sẽ lặng lẽ bỏ qua chúng.

loss (torch.Tensor có shape (1,), tùy chọn, được trả về khi labels được cung cấp) — Loss của language modeling (cho next-token prediction).
logits (torch.Tensor có hình dạng (batch_size, sequence_length, config.vocab_size)) — Điểm dự đoán của đầu mô hình hóa ngôn ngữ (điểm cho mỗi token trong từ vựng trước SoftMax).
aux_loss (torch.Tensor, tuỳ chọn, được trả về khi output_router_logits=True được truyền vào hoặc khi config.output_router_logits=True, và mô hình huấn luyện router của nó với tổn thất cân bằng tải) — Tổn thất phụ cân bằng tải cho các module thưa. Các mô hình cân bằng chuyên gia của chúng bằng router bias thay thế (DeepSeek-V3 và các kiến trúc phái sinh từ nó) sẽ trả về None tại đây trong khi vẫn trả về router_logits.
router_logits (tuple(torch.Tensor), tuỳ chọn, được trả về khi truyền output_router_logits=True hoặc khi config.output_router_logits=True) — Bộ tuple của torch.Tensor (một cho mỗi lớp thưa) có hình dạng (batch_size * sequence_length, num_experts).

Logits thô của router được tính toán bởi các router MoE. Chúng có thể được sử dụng để tính toán tổn thất cân bằng tải hoặc để kiểm tra cách các token được phân phối đến các chuyên gia.
past_key_values (Cache, tùy chọn, được trả về khi use_cache=True được truyền vào hoặc khi config.use_cache=True) — Đây là một instance của Cache. Để biết thêm chi tiết, hãy xem hướng dẫn về kv cache của chúng tôi.

Chứa các hidden-states đã được tính trước (key và values trong các khối self-attention) có thể được sử dụng (xem đầu vào past_key_values) để tăng tốc độ giải mã tuần tự.
hidden_states (tuple(torch.Tensor), tuỳ chọn, được trả về khi output_hidden_states=True được truyền vào hoặc khi config.output_hidden_states=True) — Bộ tuple của torch.Tensor (một cho đầu ra của embeddings, nếu mô hình có lớp embedding, + một cho đầu ra của mỗi lớp) có hình dạng (batch_size, sequence_length, hidden_size).

Trạng thái ẩn của mô hình tại đầu ra của mỗi lớp cùng với các đầu ra embedding ban đầu tùy chọn.
attentions (tuple(torch.Tensor), tuỳ chọn, được trả về khi output_attentions=True được truyền vào hoặc khi config.output_attentions=True) — Tuple của torch.Tensor (một cho mỗi lớp) có hình dạng (batch_size, num_heads, sequence_length, sequence_length).

Trọng số chú ý sau softmax của attention, được sử dụng để tính trung bình có trọng số trong các đầu self-attention.

Ví dụ:

>>> from transformers import AutoTokenizer, Qwen4ExpForCausalLM

>>> model = Qwen4ExpForCausalLM.from_pretrained("Qwen/Qwen3-Next-80B-A3B-Instruct")
>>> tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen3-Next-80B-A3B-Instruct")

>>> prompt = "Hey, are you conscious? Can you talk to me?"
>>> inputs = tokenizer(prompt, return_tensors="pt")

>>> # Generate
>>> generate_ids = model.generate(inputs.input_ids, max_length=30)
>>> tokenizer.batch_decode(generate_ids, skip_special_tokens=True, clean_up_tokenization_spaces=False)[0]
"Hey, are you conscious? Can you talk to me?\nI'm not conscious, but I can talk to you."

Qwen4ExpForConditionalGeneration

lớp transformers.Qwen4ExpForConditionalGeneration

< source >

( config: Qwen4ExpConfig )

Tham số

config (Qwen4ExpConfig) — Lớp cấu hình mô hình chứa tất cả các tham số của mô hình. Khởi tạo bằng tệp cấu hình không tải trọng số liên quan đến mô hình, chỉ tải cấu hình. Xem phương thức from_pretrained() để tải trọng số mô hình.

Mô hình Qwen4 Exp cho việc tạo token có điều kiện dựa trên các phương thức khác (ví dụ: tạo văn bản từ hình ảnh-văn bản).

forward

< source >

( input_ids: LongTensor = Noneattention_mask: typing.Optional[torch.Tensor] = Noneposition_ids: typing.Optional[torch.LongTensor] = Nonepast_key_values: transformers.cache_utils.Cache | None = Noneinputs_embeds: typing.Optional[torch.Tensor] = Nonelabels: typing.Optional[torch.LongTensor] = Nonepixel_values: typing.Optional[torch.Tensor] = Nonepixel_values_videos: typing.Optional[torch.Tensor] = Noneimage_grid_thw: typing.Optional[torch.LongTensor] = Nonevideo_grid_thw: typing.Optional[torch.LongTensor] = Nonemm_token_type_ids: typing.Optional[torch.IntTensor] = Noneoutput_router_logits: bool | None = Nonelogits_to_keep: typing.Union[int, torch.Tensor] = 0mm_encoder_outputs: dict[str, transformers.modeling_outputs.BaseModelOutputWithPooling] | None = None**kwargs: *<class 'transformers.utils.generic.TransformersKwargs'> ) → MoeCausalLMOutputWithPast or tuple(torch.Tensor)

Tham số

input_ids (torch.LongTensor có dạng (batch_size, sequence_length), tùy chọn) — Chỉ số của các token trong chuỗi đầu vào theo từ điển. Mặc định, padding sẽ bị bỏ qua.
Các chỉ số có thể được lấy bằng cách sử dụng AutoTokenizer. Xem PreTrainedTokenizer.encode() và PreTrainedTokenizer.call() để biết thêm chi tiết.

ID đầu vào là gì?
attention_mask (torch.Tensor có hình dạng (batch_size, sequence_length), tùy chọn) — Mặt nạ để tránh thực hiện chú ý trên các chỉ số token đệm. Các giá trị mặt nạ được chọn trong [0, 1]:
- 1 cho các token không bị che,
- 0 cho các token bị che.
Mặt nạ chú ý là gì?
position_ids (torch.LongTensor có hình dạng (batch_size, sequence_length), tùy chọn) — Chỉ số vị trí của các token trong mỗi chuỗi đầu vào trong các position embeddings. Được chọn trong khoảng [0, config.n_positions - 1].
ID vị trí là gì?
past_key_values (~cache_utils.Cache, tuỳ chọn) — Các hidden-state đã tính trước (key và value trong các khối self-attention và cross-attention) có thể được sử dụng để tăng tốc giải mã tuần tự. Điều này thường bao gồm past_key_values được trả về bởi mô hình ở một giai đoạn giải mã trước đó, khi use_cache=True hoặc config.use_cache=True.
Chỉ cho phép Cache instance làm đầu vào, xem hướng dẫn kv cache của chúng tôi. Nếu không truyền past_key_values, DynamicCache sẽ được khởi tạo theo mặc định.

Mô hình sẽ xuất ra cùng định dạng cache được đưa vào làm đầu vào.

Nếu past_key_values được sử dụng, người dùng được kỳ vọng chỉ nhập input_ids chưa được xử lý (những phần chưa có trạng thái key value quá khứ được cung cấp cho mô hình này) có hình dạng (batch_size, unprocessed_length) thay vì toàn bộ input_ids có hình dạng (batch_size, sequence_length).
inputs_embeds (torch.Tensor có hình dạng (batch_size, sequence_length, hidden_size), tùy chọn) — Tùy chọn, thay vì truyền input_ids, bạn có thể chọn truyền trực tiếp một biểu diễn nhúng. Điều này hữu ích nếu bạn muốn kiểm soát nhiều hơn cách chuyển đổi các chỉ số input_ids thành các vector liên quan so với ma trận tra cứu nhúng nội bộ của mô hình.
labels (torch.LongTensor có shape (batch_size, sequence_length), tùy chọn) — Nhãn để tính toán tổn thất mô hình hóa ngôn ngữ có che (masked language modeling loss). Chỉ số phải nằm trong [0, ..., config.vocab_size] hoặc -100 (xem docstring của input_ids). Các token có chỉ số được đặt thành -100 sẽ bị bỏ qua (che), tổn thất chỉ được tính cho các token có nhãn nằm trong [0, ..., config.vocab_size].
pixel_values (torch.Tensor có hình dạng (batch_size, num_channels, image_size, image_size), tùy chọn) — Các tensor tương ứng với các hình ảnh đầu vào. Giá trị pixel có thể được lấy bằng cách sử dụng Qwen2VLImageProcessor. Xem Qwen2VLImageProcessor.call() để biết chi tiết (Qwen3VLProcessor sử dụng Qwen2VLImageProcessor để xử lý hình ảnh).
pixel_values_videos (torch.Tensor có hình dạng (batch_size, num_frames, num_channels, frame_size, frame_size), tùy chọn) — Các tensor tương ứng với video đầu vào. Giá trị pixel cho video có thể được lấy bằng cách sử dụng Qwen3VLVideoProcessor. Xem Qwen3VLVideoProcessor.call() để biết chi tiết (Qwen3VLProcessor sử dụng Qwen3VLVideoProcessor để xử lý video).
image_grid_thw (torch.LongTensor có hình dạng (num_images, 3), tùy chọn) — Trục thời gian, chiều cao và chiều rộng của hình dạng đặc trưng của từng hình ảnh trong LLM.
video_grid_thw (torch.LongTensor có hình dạng (num_videos, 3), tùy chọn) — Trục thời gian, chiều cao và chiều rộng của hình dạng đặc trưng của từng video trong LLM.
mm_token_type_ids (torch.IntTensor có shape (batch_size, sequence_length), tùy chọn) — Chỉ số của các token trong chuỗi đầu vào khớp với từng phương thức (modality). Ví dụ: văn bản (0), hình ảnh (1), video (2). Các id loại token đa phương thức có thể được lấy bằng cách sử dụng AutoProcessor. Xem ProcessorMixin.call() để biết chi tiết.
output_router_logits (bool, tùy chọn) — Có trả về logits của tất cả các router hay không. Chúng hữu ích để tính toán router loss và không nên được trả về trong quá trình suy luận.
logits_to_keep (Union[int, torch.Tensor], tùy chọn, mặc định là 0) — Nếu là int, tính logits cho logits_to_keep token cuối. Nếu là 0, tính logits cho tất cả input_ids (trường hợp đặc biệt). Chỉ cần logits của token cuối cho quá trình sinh, và việc chỉ tính cho token đó có thể tiết kiệm bộ nhớ, điều này trở nên khá đáng kể với các chuỗi dài hoặc kích thước từ vựng lớn. Nếu là torch.Tensor, phải là 1 chiều tương ứng với các chỉ số cần giữ trong chiều độ dài chuỗi. Điều này hữu ích khi sử dụng định dạng tensor đóng gói (một chiều duy nhất cho batch và độ dài chuỗi).
mm_encoder_outputs (dict[str, ~modeling_outputs.BaseModelOutputWithPooling], tùy chọn) — Dict trong đó các khóa là các chế độ (modality) được hỗ trợ và các giá trị là kết quả mã hóa cho chế độ đó. Mỗi kết quả mã hóa là một tuple gồm (pooler_output, tùy chọn: last_hidden_states, tùy chọn: hidden_states, tùy chọn: attentions) pooler_output có hình dạng (batch_size, sequence_length, hidden_size), tùy chọn) là một chuỗi các đặc trưng đa phương tiện của bộ mã hóa đã được hợp nhất vào các nhúng văn bản.

Trả về

MoeCausalLMOutputWithPast hoặc tuple(torch.Tensor)

Phương thức forward của Qwen4ExpForConditionalGeneration ghi đè lên phương thức đặc biệt __call__.

Mặc dù công thức cho bước truyền tiến cần được định nghĩa bên trong hàm này, người dùng nên gọi instance của Module sau đó thay vì gọi hàm này, vì instance Module sẽ đảm nhận việc thực hiện các bước tiền xử lý và hậu xử lý, trong khi hàm này sẽ lặng lẽ bỏ qua chúng.

loss (torch.Tensor có shape (1,), tùy chọn, được trả về khi labels được cung cấp) — Loss của language modeling (cho next-token prediction).
logits (torch.Tensor có hình dạng (batch_size, sequence_length, config.vocab_size)) — Điểm dự đoán của đầu mô hình hóa ngôn ngữ (điểm cho mỗi token trong từ vựng trước SoftMax).
aux_loss (torch.Tensor, tuỳ chọn, được trả về khi output_router_logits=True được truyền vào hoặc khi config.output_router_logits=True, và mô hình huấn luyện router của nó với tổn thất cân bằng tải) — Tổn thất phụ cân bằng tải cho các module thưa. Các mô hình cân bằng chuyên gia của chúng bằng router bias thay thế (DeepSeek-V3 và các kiến trúc phái sinh từ nó) sẽ trả về None tại đây trong khi vẫn trả về router_logits.
router_logits (tuple(torch.Tensor), tuỳ chọn, được trả về khi truyền output_router_logits=True hoặc khi config.output_router_logits=True) — Bộ tuple của torch.Tensor (một cho mỗi lớp thưa) có hình dạng (batch_size * sequence_length, num_experts).

Logits thô của router được tính toán bởi các router MoE. Chúng có thể được sử dụng để tính toán tổn thất cân bằng tải hoặc để kiểm tra cách các token được phân phối đến các chuyên gia.
past_key_values (Cache, tùy chọn, được trả về khi use_cache=True được truyền vào hoặc khi config.use_cache=True) — Đây là một instance của Cache. Để biết thêm chi tiết, hãy xem hướng dẫn về kv cache của chúng tôi.

Chứa các hidden-states đã được tính trước (key và values trong các khối self-attention) có thể được sử dụng (xem đầu vào past_key_values) để tăng tốc độ giải mã tuần tự.
hidden_states (tuple(torch.Tensor), tuỳ chọn, được trả về khi output_hidden_states=True được truyền vào hoặc khi config.output_hidden_states=True) — Bộ tuple của torch.Tensor (một cho đầu ra của embeddings, nếu mô hình có lớp embedding, + một cho đầu ra của mỗi lớp) có hình dạng (batch_size, sequence_length, hidden_size).

Trạng thái ẩn của mô hình tại đầu ra của mỗi lớp cùng với các đầu ra embedding ban đầu tùy chọn.
attentions (tuple(torch.Tensor), tuỳ chọn, được trả về khi output_attentions=True được truyền vào hoặc khi config.output_attentions=True) — Tuple của torch.Tensor (một cho mỗi lớp) có hình dạng (batch_size, num_heads, sequence_length, sequence_length).

Trọng số chú ý sau softmax của attention, được sử dụng để tính trung bình có trọng số trong các đầu self-attention.

Ví dụ:

>>> from transformers import AutoProcessor, Qwen4ExpForConditionalGeneration

>>> model = Qwen4ExpForConditionalGeneration.from_pretrained("Qwen/Qwen3.5-35B-A3B-Instruct", dtype="auto", device_map="auto")
>>> processor = AutoProcessor.from_pretrained("Qwen/Qwen3.5-35B-A3B-Instruct")

>>> messages = [
    {
        "role": "user",
        "content": [
            {
                "type": "image",
                "image": "https://huggingface.co/datasets/hf-internal-testing/transformers-synthetic-assets/resolve/main/images/qwen_vl_demo.jpeg",
            },
            {"type": "text", "text": "Describe this image in short."},
        ],
    }
]

>>> # Preparation for inference
>>> inputs = processor.apply_chat_template(
    messages,
    tokenize=True,
    add_generation_prompt=True,
    return_dict=True,
    return_tensors="pt"
)
>>> inputs = inputs.to(model.device)

>>> # Generate
>>> generated_ids = model.generate(**inputs, max_new_tokens=128)
>>> generated_ids_trimmed = [
    out_ids[len(in_ids) :] for in_ids, out_ids in zip(inputs.input_ids, generated_ids)
]
>>> processor.batch_decode(generated_ids_trimmed, skip_special_tokens=True, clean_up_tokenization_spaces=False)[0]
"A woman in a plaid shirt sits on a sandy beach at sunset, smiling as she gives a high-five to a yellow Labrador Retriever wearing a harness. The ocean waves roll in the background."

Update on GitHub

←Qwen3Next RAG→