Главный вопрос, сколько надо памяти на видеокарте что бы это запустить?
От 21 до 66 для 5B модели.
Inference Time and GPU Memory UsageThese numbers may vary based on system specifications and are provided for reference only.
Offloading Strategy Cosmos-1.0-Autoregressive-5B-Video2World Cosmos-1.0-Autoregressive-13B-Video2WorldNo offloading 66.2 GB > 80 GBGuardrails 58.7 GB 76.6 GBGuardrails & T5 encoder 41.3 GB 58.0 GBGuardrails & T5 encoder & Diffusion decoder 29.0 GB 46.9 GBGuardrails & T5 encoder & Diffusion decoder & Tokenizer 28.8 GB 46.7 GBGuardrails & T5 encoder & Diffusion decoder & Tokenizer & AR model 21.1 GB 30.9 GB
Главный вопрос, сколько надо памяти на видеокарте что бы это запустить?
От 21 до 66 для 5B модели.
Inference Time and GPU Memory Usage
These numbers may vary based on system specifications and are provided for reference only.
Offloading Strategy Cosmos-1.0-Autoregressive-5B-Video2World Cosmos-1.0-Autoregressive-13B-Video2World
No offloading 66.2 GB > 80 GB
Guardrails 58.7 GB 76.6 GB
Guardrails & T5 encoder 41.3 GB 58.0 GB
Guardrails & T5 encoder & Diffusion decoder 29.0 GB 46.9 GB
Guardrails & T5 encoder & Diffusion decoder & Tokenizer 28.8 GB 46.7 GB
Guardrails & T5 encoder & Diffusion decoder & Tokenizer & AR model 21.1 GB 30.9 GB