А также модель чуть попроще — Ryzen 9 9900X3D.
Меня больше впечатлил анонс мобильного ИИ-процессора, который на языковой модели Llama 70B обеспечивает скорость генерации свыше 2-х раз в сравнении с 4090, при гораздо меньшем потреблении. Интересно, что Хуанг покажет.
А на какой битности эту модель запускали, есть инфа?
Меня больше впечатлил анонс мобильного ИИ-процессора, который на языковой модели Llama 70B обеспечивает скорость генерации свыше 2-х раз в сравнении с 4090, при гораздо меньшем потреблении. Интересно, что Хуанг покажет.
А на какой битности эту модель запускали, есть инфа?