У меня 2080ti с 11Gb памяти. Я пользовался вот таким локальным клиентом для dreambooth. Работает очень шустро и интерфейс понятный. Даже на 1000 шагов на объект даёт отличный результат (10 минут на всё про всё). Можно обучать как локальную модель, уже скачанную, так и дать приложению самостоятельно выкачать нужную с репозитория huggingface. В общем, рекомендую попробовать!
https://github.com/smy20011/dreambooth-gui

На коллабе быстрее всего выходит. Обучил на фото себя и своих другалей, вышло достаточно детально, только вот всякие особенности типа родинок, шрамов, принтов на одежде на исходных фотках портят результат: родинок становится не одна, а куча, как веснушек, причем беспорядочно, принты появляется на готовых картинках упоротыми надписями в стиле нейронки.
Сейчас думаю над тем, как совместить несколько моделей в одну. Там есть функция суммирования весов моделей, но я не уверен что она сработает как надо.

Я пытался в 8гб запустить, но сдался и пустил на проце) Глянь таблицу с настройками в разделе гайда, аддон и на 10 должен пойти сейчас.

Попробуйте файл подкачки в windows включить и увеличить! Я поставил 32Гб и мне помогло.