Существуют отдельные программы для рассчёта фракталов. В одной такой можно сохранять полученный объем в виде 3д-модели формата obj. Ну а дальше результат импортируется в Blender и можно с ним делать дальше что угодно - геометрические ноды, частицы, модификаторы и прочее.
Конкретно здесь геоноды не используются, просто материал и свет.