Это вообще легально?

Судя по сайту Nvidia, количество CUDA-ядер в Ampere какое-то совершенно запредельное.

Конечно, сопоставлять число CUDA-ядер Ampere и Turing может быть от "не совсем верно" до "совсем неверно" ввиду архитектурных изменений, но всё же цифры впечатляют. Да и в целом соответствуют показанному на презентации.