Ты тренировать на C++ собрался? Это плохая идея. А вот запуск уже готовых моделек из плюсовых приложений вполне себе обычное дело в любых современных фреймворках. Например.
https://pytorch.org/tutorials/advanced/cpp_export.html