Самая большая проблема нейросетей на данный момент - они галлюцинируют. Т.е. порой, они делают предположение и воспринимают его далее как истину. Это происходит не часто, порой предположение истинны, хотя на начальном этапе нейросети это было неизвестно. Все последующие рассуждения вполне себе могут строиться на ошибочном предположении. Из-за чего работу нейросети нужно контролировать и проверять, а следовательно масштабные проекты нейросети доверять нельзя, только первичную обработку, которую легко проверить.