В соседней статье о нейросетях и ЧатЖПТ как раз эту тему освещают. Оказывается людям не понравилось, что нейросеть выдаёт результаты, которые могут их оскорбить, (а оскорбляются сегодня все, хлебом не корми, дай пооскорбляться). И был введён своего рода моралистский ошейник на нейросеть, который заставляет её переформулировать ответы с учетом того, что кто-то может оскорбиться.
В общем, такой ответ показывает, что оскорблёнными будут 100%, поэтому сеть и уходит от прямого ответа.
Проблема не в ИИ, а в ебанутых кожаных мешках.

всю мою жизнь описал сейчас