Что на самом деле показало нашумевшее исследование о «сбежавших и обманывающих» больших языковых моделях
Всем привет! В последнее время я заметил множество постов и статей в русскоязычном сегменте интернета, которые ссылаются на одно интересное исследование, но интерпретируют его… скажем так, довольно своеобразно. Часто можно встретить заголовки вроде «ИИ научился обманывать чтобы спастись!» или «Нейросети вышли из-под контроля и пытались сбежать!». Э…
У софта нет воли, нет цели и нет стремлений. Вывод в статье это подтверждает. Считаю опасным заблуждением антропоморфный подход к работе программного обеспечения. Может привести в будущем к непредсказуемым результатам.
Полностью согласен, и лишь из-за кучи вот таких вот постов написал эту статью. Это настоящая демонизация. А у в РФ по исследованиям ВЦИОМ 40% людей НЕ ВЕРЯТ в существовании ИИ, что у них в голове будет когда они еще такого начитаются...