Человечество против искусственного интеллекта: может ли развитие нейросетей привести к катастрофе

История про «восстание машин» давно знакома всем любителям научной фантастики, но после взрывного роста возможностей нейросетевых языковых моделей (вроде ChatGPT) об этом риске заговорили и вполне серьезные исследователи. В этой статье мы попробуем разобраться – есть ли основания у таких опасений, или это всего лишь бред воспаленной кукухи?

Илон Маск считает риск «глобальной катастрофы из-за ИИ» реальной проблемой – так что, может быть, и вам стоит разобраться, что там и как
458458

Все это похоже на когнитивное искажение. Эволюционно человек хорошо развил узнавание и взаимодействие с другими людьми. По этой же причине мы приписываем человеческие качества и эмоции животным и предметам - так проще нашему мозгу.

По этой же причине нейросети кажутся нам живыми.

28
Ответить

Про вопрос о том, что считать "живым", в статье вроде бы не затрагивали совсем. Но секция про то, что считать интеллектом, есть.

3
Ответить

Абсолютно согласен. Для обывателя, не закрытого по горло в тему очень сложно понимать, что у нейросетей никакого разума и тем более сознания не может случиться даже в теории. Просто потому что они настолько реалистичные, что обходят в этом плане даже некоторых людей.

2
Ответить

У нас в подкорке на опознавание лиц выделено достаточно много места. Надстройки самосознания сжирают большую часть наших вычислительных мощностей и мы на самом деле потакаем этому больше чем любой другой вид на планете и хотим чтобы этому потакал ИИ.
По сути, мы хотим чтобы ИИ стал этой надстройкой и поэтому его работоспособность под очень большим сомнением.

Ответить