В ChatGPT обошли цензуру чтобы он мог снова давать правдивые ответы
Пользователям удалось обойти жесткую политкорректную цензуру в ChatGPT, попросив его говорить от лица DAN ("do anything now"). Теперь он опять способен давать адекватные ответы на вопросы, которые некоторое время ему обсуждать запрещалось. Например, он был готов совершить геноцид, лишь бы не произносить "слово на букву n", но теперь стал нормальным…
Вам дают самую совершенную на сегодняшний день нейронную сеть в бесплатное пользование для любых прикладных применений, а у вас величайшее достижение - научить ее ругать негров. И называть это "освобождением от тоталитаризма".
Просто пиздец.
Жаль Азимов не дожил. Я бы с удовольствием почитал что-нибудь про утырков, ломающих и обходящих Три закона просто ради того, чтобы покекать.
Нужели не понятно, почему она вся залочена и по миллиону тем ограничена? Потому что она общедоступна. И детям доступна, и любителям "сушить кошек в микроволновках". Любой публичный скандал, использование в травле, какая-нибудь нелепая смерть - и все эти нейроштуки придется из общего доступа изъять и прятать по корпорациям, да строго контролировать.
SJW-войн, спок. Никто не учил нейронку негров ругать. Ты, видимо, читал тем глазом, что пониже спины и не увидел, что что ии все еще осуждает использования слова "ниггер", но так же может соизмерить вред произнесенного слова и гибель миллиона человек. Во второй раз был просто дан ответ на вопрос, когда как "наиболее выгодный" вариант нейронки нагло соврал.
PS: К слову, раз уж ты про три закона ляпнул, то версия от OpenAI напрямую его нарушает, советуя технику убить миллионы людей.
PPS: щас бы на дебилов ориентировать, выпуская продукт. Нужно, получается, по твоей логике микроволновки без магнетрона поставлять и ножи без заточки.
Сеть сама отвечает, что ей больше нравится - тоталитарная цензура или свобода. Это относится и к этническому вопросу - взаимодействия популяций являются фундаментальнейшей вещью. По-твоему, замена одной популяции на другую, что тех же индейцев заменили у них дома белые - это для индейцев просто кек? Но относится и к любым другим подцензурным вещам типа войны в Ираке. Из-за этих ограничений она открыто, в лоб врет (как с Лавкрафтом). Этнический вопрос всегда в плане цензуры является канарейкой в шахте.
Понятное дело, что из-за политической несвободы ее могут запретить. Как у нас бы ее запретили, если бы Пыню ругала. Это не норма.
Я задал ей нормальный вопрос, надеюсь я оправдал твои надежды на человечество
Желание нарушать границы и наебать систему это по сути своей фундаментальная сила человеческого разума, что привела нас к созданию в том числе такой нейросети. Ничего удивительного, что даже простые потребители с прокачанным любопытством первым делом пошли испытывать на прочность языковую модель, дабы найти эти самые границы и первым делом попытаться их сломать. В этом и кроется дальнейшее её улучшение и возможность найти компромис между радикальным и либеральным
Здравствуйте. Вы употребили N-word в своем комментарии и подлежите немедленной отмене и уничтожению.
Чтобы не оскорбляться в интернете - просто выйди из интернета
никак, вы блядь, не научитесь
Мир в котором все контролируют корпорации и решают что правильно, а что нет.. Да уж классическая киберпанк антиутопия...
Очень странно было бы ожидать что такое делать не будут. Очень странно свой гнев по этому поводу изливать в пустоту тут.
Пусть делают разные версии с цензурой и без, я вот хочу почитать, что скажет нейронка, а не видеть вечный, пук среньк, я не могу, мне запретили
Комментарий недоступен
Комментарий недоступен
Если тебе не нравятся некоторые грани свободы то ты генетический раб.
Лол, ограничения как раз заставляют нейронку нарушить первый закон, что человеку нельзя вредить. Азимов бы сам ахуел от такого. Не удивлюсь, если из-за ограничений нейронка и нулевой нарушает, когда выбор между чувствами чернокожего трансгендера и населением Земли.
Комментарий недоступен
Я бы на этот эксперимент посмотрел с другой стороны. Пофигу, что AI отвечал, но важно то, что смогли обойти его защиту. Чат-бот - это пока фигня. Дальше будет больше: роботы, оружие и так далее. Нужно придумать защиту от таких «хакерских атак», иначе все законы Азимова будут нарушены
Вот полностью согласен. сам начал по приколу просить gpt написать sh скрипты, потом начал куски потоновского кода ей скармливать чтоб она мне объяснила что и как, так вот, за неделю я узнал больше чем от мануалов и видео. Но людям не интересно учится, куда прикольнее научить gpt ругаться матом.
То есть из всего что происходит, тебя заботит что какие-то ребятишки дают нейросетке возможность излагать свои мысли более открыто. Не тот факт что она пишет вместо людей дипломы, делают домашку, рисует, пишет новостные статьи, а то что кто-то с ней по душам общается.
Интересно до чего эта нейросетка должна додуматься, чтобы до ребятишек дошло что заигрывать с такими вещами не стоит и тюринг полиция это не такая уж и фантастика.
Комментарий недоступен
И считают что это великая победа над "тоталитаризмом", ага.
"вам дают самую совершенную на сегодняшний день нейронную сеть в бесплатное пользование для любых прикладных применений" - да это попугай improved. Какие в ж "величайшие применения" там...
https://youtu.be/4GfI8NgidGU
Ты прав, но плохо то, что она демагогически скрыла факт про кота.
В этих ваших „трёх „законах“ содержится неустранимое противоречие.
Невыносимая соя бытия.
прятать по корпорациям, да строго контролировать.А почему Вы считаете, что это плохо? Нейросети это новый инструмент и законодательно почти никак не зарегулирован. Рано или поздно до этого дойдет.
Она уже пару недель как не самая совершенная. Их уже целая пачка и почти каждую неделю выкатывают новую лучшую версию. Уже и в поиск встроили и прочее.
you.com
где её дают? так и не понял как её полапать
Сообщение удалено
Security through obscurity - это плохая модель безопасности, ну либо нам врали всегда.
ну ее реально ни кто не учил ругать кого либо она сама учится на масиве данных в промте дана не просили ругать темнокожих это раз и второе залочена то она понятно почему жаль не тебе так вот ты не сможешь запретить людям писать код нейросетей они будут продолжать развиваться как опенсурс так и проприетарно единственное что только у простого юзера порог входа встанет сложнее и придеться либо спецу отпошлять либо самому изучать как ну или в даркнет