OpenAI разработала инструмент для определения изображений, сгенерированных DALL-E 3
Его точность достигает 98% для картинок, которые не редактировались после создания.
- OpenAI создала инструмент, который позволяет определять, было ли изображение сгенерировано моделью DALL-E 3, пишет WSJ. Пока он тестируется внутри компании.
- По словам OpenAI, инструмент может определять сгенерированные изображения с точностью до 98%, если они не редактировались после создания.
- Обрезанные или отредактированные картинки он распознаёт с меньшей точностью, но конкретных показателей компания не раскрывает. Чтобы повысить эффективность системы, OpenAI планирует предоставить к ней доступ «сторонним исследователям».
- В январе 2023 года OpenAI запустила инструмент для выявления сгенерированных ИИ текстов, но уже в июле закрыла его из-за низкой эффективности. Во время тестов он определял тексты, написанные ИИ, с точностью 26%.
- В OpenAI признают, что определять сгенерированные изображение проще, но отмечают, что продолжают работать над аналогичным инструментом для текстов.
Скоро разработают инструмент для обходу этого инструмента
Если изобретут более гениальную нейронку которая не ловится на эти паттерны, рисует нормальные пальцы и т.п. Ну и хорошо.
А потом разработают инструмент, который будет определять инструмент, который это обходит)
Как всегда в принципе)
Этот инструмент уже разработан. Ведь буквально в тексте сказаано, достаточно обрезать и обработать изображение и все
Да. Ты просто добавляешь условие, что если фотка считается распознанной, то генерируй заново, пока не обманешь другую нейронку.
Самой статье уже нескольких лет , я думал, это давно уже внедрили