Stability AI объявил, что позволит художникам удалять свои работы из набора обучающих данных в Stable Diffusion 3.0. Stability AI будет выполнять запросы на отказ, собранные на сайте Have I Been Trained (база данных изображений, используемых для обучения нейросетей).
Чтобы понять, как должна работать система отказа от участия в Stable Diffusion 3.0, специалисты загрузили на сайт Have I Been Trained чужие рекламные постеры и выбрали несколько изображений, от которых нужно отказаться. Стоит отметить, что после выбора пользователю не нужно подтверждать личность или какое-либо юридическое право над изображениями.
Кроме того, чтобы удалить изображение из системы обучения, оно уже должно быть в наборе данных LAION. В настоящее время нет возможности отказаться от больших групп изображений или множества копий одного и того же изображения, которые могут быть в наборе данных.
В ходе эксперимента исследователи Arstechnica использовали нейросеть для создания 7 фотографий вымышленного пользователя соцсетей. Используя эти 7 изображений, нейросеть научилась генерировать настоящий компромат на Джона.
Чтобы понять, как должна работать система отказа от участия в Stable Diffusion 3.0, специалисты загрузили на сайт Have I Been Trained чужие рекламные постеры и выбрали несколько изображений, от которых нужно отказаться. Стоит отметить, что после выбора пользователю не нужно подтверждать личность или какое-либо юридическое право над изображениями.
Кроме того, чтобы удалить изображение из системы обучения, оно уже должно быть в наборе данных LAION. В настоящее время нет возможности отказаться от больших групп изображений или множества копий одного и того же изображения, которые могут быть в наборе данных.
В ходе эксперимента исследователи Arstechnica использовали нейросеть для создания 7 фотографий вымышленного пользователя соцсетей. Используя эти 7 изображений, нейросеть научилась генерировать настоящий компромат на Джона.