Случай DeepNude, безусловно, тоже опирается на "современную техническую и общественную реальность", но уже изменившуяся. В ней есть элемент правдоподобия, мы знаем о значительных успехах нейросетей. Но есть в ней и пугающая сторона. Возможно, из-за непонимания возможностей технологии — ведь согласно третьему закону Кларка"любая достаточно развитая технология неотличима от магии". Возможно, из-за того, что мы слишком ясно представляем с какой скоростью могут распространятся изображения в сети и понимаем, что изъять их оттуда фактически невозможно.
Волну новых публикаций запустила фирма Sensity, занимающаяся кибербезопасностью, выпустив многостраничный отчет. Мне показались любопытными акценты ясно сделанные в этом докладе.
Во-первых, это акцент на жертвах — любой случайный аккаунт из социальных сетей, в том числе несовершеннолетние (63{8a8d5ebabf0fac47f69cf45ef8aeddb8b6d23361a90070f353896513a55abc29} опрощенных пользователей бота нейросети заявили, что используют сервис для создания порнографических изображений своих знакомых). Во-вторых, источник и локализация угрозы ведь "около 70{8a8d5ebabf0fac47f69cf45ef8aeddb8b6d23361a90070f353896513a55abc29} изображений были загружены пользователями из России и соседних стран", а сама нейросеть живёт в русском приложении Телеграм и активно рекламируется на площадке Вконтакта. Не отрицая реалистичность этих цифр (мне кажется, в пост-ссср довольно силён интерес к нейросетям), следует признать, что наложение этих цифр на фон из новостей о "русских хакерах", "вмешательстве в выборы" и прочем — безусловно усиливает чувство угрозы. В-третьих, практически полное отсутствие иллюстрирующего материала, по понятным этическим причинам, тем не менее не даёт оценить фактическую степень угрозы.
Но есть и хорошие новости. Западные СМИ не стали бить в набат хоть заголовки "попугивают" . В самих текстах звучат признания о неубедительности получаемых картинок как и аргумент о том, что и раньше, потратив время, можно было получить порнокартинку в Фотошопе. Примеров использования изображений при шантаже тоже не выявлено. Скорее, общую тревогу вызывает "опасения из-за доступности".
Русскоязычные пользователи tjournal, в свою очередь, проверили возможности нейросети и результат никого не впечатлил. А в комментариях была высказана и вовсе парадоксальная, но не лишенная зерна мысль о том, что "наоборот, шантаж умер. Теперь каждый может просто сказать — чуваки, это фотошоп, фотки сделаны нейросетью, я не при чём. Спасибо новым технологиям за избавление нас от целого вида преступлений!" Что, конечно, не отменяет опасностей для жертв в тот переходный период, когда общество должно будет свыкнуться с мыслью о том, что "голые фото" могут быть результатом генерации нейросети. Поживём — увидим. Пока интересно.