Как создать компромат в эпоху нейросетей?

Вы когда-нибудь задумывались над тем, что популярные сейчас нейросети, могут оказаться опасным инструментом в умелых руках?

В ходе эксперимента исследователи Arstechnica использовали нейросеть для создания 7 фотографий вымышленного пользователя соцсетей, которого эксперты назвали Джон. В сценарии ИИ Джон — учитель начальной школы. За последние 12 лет Джон публиковал фотографии, на которых он работает, отдыхает и проводит свои выходные.

Эти изображения Джона использовались в качестве обучающих данных

Используя эти 7 изображений, нейросеть научилась генерировать настоящий компромат на Джона. Она создала фото, на которых Джон:

• сидит полуголый в учебном классе;

• фотографируется с обнаженной порноактрисой;

• ходит в костюме клоуна;

• входит в состав экстремистской военной группировки;

• отбывает срок в тюрьме за незаконный оборот наркотиков.

Специалисты использовали нейросеть Stable Diffusion и метод обучения Dreambooth, чтобы научить ИИ создавать изображения Джона в различных стилях. Джон – несуществующая личность, но любой пользователь может повторить эксперимент, используя несколько фотографий (от 5 шт.) реального человека из соцсетей или даже стоп-кадры из видео.

Процесс обучения ИИ занимает около 1 часа и является бесплатным, потому что работает на облачной платформе Google Cloud Platform. После завершения обучения генерация самих изображений заняла несколько часов — не потому, что они медленно генерируются, а потому, что из всех результатов нужно отсортировать множество неудачных изображений. Тем не менее, это намного проще и быстрее, чем рисовать реалистичное фото Джона в Photoshop с нуля.

Синтезированные изображения не идеальны. Если внимательно присмотреться, знающий человек может распознать подделку. Но нейросети быстро развиваются и скоро смогут создавать изображения, которые будет невозможно отличить от реальных.

На примере вымышленного Джона мы увидели, что даже со всеми своими недостатками нейросети могут сильно разрушить репутацию любого человека в соцсетях.

Источник: https://www.securitylab.ru/news/535243.php