Нейросеть GPT-2, которая считалась слишком опасной, проникает в мир

Нейросеть GPT-2, которая считалась слишком опасной, проникает в мир

Нейросеть, известная как «GPT-2», настолько мощна, что ею могут злонамеренно злоупотреблять все — от политиков до мошенников. GPT-2 была создана для простой цели: она может (обучена) предугадывать следующее слово в предложении, а значит способна генерировать логичные и последовательные тексты, которые неотличимы от тех, которые написаны человеком.

Более того, модель может быть использована для создания «синтетической пропаганды» — вводящих в заблуждение новостей, выдавать себя за других людей, автоматически создавать оскорбительный или поддельный контент для социальных сетей или использовать спам, а также для других возможных применений, которые сейчас трудно представить.

Такие злоупотребления потребуют от общественности более критического отношения к тексту, который они читают в интернете и который мог быть создан искусственным интеллектом. Только за последний год способность генерировать контент всех видов — изображения, видео, аудио и текст — улучшилась до такой степени, что мы больше не можем доверять собственным чувствам и суждениям о том, что является реальным, а что поддельным.

И это только начало, потому что технологии будут продолжать развиваться и становиться все более интегрированными друг с другом.

Самая серьезная опасность заключается, пожалуй, в смешении реального и генерируемого. Мы все видели фейковые видео с участием политиков или личностей из шоу бизнеса. Скоро эти deepfakes станут вездесущими. Поэтому, в следующий раз, когда ваша мама позвонит из другого города или страны и скажет, что ей нужно $500, спросите себя: это действительно моя мама, или это искусственный интеллект, который приобрел ее голос и образ, смоделированный с помощью фотографий, которые она где-то разместила 5 лет назад?

На видео: Как работает GPT-2? (видео на английском языке)

Исхаков Максим

Руководитель информационного портала "Безопасник". Директор компании по продаже и установке систем безопасности.

Оцените автора
Портал о системах видеонаблюдения и безопасности
Добавить комментарий