Нейросеть, известная как “GPT-2”, настолько мощна, что ею могут злонамеренно злоупотреблять все – от политиков до мошенников. GPT-2 была создана для простой цели: она может (обучена) предугадывать следующее слово в предложении, а значит способна генерировать логичные и последовательные тексты, которые неотличимы от тех, которые написаны человеком.
Более того, модель может быть использована для создания “синтетической пропаганды” – вводящих в заблуждение новостей, выдавать себя за других людей, автоматически создавать оскорбительный или поддельный контент для социальных сетей или использовать спам, а также для других возможных применений, которые сейчас трудно представить.
Такие злоупотребления потребуют от общественности более критического отношения к тексту, который они читают в интернете и который мог быть создан искусственным интеллектом. Только за последний год способность генерировать контент всех видов – изображения, видео, аудио и текст — улучшилась до такой степени, что мы больше не можем доверять собственным чувствам и суждениям о том, что является реальным, а что поддельным.
И это только начало, потому что технологии будут продолжать развиваться и становиться все более интегрированными друг с другом.
Самая серьезная опасность заключается, пожалуй, в смешении реального и генерируемого. Мы все видели фейковые видео с участием политиков или личностей из шоу бизнеса. Скоро эти deepfakes станут вездесущими. Поэтому, в следующий раз, когда ваша мама позвонит из другого города или страны и скажет, что ей нужно $500, спросите себя: это действительно моя мама, или это искусственный интеллект, который приобрел ее голос и образ, смоделированный с помощью фотографий, которые она где-то разместила 5 лет назад?
На видео: Как работает GPT-2? (видео на английском языке)
