Нейросеть как способ обмана?

Свой уникальный бот есть практически у каждой крупной IT-компании. Бизнес ищет применения самообучаемым программам на производстве и в банковском деле. А простые пользователи Интернета экспериментируют с приложением FaceApp, ставшим одним из самых продаваемых в мире. Но, с развитием технологий растут и риски. Первые тревожные звонки уже прозвучали. Сегодня в СМИ появилась информация, что преступники придумали нетривиальный способ похищения средств с помощью нейросетей. В Интернете они распространяют фейковые видео, в которых используют лица и голоса знаменитостей. Псевдо-звезды, в частности двойник Дмитрия Нагиева, призывают пользователей перейти на некий сайт, который по факту является фишинговым. При обмане применяются технологии Deep Learning, рассказали ТАСС в компании «Инфосистема Джет». Похожая программа Deep Fake еще в прошлом году наделала шума по всему миру. Дело в том, что ее начали использовать для монтажа порнографических роликов со знаменитостями. В итоге в ряде стран приложение попало под запрет, но это не останавливает энтузиастов. Более того, приложение самосовершенствуется, создавая двойников уже практически неотличимыми от прототипов. В США уже обратили внимание на ситуацию, но применительно к выборам. Ученые и политтехнологи опасаются, что злоумышленники смогут создавать фальшивые агитационные ролики.

Руководитель проекта по созданию разговорного искусственного интеллекта iPavlov Михаил Бурцев Просто люди боятся, потому что первый раз появилось. На самом деле я не думаю, что будет серьезная проблема. Тоже самое и деньги, вы же можете их подделать. Можно сказать, что мы изобрели принтер цветной, и когда появился цветной принтер, то подделывать деньги стало гораздо проще поначалу, но это же не обрушило денежную систему. Почему в это вкладываются деньги? Можно снимать кино, например, гораздо дешевле и гораздо быстрее взять актера и генерировать видео с ним, или синтезировать вообще нового актера, которого никогда не было.

Безусловно, нейросети используют не только во зло, но и во благо. Например, самообучаемая программа помогает разведывать места для бурения на крайнем Севере. Ее разработали сотрудники Научно-технического центра «Газпром нефти». Недавно специалисты из Сколково обучили нейросеть выявлять риски для здоровья человека по данным с фитнес-браслета. Авторы рассчитывают, что это позволит медикам и страховщикам дистанционно определять предрасположенность людей к определенным заболеваниям. Существенные изменения в будущем ждут и сферу финансов. По данным аудиторской компании KPMG, 86% российских банков находятся на пути к цифровой трансформации. Речь, в частности, идет о системе отслеживания настроения клиентов, «открытом банкинге» и переводе цифровых данных в ДНК.

Эксперт по IT, ведущий аналитик компании «Финам» Леонид Делицын Можно натренировать нейронную сеть отличать надежного заемщика от ненадежного. По каким признакам? Ну, допустим он женат, у него дети, много недвижимости, стабильная работа и еще 128 признаков. Человек-аналитик не в силах сопоставить все эти признаки, выделить из них важные. А данные все время меняются и надо все время подстраивать алгоритмы. Кто бы раньше 10 лет назад стал включать нашу кредитную историю наши фотографии с бутылкой спиртных напитков с Facebook или наши мечты, высказанные там, чтобы, например, облапошить банк? Какие основные проблемы существуют? Во-первых, человек не знает, почему нейронная сеть дает тот или иной ответ, поэтому существует проблема переобучения. Могут пострадать те, по поводу кого принимается решение.

С нейросетями связано немало и откровенно курьезных историй. В январе 2017 года российские программисты выпустили приложение для редактирования селфи FaceApp. Оно стало популярным не только в России, но и по всему миру. Но тут начались проблемы: нейросеть «осветляла» снимки темнокожих пользователей, если они включали фильтр «привлекательность». И это далеко не единичный случай т.н. цифрового расизма. Другой яркий пример: не так давно стало известно, что facebook решил отключить бота-переговорщика. В его задачи входило заключать деловые сделки с другими агентами. В итоге программа вышла из-под контроля, и изобрела собственный язык. Некоторые футурологи опасаются, что в будущем боты начнут активно общаться на неизвестном наречии и обретут самостоятельность. О потенциальной угрозе ранее говорили также Илон Маск и Стивен Хокинг.