Байден рассказал, что слышал запись, на которой нейросеть сымитировала его голос

Президент США Джо Байден слышал запись, на которой искусственный интеллект (ИИ) сымитировал его голос, и весьма удивился.
"Мошенникам нужно три секунды, чтобы сымитировать ваш голос с помощью ИИ и распространять лживые новости. Я видел одну такую запись со своим [голосом]. Я сказал: "Да когда я же такое говорил?" — отметил американский лидер, выступая в Белом доме в связи с подписанием указа, обязующего разработчиков серьезных систем ИИ делиться результатами тестирования по безопасности с американскими властями.
"Шутки в сторону! Три секунды записи вашего голоса требуются для создания имитации, достаточно хорошей, чтобы обмануть, я собирался сказать, вашу семью, но и вас самих. Взгляните на это. Это просто умопомрачительно!" — подчеркнул хозяин Белого дома. Он напомнил, что в интернете "используются сгенерированные ИИ аудио- и видеоматериалы, чтобы очернить репутацию" многих людей.
"Они могут использовать это, чтобы обмануть близких и заставить их прислать деньги, потому что те решат, что вы в беде. Это неправильно. Каждый человек имеет право знать, когда аудио, которое он слышит, или видео, которое смотрит, генерируется или изменяется при помощи искусственного интеллекта", — подчеркнул Байден.
Действие указа будет распространяться на компании, разрабатывающие базовые ИИ-модели, которые потенциально могут представлять "риск для национальной и экономической безопасности США", а также для здоровья и безопасности населения. Хозяин Белого дома поручил Минторгу США создать руководство по аутентификации и маркировке контента, созданного ИИ, чтобы защитить граждан от мошенничества при получении корреспонденции от властей. Согласно указу, в США также будет разработана передовая программа кибербезопасности, в рамках которой будут созданы инструменты ИИ для поиска и устранения уязвимостей в критически важном программном обеспечении.
Ранее администрация Байдена заручилась обязательствами семи ведущих компаний в области ИИ по обеспечению безопасности пользователей при использовании новых технологий. Компании, среди которых Amazon, Google и Microsoft, обязались проводить тщательные тестирования продукции ИИ перед ее представлением публике и выходом на рынок, а также сотрудничать с властями, гражданским обществом и научным сообществом для урегулирования потенциальных рисков.