Одна из наиболее зловещих функций дипфейковых систем искусственного интеллекта — это способность воспроизводить голос человека даже на основе короткой записи. Однако новый программный инструмент, известный как AntiFake, может помочь предотвратить это.
Среди прочего можно использовать дипфейковые версии голосов людей, а также фальшивые видео, чтобы они звучали и выглядели так, как будто политик или знаменитость сказали что-то, чего на самом деле они никогда не говорили.
Кроме того, были случаи, когда люди получали телефонные звонки, в которых фальшивый голос друга или члена семьи просил их отправить деньги как можно скорее из-за какой-то чрезвычайной ситуации. Кроме того, реплицированные голоса могут использоваться для обхода систем безопасности распознавания голоса.
Хотя уже существуют технологии, предназначенные для определения того, являются ли предположительно законные голоса подделками, AntiFake, как сообщается, является одним из самые первые системы, которые вообще предотвращают производство таких подделок. Короче говоря, это делает системы искусственного интеллекта намного сложнее считывать важные голосовые характеристики в записях голосов реальных людей.
«Этот инструмент использует технику состязательного искусственного интеллекта, которая изначально была частью набора инструментов киберпреступников, но теперь мы используем ее для защиты от них», — сказал изобретатель Нин Чжан, доцент кафедры компьютерных наук и инженерии Вашингтонского университета в Сент-Луисе. Луис. «Мы немного искажаем записанный аудиосигнал, искажаем или искажаем его ровно настолько, чтобы он по-прежнему звучал правильно для людей-слушателей, но совершенно не похож на искусственный интеллект».
Это означает, что даже если это дипфейк создан на основе записи, измененной AntiFake, он не будет звучать совсем как настоящий голос говорящего. Проведенные к настоящему времени испытания показали, что эта технология более чем на 95 % эффективна в предотвращении синтеза убедительных дипфейков.
«Хотя я не знаю, что будет дальше в голосовых технологиях искусственного интеллекта, но новые инструменты и функции уже есть. постоянно разрабатывается – я думаю, что наша стратегия использования техник злоумышленников против них самих будет продолжать быть эффективной», – сказал Чжан.
Код AntiFake доступен бесплатно каждому, кто захочет.
