США запретили использовать голоса, сгенерированные искусственным интеллектом, в мошеннических звонках роботов после мошенничества, выдававшего себя за Байдена

Чтобы пресечь мошенническую деятельность и защитить интересы потребителей, Федеральная комиссия по связи (FCC) официально запретила использование голосов, генерируемых искусственным интеллектом, в необоснованных вызовах роботов на территории США.

Этот шаг последовал за инцидентом, когда жители Нью-Гэмпшира получили сфабрикованные голосовые сообщения, имитирующие президента США Джо Байдена, в которых содержался совет не участвовать в первичных выборах штата.

FCC расширяет защиту TCPA

Запрет, введенный в соответствии с Законом о защите прав потребителей телефонной связи (TCPA), представляет собой шаг на пути к сдерживанию распространения мошенничества с использованием роботов-звонков.

Председатель FCC Джессика Розенворсель заявила: «Злоумышленники используют голоса, сгенерированные искусственным интеллектом, в нежелательных звонках роботов, чтобы вымогать деньги у уязвимых членов семьи, подражать знаменитостям и дезинформировать избирателей. Мы привлекаем к ответственности мошенников, стоящих за этими звонками от роботов».

Мошеннические звонки с помощью роботов, уже запрещенные законом TCPA, основаны на сложной технологии искусственного интеллекта, которая имитирует голоса и обманывает ничего не подозревающих получателей. Последнее постановление распространяет запрет на «технологию клонирования голоса», фактически останавливая важный инструмент, используемый мошенниками в мошеннических схемах.

Мы гордимся тем, что присоединились к усилиям по защите потребителей от звонков роботов, генерируемых искусственным интеллектом, направив письмо о прекращении противоправных действий в адрес указанной техасской компании. https://t.co/qFtpf7eR2X https://t.co/ki2hVhH9Fv

— Федеральная комиссия по связи (@FCC), 7 февраля 2024 г.

Целью TCPA является защита потребителей от навязчивых сообщений и «нежелательных звонков» путем введения ограничений на практику телемаркетинга, включая использование искусственных или заранее записанных голосовых сообщений.

В своем заявлении Федеральная комиссия по связи подчеркнула, что такая технология может способствовать распространению дезинформации путем выдачи себя за авторитетных фигур. Хотя правоохранительные органы традиционно уделяют внимание результатам мошеннических звонков роботов, новое постановление дает им право привлекать к ответственности правонарушителей исключительно за использование ИИ для фальсификации голосов в таких сообщениях.

Техасская фирма связана с роботизированным вызовом Байдена

Власти также установили, что недавний громкий инцидент с роботом-вызовом, имитирующим голос президента Джо Байдена, произошел от техасской фирмы Life Corporation и человека, идентифицированного как Уолтер Монк.

С тех пор генеральный прокурор Мэйес направил компании письмо с предупреждением. «Использование ИИ для выдачи себя за президента и лжи избирателям неприемлемо», — сказал Мэйес. Она также подчеркнула, что подобным обманным практикам нет места в их демократии и они лишь еще больше снизят доверие общества к избирательному процессу.

Я поддерживаю 50 генеральных прокуроров, выступающих против компании, которая предположительно использовала искусственный интеллект, чтобы выдавать себя за президента в мошеннических звонках роботов перед праймериз в Нью-Гэмпшире. Подобным обманным практикам нет места в нашей демократии. https://t.co/CqucNaEQGn pic.twitter.com/ql4FQzutdl

— Генеральный прокурор Аризоны Крис Мэйес (@AZAGMayes), 8 февраля 2024 г.

Генеральный прокурор Джон Формелла также подтвердил, что компании было направлено письмо о прекращении противоправных действий и ведется уголовное расследование.

«Мы стремимся сохранить наши выборы свободными и справедливыми», — заявил генеральный прокурор Формелла во время пресс-конференции в Конкорде, штат Нью-Гэмпшир. Он осудил звонок робота как попытку использовать технологию искусственного интеллекта для подрыва демократического процесса, пообещав принять строгие правовые меры против преступников.

Робозвонок, разосланный 21 января тысячам избирателей-демократов, призывал получателей воздержаться от голосования на первичных выборах, чтобы сохранить свои голоса на последующих ноябрьских выборах.

Пост в США запрещает использование голосов, сгенерированных искусственным интеллектом, в мошеннических звонках роботов после мошенничества с выдачей себя за Байдена, впервые появился на CryptoPotato.