Диджитал Никогда не спрашивайте у ИИ эту информацию: он может направить вас прямо к мошенникам
Искусственный интеллект (ИИ) может направлять людей непосредственно к мошенникам, поскольку функция AI Overviews от Google пока не способна точно отличить фейковые контакты от настоящих.
Злоумышленники используют обзоры от ИИ в свою пользу, вводя в ответы Google контакты, которым не стоит доверять Сейчас уже известны первые случаи отображения мошеннических номеров службы поддержки в обзорах Google AI, предупреждает журнал Wired.
Суть схемы заключается в том, что жертва гуглит название компании, ища контактный номер, а затем звонит по номеру, выданному ИИ. Далее кто-то, кто выдает себя за эту компанию пытается получить платежную информацию или другие конфиденциальные данные от абонента.
Эксперты предполагают, что мошенники публикуют эти номера в нескольких малоизвестных местах в Интернете вместе с названиями крупных компаний. Затем AI Overviews собирает их, не проводя надлежащих проверок для подтверждения информации. Между тем Google утверждает, что активно борется с этими мошенниками.
"Наши средства защиты от спама очень эффективны в предотвращении мошенничества в обзорах искусственного интеллекта и отображении официальных номеров службы поддержки клиентов, где это возможно", — сказал представитель Google журналистам.
Стоит также учитывать, что проблема касается не только поисковой системы Google. Исследователи кибербезопасности обнаружили, что вредоносный текст может быть скрыт в электронных письмах, который затем искусственный интеллект собирает, обобщает и подает пользователю как точный и достоверный.
Чтобы не стать жертвой мошенников, не стоит полагаться на ИИ в вопросах константной информации. Если вы ищете номер телефона или почту, загуглите название нужной компании и возьмите информацию с официального сайта.
"Не верьте всему, что читаете в обзоре ИИ, особенно когда речь идет о конкретных фактах, цифрах или номерах телефонов. Технология ИИ от Google склонна к сбору устаревшей или подозрительной информации из Интернета, а также точных данных, и учитывая то, как представлен интерфейс обзора ИИ, трудно заметить разницу", — отметили в издании.
Напомним, ИИ отомстил разработчику, который отклонил его код на GitHub.
Фокус также писал о наиболее распространенных человеческих страхах относительно развития ИИ.
