Google специально сосредоточил свои алгоритмы борьбы со спамом на конфиденциальных запросах, которые были особенно важны для пользователей, связанных с такими важными темами, как поиск сайтов для медицинских тестов. Инструмент для автоматического поиска и устранения спам-материалов из поисковой выдачи Google были внедрен в 2020 году. Пока что определить успех запущенной кампании сложно, так как на многих сайтах спам-ссылки еще присутствуют.

• Она заявила, что уже сейчас «защитные ИИ-системы Gmail» блокируют более 99,9% спама, фишинга и вредоносных программ, которые в итоге не попадают в почтовые ящики пользователей.
• Семинары и курсы будут развиваться, чтобы вовлекать людей в обучение ИИ для фильтрации спама более непосредственно.
• Компании также удалось значительно улучшить выявление ссылочного спама и взломанных сайтов – более чем в 50 раз в первом случае и в 10 раз во втором.
• «Хорошие» боты — это программы, которые выполняют полезную задачу для компании или пользователей.
• Подобный спам труднее удалить (как правило, сообщения в форумах и блогах могут редактировать только привилегированные пользователи — соответственно, рядовой участник должен связаться с кем-нибудь из них).
• Компания утверждает, что с появлением новых фильтров, в прошлом месяце ежедневно блокировалось на 100 миллионов спам-сообщений больше.

По словам компании, эта мера позволит избежать перенасыщения ящиков Gmail нежелательными сообщениями. Дополнительные меры, такие как фильтрация спама ИИ, позволяют аналитикам и ИТ-командам выполнять техническое обслуживание. Иногда спам опережает релевантные электронные письма, и большинству людей часто не хватает времени, чтобы его отсеять или обработать. В 2022 году Google выпустил несколько обновлений, которые обеспечивают отсутствие спама для всех пользователей Поиска. При этом, по данным компании, значительная часть их миллиардов индексируемых веб-страниц, является спамом. Широко распространенный способ взлома сайтов, о котором предупреждает Google, называется взломом японских ключевых слов, потому что он добавляет страницы на японском языке.

Борьба со спамом и ИИ

Менеджер группы продуктов приложения Phone by Google Джонатан Экклс рассказал, как бренд хочет решить проблемы, связанные с нежелательными звонками, в последнем выпуске подкаста Made by Google. Например, содержание спама меняется в зависимости от мировых тенденций и международных событий. Спам-письма содержали ложную информацию о здоровье больше во время пандемии, поскольку медицинская паранойя была на рекордно высоком уровне. Тогда было заявлено, что Google использует искусственный интеллект для борьбы со спамом, и делает это с 2020 года. К слову, Call Screen является одним из вероятных кандидатов на внедрение чат-бота, похожего на ChatGPT.

Опыт показывает, что жертву значительно проще заманить на сайт, который она считает безопасным. Если пользователь поймёт, что звонок действительно важный, он сможет переключить вызов на себя. Стоит отметить, что ранее Google внедрила функцию, позволяющую пользователям Gmail реагировать на письма с помощью смайликов. Фильтрация сопряжена с риском — искусственный интеллект может случайно ошибочно отнести защищенные электронные письма к небезопасным или наоборот. Например, вредоносный спам или фишинговые электронные письма часто стремятся скопировать или использовать учетные данные надежных и знакомых структур электронной почты и отправителей.

Google рассказала об ИИ для борьбы со спамом

Обычно боты работают в интернете, а для обмена данными они используют интернет-сервисы, в том числе мгновенных сообщений (IM); интерфейсы, такие как Twitterbots или ретранслируемые интернет-чаты (Internet Relay Chat, IRC). Сами по себе боты представляют собой набор алгоритмов, которые обучены под выполнение определенных задач — общение с пользователями, сбора информации https://maxipartners.com/ и так далее. Gmail использует AI (Artificial Intelligence – Искусственный Интеллект) в дополнение к основным фильтрам, которые используются в течение многих лет. В отличии от основных фильтров на основе шаблонов, которые блокируют наиболее очевидный спам, машинное обучение ищет новые шаблоны, которые могут указывать на то, что электронная ящик не заслуживает доверия.

• Но нишевые правки заработали плохую репутацию в 2019 году, потому что некоторые ссылки были связаны со взломанными сайтами.
• «В прошлом году мы стали требовать, чтобы электронные письма, отправляемые на адреса Gmail, имели ту или иную форму аутентификации, — пишут представители компании.
• По словам Кумарана, TensorFlow упрощает управление этими данными, в то время как структура среды с открытым исходным кодом означает, что новые исследования общества могут быть быстро интегрированы.
• Интеграция RETVec в спам-фильтр Gmail является ключевым шагом Google в обеспечении кибербезопасности, обеспечивая защиту от вредоносных писем.
• Это было крупное обновление, хотя и не настолько масштабное, как ключевые обновления.

Google добавил некачественные обзоры и сайты покупок в список сайтов, которые анализируются их инструментами ИИ. Сканер Google (GoogleBot) — это программное обеспечение, которое сканирует Интернет, чтобы найти веб-страницы, которые нужно включить в поисковый индекс Google, чтобы отобразить эти страницы в результатах поиска. «Bыбop peжимa пpoвepки пoчтoвыx ящикoв» – в этой группе настроек вы можете выбрать режим проверки почтовых сообщений.

Google анонсировал обновление антиспам-алгоритма Новости Timeweb Community

Например, специальный загрузчик в Telegram помогает скачивать видеоролики из TikTok или YouTube. Но нишевые правки заработали плохую репутацию в 2019 году, потому что некоторые ссылки были связаны со взломанными сайтами. Как только сайты начинают ссылаться на новые URL-адреса на  фальшивом сайте, они перенаправляют всех посетителей на сайт клиента.

В последнем выпуске подкаста Made by Google менеджер в команде разработчиков приложения «Телефон» Джонатан Экклс (Jonathan Eccles) поделился о планах компании по борьбе со спам-звонками. Для начала нужно отметить, что функция Call Screen уже использует искусственный интеллект для блокировки Google анонсировал ИИ для борьбы со спамом нежелательных звонков. Сейчас поисковый гигант готовит обновление, которое, скорее всего, связано с использованием языковой модели LaMDA. Фильтрация спама с помощью ИИ может дополнить меры безопасности бизнеса, поскольку износ открывает больше пробелов в плане управления рисками.

В июле 2020 года дедлайн по переходу был перенесен с сентября 2020 года на март 2021-го. Равно как и Yahoo, вскоре Google начнет требовать, чтобы отменить подписку можно было одним кликом, а также обяжет массовых отправителей писем удовлетворять запросы на отмену подписки в течение двух дней. «Многие массовые отправители сообщений не обеспечивают должную безопасность и не настраивают свои системы, что позволяет злоумышленникам легко скрываться среди них», — говорится в сообщении Google. Два крупнейших в мире провайдера электронной почты заявили, что скоро предпримут ряд шагов, направленных на борьбу со спамом, фишингом и массовыми рассылками. Кроме того, на фоне растущей популярности AI-сервисов для генерации контента Google отметил, что он не против таких сервисов до тех пор, пока контент, созданный ими, не нарушает правила поисковика.

Изначально в компании называли это обновление «Passage Indexing», но потом объяснили, что на самом деле речь идет о ранжировании, а не индексировании. Изначально планировалось, что оно займет около двух недель, но по факту продлилось три недели – до 24 августа. Официальное название организации определяется при наличии номера в справочниках и открытых источниках.