Новая угроза: AI-драйвенный фишинг

Хакеры все чаще используют AI для организации масштабных атак, а электронная почта становится основным направлением их внимания. AI может быстро собирать личную информацию, включая данные о коллегах, активных проектах и недавних путешествиях, что позволяет злоумышленникам создавать убедительные сообщения, которые выглядят как настоящие.

В прошлом году бывшие эксперты Google по безопасности Кай Хормаэ и Райан Луо, которые ранее работали над безопасным просмотром и reCAPTCHA, объединились для запуска стартапа AegisAI, который использует AI-агентов для борьбы с этими угрозами, известными как фишинг с помощью AI.

Агенты защиты от AI-драйвенного фишинга

С десятилетним опытом предотвращения электронных атак, основатели AegisAI поняли, что существующие правила для предотвращения атак, основанные на «если-так» логике, слишком медленны и ограничены для обнаружения AI-созданных вредоносных электронных писем.

Поэтому они разработали AI-агентов, которые быстро анализируют каждый сообщение, как человек, обращая внимание на небольшие аномалии, которые даже самые сложные чек-листы не могут поймать.

Успех стартапа

Менее чем через год после запуска, AegisAI сообщает, что его технология была принята десятками клиентов, включая компанию Mesh по криптовалютным платежам, стартап LangChain по AI и платформу Lokker по соблюдению конфиденциальности.

Этот спрос помог стартапу AegisAI привлечь $36 миллионов в рамках раунда финансирования A, возглавляемого Battery Ventures, с участием существующих инвесторов Accel и Foundation Capital.

Общая сумма финансирования стартапа теперь составляет $49 миллионов.

«AI-поддерживаемые атаки обходят существующие контролы более чем на половину теперь, что означает, что они почти в два раза эффективны, чем раньше», — сказал Хормаэ в интервью TechCrunch.

«Они изучили вас, они понимают все о вас, и они направляют атаки, которые идеально подходят именно вам».

Хормаэ утверждает, что агенты AegisAI могут обнаруживать угрозы, которые традиционные системы безопасности электронной почты могут пропустить целиком.

Например, AI-агенты AegisAI могут обнаруживать вредоносные PDF-приложения, которые выглядят как настоящие, включая те, которые содержат встроенные пароли и CAPTCHA, часто используемые для обмана стандартных фильтров спама.

Навыки AI для защиты

Когда Дхармеш Тхаккар, генеральный партнер Battery Ventures, заметил увеличение электронных атак, он начал искать стартап, который мог бы защититься от AI с помощью AI, целью которого было заменить устаревшие инструменты безопасности электронной почты на агент-драйвенные защиты.

«Плохие парни используют электронную почту для атак на нас с помощью AI на более быстром темпе, чем мы можем поддерживать», — сказал Тхаккар в интервью TechCrunch.

«Защита от этого станет главной задачей для многих компаний».

АegisAI не единственный стартап, использующий AI для анализа контекста каждого входящего электронного письма для обнаружения мошенничества и попыток подделки.

Океан, поддержанный Lightspeed, также пытается заменить устоявшихся поставщиков, таких как Proofpoint и Mimecast, а также новых игроков, таких как Abnormal Security.

Однако, учитывая, что AegisAI возглавляется экспертами, которые помогали защищать Gmail, самой популярной электронной почтой в мире, Тхаккар считает, что стартап имеет лучшие шансы стать ведущим новым поставщиком защиты от атак.

Хормаэ добавил, что основная идея создания персонализированных, высокоавтоматизированных агентов, которые могут проводить расследования, определит, кто станет следующим доминирующим поставщиком безопасности.