Дэвид Стоунхилл, технический директор NetLib Security, делится своим прогнозом, каким образом мошенничества с использованием искусственного интеллекта будут развиваться к 2026 году.
К 2026 году мошенничества и фишинг на основе ИИ станут практически неотличимыми от законных приложений и коммуникаций, что сделает их обнаружение ненадежным. Разработчики приложений должны будут проектировать свои решения с учетом устойчивости к взлому, используя многофакторную аутентификацию, ключи доступа, тестирование безопасности на основе ИИ и сильное шифрование данных, находящихся в покое, чтобы украденная информация оставалась бесполезной. В условиях угроз, вызванных ИИ, шифрование становится основным архитектурным требованием, а не только дополнительной функцией.
ИИ перешел от уровня "впечатляющий" к "неуловимому" во многих случаях.
Как же мы пришли к этому? Быстро! Мы наблюдаем рост крупных языковых моделей почти десятилетие, но в этом году, особенно с популярностью Sora и Nano Banana от Google, мы стали свидетелями взрыва больших визуальных моделей (VLM). Комбинированные языковые и визуальные модели сделали создание "ИИ-хаоса" доступным для широкой публики.
К сожалению, как только AI-изображения и текст становятся доступными для всех, так же этим начинают пользоваться и хакеры.
Сперва плохие новости.
Каковы потенциальные угрозы "неуловимого" контента, сгенерированного ИИ? Вот несколько прогнозов на 2026 год и тренды, которые мы уже начали замечать в 2025 году, такие как розничные мошенничества.
Розничные мошенничества. Мы только начинаем видеть появление онлайн-мошенничеств в сфере розничной торговли. Почти все привыкли к покупке в интернете - в 2024 году продажи в магазинах увеличились на 0,93%, а электронная коммерция выросла на 8,64% согласно CapitalOne. Появилось новое явление: фальшивые "персональности" онлайн-магазинов, которые теперь могут быть созданы с помощью VLM и LVM. Вы можете думать, что покупаете у небольшого семейного магазина, но на самом деле товар отправляется из Китая и может быть очень низкого качества, если его вообще доставят. Вы проверили отзывы и рейтинги, но на деле они тоже фальшивые.
Фальшивые отзывы. Не так давно мы доверяли хорошо написанным отзывам. Отзывы, которые были грамматически правильными и качественными, отличались от плохо написанных массовых фальшивых отзывов. К сожалению, эти времена прошли. ИИ способен создавать элегантные тексты, описывающие качество продукта, хотя сам ИИ не имеет никакого опыта покупки. Но как только вы купили в мошенническом магазине на основе фальшивых отзывов, преступники получают ваш адрес электронной почты, и это увеличивает их шансы на успешную фишинг-атаку.
Качественные фишинг-атаки. Как и в случае с мошенничеством в электронной коммерции, фишинг-атаки теперь выглядят лучше благодаря ИИ. Это угроза не только вам, но и всей вашей организации! Фишинг-атаки могут стать главной угрозой безопасности для любой организации, которая полагается только на однофакторную аутентификацию - в основном имя пользователя и пароль. Но даже если преступники найдут способ войти в вашу систему, они могут не иметь возможности использовать найденные данные. И здесь есть хорошие новости.
Есть и хорошие новости
Увеличение использования MFA и ключей доступа. Многие компании и сайты требуют многофакторную аутентификацию, и очень важно, чтобы общественность привыкала к их использованию. Они должны быть просты в настройке (что не всегда так!) и встроены в ваш ноутбук, телефон или часы. Вы не должны испытывать трудности с настройкой 2FA или MFA. Даже бабушка должна уметь это сделать. Особенно бабушка! Потому что MFA может сделать фишинг-атаки бесполезными.
Шифрование данных в покое. Эта тенденция должна продолжаться. Даже если хакеры проникнут через внешние защиты, они могут не иметь возможности использовать, продавать или шантажировать компании найденными данными. Почему? Потому что при шифровании файлов на диске, их копирование в другое место делает их бесполезными. Вы не сможете расшифровать эти файлы без правильных ключей и программного обеспечения для шифрования. А если вы действительно хотите защитить свои данные, заблокируйте ключи на оборудовании, на котором находятся файлы.
Использование ИИ в нашу пользу. Мы любим предупреждать всех об опасностях, которые скрывают в себе мошенничества и фишинг-схемы, созданные ИИ. Но есть и великие применения искусственного интеллекта, которые индустрия безопасности может использовать для предотвращения атак. Инструменты тестирования на проникновение, управляемые ИИ, могут выявлять шаблоны, предсказывать вероятные векторы атак и даже симулировать сложные, многоступенчатые цепочки атак, которые занимают у человеческих тестировщиков дни. В отличие от традиционного автоматизированного тестирования на проникновение, которое предлагает только поверхностные результаты, тестирование на основе ИИ предоставляет гораздо более глубокий и продвинутый анализ безопасности организации.
Как будет выглядеть 2026 год?
Говорят, что если вы предскажете, что погода завтра будет такой же, как сегодня, вы будете правы в 70% случаев! Так что велика вероятность, что проблемы в области безопасности, с которыми мы сталкиваемся сегодня, будут похожи на те, с которыми мы столкнемся в будущем. Но что насчет тех 30%? Что произойдет, чего мы не можем предвидеть?
Если произойдет крупный обвал акций или инвестиций в ИИ, изменит ли это существенно перспективы безопасности на 2026 год? Скорее всего, нет. Технологии, которые нарушают работу индустрии безопасности, уже устоялись. И многие решения тоже! Нам просто нужно внедрить лучшие из них, такие как шифрование, потому что эти защиты не являются опциональными.
NetLib Security за последние 20 лет разработала мощное, запатентованное решение для шифрования, начиная с создания мощной защиты, управляемой из любой точки мира, в любой среде, где находятся ваши данные: физической, виртуальной и облачной. Наша платформа нацелена на упрощение процесса для вас при обеспечении беспрецедентных уровней безопасности. Вы можете упростить свои потребности в безопасности данных, используя Encryptionizer для быстрого и уверенного удовлетворения ваших требований к безопасности.
Статья действительно заставляет задуматься о будущем безопасности в условиях ИИ. Важно, чтобы компании начали внедрять многофакторную аутентификацию и другие современные методы защиты как можно скорее. Это может стать определяющим фактором в борьбе с новыми угрозами.