С чего все началось

Одна из первых задач, которую стали решать с помощью методов машинного обучения, — обнаружение спама за счет распознавания шаблонов. Применение искусственного интеллекта в кибербезопасности позволило обрабатывать огромные объемы данных на скоростях, недоступных даже опытным специалистам. И это определило дальнейшее развитие технологий искусственного интеллекта в сфере информационной безопасности.    

Как работает искусственный интеллект в кибербезопасности

Напомним, что приведенная ниже инструкция на некоторых моделях смартфонов может не сработать. Прежде чем получить root-права на Андроид свежей версии, нужно немного подстраховаться. Может потребоваться восстановить данные из-за сбоя при Искусственный интеллект пока не может полностью взять на себя заботу о безопасности в сети. Но опосредованно помогает обезопасить данные, сохранить репутацию компаний, защитить детей в интернете и решить другие вопросы, связанные с обеспечение безопасности, 

— за счет оптимизации процессов.

• Позволяет избежать ошибок, связанных с человеческим фактором

В обеспечении информационной безопасности по-прежнему много процессов, которые контролируются человеком хотя бы на одном из этапов, и именно в этих точках обычно возникают уязвимости. Машинное обучение — это автоматизация максимально возможного количества процессов и устранение слабых мест.

• Повышает эффективность работы системы

В то время, как эффективность ручного труда при воспроизведении повторяющихся действий постепенно снижается, искусственный интеллект способен выполнять в разы больше работы, не уставая и не теряя концентрацию.

• Сокращает время реагирования на атаки

Злоумышленники постоянно сокращают время проведения атак — так, например, атаки с помощью шифровальщиков LockBit разворачиваются всего за полчаса, и можно просто не успеть принять меры. Системы защиты на основе ИИ позволяют обнаруживать атаки и принимать решения по их отражению быстрее.

• Позволяет точнее прогнозировать и эффективнее выявлять новые угрозы

Хакеры постоянно придумывают новые виды атак — специалисты могут не сразу сориентироваться или вообще не обнаружить угрозу в такой ситуации. Искусственный интеллект помогает и здесь: программы на основе машинного обучения распознает атаку, выявив общие черты у новой угрозы и тех, что были обнаружены ранее. 

• Снижает градус гонки за специалистами

Экспертов по защите данных постоянно не хватает — как и в большинстве сфер, где применяется AI, специалисты не выпали из процесса, а лишь разделили обязанности с искусственным интеллектом. Однако с применением ИИ в кибербезопасности можно сократить штат специалистов без ущерба эффективности.

Прямо сейчас, отвечая на вопрос, что такое ИИ в кибербезопасности, можно сказать, что это — в первую очередь возможность усовершенствовать уже существующие инструменты обеспечения защиты информации. Искусственный интеллект позволяет принимать меры для предотвращения и отражения атак быстрее, повышая шансы в борьбе с киберпреступниками.

Где используется ИИ в информационной безопасности

Круг задач достаточно широк. Искусственный интеллект умеет:

• анализировать поведение пользователей и систем,

• управлять доступом и аутентификацией,

• обнаруживать фишинг и спам в электронной почте,

• защищать сетевые инфраструктуры с помощью интеллектуальных брандмауэров,

• обеспечивать мониторинг сети для предотвращения угроз,

• в автоматическом режиме реагировать на инциденты ситуации угрозы безопасности для минимизации ущерба,

• обнаруживать и предотвращать утечки данных.

Если говорить о продвинутых генеративных моделях искусственного интеллекта, то им доступны более сложные задачи:

• анализ уязвимости кода,

• сбор контекста событий в сфере информационной безопасности,

• выявление неявных связей — например, распознание фишинговых сообщений по тексту, написанному с помощью искусственного интеллекта.

Так ли безопасна кибербезопасность на основе ИИ

Высокая точность, скорость, автоматизация — кибербезопасность для бизнеса действительно нуждается в AI-решениях. Но, разумеется, использование ИИ в кибербезопасности предполагает свои ограничения и сложности.

• У инструментов на основе искусственного интеллекта сложные алгоритмы. Это затрудняет работу с ними, потому что даже опытные специалисты по безопасности не всегда могут их понять. А значит, нельзя гарантировать на 100% надежную защиту.

• ИИ-инструментами можно манипулировать. Иногда киберпреступники специально передают системам на основе искусственного интеллекта неверные данные, чтобы вывести защиту из строя. И, конечно, они придумывают новые способы «взломать» ИИ-системы.

• Искусственный интеллект может создавать проблемы с конфиденциалностью. Системы на базе AI потребляют колоссальные объемы данных; в определенный момент они могут затронуть данные, которые не должны были оказаться в системе.

Решения в сфере кибербезопасности на основе ИИ, которые уже существуют

Даже системы, аналогичные ChatGPT, могут быть полезны для защиты данных и бизнеса от кибератак. Так, GigaChat Сбера, встроенный по API, может создавать чат-боты для обнаружения фишинговых атак, распознавать подозрительные ссылки и создавать инструменты анализа данных для выявления аномалий в поведении пользователей.

Существует уже несколько сервисов, которые обнаруживают аномалии еще до начала атаки. Так работает Ankey ASAP — платформа, которая обеспечивает безопасное управление правами пользователей, и ее аналоги — Okta, Azure Active Directory, JumpCloud, OneLogin.

Активно развиваются технологии обнаружения дипфейков — как аудио, так и видео. Часть решений работают за счет анализа частоты электрической сети (ENF), встроенной в аудио- и видеозаписи: если запись содержит частоты, не соответствующие реальному источнику, можно заподозрить подделку. Resemble AI способен анализировать голосовые параметры по 265 признакам и точно определять, кому принадлежит голос. Искусственный интеллект можно интегрировать в корпоративные мессенджеры для расшифровки голосовых вызовов — например, в виде сервиса InfoWatch.

В Австралии специалисты по кибербезопасности создали чат-бот Apate на основе искусственного интеллекта, который умеет имитировать человеческий голос и способен вести диалог с мошенником до 40 минут. Решение «Аура» от VS Robotics позволяет пойти дальше и во время реального диалога с мошенником анализировать реплики и сопоставлять их с пороговым значением «ключевых» слов, а затем отправлять голосовое уведомление о том, что звонок является мошенническим.

Microsoft Security Copilot ежедневно помогает бизнесу защищать своих пользователей, активы и репутацию: в частности, компании QNET удалось повысить эффективность реагирования на угрозы на 60% после внедрения инструмента.

Компания Darktrace использовала ИИ для создания системы реагирования на кибератаки в реальном времени. После крупной атаки в 2018 году решение Darktrace внедрила авиакомпания British Airways, и смогла улучшить обнаружение аномалий и предотвратить будущие атаки.

Разумеется, перечисленное — далеко не все возможности, которые искусственный интеллект уже сейчас предлагает пользователям. Компании по всему миру создают решения, позволяющие использовать искусственный интеллект на благо конфиденциальности, и это только начало.

Есть ли будущее у ИИ в кибербезопасности

По данным исследования НИУ ВШЭ среди российских компаний, использующих решения на базе ИИ, каждая вторая планирует расширить уровень их применения и примерно каждая шестая намерена шире использовать системы кибербезопасности.

Однако интеграция любых подобных решений в ИТ-инфраструктуру происходит с задержкой — на сегодняшний день у использования ИИ в кибербезопасности есть несколько серьезных ограничений.

Во-первых, машинное обучение в кибербезопасности требует данных, однако их использование может не соответствовать законам о конфиденциальности. Решением могут стать системы, которые будут блокировать доступ к исходным данным после обучения, однако разработка таких инструментов требует глубокого изучения, так как может привести к искажению логики программ.

Во-вторых, в отрасли не хватает экспертов по кибербезопасности, специализирующихся именно на инструментах на базе ИИ, которые умеют внедрять и настраивать их. При этом до автономных защитников конфиденциальности на базе искусственного интеллекта пока далеко — моделям машинного обучения нужны люди.

Кибербезопасность и искусственный интеллект: что дальше

Искусственный интеллект может анализировать огромные объемы данных, мгновенно реагировать на события и адаптироваться к изменяющимся тактикам злоумышленников. Применение ИИ в информационной безопасности действительно целесообразно, поэтому с каждым годом компаний, заинтересованных в его внедрении, становится больше.

Однако следует понимать: искусственный интеллект — не панацея.

Меры, которые принимались для сохранения конфиденциальность данных в интернете до появления AI-инструментов, по-прежнему актуальны. Искусственный интеллект может эффективнее обнаруживать угрозы, но никак не мешает мошенникам пробовать новые схемы. Новые угрозы будут появляться в любом случае, и забывать о базовых правилах безопасности нельзя, какими бы современными инструментами на базе AI вы ни пользовались. Цифровую архитектуру необходимо укреплять комплексно, заботясь и о повышении осведомленности персонала, и об актуальности политик безопасности.