Если вы смотрели мультфильмы, такие как Том и Джерри, вы узнаете общую тему: неуловимая цель избегает его грозного противника. Эта игра «кошачья и мыши»-буквально или иначе-включает в себя проведение чего-то, что всегда сражается, избегает вас в каждой попытке.
Аналогичным образом, уклонение от постоянных хакеров является постоянной проблемой для команд кибербезопасности. Держа их преследовать то, что только недоступно, исследователи MIT работают над подходом ИИ, называемого «искусственным состязательным интеллектом», который имитирует злоумышленников устройства или сети для тестирования сетевой защиты до того, как произойдут реальные атаки. Другие защитные меры на основе искусственного интеллекта помогают инженерам дополнительно укрепить свои системы, чтобы избежать вымогателей, кражи данных или других взломов.
Здесь, Una-May O’Reilly, основной следователь по информатике и искусственному интеллекту (CSAIL), который возглавляет AnyScale Learning для всей группы (Alfa), обсуждает, как искусственный состязательный интеллект защищает нас от киберугрозов.
Q: Каким образом искусственный состязательный интеллект может играть роль кибер -нападающего, и как искусственный состязательный интеллект изображает кибер -защитника?
A: Кибертатующие существуют вдоль спектра компетенции. На самом низком уровне, существуют так называемые сценаристы-кидди или актеры угроз, которые распыляют хорошо известные эксплойты и вредоносные программы в надежде найти какую-то сеть или устройство, которое не практиковало хорошую кибер-гигиену. В центре находятся кибер-наемники, которые лучше ресурсов и организованы для охоты на предприятиях с вымогательными программами или вымогательством. И, на высоком уровне, есть группы, которые иногда поддерживаются государством, которые могут запустить наиболее трудные для определения «усовершенствованных постоянных угроз» (или APT).
Подумайте о специализированном, гнусном интеллекте, который маршал эти нападающие – это состязательный интеллект. Злоумышленники делают очень технические инструменты, которые позволяют им взламывать код, они выбирают правильный инструмент для своей цели, а их атаки имеют несколько шагов. На каждом шаге они что -то изучают, интегрируют его в свое ситуационное осознание, а затем принимают решение о том, что делать дальше. Для сложных APT они могут стратегически выбрать свою цель и разработать медленный и низкий план, который настолько тонкий, что его реализация избегает наших защитных щитов. Они могут даже планировать обманчивые доказательства, указывающие на другого хакера!
Моя цель исследования-воспроизвести этот конкретный вид оскорбительного или атакующего интеллекта, интеллекта, который является состязанным ориентированием (интеллект, на который полагаются субъекты человека-угрозы). Я использую ИИ и машинное обучение для разработки кибер -агентов и моделирования состязательного поведения злоумышленников. Я также моделировал обучение и адаптация, которые характеризуют расы киберкиса.
Я также должен отметить, что киберзащита довольно сложна. Они развили свою сложность в ответ на эскалационные возможности атаки. Эти системы защиты включают в себя проектирование детекторов, журналы систем обработки, запуска соответствующих оповещений, а затем привести их в силу в системы реагирования инцидентов. Они должны быть постоянно настороже, чтобы защитить очень большую поверхность атаки, которую трудно отслеживать и очень динамично. На этой другой стороне конкурса злоумышленника и защитников моя команда и я также изобрели ИИ в службу этих различных защитных фронтов.
Другая вещь выделяется в отношении состязательного интеллекта: и Том, и Джерри могут учиться у конкуренции друг с другом! Их навыки оттачиваются, и они запираются в гонку вооружений. Один становится лучше, а затем, чтобы спасти его кожу, тоже поправляется. Это улучшение тат-тат и вверх и вверх! Мы работаем, чтобы воспроизвести кибер -версии этих вооружений.
Q: Каковы некоторые примеры в нашей повседневной жизни, где искусственный состязательный интеллект обеспечил нас в безопасности? Как мы можем использовать агенты состязательного интеллекта, чтобы оставаться впереди актеров угрозы?
A: Машинное обучение использовалось во многих отношениях для обеспечения кибербезопасности. Есть все виды детекторов, которые отфильтровывают угрозы. Например, они настроены на аномальное поведение и узнаваемые виды вредоносных программ. Существуют системы сортировки с поддержкой AI. Некоторые из инструментов защиты от спама прямо на вашем мобильном телефоне с поддержкой!
С моей командой я разрабатываю атакующие с поддержкой AI с AI, которые могут делать то, что делают актеры угроз. Мы изобретаем ИИ, чтобы дать нашим кибер -агентам экспертные навыки компьютера и знания по программированию, чтобы сделать их способными обрабатывать все виды кибер -знания, планировать шаги атаки и принимать обоснованные решения в рамках кампании.
Совместные интеллектуальные агенты (как и наши кибер -злоумышленники ИИ) могут использоваться в качестве практики при тестировании сетевой защиты. Много усилий идет на проверку надежности сети к атаке, и ИИ может помочь с этим. Кроме того, когда мы добавляем машинное обучение к нашим агентам и к нашей защите, они разыгрывают гонку вооружений, мы можем проверять, анализировать и использовать, чтобы предвидеть, какие контрмеры могут использоваться, когда мы принимаем меры, чтобы защитить себя.
Q: Какие новые риски они адаптируются, и как они это делают?
A: Похоже, что никогда не было конца, выпущенного нового программного обеспечения и новых конфигураций систем, разработанных. С каждым выпуском есть уязвимости, на которые злоумышленник может нацелиться. Это могут быть примеры слабостей в коде, которые уже документированы, или они могут быть новыми.
Новые конфигурации представляют риск ошибок или новых способов атаки. Мы не представляли вымогателей, когда имели дело с атаками отказа в службе. Теперь мы жонглируем кибер -шпионаж и вымогательными программами с кражей IP (интеллектуальная собственность). Вся наша важная инфраструктура, включая телекоммуникационные сети и финансовые, здравоохранение, муниципальные, энергетические и водные системы, являются целями.
К счастью, большие усилия предназначены для защиты критической инфраструктуры. Нам нужно будет перевести это на продукты и услуги на основе ИИ, которые автоматизируют некоторые из этих усилий. И, конечно же, продолжать проектировать умных и умных состязательных агентов, чтобы держать нас в пальцах пальцев или помочь нам практиковать защиту наших кибер -активов.
