Кибербезопасность — еще один рубеж для искусственного интеллекта и машинного обучения

Обновите технологию и стратегию корпоративных данных до Трансформация 2021.


Прежде чем погрузиться в кибербезопасность и как отрасль использует ИИ На этом этапе давайте сначала определим термин AI. Искусственный интеллект (ИИ), как этот термин используется сегодня, представляет собой всеобъемлющую концепцию, включающую машинное обучение (контролируемое, включая глубокое обучение и неконтролируемое обучение), а также другие алгоритмические подходы, которые не являются просто статистикой. Эти другие алгоритмы включают в себя области обработки естественного языка (NLP), понимания естественного языка (NLU), улучшения обучения и представления знаний. Это наиболее актуальные подходы в сфере кибербезопасности.

Учитывая это определение, как развивались продукты кибербезопасности с точки зрения использования ИИ и машинного обучения?

Я вижу, что все больше и больше компаний, занимающихся кибербезопасностью, тем или иным образом используют машинное обучение и искусственный интеллект. Вопрос в том, в какой степени. у меня есть написано ранее об опасностях алгоритмов. Любому инженеру-программисту слишком легко играть ученого в области данных. Это так же просто, как загрузить библиотеку и вызвать функцию .start (). Проблема заключается в том, что инженер часто не понимает, что только что произошло внутри алгоритма и как его правильно использовать. Работает ли алгоритм с нормально распределенными данными? А как насчет нормализации данных перед их вставкой в ​​алгоритм? Как следует интерпретировать результаты? я дал говорить в BlackHat, где я показал, что происходит, когда мы не знаем, что делает алгоритм.

Поэтому простой факт, что компания использует AI или ML в своем продукте, не является хорошим показателем того, что продукт действительно делает что-то умное. И наоборот, большинство компаний, на которые я смотрел, утверждают, что используют ИИ для некоторых основных функций, делают это каким-то образом, неправильно, по форме или форме. Честно говоря, есть компании, которые придерживаются правильных принципов, нанимают настоящих специалистов по данным, правильно используют алгоритмы и правильно интерпретируют данные.

Как ИИ используется в сфере безопасности

В общем, я вижу правильное приложение ИИ в лагере с машинным контролем, где доступно множество помеченных данных: обнаружение вредоносных программ (сообщение о безвредных двоичных файлах от вредоносных программ), классификация вредоносных программ (отнесение вредоносных программ к семейству вредоносных программ), классификация документов и веб-сайтов , анализ документов и понимание естественного языка для обнаружения фишинга и BEC. Анализ графов (или социальных сетей) для анализа коммуникации скоро начнется, но многообещающе. Однако вам нужно много данных и контекстной информации, которую нелегко получить в руки. Кроме того, есть несколько компаний, которые используют сети убеждений для моделирования опыта, такого как сортировка событий или обнаружение внутренних угроз. Но, к сожалению, эти компании копейки.

Это подводит нас к другому вопросу: каковы вершины варианты использования ИИ в безопасности?

Лично я в восторге от нескольких областей, которые, как мне кажется, многообещают. для продвижения кибербезопасности Усилие:

  1. Использование NLP и NLU для понимания привычек людей к электронной почте для выявления вредоносной активности (BEC, фишинг и т. Д.). Первоначально мы попытались провести анализ настроений на основе данных обмена сообщениями, но быстро поняли, что должны оставить его на анализе твитов на предмет настроений бренда и избегать человеческого (или фишингового) поведения. Для этого еще рано. Но есть некоторые успехи в моделировании тем, классификации токенов, таких как номера счетов, и даже в изучении использования языка.
  2. Используйте анализ графиков для отображения движения данных и линий данных, чтобы определить, когда происходит утечка или злонамеренные изменения данных. Эта тема еще недостаточно изучена, и я еще не знаю ни одной компании или продукта, которые могли бы сделать это хорошо. Это сложная проблема на многих уровнях, от сбора данных до дедупликации и интерпретации. Но это также делает исследование интересным.

Ввиду вышеизложенного не похоже, что мы добились большого прогресса в области безопасности в области ИИ. Почему? Я бы отнес это к нескольким вещам:

  1. Доступ к обучающим данным. Мы должны проверить и проверить любую выдвинутую нами гипотезу. Без данных сложно обойтись. Нам нужны комплексные наборы данных, которые отображают взаимодействие пользователей между приложениями, их данными и облачными приложениями, а также контекстную информацию о пользователях и их данных. Этот тип данных сложно получить, особенно с точки зрения конфиденциальности и таких правил, как GDPR, которые более подробно исследуют процессы исследования.
  2. Недостаток Eразработчики, разбирающиеся в науке о данных и безопасности. Для решения этих проблем нам нужны опытные специалисты по безопасности. Когда я говорю об экспертах по безопасности, это люди, обладающие глубокими знаниями (и практическим опытом) в области операционных систем и приложений, сетевых и облачных инфраструктур. Маловероятно, что вы встретите этих экспертов, которые также обладают наукой о данных. Их соединение с данными помогает ученым, но многое теряется в их общении.
  3. Доллары на исследования. Есть несколько компаний, которые проводят настоящие исследования безопасности. Возьмем более крупную охранную компанию. Они могли бы проводить исследования вредоносных программ, но у скольких из них есть настоящие научные группы, изучающие новые подходы? У Microsoft есть отличные исследователи, работающие над проблемами. Bank of America стремится финансировать научные круги для работы над насущными для них проблемами. Но эта работа обычно не видит дневного света в ваших обычных продуктах безопасности. Производители систем безопасности обычно не инвестируют в исследования, которые не имеют прямого отношения к их продуктам. И если так, они хотят видеть относительно быстрые повороты. Вот где стартапы могут восполнить пробелы. Их задача — обеспечить масштабируемость своих подходов. Это означает не только масштабирование больших объемов данных, но также актуальность в различных клиентских средах с десятками различных процессов, приложений, шаблонов использования и т. Д. Затем возникает проблема с данными. Чтобы создавать гипотезы и проверять свои подходы, вам нужны данные из разных сред.

Есть ли что-то, что покупатель безопасности должен сделать по-другому, чтобы мотивировать поставщика безопасности лучше работать в ИИ?

Не думаю, что покупатель виноват. Покупатель ничего не должен знать о том, как работают защитные продукты. Продукты должны делать то, что они утверждают, и делать это хорошо. Я считаю, что это один из смертных грехов индустрии безопасности: слишком сложные строительные изделия. Как сказал Рон Ривест на панели на следующий день: «Сложность — враг безопасности».

Раффаэль Марти — технический директор, предприниматель и инвестор, он пишет об искусственном интеллекте, больших данных и продуктах на рынке кибербезопасности.

Эта история изначально появилась Raffy.ch. Авторское право 2021 г.

VentureBeat

Миссия VentureBeat — быть цифровым квадратом для технических специалистов, которые получают знания о технологиях трансформации и транзакциях. На нашем веб-сайте представлена ​​основная информация о технологиях и стратегиях обработки данных, которые помогут вам руководить своей организацией. Мы приглашаем вас стать членом нашего сообщества, чтобы получить доступ к:

  • актуальная информация по интересующим вас темам
  • наши информационные бюллетени
  • закрытые идеи лидеров контента и доступ со скидкой к нашим ценным мероприятиям, таким как Трансформация 2021: Больше информации
  • сетевые функции и многое другое

Стать членом

[

watch online
watch online
watch online
watch online
watch online
free fortnite skins generator
among us hack
among us mod menu
among us hack
among us mod menu
among us hack
among us mod menu
among us hack
among us mod menu
watch online
watch online
watch online
brawl stars gems generator
cash app free money generator
clash of clans hack
clash royale hack
free coin master SPINS
free coin master SPINS
watch online
watch online
watch online
dragon city generator
watch online
watch online
watch online
watch online
watch online
xbox gift card generator
free fortnite skins generator
free v bucks
free coin master SPINS
free fortnite skins generator
free fortnite skins generator
free fortnite skins generator
google play gift card generator
homesacpes hack generator
paypal free money
paypal free money
psn free gift card generator
psn free gift card generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free roblox gift cards generator working
free roblox gift cards generator working
free roblox gift cards generator working
free roblox gift cards generator working
free v bucks
clash royale hack
free v bucks
free v bucks
free v bucks
free v bucks
xbox gift card generator
watch online
watch online
gardenscapes generator
free fire hack
watch online
watch online
gta 5 free money
gta 5 free money
gta 5 free money
watch online
watch online
watch online
itune free gift card generator
instagram free followers
watch online
watch online
free netflix account generator
psn free gift card generator
free roblox gift cards generator working
onlyfans premium account
onlyfans premium account
pixel gun 3d hack
pubg free uc generator
free roblox gift cards generator working
free roblox gift cards generator working
watch online
watch online
watch online
watch online
watch online
watch online
free v bucks
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online

]

Add a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *