Злоумышленники используют «наступательный ИИ» для создания фишинговых атак.

Где ваш бизнес находится на кривой внедрения ИИ? Возьми наш Опрос AI выяснить.


Искусственный интеллект позволяет организациям автоматизировать задачи, собирать информацию и создавать медиа, почти неотличимые от реальных. Но, как и любая технология, ИИ не всегда хорош. Кибер-злоумышленники могут использовать ИИ для улучшения своих атак и расширения своих кампаний.

Совсем недавно опрос опубликованная исследователями из Microsoft, Purdue и Университета Бен-Гуриона, среди прочих, исследует угрозу этого ».наступательный ИИ«Об организациях. Он определяет различные способности, которые противники могут использовать для усиления своих атак, и оценивает их по степени серьезности, а также предоставляет обзор противников.

Опрос, в котором рассматривались как текущие исследования наступательного ИИ, так и реакция таких организаций, как IBM, Airbus, Airbus, IBM и Huawei, выявил три основных мотивации, побуждающих противников использовать ИИ: охват, скорость и успех. ИИ позволяет злоумышленникам «отравлять» модели машинного обучения, уничтожая их обучающие данные и крадя данные для входа в систему. анализ побочного канала. Его можно использовать для активации методов искусственного интеллекта для обнаружения уязвимостей, тестирования на проникновение и обнаружения утечки учетных данных.

Лучшие киберугрозы AI

Организации заявили ученым, что считают развитие, социальную инженерию и сбор информации наиболее опасными наступательными технологиями искусственного интеллекта. Их особенно интересует ИИ, используемый для имитации другого дипфейки совершать фишинговые атаки и обратный инжиниринг, которые позволили бы злоумышленнику «украсть» проприетарные алгоритмы. Кроме того, они опасаются, что способность ИИ автоматизировать процессы может изменить противников от нескольких медленных скрытых кампаний до множества быстрых кампаний, направленных на поражение защитников и повышение их шансов на успех.

Но опасения не способствуют инвестициям в оборону. Согласно опрос Менее 30% компаний, проведенных в начале проверки данных Attestiv, заявили, что они приняли меры для смягчения последствий ложной атаки. Борьба с подделкой, вероятно, останется проблемой, поскольку методы поколения продолжают совершенствоваться, несмотря на такие инновации, как Задача обнаружения Deepfake а также Microsoft Video Authenticator.

Действительно, исследователи ожидают, что количество фишинговых кампаний будет расти по мере того, как роботы получат возможность совершать убедительные глубокие ложные фишинговые вызовы. Они также говорят, что наступательный ИИ, вероятно, усилится в ближайшие несколько лет с точки зрения сбора данных, разработки моделей, обучения и оценки.

Чтобы избежать угроз, исследователи рекомендуют организациям сосредоточиться на разработке инструментов постобработки, которые могут защитить программное обеспечение от анализа после разработки. Они также предлагают интеграцию моделей тестирования, защиты и мониторинга безопасности с MLOps чтобы организациям было проще поддерживать безопасные системы. MLOps, сочетание «машинного обучения» и «операций с информационными технологиями», представляет собой новую дисциплину, предполагающую сотрудничество между специалистами по данным и ИТ-специалистами для создания алгоритмов машинного обучения.

«С быстрыми темпами развития ИИ и открытой доступностью мы ожидаем значительного сдвига в наступательных стратегиях для организаций», — пишут исследователи. «ИИ позволит оппонентам атаковать большее количество организаций одновременно и чаще». В результате, вместо того, чтобы держаться в секрете, противники могут решить одолеть команды защитников тысячами попыток с шансом на успех. [Indeed, as] враги начнут использовать роботов с искусственным интеллектом, защитники также будут вынуждены автоматизировать свою защиту с помощью роботов. Держать людей в курсе, чтобы они могли контролировать и определять стратегии высокого уровня, является практическим и этическим требованием. Однако для разработки безопасной и приемлемой политики необходимы дальнейшие обсуждения и исследования. «

VentureBeat

Миссия VentureBeat — быть цифровым квадратом для технических специалистов, которые получают знания о технологиях трансформации и транзакциях. На нашем веб-сайте представлена ​​основная информация о технологиях и стратегиях обработки данных, которые помогут вам руководить своей организацией. Мы приглашаем вас стать членом нашего сообщества, чтобы получить доступ к:

  • актуальная информация по интересующим вас темам
  • наши информационные бюллетени
  • закрытые идеи лидеров контента и доступ со скидкой к нашим ценным мероприятиям, таким как Преобразование 2021: Узнать больше
  • сетевые функции и многое другое

Стать членом

[

watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
onlyfans premium account
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
dragon city generator
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online

]

Add a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *