Может ли ChatGPT произвести революцию в кибербезопасности

эфкс — stock.adobe.com

Наряду с машинным обучением (МО), искусственный интеллект (ИИ) представляет собой одновременно ответ на многие проблемы кибербезопасности и антиутопическое будущее, представленное во всех хороших апокалиптических научно-фантастических фильмах и книгах.

Помимо включения ИИ в слайды многих поставщиков как способа позиционирования технологии следующего поколения и более продвинутого, автоматизированного подхода к технологиям, сейчас эта концепция становится все более распространенной. В конце 2022 года он стал известен общественности совершенно по-новому с запуском ChatGPT, части платформы OpenAI, которая позволяет вести диалог для ответа на вопросы, участия в диалоге и предоставления подробных ответов.

Этот шаг вперед по сравнению с прославленным запросом Google поразил воображение: учащиеся стремятся быстрее ответить на эссе без удручающей необходимости фактически читать исходные материалы, а за ними следуют учителя, стремящиеся аналогичным образом автоматизировать выставление оценок.

Любой, кто пострадал от рук чат-бота на веб-сайте при попытке получить помощь или ответ на смутно сложный вопрос, также видел надежду на шанс на более положительный результат при разговоре с компьютером. Без сомнения, это открыло мир возможностей для ИИ, способного повлиять на то, как мы ежедневно взаимодействуем с технологиями как отдельные личности, а не просто загадочный черный ящик, питающий системы от прогнозов погоды до космических ракет.

Неизбежно, что потенциальное влияние на кибербезопасность также быстро стало ключевой темой для разговоров – с обеих сторон. Злоумышленники мгновенно получили возможность преобразовать простой, часто детский фишинговый текст в более профессиональные структуры, а также возможность автоматизировать взаимодействие с многочисленными потенциальными жертвами, пытающимися найти выход из ловушки программы-вымогателя, в которую они попали.

Может ли это дать правозащитникам возможность революционизировать такие процессы, как проверка кода или улучшение образования в области фишинга? Он находится на очень ранней стадии и, безусловно, имеет ряд недостатков (не в последнюю очередь то, как вы заставляете систему выдавать вредоносные ответы, несмотря на встроенные меры безопасности), но он расширил дебаты о том, как ИИ может изменить индустрию кибербезопасности. .

ChatGPT — новый инструмент, с которым интересно играть, и, как говорит Дэйв Барнетт, руководитель службы безопасного доступа (SASE) и безопасности электронной почты в Европе, на Ближнем Востоке и в Африке (EMEA) в Cloudflare: «Это пугающе хороший инструмент. система – любой, кто попросил ChatGPL объяснить какую-то непонятную техническую концепцию в форме стихотворения, поймет, насколько она мощна».

Однако Барнетт подчеркивает возникшие серьезные опасения. «Я думаю, что истеблишменту информационной безопасности нужно потратить немного времени, чтобы оценить последствия – во-первых, раньше было довольно легко понять, когда нас обманывали мошенники 419, платежные SMS-сообщения или компрометация деловой электронной почты, поскольку они людям все казалось фальшивкой», — говорит он.

«Может ли синтетический интеллект обмануть нас? Нам также необходимо быть очень осторожными в отношении рисков защиты данных – например, куда передаются данные, кто является контролером и процессором. Люди по своей природе любознательны, поэтому, если мы начнем разговаривать с компьютерами так, как будто они "Мы люди, мы, скорее всего, будем делиться информацией, которой, вероятно, не следует. Наконец, может ли это быть способом решить проблему нехватки навыков в ИТ? Если OpenAI сможет даже писать код на давно забытом языке, это, вероятно, будет иметь большое значение". большая помощь."

Ронни Токазовски, главный советник по угрозам в Cofense, хотел воспользоваться возможностью проявить творческий подход к платформе, поскольку «создавать сгенерированные ИИ рэп-тексты о мире во всем мире и раскрытии НЛО — это весело и дерзко, однако можно обмануть ИИ». в предоставлении информации, которую вы ищете».

Обеспечение защитных мер имеет важное значение при сборке любого приложения, а безопасность, задуманная для ИИ, всегда будет предпочтительным вариантом по сравнению с просто оболочкой безопасности после сборки. Очевидно, что это цель разработчиков, поскольку «намерения ИИ благие и он не хочет создавать симуляции фишинга», но запросы несколькими способами (например, удаление слова «фишинг») по-прежнему не дают положительного ответа. Однако творческий подход дал результаты.