Если вы думаете, что искусственный интеллект — это просто нейросеть, которая генерирует смешные картинки по запросу, увы. Сегодня ИИ находится по обе стороны цифрового барьера: и в инструментах киберзащиты, и в арсенале мошенников. Вопрос — кто кого? И где в этой битве окажется человек? Восемь экспертов — от разработчиков решений для ИБ до представителей ГУ МВД по Волгоградской области — помогли нам разобраться, сможет ли ИИ заменить живых киберспецов, а также какие риски несет автоматизация защиты. Спойлер: даже самый умный алгоритм не спасет, если над ним нет человека с опытом, чистыми руками и совестью. Угроза или помощник? Искусственный интеллект уверенно осваивает кибербезопасность. Он анализирует поведение пользователей, прогнозирует атаки, борется с аномалиями. В Волгограде также активно говорят о внедрении ИИ в IT-блоки крупных компаний, и, как уточнили в ГУ МВД по региону, в ряде экспертиз уже используются элементы интеллектуального анализа — от химии до биологии. Но где заканчивается полезный инструмент и начинается потенциальная угроза? ИИ: мозг без совести, скорость без контекста — Сегодня ИИ активно используется в системах мониторинга: отслеживает поведение пользователей, ищет аномалии в сетях, прогнозирует атаки. Но вся эта работа — в режиме «советника», — говорит Илья Ермилов, эксперт по автоматизации с 20-летним стажем. ИИ не может понять, что стоит за цифрами. Эмоции ли, контексты или все же интриги и чья-то жажда наживы. — Он не заменит человека, потому что не способен к критическому мышлению и гибкости, — подчеркивает бизнес-партнер «Компьютерных технологий» Павел Карасев. — В ИИ-алгоритм легко вбросить «отравленные данные», и тогда он, словно попугай, начнет повторять ложь, принимая ее за истину. Чем умнее алгоритм — тем изощреннее хакер А теперь еще более тревожное. Мошенники уже научились использовать ИИ, чтобы его же и обходить. Генеративные модели создают идеальные фейковые письма, лица, голоса. Даже подросток с доступом к ChatGPT может организовать фишинговую атаку, раньше доступную только топовым группам хакеров. — ИИ теперь не только обороняется, но и нападает, — подтверждает Анна Кирина, специалист по PR в IT. — По данным Darktrace, 78% специалистов по ИБ считают, что угрозы от ИИ уже реальны, а 90% уверены, что через два года это станет критической проблемой для бизнеса. Почти половина компаний уже обсуждают, как внедрить ИИ-защиту и как защититься от угроз, сгенерированных с помощью ИИ. Парадоксы нашего времени: ИИ защищает, но и подставляет Нейросеть — идеальный ассистент, но катастрофический стратег. Он не знает, когда «что-то не так», если это «не так» не заложено в его параметры. — Если весь ИБ-щит будет на ИИ, то один успешный взлом и весь «щит» превратится в лазейку, — объясняет Павел Карасев. Алексей Ахмеев из Moneyman подтверждает эту мысль. — Главный риск — подмена обучающих данных. Если этого не заметит специалист, защита рухнет. ИИ не заменит человека, но сильно сэкономит его время на рутине. А это уже не мало. Спасатель от рутины Тем не менее эксперт по автоматизации Илья Ермилов уверен, что искусственный интеллект не враг, а мощный союзник. — ИИ уже играет значительную роль, позволяя быстро анализировать большие объемы данных, выявлять аномалии и автоматизировать рутину. Но заменить специалиста он не может. Критическое мышление, оценка контекста — всё это пока вне его зоны доступа. По словам Ермилова, ИИ — это как бесплатные тапочки в отеле: приятно, но не заменят любимые брендовые кроссовки эксперта. Не дать перевоспитать и «развратить» Павел Карасев, основатель проекта «ИБГрамотность.рф», описывает серьёзную проблему. — ИИ предсказуем. Это делает его уязвимым для так называемых атакующих примеров — искажённых данных, «отравляющих» обучение алгоритма. Такие атаки уже зафиксированы. Иными словами, злоумышленники могут «перевоспитать» ИИ, чтобы тот игнорировал реальную угрозу. Валерий Ледовской, директор по развитию ARinteg, говорит, что ИИ помогает выявлять потенциальных инсайдеров. — Отклонения в поведении — важнейший сигнал. DLP-системы с ИИ могут отслеживать подозрительные действия, снижать количество ложных тревог. Но сертификация таких решений пока сложна. К тому же госорганы не могут допустить, чтобы решения принимал алгоритм, а не человек. Итак здесь встает еще и серьёзная нравственная дилемма. Алгоритмы действительно видят больше, но не несут ответственности. Или ее должен нести, тот кто отвечает за контроль данного алгоритма? Пока сплошные вопросы и лазейки для ухода от ответственности. Алексей Ахмеев из IDF Eurasia (Moneyman) подчёркивает плюсы и минусы внедрения искусственного интеллекта. — ИИ незаменим в антифроде и анализе аномалий, но пока не может самостоятельно принимать стратегические решения. Главная угроза — атаки на исходные данные, которые могут обрушить всю защитную модель. Ключевой вывод таков — без живого специалиста, готового «перепроверить машинку», надёжности нет. От щита к мечу: преступники уже используют ИИ вовсю Михаил Хомутецкий, основатель AI-сервиса Turbologo, обращает внимание на опасность двустороннего усиления «скиллов». В эту игру действительно можно играть вдвоем. — ИИ уже помогает распознавать угрозы, но и злоумышленники не дремлют. Подделка голосов, лиц, документов — обычное дело. Есть риск чрезмерной зависимости от ИИ. По данным исследования Devo Technology, 80% специалистов по информационной безопасности уже используют ИИ в своей работе, отмечая повышение эффективности и финансовую выгоду, - отметил эксперт. — Достижения впечатляющие, но, на мой взгляд, полная замена экспертов в области ИБ в ближайшие 5-10 лет маловероятна. Дело в том, что ИИ отлично справляется с рутинными задачами, однако все еще зависит от качественных данных для обучения, и у него нет понимания полной картины, которую видит человек. Взлом с голосом начальника Наталья Белоусова, предприниматель с опытом в E-commerce, подчёркивает опасную тенденцию. — Глубокие подделки, генерация голоса, фальсификация личности — всё это действительно под силу алгоритмам. Однако ИИ обучается на уже известных данных и может не распознать тщательно замаскированную атаку, разработанную с применением того же искусственного интеллекта. Только человек способен уловить «человеческое» — интонации, контекст, смыслы, — рассказала эксперт. - Поэтому роль человека-эксперта со временем только усилится: он будет работать в связке с ИИ, контролировать и обучать системы, анализировать нестандартные инциденты и принимать стратегические решения в области защиты данных. МВД: нейросеть — инструмент, но не субъект Как пояснили в ГУ МВД по Волгоградской области, при проведении различного рода экспертиз и исследований используется различное программное обеспечение, которые можно условно назвать ИИ. — Анализ жидкостей, ДНК, фоноскопическая и портретная экспертиза, ряд других — всё это почти автоматизировано. Но вывод делает человек, подпись под экспертным заключением ставит специалист, не алгоритм. Без его опыта и навыков все умные машины — просто микросхемы. Искусственный интеллект — это вспомогательное средство в решении задач получения обоснованного вывода. ИИ киберспециалиста пока не заменит В регионе, где летом 2024 года фиксировались массовые кибератаки на информационные системы и суды, вопрос замены людей машиной — не абстракция. В условиях, когда местные службы ИБ и госструктуры сталкиваются с угрозами в реальном времени, ИИ становится необходимым, но пока небезопасным помощником. Итак на основании комментариев экспертов можно сделать вывод, что ИИ — это не столько замена специалиста, сколько его продолжение. Он может держать периметр, отслеживать миллионы сигналов, анализировать логи и предлагать решения. Но ответственность за финальный выбор, стратегию и интуицию все еще несёт человек. В ближайшие 5–10 лет, пока ИИ не научился думать как человек, именно эксперты будут определять, где граница между безопасностью и катастрофой. И если однажды вы получите письмо от «вашего» начальника или друзей, которые просят перевести деньги или скинуться на корпоратив — подумайте дважды. Может быть, это просто хорошо обученная нейросеть, которая знает все. Разве что кроме человеческого страха и чувства неотвратимости наказания за мошенничество. Еще больше новостей и мнений в нашем Telegram-канале. Подписывайтесь и будьте в курсе всех событий Волгограда и области.
