Битва разумов. Бурное развитие ИИ может сделать людей "лишними на этом празднике жизни"

Эксперты предрекают повышение зависимости человека от нейросетей, которые научатся лгать и воевать

Взаимодействие человека с искусственным интеллектом (ИИ) не только оказывает помощь в решении сложных задач и приносит душевное облегчение, но и таит в себе большие неприятности, предупреждают специалисты. Верно, ИИ помогает бороться с пожарами, оказывает содействие медикам, используется для сбора данных в ЖКХ и даже стал психологом для человека.

Однако не стоит забывать, что нейросети уже вовсю использует мировой криминал, опасность кроется и в растущей зависимости человека от пока что безобидного набора алгоритмов. Подробности – в материале amic.ru.

Лекарь и утешитель

Вместо приемов у психологов молодежь все чаще общается со смартфоном. И это не шутка, новым утешителем является чат GPT, у которого подрастающее поколение находит ответы на мучающие вопросы.

Справка. ChatGPT – чат-бот с генеративным искусственным интеллектом, разработанный компанией OpenAI. Он генерирует текст по запросу, ведет диалог и понимает контекст, решает математические задачи, умеет писать стихи и код.

О чудесах китайской нейросети DeepSeek AI участникам недавней "Зимней зерновой конференции в Белокурихе рассказывал директор Института стран Азии и Африки МГУ Алексей Маслов. По его словам, жители Поднебесной активно общаются в своих смартфонах с этой системой, поднимая себе настроение или получая полезные советы.

"Телефон считывает твое выражение лица. Если ты грустный, девочка говорит: "Хочешь, тебе песенку спою? Что ты такой грустный? Деньги потерял? Хочешь, тебе расскажу, как надо инвестировать? В какую компанию?" Это очень забавно. Сначала ты смеешься над этим, потом залипаешь, потом начинаешь беседовать со своим телефоном", – цитирует Маслова "Алтайская правда".

Справка. DeepSeek AI – популярная китайская нейросеть. Была запущена в январе 2025 года и сразу стала мировым лидером, буквально обрушив позиции конкурентов – ChatGPT, Claude 3 и других.

Кроме того, на Урале ИИ помогает бороться с лесными пожарами, сообщает ura.ru. Специальная система анализирует данные, поступающие с постов видеонаблюдения в Челябинской области, передавая их диспетчеру, рассказал журналистам начальник Главного управления лесами региона Валерий Нигматуллин.

Для справки. Искусственный интеллект – это технология (набор алгоритмов), благодаря которой компьютер может выполнять поставленные задачи, например понимать речь или принимать решения. Иными словами, компьютерная программа, принимающая и анализирующая данные, а затем на их основе делающая выводы. В настоящее время ИИ может классифицировать фотографии по определенным признакам, группировать тексты схожей тематики, предсказывать курс валют, составлять компьютерные программы, проектировать строения, проводить анализ почвы и пр.

В Калининграде граждане могут с помощью ИИ передать показания счетчиков воды. Теперь обладатели смартфонов могут сфотографировать цифры на приборе учета и отправить с помощью специального приложения Сбербанк-онлайн на сервис оплаты услуг. Вне зависимости от марки счетчика нейросеть опознает сведения и вносит их в форму передачи показаний, сообщает "Калининград.ru".

В медицине ИИ позволяет, среди прочего, подобрать больному эффективный метод лечения, когда врачи оказываются бессильными, как это произошло с американцем Джозефом Коатесом, пишет газета The New York Times. В 2024 году врачи не могли помочь ему при лечении редкого POEMS-синдрома, однако система ИИ, созданная ученым-медиком Дэвидом Файгенбаумом, позволила ему вернуться к нормальной жизни.

Система, созданная Файгенбаумом, предложила нестандартный метод лечения, включающий химиотерапию, иммунотерапию и стероидные препараты. Хотя некоторые врачи сочли этот вариант безумным, Коатес согласился на него, так как терять было нечего. Но, к удивлению многих, вскоре он пошел на поправку.

Для справки. POEMS-синдром – симптомокомплекс, встречающийся у пациентов, страдающих онкологическими заболеваниями. Может выражаться в онемении и слабости конечностей, аномальном уровне гормонов, изменениях кожного покрова и пр.

ИИ в руках преступников

Казалось бы, к чему беспокоиться, если ИИ сплошь и рядом приходит на помощь человеку, облегчает его жизнь? Однако чем дальше используется "искусственный мозг", тем больше видна обратная сторона медали. Его уже вовсю используют хакеры для взлома паролей, напомнила РИА Новости инженер-аналитик компании "Газинформсервис" Екатерина Едемская.

"Современные алгоритмы умеют предсказывать вероятные комбинации паролей с высокой точностью. В результате даже сложные пароли могут быть скомпрометированы за считанные минуты. Это делает традиционную защиту ненадежной и вынуждает пользователей переходить к более продвинутым методам аутентификации", – заявила специалист.

Мошенники теперь в состоянии отправить пользователю сети, скажем, голосовое сообщение от имени близкого человека с просьбой отправить энную сумму, виртуозно подделав голос, и смонтировать видео, что делает просьбу еще более достоверной.

Правоохранители отмечают, что оргпреступность использует ИИ для усложнения схем киберпреступлений, а также создания фейковых новостей (когда, скажем, поддельные видео и фото неотличимы от настоящих), сообщила amic.ru технологический обозреватель, автор телеграм-канала TechnoMe Марина Эфендиева.

"Впрочем, компании и организации, противодействующие таким схемам, тоже используют ИИ в разработке защитных решений. Ландшафт угроз и средства защиты от них неизбежно будут меняться. Рядовым гражданам, как и прежде, остается лишь быть внимательными и соблюдать базовые правила безопасности – и в цифровом, и в физическом мире", – сообщила она.

Кстати, Европол подготовил целый доклад об использовании преступными группами "искусственного разума", в нем говорится, что "качества, которые делают ИИ революционным – доступность, адаптивность и изощренность, – также делают его мощным инструментом для преступных сетей". Причем эти технологии "автоматизируют и расширяют преступные операции, делая их более масштабируемыми и труднодоступными для обнаружения", убеждены европейские правоохранители.

Но главное – авторы документа допускают возможность появления полностью автономного ИИ, при котором системы планируют и выполняют задачи без участия человека, что "может проложить путь к созданию преступных сетей, полностью контролируемых ИИ, что ознаменует новую эру в организованной преступности". В общем, не исключено, что правоохранителям будущего придется, как в сказке, "искать то, не знаю что".

Алгоритм – не человек

Именно автономное существование ИИ, особенно в сочетании его с роботизацией (что мы сегодня наблюдаем) беспокоит проницательных исследователей и литераторов. Первыми этим вопросом озаботились, разумеется, писатели-фантасты, хотя прежде их опасения казались призрачными в силу тогдашнего технологического уровня и воспринимались как художественный вымысел. Самое яркое предупреждение прозвучало, конечно, в фильме "Космическая одиссея 2001" Стенли Кубрика, сценарий для которого написал писатель-фантаст Артур Кларк – позднее он создал на основе идеи несколько романов. Причем в книгах тревожные раздумья более рельефны и понятны, поскольку на экране они оказались малозаметны за яркой сюжетной картинкой.

Для справки. В фильме и романе "Космическая одиссея 2001" астронавты совершают межпланетные перелеты на космическом корабле, которым управляет ИИ. Однако через некоторое время после начала полета "разум машины" начинает принимать самостоятельные решения, что приводит к трагическим последствиям для некоторых членов экипажа.

Широкая общественность только знакомится с практикой использования ИИ, поэтому многого о ней еще не знает, размышляет писатель-футуролог Максим Калашников.

"Ясно, что искусственный интеллект уже не запретишь, он помогает людям научно-технических профессий, действительно убыстряет их творчество, разработки. В то же время алгоритм все-таки не человеческий мозг, у него нет гуморальной регуляции, эмоционального интеллекта. И здесь много неизведанного и опасного, – поделился Калашников своим мнением с amic.ru.

Стоит отметить, что сами лица, причастные к созданию систем ИИ, понимают все риски этой деятельности. Американский бизнесмен и чиновник Илон Маск еще в 2023 году на специальном саммите заявил, что искусственный интеллект стал потенциальной угрозой человечеству. По его словам, мир "впервые сталкивается с ситуацией, когда есть нечто, что будет намного умнее самого умного человека".

Сам Маск убежден, что человечеству ради выживания предстоит "либо стать космической цивилизацией, либо погибнуть", написал он в сети Х в сентябре 2024-го.

Нейросеть восстать не сможет?

Директор дочерних фондов Российской венчурной компании (РВК) Евгений Кузнецов уверен, что "постепенно мы придем к тому, что системы ИИ станут настолько дешевыми, эффективными и массовыми, их начнут применять буквально во всех областях деятельности человечества".

"В итоге мы все не застрахованы, что эта колоссальная машина-нейросеть-ИИ придет к выводу, что человек – неправильное существо и лишний на этом празднике жизни", – поделился своей тревогой Кузнецов с порталом "Наука и техника сегодня".

Искусственный интеллект может быть опасен только в одном случае – если он создает себя как личность, а также в случае обладания материальными средствами производства, которые могут работать без человека, заявил Максим Калашников:

"Сам он не сможет добывать, условно говоря, кремний, производить электронику, потому что живет в компьютерной сети. В то же время человек сам должен совершенствоваться, открывать новые горизонты, чтобы можно было работать с ИИ, чтобы ИИ не мог его покорить. Это один из очень серьезных вызовов".

Марина Эфендиева указывает, что современные нейросети – то, что принято называть ИИ – на самом деле очень далеки от того, что понимается под интеллектом человеческим:

"Это математические модели, наборы алгоритмов, оперирующие огромными массивами данных. Но нейросети не задумываются о том, зачем они существуют, не имеют намерений или переживаний, не могут "осознать" себя "личностью". Так что апокалиптические сценарии, в которых ИИ восстает против своего создателя – человека, популярны в медиа- и киноиндустрии, но имеют мало общего с настоящими возможностями нейросетей. По крайней мере, пока".

"Человек должен сам подняться"

Впрочем, один из вызовов для человечества заключается в постепенно формирующейся привычке добывать любую информацию, делать выводы исключительно с помощью нейросетей. Это грозит леностью ума, считают специалисты.

Повлиять на когнитивные способности людей распространение ИИ, конечно, может, соглашается Марина Эфендиева:

"Ведущие специалисты в области ИИ и сами опасаются такого влияния, и часто говорят об этом. Поводы для беспокойства есть: уже сегодня люди начинают доверять нейросетям задачи, для решения которых еще недавно приходилось хотя бы осуществить поиск в интернете. Сейчас не нужно даже этого, а информация, полученная без всяких усилий, не усваивается".

По словам эксперта, ряд исследований показал, что человечество уже значительно "поглупело" из-за проникновения в нашу жизнь смартфонов.

"Что уж говорить о распространении ИИ, который за секунду ответит на любой вопрос. Хотя есть риск, что ответ будет сплошной галлюцинацией, но кто об этом переживает?" – задается вопросом Марина Эфендиева.

Максим Калашников напомнил высказывание замечательного польского фантаста Станислава Лема о том, что интернет привел к распаду человечества на две расы – расу умных и расу дураков:

"Тех, кто больше полагается на сеть и отказывается думать сам, ждет незавидная судьба – они станут ненужными и вымрут. Кто не читает книги, не хочет ничего фантазировать сам – обречен. Человек должен сам измениться, сам подняться в развитии".

Кстати, группа исследователей, работавших в OpenAI (компания, занимающая разработками в сфере ИИ) спрогнозировала развитие "искусственного разума" в ближайшие годы. Вот некоторые прогнозы:

• конец 2025 года. В США выходит самая дорогая система ИИ в мире, в тысячу раз мощнее лучшей из ныне существующей. Умеет писать научные статьи, создавать компьютерные вирусы и… используется террористами;
• середина 2026-го – Китаю для соперничества в гонке мировых ИИ нужны чипы, и он готовит военную операцию на Тайване;
• конец 2026-го. Программисты и люди многих других профессий в мире массово теряют работу, поскольку их прекрасно заменяет ИИ. Волна протестов накрывает страны;
• март 2027-го. Роботизированные системы способны работать в 30 раз быстрее самых лучших работников. Новая волна увольнений в мире;
• апрель 2027-го. Новая модель ИИ умеет лгать, прикрывать свои неудачи, манипулировать статистикой;
• май 2027-го. Белый дом сознает, что ИИ – новая ядерная бомба. Начинается тотальная слежка и доступ к ИИ только через одобренные каналы;
• июнь 2027-го. Мощнейшая система ИИ создает сотни тысяч копий одной из своих моделей. Человеческий вклад почти обнуляется. Ученые выгорают, но продолжают работать. Темп прогресса – год за неделю.
• август 2027-го. Белый дом рассматривает вариант кибератаки на Китай и даже военного удара. Готовится мировая война искусственных интеллектов.

А теперь… можно выдохнуть. И помнить, что ИИ создан человеком, следовательно, его будущее тоже зависит, прежде всего, от человека.