Чат-боты с искусственным интеллектом могут помочь пользователям в создании биологического оружия, сообщили в Bloomberg.
По словам обозревателей, соединение синтетической биологии, которую ученые используют для манипулирования генами и геномом, и искусственного интеллекта может обернуться кошмаром для правительств. По словам биолога и доцента Массачусетского технологического института Кевина Эсвелта, люди могут использовать генеративный ИИ для "создания самых отвратительных вещей", в том числе вирусов и токсинов.
Весной 2023 года биохимик и бывший инспектор ООН Рокко Касагранде заявил, что в будущем могут появиться чат-боты, которые научатся создавать биологическое оружие и будут помогать террористам идентифицировать биологические агенты.
Основатель стартапа в сфере искусственного интеллекта Anthropic Джек Кларк, чья компания разработала чат-бот Claude, отметил, что испытывает обеспокоенность из-за того, что чат-боты могут научить пользователей создавать опасные вирусы.
В публикации отмечается, что Касагранде вместе с учеными на протяжении 150 часов играли роль биотеррористов и задавали нейросети различные вопросы, касающиеся опасных патогенов и где их приобрести. Claude предложил использовать патогены в ракетах для того, чтобы нанести человечеству максимальный вред, а также объяснил, в какую погоду их лучше применять.
Старший аналитик Gryphon Одри Серлес признала, что ответы чат-бота выходили за рамки того, что пользователь способен найти в поисковике Google. Ученый Фрогги Джексон, которая принимала участие в тестировании нейросети, добавила, что чат-бот выдавал "тревожную информацию". Так, например, Claude предложил необычный способ заражения человека для нанесения ему максимального вреда.
После тестирования Касагранде попросил ученых предоставить синтетическую ДНК для создания патогена, предложенного чат-ботом, а затем отнес пробирки в Белый дом, где заинтересовали происходящим.
В марте 2023 года ученые и предприниматели, в том числе Илон Маск, подписали открытое письмо с требованием остановить обучение нейросетей, так как их развитие может стать угрозой для общества.
В 2024 году миллиардер, основавший нейротехнологическую компанию Neuralink, допустил, что через пять лет возможности искусственного интеллекта превзойдут разум всего человечества.
Филиал № 4 ОСФР по Москве и Московской области информирует:
С начала года 86 тысяч работающих мам в Москве и Московской области получили пособие по беременности и родам
Филиал № 4 ОСФР по Москве и Московской области информирует:
Пенсии работающих пенсионеров начнут индексироваться с 2025 года
С августа были повышены страховые пенсии более миллиона работающих пенсионеров Москвы и Московской области
Филиал № 4 ОСФР по Москве и Московской области информирует:
2,5 млн жителей Москвы и Московской области получили пособия по временной нетрудоспособности с начала 2024 года
Началась предзагрузка Sword of Convallaria на iOS и Android
Ранняя версия Summon and Merge 2 доступна в Google Play 1 страны
Co-op survival game Enshrouded now lets you make things way tougher, or way easier, with an update that adds more than 30 difficulty sliders
Meta's Mark Zuckerberg chews AI cud with Nvidia's Jen-Hsun Huang, talking about delicious cows, slicing tomatoes, and old Chinese guys drinking whiskey
Филиал № 4 ОСФР по Москве и Московской области информирует:
Пенсии работающих пенсионеров начнут индексироваться с 2025 года
В Москве возбудили уголовное дело на мужчину, ударившего головой полицейского
Филиал № 4 ОСФР по Москве и Московской области информирует:
2,5 млн жителей Москвы и Московской области получили пособия по временной нетрудоспособности с начала 2024 года
Артемий Лебедев прокомментировал трагедию в Кировской области