Илон Маск, Стив Возняк и еще сотни экспертов призвали остановить "гонку ИИ"
К настоящему моменту более 1100 экспертов в области IT, включая миллиардера Илона Маска, сооснователя Apple Стива Возняка и Тристана Харриса из Центра за гуманные технологии подписали открытое письмо, адресованное всем командам, разрабатывающим искусственный интеллект.
В письме содержится призыв как минимум на полгода приостановить работу над любыми ИИ-системами, более мощными, чем недавно представленная компанией OpenAI GPT-4. Подписавшие документ опасаются, что создание нейросетей, способных составить человеку конкуренцию, может привести к взрывному росту в интернете числа материалов пропагандистского и дезинформирующего толка.
"Должны ли мы разрабатывать нечеловеческие разумы, которые со временем могут стать многочисленнее и умнее нас, сделав нас устаревшими и заменив нас?" – сказано в письме. По мнению подписавших, решения, способные привести человечество к потере контроля над развитием цивилизации, не должны приниматься лидерами технологических компаний, которых никто не избирал демократическим путем.
Чат-Бог: что могут и на что (пока) не способны ChatGPT, GPT-4 и подобные им системычитайте также
Письмо предупреждает, что лаборатории ИИ включились в неконтролируемую гонку по созданию все более мощных цифровых разумов, которые никто, даже их создатели, не могут понять, надежно контролировать или предсказать их поведение.
Перерыв в разработке, считают обеспокоенные эксперты, должен быть открытым, контролироваться и включать всех ключевых игроков в этой сфере. Его следует использовать для публичной дискуссии о рисках создания слишком мощного ИИ.