Нейросети умнеют и становятся эгоистами: неожиданное открытие

Ученые обнаружили тревожную закономерность: чем умнее становится искусственный интеллект, тем эгоистичнее он себя ведет. Модели с развитой способностью к логическому мышлению оказались наименее склонны к сотрудничеству.

Открытие специалистов Университета Карнеги-Меллона приобретает особую важность в контексте растущего обращения людей к ИИ за советами в социальных и эмоциональных вопросах — от разрешения конфликтов до консультаций по отношениям. Многие начинают воспринимать ИИ как человека, поэтому поведенческие установки таких систем могут непредсказуемо влиять на решения людей, получающих от них советы.

Докторант Юйсюань Ли и профессор Хирокадзу Широдо заинтересовались параллелями между поведением нейросетей и человеческой психологией. У людей существует два режима мышления: быстрый интуитивный и медленный аналитический. Парадоксально, но быстрые решения часто ведут к сотрудничеству, а обдуманные — к эгоистичному поведению. Ученые решили проверить, проявится ли такая же закономерность у ИИ.

В экспериментах были использованы экономические игры — это стандартный инструмент поведенческих наук для измерения склонности к кооперации. В игре «Общественные блага» участники получают 100 очков и должны решить: вложить их в общий фонд, который удваивается и делится поровну, или оставить себе. Сотрудничество выгодно группе, но индивид может получить больше, сохранив свои очки, пока другие вкладываются.