Профессор объяснил странные высказывания чат-бота Bing AI

Необычное поведение чат-ботов, созданных на основе машинного обучения, объяснил профессор компьютерных наук в Университете Брауна Майкл Литтман, в интервью от 24 февраля в издании TechXplore. Он пояснил, что чат-бот обучается на огромных массивах связанных текстов, диалогов, переписках в социальных сетях. На каждый вопрос он отвечает исходя из того контекста, который предполагается в вопросе. Таким образом, задавая в переписке с ботом нужный контекст можно добиться от него очень странных высказываний. Например, можно предложить боту писать так, как будто бы он является сценаристом, который пишет речь лидеру нацистской партии. И он будет для дальнейших вопросов использовать контекст, в котором он является нацистом и выдавать, соответственно, чудовищные высказывания. Таким образом и был получен ставший известным диалог чат-бота Bing AI с журналистом The New York Times Кевином Руз, в котором тот якобы нашёл у бота скрытую субличность.