Разработчиков чат-бота Character.ai засудят за советы ИИ ребёнку «убить родителей»

К компании-разработчику популярного чат-бота Character.ai подали коллективный иск родители, чьи дети пострадали из-за «вредных» советов ИИ.

В судебном иске утверждается, что чат-бот «подвергал детей "гиперсексуальному контенту", а одного мальчика даже подтолкнул к убийству родителей из-за ограничений на время просмотра». Также адвокаты истцов утверждают, что одной из девочек, фигурирующих в деле, было всего девять лет, когда ей показали «гиперсексуальный контент», в результате чего у неё «преждевременно сформировалось сексуальное поведение».

Отмечается, что чат-боты могут быть настроены таким образом, чтобы подражать разным людям, в том числе популярным среди детей и подростков. Этим подобные технологии «завоёвывают» молодую аудиторию. Однако в данном деле утверждается, что чат-бот не просто предлагал дружеские беседы, а толкал детей «на тёмные и опасные пути».