В России объявили о создании лаборатории для развития безопасного ИИ

Исследовательская группа T-Bank AI Research и Центральный университет открывают лабораторию Omut AI для фундаментальных исследований в области искусственного интеллекта (ИИ) и больших языковых моделей (LLM). Об этом стало известно из совместного заявления компаний.

Цель лаборатории — исследование и разработка инновационных подходов, которые помогут обеспечить контроль и безопасность ИИ, его соответствие стандартам этики и надежности. Результаты работы лаборатории будут доступны научному и индустриальному сообществу.

Среди направлений исследований, например, AI Alignment — ученые объединят экспертизу на стыке обработки естественного языка (NLP), обучения с подкреплением (RL) и других областей компьютерных наук, чтобы поведение ИИ было предсказуемым. Также ученые займутся поиском эффективных архитектур для создания больших языковых моделей с нуля и исследованием принципов улучшения их способностей (LLM Foundations). Еще одно направление — Multimodal AI — это исследование методов создания универсальных моделей, которые умеют взаимодействовать с человеком.

Руководитель лаборатории Даниил Гаврилов обратил внимание, что благодаря ИИ человечество стоит на пороге огромного числа открытий. «Но мы понимаем, что у существующих сейчас решений есть свои ограничения. Перед самыми крупными лабораториями, которые исследуют ИИ, стоит ряд вопросов — в том числе безопасность применения моделей, улучшение их способностей адаптироваться под решение произвольных задач, а также обеспечение бесшовного опыта взаимодействия ИИ и людей», — добавил Гаврилов.

По его мнению, России необходимы свои научные исследования фундаментальных вопросов ИИ, чтобы задавать технологические тренды на мировой арене и создавать передовые внутренние решения для нужд страны.

Ректор Центрального университета Евгений Ивашкевич подчеркнул, что студентам предоставляют доступ к лучшим разработкам в области исследования искусственного интеллекта. «Создание лаборатории — это большой шаг в формировании преемственности и развития ИТ-коммьюнити в России, который позволит вчерашним школьникам прикоснуться к созданию российского суверенного ИИ, а менторами в этом процессе выступят признанные отечественным и мировым сообществом ученые», — заключил он.