Эксперимент удался: на российском сервере за 5 тысяч рублей запустили нейросеть

На виртуальном сервере российского хостинг-провайдера RuVDS энтузиасты провели эксперимент по развертыванию нейросети. Инженеры смогли реализовать стоящие перед ними задачи, задействовав минимальный объём вычислительных мощностей, соответствующих уровню современного смартфона. 

Как отметили в пресс-службе, конфигурация, стоимость которой не превышает 5 тысяч рублей, позволила развернуть последовательно несколько нейросетей — мультимодальных LLaMA, LLaVA актуальных версий. 

Настроенные нейросети смогли поддержать беседу, проанализировать изображение, предоставленное оператором, а также перевести имеющийся на нем текст. Эксперимент продемонстрировал возможность применения технологий машинного обучения с задействованием ограниченных ресурсов и выявил перспективность использования виртуальной среды компании в целях обучения работе с интеллектуальными системами.

В RuVDS рассказали:

Тест проводился на конфигурации, включающей накопитель NVMe SSD, четырехъядерный процессор, 12 ГБ ОЗУ, операционная система – Linux.