«Яндекс» открыл доступ для всех желающих к собственно разработанной библиотеке YaFSDP для обучения больших языковых моделей, сообщает пресс-служба компании.
В релизе отмечается, что библиотека дает ускорение до 25%, а результат зависит от архитектуры и параметров нейросети. YaFSDP рассчитана в первую очередь на большие языковые модели, хотя она подходит и для других нейросетей, например, таких, которые генерируют изображения.
«С помощью YaFSDP также можно расходовать до 20% меньше ресурсов графических процессоров (GPU), которые требуются для обучения. Теперь YaFSDP могут использовать компании, разработчики и исследователи по всему миру», - уточняют в «Яндексе».
Добавляется, что библиотека способна оптимизировать использование ресурсов GPU на всех этапах обучения: pre-training (предварительное), supervised fine-tuning (с учителем) и alignment (выравнивание модели). «Благодаря этому YaFSDP задействует ровно столько графической памяти, сколько нужно для обучения, при этом коммуникацию между GPU ничто не замедляет», - заключили в компании.
В Севастополе подведены итоги работы военных следственных органов Следственного комитета России по Черноморскому флоту в первом полугодии текущего года
Филиал № 4 ОСФР по Москве и Московской области информирует:
С 1 августа Соцфонд увеличит страховые пенсии россиян
Военные следователи провели рейд по бывшим мигрантам в Феодосии
«Байкал Сервис» отправил почти 2,5 млн документов по ЭДО
Activision secretly experimented on 50% of Call of Duty players by 'decreasing' skill-based matchmaking, and determined players like SBMM even if they don't know it
Гайд по регистрации, установке и входу в Throne and Liberty для игроков из России и СНГ
Arena Breakout празднует 1 годовщину новой картой, игровым режимом и наградами
Blizzard politely tells Hearthstone players their game isn't dead just because it's not getting a new cosmetic board this expansion
Филиал № 4 ОСФР по Москве и Московской области информирует:
Родители 240,5 тыс. детей в Московской области получают единое пособие
Нервный импульс. Томские микрохирурги вернули 59-летнему жителю Германии эрекцию
Филиал № 4 ОСФР по Москве и Московской области информирует:
За полгода 14,9 тысячи жителей Московского региона оформили страховую пенсию в автоматическом режиме на портале госуслуг
«Магнит» и Everland запустили в Ставрополе первую социальную программу для молодых людей с инвалидностью «Эстафета успешности»
Концертом Дубненского симфонического оркестра завершились праздничные выходные в Дубне
Филиал № 4 ОСФР по Москве и Московской области информирует:
Более 12 тысяч жителей Москвы и Московской области получают повышенную пенсию за работу в сельском хозяйстве
Столичные росгвардейцы задержали мужчину, подозреваемого в грабеже
Отделение СФР по Москве и Московской области проактивно открыло свыше 32 тысяч СНИЛС новорожденным
«Магнит» и Everland запустили в Ставрополе первую социальную программу для молодых людей с инвалидностью «Эстафета успешности»
Нервный импульс. Томские микрохирурги вернули 59-летнему жителю Германии эрекцию
Филиал № 4 ОСФР по Москве и Московской области информирует:
За полгода 14,9 тысячи жителей Московского региона оформили страховую пенсию в автоматическом режиме на портале госуслуг
