Представлена ИИ-модель, которая генерирует текст гораздо быстрее ChatGPT

Inception Labs представила Mercury Coder, модель искусственного интеллекта, которая генерирует текст гораздо быстрее, чем традиционные модели, такие как ChatGPT. В отличие от обычного ИИ, который создает текст по одному слову за раз, Mercury использует подход, основанный на диффузии, создавая целые ответы за один раз путем доработки первоначального чернового варианта в четкий текст.

Этот метод, вдохновленный Stable Diffusion, заменяет слова на пустоты, а затем постепенно «заполняет пробелы», чтобы создать окончательный ответ. Это позволяет Mercury работать параллельно, что делает его намного быстрее моделей, генерирующих текст последовательно.

По данным Inception Labs, Mercury может генерировать более 1 000 слов в секунду на графических процессорах Nvidia H100, значительно превосходя аналогичные модели. Например, Mercury Coder Mini достигает скорости в 19 раз выше, чем GPT-4o Mini, сохраняя при этом аналогичную точность при решении задач кодирования.

Mercury Coder доступен для тестирования на демо-сайте Inception.