«Attention is All You Need»: где сейчас авторы легендарной статьи о трансформерах
6 лет назад, в июне 2017 года, вышла статья «Attention is All You Need» за авторством инженеров Google. В ней они представили и подробно разобрали архитектуру трансформера. Именно с этой новаторской работы начал меняться мир машинного обучения и искусственного интеллекта: с нее началось развитие больших языковых моделей. Этот документ показал, что, используя только механизмы внимания, […]
Читать дальше...