Добавить новость
ru24.net
News in English
Январь
2025

Google DeepMind researchers think they found a solution to AI's 'peak data' problem

0
OpenAI CEO Sam Altman and cofounder Ilya Sutskever (right).
  • The AI industry has hit "peak data," OpenAI cofounder Ilya Sutskever said recently.
  • DeepMind researchers see outputs from new "reasoning" models as a source of fresh AI training data.
  • A new AI technique, known as test-time compute, will be put to the test in 2025.

OpenAI cofounder Ilya Sutskever announced something at a recent conference that should have had the AI industry trembling with fear.

"We've achieved peak data and there'll be no more," he intoned during a speech at the annual Neurips event in December.

All the useful data on the internet has already been used to train AI models. This process, known as pre-training, produced many recent generative AI gains, including ChatGPT. Improvements have slowed, though, and Sutskever said this era "will unquestionably end."

That's a frightening prospect because trillions of dollars in stock market value and AI investment are riding on models continuing to get better.

Yet, most AI experts don't seem that worried. Why?

Inference-time compute

There may be a way to get around this data wall. It's related to a relatively new technique that helps AI models "think" through challenging tasks for longer.

The approach, called test-time or inference-time compute, slices queries into smaller tasks, turning each into a new prompt that the model tackles. Each step requires running a new request, which is known as the inference stage in AI.

This produces a chain of reasoning in which each part of the problem is tackled. The model doesn't move on to the next stage until it gets each part right and ultimately comes up with a better final response.

OpenAI released a model called o1 in September that uses inference-time compute. That was followed swiftly by Google and Chinese AI lab DeepSeek, which rolled out similar "reasoning" models. 

"An iterative self-improvement loop"

Benchmark-based testing of these new models has shown that they often generate better outputs than the previous top AI crop, especially on math questions and similar tasks with clear final answers.

This is where things get interesting. What if these higher-quality outputs were used for new training data? This mountain of new information could be fed back into other AI model training runs to produce even better results.

Google DeepMind researchers published research on test-time compute in August and proposed this technique as a potential way to keep large language models improving through the peak-data wall.

"In the future, we envision that the outputs of applying additional test-time compute can be distilled back into the base LLM, enabling an iterative self-improvement loop," the researchers wrote. "To this end, future work should extend our findings and study how the outputs of applying test-time compute can be used to improve the base LLM itself."

A chat with a test-time researcher

The authors were Charlie Snell, Jaehoon Lee, Kelvin Xu, and Aviral Kumar. Xu is still at Google, and Kumar spends some of his time at DeepMind, while Lee left to join OpenAI rival Anthropic.

Snell co-wrote the paper while interning at Google DeepMind. He's back at UC Berkeley now, so I called him up to ask what inspired the research.

"I was motivated by some of the things that have been preventing pre-training from continuing to scale, notably the finite supply of data," he told me in a recent interview. 

"If you can get an AI model to use extra inference-time compute and improve its outputs, that's a way for it to generate better synthetic data," he added. "That's a useful new source of training data. This seems to be a promising way to get around these pre-training data bottlenecks."

Satya satisfied

On a recent video podcast, Microsoft CEO Satya Nadella seemed unperturbed and even buoyant when asked about the slowdown in AI model improvement and the lack of new quality training data. 

He described inference-time compute as "another scaling law."

"So you have pre-training, and then you have effectively this test-time sampling that then creates the tokens that can go back into pre-training, creating even more powerful models that then are running on your inference," he explained.

"That's I think a fantastic way to increase model capability," Nadella added, with a smile. 

Sutskever also mentioned test-time compute as one possible solution to the peak-data problem, during his Neurips talk in early December.

Test time for test-time compute

2025 will see this approach put to the test. It's not a slam-dunk, although Snell is optimistic. 

"Over the last three years or so, it seemed more clear," he said of AI progress. "Now we're in this exploratory mode."

One open question: How well does this test-time compute technique generalize? Snell said it performs well with questions where the answer is knowable and you can check it, such as a math challenge.

"But a lot of things that need reasoning aren't easy to check. For instance, writing an essay. There's often no straight answer on how good this is," he explained. 

Still, there are early signs of success and Snell suspects outputs from these types of reasoning AI models are already being used to train new models. 

"There's a good chance that this synthetic data is better than what's out on the internet," he said.

If outputs from OpenAI's o1 model are better than GPT-4, the startup's previous top model, then these new outputs can in theory be reused for future AI model training, Snell explained. 

He shared a theoretical example: Say o1 gets a 90% score on a particular AI benchmark, you could take those answers and feed them to GPT-4 and get that model up to 90%, too. 

"If you have a large set of prompts, you could get a bunch of data from o1 and create a large set of training examples and pre-train a new model on them, or continue training GPT-4 to be better," Snell said. 

A TechCrunch report from late December suggested that DeepSeek may have used outputs from OpenAI's o1 to train its own AI model. Its latest offering, called DeepSeek V3, performs well on industry benchmarks. 

"They were probably the first ones to reproduce o1," Snell said. "I've asked people at OpenAI what they think of it. They say it looks like the same thing, but they don't how DeepSeek did this so fast."

OpenAI and DeepSeek didn't respond to requests for comment. 

Read the original article on Business Insider



Moscow.media
Частные объявления сегодня





Rss.plus




Гастрономическое удовольствие в ресторанах Marins Park Hotel Ростов

Жена Гарика Харламова появилась на публике с округлившимся животом и подогрела разговоры о беременности

Лидер российского рынка медицинского оборудования признан лучшим предпринимателем года

«Чужие люди»: Миша Житов представил вайбовый трек для весенних вечеров


This millennial CEO grew up with a heroin addict dad. Now he’s running a multimillion-dollar agency

Half the world population could be diabetic or insulin resistant by 2050

EuroMillions jackpot rolls over to £185,000,000 after no one claims ticket

Arsenal ‘pushing hardest’ for Julian Alvarez transfer but face battle with Premier League rivals for ex-Man City star


В Рязани с успехом прошёл благотворительный концерт «Культура в помощь Донбассу»

Бегуны Нацпроектстроя снова в деле

Совместный прием граждан в преддверии Международного дня защиты детей

Женский портрет


Metal Force 3.51.0

Началась предзагрузка Crystal of Atlan на PC и смартфонах

Игра Cultivation Chat Group заняла топ-7 в китайском App Store

Five new Steam games you probably missed (May 26, 2025)



Куда отправиться из Москвы в речном круизе? Обзор городов и теплоходов

Куда отправиться из Москвы в речном круизе? Обзор городов и теплоходов

Куда отправиться из Москвы в речном круизе? Обзор городов и теплоходов

В Тверской области прошёл благотворительный концерт «Культура в помощь Донбассу»




Уникальный тренажер ледовой навигации, разработанный ЭМЦТ, открыт в университете имени С.О. Макарова

Замминистра обороны Цивилева совершила рабочую поездку в войска ЛВО

Новосибирским ветеранам СВО и их семьям предоставят ипотеку под 2% годовых

В ТРЦ «Нора» состоится бесплатный кинопоказ семейного фильма «Линцесса. Тайна леса»


Уникальный тренажер ледовой навигации, разработанный ЭМЦТ, открыт в университете имени С.О. Макарова

ГК «Юзтех» представит цифровые продуктовые решения Octopus и «Цифровой двойник рисков» на ЦИПР

Куда отправиться из Москвы в речном круизе? Обзор городов и теплоходов

Где заказать еду с доставкой в Краснодаре?


США выиграли ЧМ по хоккею, информация об уходе Угальде из «Спартака». Главное к утру

Первая ракетка Казахстана рухнул в мировом рейтинге ATP

Арина Соболенко выходит во второй круг Открытого чемпионата Франции

Теннисистка Александрова вышла во второй круг Открытого чемпионата Франции


Станислав Кондрашов анализирует олигархию как явление, пронизывающее историю

Люси Пылаева и гигантский Labubu: новый уровень модной иронии на RU.TV 2025

Где покушать в Краснодаре?

Где заказать суши с доставкой в Краснодаре?


Музыкальные новости

В Рязани с успехом прошёл благотворительный концерт «Культура в помощь Донбассу»

Талантливые артисты и поэты выступили на благотворительном концерте «Культура в помощь Донбассу» в Нальчике

Рэпер ST заявил, что может бесплатно написать песню артистам для "Интервидения"

Частичный некроз кожи выявили у Киркорова



Куда отправиться из Москвы в речном круизе? Обзор городов и теплоходов

Куда отправиться из Москвы в речном круизе? Обзор городов и теплоходов

Куда отправиться из Москвы в речном круизе? Обзор городов и теплоходов

Куда отправиться из Москвы в речном круизе? Обзор городов и теплоходов


WSJ: Белый дом допустил ужесточение давления на Москву на фоне затяжных переговоров

В Тверской области пройдет благотворительный концерт «Культура в помощь Донбассу»

Собянин рассказал о предстоящем открытии иммерсивного музея

Вертолеты санавиации выполнили 335 вылетов в Подмосковье с начала года


17-летний почти новый Lamborghini Murcielago выставили на продажу в Москве

В Москве выставили на продажу новый ВАЗ-2109 за 1,7 млн рублей

IX Открытый Московский фестиваль конного искусства и спорта

Сильный ветер до 17 м/с ожидается в Москве 28 и 29 мая


Путин попросил Собянина сделать транспорт доступным для инвалидов

В Кремле стартовали переговоры Путина и лидера Йемена

Путин проведет встречу с многодетными семьями из девяти регионов

Выиграть миллион на «Юмор FM» помогает улыбка





Косметолог Мадина Осман: как сохранить молодость кожи в зоне декольте

Большинство россиян выбирают врача по рекомендациям знакомых

ГК «ДИАКОН» представляет современные решения лабораторной диагностики на XI Международном конгрессе «Санаторно-курортное лечение» в Москве

Медики высоко оценили аппарат «Швабе» для ингаляционной анестезии


Зеленский заявил, что в Киеве работают над получением ракет Taurus


Уникальный тренажер ледовой навигации, разработанный ЭМЦТ, открыт в университете имени С.О. Макарова

IX Открытый Московский фестиваль конного искусства и спорта

«Сны Пушкина» – шоу вне жанров: вы действительно поверите в сказку

«Чемпионат»: Комличенко согласовал контракт с «Локомотивом»




Путин попросил Собянина сделать транспорт доступным для инвалидов

Сергей Собянин принял участие в юбилейном параде кадет

Собянин: над Москвой и Подмосковьем отразили атаку трёх беспилотников

Собянин: Отражена атака трех беспилотников на Московский регион


На рынке появилось технологичное агентство мобильного маркетинга mApps

Подтверждена совместимость платформы SpaceVM и ОС «ОСнова»: шаг к единой экосистеме отечественных ИТ-решений


Куда отправиться из Москвы в речном круизе? Обзор городов и теплоходов

TODES LADY FEST 2025: тысячи женщин танцуют в парке Сокольники

От Волги до Енисея: россияне увлеклись речными круизами

"ЗАЧЕМ СПЕЦСЛУЖБАМ США МОЛИТЬСЯ НА ТРАМПА, ХОТЬ НЕ ОН ПРИКАЗАЛ ЦВЕТОЧКИ HЮХАТЬ". СЕНСАЦИЯ! В.В. Путин, Дональд Трамп, Илон Маск. Россия, США, Европа могут улучшить отношения и здоровье общества?!


Заместитель прокурора Архангельской области и Ненецкого автономного округа Павел Матанцев и Уполномоченный по правам ребенка в Ненецком автономном округе Галина Гуляева проведут личный приём жителей Ненецкого автономного округа по вопросам защиты пра

Как джин и виски из Саранска вывели предприятие Евгения Сидорова в лидеры индустрии

Архангельские гребцы завоевали две медали на первенстве России в Краснодаре

В суд направлено уголовное дело о незаконной охоте с причинением крупного ущерба на территории Ненецкого автономного округа


Встреча друзей «Библиотека – волшебное место, где книгам не скучно, где всем интересно».

Мы служим книге, чтобы книга служила людям

«Поэма» в сердце города: новый уровень жизни в центре Симферополя

Акция «Поздравь библиотеку с праздником».


Где покушать парк Галицкого?

Куда отправиться из Москвы в речном круизе? Обзор городов и теплоходов

Где заказать еду с доставкой в Краснодаре?

От Волги до Енисея: россияне увлеклись речными круизами












Спорт в России и мире

Новости спорта


Новости тенниса
Ролан Гаррос

Арина Соболенко выходит во второй круг Открытого чемпионата Франции






Куда отправиться из Москвы в речном круизе? Обзор городов и теплоходов

Куда отправиться из Москвы в речном круизе? Обзор городов и теплоходов

"ЗАЧЕМ СПЕЦСЛУЖБАМ США МОЛИТЬСЯ НА ТРАМПА, ХОТЬ НЕ ОН ПРИКАЗАЛ ЦВЕТОЧКИ HЮХАТЬ". СЕНСАЦИЯ! В.В. Путин, Дональд Трамп, Илон Маск. Россия, США, Европа могут улучшить отношения и здоровье общества?!

Люси Пылаева и гигантский Labubu: новый уровень модной иронии на RU.TV 2025