OpenAI and Anthropic Team With US Government on Safe AI Testing
Two of the most high-profile artificial intelligence firms inked a deal with the United States government.
OpenAI and Anthropic agreed to collaborate with the U.S. Artificial Intelligence Safety Institute on AI safety research, testing and evaluation, according to a Thursday (Aug. 29) press release.
The agreements establish a framework for the institute to receive access to new models from each company before and after their public release, the release said. They also enable collaborative research on how to evaluate capabilities and safety risks, as well as methods to mitigate those risks.
“Safety is essential to fueling breakthrough technological innovation. With these agreements in place, we look forward to beginning our technical collaborations with Anthropic and OpenAI to advance the science of AI safety,” U.S. AI Safety Institute Director Elizabeth Kelly said in the release. “These agreements are just the start, but they are an important milestone as we work to help responsibly steward the future of AI.”
The institute — a division of the Commerce Department’s National Institute of Standards and Technology (NIST) — plans to provide feedback to OpenAI and Anthropic on potential safety improvements to their models, in collaboration with the United Kingdom’s AI Safety Institute, per the release.
The two countries joined forces earlier this year in a landmark agreement to develop safety tests. The agreement is designed to align the two countries’ individual approaches and speed the development of robust evaluation methods for AI models, systems and agents. It’s part of a growing worldwide effort to address concerns about the safety of AI systems.
“This new partnership will mean a lot more responsibility being put on companies to ensure their products are safe, trustworthy, and ethical,” Andrew Pery of global intelligent automation company ABBYY told PYMNTS in April. “The inclination by innovators of disruptive technologies is to release products with a ‘ship first and fix later’ mentality to gain first mover advantage. For example, while OpenAI is somewhat transparent about the potential risks of ChatGPT, they released it for broad commercial use with its harmful impacts notwithstanding.”
For all PYMNTS AI coverage, subscribe to the daily AI Newsletter.
The post OpenAI and Anthropic Team With US Government on Safe AI Testing appeared first on PYMNTS.com.
Moscow.media
Частные объявления сегодня
Россия или заграница? Стало известно, что предпочитают российские туристы
Упражнения при хроническом холецистите
Марина Шершнева: «Что готовит бизнесу налоговая реформа 2025 года. Все, что вы должны знать»
10 российских аналогов иностранным достопримечательностям
Arsenal ‘pushing hardest’ for Julian Alvarez transfer but face battle with Premier League rivals for ex-Man City star
EuroMillions jackpot rolls over to £185,000,000 after no one claims ticket
This millennial CEO grew up with a heroin addict dad. Now he’s running a multimillion-dollar agency
Half the world population could be diabetic or insulin resistant by 2050
«Битцевский маньяк» захотел в колонию поближе к Москве, но получил отказ
Совместный прием граждан в преддверии Международного дня защиты детей
Пожар на "Экополисе": администрация предприятия убеждала всех в обратном
Игра Cultivation Chat Group заняла топ-7 в китайском App Store
Началась предзагрузка Crystal of Atlan на PC и смартфонах
Алмазы в Whiteout Survival: где собирать, как приумножать и на что тратить
В Тверской области пройдет благотворительный концерт «Культура в помощь Донбассу»
В Рязани с успехом прошёл благотворительный концерт «Культура в помощь Донбассу»
В Тверской области прошёл благотворительный концерт «Культура в помощь Донбассу»
IX Открытый Московский фестиваль конного искусства и спорта
Собянин рассказал, каким будет новый пешеходный мост на остров Балчуг
Суд ограничил доступ к видео на YouTube с ответами на ЕГЭ 2025 года
Замминистра обороны Цивилева совершила рабочую поездку в войска ЛВО
Легкоатлетки из Воронежа Светлана Аплачкина и Эмилия Тангара стали чемпионками страны
В Нижегородской области работает фольклорно-этнографическая экспедиция по выявлению объектов нематериального этнокультурного наследия
Марко Рубио призвал Сергея Лаврова к конструктивному диалогу с Киевом - Госдеп
"Она вернется в Россию": в Сети высмеяли Каллас за заявления о Черном море
Бадоса обыграла Наоми Осаку и вышла во второй круг «Ролан Гаррос»
Монфис совершил камбэк с 0-2 и пробился во второй раунд "Ролан Гаррос"
Касаткина о выступлении за сборную Австралии: «Это вопрос, который Tennis Australia должна решать с ITF – это уже совсем другой разговор, и я не буду в нем участвовать»
Справится ли Калинская с соперницей? Калинская — Боузкова: прогноз и ставка
Прихожане Владимирского храма посетили Донской монастырь в Москве
Участники СВО из Челнов проходят реабилитацию в санатории во время отпуска
Забайкальцы могут стать участниками Всероссийского Парада Семьи
4 июня в 15:00 состоится очное мероприятие «Инвестиции в будущее: городские помещения под бизнес-проекты для детей»
Музыкальные новости
Певица Йоко выступит на гастрофестивале «Моя еда» в Пскове
Стало известно, кому достанется квартира Григоровича в центре Москвы
Будут рядом. Стало известно, почему Киркоров решил перезахоронить мать
Хабенский, Башмет и «Солисты Москвы» открыли пятый фестиваль Юрия Башмета в Красноярске
В Тверской области прошёл благотворительный концерт «Культура в помощь Донбассу»
IX Открытый Московский фестиваль конного искусства и спорта
Выиграть миллион на «Юмор FM» помогает улыбка
В Рязани с успехом прошёл благотворительный концерт «Культура в помощь Донбассу»
«Чемпионат»: Комличенко согласовал контракт с «Локомотивом»
Художница мультфильма "Ёжик в тумане" подала иск против ЦБ из-за монет с ёжиком
Собянин подписал закон о штрафах для не прошедших экзамен на знание Москвы таксистов
WSJ: Белый дом допустил ужесточение давления на Москву на фоне затяжных переговоров
Собянин рассказал, каким будет новый пешеходный мост на остров Балчуг
IX Открытый Московский фестиваль конного искусства и спорта
«Автокод» внедрил сервис проверки и оплаты штрафов ГИБДД по госномеру авто
В Москве выставили на продажу новый ВАЗ-2109 за 1,7 млн рублей
Президент Лаоса извинился перед Путиным за отсутствие на Дне Победы в Москве
Президент Лаоса извинился, что не смог приехать на День Победы в Москву
Путин проведет встречу с многодетными семьями из девяти регионов
Выиграть миллион на «Юмор FM» помогает улыбка
Медики высоко оценили аппарат «Швабе» для ингаляционной анестезии
Спортивные протезы: зачем они нужны и почему это важно
«Абсолют Страхование» и Spirit. Fitness запустили страховую подписку для клиентов фитнес–клуба
Офтальмолог Кирилл Светлаков: может ли мигрень испортить зрение
Зеленский заявил, что в Киеве работают над получением ракет Taurus
IX Открытый Московский фестиваль конного искусства и спорта
«Абсолют Страхование» и Spirit. Fitness запустили страховую подписку для клиентов фитнес–клуба
«Чемпионат»: Комличенко согласовал контракт с «Локомотивом»
Спортивные протезы: зачем они нужны и почему это важно
Собянин: Москва отбила атаку 33 вражеских дронов без потерь и ущерба
Собянин: Средствами ПВО уничтожено еще два БПЛА, атаковавших Москву
Собянин: Отражена атака трех беспилотников на Московский регион
Путин попросил Собянина сделать транспорт доступным для инвалидов
Агроном предложил этим летом высадить на огороде экзотические культуры
Станислав Кондрашов раскрывает связь между экономическим успехом и культурным вкладом
Олигархи и зелёные технологии - анализ Станислава Кондрашова
«Турбозавры» подвели итоги творческого конкурса «Экозавр-25»
Новая угроза для России: американские компании уничтожают Каспий
Забайкальцы могут стать участниками Всероссийского Парада Семьи
Прихожане Владимирского храма посетили Донской монастырь в Москве
Следком потребовал доклад по факту избиения подростка в Забайкалье
В суд направлено уголовное дело о незаконной охоте с причинением крупного ущерба на территории Ненецкого автономного округа
Жара накроет регионы России
Заместитель прокурора Архангельской области и Ненецкого автономного округа Павел Матанцев и Уполномоченный по правам ребенка в Ненецком автономном округе Галина Гуляева проведут личный приём жителей Ненецкого автономного округа по вопросам защиты пра
Архангельские гребцы завоевали две медали на первенстве России в Краснодаре
Встреча друзей «Библиотека – волшебное место, где книгам не скучно, где всем интересно».
Акция «Поздравь библиотеку с праздником».
Село Субботник частично останется без электричества: в Симферополе, Евпатории, Алуште, Ялте, Керчи, Джанкое, Феодосии и Севастополе отключат свет 29 мая 2025
Выставка-призыв «Курение – зло, откажись от него»
На западе Москвы приступили к устранению последствий атаки БПЛА
Ученые проанализировали частоту использования ругательств в 20 странах
В Москве на «Авито» продают игрушку Лалубу за 100 тысяч рублей