NVIDIA представила семейство моделей Nemotron-4 340B: Base, Instruct и Reward.

"Мы выпускаем семейство моделей Nemotron-4 340B, в которое входят Nemotron-4-340B-Base, Nemotron-4-340B-Instruct и Nemotron-4-340B-Reward."

"Наши модели доступны в открытом доступе по лицензии NVIDIA Open Model License Agreement — разрешительной лицензии для моделей, которая позволяет распространять, модифицировать и использовать как сами модели, так и результаты их работы."

Эти модели демонстрируют конкурентоспособные результаты по сравнению с другими моделями с открытым доступом на широком наборе оценочных бенчмарков. Кроме того, они были рассчитаны таким образом, чтобы при развертывании с точностью FP8 помещаться на одном сервере DGX H100 с 8 графическими процессорами.

"Мы считаем, что сообщество сможет использовать эти модели в различных исследовательских проектах и коммерческих приложениях, особенно для генерации синтетических данных, необходимых для обучения более компактных языковых моделей."

Примечательно, что более 98% данных, использованных в процессе выравнивания нашей модели, были сгенерированы синтетически. Это демонстрирует эффективность данных моделей в создании синтетических данных.

"Чтобы дополнительно поддержать открытые исследования и упростить разработку моделей, мы также публикуем в открытом доступе пайплайн генерации синтетических данных, который использовался в процессе выравнивания нашей модели."