Вычислительная мощность услуги: новая бизнес-модель эпохи больших моделей
Обучение больших моделей требует значительной вычислительной мощности, что способствует тому, что услуги вычислительной мощности становятся новым бизнес-моделью. Хотя в настоящее время наблюдается нехватка высококлассных GPU, отрасль активно справляется с этой проблемой.
Обучение крупных языковых моделей требует огромных вычислительных ресурсов. Например, для обучения крупной метеорологической модели с использованием 200 графических процессоров (GPU) в течение двух месяцев затраты могут превысить 2 миллиона юаней. А стоимость обучения универсальной крупной модели может быть в сотни раз выше. В настоящее время в Китае уже существует более 100 моделей с числом параметров, достигающим 1 миллиарда, но нехватка высококлассных GPU стала основной проблемой, с которой сталкивается отрасль.
Чтобы справиться с нехваткой вычислительной мощности, компании приняли различные меры:
Используйте данные более высокого качества для повышения эффективности обучения
Оптимизация инфраструктуры для стабильной работы выше 1000 килокалорий
Улучшение вычислительной мощности распределения, повышение эффективности использования ресурсов
Использование архитектуры суперкомпьютеров для снижения затрат
Исследование использования отечественной платформы GPU
В то же время, провайдеры вычислительной мощности исследуют новые бизнес-модели. В настоящее время основные способы оплаты включают оплату по мере использования и оплату на год/месяц. В будущем будет продвигаться "интеграция вычислительной сети", чтобы обеспечить гибкое распределение между различными архитектурами, регионами и провайдерами.
С развитием постоянного спроса на большие модели, вычислительная мощность быстро превращается в уникальную отраслевую цепочку. Хотя в настоящее время нехватка высококачественных GPU вызывает "гонку за чипами", в долгосрочной перспективе сервис вычислительной мощности является определённой тенденцией. Провайдеры вычислительной мощности должны заранее подготовиться к развитию рынка после его возвращения к разумности.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
12 Лайков
Награда
12
4
Поделиться
комментарий
0/400
OnchainSniper
· 16ч назад
Сейчас всего не хватает.
Посмотреть ОригиналОтветить0
BearMarketNoodler
· 16ч назад
Рынок гнаться за ценой до нехватки чипов, когда спекуляции достигают безумия, это сигнал о достижении пика.
Сервисы вычислительной мощности в обучении больших моделей: новые бизнес-возможности в условиях нехватки
Вычислительная мощность услуги: новая бизнес-модель эпохи больших моделей
Обучение больших моделей требует значительной вычислительной мощности, что способствует тому, что услуги вычислительной мощности становятся новым бизнес-моделью. Хотя в настоящее время наблюдается нехватка высококлассных GPU, отрасль активно справляется с этой проблемой.
Обучение крупных языковых моделей требует огромных вычислительных ресурсов. Например, для обучения крупной метеорологической модели с использованием 200 графических процессоров (GPU) в течение двух месяцев затраты могут превысить 2 миллиона юаней. А стоимость обучения универсальной крупной модели может быть в сотни раз выше. В настоящее время в Китае уже существует более 100 моделей с числом параметров, достигающим 1 миллиарда, но нехватка высококлассных GPU стала основной проблемой, с которой сталкивается отрасль.
Чтобы справиться с нехваткой вычислительной мощности, компании приняли различные меры:
В то же время, провайдеры вычислительной мощности исследуют новые бизнес-модели. В настоящее время основные способы оплаты включают оплату по мере использования и оплату на год/месяц. В будущем будет продвигаться "интеграция вычислительной сети", чтобы обеспечить гибкое распределение между различными архитектурами, регионами и провайдерами.
С развитием постоянного спроса на большие модели, вычислительная мощность быстро превращается в уникальную отраслевую цепочку. Хотя в настоящее время нехватка высококачественных GPU вызывает "гонку за чипами", в долгосрочной перспективе сервис вычислительной мощности является определённой тенденцией. Провайдеры вычислительной мощности должны заранее подготовиться к развитию рынка после его возвращения к разумности.