С одной стороны, проблемы с поставками новейших ускорителей вычислений Nvidia в Китай вынуждают местных разработчиков ориентироваться на альтернативы китайского происхождения. С другой стороны, если стоимость миграции ПО на китайскую платформу окажется слишком высокой, эксперты советуют сохранить приверженность компонентной базе Nvidia.
Во всяком случае, подобные рекомендации операторам китайских центров обработки данных дают эксперты CAICT — Китайской академии информационных и телекоммуникационных технологий, как сообщает South China Morning Post. «Если условия позволяют, ЦОД должны выбирать высокопроизводительные ускорители A100 и H100. Если потребность в вычислительных ресурсах ограничена, то можно остановить выбор на H20 или китайских альтернативах», — буквально рекомендуют эксперты.
Проблема не столь проста, поскольку западные санкции мешают китайским операторам ЦОД закупать производительные ускорители Nvidia, а «легализованные» H20 могут уступать китайским альтернативам. Но даже в этом случае разработчикам порой лучше остаться на платформе Nvidia, чем заниматься долгим и дорогим процессом миграции своих программных решений на ускорители китайского происхождения. Эксперты CAICT при этом не скрывают, что санкции США за последние три года способствовали активному развитию китайских разработчиков ПО и аппаратного обеспечения. И всё же, миграция обучаемых на базе решений Nvidia языковых моделей на китайские платформы требует значительных затрат, а потому не всегда представляется рациональной.
До августа 2022 года Nvidia сохраняла право поставлять в Китай ускорители A100 и H100, но введённые позже санкции заставили её в сжатые сроки наладить поставки модифицированных с учётом американских ограничений ускорителей A800 и H800, которые можно было поставлять до октября прошлого года. После этого и они попали под санкции, в результате Nvidia пришлось разработать для китайского рынка ускорители H20, L20 и L2.
К концу прошлого года совокупная производительность функционирующих в Китае центров обработки данных выросла на 27 % до 230 экзафлопс. На направлении искусственного интеллекта китайские вычислительные мощности росли гораздо быстрее, на 70 % год к году. По состоянию на июнь текущего года, в КНР строились или уже были введены в строй более 250 вычислительных центров с доступом в интернет. Не все из них могли похвастать удачным расположением, поскольку находились на удалении от основных центров технологического развития. Китайская отрасль может пострадать не только от избытка вычислительных мощностей, но и от низкого уровня их загрузки, а также посредственного качества обрабатываемых данных. Графические процессоры в Китае, по данным CAICT, в среднем загружены расчётами всего на 40 %, а ещё имеющиеся ЦОД страдают об плохой сбалансированности ресурсов, которая также снижает их КПД. Взаимную интеграцию кластеров затрудняет необходимость использования разнородного оборудования и программного обеспечения различных поставщиков.