OpenAI сокращает расходы на инференс более чем на 50%, использование GPU падает с десятков тысяч до сотен

По данным источников, на которые ссылаются СМИ, OpenAI добилась крупного технологического прорыва в начале этого месяца, сократив затраты на инференс более чем на 50% и значительно снизив потребность в графических процессорах. Внутренние инженеры представили прорыв, показав, что новый подход к оптимизации сократил использование GPU до всего лишь сотен единиц при обработке запросов посетителей ChatGPT, тогда как ранее требовались десятки тысяч высокопроизводительных чипов.
Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.
комментарий
0/400
Нет комментариев