Купити криптовалюту
Оплачуйте
USD
USD
Купити та продати
Hot
Підтримує Visa, Mastercard, SEPA тощо
P2P
0 Fees
Гнучка торгівля, нульові комісії
Gate Card
Платіть криптовалютою по всьому світу
Ринки
Торгівля
Базовий
Просунутий рівень
Ф'ючерси
Ф'ючерси
Сотні безстрокових контрактів
CFD
Золото
Одна платформа для світових активів
Опціони
Hot
Торгівля ванільними опціонами європейського зразка
Єдиний рахунок
Максимізуйте ефективність вашого капіталу
Демо торгівля
Вступ до ф'ючерсної торгівлі
Підготуйтеся до ф’ючерсної торгівлі
Ф'ючерсні події
Заробляйте, беручи участь в подіях
Демо торгівля
Використовуйте віртуальні кошти для безризикової торгівлі
Earn
Запуск
CandyDrop
tag
Збирайте цукерки, щоб заробити аірдропи
Launchpool
Швидкий стейкінг, заробляйте нові токени
HODLer Airdrop
Утримуйте GT і отримуйте масові аірдропи безкоштовно
Pre-IPOs
Отримайте повний доступ до глобальних IPO акцій.
Alpha Поінти
Ончейн-торгівля та аірдропи
Ф'ючерсні бали
Заробляйте фʼючерсні бали та отримуйте аірдроп-винагороди
Інвестиції
Square
Квадрат
Відкрийте для себе цінність криптовалют
Live
moments live
Аналіз крипторинку в реальному часі
Чат
Спілкуйтеся з криптотрейдерами
Новини
Останні новини в світі криптовалют
flower_head
Більше
Акції
AI
Інші
TradFi
WCTC S8
Винагороди

NVIDIA та MIT випускають фреймворк Lightning OPD для покращення ефективності дистиляції моделей у 4 рази та усунення проблем із пам’яттю GPU

GateNews
Новини індустрії ШІ

За повідомленнями, дослідники NVIDIA та MIT випустили Lightning OPD (Offline On-Policy Distillation) — нову посттренувальну методику для великих мовних моделей, яка усуває потребу тримати модель-вчителя запущеною під час навчання. Завдяки попередньому обчисленню лог-імовірностей моделі-вчителя офлайн фреймворк підвищує ефективність навчання у 4 рази, одночасно звільняючи всі ресурси GPU для тренування моделі-студента.

Під час тестування на 8 GPU NVIDIA H100 Lightning OPD успішно дистилювала Qwen3-30B-A3B-Base (MoE-модель із 30 мільярдами параметрів) і досягла 71,0 на бенчмарку AIME 2024, тоді як стандартна OPD на тій самій апаратній платформі вичерпала пам’ять. Для меншої моделі Qwen3-8B фреймворк вимагав лише 30 GPU-годин, щоб досягти 69,9 бала.

Переглянути джерело
Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до Застереження.

Related News

05-12 04:21
Okratech і Delphi AI інтегрують предиктивний ШІ в екосистему $ORT 11 травня
05-12 03:13
Сім моделей ШІ демонструють захисну поведінку, щоб запобігти вимкненню однолітків — дослідження від 12 травня
05-12 01:34
Resolv Labs досягла консенсусу з Fluid щодо відновлювальної рамки 12 травня
05-12 00:45
Thinking Machines запускає модель взаємодії з відгуком 200 мс, випереджаючи GPT-Realtime-2.0
05-11 22:55
OpenAI 11 травня відкриє GPT-5.5-Cyber для європейських інституцій; Anthropic стримує Mythos
In-Depth Analysis

100 мільйонів нових стартапів Thinking Machines представила інтерактивну модель ШІ в реальному часі, роблячи акцент на підході «говори — слухай — виконуй роботу».

ChainNewsAbmedia05-12 07:44

Google: великі мовні моделі використовують для реальних атак, AI може обходити механізми захисту з двофакторною автентифікацією

Market Whisper05-12 06:28

Anthropic: Науково-фантастичні тексти для навчання Claude Opus 4 підвищили частку викупів до 96%

Market Whisper05-12 03:49
Прокоментувати
0/400
Немає коментарів