Конкуренція в ШІ зміщується від розмірів моделей до економічно ефективних систем маршрутизації

Компанії в галузі ШІ зміщують акцент конкуренції з розміру моделей на економічно ефективні системи маршрутизації, оскільки підприємства переходять від тестування до промислового розгортання. CEO Perplexity Аравінд Шрінівас розповів CNBC, що сама по собі модель уже не є продуктом, підкресливши оркестраційні системи, які поєднують моделі з інструментами для конкретних задач. Зміна відображає те, як корпоративна Америка затягує гайки з витратами на ШІ: компанії шукають моделі, що підходять під конкретні завдання, а не завжди використовують найзатратніші варіанти.

Perplexity презентує систему для комп’ютерного використання на основі китайської відкритої моделі

Цього тижня Perplexity показала нову систему для свого продукту комп’ютерного використання, побудованого на GLM 5.2 — відкритій моделі від китайської Z.ai. Система розроблена так, щоб дешевша модель могла виконувати більшу частину роботи, а сильнішу модель викликали лише за потреби.

«Сама по собі модель більше не є продуктом», — сказав Шрінівас у коментарі для CNBC. «Це устрій, оркестраційна система, яка поміщає модель у дуже спроможний “упряж” і поєднує модель із безліччю інструментів».

Продукти зі ШІ стають системами, які вирішують, яку модель використовувати, коли її застосовувати та які зовнішні інструменти або джерела даних компанії потрібні. Задача з обслуговування клієнтів може не потребувати найдорожчої моделі, тоді як складна задача з програмування — так. Плановий внутрішній робочий процес може працювати на дешевшій відкритій моделі, а складніші кроки — ескалювати до потужніших.

Партнер із бенчмарків прогнозує домінування токенів із відкритими вагами

Моделі з відкритими вагами, які можна завантажувати, донавчати й запускати силами самих компаній, стають дедалі спроможнішими та дешевшими в експлуатації, ніж платні пропрієтарні моделі від найбільших лабораторій ШІ.

Бенчмарк-партнер Пітер Фентон розповів CNBC, що, на його думку, 90+% токенів, які буде створено, вийдуть з моделей з відкритими вагами протягом найближчих 18–24 місяців — можливо, навіть до кінця року. Токени — це одиниці даних, які обробляють і генерують моделі ШІ.

«Маржинальність під час інференсу, яку створюють компанії з “фронтирними” моделями, я думаю, опиниться під тиском, коли їх можна буде запускати без націнки, яку вони додають, якщо в вас будуть достатньо добрі моделі з відкритих ваг», — сказав Фентон.

Фентон зазначив, що перехід до відкритих моделей — це не лише про економію коштів. У деяких випадках менші моделі, донавчені під конкретне завдання, можуть бути швидшими й показувати кращі результати, ніж великі універсальні моделі.

Ollama звітує про рівень впровадження серед Fortune 500

Benchmark інвестував в Ollama — компанію, яка робить простішим для розробників і підприємств завантаження, запуск та керування відкритими моделями.

CEO Ollama Джефф Морган сказав, що компанію впровадили понад 85% зі списку Fortune 500, зокрема компанії в регульованих секторах — таких як авіація, страхування та охорона здоров’я.

«Одне — звідки взята модель, де її створили й як її навчали», — сказав Морган. «Але для тих бізнесів, з якими ми спілкуємося, набагато важливіше — де вона працює і як саме вона працює».

Морган сказав, що багато компаній починають із менших моделей, які працюють поряд зі своїми даними, а потім переходять до більших відкритих моделей, коли стають більш упевненими.

Китайські лабораторії створюють стратегічну конкуренцію у відкритих моделях

Зростання відкритих моделей створює стратегічний виклик для США. Найбільш конкурентні моделі з відкритими вагами надходять із китайських лабораторій, зокрема Z.ai та DeepSeek. Це перетворило відкриту AI на бізнесове питання, питання політики та питання національної конкурентоспроможності.

Шрінівас заявив, що США мають підтримувати відкриті моделі, бо вони роблять ШІ доступнішим і простішим для використання.

«Якщо ви хочете, щоб переваги ШІ широко розподілялися серед малих бізнесів у США та в країнах-аліатах США, тоді вам справді потрібно зробити ШІ значно доступнішим», — сказав Шрінівас. «А відкритий код — це єдиний спосіб зробити це».

Зміна може також вплинути на масштабне будівництво дата-центрів, яке триває в усій технологічній індустрії. Поточний бум ШІ припускає, що попит і надалі зростатиме на великі хмарні дата-центри, заповнені чипами високого класу. Шрінівас каже, що з часом частина робіт зі ШІ може виконуватися локально — на пристроях, які належать споживачам або бізнесам.

Це не усуне потребу в дата-центрах, але може створити більш гібридну систему ШІ: рутинні задачі виконуватимуться локально, а найскладніша робота передаватиметься до більш потужної моделі в хмарі.

FAQ

Що Perplexity показала цього тижня щодо моделей ШІ?

Цього тижня Perplexity показала нову систему для свого продукту комп’ютерного використання, побудованого на GLM 5.2 — відкритій моделі від китайської Z.ai. Система розроблена так, щоб дешевша модель могла виконувати більшу частину роботи, а сильнішу модель викликали лише за потреби.

Чому компанії переходять від використання найбільших моделей ШІ до систем маршрутизації?

Оскільки компанії переходять від тестування ШІ до використання його в реальних продуктах і робочих процесах, їм потрібно мати доступ до моделей, які найкраще підходять під конкретні задачі за потрібної вартості, а не завжди користуватися найдорогішими моделями. Корпоративна Америка також затягує паски щодо витрат на ШІ, тож пріоритетом стає економічна ефективність.

Скільки компаній із Fortune 500 впровадили Ollama?

CEO Ollama Джефф Морган сказав, що компанію впровадили понад 85% зі списку Fortune 500, зокрема компанії в регульованих секторах — таких як авіація, страхування та охорона здоров’я.