Apple ведёт ранние переговоры с AI-стартапом PrismML, чтобы интегрировать его технологию сжатия моделей в iPhone, сообщил CEO PrismML. Сотрудничество может позволить запускать AI-модели с 27 миллиардами параметров прямо на устройстве, улучшая возможности Siri и усиливая позиционирование Apple в вопросах приватности.
14 июля PrismML объявила о своём прорыве в сжатии: уменьшить открытое исходное семейство Qwen от Alibaba с 54 ГБ до менее 4 ГБ, сохранив масштаб 27 миллиардов параметров для плавной работы на iPhone 15 и более новых устройствах. Технология сокращает использование памяти в 10–15 раз и ускоряет ответы в 6–8 раз, хотя CEO признал компромиссы в точности запоминания фактов по сравнению с возможностями рассуждений и программирования.