根據 Beating 與 The Information 的報導,Moonshot AI 已開始就 Kimi K4 展開討論,規模比 K3 顯著更大;儘管該公司正積極尋求輝達 Blackwell 晶片,並面臨重大硬體限制。The Information 也報導稱,K3 的部分訓練是在中國完成,而不只是單靠泰國的資料中心。
K3 的部署(達到 28 兆參數)透過連接多台八 GPU 伺服器來完成,因為單一服務商的容量不足,需要跨不同中國雲端服務商進行連接。自 K3 啟動以來,運行計算資源一直承受壓力;由於使用者需求飆升,該公司在 48 小時內暫停新的訂閱。K4 的時程目前仍未確定,取決於額外 Blackwell 晶片的供應。