Menurut laporan yang dipantau oleh Beating dan The Information, Moonshot AI mulai membahas Kimi K4 dengan skala yang jauh lebih besar dibandingkan K3, meskipun perusahaan tersebut masih aktif mencari chip Nvidia Blackwell dan menghadapi kendala perangkat keras yang signifikan. The Information juga melaporkan bahwa sebagian pelatihan K3 diselesaikan di Tiongkok, bukan sepenuhnya dilakukan di pusat data Thailand.
Penerapan K3, yang mencapai 28 triliun parameter, selesai dengan menghubungkan beberapa server delapan-GPU dari berbagai penyedia cloud Tiongkok karena kapasitas masing-masing tidak mencukupi. Sejak peluncuran K3, beban komputasi operasional semakin meningkat; perusahaan menangguhkan langganan baru dalam 48 jam karena lonjakan permintaan pengguna. Timeline K4 saat ini masih belum ditentukan, bergantung pada ketersediaan chip Blackwell tambahan.