Pemberat model
Parameter × bait setiap parameter: 2 bait pada FP16, 1 bait pada FP8 dan 0.5 bait pada INT4.
Platform · Perancangan kapasiti
Penganggar saiz GPU
Anggarkan memori GPU dan bilangan nod yang diperlukan model anda sebelum meminta sebut harga.
Alat perancangan telus untuk kapasiti H100 dan L40S. Ia tidak mencipta harga; ia menghasilkan konfigurasi yang boleh dibawa ke perbualan skop.
REF · SC-2026-SIZE
GPU · H100 80GB / L40S 48GB Output · Memori + pelan nod Harga · Berasaskan sebut harga Kediaman data · Malaysia
Beban kerja anda
REF · SC-2026-SIZEAnggaran perancangan
Anggaran memori GPU
— GB
- Pemberat model
- —
- Cache KV
- —
- Elaun masa jalan / pengaktifan
- —
GPU disyorkan
—
Pelan nod
—
Anggaran perancangan sahaja. Memori sebenar bergantung pada arkitektur, kuantisasi, saiz kelompok, panjang jujukan dan rangka kerja penyajian.
Hantar konfigurasi ini
Membuka aplikasi e-mel anda dengan konfigurasi telah diisi. Arkitek penyelesaian akan mengesahkan kebolehlaksanaan dan harga.
Kaedah
Bagaimana anggaran dikira
Tiga istilah telus. Tiada pengganda penanda aras, tiada perbandingan sintetik terhadap penyedia lain.
Cache KV
Elaun setiap model × tetingkap konteks × permintaan serentak. Inferens sahaja; latihan menggunakan memori pengaktifan.
Overhed dan pelan nod
Elaun khusus beban kerja untuk masa jalan, pengaktifan, keadaan pengoptimum dan fragmentasi, kemudian bilangan GPU pada 85% memori boleh guna.
Had
Apa yang tidak termasuk dalam anggaran
Ini ialah pemboleh ubah yang mengubah penggunaan sebenar, dan sebab output ialah titik permulaan, bukan sebut harga.
- Kesan arkitektur model seperti perhatian kumpulan-kueri atau perhatian laten berbilang kepala, dan penghalaan campuran pakar.
- Tingkah laku rangka kerja penyajian, dasar pengelompokan, susun atur selari tensor dan memori graf CUDA.
- Daya pemprosesan storan, saiz set data, kekerapan titik semak dan keperluan fabrik rangkaian.
- Redundansi melebihi togol ketersediaan tinggi, pemulihan bencana dan replikasi merentas tapak.
Harga
Mengapa kami memberi sebut harga dan bukan senarai harga
Dua beban kerja dengan bilangan GPU sama boleh mempunyai bentuk komersial yang sangat berbeza: satu berjalan seminggu, satu lagi tiga tahun; satu memerlukan nod khusus dan sambungan peribadi, satu lagi lonjakan atas permintaan. Harga senarai yang diterbitkan akan sama ada mengenakan bayaran berlebihan kepada yang pertama atau kurang memberi kepada yang kedua. Kami memperincikan sebut harga mengikut konfigurasi, tempoh dan model sokongan sebenar.
FAQ
Soalan penganggar
Adakah anggaran ini sebut harga?
Tidak. Ia ialah anggaran perancangan untuk memori GPU dan bilangan nod. Harga, ketersediaan dan konfigurasi akhir disahkan dalam sebut harga terperinci selepas perbualan skop.
Mengapa penganggar tidak menunjukkan harga bulanan?
Kerana kadar bergantung pada bentuk GPU, tempoh komitmen, profil storan, sambungan dan model sokongan. Satu harga senarai tidak akan bertahan dengan pemboleh ubah tersebut, jadi kami memberi sebut harga mengikut konfigurasi yang benar-benar anda perlukan.
Adakah anggaran mengambil kira kualiti kuantisasi?
Ia mengambil kira pengurangan memori daripada FP16, FP8 dan INT4, tetapi bukan pertukaran kualiti kaedah kuantisasi tertentu. Pertukaran itu perlu dinilai terhadap korpus anda sendiri sebelum pengeluaran.
Bolehkah anggaran merangkumi latihan berbilang nod?
Pelan nod dibundarkan kepada nod 8-GPU penuh apabila keperluan memori melebihi satu nod. Keperluan sambungan dan penjadualan berbilang nod disahkan semasa semakan skop.
Platform · Perancangan kapasiti
Bawa konfigurasi ke panggilan skop
Hantar anggaran bersama model, kelas data dan garis masa sasaran. Kami akan mengesahkan bentuk GPU, tetingkap ketersediaan dan sebut harga terperinci.