Nachdem ich den großen Modellalgorithmusserver lange studiert hatte, stellte ich fest, dass der 4060Ti 16G immer noch kostengünstig ist und zu einem Multikartenserver zusammengebaut werden kann.

1. Wenn man bedenkt, dass die Grafikkarte des Modells 16G verwendet, ist das ausreichend.

Sie können das 6B-Modell direkt ohne Quantifizierung ausführen. Im Allgemeinen benötigt es etwa 12G.
Preis für ein einzelnes 4060Ti 16G ASUS

Sie sind relativ günstiger als Colorful und gelten alle als erstklassige Grafikkartenhersteller:
Erstklassige Grafikkartenhersteller: ASUS (ROG) MSI (Magic Dragon) Colorful (Vulcan) Zotac (Supreme) Gigabyte (Big Eagle)

https://www.zhihu.com/tardis/zm/art/428716561?source_id=1005

2. Sie können auch günstige x99+CPU+Speicher verwenden

Verwenden Sie das verbleibende Geld, um eine Grafikkarte zu kaufen

3. Alternativ können Sie sich auch für die Verwendung von P100 entscheiden

https://www.topcpu.net/gpu-c/GeForce-RTX-4060-Ti-vs-Tesla-P100-PCIe-12-GB

https://www.bilibili.com/video/BV1Bh411w7HV/?spm_id_from=333.337.search-card.all.click&vd_source=4b290247452adda4e56d84b659b0c8a2

Jetzt ist der Preis fast der gleiche wie P40. P40 kostet ebenfalls 800 Yuan.