Władowałem Datacenter GPU w swój Gaming PC za £200

I put a datacenter GPU in my gaming PC

332birdculture💬 192
Władowałem Datacenter GPU w swój Gaming PC za £200

Miałem RTX 4080, ale potrzebowałem więcej VRAM do lokalnych modeli LLM. Zamiast wydawać fortunę, kupiłem kartę Tesla V100 SXM2 za £150 i adapter za £50. Po rozwiązaniu problemu z głośnym wentylatorem, mam teraz 32GB VRAM, co pozwala mi uruchamiać modele 27 miliardów parametrów. To rozwiązanie kosztuje ułamek ceny najnowszych kart konsumenckich.

"GPU z 2017 roku ma 22% większą przepustowość pamięci niż karta wydana w 2022 roku i bije na głowę każdy Mac dostępny na rynku."