Oι gamers ξεκινούν κατασκήνωση έξω από καταστήματα για τις νέες RTX 5090 και RTX 5080

Δεν υπάρχει σωτηρία....

''RTX 5090 και RTX 5080 στις 30 Ιανουαρίου με τιμές 2.000,00 και 1.000,00 ευρώ αντίστοιχα''

Δεν υπαρχουν αυτες οι τιμες. 3000 και 2000 ειναι πιο σωστο.

Να κανουν και απεργια πεινας εκτος τις σκηνες και το πιο σωστο ειναι να μη πινουν ουτε νερο και οταν παρουν καρτες να τους πεσουν απο τα χερια και να σπασουν.

^ oh my someone's jelly 

DeepSeek incoming... Σε λίγο καιρό ούτε στα μισά χρήματα δεν θα πωλούνται.

Όσο για τους "gamers"... Απίστευτα ζώα...

ρε πατα το κουμπι λεμεεεεεε!!!!

On 28/1/2025 at 5:26 ΠΜ, το μέλος gdp77 έγραψε:

DeepSeek incoming... Σε λίγο καιρό ούτε στα μισά χρήματα δεν θα πωλούνται.

 

Όσο για τους "gamers"... Απίστευτα ζώα...

Το DeepSeek μπορεί να τρέχει και τοπικά - εκεί χρειάζεται GPU η πλευρά του χρήστη.

Ελαττώνεται η ζήτηση από την απέναντι πλευρά και αυξάνεται στην κοντινή. Σιγά μην πέσουν οι τιμές...

Κατά τα άλλα, μπορώ να σκεφτώ πολύ χειρότερα πράγματα να κάνει κάποιος με τον χρόνο και τα χρήματά του, ώστε να πάρει τον χαρακτηρισμό ζώο.

Live and let live

On 29/1/2025 at 9:18 ΠΜ, το μέλος minast έγραψε:

 

Το DeepSeek μπορεί να τρέχει και τοπικά - εκεί χρειάζεται GPU η πλευρά του χρήστη.

Αν σου περισσευουν εκατονταδες GB ram ισα ισα για να τσουλαει ή vram για να κανεις οντως δουλεια.

Για να τρέξεις το full size R1 θες displacement, πως στο καλό δε θέλει μνήμη και ιπποδύναμη.

Εγώ έχω το μικρούλι 32b με 32G ram και 4080S και ψιλογονατίζει.

Με έστω μια 5090 και 512 DDR5 ραμ θα είναι αρκετά καλά τα πράγματα. Ανούσιο αλλά πολύ tempting.

Δεν θα τρεχει καλα με 5090 και 512ram. Ειναι πολυ ελαφρυ γιατι ειναι σαν να τρεχεις 30gb μοντελο αλλα με το 1/20 να ειναι στην vram δεν θα κανεις κατι. Και στο συστημα σου θα δεις η καρτα σου κοιμαται με το που βγει κομματι του μοντελου εκτος vram. Κατι epyc και threadripper το τρεχουν αλλα με ελαχιστο context. Δευτερη ερωτηση στην ιδια κουβεντα δεν θα μπορεσεις να κανεις.

Δυστυχως δυσκολα το τρεχεις local. Απλα αν τα σκασει καμια εταιρια και το βαλει local, θα σηκωνει τους 10πλους χρηστες απο το llama το 400αρι.

2 hours ago, god said:

Δεν θα τρεχει καλα με 5090 και 512ram. Ειναι πολυ ελαφρυ γιατι ειναι σαν να τρεχεις 30gb μοντελο αλλα με το 1/20 να ειναι στην vram δεν θα κανεις κατι. Και στο συστημα σου θα δεις η καρτα σου κοιμαται με το που βγει κομματι του μοντελου εκτος vram. Κατι epyc και threadripper το τρεχουν αλλα με ελαχιστο context. Δευτερη ερωτηση στην ιδια κουβεντα δεν θα μπορεσεις να κανεις.

 

Δυστυχως δυσκολα το τρεχεις local. Απλα αν τα σκασει καμια εταιρια και το βαλει local, θα σηκωνει τους 10πλους χρηστες απο το llama το 400αρι.

Ε για αυτό και λέω πως είναι ανούσιο. Όταν λέω θα είναι αρκετά καλά τα πράγματα εννοώ πως θα μπορείς να το φορτώσεις και να έχεις κάποια t/s με το μεγάλο το 600άρι.

Το ανάφερα γιατί ειπώθηκε παραπάνω οτι τώρα με R1 δε χρειαζόμαστε τόσο πολύ τις GPU. Μια χαρά τις χρειαζόμαστε.

Λίγο πιο actual data.

6-8 t/s είναι κάπως αργό.

Αλλά μιλάμε για Q8 και το κόστος είναι προσεγγίσιμο για κάποιον κοινό θνητό.

Απ' την άλλη βέβαια, με τα ίδια λεφτά αγοράζεις τοκεν για χρόνια ολόκληρα, συμφωνα με αυτά που γράφουν στα σχόλια.
 

Quote

the generation speed on this build is 6 to 8 tokens per second, depending on the specific CPU and RAM speed you get, or slightly less if you have a long chat history.

Quote

Yes, there's no GPU in this build! If you want to host on GPU for faster generation speed, you can! You'll just lose a lot of quality from quantization, or if you want Q8 you'll need >700GB of GPU memory, which will probably cost $100k+