[Funland] Chào mừng DeepSeek R1!

[buicongchuc]

Chắc cần nạp 6 triệu USD để trả lời tiếp. Nạp lần đầu đi cụ

View attachment 8957298

P/S: em fun tý. Chắc do nổi tiếng quá nhiều người vào hỏi, máy chủ nào chịu được, họ chưa kịp nâng cấp hạ tầng thôi : )

Em hóng dùng thử.

 

[langtoilangtoi]

Em nghĩ con AI này mục đích chính của nó là add sâu vào các hệ thống như game, thiết kế, tự động...đúng như cái tên của nó. Ví dụ như con boss trong game nó sẽ hành động khó đoán hơn. Chứ nó không phải để mấy bác hỏi xoáy đáp xoay.

Hiện AI có thể chia 2 loại mà cụ. AI các cụ đang bàn là AI tạo sinh, nó khác với AI truyền thống, cụ thể dư lày :

Tiêu chí​	AI truyền thống​	AI tạo sinh​
Chức năng	Phân loại, nhận diện, dự đoán (ví dụ: phát hiện khuôn mặt, chẩn đoán y tế)	Tạo ra nội dung mới như văn bản, hình ảnh, âm nhạc, video
Dữ liệu đầu vào	Xử lý dữ liệu có sẵn để đưa ra kết quả	Học từ dữ liệu và tạo ra dữ liệu mới tương tự nhưng không trùng lặp
Mô hình phổ biến	CNN (cho ảnh), RNN (cho chuỗi thời gian), Decision Trees, SVM	GANs, VAEs, Transformer (GPT, DALL-E, Stable Diffusion)
Ứng dụng	Nhận diện hình ảnh, dự báo thời tiết, phân tích tài chính	Viết văn bản, tạo tranh ảnh, sáng tác nhạc, lập trình tự động

AI nhúng trong các hệ thống như cụ nói là AI truyền thống, chủ yếu chức năng là nhận diện, dự đoán dựa trên model đã được training.

 

[3005]

Bản chất của việc Deepseek bị lag là giá nó đang bán API là giá lỗ. Người dùng đông lên nó cháy cmn nó túi không có tiền để đốt tiếp. Mà cũng chưa có nhà đầu tư nào tin tưởng bơm tiền cho nó đốt. Nên cụ nào vẫn thích dùng Deepseek R1 mà không bị lag thì chỉ có dùng qua mấy thằng Mỹ nó đang host thôi (ví dụ Perplexity). Perplexity chuyến này lại kiếm đẫm vì chạy R1 vẫn rẻ hơn chạy o1. Mà giá của Perplexity nó thu đến $15/M tokens xài còn đốt tiền hơn mua ChatGPTplus.
Mà vẫn phải chấp nhận con R1 chạy qua host Mỹ thì ngu hơn chạy chính chủ trên web của Deepseek nhé. Vì mã nguồn mở, không độc quyền nên không thằng nào đầu tư tinh chỉnh tiếp. Có thế nào thì nó bào thế thôi.

 

[congthuong]

Bản chất của việc Deepseek bị lag là giá nó đang bán API là giá lỗ. Người dùng đông lên nó cháy cmn nó túi không có tiền để đốt tiếp. Mà cũng chưa có nhà đầu tư nào tin tưởng bơm tiền cho nó đốt. Nên cụ nào vẫn thích dùng Deepseek R1 mà không bị lag thì chỉ có dùng qua mấy thằng Mỹ nó đang host thôi (ví dụ Perplexity). Perplexity chuyến này lại kiếm đẫm vì chạy R1 vẫn rẻ hơn chạy o1. Mà giá của Perplexity nó thu đến $15/M tokens xài còn đốt tiền hơn mua ChatGPTplus.
Mà vẫn phải chấp nhận con R1 chạy qua host Mỹ thì ngu hơn chạy chính chủ trên web của Deepseek nhé. Vì mã nguồn mở, không độc quyền nên không thằng nào đầu tư tinh chỉnh tiếp. Có thế nào thì nó bào thế thôi.

Tự tải nó về chạy local được mà cụ.

 

[3005]

Tự tải nó về chạy local được mà cụ.

Cụ tải về mà chạy. Chạy được bản R1 full thì phải 1 cái máy 16 con card A100, giẻ rách cũng tốn cho cái máy khoảng 6 tỷ mới chạy nổi cho 1 người dùng.
Còn nếu dùng máy lởm 60-70 triệu thì phải chấp nhận dùng bản rút gọn chạy ngu hơn con bò hoặc chạy bản full nhưng với tốc độ 60-120 phút ra 1 câu trả lời.

 

[Dân miền núi TM]

Các cụ đã đủ thông tin để đánh giá con AI Tàu như này chưa?

 

[congthuong]

Cụ tải về mà chạy. Chạy được bản R1 full thì phải 1 cái máy 16 con card A100, giẻ rách cũng tốn cho cái máy khoảng 6 tỷ mới chạy nổi cho 1 người dùng.
Còn nếu dùng máy lởm 60-70 triệu thì phải chấp nhận dùng bản rút gọn chạy ngu hơn con bò hoặc chạy bản full nhưng với tốc độ 60-120 phút ra 1 câu trả lời.

Thấy bảo không tới mức đó đâu cụ.

Today I learned I can run my very own DeepSeek R1 chatbot on just $6,000 of PC hardware and no megabucks Nvidia GPUs required

The catch is that it's only really fast enough to serve one user with semi-useful gibberish at a time.

www.pcgamer.com

Để vài bữa rảnh em thử dựng lên xem sao.