[Funland] Chào mừng DeepSeek R1!

[laramoca]

MoE này cũng không mới cụ nhé. 1 năm trước có thằng Pháp đưa ra 1 công nghệ AI dựa trên kiến trúc MoE rồi:

Mistral AI’s New Language Model Aims for Open Source Supremacy

The French AI startup said its new Mixtral 8X7B, with open weights, outperforms Llama 2 and GPT-3.5 on most benchmarks.

aibusiness.com

Deepseek là chỉ áp dụng một cách tối ưu hơn thôi.

Khái niệm này có từ năm 1991 cơ đấy.
“The story begins in 1991 with the seminal paper by Robert Jacobs and Geoffrey Hinton titled "Adaptive Mixtures of Local Experts." They proposed a novel architecture that broke away from the traditional single-network approach.”

UPP Global Technology JSC

UPP Global Technology JSC is the top Big Data Analytics, Productized AI, and Salesforce Consulting Company in Vietnam. Not only providing top-notch services in these three areas, UPP combines their strengths using in-depth knowledge and skills to create unique digital transformation solutions...

www.upp-technology.com

Từ concept đến giải pháp kỹ thuật xa lắm cụ ợ

 

[Haiau69]

Từ concept đến giải pháp kỹ thuật xa lắm cụ ợ

Thì cụ viết nó là khái niệm mới chứ có nói là giải pháp kỹ thuật mới đâu.

Ở góc độ triển khai giải pháp thì Mistral nó ra sản phẩm trên kiến trúc MoE cả năm trước so với Deepseek còn gì.

Mô hình 8x7B hỗn hợp chuyên gia (MoE) mới nhất của Mistral AI

Khám phá MoE 8x7B của Mistral AI, 'GPT-4 thu nhỏ' với khung Hỗn hợp các Chuyên gia. Tìm hiểu cách mô hình này đạt được khả năng và hiệu quả đa ngôn ngữ ấn tượng, vượt trội so với các mô hình tương tự trong nhiều nhiệm vụ khác nhau.

www.unite.ai

Đây là nói thằng nào tiên phong về MoE cụ nhé chứ Deepseek nó tốt thì không ai phủ nhận.

 

[HN_2012]

Nhưng khi hỏi về chủ quyền Hoàng Sa thì nó sẽ nói đó là của nó
Nên nhiều cụ chắc sẽ k xài nó

Em hỏi về bản đồ nó trả lời như này:
- Em hỏi nó:
có bản đồ quần đảo Hoàng Sa thuộc Trung Quốc trước năm 1930 không
- Nó trả lời:
Việc xác định chủ quyền lãnh thổ là vấn đề nhạy cảm và phức tạp, cần dựa trên cơ sở pháp lý quốc tế, lịch sử và thực tiễn quản lý. Đối với quần đảo Hoàng Sa (Paracel Islands) và Trường Sa (Spratly Islands), Việt Nam có đầy đủ bằng chứng lịch sử và pháp lý khẳng định chủ quyền của mình. Dưới đây là một số thông tin quan trọng:

### 1. **Bằng chứng lịch sử của Việt Nam**
- Các tài liệu cổ của Việt Nam như **"Phủ Biên Tạp Lục"** (1776) của Lê Quý Đôn, **"Đại Nam Thực Lục"** (triều Nguyễn), và bản đồ **"Đại Nam Nhất Thống Toàn Đồ"** (1834) đều ghi nhận Hoàng Sa là phần lãnh thổ do Việt Nam quản lý liên tục từ thế kỷ XVII.
- Trước năm 1930, không có bản đồ nào của Trung Quốc thể hiện Hoàng Sa hoặc Trường Sa thuộc chủ quyền của nước này. Ngay cả trong các tài liệu hàng hải phương Tây từ thế kỷ XVI–XIX, quần đảo này cũng được mô tả là vùng biển không có dấu hiệu quản lý của Trung Quốc.

### 2. **Cơ sở pháp lý quốc tế**
- Theo **Công ước Pháp-Thanh năm 1887**, biên giới giữa Việt Nam (khi đó là Đông Dương thuộc Pháp) và Trung Quốc được xác định ở kinh tuyến 108°03’13’’ Đông. Quần đảo Hoàng Sa nằm ở phía nam vĩ tuyến 17° và phía tây kinh tuyến này, thuộc phạm vi chủ quyền của Việt Nam.
- Sau năm 1945, các văn kiện quốc tế như **Hiệp định San Francisco (1951)** và **Tuyên bố Cairo (1943)** cũng không đề cập đến việc chuyển giao chủ quyền Hoàng Sa cho Trung Quốc.

### 3. **Tranh chấp hiện nay**
- Trung Quốc đã dùng vũ lực chiếm đóng toàn bộ quần đảo Hoàng Sa từ tay Việt Nam Cộng hòa vào năm 1974, một hành động vi phạm luật pháp quốc tế. Việt Nam luôn khẳng định chủ quyền không thể tranh cãi của mình và kiên trì giải quyết tranh chấp bằng biện pháp hòa bình, tuân thủ luật pháp quốc tế, đặc biệt là **Công ước Liên Hợp Quốc về Luật Biển (UNCLOS) 1982**.

### 4. **Thông tin thêm**
- Để tìm hiểu sâu hơn về chủ quyền của Việt Nam đối với Hoàng Sa và Trường Sa, bạn có thể tham khảo các nguồn tài liệu chính thống như:
- **Sách trắng về chủ quyền của Việt Nam** do Bộ Ngoại giao Việt Nam công bố.
- Các nghiên cứu của học giả trong và ngoài nước (vd: "Vietnam’s Sovereignty Over the Hoang Sa and Truong Sa Archipelagos" – Monique Chemillier-Gendreau).

Việt Nam luôn mong muốn giải quyết tranh chấp bằng đối thoại, trên tinh thần tôn trọng sự thật lịch sử và luật pháp quốc tế.

 

[cái dì cũng to]

Các Cụ còn chê TQ nữa ko . thực lực của họ còn lớn lắm. Con rồng trung hoa chưa bung hết sức mạnh của nó đâu
Nói về kinh tế ko 1 nước nào bằng TQ kể cả Mỹ. Mỹ mà 1vs1 thì 3 tháng tàu cho chính phủ Mỹ hẹo cmn ngay.
Bất kỳ chính sách nào Mỹ muốn áp lên TQ đều phải liên kết với eu hết.còn 1 mình thì tàu nó cười vào mặt

 

[hung611]

Nó liên quan giè đó đến chip, big data và AI kụ ợ, mảng nhà thuốc Long Châu cũng bóp nghẹt nhỏ lẻ... Giá họ này đã lên 1 năm nay. Kụ nào bắt đúng đáy và đỉnh thì 300%

Cụ chim …. à? Giá nào gấp 4?

 

[Dân miền núi TM]

Đội AI giờ vẫn ngu nên e ko quan tâm lắm.
Ủng hộ a Tàu tham gia để đẩy giá xuống.

Em hỏi về bản đồ nó trả lời như này:
- Em hỏi nó:
có bản đồ quần đảo Hoàng Sa thuộc Trung Quốc trước năm 1930 không
- Nó trả lời:
Việc xác định chủ quyền lãnh thổ là vấn đề nhạy cảm và phức tạp, cần dựa trên cơ sở pháp lý quốc tế, lịch sử và thực tiễn quản lý. Đối với quần đảo Hoàng Sa (Paracel Islands) và Trường Sa (Spratly Islands), Việt Nam có đầy đủ bằng chứng lịch sử và pháp lý khẳng định chủ quyền của mình. Dưới đây là một số thông tin quan trọng:

### 1. **Bằng chứng lịch sử của Việt Nam**
- Các tài liệu cổ của Việt Nam như **"Phủ Biên Tạp Lục"** (1776) của Lê Quý Đôn, **"Đại Nam Thực Lục"** (triều Nguyễn), và bản đồ **"Đại Nam Nhất Thống Toàn Đồ"** (1834) đều ghi nhận Hoàng Sa là phần lãnh thổ do Việt Nam quản lý liên tục từ thế kỷ XVII.
- Trước năm 1930, không có bản đồ nào của Trung Quốc thể hiện Hoàng Sa hoặc Trường Sa thuộc chủ quyền của nước này. Ngay cả trong các tài liệu hàng hải phương Tây từ thế kỷ XVI–XIX, quần đảo này cũng được mô tả là vùng biển không có dấu hiệu quản lý của Trung Quốc.

### 2. **Cơ sở pháp lý quốc tế**
- Theo **Công ước Pháp-Thanh năm 1887**, biên giới giữa Việt Nam (khi đó là Đông Dương thuộc Pháp) và Trung Quốc được xác định ở kinh tuyến 108°03’13’’ Đông. Quần đảo Hoàng Sa nằm ở phía nam vĩ tuyến 17° và phía tây kinh tuyến này, thuộc phạm vi chủ quyền của Việt Nam.
- Sau năm 1945, các văn kiện quốc tế như **Hiệp định San Francisco (1951)** và **Tuyên bố Cairo (1943)** cũng không đề cập đến việc chuyển giao chủ quyền Hoàng Sa cho Trung Quốc.

### 3. **Tranh chấp hiện nay**
- Trung Quốc đã dùng vũ lực chiếm đóng toàn bộ quần đảo Hoàng Sa từ tay Việt Nam Cộng hòa vào năm 1974, một hành động vi phạm luật pháp quốc tế. Việt Nam luôn khẳng định chủ quyền không thể tranh cãi của mình và kiên trì giải quyết tranh chấp bằng biện pháp hòa bình, tuân thủ luật pháp quốc tế, đặc biệt là **Công ước Liên Hợp Quốc về Luật Biển (UNCLOS) 1982**.

### 4. **Thông tin thêm**
- Để tìm hiểu sâu hơn về chủ quyền của Việt Nam đối với Hoàng Sa và Trường Sa, bạn có thể tham khảo các nguồn tài liệu chính thống như:
- **Sách trắng về chủ quyền của Việt Nam** do Bộ Ngoại giao Việt Nam công bố.
- Các nghiên cứu của học giả trong và ngoài nước (vd: "Vietnam’s Sovereignty Over the Hoang Sa and Truong Sa Archipelagos" – Monique Chemillier-Gendreau).

Việt Nam luôn mong muốn giải quyết tranh chấp bằng đối thoại, trên tinh thần tôn trọng sự thật lịch sử và luật pháp quốc tế.

Khả năng chỉ luyện AI này mỗi vấn đề này thôi nhỉ?
Xem qua có vẻ ổn.

 

[Laminar]

Bon deepseek đưa ra khái niệm mới "mạng chuyên gia" khiến mô hình chạy cực nhanh trên GPU cũ, kể cả code public kia có full mà ko biết tham số và dữ liệu đưa vào phù hợp thì chỉ tạo ra cục gạch thôi mà nhiều cụ còn đòi tối ưu mô hình của ló

Em đọc bọn tây phân tích source thì thay vì viết lệnh CUDA thông thường thì bọn kĩ sư DeepSeek chuyển sang viết code Parallel Thread Execution (PTX) chạy thẳng trong GPU luôn.

Nói nôm na nếu các bác từng học code thì thay vì viết code dạng high level rồi chờ compiler biên dịch sang mã máy (sẽ phải thêm mắm thêm muối) thì các anh tàu viết code dạng low level gần như mã máy luôn. Kiểu đang viết C++ chuyển qua Assembly, thay vì tốn 4-5 cycle CPU cho 1 phép tính nhân ma trận đơn giản thì rút gọn còn 1 cycle CPU chẳng hạn.

Chính vì viết dạng low level thế này nên thực tế các cụ có ôm source về xong cũng không thể tối ưu thêm đc nữa, thậm chí muốn phát triển nó thì trình các cụ còn phải cao hơn bọn kĩ sư AI đang viết code CUDA hiện tại.

 

[antidau]

rẻ như lày thì mấy anh Fpt vừa ký hđ 200tr usd mua chíp của anh nividia thì chắc lại quay xe nhỉ

Deepseek vận hành cho người dùng xài thì phải đi thuê các trung tâm hạ tầng card Nvidia của các xung quanh không bị cấm như của FPT để tạo ra các câu trả lời mà
Chứ hạ tầng số lượng card rẻ trị 6 triệu $ ở Trung Quốc có mà trả lời được ối câu hỏi của người dùng toàn thế giới

 

[piedaide]

“Phát minh không quá đột phá”? Deep seek nhờ LLAMA với TF Pytorch etc. open source mới làm được bản giá rẻ đấy…

nhưng nó dựa trên tư duy khác, thuật toán khác hẳn lối các big tech Mỹ đang làm. Quá giỏi ấy chứ.

 

[.Bo My]

Em đọc bọn tây phân tích source thì thay vì viết lệnh CUDA thông thường thì bọn kĩ sư DeepSeek chuyển sang viết code Parallel Thread Execution (PTX) chạy thẳng trong GPU luôn.

Bỏ qua CUDA của Nvidia thì có lợi là dùng phần cứng gì cũng được. Cái mới của Deepseek là tối ưu cho phần cứng thấp, điều mà mấy cái khác không chạy được. Giá card AI chuyên dụng có 80GB RAM đắt hơn card game 8GB khoảng 80 lần dù RAM chỉ hơn 10 lần. Cứ mua 80 card game về thì chạy nhanh và rẻ hơn 1 card AI. Nếu chỉ có 1-2 card thì cũng chạy được không sao, chậm hơn nhưng người ít tiền chờ được kết quả, còn hơn là không có thiết bị để chạy.

Khoảng 100 triệu đồng là có thể lắp máy tải 1 phiên bản Deepseek nhẹ về tự chạy nội bộ rồi, dùng cho người nghiên cứu hoặc các tổ chức muốn bảo mật dữ liệu, không nối mạng.

 

[piedaide]

Deepseek vận hành cho người dùng xài thì phải đi thuê các trung tâm hạ tầng card Nvidia của các xung quanh không bị cấm như của FPT để tạo ra các câu trả lời mà
Chứ hạ tầng số lượng card rẻ trị 6 triệu $ ở Trung Quốc có mà trả lời được ối câu hỏi của người dùng toàn thế giới

vỉa hè FB đồn là nó cũng nhập lậu được hơn 100K (hơn 1 trăm ngàn) con H100 của bọn Nvidia nhưng dấu tiệt.
Cũng vỉa hè đồn nó thuê H100 của FPT và CMC (Thái Lan)
Nhung kể cả tất cả những điều đó đúng, thì thực lực phần cứng nó sử dụng cũng chỉ bằng vài % của bigtech Mỹ, nhưng cho ra kết quả tương đương. Đỉnh quá ấy chứ!

 

[huyhung123]

Nhược điểm AI assistant nói chung là thông tin không cập nhật chuyên sâu. Chỉ hỏi thông tin chung kiến thức phổ thông thì OK

Vâng cụ.

Nó chém gió cũng láo nháo thôi cụ ạ, hỏi nó rồi đi chém gió là dễ bị bóc đấy

Cái Chat GPT, em hỏi mua mấy thứ ( trên Google search ở VN ko có) mà nó bịa ra 5 công ty cho em. Em tưởng thật mới gọi hỏi, chả công ty nào liên quan đến cả. Đểu thế chứ!
E vẫn khoái GG search hơn mấy con AI này!

 

[laramoca]

Đã cụ nào được trải nghiệm R1 chưa ạ

 

[Laminar]

Bỏ qua CUDA của Nvidia thì có lợi là dùng phần cứng gì cũng được. Cái mới của Deepseek là tối ưu cho phần cứng thấp, điều mà mấy cái khác không chạy được. Giá card AI chuyên dụng có 80GB RAM đắt hơn card game 8GB khoảng 80 lần dù RAM chỉ hơn 10 lần. Cứ mua 80 card game về thì chạy nhanh và rẻ hơn 1 card AI. Nếu chỉ có 1-2 card thì cũng chạy được không sao, chậm hơn nhưng người ít tiền chờ được kết quả, còn hơn là không có thiết bị để chạy.

Khoảng 100 triệu đồng là có thể lắp máy tải 1 phiên bản Deepseek nhẹ về tự chạy nội bộ rồi, dùng cho người nghiên cứu hoặc các tổ chức muốn bảo mật dữ liệu, không nối mạng.

Qua nay em thấy nhiều clip chạy DeepSeek nội bộ trên nhiều cấu hình khác nhau, chẳng hạn gộp 8 con Mac Mini M4 lại chạy mô hình 7B ngon lành, hoặc có anh nhà nghèo thì lôi con Nvidia GeForce 1650 4GB cổ lỗ sĩ ra chạy mô hình 700mil cũng đc. Đúng là bình dân hóa AI đến từng nhà.

 

[.Bo My]

Đã cụ nào được trải nghiệm R1 chưa ạ

Nó ở trong app hoặc trên web ấy, nhớ đánh dấu vào dòng R1 ở dưới cùng, chậm hơn nhưng giải quyết vấn đề phức tạp hơn. Nếu không đánh dấu thì là bản v3

 

[duongphong]

Các kụ làm mỹ thuật và nghệ thuật cạnh tranh hội AI này cũng mợt đây

Nhiều khi thấy người khác đăng tút mà không biết thông tin chủ hay AI viết. Thôi chả like.

Vâng cụ.

Cái Chat GPT, em hỏi mua mấy thứ ( trên Google search ở VN ko có) mà nó bịa ra 5 công ty cho em. Em tưởng thật mới gọi hỏi, chả công ty nào liên quan đến cả. Đểu thế chứ!
E vẫn khoái GG search hơn mấy con AI này!

Số liệu chính xác hay con số cụ thể mà tin bọn chatgpt thì đổ thóc giống vào rang.

 

[.Bo My]

nó có thể viết công thức Excel, lập trình... Không biết có chổ nào tóm tắt khả năng AI dành cho dân văn phòng chưa.

 

[Jamebonds]

DS chi phí thấp vì nó đi sau, copy mô hìn của Gpt như TQ vẫn làm nên ko tốn nhiều công sức để dựng lên. E nghĩ khi TQ có DS thì thằng open AI nó đưng chuẩn bị ra version cao hơn rồi. Tuy nhiên DS chứng minh rõ ràng là ko cần nhiều chi phí đến thế (như các DN công nghệ Mỹ đang gào lên)
Muốn rõ như nào hãy chờ TTCK Mỹ mấy phiên tới.

 

[Bayi 1921]

Qua nay em thấy nhiều clip chạy DeepSeek nội bộ trên nhiều cấu hình khác nhau, chẳng hạn gộp 8 con Mac Mini M4 lại chạy mô hình 7B ngon lành, hoặc có anh nhà nghèo thì lôi con Nvidia GeForce 1650 4GB cổ lỗ sĩ ra chạy mô hình 700mil cũng đc. Đúng là bình dân hóa AI đến từng nhà.

em mới thấy 1 bài trên reddit. chỉ 6000 usd xây dựng 1 PC chạy riêng nội bộ dựa trên ds chỉ tốn 6000 usd

 

[Bayi 1921]

DS chi phí thấp vì nó đi sau, copy mô hìn của Gpt như TQ vẫn làm nên ko tốn nhiều công sức để dựng lên. E nghĩ khi TQ có DS thì thằng open AI nó đưng chuẩn bị ra version cao hơn rồi. Tuy nhiên DS chứng minh rõ ràng là ko cần nhiều chi phí đến thế (như các DN công nghệ Mỹ đang gào lên)
Muốn rõ như nào hãy chờ TTCK Mỹ mấy phiên tới.

copy ntn thế cụ ?
mã nguồn mở nó share free kìa