Mà nói đến khả năng tự học thì máy học là nhất rồi, nó nạp liên tục với khối lượng khổng lồ và chỉ có tăng lên, tinh vi thêm chứ không bị quá tải như con người. Nên em nghĩ là vài chục hoặc vài trăm năm nữa khi công nghệ trí tuệ vượt hẳn con người, sẽ tư duy thay luôn con người. Con người phần lớn khi đấy sẽ bị kiểu mất tư duy, nghe theo lời khuyên 100% của công nghệ. (hỏi là có câu trả lời - thậm chí không hỏi công nghệ cũng biết là cần nói gì, tư duy làm gì nữa!)
Một khi đã tạo ra được 1 con AI có khả năng tự học, tự phát triển tự cải thiện bản thân nó, thì đó là dấu chấm hết cho thời đại con người làm chủ trái đất.
Giả sử một ngày đẹp trời N0 (hay xấu trời?) con người cho ra đời 1 con AI có khả năng phát triển trí tuệ theo định luật Moore (gấp 2 sau mỗi 18 tháng), có trí tuệ ngang đứa trẻ 2 tuổi
- 18 tháng sau N0, nó có trí tuệ của đứa trẻ cỡ 5-6 tuổi
- 36 tháng sau N0, nó có trí tuệ của thanh niên 18 tuổi
- 54 tháng sau N0, nó có trí tuệ vượt xa tất cả các nhà khoa học, triết học... xuất sắc nhất mọi thời đại, có thể giải quyết hầu hết các vấn đề hóc búa nhất mà loài người chưa giải quyết được
- 72 tháng sau N0, nó có trí tuệ vượt ngoài tầm hiểu biết của loài người, giống như trí tuệ của người so với vượn hay tinh tinh vậy.
- 90 tháng sau N0, nó có trí tuệ vượt xa con người giống như trí tuệ của người so với kiến vậy.
Và thế là khi 80-90% dân số thế giới còn chưa hiểu điều gì đang xảy ra, một Đấng Tối cao mới đã ra đời, con người bị đẩy xuống hàng 2.
Con người có thể mất nhiều thập kỷ, thậm chí hàng thế kỷ để đến được ngày N0, nhưng một khi ngày đó đã diễn ra thì "bùm", hết phim.
sau đó nó sẽ giải quyết bài toán tự suy nghĩ để cho mục đích : A: phục vụ human / B: thống trị human.
Có thể AI sẽ đặt ra câu hỏi như vậy. Hoặc có thể nó sẽ đặt ra các câu hỏi đại loại như: có nên tối đa hóa đa dạng sinh học trên trái đất không, hay là duy trì hiện trạng? loài người chỉ là một loài trong hàng trăm ngàn, hàng triệu loài đang sống kí sinh trên trái đất, nhưng nó có đặc quyền gì mà lại tiêu thụ một lượng tài nguyên của trái đất lớn bất cân đối đến vậy? cách thức nào để các loài trên trái đất chung sống với một tỉ lệ tiêu thụ tài nguyên cân bằng hơn, hoặc tốt hơn là tái tạo được các tài nguyên? Nếu muốn tối đa hóa đa dạng sinh học trên trái đất thì tài nguyên dành cho con người phải giảm đi bao nhiêu, và bằng cách nào?...
Theo tôi, một khi AI Đấng Tối cao đã ra đời, kịch bản ít xấu nhất cho loài người là AI sẽ cho phép con người được tồn tại, nhưng với một số lượng hạn chế hơn nhiều, và quyền lực với trái đất cũng hạn chế đi nhiều. AI sẽ không cần phải dùng vũ lực (kiểu tạo ra các robocop) để áp đặt các hạn chế này. Nó chỉ cần đơn giản là thao túng môi trường thông tin mà con người có thể tiếp cận. Con người khi đó sẽ tự nguyện toàn tâm toàn ý tuân thủ các quy định AI tạo ra.
