Cái cần quan tâm là vấn đề, cơ hội và thách thức:
- Bản tính tự nhiên của muôn loài là đấu tranh sinh tồn. Muốn tồn tại được hoặc vừa phải tạo ra điều kiện sống tốt hơn, hoặc vừa phải chiếm hữu các điều kiện, tài nguyên sống sẵn có, hoặc vừa phải đấu tranh tiêu diệt lẫn nhau để chiếm hữu hoặc để ngăn ngừa việc chiếm hữu.
- Tài nguyên luôn là một số hữu hạn đáng kể nên để tồn tại thì muôn loài trong tự nhiên luôn phải đấu tranh sinh tồn, luôn phải chiếm hữu lợi thế cho mình, cộng sinh và đấu tranh cùng tồn tại. Con người vừa đấu tranh với tự nhiên, vừa đấu tranh với đồng loại để tìm cách đảm bảo tốt nhất lợi ích của mình, của nhóm cộng đồng cộng sinh của mình.
- Con người là loài có tư duy, nghĩa là không chỉ ghi nhận thông qua trải nghiệm mà còn trừu tượng hoá, hệ thống hoá các trải nghiệm để trở thành hiểu biết và tri thức, và cái hiểu biết và tri thức ấy luôn được cải thiện và phát triển theo cả hai xu hướng tiêu cực và tích cực. Đáng ghét là tích cực càng phát triển thì luôn có cái tiêu cực phát triển tương đương sự phát triển của cái tích cực
- Cái khác biệt vừa là cơ hội vừa là thách thức của con người là biết lưu trữ, nhân rộng và truyền đạt lại tri thức loài cho nhiều các thế hệ kế tiếp. Đây là một sự khác biệt rất lớn tạo nên đột phát của con người qua từng thế hệ, cái mà các loài khác trong tự nhiên không có. Với việc tiến bộ của khoa học kỹ thuật, giờ đây khối lượng khổng lồ của tri thức nhân loại có thể lưu trữ và truy cập dễ dàng từ bất cứ nơi đâu.
- AI là một thứ tiến bộ do con người sáng tạo nên với mong muốn bản thân nó có thể tự học từ những gì nó được trải nghiệm, tự cải tiến và phát triển học hỏi từ kinh nghiệm trải nghiệm mà nó có được. AI phải được hiểu là một kiểu trí não con người chứ không đơn thuần là một vài ứng dụng phân tích dữ liệu hay lập trình ứng xử. Do vậy, AI không thể giới hạn trong cái mà trí óc con người có thể suy nghĩ, tư duy nhận biết được. Con người mới dùng đến 5% bộ não, điều đó có thể là 95% những cái mà AI có thể tự hoàn thiện là cái mà con người chưa biết đến
- Với việc tự hoàn thiện thông qua trải nghiệm; với khả năng tiếp cận tri thức của con người dễ dàng, tập trung, nhanh chóng, thuận tiện; với hệ thống tri thức loài người luôn có hai mặt tốt, xấu; không có trở ngại nào để AI có thể phát triển toàn diện hơn, mạnh mẽ hơn, ưu việt hơn và cả xấu xa hơn, nhanh hơn tất cả những gì mà con người có thể nghĩ tới. May mắn là, để phát triển AI cần một nguồn lực tính toán cực mạnh và tạm thời nó là hữu hạn bởi hạn chế vật chất và năng lượng cần để hoạt động. May mắn nữa là sẽ luôn tồn tại AI xấu và AI tốt, nó sẽ thúc đẩy nhưng cũng hạn chế và kiểm soát lẫn nhau. Và may mắn cuối cùng, loài mèo không bao giờ dạy trèo cho loài hổ, hy vọng loài người cũng sẽ giấu đâu đó ít võ cho chính mình