Siêu trí tuệ
AI trỗi dậy và chiến lược ứng phó của loài người trong kỷ nguyên số
Nghiên cứu nền tảng về khả năng xuất hiện siêu trí tuệ nhân tạo với các rủi ro đi kèm và bài toán kiểm soát công nghệ thông minh trong tương lai của nhân loại.
Siêu trí tuệ (Superintelligence) là cuốn sách nghiên cứu có hệ thống về khả năng máy móc vượt qua con người trong trí tuệ tổng quát và những hệ quả lâu dài của kịch bản này. Tác giả Nick Bostrom không tập trung vào AI hiện tại, mà phân tích các con đường dẫn tới siêu trí tuệ, bao gồm trí tuệ nhân tạo tổng quát, giả lập não bộ, tăng cường nhận thức sinh học, giao diện người–máy và các mạng lưới trí tuệ tập thể.
Trọng tâm của cuốn sách là khái niệm “bùng nổ trí tuệ” và vấn đề kiểm soát: Khi một hệ thống thông minh có khả năng tự cải thiện, nó có thể nhanh chóng vượt khỏi tầm kiểm soát của con người. Bostrom phân tích các dạng sai lệch mục tiêu, rủi ro cấu trúc và hậu quả mang tính hệ thống, từ đó đặt câu hỏi liệu kịch bản xảy ra nếu con người không kiểm soát kịp thời có dẫn tới thảm họa hay không.
Cuốn sách cũng thảo luận các chiến lược định hướng và kiểm soát siêu trí tuệ, coi đây là một trong những bài toán trung tâm của thế kỷ 21, gắn với tương lai lâu dài của loài người.
Ngày cập nhật: 22/12/2025
Mục lục
Trước nội dung chính
- Lời giới thiệu.
- Lời nói đầu.
- Lời cảm ơn.
- Danh mục hình minh họa, bảng & khung.
Chương 1: Sự phát triển trong quá khứ và những năng lực hiện có.
- Các phương thức tăng trưởng và lịch sử nói chung.
- Những kỳ vọng lớn lao.
- Mùa của hy vọng và tuyệt vọng.
- Những công nghệ tiên tiến.
- Những quan điểm về tương lai của trí tuệ máy.
Chương 2: Con đường đến với siêu trí tuệ.
- Trí tuệ nhân tạo.
- Giả lập hoàn chỉnh não bộ.
- Nhận thức sinh học.
- Giao diện não – Máy Tính.
- Các mạng lưới và tổ chức.
- Tóm tắt.
Chương 3: Các dạng thức siêu trí tuệ.
- Siêu trí tuệ tốc độ.
- Siêu trí tuệ tập thể.
- Siêu trí tuệ chất lượng.
- Tầm tiếp cận trực tiếp và gián tiếp.
- Nguồn tạo lợi thế cho trí tuệ số.
Chương 4: Động lực của sự bùng nổ trí tuệ.
- Thời điểm và tốc độ của quá trình "cất cánh".
- Sức chống đối.
- Công suất tối ưu hóa và sự bùng nổ.
Chương 5: Lợi thế cạnh tranh quyết định.
- Người dẫn đầu có giành lợi thế cạnh tranh quyết định?
- Dự án thành công sẽ lớn tới cỡ nào?.
- Từ lợi thế cạnh tranh quyết định đến thể đơn nhất.
Chương 6: Siêu năng lực nhận thức.
- Các chức năng và siêu năng lực.
- Kịch bản Al chiếm quyền.
- Năng lực đối với tự nhiên và các tác tử.
Chương 7: Ý chí siêu trí tuệ.
- Mối quan hệ giữa siêu trí tuệ và động lực.
- Sự hội tụ công cụ.
Chương 8: Kết quả mặc định có phải là ngày tận thế?.
- Thảm họa diệt vong là kết quả mặc định của sự bùng nổ trí tuệ?
- Ngã rẽ xảo trá.
- Các chế độ sai lỗi "ác tính".
Chương 9: Vấn đề kiểm soát.
- Hai vấn đề đại diện.
- Các phương pháp kiểm soát năng lực.
- Các phương pháp lựa chọn động lực.
- Tóm tắt.
Chương 10: Tiên tri, thần đèn, toàn năng, công cụ.
- Al thần đèn và Al toàn năng.
- Al công cụ.
Chương 11: Những kịch bản đa cực.
- Chuyện ngựa và người.
- Cuộc sống trong một nền kinh tế thuật toán.
- Sự hình thành hậu chuyển đổi của một thể đơn nhất.
Chương 12: Thụ đắc các giá trị.
- Vấn đề truyền tải giá trị.
- Chọn lọc tiến hóa.
- Học tăng cường.
- Bồi đắp giá trị liên kết (associative value accretion).
- Khung tạo động lực.
- Học giá trị.
- Điều biến giả lập.
- Thiết kế thể chế.
- Tóm tắt.
Chương 13: Lựa chọn tiêu chí chọn lựa.
- Nhu cầu quy chuẩn.
- Ý chí ngoại suy kết hợp.
- Các mô hình đạo đức.
- “Hãy làm điều tôi muốn".
- Danh mục thành phần.
- Tiến tới đủ gần.
Chương 14: Bức tranh chiến lược.
- Chiến lược khoa học kỹ thuật.
- Lối đi và yếu tố dẫn đường.
- Hợp tác.
Chương 15: Giai đoạn nước rút.
- Triết học có "deadline".
- Những việc cần làm.
- Hãy khơi dậy những bản chất tốt đẹp nhất.
Lời kết.
Sau nội dung chính
- Chú thích.
- Tài liệu tham khảo.
- Giải thích một số thuật ngữ.
- Chỉ mục.