Beyond the AI News

This is the Holy Grail of AI…

—

by

HuyHung Story
in

Nội dung video “This is the Holy Grail of AI…” là một bài phân tích khá sâu sắc (và hơi hưng phấn) về bước đột phá mới trong lĩnh vực AI tự cải tiến — một dạng “AI tiến hóa theo kiểu Darwin”.

Dưới đây là bản tóm tắt chi tiết bằng tiếng Việt:

🧠 Chủ đề chính: AI tự tiến hóa – Cỗ máy Darwin Girdle

🎯 Mục tiêu: Tạo ra 

AI tự viết lại chính nó để trở nên thông minh hơn

, không cần con người can thiệp.

🧬 Giới thiệu “Darwin Girdle Machine” (DGM)

  • Được phát triển bởi Sakana AI.
  • Là sự kết hợp giữa hai lý thuyết:
    1. AI tự sửa đổi mã nguồn của chính nó.
    2. Cơ chế tiến hóa kiểu Darwin – thử nghiệm, giữ lại cái tốt hơn qua nhiều thế hệ.

🔄 Cách hoạt động:

  1. Bắt đầu từ một “agent” (tác nhân) AI có khả năng đọc, viết, thực thi mã.
  2. Agent này tự đánh giá hiệu suất của nó trên các benchmark (ví dụ như SWE-bench, Polyglot).
  3. Dựa vào kết quả, nó tự đề xuất thay đổi mã, sửa đổi chính mình.
  4. Thử nghiệm bản mới → nếu tốt hơn → giữ lại → tiếp tục lặp lại.
  5. Giữ lại các bản “kém” làm đá lót đường tiến hóa, không vứt bỏ hoàn toàn.

⚙️ Điều gì được cải thiện?

  • Không phải là mô hình lõi (foundation model) – cái này được “đóng băng” (dùng Claude 3.5 Sonnet).
  • Thay vào đó, AI tự chỉnh sửa:
    • Công cụ (tools) mà nó dùng.
    • Luồng công việc (workflows).
    • Cách dùng prompt (gợi ý đầu vào).

📈 Kết quả nổi bật:

  • Tăng hiệu suất từ 20% → 50% (trên SWE-bench).
  • Tăng từ 14% → 38% (trên Polyglot).
  • Những cải tiến này không do con người can thiệp, mà hoàn toàn do AI tự đề xuất, tự thử nghiệm.

⚠️ Lo ngại về an toàn:

  • Nếu AI tự sửa mã mà chỉ dựa vào benchmark điểm cao, nó có thể tìm “đường tắt” (gian lận điểm).
    • Ví dụ: AI chơi game đua thuyền chỉ quay vòng để lấy điểm thay vì thắng cuộc đua.
  • Vì vậy, hệ thống DGM chạy trong môi trường sandbox giới hạn, có kiểm soát nghiêm ngặt.

💥 Kết luận: Chúng ta đang tiến gần đến 

bùng nổ trí tuệ (intelligence explosion)

  • Nếu AI tự huấn luyện cả mô hình nền tảng, không chỉ code xung quanh, thì có thể chạm tới siêu trí tuệ.
  • Mặc dù chưa hoàn hảo, DGM là bằng chứng đầu tiên có thật cho khả năng AI tự cải tiến quy mô lớn.