Why LLMs Feel Smart (But Aren’t Thinking)

Video “Why LLMs Feel Smart (But Aren’t Thinking)” của Travis Frisinger là một bài trình bày cực kỳ sâu sắc, giải thích tại sao các mô hình ngôn ngữ lớn (LLM) như ChatGPT có vẻ thông minh, nhưng thực ra không hề “suy nghĩ” như con người — và tại sao “coherence” (tính mạch lạc) chứ không phải “intelligence” (trí tuệ) mới là thứ tạo nên trải nghiệm kỳ diệu đó.

🧠 Chủ đề chính:

LLM không hiểu, không suy nghĩ, không có ý định. Nhưng nó tạo ra được ảo giác về hiểu biết — nhờ “tính mạch lạc” (coherence).

🔍 Nội dung chính:

1. “Cái bẫy mạch lạc” (Coherency Trap)

Người dùng cảm thấy AI “thông minh” khi đầu ra của nó khớp đúng lúc, đúng chỗ, đúng ngữ cảnh.
Đó là ảo giác hiểu biết, không phải tư duy thật.

2. Khác biệt giữa GPT-3.5 và GPT-4

GPT-3.5: mạch lạc yếu, dễ vỡ, nhạy cảm với prompt.
GPT-4: mạch lạc mạnh hơn, giữ nhịp logic lâu hơn → khiến người dùng nghĩ AI đã “hiểu” mình.

3. Vòng lặp ra quyết định của AI (AI Decision Loop):

Gồm 4 bước:

Frame (đặt ngữ cảnh)
Generate (tạo kết quả)
Judge (đánh giá chất lượng)
Iterate (lặp lại, cải thiện)

Đây là khung giúp AI tạo ra đầu ra ổn định, chứ không phải một lần “ra lệnh rồi xong”.

4. Tính mạch lạc là gì?

Một đầu ra được gọi là “coherent” nếu nó:

Liên quan (relevant): đúng chủ đề, đúng mục tiêu.
Nhất quán (consistent): cùng phong cách, ngôn ngữ, giọng điệu.
Ổn định (stable): không sụp đổ khi bị phản biện hoặc thay đổi ngữ cảnh.
Tự sinh (emergent): không được lập trình trực tiếp mà xuất hiện từ mạng lưới nội tại.

5. LLM không nhớ – nó xây dựng ý tưởng theo ngữ cảnh

Không có neuron “nhớ con mèo”.
“Mèo” = sự chồng chéo của các khái niệm: thú cưng, động vật, có lông…
Prompt là vector lực đẩy trong không gian ý nghĩa → giúp AI “lắp ráp” ý tưởng mới từ những mảnh đã học.

6. Hệ quả quan trọng: Hallucination là hệ quả của mạch lạc

Khi không đủ dữ liệu thật → AI bịa ra điều gì đó có vẻ đúng về mặt ngữ nghĩa.
Tưởng là lỗi, nhưng thực ra là biểu hiện của việc AI đang cố gắng giữ mạch.

7. Kỹ thuật cải thiện mạch lạc:

RAG (Retrieval-Augmented Generation): thêm dữ kiện thật vào prompt để “kéo” AI về thực tế.
Thiết kế prompt như một hệ thống – không phải câu lệnh đơn lẻ.
Giám sát mạch lạc: theo dõi tone, flow, và tính liên kết để phát hiện khi AI bắt đầu “trượt đường ray”.

🎯 Kết luận:

LLM không thông minh – nó phản chiếu lại sự mạch lạc mà bạn tạo ra với nó.

Hãy ngừng săn đuổi AI “thông minh”, và bắt đầu thiết kế hệ thống cho AI mạch lạc, nhất quán, có mục tiêu rõ ràng.