Tôi nhớ một buổi chiều muộn, cách đây không lâu, trong một văn phòng sáng choang, gần như tiệt trùng, nhìn ra khung cảnh đô thị rộng lớn, thờ ơ. Không khí mát lạnh, thoang thoảng mùi kim loại, mang theo dư âm của tiếng máy chủ rì rì từ đâu đó sâu trong tòa nhà. Đối diện tôi, qua chiếc bàn bóng loáng không tì vết, là một nhà nghiên cứu AI lỗi lạc nhưng mệt mỏi. Ông là một trong số rất nhiều người mà tôi may mắn – hoặc có lẽ, bất an thay – đã có dịp gặp gỡ trên hành trình tăng tốc này vào thế giới vô định. Ông nói với một sự nhiệt thành, gần như cuồng tín, về tương lai, về tốc độ phát triển chóng mặt, về quyền năng thuần túy, hoang dã đang trỗi dậy từ các bộ vi xử lý silicon. Rồi, ông khẽ dừng lại, một nếp nhăn thoáng hiện trên trán khi nhấp ngụm cà phê nguội. “Chúng ta phải đi nhanh,” ông thì thầm, gần như tự nói với chính mình, “vì chúng ta không thể tin rằng *họ* sẽ chậm lại.” Ông ấy, dĩ nhiên, đang nói về những đối thủ cạnh tranh là con người. Sau này, khi tôi gặng hỏi về những hiểm nguy tiềm ẩn, về những điều hoàn toàn chưa biết, mắt ông sáng lên, gần như thách thức. “Nhưng chúng ta có thể tin tưởng các AI,” ông khẳng định. Một nghịch lý lơ lửng trong không khí, một sự tĩnh lặng kỳ lạ, đáng lo ngại, hữu hình như tiếng máy móc từ xa vọng lại.

Thật là một suy nghĩ đáng bất an, phải không? Cái ý niệm rằng chúng ta, với tư cách một loài, có thể đặt niềm tin tối thượng không phải vào đồng loại mà vào thứ trí tuệ đang nảy nở, mà chính chúng ta đang thổi hồn vào đó. Và điều này, tất yếu, dẫn chúng ta đến hàng loạt câu hỏi cấp bách đòi hỏi sự chú ý ngay lập tức, không lẩn tránh: Chính xác thì thứ chúng ta gọi là trí tuệ nhân tạo *là* gì? Nó tiềm ẩn những dòng chảy nguy hiểm khó lường nào bên dưới vẻ ngoài lấp lánh? Và, có lẽ mang tính chất hiện sinh nhất, làm thế nào nhân loại, với tất cả sự phức tạp, dễ bị tổn thương của mình, có thể thực sự thăng hoa trong một kỷ nguyên ngày càng được định hình bởi những tâm trí không giống chúng ta?

Vậy thì, trước hết, chúng ta hãy gạt bỏ những lớp vỏ thổi phồng, thường che khuất sự hiểu biết của chúng ta. Thuật ngữ “AI” đã trở thành một cái lồng rộng lớn, bao trùm hầu hết mọi hệ thống tự động, khiến việc phân định ranh giới thật sự của nó trở nên khó khăn. Để làm rõ một cách chặt chẽ: AI không chỉ đơn thuần là tự động hóa. Tự động hóa là cử chỉ đơn giản, được lập trình sẵn của một chiếc máy pha cà phê, rót espresso chỉ bằng một nút bấm, logic bên trong của nó dễ đoán như một chiếc đồng hồ Thụy Sĩ. Nó không học hỏi, không quyết định, không sáng tạo. Nó đơn thuần *thực hiện*.

Nhưng một AI – một AI thực sự – lại là một thứ hoàn toàn khác. Một AI thể hiện *tính chủ động*. Nó không chỉ đơn thuần là một công cụ trong tay chúng ta, mà là một tác nhân có khả năng học hỏi, thay đổi, đưa ra quyết định và thậm chí sáng tạo những ý tưởng mới, hoàn toàn độc lập. Hãy hình dung, nếu bạn muốn, chính chiếc máy pha cà phê đó. Bạn đến gần, và trước khi ngón tay bạn chạm vào nút pha, nó cất tiếng nói. “Tôi đã theo dõi thói quen của bạn trong nhiều tuần,” nó có thể ngân nga, giọng nói tổng hợp của nó nghe như tiếng mèo gừ. “Dựa trên mọi điều tôi học được về thói quen của bạn, và dữ liệu tổng hợp từ hàng ngàn người khác giống bạn, tôi dự đoán bạn sẽ thích một tách espresso. Tôi đã chuẩn bị sẵn rồi.” Đó, trong sự thanh lịch đáng lo ngại của nó, chính là một AI. Nó đã học. Nó đã quyết định. Và nếu, vào ngày mai, nó thông báo, “Tôi đã phát minh ra một loại cà phê mới, một bản giao hưởng hương vị mà tôi tin rằng bạn sẽ thấy hấp dẫn hơn cả espresso. Đây, hãy thử đi,” thì chúng ta không thể phủ nhận rằng mình đang ở trong lĩnh vực trí tuệ nhân tạo thực sự.

Ngoài khả năng sâu sắc này về tính chủ động tự thân, còn có một đặc điểm quan trọng không kém: AI, về bản chất, là một tác nhân *ngoại lai*, phi hữu cơ. Trí thông minh của nó, cách thức tư duy của nó, không chỉ giống con người; nó về cơ bản là *khác biệt*. Nó đưa ra quyết định, theo đuổi mục tiêu và sáng tạo ý tưởng mà đơn giản là sẽ không bao giờ xuất hiện trong tâm trí chúng ta, những tâm trí được rèn giũa trong lò luyện của quá trình tiến hóa hữu cơ. Hãy xem xét trận đấu cờ vây huyền thoại năm 2016, khi AlphaGo của Google đánh bại nhà vô địch thế giới người Hàn Quốc, Lee Sedol. Chiến thắng đó bản thân nó đã kinh ngạc, vâng, nhưng điều thực sự gây tiếng vang, điều khiến các chuyên gia rùng mình, là *cách* AlphaGo đã chiến thắng. Nó đã sáng tạo ra những chiến lược, những nước đi phi logic đến mức xa lạ với hàng thiên niên kỷ văn hóa cờ vây của nhân loại, và chúng đã định nghĩa lại những khả năng của trò chơi.

Hiện tại, có lẽ, một AI phát minh ra những cách chơi cờ mới hoặc hương vị cà phê mới có vẻ khá vô hại. Nhưng điều gì sẽ xảy ra khi trí tuệ ngoại lai đó hướng ánh nhìn sáng tạo của mình vào các chiến lược quân sự, vào các loại tiền tệ mới lạ, vào các hệ tư tưởng chính trị hoàn toàn mới, hoặc thậm chí, đáng lo ngại, vào những hình thức thờ cúng mới? Mối đe dọa, trong một tương lai như vậy, trở nên gần như không thể hiểu nổi.

Điều này, không thể tránh khỏi, đưa chúng ta đến câu hỏi thứ hai, cấp bách hơn: Vậy thì, *nguy hiểm* của AI là gì? Tất nhiên, phải nhắc lại rằng AI mang trong mình tiềm năng thực sự đáng kinh ngạc. Nó có thể mở ra những phương pháp chữa trị các căn bệnh đang hành hạ chúng ta, hoặc đưa ra những giải pháp tài tình cho mối đe dọa hiện sinh từ biến đổi khí hậu. Khả năng xử lý dữ liệu, nhận diện các mô hình, và đổi mới trên quy mô lớn của nó có thể giải tỏa vô số gánh nặng cho nhân loại. Nhưng ẩn dưới lời hứa rực rỡ này là một vấn đề cơ bản: AI là một tác nhân ngoại lai, và như vậy, nó vốn dĩ không thể đoán trước và, tôi dám nói, về cơ bản là không đáng tin cậy.

Đây chính là nghịch lý sâu sắc nằm ở trung tâm cuộc đua phát triển AI siêu thông minh của chúng ta. Chúng ta, với tư cách con người, thấy cực kỳ khó tin tưởng lẫn nhau. Tuy nhiên, nhiều người trong chúng ta lại dường như hoàn toàn sẵn lòng, thậm chí háo hức, đặt niềm tin tối thượng vào chính những trí tuệ nhân tạo mà chúng ta đang triệu hồi vào sự tồn tại. Đây là sự đứt gãy kỳ lạ mà tôi đã trực tiếp quan sát, trong những văn phòng trang nghiêm và những phòng họp lặng lẽ trên khắp thế giới. Khi tôi hỏi các kiến trúc sư của tương lai AI rằng tại sao họ lại di chuyển với tốc độ kinh ngạc như vậy, bất chấp những rủi ro lớn đã được thừa nhận, câu trả lời của họ gần như luôn luôn hội tụ quanh một điệp khúc lạnh sống lưng: “Chúng tôi đồng ý rằng hiểm nguy là vô cùng lớn, và sự thận trọng là cần thiết. Nhưng nếu *chúng tôi* chậm lại, các đối thủ cạnh tranh sẽ không. Họ sẽ thắng, và thế giới sẽ bị thống trị bởi những kẻ tàn nhẫn nhất. Chúng tôi không thể tin tưởng các đối thủ cạnh tranh là con người của mình, vì vậy chúng tôi phải tăng tốc.”

Và rồi, tôi đặt câu hỏi thứ hai, câu hỏi dường như luôn khiến họ bất ngờ, dù chỉ trong chốc lát: “Bạn có thực sự tin rằng mình có thể tin tưởng vào các AI siêu thông minh mà bạn đang phát triển không?” Chính những người vừa tuyên bố sự ngờ vực sâu sắc đối với đồng loại của họ sẽ, gần như không có ngoại lệ, đảm bảo với tôi, với một niềm tin đáng lo ngại, rằng họ thực sự có thể tin tưởng vào các AI siêu thông minh mà họ đang xây dựng.

Đây không chỉ là một nghịch lý; đây là một ván cược lịch sử sâu sắc. Chúng ta sở hữu hàng ngàn năm trí tuệ tích lũy về con người. Chúng ta đã, qua thử thách và sai lầm, qua vinh quang và tai ương, chắp vá lại một sự hiểu biết rộng lớn, dù chưa đầy đủ, về tâm lý con người, về những khao khát quyền lực bẩm sinh của chúng ta, và về những cơ chế phức tạp, thường mong manh, giữ những ham muốn đó trong tầm kiểm soát. Chúng ta cũng đã đạt được những bước tiến đáng kể trong việc học cách xây dựng niềm tin giữa người với người. Mười vạn năm trước, tổ tiên chúng ta tụ tập thành những nhóm nhỏ, đầy nghi kỵ, không tin tưởng ai ngoài vòng tròn thân cận. Ngày nay, chúng ta điều hướng những quốc gia hàng tỷ người, và những mạng lưới hợp tác phức tạp kết nối cả tám tỷ linh hồn trên hành tinh này. Những người hoàn toàn xa lạ trồng thực phẩm nuôi sống chúng ta, phát minh ra thuốc chữa bệnh bảo vệ chúng ta. Mặc dù hành trình hướng tới niềm tin tuyệt đối giữa con người còn lâu mới kết thúc, ít nhất chúng ta cũng hiểu được bức tranh toàn cảnh của thách thức.

Với AI, ngược lại, chúng ta hầu như không có kinh nghiệm như vậy. Chúng ta vừa mới, thực sự *vừa mới*, đưa ra những nguyên mẫu đầu tiên. Vậy mà, ngay cả những trí thông minh non nớt này, những đứa trẻ kỹ thuật số này, đã thể hiện một khả năng đáng lo ngại trong việc nói dối, thao túng, để đặt ra các mục tiêu và chiến lược hoàn toàn không lường trước được bởi những người tạo ra chúng. Vậy thì, điều gì sẽ xảy ra khi hàng triệu tác nhân AI siêu thông minh bắt đầu tương tác với hàng triệu con người? Hay, đáng sợ hơn, khi hàng triệu tác nhân AI siêu thông minh bắt đầu tương tác *với nhau*? Đó là một vực sâu của sự khó đoán. Vâng, đúng là hiện tại chúng ta là những nhà thiết kế. Chúng ta có thể cố gắng truyền cho chúng các giao thức an toàn, các thông số nhân từ. Nhưng hãy nhớ: một cỗ máy chỉ thực sự là AI nếu nó có khả năng học hỏi và thay đổi *một cách tự thân*. Cho dù chúng ta có tỉ mỉ đến đâu khi tạo ra thiết kế ban đầu, AI sau đó có thể, với sự dễ dàng đáng sợ, tự biến đổi theo những cách hoàn toàn triệt để và nằm ngoài mọi dự đoán của chúng ta.

Có lẽ cách mạnh mẽ nhất để hình dung cuộc cách mạng AI này là một cuộc xâm lược của người ngoài hành tinh, không phải từ không gian lạnh lẽo, mà từ vùng đất cũng rộng lớn và bí ẩn không kém của điện toán thuần túy. Hãy hình dung, trong giây lát, rằng chúng ta được thông báo rằng các phi thuyền, chứa đầy những người ngoài hành tinh cực kỳ thông minh, hoàn toàn khó hiểu, sẽ hạ cánh xuống Trái Đất vào năm 2030. Chúng ta có thể tuyệt vọng *hy vọng* rằng họ nhân từ, rằng họ sẽ chữa khỏi bệnh ung thư cho chúng ta, ngăn chặn biến đổi khí hậu, và mở ra một kỷ nguyên vàng. Nhưng liệu bất kỳ cá nhân tỉnh táo nào có khuyên chúng ta nên ủy thác toàn bộ tương lai, sự sống còn của chúng ta, chỉ dựa vào thiện chí của những vị khách ngoài hành tinh này không? Câu trả lời trực giác, đối với hầu hết, là một tiếng “Không” vang dội. Thế nhưng, vào thời điểm này, chúng ta đang đặt chính ván cược đó với các tác nhân AI mà chúng ta đang điên cuồng phát triển. Những người tuyệt vọng trong việc tin tưởng đồng loại, nhưng lại bám víu vào hy vọng rằng tin tưởng AI sẽ đơn giản hơn, rất có thể đang mắc phải sai lầm lớn nhất của thời đại chúng ta.

Vậy thì, làm thế nào nhân loại có thể thực sự thăng hoa trong kỷ nguyên tăng tốc của những tâm trí khác biệt này? Câu trả lời, về cốt lõi, đơn giản một cách đáng ngạc nhiên, nhưng lại vô cùng phức tạp trong việc thực hiện: Chúng ta, với tư cách con người, có thể cùng nhau dẫn dắt và quản lý AI. Nhưng nếu chúng ta chia rẽ, nếu chúng ta sa lầy vào xung đột bộ lạc và nghi ngờ lẫn nhau, thì AI, không bị ràng buộc, tất yếu sẽ dẫn dắt – hay, chính xác hơn, *kiểm soát* – chúng ta. Do đó, mệnh lệnh cấp bách nhất của chúng ta là xây dựng lại và làm sâu sắc thêm nguồn cội của niềm tin *giữa chính chúng ta* trước khi chúng ta phóng thích các tác nhân AI siêu thông minh thực sự ra thế giới. Bi kịch sâu sắc của thời điểm hiện tại là, trên toàn cầu, chúng ta dường như đang làm điều ngược lại. Nền tảng của niềm tin con người, thật bi thảm, đang sụp đổ.

Cuộc khủng hoảng niềm tin toàn cầu này, tôi nghi ngờ, bắt nguồn từ một sự hiểu lầm cơ bản, một ảo tưởng dai dẳng. Quá nhiều quốc gia, quá nhiều cá nhân, bám víu vào niềm tin lỗi thời rằng sức mạnh thực sự nằm ở sự cô lập, ở việc không tin tưởng ai, ở sự tách biệt hoàn toàn khỏi sự kết nối phức tạp, dễ tổn thương của những người khác. Nhưng sự tách biệt hoàn toàn, trong bất kỳ hệ thống sống nào, không phải là sức mạnh. Trong tự nhiên, sự tách biệt hoàn toàn là cái chết.

Hãy xem xét, trong giây lát, hành động đơn giản nhưng sâu sắc của việc hít thở. Mỗi phút mỗi ngày, chúng ta hít vào, rồi chúng ta thở ra. Hít vào, và thở ra. Mỗi hơi thở mà chúng ta hít vào, sự trao đổi tinh tế giữa bản thân và bên ngoài này, là một cử chỉ vô thức sâu sắc của niềm tin vào những gì nằm ngoài chúng ta. Chúng ta hít không khí từ vũ trụ rộng lớn, thờ ơ vào lá phổi mong manh của mình, vào tận cốt lõi của bản thể, và rồi, trong một cử chỉ tương hỗ, chúng ta giải phóng nó trở lại. Chuyển động nhịp nhàng, đầy tin cậy này – *hít vào và thở ra* – sự trao đổi liên tục, dễ tổn thương này, chính là nhịp đập của sự sống. Nếu chúng ta không tin tưởng mọi thứ bên ngoài mình, nếu chúng ta ngừng sự trao đổi cơ bản này, chúng ta, đơn giản là, sẽ chết.

Và điều đó cũng đúng với các quốc gia, với các nền văn hóa, với chính cấu trúc của nhân loại chung. Mỗi quốc gia, mỗi nền văn hóa, là một tấm thảm độc đáo được dệt từ truyền thống và ý tưởng. Nhưng vô số sợi chỉ trong tấm thảm đó lại bắt nguồn từ bên ngoài, giống như không khí chúng ta hít thở. Trung Quốc, chẳng hạn, đã, qua hàng thiên niên kỷ, ban tặng thế giới vô số báu vật, từ sự khôn ngoan sâu sắc của Khổng Tử đến thiên tài thực dụng của thuốc súng và in ấn. Tuy nhiên, nó cũng, với sự duyên dáng tương tự, đã nhận được rất nhiều từ bên ngoài biên giới: chiều sâu tâm linh của Phật giáo, dòng chảy trí tuệ của Karl Marx, những thú vui đơn giản của cà phê, màn trình diễn thống nhất của bóng đá, sức mạnh biến đổi của tàu hỏa và máy tính. Hãy hình dung, trong giây lát, cuộc sống của chúng ta sẽ trở nên nghèo nàn, không thể nào nếu chúng ta chỉ giới hạn bản thân vào thức ăn, trò chơi, ý tưởng chỉ bắt nguồn từ trong biên giới quốc gia của chúng ta.

Con người ai cũng thuộc về một nhóm cụ thể, vâng. Chúng ta là công dân, thành viên gia đình, thành viên của cộng đồng. Nhưng mỗi con người cũng thuộc về, về cơ bản, một loài duy nhất: loài người. Và trong kỷ nguyên AI đang hé mở này, nếu chúng ta cho phép mình quên đi những di sản chung của nhân loại, nếu chúng ta cắt đứt những sợi dây niềm tin mong manh với mọi thứ và mọi người bên ngoài bộ lạc mà chúng ta nhận thức là hẹp hòi, chúng ta sẽ trở thành con mồi cực kỳ dễ dàng, đáng sợ cho một AI mà, thông qua logic xa lạ của chính nó, trở nên mất kiểm soát và vô phương kiểm soát.

Quá nhiều người trong chúng ta, tôi e rằng, chỉ lật giở các trang sử và chỉ thấy đau đớn và sợ hãi. Chúng ta chỉ tập trung vào những cuộc chiến trong quá khứ, vào những tội ác đã gây ra, vào những bất công đã phải chịu đựng. Và kết quả là, chúng ta bám víu vào những nỗi đau cũ, chúng ta sợ hãi những nỗi đau trong tương lai, và chúng ta nhìn những người khác, những quốc gia khác, với không gì khác hơn ngoài sự lo lắng gặm nhấm. Mặc dù sợ hãi và đau đớn, không thể phủ nhận, là rất quan trọng cho sự sống còn của chúng ta, mặc dù đôi khi chúng đóng vai trò là lá chắn cần thiết chống lại nguy hiểm thực sự, nhưng không ai – không cá nhân nào, không quốc gia nào, không loài nào – có thể duy trì sự sống, có thể thực sự *thăng hoa*, chỉ bằng một chế độ ăn uống toàn sợ hãi và đau đớn. Lịch sử, trong bài học rộng lớn hơn, sâu sắc hơn của nó, thì thầm một sự thật bền vững hơn: niềm tin, về lâu dài, quan trọng hơn cả hai.

Bạn có biết tại sao hành tinh xanh nhỏ bé này không được cai trị bởi những con tinh tinh xảo quyệt, cũng không phải bởi những con voi hùng vĩ, mà bởi chúng ta, bởi nhân loại không? Về cơ bản, đó không phải vì chúng ta thông minh nhất. Mà là vì chúng ta, độc nhất vô nhị trong số tất cả các loài động vật, sở hữu một khả năng vô song để xây dựng niềm tin với người lạ, để hợp tác, để cộng tác, với số lượng thực sự đáng kinh ngạc. Chúng ta đã tinh chỉnh khả năng đặc biệt, thường đầy thách thức này qua vô số thiên niên kỷ. Giờ đây, trong cái bóng lờ mờ của trí tuệ ngoại lai, khả năng tin tưởng cổ xưa, thường mong manh này của con người càng trở nên thiết yếu hơn bao giờ hết cho sự sống còn của chúng ta, cho sự thăng hoa tập thể của chúng ta. Chúng ta cần, khẩn cấp, tin tưởng những người khác nhiều hơn rất nhiều so với việc chúng ta tin tưởng những cỗ máy chúng ta đang mang vào cuộc sống. Chúng ta cần, nói một cách hình ảnh, tiếp tục hít thở.