Màu nền Màu tối Mặc định Xám nhạt Xanh nhạt Xanh đậm Vàng nhạt Màu sepia Vàng đậm Vàng ố

Font chữ: Palatino Linotype Bookerly Segoe UI Patrick Hand Times New Roman Verdana Tahoma Arial

Chiều cao dòng: 100 120 140 160 180 200

Kích cỡ chữ:

Nam An ngồi rất yên lặng.

Lúc này ngoài cửa sổ vẫn đang mưa, ánh đèn neon lập lòe, phác họa ra bóng lưng mảnh khảnh của cậu——

Tụa hồ như ở nơi mà cậu không nhìn thấy, các nhân viên cảnh sát đang căng dây phong tỏa ở khắp mọi nơi, dọn những túi đựng xác chất đống trên đường phố lên xe.

"Để ta nghĩ xem, nên kể bắt đầu từ đâu thì tốt hơn..." Giáo sư Beedle tắt thiết bị liên lạc, nhìn Nam An, "Elly nói cháu đã đưa lũ trẻ đi học lớp địa lý, đúng không?"

Nam An gật đầu.

"Vậy thì cháu nhất định đã thấy thế giới loài người ngày đó rồi." Giáo sư Beedle nói, "Rất lâu trước đây, ước chừng khoảng hơn ba trăm năm trước, loài người vẫn chưa sống tập trung dày đặc như bây giờ, họ có thể tự do xây dựng thành phố trên đất liền.

Mặc dù giữa các quốc gia có cạnh tranh, nhưng tất cả mọi thứ đều đang phát triển theo hướng tốt đẹp, bao gồm cả khoa học kỹ thuật. Hơn ba trăm năm trước, loài người đã phát minh ra điện thoại di động, máy tính bảng, máy tính, bao gồm cả robot không có hình dạng con người, chúng giúp phục vụ bữa ăn trong nhà hàng, hỗ trợ bệnh nhân đăng ký khám bệnh ở bệnh viện. Đối với những người thời đó, đây là những thứ rất bình thường."

"Vậy..." Nam An hỏi, "Tại sao về sau lại trở thành như thế này ạ?"

"Người thời đó nghĩ rằng họ có thể khống chế khoa học kỹ thuật, bộ não con người mạnh hơn máy móc rất nhiều." Có lẽ là vì là kể cho Nam An nên giáo sư Beedle chỉ dùng ngôn ngữ thông dụng rất dễ hiểu, "Thế là con người bắt đầu phát triển mạnh về khoa học kỹ thuật, mỗi quốc gia đều lấy khoa học kỹ thuật làm tiêu chuẩn đo lường, nhưng đó cũng là khởi đầu của sự mất khống chế."

Nam An trợn to hai mắt: "Làm sao có thể?"

Giáo sư Beedle: "Bởi vì cảm giác ưu việt."

Nam An sững người.

"Cảm giác ưu việt?"

"Đúng vậy."

"Mỗi khu vực đều cảm thấy bản thân có được nguồn tài nguyên, nhân lực và của cải dồi dào như thế, dù máy móc có mất kiểm soát thì họ vẫn hoàn toàn có thể ngăn chặn. Vì vậy, trong hơn hai trăm năm sau đó, trình độ khoa học kỹ thuật của loài người đã đạt đến một độ cao không thể so sánh, là thời kỳ đỉnh cao trong lịch sử phát triển khoa học kỹ thuật." Giáo sư Beedle nhìn ánh đèn neon ngoài cửa sổ, ánh mắt dần trầm xuống, "Nhưng sau đó, tình cảnh trở nên ngày càng khó khăn hơn."

Nam An cứng người, không chớp mắt nhìn ông.

"Hơn hai trăm năm sau, tức là khoảng năm 2250, loài người đã trải qua một thảm họa lớn, được gọi là Thời đại Khải huyền." Beedle nói, "Xã hội loài người lúc đó, đã tạo ra robot AI, chúng có mặt trong mỗi một hộ gia đình, con người dần sinh ra cảm giác ỷ lại vào chúng. Bởi vì chúng có thể làm việc nhà, cũng có thể xử lý các loại công việc, chúng sống giống như con người, lại càng tuân thủ quy tắc xã hội hơn phần lớn loài người."

Ông dừng lại một chút, tiếp tục nói: "Nhưng có một ngày đã xảy ra chuyện."

"Một robot đã tự ý bật máy sưởi mà không được phép, chỉ vì trong thuật toán của nó có lệnh nhiệt độ dưới mười độ cần phải bật máy sưởi." Ông nói, "Nhưng mà máy sưởi lúc đó được đặt gần rèm cửa, hỏa hoạn xảy ra không chỉ thiêu chết người chủ đang ngủ say, mà còn gây ra hỏa hoạn ở ba tòa nhà cao tầng, hơn một ngàn cư dân sống sờ sờ đã táng thân trong biển lửa."

Nam An nhỏ giọng: "Làm sao có thể?"

"Bởi vì chúng chỉ có thuật toán, trong logic này thì mệnh lệnh của con người thấp hơn tính toán chính xác. Vì vậy sau đó, loài người đã ban hành Ba Định luật Robot."

Beedle nhìn Nam An, nhẹ nhàng hỏi: "Cháu biết cái này không?"

Nam An gật đầu. Ở căn cứ Kepler, nhân viên đã phổ cập kiến thức này cho cậu.

Nhưng lúc đó sự chú ý của cậu hoàn toàn bị những vì sao ngoài cửa sổ thu hút nên cậu chẳng nghe lọt quy tắc nào cả

Thế là cậu lại khẽ lắc đầu: "Cháu không biết ạ."

Giáo sư Beedle cúi người đưa cho Nam An một cuốn sổ tay nhỏ trong túi áo: "Trên đó có những nguyên tắc cơ bản của Thành phố Hoa Hồng, cũng có bản gốc của Ba Định luật Robot, tuy nhiên Thành phố Hoa Hồng hiện tại đang sử dụng Năm Định luật Robot."

Nam An mở ra. Ở trang đầu tiên, đó là một tờ giấy da cũ kỹ vẽ một bông hoa hồng đang nở. Như thể vượt qua lịch sử phát triển hàng trăm năm của loài người, mang theo những dấu vết không nói hết nhưng đã nhuốm màu xưa cũ, tất cả đều đọng lại trên đóa hồng đơn độc ấy.

Ngay sau đó, Nam An liền thấy một đoạn văn.

【Ba Định luật Robot được loài người thông qua vào ngày 1 tháng 9 năm 2240, và được thực thi ngay trong ngày.】

Ánh mắt Nam An di chuyển xuống. Liền thấy ba dòng chữ nhỏ bên dưới, viết ba quy tắc——

【Luật thứ nhất: Robot không được làm hại con người, hoặc thấy con người gặp nguy hiểm mà chỉ khoanh tay đứng nhìn.】

【Luật thứ hai: Robot phải tuân theo mệnh lệnh mà con người đưa ra, trừ khi lệnh đó mâu thuẫn với Luật thứ nhất.】

【Luật thứ ba: Robot phải cố gắng bảo vệ sự tồn tại của chính nó, miễn là việc này không mâu thuẫn với Luật thứ nhất hoặc Luật thứ hai.】

Thấy Nam An đang đọc rất chăm chú, Giáo sư Beedle nói: "Đó mới chỉ là khởi đầu."

"Nghĩa là sao ạ?"

"Cảm giác ưu việt tự cho là đúng của con người, khiến họ bỏ qua logic mạnh mẽ đằng sau robot."

Giọng ông rất ổn định, Nam An cảm thấy ông thực sự đang kể một câu chuyện cổ xưa, mang theo sự khách quan mà nhìn lại toàn bộ thời đại, không liên quan gì đến bọn họ của hiện tại.

Nam An suy đoán: "Có phải do mấy quy tắc đó không thể ràng buộc robot không ạ?"

"Không." Beedle lắc đầu: "Là sai từ vấn đề định nghĩa."

"Nhóc con à, ta hỏi cháu một câu hỏi đơn giản."

"Ông hỏi đi ạ."

Beedle: " "Robot thấy con người gặp nguy hiểm", vậy, thế nào là nguy hiểm?"

Nam An suy nghĩ một chút: "Ví dụ như... rơi xuống nước, hoặc đi trên đường bị xe tông phải ạ?"

Beedle cười: "Đều đúng, nhưng cũng không đúng."

"Không một ai có thể đưa ra định nghĩa chính xác, bao gồm cả robot được ban hành quy tắc." Ông nói rồi thở dài một hơi, "Điều đó đã gây ra một thảm họa lớn cho loài người, cũng là lúc khép lại thời kỳ đỉnh cao, bắt đầu Thời đại Khải huyền."

Nam An như bị dọa giật mình, cậu nắm chặt một góc cuốn sổ, mở to mắt: "Chẳng lẽ..."

"Đúng vậy." Giáo sư Beedle gật đầu, "Ta biết cháu muốn nói gì, cháu của ta. Vào năm thứ tám sau khi quy tắc được ban hành, robot đã đưa ra một kết luận——cho rằng con người không bị chúng thống trị chính là nguy hiểm."

"Đó là một thảm họa chưa từng có, hàng trăm triệu robot có ý thức của riêng chúng, chúng trao đổi tin tức với nhau, tập hợp ở khu đất trống, mang theo súng đạn do loài người tạo ra như một đội quân sẵn sàng chiến đấu, rồi lấy danh nghĩa bảo vệ con người mà xâm lược toàn diện xã hội loài người."

Nam An rất cẩn thận thở một hơi.

Trước mắt cậu dường như đã thấy vô số robot, những thành trấn máu chảy thành sông, và ánh mắt kinh hoàng của mọi người.

"Vậy." Nam An hỏi, "Chúng có thành công không ạ?"

Beedle lắc đầu: "Không."

"Một năm sau khi thảm họa bắt đầu, các nhà khoa học thời đó đã mang theo một triệu người còn sót lại thành lập nên một thành phố mới." Beedle nói, "Đây chính là hình thái ban đầu của Thành phố Hoa Hồng và Chuông Bạc. Họ xây dựng một căn cứ hoàn toàn mới, và những bức tường thành vững chắc, chống lại sự tấn công của robot. Và cuối cùng, trong thành lũy, các nhà khoa học đã phát hiện ra rằng họ có thể thông qua việc sửa đổi Ba Định luật Robot mà thêm vào điều luật số 0 giúp trực tiếp vô hiệu hóa robot."

"Đó là gì ạ?"

"Không bao giờ được làm hại toàn bộ quần thể loài người." Beedle nói, "Đồng thời, lập tức kích hoạt chương trình hủy diệt."

Nam An há miệng như hoàn toàn sững người, cậu có vẻ muốn nói gì đó, nhưng lại nghe thấy thiết bị liên lạc vang lên.

Cậu đi nghe điện thoại. Thiết bị liên lạc của phòng thí nghiệm được đặt ở góc tường, Nam An cố gắng móc dây điện, mới miễn cưỡng kéo về được.

Cậu vốn còn nhíu mày như vẫn đang chìm đắm trong câu chuyện vừa nãy nhưng khi thiết bị liên lạc được kết nối, nghe thấy giọng nói của đối phương, lông mày Nam An lập tức giãn ra, chống má dịu dàng đáp lại vài câu, rồi lại lon ton chạy về.

"Lâm Trạch à?"

Nam An gật đầu.

"Anh ấy bảo cháu buổi chiều về chỗ ở." Nam An nói, "Đầu tiên đi quầy lễ tân lấy hộ ảnh một bưu kiện, rồi ảnh sẽ đưa cháu về nghỉ ngơi."

Beedle cười khẽ: "Ta chưa bao giờ thấy thằng bé ấy như vậy."

"Dạ?" Nam An hơi sững người.

"Thằng bé phải chịu quá nhiều áp lực." Giáo sư Beedle nói, "Vì vậy phần lớn thời gian, nó đều ở một mình."

"Là một nhà khoa học của Thành phố Hoa Hồng, nó không thể phạm phải sai lầm của Ba Định luật trước đây, nhưng cũng không thể hoàn toàn từ bỏ chúng, phải gánh vác sự an toàn và tính mạng của hàng chục triệu cư dân Hoa Hồng." Giáo sư Beedle nói, "Cho nên nhiều lúc, biểu hiện của nó có vẻ bất cận nhân tình, hy vọng cháu hiểu cho nó với nhé."

Nam An khẽ nói trong lòng, sẽ hiểu mà.

Mặc dù cậu là robot, cũng không hiểu quá nhiều cảm xúc của con người. Nhưng đồ đại gian ác này ở một mức độ nào đó vẫn là một con người rất tốt, ít nhất là đã giúp cậu vài lần trước khi cậu đi phương Nam, cũng đã chăm sóc cậu, mặc dù thái độ không được dịu dàng cho lắm.

"Vậy hai điều luật sau là gì ạ?" Nam An hỏi, "Ai đã đặt ra ạ?"

Beedle cười khẽ: "Là Lâm Trạch."

Ông nói rồi từ từ đứng dậy: "Hai điều luật sau Ba Định luật Robot là sau khi Chuông Bạc và Hoa Hồng chia rẽ mười năm trước mới có, là quy tắc tối cao của Thành phố Hoa Hồng."

"Điều luật thứ tư, bãi bỏ vĩnh viễn ba điều luật trước đó và điều luật số 0." Beedle nói, "Còn điều luật thứ năm là..."

"Tuân thủ nghiêm ngặt "Trí tuệ nhân tạo tổng quát AGI"** của Viện nghiên cứu, nếu có rủi ro, Viện nghiên cứu và người ban hành quy định sẽ hoàn toàn chịu trách nhiệm."

*Trí tuệ Nhân tạo Tổng quát (AGI – Artificial General Intelligence) là khái niệm chỉ một hệ thống AI có khả năng hiểu, học hỏi và thực hiện mọi nhiệm vụ trí tuệ mà con người có thể làm được. Có thể hiểu con chatGPT (AI) đang được phát triển gần với khái niệm này nhất nhưng nó vẫn còn gà, nó cần training mới học được cái mới và nhiều lúc còn ngu vl nhưng AGI nó giống như 1 con người đa nhiệm toàn năng và có thể tự học nâng cao kỹ năng dzị á

**

"Trong đó có gần mười ngàn quy định do Lâm Trạch viết, cho đến bây giờ vẫn đang được bổ sung, từ những quy cách nhỏ nhất của từng linh kiện máy móc, đến việc sửa chữa tất cả những lỗ hổng trong các vụ án robot thảm khốc trong ba trăm năm qua — đồng thời cũng bao gồm cả việc cấm công nghệ mô phỏng sinh học, v.v."

Nam An nhìn Beedle, không biết trong lòng là cảm xúc gì.

Rất kỳ lạ, rõ ràng cậu là loại bị cấm kia, nhưng khi nghe đến những quy tắc do Lâm Trạch đặt ra và áp lực anh phải gánh chịu, lại bỗng nhiên có chút muốn khóc.

Cậu hít hít mũi, cố gắng để mắt không đỏ lên quá rõ ràng.

Đúng lúc này, cậu nghe thấy Beelde nói: "Cũng muộn rồi, ta phải về thôi."

"Còn về sự chia rẽ của hai phe sau này, đó lại là một câu chuyện khác rồi." Beedle trước khi rời đi còn lấy ra một miếng bánh quy từ trong túi áo đưa cho Nam An, "Đây là phần thưởng vì cháu đã nghe rất chăm chú."

Nam An vươn tay nhận lấy bánh quy.

Cậu nhìn bóng lưng Giáo sư Beedle rời đi, một lúc lâu mới hoàn hồn.

Không do dự nữa, cậu cẩn thận giấu bánh quy vào ngăn kéo, rồi xuống lầu. Cậu phải đi gặp nhà khoa học đã đặt ra các quy tắc ấy.

Nam An quyết định hôm nay nhất định phải làm cơm trứng cuộn cho Lâm Trạch, và không vẽ con dơi hung dữ nữa mà phải vẽ đầy những trái tim nhỏ để thưởng cho nhà khoa học vĩ đại đã nhọc lòng vì sự phát triển của loài người này.

Kèm theo tiếng "đinh", Nam An bước ra khỏi thang máy, đến sảnh chính tầng một. Viện nghiên cứu đã kích hoạt kiểm tra an ninh nghiêm ngặt, tất cả chip đều cần phải báo cáo và sàng lọc, điều này khiến Nam An cảm thấy an toàn. Cậu không chút đề phòng đi đến quầy lễ tân——

Đây là quầy lễ tân mà cậu và Jill lần đầu tiên đến Viện nghiên cứu, mã số nhân viên 1350, Nam An cảm thấy rất thân quen.

"Tôi là trợ lý của Elly." Nam An nói, "Tiến sĩ Lâm Trạch bảo tôi đến lấy một bưu kiện."

"Vâng, xin chờ một chút."

Nhân viên lễ tân mỉm cười với cậu.

Nam An cũng cong mắt cười theo, cậu lùi lại vài bước, như đang đợi bưu kiện, hoặc đang đợi nhà khoa học loài người đó.

"Bưu kiện của anh đây ạ."

Nam An đáp lời rồi ngước mắt lên, nhận lấy bưu kiện từ tay nhân viên lễ tân. Nhưng giây tiếp theo, cậu liếc nhìn cánh tay của đối phương, không thể tin nổi mở to mắt.

Trong tầm nhìn, đó là một vết thương nhỏ, nhưng lại mọc đầy lông tơ màu bạc đang khẽ run rẩy.

* Về 3 định luật Robot (Laws of robotics), tác giả có trích dẫn bộ quy tắc trong câu chuyện khoa học viễn tưởng Runaround của Isaac Asimov; ngoài ra tác giả cũng lấy cảm hứng từ bộ phim "I, Robot" việc AI diễn giải thừa wow =))) về 3 Định luật Robot, cũng như việc mơ hồ định nghĩa giữa "bảo vệ" và "kiểm soát"