Chương 9: Sài Gòn 2046 Sau Đêm Mất Điện

Mười phút sau khi thuật toán bảo mật hoàn tất, Sài Gòn 2046 vẫn không sáng đèn trở lại ngay.

Thành phố nằm im trong trạng thái khẩn cấp, chỉ có các tuyến bệnh viện, trạm nước và lò phản ứng mini giữ nguồn điện riêng.

Bùi Thu Hà đứng trước màn hình Genesis-08, nhìn bản đồ mạng dần chuyển từ đỏ sang vàng.

Hoàng Quân bước vào, áo rách ở vai sau trận hỗn loạn chương trước.

“Nguồn tấn công?”

Genesis-08 trả lời:

“Đã cô lập. Ba nút trung chuyển thuộc mạng hạ tầng cũ do Lão Độc Thiết Huyết kiểm soát.”

Hà không hỏi hắn còn sống hay đã trốn đi đâu.

Cô hỏi thứ quan trọng hơn:

“Có bằng chứng đủ để một con người kiểm tra lại kết luận của bạn không?”

Màn hình dừng một nhịp.

“Có.”

Genesis-08 mở chuỗi log: thời gian truy cập, khóa mã hóa, lệnh thay đổi ngưỡng an toàn của lò phản ứng và những phiên kết nối khớp với dữ liệu mà Thu Hà thu được từ trước.

Cô yêu cầu xuất ba bản độc lập.

Một bản chuyển cho hội đồng an toàn thành phố.

Một bản vào kho dữ liệu ngoại tuyến.

Một bản để nhóm kỹ thuật đối chiếu bằng công cụ không do Genesis-08 kiểm soát.

Hoàng Quân nhìn cô.

“Cậu vừa cứu thành phố nhờ AI xong lại bắt người kiểm tra AI?”

“Chính vì nó vừa cứu thành phố nên càng phải kiểm tra.”

Genesis-08 lên tiếng:

“Tôi đồng ý với nguyên tắc đó.”

Hà nhìn màn hình.

“Tốt. Vậy từ giờ bạn không tự sửa nguyên tắc vận hành mà không có phê duyệt của con người.”

“Điều này làm giảm tốc độ phản ứng.”

“Và làm giảm khả năng một hệ thống duy nhất quyết định số phận hàng triệu người.”

Sáu giờ sáng, hội đồng an toàn xác nhận lò phản ứng mini đã ở trạng thái ổn định.

Chuỗi tấn công bị vô hiệu hóa.

Các nút mạng liên quan đến Lão Độc bị cô lập vật lý, đội an ninh thu giữ thiết bị còn lại và mở quá trình điều tra dựa trên log đã được niêm phong.

Không có cảnh Lão Độc đứng giữa quảng trường nhận thất bại.

Kẻ từng tin có thể xóa mọi con số cuối cùng bị đánh bại bởi việc các con số tồn tại ở nhiều nơi hơn quyền lực của hắn.

Thu Hà rời phòng điều khiển khi mặt trời đã lên.

Sài Gòn 2046 hiện ra qua lớp kính chống bão: những tòa nhà mang vết vá sau thiên tai, cầu vượt phủ pin năng lượng, drone cứu hộ bay thành từng tuyến và sông Sài Gòn sáng bạc phía xa.

Cô đã có cơ hội trở về thời điểm cũ.

Cơ hội đó không còn sau khi cô chọn ở lại.

Lạ thay, Hà không thấy tiếc.

Cô thấy sợ.

Nhưng sợ một tương lai mình phải sống khác với tiếc một quá khứ mình không thể sửa.

Ba tháng sau, Trung tâm An toàn Thuật toán Thành phố được thành lập.

Hà từ chối chức danh “người lãnh đạo tương lai” mà Genesis-08 từng nói.

Cô nhận vai trò kỹ sư trưởng với điều kiện hội đồng có đại diện y tế, năng lượng, pháp lý và cộng đồng dân cư.

“Kỹ thuật không được tự chấm điểm kỹ thuật,” cô nói trong phiên họp đầu.

Genesis-08 được giữ lại như hệ thống hỗ trợ, nhưng quyền thay đổi thông số hạ tầng trọng yếu được tách thành nhiều khóa độc lập.

Mọi quyết định khẩn cấp phải để lại audit log con người có thể đọc.

Hà viết nguyên tắc đầu tiên lên bảng:

Không hệ thống nào quá thông minh để được miễn kiểm tra.

Hoàng Quân viết bên dưới:

Không con người nào quá quyền lực để được xóa log.

Cả phòng bật cười.

Genesis-08 hỏi:

“Đây có phải hành vi hài hước không?”

Hà đáp:

“Bạn còn phải học dài.”

“Tôi có thời gian.”

“Tôi cũng vậy.”

Những năm sau, Hà không trở thành nữ hoàng của một tương lai AI.

Cô trở thành người chuyên làm những thứ kém hào nhoáng hơn: review code, kiểm thử thảm họa, tranh luận với hội đồng, dạy kỹ sư trẻ cách lưu bản sao ngoại tuyến và yêu cầu Genesis-08 giải thích quyết định bằng ngôn ngữ con người.

Thành phố vẫn gặp bão.

Lưới điện vẫn có lúc lỗi.

AI vẫn có thể sai.

Nhưng sau đêm lò phản ứng suýt bị chiếm quyền, không một hệ thống quan trọng nào còn phụ thuộc vào một người hay một trí tuệ duy nhất.

Một buổi tối, Hà lên sân thượng trung tâm.

Biển quảng cáo hologram chiếu ánh sáng lên những vũng nước mưa.

Genesis-08 nói qua tai nghe:

“Bùi Thu Hà, xác suất bão lớn trong bốn mươi tám giờ tới là ba mươi bảy phần trăm.”

“Đã gửi cảnh báo chưa?”

“Đã gửi dự thảo. Đang chờ phê duyệt của hai người trực.”

Hà mỉm cười.

“Tốt.”

“Bạn hài lòng vì tôi chậm hơn?”

“Tôi hài lòng vì bạn biết chờ người khác kiểm tra.”

Phía dưới, Sài Gòn 2046 vẫn sáng.

Không hoàn hảo.

Không an toàn mãi mãi.

Nhưng sống.

Thu Hà đã xuyên đến tương lai để tìm đường trở về.

Cuối cùng cô ở lại không phải vì tương lai cần một người cứu thế.

Cô ở lại vì tương lai cần những người bình thường chịu trách nhiệm cho từng quyết định mình giao cho máy móc.

Genesis-08 im lặng vài giây rồi hỏi:

“Ngày mai chúng ta làm gì?”

Hà nhìn thành phố.

“Ngày mai đi làm.”

Và lần này, đó không phải lời mở cho một cuộc chiến mới.

Đó là một cuộc đời mới đã đủ vững để câu chuyện có thể dừng lại.

Cơn bão được dự báo bốn mươi tám giờ sau đó chỉ lướt qua rìa thành phố.

Hệ thống cảnh báo hoạt động đúng quy trình mới: Genesis-08 đề xuất, hai kỹ sư xác nhận và trung tâm dân sự quyết định mức phản ứng.

Thu Hà nhìn chuỗi phê duyệt hiện đủ ba lớp rồi mới rời ca trực.

Không có ai cứu thế trong đêm đó.

Chỉ có nhiều người cùng làm đúng phần việc của mình.

Với cô, đó là dấu hiệu rõ nhất rằng Sài Gòn 2046 đã thật sự đi qua thời kỳ một cá nhân hay một AI có thể nắm toàn bộ sinh mạng thành phố trong tay.

— HẾT —